通过pykafka接收Kafka消息队列的方法


Posted in Python onDecember 27, 2018

没有Kafka环境,所以也没有进行验证。感觉今后应该能用到,所以借抄在此,备查。

pykafka使用示例,自动消费最新消息,不重复消费:

# -* coding:utf8 *-
from pykafka import KafkaClient
 
host = '192.168.200.38'
client = KafkaClient(hosts="%s:9092" % host)
 
print client.topics
 
# 生产者
# topicdocu = client.topics['task_pull']
# producer = topicdocu.get_producer()
# for i in range(4):
#   print i
#   producer.produce('test message ' + str(i ** 2))
# producer.stop()
 
# 消费者
topic = client.topics['task_push']
consumer = topic.get_simple_consumer(consumer_group='test', auto_commit_enable=True, consumer_id='test')
for message in consumer:
  if message is not None:
    print message.offset, message.value

以上这篇通过pykafka接收Kafka消息队列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python 自动提交和抓取网页
Jul 13 Python
使用Python脚本对Linux服务器进行监控的教程
Apr 02 Python
对numpy中array和asarray的区别详解
Apr 17 Python
Django项目中model的数据处理以及页面交互方法
May 30 Python
python使用scrapy发送post请求的坑
Sep 04 Python
对python判断ip是否可达的实例详解
Jan 31 Python
计算机二级python学习教程(2) python语言基本语法元素
May 16 Python
Python 将 QQ 好友头像生成祝福语的实现代码
May 03 Python
Python使用sqlite3模块内置数据库
May 07 Python
python网络编程之五子棋游戏
May 14 Python
Python定义一个函数的方法
Jun 15 Python
快速了解Python开发环境Spyder
Jun 29 Python
python利用thrift服务读取hbase数据的方法
Dec 27 #Python
python hbase读取数据发送kafka的方法
Dec 27 #Python
Python类和对象的定义与实际应用案例分析
Dec 27 #Python
在python环境下运用kafka对数据进行实时传输的方法
Dec 27 #Python
kafka-python批量发送数据的实例
Dec 27 #Python
Python闭包思想与用法浅析
Dec 27 #Python
对python操作kafka写入json数据的简单demo分享
Dec 27 #Python
You might like
星际争霸任务指南——人族
2020/03/04 星际争霸
PHP读写文件的方法(生成HTML)
2006/11/27 PHP
PHP 循环列出目录内容的函数代码
2010/05/26 PHP
php mail to 配置详解
2014/01/16 PHP
php实现mysql数据库操作类分享
2014/02/14 PHP
PHP中使用Memache作为进程锁的操作类分享
2015/03/30 PHP
php使用Header函数,PHP_AUTH_PW和PHP_AUTH_USER做用户验证
2016/05/04 PHP
PHP实现数据四舍五入的方法小结【4种方法】
2019/03/27 PHP
Linux下安装Memcached服务器和客户端与PHP使用示例
2019/04/15 PHP
javascript三元运算符用法实例
2015/04/16 Javascript
JS动态添加iframe的代码
2015/09/14 Javascript
select隐藏选中值对应的id,显示其它id的简单实现方法
2016/08/25 Javascript
vue.js入门教程之绑定class和style样式
2016/09/02 Javascript
jQuery中delegate()方法的用法详解
2016/10/13 Javascript
Angular4表单验证代码详解
2017/09/03 Javascript
Postman模拟发送带token的请求方法
2018/03/31 Javascript
vue登录以及权限验证相关的实现
2019/10/25 Javascript
vue router 传参获取不到的解决方式
2019/11/13 Javascript
浅谈vue中使用编辑器vue-quill-editor踩过的坑
2020/08/03 Javascript
python使用新浪微博api上传图片到微博示例
2014/01/10 Python
Python Property属性的2种用法
2015/06/21 Python
Python调用系统底层API播放wav文件的方法
2017/08/11 Python
python 通过logging写入日志到文件和控制台的实例
2018/04/28 Python
Python实现爬虫设置代理IP和伪装成浏览器的方法分享
2018/05/07 Python
解决python大批量读写.doc文件的问题
2018/05/08 Python
python 实现图片旋转 上下左右 180度旋转的示例
2019/01/24 Python
Python地图绘制实操详解
2019/03/04 Python
从numpy数组中取出满足条件的元素示例
2019/11/26 Python
opencv resize图片为正方形尺寸的实现方法
2019/12/26 Python
keras slice layer 层实现方式
2020/06/11 Python
Windows下Sqlmap环境安装教程详解
2020/08/04 Python
CSS3的常见transformation图形变化用法小结
2016/05/13 HTML / CSS
初中学生期末评语
2014/04/24 职场文书
售房协议书范本2014
2014/10/23 职场文书
2015年财务科工作总结范文
2015/05/13 职场文书
2016年大学生暑假爱心支教活动策划书
2015/11/26 职场文书