通过pykafka接收Kafka消息队列的方法


Posted in Python onDecember 27, 2018

没有Kafka环境,所以也没有进行验证。感觉今后应该能用到,所以借抄在此,备查。

pykafka使用示例,自动消费最新消息,不重复消费:

# -* coding:utf8 *-
from pykafka import KafkaClient
 
host = '192.168.200.38'
client = KafkaClient(hosts="%s:9092" % host)
 
print client.topics
 
# 生产者
# topicdocu = client.topics['task_pull']
# producer = topicdocu.get_producer()
# for i in range(4):
#   print i
#   producer.produce('test message ' + str(i ** 2))
# producer.stop()
 
# 消费者
topic = client.topics['task_push']
consumer = topic.get_simple_consumer(consumer_group='test', auto_commit_enable=True, consumer_id='test')
for message in consumer:
  if message is not None:
    print message.offset, message.value

以上这篇通过pykafka接收Kafka消息队列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python监控网卡流量并使用graphite绘图的示例
Apr 27 Python
Python3.0与2.X版本的区别实例分析
Aug 25 Python
python使用点操作符访问字典(dict)数据的方法
Mar 16 Python
Python全排列操作实例分析
Jul 24 Python
Python使用pandas对数据进行差分运算的方法
Dec 22 Python
python之信息加密题目详解
Jun 26 Python
python 调试冷知识(小结)
Nov 11 Python
解决django的template中如果无法引用MEDIA_URL问题
Apr 07 Python
属性与 @property 方法让你的python更高效
Sep 21 Python
python归并排序算法过程实例讲解
Nov 04 Python
python基于OpenCV模板匹配识别图片中的数字
Mar 31 Python
python实现双链表
May 25 Python
python利用thrift服务读取hbase数据的方法
Dec 27 #Python
python hbase读取数据发送kafka的方法
Dec 27 #Python
Python类和对象的定义与实际应用案例分析
Dec 27 #Python
在python环境下运用kafka对数据进行实时传输的方法
Dec 27 #Python
kafka-python批量发送数据的实例
Dec 27 #Python
Python闭包思想与用法浅析
Dec 27 #Python
对python操作kafka写入json数据的简单demo分享
Dec 27 #Python
You might like
PHP判断来访是搜索引擎蜘蛛还是普通用户的代码小结
2015/09/14 PHP
PHP 实现浏览记录并按日期分组
2017/05/11 PHP
IE8下关于querySelectorAll()的问题
2010/05/13 Javascript
DWZ刷新dialog解决方法
2013/03/03 Javascript
js 获取当前web应用的上下文路径实现方法
2016/08/19 Javascript
JS文件/图片从电脑里面拖拽到浏览器上传文件/图片
2017/03/08 Javascript
解决vue router组件状态刷新消失的问题
2018/08/01 Javascript
JS实现的tab页切换效果完整示例
2018/12/18 Javascript
ES6模板字符串和标签模板的应用实例分析
2019/06/25 Javascript
jQuery属性选择器用法实例分析
2019/06/28 jQuery
layui.use模块外部使用其内部定义的js封装函数方法
2019/09/16 Javascript
小程序如何获取多个formId实现详解
2019/09/20 Javascript
vue 将多个过滤器封装到一个文件中的代码详解
2020/09/05 Javascript
[50:29]2014 DOTA2华西杯精英邀请赛 5 24 DK VS iG
2014/05/26 DOTA
python中mechanize库的简单使用示例
2014/01/10 Python
Python使用稀疏矩阵节省内存实例
2014/06/27 Python
python虚拟环境virtualenv的安装与使用
2017/09/21 Python
Python对切片命名的实现方法
2018/10/16 Python
Python3中exp()函数用法分析
2019/02/19 Python
python抓取需要扫微信登陆页面
2019/04/29 Python
django 连接数据库 sqlite的例子
2019/08/14 Python
pytorch索引查找 index_select的例子
2019/08/18 Python
Django框架 querySet功能解析
2019/09/04 Python
Python算法中的时间复杂度问题
2019/11/19 Python
Python通过字典映射函数实现switch
2020/11/06 Python
Django怎么在admin后台注册数据库表
2020/11/14 Python
python 如何停止一个死循环的线程
2020/11/24 Python
前端面试必备之html5的新特性
2017/09/05 HTML / CSS
Clarks其乐鞋荷兰官网:Clarks荷兰
2019/07/05 全球购物
英国Flybe航空官网:欧洲最大的独立支线廉价航空公司
2019/07/15 全球购物
俄罗斯电子产品在线商店:UltraTrade
2020/01/30 全球购物
上班早退检讨书
2014/01/09 职场文书
学校消防安全制度
2014/01/30 职场文书
幼儿园小朋友毕业感言
2015/07/30 职场文书
教师培训学习心得体会
2016/01/21 职场文书
当你焦虑迷茫时,请读读这6句话
2019/07/24 职场文书