通过pykafka接收Kafka消息队列的方法


Posted in Python onDecember 27, 2018

没有Kafka环境,所以也没有进行验证。感觉今后应该能用到,所以借抄在此,备查。

pykafka使用示例,自动消费最新消息,不重复消费:

# -* coding:utf8 *-
from pykafka import KafkaClient
 
host = '192.168.200.38'
client = KafkaClient(hosts="%s:9092" % host)
 
print client.topics
 
# 生产者
# topicdocu = client.topics['task_pull']
# producer = topicdocu.get_producer()
# for i in range(4):
#   print i
#   producer.produce('test message ' + str(i ** 2))
# producer.stop()
 
# 消费者
topic = client.topics['task_push']
consumer = topic.get_simple_consumer(consumer_group='test', auto_commit_enable=True, consumer_id='test')
for message in consumer:
  if message is not None:
    print message.offset, message.value

以上这篇通过pykafka接收Kafka消息队列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python中用PIL库批量给图片加上序号的教程
May 06 Python
python中的格式化输出用法总结
Jul 28 Python
Python中模块pymysql查询结果后如何获取字段列表
Jun 05 Python
python TCP Socket的粘包和分包的处理详解
Feb 09 Python
python xlsxwriter创建excel图表的方法
Jun 11 Python
python通过微信发送邮件实现电脑关机
Jun 20 Python
pandas 实现字典转换成DataFrame的方法
Jul 04 Python
python利用Opencv实现人脸识别功能
Apr 25 Python
解决windows下python3使用multiprocessing.Pool出现的问题
Apr 08 Python
python 日志模块 日志等级设置失效的解决方案
May 26 Python
python实现登录与注册系统
Nov 30 Python
Python 可迭代对象 iterable的具体使用
Aug 07 Python
python利用thrift服务读取hbase数据的方法
Dec 27 #Python
python hbase读取数据发送kafka的方法
Dec 27 #Python
Python类和对象的定义与实际应用案例分析
Dec 27 #Python
在python环境下运用kafka对数据进行实时传输的方法
Dec 27 #Python
kafka-python批量发送数据的实例
Dec 27 #Python
Python闭包思想与用法浅析
Dec 27 #Python
对python操作kafka写入json数据的简单demo分享
Dec 27 #Python
You might like
php实现从ftp服务器上下载文件树到本地电脑的程序
2009/02/10 PHP
解析左右值无限分类的实现算法
2013/06/20 PHP
Zend Framework入门教程之Zend_Config组件用法详解
2016/12/09 PHP
PHP实现的折半查找算法示例
2017/12/19 PHP
JavaScript使用cookie
2007/02/02 Javascript
javascript 选择文件夹对话框(web)
2009/07/07 Javascript
javascript 模拟点击广告
2010/01/02 Javascript
页面回到顶部的三种实现(锚标记,js)
2012/10/01 Javascript
使用javascript创建快捷方式的简单实例
2013/08/09 Javascript
解析img图片没找到onerror事件 Stack overflow at line: 0
2013/12/23 Javascript
jQuery中:has选择器用法实例
2014/12/30 Javascript
js读取csv文件并使用json显示出来
2015/01/09 Javascript
javascript使用appendChild追加节点实例
2015/01/12 Javascript
js打造数组转json函数
2015/01/14 Javascript
BootStrap表单时间选择器详解
2017/05/09 Javascript
在js代码拼接dom对象到页面上的模板总结
2018/10/21 Javascript
详解Vue基于vue-quill-editor富文本编辑器使用心得
2019/01/03 Javascript
在微信小程序中使用图表的方法示例
2019/04/25 Javascript
使用layui实现的左侧菜单栏以及动态操作tab项方法
2019/09/10 Javascript
JavaScript实现密码强度实时验证
2020/03/18 Javascript
vue-cli3自动消除console.log()的调试信息方式
2020/10/21 Javascript
Python实现检测文件MD5值的方法示例
2018/04/11 Python
dataframe设置两个条件取值的实例
2018/04/12 Python
Python实现的大数据分析操作系统日志功能示例
2019/02/11 Python
python实现通过flask和前端进行数据收发
2019/08/22 Python
用Python实现校园通知更新提醒功能
2019/11/23 Python
详解python 降级到3.6终极解决方案
2020/02/06 Python
基于python实现把json数据转换成Excel表格
2020/05/07 Python
python pyecharts 实现一个文件绘制多张图
2020/05/13 Python
与C++相比,Java中的数组有什么不同
2014/03/25 面试题
致标枪运动员加油稿
2014/02/15 职场文书
物流管理专业求职信
2014/05/29 职场文书
春节超市活动方案
2014/08/14 职场文书
党建工作目标管理责任书
2015/01/29 职场文书
《小小的船》教学反思
2016/02/18 职场文书
MySQL日期时间函数知识汇总
2022/03/17 MySQL