通过pykafka接收Kafka消息队列的方法


Posted in Python onDecember 27, 2018

没有Kafka环境,所以也没有进行验证。感觉今后应该能用到,所以借抄在此,备查。

pykafka使用示例,自动消费最新消息,不重复消费:

# -* coding:utf8 *-
from pykafka import KafkaClient
 
host = '192.168.200.38'
client = KafkaClient(hosts="%s:9092" % host)
 
print client.topics
 
# 生产者
# topicdocu = client.topics['task_pull']
# producer = topicdocu.get_producer()
# for i in range(4):
#   print i
#   producer.produce('test message ' + str(i ** 2))
# producer.stop()
 
# 消费者
topic = client.topics['task_push']
consumer = topic.get_simple_consumer(consumer_group='test', auto_commit_enable=True, consumer_id='test')
for message in consumer:
  if message is not None:
    print message.offset, message.value

以上这篇通过pykafka接收Kafka消息队列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python随机生成彩票号码的方法
Mar 05 Python
Windows系统配置python脚本开机启动的3种方法分享
Mar 10 Python
Python中使用PDB库调试程序
Apr 05 Python
Python实现从URL地址提取文件名的方法
May 15 Python
Python操作Sql Server 2008数据库的方法详解
May 17 Python
pandas DataFrame实现几列数据合并成为新的一列方法
Jun 08 Python
python re正则匹配网页中图片url地址的方法
Dec 20 Python
python取余运算符知识点详解
Jun 27 Python
在Python3 numpy中mean和average的区别详解
Aug 24 Python
Python scipy的二维图像卷积运算与图像模糊处理操作示例
Sep 06 Python
Python之关于类变量的两种赋值区别详解
Mar 12 Python
Python使用mitmproxy工具监控手机 下载手机小视频
Apr 18 Python
python利用thrift服务读取hbase数据的方法
Dec 27 #Python
python hbase读取数据发送kafka的方法
Dec 27 #Python
Python类和对象的定义与实际应用案例分析
Dec 27 #Python
在python环境下运用kafka对数据进行实时传输的方法
Dec 27 #Python
kafka-python批量发送数据的实例
Dec 27 #Python
Python闭包思想与用法浅析
Dec 27 #Python
对python操作kafka写入json数据的简单demo分享
Dec 27 #Python
You might like
PHP执行Curl时报错提示CURL ERROR: Recv failure: Connection reset by peer的解决方法
2014/06/26 PHP
Yii2框架实现利用mpdf创建pdf文件功能示例
2019/02/08 PHP
javascript语句中的CDATA标签的意义
2007/05/09 Javascript
JavaScript DOM学习第六章 表单实例
2010/02/19 Javascript
简介JavaScript中的setDate()方法的使用
2015/06/11 Javascript
js实现温度计时间样式代码分享
2015/08/21 Javascript
浅谈jQuery中Ajax事件beforesend及各参数含义
2016/12/03 Javascript
微信小程序 Template详解及简单实例
2017/01/05 Javascript
使用vue-router完成简单导航功能【推荐】
2018/06/28 Javascript
jQuery实现轮播图及其原理详解
2020/04/12 jQuery
解决Vue 项目打包后favicon无法正常显示的问题
2018/09/01 Javascript
js取小数点后两位四种方法
2019/01/18 Javascript
微信小程序实现联动选择器
2019/02/15 Javascript
Vue CLI 3.x 自动部署项目至服务器的方法
2019/04/02 Javascript
uni-app之APP和小程序微信授权方法
2019/05/09 Javascript
微信小程序实现上传多张图片、删除图片
2020/07/29 Javascript
通过angular CDK实现页面元素拖放的步骤详解
2020/07/01 Javascript
Vue中使用Echarts仪表盘展示实时数据的实现
2020/11/01 Javascript
[38:32]DOTA2上海特级锦标赛A组资格赛#2 Secret VS EHOME第二局
2016/02/26 DOTA
python list排序的两种方法及实例讲解
2017/03/20 Python
Python中几种属性访问的区别与用法详解
2018/10/10 Python
对python修改xml文件的节点值方法详解
2018/12/24 Python
Python正则表达式和re库知识点总结
2019/02/11 Python
Python3转换html到pdf的不同解决方案
2019/03/11 Python
解决Atom安装Hydrogen无法运行python3的问题
2019/08/28 Python
Python魔法方法 容器部方法详解
2020/01/02 Python
tensorflow 获取所有variable或tensor的name示例
2020/01/04 Python
Python 改变数组类型为uint8的实现
2020/04/09 Python
pytorch 把图片数据转化成tensor的操作
2021/03/04 Python
24个canvas基础知识小结
2014/12/17 HTML / CSS
日本乐天德国站:Rakuten.de
2019/05/16 全球购物
工商企业管理实习自我鉴定
2013/12/04 职场文书
最新的互联网创业计划书
2014/01/10 职场文书
国际贸易毕业生求职信
2014/07/20 职场文书
八荣八耻演讲稿
2014/09/15 职场文书
python第三方网页解析器 lxml 扩展库与 xpath 的使用方法
2021/04/06 Python