通过pykafka接收Kafka消息队列的方法


Posted in Python onDecember 27, 2018

没有Kafka环境,所以也没有进行验证。感觉今后应该能用到,所以借抄在此,备查。

pykafka使用示例,自动消费最新消息,不重复消费:

# -* coding:utf8 *-
from pykafka import KafkaClient
 
host = '192.168.200.38'
client = KafkaClient(hosts="%s:9092" % host)
 
print client.topics
 
# 生产者
# topicdocu = client.topics['task_pull']
# producer = topicdocu.get_producer()
# for i in range(4):
#   print i
#   producer.produce('test message ' + str(i ** 2))
# producer.stop()
 
# 消费者
topic = client.topics['task_push']
consumer = topic.get_simple_consumer(consumer_group='test', auto_commit_enable=True, consumer_id='test')
for message in consumer:
  if message is not None:
    print message.offset, message.value

以上这篇通过pykafka接收Kafka消息队列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python读取Android permission文件
Nov 01 Python
使用Python的Twisted框架编写简单的网络客户端
Apr 16 Python
Python的Urllib库的基本使用教程
Apr 30 Python
python绘图方法实例入门
May 19 Python
Python学习笔记之Zip和Enumerate用法实例分析
Aug 14 Python
Pytorch在dataloader类中设置shuffle的随机数种子方式
Jan 14 Python
解决python脚本中error: unrecognized arguments: True错误
Apr 20 Python
浅谈PyTorch中in-place operation的含义
Jun 27 Python
python将字典内容写入json文件的实例代码
Aug 12 Python
Python ellipsis 的用法详解
Nov 20 Python
基于Python中Remove函数的用法讨论
Dec 11 Python
如何用python 操作zookeeper
Dec 28 Python
python利用thrift服务读取hbase数据的方法
Dec 27 #Python
python hbase读取数据发送kafka的方法
Dec 27 #Python
Python类和对象的定义与实际应用案例分析
Dec 27 #Python
在python环境下运用kafka对数据进行实时传输的方法
Dec 27 #Python
kafka-python批量发送数据的实例
Dec 27 #Python
Python闭包思想与用法浅析
Dec 27 #Python
对python操作kafka写入json数据的简单demo分享
Dec 27 #Python
You might like
php文件类型MIME对照表(比较全)
2016/10/07 PHP
jQuery实现回车键(Enter)切换文本框焦点的代码实例
2014/05/05 Javascript
jquery插件orbit.js实现图片折叠轮换特效
2015/04/14 Javascript
AspNet中使用JQuery boxy插件的确认框
2015/05/20 Javascript
JS代码实现table数据分页效果
2016/05/26 Javascript
jQuery 判断是否包含在数组中Array[]的方法
2016/08/03 Javascript
Angularjs使用directive自定义指令实现attribute继承的方法详解
2016/08/05 Javascript
vue.js通过自定义指令实现数据拉取更新的实现方法
2016/10/18 Javascript
vue-router路由简单案例介绍
2017/02/21 Javascript
纯JS实现图片验证码功能并兼容IE6-8(推荐)
2017/04/19 Javascript
JS正则表达式验证中文字符
2017/05/08 Javascript
Angular中$state.go页面跳转并传递参数的方法
2017/05/09 Javascript
React Native 环境搭建的教程
2017/08/19 Javascript
vue中阻止click事件冒泡,防止触发另一个事件的方法
2018/02/08 Javascript
学习JS中的DOM节点以及操作
2018/04/30 Javascript
深入理解Vue.js轻量高效的前端组件化方案
2018/12/10 Javascript
JQuery Ajax跨域调用和非跨域调用问题实例分析
2019/04/16 jQuery
解决vue里a标签值解析变量,跳转页面,前面加默认域名端口的问题
2020/07/22 Javascript
Vue props中Object和Array设置默认值操作
2020/07/30 Javascript
Vue解决echart在element的tab切换时显示不正确问题
2020/08/03 Javascript
探究一道价值25k的蚂蚁金服异步串行面试题
2020/08/21 Javascript
python监控键盘输入实例代码
2018/02/09 Python
Python 删除整个文本中的空格,并实现按行显示
2018/07/24 Python
python画图系列之个性化显示x轴区段文字的实例
2018/12/13 Python
关于Python作用域自学总结
2019/06/10 Python
详解Python 调用C# dll库最简方法
2019/06/20 Python
python多环境切换及pyenv使用过程详解
2019/09/27 Python
keras 简单 lstm实例(基于one-hot编码)
2020/07/02 Python
python反爬虫方法的优缺点分析
2020/11/25 Python
HTML5 Video标签的属性、方法和事件汇总介绍
2015/04/24 HTML / CSS
迪卡侬中国官网:Decathlon中国
2020/08/10 全球购物
定义一结构体数组表示分数,并求两个分数相加之和
2013/06/11 面试题
房地产销售助理岗位职责
2015/04/14 职场文书
陪护人员误工证明
2015/06/24 职场文书
新娘婚礼致辞
2015/07/27 职场文书
python基础学习之生成器与文件系统知识总结
2021/05/25 Python