Python操作rabbitMQ的示例代码


Posted in Python onMarch 19, 2019

引入

RabbitMQ 是一个由 Erlang 语言开发的 AMQP 的开源实现。

rabbitMQ是一款基于AMQP协议的消息中间件,它能够在应用之间提供可靠的消息传输。在易用性,扩展性,高可用性上表现优秀。使用消息中间件利于应用之间的解耦,生产者(客户端)无需知道消费者(服务端)的存在。而且两端可以使用不同的语言编写,大大提供了灵活性。

Python操作rabbitMQ的示例代码

中文文档

安装

# 安装配置epel源
  rpm -ivh http://dl.fedoraproject.org/pub/epel/6/i386/epel-release-6-8.noarch.rpm
 
# 安装erlang
  yum -y install erlang
 
# 安装RabbitMQ
  yum -y install rabbitmq-server

# 启动/停止
  service rabbitmq-server start/stop

rabbitMQ工作模型

简单模式

生产者

import pika
connection = pika.BlockingConnection(pika.ConnectionParameters( host='localhost'))

channel = connection.channel()

channel.queue_declare(queue='hello')

channel.basic_publish(exchange='',
           routing_key='hello',
           body='Hello World!')

print(" [x] Sent 'Hello World!'")
connection.close()

消费者

connection = pika.BlockingConnection(pika.ConnectionParameters(host='localhost'))
channel = connection.channel()
 
channel.queue_declare(queue='hello')
 
def callback(ch, method, properties, body):
  print(" [x] Received %r" % body)
 
channel.basic_consume( callback,
            queue='hello',
            no_ack=True)
 
print(' [*] Waiting for messages. To exit press CTRL+C')
channel.start_consuming()

相关参数

1,no-ack = False

如果消费者遇到情况(its channel is closed, connection is closed, or TCP connection is lost)挂掉了,那么,RabbitMQ会重新将该任务添加到队列中。

  • 回调函数中的 ch.basic_ack(delivery_tag=method.delivery_tag)
  • basic_comsume中的no_ack=False

接收消息端应该这么写:

?
import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(
    host='10.211.55.4'))
channel = connection.channel()

channel.queue_declare(queue='hello')

def callback(ch, method, properties, body):
  print(" [x] Received %r" % body)
  import time
  time.sleep(10)
  print 'ok'
  ch.basic_ack(delivery_tag = method.delivery_tag)

channel.basic_consume(callback,
           queue='hello',
           no_ack=False)

print(' [*] Waiting for messages. To exit press CTRL+C')
channel.start_consuming()

2,durable :消息不丢失

生产者

import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(host='10.211.55.4'))
channel = connection.channel()

# make message persistent
channel.queue_declare(queue='hello', durable=True)

channel.basic_publish(exchange='',
           routing_key='hello',
           body='Hello World!',
           properties=pika.BasicProperties(
             delivery_mode=2, # make message persistent
           ))
print(" [x] Sent 'Hello World!'")
connection.close()

3,消息获取顺序

默认消息队列里的数据是按照顺序被消费者拿走,例如:消费者1 去队列中获取 奇数 序列的任务,消费者1去队列中获取 偶数 序列的任务。

channel.basic_qos(prefetch_count=1) 表示谁来谁取,不再按照奇偶数排列

import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(host='10.211.55.4'))
channel = connection.channel()

# make message persistent
channel.queue_declare(queue='hello')


def callback(ch, method, properties, body):
  print(" [x] Received %r" % body)
  import time
  time.sleep(10)
  print 'ok'
  ch.basic_ack(delivery_tag = method.delivery_tag)

channel.basic_qos(prefetch_count=1)

channel.basic_consume(callback,
           queue='hello',
           no_ack=False)

print(' [*] Waiting for messages. To exit press CTRL+C')
channel.start_consuming()

exchange模型

1,发布订阅

Python操作rabbitMQ的示例代码

发布订阅和简单的消息队列区别在于,发布订阅会将消息发送给所有的订阅者,而消息队列中的数据被消费一次便消失。所以,RabbitMQ实现发布和订阅时,会为每一个订阅者创建一个队列,而发布者发布消息时,会将消息放置在所有相关队列中。

exchange type = fanout

生产者

import pika
import sys

connection = pika.BlockingConnection(pika.ConnectionParameters(
    host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='logs',
             type='fanout')

message = ' '.join(sys.argv[1:]) or "info: Hello World!"
channel.basic_publish(exchange='logs',
           routing_key='',
           body=message)
print(" [x] Sent %r" % message)
connection.close()

消费者

import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(
    host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='logs',
             type='fanout')

result = channel.queue_declare(exclusive=True)
queue_name = result.method.queue

channel.queue_bind(exchange='logs',
          queue=queue_name)

print(' [*] Waiting for logs. To exit press CTRL+C')

def callback(ch, method, properties, body):
  print(" [x] %r" % body)

channel.basic_consume(callback,
           queue=queue_name,
           no_ack=True)

channel.start_consuming()

2,关键字发送

Python操作rabbitMQ的示例代码

之前事例,发送消息时明确指定某个队列并向其中发送消息,RabbitMQ还支持根据关键字发送,即:队列绑定关键字,发送者将数据根据关键字发送到消息exchange,exchange根据 关键字 判定应该将数据发送至指定队列。

exchange type = direct

import pika
import sys

connection = pika.BlockingConnection(pika.ConnectionParameters(
    host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='direct_logs',
             type='direct')

result = channel.queue_declare(exclusive=True)
queue_name = result.method.queue

severities = sys.argv[1:]
if not severities:
  sys.stderr.write("Usage: %s [info] [warning] [error]\n" % sys.argv[0])
  sys.exit(1)

for severity in severities:
  channel.queue_bind(exchange='direct_logs',
            queue=queue_name,
            routing_key=severity)

print(' [*] Waiting for logs. To exit press CTRL+C')

def callback(ch, method, properties, body):
  print(" [x] %r:%r" % (method.routing_key, body))

channel.basic_consume(callback,
           queue=queue_name,
           no_ack=True)

channel.start_consuming()

3,模糊匹配

Python操作rabbitMQ的示例代码

exchange type = topic

发送者路由值 队列中
old.boy.python old.* -- 不匹配
old.boy.python old.# -- 匹配

在topic类型下,可以让队列绑定几个模糊的关键字,之后发送者将数据发送到exchange,exchange将传入”路由值“和 ”关键字“进行匹配,匹配成功,则将数据发送到指定队列。

  • # 表示可以匹配 0 个 或 多个 单词
  • *  表示只能匹配 一个 单词
import pika
import sys

connection = pika.BlockingConnection(pika.ConnectionParameters(
    host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='topic_logs',
             type='topic')

result = channel.queue_declare(exclusive=True)
queue_name = result.method.queue

binding_keys = sys.argv[1:]
if not binding_keys:
  sys.stderr.write("Usage: %s [binding_key]...\n" % sys.argv[0])
  sys.exit(1)

for binding_key in binding_keys:
  channel.queue_bind(exchange='topic_logs',
            queue=queue_name,
            routing_key=binding_key)

print(' [*] Waiting for logs. To exit press CTRL+C')

def callback(ch, method, properties, body):
  print(" [x] %r:%r" % (method.routing_key, body))

channel.basic_consume(callback,
           queue=queue_name,
           no_ack=True)

channel.start_consuming()

基于rabbitMQ的RPC

 Callback queue 回调队列

一个客户端向服务器发送请求,服务器端处理请求后,将其处理结果保存在一个存储体中。而客户端为了获得处理结果,那么客户在向服务器发送请求时,同时发送一个回调队列地址 reply_to

Correlation id 关联标识

一个客户端可能会发送多个请求给服务器,当服务器处理完后,客户端无法辨别在回调队列中的响应具体和那个请求时对应的。为了处理这种情况,客户端在发送每个请求时,同时会附带一个独有 correlation_id 属性,这样客户端在回调队列中根据 correlation_id 字段的值就可以分辨此响应属于哪个请求。

客户端发送请求:

某个应用将请求信息交给客户端,然后客户端发送RPC请求,在发送RPC请求到RPC请求队列时,客户端至少发送带有reply_to以及correlation_id两个属性的信息

服务端工作流:

等待接受客户端发来RPC请求,当请求出现的时候,服务器从RPC请求队列中取出请求,然后处理后,将响应发送到reply_to指定的回调队列中

客户端接受处理结果:

客户端等待回调队列中出现响应,当响应出现时,它会根据响应中correlation_id字段的值,将其返回给对应的应用

服务者

import pika

# 建立连接,服务器地址为localhost,可指定ip地址
connection = pika.BlockingConnection(pika.ConnectionParameters(
    host='localhost'))

# 建立会话
channel = connection.channel()

# 声明RPC请求队列
channel.queue_declare(queue='rpc_queue')

# 数据处理方法
def fib(n):
  if n == 0:
    return 0
  elif n == 1:
    return 1
  else:
    return fib(n-1) + fib(n-2)

# 对RPC请求队列中的请求进行处理
def on_request(ch, method, props, body):
  n = int(body)

  print(" [.] fib(%s)" % n)

  # 调用数据处理方法
  response = fib(n)

  # 将处理结果(响应)发送到回调队列
  ch.basic_publish(exchange='',
           routing_key=props.reply_to,
           properties=pika.BasicProperties(correlation_id = \
                             props.correlation_id),
           body=str(response))
  ch.basic_ack(delivery_tag = method.delivery_tag)

# 负载均衡,同一时刻发送给该服务器的请求不超过一个
channel.basic_qos(prefetch_count=1)

channel.basic_consume(on_request, queue='rpc_queue')

print(" [x] Awaiting RPC requests")
channel.start_consuming()

客户端

import pika
import uuid

class FibonacciRpcClient(object):
  def __init__(self):
    """
    客户端启动时,创建回调队列,会开启会话用于发送RPC请求以及接受响应
    """
    # 建立连接,指定服务器的ip地址
    self.connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='localhost'))
        
    # 建立一个会话,每个channel代表一个会话任务
    self.channel = self.connection.channel()
    
    # 声明回调队列,再次声明的原因是,服务器和客户端可能先后开启,该声明是幂等的,多次声明,但只生效一次
    result = self.channel.queue_declare(exclusive=True)
    # 将次队列指定为当前客户端的回调队列
    self.callback_queue = result.method.queue
    
    # 客户端订阅回调队列,当回调队列中有响应时,调用`on_response`方法对响应进行处理; 
    self.channel.basic_consume(self.on_response, no_ack=True,
                  queue=self.callback_queue)


  # 对回调队列中的响应进行处理的函数
  def on_response(self, ch, method, props, body):
    if self.corr_id == props.correlation_id:
      self.response = body


  # 发出RPC请求
  def call(self, n):
  
    # 初始化 response
    self.response = None
    
    #生成correlation_id 
    self.corr_id = str(uuid.uuid4())
    
    # 发送RPC请求内容到RPC请求队列`rpc_queue`,同时发送的还有`reply_to`和`correlation_id`
    self.channel.basic_publish(exchange='',
                  routing_key='rpc_queue',
                  properties=pika.BasicProperties(
                     reply_to = self.callback_queue,
                     correlation_id = self.corr_id,
                     ),
                  body=str(n))
                  
    
    while self.response is None:
      self.connection.process_data_events()
    return int(self.response)

# 建立客户端
fibonacci_rpc = FibonacciRpcClient()

# 发送RPC请求
print(" [x] Requesting fib(30)")
response = fibonacci_rpc.call(30)
print(" [.] Got %r" % response)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python异常学习笔记
Feb 03 Python
python统计文本文件内单词数量的方法
May 30 Python
Django的数据模型访问多对多键值的方法
Jul 21 Python
Python编程生成随机用户名及密码的方法示例
May 05 Python
Python实现多进程共享数据的方法分析
Dec 04 Python
详解Python下ftp上传文件linux服务器
Jun 21 Python
Python中应该使用%还是format来格式化字符串
Sep 25 Python
pyqt5 使用cv2 显示图片,摄像头的实例
Jun 27 Python
在django中自定义字段Field详解
Dec 03 Python
python opencv实现图片缺陷检测(讲解直方图以及相关系数对比法)
Apr 07 Python
python名片管理系统开发
Jun 18 Python
Python pickle模块常用方法代码实例
Oct 10 Python
Python Matplotlib实现三维数据的散点图绘制
Mar 19 #Python
浅谈python中get pass用法
Mar 19 #Python
使用matplotlib中scatter方法画散点图
Mar 19 #Python
详解django+django-celery+celery的整合实战
Mar 19 #Python
详解Python正则表达式re模块
Mar 19 #Python
python matplotlib画图库学习绘制常用的图
Mar 19 #Python
详解python的四种内置数据结构
Mar 19 #Python
You might like
用php的ob_start来生成静态页面的方法分析
2011/03/09 PHP
PHP中include与require使用方法区别详解
2013/10/19 PHP
PHP开发框架Laravel数据库操作方法总结
2014/09/03 PHP
php生成二维码图片方法汇总
2016/12/17 PHP
PhpSpreadsheet设置单元格常用操作汇总
2020/11/13 PHP
jquery获得页面元素的坐标值实现思路及代码
2013/04/15 Javascript
js对象内部访问this修饰的成员函数示例
2014/04/27 Javascript
多个$(document).ready()的执行顺序实例分析
2014/07/26 Javascript
加载列表时jquery获取ul中第一个li的属性
2014/11/02 Javascript
jQuery实现灰蓝风格标准二级下拉菜单效果代码
2015/08/31 Javascript
jQuery 选择同时包含两个class的元素的实现方法
2016/06/01 Javascript
jQuery简单倒计时效果完整示例
2016/09/20 Javascript
第一次接触神奇的前端框架vue.js
2016/12/01 Javascript
JS实现的数组去除重复数据算法小结
2017/11/17 Javascript
JS+WCF实现进度条实时监测数据加载量的方法详解
2017/12/19 Javascript
React实现全局组件的Toast轻提示效果
2018/09/21 Javascript
微信小程序 wx.getUserInfo引导用户授权问题实例分析
2020/03/09 Javascript
nuxt+axios实现打包后动态修改请求地址的方法
2020/04/22 Javascript
Vue + Scss 动态切换主题颜色实现换肤的示例代码
2020/04/27 Javascript
纯js+css实现在线时钟
2020/08/18 Javascript
[46:10]2014 DOTA2国际邀请赛中国区预选赛 CnB VS HGT
2014/05/21 DOTA
python基于xml parse实现解析cdatasection数据
2014/09/30 Python
Python脚本判断 Linux 是否运行在虚拟机上
2015/04/25 Python
详细讲解Python中的文件I/O操作
2015/05/24 Python
python 迭代器和iter()函数详解及实例
2017/03/21 Python
django定期执行任务(实例讲解)
2017/11/03 Python
tensorflow实现简单的卷积神经网络
2018/05/24 Python
python flask框架实现重定向功能示例
2019/07/02 Python
Django logging配置及使用详解
2019/07/23 Python
Python pip 安装与使用(安装、更新、删除)
2019/10/06 Python
python操作ini类型配置文件的实例教程
2020/10/30 Python
品牌推广策划方案
2014/05/28 职场文书
应届本科毕业生求职信
2014/07/23 职场文书
励志演讲稿大全
2014/08/21 职场文书
2014年学习委员工作总结
2014/11/14 职场文书
Python基于Opencv识别两张相似图片
2021/04/25 Python