Python通过loop.run_in_executor执行同步代码 同步变为异步

Python小技巧之同步方法变为异步方法

Posted in Python onApril 11, 2022

背景

在我们平时的FastApi工作中,经常会用到一些异步的操作,为了保持一致,我们一般会编写配套的异步代码。

但如果我们提供了类似jmeter BeanShell的可执行代码的功能给用户,那用户还能给你编写异步代码吗?那显然是不可能的事情。

还有一种情况,当我们引入第三方包,比如一些oss的库,里面天然是同步方法,有内置的requests请求,你想不阻塞整个fastapi服务,也是需要将他们异步化的。

怎么做?

这块先给我点时间去调研,我暂时还没有完全玩明白里面的内容。初步的设想是通过loop.run_in_executor执行同步代码,让他超乎三界之外,不让其阻塞事件循环。

由于还不是很确定,所以会在后面理解清楚了补充进来。那就没有现成的方案吗?答案是有的,想做这件事情的,不只是我哦!

为此我调研了几个库,它们都能很好地解决这个问题。下面我们来一一介绍。

Asyncer

先上地址: asyncer.tiangolo.com/

这是大名鼎鼎的FastApi的作者,休闲娱乐的时候写的一款工具,它不仅可以把同步代码异步化,还可以把异步代码同步化,我们来看看介绍。

Python通过loop.run_in_executor执行同步代码 同步变为异步

简单看下,上面的同步方法(内部用了sleep)在asyncify的包裹下,变成了awaitable的方法,即异步化。不过由于我没有真实使用,看在作者的面上,给个推荐。

AnyIO.run,因为这个库基于AnyIO而编写的(又是个奇怪的知识点),我想应该和asyncio.run差不多疗效。

总之,既然作者的介绍是符合我们预期的,我们就推荐一下。

pip install asyncer

awaitable

这个库挺不错的,是一个乌拉老哥写的。里面充斥着我看不懂的俄语注释,但我试过功能比较完善,也很容易上手,不信咱们看看:

  • 安装
pip install awaits
  • 使用

Python通过loop.run_in_executor执行同步代码 同步变为异步

和上面的区别在于,他只是把同步方法装饰起来,就可以当异步方法用了,是不是非常神奇!

我测试过,疗效不错。因为它也具备异步方法的其他特性,比如取消。具体可以参考下我对下面那个库介绍的图片示例代码。

aioify

这个是我接触过的第一个同步转异步的库,为此我还为它提过issue。图里面是我测试一个同步方法异步化以后,能不能做取消类似的操作。这个是我用来判断它是否阻塞的一个因素。

Python通过loop.run_in_executor执行同步代码 同步变为异步

最开始我是发现,如果遇到time.sleep这样的同步方法,这个方法似乎没有起到作用,也就是依旧会阻塞,后面这个库的作者给我答复,大意是重新搞了一下,我可以按照预期去做了。不过我现在还没有尝试过,试着阅读过源码,无疾而终了。

pip install aioify

最后,我仔细阅读了awaitable的源码,比较简短,如果有时间我会仔细讲一下。更重点的是,我要去调研下开篇说的部分。大家也可以勇敢点尝试下文中介绍的几个库。

Python 相关文章推荐
Python fileinput模块使用介绍
Nov 30 Python
简单理解Python中基于生成器的状态机
Apr 13 Python
windows下安装python的C扩展编译环境(解决Unable to find vcvarsall.bat)
Feb 21 Python
Python3实现的Mysql数据库操作封装类
Jun 06 Python
基于Python pip用国内镜像下载的方法
Jun 12 Python
Python Grid使用和布局详解
Jun 30 Python
python Selenium实现付费音乐批量下载的实现方法
Jan 24 Python
Python 中包/模块的 `import` 操作代码
Apr 22 Python
python批量修改图片尺寸,并保存指定路径的实现方法
Jul 04 Python
Python终端输出彩色字符方法详解
Feb 11 Python
python之语音识别speech模块
Sep 09 Python
用Python可视化新冠疫情数据
Jan 18 Python
Python Pandas解析读写 CSV 文件
宝塔更新Python及Flask项目的部署
python模板入门教程之flask Jinja
使用Python解决图表与画布的间距问题
Python的property属性详细讲解
Apr 11 #Python
OpenCV项目实践之停车场车位实时检测
Python进程池与进程锁之语法学习
You might like
PHP 循环列出目录内容的函数代码
2010/05/26 PHP
从零开始学YII2框架(一)通过Composer安装Yii2框架
2014/08/20 PHP
PHP实现对数字分隔加千分号的方法
2019/03/18 PHP
Javascript实例教程(19) 使用HoTMetal(2)
2006/12/23 Javascript
js导航栏单击事件背景变换示例代码
2014/01/13 Javascript
JavaScript实现DIV层拖动及动态增加新层的方法
2015/05/12 Javascript
jQuery编程中的一些核心方法简介
2015/08/14 Javascript
Javascript页面跳转常见实现方式汇总
2015/11/28 Javascript
js实现固定宽高滑动轮播图效果
2017/01/13 Javascript
理解nodejs的stream和pipe机制的原理和实现
2017/08/12 NodeJs
Vue 中批量下载文件并打包的示例代码
2017/11/20 Javascript
JS判断用户用的哪个浏览器实例详解
2018/10/09 Javascript
vue-cli安装使用流程步骤详解
2018/11/08 Javascript
vue组件通信传值操作示例
2019/01/08 Javascript
Smartour 让网页导览变得更简单(推荐)
2019/07/19 Javascript
vue全局使用axios的操作
2020/09/08 Javascript
[00:32]2018DOTA2亚洲邀请赛Liquid出场
2018/04/03 DOTA
TensorFlow实现Batch Normalization
2018/03/08 Python
python查询mysql,返回json的实例
2018/03/26 Python
flask框架视图函数用法示例
2018/07/19 Python
在python中只选取列表中某一纵列的方法
2018/11/28 Python
python 读取竖线分隔符的文本方法
2018/12/20 Python
基于Python对数据shape的常见操作详解
2018/12/25 Python
Django+JS 实现点击头像即可更改头像的方法示例
2018/12/26 Python
python实现简单五子棋游戏
2019/06/18 Python
详解python中各种文件打开模式
2020/01/19 Python
Python xlrd模块导入过程及常用操作
2020/06/10 Python
python“静态”变量、实例变量与本地变量的声明示例
2020/11/13 Python
python switch 实现多分支选择功能
2020/12/21 Python
西班牙最好的在线购买葡萄酒的商店:Vinoseleccion
2019/10/30 全球购物
一家外企的面试题目(C/C++面试题,C语言面试题)
2014/03/24 面试题
艺术专业大学生自我评价
2013/09/22 职场文书
会计学专业自荐信
2014/06/25 职场文书
企业标语大全
2014/07/01 职场文书
一文搞懂python异常处理、模块与包
2021/06/26 Python
pytorch实现加载保存查看checkpoint文件
2022/07/15 Python