Python 实现自动导入缺失的库


Posted in Python onOctober 29, 2019

在写 Python 项目的时候,我们可能经常会遇到导入模块失败的错误:ImportError: No module named 'xxx' 或者 ModuleNotFoundError: No module named 'xxx' 。

导入失败问题,通常分为两种:一种是导入自己写的模块(即以 .py 为后缀的文件),另一种是导入三方库。本文主要讨论第二种情况,今后有机会,我们再详细讨论其它的相关话题。

解决导入 Python 库失败的问题,其实关键是在运行环境中装上缺失的库(注意是否是虚拟环境),或者使用恰当的替代方案。这个问题又分为三种情况:

一、单个模块中缺失的库

在编写代码的时候,如果我们需要使用某个三方库(如 requests),但不确定实际运行的环境是否装了它,那么可以这样写:

try:
  import requests
except ImportError:
  import os
  os.system('pip install requests')
  import requests

这样写的效果是,如果找不到 requests 库,就先安装,再导入。

在某些开源项目中,我们可能还会看到如下的写法(以 json 为例):

try:
  import simplejson as json
except ImportError:
  import json

这样写的效果是,优先导入三方库 simplejson,如果找不到,那就使用内置的标准库 json。

这种写法的好处是不需要导入额外的库,但它有个缺点,即需要保证那两个库在使用上是兼容的,如果在标准库中找不到替代的库,那就不可行了。

如果真找不到兼容的标准库,也可以自己写一个模块(如 my_json.py),实现想要的东西,然后在 except 语句中再导入它。

try:
  import simplejson as json
except ImportError:
  import my_json as json

二、整个项目中缺失的库

以上的思路是针对开发中的项目,但是它有几个不足:1、在代码中对每个可能缺失的三方库都 pip install,并不可取;2、某个三方库无法被标准库或自己手写的库替代,该怎么办?3、已成型的项目,不允许做这些修改怎么办?

所以这里的问题是:有一个项目,想要部署到新的机器上,它涉及很多三方库,但是机器上都没有预装,该怎么办?

对于一个合规的项目,按照约定,通常它会包含一个“requirements.txt ”文件,记录了该项目的所有依赖库及其所需的版本号。这是在项目发布前,使用命令pip freeze > requirements.txt 生成的。

使用命令pip install -r requirements.txt (在该文件所在目录执行,或在命令中写全文件的路径),就能自动把所有的依赖库给装上。

但是,如果项目不合规,或者由于其它倒霉的原因,我们没有这样的文件,又该如何是好?

一个笨方法就是,把项目跑起来,等它出错,遇到一个导库失败,就手动装一个,然后再跑一遍项目,遇到导库失败就装一下,如此循环……(此处省略 1 万句脏话)……

Python 实现自动导入缺失的库

三、自动导入任意缺失的库

有没有一种更好的可以自动导入缺失的库的方法呢?

在不修改原有的代码的情况下,在不需要“requirements.txt”文件的情况下,有没有办法自动导入所需要的库呢?

当然有!先看看效果:

Python 实现自动导入缺失的库

我们以 tornado 为例,第一步操作可看出,我们没有装过 tornado,经过第二步操作后,再次导入 tornado 时,程序会帮我们自动下载并安装好 tornado,所以不再报错。

autoinstall 是我们手写的模块,代码如下:

# 以下代码在 python 3.6.1 版本验证通过
import sys
import os
from importlib import import_module
class AutoInstall():
  _loaded = set()
  @classmethod
  def find_spec(cls, name, path, target=None):
      if path is None and name not in cls._loaded:
        cls._loaded.add(name)
        print("Installing", name)
        try:
          result = os.system('pip install {}'.format(name))
          if result == 0:
            return import_module(name)
        except Exception as e:
          print("Failed", e)
      return None

sys.meta_path.append(AutoInstall)

这段代码中使用了sys.meta_path ,我们先打印一下,看看它是个什么东西?

Python 实现自动导入缺失的库

Python 3 的 import 机制在查找过程中,大致顺序如下:

  1. 在 sys.modules 中查找,它缓存了所有已导入的模块
  2. 在 sys.meta_path 中查找,它支持自定义的加载器
  3. 在 sys.path 中查找,它记录了一些库所在的目录名

若未找到,则抛出 ImportError 异常

其中要注意,sys.meta_path 在不同的 Python 版本中有所差异,比如它在 Python 2 与 Python 3 中差异很大;在较新的 Python 3 版本(3.4+)中,自定义的加载器需要实现find_spec 方法,而早期的版本用的则是find_module 。

Python 实现自动导入缺失的库

以上代码是一个自定义的类库加载器 AutoInstall,可以实现自动导入三方库的目的。需要说明一下,这种方法会“劫持”所有新导入的库,破坏原有的导入方式,因此也可能出现一些奇奇怪怪的问题,敬请留意。

sys.meta_path 属于 Python 探针的一种运用。探针,即import hook,是 Python 几乎不受人关注的机制,但它可以做很多事,例如加载网络上的库、在导入模块时对模块进行修改、自动安装缺失库、上传审计信息、延迟加载等等。

限于篇幅,我们不再详细展开了。最后小结一下:

  • 可以用 try...except 方式,实现简单的三方库导入或者替换
  • 已知全部缺失的依赖库时(如 requirements.txt),可以手动安装
  • 利用 sys.meta_path,可以自动导入任意的缺失库

参考资料:

https://github.com/liuchang0812/slides/tree/master/pycon2015cn

http://blog.konghy.cn/2016/10/25/python-import-hook/

https://docs.python.org/3/library/sys.html#sys.meta_path

总结

以上所述是小编给大家介绍的Python 实现自动导入缺失的库,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Python 相关文章推荐
Python中下划线的使用方法
Mar 27 Python
python学习笔记--将python源文件打包成exe文件(pyinstaller)
May 26 Python
python实现自动发送邮件
Jun 20 Python
Python基于多线程实现ping扫描功能示例
Jul 23 Python
python解析json串与正则匹配对比方法
Dec 20 Python
Python图像处理之图像的缩放、旋转与翻转实现方法示例
Jan 04 Python
利用django+wechat-python-sdk 创建微信服务器接入的方法
Feb 20 Python
python实现微信每日一句自动发送给喜欢的人
Apr 29 Python
django mysql数据库及图片上传接口详解
Jul 18 Python
python将三维数组展开成二维数组的实现
Nov 30 Python
Python 实现图片转字符画的示例(静态图片,gif皆可)
Nov 05 Python
分享3个非常实用的 Python 模块
Mar 03 Python
python实现的读取网页并分词功能示例
Oct 29 #Python
python实现LRU热点缓存及原理
Oct 29 #Python
Python 中的 import 机制之实现远程导入模块
Oct 29 #Python
Centos7 下安装最新的python3.8
Oct 28 #Python
Python any()函数的使用方法
Oct 28 #Python
PYTHON发送邮件YAGMAIL的简单实现解析
Oct 28 #Python
详解如何用python实现一个简单下载器的服务端和客户端
Oct 28 #Python
You might like
php页码形式分页函数支持静态化地址及ajax分页
2014/03/28 PHP
Symfony页面的基本创建实例详解
2015/01/26 PHP
PHP基于工厂模式实现的计算器实例
2015/07/16 PHP
Yii+MYSQL锁表防止并发情况下重复数据的方法
2016/07/14 PHP
yii2简单使用less代替css示例
2017/03/10 PHP
thinkPHP框架自动填充原理与用法分析
2018/04/03 PHP
Firefox和IE浏览器兼容JS脚本写法小结
2008/07/07 Javascript
用js读、写、删除Cookie代码分享及详细注释说明
2014/06/05 Javascript
jQuery将多条数据插入模态框的示例代码
2014/09/25 Javascript
Bootstrap表格和栅格分页实例详解
2016/05/20 Javascript
JavaScript中的冒泡排序法
2016/08/03 Javascript
利用jquery实现实时更新歌词的方法
2017/01/06 Javascript
js实现3d悬浮效果
2017/02/16 Javascript
JS实现本地存储信息的方法(基于localStorage与userData)
2017/02/18 Javascript
微信小程序开发之选项卡(窗口底部TabBar)页面切换
2017/04/12 Javascript
vue2 前端搜索实现示例
2018/02/26 Javascript
jQuery实现每隔一段时间自动更换样式的方法分析
2018/05/03 jQuery
JavaScript 函数用法详解【函数定义、参数、绑定、作用域、闭包等】
2020/05/12 Javascript
python+matplotlib实现鼠标移动三角形高亮及索引显示
2018/01/15 Python
python正则表达式及使用正则表达式的例子
2018/01/22 Python
Python 利用邮件系统完成远程控制电脑的实现(关机、重启等)
2019/11/19 Python
Visual Studio code 配置Python开发环境
2020/09/11 Python
手把手教你用Django执行原生SQL的方法
2021/02/18 Python
澳大利亚美容产品及化妆品在线:Activeskin
2020/06/03 全球购物
澳大利亚著名的纺织品品牌:Canningvale
2020/05/05 全球购物
会计职业生涯规划书
2014/01/13 职场文书
婚纱摄影师求职信范文
2014/04/17 职场文书
文明社区申报材料
2014/08/21 职场文书
2014年重阳节老干部座谈会上的讲话稿
2014/09/25 职场文书
租车协议书范本2014
2014/11/17 职场文书
趵突泉导游词
2015/02/03 职场文书
软件项目经理岗位职责
2015/04/01 职场文书
2019年员工旷工保证书!
2019/06/28 职场文书
甜美蛋糕店的创业计划书模板,拿来即用!
2019/08/21 职场文书
Python字典和列表性能之间的比较
2021/06/07 Python
游戏《铁拳》动画化!2022年年内播出
2022/03/21 日漫