Python3爬虫mitmproxy的安装步骤


Posted in Python onJuly 29, 2020

mitmproxy是一个支持HTTP和HTTPS的抓包程序,类似Fiddler、Charles的功能,只不过它通过控制台的形式操作。

此外,mitmproxy还有两个关联组件,一个是mitmdump,它是mitmproxy的命令行接口,利用它可以对接Python脚本,实现监听后的处理;另一个是mitmweb,它是一个Web程序,通过它以清楚地观察到mitmproxy捕获的请求。

本节中,我们就来了解一下mitmproxy、mitmdump和mitmweb的安装方式。

1. 相关链接

GitHub:https://github.com/mitmproxy/mitmproxy

官方网站:https://mitmproxy.org

PyPI:https://pypi.python.org/pypi/mitmproxy

官方文档:http://docs.mitmproxy.org

mitmdump脚本:http://docs.mitmproxy.org/en/stable/scripting/overview.html

下载地址:https://github.com/mitmproxy/mitmproxy/releases

DockerHub:https://hub.docker.com/r/mitmproxy/mitmproxy

2. pip安装

最简单的安装方式还是使用pip,直接执行如下命令即可安装:

pip3 install mitmproxy

这是最简单和通用的安装方式,执行完毕之后即可完成mitmproxy的安装,另外还附带安装了mitmdump和mitmweb这两个组件。如果不想用这种方式安装,也可以选择后面列出的专门针对各个平台的安装方式或者Docker安装方式。

3. Windows下的安装

可以到GitHub上的Releases页面(链接为:https://github.com/mitmproxy/mitmproxy/releases/)获取安装包,如图1-59所示。

Python3爬虫mitmproxy的安装步骤

图1-59 下载页面

比如,当前的最新版本为2.0.2,则可以选择下载Windows下的exe安装包mitmproxy-2.0.2-windows-installer.exe,下载后直接双击安装包即可安装。

注意,在Windows上不支持mitmproxy的控制台接口,但是可以使用mitmdump和mitmweb。

4. Linux下的安装

在Linux下,可以下载编译好的二进制包(下载地址https://github.com/mitmproxy/mitmproxy/releases/),此发行包一般是最新版本,它包含了最新版本的mitmproxy和内置的Python 3环境,以及最新的OpenSSL环境。

如果你的环境里没有Python 3和OpenSSL环境,建议使用此种方式安装。

下载之后,需要解压并将其配置到环境变量:

tar -zxvf mitmproxy-2.0.2-linux.tar.gz
sudo mv mitmproxy mitmdump mitmweb /usr/bin

这样就可以将3个可执行文件移动到了/usr/bin目录。而一般情况下,/usr/bin目录都已经配置在了环境变量下,所以接下来可以直接调用这3个工具了。

5. Mac下的安装

Mac下的安装非常简单,直接使用Homebrew即可,命令如下:

brew install mitmproxy

执行命令后,即可完成mitmproxy的安装。

6. Docker安装

mitmproxy也支持Docker,其DockerHub的地址为https://hub.docker.com/r/mitmproxy/mitmproxy/。

在Docker下,mitmproxy的安装命令为:

docker run --rm -it -p 8080:8080 mitmproxy/mitmproxy mitmdump

这样就在8080端口上启动了mitmproxy和mitmdump。

如果想要获取CA证书,可以选择挂载磁盘选项,命令如下:

docker run --rm -it -v ~/.mitmproxy:/home/mitmproxy/.mitmproxy -p 8080:8080 mitmproxy/mitmproxy mitmdump

这样就可以在~/.mitmproxy目录下找到CA证书。

另外,还可以在8081端口上启动mitmweb,命令如下:

docker run --rm -it -p 8080:8080 -p 127.0.0.1:8081:8081 mitmproxy/mitmproxy mitmweb

更多启动方式可以参考Docker Hub的安装说明。

7. 证书配置

对于mitmproxy来说,如果想要截获HTTPS请求,就需要设置证书。mitmproxy在安装后会提供一套CA证书,只要客户端信任了mitmproxy提供的证书,就可以通过mitmproxy获取HTTPS请求的具体内容,否则mitmproxy是无法解析HTTPS请求的。

首先,运行以下命令产生CA证书,并启动mitmdump:

mitmdump

接下来,我们就可以在用户目录下的.mitmproxy目录里面找到CA证书,如图1-60所示。

Python3爬虫mitmproxy的安装步骤

图1-60 证书文件

证书一共5个,表1-1简要说明了这5个证书。

表1-1 5个证书及其说明

Python3爬虫mitmproxy的安装步骤

下面我们介绍一下Windows、Mac、iOS和Android平台下的证书配置过程。

Windows

双击mitmproxy-ca.p12,就会出现导入证书的引导页,如图1-61所示。

Python3爬虫mitmproxy的安装步骤

图1-61 证书导入向导

直接点击“下一步”按钮即可,会出现密码设置提示,如图1-62所示。

Python3爬虫mitmproxy的安装步骤

图1-62 密码设置提示

这里不需要设置密码,直接点击“下一步”按钮即可。

接下来需要选择证书的存储区域,如图1-63所示。这里点击第二个选项“将所有的证书都放入下列存储”,然后点击“浏览”按钮,选择证书存储位置为“受信任的根证书颁发机构”,接着点击“确定”按钮,然后点击“下一步”按钮。

Python3爬虫mitmproxy的安装步骤

图1-63 选择证书存储区域

最后,如果有安全警告弹出,如图1-64所示,直接点击“是”按钮即可。

Python3爬虫mitmproxy的安装步骤

图1-64 安全警告

这样就在Windows下配置完CA证书了。

Mac

Mac下双击mitmproxy-ca-cert.pem即可弹出钥匙串管理页面,然后找到mitmproxy证书,打开其设置选项,选择“始终信任”即可,如图1-65所示。

Python3爬虫mitmproxy的安装步骤

图1-65 证书配置

iOS

将mitmproxy-ca-cert.pem文件发送到iPhone上,推荐使用邮件方式发送,然后在iPhone上可以直接点击附件并识别安装,如图1-66所示。

Python3爬虫mitmproxy的安装步骤

图1-66 证书安装页面

点击“安装”按钮之后,会跳到安装描述文件的页面,点击“安装”按钮,此时会有警告提示,如图1-67所示。

Python3爬虫mitmproxy的安装步骤

图1-67 安装警告页面

继续点击右上角的“安装”按钮,安装成功之后会有已安装的提示,如图1-68所示。

Python3爬虫mitmproxy的安装步骤

图1-68 安装成功页面

如果你的iOS版本是10.3以下的话,此处信任CA证书的流程就已经完成了。

如果你的iOS版本是10.3及以上版本,还需要在“设置”→“通用”→“关于本机”→“证书信任设置”将mitmproxy的完全信任开关打开,如图1-69所示。此时,在iOS上配置信任CA证书的流程就结束了。

Python3爬虫mitmproxy的安装步骤

图1-69 证书信任设置

Android

在Android手机上,同样需要将证书mitmproxy-ca-cert.pem文件发送到手机上,例如直接复制文件。

接下来,点击证书,便会出现一个提示窗口,如图1-70所示。

Python3爬虫mitmproxy的安装步骤

图1-70 证书安装页面

这时输入证书的名称,然后点击“确定”按钮即可完成安装。

到此这篇关于Python3爬虫mitmproxy的安装步骤的文章就介绍到这了,更多相关Python3爬虫mitmproxy的安装内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python读写Redis数据库操作示例
Mar 18 Python
python读取浮点数和读取文本文件示例
May 06 Python
详解Python中的type()方法的使用
May 21 Python
python九九乘法表的实例
Sep 26 Python
Python使用Matplotlib实现Logos设计代码
Dec 25 Python
python实现将一维列表转换为多维列表(numpy+reshape)
Nov 29 Python
Python3.7基于hashlib和Crypto实现加签验签功能(实例代码)
Dec 04 Python
Python continue语句实例用法
Feb 06 Python
PyQt5 如何让界面和逻辑分离的方法
Mar 24 Python
Python基于paramunittest模块实现excl参数化
Apr 26 Python
python小技巧——将变量保存在本地及读取
Nov 13 Python
Python pyecharts案例超市4年数据可视化分析
Aug 14 Python
Python使用jpype模块调用jar包过程解析
Jul 29 #Python
Python 防止死锁的方法
Jul 29 #Python
Python定义一个Actor任务
Jul 29 #Python
Python如何重新加载模块
Jul 29 #Python
Python加速程序运行的方法
Jul 29 #Python
如何在python中判断变量的类型
Jul 29 #Python
Python中的With语句的使用及原理
Jul 29 #Python
You might like
7个超级实用的PHP代码片段
2011/07/11 PHP
解密ThinkPHP3.1.2版本之独立分组功能应用
2014/06/19 PHP
详解PHP的Yii框架中的Controller控制器
2016/03/29 PHP
php生成HTML文件的类方法
2019/10/11 PHP
用js重建星际争霸
2006/12/22 Javascript
javascript之dhDataGrid Ver2.0.0代码
2007/07/01 Javascript
IE php关于强制下载文件的代码
2008/08/23 Javascript
jquery 读取页面load get post ajax 四种方式代码写法
2011/04/02 Javascript
Javascript面向对象设计一 工厂模式
2011/12/20 Javascript
jQuery当鼠标悬停时放大图片的效果实例
2013/07/03 Javascript
获取3个数组不重复的值的具体实现
2013/12/30 Javascript
浅谈js的setInterval事件
2014/12/05 Javascript
Javascript基础学习笔记(菜鸟必看篇)
2016/07/22 Javascript
Node.js中Bootstrap-table的两种分页的实现方法
2017/09/18 Javascript
Angular2监听页面大小变化的解决方法
2017/10/09 Javascript
vue+php实现的微博留言功能示例
2019/03/16 Javascript
js定义类的方法示例【ES5与ES6】
2019/07/30 Javascript
JavaScript如何实现图片处理与合成
2020/05/29 Javascript
5个你不知道的JavaScript字符串处理库(小结)
2020/06/01 Javascript
[54:18]DOTA2-DPC中国联赛 正赛 PSG.LGD vs LBZS BO3 第一场 1月22日
2021/03/11 DOTA
Python多线程实例教程
2014/09/06 Python
Python使用Flask框架同时上传多个文件的方法
2015/03/21 Python
利用python批量检查网站的可用性
2016/09/09 Python
基于Python __dict__与dir()的区别详解
2017/10/30 Python
Python从数据库读取大量数据批量写入文件的方法
2018/12/10 Python
华为校园招聘上机笔试题 扑克牌大小(python)
2020/04/22 Python
python使用beautifulsoup4爬取酷狗音乐代码实例
2019/12/04 Python
Python使用Pandas库常见操作详解
2020/01/16 Python
python GUI模拟实现计算器
2020/06/22 Python
Python自动化测试中yaml文件读取操作
2020/08/20 Python
mysql_pconnect()和mysql_connect()有什么区别
2012/05/25 面试题
《谁的本领大》教后反思
2014/04/25 职场文书
小区推广策划方案
2014/06/06 职场文书
公司的门卫岗位职责
2014/09/09 职场文书
北京颐和园导游词
2015/01/30 职场文书
MySQL8.0升级的踩坑历险记
2021/11/01 MySQL