python爬虫入门教程--利用requests构建知乎API(三)


Posted in Python onMay 25, 2017

前言

在爬虫系列文章 优雅的HTTP库requests 中介绍了 requests 的使用方式,这一次我们用 requests 构建一个知乎 API,功能包括:私信发送、文章点赞、用户关注等,因为任何涉及用户操作的功能都需要登录后才操作,所以在阅读这篇文章前建议先了解Python模拟知乎登录 。现在假设你已经知道如何用 requests 模拟知乎登录了。

思路分析

发送私信的过程就是浏览器向服务器发送一个 HTTP 请求,请求报文包括请求 URL、请求头 Header、还有请求体 Body,只要把这些信息弄清楚,那么就很容易用 requests 来模拟浏览器发送私信了。

打开 Chrome 浏览器,随便找一个用户,点击发送私信,追踪一下私信的网络请求过程。

先看下请求头信息

python爬虫入门教程--利用requests构建知乎API(三)

请求头 Header 中有 cookies 登录信息,此外还有一个 authorization 字段,该字段是用于用户认证的,同时这个字段也存在 cookies 中(为了防止 cookie 信息泄露,我打了马赛克), requests 请求时这些信息都必须携带上。

再来看看请求的URL和请求体

python爬虫入门教程--利用requests构建知乎API(三)

请求URL是 https://www.zhihu.com/api/v4/messages ,请求方法是 POST,请求体

{"type":"common","content":"你好,我是pythoner","receiver_hash":"1da75b85900e00adb072e91c56fd9149"}

请求体是一个 json 字符串,type 和 content 很好理解,但 receiver_hash 是什么并不知道,需要进一步确定,不过你应该猜得出这是类似于用户 id 的字段。

那么现在问题来了,如何通过用户主页的URL找到用户的 id 呢?为了完整的模拟私信的整个流程,我特地注册了一个知乎小号。

如果你手头没有多余的手机号,可以用 Google 搜「receive sms online」,网上很多提供免费在线接收短信的手机号码,我注册的小号主页:https://www.zhihu.com/people/xiaoxiaodouzi

先尝试关注小号,然后在我关注的列表中找到该小号,把鼠标移到小号的头像处时,发现有一个 HTTP 网络请求。

python爬虫入门教程--利用requests构建知乎API(三)

请求 url 是 https://www.zhihu.com/api/v4/members/xiaoxiaodouzi ,这个URL的后面部分「xiaoxiaodouzi」对应小号主页URL的后面部分,这部分我们称之为 url_token。

接口的返回数据是该用户的个人公开信息。

{ 
 ...
 "id":"1da75b85900e00adb072e91c56fd9149",
 "favorite_count":0,
 "voteup_count":0,
 "commercial_question_count":0,
 "url_token":"xiaoxiaodouzi",
 "type":"people",
 "avatar_url":"https://pic1.zhimg.com/v2-ca13758626bd7367febde704c66249ec_is.jpg",
 "is_active":1492224390,
 "name":"\u6211\u662f\u5c0f\u53f7",
 "url":"http://www.zhihu.com/api/v4/people/1da75b85900e00adb072e91c56fd9149",
 "gender":-1
 ...
}

我们可以很清楚的看到有个id的字段,跟我们之前猜测的一样,私信里面的 receiver_hash 字段就是用户的id。

代码实现

到此我们把私信功能的思路理清楚了,代码实现就是水到渠成的事情了。

用户信息

为了得到私信接口需要的 receiver_hash 字典,我们先要获取用户信息,该信息里面含有用于的id值。

@need_login
def user(self, url_token):
 """
 获取用户信息,
 :param url_token:
 url_token 是用户主页url中后面部分
 例如: https://www.zhihu.com/people/xiaoxiaodouzi
 url_token 是 xiaoxiaodouzi
 :return:dict
 """
 response = self._session.get(URL.profile(url_token))
 return response.json()

发送私信

@need_login
def send_message(self, user_id, content):
 """
 给指定的用户发私信
 :param user_id: 用户ID
 :param content: 私信内容
 """
 data = {"type": "common", "content": content, "receiver_hash": user_id}
 response = self._session.post(URL.message(), json=data)
 data = response.json()
 if data.get("error"):
 self.logger.info("私信发送失败, %s" % data.get("error").get("message"))
 else:
 self.logger.info("发送成功")
 return data

上面两个方法放在一个叫Zhihu的类里面,我只列出了关键代码,涉及到的 @need_login 是一个用户认证的装饰器,表示该方法需要登录后才能操作。细心的你可能发现,每个请求中我并没有显示地指定 Header 字段,那时因为我把它放在 __init__.py 方法中初始化了。

def __init__(self):
 self._session = requests.session()
 self._session.verify = False
 self._session.headers = {"Host": "www.zhihu.com",
    "Referer": "https://www.zhihu.com/",
    'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_5) AppleWebKit/537.36'
      ' (KHTML, like Gecko) Chrome/56.0.2924.87',
    }
 self._session.cookies = cookiejar.LWPCookieJar(filename=cookie_filename)
 try:
 self._session.cookies.load(ignore_discard=True)
 except:
 pass

调用执行

from zhihu import Zhihu

if __name__ == '__main__':
 zhihu = Zhihu()
 profile = zhihu.user("xiaoxiaodouzi")
 _id = profile.get("id")
 zhihu.send_message(_id, "你好,这是来自Python之禅的问候")

执行完成后,小号成功收到我发送的私信。

python爬虫入门教程--利用requests构建知乎API(三)

最后,我们可以按照类似的思路把关注用户,点赞等功能实现了。

源码地址:https://github.com/lzjun567/zhihu-api 

在线下载:http://xiazai.3water.com/201705/yuanma/zhihu-api(3water.com).rar

总结

以上就是关于这篇文章的全部内容,希望本文的内容对大家学习或者使用python能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
python正则表达式抓取成语网站
Nov 20 Python
基于Python实现文件大小输出
Jan 11 Python
Python人脸识别初探
Dec 21 Python
手把手教你python实现SVM算法
Dec 27 Python
pandas按若干个列的组合条件筛选数据的方法
Apr 11 Python
python爬虫正则表达式之处理换行符
Jun 08 Python
python实现一组典型数据格式转换
Dec 15 Python
Python程序暂停的正常处理方法
Nov 07 Python
Pytorch 使用不同版本的cuda的方法步骤
Apr 02 Python
Python批量修改xml的坐标值全部转为整数的实例代码
Nov 26 Python
端午节将至,用Python爬取粽子数据并可视化,看看网友喜欢哪种粽子吧!
Jun 11 Python
Python之Matplotlib绘制热力图和面积图
Apr 13 Python
Python正则表达式完全指南
May 25 #Python
Tensorflow简单验证码识别应用
May 25 #Python
Python 编码Basic Auth使用方法简单实例
May 25 #Python
Python 含参构造函数实例详解
May 25 #Python
Python爬虫之模拟知乎登录的方法教程
May 25 #Python
python爬虫入门教程--优雅的HTTP库requests(二)
May 25 #Python
Python操作使用MySQL数据库的实例代码
May 25 #Python
You might like
ThinkPHP php 框架学习笔记
2009/10/30 PHP
PHP备份/还原MySQL数据库的代码
2011/01/06 PHP
php从数组中随机抽取一些元素的代码
2012/11/05 PHP
基于HBase Thrift接口的一些使用问题及相关注意事项的详解
2013/06/03 PHP
新浪微博OAuth认证和储存的主要过程详解
2015/03/27 PHP
php获取网站百度快照日期的方法
2015/07/29 PHP
CodeIgniter框架验证码类库文件与用法示例
2017/03/18 PHP
PHP编程快速实现数组去重的方法详解
2017/07/22 PHP
Laravel构建即时应用的一种实现方法详解
2017/08/31 PHP
Aster vs Newbee BO5 第三场2.19
2021/03/10 DOTA
基于jQuery判断两个元素是否有重叠部分的代码
2012/07/25 Javascript
Javascript表格翻页效果实现思路及代码
2013/08/23 Javascript
JS.GetAllChild(element,deep,condition)使用介绍
2013/09/21 Javascript
用javascript为页面添加天气显示实现思路及代码
2013/12/02 Javascript
node.js中的buffer.fill方法使用说明
2014/12/14 Javascript
png在IE6 下无法透明的解决方法汇总
2015/05/21 Javascript
Position属性之relative用法
2015/12/14 Javascript
jQuery 3.0 的 setter和getter 模式详解
2016/07/11 Javascript
微信小程序scroll-view实现横向滚动和上拉加载示例
2017/03/06 Javascript
elemetUi 组件--el-upload实现上传Excel文件的实例
2017/10/27 Javascript
Vue.set()实现数据动态响应的方法
2018/02/07 Javascript
vue中动态绑定表单元素的属性方法
2018/02/23 Javascript
JS实现遍历不规则多维数组的方法
2018/03/21 Javascript
原生js代码能实现call和bind吗
2019/07/31 Javascript
Python中Scrapy爬虫图片处理详解
2017/11/29 Python
numpy返回array中元素的index方法
2018/06/27 Python
opencv python Canny边缘提取实现过程解析
2020/02/03 Python
pycharm实现在虚拟环境中引入别人的项目
2020/03/09 Python
Python用来做Web开发的优势有哪些
2020/08/05 Python
python链表类中获取元素实例方法
2021/02/23 Python
项目经理聘任书
2014/03/29 职场文书
化学教育专业求职信
2014/07/08 职场文书
干部职工纪律作风整改措施思想汇报
2014/10/11 职场文书
行政处罚决定书
2015/06/24 职场文书
春季运动会加油词
2015/07/18 职场文书
SpringBoot连接MySQL获取数据写后端接口的操作方法
2021/11/02 MySQL