python爬虫入门教程--利用requests构建知乎API(三)


Posted in Python onMay 25, 2017

前言

在爬虫系列文章 优雅的HTTP库requests 中介绍了 requests 的使用方式,这一次我们用 requests 构建一个知乎 API,功能包括:私信发送、文章点赞、用户关注等,因为任何涉及用户操作的功能都需要登录后才操作,所以在阅读这篇文章前建议先了解Python模拟知乎登录 。现在假设你已经知道如何用 requests 模拟知乎登录了。

思路分析

发送私信的过程就是浏览器向服务器发送一个 HTTP 请求,请求报文包括请求 URL、请求头 Header、还有请求体 Body,只要把这些信息弄清楚,那么就很容易用 requests 来模拟浏览器发送私信了。

打开 Chrome 浏览器,随便找一个用户,点击发送私信,追踪一下私信的网络请求过程。

先看下请求头信息

python爬虫入门教程--利用requests构建知乎API(三)

请求头 Header 中有 cookies 登录信息,此外还有一个 authorization 字段,该字段是用于用户认证的,同时这个字段也存在 cookies 中(为了防止 cookie 信息泄露,我打了马赛克), requests 请求时这些信息都必须携带上。

再来看看请求的URL和请求体

python爬虫入门教程--利用requests构建知乎API(三)

请求URL是 https://www.zhihu.com/api/v4/messages ,请求方法是 POST,请求体

{"type":"common","content":"你好,我是pythoner","receiver_hash":"1da75b85900e00adb072e91c56fd9149"}

请求体是一个 json 字符串,type 和 content 很好理解,但 receiver_hash 是什么并不知道,需要进一步确定,不过你应该猜得出这是类似于用户 id 的字段。

那么现在问题来了,如何通过用户主页的URL找到用户的 id 呢?为了完整的模拟私信的整个流程,我特地注册了一个知乎小号。

如果你手头没有多余的手机号,可以用 Google 搜「receive sms online」,网上很多提供免费在线接收短信的手机号码,我注册的小号主页:https://www.zhihu.com/people/xiaoxiaodouzi

先尝试关注小号,然后在我关注的列表中找到该小号,把鼠标移到小号的头像处时,发现有一个 HTTP 网络请求。

python爬虫入门教程--利用requests构建知乎API(三)

请求 url 是 https://www.zhihu.com/api/v4/members/xiaoxiaodouzi ,这个URL的后面部分「xiaoxiaodouzi」对应小号主页URL的后面部分,这部分我们称之为 url_token。

接口的返回数据是该用户的个人公开信息。

{ 
 ...
 "id":"1da75b85900e00adb072e91c56fd9149",
 "favorite_count":0,
 "voteup_count":0,
 "commercial_question_count":0,
 "url_token":"xiaoxiaodouzi",
 "type":"people",
 "avatar_url":"https://pic1.zhimg.com/v2-ca13758626bd7367febde704c66249ec_is.jpg",
 "is_active":1492224390,
 "name":"\u6211\u662f\u5c0f\u53f7",
 "url":"http://www.zhihu.com/api/v4/people/1da75b85900e00adb072e91c56fd9149",
 "gender":-1
 ...
}

我们可以很清楚的看到有个id的字段,跟我们之前猜测的一样,私信里面的 receiver_hash 字段就是用户的id。

代码实现

到此我们把私信功能的思路理清楚了,代码实现就是水到渠成的事情了。

用户信息

为了得到私信接口需要的 receiver_hash 字典,我们先要获取用户信息,该信息里面含有用于的id值。

@need_login
def user(self, url_token):
 """
 获取用户信息,
 :param url_token:
 url_token 是用户主页url中后面部分
 例如: https://www.zhihu.com/people/xiaoxiaodouzi
 url_token 是 xiaoxiaodouzi
 :return:dict
 """
 response = self._session.get(URL.profile(url_token))
 return response.json()

发送私信

@need_login
def send_message(self, user_id, content):
 """
 给指定的用户发私信
 :param user_id: 用户ID
 :param content: 私信内容
 """
 data = {"type": "common", "content": content, "receiver_hash": user_id}
 response = self._session.post(URL.message(), json=data)
 data = response.json()
 if data.get("error"):
 self.logger.info("私信发送失败, %s" % data.get("error").get("message"))
 else:
 self.logger.info("发送成功")
 return data

上面两个方法放在一个叫Zhihu的类里面,我只列出了关键代码,涉及到的 @need_login 是一个用户认证的装饰器,表示该方法需要登录后才能操作。细心的你可能发现,每个请求中我并没有显示地指定 Header 字段,那时因为我把它放在 __init__.py 方法中初始化了。

def __init__(self):
 self._session = requests.session()
 self._session.verify = False
 self._session.headers = {"Host": "www.zhihu.com",
    "Referer": "https://www.zhihu.com/",
    'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_5) AppleWebKit/537.36'
      ' (KHTML, like Gecko) Chrome/56.0.2924.87',
    }
 self._session.cookies = cookiejar.LWPCookieJar(filename=cookie_filename)
 try:
 self._session.cookies.load(ignore_discard=True)
 except:
 pass

调用执行

from zhihu import Zhihu

if __name__ == '__main__':
 zhihu = Zhihu()
 profile = zhihu.user("xiaoxiaodouzi")
 _id = profile.get("id")
 zhihu.send_message(_id, "你好,这是来自Python之禅的问候")

执行完成后,小号成功收到我发送的私信。

python爬虫入门教程--利用requests构建知乎API(三)

最后,我们可以按照类似的思路把关注用户,点赞等功能实现了。

源码地址:https://github.com/lzjun567/zhihu-api 

在线下载:http://xiazai.3water.com/201705/yuanma/zhihu-api(3water.com).rar

总结

以上就是关于这篇文章的全部内容,希望本文的内容对大家学习或者使用python能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
Python使用scrapy采集时伪装成HTTP/1.1的方法
Apr 08 Python
在Python中使用判断语句和循环的教程
Apr 25 Python
举例讲解Python设计模式编程的代理模式与抽象工厂模式
Jan 16 Python
Python 读取指定文件夹下的所有图像方法
Apr 27 Python
Python 实现网页自动截图的示例讲解
May 17 Python
Pycharm导入Python包,模块的图文教程
Jun 13 Python
对python字典元素的添加与修改方法详解
Jul 06 Python
使用Python生成200个激活码的实现方法
Nov 22 Python
Python调用graphviz绘制结构化图形网络示例
Nov 22 Python
Python 使用 prettytable 库打印表格美化输出功能
Dec 26 Python
PYcharm 激活方法(推荐)
Mar 23 Python
python opencv 实现读取、显示、写入图像的方法
Jun 08 Python
Python正则表达式完全指南
May 25 #Python
Tensorflow简单验证码识别应用
May 25 #Python
Python 编码Basic Auth使用方法简单实例
May 25 #Python
Python 含参构造函数实例详解
May 25 #Python
Python爬虫之模拟知乎登录的方法教程
May 25 #Python
python爬虫入门教程--优雅的HTTP库requests(二)
May 25 #Python
Python操作使用MySQL数据库的实例代码
May 25 #Python
You might like
实现web打印的各种方法介绍及实现代码
2013/01/09 Javascript
js+css实现的简单易用兼容好的分页
2013/12/30 Javascript
Html5的placeholder属性(IE兼容)实现代码
2014/08/30 Javascript
简单谈谈javascript中的变量、作用域和内存问题
2015/08/30 Javascript
每个程序员都需要学习 JavaScript 的7个理由小结
2016/09/03 Javascript
微信小程序 input输入框控件详解及实例(多种示例)
2016/12/14 Javascript
jQuery插件autocomplete使用详解
2017/02/04 Javascript
vue.js中mint-ui框架的使用方法
2017/05/12 Javascript
Angular 表单控件示例代码
2017/06/26 Javascript
基于AngularJS的简单使用详解
2017/09/10 Javascript
layer实现关闭弹出层刷新父界面功能详解
2017/11/15 Javascript
php 解压zip压缩包内容到指定目录的实例
2018/01/23 Javascript
layui使用templet格式化表格数据的方法
2019/09/16 Javascript
bootstrap实现tab选项卡切换
2020/08/09 Javascript
Python随机数random模块使用指南
2016/09/09 Python
Python的语言类型(详解)
2017/06/24 Python
详解Python字典的操作
2019/03/04 Python
python实现共轭梯度法
2019/07/03 Python
Pytorch的mean和std调查实例
2020/01/02 Python
利用Python的folium包绘制城市道路图的实现示例
2020/08/24 Python
工程师必须了解的LRU缓存淘汰算法以及python实现过程
2020/10/15 Python
亚马逊印度站:Amazon.in
2017/10/15 全球购物
研究生毕业鉴定
2014/01/29 职场文书
《最后的姿势》教学反思
2014/02/27 职场文书
安全生产管理合理化建议书
2014/03/12 职场文书
食品采购员岗位职责
2014/04/14 职场文书
护士医德医风自我评价
2014/09/15 职场文书
解除劳动合同协议书(样本)
2014/10/02 职场文书
群众路线剖析材料怎么写
2014/10/09 职场文书
处罚决定书范文
2015/06/24 职场文书
外出考察学习心得体会
2016/01/18 职场文书
初二英语教学反思
2016/02/15 职场文书
2019年大学生职业生涯规划书
2019/03/25 职场文书
如何利用STAR法则制作留学文书?
2019/08/26 职场文书
python中opencv实现图片文本倾斜校正
2021/06/11 Python
手把手教你使用TensorFlow2实现RNN
2021/07/15 Python