Python爬虫实现(伪)球迷速成


Posted in Python onJune 10, 2018

Python爬虫实现(伪)球迷速成

还有4天就世界杯了,作为一个资深(伪)球迷,必须要实时关注世界杯相关新闻,了解各个球队动态,这样才能在一堆球迷中如(大)鱼(吹)得(特)水(吹),迎接大家仰慕的目光!

给大家分享一个快速了解相关信息的办法:刷论坛!我们来一起做个虎扑论坛的爬虫吧!

抓包获取虎扑论坛相关帖子内容,逐条显示!

先来观察下网页,打开论坛首页,选择国际足球

Python爬虫实现(伪)球迷速成

然后往下拉,找到世界杯相关内容

Python爬虫实现(伪)球迷速成 

这里就是我们的目标了,所有相关的新闻都会在这里显示,用F12打开“开发者工具”然后往下浏览看看数据包

Python爬虫实现(伪)球迷速成

注意箭头指向的那几个地方!

这就是刚才浏览的新闻所在的json包,来看看具体数据是什么

Python爬虫实现(伪)球迷速成

ok,标题、地址、发布时间包括来源都已经出现了!我们可以直接抓取json数据然后取出相关内容!

再进入具体新闻页面看看

世界杯快到了,看我用Python爬虫实现(伪)球迷速成! 

所有的文本内容,都在<div class="artical-main-content">这个标签下的<p></p>标签内,我们可以用xpath直接取div下的所有文本内容!

这里就不一 一说明了,直接上代码,并录个小的GIF图片给大家看看效果

#Q群542110741
# -*- coding:utf-8 -*-
import requests
from lxml import etree

header = {
  'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:60.0) Gecko/20100101 Firefox/60.0',
  'Host':'soccer.hupu.com',
  'Referer':'https://soccer.hupu.com/'}
i = 0
while 1:
  #构建循环页面翻页
  url = 'https://soccer.hupu.com/home/latest-news?league=世界杯&page='
  i += 1
  #获取json数据,一页20个
  html = requests.get(url+str(i),headers=header).json()['result']
  for info in html:
    time_r = info['time']#发布时间
    title = info['title']#标题
    url_r = info['url']#新闻链接
    origin = info['origin']#来源
    print(title)
    print('发布时间:',time_r,' '*5,'来自:',origin)
    head = header
    head['Host'] = 'voice.hupu.com'#更改header中Host参数
    html_r = requests.get(url_r,headers=head)#获取新闻详情
    html_r.encoding = 'utf-8'#编码格式指定
    #获取div下的所有文本
    datas = etree.HTML(html_r.text).xpath('//div[@class="artical-content-read"]')[0].xpath('string(.)').strip()
    print('\n'+'内容:'+'\n'*2,datas,'\n')
    #可由用户手动退出循环
    if input('任意键继续,“q”退出') in ['q', 'Q']:
      exit()

总结

以上所述是小编给大家介绍的Python爬虫实现(伪)球迷速成,希望对大家有所帮助,如果大家有任何疑问欢迎给我留言,小编会及时回复大家的!

Python 相关文章推荐
跟老齐学Python之玩转字符串(2)更新篇
Sep 28 Python
qpython3 读取安卓lastpass Cookies
Jun 19 Python
python装饰器初探(推荐)
Jul 21 Python
Python错误: SyntaxError: Non-ASCII character解决办法
Jun 08 Python
解决pycharm下os.system执行命令返回有中文乱码的问题
Jul 07 Python
Python使用scipy模块实现一维卷积运算示例
Sep 05 Python
Python3安装pip工具的详细步骤
Oct 14 Python
python 普通克里金(Kriging)法的实现
Dec 19 Python
Pytest参数化parametrize使用代码实例
Feb 22 Python
jupyter notebook读取/导出文件/图片实例
Apr 16 Python
简单了解Django项目应用创建过程
Jul 06 Python
把Anaconda中的环境导入到Pycharm里面的方法步骤
Oct 30 Python
python利用微信公众号实现报警功能
Jun 10 #Python
Python if语句知识点用法总结
Jun 10 #Python
Python continue继续循环用法总结
Jun 10 #Python
Python求解任意闭区间的所有素数
Jun 10 #Python
Python学习小技巧总结
Jun 10 #Python
python计算两个地址之间的距离方法
Jun 09 #Python
python 对dataframe下面的值进行大规模赋值方法
Jun 09 #Python
You might like
Look And Say 序列php实现代码
2011/05/22 PHP
深入array multisort排序原理的详解
2013/06/18 PHP
Javascript 判断函数类型完美解决方案
2009/09/02 Javascript
js 事件处理函数间的Event物件是否全等
2011/04/08 Javascript
JavaScript在XHTML中的用法详解
2013/04/11 Javascript
JS实现固定在右下角可展开收缩DIV层的方法
2015/02/13 Javascript
JavaScript获取URL汇总
2015/06/08 Javascript
异步安全加载javascript文件的方法
2015/07/21 Javascript
js实现input密码框提示信息的方法(附html5实现方法)
2016/01/14 Javascript
JavaScript实现Base64编码转换
2016/04/23 Javascript
js实现StringBuffer的简单实例
2016/09/02 Javascript
老生常谈jacascript DOM节点获取
2017/04/17 Javascript
Vue混入mixins滚动触底的方法
2019/11/22 Javascript
跟老齐学Python之集合的关系
2014/09/24 Python
linux环境下python中MySQLdb模块的安装方法
2017/06/16 Python
Python使用文件锁实现进程间同步功能【基于fcntl模块】
2017/10/16 Python
网红编程语言Python将纳入高考你怎么看?
2018/06/07 Python
Python hashlib加密模块常用方法解析
2019/12/18 Python
keras 使用Lambda 快速新建层 添加多个参数操作
2020/06/10 Python
keras 指定程序在某块卡上训练实例
2020/06/22 Python
澳大利亚牛仔裤商店:Just Jeans
2016/10/13 全球购物
英国时尚服饰电商:Boohoo
2017/10/12 全球购物
俄罗斯玩具、儿童用品、儿童服装和鞋子网上商店:MyToys.ru
2019/10/14 全球购物
Stokke美国官方网店:高级儿童家具、推车、汽车座椅和配件
2020/06/06 全球购物
创业计划实施的7大步骤
2014/02/05 职场文书
《灯光》教学反思
2014/02/08 职场文书
老同学聚会感言
2014/02/23 职场文书
后勤主管岗位职责
2014/03/01 职场文书
毕业生就业推荐表自我评价
2015/03/02 职场文书
财务总监岗位职责范本
2015/04/03 职场文书
超市食品安全承诺书
2015/04/29 职场文书
火锅店的开业营销方案范本!
2019/07/05 职场文书
导游词之长城八达岭
2019/09/24 职场文书
Windows和Linux上部署Golang并运行程序
2022/04/22 Servers
SQL Server #{}可以防止SQL注入
2022/05/11 SQL Server
Linux磁盘管理方法介绍
2022/06/01 Servers