python抓取需要扫微信登陆页面


Posted in Python onApril 29, 2019

  一,抓取情况描述

1.抓取的页面需要登陆,以公司网页为例,登陆网址https://app-ticketsys.hezongyun.com/index.php ,(该网页登陆方式微信扫码登陆)

2.需要抓取的内容如下图所示:

需要提取

工单对应编号,如TK-2960

工单发起时间,如2018-08-17 11:12:13

工单标题内容,如设备故障

工单正文内容,如最红框所示

python抓取需要扫微信登陆页面

二,网页分析

1.按按Ctrl + Shift + I或者鼠标右键点击检查进入开发人员工具。

可以看到页面显示如下:

python抓取需要扫微信登陆页面

主要关注点如上图框住和划线处

首先点击网络,记住以下信息将用于代码修改处。

Resquest URL:https: //app-ticketsys.hezongyun.com/index.php/ticket/ticket_list/init这个是需要爬取页面的信息请求Menthod:GET饼干:用于需要登陆页面User-Agent:Mozilla / 5.0(Windows NT 10.0; Win64; x64)AppleWebKit / 537.36(KHTML,类似Gecko)Chrome / 67.0.3396.62 Safari / 537.36

记住以上信息后粗略了解网页树形结构用BeatifulSoup中SELEC怎么取出内容

示例:的H1M1一段代码如下:

html =“”“
<html> <head> <title>睡鼠的故事</ title> </ head>
<body>
<p class =”title“name =”dromouse“> <b>睡鼠的故事</ b > </ p>
<p class =“story”>从前有三个小姐妹;他们的名字是
<a href =“http://example.com/elsie”class =“sister”id =“ link1“> <! - Elsie - > </a>,
<a href="http://example.com/lacie" rel="external nofollow" class="sister" id="link2"> Lacie </a>和
<a href =“http://example.com/tillie”class =“sister”id =“link3”> Tillie </a>;
他们住在井底。</ p>
<p class =“story”> ... </ p>
“”“

如果我们喝汤得到了上面那段HTML的结构提取内容方法如下

1.通过标签名查找soup.select( '标题'),如需要取出含有一个标签的内容则soup.select( 'a')的

2.通过类名查找soup.select( 'CLASS_NAME ')如取出标题的内容则soup.select('。标题')

3.通过ID名字查找soup.select( '#ID_NAME')如取出ID = LINK2的内容则soup.select( '#LINK2')

上述元素名字可以利用左上角箭头取出,如下图

python抓取需要扫微信登陆页面

三,程序编写

# -*- coding:utf-8 -*-
import requests
import sys
import io
from bs4 import BeautifulSoup
import sys
import xlwt
import urllib,urllib2
import re
def get_text():
  #登录后才能访问的网页,这个就是我们在network里查看到的Request URL
  url = 'https://app-ticketsys.hezongyun.com/index.php/ticket/ticket_iframe/'
  #浏览器登录后得到的cookie,这个就是我们在network里查看到的Coockie
  cookie_str = r'ci_ticketsys_session=‘***********************************'
  #把cookie字符串处理成字典
  cookies = {}
  for line in cookie_str.split(';'):
    key, value = line.split('=', 1)
    cookies[key] = value
  #设置请求头
  headers = {'User-Agent':'Mozilla/5.0(Windows NT 10.0; Win64;x64)AppleWebKit/537.36 (KHTML, like Gecko)Chrome/67.0.3396.62 Safari/537.36'}
  #在发送get请求时带上请求头和cookies
  resp = requests.get(url, cookies = cookies,headers = headers)
  soup = BeautifulSoup(resp.text,"html.parser")
  print soup

上述代码就能得到登陆网页的HTML源码,这个源码呈一个树形结构,接下来针对需求我们提取需要的内容进行提取

我们需要工单号,对应时间,对应标题

python抓取需要扫微信登陆页面

按箭头点击到对应工单大块,可以查询到,所有的工单号,工单发起时间,工单标题均在<ul id =“ticket-list”>这个id下面

python抓取需要扫微信登陆页面

那么点开一个工单结构,例如工单号ID = “4427” 下面我们需要知道工单号,工单发起时间,工单内容可以看到

1.工单内容在H3标签下面

2.工单编号在类=“NUM”下面

3.工单发起时间在类= “时间” 下面

for soups in soup.select('#ticket-list'):
  if len(soups.select('h3'))>0:
    id_num = soups.select('.num')
    star_time = soups.select('.time')
    h3 = soups.select('h3')
    print id_num,start_time,h3

总结

以上所述是小编给大家介绍的python抓取需要扫微信登陆页面,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Python 相关文章推荐
在Python中实现贪婪排名算法的教程
Apr 17 Python
理解Python中的绝对路径和相对路径
Aug 30 Python
python3+PyQt5+Qt Designer实现堆叠窗口部件
Apr 20 Python
python批量修改ssh密码的实现
Aug 08 Python
使用python将最新的测试报告以附件的形式发到指定邮箱
Sep 20 Python
python 定义类时,实现内部方法的互相调用
Dec 25 Python
python PIL/cv2/base64相互转换实例
Jan 09 Python
Python使用uuid库生成唯一标识ID
Feb 12 Python
python用Configobj模块读取配置文件
Sep 26 Python
使用Python解析Chrome浏览器书签的示例
Nov 13 Python
Python爬虫数据的分类及json数据使用小结
Mar 29 Python
python读取pdf格式文档的实现代码
Apr 01 Python
python基于itchat模块实现微信防撤回
Apr 29 #Python
手把手教你使用Python创建微信机器人
Apr 29 #Python
python实现微信防撤回神器
Apr 29 #Python
python实现文件助手中查看微信撤回消息
Apr 29 #Python
Python实现微信消息防撤回功能的实例代码
Apr 29 #Python
python控制nao机器人身体动作实例详解
Apr 29 #Python
python实现nao机器人身体躯干和腿部动作操作
Apr 29 #Python
You might like
解决了Ajax、MySQL 和 Zend Framework 的乱码问题
2009/03/03 PHP
php 转换字符串编码 iconv与mb_convert_encoding的区别说明
2011/11/10 PHP
thinkPHP连接sqlite3数据库的实现方法(附Thinkphp代码生成器下载)
2016/05/27 PHP
php 静态属性和静态方法区别详解
2017/04/09 PHP
laravel框架添加数据,显示数据,返回成功值的方法
2019/10/11 PHP
JS实现仿中关村论坛评分后弹出提示效果的方法
2015/02/23 Javascript
javascript中clipboardData对象用法详解
2015/05/13 Javascript
JS控制TreeView的结点选择
2016/11/11 Javascript
Bootstrap的modal拖动效果
2016/12/25 Javascript
JavaScript制作简单的框选图表
2017/05/15 Javascript
JS 学习总结之正则表达式的懒惰性和贪婪性
2017/07/03 Javascript
JavaScript对JSON数组简单排序操作示例
2019/01/31 Javascript
[56:35]DOTA2上海特级锦标赛主赛事日 - 5 总决赛Liquid VS Secret第一局
2016/03/06 DOTA
python3制作捧腹网段子页爬虫
2017/02/12 Python
Linux下python3.6.1环境配置教程
2018/09/26 Python
设置python3为默认python的方法
2018/10/31 Python
浅谈tensorflow之内存暴涨问题
2020/02/05 Python
Tensorflow中tf.ConfigProto()的用法详解
2020/02/06 Python
python安装sklearn模块的方法详解
2020/11/28 Python
python自动从arxiv下载paper的示例代码
2020/12/05 Python
详解如何获取localStorage最大存储大小的方法
2020/05/21 HTML / CSS
丽笙酒店官方网站:Radisson Hotels
2019/05/07 全球购物
Shop Apotheke瑞士:您的健康与美容网上商店
2019/10/09 全球购物
如何将字串String转换成整数int
2015/02/21 面试题
反腐倡廉演讲稿
2014/05/22 职场文书
暑假安全教育广播稿
2014/09/10 职场文书
2014党员四风对照检查材料思想汇报
2014/09/17 职场文书
2014年出纳工作总结与计划
2014/12/09 职场文书
公务员政审材料范文
2014/12/23 职场文书
新闻稿标题
2015/07/18 职场文书
教师年度考核自我评鉴
2015/08/11 职场文书
2019年汽车租赁合同范本!
2019/08/12 职场文书
读《推着妈妈去旅行》有感1500字
2019/10/15 职场文书
《我在为谁工作》:工作的质量往往决定生活的质量
2019/12/27 职场文书
简单聊聊Golang中defer预计算参数
2022/03/25 Golang
详解flex:1什么意思
2022/07/23 HTML / CSS