详解Python如何批量采集京东商品数据流程


Posted in Python onJanuary 22, 2022

准备工作

驱动安装

实现案例之前,我们要先安装一个谷歌驱动,因为我们是使用selenium 操控谷歌驱动,然后操控浏览器实现自动操作的,模拟人的行为去操作浏览器。

以谷歌浏览器为例,打开浏览器看下我们自己的版本,然后下载跟自己浏览器版本一样或者最相近的版本,下载后解压一下,把解压好的插件放到我们的python环境里面,或者和代码放到一起也可以。

模块使用与介绍

  • selenium pip install selenium ,直接输入selenium的话是默认安装最新的,selenium后面加上版本号就是安装对应的的版本;
  • csv 内置模块,不需要安装,把数据保存到Excel表格用的;
  • time 内置模块,不需要安装,时间模块,主要用于延时等待;

流程解析

我们访问一个网站,要输入一个网址,所以代码也是这么写的。

首先导入模块

from selenium import webdriver

文件名或者包名不要命名为selenium,会导致无法导入。 webdriver可以认为是浏览器的驱动器,要驱动浏览器必须用到webdriver,支持多种浏览器。

实例化浏览器对象 ,我这里用的是谷歌,建议大家用谷歌,方便一点。

driver = webdriver.Chrome()

我们用get访问一个网址,自动打开网址。

driver.get('https://www.jd.com/')

运行一下

详解Python如何批量采集京东商品数据流程

打开网址后,以买口红为例。

我们首先要通过你想购买的商品关键字来搜索得到商品信息,用搜索结果去获取信息。

详解Python如何批量采集京东商品数据流程

那我们也要写一个输入,空白处点击右键,选择检查。

选择element 元素面板

详解Python如何批量采集京东商品数据流程

鼠标点击左边的箭头按钮,去点击搜索框,它就会直接定位到搜索标签。

详解Python如何批量采集京东商品数据流程

在标签上点击右键,选择copy,选择copy selector 。

详解Python如何批量采集京东商品数据流程

如果你是xpath ,就copy它的xpath 。

然后把我们想要搜索的内容写出来

driver.find_element_by_css_selector('#key').send_keys('口红')

再运行的时候,它就会自动打开浏览器进入目标网址搜索口红。

详解Python如何批量采集京东商品数据流程

同样的方法,找到搜索按钮进行点击。

driver.find_element_by_css_selector('.button').click()

再运行就会自动点击搜索了

页面搜索出来了,那么咱们正常浏览网页是要下拉网页对吧,咱们让它自动下拉就好了。 先导入time模块

import time

执行页面滚动的操作

def drop_down():
    """执行页面滚动的操作"""  # javascript
    for x in range(1, 12, 2):  # for循环下拉次数,取1 3 5 7 9 11, 在你不断的下拉过程中, 页面高度也会变的;
        time.sleep(1)
        j = x / 9  # 1/9  3/9  5/9  9/9
        # document.documentElement.scrollTop  指定滚动条的位置
        # document.documentElement.scrollHeight 获取浏览器页面的最大高度
        js = 'document.documentElement.scrollTop = document.documentElement.scrollHeight * %f' % j
        driver.execute_script(js)  # 执行我们JS代码

循环写好了,然后调用一下。

drop_down()

我们再给它来个延时

driver.implicitly_wait(10)

这是一个隐式等待,等待网页延时,网不好的话加载很慢。

隐式等待不是必须等十秒,在十秒内你的网络加载好后,它随时会加载,十秒后没加载出来的话才会强行加载。

还有另外一种死等的,你写的几秒就等几秒,相对没有那么人性化。

time.sleep(10)

加载完数据后我们需要去找商品数据来源

价格/标题/评价/封面/店铺等等

还是鼠标右键点击检查,在element ,点击小箭头去点击你想查看的数据。

可以看到都在li标签里面

详解Python如何批量采集京东商品数据流程

获取所有的 li 标签内容,还是一样的,直接copy 。

详解Python如何批量采集京东商品数据流程

在左下角就有了

详解Python如何批量采集京东商品数据流程

这里表示的是取的第一个,但是我们是要获取所有的标签,所以左边框框里 li 后面的可以删掉不要。

详解Python如何批量采集京东商品数据流程

不要的话,可以看到这里是60个商品数据,一页是60个。

详解Python如何批量采集京东商品数据流程

所以我们把剩下的复制过来, 用lis接收一下 。

lis = driver.find_elements_by_css_selector('#J_goodsList ul li')

因为我们是获取所有的标签数据,所以比之前多了一个s

详解Python如何批量采集京东商品数据流程

打印一下

print(lis)

通过lis返回数据 列表 [] 列表里面的元素 <> 对象

详解Python如何批量采集京东商品数据流程

遍历一下,把所有的元素拿出来。

for li in lis:

    title = li.find_element_by_css_selector('.p-name em').text.replace('\n', '')  # 商品标题 获取标签文本数据
    price = li.find_element_by_css_selector('.p-price strong i').text  # 价格
    commit = li.find_element_by_css_selector('.p-commit strong a').text  # 评论量
    shop_name = li.find_element_by_css_selector('.J_im_icon a').text  # 店铺名字
    href = li.find_element_by_css_selector('.p-img a').get_attribute('href')  # 商品详情页
    icons = li.find_elements_by_css_selector('.p-icons i')
    icon = ','.join([i.text for i in icons])  # 列表推导式  ','.join 以逗号把列表中的元素拼接成一个字符串数据
    dit = {
        '商品标题': title,
        '商品价格': price,
        '评论量': commit,
        '店铺名字': shop_name,
        '标签': icon,
        '商品详情页': href,
    }
    csv_writer.writerow(dit)
    print(title, price, commit, href, icon, sep=' | ')

搜索功能

key_world = input('请输入你想要获取商品数据: ')

详解Python如何批量采集京东商品数据流程

要获取的数据 ,获取到后保存CSV

f = open(f'京东{key_world}商品数据.csv', mode='a', encoding='utf-8', newline='')
csv_writer = csv.DictWriter(f, fieldnames=[
    '商品标题',
    '商品价格',
    '评论量',
    '店铺名字',
    '标签',
    '商品详情页',
])
csv_writer.writeheader()

然后再写一个自动翻页

for page in range(1, 11):
    print(f'正在爬取第{page}页的数据内容')
    time.sleep(1)
    drop_down()
    get_shop_info()  # 下载数据
    driver.find_element_by_css_selector('.pn-next').click()  # 点击下一页

完整代码

from selenium import webdriver
import time
import csv


def drop_down():
    """执行页面滚动的操作"""  
    for x in range(1, 12, 2):  
        time.sleep(1)
        j = x / 9  # 1/9  3/9  5/9  9/9
        # document.documentElement.scrollTop  指定滚动条的位置
        # document.documentElement.scrollHeight 获取浏览器页面的最大高度
        js = 'document.documentElement.scrollTop = document.documentElement.scrollHeight * %f' % j
        driver.execute_script(js)  # 执行JS代码


key_world = input('请输入你想要获取商品数据: ')

f = open(f'京东{key_world}商品数据.csv', mode='a', encoding='utf-8', newline='')
csv_writer = csv.DictWriter(f, fieldnames=[
    '商品标题',
    '商品价格',
    '评论量',
    '店铺名字',
    '标签',
    '商品详情页',
])
csv_writer.writeheader()

# 实例化一个浏览器对象

driver = webdriver.Chrome()
driver.get('https://www.jd.com/')  # 访问一个网址 打开浏览器 打开网址
# 通过css语法在element(元素面板)里面查找 #key 某个标签数据 输入一个关键词 口红
driver.find_element_by_css_selector('#key').send_keys(key_world)  # 找到输入框标签
driver.find_element_by_css_selector('.button').click()  # 找到搜索按钮 进行点击
# time.sleep(10) # 等待 
# driver.implicitly_wait(10)  # 隐式等待 

def get_shop_info():
    # 第一步 获取所有的li标签内容
    driver.implicitly_wait(10)
    lis = driver.find_elements_by_css_selector('#J_goodsList ul li')  # 获取多个标签
    # 返回数据 列表 [] 列表里面的元素 <> 对象
    # print(len(lis))
    for li in lis:

        title = li.find_element_by_css_selector('.p-name em').text.replace('\n', '')  # 商品标题 获取标签文本数据
        price = li.find_element_by_css_selector('.p-price strong i').text  # 价格
        commit = li.find_element_by_css_selector('.p-commit strong a').text  # 评论量
        shop_name = li.find_element_by_css_selector('.J_im_icon a').text  # 店铺名字
        href = li.find_element_by_css_selector('.p-img a').get_attribute('href')  # 商品详情页
        icons = li.find_elements_by_css_selector('.p-icons i')
        icon = ','.join([i.text for i in icons])  # 列表推导式  ','.join 以逗号把列表中的元素拼接成一个字符串数据
        dit = {
            '商品标题': title,
            '商品价格': price,
            '评论量': commit,
            '店铺名字': shop_name,
            '标签': icon,
            '商品详情页': href,
        }
        csv_writer.writerow(dit)
        print(title, price, commit, href, icon, sep=' | ')
        # print(href)


for page in range(1, 11):
    print(f'正在爬取第{page}页的数据内容')
    time.sleep(1)
    drop_down()
    get_shop_info()  # 下载数据
    driver.find_element_by_css_selector('.pn-next').click()  # 点击下一页

driver.quit()  # 关闭浏览器

效果展示

详解Python如何批量采集京东商品数据流程

详解Python如何批量采集京东商品数据流程

代码是没得问题的,大家可以去试试

到此这篇关于详解Python如何批量采集京东商品数据流程的文章就介绍到这了,更多相关Python 采集京东商品数据内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python实现的udp协议Server和Client代码实例
Jun 04 Python
使用python实现正则匹配检索远端FTP目录下的文件
Mar 25 Python
python数据类型_元组、字典常用操作方法(介绍)
May 30 Python
解决Python plt.savefig 保存图片时一片空白的问题
Jan 10 Python
Python实现的登录验证系统完整案例【基于搭建的MVC框架】
Apr 12 Python
python开启debug模式的方法
Jun 27 Python
python做反被爬保护的方法
Jul 01 Python
pytorch获取vgg16-feature层输出的例子
Aug 20 Python
python3常用的数据清洗方法(小结)
Oct 31 Python
python 实现提取log文件中的关键句子,并进行统计分析
Dec 24 Python
pytorch 使用加载训练好的模型做inference
Feb 20 Python
pycharm下pyqt4安装及环境配置的教程
Apr 24 Python
用Python实现屏幕截图详解
Jan 22 #Python
Python实现学生管理系统并生成exe可执行文件详解流程
Jan 22 #Python
django中websocket的具体使用
Jan 22 #Python
Django+Nginx+uWSGI 定时任务的实现方法
Jan 22 #Python
梳理总结Python开发中需要摒弃的18个坏习惯
Jan 22 #Python
Pandas搭配lambda组合使用详解
Jan 22 #Python
Python中的tkinter库简单案例详解
Jan 22 #Python
You might like
1.PHP简介
2006/10/09 PHP
PHP处理大量表单字段的便捷方法
2015/02/07 PHP
php实现根据词频生成tag云的方法
2015/04/17 PHP
PHP实现的方程求解示例分析
2016/11/11 PHP
微信公众平台开发-微信服务器IP接口实例(含源码)
2017/03/05 PHP
yii框架无限极分类的实现方法
2017/04/08 PHP
Javascript 事件流和事件绑定
2009/07/16 Javascript
js简易namespace管理器 实例代码
2013/06/21 Javascript
jQuery客户端分页实例代码
2013/11/18 Javascript
JS实现OCX控件的事件响应示例
2014/09/17 Javascript
JavaScript控制listbox列表框的项目上下移动的方法
2015/03/18 Javascript
深入分析Javascript跨域问题
2015/04/17 Javascript
Js与Jq 获取页面元素值的方法和差异对比
2015/04/30 Javascript
js实现具有高亮显示效果的多级菜单代码
2015/09/01 Javascript
JS中innerHTML和pasteHTML的区别实例分析
2016/06/22 Javascript
H5上传本地图片并预览功能
2017/05/08 Javascript
怎样在vue项目下添加ESLint的方法
2019/05/16 Javascript
[44:41]Fnatic vs Liquid 2018国际邀请赛小组赛BO2 第二场 8.16
2018/08/17 DOTA
Python中使用HTMLParser解析html实例
2015/02/08 Python
在Python中操作文件之seek()方法的使用教程
2015/05/24 Python
TensorFlow实现Softmax回归模型
2018/03/09 Python
手把手教你如何安装Pycharm(详细图文教程)
2018/11/28 Python
python使用adbapi实现MySQL数据库的异步存储
2019/03/19 Python
浅谈python 中类属性共享的问题
2019/07/02 Python
Python中bisect的用法及示例详解
2020/07/20 Python
Python3 用什么IDE开发工具比较好
2020/11/28 Python
Python 获取异常(Exception)信息的几种方法
2020/12/29 Python
Lampegiganten丹麦:欧洲领先的照明网上商店
2018/04/25 全球购物
SteelSeries赛睿官网:游戏外设和配件的领先制造商(耳机、键盘、鼠标和鼠标垫)
2018/06/17 全球购物
自我评价个人范文
2013/12/16 职场文书
加拿大留学自荐信
2014/01/28 职场文书
将相和教学反思
2014/02/04 职场文书
应届大专毕业生自我鉴定
2014/04/08 职场文书
医院安全生产月活动总结
2014/07/05 职场文书
什么是执行力?9个故事告诉您:成功绝非偶然!
2019/07/05 职场文书
Python中异常处理用法
2021/11/27 Python