python3写爬取B站视频弹幕功能


Posted in Python onDecember 22, 2017

需要准备的环境:

一个B站账号,需要先登录,否则不能查看历史弹幕记录

联网的电脑和顺手的浏览器,我用的Chrome

Python3环境以及request模块,安装使用命令,换源比较快:

pip3 install request -i http://pypi.douban.com/simple

爬取步骤: 登录后打开需要爬取的视频页面,打开开发者工具台,Chrome可以使用F12快捷键,选择network监听请求

python3写爬取B站视频弹幕功能 

点击查看历史弹幕,获取请求

python3写爬取B站视频弹幕功能

python3写爬取B站视频弹幕功能

其中rolldate后面的数字表示该视频对应的弹幕号,返回的数据中timestamp表示弹幕日期,new表示数目

python3写爬取B站视频弹幕功能

在查看历史弹幕中任选一天,查看,会发出新的请求

dmroll ,时间戳,弹幕号,表示获取该日期的弹幕,1507564800 表示2017/10/10 0:0:0

python3写爬取B站视频弹幕功能

python3写爬取B站视频弹幕功能

该请求返回xml数据

python3写爬取B站视频弹幕功能

使用正则表达式获取所有弹幕消息,匹配模式

'<d p=".*?">(.*?)</d>'

拼接字符串,将所有弹幕保存到本地文件即可

with open('content.txt', mode='w+', encoding='utf8') as f:  f.write(content)

参考代码如下,将弹幕按照日期保存为单个文件...因为太多了...

import requests
import re
import time
"""
  爬取哔哩哔哩视频弹幕信息
"""
# 2043618 是视频的弹幕标号,这个地址会返回时间列表
# https://www.bilibili.com/video/av1349282
url = 'https://comment.bilibili.com/rolldate,2043618'
# 获取弹幕的id 2043618
video_id = url.split(',')[-1]
print(video_id)
# 获取json文件
html = requests.get(url)
# print(html.json())
# 生成时间戳列表
time_list = [i['timestamp'] for i in html.json()]
# print(time_list)
# 获取弹幕网址格式 'https://comment.bilibili.com/dmroll,时间戳,弹幕号'
# 弹幕内容,由于总弹幕量太大,将每个弹幕文件分别保存
for i in time_list:
  content = ''
  j = 'https://comment.bilibili.com/dmroll,{0},{1}'.format(i, video_id)
  print(j)
  text = requests.get(j).text
  # 匹配弹幕内容
  res = re.findall('<d p=".*?">(.*?)</d>', text)
  # 将时间戳转化为日期形式,需要把字符串转为整数
  timeArray = time.localtime(int(i))
  date_time = time.strftime("%Y-%m-%d %H:%M:%S", timeArray)
  print(date_time)
  content += date_time + '\n'
  for k in res:
    content += k + '\n'
  content += '\n'
  file_path = 'txt/{}.txt'.format(time.strftime("%Y_%m_%d", timeArray))
  print(file_path)
  with open(file_path, mode='w+', encoding='utf8') as f:
    f.write(content)

最终效果

python3写爬取B站视频弹幕功能

python3写爬取B站视频弹幕功能

之后可以 做一些分词生成词云或者进行情感分析,有时间在说吧....

大家可以在下方给小编留言你学习的心得,也感谢你对三水点靠木的支持。

Python 相关文章推荐
python保存字符串到文件的方法
Jul 01 Python
详解Python的Django框架中manage命令的使用与扩展
Apr 11 Python
python仿抖音表白神器
Apr 08 Python
python+openCV调用摄像头拍摄和处理图片的实现
Aug 06 Python
Linux下通过python获取本机ip方法示例
Sep 06 Python
Python3 实现减少可调用对象的参数个数
Dec 20 Python
PyTorch中permute的用法详解
Dec 30 Python
Python @property原理解析和用法实例
Feb 11 Python
Python dict和defaultdict使用实例解析
Mar 12 Python
python文件读取失败怎么处理
Jun 23 Python
Python getattr()函数使用方法代码实例
Aug 10 Python
解决Python3.8运行tornado项目报NotImplementedError错误
Sep 02 Python
机器学习经典算法-logistic回归代码详解
Dec 22 #Python
利用python将xml文件解析成html文件的实现方法
Dec 22 #Python
python实现数据预处理之填充缺失值的示例
Dec 22 #Python
NetworkX之Prim算法(实例讲解)
Dec 22 #Python
Python实现控制台中的进度条功能代码
Dec 22 #Python
Python中的探索性数据分析(功能式)
Dec 22 #Python
Python反射用法实例简析
Dec 22 #Python
You might like
php 获取百度的热词数据的代码
2012/02/18 PHP
使用php判断服务器是否支持Gzip压缩功能
2013/09/24 PHP
PHP中子类重载父类的方法【parent::方法名】
2016/05/06 PHP
ucenter中词语过滤原理分析
2016/07/13 PHP
深入理解 PHP7 中全新的 zval 容器和引用计数机制
2018/10/15 PHP
JS类中定义原型方法的两种实现的区别
2007/03/08 Javascript
用jscript实现列出安装的软件列表
2007/06/18 Javascript
jQuery中slidedown与slideup方法用法示例
2016/09/16 Javascript
Javascript数组中push方法用法分析
2016/10/31 Javascript
DataTables+BootStrap组合使用Ajax来获取数据并且动态加载dom的方法(排序,过滤,分页等)
2016/11/09 Javascript
基于NodeJS+MongoDB+AngularJS+Bootstrap开发书店案例分析
2017/01/12 NodeJs
jsTree事件和交互以及插件plugins详解
2017/08/29 Javascript
Vue+Element-U实现分页显示效果
2020/11/15 Javascript
Vue实现简易购物车页面
2020/12/30 Vue.js
安装ElasticSearch搜索工具并配置Python驱动的方法
2015/12/22 Python
python调用OpenCV实现人脸识别功能
2018/05/25 Python
python实现随机漫步算法
2018/08/27 Python
python用类实现文章敏感词的过滤方法示例
2019/10/27 Python
python实现回旋矩阵方式(旋转矩阵)
2019/12/04 Python
Python+OpenCV+图片旋转并用原底色填充新四角的例子
2019/12/12 Python
TensorFlow tf.nn.max_pool实现池化操作方式
2020/01/04 Python
tensorflow之并行读入数据详解
2020/02/05 Python
python如何支持并发方法详解
2020/07/25 Python
python实现b站直播自动发送弹幕功能
2021/02/20 Python
Django中的DateTimeField和DateField实现
2021/02/24 Python
夏洛特和乔治婴儿和儿童时装精品店:Charlotte and George
2018/06/06 全球购物
纽约香氛品牌:NEST Fragrance
2018/10/15 全球购物
用你熟悉的语言写一个连接ORACLE数据库的程序,能够完成修改和查询工作
2012/06/11 面试题
一年级班主任感言
2014/03/08 职场文书
创建精神文明单位实施方案
2014/03/08 职场文书
爱国主义教育演讲稿
2014/08/26 职场文书
解决SpringBoot文件上传临时目录找不到的问题
2021/07/01 Java/Android
Win11应用商店打开闪退怎么解决? win11应用商店打不开的多种解决办法
2022/04/05 数码科技
Python PIL按比例裁剪图片
2022/05/11 Python
使用CSS实现黑白格背景效果
2022/06/01 HTML / CSS
Android实现获取短信验证码并自动填充
2023/05/21 Java/Android