python BeautifulSoup库的安装与使用


Posted in Python onDecember 17, 2020

1.BeautifulSoup简介

BeautifulSoup4和 lxml 一样,Beautiful Soup 也是一个HTML/XML的解析器,主要的功能也是如何解析和提取 HTML/XML 数据。

BeautifulSoup支持Python标准库中的HTML解析器,还支持一些第三方的解析器,如果我们不安装它,则 Python 会使用 Python默认的解析器,lxml 解析器更加强大,速度更快,推荐使用lxml 解析器。

Beautiful Soup自动将输入文档转换为Unicode编码,输出文档转换为utf-8编码。你不需要考虑编码方式,除非文档没有指定一个编码方式,这时,Beautiful Soup就不能自动识别编码方式了。然后,你仅仅需要说明一下原始编码方式就可以了。

2.BeautifulSoup的安装

首先我们需要安装一个BeautifulSoup库。我安装的版本是python3。所以就可以直接在cmd下用pip3命令进行安装。

命令:

pip3 install beautifulsoup4

在安装好BeautifulSoup后,我们可以通过导入该库来判断是否安装成功。

命令:

>>> from bs4 import BeautifulSoup

 回车后不报错,这说明我们已经将其安装成功。

3.BeautifulSoup常用功能

# beautiful soup 网页中提取信息的python库
#  BeautifulSoup 对象表示的是一个文档的全部内容
#  prettify() 按照标准的缩进格式的结构输出
#  get_text() 会将HTML文档中的所有标签清除,返回一个只包含文字的字符串
from bs4 import BeautifulSoup

text='''
<?xml version="1.0" encoding="ISO-8859-1"?>

<bookstore>

<book>
 <title lang="eng">Harry Potter</title>
 <price>29.99</price>
</book>

<book>
 <title lang="eng">Learning XML</title>
 <price>39.95</price>
</book>

</bookstore>
'''

# create 对象
bf=BeautifulSoup(text)

# 按照标准缩进格式输出
print(bf.prettify())
# 会将HTML文档中的所有标签清除,返回一个只包含文字的字符串
print(bf.get_text())

# Tag对象 
# 标签 表示HTML中的一个个标签
# name
# attrs

tag=bf.title # 获取title标签
print(tag)
print(type(tag)) # tag类型
print(tag.name) # 标签名称
print(tag.attrs) #标签属性
print(tag.attrs["lang"]) #单独获取某个属性 方法1
print(bf.title["lang"]) #单独获取某个属性 方法2

# NavigableString tag.string
# 表示标签中的文字
print(tag.string)
print(type(tag.string)) # 查看数据类型

# Comment 注释部分
# 一个特殊类型的NavigableString对象
# 输出的内容不包括注释符号
string='''
<p><!-- 这是注释! --></p>
'''
sp=BeautifulSoup(string)
print(sp)
print(sp.p.string) # 去获取标签中是文字
# 两个常用函数 


# find_all() 搜索当前tag的所有tag子节点,并判断是否符合给定的条件
# 返回结果是一个列,可以包含多个元素
print(soup.find_all('title'),end="\n-------\n")

#find() 直接返回第一个元素
print(soup.find("title"))

print(soup.find_all("title",lang="eng")) # 查找title标签 属性lang=eng
print(soup.find_all("title",{"lang":"eng"})) # 结果同上
print(soup.find_all(["title","price"])) #获取多个标签
print(soup.find_all("title",lang="eng")[0].get_text()) # 获取文本


# 三大常见节点
#  子节点 一个Tag可能包含多个字符串或其他的tag,这些都是这个tag的子节点
#  父节点 配个tag或字符串都有父节点:被包含在某个tag中
#  兄弟节点 平级的节点
end="\n-------\n"
print(soup.book,end) # 获取book节点信息
print(soup.book.contents,end) # 获取book下的所有子节点
print(soup.book.contents[1],end) # 获取book下的所有子节点中的第一个节点

print(soup.book.children,end) # children 生成迭代器
for child in soup.book.children:
  print("===",child)
  
print(soup.title.parent,end)
print(soup.book.parent,end)
for parent in soup.title.parents: #注意parent和parents区别
  print("===",parent.name)
  
print(soup.title.next_sibling,end) # 获取该节点的下一个兄弟节点
print(soup.title.previous_sibling,end) # 获取该节点的上一个兄弟节点
print(soup.title.next_siblings,end) # 获取该节点的全部兄弟节点
for i in soup.title.next_siblings: 
  print("===",i)

以上就是python BeautifulSoup库的安装与使用的详细内容,更多关于python BeautifulSoup库的资料请关注三水点靠木其它相关文章!

Python 相关文章推荐
Python采用raw_input读取输入值的方法
Aug 18 Python
python使用urlparse分析网址中域名的方法
Apr 15 Python
python黑魔法之编码转换
Jan 25 Python
centos6.7安装python2.7.11的具体方法
Jan 16 Python
对Python3中的print函数以及与python2的对比分析
May 02 Python
Python将一个Excel拆分为多个Excel
Nov 07 Python
Python匿名函数/排序函数/过滤函数/映射函数/递归/二分法
Jun 05 Python
pyhton中__pycache__文件夹的产生与作用详解
Nov 24 Python
python GUI库图形界面开发之PyQt5表格控件QTableView详细使用方法与实例
Mar 01 Python
详解python环境安装selenium和手动下载安装selenium的方法
Mar 17 Python
pandas中的ExcelWriter和ExcelFile的实现方法
Apr 24 Python
pytorch锁死在dataloader(训练时卡死)
May 28 Python
python中翻译功能translate模块实现方法
Dec 17 #Python
python中count函数知识点浅析
Dec 17 #Python
Python 使用SFTP和FTP实现对服务器的文件下载功能
Dec 17 #Python
python爬虫利器之requests库的用法(超全面的爬取网页案例)
Dec 17 #Python
python使用smtplib模块发送邮件
Dec 17 #Python
python实现计算器简易版
Dec 17 #Python
利用Python实现自动扫雷小脚本
Dec 17 #Python
You might like
php 模拟GMAIL,HOTMAIL(MSN),YAHOO,163,126邮箱登录的详细介绍
2013/06/18 PHP
PHP调用存储过程返回值不一致问题的解决方法分析
2016/04/26 PHP
PHP实现数组根据某个单元字段排序操作示例
2018/08/01 PHP
解决laravel5.4下的group by报错的问题
2019/10/16 PHP
php 使用ActiveMQ发送消息,与处理消息操作示例
2020/02/23 PHP
让js弹出窗口居前显示的实现方法
2013/07/10 Javascript
jquery获取当前点击对象的value方法
2014/02/28 Javascript
NodeJS学习笔记之FS文件模块
2015/01/13 NodeJs
jQuery中 prop() attr()使用详解
2015/05/19 Javascript
js实现的动画导航菜单效果代码
2015/09/10 Javascript
javascript闭包(Closure)用法实例简析
2015/11/30 Javascript
关于json字符串与实体之间的严格验证代码
2016/11/10 Javascript
原生js实现选项卡功能
2017/03/08 Javascript
Angular2 组件间通过@Input @Output通讯示例
2017/08/24 Javascript
解决vue-router中的query动态传参问题
2018/03/20 Javascript
解决bootstrap-select 动态加载数据不显示的问题
2018/08/10 Javascript
Vue2.0中三种常用传值方式(父传子、子传父、非父子组件传值)
2018/08/16 Javascript
vue element动态渲染、移除表单并添加验证的实现
2019/01/16 Javascript
JS前端知识点offset,scroll,client,冒泡,事件对象的应用整理总结
2019/06/27 Javascript
vue+elementUI(el-upload)图片压缩,默认同比例压缩操作
2020/08/10 Javascript
解决vue2中使用elementUi打包报错的问题
2020/09/22 Javascript
Python 模拟动态产生字母验证码图片功能
2019/12/24 Python
Python实现检测文件的MD5值来查找重复文件案例
2020/03/12 Python
Pytorch损失函数nn.NLLLoss2d()用法说明
2020/07/07 Python
Python持续监听文件变化代码实例
2020/07/22 Python
Java byte数组操纵方式代码实例解析
2020/07/22 Python
北欧最好的童装网上商店:Babyshop
2019/09/15 全球购物
高等教育学专业自荐书
2014/06/17 职场文书
小学老师对学生的评语
2014/12/29 职场文书
美丽人生观后感
2015/06/03 职场文书
银行岗位培训心得体会
2016/01/09 职场文书
css position fixed 左右双定位的实现代码
2021/04/29 HTML / CSS
React 高阶组件HOC用法归纳
2021/06/13 Javascript
Django路由层如何获取正确的url
2021/07/15 Python
利用uni-app生成微信小程序的踩坑记录
2022/04/05 Javascript
CentOS7安装GlusterFS集群以及相关配置
2022/04/12 Servers