Python爬虫数据的分类及json数据使用小结


Posted in Python onMarch 29, 2021

数据的结构化分类

一般来讲对我们而言,需要抓取的是某个网站或者某个应用的内容,提取有用的价值。内容一般分为三部分,结构化的数据、半结构化的数据和非机构化数据。

1.结构化数据:
可以用统一的结构加以表示的数据。可以使用关系型数据库表示和存储,表现为二维形式的数据,一般特点是:数据以行为单位,一行数据表示一个实体的信息,每一行的数据的属性是相同的。

2.半结构化数据:
结构化数据的一种形式,并不符合关系型数据库或其他数据表的形式关联起来的数据模型结构,但包含相关标记,用来分隔语义元素以及对记录和字段进行分层。因此他也被成为自描述的结构。常见的半结构数据有:html,xml和json等、实际上是以树或者图的结构来存储的。

对于半结构化数据,节点中属性的顺序是不重要的,不同的半结构化数据的属性的个数是不一样的。这样的数据格式,可以自由的表达很多有用的信息,包含自描述信息。所以半结构化数据的扩展性很好,特别适合于在互联网中大规模传播。

3.非结构化数据
就是没有固定的结构。各种文档,图片,视频或者音频都属于非结构化数据。对于这类数据,我们一般直接整体进行存储,而且一般存储为二进制形式。

json数据

json(JavaScript Object Notation,JS对象标记)是一种轻量级的数据交换格式。他基于ECMAScript(w3c制定的JS规范)的一个子集,采用完全独立于编程语言的文本格式来存储和表示数据。简介和清晰的层次结构使得JSON成为理想的数据交换语言。

特点:易于阅读、易于机器生成、有效提升网络速度。
JSON语法规则:在JS语言中,一切都是对象。因此,任何支持的类型都可以通过json来表示。例如字符串、数字,对象,数组。

Js中对象和数组是比较特殊并且常用的两种类型:

  1. 对象表示为键值对{name:'zhangsan',age:'7'}
  2. 数据有逗号分隔[1,2,3,4,5]
  3. 花括号保存对象
  4. 方括号保存数组。

js的对象就相当于python中的字典
js的数组就相当于Python中的列表
因为json用来存储js的对象或者数组,所以在Python中我们可以将json转化为list或者dict。

解析json的包json:

json.dumps(python的list或者dict)---->(返回值)---->json字符串。
json.loads(json字符串)------>(返回值)----->python的list或者dict.

json.dump(list/dict,fp)—>list,或者字典保存到json文件中。
json.load(fp)—>list/dict:从json文件中读出json数据。

json键值对是用来保存js对象的一种方式,和js对象的写法页大同小异,比如:
{“firstName”:“Json”,“Class”:“aid1111”}等价于下面这条js语句:{firstName:“Json”,Class:“aid1111”}。

很多人搞不清楚json和js对象的关系,甚至谁是谁都不清楚。其实可以这么理解:
【JSON是JS对象的字符串表达式,他使用文本形式表示一个JS对象的信息,本质是一个字符串。】

如var obj = {a:“hello”,b:“World”}这是一个js对象。注意,键名也是可以用引号包裹的var json = ' {“a”:“hello”,“b”:“World”}'这是一个json字符串,本质上是一个字符串。

JSON作为数据包格式传输的时候具有更高的效率,这是因为JSON不想xml那样具有严格的闭合标签,这就让有效数据量与总数据包比大大提升,从而减少同等数据流量的情况下,网络的传输的压力大大减低。

Python 相关文章推荐
Python多线程实例教程
Sep 06 Python
简单的Python的curses库使用教程
Apr 11 Python
python fabric使用笔记
May 09 Python
Python中type的构造函数参数含义说明
Jun 21 Python
python&MongoDB爬取图书馆借阅记录
Feb 05 Python
简单谈谈Python中的闭包
Nov 30 Python
python实现自主查询实时天气
Jun 22 Python
Python使用指定端口进行http请求的例子
Jul 25 Python
Python 实现一个手机号码获取妹子名字的功能
Sep 25 Python
利用python绘制数据曲线图的实现
Apr 09 Python
python实现人脸签到系统
Apr 13 Python
python 日志模块logging的使用场景及示例
Jan 04 Python
python re模块和正则表达式
Mar 24 #Python
opencv实现图像几何变换
PyQt QMainWindow的使用示例
Mar 24 #Python
PyQt 如何创建自定义QWidget
Mar 24 #Python
解决python 输出到csv 出现多空行的情况
opencv实现图像平移效果
python+selenium小米商城红米K40手机自动抢购的示例代码
You might like
php引用地址改变变量值的问题
2012/03/23 PHP
Apache下禁止php文件被直接访问的解决方案
2013/04/25 PHP
九个你必须知道而且又很好用的php函数和特点
2013/08/08 PHP
PHP生成等比缩略图类和自定义函数分享
2014/06/25 PHP
destoon文章模块调用企业会员资料的方法
2014/08/22 PHP
JavaScript 设计模式之组合模式解析
2010/04/09 Javascript
jquery属性选择器not has怎么写 行悬停高亮显示
2013/11/13 Javascript
jQuery基于当前元素进行下一步的遍历
2014/05/20 Javascript
JavaScript汉诺塔问题解决方法
2015/04/21 Javascript
JS+CSS实现仿雅虎另类滑动门切换效果
2015/10/13 Javascript
js图片轮播手动切换效果
2015/11/10 Javascript
jQuery插件实现表格隔行变色及鼠标滑过高亮显示效果代码
2016/02/25 Javascript
animate 实现滑动切换效果【实例代码】
2016/05/05 Javascript
jQuery基于正则表达式的表单验证功能示例
2017/01/21 Javascript
vue 弹窗时 监听手机返回键关闭弹窗功能(页面不跳转)
2019/05/10 Javascript
微信小程序sessionid不一致问题解决
2019/08/30 Javascript
vue实现导航菜单和编辑文本的示例代码
2020/07/04 Javascript
[54:51]Ti4 冒泡赛第二轮LGD vs C9 3
2014/07/14 DOTA
[07:54]DOTA2 MV《我的动力鞋》 ImbaTV 出品
2014/11/21 DOTA
[59:48]DOTA2-DPC中国联赛 正赛 VG vs Magma BO3 第一场 1月26日
2021/03/11 DOTA
Python标准库inspect的具体使用方法
2017/12/06 Python
Python cookbook(数据结构与算法)对切片命名清除索引的方法
2018/03/13 Python
Python爬虫的两套解析方法和四种爬虫实现过程
2018/07/20 Python
pyqt5 实现工具栏文字图片同时显示
2019/06/13 Python
python opencv minAreaRect 生成最小外接矩形的方法
2019/07/01 Python
canvas线条的属性详解
2018/03/27 HTML / CSS
viagogo意大利票务平台:演唱会、体育比赛、戏剧门票
2018/01/26 全球购物
什么是WEB控件?使用WEB控件有哪些优势?
2012/01/21 面试题
《陈涉世家》教学反思
2014/04/12 职场文书
环保宣传标语
2014/06/12 职场文书
创优争先心得体会
2014/09/11 职场文书
战略性融资合作协议书范本
2014/10/17 职场文书
2016年少先队活动总结
2016/04/06 职场文书
sql字段解析器的实现示例
2021/06/23 SQL Server
浅析Django接口版本控制
2021/06/26 Python
python疲劳驾驶困倦低头检测功能的实现
2022/04/04 Python