Python爬虫数据的分类及json数据使用小结


Posted in Python onMarch 29, 2021

数据的结构化分类

一般来讲对我们而言,需要抓取的是某个网站或者某个应用的内容,提取有用的价值。内容一般分为三部分,结构化的数据、半结构化的数据和非机构化数据。

1.结构化数据:
可以用统一的结构加以表示的数据。可以使用关系型数据库表示和存储,表现为二维形式的数据,一般特点是:数据以行为单位,一行数据表示一个实体的信息,每一行的数据的属性是相同的。

2.半结构化数据:
结构化数据的一种形式,并不符合关系型数据库或其他数据表的形式关联起来的数据模型结构,但包含相关标记,用来分隔语义元素以及对记录和字段进行分层。因此他也被成为自描述的结构。常见的半结构数据有:html,xml和json等、实际上是以树或者图的结构来存储的。

对于半结构化数据,节点中属性的顺序是不重要的,不同的半结构化数据的属性的个数是不一样的。这样的数据格式,可以自由的表达很多有用的信息,包含自描述信息。所以半结构化数据的扩展性很好,特别适合于在互联网中大规模传播。

3.非结构化数据
就是没有固定的结构。各种文档,图片,视频或者音频都属于非结构化数据。对于这类数据,我们一般直接整体进行存储,而且一般存储为二进制形式。

json数据

json(JavaScript Object Notation,JS对象标记)是一种轻量级的数据交换格式。他基于ECMAScript(w3c制定的JS规范)的一个子集,采用完全独立于编程语言的文本格式来存储和表示数据。简介和清晰的层次结构使得JSON成为理想的数据交换语言。

特点:易于阅读、易于机器生成、有效提升网络速度。
JSON语法规则:在JS语言中,一切都是对象。因此,任何支持的类型都可以通过json来表示。例如字符串、数字,对象,数组。

Js中对象和数组是比较特殊并且常用的两种类型:

  1. 对象表示为键值对{name:'zhangsan',age:'7'}
  2. 数据有逗号分隔[1,2,3,4,5]
  3. 花括号保存对象
  4. 方括号保存数组。

js的对象就相当于python中的字典
js的数组就相当于Python中的列表
因为json用来存储js的对象或者数组,所以在Python中我们可以将json转化为list或者dict。

解析json的包json:

json.dumps(python的list或者dict)---->(返回值)---->json字符串。
json.loads(json字符串)------>(返回值)----->python的list或者dict.

json.dump(list/dict,fp)—>list,或者字典保存到json文件中。
json.load(fp)—>list/dict:从json文件中读出json数据。

json键值对是用来保存js对象的一种方式,和js对象的写法页大同小异,比如:
{“firstName”:“Json”,“Class”:“aid1111”}等价于下面这条js语句:{firstName:“Json”,Class:“aid1111”}。

很多人搞不清楚json和js对象的关系,甚至谁是谁都不清楚。其实可以这么理解:
【JSON是JS对象的字符串表达式,他使用文本形式表示一个JS对象的信息,本质是一个字符串。】

如var obj = {a:“hello”,b:“World”}这是一个js对象。注意,键名也是可以用引号包裹的var json = ' {“a”:“hello”,“b”:“World”}'这是一个json字符串,本质上是一个字符串。

JSON作为数据包格式传输的时候具有更高的效率,这是因为JSON不想xml那样具有严格的闭合标签,这就让有效数据量与总数据包比大大提升,从而减少同等数据流量的情况下,网络的传输的压力大大减低。

Python 相关文章推荐
Python3.2模拟实现webqq登录
Feb 15 Python
Python实现Linux中的du命令
Jun 12 Python
python 用opencv调用训练好的模型进行识别的方法
Dec 07 Python
Python后台管理员管理前台会员信息的讲解
Jan 28 Python
基于django传递数据到后端的例子
Aug 16 Python
对Python获取屏幕截图的4种方法详解
Aug 27 Python
学python安装的软件总结
Oct 12 Python
Django-xadmin+rule对象级权限的实现方式
Mar 30 Python
python 判断一组数据是否符合正态分布
Sep 23 Python
Python GUI之tkinter窗口视窗教程大集合(推荐)
Oct 20 Python
Pandas中DataFrame交换列顺序的方法实现
Dec 14 Python
python定义具名元组实例操作
Feb 28 Python
python re模块和正则表达式
Mar 24 #Python
opencv实现图像几何变换
PyQt QMainWindow的使用示例
Mar 24 #Python
PyQt 如何创建自定义QWidget
Mar 24 #Python
解决python 输出到csv 出现多空行的情况
opencv实现图像平移效果
python+selenium小米商城红米K40手机自动抢购的示例代码
You might like
php 在线导入mysql大数据程序
2015/06/11 PHP
Laravel框架自定义验证过程实例分析
2019/02/01 PHP
PHP的介绍以及优势详细分析
2019/09/05 PHP
javascript下判断一个对象是否具有指定名称的属性的的代码
2010/01/11 Javascript
ExtJS Store的数据访问与更新问题
2010/04/28 Javascript
通过判断JavaScript的版本实现执行不同的代码
2010/05/11 Javascript
JS遍历Json字符串中键值对先转成JSON对象再遍历
2014/08/15 Javascript
使用phantomjs进行网页抓取的实现代码
2014/09/29 Javascript
canvas绘制一个常用的emoji表情
2017/03/30 Javascript
Vue在页面右上角实现可悬浮/隐藏的系统菜单
2018/05/04 Javascript
JS实现图片转换成base64的各种应用场景实例分析
2018/06/22 Javascript
详解JQuery基础动画操作
2019/04/12 jQuery
Vue中函数防抖节流的理解及应用实现
2020/04/24 Javascript
Vue前端判断数据对象是否为空的实例
2020/09/02 Javascript
[06:33]DOTA2亚洲邀请赛小组赛第二日 TOP10精彩集锦
2015/01/31 DOTA
[00:29]2019完美世界全国高校联赛(秋季赛)总决赛海口落幕
2019/12/10 DOTA
python正则表达式判断字符串是否是全部小写示例
2013/12/25 Python
在Python中使用HTML模版的教程
2015/04/29 Python
简单的python后台管理程序
2017/04/13 Python
python 多维切片之冒号和三个点的用法介绍
2018/04/19 Python
python版本的仿windows计划任务工具
2018/04/30 Python
利用Python如何实现一个小说网站雏形
2018/11/23 Python
Python中format()格式输出全解
2019/04/12 Python
python opencv将图片转为灰度图的方法示例
2019/07/31 Python
sklearn线性逻辑回归和非线性逻辑回归的实现
2020/06/09 Python
解决Pycharm 中遇到Unresolved reference 'sklearn'的问题
2020/07/13 Python
iframe在移动端的缩放的示例代码
2018/10/12 HTML / CSS
用C#语言写出与SQLSERVER访问时的具体过程
2013/04/16 面试题
入党转预备思想汇报
2014/01/07 职场文书
寒假思想汇报
2014/01/10 职场文书
英文求职信写作小建议
2014/02/16 职场文书
《猫》教学反思
2014/02/26 职场文书
毕业生求职自荐书范文
2014/03/27 职场文书
银行委托书范本
2014/09/28 职场文书
团委工作总结2015
2015/04/02 职场文书
html+css合并表格边框的示例代码
2021/03/31 HTML / CSS