零基础写python爬虫之爬虫框架Scrapy安装配置


Posted in Python onNovember 06, 2014

前面十章爬虫笔记陆陆续续记录了一些简单的Python爬虫知识,
用来解决简单的贴吧下载,绩点运算自然不在话下。
不过要想批量下载大量的内容,比如知乎的所有的问答,那便显得游刃不有余了点。
于是乎,爬虫框架Scrapy就这样出场了!
Scrapy = Scrach+Python,Scrach这个单词是抓取的意思,

Scrapy的官网地址:点我点我。

那么下面来简单的演示一下Scrapy的安装流程。
具体流程参照:https://3water.com/article/48607.htm
友情提醒:一定要按照Python的版本下载,要不然安装的时候会提醒找不到Python。建议大家安装32位是因为有些版本的必备软件64位不好找。

1.安装Python(建议32位)

建议安装Python2.7.x,3.x貌似还不支持。
安装完了记得配置环境,将python目录和python目录下的Scripts目录添加到系统环境变量的Path里。
在cmd中输入python如果出现版本信息说明配置完毕。

2.安装lxml

lxml是一种使用 Python 编写的库,可以迅速、灵活地处理 XML。点击这里选择对应的Python版本安装。

3.安装setuptools

用来安装egg文件,点击这里下载python2.7的对应版本的setuptools。

4.安装zope.interface

可以使用第三步下载的setuptools来安装egg文件,现在也有exe版本,点击这里下载。

5.安装Twisted

Twisted是用Python实现的基于事件驱动的网络引擎框架,点击这里下载。

6.安装pyOpenSSL

pyOpenSSL是Python的OpenSSL接口,点击这里下载。

7.安装win32py

提供win32api,点击这里下载

8.安装Scrapy

终于到了激动人心的时候了!安装了那么多小部件之后终于轮到主角登场。
直接在cmd中输入easy_install scrapy回车即可。

9.检查安装

打开一个cmd窗口,在任意位置执行scrapy命令,得到下列页面,表示环境配置成功。

零基础写python爬虫之爬虫框架Scrapy安装配置

Python 相关文章推荐
下载安装setuptool和pip linux安装pip    
Jan 24 Python
Python解释执行原理分析
Aug 22 Python
Linux下为不同版本python安装第三方库
Aug 31 Python
Python实现的各种常见分布算法示例
Dec 13 Python
Python Tkinter 简单登录界面的实现
Jun 14 Python
pytorch GAN生成对抗网络实例
Jan 10 Python
Python API len函数操作过程解析
Mar 05 Python
Python实现对adb命令封装
Mar 06 Python
python将unicode和str互相转化的实现
May 11 Python
Python通过format函数格式化显示值
Oct 17 Python
Python 转移文件至云对象存储的方法
Feb 07 Python
分享7个 Python 实战项目练习
Mar 03 Python
零基础写python爬虫之爬虫编写全记录
Nov 06 #Python
零基础写python爬虫之打包生成exe文件
Nov 06 #Python
零基础写python爬虫之抓取百度贴吧并存储到本地txt文件改进版
Nov 06 #Python
零基础写python爬虫之抓取糗事百科代码分享
Nov 06 #Python
零基础写python爬虫之神器正则表达式
Nov 06 #Python
零基础写python爬虫之抓取百度贴吧代码分享
Nov 06 #Python
零基础写python爬虫之urllib2使用指南
Nov 05 #Python
You might like
PHP获取栏目的所有子级和孙级栏目的ID号示例
2014/04/01 PHP
PHP小技巧之JS和CSS优化工具Minify的使用方法
2014/05/19 PHP
PHPAnalysis中文分词类详解
2014/06/13 PHP
解决nginx不支持thinkphp中pathinfo的问题
2015/07/21 PHP
PHP基于socket实现的简单客户端和服务端通讯功能示例
2017/07/10 PHP
PHP获取远程http或ftp文件的md5值的方法
2019/04/15 PHP
JavaScript 学习笔记二 字符串拼接
2010/03/28 Javascript
jquery动态增加text元素以及删除文本内容实例代码
2013/07/01 Javascript
JavaScript显示当然日期和时间即年月日星期和时间
2013/10/29 Javascript
Node.js中使用Log.io在浏览器中实时监控日志(等同tail -f命令)
2014/09/17 Javascript
javascript实现dom元素可拖动
2016/03/21 Javascript
WEB前端实现裁剪上传图片功能
2016/10/17 Javascript
微信小程序实现顶部普通选项卡效果(非swiper)
2020/06/19 Javascript
详解JavaScript基础知识(JSON、Function对象、原型、引用类型)
2018/01/16 Javascript
jsonp跨域及实现百度首页联想功能的方法
2018/08/30 Javascript
如何优雅地在vue中添加权限控制示例详解
2019/03/07 Javascript
基于mpvue小程序使用echarts画折线图的方法示例
2019/04/24 Javascript
jquery实现垂直无限轮播的方法分析
2019/07/16 jQuery
JavaScript实现随机点名小程序
2020/10/29 Javascript
使用typescript快速开发一个cli的实现示例
2020/12/09 Javascript
原生JS运动实现轮播图
2021/01/02 Javascript
对于Python中线程问题的简单讲解
2015/04/03 Python
Linux下用Python脚本监控目录变化代码分享
2015/05/21 Python
Python利用正则表达式实现计算器算法思路解析
2018/04/25 Python
Python实现读取txt文件中的数据并绘制出图形操作示例
2019/02/26 Python
pandas和spark dataframe互相转换实例详解
2020/02/18 Python
Python代码中如何读取键盘录入的值
2020/05/27 Python
CSS3的transition和animation的用法实例介绍
2014/08/20 HTML / CSS
利用css3画个同心圆示例代码
2017/07/03 HTML / CSS
BrandAlley英国:法国折扣奢侈品网上零售商
2017/07/03 全球购物
银行实习生自我鉴定范文
2013/09/19 职场文书
电大自我鉴定
2013/10/27 职场文书
运动会广播稿100字
2014/01/11 职场文书
党的群众路线教育实践活动学习笔记范文
2014/11/06 职场文书
骨干教师事迹材料
2014/12/17 职场文书
2015年党员创先争优公开承诺书
2015/04/27 职场文书