mac安装scrapy并创建项目的实例讲解


Posted in Python onJune 13, 2018

最近刚好在学习python+scrapy的爬虫技术,因为mac是自带python2.7的,所以安装3.5版本有两种方法,一种是升级,一种是额外安装3.5版本。

升级就不用说了,讲讲额外安装的版本吧~~~

因为python是有自带版本的,最开始安装的时候都会有一种“ 会不会冲突 ”的感觉。

其实安装3.5版本也就是在官网上直接下载之后安装,和普通的mac软件安装方式是一样的~~

https://www.python.org/downloads/release/python-353/

安装完成之后,不会覆盖原来的python,会在 /Library/Frameworks/Python.framework/Versions/3.5/lib/python3.5文件中

在终端直接输入 python 会执行python2.7版本

python 
 
Python 2.7.12 (default, Jun 29 2016, 14:05:02) 
[GCC 4.2.1 Compatible Apple LLVM 7.3.0 (clang-703.0.31)] on darwin 
Type "help", "copyright", "credits" or "license" for more information. 
>>>

在终端直接输入 python3 则会执行python3.5版本

python3 
 
Python 3.5.3 (v3.5.3:1880cb95a742, Jan 16 2017, 08:49:46) 
[GCC 4.2.1 (Apple Inc. build 5666) (dot 3)] on darwin 
Type "help", "copyright", "credits" or "license" for more information. 
>>>

接下来就可以开始安装scrapy了

python3.5中会自带 pip,所以不需要额外安装了,可以直接在终端输入 pip3 --version查看版本和路径

pip3 --version 
 
pip 9.0.1 from /Library/Frameworks/Python.framework/Versions/3.5/lib/python3.5/site-packages (python 3.5)

使用 pip3 安装scrapy

pip3 install Scrapy

这里的Scrapy一定要首字母大写,不然会在安装的过程中报错~~

Collecting scrapy
 Retrying (Retry(total=4, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2c88>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=3, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa29e8>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=2, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2630>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=1, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2f28>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=0, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2be0>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Could not find a version that satisfies the requirement scrapy (from versions: )
No matching distribution found for scrapy

安装成功之后,可以直接在终端上输入 scrapy 查看版本号及使用

Scrapy 1.4.0 - no active project
Usage:
 scrapy <command> [options] [args]
Available commands:
 bench   Run quick benchmark test
 fetch   Fetch a URL using the Scrapy downloader
 genspider  Generate new spider using pre-defined templates
 runspider  Run a self-contained spider (without creating a project)
 settings  Get settings values
 shell   Interactive scraping console
 startproject Create new project
 version  Print Scrapy version
 view   Open URL in browser, as seen by Scrapy
 [ more ]  More commands available when run from project directory
Use "scrapy <command> -h" to see more info about a command

在pycharm中是没有直接创建scrapy项目的,可以使用 scrapy 命令手动新建项目

scrapy startproject ArticleSpider(ArticleSpider为项目名称)

以上这篇mac安装scrapy并创建项目的实例讲解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
使用python编写android截屏脚本双击运行即可
Jul 21 Python
Python字符和字符值(ASCII或Unicode码值)转换方法
May 21 Python
Python正则表达式教程之二:捕获篇
Mar 02 Python
Python 从subprocess运行的子进程中实时获取输出的例子
Aug 14 Python
在pytorch中为Module和Tensor指定GPU的例子
Aug 19 Python
python将四元数变换为旋转矩阵的实例
Dec 04 Python
python GUI库图形界面开发之PyQt5布局控件QVBoxLayout详细使用方法与实例
Mar 06 Python
使用pygame编写Flappy bird小游戏
Mar 14 Python
Python接口测试结果集实现封装比较
May 01 Python
pytorch SENet实现案例
Jun 24 Python
详解Python+Selenium+ChromeDriver的配置和问题解决
Jan 19 Python
Python绘制散乱的点构成的图的方法
Apr 21 Python
解决Tensorflow安装成功,但在导入时报错的问题
Jun 13 #Python
基于pip install django失败时的解决方法
Jun 12 #Python
基于Python pip用国内镜像下载的方法
Jun 12 #Python
pip安装时ReadTimeoutError的解决方法
Jun 12 #Python
解决pip install的时候报错timed out的问题
Jun 12 #Python
pip install urllib2不能安装的解决方法
Jun 12 #Python
ubuntu17.4下为python和python3装上pip的方法
Jun 12 #Python
You might like
PHP+JS+rsa数据加密传输实现代码
2011/03/23 PHP
探讨fckeditor在Php中的配置详解
2013/06/08 PHP
护卫神php套件 php版本升级方法(php5.5.24)
2015/05/10 PHP
Code:loadScript( )加载js的功能函数
2007/02/02 Javascript
jquery 选择器引擎sizzle浅析
2013/02/06 Javascript
nodejs npm包管理的配置方法及常用命令介绍
2014/06/05 NodeJs
javascript中scrollTop详解
2015/04/13 Javascript
JS日期格式化之javascript Date format
2015/10/01 Javascript
Jqgrid之强大的表格插件应用
2015/12/02 Javascript
jQuery与Ajax以及序列化
2016/02/01 Javascript
vue中如何让子组件修改父组件数据
2018/06/14 Javascript
基于layui数据表格以及传数据的方式
2018/08/19 Javascript
React如何解决fetch跨域请求时session失效问题
2018/11/02 Javascript
详解jQuery-each()方法
2019/03/13 jQuery
浅谈express.js框架中间件(middleware)
2019/04/07 Javascript
JS中数据结构与算法---排序算法(Sort Algorithm)实例详解
2019/06/17 Javascript
JavaScript进阶(三)闭包原理与用法详解
2020/05/09 Javascript
vue表单验证之禁止input输入框输入空格
2020/12/03 Vue.js
[05:03]显微镜下的DOTA2第十期——Ti3豪之超神幽鬼
2014/06/23 DOTA
深入理解NumPy简明教程---数组1
2016/12/17 Python
Python之读取TXT文件的方法小结
2018/04/27 Python
python读取文本绘制动态速度曲线
2018/06/21 Python
python自动化测试之如何解析excel文件
2019/06/27 Python
python利用os模块编写文件复制功能——copy()函数用法
2020/07/13 Python
LookFantastic丹麦:英国美容护肤精品在线商城
2016/08/18 全球购物
什么是用户模式(User Mode)与内核模式(Kernel Mode) ?
2014/07/21 面试题
采购部长岗位职责
2014/06/13 职场文书
医院我们的节日活动实施方案
2014/08/22 职场文书
关于国庆节的演讲稿
2014/09/05 职场文书
单位工作证明范文
2014/09/14 职场文书
离职证明范本
2015/06/12 职场文书
公司人事管理制度
2015/08/05 职场文书
如何用PHP实现多线程编程
2021/05/26 PHP
解决ObjectMapper.convertValue() 遇到的一些问题
2021/06/30 Java/Android
python 多态 协议 鸭子类型详解
2021/11/27 Python
使用ICOM IC-R9500接收机同时测评十台收音机中波接收性能
2022/05/10 无线电