mac安装scrapy并创建项目的实例讲解


Posted in Python onJune 13, 2018

最近刚好在学习python+scrapy的爬虫技术,因为mac是自带python2.7的,所以安装3.5版本有两种方法,一种是升级,一种是额外安装3.5版本。

升级就不用说了,讲讲额外安装的版本吧~~~

因为python是有自带版本的,最开始安装的时候都会有一种“ 会不会冲突 ”的感觉。

其实安装3.5版本也就是在官网上直接下载之后安装,和普通的mac软件安装方式是一样的~~

https://www.python.org/downloads/release/python-353/

安装完成之后,不会覆盖原来的python,会在 /Library/Frameworks/Python.framework/Versions/3.5/lib/python3.5文件中

在终端直接输入 python 会执行python2.7版本

python 
 
Python 2.7.12 (default, Jun 29 2016, 14:05:02) 
[GCC 4.2.1 Compatible Apple LLVM 7.3.0 (clang-703.0.31)] on darwin 
Type "help", "copyright", "credits" or "license" for more information. 
>>>

在终端直接输入 python3 则会执行python3.5版本

python3 
 
Python 3.5.3 (v3.5.3:1880cb95a742, Jan 16 2017, 08:49:46) 
[GCC 4.2.1 (Apple Inc. build 5666) (dot 3)] on darwin 
Type "help", "copyright", "credits" or "license" for more information. 
>>>

接下来就可以开始安装scrapy了

python3.5中会自带 pip,所以不需要额外安装了,可以直接在终端输入 pip3 --version查看版本和路径

pip3 --version 
 
pip 9.0.1 from /Library/Frameworks/Python.framework/Versions/3.5/lib/python3.5/site-packages (python 3.5)

使用 pip3 安装scrapy

pip3 install Scrapy

这里的Scrapy一定要首字母大写,不然会在安装的过程中报错~~

Collecting scrapy
 Retrying (Retry(total=4, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2c88>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=3, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa29e8>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=2, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2630>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=1, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2f28>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=0, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2be0>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Could not find a version that satisfies the requirement scrapy (from versions: )
No matching distribution found for scrapy

安装成功之后,可以直接在终端上输入 scrapy 查看版本号及使用

Scrapy 1.4.0 - no active project
Usage:
 scrapy <command> [options] [args]
Available commands:
 bench   Run quick benchmark test
 fetch   Fetch a URL using the Scrapy downloader
 genspider  Generate new spider using pre-defined templates
 runspider  Run a self-contained spider (without creating a project)
 settings  Get settings values
 shell   Interactive scraping console
 startproject Create new project
 version  Print Scrapy version
 view   Open URL in browser, as seen by Scrapy
 [ more ]  More commands available when run from project directory
Use "scrapy <command> -h" to see more info about a command

在pycharm中是没有直接创建scrapy项目的,可以使用 scrapy 命令手动新建项目

scrapy startproject ArticleSpider(ArticleSpider为项目名称)

以上这篇mac安装scrapy并创建项目的实例讲解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python中子类调用父类函数的方法示例
Aug 18 Python
深入理解python中函数传递参数是值传递还是引用传递
Nov 07 Python
python使用sqlite3时游标使用方法
Mar 13 Python
python训练数据时打乱训练数据与标签的两种方法小结
Nov 08 Python
Ubuntu18.04下python版本完美切换的解决方法
Jun 14 Python
Pandas之Dropna滤除缺失数据的实现方法
Jun 25 Python
python写入文件自动换行问题的方法
Jul 05 Python
Python 实现输入任意多个数,并计算其平均值的例子
Jul 16 Python
python反转列表的三种方式解析
Nov 08 Python
python 实现分组求和与分组累加求和代码
May 18 Python
浅谈keras2 predict和fit_generator的坑
Jun 17 Python
django Model层常用验证器及自定义验证器详解
Jul 15 Python
解决Tensorflow安装成功,但在导入时报错的问题
Jun 13 #Python
基于pip install django失败时的解决方法
Jun 12 #Python
基于Python pip用国内镜像下载的方法
Jun 12 #Python
pip安装时ReadTimeoutError的解决方法
Jun 12 #Python
解决pip install的时候报错timed out的问题
Jun 12 #Python
pip install urllib2不能安装的解决方法
Jun 12 #Python
ubuntu17.4下为python和python3装上pip的方法
Jun 12 #Python
You might like
PHP高级OOP技术演示
2009/08/27 PHP
PHP错误Allowed memory size of 67108864 bytes exhausted的3种解决办法
2014/07/28 PHP
php生成excel列名超过26列大于Z时的解决方法
2014/12/29 PHP
php单文件版在线代码编辑器
2015/03/12 PHP
浅谈PHP中try{}catch{}的使用方法
2016/12/09 PHP
PHP实现的mongoDB数据库操作类完整实例
2018/04/10 PHP
javascript根据时间生成m位随机数最大13位
2014/10/30 Javascript
jQuery中mouseover事件用法实例
2014/12/26 Javascript
原生js获取iframe中dom元素--父子页面相互获取对方dom元素的方法
2016/08/05 Javascript
不使用script导入js文件的几种方法
2016/10/27 Javascript
详解微信小程序 页面跳转 传递参数
2016/12/08 Javascript
jQuery实现文字自动横移
2017/01/08 Javascript
从零学习node.js之mysql数据库的操作(五)
2017/02/24 Javascript
js+html制作简单日历的方法
2017/06/27 Javascript
详解vue静态资源打包中的坑与解决方案
2018/02/05 Javascript
Angular PWA使用的Demo示例
2019/01/31 Javascript
layui 弹出删除确认界面的实例
2019/09/06 Javascript
React学习之JSX与react事件实例分析
2020/01/06 Javascript
9种方法优化jQuery代码详解
2020/02/04 jQuery
nuxt引入组件和公共样式的操作
2020/11/05 Javascript
[01:14]TI珍贵瞬间系列(六):冠军
2020/08/30 DOTA
python获得两个数组交集、并集、差集的方法
2015/03/27 Python
Python的爬虫程序编写框架Scrapy入门学习教程
2016/07/02 Python
Python实现Windows和Linux之间互相传输文件(文件夹)的方法
2017/05/08 Python
python实现Decorator模式实例代码
2018/02/09 Python
python+selenium实现QQ邮箱自动发送功能
2019/01/23 Python
Python实现制度转换(货币,温度,长度)
2019/07/14 Python
Python代码生成视频的缩略图的实例讲解
2019/12/22 Python
python 实现屏幕录制示例
2019/12/23 Python
Python调用shell cmd方法代码示例解析
2020/06/18 Python
高性能装备提升营地:Kammok
2019/02/27 全球购物
调解协议书
2014/04/16 职场文书
爱国主义教育基地观后感
2015/06/18 职场文书
男生贾里读书笔记
2015/06/30 职场文书
mysql中int(3)和int(10)的数值范围是否相同
2021/10/16 MySQL
用Python仅20行代码编写一个简单的端口扫描器
2022/04/08 Python