mac安装scrapy并创建项目的实例讲解


Posted in Python onJune 13, 2018

最近刚好在学习python+scrapy的爬虫技术,因为mac是自带python2.7的,所以安装3.5版本有两种方法,一种是升级,一种是额外安装3.5版本。

升级就不用说了,讲讲额外安装的版本吧~~~

因为python是有自带版本的,最开始安装的时候都会有一种“ 会不会冲突 ”的感觉。

其实安装3.5版本也就是在官网上直接下载之后安装,和普通的mac软件安装方式是一样的~~

https://www.python.org/downloads/release/python-353/

安装完成之后,不会覆盖原来的python,会在 /Library/Frameworks/Python.framework/Versions/3.5/lib/python3.5文件中

在终端直接输入 python 会执行python2.7版本

python 
 
Python 2.7.12 (default, Jun 29 2016, 14:05:02) 
[GCC 4.2.1 Compatible Apple LLVM 7.3.0 (clang-703.0.31)] on darwin 
Type "help", "copyright", "credits" or "license" for more information. 
>>>

在终端直接输入 python3 则会执行python3.5版本

python3 
 
Python 3.5.3 (v3.5.3:1880cb95a742, Jan 16 2017, 08:49:46) 
[GCC 4.2.1 (Apple Inc. build 5666) (dot 3)] on darwin 
Type "help", "copyright", "credits" or "license" for more information. 
>>>

接下来就可以开始安装scrapy了

python3.5中会自带 pip,所以不需要额外安装了,可以直接在终端输入 pip3 --version查看版本和路径

pip3 --version 
 
pip 9.0.1 from /Library/Frameworks/Python.framework/Versions/3.5/lib/python3.5/site-packages (python 3.5)

使用 pip3 安装scrapy

pip3 install Scrapy

这里的Scrapy一定要首字母大写,不然会在安装的过程中报错~~

Collecting scrapy
 Retrying (Retry(total=4, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2c88>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=3, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa29e8>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=2, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2630>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=1, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2f28>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=0, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2be0>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Could not find a version that satisfies the requirement scrapy (from versions: )
No matching distribution found for scrapy

安装成功之后,可以直接在终端上输入 scrapy 查看版本号及使用

Scrapy 1.4.0 - no active project
Usage:
 scrapy <command> [options] [args]
Available commands:
 bench   Run quick benchmark test
 fetch   Fetch a URL using the Scrapy downloader
 genspider  Generate new spider using pre-defined templates
 runspider  Run a self-contained spider (without creating a project)
 settings  Get settings values
 shell   Interactive scraping console
 startproject Create new project
 version  Print Scrapy version
 view   Open URL in browser, as seen by Scrapy
 [ more ]  More commands available when run from project directory
Use "scrapy <command> -h" to see more info about a command

在pycharm中是没有直接创建scrapy项目的,可以使用 scrapy 命令手动新建项目

scrapy startproject ArticleSpider(ArticleSpider为项目名称)

以上这篇mac安装scrapy并创建项目的实例讲解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
使用Python下载Bing图片(代码)
Nov 07 Python
深入解析Python中的集合类型操作符
Aug 19 Python
Django实战之用户认证(初始配置)
Jul 16 Python
python MNIST手写识别数据调用API的方法
Aug 08 Python
将string类型的数据类型转换为spark rdd时报错的解决方法
Feb 18 Python
pyQt5实时刷新界面的示例
Jun 25 Python
详解Python实现进度条的4种方式
Jan 15 Python
解决django FileFIELD的编码问题
Mar 30 Python
如何通过Python3和ssl实现加密通信功能
May 09 Python
如何理解python对象
Jun 21 Python
利用Python+OpenCV三步去除水印
May 28 Python
python中Matplotlib绘制直线的实例代码
Jul 04 Python
解决Tensorflow安装成功,但在导入时报错的问题
Jun 13 #Python
基于pip install django失败时的解决方法
Jun 12 #Python
基于Python pip用国内镜像下载的方法
Jun 12 #Python
pip安装时ReadTimeoutError的解决方法
Jun 12 #Python
解决pip install的时候报错timed out的问题
Jun 12 #Python
pip install urllib2不能安装的解决方法
Jun 12 #Python
ubuntu17.4下为python和python3装上pip的方法
Jun 12 #Python
You might like
PHILIPS D1835/D1875的电路分析与打理
2021/03/02 无线电
php 移除数组重复元素的一点说明
2008/11/27 PHP
选择PHP作为网站开发语言的原因分享
2012/01/03 PHP
PHP实现获取中英文首字母
2015/06/19 PHP
PHP在同一域名下两个不同的项目做独立登录机制详解
2017/09/22 PHP
PHP实现 APP端微信支付功能
2018/06/22 PHP
Javascript实现页面跳转的几种方式分享
2013/10/26 Javascript
jQuery实用技巧必备(下)
2015/11/03 Javascript
JavaScript SweetAlert插件实现超酷消息警告框
2016/01/28 Javascript
JavaScript操作HTML DOM节点的基础教程
2016/03/11 Javascript
JS原型链 详解及示例代码
2016/09/06 Javascript
详解用原生JavaScript实现jQuery的某些简单功能
2016/12/19 Javascript
vue-cli项目如何使用vue-resource获取本地的json数据(模拟服务端返回数据)
2017/08/04 Javascript
Nodejs连接mysql并实现增、删、改、查操作的方法详解
2018/01/04 NodeJs
微信小程序中悬浮窗功能的实现代码
2019/08/02 Javascript
基于layui框架响应式布局的一些使用详解
2019/09/16 Javascript
使用vue实现通过变量动态拼接url
2020/07/22 Javascript
python使用webbrowser浏览指定url的方法
2015/04/04 Python
Python入门之三角函数全解【收藏】
2017/11/08 Python
python编写弹球游戏的实现代码
2018/03/12 Python
Python实现购物车购物小程序
2018/04/18 Python
解决Django的request.POST获取不到内容的问题
2018/05/28 Python
利用Python如何批量修改数据库执行Sql文件
2018/07/29 Python
python+opencv+caffe+摄像头做目标检测的实例代码
2018/08/03 Python
Python如何使用OS模块调用cmd
2020/02/27 Python
Python调用百度OCR实现图片文字识别的示例代码
2020/07/17 Python
解决python打开https出现certificate verify failed的问题
2020/09/03 Python
几款Python编译器比较与推荐(小结)
2020/10/15 Python
Notino瑞典:购买香水和美容产品
2019/07/26 全球购物
.NET常见笔试题集
2012/12/01 面试题
电气自动化个人求职信范文
2014/02/03 职场文书
采购部部长岗位职责
2014/02/06 职场文书
2014年父亲节活动方案
2014/03/06 职场文书
产品发布会策划方案
2014/05/12 职场文书
2016教师节问候语
2015/11/10 职场文书
斗罗大陆八大特殊魂兽,龙族始祖排榜首,第五最残忍(翠魔鸟)
2022/03/18 国漫