scrapyd schedule.json setting 传入多个值问题


Posted in Javascript onAugust 07, 2019

使用案例:

import requests
adder='http://127.0.0.1:6800'
data = {
    'project':'v1',
    'version':'12379',
    'setting':['ROBOTSTXT_OBEY=True','CONCURRENT_REQUESTS=32']
}
resp = requests.post(adder,data=data)

问题解决思路:

版本1.2文档中:

◦setting (string, optional) - a Scrapy setting to use when running the spider

setting 是字符串,那么多个字符串该如何呢。

通过源码 site-packages/scrapyd/webservice.py

class Schedule(WsResource):
  def render_POST(self, txrequest):
    args = native_stringify_dict(copy(txrequest.args), keys_only=False)
    settings = args.pop('setting', [])
    settings = dict(x.split('=', 1) for x in settings)
    args = dict((k, v[0]) for k, v in args.items())
    project = args.pop('project')
    spider = args.pop('spider')
    version = args.get('_version', '')
    spiders = get_spider_list(project, version=version)
    if not spider in spiders:
      return {"status": "error", "message": "spider '%s' not found" % spider}
    args['settings'] = settings
    jobid = args.pop('jobid', uuid.uuid1().hex)
    args['_job'] = jobid
    self.root.scheduler.schedule(project, spider, **args)
    return {"node_name": self.root.nodename, "status": "ok", "jobid": jobid}

 可以发现 setting 在这里是list对象,且里面元素是字符,字符串必须包含=符号。

以此我们尝试传入setting:['DEBUG=True','HOST_NAME=axdda']

结果真的可以。对于比较复杂的设置,下次有需求再研究吧。

总结

以上所述是小编给大家介绍的scrapyd schedule.json setting 传入多个值问题,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Javascript 相关文章推荐
JScript中的"this"关键字使用方式补充材料
Mar 08 Javascript
用dom+xhtml+css制作的一个相册效果代码打包下载
Jan 24 Javascript
javascript Onunload与Onbeforeunload使用小结
Dec 31 Javascript
JavaScript DOM 学习第三章 内容表格
Feb 19 Javascript
jquery实现可拖动DIV自定义保存到数据的实例
Nov 20 Javascript
js sort 二维数组排序的用法小结
Jan 24 Javascript
jQuery+easyui中的combobox实现下拉框特效
Feb 27 Javascript
javascript事件委托的方式绑定详解
Jun 10 Javascript
详谈jQuery.load()和Jsp的include的区别
Apr 12 jQuery
通过构造函数实例化对象的方法
Jun 28 Javascript
bootstrap Table服务端处理分页(后台是.net)
Oct 19 Javascript
JavaScript实现AOP详解(面向切面编程,装饰者模式)
Dec 19 Javascript
Node.js在图片模板上生成二维码图片并附带底部文字说明实现详解
Aug 07 #Javascript
微信小程序引入Vant组件库过程解析
Aug 06 #Javascript
Vue数据绑定实例写法
Aug 06 #Javascript
Vue代码整洁之去重方法整理
Aug 06 #Javascript
VUE写一个简单的表格实例
Aug 06 #Javascript
VUE前后端学习tab写法实例
Aug 06 #Javascript
Vue路由前后端设计总结
Aug 06 #Javascript
You might like
PHP使用GIFEncoder类生成的GIF动态图片验证码
2014/07/01 PHP
PHP中$GLOBALS与global的区别详解
2019/03/21 PHP
用JavaScript页面不刷新时全选择,全删除(GridView)
2009/04/14 Javascript
JQUERY 对象与DOM对象之两者相互间的转换
2009/04/27 Javascript
将jQuery应用于login页面的问题及解决
2009/10/17 Javascript
纯jquery实现模仿淘宝购物车结算
2015/08/20 Javascript
jQuery height()、innerHeight()、outerHeight()函数的区别详解
2016/05/23 Javascript
jquery实现图片切换代码
2016/10/13 Javascript
jQuery实现文字自动横移
2017/01/08 Javascript
AngularJS Controller作用域
2017/01/09 Javascript
微信小程序后台解密用户数据实例详解
2017/06/28 Javascript
React Native第三方平台分享的实例(Android,IOS双平台)
2017/08/04 Javascript
JS实现的图片选择顺序切换和循环切换功能示例【测试可用】
2018/12/28 Javascript
element-ui带输入建议的input框踩坑(输入建议空白以及会闪出上一次的输入建议问题)
2019/01/15 Javascript
nodejs同步调用获取mysql数据时遇到的大坑
2019/03/02 NodeJs
详解vue中axios请求的封装
2019/04/08 Javascript
使用vue-cli3 创建vue项目并配置VS Code 自动代码格式化 vue语法高亮问题
2019/05/14 Javascript
VUE实现Studio管理后台之鼠标拖放改变窗口大小
2020/03/04 Javascript
tornado框架blog模块分析与使用
2013/11/21 Python
浅谈Python类的__getitem__和__setitem__特殊方法
2016/12/25 Python
Python爬虫实现爬取京东手机页面的图片(实例代码)
2017/11/30 Python
教你使用python画一朵花送女朋友
2018/03/29 Python
Django如何配置mysql数据库
2018/05/04 Python
网红编程语言Python将纳入高考你怎么看?
2018/06/07 Python
python3使用SMTP发送HTML格式邮件
2018/06/19 Python
Python3简单实现串口通信的方法
2019/06/12 Python
简单了解python高阶函数map/reduce
2019/06/28 Python
Python叠加两幅栅格图像的实现方法
2019/07/05 Python
Python3.6 + TensorFlow 安装配置图文教程(Windows 64 bit)
2020/02/24 Python
通过python调用adb命令对App进行性能测试方式
2020/04/23 Python
Kingsoft金山公司C/C++笔试题
2016/05/10 面试题
什么是抽象
2015/12/13 面试题
《蚕姑娘》教学反思
2014/04/15 职场文书
2014年作风建设心得体会
2014/10/22 职场文书
公务员个人考察材料
2014/12/23 职场文书
教师求职信怎么写
2015/03/20 职场文书