scrapyd schedule.json setting 传入多个值问题


Posted in Javascript onAugust 07, 2019

使用案例:

import requests
adder='http://127.0.0.1:6800'
data = {
    'project':'v1',
    'version':'12379',
    'setting':['ROBOTSTXT_OBEY=True','CONCURRENT_REQUESTS=32']
}
resp = requests.post(adder,data=data)

问题解决思路:

版本1.2文档中:

◦setting (string, optional) - a Scrapy setting to use when running the spider

setting 是字符串,那么多个字符串该如何呢。

通过源码 site-packages/scrapyd/webservice.py

class Schedule(WsResource):
  def render_POST(self, txrequest):
    args = native_stringify_dict(copy(txrequest.args), keys_only=False)
    settings = args.pop('setting', [])
    settings = dict(x.split('=', 1) for x in settings)
    args = dict((k, v[0]) for k, v in args.items())
    project = args.pop('project')
    spider = args.pop('spider')
    version = args.get('_version', '')
    spiders = get_spider_list(project, version=version)
    if not spider in spiders:
      return {"status": "error", "message": "spider '%s' not found" % spider}
    args['settings'] = settings
    jobid = args.pop('jobid', uuid.uuid1().hex)
    args['_job'] = jobid
    self.root.scheduler.schedule(project, spider, **args)
    return {"node_name": self.root.nodename, "status": "ok", "jobid": jobid}

 可以发现 setting 在这里是list对象,且里面元素是字符,字符串必须包含=符号。

以此我们尝试传入setting:['DEBUG=True','HOST_NAME=axdda']

结果真的可以。对于比较复杂的设置,下次有需求再研究吧。

总结

以上所述是小编给大家介绍的scrapyd schedule.json setting 传入多个值问题,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Javascript 相关文章推荐
JavaScript Date对象使用总结
May 14 Javascript
IE JS编程需注意的内存释放问题
Jun 23 Javascript
Jquery插件之多图片异步上传
Oct 20 Javascript
使用documentElement正确取得当前可见区域的大小
Jul 25 Javascript
jQuery提示插件alertify使用指南
Apr 21 Javascript
JS实现网页标题随机显示名人名言的方法
Nov 03 Javascript
Bootstrap创建可折叠的组件
Feb 23 Javascript
BootStrap的JS插件之轮播效果案例详解
May 16 Javascript
canvas 绘制圆形时钟
Feb 22 Javascript
通过js控制时间,一秒一秒自己动的实例
Oct 25 Javascript
5分钟快速看懂ES6中的反射与代理
Dec 19 Javascript
JavaScript缓动动画函数的封装方法
Nov 25 Javascript
Node.js在图片模板上生成二维码图片并附带底部文字说明实现详解
Aug 07 #Javascript
微信小程序引入Vant组件库过程解析
Aug 06 #Javascript
Vue数据绑定实例写法
Aug 06 #Javascript
Vue代码整洁之去重方法整理
Aug 06 #Javascript
VUE写一个简单的表格实例
Aug 06 #Javascript
VUE前后端学习tab写法实例
Aug 06 #Javascript
Vue路由前后端设计总结
Aug 06 #Javascript
You might like
PHP中根据IP地址判断城市实现城市切换或跳转代码
2012/09/04 PHP
PHP面向对象程序设计高级特性详解(接口,继承,抽象类,析构,克隆等)
2016/12/02 PHP
PHP封装的mysqli数据库操作类示例
2019/02/16 PHP
对象无length属性时IE6/IE7中无法将其转换成伪数组(ArrayLike)
2011/07/31 Javascript
上传图片js判断图片尺寸和格式兼容IE
2014/09/01 Javascript
Web表单提交之disabled问题js解决方法
2015/01/13 Javascript
js制作简易年历完整实例
2015/01/28 Javascript
基于JavaScript如何实现ajax调用后台定义的方法
2015/12/29 Javascript
更高效的使用JQuery 这里总结了8个小技巧
2016/04/13 Javascript
实用jquery操作表单元素的简单代码
2016/07/04 Javascript
简单谈谈Vue 模板各类数据绑定
2016/09/25 Javascript
JS常用知识点整理
2017/01/21 Javascript
详谈innerHTML innerText的使用和区别
2017/08/18 Javascript
详解Angular5 服务端渲染实战
2018/01/04 Javascript
vue使用$emit时,父组件无法监听到子组件的事件实例
2018/02/26 Javascript
vue如何通过id从列表页跳转到对应的详情页
2018/05/01 Javascript
详解组件库的webpack构建速度优化
2018/06/18 Javascript
微信小程序实现用table显示数据库反馈的多条数据功能示例
2019/05/07 Javascript
javascript实现数字时钟效果
2021/02/06 Javascript
使用Python对Access读写操作
2017/03/30 Python
git使用.gitignore设置不生效或不起作用问题的解决方法
2017/06/01 Python
Python2.7编程中SQLite3基本操作方法示例
2017/08/09 Python
pandas DataFrame 根据多列的值做判断,生成新的列值实例
2018/05/18 Python
对Python3.x版本print函数左右对齐详解
2018/12/22 Python
python numpy 反转 reverse示例
2019/12/04 Python
python中的 zip函数详解及用法举例
2020/02/16 Python
分享unittest单元测试框架中几种常用的用例加载方法
2020/12/02 Python
德国家具在线:Fashion For Home
2017/03/11 全球购物
英国最大的LED专业零售商:Led Hut
2018/03/16 全球购物
Weblogc domain问题
2014/01/27 面试题
学生请假条格式
2014/04/11 职场文书
2014基层党员批评与自我批评范文
2014/09/24 职场文书
刑事附带民事起诉状
2015/05/19 职场文书
2015秋季小学开学寄语
2015/05/27 职场文书
于丹讲座视频观后感
2015/06/15 职场文书
详解PHP服务器如何在有限的资源里最大提升并发能力
2021/05/25 PHP