scrapyd schedule.json setting 传入多个值问题


Posted in Javascript onAugust 07, 2019

使用案例:

import requests
adder='http://127.0.0.1:6800'
data = {
    'project':'v1',
    'version':'12379',
    'setting':['ROBOTSTXT_OBEY=True','CONCURRENT_REQUESTS=32']
}
resp = requests.post(adder,data=data)

问题解决思路:

版本1.2文档中:

◦setting (string, optional) - a Scrapy setting to use when running the spider

setting 是字符串,那么多个字符串该如何呢。

通过源码 site-packages/scrapyd/webservice.py

class Schedule(WsResource):
  def render_POST(self, txrequest):
    args = native_stringify_dict(copy(txrequest.args), keys_only=False)
    settings = args.pop('setting', [])
    settings = dict(x.split('=', 1) for x in settings)
    args = dict((k, v[0]) for k, v in args.items())
    project = args.pop('project')
    spider = args.pop('spider')
    version = args.get('_version', '')
    spiders = get_spider_list(project, version=version)
    if not spider in spiders:
      return {"status": "error", "message": "spider '%s' not found" % spider}
    args['settings'] = settings
    jobid = args.pop('jobid', uuid.uuid1().hex)
    args['_job'] = jobid
    self.root.scheduler.schedule(project, spider, **args)
    return {"node_name": self.root.nodename, "status": "ok", "jobid": jobid}

 可以发现 setting 在这里是list对象,且里面元素是字符,字符串必须包含=符号。

以此我们尝试传入setting:['DEBUG=True','HOST_NAME=axdda']

结果真的可以。对于比较复杂的设置,下次有需求再研究吧。

总结

以上所述是小编给大家介绍的scrapyd schedule.json setting 传入多个值问题,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Javascript 相关文章推荐
图片在浏览器中底部对齐 解决方法之一
Nov 30 Javascript
JS自定义功能函数实现动态添加网址参数修改网址参数值
Aug 02 Javascript
js限制checkbox选中个数以限制六个为例
Jul 15 Javascript
全系IE支持Bootstrap的解决方法
Oct 19 Javascript
基于jQuery实现鼠标点击导航菜单水波动画效果附源码下载
Jan 06 Javascript
基于Angularjs实现分页功能
May 30 Javascript
模板视图和AngularJS之间冲突的解决方法
Nov 22 Javascript
JS动态遍历json中所有键值对的方法(不知道属性名的情况)
Dec 28 Javascript
vue组件的写法汇总
Apr 12 Javascript
Angularjs Ng_repeat中实现复选框选中并显示不同的样式方法
Sep 12 Javascript
elementui之el-tebs浏览器卡死的问题和使用报错未注册问题
Jul 06 Javascript
微信小程序 冒泡事件原理解析
Sep 27 Javascript
Node.js在图片模板上生成二维码图片并附带底部文字说明实现详解
Aug 07 #Javascript
微信小程序引入Vant组件库过程解析
Aug 06 #Javascript
Vue数据绑定实例写法
Aug 06 #Javascript
Vue代码整洁之去重方法整理
Aug 06 #Javascript
VUE写一个简单的表格实例
Aug 06 #Javascript
VUE前后端学习tab写法实例
Aug 06 #Javascript
Vue路由前后端设计总结
Aug 06 #Javascript
You might like
php对称加密算法示例
2014/05/07 PHP
微信API接口大全
2015/04/15 PHP
通过php动态传数据到highcharts
2017/04/05 PHP
php实现生成code128条形码的方法详解
2017/07/19 PHP
php+js实现的无刷新下载文件功能示例
2019/08/23 PHP
laravel框架实现敏感词汇过滤功能示例
2020/02/15 PHP
csdn 批量接受好友邀请
2009/02/19 Javascript
JQuery之拖拽插件实现代码
2011/04/14 Javascript
简单的前端js+ajax 购物车框架(入门篇)
2011/10/29 Javascript
{}与function(){}选用空对象{}来存放keyValue
2012/05/23 Javascript
jQuery实现用户注册的表单验证示例
2013/08/28 Javascript
JS实现黑色风格的网页TAB选项卡效果代码
2015/10/09 Javascript
基于javascript实现动态显示当前系统时间
2016/01/28 Javascript
JS实现图片平面旋转的方法
2016/03/01 Javascript
BootStrap 可编辑表Table格
2016/11/24 Javascript
详解AngularJS脏检查机制及$timeout的妙用
2017/06/19 Javascript
解决vue打包后vendor.js文件过大问题
2019/07/03 Javascript
js实现无限瀑布流实例方法
2019/09/16 Javascript
Python中创建字典的几种方法总结(推荐)
2017/04/27 Python
Python实现利用最大公约数求三个正整数的最小公倍数示例
2017/09/30 Python
Python语言描述最大连续子序列和
2017/12/05 Python
windows下Virtualenvwrapper安装教程
2017/12/13 Python
Python实现输入二叉树的先序和中序遍历,再输出后序遍历操作示例
2018/07/27 Python
python cs架构实现简单文件传输
2020/03/20 Python
Python第三方库h5py_读取mat文件并显示值的方法
2019/02/08 Python
Python-Tkinter Text输入内容在界面显示的实例
2019/07/12 Python
django drf框架中的user验证以及JWT拓展的介绍
2019/08/12 Python
关于Python错误重试方法总结
2021/01/03 Python
Rhone官方网站:男士运动服装、健身服装和高级运动服
2019/05/01 全球购物
英国伦敦的睡衣品牌:Asceno
2019/10/06 全球购物
财政专业求职信范文
2014/02/19 职场文书
就业推荐表自我鉴定范文
2014/03/21 职场文书
社保转移委托书范本
2014/10/08 职场文书
高三英语复习计划
2015/01/19 职场文书
致接力运动员加油稿
2015/07/21 职场文书
Python NumPy灰度图像的压缩原理讲解
2021/08/04 Python