scrapyd schedule.json setting 传入多个值问题


Posted in Javascript onAugust 07, 2019

使用案例:

import requests
adder='http://127.0.0.1:6800'
data = {
    'project':'v1',
    'version':'12379',
    'setting':['ROBOTSTXT_OBEY=True','CONCURRENT_REQUESTS=32']
}
resp = requests.post(adder,data=data)

问题解决思路:

版本1.2文档中:

◦setting (string, optional) - a Scrapy setting to use when running the spider

setting 是字符串,那么多个字符串该如何呢。

通过源码 site-packages/scrapyd/webservice.py

class Schedule(WsResource):
  def render_POST(self, txrequest):
    args = native_stringify_dict(copy(txrequest.args), keys_only=False)
    settings = args.pop('setting', [])
    settings = dict(x.split('=', 1) for x in settings)
    args = dict((k, v[0]) for k, v in args.items())
    project = args.pop('project')
    spider = args.pop('spider')
    version = args.get('_version', '')
    spiders = get_spider_list(project, version=version)
    if not spider in spiders:
      return {"status": "error", "message": "spider '%s' not found" % spider}
    args['settings'] = settings
    jobid = args.pop('jobid', uuid.uuid1().hex)
    args['_job'] = jobid
    self.root.scheduler.schedule(project, spider, **args)
    return {"node_name": self.root.nodename, "status": "ok", "jobid": jobid}

 可以发现 setting 在这里是list对象,且里面元素是字符,字符串必须包含=符号。

以此我们尝试传入setting:['DEBUG=True','HOST_NAME=axdda']

结果真的可以。对于比较复杂的设置,下次有需求再研究吧。

总结

以上所述是小编给大家介绍的scrapyd schedule.json setting 传入多个值问题,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Javascript 相关文章推荐
JavaScript 函数调用规则
Sep 14 Javascript
JavaScript 学习笔记 Black.Caffeine 09.11.28
Nov 30 Javascript
JS getStyle获取最终样式函数代码
Apr 01 Javascript
JQuery中上下文选择器实现方法
May 18 Javascript
分享Javascript实用方法二
Dec 13 Javascript
jQuery中ajax的load()与post()方法实例详解
Jan 05 Javascript
JavaScript中对JSON对象的基本操作示例
May 21 Javascript
jquery实现input框获取焦点的简单实例
Jan 26 Javascript
ES6新数据结构Map功能与用法示例
Mar 31 Javascript
jQuery选择器之子元素过滤选择器
Sep 28 jQuery
jQuery实现简单全选框
Sep 13 jQuery
使用 JavaScript 制作页面效果
Apr 21 Javascript
Node.js在图片模板上生成二维码图片并附带底部文字说明实现详解
Aug 07 #Javascript
微信小程序引入Vant组件库过程解析
Aug 06 #Javascript
Vue数据绑定实例写法
Aug 06 #Javascript
Vue代码整洁之去重方法整理
Aug 06 #Javascript
VUE写一个简单的表格实例
Aug 06 #Javascript
VUE前后端学习tab写法实例
Aug 06 #Javascript
Vue路由前后端设计总结
Aug 06 #Javascript
You might like
php下关于Cannot use a scalar value as an array的解决办法
2010/08/08 PHP
PHP测试成功的邮件发送案例
2015/10/26 PHP
jquery中的$(document).ready()与window.onload的区别
2009/11/18 Javascript
用jquery实现下拉菜单效果的代码
2010/07/25 Javascript
javascript面向对象编程代码
2011/12/19 Javascript
JS去除数组重复值的五种不同方法
2013/09/06 Javascript
简介JavaScript中的getUTCFullYear()方法的使用
2015/06/10 Javascript
基于JavaScript如何实现ajax调用后台定义的方法
2015/12/29 Javascript
javascript实现瀑布流加载图片原理
2016/02/02 Javascript
使用bootstrapValidator插件进行动态添加表单元素并校验
2016/09/28 Javascript
slideToggle+slideup实现手机端折叠菜单效果
2017/05/25 Javascript
nodejs接入阿里大鱼短信验证码的方法
2017/07/10 NodeJs
利用node.js如何创建子进程详解
2017/12/09 Javascript
纯js代码生成可搜索选择下拉列表的实例
2018/01/11 Javascript
微信小程序实现两边小中间大的轮播效果的示例代码
2018/12/07 Javascript
详解小程序开发经验:多页面数据同步
2019/05/18 Javascript
javascript单张多张图无缝滚动实例代码
2020/05/10 Javascript
Python的re模块正则表达式操作
2016/05/25 Python
Python使用装饰器模拟用户登陆验证功能示例
2018/08/24 Python
python正则过滤字母、中文、数字及特殊字符方法详解
2020/02/11 Python
python使用python-pptx删除ppt某页实例
2020/02/14 Python
美国著名的家居用品购物网站:Bed Bath & Beyond
2018/01/05 全球购物
产品质量承诺书
2014/03/27 职场文书
工程造价专业求职信
2014/07/17 职场文书
写字楼租赁意向书
2014/07/30 职场文书
委托书格式
2014/08/01 职场文书
优秀教师先进个人事迹材料
2014/08/31 职场文书
2014办公室副主任四风对照检查材料思想汇报
2014/09/20 职场文书
承租经营合作者协议书
2014/10/01 职场文书
党的群众路线教育实践活动学习笔记范文
2014/11/06 职场文书
颐和园英文导游词
2015/01/30 职场文书
慈善献爱心倡议书
2015/04/27 职场文书
学生会工作感言
2015/08/07 职场文书
python数字转对应中文的方法总结
2021/08/02 Python
Python 正则模块详情
2021/11/02 Python
阿里云ECS云服务器快照的概念以及如何使用
2022/04/21 Servers