使用python爬虫获取黄金价格的核心代码


Posted in Python onJune 13, 2018

继续练手,根据之前获取汽油价格的方式获取了金价,暂时没钱投资,看看而已

#!/usr/bin/env python
# -*- coding: utf-8 -*-
"""
获取每天黄金价格
@author: yufei
@site: http://www.antuan.com
2017-05-11
"""
import re
import urllib2,urllib
import random
import threading
import time
import sqlite3
import sys
from __builtin__ import exit
#Some User Agents
hds=[{'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6'},\
  {'User-Agent':'Mozilla/5.0 (Windows NT 6.2) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.12 Safari/535.11'},\
  {'User-Agent':'Mozilla/5.0 (compatible; MSIE 10.0; Windows NT 6.2; Trident/6.0)'},\
  {'User-Agent':'Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:34.0) Gecko/20100101 Firefox/34.0'},\
  {'User-Agent':'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Ubuntu Chromium/44.0.2403.89 Chrome/44.0.2403.89 Safari/537.36'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; U; Intel Mac OS X 10_6_8; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50'},\
  {'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50'},\
  {'User-Agent':'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:2.0.1) Gecko/20100101 Firefox/4.0.1'},\
  {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; rv:2.0.1) Gecko/20100101 Firefox/4.0.1'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11'},\
  {'User-Agent':'Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; en) Presto/2.8.131 Version/11.11'},\
  {'User-Agent':'Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11'}]
'''
create table GoldPricelist(
  [id]  integer PRIMARY KEY autoincrement,
  [name]  varchar default 0,
  [price]  varchar default 0,
  [time] datetime default (datetime('now', 'localtime'))
);
INSERT INTO OilPrice(id,name,price,time) VALUES(NULL,sss, 300, 20180404);
'''
def sqliteinto(Pricelist):
  con = sqlite3.connect('F:\ID\python\sqlite3\Gold.db')
  cur = con.cursor()
  print Pricelist
  sql = '''INSERT INTO GoldPrices (id,name,price,time) VALUES(NULL,?,?,?)'''
  cur.execute(sql,Pricelist)
  con.commit()
  cur.close()
  con.close()
def getPrice():
  url='http://www.dyhjw.com/matter_gold/'
  req = urllib2.Request(url=url,headers=hds[random.randint(0,len(hds)-1)])
  res = urllib2.urlopen(req)
  res = res.read()
  #获取的块
  re_set = re.compile(r'<dl class="main_bname">(.*?)</div>',re.S)
  re_get = re.findall(re_set,res)
  #获取价格详情
  p = re.compile('target="_blank">(.*?)<span class="zd">-</span>\n ',re.S)
  Pricelist = re.findall(p,re_get[0])
  for i in range(0,len(Pricelist)):
    p = re.compile('(.*?)</a>\n              <span class="jg">(.*)</span>',re.S)
    Price = re.findall(p,Pricelist[i])
    gname = Price[0][0]
    gprice = Price[0][1]
    timep = re.compile(r"(\d+)-(\d+)-.*")
    nowtime = time.strftime('%Y-%m-%d',time.localtime(time.time()))
    datas = []
    datas.append(gname.decode('utf8'))
    datas.append(gprice)
    datas.append(nowtime)
    datas = tuple(datas)
    sqliteinto(datas)
if __name__=="__main__":
  getPrice()

最近的数据

使用python爬虫获取黄金价格的核心代码

总结

以上所述是小编给大家介绍的使用python爬虫获取黄金价格的核心代码,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Python 相关文章推荐
python在Windows8下获取本机ip地址的方法
Mar 14 Python
python访问抓取网页常用命令总结
Apr 11 Python
python中in在list和dict中查找效率的对比分析
May 04 Python
解决Tensorflow安装成功,但在导入时报错的问题
Jun 13 Python
Flask Web开发入门之文件上传(八)
Aug 17 Python
Python matplotlib通过plt.scatter画空心圆标记出特定的点方法
Dec 13 Python
Python中三元表达式的几种写法介绍
Mar 04 Python
PyQt5显示GIF图片的方法
Jun 17 Python
python读取ini配置的类封装代码实例
Jan 08 Python
Python多线程获取返回值代码实例
Feb 17 Python
如何解决flask修改静态资源后缓存文件不能及时更改问题
Aug 02 Python
Python实现列表索引批量删除的5种方法
Nov 16 Python
Python实现爬虫从网络上下载文档的实例代码
Jun 13 #Python
Pycharm导入Python包,模块的图文教程
Jun 13 #Python
mac下pycharm设置python版本的图文教程
Jun 13 #Python
使用Python来开发微信功能
Jun 13 #Python
python爬取足球直播吧五大联赛积分榜
Jun 13 #Python
Python实现多条件筛选目标数据功能【测试可用】
Jun 13 #Python
mac 安装python网络请求包requests方法
Jun 13 #Python
You might like
PHP获取163、gmail、126等邮箱联系人地址【已测试2009.10.10】
2009/10/11 PHP
PHP setcookie设置Cookie用法(及设置无效的问题)
2011/07/13 PHP
php中的Base62类(适用于数值转字符串)
2013/08/12 PHP
php使用exec shell命令注入的方法讲解
2013/11/12 PHP
Javascript 二维数组
2009/11/26 Javascript
javascript instanceof,typeof的区别
2010/03/24 Javascript
jquery JSON的解析方式示例介绍
2014/07/27 Javascript
JavaScript参数个数可变的函数举例说明
2014/10/10 Javascript
jquery图片切换实例分析
2015/04/15 Javascript
JS实现3D图片旋转展示效果代码
2015/09/22 Javascript
详解JavaScript中的Unescape()和String() 函数
2015/11/09 Javascript
prototype框架中美元符号$用法分析
2016/01/22 Javascript
js解决movebox移动问题
2016/03/29 Javascript
基于Bootstrap里面的Button dropdown打造自定义select
2016/05/30 Javascript
浅谈JavaScript对象与继承
2016/07/10 Javascript
JS实现的添加弹出层并完成锁屏操作示例
2017/04/07 Javascript
echart简介_动力节点Java学院整理
2017/08/11 Javascript
详解webpack提取第三方库的正确姿势
2017/12/22 Javascript
详解刷新页面vuex数据不消失和不跳转页面的解决
2018/01/30 Javascript
关于ES6箭头函数中的this问题
2018/02/27 Javascript
Vue-input框checkbox强制刷新问题
2019/04/18 Javascript
ng-alain的sf如何自定义部件的流程
2020/06/12 Javascript
[02:12]Dota 2 推出全新英雄—— 电炎绝手
2019/08/23 DOTA
Python socket C/S结构的聊天室应用实现
2014/11/30 Python
python re.sub()替换正则的匹配内容方法
2019/07/22 Python
Django框架HttpResponse对象用法实例分析
2019/11/01 Python
如何运行带参数的python脚本
2019/11/15 Python
python with语句的原理与用法详解
2020/03/30 Python
VSCODE配置Markdown及Markdown基础语法详解
2021/01/19 Python
Groupon法国官方网站:特卖和网上购物高达-70%
2019/09/02 全球购物
读书心得体会
2013/12/28 职场文书
毕业生自荐书模版
2014/01/04 职场文书
婚礼证婚人证婚词
2014/01/13 职场文书
幼儿园辞职信范文
2015/02/27 职场文书
2015年党风建设工作总结
2015/04/29 职场文书
python pygame 开发五子棋双人对弈
2022/05/02 Python