使用python爬虫获取黄金价格的核心代码


Posted in Python onJune 13, 2018

继续练手,根据之前获取汽油价格的方式获取了金价,暂时没钱投资,看看而已

#!/usr/bin/env python
# -*- coding: utf-8 -*-
"""
获取每天黄金价格
@author: yufei
@site: http://www.antuan.com
2017-05-11
"""
import re
import urllib2,urllib
import random
import threading
import time
import sqlite3
import sys
from __builtin__ import exit
#Some User Agents
hds=[{'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6'},\
  {'User-Agent':'Mozilla/5.0 (Windows NT 6.2) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.12 Safari/535.11'},\
  {'User-Agent':'Mozilla/5.0 (compatible; MSIE 10.0; Windows NT 6.2; Trident/6.0)'},\
  {'User-Agent':'Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:34.0) Gecko/20100101 Firefox/34.0'},\
  {'User-Agent':'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Ubuntu Chromium/44.0.2403.89 Chrome/44.0.2403.89 Safari/537.36'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; U; Intel Mac OS X 10_6_8; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50'},\
  {'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50'},\
  {'User-Agent':'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:2.0.1) Gecko/20100101 Firefox/4.0.1'},\
  {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; rv:2.0.1) Gecko/20100101 Firefox/4.0.1'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11'},\
  {'User-Agent':'Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; en) Presto/2.8.131 Version/11.11'},\
  {'User-Agent':'Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11'}]
'''
create table GoldPricelist(
  [id]  integer PRIMARY KEY autoincrement,
  [name]  varchar default 0,
  [price]  varchar default 0,
  [time] datetime default (datetime('now', 'localtime'))
);
INSERT INTO OilPrice(id,name,price,time) VALUES(NULL,sss, 300, 20180404);
'''
def sqliteinto(Pricelist):
  con = sqlite3.connect('F:\ID\python\sqlite3\Gold.db')
  cur = con.cursor()
  print Pricelist
  sql = '''INSERT INTO GoldPrices (id,name,price,time) VALUES(NULL,?,?,?)'''
  cur.execute(sql,Pricelist)
  con.commit()
  cur.close()
  con.close()
def getPrice():
  url='http://www.dyhjw.com/matter_gold/'
  req = urllib2.Request(url=url,headers=hds[random.randint(0,len(hds)-1)])
  res = urllib2.urlopen(req)
  res = res.read()
  #获取的块
  re_set = re.compile(r'<dl class="main_bname">(.*?)</div>',re.S)
  re_get = re.findall(re_set,res)
  #获取价格详情
  p = re.compile('target="_blank">(.*?)<span class="zd">-</span>\n ',re.S)
  Pricelist = re.findall(p,re_get[0])
  for i in range(0,len(Pricelist)):
    p = re.compile('(.*?)</a>\n              <span class="jg">(.*)</span>',re.S)
    Price = re.findall(p,Pricelist[i])
    gname = Price[0][0]
    gprice = Price[0][1]
    timep = re.compile(r"(\d+)-(\d+)-.*")
    nowtime = time.strftime('%Y-%m-%d',time.localtime(time.time()))
    datas = []
    datas.append(gname.decode('utf8'))
    datas.append(gprice)
    datas.append(nowtime)
    datas = tuple(datas)
    sqliteinto(datas)
if __name__=="__main__":
  getPrice()

最近的数据

使用python爬虫获取黄金价格的核心代码

总结

以上所述是小编给大家介绍的使用python爬虫获取黄金价格的核心代码,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Python 相关文章推荐
详细介绍Python语言中的按位运算符
Nov 26 Python
Python获取脚本所在目录的正确方法
Apr 15 Python
Python中规范定义命名空间的一些建议
Jun 04 Python
Python编程pygal绘图实例之XY线
Dec 09 Python
python 获取图片分辨率的方法
Jan 08 Python
python pandas获取csv指定行 列的操作方法
Jul 12 Python
如何用OpenCV -python3实现视频物体追踪
Dec 04 Python
python3 requests库实现多图片爬取教程
Dec 18 Python
在keras里面实现计算f1-score的代码
Jun 15 Python
python中tab键是什么意思
Jun 18 Python
python制作微博图片爬取工具
Jan 16 Python
python通过函数名调用函数的几种方法总结
Jun 07 Python
Python实现爬虫从网络上下载文档的实例代码
Jun 13 #Python
Pycharm导入Python包,模块的图文教程
Jun 13 #Python
mac下pycharm设置python版本的图文教程
Jun 13 #Python
使用Python来开发微信功能
Jun 13 #Python
python爬取足球直播吧五大联赛积分榜
Jun 13 #Python
Python实现多条件筛选目标数据功能【测试可用】
Jun 13 #Python
mac 安装python网络请求包requests方法
Jun 13 #Python
You might like
php中转义mysql语句的实现代码
2011/06/24 PHP
php实现处理输入转义字符的代码
2015/11/08 PHP
php结合mysql与mysqli扩展处理事务的方法
2016/06/29 PHP
javascript+xml技术实现分页浏览
2008/07/27 Javascript
关于js中alert弹出窗口文本换行问题简单详细说明
2012/12/11 Javascript
谈谈JavaScript中的函数与闭包
2013/04/14 Javascript
jQuery中parentsUntil()方法用法实例
2015/01/07 Javascript
js实现数字每三位加逗号的方法
2015/02/05 Javascript
JS实现图片平面旋转的方法
2016/03/01 Javascript
vue实现在表格里,取每行的id的方法
2018/03/09 Javascript
使用D3.js+Vue实现一个简单的柱形图
2018/08/05 Javascript
详解Vue.js v-for不支持IE9的解决方法
2018/12/29 Javascript
微信小程序8种数据通信的方式小结
2020/02/03 Javascript
react-router-dom 嵌套路由的实现
2020/05/02 Javascript
JavaScript字符串转数字的简单实现方法
2020/11/27 Javascript
[54:30]Liquid vs Newbee 2019国际邀请赛小组赛 BO2 第二场 8.15
2019/08/16 DOTA
Python中删除文件的程序代码
2011/03/13 Python
python网络编程示例(客户端与服务端)
2014/04/24 Python
Python文件及目录操作实例详解
2015/06/04 Python
在Django的模型中添加自定义方法的示例
2015/07/21 Python
详解在Python程序中自定义异常的方法
2015/10/16 Python
Python实现按当前日期(年、月、日)创建多级目录的方法
2018/04/26 Python
pytorch中tensor.expand()和tensor.expand_as()函数详解
2019/12/27 Python
python通过文本在一个图中画多条线的实例
2020/02/21 Python
html5 Canvas实现图片旋转的示例
2018/01/15 HTML / CSS
Canvas引入跨域的图片导致toDataURL()报错的问题的解决
2018/09/19 HTML / CSS
为智能设备设计个性化保护套网站:caseable
2017/01/05 全球购物
法国床上用品商店:La Compagnie du lit
2019/12/26 全球购物
小学生评语集锦
2014/04/18 职场文书
会计岗位说明书
2014/07/29 职场文书
优秀家长自荐材料
2014/08/26 职场文书
个人欠款协议书范本2014
2014/11/02 职场文书
2015年全国科普日活动总结
2015/03/23 职场文书
房产证明范本
2015/06/19 职场文书
解约证明模板
2015/06/19 职场文书
读《人生的智慧》有感:闲暇是人生的精华
2019/12/25 职场文书