使用python爬虫获取黄金价格的核心代码


Posted in Python onJune 13, 2018

继续练手,根据之前获取汽油价格的方式获取了金价,暂时没钱投资,看看而已

#!/usr/bin/env python
# -*- coding: utf-8 -*-
"""
获取每天黄金价格
@author: yufei
@site: http://www.antuan.com
2017-05-11
"""
import re
import urllib2,urllib
import random
import threading
import time
import sqlite3
import sys
from __builtin__ import exit
#Some User Agents
hds=[{'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6'},\
  {'User-Agent':'Mozilla/5.0 (Windows NT 6.2) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.12 Safari/535.11'},\
  {'User-Agent':'Mozilla/5.0 (compatible; MSIE 10.0; Windows NT 6.2; Trident/6.0)'},\
  {'User-Agent':'Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:34.0) Gecko/20100101 Firefox/34.0'},\
  {'User-Agent':'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Ubuntu Chromium/44.0.2403.89 Chrome/44.0.2403.89 Safari/537.36'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; U; Intel Mac OS X 10_6_8; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50'},\
  {'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50'},\
  {'User-Agent':'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:2.0.1) Gecko/20100101 Firefox/4.0.1'},\
  {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; rv:2.0.1) Gecko/20100101 Firefox/4.0.1'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11'},\
  {'User-Agent':'Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; en) Presto/2.8.131 Version/11.11'},\
  {'User-Agent':'Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11'}]
'''
create table GoldPricelist(
  [id]  integer PRIMARY KEY autoincrement,
  [name]  varchar default 0,
  [price]  varchar default 0,
  [time] datetime default (datetime('now', 'localtime'))
);
INSERT INTO OilPrice(id,name,price,time) VALUES(NULL,sss, 300, 20180404);
'''
def sqliteinto(Pricelist):
  con = sqlite3.connect('F:\ID\python\sqlite3\Gold.db')
  cur = con.cursor()
  print Pricelist
  sql = '''INSERT INTO GoldPrices (id,name,price,time) VALUES(NULL,?,?,?)'''
  cur.execute(sql,Pricelist)
  con.commit()
  cur.close()
  con.close()
def getPrice():
  url='http://www.dyhjw.com/matter_gold/'
  req = urllib2.Request(url=url,headers=hds[random.randint(0,len(hds)-1)])
  res = urllib2.urlopen(req)
  res = res.read()
  #获取的块
  re_set = re.compile(r'<dl class="main_bname">(.*?)</div>',re.S)
  re_get = re.findall(re_set,res)
  #获取价格详情
  p = re.compile('target="_blank">(.*?)<span class="zd">-</span>\n ',re.S)
  Pricelist = re.findall(p,re_get[0])
  for i in range(0,len(Pricelist)):
    p = re.compile('(.*?)</a>\n              <span class="jg">(.*)</span>',re.S)
    Price = re.findall(p,Pricelist[i])
    gname = Price[0][0]
    gprice = Price[0][1]
    timep = re.compile(r"(\d+)-(\d+)-.*")
    nowtime = time.strftime('%Y-%m-%d',time.localtime(time.time()))
    datas = []
    datas.append(gname.decode('utf8'))
    datas.append(gprice)
    datas.append(nowtime)
    datas = tuple(datas)
    sqliteinto(datas)
if __name__=="__main__":
  getPrice()

最近的数据

使用python爬虫获取黄金价格的核心代码

总结

以上所述是小编给大家介绍的使用python爬虫获取黄金价格的核心代码,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Python 相关文章推荐
python中MySQLdb模块用法实例
Nov 10 Python
python安装oracle扩展及数据库连接方法
Feb 21 Python
python中将字典形式的数据循环插入Excel
Jan 16 Python
CentOS7.3编译安装Python3.6.2的方法
Jan 22 Python
Python爬虫实现(伪)球迷速成
Jun 10 Python
python处理multipart/form-data的请求方法
Dec 26 Python
pyqt5实现俄罗斯方块游戏
Jan 11 Python
用python建立两个Y轴的XY曲线图方法
Jul 08 Python
python3实现弹弹球小游戏
Nov 25 Python
Keras 实现加载预训练模型并冻结网络的层
Jun 15 Python
python中tkinter窗口位置\坐标\大小等实现示例
Jul 09 Python
python tkinter实现下载进度条及抖音视频去水印原理
Feb 07 Python
Python实现爬虫从网络上下载文档的实例代码
Jun 13 #Python
Pycharm导入Python包,模块的图文教程
Jun 13 #Python
mac下pycharm设置python版本的图文教程
Jun 13 #Python
使用Python来开发微信功能
Jun 13 #Python
python爬取足球直播吧五大联赛积分榜
Jun 13 #Python
Python实现多条件筛选目标数据功能【测试可用】
Jun 13 #Python
mac 安装python网络请求包requests方法
Jun 13 #Python
You might like
PHP中10个不常见却非常有用的函数
2010/03/21 PHP
备份mysql数据库的php代码(一个表一个文件)
2010/05/28 PHP
thinkphp3查询mssql数据库乱码解决方法分享
2014/02/11 PHP
通过curl模拟post和get方式提交的表单类
2014/04/23 PHP
PHP生成随机数的方法总结
2018/03/01 PHP
PHP添加文字水印或图片水印的水印类完整源代码与使用示例
2019/03/18 PHP
csdn 博客的css样式 v3
2009/02/24 Javascript
defer属性导致引用JQuery的页面报“浏览器无法打开网站xxx,操作被中止”错误的解决方法
2010/04/27 Javascript
javascript,jquery闭包概念分析
2010/06/19 Javascript
JSON JQUERY模板实现说明
2010/07/03 Javascript
客户端限制只能上传jpg格式图片的js代码
2010/12/09 Javascript
浅析Prototype的模板类 Template
2011/12/07 Javascript
在浏览器中打开或关闭JavaScript的方法
2015/06/03 Javascript
JavaScript编程学习技巧汇总
2016/02/21 Javascript
全面解析Bootstrap中form、navbar的使用方法
2016/05/30 Javascript
Vue.js学习笔记之 helloworld
2016/08/14 Javascript
浅谈Node.js:fs文件系统模块
2016/12/08 Javascript
简单实现node.js图片上传
2016/12/18 Javascript
Vue基于NUXT的SSR详解
2017/10/24 Javascript
layui自定义工具栏的方法
2019/09/19 Javascript
详解mpvue开发微信小程序基础知识
2019/09/23 Javascript
[01:06:32]DOTA2上海特级锦标赛D组资格赛#1 EG VS VP第一局
2016/02/28 DOTA
[41:52]2018DOTA2亚洲邀请赛3月29日小组赛B组Effect VS Secret
2018/03/30 DOTA
window环境pip切换国内源(pip安装异常缓慢的问题)
2019/12/31 Python
对Keras中predict()方法和predict_classes()方法的区别说明
2020/06/09 Python
python中有帮助函数吗
2020/06/19 Python
Python 解析xml文件的示例
2020/09/29 Python
初探CSS3中的calc()功能
2015/07/14 HTML / CSS
英国在线房屋中介网站:Yopa
2018/01/09 全球购物
西班牙购买行李箱和背包网站:Maletas Greenwich
2019/10/08 全球购物
应聘医药代表职位求职信
2013/10/21 职场文书
办公自动化毕业生求职信
2014/03/09 职场文书
竞选大队委员演讲稿
2014/04/28 职场文书
2015年后备干部工作总结
2015/05/15 职场文书
恰同学少年观后感
2015/06/08 职场文书
Win11如何设置右键单击显示所有选项?Win11右键单击显示所有选项设置教程
2022/04/08 数码科技