python爬取酷狗音乐排行榜


Posted in Python onFebruary 20, 2019

本文为大家分享了python爬取酷狗音乐排行榜的具体代码,供大家参考,具体内容如下

#coding=utf-8
from pymongo import MongoClient
import time 
import requests 
from lxml import etree 
 
client = MongoClient()      #连接mongo
hello = client.hello       #连接数据库
user = hello.song         #连接表
 
headers = { 
  'User-Agent': 'Mozilla/5.0 (Android 6.0; Nexus 5 Build/MRA58N)\
  AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Mobile Safari/537.36'} 
 
def get_info(url): 
  '''
  get源码,encode,解析,xpath,保存 
  '''
  response = requests.get(url, headers=headers) 
  response = response.text.encode('utf-8') 
  selector = etree.HTML(response) 
  soup = selector.xpath('//*[@class="pc_temp_songlist "]/ul//li/a/text()') 
 
  #保存到本地
  # with open('aa.txt','a') as f:
    # for i in soup:
      # f.write(i.encode('utf-8') + '\n')
 
  #存入数据库
  for i in soup:
    user.insert({'song': i})
 
if __name__ == '__main__': 
  urls = ['http://www.kugou.com/yy/rank/home/{}-8888.html?from=rank'.format(str(i)) for i in range(1, 24)] 
  for url in urls: 
    print(url) 
    get_info(url)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
梯度下降法介绍及利用Python实现的方法示例
Jul 12 Python
Python微信企业号开发之回调模式接收微信端客户端发送消息及被动返回消息示例
Aug 21 Python
快速入门python学习笔记
Dec 06 Python
浅谈python可视化包Bokeh
Feb 07 Python
python遍历小写英文字母的方法
Jan 02 Python
详解opencv Python特征检测及K-最近邻匹配
Jan 21 Python
Django框架视图函数设计示例
Jul 29 Python
Django用户认证系统 User对象解析
Aug 02 Python
python修改FTP服务器上的文件名
Sep 11 Python
python图片剪裁代码(图片按四个点坐标剪裁)
Mar 10 Python
使用Keras中的ImageDataGenerator进行批次读图方式
Jun 17 Python
python编写扎金花小程序的实例代码
Feb 23 Python
python 定时器,轮询定时器的实例
Feb 20 #Python
在Python中,不用while和for循环遍历列表的实例
Feb 20 #Python
python爬取内容存入Excel实例
Feb 20 #Python
Python和Go语言的区别总结
Feb 20 #Python
python整小时 整天时间戳获取算法示例
Feb 20 #Python
python 获取毫秒数,计算调用时长的方法
Feb 20 #Python
Python英文文本分词(无空格)模块wordninja的使用实例
Feb 20 #Python
You might like
php 自写函数代码 获取关键字 去超链接
2010/02/08 PHP
PHP函数func_num_args用法实例分析
2015/12/07 PHP
PHP程序中使用adodb连接不同数据库的代码实例
2015/12/19 PHP
Laravel使用支付宝进行支付的示例代码
2017/08/16 PHP
Extjs Gird 支持中文拼音排序实现代码
2013/04/15 Javascript
js实现黑色简易的滑动门网页tab选项卡效果
2015/08/31 Javascript
Javascript简单实现面向对象编程继承实例代码
2015/11/27 Javascript
探究Javascript模板引擎mustache.js使用方法
2016/01/26 Javascript
AngularJS API之copy深拷贝详解及实例
2016/09/14 Javascript
Vue.js实现一个漂亮、灵活、可复用的提示组件示例
2017/03/17 Javascript
JS解决移动web开发手机输入框弹出的问题
2017/03/31 Javascript
Vue中保存用户登录状态实例代码
2017/06/07 Javascript
BackBone及其实例探究_动力节点Java学院整理
2017/07/14 Javascript
ES6 javascript中class类的get与set用法实例分析
2017/10/30 Javascript
mac中利用NVM管理不同node版本的方法详解
2017/11/08 Javascript
JS返回页面时自动回滚到历史浏览位置
2018/09/26 Javascript
vue使用keep-alive实现组件切换时保存原组件数据方法
2020/10/30 Javascript
[03:11]2014DOTA2国际邀请赛-VG掉入败者组 独家专访357
2014/07/19 DOTA
[10:21]2018DOTA2国际邀请赛寻真——Winstrike
2018/08/11 DOTA
Python探索之ModelForm代码详解
2017/10/26 Python
python读取和保存图片5种方法对比
2018/09/12 Python
python保存二维数组到txt文件中的方法
2018/11/15 Python
pip install python 快速安装模块的教程图解
2019/10/08 Python
pytorch GAN生成对抗网络实例
2020/01/10 Python
python的reverse函数翻转结果为None的问题
2020/05/11 Python
电子商务专业实习生自我鉴定
2013/09/24 职场文书
鲜果饮品店创业计划书
2014/01/21 职场文书
乡镇领导干部个人对照检查材料思想汇报
2014/09/23 职场文书
学校党的群众路线教育实践活动整改措施
2014/10/25 职场文书
护士辞职信怎么写
2015/02/27 职场文书
五星级酒店前台接待岗位职责
2015/04/02 职场文书
六年级情感作文之500字
2019/10/23 职场文书
红灯733-1型14管5波段半导体收音机
2021/04/22 无线电
聊聊pytorch测试的时候为何要加上model.eval()
2021/05/23 Python
Mysql中一千万条数据怎么快速查询
2021/12/06 MySQL
关于Spring配置文件加载方式变化引发的异常详解
2022/01/18 Java/Android