python爬取酷狗音乐排行榜


Posted in Python onFebruary 20, 2019

本文为大家分享了python爬取酷狗音乐排行榜的具体代码,供大家参考,具体内容如下

#coding=utf-8
from pymongo import MongoClient
import time 
import requests 
from lxml import etree 
 
client = MongoClient()      #连接mongo
hello = client.hello       #连接数据库
user = hello.song         #连接表
 
headers = { 
  'User-Agent': 'Mozilla/5.0 (Android 6.0; Nexus 5 Build/MRA58N)\
  AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Mobile Safari/537.36'} 
 
def get_info(url): 
  '''
  get源码,encode,解析,xpath,保存 
  '''
  response = requests.get(url, headers=headers) 
  response = response.text.encode('utf-8') 
  selector = etree.HTML(response) 
  soup = selector.xpath('//*[@class="pc_temp_songlist "]/ul//li/a/text()') 
 
  #保存到本地
  # with open('aa.txt','a') as f:
    # for i in soup:
      # f.write(i.encode('utf-8') + '\n')
 
  #存入数据库
  for i in soup:
    user.insert({'song': i})
 
if __name__ == '__main__': 
  urls = ['http://www.kugou.com/yy/rank/home/{}-8888.html?from=rank'.format(str(i)) for i in range(1, 24)] 
  for url in urls: 
    print(url) 
    get_info(url)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python中输出ASCII大文字、艺术字、字符字小技巧
Apr 28 Python
python爬虫爬取某站上海租房图片
Feb 04 Python
Python解决八皇后问题示例
Apr 22 Python
Selenium 模拟浏览器动态加载页面的实现方法
May 16 Python
修改python plot折线图的坐标轴刻度方法
Dec 13 Python
python 梯度法求解函数极值的实例
Jul 10 Python
运用PyTorch动手搭建一个共享单车预测器
Aug 06 Python
python爬虫豆瓣网的模拟登录实现
Aug 21 Python
Python数据可视化:幂律分布实例详解
Dec 07 Python
Python如何基于selenium实现自动登录博客园
Dec 16 Python
pandas中ix的使用详细讲解
Mar 09 Python
Django 拼接两个queryset 或是两个不可以相加的对象实例
Mar 28 Python
python 定时器,轮询定时器的实例
Feb 20 #Python
在Python中,不用while和for循环遍历列表的实例
Feb 20 #Python
python爬取内容存入Excel实例
Feb 20 #Python
Python和Go语言的区别总结
Feb 20 #Python
python整小时 整天时间戳获取算法示例
Feb 20 #Python
python 获取毫秒数,计算调用时长的方法
Feb 20 #Python
Python英文文本分词(无空格)模块wordninja的使用实例
Feb 20 #Python
You might like
php过滤XSS攻击的函数
2013/11/12 PHP
PHP模板引擎Smarty自定义变量调解器用法
2016/04/11 PHP
php版微信自定义回复功能示例
2016/12/05 PHP
js 页面执行时间计算代码
2009/03/04 Javascript
JS DOM 操作实现代码
2010/08/01 Javascript
jquery mobile changepage的三种传参方法介绍
2013/09/13 Javascript
jQuery中replaceWith()方法用法实例
2014/12/25 Javascript
详解AngularJS中的依赖注入机制
2015/06/17 Javascript
浅谈JS封闭函数、闭包、内置对象
2017/07/18 Javascript
用vue的双向绑定简单实现一个todo-list的示例代码
2017/08/03 Javascript
详解Vue双向数据绑定原理解析
2017/09/11 Javascript
vue-cli脚手架build目录下utils.js工具配置文件详解
2018/09/14 Javascript
基于axios 解决跨域cookie丢失的问题
2018/09/26 Javascript
Vue插件从封装到发布的完整步骤记录
2019/02/28 Javascript
[02:38]DOTA2英雄基础教程 噬魂鬼
2014/01/03 DOTA
python使用str & repr转换字符串
2016/10/13 Python
Ubuntu 下 vim 搭建python 环境 配置
2017/06/12 Python
pandas中去除指定字符的实例
2018/05/18 Python
python计算两个数的百分比方法
2018/06/29 Python
对Python的多进程锁的使用方法详解
2019/02/18 Python
python UDP(udp)协议发送和接收的实例
2019/07/22 Python
python的faker库用法
2019/11/28 Python
Python 实现黑客帝国中的字符雨的示例代码
2020/02/20 Python
Python猜数字算法题详解
2020/03/01 Python
python datetime时间格式的相互转换问题
2020/06/11 Python
Numpy数组的广播机制的实现
2020/11/03 Python
pytest fixtures装饰器的使用和如何控制用例的执行顺序
2021/01/28 Python
HTML5 audio标签使用js进行播放控制实例
2015/04/24 HTML / CSS
大学生学习生活的自我评价
2013/11/01 职场文书
机械工程及其自动化专业求职信
2014/08/08 职场文书
高中升旗仪式演讲稿
2014/09/09 职场文书
国庆节慰问信
2015/02/15 职场文书
教师工作能力自我评价
2015/03/04 职场文书
2015年暑期社会实践报告
2015/07/13 职场文书
golang http使用踩过的坑与填坑指南
2021/04/27 Golang
Linux磁盘管理方法介绍
2022/06/01 Servers