Python检测网站链接是否已存在


Posted in Python onApril 07, 2016

Python是一种解释型、面向对象、动态数据类型的高级程序设计语言。

Python由Guido van Rossum于1989年底发明,第一个公开发行版发行于1991年。

像Perl语言一样, Python 源代码同样遵循 GPL(GNU General Public License)协议。

早就听说Python语言操作简单,果然名不虚传,短短几句,就实现了基本的功能。

要检测目标网站上是否存在指定的URL,其实过程很简单:

1、获得指定网站网页的HTML代码

2、在HTML代码中查找指定的URL

3、如果存在,OK;否则,Error

整个程序引用了两个lib库,urllib2和sgmllib。

urllib2库主要定义了一些访问URL(基本通过HTTP)的函数与类。

sgmllib库主要负责解析HTML代码。

import urllib
from sgmllib import SGMLParser
class URLLister(SGMLParser):
def reset(self):
SGMLParser.reset(self)
self.urls = []
def start_a(self,attrs):
href=[v for k,v in attrs if k=='href']
if href:
if (href[].count('http://网站URL')==):
self.urls.extend(href)
links = ['http://www.google.com/',
'http://www.baidu.com',
'http://www.sohu.net',
'http://www..com',
'http://www.cnblogs.com',
'http://www.qq.com',
'http://www.yahoo.com/',
'http://www.bing.com/',
'http://www..com',]
for eachlink in links:
f = urllib.urlopen(eachlink)
if f.code ==:
parser = URLLister()
parser.feed(f.read())
f.close()
if (len(parser.urls)>=):
print 'The link from '+eachlink+' is OK!'
else:
print 'The link from '+eachlink+' is ERROR!'

这其中几个主要函数:

1、urllib2.urlopen(url[, data][, timeout])//打开一个URL

2、SGMLParser.feed(data) //获得需要解析的HTML数据

3、SGMLParser.start_tag(attributes) //指定需要解析的HTML标签,在本程序中,我们调用了start_a,说明我们需要解析HTML代码中<a>标签。通过查找<a>标签中href属性的value,可以获得该网页上所有链接的信息,只要我们指定的URL存在,就OK了。

这其实是一个很小的脚本,但也让我激动不已。一来,我已经跨进了Python的世界,并用它解决了实际工作中的问题,二来,它的简单语法、缩进格式着实让我眼前一亮。今后,希望能够多多使用Python,解决实际工作中的种种问题,做到学以致用.

以上内容是针对Python检测网站链接是否已存在的相关介绍,希望对大家有所帮助!

Python 相关文章推荐
Python使用Matplotlib实现Logos设计代码
Dec 25 Python
Python cookbook(数据结构与算法)从任意长度的可迭代对象中分解元素操作示例
Feb 13 Python
Python使用Selenium模块模拟浏览器抓取斗鱼直播间信息示例
Jul 18 Python
一篇文章搞懂Python的类与对象名称空间
Dec 10 Python
浅析Python 实现一个自动化翻译和替换的工具
Apr 14 Python
Python数据处理篇之Sympy系列(五)---解方程
Oct 12 Python
Python使用Selenium实现淘宝抢单的流程分析
Jun 23 Python
Python 使用Opencv实现目标检测与识别的示例代码
Sep 08 Python
Python+OpenCV图像处理——实现轮廓发现
Oct 23 Python
python实现代码审查自动回复消息
Feb 01 Python
python模板入门教程之flask Jinja
Apr 11 Python
代码复现python目标检测yolo3详解预测
May 06 Python
python多进程共享变量
Apr 06 #Python
python socket多线程通讯实例分析(聊天室)
Apr 06 #Python
python文件的md5加密方法
Apr 06 #Python
python制作爬虫并将抓取结果保存到excel中
Apr 06 #Python
python基于隐马尔可夫模型实现中文拼音输入
Apr 01 #Python
Python使用BeautifulSoup库解析HTML基本使用教程
Mar 31 #Python
Python使用Mechanize模块编写爬虫的要点解析
Mar 31 #Python
You might like
在JavaScript中调用php程序
2009/03/09 PHP
详解PHP的Yii框架中扩展的安装与使用
2016/04/01 PHP
ThinkPHP整合datatables实现服务端分页的示例代码
2018/02/10 PHP
CL vs ForZe BO5 第五场 2.13
2021/03/10 DOTA
网站被黑的假象--ARP欺骗之页面中加入一段js
2007/05/16 Javascript
点击下载链接 弹出页面实现代码
2009/10/01 Javascript
JS 自定义带默认值的函数
2011/07/21 Javascript
为原生js Array增加each方法
2012/04/07 Javascript
解析使用JS 清空File控件的路径值
2013/07/08 Javascript
Node.js实现批量去除BOM文件头
2014/12/20 Javascript
第四章之BootStrap表单与图片
2016/04/25 Javascript
把json格式的字符串转换成javascript对象或数组的方法总结
2016/11/03 Javascript
jQuery根据ID、CLASS、等获取对象的实例
2016/12/04 Javascript
js实现年月日表单三级联动
2020/04/17 Javascript
实例详解JavaScript中setTimeout函数的执行顺序
2017/07/12 Javascript
实例解析ES6 Proxy使用场景介绍
2018/01/08 Javascript
vue2.0 可折叠列表 v-for循环展示的实例
2018/09/07 Javascript
[44:40]KG vs LGD 2019国际邀请赛小组赛 BO2 第一场 8.15
2019/08/16 DOTA
[58:00]DOTA2-DPC中国联赛 正赛 PSG.LGD vs Elephant BO3 第二场 2月7日
2021/03/11 DOTA
Python自定义函数计算给定日期是该年第几天的方法示例
2019/05/30 Python
python程序快速缩进多行代码方法总结
2019/06/23 Python
Python Print实现在输出中插入变量的例子
2019/12/25 Python
Python中如何将一个类方法变为多个方法
2019/12/30 Python
解决TensorFlow GPU版出现OOM错误的问题
2020/02/03 Python
python中zip()函数遍历多个列表方法
2021/02/18 Python
使用html5制作loading图的示例
2014/04/14 HTML / CSS
大学生职业生涯规划范文——找准自我,定位人生
2014/01/23 职场文书
学校端午节活动方案
2014/08/23 职场文书
2014年“世界无车日”活动方案
2014/09/21 职场文书
自习课吵闹检讨书范文
2014/09/26 职场文书
财务总监岗位职责范本
2015/04/03 职场文书
大国崛起日本观后感
2015/06/02 职场文书
爱的教育读书笔记
2015/06/26 职场文书
钢铁是怎样炼成的读书笔记
2015/06/29 职场文书
公司环境卫生管理制度
2015/08/05 职场文书
js 实现验证码输入框示例详解
2022/09/23 Javascript