php curl常用的5个经典例子


Posted in PHP onJanuary 20, 2017

我用php ,curl主要是抓取数据,当然我们可以用其他的方法来抓取,比如fsockopen,file_get_contents等。但是只能抓那些能直接访问的页面,如果要抓取有页面访问控制的页面,或者是登录以后的页面就比较困难了。

1,抓取无访问控制文件

<?php 
 $ch = curl_init(); 
 curl_setopt($ch, CURLOPT_URL, "http://localhost/mytest/phpinfo.php"); 
 curl_setopt($ch, CURLOPT_HEADER, false); 
 curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //如果把这行注释掉的话,就会直接输出 
 $result=curl_exec($ch); 
 curl_close($ch); 
 ?>

2,使用代理进行抓取

为什么要使用代理进行抓取呢?以google为例吧,如果去抓google的数据,短时间内抓的很频繁的话,你就抓取不到了。google对你的ip地址做限制这个时候,你可以换代理重新抓。

<pre name="code" class="php"><?php 
 $ch = curl_init(); 
 curl_setopt($ch, CURLOPT_URL, "http://blog.51yip.com"); 
 curl_setopt($ch, CURLOPT_HEADER, false); 
 curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
 curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, TRUE); 
 curl_setopt($ch, CURLOPT_PROXY, 125.21.23.6:8080); 
 //url_setopt($ch, CURLOPT_PROXYUSERPWD, 'user:password');如果要密码的话,加上这个 
 $result=curl_exec($ch); 
 curl_close($ch); 
 ?>

3,post数据后,抓取数据

单独说一下数据提交数据,因为用 curl的时候,很多时候会有数据交互的,所以比较重要的。

<?php 
 $ch = curl_init(); 
 /*在这里需要注意的是,要提交的数据不能是二维数组或者更高 
 *例如array('name'=>serialize(array('tank','zhang')),'sex'=>1,'birth'=>'20101010') 
 *例如array('name'=>array('tank','zhang'),'sex'=>1,'birth'=>'20101010')这样会报错的*/ 
 $data = array('name' => 'test', 'sex'=>1,'birth'=>'20101010'); 
 curl_setopt($ch, CURLOPT_URL, 'http://localhost/mytest/curl/upload.php'); 
 curl_setopt($ch, CURLOPT_POST, 1); 
 curl_setopt($ch, CURLOPT_POSTFIELDS, $data); 
 curl_exec($ch); 
 ?>

在 upload.php文件中,print_r($_POST);利用curl就能抓取出upload.php输出的内容Array ( [name] => test [sex] => 1 [birth] => 20101010 )

4,抓取一些有页面访问控制的页面

php curl常用的5个经典例子

以前写过一篇,页面访问控制的3种方法有兴趣的可以看一下。

如果用上面提到的方法抓的话,会报以下错误

You are not authorized to view this page
You do not have permission to view this directory or page using the credentials that you supplied because your Web browser is sending a WWW-Authenticate header field that the Web server is not configured to accept.

这个时候,我们就要用CURLOPT_USERPWD来进行验证了

<?php 
 $ch = curl_init(); 
 curl_setopt($ch, CURLOPT_URL, "http://club-china"); 
 /*CURLOPT_USERPWD主要用来破解页面访问控制的 
 *例如平时我们所以htpasswd产生页面控制等。*/ 
 //curl_setopt($ch, CURLOPT_USERPWD, 'user:password'); 
 curl_setopt($ch, CURLOPT_HTTPGET, 1); 
 curl_setopt($ch, CURLOPT_REFERER, "http://club-china"); 
 curl_setopt($ch, CURLOPT_HEADER, 0); 
 $result=curl_exec($ch); 
 curl_close($ch); 
 ?>

以上这篇php curl常用的5个经典例子就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

PHP 相关文章推荐
PHP截取中文字符串的问题
Jul 12 PHP
php执行sql语句的写法
Mar 10 PHP
php定时删除文件夹下文件(清理缓存文件)
Jan 23 PHP
php笔记之:文章中图片处理的使用
Apr 26 PHP
深入PHP变量存储的详解
Jun 13 PHP
深入PHP curl参数的详解
Jun 17 PHP
php创建、获取cookie及基础要点分析
Jan 26 PHP
Yii框架引用插件和ckeditor中body与P标签去除的方法
Jan 19 PHP
php 字符串中是否包含指定字符串的多种方法
Apr 12 PHP
PHP使Laravel为JSON REST API返回自定义错误的问题
Oct 16 PHP
Codeigniter里的无刷新上传的实现代码
Apr 14 PHP
基于PHP实现发微博动态代码实例
Dec 11 PHP
php技巧小结【推荐】
Jan 19 #PHP
Yii CDBCriteria常用方法实例小结
Jan 19 #PHP
PHP对象实例化单例方法
Jan 19 #PHP
Yii框架引用插件和ckeditor中body与P标签去除的方法
Jan 19 #PHP
利用PHP获取网站访客的所在地位置
Jan 18 #PHP
PHP面向对象学习之parent::关键字
Jan 18 #PHP
php输出含有“#”字符串的方法
Jan 18 #PHP
You might like
php FPDF类库应用实现代码
2009/03/20 PHP
关于php操作mysql执行数据库查询的一些常用操作汇总
2013/06/24 PHP
Yii 2.0在Grid中格式化时间方法示例
2017/06/06 PHP
浅谈laravel 5.6 安装 windows上使用composer的安装过程
2019/10/18 PHP
fireworks菜单生成器mm_menu.js在 IE 7.0 显示问题的解决方法
2009/10/20 Javascript
JS控制表单提交的方法
2015/07/09 Javascript
node.js文件上传处理示例
2016/10/27 Javascript
JS中append字符串包含onclick无效传递参数失败的解决方案
2016/12/26 Javascript
JS中用try catch对代码运行的性能影响分析
2016/12/26 Javascript
完美实现js拖拽效果 return false用法详解
2017/07/28 Javascript
vuex进阶知识点巩固
2018/05/20 Javascript
jQuery选择器选中最后一个元素,倒数第二个元素操作示例
2018/12/10 jQuery
在Node.js下运用MQTT协议实现即时通讯及离线推送的方法
2019/01/24 Javascript
Easyui 关闭jquery-easui tab标签页前触发事件的解决方法
2019/04/28 jQuery
AngularJs中$cookies简单用法分析
2019/05/30 Javascript
[01:02]DOTA2上海特锦赛SHOWOPEN
2016/03/25 DOTA
[00:19]CN DOTA NEVER DIE!VG夺冠rOtK接受采访
2019/12/23 DOTA
归纳整理Python中的控制流语句的知识点
2015/04/14 Python
python 接口_从协议到抽象基类详解
2017/08/24 Python
Python实现的FTP通信客户端与服务器端功能示例
2018/03/28 Python
python3下实现搜狗AI API的代码示例
2018/04/10 Python
TensorFlow实现非线性支持向量机的实现方法
2018/04/28 Python
Python换行与不换行的输出实例
2020/02/19 Python
如何实现更换Jupyter Notebook内核Python版本
2020/05/18 Python
Python grpc超时机制代码示例
2020/09/14 Python
Python基于爬虫实现全网搜索并下载音乐
2021/02/14 Python
Artist Guitars新西兰:乐器在线商店
2017/09/17 全球购物
英国最受欢迎的价格比较网站之一:MoneySuperMarket
2018/12/19 全球购物
火山动力Java笔试题
2014/06/26 面试题
自我评价是什么
2014/01/04 职场文书
活动倡议书范文
2014/05/13 职场文书
2015圣诞节贺卡寄语
2015/03/24 职场文书
就业证明函
2015/06/17 职场文书
三八妇女节主持词
2015/07/04 职场文书
二年级作文之动物作文
2019/11/13 职场文书
经典《舰娘》游改全新动画预告 预定11月开播
2022/04/01 日漫