在laravel中使用Symfony的Crawler组件分析HTML


Posted in PHP onJune 19, 2017

Crawler全名是DomCrawler,是Symfony框架的组件。令人发指的是DomCrawler的没有中文文档,Symfony也没有翻译该部分,所以使用DomCrawler开发只能一点一点摸索,现将使用过程中的经验总结。

首先是安装

composer require symfony/dom-crawler
composer require symfony/css-selector

css-seelctor 是 css选择器,用css选择节点时一些函数会用到

手册里面使用的例子是

use Symfony\Component\DomCrawler\Crawler;
$html = <<<‘HTML‘
Hello World!
Hello Crawler!
HTML;
$crawler = new Crawler($html);
foreach ($crawler as $domElement)
{
var_dump($domElement->nodeName);
}

打印的结果是

string ‘html‘ (length=4)

因为这段html代码的nodeName就是html,英语不好,开始使用的时候还以为程序错了。。。

实际使用过程,如果new Crawler($html)会出现乱码问题,应该是与页面编码有关,所以可以采用下面的方式,先初始化crawler,然后添加node

$crawler = new Crawler();
$crawler->addHtmlContent($html);

addHtmlContent的第二个参数是charset,默认是utf-8。

其他例子可以参考官方文档,http://symfony.com/doc/current/components/dom_crawler.html

记录一下工作中一点点试出来的用法

filterXPath(string $xpath) 方法,按照手册上的说法,该方法的参数是$xpath,经常用的是p,div等块。

echo $crawler->filterXPath(‘//body/p‘)->text();
echo $crawler->filterXPath(‘//body/p‘)->last()->text();

输出是第一个和下一个p标签块的文本

var_dump($crawler->filterXPath(‘//body‘)->html());

输出body内的html

foreach ($crawler->filterXPath(‘//body/p‘) as $i => $node) {
$c = new Crawler($node);
echo $c->filter(‘p‘)->text();
}

filterXPath获得的是DOMElement块的数组,每个DOMElement块可以使用新的crawler对象继续解析

$nodeValues =
$crawler->filterXPath(‘//body/p‘)->each(function (Crawler $node, $i) {
return $node->text();
});

crawler提供了each循环,使用闭包函数简化代码,不过注意的是,这种写法$nodeValues得到的是数组,需要进一步处理。

其他用法

echo $crawler->filterXPath(‘//body/p‘)->attr(‘class‘);

可以获得第一个p标签对应class属性的值“message”

$crawler->filterXPath(‘//div[@class="样式"]‘)->filter(‘a‘)->attr(‘href‘);
$crawler->filterXPath(‘//div[@class="样式"]‘)->filter(‘a>img‘)->extract(array(‘alt‘, ‘href‘))

以上是获得标签属性的一些方法

filter和filterXPath不同,手册上写的是css选择器,不太明白,我理解是div这种XPath节点包含的元素,具体情况还需要在实际开发中去尝试。

总的来说感觉DomCrawler要比simple html dom好用一些,可能是我用的比较浅显。

上述只是Crawler的基本功能,更过用法请查阅symfony手册关于Crawler部分的函数

http://api.symfony.com/3.2/Symfony/Component/DomCrawler/Crawler.html

Crawler主要问题还是示例太少,函数手册里面没有使用实例,只能在实际使用中去摸索。。。。

symfony关于DomCrawler的文档,里面有少数例子

http://symfony.com/doc/current/components/dom_crawler.html

以上所述是小编给大家介绍的在laravel中使用Symfony的Crawler组件分析HTML,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
PHP3 safe_mode 失效漏洞
Oct 09 PHP
PHP 文件上传源码分析(RFC1867)
Oct 30 PHP
使用HMAC-SHA1签名方法详解
Jun 26 PHP
浅析PHP绘图技术
Jul 03 PHP
实例讲解PHP面向对象之多态
Aug 20 PHP
ThinkPHP后台首页index使用frameset时的注意事项分析
Aug 22 PHP
php+ajax实现无刷新分页的方法
Nov 04 PHP
PHP对象克隆clone用法示例
Sep 28 PHP
PHP 实现公历日期与农历日期的互转换
Sep 13 PHP
safari下载文件自动加了html后缀问题
Nov 09 PHP
PHP实现基本留言板功能原理与步骤详解
Mar 26 PHP
php解析非标准json、非规范json的方式实例
Dec 10 PHP
Laravel给生产环境添加监听事件(SQL日志监听)
Jun 19 #PHP
Yii 2.0自带的验证码使用经验分享
Jun 19 #PHP
PHP实现下载远程图片保存到本地的方法
Jun 19 #PHP
Yii2 如何在modules中添加验证码的方法
Jun 19 #PHP
PHP实现的简单操作SQLite数据库类与用法示例
Jun 19 #PHP
JS+PHP实现用户输入数字后显示最大的值及所在位置
Jun 19 #PHP
PHP利用Socket获取网站的SSL证书与公钥
Jun 18 #PHP
You might like
PHP 如何利用phpexcel导入数据库
2013/08/24 PHP
PHP和JavaScrip分别获取关联数组的键值示例代码
2013/09/16 PHP
php实现按指定大小等比缩放生成上传图片缩略图的方法
2014/12/15 PHP
PHP输出Excel PHPExcel的方法
2018/07/26 PHP
Laravel timestamps 设置为unix时间戳的方法
2019/10/11 PHP
Chrome中JSON.parse的特殊实现
2011/01/12 Javascript
node.js中的socket.io入门实例
2014/04/26 Javascript
jQuery中die()方法用法实例
2015/01/19 Javascript
浅析四种常见的Javascript声明循环变量的书写方式
2015/10/14 Javascript
JavaScript中实现键值对应的字典与哈希表结构的示例
2016/06/12 Javascript
AngularJS中关于ng-class指令的几种实现方式详解
2016/09/17 Javascript
Node.js中sequelize时区的配置方法
2017/12/10 Javascript
angularJS的radio实现单项二选一的使用方法
2018/02/28 Javascript
vue组件与复用详解
2018/04/08 Javascript
vue-video-player 通过自定义按钮组件实现全屏切换效果【推荐】
2018/08/29 Javascript
axios如何利用promise无痛刷新token的实现方法
2019/08/27 Javascript
vue点击Dashboard不同内容 跳转到同一表格的实例
2020/11/13 Javascript
Python中关于字符串对象的一些基础知识
2015/04/08 Python
Python实现更改图片尺寸大小的方法(基于Pillow包)
2016/09/19 Python
Python实现的径向基(RBF)神经网络示例
2018/02/06 Python
Python wxPython库消息对话框MessageDialog用法示例
2018/09/03 Python
Python跑循环时内存泄露的解决方法
2020/01/13 Python
Python 字符串池化的前提
2020/07/03 Python
python对 MySQL 数据库进行增删改查的脚本
2020/10/22 Python
英国顶级珠宝品牌之家:John Greed
2018/06/09 全球购物
Hotels.com印度:酒店预订
2019/05/11 全球购物
以实惠的价格轻松租车,免费取消:Easyrentcars
2019/07/16 全球购物
巴塞罗那观光通票:Barcelona Pass
2019/10/30 全球购物
编写一子程序,将一链表倒序,即使链表表尾变表头,表头变表尾
2016/02/10 面试题
物业总经理岗位职责
2014/02/28 职场文书
机械工程师岗位职责
2014/06/16 职场文书
2014保险公司个人工作总结
2014/12/09 职场文书
收费员岗位职责
2015/02/14 职场文书
研讨会通知
2015/04/27 职场文书
公司车辆管理制度
2015/08/04 职场文书
Python使用pandas导入csv文件内容的示例代码
2022/12/24 Python