PHP中使用正则表达式提取中文实现笔记


Posted in PHP onJanuary 20, 2015

最近老板叫做一个数据查重的小练习,涉及从一个包含中文字段的文件中提取出其中的中文字段并存储,使用php开发。中间涉及到php正则表达式中文匹配的问题,网上搜罗一大片,但是也很乱没有一个准信儿,经过自己的代码的修改和检验,先将extract函数写下。

首先要注意到的是,双字节字符的编码问题,这里我们以后还可能会遇到像韩文、日文等编码问题,与中文理解上是一个意思。

1. GBK (GB2312/GB18030)

\x00-\xff GBK双字节编码范围   

\x20-\x7f ASCII   

\xa1-\xff 中文 gb2312   

\x80-\xff 中文 gbk  
 
2. UTF-8 (Unicode)
\u4e00-\u9fa5 (中文)   

\x3130-\x318F (韩文   

\xAC00-\xD7A3 (韩文)   

\u0800-\u4e00 (日文) 

在Notepad++下面,我们可以首先进行测试我们的正则书写的错误与否。第一个表达式我是使用[\u4e00-\u9fa5]+来检验的,+号表示不止一个

PHP中使用正则表达式提取中文实现笔记

匹配符。结果与预期相同,那么,是否在脚本中就可以使用这个正则了呢?

我们测试一下,我们使用preg_match_all(‘/[\u4e00-\u9fa5]+/', $subject,$matches)调用,然后你却看到了这么一个结果:Compilation failed: PCRE does not support \L, \l, \N{name}, \U, or \u at offset 2。。。。是不是很头大??这究竟是什么原因?

查阅了很多资料后发现,u (PCRE_UTF8),就是上面的PCRE,这是是一个Perl库,包括 perl 兼容的正规表达式库。此修正符启用了一个 PCRE 中与 Perl 不兼容的额外功能。模式字符串被当成 UTF-8。本修正符在 Unix 下自 PHP 4.1.0 起可用,在 win32 下自 PHP 4.2.3 起可用。而php正则表达式对于十六进制数据的表达方式上也有所不同,在php中,是用\x表示十六进制数据的。下面我们就将代码优化一下,检测函数变为:

 class storeDataAdapter extends Store{   

        private $dsData;   

        /**  

         * 数据转换函数,调用preg_match_all根据$pattern正则来进行数值匹配,并将返回的结果以数组形式存储在$matches中,  

         * $matches[0]将包含与整个模式匹配的文本,$matches[1] 将包含与第一个捕获的括号中的子模式所匹配的文本,以此类推  

         * @see Store::data_convert()  

         */  

        public function data_convert($pattern,$subject) {   

            $matches=array();   

            if (preg_match_all($pattern, $subject,$matches)){   

                return $matches[0];   

            }else    

            {   

                return null;   

            }   

        }   

    } 

调用的时候变为:

 $store=new storeDataAdapter($txtContent);   

    $match=array();   

    $dsName=$store->data_convert(‘/[\x7f-\xff]+/',$txtContent);   

    foreach ($dsName as $val){   

        echo $val."<br>";   

    }  

输入文件为:

PHP中使用正则表达式提取中文实现笔记

,下面是提取出中文之后的输出文件内容:

PHP中使用正则表达式提取中文实现笔记

,符合预期需求。

PHP 相关文章推荐
php中文本数据翻页(留言本翻页)
Oct 09 PHP
用php和MySql来与ODBC数据连接
Oct 09 PHP
Smarty+QUICKFORM小小演示
Feb 25 PHP
php 验证码实例代码
Jun 01 PHP
让PHP以ROOT权限执行系统命令的方法
Feb 10 PHP
PHP简洁函数(PHP简单明了函数语法)
Jun 10 PHP
PHP抽象类 介绍
Jun 13 PHP
PHP实现微信网页授权开发教程
Jan 19 PHP
php读取torrent种子文件内容的方法(测试可用)
May 03 PHP
[原创]PHP实现字节数Byte转换为KB、MB、GB、TB的方法
Aug 31 PHP
PHP中递归的实现实例详解
Nov 14 PHP
PHP安装BCMath扩展的方法
Feb 13 PHP
php中的观察者模式简单实例
Jan 20 #PHP
php 5.6版本中编写一个PHP扩展的简单示例
Jan 20 #PHP
PHP函数extension_loaded()用法实例
Jan 19 #PHP
php使用正则表达式获取图片url的方法
Jan 16 #PHP
php使用CURL伪造IP和来源实例详解
Jan 15 #PHP
php+mysql实现无限分类实例详解
Jan 15 #PHP
php截取html字符串及自动补全html标签的方法
Jan 15 #PHP
You might like
phplist及phpmailer(组合使用)通过gmail发送邮件的配置方法
2016/03/30 PHP
Thinkphp微信公众号支付接口
2016/08/04 PHP
服务端 VBScript 与 JScript 几个相同特性的写法 By shawl.qiu
2007/03/06 Javascript
JS版网站风格切换实例代码
2008/10/06 Javascript
《JavaScript高级程序设计》阅读笔记(三) ECMAScript中的引用类型
2012/02/27 Javascript
jq选项卡鼠标延迟的插件实例
2013/05/13 Javascript
jquery的ajax和getJson跨域获取json数据的实现方法
2014/02/04 Javascript
js中回调函数的学习笔记
2014/07/31 Javascript
js控制网页前进和后退的方法
2015/06/08 Javascript
详解JavaScript中getFullYear()方法的使用
2015/06/10 Javascript
浅析jQuery中使用$所引发的问题
2016/05/29 Javascript
js原生跨域_用script标签的简单实现
2016/09/24 Javascript
全面解析node 表单的图片上传
2016/11/21 Javascript
利用Js的console对象,在控制台打印调式信息测试Js的实现
2016/11/26 Javascript
微信小程序 this和that详解及简单实例
2017/02/13 Javascript
JavaScript基础之this详解
2017/06/04 Javascript
ES6学习教程之Map的常用方法总结
2017/08/03 Javascript
微信小程序实现全国机场索引列表
2018/01/31 Javascript
解决element UI 自定义传参的问题
2018/08/22 Javascript
详解适配器在JavaScript中的体现
2018/09/28 Javascript
微信小程序表单验证插件WxValidate的二次封装功能(终极版)
2019/09/03 Javascript
[06:44]2018DOTA2亚洲邀请赛4.5 SOLO赛 MidOne vs Sumail
2018/04/06 DOTA
初步解析Python中的yield函数的用法
2015/04/03 Python
python中子类继承父类的__init__方法实例
2016/12/15 Python
Python+OpenCV+pyQt5录制双目摄像头视频的实例
2019/06/28 Python
python实现超市管理系统(后台管理)
2019/10/25 Python
解决python父线程关闭后子线程不关闭问题
2020/04/25 Python
One.com挪威:北欧成长最快的网络托管公司
2016/11/19 全球购物
Ariat英国官网:为世界顶级马术运动员制造最优质的鞋类和服装
2020/02/14 全球购物
估算杭州有多少软件工程师
2015/08/11 面试题
内业资料员岗位职责
2014/01/04 职场文书
安全生产大检查方案
2014/05/07 职场文书
先进党员事迹材料
2014/12/24 职场文书
2015年世界卫生日活动总结
2015/02/09 职场文书
班组长如何制订适合本班组的工作计划?
2019/07/10 职场文书
了解Kubernetes中的Service和Endpoint
2022/04/01 Servers