PHP中使用正则表达式提取中文实现笔记


Posted in PHP onJanuary 20, 2015

最近老板叫做一个数据查重的小练习,涉及从一个包含中文字段的文件中提取出其中的中文字段并存储,使用php开发。中间涉及到php正则表达式中文匹配的问题,网上搜罗一大片,但是也很乱没有一个准信儿,经过自己的代码的修改和检验,先将extract函数写下。

首先要注意到的是,双字节字符的编码问题,这里我们以后还可能会遇到像韩文、日文等编码问题,与中文理解上是一个意思。

1. GBK (GB2312/GB18030)

\x00-\xff GBK双字节编码范围   

\x20-\x7f ASCII   

\xa1-\xff 中文 gb2312   

\x80-\xff 中文 gbk  
 
2. UTF-8 (Unicode)
\u4e00-\u9fa5 (中文)   

\x3130-\x318F (韩文   

\xAC00-\xD7A3 (韩文)   

\u0800-\u4e00 (日文) 

在Notepad++下面,我们可以首先进行测试我们的正则书写的错误与否。第一个表达式我是使用[\u4e00-\u9fa5]+来检验的,+号表示不止一个

PHP中使用正则表达式提取中文实现笔记

匹配符。结果与预期相同,那么,是否在脚本中就可以使用这个正则了呢?

我们测试一下,我们使用preg_match_all(‘/[\u4e00-\u9fa5]+/', $subject,$matches)调用,然后你却看到了这么一个结果:Compilation failed: PCRE does not support \L, \l, \N{name}, \U, or \u at offset 2。。。。是不是很头大??这究竟是什么原因?

查阅了很多资料后发现,u (PCRE_UTF8),就是上面的PCRE,这是是一个Perl库,包括 perl 兼容的正规表达式库。此修正符启用了一个 PCRE 中与 Perl 不兼容的额外功能。模式字符串被当成 UTF-8。本修正符在 Unix 下自 PHP 4.1.0 起可用,在 win32 下自 PHP 4.2.3 起可用。而php正则表达式对于十六进制数据的表达方式上也有所不同,在php中,是用\x表示十六进制数据的。下面我们就将代码优化一下,检测函数变为:

 class storeDataAdapter extends Store{   

        private $dsData;   

        /**  

         * 数据转换函数,调用preg_match_all根据$pattern正则来进行数值匹配,并将返回的结果以数组形式存储在$matches中,  

         * $matches[0]将包含与整个模式匹配的文本,$matches[1] 将包含与第一个捕获的括号中的子模式所匹配的文本,以此类推  

         * @see Store::data_convert()  

         */  

        public function data_convert($pattern,$subject) {   

            $matches=array();   

            if (preg_match_all($pattern, $subject,$matches)){   

                return $matches[0];   

            }else    

            {   

                return null;   

            }   

        }   

    } 

调用的时候变为:

 $store=new storeDataAdapter($txtContent);   

    $match=array();   

    $dsName=$store->data_convert(‘/[\x7f-\xff]+/',$txtContent);   

    foreach ($dsName as $val){   

        echo $val."<br>";   

    }  

输入文件为:

PHP中使用正则表达式提取中文实现笔记

,下面是提取出中文之后的输出文件内容:

PHP中使用正则表达式提取中文实现笔记

,符合预期需求。

PHP 相关文章推荐
用DBSQL类加快开发MySQL数据库程序的速度
Oct 09 PHP
PHP批量生成缩略图的代码
Jul 19 PHP
6种php上传图片重命名的方法实例
Nov 04 PHP
php获取、检查类名、函数名、方法名的函数方法
Jun 25 PHP
两种php给图片加水印的实现代码
Apr 18 PHP
php+MySql实现登录系统与输出浏览者信息功能
Jul 01 PHP
php微信公众平台开发(四)回复功能开发
Dec 06 PHP
Yii2使用表单上传文件的实例代码
Aug 03 PHP
PHP实现Huffman编码/解码的示例代码
Apr 20 PHP
PHP工厂模式简单实现方法示例
May 23 PHP
php实现的生成排列算法示例
Jul 25 PHP
浅析PHP中json_encode与json_decode的区别
Jul 15 PHP
php中的观察者模式简单实例
Jan 20 #PHP
php 5.6版本中编写一个PHP扩展的简单示例
Jan 20 #PHP
PHP函数extension_loaded()用法实例
Jan 19 #PHP
php使用正则表达式获取图片url的方法
Jan 16 #PHP
php使用CURL伪造IP和来源实例详解
Jan 15 #PHP
php+mysql实现无限分类实例详解
Jan 15 #PHP
php截取html字符串及自动补全html标签的方法
Jan 15 #PHP
You might like
加速XP搜索功能堪比vista
2007/03/22 PHP
PHP5中的时间相差8小时的解决办法
2008/03/28 PHP
php代码收集表单内容并写入文件的代码
2012/01/29 PHP
php遍历文件夹和文件列表示例分享
2014/03/11 PHP
php密码生成类实例
2014/09/24 PHP
php图片上传类 附调用方法
2016/05/15 PHP
PHP排序算法之快速排序(Quick Sort)及其优化算法详解
2018/04/21 PHP
PHP容器类的两种实现方式示例
2019/07/24 PHP
EXTJS内使用ACTIVEX控件引起崩溃问题的解决方法
2010/03/31 Javascript
一个简单的Ext.XTemplate的实例代码
2012/03/18 Javascript
jquery div拖动效果示例代码
2013/12/08 Javascript
可插入图片的TEXT文本框
2013/12/27 Javascript
使用jquery实现IE下按backspace相当于返回操作
2014/03/18 Javascript
详解JavaScript中循环控制语句的用法
2015/06/03 Javascript
JS拖拽插件实现步骤
2015/08/03 Javascript
javascript中setAttribute兼容性用法分析
2016/12/12 Javascript
JS实现焦点图轮播效果的方法详解
2016/12/19 Javascript
解决ie img标签内存泄漏的问题
2017/10/13 Javascript
echarts鼠标覆盖高亮显示节点及关系名称详解
2018/03/17 Javascript
基于Vue组件化的日期联动选择器功能的实现代码
2018/11/30 Javascript
从组件封装看Vue的作用域插槽的实现
2019/02/12 Javascript
Django中多种重定向方法使用详解
2019/07/17 Python
Python利用全连接神经网络求解MNIST问题详解
2020/01/14 Python
matplotlib教程——强大的python作图工具库
2020/10/15 Python
详解python polyscope库的安装和例程
2020/11/13 Python
python自动化发送邮件实例讲解
2021/01/04 Python
Debenhams百货英国官方网站:Debenhams UK
2016/07/12 全球购物
世界上第一个水枕头:Mediflow
2018/12/06 全球购物
英国领先的在线鱼贩:The Fish Society
2020/08/12 全球购物
应用数学自荐书范文
2013/11/24 职场文书
生物制药专业求职信
2014/03/11 职场文书
学生会主席演讲稿
2014/04/25 职场文书
2014年党员整改措施
2014/10/24 职场文书
色戒观后感
2015/06/12 职场文书
《鸟的天堂》教学反思
2016/02/19 职场文书
postgresql 删除重复数据案例详解
2021/08/02 PostgreSQL