PHP中使用正则表达式提取中文实现笔记


Posted in PHP onJanuary 20, 2015

最近老板叫做一个数据查重的小练习,涉及从一个包含中文字段的文件中提取出其中的中文字段并存储,使用php开发。中间涉及到php正则表达式中文匹配的问题,网上搜罗一大片,但是也很乱没有一个准信儿,经过自己的代码的修改和检验,先将extract函数写下。

首先要注意到的是,双字节字符的编码问题,这里我们以后还可能会遇到像韩文、日文等编码问题,与中文理解上是一个意思。

1. GBK (GB2312/GB18030)

\x00-\xff GBK双字节编码范围   

\x20-\x7f ASCII   

\xa1-\xff 中文 gb2312   

\x80-\xff 中文 gbk  
 
2. UTF-8 (Unicode)
\u4e00-\u9fa5 (中文)   

\x3130-\x318F (韩文   

\xAC00-\xD7A3 (韩文)   

\u0800-\u4e00 (日文) 

在Notepad++下面,我们可以首先进行测试我们的正则书写的错误与否。第一个表达式我是使用[\u4e00-\u9fa5]+来检验的,+号表示不止一个

PHP中使用正则表达式提取中文实现笔记

匹配符。结果与预期相同,那么,是否在脚本中就可以使用这个正则了呢?

我们测试一下,我们使用preg_match_all(‘/[\u4e00-\u9fa5]+/', $subject,$matches)调用,然后你却看到了这么一个结果:Compilation failed: PCRE does not support \L, \l, \N{name}, \U, or \u at offset 2。。。。是不是很头大??这究竟是什么原因?

查阅了很多资料后发现,u (PCRE_UTF8),就是上面的PCRE,这是是一个Perl库,包括 perl 兼容的正规表达式库。此修正符启用了一个 PCRE 中与 Perl 不兼容的额外功能。模式字符串被当成 UTF-8。本修正符在 Unix 下自 PHP 4.1.0 起可用,在 win32 下自 PHP 4.2.3 起可用。而php正则表达式对于十六进制数据的表达方式上也有所不同,在php中,是用\x表示十六进制数据的。下面我们就将代码优化一下,检测函数变为:

 class storeDataAdapter extends Store{   

        private $dsData;   

        /**  

         * 数据转换函数,调用preg_match_all根据$pattern正则来进行数值匹配,并将返回的结果以数组形式存储在$matches中,  

         * $matches[0]将包含与整个模式匹配的文本,$matches[1] 将包含与第一个捕获的括号中的子模式所匹配的文本,以此类推  

         * @see Store::data_convert()  

         */  

        public function data_convert($pattern,$subject) {   

            $matches=array();   

            if (preg_match_all($pattern, $subject,$matches)){   

                return $matches[0];   

            }else    

            {   

                return null;   

            }   

        }   

    } 

调用的时候变为:

 $store=new storeDataAdapter($txtContent);   

    $match=array();   

    $dsName=$store->data_convert(‘/[\x7f-\xff]+/',$txtContent);   

    foreach ($dsName as $val){   

        echo $val."<br>";   

    }  

输入文件为:

PHP中使用正则表达式提取中文实现笔记

,下面是提取出中文之后的输出文件内容:

PHP中使用正则表达式提取中文实现笔记

,符合预期需求。

PHP 相关文章推荐
基于OpenCV的PHP图像人脸识别技术
Oct 11 PHP
PHP 基本语法格式
Dec 15 PHP
php一个找二层目录的小东东
Aug 02 PHP
解析php下载远程图片函数 可伪造来路
Jun 25 PHP
无刷新动态加载数据 滚动条加载适合评论等页面
Oct 16 PHP
php中随机函数mt_rand()与rand()性能对比分析
Dec 01 PHP
详解PHP中的mb_detect_encoding函数使用方法
Aug 18 PHP
实现WordPress主题侧边栏切换功能的PHP脚本详解
Dec 14 PHP
thinkphp中的url跳转用法分析
Jul 12 PHP
PHP图片添加水印功能示例小结
Oct 03 PHP
PHP读取、解析eml文件及生成网页的方法示例
Sep 04 PHP
PHP面向对象五大原则之单一职责原则(SRP)详解
Apr 04 PHP
php中的观察者模式简单实例
Jan 20 #PHP
php 5.6版本中编写一个PHP扩展的简单示例
Jan 20 #PHP
PHP函数extension_loaded()用法实例
Jan 19 #PHP
php使用正则表达式获取图片url的方法
Jan 16 #PHP
php使用CURL伪造IP和来源实例详解
Jan 15 #PHP
php+mysql实现无限分类实例详解
Jan 15 #PHP
php截取html字符串及自动补全html标签的方法
Jan 15 #PHP
You might like
咖啡是不是喝了会上瘾?咖啡是必须品吗!
2021/03/04 新手入门
php数组键值用法实例分析
2015/02/27 PHP
php使用GD库创建图片缩略图的方法
2015/06/10 PHP
全面了解PHP中的全局变量
2016/06/17 PHP
简短几句jquery代码的实现一个图片向上滚动切换
2011/09/02 Javascript
Js实现滚动变色的文字效果
2014/06/16 Javascript
深入理解vue2.0路由如何配置问题
2017/07/18 Javascript
详解Angular Forms中自定义ngModel绑定值的方式
2018/12/10 Javascript
深入理解JavaScript 箭头函数
2019/05/30 Javascript
js基础之事件捕获与冒泡原理
2019/10/09 Javascript
es6 for循环中let和var区别详解
2020/01/12 Javascript
Vue.js的模板语法详解
2020/02/16 Javascript
微信小程序抽奖组件的使用步骤
2021/01/11 Javascript
[01:14]TI珍贵瞬间系列(六):冠军
2020/08/30 DOTA
Python求解平方根的方法
2015/03/11 Python
python 禁止函数修改列表的实现方法
2017/08/03 Python
Python下载网络文本数据到本地内存的四种实现方法示例
2018/02/05 Python
Python使用Phantomjs截屏网页的方法
2018/05/17 Python
Python numpy中矩阵的基本用法汇总
2019/02/12 Python
Python 数据库操作 SQLAlchemy的示例代码
2019/02/18 Python
numpy:np.newaxis 实现将行向量转换成列向量
2019/11/30 Python
Python文本处理简单易懂方法解析
2019/12/19 Python
基于python使用tibco ems代码实例
2019/12/20 Python
对Tensorflow中tensorboard日志的生成与显示详解
2020/02/04 Python
利用python清除移动硬盘中的临时文件
2020/10/28 Python
HTML5 Canvas中使用路径描画二阶、三阶贝塞尔曲线
2015/01/01 HTML / CSS
耐克美国官网:Nike.com
2016/08/01 全球购物
给老师的道歉信
2014/01/11 职场文书
安全生产检讨书
2014/01/21 职场文书
《愚公移山》教学反思
2014/02/20 职场文书
电焊工岗位职责
2014/03/06 职场文书
大学生村官座谈会发言材料
2014/05/25 职场文书
2016暑期政治学习心得体会
2016/01/23 职场文书
基于python实现银行管理系统
2021/04/20 Python
Pytest中skip和skipif的具体使用方法
2021/06/30 Python
Android自定义双向滑动控件
2022/04/19 Java/Android