php UTF-8、Unicode和BOM问题


Posted in PHP onMay 18, 2010

一、介绍

UTF-8 是一种在web应用中经常使用的一种 Unicode 字符的编码方式,使用 UTF-8 的好处在于它是一种变长的编码方式,对于 ANSII 码编码长度为1个字节,这样的话在传输大量 ASCII 字符集的网页时,可以大量节约网络带宽。
UTF-8签名(UTF-8 signature)也叫做BOM(Byte Order Mark),是UTF编码方案里用于标识编码的标准标记。BOM,是UTF编码方案里用于标识编码的标准标记,在UTF-16里本来是FF FE,变成UTF-8就成了EF BB BF。这个标记是可选的,因为UTF8字节没有顺序,所以它可以被用来检测一个字节流是否是UTF-8编码的。微软做这种检测,但有些软件不做这种检测,而把它当作正常字符处理。微软在自己的UTF-8格式的文本文件之前加上了EF BB BF三个字节, windows上面的notepad等程序就是根据这三个字节来确定一个文本文件是ASCII的还是UTF-8的, 然而这个只是微软暗自作的标记, 其它平台上并没有对UTF-8文本文件做个这样的标记。也就是说一个UTF-8文件可能有BOM,也可能没有BOM。
只有一个BOM,是不会有问题的。如果多个文件设置了签名,在二进制流中就会包含多个UTF-8签名,也就是导致XML转换失败的"root element must be well-formed"原因。

二、查看和转换

既然一个UTF-8文件可能有BOM,也可能没有,那该如何区分呢?
只要用带十六进制编辑方式的软件,例如,用UltraEdit-32打开文件,切换到十六进制编辑模式,察看文件头部是否有EF BB BF。有,则为带BOM方式。
Windows自带的notepad记事本,保存为UTF-8时,默认就带BOM。
转换的方法有很多,常见的UltraEdit-32或NotePad++都可以,以UltraEdit-32为例。打开文件后,选择“另存为”,在“格式”一栏中有如下选择:

php UTF-8、Unicode和BOM问题

另外,DreamWeaver CS3也有类似的选项,在“首选项”中,如果选择 Unicode (UTF-8) 作为默认编码,则可以选择“包括 Unicode 签名 (BOM)”选项,以在文档中包括字节顺序标记 (BOM)。否则,不带BOM:
php UTF-8、Unicode和BOM问题
三、其他知识
从http://blog.csdn.net/thimin/archive/2007/08/03/1724393.aspx 一文了解到:
所谓的unicode保存的文件实际上是utf-16,只不过恰好跟unicode的码相同而已,但在概念上unicode与utf是两回事,unicode是内存编码表示方案,而utf是如何保存和传输unicode的方案。utf-16还分高位在前 (LE)和高位在后(BE)两种。官方的utf编码还有utf-32,也分LE和BE。非unicode官方的utf编码还有utf-7,主要用于邮件传输。utf-8的单字节部分是和iso-8859-1兼容的,这主要是一些旧的系统和库函数不能正确处理utf-16而被迫出来的,而且对英语字符来说,也节省保存的文件空间(以非英语字符浪费空间为代价)。在iso-8859-1的时候,utf8和iso-8859-1都是用一个字节表示的,当表示其它字符的时候,utf-8会使用两个或三个字节。

一段关于BOM的更详细说明,来自这里:
在UCS 编码中有一个叫做"ZERO WIDTH NO-BREAK SPACE"的字符,它的编码是FEFF。而FFFE在UCS中是不存在的字符,所以不应该出现在实际传输中。UCS规范建议我们在传输字节流前,先传输字符"ZERO WIDTH NO-BREAK SPACE"。这样如果接收者收到FEFF,就表明这个字节流是Big-Endian的;如果收到FFFE,就表明这个字节流是Little-Endian的。因此字符"ZERO WIDTH NO-BREAK SPACE"又被称作BOM。
UTF-8不需要BOM来表明字节顺序,但可以用BOM来表明编码方式。字符"ZERO WIDTH NO-BREAK SPACE"的UTF-8编码是EF BB BF。所以如果接收者收到以EF BB BF开头的字节流,就知道这是UTF-8编码了。
Windows就是使用BOM来标记文本文件的编码方式的。

PHP也不支持BOM。
PHP在设计时就没有考虑BOM的问题,也就是说他不会忽略UTF-8编码的文件开头BOM的那三个字符。由于必须在<?或者<?php后面的代码才会作为PHP代码执行,所以这三个字符将会直接输出。如果插件的文件有这个问题,将会导致在后台页面里激活或者不激活插件后显示白屏,如果是模版文件有这个问题,将会导致这三个字符直接输出,造成页面上方有一个小空行。国外的英文插件和模版一般都是用的ASCII码的编码方式,不会有BOM,只有国内的插件和模版会由于作者的不知情造成问题。还有,大家修改模版的时候,由于输出页面使用UTF-8编码,那么修改模版的时候如果有加入中文字符的话,必须把文件转成UTF-8编码才能正常显示,这个时候如果所使用的编辑器自动加上了BOM的话,将会造成在页面上输出这三个字符,显示效果就要看浏览器了,一般是一个空行或是一个乱码。
※ 补充一句:特别是当使用php导入模板的时候,更容易因为这三个字符,导致浏览异常。

PHP 相关文章推荐
杏林同学录(九)
Oct 09 PHP
Uchome1.2 1.5 代码学习 common.php
Apr 24 PHP
关于IIS php调用com组件的权限问题
Jan 11 PHP
PHP递归返回值时出现的问题解决办法
Feb 19 PHP
PHP输出当前进程所有变量/常量/模块/函数/类的示例
Nov 07 PHP
smarty模板中使用get、post、request、cookies、session变量的方法
Apr 24 PHP
PHP登录环节防止sql注入的方法浅析
Jun 30 PHP
ThinkPHP中redirect用法分析
Dec 05 PHP
PHP开发制作一个简单的活动日程表Calendar
Jun 20 PHP
php表单加入Token防止重复提交的方法分析
Oct 10 PHP
php array_reverse 以相反的顺序返回数组实例代码
Apr 11 PHP
Laravel 将数据表的数据导出,并生成seeds种子文件的方法
Oct 09 PHP
php生成的html meta和link标记在body标签里 顶部有个空行
May 18 #PHP
PHP 工厂模式使用方法
May 18 #PHP
在PHP中使用反射技术的架构插件使用说明
May 18 #PHP
PHP 写文本日志实现代码
May 18 #PHP
php 随机记录mysql rand()造成CPU 100%的解决办法
May 18 #PHP
PHP array_flip() 删除重复数组元素专用函数
May 16 #PHP
mysql下创建字段并设置主键的php代码
May 16 #PHP
You might like
推荐个功能齐全的发送PHP邮件类
2007/01/03 PHP
详解Grunt插件之LiveReload实现页面自动刷新(两种方案)
2015/07/31 PHP
Thinkphp实现自动验证和自动完成
2015/12/19 PHP
YII使用url组件美化管理的方法
2015/12/28 PHP
一个简单安全的PHP验证码类 附调用方法
2016/06/24 PHP
PHP执行shell脚本运行程序不产生core文件的方法
2016/12/28 PHP
PHP中include()与require()的区别说明
2017/02/14 PHP
laravel框架与其他框架的详细对比
2019/10/23 PHP
面向对象的编程思想在javascript中的运用上部
2009/11/20 Javascript
jquery.fileEveryWhere.js 一个跨浏览器的file显示插件
2011/10/24 Javascript
JS操作图片(增,删,改) 例子
2013/04/17 Javascript
JS中如何判断传过来的JSON数据中是否存在某字段
2014/08/18 Javascript
如何减少浏览器的reflow和repaint
2015/02/26 Javascript
AngularJS中的过滤器使用详解
2015/06/16 Javascript
简单纯js实现点击切换TAB标签实例
2015/08/23 Javascript
webpack教程之webpack.config.js配置文件
2017/07/05 Javascript
angularjs实现天气预报功能
2020/06/16 Javascript
JS实现字符串中去除指定子字符串方法分析
2018/05/17 Javascript
[00:32]2018DOTA2亚洲邀请赛出场——LGD
2018/04/04 DOTA
[01:06:12]VP vs NIP 2019国际邀请赛小组赛 BO2 第一场 8.15
2019/08/17 DOTA
Python中for循环控制语句用法实例
2015/06/02 Python
Python判断直线和矩形是否相交的方法
2015/07/14 Python
python 中split 和 strip的实例详解
2017/07/12 Python
Python cookbook(数据结构与算法)保存最后N个元素的方法
2018/02/13 Python
Python Dataframe 指定多列去重、求差集的方法
2018/07/10 Python
详解python数据结构和算法
2019/04/18 Python
Python 依赖库太多了该如何管理
2019/11/08 Python
基于tensorflow for循环 while循环案例
2020/06/30 Python
python 5个顶级异步框架推荐
2020/09/09 Python
吉尔德利巧克力公司:Ghirardelli Chocolate Company
2019/03/27 全球购物
华为c/c++笔试题
2016/01/25 面试题
综合素质自我评价怎么写
2014/09/14 职场文书
买房子个人收入证明
2014/10/12 职场文书
高校自主招生教师推荐信
2015/03/23 职场文书
邮政营业员岗位职责
2015/04/14 职场文书
oracle重置序列从0开始递增1
2022/02/28 Oracle