Python中使用中文的方法


Posted in Python onFebruary 19, 2011

先来看看python的版本:
>>> import sys
>>> sys.version
'2.5.1 (r251:54863, Apr 18 2007, 08:51:08) [MSC v.1310 32 bit (Intel)]'

(一)
用记事本创建一个文件ChineseTest.py,默认ANSI:
s = "中文"
print s

测试一下瞧瞧:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xd6' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

偷偷地把文件编码改成UTF-8:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xe4' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

无济于事。。。
既然它提供了网址,那就看看吧。简单地浏览一下,终于知道如果文件里有非ASCII字符,需要在第一行或第二行指定编码声明。把ChineseTest.py文件的编码重新改为ANSI,并加上编码声明:
# coding=gbk
s = "中文"
print s

再试一下:
E:\Project\Python\Test>python ChineseTest.py
中文

正常咯:)
(二)
看一看它的长度:
# coding=gbk
s = "中文"
print len(s)
结果:4。
s这里是str类型,所以计算的时候一个中文相当于两个英文字符,因此长度为4。
我们这样写:
# coding=gbk
s = "中文"
s1 = u"中文"
s2 = unicode(s, "gbk") #省略参数将用python默认的ASCII来解码
s3 = s.decode("gbk") #把str转换成unicode是decode,unicode函数作用与之相同
print len(s1)
print len(s2)
print len(s3)
结果:
2
2

(三)
接着来看看文件的处理:
建立一个文件test.txt,文件格式用ANSI,内容为:
abc中文
用python来读取
# coding=gbk
print open("Test.txt").read()
结果:abc中文
把文件格式改成UTF-8:
结果:abc涓???
显然,这里需要解码:
# coding=gbk
import codecs
print open("Test.txt").read().decode("utf-8")
结果:abc中文
上面的test.txt我是用Editplus来编辑的,但当我用Windows自带的记事本编辑并存成UTF-8格式时,
运行时报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
print open("Test.txt").read().decode("utf-8")
UnicodeEncodeError: 'gbk' codec can't encode character u'\ufeff' in position 0: illegal multibyte sequence

原来,某些软件,如notepad,在保存一个以UTF-8编码的文件时,会在文件开始的地方插入三个不可见的字符(0xEF 0xBB 0xBF,即BOM)。
因此我们在读取时需要自己去掉这些字符,python中的codecs module定义了这个常量:
# coding=gbk
import codecs
data = open("Test.txt").read()
if data[:3] == codecs.BOM_UTF8:
data = data[3:]
print data.decode("utf-8")
结果:abc中文

(四)一点遗留问题
在第二部分中,我们用unicode函数和decode方法把str转换成unicode。为什么这两个函数的参数用"gbk"呢?
第一反应是我们的编码声明里用了gbk(# coding=gbk),但真是这样?
修改一下源文件:
# coding=utf-8
s = "中文"
print unicode(s, "utf-8")
运行,报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
s = unicode(s, "utf-8")
UnicodeDecodeError: 'utf8' codec can't decode bytes in position 0-1: invalid data
显然,如果前面正常是因为两边都使用了gbk,那么这里我保持了两边utf-8一致,也应该正常,不至于报错。
更进一步的例子,如果我们这里转换仍然用gbk:
# coding=utf-8
s = "中文"
print unicode(s, "gbk")
结果:中文
翻阅了一篇英文资料,它大致讲解了python中的print原理:
When Python executes a print statement, it simply passes the output to the operating system (using fwrite() or something like it), and some other program is responsible for actually displaying that output on the screen. For example, on Windows, it might be the Windows console subsystem that displays the result. Or if you're using Windows and running Python on a Unix box somewhere else, your Windows SSH client is actually responsible for displaying the data. If you are running Python in an xterm on Unix, then xterm and your X server handle the display. <>

To print data reliably, you must know the encoding that this display program expects.

简单地说,python中的print直接把字符串传递给操作系统,所以你需要把str解码成与操作系统一致的格式。Windows使用CP936(几乎与gbk相同),所以这里可以使用gbk。
最后测试:
# coding=utf-8
s = "中文"
print unicode(s, "cp936")
结果:中文

Python 相关文章推荐
python判断端口是否打开的实现代码
Feb 10 Python
Python中实现对list做减法操作介绍
Jan 09 Python
Python脚本实现代码行数统计代码分享
Mar 10 Python
Python MySQLdb Linux下安装笔记
May 09 Python
python 获取网页编码方式实现代码
Mar 11 Python
Python实现简单过滤文本段的方法
May 24 Python
python使用tensorflow深度学习识别验证码
Apr 03 Python
Python中利用xpath解析HTML的方法
May 14 Python
python3+opencv3识别图片中的物体并截取的方法
Dec 05 Python
详解Python 4.0 预计推出的新功能
Jul 26 Python
在keras中实现查看其训练loss值
Jun 16 Python
python周期任务调度工具Schedule使用详解
Nov 23 Python
python实现的防DDoS脚本
Feb 08 #Python
Python牛刀小试密码爆破
Feb 03 #Python
初学python数组的处理代码
Jan 04 #Python
让python json encode datetime类型
Dec 28 #Python
让python的Cookie.py模块支持冒号做key的方法
Dec 28 #Python
python封装对象实现时间效果
Apr 23 #Python
python下函数参数的传递(参数带星号的说明)
Sep 19 #Python
You might like
聊天室php&amp;mysql(三)
2006/10/09 PHP
php 数组排序 array_multisort与uasort的区别
2011/03/24 PHP
部署PHP项目应该注意的几点事项分享
2013/12/20 PHP
了解PHP的返回引用和局部静态变量
2015/06/04 PHP
php获取远程文件大小
2015/10/20 PHP
PHP中的多种加密技术及代码示例解析
2016/10/20 PHP
php语法检查的方法总结
2019/01/21 PHP
PHP实现Snowflake生成分布式唯一ID的方法示例
2020/08/30 PHP
ajax的hide隐藏问题解决方法
2012/12/11 Javascript
Jquery AJAX POST与GET之间的区别
2013/11/14 Javascript
jQuery DOM删除节点操作指南
2015/03/03 Javascript
AngularJs Modules详解及示例代码
2016/09/01 Javascript
JavaScript实现隐藏省略文字效果的方法
2017/04/27 Javascript
Node.js中的http请求客户端示例(request client)
2017/05/04 Javascript
bootstrap响应式工具使用详解
2017/11/29 Javascript
[01:51]2014DOTA2西雅图邀请赛 MVP 外卡赛black场间采访
2014/07/09 DOTA
[07:55]2014DOTA2 TI正赛第三日 VG上演推进荣耀DKEG告别
2014/07/21 DOTA
Python给你的头像加上圣诞帽
2018/01/04 Python
python requests爬取高德地图数据的实例
2018/11/10 Python
Python实现获取汉字偏旁部首的方法示例【测试可用】
2018/12/18 Python
Python使用修饰器进行异常日志记录操作示例
2019/03/19 Python
python3.6连接mysql数据库及增删改查操作详解
2020/02/10 Python
Python for循环搭配else常见问题解决
2020/02/11 Python
tensorflow 获取checkpoint中的变量列表实例
2020/02/11 Python
python logging设置level失败的解决方法
2020/02/19 Python
python爬虫实现获取下一页代码
2020/03/13 Python
Django权限设置及验证方式
2020/05/13 Python
Windows下Sqlmap环境安装教程详解
2020/08/04 Python
python中用ggplot绘制画图实例讲解
2021/01/26 Python
介绍一下SQL中union,intersect和minus
2012/04/05 面试题
群众路线党课主持词
2014/04/01 职场文书
2014年小学德育工作总结
2014/12/05 职场文书
上下班时间调整通知
2015/04/23 职场文书
防震减灾主题班会
2015/08/14 职场文书
《鲁滨逊漂流记》之六读后感(4篇)
2019/09/29 职场文书
如何利用python实现Simhash算法
2022/06/28 Python