Python中使用中文的方法


Posted in Python onFebruary 19, 2011

先来看看python的版本:
>>> import sys
>>> sys.version
'2.5.1 (r251:54863, Apr 18 2007, 08:51:08) [MSC v.1310 32 bit (Intel)]'

(一)
用记事本创建一个文件ChineseTest.py,默认ANSI:
s = "中文"
print s

测试一下瞧瞧:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xd6' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

偷偷地把文件编码改成UTF-8:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xe4' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

无济于事。。。
既然它提供了网址,那就看看吧。简单地浏览一下,终于知道如果文件里有非ASCII字符,需要在第一行或第二行指定编码声明。把ChineseTest.py文件的编码重新改为ANSI,并加上编码声明:
# coding=gbk
s = "中文"
print s

再试一下:
E:\Project\Python\Test>python ChineseTest.py
中文

正常咯:)
(二)
看一看它的长度:
# coding=gbk
s = "中文"
print len(s)
结果:4。
s这里是str类型,所以计算的时候一个中文相当于两个英文字符,因此长度为4。
我们这样写:
# coding=gbk
s = "中文"
s1 = u"中文"
s2 = unicode(s, "gbk") #省略参数将用python默认的ASCII来解码
s3 = s.decode("gbk") #把str转换成unicode是decode,unicode函数作用与之相同
print len(s1)
print len(s2)
print len(s3)
结果:
2
2

(三)
接着来看看文件的处理:
建立一个文件test.txt,文件格式用ANSI,内容为:
abc中文
用python来读取
# coding=gbk
print open("Test.txt").read()
结果:abc中文
把文件格式改成UTF-8:
结果:abc涓???
显然,这里需要解码:
# coding=gbk
import codecs
print open("Test.txt").read().decode("utf-8")
结果:abc中文
上面的test.txt我是用Editplus来编辑的,但当我用Windows自带的记事本编辑并存成UTF-8格式时,
运行时报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
print open("Test.txt").read().decode("utf-8")
UnicodeEncodeError: 'gbk' codec can't encode character u'\ufeff' in position 0: illegal multibyte sequence

原来,某些软件,如notepad,在保存一个以UTF-8编码的文件时,会在文件开始的地方插入三个不可见的字符(0xEF 0xBB 0xBF,即BOM)。
因此我们在读取时需要自己去掉这些字符,python中的codecs module定义了这个常量:
# coding=gbk
import codecs
data = open("Test.txt").read()
if data[:3] == codecs.BOM_UTF8:
data = data[3:]
print data.decode("utf-8")
结果:abc中文

(四)一点遗留问题
在第二部分中,我们用unicode函数和decode方法把str转换成unicode。为什么这两个函数的参数用"gbk"呢?
第一反应是我们的编码声明里用了gbk(# coding=gbk),但真是这样?
修改一下源文件:
# coding=utf-8
s = "中文"
print unicode(s, "utf-8")
运行,报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
s = unicode(s, "utf-8")
UnicodeDecodeError: 'utf8' codec can't decode bytes in position 0-1: invalid data
显然,如果前面正常是因为两边都使用了gbk,那么这里我保持了两边utf-8一致,也应该正常,不至于报错。
更进一步的例子,如果我们这里转换仍然用gbk:
# coding=utf-8
s = "中文"
print unicode(s, "gbk")
结果:中文
翻阅了一篇英文资料,它大致讲解了python中的print原理:
When Python executes a print statement, it simply passes the output to the operating system (using fwrite() or something like it), and some other program is responsible for actually displaying that output on the screen. For example, on Windows, it might be the Windows console subsystem that displays the result. Or if you're using Windows and running Python on a Unix box somewhere else, your Windows SSH client is actually responsible for displaying the data. If you are running Python in an xterm on Unix, then xterm and your X server handle the display. <>

To print data reliably, you must know the encoding that this display program expects.

简单地说,python中的print直接把字符串传递给操作系统,所以你需要把str解码成与操作系统一致的格式。Windows使用CP936(几乎与gbk相同),所以这里可以使用gbk。
最后测试:
# coding=utf-8
s = "中文"
print unicode(s, "cp936")
结果:中文

Python 相关文章推荐
Python3.遍历某文件夹提取特定文件名的实例
Apr 26 Python
tensorflow 输出权重到csv或txt的实例
Jun 14 Python
python递归实现快速排序
Aug 18 Python
python3利用Socket实现通信的方法示例
May 06 Python
如何更优雅地写python代码
Jul 02 Python
Python实现朴素贝叶斯的学习与分类过程解析
Aug 24 Python
使用python将excel数据导入数据库过程详解
Aug 27 Python
简单了解Django ORM常用字段类型及参数配置
Jan 07 Python
Python计算指定日期是今年的第几天(三种方法)
Mar 26 Python
python datetime处理时间小结
Apr 16 Python
解决echarts中饼图标签重叠的问题
May 16 Python
python把一个字符串切开的实例方法
Sep 27 Python
python实现的防DDoS脚本
Feb 08 #Python
Python牛刀小试密码爆破
Feb 03 #Python
初学python数组的处理代码
Jan 04 #Python
让python json encode datetime类型
Dec 28 #Python
让python的Cookie.py模块支持冒号做key的方法
Dec 28 #Python
python封装对象实现时间效果
Apr 23 #Python
python下函数参数的传递(参数带星号的说明)
Sep 19 #Python
You might like
在同一窗体中使用PHP来处理多个提交任务
2008/05/08 PHP
php MsSql server时遇到的中文编码问题
2009/06/11 PHP
改写函数实现PHP二维/三维数组转字符串
2013/09/13 PHP
如何阻止网站被恶意反向代理访问(防网站镜像)
2014/03/18 PHP
10条php编程小技巧
2015/07/07 PHP
php rsa 加密,解密,签名,验签详解
2016/12/06 PHP
PHP实现分布式memcache设置web集群session同步的方法
2018/04/10 PHP
Jqyery中同等与js中windows.onload的应用
2011/05/10 Javascript
node.js中使用node-schedule实现定时任务实例
2014/06/03 Javascript
javascript 动态创建表格
2015/01/08 Javascript
基于JavaScript将表单序列化类型的数据转化成对象的处理(允许对象中包含对象)
2015/12/28 Javascript
js计算时间差代码【包括计算,天,时,分,秒】
2016/04/26 Javascript
基于Angularjs实现分页功能
2016/05/30 Javascript
原生JS写Ajax的请求函数功能
2017/12/22 Javascript
微信小程序新手教程之启动页的重要性
2019/03/03 Javascript
Node使用Nodemailer发送邮件的方法实现
2020/02/24 Javascript
Python中zip()函数用法实例教程
2014/07/31 Python
Python的Bottle框架的一些使用技巧介绍
2015/04/08 Python
python实现对excel进行数据剔除操作实例
2017/12/07 Python
Python语言描述KNN算法与Kd树
2017/12/13 Python
用python拟合等角螺线的实现示例
2019/12/27 Python
浅谈Python里面None True False之间的区别
2020/07/09 Python
使用CSS3来实现滚动视差效果的教程
2015/08/24 HTML / CSS
淘宝网店营销策划书
2014/01/11 职场文书
体育专业学生自我评价范文
2014/01/17 职场文书
毕业实习评语
2014/02/10 职场文书
2014广电局实施党的群众路线教育实践活动方案思想汇报
2014/09/22 职场文书
个人债务授权委托书范本
2014/10/05 职场文书
证劵公司反洗钱宣传活动总结
2015/05/08 职场文书
2015年新教师个人工作总结
2015/10/14 职场文书
2016党校学习心得体会范文
2016/01/07 职场文书
安全生产培训心得体会
2016/01/18 职场文书
如何利用map实现Nginx允许多个域名跨域
2021/03/31 Servers
React配置子路由的实现
2021/06/03 Javascript
浅谈Web Storage API的使用
2021/06/23 Javascript
Go语言空白表示符_的实例用法
2021/07/04 Golang