Python中使用中文的方法


Posted in Python onFebruary 19, 2011

先来看看python的版本:
>>> import sys
>>> sys.version
'2.5.1 (r251:54863, Apr 18 2007, 08:51:08) [MSC v.1310 32 bit (Intel)]'

(一)
用记事本创建一个文件ChineseTest.py,默认ANSI:
s = "中文"
print s

测试一下瞧瞧:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xd6' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

偷偷地把文件编码改成UTF-8:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xe4' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

无济于事。。。
既然它提供了网址,那就看看吧。简单地浏览一下,终于知道如果文件里有非ASCII字符,需要在第一行或第二行指定编码声明。把ChineseTest.py文件的编码重新改为ANSI,并加上编码声明:
# coding=gbk
s = "中文"
print s

再试一下:
E:\Project\Python\Test>python ChineseTest.py
中文

正常咯:)
(二)
看一看它的长度:
# coding=gbk
s = "中文"
print len(s)
结果:4。
s这里是str类型,所以计算的时候一个中文相当于两个英文字符,因此长度为4。
我们这样写:
# coding=gbk
s = "中文"
s1 = u"中文"
s2 = unicode(s, "gbk") #省略参数将用python默认的ASCII来解码
s3 = s.decode("gbk") #把str转换成unicode是decode,unicode函数作用与之相同
print len(s1)
print len(s2)
print len(s3)
结果:
2
2

(三)
接着来看看文件的处理:
建立一个文件test.txt,文件格式用ANSI,内容为:
abc中文
用python来读取
# coding=gbk
print open("Test.txt").read()
结果:abc中文
把文件格式改成UTF-8:
结果:abc涓???
显然,这里需要解码:
# coding=gbk
import codecs
print open("Test.txt").read().decode("utf-8")
结果:abc中文
上面的test.txt我是用Editplus来编辑的,但当我用Windows自带的记事本编辑并存成UTF-8格式时,
运行时报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
print open("Test.txt").read().decode("utf-8")
UnicodeEncodeError: 'gbk' codec can't encode character u'\ufeff' in position 0: illegal multibyte sequence

原来,某些软件,如notepad,在保存一个以UTF-8编码的文件时,会在文件开始的地方插入三个不可见的字符(0xEF 0xBB 0xBF,即BOM)。
因此我们在读取时需要自己去掉这些字符,python中的codecs module定义了这个常量:
# coding=gbk
import codecs
data = open("Test.txt").read()
if data[:3] == codecs.BOM_UTF8:
data = data[3:]
print data.decode("utf-8")
结果:abc中文

(四)一点遗留问题
在第二部分中,我们用unicode函数和decode方法把str转换成unicode。为什么这两个函数的参数用"gbk"呢?
第一反应是我们的编码声明里用了gbk(# coding=gbk),但真是这样?
修改一下源文件:
# coding=utf-8
s = "中文"
print unicode(s, "utf-8")
运行,报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
s = unicode(s, "utf-8")
UnicodeDecodeError: 'utf8' codec can't decode bytes in position 0-1: invalid data
显然,如果前面正常是因为两边都使用了gbk,那么这里我保持了两边utf-8一致,也应该正常,不至于报错。
更进一步的例子,如果我们这里转换仍然用gbk:
# coding=utf-8
s = "中文"
print unicode(s, "gbk")
结果:中文
翻阅了一篇英文资料,它大致讲解了python中的print原理:
When Python executes a print statement, it simply passes the output to the operating system (using fwrite() or something like it), and some other program is responsible for actually displaying that output on the screen. For example, on Windows, it might be the Windows console subsystem that displays the result. Or if you're using Windows and running Python on a Unix box somewhere else, your Windows SSH client is actually responsible for displaying the data. If you are running Python in an xterm on Unix, then xterm and your X server handle the display. <>

To print data reliably, you must know the encoding that this display program expects.

简单地说,python中的print直接把字符串传递给操作系统,所以你需要把str解码成与操作系统一致的格式。Windows使用CP936(几乎与gbk相同),所以这里可以使用gbk。
最后测试:
# coding=utf-8
s = "中文"
print unicode(s, "cp936")
结果:中文

Python 相关文章推荐
python实现数通设备tftp备份配置文件示例
Apr 02 Python
python正则表达式re模块详细介绍
May 29 Python
python中列表元素连接方法join用法实例
Apr 07 Python
Python实现统计文本文件字数的方法
May 05 Python
详解python里使用正则表达式的分组命名方式
Oct 24 Python
Python cookbook(数据结构与算法)字典相关计算问题示例
Feb 18 Python
python 把列表转化为字符串的方法
Oct 23 Python
python腾讯语音合成实现过程解析
Aug 01 Python
Pycharm 2019 破解激活方法图文详解
Oct 11 Python
Python生成个性签名图片获取GUI过程解析
Dec 16 Python
django ajax发送post请求的两种方法
Jan 05 Python
解决Python在导入文件时的FileNotFoundError问题
Apr 10 Python
python实现的防DDoS脚本
Feb 08 #Python
Python牛刀小试密码爆破
Feb 03 #Python
初学python数组的处理代码
Jan 04 #Python
让python json encode datetime类型
Dec 28 #Python
让python的Cookie.py模块支持冒号做key的方法
Dec 28 #Python
python封装对象实现时间效果
Apr 23 #Python
python下函数参数的传递(参数带星号的说明)
Sep 19 #Python
You might like
php 获取页面中指定内容的实现类
2014/01/23 PHP
php检测文件编码的方法示例
2014/04/25 PHP
php实现二进制和文本相互转换的方法
2015/04/18 PHP
PHPStrom中实用的功能和快捷键大全
2015/09/23 PHP
PHP递归删除多维数组中的某个值
2017/04/17 PHP
PHP面向对象中new self()与 new static()的区别浅析
2017/08/17 PHP
Laravel Eloquent分表方法并使用模型关联的实现
2019/11/25 PHP
Javascript 面向对象 继承
2010/05/13 Javascript
jquery json 实例代码
2010/12/02 Javascript
使用js对select动态添加和删除OPTION示例代码
2013/08/12 Javascript
纯js简单日历实现代码
2013/10/05 Javascript
JavaScript中this关键词的使用技巧、工作原理以及注意事项
2014/05/20 Javascript
PHP和NodeJs开发的应用如何共用Session
2015/04/16 NodeJs
js 求时间差的实现代码
2016/04/26 Javascript
在Javascript操作JSON对象,增加 删除 修改的简单实现
2016/06/02 Javascript
jQuery EasyUI Tab 选项卡问题小结
2016/08/16 Javascript
angularjs 表单密码验证自定义指令实现代码
2016/10/27 Javascript
纯JS焦点图特效实例(可一个页面多用)
2016/12/07 Javascript
JavaScript 函数的定义-调用、注意事项
2017/04/16 Javascript
浅谈React之状态(State)
2018/09/19 Javascript
JavaScript时间与时间戳的转换操作实例分析
2018/12/07 Javascript
微信小程序开发问题之wx.previewImage
2018/12/25 Javascript
vue实现微信二次分享以及自定义分享的示例
2019/03/20 Javascript
详解如何搭建mpvue框架搭配vant组件库的小程序项目
2019/05/16 Javascript
JavaScript中常用的3种弹出提示框(alert、confirm、prompt)
2020/11/10 Javascript
flask中使用蓝图将路由分开写在不同文件实例解析
2018/01/19 Python
IntelliJ IDEA安装运行python插件方法
2018/12/10 Python
Tensorflow进行多维矩阵的拆分与拼接实例
2020/02/07 Python
西班牙英格列斯百货法国官网:El Corte Inglés法国
2017/07/09 全球购物
如何用SQL语句进行模糊查找
2015/09/25 面试题
暑期研修感言
2014/02/17 职场文书
股份合作协议书
2014/09/10 职场文书
九一八事变纪念日演讲稿
2014/09/14 职场文书
党干部专题民主生活会对照检查材料思想汇报
2014/10/06 职场文书
mysql分表之后如何平滑上线详解
2021/11/01 MySQL
Redis+AOP+自定义注解实现限流
2022/06/28 Redis