Python中使用中文的方法


Posted in Python onFebruary 19, 2011

先来看看python的版本:
>>> import sys
>>> sys.version
'2.5.1 (r251:54863, Apr 18 2007, 08:51:08) [MSC v.1310 32 bit (Intel)]'

(一)
用记事本创建一个文件ChineseTest.py,默认ANSI:
s = "中文"
print s

测试一下瞧瞧:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xd6' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

偷偷地把文件编码改成UTF-8:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xe4' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

无济于事。。。
既然它提供了网址,那就看看吧。简单地浏览一下,终于知道如果文件里有非ASCII字符,需要在第一行或第二行指定编码声明。把ChineseTest.py文件的编码重新改为ANSI,并加上编码声明:
# coding=gbk
s = "中文"
print s

再试一下:
E:\Project\Python\Test>python ChineseTest.py
中文

正常咯:)
(二)
看一看它的长度:
# coding=gbk
s = "中文"
print len(s)
结果:4。
s这里是str类型,所以计算的时候一个中文相当于两个英文字符,因此长度为4。
我们这样写:
# coding=gbk
s = "中文"
s1 = u"中文"
s2 = unicode(s, "gbk") #省略参数将用python默认的ASCII来解码
s3 = s.decode("gbk") #把str转换成unicode是decode,unicode函数作用与之相同
print len(s1)
print len(s2)
print len(s3)
结果:
2
2

(三)
接着来看看文件的处理:
建立一个文件test.txt,文件格式用ANSI,内容为:
abc中文
用python来读取
# coding=gbk
print open("Test.txt").read()
结果:abc中文
把文件格式改成UTF-8:
结果:abc涓???
显然,这里需要解码:
# coding=gbk
import codecs
print open("Test.txt").read().decode("utf-8")
结果:abc中文
上面的test.txt我是用Editplus来编辑的,但当我用Windows自带的记事本编辑并存成UTF-8格式时,
运行时报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
print open("Test.txt").read().decode("utf-8")
UnicodeEncodeError: 'gbk' codec can't encode character u'\ufeff' in position 0: illegal multibyte sequence

原来,某些软件,如notepad,在保存一个以UTF-8编码的文件时,会在文件开始的地方插入三个不可见的字符(0xEF 0xBB 0xBF,即BOM)。
因此我们在读取时需要自己去掉这些字符,python中的codecs module定义了这个常量:
# coding=gbk
import codecs
data = open("Test.txt").read()
if data[:3] == codecs.BOM_UTF8:
data = data[3:]
print data.decode("utf-8")
结果:abc中文

(四)一点遗留问题
在第二部分中,我们用unicode函数和decode方法把str转换成unicode。为什么这两个函数的参数用"gbk"呢?
第一反应是我们的编码声明里用了gbk(# coding=gbk),但真是这样?
修改一下源文件:
# coding=utf-8
s = "中文"
print unicode(s, "utf-8")
运行,报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
s = unicode(s, "utf-8")
UnicodeDecodeError: 'utf8' codec can't decode bytes in position 0-1: invalid data
显然,如果前面正常是因为两边都使用了gbk,那么这里我保持了两边utf-8一致,也应该正常,不至于报错。
更进一步的例子,如果我们这里转换仍然用gbk:
# coding=utf-8
s = "中文"
print unicode(s, "gbk")
结果:中文
翻阅了一篇英文资料,它大致讲解了python中的print原理:
When Python executes a print statement, it simply passes the output to the operating system (using fwrite() or something like it), and some other program is responsible for actually displaying that output on the screen. For example, on Windows, it might be the Windows console subsystem that displays the result. Or if you're using Windows and running Python on a Unix box somewhere else, your Windows SSH client is actually responsible for displaying the data. If you are running Python in an xterm on Unix, then xterm and your X server handle the display. <>

To print data reliably, you must know the encoding that this display program expects.

简单地说,python中的print直接把字符串传递给操作系统,所以你需要把str解码成与操作系统一致的格式。Windows使用CP936(几乎与gbk相同),所以这里可以使用gbk。
最后测试:
# coding=utf-8
s = "中文"
print unicode(s, "cp936")
结果:中文

Python 相关文章推荐
python的几种开发工具介绍
Mar 07 Python
Python的迭代器和生成器使用实例
Jan 14 Python
python虚拟环境virtualenv的安装与使用
Sep 21 Python
Python+matplotlib+numpy实现在不同平面的二维条形图
Jan 02 Python
Python读取Excel表格,并同时画折线图和柱状图的方法
Oct 14 Python
解决Python下json.loads()中文字符出错的问题
Dec 19 Python
详解Python3迁移接口变化采坑记
Oct 11 Python
python调用matplotlib模块绘制柱状图
Oct 18 Python
Django之全局使用request.user.username的实例详解
May 14 Python
keras实现VGG16 CIFAR10数据集方式
Jul 07 Python
sqlalchemy实现时间列自动更新教程
Sep 02 Python
Python Parser的用法
May 12 Python
python实现的防DDoS脚本
Feb 08 #Python
Python牛刀小试密码爆破
Feb 03 #Python
初学python数组的处理代码
Jan 04 #Python
让python json encode datetime类型
Dec 28 #Python
让python的Cookie.py模块支持冒号做key的方法
Dec 28 #Python
python封装对象实现时间效果
Apr 23 #Python
python下函数参数的传递(参数带星号的说明)
Sep 19 #Python
You might like
php支付宝接口用法分析
2015/01/04 PHP
PHP判断数组是否为空的常用方法(五种方法)
2017/02/08 PHP
ExtJS GridPanel 根据条件改变字体颜色
2010/03/08 Javascript
JQuery从头学起第二讲
2010/07/04 Javascript
node.js中的fs.openSync方法使用说明
2014/12/17 Javascript
浅谈javascript实现八大排序
2015/04/27 Javascript
JS实现将数字金额转换为大写人民币汉字的方法
2016/08/02 Javascript
JS获取日期的方法实例【昨天,今天,明天,前n天,后n天的日期】
2017/09/28 Javascript
微信小程序实现天气预报功能
2018/07/18 Javascript
微信小程序基于picker实现级联菜单
2019/02/15 Javascript
vue实现点击按钮下载文件功能
2019/10/11 Javascript
NodeJs crypto加密制作token的实现代码
2019/11/15 NodeJs
微信小程序实现搜索功能
2020/03/10 Javascript
JS浏览器BOM常见操作实例详解
2020/04/27 Javascript
[04:16]DOTA2英雄梦之声_第09期_斧王
2014/06/21 DOTA
[42:11]TNC vs Pain 2018国际邀请赛小组赛BO2 第二场 8.17
2018/08/20 DOTA
Python 实现简单的shell sed替换功能(实例讲解)
2017/09/29 Python
Scrapy基于selenium结合爬取淘宝的实例讲解
2018/06/13 Python
深入flask之异步非堵塞实现代码示例
2018/07/31 Python
Python中单线程、多线程和多进程的效率对比实验实例
2019/05/14 Python
Python多重继承之菱形继承的实例详解
2020/02/12 Python
python IDLE添加行号显示教程
2020/04/25 Python
python进行参数传递的方法
2020/05/12 Python
Python xml、字典、json、类四种数据类型如何实现互相转换
2020/05/27 Python
解决TensorFlow训练模型及保存数量限制的问题
2021/03/03 Python
Sixt美国租车:高端豪华车型自驾体验
2017/09/02 全球购物
公共汽车、火车和飞机票的通用在线预订和销售平台:INFOBUS
2019/11/30 全球购物
一套带答案的C++笔试题
2014/01/10 面试题
介绍下Lucene建立索引的过程
2016/03/02 面试题
物业公司的岗位任命书
2014/06/06 职场文书
自强自立美德少年事迹材料
2014/08/16 职场文书
1000字打架检讨书
2014/11/03 职场文书
毕业生见习报告总结
2014/11/08 职场文书
社团个人总结范文
2015/03/05 职场文书
中学后勤工作总结2015
2015/07/22 职场文书
使用python如何删除同一文件夹下相似的图片
2021/05/07 Python