Python中使用中文的方法


Posted in Python onFebruary 19, 2011

先来看看python的版本:
>>> import sys
>>> sys.version
'2.5.1 (r251:54863, Apr 18 2007, 08:51:08) [MSC v.1310 32 bit (Intel)]'

(一)
用记事本创建一个文件ChineseTest.py,默认ANSI:
s = "中文"
print s

测试一下瞧瞧:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xd6' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

偷偷地把文件编码改成UTF-8:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xe4' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

无济于事。。。
既然它提供了网址,那就看看吧。简单地浏览一下,终于知道如果文件里有非ASCII字符,需要在第一行或第二行指定编码声明。把ChineseTest.py文件的编码重新改为ANSI,并加上编码声明:
# coding=gbk
s = "中文"
print s

再试一下:
E:\Project\Python\Test>python ChineseTest.py
中文

正常咯:)
(二)
看一看它的长度:
# coding=gbk
s = "中文"
print len(s)
结果:4。
s这里是str类型,所以计算的时候一个中文相当于两个英文字符,因此长度为4。
我们这样写:
# coding=gbk
s = "中文"
s1 = u"中文"
s2 = unicode(s, "gbk") #省略参数将用python默认的ASCII来解码
s3 = s.decode("gbk") #把str转换成unicode是decode,unicode函数作用与之相同
print len(s1)
print len(s2)
print len(s3)
结果:
2
2

(三)
接着来看看文件的处理:
建立一个文件test.txt,文件格式用ANSI,内容为:
abc中文
用python来读取
# coding=gbk
print open("Test.txt").read()
结果:abc中文
把文件格式改成UTF-8:
结果:abc涓???
显然,这里需要解码:
# coding=gbk
import codecs
print open("Test.txt").read().decode("utf-8")
结果:abc中文
上面的test.txt我是用Editplus来编辑的,但当我用Windows自带的记事本编辑并存成UTF-8格式时,
运行时报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
print open("Test.txt").read().decode("utf-8")
UnicodeEncodeError: 'gbk' codec can't encode character u'\ufeff' in position 0: illegal multibyte sequence

原来,某些软件,如notepad,在保存一个以UTF-8编码的文件时,会在文件开始的地方插入三个不可见的字符(0xEF 0xBB 0xBF,即BOM)。
因此我们在读取时需要自己去掉这些字符,python中的codecs module定义了这个常量:
# coding=gbk
import codecs
data = open("Test.txt").read()
if data[:3] == codecs.BOM_UTF8:
data = data[3:]
print data.decode("utf-8")
结果:abc中文

(四)一点遗留问题
在第二部分中,我们用unicode函数和decode方法把str转换成unicode。为什么这两个函数的参数用"gbk"呢?
第一反应是我们的编码声明里用了gbk(# coding=gbk),但真是这样?
修改一下源文件:
# coding=utf-8
s = "中文"
print unicode(s, "utf-8")
运行,报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
s = unicode(s, "utf-8")
UnicodeDecodeError: 'utf8' codec can't decode bytes in position 0-1: invalid data
显然,如果前面正常是因为两边都使用了gbk,那么这里我保持了两边utf-8一致,也应该正常,不至于报错。
更进一步的例子,如果我们这里转换仍然用gbk:
# coding=utf-8
s = "中文"
print unicode(s, "gbk")
结果:中文
翻阅了一篇英文资料,它大致讲解了python中的print原理:
When Python executes a print statement, it simply passes the output to the operating system (using fwrite() or something like it), and some other program is responsible for actually displaying that output on the screen. For example, on Windows, it might be the Windows console subsystem that displays the result. Or if you're using Windows and running Python on a Unix box somewhere else, your Windows SSH client is actually responsible for displaying the data. If you are running Python in an xterm on Unix, then xterm and your X server handle the display. <>

To print data reliably, you must know the encoding that this display program expects.

简单地说,python中的print直接把字符串传递给操作系统,所以你需要把str解码成与操作系统一致的格式。Windows使用CP936(几乎与gbk相同),所以这里可以使用gbk。
最后测试:
# coding=utf-8
s = "中文"
print unicode(s, "cp936")
结果:中文

Python 相关文章推荐
利用python爬取斗鱼app中照片方法实例
Dec 03 Python
深入浅析Python的类
Jun 22 Python
python库lxml在linux和WIN系统下的安装
Jun 24 Python
浅谈Python 列表字典赋值的陷阱
Jan 20 Python
django多文件上传,form提交,多对多外键保存的实例
Aug 06 Python
python判断无向图环是否存在的示例
Nov 22 Python
ansible动态Inventory主机清单配置遇到的坑
Jan 19 Python
Python进阶之迭代器与迭代器切片教程
Jan 29 Python
配置python的编程环境之Anaconda + VSCode的教程
Mar 29 Python
python asyncio 协程库的使用
Jan 21 Python
Pytorch可视化的几种实现方法
Jun 10 Python
Python可变集合和不可变集合的构造方法大全
Dec 06 Python
python实现的防DDoS脚本
Feb 08 #Python
Python牛刀小试密码爆破
Feb 03 #Python
初学python数组的处理代码
Jan 04 #Python
让python json encode datetime类型
Dec 28 #Python
让python的Cookie.py模块支持冒号做key的方法
Dec 28 #Python
python封装对象实现时间效果
Apr 23 #Python
python下函数参数的传递(参数带星号的说明)
Sep 19 #Python
You might like
CPU步进是什么意思?i3-9100F B0步进和U0步进区别知识科普
2020/03/17 数码科技
PHP判断一个字符串是否是回文字符串的方法
2015/03/23 PHP
yii2.0实现pathinfo的形式访问的配置方法
2016/04/06 PHP
jQuery 性能优化指南(2)
2009/05/21 Javascript
JSONP 跨域共享信息
2012/08/16 Javascript
让网页跳转到指定位置的jquery代码非书签
2013/09/06 Javascript
倒记时60刷新网页的js代码
2014/02/18 Javascript
js下拉选择框与输入框联动实现添加选中值到输入框的方法
2015/08/17 Javascript
jQuery学习笔记之入门
2016/12/14 Javascript
浅谈Vue的基本应用
2016/12/27 Javascript
整理关于Bootstrap表单的慕课笔记
2017/03/29 Javascript
js制作简单的音乐播放器的示例代码
2017/08/28 Javascript
vuex state及mapState的基础用法详解
2018/04/19 Javascript
Vue.js单向绑定和双向绑定实例分析
2018/08/14 Javascript
vue项目中使用scss的方法步骤
2019/05/16 Javascript
Python实现批量修改文件名实例
2015/07/08 Python
python 生成器生成杨辉三角的方法(必看)
2017/04/10 Python
python运行其他程序的实现方法
2017/07/14 Python
Python调用C# Com dll组件实战教程
2017/10/12 Python
微信跳一跳python辅助脚本(总结)
2018/01/11 Python
Python实现使用卷积提取图片轮廓功能示例
2018/05/12 Python
使用Python写一个量化股票提醒系统
2018/08/22 Python
Python使用一行代码获取上个月是几月
2018/08/30 Python
对python读写文件去重、RE、set的使用详解
2018/12/11 Python
Python多线程的退出控制实现
2020/08/10 Python
python上下文管理的使用场景实例讲解
2021/03/03 Python
基于html和CSS3制作酷炫的导航栏
2015/09/23 HTML / CSS
英国殿堂级有机护肤品牌:Rodial
2017/04/17 全球购物
求职者应聘的自我评价
2013/10/16 职场文书
会计专业毕业生求职信分享
2014/01/03 职场文书
公司庆典邀请函范文
2014/01/13 职场文书
2014年中班元旦活动方案
2014/02/14 职场文书
成龙洗发水广告词
2014/03/14 职场文书
2014年五四青年节活动策划书
2014/04/22 职场文书
销售合作意向书范本
2015/05/08 职场文书
MySQL数据库⾼可⽤HA实现小结
2022/01/22 MySQL