Python字符串的encode与decode研究心得乱码问题解决方法


Posted in Python onMarch 23, 2009

为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”?本文就来研究一下这个问题。


字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。 

decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。 

encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。 

因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码


代码中字符串的默认编码与代码文件本身的编码一致。 

如:s='中文'

如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。 

如果字符串是这样定义:s=u'中文'

则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。


如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

isinstance(s, unicode)  #用来判断是否为unicode 

用非unicode编码形式的str来encode会报错 


 如何获得系统的默认编码? 

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()  

该段程序在英文WindowsXP上输出为:ascii 


在某些IDE中,字符串的输出总是出现乱码,甚至错误,其实是由于IDE的结果输出控制台自身不能显示字符串的编码,而不是程序本身的问题。 

如在UliPad中运行如下代码:

s=u"中文"
print s 

会提示:UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的(英文系统的默认编码是ascii),而上面代码中的字符串是Unicode编码的,所以输出时产生了错误。

将最后一句改为:print s.encode('gb2312')

则能正确输出“中文”两个字。

若最后一句改为:print s.encode('utf8')

则输出:\xe4\xb8\xad\xe6\x96\x87,这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。


unicode(str,'gb2312')与str.decode('gb2312')是一样的,都是将gb2312编码的str转为unicode编码 

使用str.__class__可以查看str的编码形式


原理说了半天,最后来个包治百病的吧:)

#!/usr/bin/env python 
#coding=utf-8 
s="中文" if isinstance(s, unicode): 
#s=u"中文" 
print s.encode('gb2312') 
else: 
#s="中文" 
print s.decode('utf-8').encode('gb2312')
Python 相关文章推荐
Python协程的用法和例子详解
Sep 09 Python
CentOS 7 安装python3.7.1的方法及注意事项
Nov 01 Python
对python 操作solr索引数据的实例详解
Dec 07 Python
python 实现多维数组转向量
Nov 30 Python
Pytorch实现的手写数字mnist识别功能完整示例
Dec 13 Python
信号生成及DFT的python实现方式
Feb 25 Python
20行Python代码实现视频字符化功能
Apr 13 Python
Django实现celery定时任务过程解析
Apr 21 Python
使用keras内置的模型进行图片预测实例
Jun 17 Python
python 实时调取摄像头的示例代码
Nov 25 Python
关于python3 opencv 图像二值化的问题(cv2.adaptiveThreshold函数)
Apr 04 Python
Python  lambda匿名函数和三元运算符
Apr 19 Python
python 判断自定义对象类型
Mar 21 #Python
python mysqldb连接数据库
Mar 16 #Python
wxpython 学习笔记 第一天
Mar 16 #Python
Python 返回汉字的汉语拼音
Feb 27 #Python
用Python的urllib库提交WEB表单
Feb 24 #Python
wxpython 学习笔记 第一天
Feb 09 #Python
python 输出一个两行字符的变量
Feb 05 #Python
You might like
php实现快速排序法函数代码
2012/08/27 PHP
VPS中使用LNMP安装WordPress教程
2014/12/28 PHP
PHP也能干大事 随机函数
2015/04/14 PHP
PHP Curl模拟登录微信公众平台、新浪微博实例代码
2016/01/28 PHP
thinkPHP+PHPExcel实现读取文件日期的方法(含时分秒)
2016/07/07 PHP
区分JS中的undefined,null,"",0和false
2007/03/08 Javascript
对jQuery的事件绑定的一些思考(补充)
2013/04/20 Javascript
Javascript表格翻页效果实现思路及代码
2013/08/23 Javascript
node.js中的fs.close方法使用说明
2014/12/17 Javascript
JavaScript编写带旋转+线条干扰的验证码脚本实例
2016/05/30 Javascript
微信小程序 框架详解及实例应用
2016/09/26 Javascript
jQuery插件jquery.kxbdmarquee.js实现无缝滚动效果
2017/02/15 Javascript
Node.js 8 中的重要新特性
2017/06/28 Javascript
JS设计模式之状态模式概念与用法分析
2018/02/05 Javascript
JavaScript使用math.js进行精确计算操作示例
2018/06/19 Javascript
layer 刷新某个页面的实现方法
2019/09/05 Javascript
js 判断当前时间是否处于某个一个时间段内
2019/09/19 Javascript
解决vue初始化项目时,一直卡在Project description上的问题
2019/10/31 Javascript
vue获取data数据改变前后的值方法
2019/11/07 Javascript
vue.js click点击事件获取当前元素对象的操作
2020/08/07 Javascript
解决pyqt中ui编译成窗体.py中文乱码的问题
2016/12/23 Python
Python标准库之collections包的使用教程
2017/04/27 Python
Python序列化pickle模块使用详解
2020/03/05 Python
python如何爬取网页中的文字
2020/07/28 Python
python实现画图工具
2020/08/27 Python
科颜氏香港官方网店:Kiehl’s香港
2021/03/07 全球购物
室内设计专业学生的自我评价分享
2013/11/27 职场文书
旅游项目开发策划书
2014/01/18 职场文书
工作分析计划书
2014/04/30 职场文书
软件项目开发计划书
2014/05/01 职场文书
红领巾广播站广播稿(3篇)
2014/09/20 职场文书
工商局局长个人对照检查材料思想汇报
2014/09/23 职场文书
2014年维修电工工作总结
2014/11/20 职场文书
张丽莉事迹观后感
2015/06/16 职场文书
java中用float时,数字后面加f,这样是为什么你知道吗
2021/09/04 Java/Android
Android Studio实现带三角函数对数运算功能的高级计算器
2022/05/20 Java/Android