Python字符串的encode与decode研究心得乱码问题解决方法


Posted in Python onMarch 23, 2009

为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”?本文就来研究一下这个问题。


字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。 

decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。 

encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。 

因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码


代码中字符串的默认编码与代码文件本身的编码一致。 

如:s='中文'

如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。 

如果字符串是这样定义:s=u'中文'

则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。


如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

isinstance(s, unicode)  #用来判断是否为unicode 

用非unicode编码形式的str来encode会报错 


 如何获得系统的默认编码? 

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()  

该段程序在英文WindowsXP上输出为:ascii 


在某些IDE中,字符串的输出总是出现乱码,甚至错误,其实是由于IDE的结果输出控制台自身不能显示字符串的编码,而不是程序本身的问题。 

如在UliPad中运行如下代码:

s=u"中文"
print s 

会提示:UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的(英文系统的默认编码是ascii),而上面代码中的字符串是Unicode编码的,所以输出时产生了错误。

将最后一句改为:print s.encode('gb2312')

则能正确输出“中文”两个字。

若最后一句改为:print s.encode('utf8')

则输出:\xe4\xb8\xad\xe6\x96\x87,这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。


unicode(str,'gb2312')与str.decode('gb2312')是一样的,都是将gb2312编码的str转为unicode编码 

使用str.__class__可以查看str的编码形式


原理说了半天,最后来个包治百病的吧:)

#!/usr/bin/env python 
#coding=utf-8 
s="中文" if isinstance(s, unicode): 
#s=u"中文" 
print s.encode('gb2312') 
else: 
#s="中文" 
print s.decode('utf-8').encode('gb2312')
Python 相关文章推荐
Python 获取新浪微博的最新公共微博实例分享
Jul 03 Python
Python在groupby分组后提取指定位置记录方法
Apr 20 Python
Python 实现选择排序的算法步骤
Apr 22 Python
Python实现的计算器功能示例
Apr 26 Python
在python中利用KNN实现对iris进行分类的方法
Dec 11 Python
django 自定义过滤器的实现
Feb 26 Python
详解numpy矩阵的创建与数据类型
Oct 18 Python
使用python实现回文数的四种方法小结
Nov 24 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 Python
Python字典fromkeys()方法使用代码实例
Jul 20 Python
PyCharm 光标变成黑块的解决方式
Feb 06 Python
python 实现mysql自动增删分区的方法
Apr 01 Python
python 判断自定义对象类型
Mar 21 #Python
python mysqldb连接数据库
Mar 16 #Python
wxpython 学习笔记 第一天
Mar 16 #Python
Python 返回汉字的汉语拼音
Feb 27 #Python
用Python的urllib库提交WEB表单
Feb 24 #Python
wxpython 学习笔记 第一天
Feb 09 #Python
python 输出一个两行字符的变量
Feb 05 #Python
You might like
SESSION信息保存在哪个文件目录下以及能够用来保存什么类型的数据
2012/06/17 PHP
PHP If Else(elsefi) 语句
2013/04/07 PHP
php获取服务器端mac和客户端mac的地址支持WIN/LINUX
2014/05/15 PHP
PhpStorm terminal无法输入命令的解决方法
2016/10/09 PHP
PHP简单实现循环链表功能示例
2017/11/10 PHP
PHP文件类型检查及fileinfo模块安装使用详解
2019/05/09 PHP
Laravel关系模型指定条件查询方法
2019/10/10 PHP
人人网javascript面试题 可以提前实现下
2012/01/05 Javascript
jQuery插件windowScroll实现单屏滚动特效
2015/07/14 Javascript
JS模态窗口返回值兼容问题的完美解决方法
2016/05/28 Javascript
EasyUI为Numberbox添加blur事件的方法
2017/03/05 Javascript
JavaScript使用链式方法封装jQuery中CSS()方法示例
2017/04/07 jQuery
js HTML5 canvas绘制图片的方法
2017/09/08 Javascript
解决angularjs WdatePicker ng-model的问题
2018/09/13 Javascript
微信小程序公用参数与公用方法用法示例
2019/01/09 Javascript
vue组件定义,全局、局部组件,配合模板及动态组件功能示例
2019/03/19 Javascript
浅谈redux, koa, express 中间件实现对比解析
2019/05/23 Javascript
jqGrid表格底部汇总、合计行footerrow处理
2019/08/21 Javascript
vue监听键盘事件的相关总结
2021/01/29 Vue.js
[01:04]DOTA2上海特锦赛现场采访 FreeAgain遭众解说围攻
2016/03/25 DOTA
[49:40]2018DOTA2亚洲邀请赛小组赛 A组加赛 TNC vs Newbee
2018/04/03 DOTA
Python中matplotlib中文乱码解决办法
2017/05/12 Python
Python实现的快速排序算法详解
2017/08/01 Python
Python3实现取图片中特定的像素替换指定的颜色示例
2019/01/24 Python
python绘图模块matplotlib示例详解
2019/07/26 Python
详解python中docx库的安装过程
2019/11/08 Python
python GUI库图形界面开发之PyQt5不规则窗口实现与显示GIF动画的详细方法与实例
2020/03/09 Python
HTML5 直播疯狂点赞动画实现代码 附源码
2020/04/14 HTML / CSS
解决python 输出到csv 出现多空行的情况
2021/03/24 Python
求职简历中的自我评价分享
2013/12/08 职场文书
《厄运打不垮的信念》教学反思
2014/04/13 职场文书
小学教师先进事迹材料
2014/12/15 职场文书
公司员工宿舍管理制度
2015/08/03 职场文书
Mysql基础之常见函数
2021/04/22 MySQL
「月刊Action」2022年5月号封面公开
2022/03/21 日漫
MySQL的表级锁,行级锁,排它锁和共享锁
2022/07/15 MySQL