Python字符串的encode与decode研究心得乱码问题解决方法


Posted in Python onMarch 23, 2009

为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”?本文就来研究一下这个问题。


字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。 

decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。 

encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。 

因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码


代码中字符串的默认编码与代码文件本身的编码一致。 

如:s='中文'

如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。 

如果字符串是这样定义:s=u'中文'

则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。


如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

isinstance(s, unicode)  #用来判断是否为unicode 

用非unicode编码形式的str来encode会报错 


 如何获得系统的默认编码? 

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()  

该段程序在英文WindowsXP上输出为:ascii 


在某些IDE中,字符串的输出总是出现乱码,甚至错误,其实是由于IDE的结果输出控制台自身不能显示字符串的编码,而不是程序本身的问题。 

如在UliPad中运行如下代码:

s=u"中文"
print s 

会提示:UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的(英文系统的默认编码是ascii),而上面代码中的字符串是Unicode编码的,所以输出时产生了错误。

将最后一句改为:print s.encode('gb2312')

则能正确输出“中文”两个字。

若最后一句改为:print s.encode('utf8')

则输出:\xe4\xb8\xad\xe6\x96\x87,这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。


unicode(str,'gb2312')与str.decode('gb2312')是一样的,都是将gb2312编码的str转为unicode编码 

使用str.__class__可以查看str的编码形式


原理说了半天,最后来个包治百病的吧:)

#!/usr/bin/env python 
#coding=utf-8 
s="中文" if isinstance(s, unicode): 
#s=u"中文" 
print s.encode('gb2312') 
else: 
#s="中文" 
print s.decode('utf-8').encode('gb2312')
Python 相关文章推荐
在Docker上部署Python的Flask框架的教程
Apr 08 Python
将Django使用的数据库从MySQL迁移到PostgreSQL的教程
Apr 11 Python
Python中的super用法详解
May 28 Python
python下os模块强大的重命名方法renames详解
Mar 07 Python
200行自定义python异步非阻塞Web框架
Mar 15 Python
Python pandas常用函数详解
Feb 07 Python
详解pyqt5 动画在QThread线程中无法运行问题
May 05 Python
python实现字符串和字典的转换
Sep 29 Python
Python flask框架post接口调用示例
Jul 03 Python
python Dijkstra算法实现最短路径问题的方法
Sep 19 Python
完美解决pycharm导入自己写的py文件爆红问题
Feb 12 Python
pytorch 计算Parameter和FLOP的操作
Mar 04 Python
python 判断自定义对象类型
Mar 21 #Python
python mysqldb连接数据库
Mar 16 #Python
wxpython 学习笔记 第一天
Mar 16 #Python
Python 返回汉字的汉语拼音
Feb 27 #Python
用Python的urllib库提交WEB表单
Feb 24 #Python
wxpython 学习笔记 第一天
Feb 09 #Python
python 输出一个两行字符的变量
Feb 05 #Python
You might like
1亿条数据如何分表100张到Mysql数据库中(PHP)
2015/07/29 PHP
php设计模式之职责链模式定义与用法经典示例
2019/09/19 PHP
IE8 浏览器Cookie的处理
2009/01/31 Javascript
jquery网页回到顶部效果(图标渐隐,自写)
2014/06/16 Javascript
上传图片js判断图片尺寸和格式兼容IE
2014/09/01 Javascript
javascript实现网页子页面遍历回调的方法(涉及 window.frames、递归函数、函数上下文)
2015/07/27 Javascript
12个非常实用的JavaScript小技巧【推荐】
2016/05/18 Javascript
JS & JQuery 动态添加 select option
2016/06/08 Javascript
jquery 判断selection range 是否在容器中的简单实例
2016/08/02 Javascript
vue之数据交互实例代码
2017/06/20 Javascript
vue后台管理之动态加载路由的方法
2018/08/13 Javascript
你可能不知道的CORS跨域资源共享
2019/03/13 Javascript
小程序云开发如何实现图片上传及发表文字
2019/05/17 Javascript
es6数组的flat(),flatMap()函数用法实例分析
2020/04/18 Javascript
vue实现动态给id赋值,点击事件获取当前点击的元素的id操作
2020/11/09 Javascript
用ReactJS和Python的Flask框架编写留言板的代码示例
2015/12/19 Python
Python中字符串的常见操作技巧总结
2016/07/28 Python
浅谈django中的认证与登录
2016/10/31 Python
基于Python的关键字监控及告警
2017/07/06 Python
浅谈Python中range和xrange的区别
2017/12/20 Python
Python可变参数*args和**kwargs用法实例小结
2018/04/27 Python
django 多数据库配置教程
2018/05/30 Python
使用Python对微信好友进行数据分析
2018/06/27 Python
Python修改列表值问题解决方案
2020/03/06 Python
Python流程控制语句的深入讲解
2020/06/15 Python
Python3与fastdfs分布式文件系统如何实现交互
2020/06/23 Python
德国传统玻璃制造商:Cristalica
2018/04/23 全球购物
丝芙兰意大利官方网站:Sephora.it
2019/12/13 全球购物
意大利和国际奢侈品牌购物网站:Suitnegozi.com
2021/01/15 全球购物
大学生军训感想
2014/02/16 职场文书
公司保密承诺书
2014/03/27 职场文书
2015年电厂工作总结范文
2015/05/13 职场文书
党员身份证明材料
2015/06/19 职场文书
再读《皇帝的新衣》的读后感悟!
2019/08/07 职场文书
Python实现查询剪贴板自动匹配信息的思路详解
2021/07/09 Python
使用Nginx搭载rtmp直播服务器的方法
2021/10/16 Servers