Python字符串的encode与decode研究心得乱码问题解决方法


Posted in Python onMarch 23, 2009

为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”?本文就来研究一下这个问题。


字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。 

decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。 

encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。 

因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码


代码中字符串的默认编码与代码文件本身的编码一致。 

如:s='中文'

如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。 

如果字符串是这样定义:s=u'中文'

则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。


如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

isinstance(s, unicode)  #用来判断是否为unicode 

用非unicode编码形式的str来encode会报错 


 如何获得系统的默认编码? 

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()  

该段程序在英文WindowsXP上输出为:ascii 


在某些IDE中,字符串的输出总是出现乱码,甚至错误,其实是由于IDE的结果输出控制台自身不能显示字符串的编码,而不是程序本身的问题。 

如在UliPad中运行如下代码:

s=u"中文"
print s 

会提示:UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的(英文系统的默认编码是ascii),而上面代码中的字符串是Unicode编码的,所以输出时产生了错误。

将最后一句改为:print s.encode('gb2312')

则能正确输出“中文”两个字。

若最后一句改为:print s.encode('utf8')

则输出:\xe4\xb8\xad\xe6\x96\x87,这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。


unicode(str,'gb2312')与str.decode('gb2312')是一样的,都是将gb2312编码的str转为unicode编码 

使用str.__class__可以查看str的编码形式


原理说了半天,最后来个包治百病的吧:)

#!/usr/bin/env python 
#coding=utf-8 
s="中文" if isinstance(s, unicode): 
#s=u"中文" 
print s.encode('gb2312') 
else: 
#s="中文" 
print s.decode('utf-8').encode('gb2312')
Python 相关文章推荐
浅谈numpy数组的几种排序方式
Dec 15 Python
python实现京东秒杀功能
Jul 30 Python
python+pyqt5实现24点小游戏
Jan 24 Python
python3中property使用方法详解
Apr 23 Python
使用Python实现企业微信的自动打卡功能
Apr 30 Python
python如何以表格形式打印输出的方法示例
Jun 21 Python
用python建立两个Y轴的XY曲线图方法
Jul 08 Python
如何使用python操作vmware
Jul 27 Python
Python3.7 基于 pycryptodome 的AES加密解密、RSA加密解密、加签验签
Dec 04 Python
IDLE下Python文件编辑和运行操作
Apr 25 Python
python wsgiref源码解析
Feb 06 Python
Python 内置函数速查表一览
Jun 02 Python
python 判断自定义对象类型
Mar 21 #Python
python mysqldb连接数据库
Mar 16 #Python
wxpython 学习笔记 第一天
Mar 16 #Python
Python 返回汉字的汉语拼音
Feb 27 #Python
用Python的urllib库提交WEB表单
Feb 24 #Python
wxpython 学习笔记 第一天
Feb 09 #Python
python 输出一个两行字符的变量
Feb 05 #Python
You might like
php 字符过滤类,用于过滤各类用户输入的数据
2009/05/27 PHP
PHP UTF8中文字符截断函数代码
2012/09/11 PHP
win7下memCache的安装过程(具体操作步骤)
2013/06/28 PHP
php+mysqli使用预处理技术进行数据库查询的方法
2015/01/28 PHP
Redis使用Eval多个键值自增的操作实例
2016/11/04 PHP
用js生产批量批处理执行命令
2008/07/28 Javascript
Extjs4.0设置Ext.data.Store传参的请求方式(默认为GET)
2013/04/02 Javascript
javascript简单性能问题及学习笔记
2014/02/04 Javascript
jQuery $.each遍历对象、数组用法实例
2015/04/16 Javascript
编写高性能Javascript代码的N条建议
2015/10/12 Javascript
为什么JavaScript没有块级作用域
2016/05/22 Javascript
Javascript农历与公历相互转换的简单实例
2016/10/09 Javascript
jQuery实现倒计时重新发送短信验证码功能示例
2017/01/12 Javascript
JavaScript日期对象(Date)基本用法示例
2017/01/18 Javascript
Javascript之深入浅出prototype
2017/02/06 Javascript
JS实现多级菜单中当前菜单不随页面跳转样式而发生变化
2017/05/30 Javascript
使用JavaScript实现在页面中显示距离2017年中秋节的天数
2017/09/26 Javascript
angular内置provider之$compileProvider详解
2017/09/27 Javascript
CheckBox多选取值及判断CheckBox选中是否为空的实例
2017/10/31 Javascript
微信小程序实现YDUI的ScrollTab组件
2018/02/02 Javascript
JS实现判断图片是否加载完成的方法分析
2018/07/31 Javascript
Vue项目中最新用到的一些实用小技巧
2018/11/06 Javascript
深入浅析Vue 中 ref 的使用
2019/04/29 Javascript
在Layui 的表格模板中,实现layer父页面和子页面传值交互的方法
2019/09/10 Javascript
从Python程序中访问Java类的简单示例
2015/04/20 Python
python处理自动化任务之同时批量修改word里面的内容的方法
2019/08/23 Python
python3 googletrans超时报错问题及翻译工具优化方案 附源码
2020/12/23 Python
css3实现3d旋转动画特效
2015/03/10 HTML / CSS
HTML5之SVG 2D入门5—颜色的表示及定义方式
2013/01/30 HTML / CSS
英国莱斯特松木橡木家具网上商店:Choice Furniture Superstore
2019/07/05 全球购物
.NET面试题:什么是反射
2016/09/30 面试题
优秀毕业大学生推荐信
2013/11/13 职场文书
综合素质自我评价怎么写
2014/09/14 职场文书
单独二胎证明
2015/06/24 职场文书
2016圣诞节贺卡寄语
2015/12/07 职场文书
原生Js 实现的简单无缝滚动轮播图的示例代码
2021/05/10 Javascript