Python字符串的encode与decode研究心得乱码问题解决方法


Posted in Python onMarch 23, 2009

为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”?本文就来研究一下这个问题。


字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。 

decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。 

encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。 

因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码


代码中字符串的默认编码与代码文件本身的编码一致。 

如:s='中文'

如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。 

如果字符串是这样定义:s=u'中文'

则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。


如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

isinstance(s, unicode)  #用来判断是否为unicode 

用非unicode编码形式的str来encode会报错 


 如何获得系统的默认编码? 

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()  

该段程序在英文WindowsXP上输出为:ascii 


在某些IDE中,字符串的输出总是出现乱码,甚至错误,其实是由于IDE的结果输出控制台自身不能显示字符串的编码,而不是程序本身的问题。 

如在UliPad中运行如下代码:

s=u"中文"
print s 

会提示:UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的(英文系统的默认编码是ascii),而上面代码中的字符串是Unicode编码的,所以输出时产生了错误。

将最后一句改为:print s.encode('gb2312')

则能正确输出“中文”两个字。

若最后一句改为:print s.encode('utf8')

则输出:\xe4\xb8\xad\xe6\x96\x87,这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。


unicode(str,'gb2312')与str.decode('gb2312')是一样的,都是将gb2312编码的str转为unicode编码 

使用str.__class__可以查看str的编码形式


原理说了半天,最后来个包治百病的吧:)

#!/usr/bin/env python 
#coding=utf-8 
s="中文" if isinstance(s, unicode): 
#s=u"中文" 
print s.encode('gb2312') 
else: 
#s="中文" 
print s.decode('utf-8').encode('gb2312')
Python 相关文章推荐
Python使用matplotlib绘图无法显示中文问题的解决方法
Mar 14 Python
python实现简单http服务器功能
Sep 17 Python
Django跨域请求CSRF的方法示例
Nov 11 Python
Python3.5迭代器与生成器用法实例分析
Apr 30 Python
详解Python打包分发工具setuptools
Aug 05 Python
使用Python的turtle模块画国旗
Sep 24 Python
解决Pycharm的项目目录突然消失的问题
Jan 20 Python
python 已知平行四边形三个点,求第四个点的案例
Apr 12 Python
python seaborn heatmap可视化相关性矩阵实例
Jun 03 Python
Python3基于plotly模块保存图片表格
Aug 03 Python
pytest配置文件pytest.ini的详细使用
Apr 17 Python
单身狗福利?Python爬取某婚恋网征婚数据
Jun 03 Python
python 判断自定义对象类型
Mar 21 #Python
python mysqldb连接数据库
Mar 16 #Python
wxpython 学习笔记 第一天
Mar 16 #Python
Python 返回汉字的汉语拼音
Feb 27 #Python
用Python的urllib库提交WEB表单
Feb 24 #Python
wxpython 学习笔记 第一天
Feb 09 #Python
python 输出一个两行字符的变量
Feb 05 #Python
You might like
【动漫杂谈】关于《请在T台上微笑》
2020/03/03 日漫
PHP n个不重复的随机数生成代码
2009/06/23 PHP
PHPAnalysis中文分词类详解
2014/06/13 PHP
PHP7 新特性详细介绍
2016/09/06 PHP
使用laravel的Eloquent模型如何获取数据库的指定列
2019/10/17 PHP
javascript 密码强弱度检测万能插件
2009/02/25 Javascript
jQuery事件绑定.on()简要概述及应用
2013/02/07 Javascript
javascript控制图片播放的实现代码
2020/07/29 Javascript
日常收藏的jquery技巧
2015/12/02 Javascript
浅析AngularJS中的指令
2016/03/20 Javascript
Bootstrap教程JS插件滚动监听学习笔记分享
2016/05/18 Javascript
javascript深拷贝(deepClone)详解
2016/08/24 Javascript
js仿手机页面文件下拉刷新效果
2016/10/14 Javascript
浅谈js for循环输出i为同一值的问题
2017/03/01 Javascript
Angular 表单控件示例代码
2017/06/26 Javascript
[js高手之路]寄生组合式继承的优势详解
2017/08/28 Javascript
webpack中CommonsChunkPlugin详细教程(小结)
2017/11/09 Javascript
关于jquery中attr()和prop()方法的区别
2018/05/28 jQuery
bootstrap 路径导航 分页 进度条的实例代码
2018/08/06 Javascript
详解Vue的watch中的immediate与watch是什么意思
2019/12/30 Javascript
pytorch 把MNIST数据集转换成图片和txt的方法
2018/05/20 Python
Python机器学习库scikit-learn安装与基本使用教程
2018/06/25 Python
Django 连接sql server数据库的方法
2018/06/30 Python
Python在图片中插入大量文字并且自动换行
2019/01/02 Python
浅谈Pycharm中的Python Console与Terminal
2019/01/17 Python
解决Tensorflow 内存泄露问题
2020/02/05 Python
Python Selenium安装及环境配置的实现
2020/03/17 Python
基于Python实现2种反转链表方法代码实例
2020/07/06 Python
Python Django路径配置实现过程解析
2020/11/05 Python
电子商务专业毕业生工作推荐信
2013/11/17 职场文书
计算机求职信
2013/12/01 职场文书
民族学专业职业生涯规划范文:积跬步以至千里
2014/09/11 职场文书
2014教师党员个人自我评议
2014/09/20 职场文书
党委工作总结2015
2015/04/27 职场文书
在职证明书模板
2015/06/15 职场文书
初中团支书竞选稿
2015/11/21 职场文书