Python字符串的encode与decode-Farley

yzqzs

　　转载自：http://xanderzhang.iteye.com/blog/465992
　　http://www.cnblogs.com/guanfuchang/p/5956963.html
ASCII
　　计算机中，所有数据都以0和1来表示。在一开始的时候，要表示的内容比较少，人们使用了ascii编码的方式来编码。
　　ASCII（American Standard Code for Information Interchange，美国标准信息交换代码）是基于拉丁字母的一套电脑编码系统，主要用于显示现代英语和其他西欧语言，其最多只能用 8 位来表示（一个字节），即：2**8 -1 = 255，所以，ASCII码最多只能表示 255 个符号。
　　1 1 1 1   1 1 1 1 =2**0+2**1+2**2+2**3+2**4+2**5+2**6+2**7 = 2**8-1=255
Unicode，UTF-8，GBK
　　随着计算机的发展，显然ASCII码无法将世界上的各种文字和符号全部表示，所以，就需要新出一种可以代表所有字符和符号的编码，即：Unicode
　　Unicode（统一码、万国码、单一码）是一种在计算机上使用的字符编码。Unicode 是为了解决传统的字符编码方案的局限而产生的，它为每种语言中的每个字符设定了统一并且唯一的二进制编码，以满足跨语言、跨平台进行文本转换、处理的要求。Unicode规定所有字符和符号最少使用2字节（16位）来表示，即2**16-1=65535
　　UTF-8，是对Unicode编码的压缩和优化，他不再使用最少使用2个字节，而是将所有的字符和符号进行分类：ascii码中的内容用1个字节保存、欧洲的字符用2个字节保存，东亚的字符用3个字节保存...
　　GBK，也是基于Unicode编码的进一步优化，GBK的文字编码是用双字节来表示的，即不论中、英文字符均使用双字节来表示
　　1.在python2默认编码是ASCII, python3里默认是utf-8
　　2.unicode 分为 utf-32(占4个字节),utf-16(占两个字节)，utf-8(占1-4个字节)， so utf-8就是unicode
　　3.在py3中encode,在转码的同时还会把string 变成bytes类型，decode在解码的同时还会把bytes变回string
　　因此，在做编码转换时，通常需要以unicode作为中间编码，即先将其他编码的字符串解码（decode）成unicode，再从unicode编码（encode）成另一种编码。
　　decode的作用是将其他编码的字符串转换成unicode编码，
　　如str1.decode('gb2312')，表示将gb2312编码的字符串转换成unicode编码。
　　encode的作用是将unicode编码转换成其他编码的字符串，
　　如str2.encode('gb2312')，表示将unicode编码的字符串转换成gb2312编码。
　　在某些IDE中，字符串的输出总是出现乱码，甚至错误，其实是由于IDE的结果输出控制台自身不能显示字符串的编码，而不是程序本身的问题。
　　如在UliPad中运行如下代码：
　　s=u"中文"
　　print s
　　会提示：
　　UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。
　　这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的（英文系统的默认编码是ascii），而上面代码中的字符串是Unicode编码的，所以输出时产生了错误。
　　将最后一句改为：print s.encode('gb2312') 则能正确输出“中文”两个字。
　　若最后一句改为：print s.encode('utf8') 则输出：\xe4\xb8\xad\xe6\x96\x87，
　　这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。
　　另外，代码中字符串的默认编码与代码文件本身的编码一致，
　　如： s='中文' 如果是在utf8的文件中，该字符串就是utf8编码，如果是在gb2312的文件中，则其编码为gb2312。这种情况下，要进行编码转换，都需要先用decode方法将其转换成unicode编码，再使用encode方法将其转换成其他编码。
　　通常，在没有指定特定的编码方式时，都是使用的系统默认编码创建的代码文件，在这篇文章中可以看到如何获得系统的默认编码。
　　如果字符串是这样定义： s=u'中文' 则该字符串的编码就被指定为unicode了，即python的内部编码，而与代码文件本身的编码无关。
　　因此，对于这种情况做编码转换，只需要直接使用encode方法将其转换成指定编码即可。
　　如果一个字符串已经是unicode了，再进行解码则将出错，
　　因此通常要对其编码方式是否为unicode进行判断：
　　isinstance(s, unicode) #用来判断是否为unicode