這篇文章給大家分享的是有關(guān)Python中編碼機(jī)制的相關(guān)問題的內(nèi)容。小編覺得挺實(shí)用的,因此分享給大家做個(gè)參考,一起跟隨小編過來看看吧。
創(chuàng)新互聯(lián)建站主要從事成都網(wǎng)站建設(shè)、成都做網(wǎng)站、網(wǎng)頁設(shè)計(jì)、企業(yè)做網(wǎng)站、公司建網(wǎng)站等業(yè)務(wù)。立足成都服務(wù)市南,10多年網(wǎng)站建設(shè)經(jīng)驗(yàn),價(jià)格優(yōu)惠、服務(wù)專業(yè),歡迎來電咨詢建站服務(wù):18980820575問題1:問題在哪里?
問題是我們的靶子,心中沒有問題去學(xué)習(xí)就會(huì)抓不住重點(diǎn)。
本文使用的編程環(huán)境是centos6.7,python2.7。我們在shell中鍵入python以打開python命令行,并鍵入如下兩句話:
s = "中國zg" e = s.encode("utf-8")
現(xiàn)在的問題是:這段代碼能運(yùn)行嗎?
答案是不能,會(huì)報(bào)如下的錯(cuò):
UnicodeDecodeError: 'ascii' codec can't decode byte 0xe4 in position 0: ordinal not in range(128)
請(qǐng)留意一下錯(cuò)誤中說明的0xe4,它是我們分析錯(cuò)誤的突破口。
相信很多人都遇到過這個(gè)錯(cuò)誤。那么新的問題來了。
問題2:Why?
要搞清楚原因,我們不妨認(rèn)真分析下這兩句話的執(zhí)行流程:
首先,我們通過鍵盤在python命令行解釋器中鍵入了 中國zg 并且給它加上了英文的雙引號(hào),然后又賦值給了變量s,看起來很稀松平常是不是?其實(shí)里面大有玄機(jī)。
當(dāng)我們通過鍵盤在程序中輸入字符時(shí),我們是通過操作系統(tǒng)完成這個(gè)功能的。我們在屏幕上看到的 中國zg 實(shí)際上是操作系統(tǒng)給我們?nèi)祟惖囊粋€(gè)反饋,告訴你:“嗨,哥們,你在程序中輸入了字符 中國zg ”
那操作系統(tǒng)給程序的反饋是什么呢?答案就是01串,這個(gè)01串是什么樣子,又是怎么生成的呢?
答案就是操作系統(tǒng)使用自己的默認(rèn)編碼方式,將中國zg進(jìn)行了編碼,并把編碼后的01串給了程序。
我們用的centos系統(tǒng)默認(rèn)的編碼是utf-8,所以,只要知道中國zg每個(gè)字符的utf-8的編碼就可以知道01串是什么了。
查詢后,可以獲得它們的編碼是(以16進(jìn)制和2進(jìn)制表示):
中 | 國 | z | g |
---|---|---|---|
E4B8AD | E59BBD | 7A | 67 |
11100101 10011011 10111101 | 11100101 10011011 10111101 | 01111010 | 01100111 |
現(xiàn)在我們知道操作系統(tǒng)傳給程序的01串長什么樣子了。然后,程序會(huì)怎么處理它呢?
程序看到這個(gè)01串被雙引號(hào)包圍著,自然知道這個(gè)01串是一個(gè)字符串。然后這個(gè)字符串被賦值給了s。
到此,就是第一句的執(zhí)行邏輯。
現(xiàn)在繼續(xù)進(jìn)行第二句的執(zhí)行。
e = s.encode("utf-8")
的意思是將字符串s用utf-8進(jìn)行編碼,并將編碼后的字符串賦值給e。問題來了,程序現(xiàn)在知道s中的01串,還知道這個(gè)01串表示的是字符串,但這個(gè)字符串的編碼是什么呢?我們必須知道01串的現(xiàn)有編碼才能解析出里面的字符,也才能用新的編碼方式,如utf-8來重新編碼它。操作系統(tǒng)只給程序傳來了01串,并沒有告訴程序這個(gè)01串用的字符編碼是什么。
此時(shí),python程序就會(huì)用它自己默認(rèn)的編碼當(dāng)作s的編碼,進(jìn)而來識(shí)別s中的內(nèi)容。這個(gè)默認(rèn)的編碼是ASCII,所以,它會(huì)用ASCII來解釋這個(gè)01串,識(shí)別出字符串的內(nèi)容,再將這個(gè)字符串轉(zhuǎn)為utf-8編碼。
好了,程序碰到的第一個(gè)字節(jié)就是E4(11100101 ),傻眼! ASCII編碼中沒有這玩意兒,因?yàn)锳SCII編碼中字節(jié)第一位都是0。
怎么辦?
報(bào)錯(cuò)唄,于是我們就看到了上面的錯(cuò)誤。
錯(cuò)誤中的0xe4就是字符 “中” 的utf8編碼的第一個(gè)字節(jié)。
問題3:How?
知道問題出在哪里了,怎么解決這個(gè)問題呢?
顯然,我們只要告訴程序,這個(gè)s中的01串的編碼是utf-8,程序就應(yīng)該能正確工作。
但這樣的解決方法有一個(gè)問題,就是不夠通用。
假如我有個(gè)程序,它要讀取很多文本文件,每個(gè)文本文件的編碼都不一樣,豈不是針對(duì)每個(gè)讀進(jìn)來的文件都維護(hù)一個(gè)編碼信息?很繁瑣。
進(jìn)一步,如果這些文本文件的內(nèi)容還要做相互的比較連接之類的操作,編碼都不一致,豈不是更麻煩?
python是怎么聰明地解決這個(gè)問題的呢?
很簡單,就是decode!
decode的意思是說,你有一個(gè)字符串,并且你知道它的編碼,只要你用該編碼decode這個(gè)字符串,那么,python就會(huì)識(shí)別出里面的字符內(nèi)容,同時(shí),建一個(gè)int數(shù)組,將每個(gè)字符的unicode序號(hào)存進(jìn)去。
所有的字符串都這樣做,就可以確保在程序運(yùn)行過程中,各種來源獲得的字符串都有一樣的表示。它們就可以方便地進(jìn)行各種操作了。
上面說的 int數(shù)組會(huì)被python封裝成一個(gè)對(duì)象,即unicode對(duì)象。
問題4:如何搞定?
下面,我們在python命令行中輸入如下兩行代碼:
e = s.decode("utf-8") isinstance(e,unicode)
程序的輸出是True,這說明,decode后返回的e確實(shí)是一個(gè)unicode對(duì)象。
unicode在這里是一個(gè)類,是python里面的類。
e 被稱作unicode字符串,意思是說,它存的是字符的unicode序號(hào),并沒有使用任何編碼。
然后,我們就可以將e編碼成任意一種編碼,比如下面的操作都是可以的
e.encode("utf-8") e.encode("gbk")
只要你選擇的編碼能夠?qū)中的字符進(jìn)行編碼即可,如果不能編碼,就會(huì)報(bào)錯(cuò)。
比如,如果你嘗試這樣:
e.encode("ascii")
由于ASCII并不能編碼 中國 這兩個(gè)字符,所以會(huì)爆出 encode error。
至此,我們已經(jīng)看到了兩種錯(cuò)誤,decode error 和encode error,并解決了它們。
問題5:如何評(píng)價(jià)python的這種字符編碼處理方法?
首先,這樣的處理方法非常的簡單。任何文本,只要它進(jìn)入程序時(shí)進(jìn)行一次decode,就會(huì)變成unicode對(duì)象,里面用int存著每個(gè)字符的unicode序號(hào)。只要在這個(gè)文本要輸出時(shí)再進(jìn)行一次encode,編碼成我們需要的編碼就可以了。
問題是,所有的字符都用一個(gè)int來表示會(huì)不會(huì)太浪費(fèi)空間?畢竟,用ASCII編碼,英文的字符只要一個(gè)字節(jié)就可以了。
確實(shí)會(huì)費(fèi)點(diǎn)空間,但是現(xiàn)在的內(nèi)存都足夠大,而且我們只在程序內(nèi)部使用這種方式,當(dāng)字符串要寫入文件或者通過網(wǎng)絡(luò)傳輸時(shí),我們都會(huì)進(jìn)行相應(yīng)的編碼的。
還有一個(gè)問題,那些寫死在程序中的字符串怎么辦?難道每次使用都要進(jìn)行一次decode?不同的操作系統(tǒng)默認(rèn)使用的編碼是不一樣的,當(dāng)我們在linux下,通常需要用utf8做decode,在Windows下,通常需要用gbk做 decode。這樣,我們的代碼就只能在特定的平臺(tái)運(yùn)行。
python給我們提供了一個(gè)很簡單的辦法,只要在字符串前面加一個(gè)u,它就會(huì)幫我們探測系統(tǒng)的編碼,并自動(dòng)完成decode。
問題6:總結(jié)下,學(xué)到了什么?
本文用一個(gè)很常見的錯(cuò)誤為起點(diǎn),詳細(xì)分析了python中的編碼問題。我們看到了python處理字符問題的簡單之處,也能夠理解為什么python有這么強(qiáng)大的文本處理功能。
測試題:看你是否真正理解了。
假設(shè)一臺(tái)linux上有一個(gè)文件a.txt,里面的內(nèi)容是"中文"兩個(gè)字符,編碼方式是utf-8。
現(xiàn)在,在python程序中寫如下語句:
import codec s="" with codec.open("a.txt",encoding="utf-8") as f: s=f.readline().strip() with open("b.txt","w") as f: f.write(s)
請(qǐng)問這段代碼能執(zhí)行嗎?為什么?
答案:不能!
s底下的表示是unicode,寫出時(shí)python會(huì)對(duì)其進(jìn)行編碼,默認(rèn)用的ascii編碼無法對(duì)"中文"兩個(gè)字符進(jìn)行編碼,所以會(huì)報(bào)錯(cuò)!
感謝各位的閱讀!關(guān)于“Python中編碼機(jī)制的相關(guān)問題”這篇文章就分享到這里了,希望以上內(nèi)容可以對(duì)大家有一定的幫助,讓大家可以學(xué)到更多知識(shí),如果覺得文章不錯(cuò),可以把它分享出去讓更多的人看到吧!
當(dāng)前文章:Python中編碼機(jī)制的相關(guān)問題-創(chuàng)新互聯(lián)
文章出自:http://muchs.cn/article48/pddep.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站維護(hù)、App開發(fā)、服務(wù)器托管、搜索引擎優(yōu)化、品牌網(wǎng)站建設(shè)、商城網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容