python安裝urllib的方法-創(chuàng)新互聯(lián)

創(chuàng)新互聯(lián)www.cdcxhl.cn八線動態(tài)BGP香港云服務(wù)器提供商,新人活動買多久送多久,劃算不套路!

創(chuàng)新互聯(lián)公司長期為上1000+客戶提供的網(wǎng)站建設(shè)服務(wù),團(tuán)隊從業(yè)經(jīng)驗10年,關(guān)注不同地域、不同群體,并針對不同對象提供差異化的產(chǎn)品和服務(wù);打造開放共贏平臺,與合作伙伴共同營造健康的互聯(lián)網(wǎng)生態(tài)環(huán)境。為新興企業(yè)提供專業(yè)的成都網(wǎng)站制作、網(wǎng)站建設(shè),新興網(wǎng)站改版等技術(shù)服務(wù)。擁有10年豐富建站經(jīng)驗和眾多成功案例,為您定制開發(fā)。

這篇文章主要介紹python安裝urllib的方法,文中介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們一定要看完!

urllib是Python中請求url連接的官方標(biāo)準(zhǔn)庫,在Python2中主要為urllib和urllib2,在Python3中整合成了urllib?;旧虾w了基礎(chǔ)的網(wǎng)絡(luò)請求功能。

該庫有四個模塊,分別是urllib.request,urllib.error,urllib.parse,urllib.robotparser。前三個比較常用。

urllib.request 發(fā)送http請求

urllib.error 處理請求過程中,出現(xiàn)的異常。

urllib.parse 解析url

urllib.robotparser 解析robots.txt 文件

二、請求方式

1、get請求

#第一步導(dǎo)包
from  urllib import request

url = "http://httpbin.org"
#第二步請求
response = request.urlopen(url,timeout=1)
#第三步打印返回數(shù)據(jù)
print(response.read().decode())

訪問的結(jié)果會是一個http.client.HTTPResponse對象,使用此對象的read()方法,則可以獲取訪問網(wǎng)頁獲得的數(shù)據(jù)。但是要注意的是,獲得的數(shù)據(jù)會是bytes的二進(jìn)制格式,所以需要decode()一下,轉(zhuǎn)換成字符串格式。

urllib發(fā)送請求是用urlopen()

源碼如下

urllib.request.urlopen(url, data=None, [timeout, ]*, cafile=None, capath=None, cadefault=False, context=None)

第一個參數(shù) String 類型的地址

data 是 bytes 類型的內(nèi)容,可通過 bytes()函數(shù)或者encode()轉(zhuǎn)為化字節(jié)流。它也是可選參數(shù)。使用 data 參數(shù),請求方式變成以 POST 方式提交表單。使用標(biāo)準(zhǔn)格式是application/x-www-form-urlencoded

timeout 參數(shù)是用于設(shè)置請求超時時間。單位是秒。

cafile和capath代表 CA 證書和 CA 證書的路徑。如果使用HTTPS則需要用到。

context參數(shù)必須是ssl.SSLContext類型,用來指定SSL設(shè)置

cadefault參數(shù)已經(jīng)被棄用,可以不用管了。

該方法也可以單獨傳入urllib.request.Request對象

該函數(shù)返回結(jié)果是一個http.client.HTTPResponse對象。

http.client.HTTPResponse對象。它具有msg、version、status、reason、debuglevel、closed等屬性以及read()、readinto()、getheader(name)、getheaders()、fileno()等函數(shù)。

# print(response.msg) # OK
# print(response.version)  #11
# print(response.status) #200
# print(response.reason) #OK
# print(response.getcode()) #200
# print(response.getheaders) # <bound method HTTPResponse.getheaders of <http.client.HTTPResponse 
object at 0x0000023C554DB588>>
# print(response.geturl()) #http://httpbin.org/headers

2、post請求

from  urllib import request,parse

url = "http://httpbin.org"data = {    'name':'xfy'}# data = bytes(parse.urlencode(data),encoding='utf8');
data = parse.urlencode(data).encode()
response = request.urlopen(url+"/post",data=data)
print(response.status) #200print(response.read().decode())

data 需要被轉(zhuǎn)碼成字節(jié)流。而data 是一個字典。我們需要使用 parse.urlencode() 將字典轉(zhuǎn)化為字符串。再使用 bytes()或者encode() 轉(zhuǎn)為字節(jié)流。最后使用 urlopen() 發(fā)起請求,請求是模擬用 POST 方式提交表單數(shù)據(jù)。

這里說一下http://httpbin.org,這個url專門是用來爬蟲請求測試的。

http://httpbin.org/get   測試get請求
http://httpbin.org/post  測試post請求
http://httpbin.org/headers  測試獲得headers  
http://httpbin.org/ip  測試獲得ip
http://httpbin.org/cookies  測試獲得cookies

三、創(chuàng)建 Request 對象

urlopen()還可以傳一個Request對象

req = request.Request(url+"/get")
response = request.urlopen(req)
print(response.read().decode())

urllib/request 包下有一個類Request

其初始化方法如下

def __init__(self, url, data=None, headers={},
                 origin_req_host=None, unverifiable=False,
                 method=None):

url 參數(shù)是請求鏈接,這個是必傳參數(shù),其他的都是可選參數(shù)。

data 參數(shù)跟 urlopen() 中的 data 參數(shù)用法相同。

headers 參數(shù)是指定發(fā)起的 HTTP 請求的頭部信息。headers 是一個字典。它除了在 Request 中添加,還可以通過調(diào)用 Reques t實例的 add_header() 方法來添加請求頭。

origin_req_host 參數(shù)指的是請求方的 host 名稱或者 IP 地址。

unverifiable 參數(shù)表示這個請求是否是無法驗證的,默認(rèn)值是False。意思就是說用戶沒有足夠權(quán)限來選擇接收這個請求的結(jié)果。例如我們請求一個HTML文檔中的圖片,但是我們沒有自動抓取圖像的權(quán)限,我們就要將 unverifiable 的值設(shè)置成 True。

method 參數(shù)指的是發(fā)起的 HTTP 請求的方式,有 GET、POST、DELETE、PUT等。

以上是python安裝urllib的方法的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對大家有幫助,更多相關(guān)知識,歡迎關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司行業(yè)資訊頻道!

文章題目:python安裝urllib的方法-創(chuàng)新互聯(lián)
本文鏈接:http://muchs.cn/article22/ceojjc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供關(guān)鍵詞優(yōu)化、電子商務(wù)、自適應(yīng)網(wǎng)站網(wǎng)站收錄、用戶體驗、移動網(wǎng)站建設(shè)

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

綿陽服務(wù)器托管