requests模塊使用

安裝 requests

# 在命令行工具中使用
pip install requests
# 使用前需要導(dǎo)入
import requests

下面我們來(lái)看一下requests庫(kù)的幾種常用高級(jí)用法

創(chuàng)新互聯(lián)專(zhuān)注為客戶(hù)提供全方位的互聯(lián)網(wǎng)綜合服務(wù)，包含不限于成都網(wǎng)站設(shè)計(jì)、成都網(wǎng)站建設(shè)、烈山網(wǎng)絡(luò)推廣、重慶小程序開(kāi)發(fā)公司、烈山網(wǎng)絡(luò)營(yíng)銷(xiāo)、烈山企業(yè)策劃、烈山品牌公關(guān)、搜索引擎seo、人物專(zhuān)訪(fǎng)、企業(yè)宣傳片、企業(yè)代運(yùn)營(yíng)等，從售前售中售后，我們都將竭誠(chéng)為您服務(wù)，您的肯定，是我們最大的嘉獎(jiǎng)；創(chuàng)新互聯(lián)為所有大學(xué)生創(chuàng)業(yè)者提供烈山建站搭建服務(wù)，24小時(shí)服務(wù)熱線(xiàn)：13518219792，官方網(wǎng)址：muchs.cn

會(huì)話(huà)對(duì)象

• 會(huì)話(huà)對(duì)象可以跨請(qǐng)求保持某些參數(shù)，在同一個(gè) Session 實(shí)例發(fā)出的所有請(qǐng)求之間保持 cookie，會(huì)話(huà)也可用來(lái)為請(qǐng)求方法提供缺省的數(shù)據(jù)；

from requests import Session
s = Session()
# 會(huì)話(huà)拿到
r = s.get('http://www.baidu.com')
print(r)   # <Response [200]>
print(r.cookies)   #  <RequestsCookieJar[<Cookie BDORZ=27315 for .baidu.com/>]>
# 再次發(fā)起請(qǐng)求
r = s.get('https://www.csdn.net/')
print(r.text)

我們可以拿到一個(gè)名為 r 的 Response 對(duì)象，然后在這個(gè)對(duì)象中獲取所有我們想要的信息，大家可以自己執(zhí)行代碼看看輸出結(jié)果。

• 會(huì)話(huà)還可以作為上下文管理器，這樣就能確保 with 區(qū)塊退出后即使發(fā)生了異常會(huì)話(huà)能被關(guān)閉；

import requests
with requests.get('http://httpbin.org/get', stream=True) as r:
    print(r.text)

• 任何時(shí)候進(jìn)行了類(lèi)似 requests.get() 的調(diào)用，都在做兩件主要的事情，一個(gè)是在構(gòu)建一個(gè) Request 對(duì)象， 該對(duì)象將被發(fā)送到某個(gè)服務(wù)器請(qǐng)求或查詢(xún)一些資源，其二是一旦 requests 得到一個(gè)從服務(wù)器返回的響應(yīng)就會(huì)產(chǎn)生一個(gè) Response 對(duì)象。該響應(yīng)對(duì)象包含服務(wù)器返回的所有信息，也包含你原來(lái)創(chuàng)建的 Request 對(duì)象；

使用Prepared Request對(duì)象

• 當(dāng)你從 API 或者session會(huì)話(huà)調(diào)用中收到一個(gè) Response 對(duì)象時(shí)，request 屬性其實(shí)是使用了 Prepared Request 對(duì)象。

from requests import Request, Session
s = Session()
# 獲取Prepared Request對(duì)象
req = Request('GET', url,
    data=data,
    headers=header
)
prepped = req.prepare()
# do something with prepped.body
# do something with prepped.headers
resp = s.send(prepped,
    stream=stream,
    verify=verify,
    proxies=proxies,
    cert=cert,
    timeout=timeout
)
print(resp.status_code)

SSL 證書(shū)驗(yàn)證

• Requests 可以為 HTTPS 請(qǐng)求驗(yàn)證 SSL 證書(shū)，就像 web 瀏覽器一樣。verify 默認(rèn)參數(shù)就是true，開(kāi)啟SSL 驗(yàn)證，如果將 verify 設(shè)置為 False，則會(huì)忽略對(duì) SSL 證書(shū)的驗(yàn)證，但是會(huì)有警告，需要使用 urllib3.disable_warnings() ；

import requests
import urllib3
urllib3.disable_warnings()
# verify默認(rèn)參數(shù)就是true
ret = requests.get('https://github.com', verify=True)
print(ret.status_code)
# 也可以關(guān)閉verify, 但是會(huì)有警告
ret = requests.get('https://github.com', verify=False)
print(ret.status_code)

流式上傳

• Requests支持流式上傳，允許發(fā)送大的數(shù)據(jù)流或文件而無(wú)需先把它們讀入內(nèi)存，要使用流式上傳，需要為請(qǐng)求體提供一個(gè)類(lèi)文件對(duì)象；

with open('massive-body', 'rb') as f:
    requests.post('http://some.url/streamed', data=f)
與requests.post("http://httpbin.org/post", files=files)不一樣

塊編碼請(qǐng)求

• 當(dāng)下載大文件時(shí)，用 Response.iter_content 或許更方便些。 requests.get(url) 默認(rèn)是下載在內(nèi)存中的，下載完成才存到硬盤(pán)上，可以用 Response.iter_content 來(lái)邊下載邊存

import requests
url = "http://DOMAIN/media/1.mp4"
# 這里設(shè)置stream=true的目的在于不會(huì)將內(nèi)容全部?jī)?chǔ)存在內(nèi)存中，而是根據(jù)chunk_size的大小，去下載內(nèi)容
ret = requests.get(url, stream=True)
with open('1.mp4', 'wb') as f:
    for block in ret.iter_content(chunk_size=1024):
        f.write(block)

POST 多個(gè)分塊編碼的文件

• 使用POST表單提交的方式可以在一個(gè)請(qǐng)求中發(fā)送多個(gè)文件，只需要把文件設(shè)到一個(gè)元組的列表中。
  例如，假設(shè)你要上傳多個(gè)圖像文件到一個(gè) HTML 表單，使用一個(gè)多文件 field 叫做 “images”:

<input type="file" name="images" multiple="true" required="true"/>

然后把文件設(shè)到一個(gè)元組的列表中，其中元組結(jié)構(gòu)為 (form_field_name, file_info):

import requests
url = 'http://httpbin.org/post'
multiple_files = [
        #  images是input的name屬性
        ('images', ('foo.png', open('foo.png', 'rb'), 'image/png')),
        ('images', ('bar.png', open('bar.png', 'rb'), 'image/png'))]
r = requests.post(url, files=multiple_files)
print(r.text)

設(shè)置Proxy代理

• 如果需要使用代理，可以通過(guò)為任意請(qǐng)求方法提供 proxies 參數(shù)來(lái)往請(qǐng)求中設(shè)置代理，還可以傳遞用戶(hù)名和密碼；

import requests
#普通代理
proxies = {
   "http": "http://23.10.1.10:80",
   "https": "https://23.10.1.11:80",
}
# 往請(qǐng)求中設(shè)置代理(proxies)
r = requests.get("https://www.baidu.com", proxies=proxies)
print(r.status_code)
# 帶有用戶(hù)名和密碼的代理, basic認(rèn)證
proxies = {
   "http": "http://user:password@227.1.0.1:9999/",
}
r = requests.get("https://www.baidu.com", proxies=proxies)
print(r.status_code)
# 設(shè)置socks代理
proxies = {
   'http': 'socks5://127.0.0.1:1080',
   'https': 'socks5://127.0.0.1:1080'
}
r = requests.get("https://www.facebook.com", proxies=proxies)
print(r.status_code)

參考： https://www.9xkd.com/user/plan-view.html?id=3940257785