python爬蟲設置代理ip的方法

這篇文章主要介紹了python爬蟲設置代理ip的方法，具有一定借鑒價值，需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。

創(chuàng)新互聯(lián)公司是創(chuàng)新、創(chuàng)意、研發(fā)型一體的綜合型網站建設公司，自成立以來公司不斷探索創(chuàng)新，始終堅持為客戶提供滿意周到的服務，在本地打下了良好的口碑，在過去的10年時間我們累計服務了上千家以及全國政企客戶，如成都圍欄護欄等企業(yè)單位，完善的項目管理流程，嚴格把控項目進度與質量監(jiān)控加上過硬的技術實力獲得客戶的一致稱譽。

python爬蟲設置代理ip的方法：首先寫入獲取到的ip地址到proxy；然后用百度檢測ip代理是否成功，并請求網頁傳的參數(shù)；最后發(fā)送get請求，并獲取返回頁面保存到本地。

python爬蟲設置代理ip的方法：

設置ip代理是爬蟲必不可少的技巧；

查看本機ip地址；打開百度，輸入“ip地址”，可以看到本機的IP地址；

本文使用的是goubanjia.com里面的免費ip；

使用時注意要注意傳輸協(xié)議是http還是https，代碼如下；

# 用到的庫
import requests
# 寫入獲取到的ip地址到proxy
proxy = {
    'https':'221.178.232.130:8080'
}
# 用百度檢測ip代理是否成功
url = 'https://www.baidu.com/s?'
# 請求網頁傳的參數(shù)
params={
    'wd':'ip地址'
}
# 請求頭
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36'
}
# 發(fā)送get請求
response = requests.get(url=url,headers=headers,params=params,proxies=proxy)
# 獲取返回頁面保存到本地，便于查看
with open('ip.html','w',encoding='utf-8') as f:
    f.write(response.text)

打開存入的“ip.html”查看內容如下；

感謝你能夠認真閱讀完這篇文章，希望小編分享python爬蟲設置代理ip的方法內容對大家有幫助，同時也希望大家多多支持創(chuàng)新互聯(lián)，關注創(chuàng)新互聯(lián)行業(yè)資訊頻道，遇到問題就找創(chuàng)新互聯(lián)，詳細的解決方法等著你來學習!

網站標題：python爬蟲設置代理ip的方法
本文鏈接：http://muchs.cn/article14/gdspde.html

成都網站建設公司_創(chuàng)新互聯(lián)，為您提供虛擬主機、品牌網站設計、網站內鏈、ChatGPT、App設計、服務器托管

廣告

聲明：本網站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)