Python如何使用Requests抓取包圖網小視頻

本篇內容介紹了“Python如何使用Requests抓取包圖網小視頻”的有關知識，在實際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領大家學習一下如何處理這些情況吧！希望大家仔細閱讀，能夠學有所成！

創(chuàng)新互聯建站專注為客戶提供全方位的互聯網綜合服務，包含不限于網站設計、網站制作、尤溪網絡推廣、重慶小程序開發(fā)公司、尤溪網絡營銷、尤溪企業(yè)策劃、尤溪品牌公關、搜索引擎seo、人物專訪、企業(yè)宣傳片、企業(yè)代運營等，從售前售中售后，我們都將竭誠為您服務，您的肯定，是我們最大的嘉獎；創(chuàng)新互聯建站為所有大學生創(chuàng)業(yè)者提供尤溪建站搭建服務，24小時服務熱線：18980820575，官方網址：muchs.cn

目標抓取全站視頻數據保存在本地，并以網站視頻名命名視頻文件。

1. 分析網頁數據結構
   

經分析我們可以發(fā)現總站數據我們可以從這四這選項下手

1. 分析網頁數據格式
   

image.png

網頁數據為靜態(tài)

1. 抓取下一頁鏈接

抓取下一頁鏈接

1. OK, 上代碼!

import requests
from lxml import etree
import threading


class Spider(object):
   def __init__(self):
       self.headers = {"User-Agent":"Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36"}
       self.offset = 1

   def start_work(self, url):
       print("正在爬取第 %d 頁......" % self.offset)
       self.offset += 1
       response = requests.get(url=url,headers=self.headers)
       html = response.content.decode()
       html = etree.HTML(html)

       video_src = html.xpath('//div[@class="video-play"]/video/@src')
       video_title = html.xpath('//span[@class="video-title"]/text()')
       next_page = "http:" + html.xpath('//a[@class="next"]/@href')[0]
       # 爬取完畢...
       if next_page == "http:":
           return

       self.write_file(video_src, video_title)
       self.start_work(next_page)

   def write_file(self, video_src, video_title):
       for src, title in zip(video_src, video_title):
           response = requests.get("http:"+ src, headers=self.headers)
           file_name = title + ".mp4"
           file_name = "".join(file_name.split("/"))
           print("正在抓取%s" % file_name)
           with open(file_name, "wb") as f:
               f.write(response.content)

if __name__ == "__main__":
   spider = Spider()
   for i in range(0,3):
       # spider.start_work(url="https://ibaotu.com/shipin/7-0-0-0-"+ str(i) +"-1.html")
       t = threading.Thread(target=spider.start_work, args=("https://ibaotu.com/shipin/7-0-0-0-"+ str(i) +"-1.html",))
       t.start()

1. 運行結果
   

是不是很簡單呢！

“Python如何使用Requests抓取包圖網小視頻”的內容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業(yè)相關的知識可以關注創(chuàng)新互聯網站，小編將為大家輸出更多高質量的實用文章！

網頁名稱：Python如何使用Requests抓取包圖網小視頻
本文鏈接：http://muchs.cn/article22/gpjhcc.html

成都網站建設公司_創(chuàng)新互聯，為您提供網站導航、服務器托管、手機網站建設、營銷型網站建設、微信小程序、電子商務

廣告

聲明：本網站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯