python如何爬取智能翻頁批量下載文件

這篇文章主要介紹python如何爬取智能翻頁批量下載文件，文中介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們一定要看完！

站在用戶的角度思考問題，與客戶深入溝通，找到萬秀網(wǎng)站設(shè)計與萬秀網(wǎng)站推廣的解決方案，憑借多年的經(jīng)驗，讓設(shè)計與互聯(lián)網(wǎng)技術(shù)結(jié)合，創(chuàng)造個性化、用戶體驗好的作品，建站類型包括：網(wǎng)站設(shè)計制作、網(wǎng)站建設(shè)、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣、域名注冊、網(wǎng)頁空間、企業(yè)郵箱。業(yè)務(wù)覆蓋萬秀地區(qū)。

Python主要用來做什么

Python主要應(yīng)用于：1、Web開發(fā)；2、數(shù)據(jù)科學(xué)研究；3、網(wǎng)絡(luò)爬蟲；4、嵌入式應(yīng)用開發(fā)；5、游戲開發(fā)；6、桌面應(yīng)用開發(fā)。

python爬蟲遇到爬取文件內(nèi)容時，需要一頁頁的翻頁爬取，這樣很是麻煩，其實可以獲取每個列表信息下的文件名和文件鏈接，讓文件名和文件鏈接處理為列表，保存后下載，實現(xiàn)智能翻頁批量下載文件，本文以以京客隆為例，批量下載文件，如財務(wù)資料，他的每一份報告都是一份pdf格式的文檔。以此頁面為目標(biāo)，下載他每個分類的文件python爬蟲實戰(zhàn)之智能翻頁批量下載文件。

1、引入庫

import requests
import pandas as pd
from lxml import etree
import re
import os

2、解析初始頁面

baseUrl ='http://www.jkl.com.cn/cn/invest.aspx'  # 爬取頁面的數(shù)據(jù)
heade ={
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) 
Chrome/81.0.4044.92 Safari/537.36'
}


res =requests.get(url=baseUrl,headers=heade).text   
# print(res.text)
html = etree.HTML(res)
res =requests.get(url=baseUrl,headers=heade).text   #   設(shè)置變量接受 基礎(chǔ)頁的響應(yīng)數(shù)據(jù)
# print(res.text)
html = etree.HTML(res)

3、獲得投資關(guān)系的分類名稱和url地址

data_name = html.xpath('//div[@class="infoLis"]//a/text()') # 投資者列表的名字
data_link = html.xpath('//div[@class="infoLis"]//@href')    # 全部列表的鏈接
name = [data_name.strip() for data_name in data_name]   # 通過for循環(huán)去掉空字符
link = ['http://www.jkl.com.cn/cn/'+ data_link for data_link in data_link]  # 拼接字符串
# 合并為字典，方便保存文件
file = dict(zip(name,link))

4、每個列表信息，保存一個文件夾

for name,link in file.items():
    name=name.replace('/','.')
    name=name.replace('...','報表')
    # 上面的把文件名帶特許字符的 強(qiáng)制轉(zhuǎn)換為我們想要的文本類型
    path = 'E:/'+ name
    if not os.path.exists(path):
        os.mkdir(path)
        #建立儲存位置

5、對列表的每個項目鏈接進(jìn)行解析，拿到尾頁

    res_list = requests.get(url = link, headers = heade).text
    list_html = etree.HTML(res_list)
    # print(html_erJi) 解析每個分類的鏈接
    weiYe = list_html.xpath('//a[text()="尾頁"]/@href')
    # print(html_weiye)
    # 拿到尾頁信息
    if weiYe !=[]:
        # 正則提取尾頁信息
        get_weiYe =re.search("(\d+)'\)",html_weiye[0])
        get_yeMa = get_html_weiYe.group(1)
    else:
        get_yeMa=1
    # print(get_html_yeMa)  看看是不是提取成功

6、獲取每個列表信息下的文件名和文件鏈接

    for get_yeMa in range(1,int(get_yeMa)+1): # 翻頁
        yaMa= {
        '__EVENTTARGET': 'AspNetPager1',
        '__EVENTARGUMENT': get_yeMa
        }
        get_lei_html = requests.get(url = link, headers = heade, params = yaMa).text
        res3 =etree.HTML(get_lei_html)
        # print(res3)
        pdf_name = res3.xpath('//div[@class="newsLis"]//li/a/text()')
        # print(pdf_name)

        pdf_url = res3.xpath('//div[@class="newsLis"]//li//@href')

7、讓文件名和文件鏈接處理為列表，保存后下載

  pdf_names = [pdf_name.strip() for pdf_name in pdf_name]
  # print(pdf_names)
  if all(pdf_url):
            pdf_urls = ['http://www.jkl.com.cn'+pdf_url for pdf_url in pdf_url]
            # print(pdf_url)
            pdf_data=dict(zip(pdf_names,pdf_urls))   # pdf地址和名字整合為字典
            for pdfName,pdfUrl in pdf_data.items():
                pdfName =pdfName.replace('/','.')
                res_pdf= requests.get(url =pdfUrl,headers=heade).content
                houZui = pdfUrl.split('.')[-1]
                pdf_pash = path + '/' + pdfName + '.'+ houZui    # 
                # print(pdf_pash)
                with open(pdf_pash,'wb') as f:
                    f.write(res_pdf)
                    print(pdfName,'下載成功')

以上是“python如何爬取智能翻頁批量下載文件”這篇文章的所有內(nèi)容，感謝各位的閱讀！希望分享的內(nèi)容對大家有幫助，更多相關(guān)知識，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道！

網(wǎng)頁標(biāo)題：python如何爬取智能翻頁批量下載文件
網(wǎng)站網(wǎng)址：http://muchs.cn/article20/ipgijo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供全網(wǎng)營銷推廣、網(wǎng)站內(nèi)鏈、外貿(mào)網(wǎng)站建設(shè)、動態(tài)網(wǎng)站、靜態(tài)網(wǎng)站、建站公司

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)