B 站視頻網址：https://vc.bilibili.com/p/eden/rank#/?tab=全部
此次爬取視頻，我們爬取前100個~
我們做好前期準備~
API 尋找 && 提取
我們通過 F12 打開開發者模式，然後在 Networking -> Name 字段下找到這個鏈接：
<code>http://api.vc.bilibili.com/board/v1/ranking/top?page_size=10&next_offset=&tag=%E4%BB%8A%E6%97%A5%E7%83%AD%E9%97%A8&platform=pc/<code>
我們查看一下 Headers 屬性
<code>非誠勿擾：正在學習python的小夥伴或者打算學習的，可以私信小編“01”領取資料！/<code>
我們可以看到Request URL這個屬性值，我們向下滑動加載視頻的過程中，發現只有這段url是不變的。
<code>http://api.vc.bilibili.com/board/v1/ranking/top?/<code>
next_offset 會一直變化，我們可以猜測，這個可能就是獲取下一個視頻序號，我們只需要把這部分參數取出來，把 next_offset 寫成變量值，用 JSON 的格式返回到目標網頁即可。
代碼實現
我們通過上面的嘗試寫了段代碼，發現 B 站在一定程度上做了反爬蟲操作，所以我們需要先獲取 headers 信息，否則下載下來的視頻是空的，然後定義 params 參數存儲 JSON 數據，然後通過 requests.get 去獲取其參數值信息，用 JSON 的格式返回到目標網頁即可，實現代碼如下：
<code>def get_json(url): headers = { 'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36' } params = { 'page_size': 10, 'next_offset': str(num), 'tag': '今日熱門', 'platform': 'pc' } try: html = requests.get(url,params=params,headers=headers) return html.json() except BaseException: print('request error') pass/<code>
為了能夠清楚的看到我們下載的情況，我們折騰了一個下載器上去，實現代碼如下：
<code>def download(url,path): start = time.time() # 開始時間 size = 0 headers = { 'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36' } response = requests.get(url,headers=headers,stream=True) # stream屬性必須帶上 chunk_size = 1024 # 每次下載的數據大小 content_size = int(response.headers['content-length']) # 總大小 if response.status_code == 200: print('[文件大小]:%0.2f MB' %(content_size / chunk_size / 1024)) # 換算單位 with open(path,'wb') as file: for data in response.iter_content(chunk_size=chunk_size): file.write(data) size += len(data) # 已下載的文件大小/<code>
效果如下：
將上面的代碼進行彙總，整個實現過程如下：
<code>#!/usr/bin/env python#-*-coding:utf-8-*-import requestsimport randomimport timedef get_json(url): headers = { 'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36' } params = { 'page_size': 10, 'next_offset': str(num), 'tag': '今日熱門', 'platform': 'pc' } try: html = requests.get(url,params=params,headers=headers) return html.json() except BaseException: print('request error') passdef download(url,path): start = time.time() # 開始時間 size = 0 headers = { 'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36' } response = requests.get(url,headers=headers,stream=True) # stream屬性必須帶上 chunk_size = 1024 # 每次下載的數據大小 content_size = int(response.headers['content-length']) # 總大小 if response.status_code == 200: print('[文件大小]:%0.2f MB' %(content_size / chunk_size / 1024)) # 換算單位 with open(path,'wb') as file: for data in response.iter_content(chunk_size=chunk_size): file.write(data) size += len(data) # 已下載的文件大小 if __name__ == '__main__': for i in range(10): url = 'http://api.vc.bilibili.com/board/v1/ranking/top?' num = i*10 + 1 html = get_json(url) infos = html['data']['items'] for info in infos: title = info['item']['description'] # 小視頻的標題 video_url = info['item']['video_playurl'] # 小視頻的下載鏈接 print(title) # 為了防止有些視頻沒有提供下載鏈接的情況 try: download(video_url,path='%s.mp4' %title) print('成功下載一個!') except BaseException: print('涼涼,下載失敗') pass time.sleep(int(format(random.randint(2,8)))) # 設置隨機等待時間/<code>
爬取效果圖如下：
結果：
似乎爬取的效果還可以，當然喜歡的朋友不要忘記點贊分享轉發哦。
最後多說一句，這裡有我自己整理了一套最新的python系統學習教程，包括從基礎的python腳本到web開發、爬蟲、數據分析、數據可視化、機器學習等。想要這些資料的可以關注小編，並在後臺私信小編：“學習”即可領取。
閱讀更多 小小可愛編 的文章
