實戰小白篇—用Python爬取美劇網站，分分鐘完事兒科技頭條網

實戰小白篇—用Python爬取美劇網站，分分鐘完事兒

一直有愛看美劇的習慣，一方面鍛鍊一下英語聽力，一方面打發一下時間。

之前是能在視頻網站上面在線看的，可是自從廣電總局的限制令之後，進口的美劇英劇等貌似就不在像以前一樣同步更新了。

但是，作為一個宅diao的我又怎甘心沒劇追呢，所以網上隨便查了一下就找到一個能用迅雷下載的美劇下載網站【天天美劇】，各種資源隨便下載，最近迷上的BBC的高清紀錄片，大自然美得不要不要的。

雖說找到了資源網站可以下載了，但是每次都要打開瀏覽器，輸入網址，找到該美劇，然後點擊鏈接才能下載。

時間長了就覺得過程好繁瑣，而且有時候網站鏈接還會打不開，會有點麻煩。

所以今天的python學習路線教程就想給大家來點實戰的東西，抓取該網站上所有美劇鏈接，並保存在文本文檔中，想要哪部劇就直接打開復制鏈接到迅雷就可以下載啦。

其實一開始打算寫那種發現一個url，使用requests打開抓取下載鏈接，從主頁開始爬完全站。

但是，好多重複鏈接，還有其網站的url不是我想的那麼規則，寫了半天也沒有寫出我想要的那種發散式的爬蟲，也許是自己火候還不到吧，繼續努力。。。

後來發現，其電視劇鏈接都是在文章裡面，然後文章url後面有個數字編號，就像這樣的.

所以機智的我又用了之前寫過的爬蟲經驗，解決方法就是自動生成url，其後面的數字不是可以變的嗎，而且每部劇的都是唯一的，所以嘗試了一下大概有多少篇文章，然後用range函數直接連續生成數來構造url。

但是很多url是不存在的，所以會直接掛掉，別擔心，我們用的可是requests，其自帶的status_code就是用來判斷請求返回的狀態的.

所以只要是返回的狀態碼是404的我們都把它跳過，其他的都進去爬取鏈接，這就解決了url的問題了。

以下就是上述步驟的實現代碼.

<code>def get_urls(self):

try: for i in range(2015,25000):

base_url='http://cn163.net/archives/'

url=base_url+str(i)+'/'

if requests.get(url).status_code == 404: continue

else:

self.save_links(url) except Exception,e: pass/<code>

其餘的就進行的很順利了，網上找到前人寫的類似的爬蟲，但是隻是爬取一篇文章的，所以借鑑了一下其正則表達式。

自己用了BeautifulSoup還沒有正則效果好，所以果斷棄了，學海無涯啊。

但是效果也不是那麼理想，有一半左右的鏈接不能正確抓取，還需繼續優化。

<code># -*- coding:utf-8 -*-import requests

import reimport sysimport threadingimport time

reload(sys)

sys.setdefaultencoding('utf-8')class Archives(object):

def save_links(self,url):

try:

data=requests.get(url,timeout=3) 


content=data.text

link_pat='"(ed2k://\\|file\\|[^"]+?\\.(S\\d+)(E\\d+)[^"]+?1024X\\d{3}[^"]+?)"'

name_pat=re.compile(r'(.*?)
',re.S)

links = set(re.findall(link_pat,content))

name=re.findall(name_pat,content)

links_dict = {}

count=len(links) except Exception,e: pass

for i in links:

links_dict[int(i[1][1:3]) * 100 + int(i[2][1:3])] = i#把劇集按s和e提取編號

try: with open(name[0].replace('/',' ')+'.txt','w') as f: print name[0] for i in sorted(list(links_dict.keys())):#按季數+集數排序順序寫入

f.write(links_dict[i][0] + '\\n') print "Get links ... ", name[0], count except Exception,e: pass

def get_urls(self):

try: for i in range(2015,25000):

base_url='http://cn163.net/archives/'

url=base_url+str(i)+'/'

if requests.get(url).status_code == 404: continue

else:

self.save_links(url) except Exception,e: pass

def main(self):

thread1=threading.Thread(target=self.get_urls())

thread1.start()

thread1.join() if __name__ == '__main__':

start=time.time() 


a=Archives()

a.main()

end=time.time() print end-start/<code>