用Python爬取了妹子網100G的套圖，值得收藏

圖

前言
最近在做監控相關的配套設施，發現很多腳本都是基於Python的。很早之前就聽說其大名，人生苦短，我學Python，這並非一句戲言。隨著人工智能、機器學習、深度學習的崛起，目前市面上大部分的人工智能的代碼 大多使用Python 來編寫。所以人工智能時代，是時候學點Python了。進軍指南對於沒有任何語言開發經驗的同學，建議從頭系統的學起，無論是書、視頻還是文字教程都可以。
注意：很多人學Python過程中會遇到各種煩惱問題，沒有人解答容易放棄。為此我建了個python學習資源群裡面有最新學習資料，如果你想學python,可以關注我，後臺私信我 ‘py’ 自動獲取最新python教程資料！還有老司機解答哦！
如果是有其他語言開發經驗的同學，建議從一個案例入手，比如爬取某個網站的套圖。因為語言都是想通的，語法之類的只要你要語感，代碼基本能讀個八九不離十。所以不建議有經驗的開發者從頭學起，無論是視頻還是書，對於開始學一門語言來說都是太浪費時間了。當然，等你深入進去以後，還是要系統的去學習，這是後話。
案例實現步驟以妹子圖為例，其實很簡單，分以下四步：

• 獲取首頁的頁碼數，並創建與頁碼對應的文件夾
• 獲取頁面的欄目地址
• 進入欄目，獲取欄目頁碼數(每個欄目下有多張圖片，分頁顯示)
• 獲取到欄目下對用標籤中的圖片並下載

注意事項爬取過程中，還需要注意以下幾點，可能對你有所幫助：1）導庫，其實就類似於Java中框架或者是工具類，底層都被封裝好了安裝第三方庫

1. # Win下直接裝的 python3
2. pip install bs4、pip install requests
3. # Linux python2 python3 共存
4. pip3 install bs4、pip3 install requests

導入第三方庫

1. # 導入requests庫
2. import requests
3. # 導入文件操作庫
4. import os
5. # bs4全名BeautifulSoup，是編寫python爬蟲常用庫之一，主要用來解析html標籤。
6. import bs4
7. from bs4 importBeautifulSoup
8. # 基礎類庫
9. import sys
10. # Python 3.x 解決中文編碼問題
11. import importlib
12. importlib.reload(sys)

2）定義方法函數，一個爬蟲可能會幾百行，所以儘量不要寫成一坨

1. def download(page_no, file_path):
2. # 這裡寫代碼邏輯

3）定義全局變量

1. # 給請求指定一個請求頭來模擬chrome瀏覽器
2. global headers # 告訴編譯器這是全局變量 headers
3. headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}
4. # 函數內使用之前需要
5. # 告訴編譯器我在這個方法中使用的a是剛才定義的全局變量 headers ，而不是方法內部的局部變量。
6. global headers

4）防盜鏈有些網站加入了防盜鏈，無所不能的 python 解決方案

1. headers = {'Referer': href}
2. img = requests.get(url, headers=headers)

5）切換版本Linux服務器使用的是阿里雲服務器，默認版本 python2，python3 自行安裝

1. [root@AY140216131049Z mzitu]# python2 -V
2. Python2.7.5
3. [root@AY140216131049Z mzitu]# python3 -V
4. Python3.7.1
5. # 默認版本
6. [root@AY140216131049Z mzitu]# python -V
7. Python2.7.5
8. # 臨時切換版本 <whereis>
9. [root@AY140216131049Z mzitu]# alias python='/usr/local/bin/python3.7'
10. [root@AY140216131049Z mzitu]# python -V
11. Python3.7.1

6）異常捕獲在爬取的過程中可能存在異常頁面，這裡我們進行捕獲，不影響後續操作

1. try:
2. # 業務邏輯
3. exceptExceptionas e:
4. print(e)

代碼實現編輯腳本：vi mzitu.py

1. #coding=utf-8
2. #!/usr/bin/python
3. # 導入requests庫
4. import requests
5. # 導入文件操作庫
6. import os
7. import bs4
8. from bs4 importBeautifulSoup
9. import sys
10. import importlib
11. importlib.reload(sys)
12. # 給請求指定一個請求頭來模擬chrome瀏覽器
13. global headers
14. headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}
15. # 爬圖地址
16. mziTu = 'http://www.mzitu.com/'
17. # 定義存儲位置
18. global save_path
19. save_path = '/mnt/data/mzitu'
20. # 創建文件夾
21. def createFile(file_path):
22. if os.path.exists(file_path) isFalse:
23. os.makedirs(file_path)
24. # 切換路徑至上面創建的文件夾
25. os.chdir(file_path)
26. # 下載文件
27. def download(page_no, file_path):
28. global headers
29. res_sub = requests.get(page_no, headers=headers)
30. # 解析html
31. soup_sub = BeautifulSoup(res_sub.text, 'html.parser')
32. # 獲取頁面的欄目地址
33. all_a = soup_sub.find('div',class_='postlist').find_all('a',target='_blank')
34. count = 0
35. for a in all_a:
36. count = count + 1
37. if (count % 2) == 0:
38. print("內頁第幾頁：" + str(count))
39. # 提取href
40. href = a.attrs['href']
41. print("套圖地址：" + href)
42. res_sub_1 = requests.get(href, headers=headers)
43. soup_sub_1 = BeautifulSoup(res_sub_1.text, 'html.parser')
44. # ------ 這裡最好使用異常處理 ------
45. try:
46. # 獲取套圖的最大數量
47. pic_max = soup_sub_1.find('div',class_='pagenavi').find_all('span')[6].text
48. print("套圖數量：" + pic_max)
49. for j in range(1, int(pic_max) + 1):
50. # print("子內頁第幾頁：" + str(j))
51. # j int類型需要轉字符串
52. href_sub = href + "/" + str(j)
53. print(href_sub)
54. res_sub_2 = requests.get(href_sub, headers=headers)
55. soup_sub_2 = BeautifulSoup(res_sub_2.text, "html.parser")
56. img = soup_sub_2.find('div', class_='main-image').find('img')
57. if isinstance(img, bs4.element.Tag):
58. # 提取src
59. url = img.attrs['src']
60. array = url.split('/')
61. file_name = array[len(array)-1]
62. # print(file_name)
63. # 防盜鏈加入Referer
64. headers = {'Referer': href}
65. img = requests.get(url, headers=headers)
66. # print('開始保存圖片')
67. f = open(file_name, 'ab')
68. f.write(img.content)
69. # print(file_name, '圖片保存成功！')
70. f.close()
71. exceptExceptionas e:
72. print(e)
73. # 主方法
74. def main():
75. res = requests.get(mziTu, headers=headers)
76. # 使用自帶的html.parser解析
77. soup = BeautifulSoup(res.text, 'html.parser')
78. # 創建文件夾
79. createFile(save_path)
80. # 獲取首頁總頁數
81. img_max = soup.find('div', class_='nav-links').find_all('a')[3].text
82. # print("總頁數:"+img_max)
83. for i in range(1, int(img_max) + 1):
84. # 獲取每頁的URL地址
85. if i == 1:
86. page = mziTu
87. else:
88. page = mziTu + 'page/' + str(i)
89. file = save_path + '/' + str(i)
90. createFile(file)
91. # 下載每頁的圖片
92. print("套圖頁碼：" + page)
93. download(page, file)
94. if __name__ == '__main__':
    main()

腳本在Linux服務器下運行，執行以下命令

1. python 3 mzitu.py
2. # 或者後臺執行
3. nohup python3 -u mzitu.py > mzitu.log 2>&1 &

目前只爬取了一個欄目的套圖，一共17G，5332張圖片。

1. [root@itstyle mzitu]# du -sh
2. 17G .
3. [root@itstyle mzitu]# ll -s
4. total 5332

下面，請小夥伴們睜大眼睛，雞凍人心的套圖時刻來了。

圖

圖

作為一個python學者，腳本肯定多多少少有一些問題或者待優化的地方，另外注意：很多人學Python過程中會遇到各種煩惱問題，沒有人解答容易放棄。為此我建了個python學習資源群裡面有最新學習資料，如果你想學python,可以關注我，後臺私信我 ‘py’ 自動獲取最新python教程資料！還有老司機解答哦！
本文的文字及圖片來源於網絡加上自己的想法,僅供學習、交流使用,不具有任何商業用途,版權歸原作者所有,如有問題請及時聯繫我們以作處理。

閱讀更多 編程叫獸 的文章

關鍵字: W Chrome Java