因為自學python的第一目標就是實現一個簡單的爬蟲去爬一爬網站,所以簡單搜索了一下python的爬蟲框架,scrapy是用的比較多的。
基於本人也沒弄過任何一個爬蟲,所以先弄出來一個再說,於是決定使用scrapy試試。
但是安裝scrapy確實比較頭疼,本身對python的組件管理不是十分熟悉,pip命令也是網上搜索的,所以花費了不少力氣。
安裝scrapy的命令很簡單
pip install scrapy
但是安裝過程中是會報錯的, 報錯的地方是scrapy在安裝依賴包Twisted的時候,報了異常。 但這個異常是因為pip自動下載的Twisted安裝包有一些缺陷,所以可以自己下載Twisted並安裝。
訪問https://www.lfd.uci.edu/~gohlke/pythonlibs/,查找"Twisted"關鍵字,我使用的是python3.7,所以下載了最下面的安裝包。
下載後,使用pip直接安裝就可以了
pip install Twisted-19.2.1-cp37-cp37m-win_amd64.whl
安裝成功會提示
安裝成功後,再次執行
pip install scrapy
看到下面提示後就說明scrapy安裝成功了
再查看一下scrapy的版本
大功告成。
閱讀更多 塵埃中的清風 的文章