python 在pycharm中 爬蟲
查了一些資料發現大部分的爬蟲在liunx環境下執行,但本人想在windows下進行爬蟲,好不容易把各種依賴裝上了,但是如何在windows下pycharm中建立爬蟲,以及除錯和執行,進行了摸索。
參考了下面的兩篇文章:
http://blog.csdn.net/ck4438707/article/details/52076220
http://blog.csdn.net/pleasecallmewhy/article/details/19642329
1.首先新建一個工程
並在工程裡面建一個檔案scrapyp.py,在檔案中寫入
from scrapy.cmdline import execute
execute()
在pycharm中點選右上角:edit configurations
則彈出如下框:
在紅色箭頭指示的位置,輸入命名引數,建立一個爬蟲,名稱為tutorial,執行scrapyp.py檔案。
在工程下面會出現如下結構:
到此一個基本的爬蟲框架出來了,後面需要再各個模組新增內容。
下面來簡單介紹一下各個檔案的作用:
scrapy.cfg:專案的配置檔案
tutorial/:專案的Python模組,將會從這裡引用程式碼
tutorial/items.py:專案的items檔案
tutorial/pipelines.py:專案的pipelines檔案
tutorial/settings.py:專案的設定檔案
tutorial/spiders/:儲存爬蟲的目錄
在此檔案中放入如下程式碼,並執行可以看到爬取的內容:
from scrapy import cmdline
cmdline.execute("scrapy crawl dmoz".split())
相關文章
- Python爬蟲之路-chrome在爬蟲中的使用Python爬蟲Chrome
- Python爬蟲之路-selenium在爬蟲中的使用Python爬蟲
- python 代理在爬蟲中的作用Python爬蟲
- 【Python學習】爬蟲爬蟲爬蟲爬蟲~Python爬蟲
- 【python爬蟲】python爬蟲demoPython爬蟲
- python爬蟲---網頁爬蟲,圖片爬蟲,文章爬蟲,Python爬蟲爬取新聞網站新聞Python爬蟲網頁網站
- 用PyCharm Profile分析非同步爬蟲效率PyCharm非同步爬蟲
- python爬蟲的最佳實踐(六)--爬蟲中的多程式Python爬蟲
- python就是爬蟲嗎-python就是爬蟲嗎Python爬蟲
- python爬蟲Python爬蟲
- python 爬蟲Python爬蟲
- zip函式在爬蟲中應用函式爬蟲
- Python爬蟲教程-01-爬蟲介紹Python爬蟲
- Java爬蟲與Python爬蟲的區別?Java爬蟲Python
- python爬蟲初探--第一個python爬蟲專案Python爬蟲
- Python asyncio 爬蟲Python爬蟲
- python爬蟲2Python爬蟲
- Python爬蟲——XPathPython爬蟲
- Python 爬蟲系列Python爬蟲
- Python爬蟲-xpathPython爬蟲
- Python爬蟲--2Python爬蟲
- python在爬蟲方面有哪些優勢呢?Python爬蟲
- python網路爬蟲_Python爬蟲:30個小時搞定Python網路爬蟲視訊教程Python爬蟲
- 爬蟲(6) - 網頁資料解析(2) | BeautifulSoup4在爬蟲中的使用爬蟲網頁
- 什麼是Python爬蟲?python爬蟲入門難嗎?Python爬蟲
- python爬蟲是什麼?學習python爬蟲難嗎Python爬蟲
- 什麼是Python爬蟲?Python爬蟲常用框架有哪些?Python爬蟲框架
- 【Python爬蟲9】Python網路爬蟲例項實戰Python爬蟲
- Python爬蟲入門教程 50-100 Python3爬蟲爬取VIP視訊-Python爬蟲6操作Python爬蟲
- 【python--爬蟲】彼岸圖網高清桌布爬蟲Python爬蟲
- 什麼是爬蟲?Python爬蟲框架有哪些?爬蟲Python框架
- 【爬蟲】python爬蟲從入門到放棄爬蟲Python
- Python爬蟲與Java爬蟲有何區別?Python爬蟲Java
- python爬蟲實戰,爬蟲之路,永無止境Python爬蟲
- Python爬蟲(1.爬蟲的基本概念)Python爬蟲
- 圖靈樣書爬蟲 - Python 爬蟲實戰圖靈爬蟲Python
- 新手爬蟲教程:Python爬取知乎文章中的圖片爬蟲Python
- 不踩坑的Python爬蟲:Python爬蟲開發與專案實戰,從爬蟲入門 PythonPython爬蟲