文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽：88日期：2022-06-27 11:03:29
問題描述
我有很多spider，不能每次調試都手動創建一個debugger吧（scrapy crawl spider_name）
想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1：參考文章：Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中，加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2：
新建一個py文件，用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章：
1. java中返回一個對象，和輸出對像的值，意義在哪兒2. docker網絡端口映射，沒有方便點的操作方法么？3. mysql - 在不允許改動數據表的情況下，如何優化以varchar格式存儲的時間的比較？4. docker start -a dockername 老是卡住，什么情況？5. css3 - 純css實現點擊特效6. apache web server 怎么限制某一個網站對服務器資源的占用？7. javascript - 關于apply（）與call（）的問題8. docker - 各位電腦上有多少個容器啊？容器一多，自己都搞混了，咋辦呢？9. 安全性測試 - nodejs中如何防mySQL注入10. python - pandas dataframe如何對某列的空數據位置進行update？update的函數是自定義的，參數是同一行的另外兩列數據
排行榜
網公網安備