文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽：103日期：2022-06-27 11:03:29
問題描述
我有很多spider，不能每次調試都手動創建一個debugger吧（scrapy crawl spider_name）
想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1：參考文章：Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中，加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2：
新建一個py文件，用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章：
1. 自己安裝了apache2.2,但是重啟apache后出錯了，求解！謝謝！2. 關于docker下的nginx壓力測試3. angular.js - angularjs的自定義過濾器如何給文字加顏色？4. docker-machine添加一個已有的docker主機問題5. angular.js使用$resource服務把數據存入mongodb的問題。6. docker - 如何修改運行中容器的配置7. docker安裝后出現Cannot connect to the Docker daemon.8. 為什么我ping不通我的docker容器呢？？？9. nignx - docker內nginx 80端口被占用10. Docker for Mac 創建的dnsmasq容器連不上/不工作的問題
排行榜
網公網安備