文章詳情頁
python - pyspider 定時爬取問題
瀏覽:133日期:2022-07-14 10:37:31
問題描述
在寫爬蟲的時候,發(fā)現(xiàn) 在代碼中設(shè)置了 every 之后,21號爬取了一次之后,今天看 result 沒有更新,那個 lastcrawltime 依舊是 21號的。請問是不是我的參數(shù)設(shè)置的不正確?
問題解答
回答1:你貼的這個 task 的圖,是什么任務(wù)的?
貼的是 detail_page 的任務(wù)的
題主給 index_page 設(shè)置了小于 cronjob 間隔的時間。然而沒有給 detail_page 設(shè)置。這樣 detail_page 是不會被重新調(diào)度的
project 隊列狀態(tài),最近活動任務(wù)是怎樣的?
回答2:有可能是 every 和 age 不匹配。如果 age 沒問題的話,說實話這屬于疑難雜癥了,我也經(jīng)常遇到,我都是去 taskdb 把相應(yīng)的表清空,然后重啟 pyspider 重新運行項目
相關(guān)文章:
1. datetime - Python如何獲取當(dāng)前時間2. python 利用subprocess庫調(diào)用mplayer時發(fā)生錯誤3. html - eclipse 標(biāo)簽錯誤4. python文檔怎么查看?5. python - Pycharm的Debug用不了6. 安全性測試 - nodejs中如何防m(xù)ySQL注入7. javascript - nginx反向代理靜態(tài)資源403錯誤?8. 請問PHPstudy中的數(shù)據(jù)庫如何創(chuàng)建索引9. python - pycharm 自動刪除行尾空格10. javascript - 關(guān)于apply()與call()的問題
排行榜

熱門標(biāo)簽