python - pyspider使用redis分布式
問題描述
在部署pyspider分布式時,嘗試連接redis集群配置項為: 'message_queue':'redis://127.0.0.1:6380/db'在啟動時:報如下錯誤[E 170221 09:40:39 tornado_fetcher:529] MOVED 12068 127.0.0.1:6380
Traceback (most recent call last): File '/usr/lib/python2.6/site-packages/pyspider/fetcher/tornado_fetcher.py', line 515, in queue_loop if self.outqueue.full(): File '/usr/lib/python2.6/site-packages/pyspider/message_queue/redis_queue.py', line 50, in full if self.maxsize and self.qsize() >= self.maxsize: File '/usr/lib/python2.6/site-packages/pyspider/message_queue/redis_queue.py', line 40, in qsize self.last_qsize = self.redis.llen(self.name) File '/usr/lib/python2.6/site-packages/redis/client.py', line 1219, in llen return self.execute_command(’LLEN’, name) File '/usr/lib/python2.6/site-packages/redis/client.py', line 573, in execute_command return self.parse_response(connection, command_name, **options) File '/usr/lib/python2.6/site-packages/redis/client.py', line 585, in parse_response response = connection.read_response() File '/usr/lib/python2.6/site-packages/redis/connection.py', line 582, in read_response raise responseResponseError: MOVED 12068 127.0.0.1:6380
經查找,得到:因為redis由單節點變為集群,而python的redis連接包暫時還不支持redis集群連接方式,需要更換連接包(redis-py-cluster)。
在安裝完redis-py-cluster之后,依舊報上面的錯誤。
問題解答
回答1:鏈接 redis 使用的庫是寫在代碼里面的,不是你安裝了就會切換的。就算你要改代碼,也要確認 API 是兼容的。
相關文章:
1. docker - 各位電腦上有多少個容器?。咳萜饕欢?,自己都搞混了,咋辦呢?2. java - spring boot 如何打包成asp.net core 那種獨立應用?3. java - 在用戶不登錄的情況下,用戶如何添加保存到購物車?4. datetime - Python如何獲取當前時間5. docker start -a dockername 老是卡住,什么情況?6. javascript - nginx反向代理靜態資源403錯誤?7. docker網絡端口映射,沒有方便點的操作方法么?8. 安全性測試 - nodejs中如何防mySQL注入9. javascript - 關于apply()與call()的問題10. python - 調用api輸出頁面,會有標簽出現,請問如何清掉?
