文章詳情頁
java - 爬蟲爬取圖片問題?
瀏覽:98日期:2023-10-31 08:12:21
問題描述
剛才修改了下 POM,大家可以重新下載源碼這是我寫的爬蟲的項目地址 項目不報錯,但是問題是下載圖片到本地后經常性的是圖片不完整,如下:
這是下載圖片的核心代碼,如下:
@Override public void run() {Response res = null;try { res = Jsoup.connect(src).ignoreContentType(true).timeout(30000).execute(); byte[] bytes = res.bodyAsBytes(); File file = new File(path + name); if (!file.exists()) {RandomAccessFile raf = new RandomAccessFile(file, 'rw');raf.write(bytes);raf.close(); }} catch (IOException e1) { e1.printStackTrace();} }
經過資料查詢,感覺是范圍請求 Range的問題或者自己沒發現的問題?希望大家給看下,謝謝
問題解答
回答1:感覺是響應數據沒獲取完整,你debug一下看看響應的實際數據大小和你保存的數據大小是否有出入。
又或者因為還有一部分數據還在緩沖區中,沒來得及寫到文件,此時進程退出,導致數據不完整,關閉文件流之前執行一下flush操作。
標簽:
java
相關文章:
1. 數組按鍵值封裝!2. angular.js - webpack build后的angularjs路由跳轉問題3. java - web項目中,用戶登陸信息存儲在session中好 還是cookie中好,取決于什么?4. 老師,怎么不講一次性添加多個數據5. mysql - 查詢字段做了索引為什么不起效,還有查詢一個月的時候數據都是全部出來的,如果分拆3次的話就沒問題,為什么呢。6. mysql - 大部分數據沒有行溢出的text字段是否需要拆表7. pdo - mysql 簡單注入疑問8. Mysql取下一條記錄9. 表格對其 只涉及到對其,沒有涉及到大小,長寬還有背景色類的嗎10. mysql - SQL分組排序、隨機問題?
排行榜
