當前位置:編程學習大全網 - 源碼下載 - 如何用visual basic寫爬蟲

如何用visual basic寫爬蟲

下面說明知乎爬蟲的源碼和涉及主要技術點:

(1)程序package組織

(2)模擬登錄(爬蟲主要技術點1)

要爬去需要登錄的網站數據,模擬登錄是必要可少的壹步,而且往往是難點。知乎爬蟲的模擬登錄可以做壹個很好的案例。要實現壹個網站的模擬登錄,需要兩大步驟是:(1)對登錄的請求過程進行分析,找到登錄的關鍵請求和步驟,分析工具可以有IE自帶(快捷鍵F12)、Fiddler、HttpWatcher;(2)編寫代碼模擬登錄的過程。

(3)網頁下載(爬蟲主要技術點2)

模擬登錄後,便可下載目標網頁html了。知乎爬蟲基於HttpClient寫了壹個網絡連接線程池,並且封裝了常用的get和post兩種網頁下載的方法。

(4)自動獲取網頁編碼(爬蟲主要技術點3)

自動獲取網頁編碼是確保下載網頁html不出現亂碼的前提。知乎爬蟲中提供方法可以解決絕大部分亂碼下載網頁亂碼問題。

(5)網頁解析和提取(爬蟲主要技術點4)

使用Java寫爬蟲,常見的網頁解析和提取方法有兩種:利用開源Jar包Jsoup和正則。壹般來說,Jsoup就可以解決問題,極少出現Jsoup不能解析和提取的情況。Jsoup強大功能,使得解析和提取異常簡單。知乎爬蟲采用的就是Jsoup。

(6)正則匹配與提取(爬蟲主要技術點5)

雖然知乎爬蟲采用Jsoup來進行網頁解析,但是仍然封裝了正則匹配與提取數據的方法,因為正則還可以做其他的事情,如在知乎爬蟲中使用正則來進行url地址的過濾和判斷。

(7)數據去重(爬蟲主要技術點6)

對於爬蟲,根據場景不同,可以有不同的去重方案。(1)少量數據,比如幾萬或者十幾萬條的情況,使用Map或Set便可;(2)中量數據,比如幾百萬或者上千萬,使用BloomFilter(著名的布隆過濾器)可以解決;(3)大量數據,上億或者幾十億,Redis可以解決。知乎爬蟲給出了BloomFilter的實現,但是采用的Redis進行去重。

(8)設計模式等Java高級編程實踐

除了以上爬蟲主要的技術點之外,知乎爬蟲的實現還涉及多種設計模式,主要有鏈模式、單例模式、組合模式等,同時還使用了Java反射。除了學習爬蟲技術,這對學習設計模式和Java反射機制也是壹個不錯的案例。

4. 壹些抓取結果展示

  • 上一篇:動物大聯盟11月兌換碼2022最新兌換碼大全
  • 下一篇:二叉樹先序非遞歸遍歷C語言算法
  • copyright 2024編程學習大全網