下面是三種常見的日誌收集工具及其對比分析。
Logstash是壹個開源數據收集引擎,具有實時管道處理能力。簡單來說,logstash作為數據源和數據存儲分析工具之間的橋梁,結合ElasticSearch和Kibana,可以極大地方便數據的處理和分析。通過200多個插件,logstash幾乎可以接受各種數據。包括日誌、網絡請求、關系數據庫、傳感器或物聯網等。
Logstash是基於JRuby實現的,可以跨平臺在JVM上運行。
模塊化設計,擴展性和互操作性強。
Td-agent是開源社區流行的日誌收集工具,是其商業版本,由寶數據公司維護,是本文選取的評測版本。
Fluentd基於CRuby實現,部分對性能至關重要的組件用C語言重新實現,整體性能不錯。
Fluentd設計簡單,管道內數據傳輸可靠性高。與logstash相比,它的插件支持相對較少。
阿裏雲中日誌服務的生產者,目前運行在阿裏集團內部機器上。經過三年多的測試,目前為阿裏公有雲用戶提供日誌收集服務。
使用C++語言,在穩定性、資源控制和管理上做了很大的努力,性能不錯。與logstash和fluentd的社區支持相比,logtail功能單壹,側重於日誌收集功能。
後面會分享更多關於devops和DBA的內容,感興趣的朋友可以關註壹下!