16個非常實用的大數據工具

Apache Hadoop是目前最成熟的大數據分析工具,但是市場上也不乏其他優秀的大數據工具。目前市場上有數千種工具能夠幫你節約時間和成本,帶你從全新的角度洞察你所在的行業。

隨著大數據市場的穩步發展,越來越多的公司開始部署大數據驅動戰略。

Apache Hadoop是目前最成熟的大數據分析工具,但是市場上也不乏其他優秀的大數據工具。目前市場上有數千種工具能夠幫你節約時間和成本,帶你從全新的角度洞察你所在的行業。大家可關注weixin公眾號:大數據技術工程師 有更多大數據精彩內容等你來看,還有大數據學習資料免費領取哦,回覆關鍵字即可。

以下介紹16種功能實用的大數據工具:

1,Avro:由Doug Cutting公司研發,可用於編碼Hadoop文件模式的數據序列化。

2,Cassandra:一種分佈式的開源數據庫。可用於處理商品服務器在提供高可用性服務時產生的大量分佈式數據。這是一種非關係型數據庫(NoSQL)解決方案,最初由Facebook主導研發。

目前很多公司組織都在使用這一數據庫,如Netflix,Cisco,Twitter。

3,Drill:一種開源分佈式系統,用於大規模數據集的交互分析。Drill與谷歌的Dremel系統類似,由Apache公司管理運行。

4,Elasticsearch:Apache Lucene開發的開源搜索引擎。Elasticsearch是基於Java的系統,可以實現高速搜索,支持你的數據搜索工作。

5,Flume:使用網絡服務器、應用服務器和移動服務器的數據來填充Hadoop的大數據應用框架,是數據源和Hadoop之間的一種連接紐帶。

6,HCatalog:是針對Apache Hadoop的集中元數據管理和分享服務。可以通過它集中查看Hadoop集群中的所有數據,並可以在不知道數據在集群中存儲位置的情況下,通過Pig和 Hive等多種工具處理所有數據元素。

7,Impala: 使用與Apache Hive相同的元數據,SQL語法(Hive SQL),ODBC驅動程序和用戶界面(HueBeeswax),直接幫助您對存儲在HDFS或HBase中的Apache Hadoop數據進行快速的交互式SQL查詢。

它為批量導向或實時查詢提供了一個方便操作的統一平臺。

8,JSON:今天的許多非關係型數據庫(NoSQL)都以JSON(JavaScript對象符號)格式存儲數據,這些格式在Web開發人員中很受歡迎。

9,Kafka:這是種分佈式“發佈——訂閱”的消息傳送系統,它能夠提供一種解決方案,幫助處理所有數據流活動,並在消費者網站上處理這些數據。

這種類型的數據(包括頁面查看數據,搜索數據和其他用戶操作數據)是當前社交網絡的關鍵組成部分。

10,MongoDB:是一個在開源概念指導下開發出來的面向文檔的非關係型數據庫(NoSQL)。它具有完整的索引支持,同時可以靈活地對任何屬性進行索引,並在不影響功能的情況下進行橫向擴容。

11,Neo4j:是一個圖形數據庫,與關係數據庫相比,性能提升高達1000多倍或更高。

12,Oozie:一種工作流程處理系統,可以讓用戶自定義不同語言編寫的一系列工作,如Map Reduce,Pig 和 Hive。它還可以實現不同工作項目之間的智能連接,Oozie還支持用戶指定依賴關係。

13,Pig:是由雅虎開發的基於Hadoop的一種語言,對於用戶來說,學習起來相對簡單,且Pig擅長處理非常深入且非常長的數據管道(data pipeline)。

14,Storm:是一種免費的進行實時分佈式計算的開源系統。通過Storm,用戶可以非常輕鬆的在能夠進行實時處理操作的範圍內,對非結構化數據流進行可靠處理。

系統具有容錯特性,支持幾乎所有編程語言,當然最常用的語言還是Java。Storm最初是Apache家族的一個分支,現在已被Twitter收購。

15,Tableau:是一種主要關注商業智能的數據可視化工具。用戶無需編程,就可以利用Tableau創建地圖,條形圖,散點圖等可視化圖像。

他們最近發佈了一個Web連接器,允許用戶直接連接數據庫或應用程序界面(API),從而使用戶能夠在進行可視化項目時獲取實時數據。

16,ZooKeeper:為大型分佈式系統提供集中配置和開放代碼名稱註冊的服務。

每天大數據技術領域都會湧現出大量新的大數據相關工具,要想學會使用每個工具是非常困難且沒有意義的。挑選幾個你能夠熟練使用的工具,並不斷學習技術知識,才是最好的方式。

,


分享到:


相關文章: