大數(shù)據(jù)領域開源技術除了Hadoop你還知道哪些

眾所周知，大數(shù)據(jù)正在以驚人的速度增長，幾乎觸及各行各業(yè)，許多組織都被迫尋找新的創(chuàng)造性方法來管理和控制如此龐大的數(shù)據(jù)，當然這么做的目的不只是管理和控制數(shù)據(jù)，而是要分析和挖掘其中的價值，來促進業(yè)務的發(fā)展。

為望都等地區(qū)用戶提供了全套網(wǎng)頁設計制作服務，及望都網(wǎng)站建設行業(yè)解決方案。主營業(yè)務為成都做網(wǎng)站、成都網(wǎng)站制作、望都網(wǎng)站設計，以傳統(tǒng)方式定制建設網(wǎng)站，并提供域名空間備案等一條龍服務，秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務。我們深信只要達到每一位用戶的要求，就會得到認可，從而選擇與我們長期合作。這樣，我們也可以走得更遠！

想要深入發(fā)展大數(shù)據(jù)，閉門造車是不可能的，共通共融是現(xiàn)在趨勢，因此，開源讓越來越多的項目可以直接采用大數(shù)據(jù)技術。如今，從小型初創(chuàng)企業(yè)到行業(yè)巨頭，各種規(guī)模的供應商都在使用開源來處理大數(shù)據(jù)和運行預測分析。借助開源與云計算技術，新興公司甚至在很多方面都可以與大廠商抗衡。

開源大數(shù)據(jù)的優(yōu)勢不言而喻，但在眾多的開源工具中該如何抉擇？本文中大數(shù)據(jù)領域的十個巨頭，將有助于你更深入掌握大數(shù)據(jù)這個行業(yè)的發(fā)展形勢。

Hadoop——高效、可靠、可伸縮，能夠為你的數(shù)據(jù)存儲項目提供所需的YARN、HDFS和基礎架構，并且運行主要的大數(shù)據(jù)服務和應用程序。

Spark——使用簡單、支持所有重要的大數(shù)據(jù)語言(Scala、Python、Java、R)。擁有強大的生態(tài)系統(tǒng)，成長迅速，對microbatching/batching/SQL支持簡單。Spark能更好地適用于數(shù)據(jù)挖掘與機器學習等需要迭代的MapReduce的算法。

NiFi——Apache NiFi是由美國國家安全局(NSA)貢獻給Apache基金會的開源項目，其設計目標是自動化系統(tǒng)間的數(shù)據(jù)流。基于其工作流式的編程理念，NiFi非常易于使用、強大、可靠、高可配置。兩個最重要的特性是其強大的用戶界面和良好的數(shù)據(jù)回溯工具?？胺Q大數(shù)據(jù)工具箱里的瑞士軍刀。

Apache Hive 2.1——Hive是建立在 Hadoop 上的數(shù)據(jù)倉庫基礎構架。它提供了一系列的工具，可以用來進行數(shù)據(jù)提取轉化加載(ETL)，這是一種可以存儲、查詢和分析存儲在 Hadoop 中的大規(guī)模數(shù)據(jù)的機制。隨著最新版本的發(fā)布，性能和功能都得到了全面提升，Hive已成為SQL在大數(shù)據(jù)上的最佳解決方案。

Kafka——Kafka是一種高吞吐量的分布式發(fā)布訂閱消息系統(tǒng)，它可以處理消費者規(guī)模網(wǎng)站中的所有動作流數(shù)據(jù)。它已成為大數(shù)據(jù)系統(tǒng)在異步和分布式消息之間的最佳選擇。從Spark到NiFi再到第三方插件工具以至于Java到Scala，它都提供了強大的粘合作用。

Phoenix—是HBase的SQL驅動。目前大量的公司采用它，并擴大其規(guī)模。HDFS支持的NoSQL能夠很好地集成所有工具。Phoenix查詢引擎會將SQL查詢轉換為一個或多個HBase scan，并編排執(zhí)行以生成標準的JDBC結果集。

Zeppelin——Zeppelin 是一個提供交互數(shù)據(jù)分析且基于Web的筆記本。方便你做出可數(shù)據(jù)驅動的、可交互且可協(xié)作的精美文檔，并且支持多種語言，包括 Scala(使用 Apache Spark)、Python(Apache Spark)、SparkSQL、 Hive、 Markdown、Shell等。

Sparkling Water——H2O填補了Spark’s Machine Learning的缺口，它可以滿足你所有的機器學習。

Apache Beam——在Java中提供統(tǒng)一的數(shù)據(jù)進程管道開發(fā)，并且能夠很好地支持Spark和Flink。提供很多在線框架，開發(fā)者無需學習太多框架。

Stanford CoreNLP——自然語言處理擁有巨大的增長空間，斯坦福正在努力增進他們的框架。

新聞標題：大數(shù)據(jù)領域開源技術除了Hadoop你還知道哪些
標題URL：http://www.muchs.cn/article24/chgoce.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供微信公眾號、網(wǎng)站收錄、定制網(wǎng)站、靜態(tài)網(wǎng)站、網(wǎng)站排名、搜索引擎優(yōu)化

廣告

聲明：本網(wǎng)站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經(jīng)允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)

成都做網(wǎng)站