上次說到了Hadoop是目前最流行的大數(shù)據(jù)工具，其核心是HDFS來存儲(chǔ)數(shù)據(jù)和MapReduce來處理數(shù)據(jù)，但它又不僅僅如此。后來，圍繞著 Hadoop相繼出現(xiàn)了一系列的應(yīng)用。比如存儲(chǔ)結(jié)構(gòu)化數(shù)據(jù)的HBase，用于和傳統(tǒng)數(shù)據(jù)實(shí)現(xiàn)數(shù)據(jù)遷移的Spooq，SQL接口Hive，用于工作調(diào)度的 Ozzie，以腳本取代代碼完成MapReduce的Pig，機(jī)器學(xué)習(xí)工具集Mahout等等。羽翼漸豐的Hadoop已經(jīng)一步步從“工具”發(fā)展成為“平臺(tái)”和“生態(tài)系統(tǒng)”?？墒牵粭l技術(shù)鴻溝卻橫在了眾多企業(yè)面前。一方面，無論是金融還是電信，各個(gè)領(lǐng)域的大公司都有海量數(shù)據(jù)處理的需求。而另一方面，他們的IT部門大都不具備部署、維護(hù)大規(guī)模Hadoop集群，和開發(fā)Hadoop應(yīng)用的能力。而他們以前倚重的IBM，Oracle也沒有這樣的能力。

　　正是看到了這一點(diǎn)，以Hadoop為核心的一些咨詢公司相繼成立。經(jīng)過市場洗禮，目前呈現(xiàn)出Cloudera，Hortonworks和MapR三足鼎立之勢(shì)。三家的產(chǎn)品我都使用過，以后兩家為主。下面就分別談?wù)劯骷业膬?yōu)勢(shì)和劣勢(shì)。

　　Cloudera 成立于2008年，是三家中成立最早的，目前為止客戶資源最多，技術(shù)儲(chǔ)備時(shí)間最長，規(guī)?？偭孔畲蟆１澈笥蠭ntel做堅(jiān)強(qiáng)后盾。其產(chǎn)品線以企業(yè)級(jí)的平臺(tái)管理和監(jiān)控著稱，其Hadoop用戶界面Hue也十分友好。當(dāng)然，Cloudera的許可證價(jià)格不菲，都是按年按機(jī)器收錢，這一點(diǎn)和Oracle沒什么區(qū)別，可能和CEO的Oracle前高管的背景有關(guān)。

　　Hortonworks 成立比較晚，是從Yahoo中剝離出去的，也算是嫡系正統(tǒng)。和其他兩家最大的不同是，Hortonworks堅(jiān)持百分百開源的理念，完全只靠咨詢服務(wù)賺錢。我是開源的擁護(hù)者，也十分看好它未來的發(fā)展。個(gè)人認(rèn)為Hortonworks的拳頭產(chǎn)品是Hadoop自動(dòng)部署工具Ambrari和資源管理器 YARN。其中YARN的意義甚至超過了Hadoop本身，這一點(diǎn)會(huì)在以后的文章中討論。另外，Hortonworks在12月份剛剛IPO，希望充裕的資金有助于加速它對(duì)開源項(xiàng)目的貢獻(xiàn)。

　　MapR 和原生的Hadoop相距最遠(yuǎn)。它完全重寫了文件系統(tǒng)和HBase實(shí)現(xiàn)，從而大幅提高了系統(tǒng)性能。它的讀寫性能都數(shù)倍于原生Hadoop。重新實(shí)現(xiàn)同時(shí)也簡化了Hadoop的安全框架。但問題是和原生的HDFS和HBase不可能完全兼容，使得它在產(chǎn)品配套更新方面總是慢半拍。應(yīng)用開發(fā)者也往往要付出額外的精力去考慮兼容Hadoop。當(dāng)然，權(quán)衡投入產(chǎn)出比，這樣的付出也許是值得的。最近MapR剛剛宣布其MapR Database可以免費(fèi)使用，大概也是看到了自己的優(yōu)秀產(chǎn)品在接受度上的尷尬。此外，MapR和Google走得很近，也等到了Google風(fēng)投的資助，其產(chǎn)品通過腳本程序可以很方便地部署到Google計(jì)算引擎。很榮幸MapR接受了我對(duì)其腳本的小小補(bǔ)充。

　　大數(shù)據(jù)市場是一塊大蛋糕，三家公司應(yīng)該會(huì)愉快地玩耍一段時(shí)間(除非被其他巨頭吃掉)。至于長遠(yuǎn)來看，誰會(huì)是最大贏家，以及Hadoop還能火多久，取決于市場，資金和技術(shù)等諸多因素的影響。技術(shù)層面來看，我們也許可以從近兩年的發(fā)展略窺端倪，請(qǐng)看下篇“Hadoop之技術(shù)未來”。

原文鏈接：http://blog.csdn.net/tongqqiu/article/details/42138295