大數(shù)據(jù)分析:看似簡單而已

在當(dāng)前的大數(shù)據(jù)時代下，隨著大數(shù)據(jù)的深入應(yīng)用，大數(shù)據(jù)已經(jīng)成為最受歡迎的技術(shù)之一。

通過提供對更廣泛信息集的訪問，大數(shù)據(jù)就可以為數(shù)據(jù)分析師和業(yè)務(wù)用戶產(chǎn)生分析見解提供一臂之力。成功的大數(shù)據(jù)分析應(yīng)用程序會揭示某些趨勢和模式,以此來為決策制定提供更好的服務(wù)，并會指出新的創(chuàng)收機(jī)會和讓企業(yè)領(lǐng)先于他們的商業(yè)競爭對手的方法。但首先，企業(yè)往往需要增強(qiáng)他們現(xiàn)有的IT基礎(chǔ)設(shè)施建設(shè)以及數(shù)據(jù)管理流程以支持大數(shù)據(jù)架構(gòu)的規(guī)模和復(fù)雜性。

Hadoop系統(tǒng)和NoSQL數(shù)據(jù)庫已經(jīng)成為管理大數(shù)據(jù)環(huán)境的重要工具。不過，在很多情況下，企業(yè)利用他們現(xiàn)有的數(shù)據(jù)倉庫設(shè)施，或是一個新老混合的技術(shù)來對大數(shù)據(jù)流入他們的系統(tǒng)進(jìn)行管理。

無論一個公司部署什么類型的大數(shù)據(jù)技術(shù)棧，有一些共通的因素必須加以考量,以保證為大數(shù)據(jù)分析工作提供一個有效的框架。在開始一個大數(shù)據(jù)項目之前，去審視項目所要承擔(dān)的新數(shù)據(jù)需求的更大圖景顯得尤為關(guān)鍵。下面來讓我們檢視四個需要加以考量的因素。

數(shù)據(jù)準(zhǔn)確性

數(shù)據(jù)質(zhì)量問題對于BI和數(shù)據(jù)管理專業(yè)人士來說一定不陌生。很多BI和分析團(tuán)隊努力保證數(shù)據(jù)的有效性并說服業(yè)務(wù)使用人員去信任信息資產(chǎn)的準(zhǔn)確性和可靠性。作為個性化分析庫而得以廣泛使用的電子表格或電子報表軟件可以對數(shù)據(jù)中信任缺乏的問題加以彌補(bǔ)：在Excel中存儲和操作分析數(shù)據(jù)的功能為支持自助分析能力創(chuàng)造了環(huán)境，但可能不會激發(fā)其他用戶對結(jié)果的自信心。數(shù)據(jù)倉庫與數(shù)據(jù)集成和數(shù)據(jù)質(zhì)量工具一起，能夠通過為管理BI和分析數(shù)據(jù)提供標(biāo)準(zhǔn)化流程來幫助樹立信心。但是，由于不斷增加的數(shù)據(jù)容量和更廣泛多樣的數(shù)據(jù)類型，特別是當(dāng)涉及結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)混合時，就會對一個大數(shù)據(jù)的實施增加難度系數(shù)。建立評估數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn)以及對它們進(jìn)行升級以處理那些更大、更多樣數(shù)據(jù)集，對于大數(shù)據(jù)實施的成功和分析框架的使用是至關(guān)重要的。

存儲適用

數(shù)據(jù)倉儲的一個核心要求是處理和存儲大數(shù)據(jù)集的能力。但并不是所有數(shù)據(jù)倉庫在這方面都滿足要求。一些是針對復(fù)雜查詢處理進(jìn)行優(yōu)化，而其他的則并非如此。并且在許多大數(shù)據(jù)應(yīng)用程序中，相較于事務(wù)系統(tǒng)，由于添加了非結(jié)構(gòu)化數(shù)據(jù)還有數(shù)據(jù)的創(chuàng)建和收集增速迅猛，用Hadoop和NoSQL技術(shù)增強(qiáng)數(shù)據(jù)倉庫就成為必要。對于一個希望獲取并分析大數(shù)據(jù)的組織來說，光有存儲容量是不夠的;而重要的部分在于將數(shù)據(jù)置于何處才是最佳的，這樣數(shù)據(jù)就可以轉(zhuǎn)化為有用信息并為數(shù)據(jù)科學(xué)家和其他用戶所利用。

查詢性能

大數(shù)據(jù)分析依賴于及時處理和查詢復(fù)雜數(shù)據(jù)的能力。一個很好地例子就是：一家公司開發(fā)了一個數(shù)據(jù)倉庫用來維護(hù)從能源使用計收集到的數(shù)據(jù)。在產(chǎn)品評估過程中，某供應(yīng)商的系統(tǒng)有能力在15分鐘內(nèi)處理七百萬條記錄，而另一家則在相同時間內(nèi)可以處理最高三十萬條記錄。能否識別正確的基礎(chǔ)設(shè)施來支持快速的數(shù)據(jù)可用性和高性能查詢就意味著成功還是失敗。

穩(wěn)定性

隨著許多組織中數(shù)據(jù)量和數(shù)據(jù)種類的增長，大數(shù)據(jù)平臺的建立需要有對未來的考量。必須提前考慮和求證正在進(jìn)行評估的大數(shù)據(jù)技術(shù)是否能夠進(jìn)行擴(kuò)展，以達(dá)到不斷向前發(fā)展的需求所要求的級別。這便超出了存儲容量的范疇，將性能也包含了進(jìn)來，對那些從社交網(wǎng)絡(luò)，傳感器，系統(tǒng)日志文件以及其他非事務(wù)源獲取數(shù)據(jù)作為其業(yè)務(wù)數(shù)據(jù)擴(kuò)展的公司來說尤為如此。

對于用戶而言，分析多樣而復(fù)雜的數(shù)據(jù)集需要一個健壯且富有彈性的大數(shù)據(jù)架構(gòu)。在籌劃項目時通過對這四個因素進(jìn)行考量，組織可以確定他們是否已經(jīng)擁有能夠處理如此嚴(yán)苛大數(shù)據(jù)的分析程序亦或是需要額外的軟硬件以及數(shù)據(jù)管理流程來達(dá)到他們的大數(shù)據(jù)目標(biāo)。