未來的大數(shù)據(jù) 更加接地氣_數(shù)據(jù)分析師考試

我們都知道，大數(shù)據(jù)其實就是一個海量數(shù)據(jù)集合的概念，隨著當(dāng)今數(shù)據(jù)量的不斷激增，促使企業(yè)在應(yīng)用層面開始應(yīng)用大數(shù)據(jù)理念和技術(shù)，傳統(tǒng)的常規(guī)數(shù)據(jù)工具已經(jīng)無法在移動時間內(nèi)對數(shù)據(jù)信息進(jìn)行準(zhǔn)確的采集、分析和應(yīng)用，因此，就誕生了大數(shù)據(jù)等一系列技術(shù)和理念。

　　大數(shù)據(jù)基本特征

　　熟悉大數(shù)據(jù)行業(yè)的朋友們可能都不會陌生，大數(shù)據(jù)具有“4V”特性，這4V即數(shù)據(jù)量大、類型多、價值密度低、速度快時效高這樣四個特點。我們都知道，之所以稱之為大數(shù)據(jù)，首先就是“大”，數(shù)據(jù)的起始計量單位至少是PB級。

　　如此數(shù)量龐大的數(shù)據(jù)量當(dāng)中包含了種類繁多的特性，包括結(jié)構(gòu)化、半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)，具體表現(xiàn)為網(wǎng)絡(luò)日志、音頻、視頻、圖片、地理位置信息等等，多類型的數(shù)據(jù)對數(shù)據(jù)的處理能力提出了更高的要求。

　　隨著互聯(lián)網(wǎng)以及物聯(lián)網(wǎng)的廣泛應(yīng)用，信息感知無處不在，信息海量，但價值密度較低，如何結(jié)合業(yè)務(wù)邏輯并通過強(qiáng)大的機(jī)器算法來挖掘數(shù)據(jù)價值，是大數(shù)據(jù)時代最需要解決的問題。>>

　　數(shù)據(jù)永遠(yuǎn)是“在線”的

　　之所以說大數(shù)據(jù)是永遠(yuǎn)在線的，就是說數(shù)據(jù)是能夠隨時被調(diào)配和調(diào)用的，這也是大數(shù)據(jù)區(qū)別于其他普通數(shù)據(jù)信息的根本區(qū)別，現(xiàn)在我們所談到的大數(shù)據(jù)不僅僅是大，更重要的是數(shù)據(jù)變的在線了，這是互聯(lián)網(wǎng)高速發(fā)展背景下的特點。

　　數(shù)據(jù)只有在線，即數(shù)據(jù)在與產(chǎn)品用戶或者客戶產(chǎn)生連接的時候才有意義。如某用戶在使用某互聯(lián)網(wǎng)應(yīng)用時，其行為及時的傳給數(shù)據(jù)使用方，數(shù)據(jù)使用方通過某種有效加工后進(jìn)行該應(yīng)用的推送內(nèi)容的優(yōu)化，把用戶最想看到的內(nèi)容推送給用戶，也提升了用戶的使用體驗。

　　大數(shù)據(jù)技術(shù)如何發(fā)展

　　大數(shù)據(jù)作為當(dāng)今IT技術(shù)的一個重要組成部分，以成本低廉、部署快速、應(yīng)用廣泛等特點得到了業(yè)界的廣泛認(rèn)同，大數(shù)據(jù)技術(shù)不斷涌現(xiàn)和發(fā)展，使得用戶在處理海量數(shù)據(jù)時變得更加容易，更加快捷。

　　在大數(shù)據(jù)采集與預(yù)處理方向。這方向最常見的問題是數(shù)據(jù)的多源和多樣性，導(dǎo)致數(shù)據(jù)的質(zhì)量存在差異，嚴(yán)重影響到數(shù)據(jù)的可用性。針對這些問題，目前很多公司已經(jīng)推出了多種數(shù)據(jù)清洗和質(zhì)量控制工具。

　　既然企業(yè)擁有了海量數(shù)據(jù)，那么對于這些數(shù)據(jù)的存儲就變成了一個很重要的問題，企業(yè)在數(shù)據(jù)存儲管理方面的挑戰(zhàn)變得日趨嚴(yán)峻，需要兼顧結(jié)構(gòu)化、非結(jié)構(gòu)化和半結(jié)構(gòu)化的數(shù)據(jù)。分布式文件系統(tǒng)和分布式數(shù)據(jù)庫相關(guān)技術(shù)的發(fā)展正在有效的解決這些方面的問題。

　　由于大數(shù)據(jù)處理多樣性的需求，目前出現(xiàn)了多種典型的計算模式，包括大數(shù)據(jù)查詢分析計算(如Hive)、批處理計算(如Hadoop MapReduce)、流式計算(如Storm)、迭代計算(如HaLoop)、圖計算(如Pregel)和內(nèi)存計算(如Hana)，而這些計算模式的混合計算模式將成為滿足多樣性大數(shù)據(jù)處理和應(yīng)用需求的有效手段。

　　數(shù)據(jù)挖掘及可視化推動大數(shù)據(jù)發(fā)展

　　隨著現(xiàn)在個人用戶和企業(yè)用戶對于數(shù)據(jù)需求的不斷提升，使得在處理海量數(shù)據(jù)的時候不得不采用數(shù)據(jù)挖掘技術(shù)來提高數(shù)據(jù)收集和運算的準(zhǔn)確度，這就使得越來越多的大數(shù)據(jù)分析工具和產(chǎn)品應(yīng)運而生，如用于大數(shù)據(jù)挖掘的R Hadoop版、基于MapReduce開發(fā)的數(shù)據(jù)挖掘算法等等。

　　現(xiàn)在越來越多的人在談大數(shù)據(jù)的可視化，用戶都希望對自己的數(shù)據(jù)掌控更高的主動權(quán)。對于企業(yè)來說，通過可視化方式來幫助人們探索和解釋復(fù)雜的數(shù)據(jù)，有利于決策者挖掘數(shù)據(jù)的商業(yè)價值，進(jìn)而有助于大數(shù)據(jù)的發(fā)展。很多公司也在開展相應(yīng)的研究，試圖把可視化引入其不同的數(shù)據(jù)分析和展示的產(chǎn)品中。