大數(shù)據(jù)時代下的三種存儲架構(gòu)_數(shù)據(jù)分析師

大數(shù)據(jù)時代，移動互聯(lián)、社交網(wǎng)絡(luò)、數(shù)據(jù)分析、云服務(wù)等應(yīng)用的迅速普及，對數(shù)據(jù)中心提出革命性的需求，存儲基礎(chǔ)架構(gòu)已經(jīng)成為IT核心之一。政府、軍隊軍工、科研院所、航空航天、大型商業(yè)連鎖、醫(yī)療、金融、新媒體、廣電等各個領(lǐng)域新興應(yīng)用層出不窮。數(shù)據(jù)的價值日益凸顯，數(shù)據(jù)已經(jīng)成為不可或缺的資產(chǎn)。作為數(shù)據(jù)載體和驅(qū)動力量，存儲系統(tǒng)成為大數(shù)據(jù)基礎(chǔ)架構(gòu)中最為關(guān)鍵的核心。

　　傳統(tǒng)的數(shù)據(jù)中心無論是在性能、效率，還是在投資收益、安全，已經(jīng)遠遠不能滿足新興應(yīng)用的需求，數(shù)據(jù)中心業(yè)務(wù)急需新型大數(shù)據(jù)處理中心來支撐。除了傳統(tǒng)的高可靠、高冗余、綠色節(jié)能之外，新型的大數(shù)據(jù)中心還需具備虛擬化、模塊化、彈性擴展、自動化等一系列特征，才能滿足具備大數(shù)據(jù)特征的應(yīng)用需求。這些史無前例的需求，讓存儲系統(tǒng)的架構(gòu)和功能都發(fā)生了前所未有的變化。

　　基于大數(shù)據(jù)應(yīng)用需求，“應(yīng)用定義存儲”概念被提出。存儲系統(tǒng)作為數(shù)據(jù)中心最核心的數(shù)據(jù)基礎(chǔ)，不再僅是傳統(tǒng)分散的、單一的底層設(shè)備。除了要具備高性能、高安全、高可靠等特征之外，還要有虛擬化、并行分布、自動分層、彈性擴展、異構(gòu)資源整合、全局緩存加速等多方面的特點，才能滿足具備大數(shù)據(jù)特征的業(yè)務(wù)應(yīng)用需求。

　　尤其在云安防概念被熱炒的時代，隨著高清技術(shù)的普及，720P、1080P隨處可見，智能和高清的雙向需求、動輒500W、800W甚至上千萬更高分辨率的攝像機面市，大數(shù)據(jù)對存儲設(shè)備的容量、讀寫性能、可靠性、擴展性等都提出了更高的要求，需要充分考慮功能集成度、數(shù)據(jù)安全性、數(shù)據(jù)穩(wěn)定性，系統(tǒng)可擴展性、性能及成本各方面因素。

　　目前市場上的存儲架構(gòu)如下：

　　（1）基于嵌入式架構(gòu)的存儲系統(tǒng)

　　節(jié)點NVR架構(gòu)主要面向小型高清監(jiān)控系統(tǒng)，高清前端數(shù)量一般在幾十路以內(nèi)。系統(tǒng)建設(shè)中沒有大型的存儲監(jiān)控中心機房，存儲容量相對較小，用戶體驗度、系統(tǒng)功能集成度要求較高。在市場應(yīng)用層面，超市、店鋪、小型企業(yè)、政法行業(yè)中基本管理單元等應(yīng)用較為廣泛。

　　（2）基于X86架構(gòu)的存儲系統(tǒng)

　　平臺SAN架構(gòu)主要面向中大型高清監(jiān)控系統(tǒng)，前端路數(shù)成百上千甚至上萬。一般多采用IPSAN或FCSAN搭建高清視頻存儲系統(tǒng)。作為監(jiān)控平臺的重要組成部分，前端監(jiān)控數(shù)據(jù)通過錄像存儲管理模塊存儲到SAN中。

　　此種架構(gòu)接入高清前端路數(shù)相對節(jié)點NVR有了較高提升，具備快捷便利的可擴展性，技術(shù)成熟。對于IPSAN而言，雖然在ISCSI環(huán)節(jié)數(shù)據(jù)并發(fā)讀寫傳輸速率有所消耗，但其憑借擴展性良好、硬件平臺通用、海量數(shù)據(jù)可充分共享等優(yōu)點，仍然得到很多客戶的青睞。FCSAN在行業(yè)用戶、封閉存儲系統(tǒng)中應(yīng)用較多，比如縣級或地級市高清監(jiān)控項目，大數(shù)據(jù)量的并發(fā)讀寫對千兆網(wǎng)絡(luò)交換提出了較大的挑戰(zhàn)，但應(yīng)用FCSAN構(gòu)建相對獨立的存儲子系統(tǒng)，可以有效解決上述問題。

　　面對視頻監(jiān)控系統(tǒng)大文件、隨機讀寫的特點，平臺SAN架構(gòu)系統(tǒng)不同存儲單元之間的數(shù)據(jù)共享冗余方面還有待提高;從高性能服務(wù)器轉(zhuǎn)發(fā)視頻數(shù)據(jù)到存儲空間的策略，從系統(tǒng)架構(gòu)而言也增加了隱患故障點、ISCSI帶寬瓶頸導(dǎo)致無法充分利用硬件數(shù)據(jù)并發(fā)性能、接入前端數(shù)據(jù)較少。上述問題催生了平臺NVR架構(gòu)解決方案。

　　該方案在系統(tǒng)架構(gòu)上省去了存儲服務(wù)器，消除了上文提到的性能瓶頸和單點故障隱患。大幅度提高存儲系統(tǒng)的寫入和檢索速度;同時也徹底消除了傳統(tǒng)文件系統(tǒng)由于供電和網(wǎng)絡(luò)的不穩(wěn)定帶來的文件系統(tǒng)損壞等問題。

　　平臺NVR中存儲的數(shù)據(jù)可同時供多個客戶端隨時查詢，點播，當用戶需要查看多個已保存的視頻監(jiān)控數(shù)據(jù)時，可通過授權(quán)的視頻監(jiān)控客戶端直接查詢并點播相應(yīng)位置的視頻監(jiān)控數(shù)據(jù)進行歷史圖像的查看。由于數(shù)據(jù)管理服務(wù)器具有監(jiān)控系統(tǒng)所有監(jiān)控點的錄像文件的索引，因此通過平臺CMS授權(quán)，視頻監(jiān)控客戶端可以查詢并點播整個監(jiān)控系統(tǒng)上所有監(jiān)控點的數(shù)據(jù)，這個過程對用戶而言也是透明的。