深度解讀大數(shù)據(jù)與智能家居的那些事

現(xiàn)在的社會是一個高速發(fā)展的社會，科技發(fā)達(dá)，信息流通，人們之間的交流越來越密切，生活也越來越方便，大數(shù)據(jù)就是這個高科技時代的產(chǎn)物。有人把數(shù)據(jù)比喻為蘊藏能量的煤礦。煤炭按照性質(zhì)有焦煤、無煙煤、肥煤、貧煤等分類，而露天煤礦、深山煤礦的挖掘成本又不一樣。與此類似，大數(shù)據(jù)并不在“大”，而在于“有用”。價值含量、挖掘成本比數(shù)量更為重要。對于很多行業(yè)而言，如何利用這些大規(guī)模數(shù)據(jù)是贏得競爭的關(guān)鍵。
　　為何叫“大數(shù)據(jù)”？
　　數(shù)據(jù)體量大（VOLUMES）
　　代指大型數(shù)據(jù)集，一般在10TB規(guī)模左右。但在實際應(yīng)用中，很多企業(yè)用戶把多個數(shù)據(jù)集放在一起，已經(jīng)形成了PB級的數(shù)據(jù)量。未來智能家居領(lǐng)域也有許多這種企業(yè)，目前國內(nèi)智能家居領(lǐng)域的數(shù)據(jù)量級總和已經(jīng)達(dá)到100TB以上，非結(jié)構(gòu)化數(shù)據(jù)規(guī)模正在以更快的速度增長。
　　數(shù)據(jù)類別大（variety）　　
　　數(shù)據(jù)來自多種數(shù)據(jù)源，數(shù)據(jù)種類和格式日漸豐富，已沖破了以前所限定的結(jié)構(gòu)化數(shù)據(jù)范疇，囊括了半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)。也就是說，大數(shù)據(jù)最重要的變化是處理對象由結(jié)構(gòu)化數(shù)據(jù)拓展到了半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)，每年非結(jié)構(gòu)化數(shù)據(jù)存儲總量較結(jié)構(gòu)化數(shù)據(jù)增長率高出10到50倍。
　　非結(jié)構(gòu)化數(shù)據(jù)可以看成所有無法簡單轉(zhuǎn)化到結(jié)構(gòu)化關(guān)系型數(shù)據(jù)庫中的所有數(shù)據(jù)，非結(jié)構(gòu)化數(shù)據(jù)如企業(yè)的郵件和其它形式的電子通訊記錄；網(wǎng)站上的資料，包括點擊量和社交媒體相關(guān)的內(nèi)容；還有設(shè)備產(chǎn)生的數(shù)據(jù)，如RFID、GPS\傳感器產(chǎn)生的數(shù)據(jù)、日志文件等。
　　數(shù)據(jù)處理速度快（Velocity）
　　在數(shù)據(jù)量非常龐大的情況下，也能夠做到數(shù)據(jù)的實時處理。
　　數(shù)據(jù)真實性高（Veracity）
　　隨著社交數(shù)據(jù)、企業(yè)內(nèi)容、交易與應(yīng)用數(shù)據(jù)等新數(shù)據(jù)源的興起，傳統(tǒng)數(shù)據(jù)源的局限被打破，企業(yè)愈發(fā)需要有效的信息之力以確保其真實性及安全性。
　　小貼士：

TB是一個計算機存儲容量的單位，它等于2的40次方，或者接近一萬億個字節(jié)，即一千千兆字節(jié)。PB是數(shù)據(jù)存儲容量的單位，它等于2的50次方個字節(jié)，或者在數(shù)值上大約等于1000個TB。數(shù)據(jù)單位從小到大為：B.KB.MB.GB.TB.PB。1PB=1024TB，依次類推。

小知識

TB、PB依然很難理解，我們舉些例子。美國國會圖書館在2011年4月之前總共收集了235TB的數(shù)據(jù)。假設(shè)手機播放MP3的編碼速度為平均每分鐘1MB，而1首歌曲的平均時長為4分鐘，那么1PB歌曲可以連續(xù)播放2000年。如果智能手機相機拍攝相片的平均大小為3MB，打印照片的平均大小為8.5英寸，那么總共1PB的照片的并排排列長度就達(dá)到48000英里，大約可以環(huán)繞地球2周。
　　人類功能記憶的容量預(yù)計在1.25個TB。這意味著，800個人類記憶才相當(dāng)于1個PB。1PB足夠存儲整個美國人口的DNA，而且還能再克隆2倍。如果以每秒1個位的速度數(shù)一下1PB所包含的位數(shù)，那么一個人需要2.85億年才能數(shù)完，如果每秒數(shù)1個字節(jié)，那么一個人需要數(shù)357萬年。谷歌為用戶提供了超過20PB（215億MB）的地圖影像——包括衛(wèi)星圖片、航拍照片和360度街景圖片。即使在2008年，谷歌每天處理的數(shù)據(jù)已經(jīng)達(dá)到20PB，一年就是7300PB。社交媒體網(wǎng)站早就開始生成PB級數(shù)據(jù)，F(xiàn)acebook在2012年前已經(jīng)存儲了100PB數(shù)據(jù)。宇宙每天將生成1376PB數(shù)據(jù)，相當(dāng)于每天傳輸?shù)娜蚧ヂ?lián)網(wǎng)流量的兩倍。
　　總結(jié)：
　　數(shù)據(jù)本身是資產(chǎn)，所有大數(shù)據(jù)的屬性，包括數(shù)量、速度、多樣性等反映了數(shù)據(jù)庫不斷增長的復(fù)雜性。
　　大數(shù)據(jù)存儲和分析
　　大數(shù)據(jù)分為大數(shù)據(jù)存儲和大數(shù)據(jù)分析，屬于兩種截然不同的計算機技術(shù)領(lǐng)域，大數(shù)據(jù)存儲用于大數(shù)據(jù)分析。大數(shù)據(jù)存儲重點在于研發(fā)可以擴展至PB甚至EB級別的數(shù)據(jù)存儲平臺；大數(shù)據(jù)分析關(guān)注在最短時間內(nèi)處理大量不同類型的數(shù)據(jù)集。目前無論是大數(shù)據(jù)存儲還是大數(shù)據(jù)分析，都已經(jīng)成為幫助企業(yè)主業(yè)務(wù)的關(guān)鍵應(yīng)用。在智能家居領(lǐng)域，例如家庭數(shù)字網(wǎng)絡(luò)攝像頭的云端存儲，音視頻設(shè)備背后的云端流媒體，家庭電量實施云端監(jiān)測等等，都在大規(guī)模使用云存儲和分析技術(shù)。
　　智能家居云存儲方式
　　高度智能化的智能家居涉及數(shù)據(jù)量非常龐大，傳統(tǒng)存儲技術(shù)無法滿足，所有云存儲技術(shù)的逐漸發(fā)展與應(yīng)用也為智能家居的發(fā)展迎來了廣泛的關(guān)注。
　　下面舉例其中一種云存儲方式：
　　新一代的面向智能家居大數(shù)據(jù)云存儲系統(tǒng)主要由邏輯控制模塊、用戶訪問模塊、存儲模塊、文件讀/寫模塊和面向智能家居的大數(shù)據(jù)云存儲模塊。
　　邏輯控制模塊：是整個面向智能家居大數(shù)據(jù)云存儲系統(tǒng)的核心，是邏輯處理的樞紐，各業(yè)務(wù)請求均在該模塊中被處理。用戶訪問模塊：是智能家居中的用戶和云儲存系統(tǒng)交互的紐帶，利用該模塊可以透明地為用戶提供底層實現(xiàn)的各項功能。存儲模塊：為新一代智能家居云存儲系統(tǒng)提供了透明的存取功能。文件讀/寫模塊主要負(fù)責(zé)將上層邏輯處理和底層存儲進行隔離。邏輯結(jié)構(gòu)：請求處理后傳輸至存儲模塊，再由存儲模塊發(fā)送到面向智能家居的大數(shù)據(jù)云存儲模塊，在該模塊中實現(xiàn)大數(shù)據(jù)云存儲。
　　每個數(shù)據(jù)的處理流程：
　　每一個數(shù)據(jù)都有一個ETL，就是抽取、轉(zhuǎn)化，然后去加載，包括做數(shù)據(jù)的清洗。如果數(shù)據(jù)大批量進來，有些數(shù)據(jù)可能是有問題的。比如說，好多地址會寫得比較模糊，如果要搜索北京這個詞的時候，數(shù)據(jù)倉庫里可能只有一個京字，這些都要統(tǒng)一整理成一個，比如說北京，這樣后面分析就會簡單，比如山東，有人會輸入“魯”字來進行搜索，而不是山東，這就需要在大數(shù)據(jù)分析前期做好數(shù)據(jù)清理工作，做規(guī)范化，這樣后面的數(shù)據(jù)分析起來就方便很多。
　　大數(shù)據(jù)的分布式計算：
　　通常用于數(shù)據(jù)分析平臺的分布式計算平臺內(nèi)的存儲不是我們以往面對的網(wǎng)絡(luò)附加存儲(NAS)和存儲區(qū)域網(wǎng)絡(luò)(SAN)，而通常是內(nèi)置的直連存儲(NAS)以及組成集群的分布式計算節(jié)點，無論是數(shù)據(jù)部署安全、保護和保存流程都非常復(fù)雜。但大數(shù)據(jù)分析中包含各種快速成長中的技術(shù)，簡單用分布式技術(shù)對其定義也并不準(zhǔn)確
　　大數(shù)據(jù)在智能家居領(lǐng)域的貢獻(xiàn)
　　我們每個人都是數(shù)據(jù)的貢獻(xiàn)者，全球平均每人大概攜帶200GB的數(shù)據(jù)，而智能家居作為圍繞人與設(shè)備的新興領(lǐng)域，大數(shù)據(jù)對于相輔相成的貢獻(xiàn)也是不言而喻的。我們談?wù)摰囊欢ㄊ怯袃r值性的采集，如果我們都不知道哪些數(shù)據(jù)要采集或者放棄，最終搭建數(shù)據(jù)分析系統(tǒng)的時候，可能會不知道怎么搭建，也不知道用什么技術(shù)，甚至收集到許多無用的信息純屬浪費時間。我們可以把企業(yè)的運營、產(chǎn)品、用戶使用情況、設(shè)備信息都存儲，但是提取分析要有清晰條理的規(guī)劃，最終的數(shù)據(jù)價值才有意義。
　　智能家居系統(tǒng)的所產(chǎn)生數(shù)據(jù)的包含面非常廣，既有硬件傳感器的數(shù)據(jù)、也有硬件本身的數(shù)據(jù)運行狀態(tài)、也有用戶和硬件交互的數(shù)據(jù)，還有用戶通過APP等客戶端產(chǎn)生的數(shù)據(jù)、更有用戶自身的使用習(xí)慣和生活場景的數(shù)據(jù)等等，這就導(dǎo)致整體的智能家居所產(chǎn)生數(shù)據(jù)的積累速度和量都很大。智能家居企業(yè)初期圍繞業(yè)務(wù)驅(qū)動，下面一些數(shù)據(jù)是必須要收集的，建議采用分布式大規(guī)模的云存儲架構(gòu)，以滿足未來企業(yè)高速發(fā)展和創(chuàng)新需求的必然趨勢。

智能家居大數(shù)據(jù)的采集內(nèi)容：
　　智能家居大數(shù)據(jù)的采集內(nèi)容，包括APP的使用情況、故障自診斷信息、服務(wù)運營信息、用戶畫像、設(shè)備使用狀態(tài)、用戶使用行為、APP交互行為、用戶信息數(shù)據(jù)、設(shè)備功能信息、用戶信息、設(shè)備功能信息、設(shè)備日志、APP日志、子設(shè)備參數(shù)與運行狀態(tài)等等其他數(shù)據(jù)。
　　智能家居為何需要大數(shù)據(jù)？
　　智能家居是多領(lǐng)域融合的切入點，是社會家庭管理的支撐點，是民生服務(wù)的新亮點。物聯(lián)網(wǎng)生產(chǎn)大數(shù)據(jù)，大數(shù)據(jù)支持智能家居，從智能家居到數(shù)據(jù)再到智能化，構(gòu)成了從感知到認(rèn)知的全過程。大數(shù)據(jù)是智能硬件競爭的制高點，可以幫助硬件廠商挖掘用戶的設(shè)備使用行為，讓廠商可以了解自己的用戶、優(yōu)化產(chǎn)品策略和市場策略。還可以對用戶進行學(xué)習(xí)，建立用戶畫像，針對不同的用戶提供個性化智能體驗，給不同的用戶提供個性化優(yōu)惠，加大二次銷售。也可以做設(shè)備活動狀態(tài)的分析、故障率的分析，這樣來指導(dǎo)產(chǎn)品、硬件后面怎么做迭代層、怎么做升級，包括知道用戶喜歡用什么功能、用戶在什么時間段喜歡用這個功能，知道后面營銷策略針對哪些地域作為重點。利用大數(shù)據(jù)可以挖掘出非常多的價值，這需要在IoT領(lǐng)域不斷地去探索。
　　云計算與大數(shù)據(jù)
　　想獲得海量數(shù)據(jù)，設(shè)備必須接云，智能家居領(lǐng)域?qū)⒚鎸Φ膶⑹乔|乃至萬億的設(shè)備。如果在云安全部署還未成熟的情況下，就將這些設(shè)備盲目入云，將會導(dǎo)致不可想象的災(zāi)難。所以數(shù)據(jù)前提是云安全，所以云計算的方式方法至關(guān)重要。
　　云計算和大數(shù)據(jù)是一個硬幣的兩面，云計算是大數(shù)據(jù)的IT基礎(chǔ)，而大數(shù)據(jù)是云計算的一個殺手級應(yīng)用。云計算是大數(shù)據(jù)成長的驅(qū)動力，而另一方面，越來越多的數(shù)據(jù)需要云計算去處理，所以云計算與大數(shù)據(jù)是相輔相成的，在智能家居產(chǎn)業(yè)中體現(xiàn)得更加淋漓盡致。
　　未來通過云計算對大數(shù)據(jù)進行存儲分析和準(zhǔn)確提取的同時，需要深度學(xué)習(xí)和深度挖掘數(shù)據(jù)，模擬學(xué)習(xí)用戶行為，實現(xiàn)更加“聰明”的智能體驗。
　　很多企業(yè)，尤其的是大的國企在做智能家居時，會上很大的決心和項目，對于海量數(shù)據(jù)收集他們也是很感興趣。追隨潮流搭建大數(shù)據(jù)平臺后，實現(xiàn)的結(jié)果是PB級存儲能力和秒級處理能力，也許并不接入公有云去收集到大量數(shù)據(jù)，最終只是先存起來，等需要的時候再用，其實這種思路是沒有必要的。隨著大數(shù)據(jù)技術(shù)的不斷改進，其靈活性、透明性和魯棒性會不斷提升，有效的存儲、管理和維護形式也在不斷的發(fā)生著變化，可行性和實用性才是大數(shù)據(jù)的本質(zhì)。如果不能利用數(shù)據(jù)產(chǎn)生價值，將非?？上В矊⑹且粋€災(zāi)難，數(shù)據(jù)產(chǎn)生越多，存儲空間、浪費的資源也就越多。但總體來看，數(shù)據(jù)運營不論以間接生產(chǎn)力還是直接生產(chǎn)力的方式體現(xiàn)，最終的都會成為下一個時代的新浪潮。