
在未來,智能數(shù)據(jù)可以幫助我們了解一個(gè)智能系統(tǒng)每時(shí)每刻發(fā)生了什么,更能夠告訴我們?yōu)槭裁磿?huì)發(fā)生。甚至還可以告訴我們接下來會(huì)發(fā)生什么,以及我們應(yīng)該如何應(yīng)對。智能數(shù)據(jù)將改變企業(yè)的商業(yè)模式。
大部分專家都相信可以從巨量的數(shù)據(jù)中找到寶石和金子。英國牛津大學(xué)曾對全球各行業(yè)工作者做過一份調(diào)查問卷,2/3受訪者認(rèn)為,使用數(shù)據(jù)和分析軟件可以使他們保持競爭優(yōu)勢。問題是,這些“金礦挖掘者”今天如何從如此巨大的數(shù)據(jù)山里挖到金子?
從3V到4V
等著要發(fā)掘的“金子”,指的是用于記錄、存儲(chǔ)和分析大量的數(shù)據(jù),以及以合適的形式顯示該結(jié)果的“大數(shù)據(jù)”新技術(shù)。現(xiàn)在最被人們廣泛討論的話題是用戶購物、搜索或網(wǎng)購的數(shù)據(jù),或利用全球金融和通信網(wǎng)絡(luò)而產(chǎn)生的數(shù)據(jù)。還有銀行、電信和保險(xiǎn)業(yè)通過建立使用者信息與交易記錄的分析模型,來增加利潤和降低風(fēng)險(xiǎn)等等。大數(shù)據(jù)的時(shí)代,使我們能夠探索人類的行為,探索人類本身的奧秘,這在以前在很大程度上是不可能的。我們經(jīng)常使用的工具和終端,幫助我們獲得和體驗(yàn)這方面的感受。
由于都想成為“掘金者”,從大數(shù)據(jù)挖掘價(jià)值,目前具有深入的分析、數(shù)學(xué)、統(tǒng)計(jì)、規(guī)劃技能的數(shù)據(jù)分析師正炙手可熱,已沒有足夠多的人才可滿足需求。美國大型銀行和聯(lián)邦機(jī)構(gòu)正在越來越多地聘請“首席數(shù)據(jù)官”(CDO)和數(shù)據(jù)分析師,以促進(jìn)對于整個(gè)組織機(jī)構(gòu)中的所有功能數(shù)據(jù)的收集、分析、分發(fā)和應(yīng)用的戰(zhàn)略思考。
大數(shù)據(jù)有所謂的3V特征:即“大量化”(Volume)、“多樣化”(Variety)和“快速化”(Velocity)。然而,光是大量的數(shù)據(jù)采集是不夠的,這些數(shù)據(jù)本身還需要有較高價(jià)值,即增加第四個(gè)V:Value(價(jià)值),成為4V。而經(jīng)過“大數(shù)據(jù)”技術(shù)的處理(數(shù)據(jù)采集、數(shù)據(jù)分析、數(shù)據(jù)處理、數(shù)據(jù)顯示等)之后更會(huì)產(chǎn)生較高的價(jià)值。
用智能數(shù)據(jù)建立智能系統(tǒng)
啤酒+尿布是值得挖掘的數(shù)據(jù);而從工業(yè)設(shè)施、建筑物、能源系統(tǒng)和醫(yī)院產(chǎn)生的比特和字節(jié),含金量更高,更值得挖掘,因?yàn)樗鼈兛梢杂糜诮⑵鹬悄芟到y(tǒng),這些比特和字節(jié)就是智能數(shù)據(jù)。我們來談?wù)勚悄軘?shù)據(jù)如何建立起一個(gè)智能系統(tǒng)。
終端通過連接、把它們管道化,對人們帶來了極大的便利,大大提高了生產(chǎn)率。但是這些還不夠,還需要體現(xiàn)“智能化”,實(shí)現(xiàn)智能系統(tǒng)?,F(xiàn)在我們經(jīng)常在提到智能手機(jī)、智能電表、智能電網(wǎng)、智能家居、智慧城市等等,都是希望人們使用的設(shè)備和終端能夠根據(jù)人們的需要自動(dòng)編程,實(shí)現(xiàn)自動(dòng)化,盡量避免人工介入。
這樣一種“智能化”,需要具備兩個(gè)條件:首先是“管道化”(互聯(lián)網(wǎng)思維的核心是“管道化思維”),就是把所有的終端或節(jié)點(diǎn)全部連接起來,互相之間能夠有“溝通”(即發(fā)生交互作用);另一個(gè)是各個(gè)終端本身具備一個(gè)“小電腦”,即帶有處理器芯片,可以通過軟件處理和產(chǎn)生“智能數(shù)據(jù)”。有了這兩個(gè)基本條件,就可以體現(xiàn)出一定程度的智能。
以抽水馬桶為例。抽水馬桶是已經(jīng)管道化的馬桶,再加上上述第二個(gè)條件,就可以變成一個(gè)“智能馬桶”。具體可以這樣來實(shí)施:在馬桶里裝有一片微處理器芯片和一片生化芯片(Lab-on-Chip,LOC),對人們的排泄物自動(dòng)提取和分析,然后把分析結(jié)果通過管道,如WiFi送到醫(yī)生那里,醫(yī)生把每天的分析數(shù)據(jù)與事先存儲(chǔ)的數(shù)據(jù)進(jìn)行對比,給這位坐過這個(gè)馬桶的人發(fā)出營養(yǎng)指標(biāo)提醒和生理指標(biāo)提醒,如果必要的話則寫處方,提醒他服用藥物或到醫(yī)院進(jìn)一步檢查。另一方面,根據(jù)這個(gè)馬桶的軟件分析結(jié)果,會(huì)得出缺少哪種營養(yǎng)的具體數(shù)據(jù),然后通過無線通信的管道傳送到超市,超市會(huì)根據(jù)這些數(shù)據(jù)選出合適的食品通過快遞服務(wù)送達(dá)家中。
抽水馬桶還可以包含其他各種傳感器進(jìn)行“管道連接”,如每次使用自動(dòng)記錄用水量;如有漏水,自動(dòng)通知維修人員或物業(yè)管理處派人來檢修;如有堵塞,就會(huì)自動(dòng)通知管道維修人員來疏通;如水漕不進(jìn)水,也會(huì)自動(dòng)通知相關(guān)人員來處理等等,這些都會(huì)產(chǎn)生一定的數(shù)據(jù)量。
我們必須了解這些智能數(shù)據(jù)的量,以便正確地評(píng)估它;我們必須知道各種器件和設(shè)施是如何工作的,了解我們需要哪些傳感器和測量技術(shù)來獲得真正重要的智能數(shù)據(jù)。決定性的因素不一定是數(shù)據(jù)量大,而是有價(jià)值的內(nèi)容。
這樣的智能數(shù)據(jù)可以體現(xiàn)在各個(gè)領(lǐng)域。如對于一個(gè)大型燃?xì)廨啓C(jī),有幾百個(gè)傳感器每秒鐘在測量溫度、壓力、流量、氣體組成。如果人們很了解設(shè)施的物理特性,因此知道如何正確地分析這些數(shù)據(jù),就可以給發(fā)電廠非常有用的建議,來提高電力的使用效率并減少污染。同樣的措施可以用于風(fēng)力發(fā)電、建筑物、鋼鐵廠和整個(gè)城市。所有這些領(lǐng)域里,必須不僅收集數(shù)據(jù),而且還理解數(shù)據(jù)。處理的數(shù)據(jù)是智能數(shù)據(jù),得出的結(jié)論用于將企業(yè)或城市變得更智能。
適合于評(píng)估這些智能數(shù)據(jù)的算法還需要開發(fā)。這些算法可以幫助人們更好地節(jié)省能源、更好地有利于環(huán)境、更多地節(jié)省成本,以及使設(shè)備運(yùn)行得更可靠。
在未來,智能數(shù)據(jù)可以幫助我們了解一個(gè)智能系統(tǒng)每時(shí)每刻發(fā)生了什么,更能夠告訴我們?yōu)槭裁磿?huì)發(fā)生。甚至還可以告訴我們接下來會(huì)發(fā)生什么,以及我們應(yīng)該如何應(yīng)對。智能數(shù)據(jù)將改變企業(yè)的商業(yè)模式。例如一家跨國公司可以設(shè)立一個(gè)全球維修中心,全球各個(gè)分部的工廠都設(shè)有大量傳感器并與網(wǎng)絡(luò)相連,只需要在這個(gè)中心分析大量的遠(yuǎn)程智能數(shù)據(jù),就可以進(jìn)行遠(yuǎn)程診斷和處理,而不需要技術(shù)人員到現(xiàn)場。這樣的商業(yè)模式,對于火車、船舶、發(fā)電廠、醫(yī)療器械等等都是極其有用的。例如,從一輛火車的運(yùn)行中得到的測量數(shù)據(jù),可以幫助火車駕駛者運(yùn)行的更平穩(wěn)、更節(jié)能。節(jié)省下來的資金,則可以在用戶和智能數(shù)據(jù)提供者兩者分成。這是雙贏的局面,也是如何從數(shù)據(jù)山中掘金的一個(gè)很好例子。
大數(shù)據(jù)如何成為“智能數(shù)據(jù)”
數(shù)據(jù)只是“大”,并沒有太大意義,關(guān)鍵是如何最佳地挖掘高價(jià)值的數(shù)據(jù)、使用這些數(shù)據(jù),使這些數(shù)據(jù)成為“智能數(shù)據(jù)”。這有幾個(gè)方法:先評(píng)估數(shù)據(jù)的價(jià)值和將會(huì)產(chǎn)生的價(jià)值;把數(shù)據(jù)和“智能化”相關(guān)聯(lián);把數(shù)據(jù)變成具有上下文意義的靈活的數(shù)據(jù)結(jié)構(gòu);隨著時(shí)間的推移,根據(jù)這些收集了的大量數(shù)據(jù),展現(xiàn)一幅絢麗多彩的智能數(shù)據(jù)圖。到最后,也不會(huì)再去思考大數(shù)據(jù)與智能數(shù)據(jù)有何區(qū)別,因?yàn)樗械臄?shù)據(jù)都已經(jīng)成為智能數(shù)據(jù)。
西方2000多年前就已發(fā)明的“管道化”的馬桶開了物聯(lián)網(wǎng)的先河?;诨ヂ?lián)網(wǎng)的物聯(lián)網(wǎng)(IoT)的到來,預(yù)示了新的創(chuàng)新設(shè)備、新的網(wǎng)絡(luò)形態(tài)、新的商業(yè)模式的不斷涌現(xiàn),也預(yù)示著智能數(shù)據(jù)的成千上百倍增長,智能化將體現(xiàn)在各種應(yīng)用中。如按照今天所理解的大數(shù)據(jù)概念,是不充分的,大數(shù)據(jù)必須從3V演變?yōu)?V,大數(shù)據(jù)必須演變成智能數(shù)據(jù),整個(gè)家庭乃至整個(gè)城市也正在向“智能化”大步演進(jìn),才會(huì)有更多的“掘金”機(jī)會(huì)。CDA數(shù)據(jù)分析師培訓(xùn)官網(wǎng)
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
訓(xùn)練與驗(yàn)證損失驟升:機(jī)器學(xué)習(xí)訓(xùn)練中的異常診斷與解決方案 在機(jī)器學(xué)習(xí)模型訓(xùn)練過程中,“損失曲線” 是反映模型學(xué)習(xí)狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類核心工具的差異與協(xié)同 在數(shù)字化轉(zhuǎn)型加速的今天,企業(yè)對數(shù)據(jù)的需求已從 “存儲(chǔ)” 轉(zhuǎn)向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計(jì)基本概念成為業(yè)務(wù)決策的底層邏輯 統(tǒng)計(jì)基本概念是商業(yè)數(shù)據(jù)分析的 “基礎(chǔ)語言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11