
連物聯(lián)網(wǎng)數(shù)據(jù)都理不清楚還怎么搞大數(shù)據(jù)分析
物聯(lián)網(wǎng)的數(shù)據(jù)有哪些特點(diǎn)?有沒(méi)有合理化的分類方式?我們有沒(méi)有應(yīng)對(duì)物聯(lián)網(wǎng)數(shù)據(jù)帶來(lái)的壓力和挑戰(zhàn)的能力?物聯(lián)網(wǎng)1.0階段有價(jià)值的數(shù)據(jù)有哪些?本文旨在給你提供一些方法論和啟示。
數(shù)據(jù)即價(jià)值是目前計(jì)算機(jī)領(lǐng)域極其推崇的觀念。數(shù)據(jù)無(wú)論多少都被歸結(jié)為大數(shù)據(jù),數(shù)據(jù)分析越來(lái)越熱門,資本也對(duì)貼有大數(shù)據(jù)標(biāo)簽的公司趨之若鶩。數(shù)據(jù)如同流動(dòng)的數(shù)字貨幣一樣被一再的評(píng)估、追崇。
當(dāng)物聯(lián)網(wǎng)在行業(yè)開始落地和應(yīng)用后,由于其數(shù)據(jù)產(chǎn)生的速度之快,種類之多,體量之巨大都會(huì)對(duì)現(xiàn)有云端技術(shù)架構(gòu)、數(shù)據(jù)處理方式帶來(lái)超乎想象的壓力和挑戰(zhàn)。
面對(duì)如此復(fù)雜的數(shù)據(jù),傳說(shuō)中的 “數(shù)據(jù)即價(jià)值”將被 “有價(jià)值的數(shù)據(jù)”這一理性的認(rèn)識(shí)所打破。
物聯(lián)網(wǎng)的數(shù)據(jù)有哪些特點(diǎn)?有沒(méi)有合理化的分類方式?我們有沒(méi)有應(yīng)對(duì)物聯(lián)網(wǎng)數(shù)據(jù)帶來(lái)的壓力和挑戰(zhàn)的能力?物聯(lián)網(wǎng)1.0階段有價(jià)值的數(shù)據(jù)有哪些?
靜態(tài)數(shù)據(jù)與動(dòng)態(tài)數(shù)據(jù)
單從數(shù)據(jù)的變化上來(lái)說(shuō),物聯(lián)網(wǎng)數(shù)據(jù)可以分為靜態(tài)數(shù)據(jù)和動(dòng)態(tài)數(shù)據(jù),靜態(tài)數(shù)據(jù)多為標(biāo)簽類,地址類數(shù)據(jù),RFID產(chǎn)生的數(shù)據(jù)多為靜態(tài)數(shù)據(jù),靜態(tài)數(shù)據(jù)多以結(jié)構(gòu)性、關(guān)系型數(shù)據(jù)庫(kù)存儲(chǔ);動(dòng)態(tài)數(shù)據(jù)是以時(shí)間為序列的數(shù)據(jù),物聯(lián)網(wǎng)動(dòng)態(tài)數(shù)據(jù)的特點(diǎn)是每個(gè)數(shù)據(jù)都與時(shí)間有一一對(duì)應(yīng)關(guān)系,并且這種關(guān)系在數(shù)據(jù)處理中尤其重要,這類數(shù)據(jù)存儲(chǔ)通常采用時(shí)序數(shù)據(jù)庫(kù)方式存儲(chǔ)。
靜態(tài)數(shù)據(jù)會(huì)隨著傳感器的增多,控制設(shè)備數(shù)量的增多而增加;動(dòng)態(tài)數(shù)據(jù)不僅隨設(shè)備數(shù)量,傳感器數(shù)量增加而增加,還會(huì)隨時(shí)間的增加而增加。
無(wú)論靜態(tài)數(shù)據(jù)還是動(dòng)態(tài)數(shù)據(jù),在物聯(lián)網(wǎng)1.0階段數(shù)據(jù)的增長(zhǎng)是線性的,并非是指數(shù)級(jí)的,但是因?yàn)槲锫?lián)網(wǎng)動(dòng)態(tài)數(shù)據(jù)是連續(xù)不間斷的,因此數(shù)據(jù)的量也是海量的。因此物聯(lián)網(wǎng)1.0階段數(shù)據(jù)的壓力是可控的,并不是如宣傳的那樣不可數(shù),不可控。
能源類/資產(chǎn)屬性類/診斷類/信號(hào)類
就數(shù)據(jù)的原始特性來(lái)說(shuō),我們可以把物聯(lián)網(wǎng)數(shù)據(jù)分為能源類數(shù)據(jù)、資產(chǎn)屬性類數(shù)據(jù)、診斷類數(shù)據(jù)、信號(hào)類數(shù)據(jù)。
能源類數(shù)據(jù):是指可以能耗相關(guān)的,或者是計(jì)算能耗所需的相關(guān)數(shù)據(jù)例如電流、電壓、功率因子、頻率、諧波等等。能源數(shù)據(jù)是物聯(lián)網(wǎng)最關(guān)鍵的數(shù)據(jù)類型,物聯(lián)網(wǎng)最終的目的之一就是節(jié)能,那么獲取能源數(shù)據(jù),理解能源數(shù)據(jù),分析能源數(shù)據(jù)是物聯(lián)網(wǎng)實(shí)施中必須的功能。能源采集設(shè)備也是物聯(lián)網(wǎng)重要的設(shè)備之一。
資產(chǎn)屬性類數(shù)據(jù):資產(chǎn)類數(shù)據(jù)通常指硬件資產(chǎn)數(shù)據(jù)比如設(shè)備的規(guī)格、參數(shù)等屬性,設(shè)備的位置信息,設(shè)備之間的從屬關(guān)系等等。資產(chǎn)類數(shù)據(jù)主要用于資產(chǎn)管理,資產(chǎn)管理是工業(yè)物聯(lián)網(wǎng)非常重要的功能甚至可以作為獨(dú)立的系統(tǒng)研究,因?yàn)樗梢院虴RP系統(tǒng)、MES系統(tǒng)、物流等幾乎所有的系統(tǒng)對(duì)接。
診斷類數(shù)據(jù):診斷類數(shù)據(jù)是指設(shè)備運(yùn)行過(guò)程中檢測(cè)設(shè)備運(yùn)行狀態(tài)的數(shù)據(jù),診斷類數(shù)據(jù)可以有兩類:一類為設(shè)備運(yùn)行參數(shù),例如設(shè)備輸入/輸出值,這里通常為傳統(tǒng)工業(yè)自動(dòng)化類數(shù)據(jù)即OT技術(shù)相關(guān)類數(shù)據(jù);另外一類為設(shè)備外圍診斷數(shù)據(jù),例如設(shè)備的表面溫度、設(shè)備噪音、設(shè)備震動(dòng)等等,值得提出的是外圍診斷才是物聯(lián)網(wǎng)技術(shù)體現(xiàn)的地方它包括新型傳感器技術(shù)和物聯(lián)網(wǎng)通訊技術(shù)。外圍診斷數(shù)據(jù)是預(yù)測(cè)性維護(hù)的重要的元數(shù)據(jù),也為深度控制模型提供依據(jù),因此診斷類數(shù)據(jù)是我們需要著重關(guān)注的數(shù)據(jù)類型。
信號(hào)類數(shù)據(jù):信號(hào)類數(shù)據(jù)或者告警類數(shù)據(jù)是目前工業(yè)領(lǐng)域使用最普及的數(shù)據(jù),因?yàn)槠渲庇^、易懂、關(guān)鍵,同時(shí)在本地、遠(yuǎn)程同時(shí)告知。信號(hào)類數(shù)據(jù)容易被忽略,但是它是物聯(lián)網(wǎng)所需要的、也是快速可以采集到、并對(duì)物聯(lián)網(wǎng)系統(tǒng)提供重要參考價(jià)值的數(shù)據(jù)之一。
數(shù)據(jù)之間的關(guān)聯(lián)性
數(shù)據(jù)之間的關(guān)聯(lián)性是不同數(shù)據(jù)之間的關(guān)系,數(shù)據(jù)之間的關(guān)系對(duì)了解整個(gè)系統(tǒng)的運(yùn)行有著最直接的影響,數(shù)據(jù)之間的正確關(guān)系的梳理是系統(tǒng)有效運(yùn)行,產(chǎn)生價(jià)值的基石。
數(shù)據(jù)之間的關(guān)聯(lián)性可以從下面幾個(gè)方面分析:
時(shí)間關(guān)聯(lián)性:即同一時(shí)刻的數(shù)據(jù)照相,數(shù)據(jù)是同一時(shí)刻系統(tǒng)產(chǎn)生的,它反映的是系統(tǒng)這一時(shí)刻的狀態(tài),從數(shù)據(jù)世界角度看,這個(gè)系統(tǒng)就是這一時(shí)刻的數(shù)據(jù)集合。數(shù)據(jù)照相體現(xiàn)的是系統(tǒng)靜態(tài)展示;時(shí)間戳是這類數(shù)據(jù)關(guān)鍵的因素,因此要求各個(gè)數(shù)據(jù)獲取的時(shí)間戳必須相同,時(shí)間戳是目前很多數(shù)據(jù)所缺失的,也是物聯(lián)網(wǎng)實(shí)施中需要關(guān)注和解決的問(wèn)題之一。
流程關(guān)聯(lián)性:即一個(gè)點(diǎn)的數(shù)據(jù)進(jìn)過(guò)一定時(shí)間后影響第二個(gè)點(diǎn)數(shù)據(jù)的產(chǎn)生,它體現(xiàn)的是系統(tǒng)動(dòng)態(tài)的流程展示。數(shù)據(jù)之間的流程關(guān)系性需要模型提供,并在實(shí)施中進(jìn)行修正。
數(shù)據(jù)的時(shí)效性
數(shù)據(jù)的時(shí)效性是指數(shù)據(jù)產(chǎn)生到其被清除的時(shí)間,數(shù)據(jù)時(shí)效性是由系統(tǒng)的實(shí)施部署所決定。數(shù)據(jù)可以被使用多次也可以被使用一次后就可以被清除??傮w來(lái)說(shuō)遠(yuǎn)程部署數(shù)據(jù)還是邊緣部署數(shù)據(jù)影響著數(shù)據(jù)的時(shí)效性,通常邊緣部署的數(shù)據(jù)時(shí)效性短,遠(yuǎn)程數(shù)據(jù)的時(shí)效性長(zhǎng)。邊緣部署需要的數(shù)據(jù)通常及時(shí)性強(qiáng),但是邊緣存儲(chǔ)空間,計(jì)算能力弱因此不能長(zhǎng)期保存;遠(yuǎn)程數(shù)據(jù)通常為歷史性數(shù)據(jù)展示、計(jì)算分析,同時(shí)云端空間、計(jì)算的伸縮性強(qiáng),因此數(shù)據(jù)時(shí)效性長(zhǎng)。
數(shù)據(jù)的實(shí)時(shí)性也是數(shù)據(jù)時(shí)效性的一部分,實(shí)時(shí)性和數(shù)據(jù)的部署位置,數(shù)據(jù)的重要性以及傳輸方式都有關(guān)聯(lián)性。
以數(shù)據(jù)為中心的物聯(lián)網(wǎng)設(shè)計(jì)方法論
總結(jié)物聯(lián)網(wǎng)中的各類數(shù)據(jù)及特性或者抽象其通用性的目的是為了更好的選擇不同的物聯(lián)網(wǎng)技術(shù)進(jìn)行快速、有效的實(shí)施。以數(shù)據(jù)為中心的物聯(lián)網(wǎng)解決方案甚至商業(yè)模式將會(huì)是物聯(lián)網(wǎng)的主流設(shè)計(jì)思想。
下文將從數(shù)據(jù)如何采集,數(shù)據(jù)如何預(yù)處理、數(shù)據(jù)如何傳輸?shù)炔煌慕嵌冗M(jìn)行分析如何應(yīng)用物聯(lián)網(wǎng)的各種技術(shù)。
以數(shù)據(jù)流向?yàn)楹诵牡脑O(shè)計(jì)思路
從數(shù)據(jù)流向來(lái)設(shè)計(jì)包括:數(shù)據(jù)采集、數(shù)據(jù)匯聚、數(shù)據(jù)傳輸、數(shù)據(jù)持久化、數(shù)據(jù)展示、數(shù)據(jù)處理、數(shù)據(jù)矯正、數(shù)據(jù)消費(fèi)。
以數(shù)據(jù)生產(chǎn)/消費(fèi)的為核心的設(shè)計(jì)思路
生產(chǎn)/消費(fèi)為核心的設(shè)計(jì)思路多以云端業(yè)務(wù)為中心,尤其整合現(xiàn)有各個(gè)分散子系統(tǒng)為目標(biāo)或者產(chǎn)業(yè)鏈上下游的協(xié)同操作,物聯(lián)網(wǎng)的數(shù)據(jù)多以關(guān)鍵數(shù)據(jù)指標(biāo)類型為主或者為起始數(shù)據(jù)角色。
1)下面為供應(yīng)鏈的數(shù)據(jù)流設(shè)計(jì)思路。
2)下面為綜合管理系統(tǒng)設(shè)計(jì)
了解物聯(lián)網(wǎng)數(shù)據(jù)是什么,并能夠提出相應(yīng)的物聯(lián)網(wǎng)技術(shù),掌握有價(jià)值的數(shù)據(jù)是物聯(lián)網(wǎng)方案技術(shù)層面的第一步。同樣也是物聯(lián)網(wǎng)技術(shù)最終的具象單元——“有價(jià)值的數(shù)據(jù)”。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03