
數(shù)據(jù)分析師在物聯(lián)網(wǎng)的哪個環(huán)節(jié)?
物聯(lián)網(wǎng)(Internet of Things)用最簡單的一句話就是各種感知器的廣泛應(yīng)用,具體來說,要實現(xiàn)“物-物互聯(lián)”,主要分三個層次:
(1)感知層:由各種傳感器以及傳感器網(wǎng)關(guān)構(gòu)成,包括二氧化碳濃度傳感器、溫度傳感器、濕度傳感器、二維碼標(biāo)簽、RFID 標(biāo)簽和讀寫器、攝像頭、GPS等感知終端。感知層的作用相當(dāng)于人的眼耳鼻喉和皮膚等神經(jīng)末梢,它是物聯(lián)網(wǎng)識別物體、采集信息的來源,其主要功能是識別物體,采集信息。
(2)網(wǎng)絡(luò)層:由各種私有網(wǎng)絡(luò)、互聯(lián)網(wǎng)、有線和無線通信網(wǎng)、網(wǎng)絡(luò)管理系統(tǒng)和云計算平臺等組成,相當(dāng)于人的神經(jīng)中樞和大腦,負(fù)責(zé)傳遞和處理感知層獲取的信息。
(3)應(yīng)用層:物聯(lián)網(wǎng)和用戶(包括人、組織和其他系統(tǒng))的接口,它與行業(yè)需求結(jié)合,利用云計算、模式識別等智能技術(shù)對數(shù)據(jù)進(jìn)行處理分析。
比如,監(jiān)測飛機(jī)噴氣引擎中一些不易察覺的警報信號,以此來預(yù)測哪些設(shè)備需要進(jìn)行維護(hù),甚至能提前一個月預(yù)測其維護(hù)需求,預(yù)測準(zhǔn)確率達(dá)到70%,這可以極大減少飛行延誤。這也是跟我們數(shù)據(jù)分析師最相關(guān)一層。
聚焦在應(yīng)用層,看數(shù)據(jù)分析師如何發(fā)揮他們的“雄才大略”:
剛剛說的飛機(jī)噴氣引擎的例子,這個實際上是GE(通用電氣)機(jī)器學(xué)習(xí)專家AnilVarma正在做的事情。這些傳感器將溫度、壓力和電壓等數(shù)據(jù)實時傳輸回GE進(jìn)行分析。雖然資料中沒有提及具體的算法,但數(shù)說君認(rèn)為應(yīng)該是:結(jié)合業(yè)務(wù)經(jīng)驗,構(gòu)建一定的模型或者指標(biāo),監(jiān)測“危險”信號,預(yù)測未來一段時間內(nèi)的維護(hù)需求——一個典型的數(shù)據(jù)分析師的任務(wù)。
實際上,GE在這一塊已經(jīng)相當(dāng)領(lǐng)先,涉及各個領(lǐng)域,比如GE與加拿大一家電力公司通過分析衛(wèi)星影像、天氣地圖當(dāng)?shù)赝k娪涗浀葦?shù)據(jù)預(yù)測樹木修剪的熱點地區(qū)(掉落的樹枝是雷電導(dǎo)致停電的主要原因之一)。
GE全球董事長伊梅爾特戲言:“GE昨天還是一家制造業(yè)公司,一覺醒來已經(jīng)成為一家軟件和數(shù)據(jù)公司了?!?/span>
那么GE對數(shù)據(jù)人才是怎樣的?數(shù)說君在GE的官網(wǎng)上搜集了一些人才需求,以數(shù)據(jù)科學(xué)家 Data Scientist為例,這個職位在上海:
職位:
The Data Scientist will work in the Digital Foundry addressing statistical, machine learning and data understanding problems in a commercial technology and consultancy development environment. In this role, you will contribute to the development and deployment of modern machine learning, operational research, semantic analysis, and statistical methods for finding structure in large data sets.
主要涉及機(jī)器學(xué)習(xí)、運(yùn)籌學(xué)、語義分析、大數(shù)據(jù)的數(shù)據(jù)結(jié)構(gòu)方法等。
要求:
Basic Qualifications:
Bachelor’s Degree in a “STEM” major (Science, Technology, Engineering, Mathematics)
Minimum 2 years analytics development in a commercial setting
Demonstrated skill in the use of one or more analytic software tools or languages (e.g., SAS, SPSS, R, Python)
Demonstrated skill at data cleansing, data quality assessment, and using analytics for data assessment
Demonstrated skill in the use of applied analytics, deive statistics, and predictive analytics on industrial datasets
簡單而言就是STEM專業(yè)(科學(xué)、技術(shù)、工程、數(shù)學(xué))的學(xué)士以上,至少2年工作經(jīng)驗、掌握統(tǒng)計軟件如R、SAS、SPSS、Python,有數(shù)據(jù)清洗、數(shù)據(jù)質(zhì)量評估和分析的技能,可以對工業(yè)數(shù)據(jù)進(jìn)行應(yīng)用分析、描述統(tǒng)計以及預(yù)測分析等。
我們非常熟悉的SAS公司,也在物聯(lián)網(wǎng)上進(jìn)行了布局,實際上,SAS已經(jīng)推出了專門的物聯(lián)網(wǎng)分析產(chǎn)品。
SAS?物聯(lián)網(wǎng)分析(SAS? Analytics for IoT)是在SAS成熟的數(shù)據(jù)分析產(chǎn)品基礎(chǔ)上組合而成的全新套裝產(chǎn)品,成功將SAS大數(shù)據(jù)分析的核心技術(shù)應(yīng)用到了物聯(lián)網(wǎng)連接的傳感器和設(shè)備上。SAS物聯(lián)網(wǎng)分析結(jié)合了流技術(shù)、數(shù)據(jù)分析和其他領(lǐng)域?qū)iL,把物聯(lián)網(wǎng)數(shù)據(jù)轉(zhuǎn)化為深刻洞察。
例如SAS可向企業(yè)提供穩(wěn)健的維保需求預(yù)測方案,實現(xiàn)當(dāng)即制定個性化產(chǎn)品,促使企業(yè)采取具有商業(yè)價值的行動等。
SAS物聯(lián)網(wǎng)分析可以幫助企業(yè)解讀快速流轉(zhuǎn)并積累的數(shù)據(jù),協(xié)助客戶根據(jù)數(shù)據(jù)信息做出正確決策。由此產(chǎn)生的收益,例如安全性和產(chǎn)品質(zhì)量的提高、人身傷害的減少等,能轉(zhuǎn)化為更有益的利潤。制造業(yè)、能源、零售業(yè)等相關(guān)行業(yè)都可以從SAS?物聯(lián)網(wǎng)分析中獲益。
科尼集團(tuán)是一家工業(yè)起重機(jī)制造商,利用SAS,他們分析設(shè)備和客戶數(shù)據(jù),以及使用情況、撞擊數(shù)據(jù),把大數(shù)據(jù)同可靠性分析與模擬相結(jié)合,提高預(yù)測能力。
另外在農(nóng)業(yè)上,我們也介紹過在畜牧場、農(nóng)場如何使用傳感器進(jìn)行監(jiān)測分析的例子(Farmeron:農(nóng)場主的數(shù)據(jù)分析工具;德強(qiáng)農(nóng)場—一家國內(nèi)大數(shù)據(jù)農(nóng)場)。
從以上內(nèi)容,我們稍稍提煉一下數(shù)據(jù)分析師在物聯(lián)網(wǎng)大數(shù)據(jù)的實踐技能:
1)語義引擎、多元數(shù)據(jù)融合技術(shù)
物聯(lián)網(wǎng)中數(shù)據(jù)的存儲方式、組織結(jié)構(gòu)以及時效性呈現(xiàn)出多樣性。我們需要一系列的工具去解析、提取、分析數(shù)據(jù),語義引擎需要被設(shè)計成能夠從“文檔”中智能提取信息。
2)海量數(shù)據(jù)挖掘技術(shù)
MapReduce架構(gòu)可以作為海量數(shù)據(jù)資源知識元挖掘算法的統(tǒng)一處理機(jī)制,在Hadoop分布式系統(tǒng)平臺上,能夠?qū)崿F(xiàn)分類、聚類和關(guān)聯(lián)知識挖掘等算法,深入數(shù)據(jù)內(nèi)部,挖掘價值,這些算法不僅要處理大數(shù)據(jù)的量,也要處理大數(shù)據(jù)的速度。
3)可視化分析
近隨著處理的數(shù)據(jù)量越來越大,可視化的需求越高越高。對體量大、多源的物聯(lián)網(wǎng)數(shù)據(jù)而言,可視化呈現(xiàn)是一個非常重要的技能。
4)預(yù)測分析能力
預(yù)測是物聯(lián)網(wǎng)的一個重要應(yīng)用,無論是農(nóng)業(yè)產(chǎn)量、物流,還是工業(yè)設(shè)備維護(hù),預(yù)測效果直接顯像在應(yīng)用層面。
12年GE發(fā)布的報告顯示,每提高1%的燃油效率,航空業(yè)每年能節(jié)省20億美元,而能源行業(yè)則能節(jié)省40億美元。到2020年全球工業(yè)互聯(lián)網(wǎng)年產(chǎn)值將達(dá)到2250億美元,大大超越消費(fèi)物聯(lián)網(wǎng)1700億美元的產(chǎn)值。
最后,物聯(lián)網(wǎng)是個陌生又有點熟悉的行業(yè),對我而言更多的是一個學(xué)習(xí)的態(tài)度,非常非常希望能有這方面的專家賜文指導(dǎo)。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03