
大數(shù)據(jù)在傳統(tǒng)行業(yè)引爆后如何落地
大數(shù)據(jù)正悄然在我們身邊發(fā)揮著作用。
1. 傳統(tǒng)行業(yè)中的大數(shù)據(jù)應(yīng)用
1)啤酒與尿布
美國沃爾瑪超市里,啤酒與尿布總被擺放在同一個區(qū)域,方便“奶爸”購物;類似的情況還有出現(xiàn)在同一貨架的方便面和火腿腸、口香糖和避孕套。這些貼心安排無不得益于超市供貨人員對客戶習(xí)慣的深刻解讀,也得益于大數(shù)據(jù)在大型商超、購物中心中的使用。在傳統(tǒng)購物中心向商業(yè)綜合體轉(zhuǎn)變的過程中,利用大數(shù)據(jù)對用戶喜好和用戶行為進(jìn)行分析成為至關(guān)重要的一環(huán)。通常購物中心需要外部第三方數(shù)據(jù)來分析時下受歡迎的品牌、某地區(qū)人民的飲食口味、消費(fèi)水平;同時內(nèi)部數(shù)據(jù),如相應(yīng)時段的人流量、POS機(jī)的消費(fèi)數(shù)據(jù)、cctv監(jiān)控數(shù)據(jù)、購物產(chǎn)品清單數(shù)據(jù)等也顯得至關(guān)重要。
2)余額寶
余額寶自2013年6月上線后,僅用了半年的時間就使背后的天弘基金規(guī)模增長40倍。截止2014年3月,余額寶的用戶數(shù)量已經(jīng)達(dá)到8100萬,超過整個中國股市中的活躍帳戶數(shù)。貨幣基金資產(chǎn)主要投資于短期貨幣工具,大規(guī)模的基金投資追求高收益,也要規(guī)避風(fēng)險。通過大數(shù)據(jù)的支持,余額寶能夠預(yù)測到流動性的趨勢,適時做好流動性需求支持,合理規(guī)避風(fēng)險。基金公司能通過支付寶提供的余額寶資金流動情況,通過模型預(yù)估流動趨勢,安排投資。而傳統(tǒng)行業(yè)沒有大數(shù)據(jù)支持,自然就失去了這樣的能力。
2. 大數(shù)據(jù)在傳統(tǒng)行業(yè)落地難
1)相關(guān)人員稀缺。既懂業(yè)務(wù)又懂?dāng)?shù)據(jù)的人,在互聯(lián)網(wǎng)行業(yè)中不難找到。而傳統(tǒng)行業(yè)中,數(shù)據(jù)和業(yè)務(wù)的結(jié)合通常非常松散。具備大數(shù)據(jù)專業(yè)知識的專家,顯然這個角色在傳統(tǒng)行業(yè)以往的運(yùn)作過程中是缺失的。傳統(tǒng)行業(yè)的技術(shù)人員通常覺得大數(shù)據(jù)很潮很熱,但回答不了以下問題:能拿到什么數(shù)據(jù)? 這些數(shù)據(jù)有什么用? 怎樣用這些數(shù)據(jù)?
2)技術(shù)積累不足。在互聯(lián)網(wǎng)行業(yè)中應(yīng)用非常廣泛的技術(shù),傳統(tǒng)行業(yè)的技術(shù)人員卻接觸很少。在大數(shù)據(jù)的實(shí)際實(shí)施中,像hadoop、消息隊列、storm等這些大數(shù)據(jù)處理技術(shù),傳統(tǒng)行業(yè)還只是停留在初步了解階段,能真正應(yīng)用的比較少。
3)成本資金消耗。一些傳統(tǒng)企業(yè)在準(zhǔn)備獨(dú)立做大數(shù)據(jù)應(yīng)用的時候,發(fā)現(xiàn)實(shí)施的成本非常巨大,整個的IT方面預(yù)算的開支增加了1個甚至2個數(shù)量級,而這些投入是否能達(dá)到預(yù)期效果還不敢肯定。
3. UCloud云平臺的針對性解決方案
對于人員稀缺的問題,除了積極的引入相關(guān)人才和內(nèi)部技術(shù)人員的培養(yǎng),傳統(tǒng)企業(yè)也可以尋求外部合作。目前已經(jīng)有很多企業(yè)在這些專業(yè)的領(lǐng)域內(nèi)提供成熟的解決方案。UCloud,作為國內(nèi)最為專業(yè)的基礎(chǔ)云計算服務(wù)商,也針對性地開發(fā)了大數(shù)據(jù)產(chǎn)品UDDP (UCloud Distributed Data Processor) 能夠幫助用戶輕松、快速地處理TB甚至PB級的海量數(shù)據(jù)。目前,UDDP正被應(yīng)用于數(shù)字營銷、數(shù)據(jù)分析、商業(yè)智能、科學(xué)模擬等領(lǐng)域。
對于技術(shù)積累不足的問題,UCloud所提供的大數(shù)據(jù)產(chǎn)品服務(wù)可以有效幫助企業(yè)用戶降低技術(shù)門檻,規(guī)避掉復(fù)雜的技術(shù)細(xì)節(jié)。同時,UCloud的專業(yè)技術(shù)負(fù)責(zé)人也會為客戶有針對性的提供培訓(xùn)課程,并不時在實(shí)際實(shí)施中進(jìn)行技術(shù)指導(dǎo),幫助用戶快速消除技術(shù)短板。
資金成本問題就更為簡單,使用云計算服務(wù)是降低綜合成本非常有效的方式。傳統(tǒng)企業(yè)通過使用云服務(wù),復(fù)用資源,可以大規(guī)模降低大數(shù)據(jù)應(yīng)用的成本。例如,使用UCloud的大數(shù)據(jù)產(chǎn)品,按每天計算數(shù)據(jù)在10TB來估算,每個月的成本大概也就在數(shù)千元。
4. UCloud大數(shù)據(jù)產(chǎn)品系統(tǒng)設(shè)計
在UCloud大數(shù)據(jù)產(chǎn)品的整體系統(tǒng)框架中,最下層是數(shù)據(jù)采集的接口,通過攝像頭、傳感器、各種日志、數(shù)據(jù)庫等采集數(shù)據(jù),存儲在HDFS上。在存儲之上,我們支持兩種分布式計算框架,SPARK和MapReduce,針對不同習(xí)慣用戶使用。同時也會提供列式存儲HBase。
在數(shù)據(jù)之上,會有很多的工具支持,如基于Spark的Spark SQL、Spark Streaming、Spark Mlib等,以及基于MapReduce的Hive、Pig等。計算后的數(shù)據(jù)可以繼續(xù)存回HDFS,也可以輸出到DB或其它地方用作其它用途,在此之上建立各種業(yè)務(wù)模型使用。
在集群內(nèi),我們會對數(shù)據(jù)分析任務(wù)進(jìn)行調(diào)度,充分利用集群資源。同時對集群進(jìn)行監(jiān)控,對任務(wù)失敗進(jìn)行及時恢復(fù),及時發(fā)現(xiàn)問題,并提供信息給集群日常維護(hù)。
UCloud大數(shù)據(jù)產(chǎn)品系統(tǒng)設(shè)計
5. 大數(shù)據(jù)在傳統(tǒng)行業(yè)中應(yīng)用的未來
1)智能視頻監(jiān)控
如今,智能視頻監(jiān)控已經(jīng)應(yīng)用到很多地方。比如奧林匹克公園內(nèi)設(shè)的智能計數(shù)和密度分析系統(tǒng),可以全天候的對入口區(qū)域、人流通道等重要區(qū)域的人流狀況進(jìn)行實(shí)時密度分析統(tǒng)計。
智能視頻監(jiān)控,核心就是將采集來的視頻數(shù)據(jù),按幀提取出來,應(yīng)用到特征模型中進(jìn)行匹配。然后將這些特征全部存儲下來,添加標(biāo)識、索引,在需要的時候再進(jìn)行檢索、或進(jìn)行更深層次的分析。在這個過程中,我們需要視頻原始數(shù)據(jù)能很快能夠轉(zhuǎn)換成特征模型,同時也需要海量存儲去保存這部分視頻數(shù)據(jù)。技術(shù)的核心在于特征模型的選取、轉(zhuǎn)換的算法、海量數(shù)據(jù)的實(shí)時和離線分析能力。
特征模型的選取,可以通過和一線工作人員溝通把模型建立起來,也可以尋求一些模型庫。很多開發(fā)者社區(qū)里則有轉(zhuǎn)換算法的分享。UCloud對一些開發(fā)者社區(qū)提供資金、資源的支持,目的就是幫助開發(fā)社區(qū)沉淀經(jīng)驗(yàn),以便為更多人提供幫助。而海量數(shù)據(jù)的實(shí)時和離線分析能力可以在內(nèi)部搭建,也可以考慮使用專業(yè)的大數(shù)據(jù)服務(wù),比如UCloud的UDDP。這樣智能視頻監(jiān)控應(yīng)用將會很容易落地。
2)醫(yī)療健康系統(tǒng)
未來的醫(yī)療健康系統(tǒng)或可借鑒身份證采集的模式,拍攝照片上傳到指定網(wǎng)站,然后辦理個人醫(yī)療證件。無論到大型醫(yī)院就醫(yī),還是到社區(qū)醫(yī)院體檢,相關(guān)檢查數(shù)據(jù)都可以被傳輸?shù)结t(yī)療系統(tǒng)。后續(xù)就醫(yī)時,醫(yī)生可以根據(jù)前期的體檢數(shù)據(jù)直接開藥,或者以這些數(shù)據(jù)為基礎(chǔ)為病人診斷。這樣即可大大提高醫(yī)生的工作效率,有助解決就醫(yī)難的問題。另外,這些檢查數(shù)據(jù)匯聚在一起后,可以供衛(wèi)生防疫部門來做分析,提供更為完善的公共健康服務(wù)。也可以由個人委托商業(yè)機(jī)構(gòu)追蹤個人生理情況,做事先預(yù)防、調(diào)養(yǎng)。
當(dāng)然,醫(yī)療健康行業(yè)有一定特殊性,需要體制改革支持。需要在信息化上解決現(xiàn)有醫(yī)院個人醫(yī)療信息的孤島,再引申出來和大數(shù)據(jù)結(jié)合的個人、公眾醫(yī)療健康服務(wù)。
時代變革,從一開始就不可逆?;ヂ?lián)網(wǎng)誕生時,有人說過這樣一句話“在網(wǎng)絡(luò)上,沒人知道你是一條狗”。然而在大數(shù)據(jù)時代,我們不但知道你是一條狗,而且知道你是一直羞澀、前腿短的柯基,不愛吃狗糧愛吃肉,最喜歡粉色的小外套……■
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗(yàn):捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03