
大數(shù)據(jù)應(yīng)用?你先搞定數(shù)據(jù)獲取再說
雖然大數(shù)據(jù)已經(jīng)變得更像一句營銷術(shù)語,但是它仍有巨大的潛力沒有被挖掘出來。不過,得先把數(shù)據(jù)獲取這個大麻煩解決了。
企業(yè)在面對數(shù)據(jù)的時候,比知道怎么處理更多的情況,是在這些數(shù)據(jù)里漫無目的的游泳。遺憾的是,太多的公司將這種現(xiàn)象與大數(shù)據(jù)本身關(guān)聯(lián)起來。從技術(shù)角度來說,大數(shù)據(jù)是非常具體的一件事――結(jié)構(gòu)化數(shù)據(jù)(企業(yè)的專有信息)與非結(jié)構(gòu)化數(shù)據(jù)(社交媒體數(shù)據(jù)流和政府新聞源之類的公共數(shù)據(jù)源)的結(jié)合體。
如果你將非結(jié)構(gòu)化數(shù)據(jù)覆蓋在結(jié)構(gòu)化數(shù)據(jù)之上,通過分析軟件將其可視化,你就會得到過去從未有過的洞察力――預(yù)測產(chǎn)品銷售、更精準(zhǔn)地目標(biāo)用戶、新的市場機(jī)遇,等等。
大數(shù)據(jù)不再像過去幾年一樣,受限于工具缺乏的問題。那時候搞大數(shù)據(jù)意味著團(tuán)隊(duì)里必須有數(shù)據(jù)科學(xué)家,還會被R和Hadoop之類的開源工具搞得心煩意亂。
如今,多少公司都爭著幫你可視化大數(shù)據(jù):從Tableau、Qlik、TIBCO和MicroStrategy之類的專業(yè)公司,到微軟、IBM、SAP和甲骨文之類提供端到端服務(wù)的廠商,不一而足。
不過,據(jù)上周出席奧蘭多中級市場CIO論壇/中級市場首席營銷官(CMO)論壇的IT主管們聲稱,許多公司在大數(shù)據(jù)分析中最頭疼的問題,其實(shí)是如何獲取數(shù)據(jù)。
一位CIO說:“我們IT部門的最大問題,是我們?nèi)绾尾拍軐?shù)據(jù)獲取進(jìn)來,這件事非常麻煩。”
這種說法也得到了相關(guān)數(shù)據(jù)的證實(shí)。
數(shù)據(jù)集成公司Xplenty開展的一項(xiàng)調(diào)查聲稱,三分之一的商業(yè)智能專業(yè)人員把50%至90%的時間,花在了清理原始數(shù)據(jù)和將數(shù)據(jù)錄入到公司的數(shù)據(jù)平臺的準(zhǔn)備工作上。這種現(xiàn)象的原因,可能與只有28%的公司認(rèn)為自己能從數(shù)據(jù)中獲得戰(zhàn)略性價值有很大關(guān)系。
數(shù)據(jù)清理的問題還包括,眼下IT行業(yè)許多最搶手的專業(yè)人員,正在花大量時間處理這項(xiàng)讓人暈頭轉(zhuǎn)向的工作:在分析數(shù)據(jù)之前先篩選并組織整理數(shù)據(jù)集。
這顯然對于數(shù)據(jù)的可擴(kuò)展性非常不利,也嚴(yán)重限制了大數(shù)據(jù)的潛力。隨著物聯(lián)網(wǎng)不斷發(fā)展,收集更多的數(shù)據(jù)對我們來說將越來越容易,這個問題只會變得更嚴(yán)峻。
有三種可能的方法有望解決這個問題:
1. 大數(shù)據(jù)分析軟件不斷完善――許多這些公司在過去五年時一直投入大量精力在大數(shù)據(jù)領(lǐng)域,減輕數(shù)據(jù)清理環(huán)節(jié)壓力的工具不太可能在短期內(nèi)出現(xiàn)重大突破,但有望實(shí)現(xiàn)逐步改進(jìn)。
2. 數(shù)據(jù)準(zhǔn)備人員成為數(shù)據(jù)科學(xué)家的助手――正如律師助理幫助律師處理重要的基礎(chǔ)工作,數(shù)據(jù)準(zhǔn)備人員也會幫助數(shù)據(jù)科學(xué)家處理基本上同樣的底層任務(wù)。我們已經(jīng)在某種程度上看到了這一幕。
3. 利用人工智能清理數(shù)據(jù)――另一種可能性是,用來清理、篩選和分類數(shù)據(jù)的軟件和算法將被編寫出來。這一幕極有可能出現(xiàn),但是我們還應(yīng)預(yù)料到,這也不是“銀彈”。微軟、IBM和亞馬遜正在致力于用人工進(jìn)行軟件無法處理的數(shù)據(jù)標(biāo)記工作――而這正是全球自動化和算法領(lǐng)域的三巨頭。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10