
大思維促大數據戰(zhàn)略
你一定知道,所有的數字都是數據。如今的硬件和軟件已不能應對以如此高速產生的形式多樣的海量數據。大數據變得如此復雜,其變化如此迅速,傳統的數據工具已難以對之進行處理、存儲、分析和管理。數據量如此之大,以致問對問題和找對答案跟大海撈針一樣困難。
幸運的是,用現有的硬件、工具和算法能將所有數據轉化為有用的信息。從這些信息中提|煉出的洞見能用來改善你所在組織的決策,提高其效率,降低其成本并增加收入。大數據革|命帶來了廣泛的影響,并且會遍及各行業(yè)的所有企業(yè)。
大數據的七個V
有一點是公認的,即大數據可以用三個“V”來解釋:速度(velocity)、種類(variety)和數量(volume)。不過,筆者還想加入真實性(veracity)、可變性(variability)、可視化(visualization)和價值(value)的概念,以更好地解釋精心計劃過的大數據戰(zhàn)略。
速度:速度是指數據產生、存儲、分析和形象化的速度。當前數據的生成速度幾乎超出我們的想象:每分鐘,我們向YouTube上傳的視頻總時長達到100小時。此外,人們每分鐘發(fā)送超過2億份電子郵件,查看約2,000萬張照片,并將3萬張照片上傳到Flickr相冊,發(fā)送近30萬條推特消息,谷歌每分鐘處理近250萬次請求。
多樣性:過去所有的數據都是結構化的,可以很容易地進行歸類,不過這種情況已經一去不復返了。如今,90%的數據都是非結構化的。數據可以有許多不一樣的格式,包括結構化、半結構化、非結構化,甚至是復雜結構化的數據。
每一類型的數據都需要配以不同類型的分析法和解讀工具。像臉書(Facebook)或推特(Tweet)這樣的社交媒體可以提供深入的見解,讓你了解客戶對企業(yè)的品牌、服務或產品的看法,而傳感器數據提供的信息則是用戶對產品或機器的使用情況,讓你獲得可用于改進產品的洞見。
數量:按照如今數據產生的速度,每兩年數據量就能翻上一倍。在2011年,我們創(chuàng)造的數據總量令人咂舌,共有1.8ZB。而根據IDC在2011年的研究,到了2020年這一數字將是現在的50倍。這個數量是相當可觀的,而這個數字宇宙中相當大的一個數據來源就是物聯網,物聯網在世界各地各種設備上安裝的傳感器每分每秒都在傳輸數據。
讓我們來看一些例子。飛機在引擎上安裝的傳感器每年會產生約25億TB的數據。而安裝在農業(yè)拖拉機上的傳感器也會產生和采集大量數據。約翰迪爾公司(John Deere)使用傳感器數據來監(jiān)控機械的優(yōu)化,控制日益壯大的農機隊伍,并且?guī)椭r產業(yè)者優(yōu)化決策。殼牌(Shell)也在油井中使用高靈敏度傳感器來尋找更多的油,如果公司在所有1萬口油井中安裝這種傳感器,每年大約會采集10EB的數據。
真實性:如果數據本身存在缺陷,那么即使采集高速產生的大量數據也毫無價值。不正確的數據可導致組織乃至消費者面臨嚴重的問題。如果你希望組織能夠以信息為中心,那么就需要確保你的數據和分析法都正確無誤。在進行自動化決策時,這一條尤其關鍵,因為整個過程不再有人的參與。但令人震驚的是,企業(yè)領導者有三分之一不相信他們用來做決策的信息。所以,如果你想要制定大數據戰(zhàn)略,就需要高度注重數據的正確性以及分析的準確度。
可變性:可變性往往會與多樣性的概念相混淆。我們可以舉個例子說明它們之間的區(qū)別。如果面包店銷售十種不同的面包,這就是多樣性。如果同一種面包每天的口感和香味都不一樣,那就是可變性。在進行情感分析時,可變性與主題的關聯非常密切。
可變性意味著定義會(迅速)改變。在類似的推特消息中,同一個詞可能會有截然不同的含義。要想正確地進行情感分析,所用的算法必須能夠根據上下文解讀一個詞的準確含義。不過,這一點目前仍然是一個亟待解決的技術難題。
可視化:這是大數據中比較難辦的部分。這表示你需要幫助受眾以容易閱讀和理解的方式了解大量的數據。經過正確的可視化操作后,原始數據就可以發(fā)揮作用。當然,這里說的可視化并不等于普通的圖表或餅狀圖,而是包含多種數據變量的復雜圖表,同時又易于人們閱讀和理解。
可視化或許不是技術上難度最大的任務,但肯定是最具挑戰(zhàn)性的。使用圖表來解說一個復雜的故事很有難度,但同樣也極為重要。幸運的是,越來越多的大數據初創(chuàng)公司專注于解決這個領域的挑戰(zhàn)。歸根結底,可視化能發(fā)揮關鍵的作用,并且它能幫助提高可讀性。
價值:所有可用數據都能為組織、社群和消費者創(chuàng)造大量的價值。大數據意味著大量業(yè)務,各行各業(yè)都能從中有所收益。當然,數據本身完全沒有價值。其價值存在于根據數據完成的分析以及如何將數據轉化為信息,從而最終變成知識和智慧。數據的價值在于組織如何使用它們來創(chuàng)造以信息為中心的公司,根據數據分析得出的洞見進行決策。
關于大數據的五個事實
現在我們已經對大數據進行了定義,你需要了解你的組織在制定大數據戰(zhàn)略時,應當注意到其中哪些方面最重要。大數據需要對范式進行轉變,理解這一點能幫助你的組織在利用大數據方面取得進展。
1、大數據需要不一樣的企業(yè)文化。要想真正發(fā)揮大數據的作用,你的組織需要成為以信息為中心的公司。
這種文化上的轉變能讓企業(yè)更注重在數據的推動下進行決策,并讓你的員工有機會基于真實的數據而非估算結果來開發(fā)新的運營、戰(zhàn)術和戰(zhàn)略計劃。利用大數據的企業(yè)文化要求公司鼓勵員工在每一個客戶接觸點上采集數據。他們需要詢問正確的問題,并以精確的數據作答。
2、組織內的人才是大數據背后真正的驅動因子。盡管文化上的轉變對于充分發(fā)揮大數據的潛力很重要,大數據戰(zhàn)略的開發(fā)卻是由組織內的人完成的。尤其是,中層經理人和高管應當明白大數據是什么,以及如何將其應用到組織上。如果有更多的決策者意識到大數據的好處,就更有可能制定和實施成功的大數據戰(zhàn)略。
要開始成功開發(fā)大數據,首先要在組織內找到正確的發(fā)起人,尤其是在初期回報不確定和成本高居不下時更是如此。最理想的做法就是發(fā)動一位高級管理者或董事會成員,因為這些人在最初結果不利的情況下,也有足夠的權力支持大數據項目。
3、大數據確實需要“大”的安全措施。如果一個組織聚集了大量寶貴數據,就需要保護這些信息免遭不法分子的盜用。因此保護搜集來的所有數據有著極為重要的意義。要保護你的數據,有許多種方法,最常見的是對信息進行正確加密。當然,其他的方法也很多,所以你的大數據團隊應始終將數據的安全性當作自己的一項責任。
不過,每個組織還是應當事先準備應急預案,以防數據真的被黑客盜取。出人意料的是,許多公司在遇到與計算機相關的信息安全事件時完全不知所措。這種安全事件可以給企業(yè)帶來災難性的后果。如果公司缺乏必要的安全手段,甚至連被黑客入侵了都沒發(fā)覺,那么后果就更加嚴重了。
因此,公司應當委派內部人員或使用專門的外部機構的服務,針對潛在的信息安全襲擊擬定應急預案。如果公司對組織和客戶的數據不加保護,那遲早會關門大吉。如果未雨綢繆了,情況又會大不一樣。
4、世界各地的政府正加緊在大數據上的投入。與組織一樣,政府也在產生越來越多的數據。許多政府也在進行數字化的轉型。以荷蘭為例,該國政府希望全面轉型數字化辦公,并在2017年底徹底淘汰紙質通信。想象一下,1,700萬公民在跟國家、地區(qū)和縣市各級政府通信時可以產生多少數據?
隨著這種方案的出現,組織也能夠更廣泛地接觸到公共數據集,從而引發(fā)人們針對世界各地的問題提出創(chuàng)新性的解決方案。私營領域啟動的數據集項目也越來越多。這種為組織搜集公共和私營數據集的行為已經形成了市場。用戶能以訪客身份購買數據集或是免費下|載。在某些網站上,還有組織出|售他們自己的數據集。
5、大數據的關鍵并不在于數據的量。人們通常認為“大數據”這個詞表示大量的數據。結果,許多人認為大數據戰(zhàn)略只有在你擁有PB或EB級別的數據時才有用。這是不對的。大數據遠遠不只是收集來的大量數據。大數據更主要的是組合不同來源、不同時間的不同變量的數據集。特別是組合并隨之分析不同的數據集,從中找到有價值的新洞見。
此外,大數據指的是對可用的數據進行實時分析,并利用各種算法來預測行為。實時的洞見對于組織來說是十分寶貴的,可以讓組織預知客戶在短期內的行為。
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數的日期轉換:從基礎用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數據處理中,日期格式轉換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關聯查詢效率:打破 “拆分必慢” 的認知誤區(qū) 在 MySQL 數據庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數據分析師:表結構數據 “獲取 - 加工 - 使用” 全流程的賦能者 表結構數據(如數據庫表、Excel 表、CSV 文件)是企業(yè)數字 ...
2025-09-18DSGE 模型中的 Et:理性預期算子的內涵、作用與應用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數據分析師:解鎖表結構數據特征價值的專業(yè)核心 表結構數據(以 “行 - 列” 規(guī)范存儲的結構化數據,如數據庫表、Excel 表、 ...
2025-09-17Excel 導入數據含缺失值?詳解 dropna 函數的功能與實戰(zhàn)應用 在用 Python(如 pandas 庫)處理 Excel 數據時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應用 在數據分析與統計學領域,假設檢驗是驗證研究假設、判斷數據差異是否 “ ...
2025-09-16CDA 數據分析師:掌控表格結構數據全功能周期的專業(yè)操盤手 表格結構數據(以 “行 - 列” 存儲的結構化數據,如 Excel 表、數據 ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網絡請求開發(fā)時(如使用requests ...
2025-09-15CDA 數據分析師:激活表格結構數據價值的核心操盤手 表格結構數據(如 Excel 表格、數據庫表)是企業(yè)最基礎、最核心的數據形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調用、數據爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數據的科學計數法問題 為幫助 Python 數據從業(yè)者解決pd.read_csv讀取長浮點數據時的科學計數法問題 ...
2025-09-12CDA 數據分析師:業(yè)務數據分析步驟的落地者與價值優(yōu)化者 業(yè)務數據分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務邏輯:從規(guī)則拆解到數據把關的實戰(zhàn)指南 在業(yè)務系統落地過程中,“業(yè)務邏輯” 是連接 “需求設計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數據驅動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數據分析師與戰(zhàn)略 / 業(yè)務數據分析:概念辨析與協同價值 在數據驅動決策的體系中,“戰(zhàn)略數據分析”“業(yè)務數據分析” 是企業(yè) ...
2025-09-11Excel 數據聚類分析:從操作實踐到業(yè)務價值挖掘 在數據分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數據中挖 ...
2025-09-10統計模型的核心目的:從數據解讀到決策支撐的價值導向 統計模型作為數據分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10