
在大數(shù)據(jù)時代,企業(yè)應該怎么做呢
很多大數(shù)據(jù)創(chuàng)業(yè)公司提供的服務,似乎企業(yè)自己也能實現(xiàn),那何不干脆自己做?結論也不能下得太武斷。
如果這個問題換做是:在電氣時代,每家公司都要有個發(fā)電廠嗎?是不是會更好回答一些?
事實上每一種重大技術的出現(xiàn),都會對產(chǎn)業(yè)產(chǎn)生大的變化。在蒸汽時代,采礦機采用蒸汽機后,會帶來生產(chǎn)效率的極大提升,而輪船加上蒸汽機,再也不需要靠風才能航海了。在電氣時代,電燈代替了蠟燭,電報代替了快馬送信,而報紙也被廣播和電視所侵蝕。
可以說是現(xiàn)有產(chǎn)業(yè)加上新技術,形成了新產(chǎn)業(yè)。
我們回過頭來看這兩次工業(yè)革命,生產(chǎn)蒸汽機的企業(yè)只有少量幾家,而發(fā)電的企業(yè)在美國也只有通用電氣和西屋電氣。并不是每家企業(yè)都要從事這些基礎設施的研發(fā)和生產(chǎn),更多的是對新技術加以應用,發(fā)揮新技術帶來的價值。
在IT領域,軟件剛出來時,可以說是計算和存儲完全混雜在一起。有人嘗試將計算硬件進行分離,歪打正著成就了 Intel。有人嘗試將存儲系統(tǒng)分離,因而有了 Oracle。
Intel 和 Oracle 固然偉大,但它們的價值更多的還在于有廣大的企業(yè)采用了這些新的技術,在具體的行業(yè)中,產(chǎn)生了更大的價值。
同樣,云計算這種理念固然是好,但如果每家企業(yè)都建立自己的云計算中心,從資金和人力投入上,一定是不劃算的,更嚴重的問題是做不到最優(yōu)。相反,有了 AWS 和阿里云這樣的云計算提供商,讓中小企業(yè)更便捷的進行創(chuàng)新應用。
回到題目中的問題,在大數(shù)據(jù)時代,每家公司都要有自己的大數(shù)據(jù)部門嗎?結論也不能下的太武斷。
早在2008年,云計算的概念剛剛興起,百度內(nèi)部出現(xiàn)了兩撥勢力。一撥要從零開始打造自己的大數(shù)據(jù)底層技術,把 MapReduce、GFS、BigTable 這些組件都要實現(xiàn)一遍,結果花了兩三年時間,也沒能穩(wěn)定運行。
而另外一撥勢力,直接采納開源的 Hadoop 生態(tài),很快在公司內(nèi)應用起來。而我當時做的日志統(tǒng)計平臺,也是采用了 Hadoop。但百度的數(shù)據(jù)規(guī)模畢竟太大了,所需的集群規(guī)模,開源版本根本撐不住,于是不得不改寫 Hadoop,這樣就和開源的版本漸行漸遠,等到后來再也合不到一起了。
曾經(jīng)有一年多的時間,我們部門新設計和實現(xiàn)和底層的存儲及計算系統(tǒng),結果發(fā)現(xiàn)開源的版本也差不多實現(xiàn)到了同樣效果。雖然許多內(nèi)部的人覺得我們怎么總重復造輪子,但我明白還是需求使然,你面臨的需求相對領先,但也沒有領先到像 Google 那樣提早 5 年。
但對于小公司來說,則完全沒必要從零開始做,還是要盡量用開源的產(chǎn)品。
整個 Hadoop 生態(tài),要比我 2008 年剛用的時候,要成熟很多。那個時候我們?nèi)ツ瞄_源的版本,編譯部署,一個新手可能兩周都不一定能正常的運轉起來。而現(xiàn)在下載一個 Cloudera 發(fā)行版,兩個小時就可以正常跑任務了。
與此同時,又面臨了新的問題,因為大數(shù)據(jù)平臺牽涉到數(shù)據(jù)的采集、傳輸、建模存儲、查詢分析、可視化等多個環(huán)節(jié),而開源領域只是一些組件,于是各家公司都在紛紛打造自己的大數(shù)據(jù)平臺,這就像 Oracle 之前,各家都在打造自己的存儲系統(tǒng)。這顯然不是一件性價比高的事情。
有市場需求,就會有滿足相應需求的公司誕生,于是就誕生了一堆提供大數(shù)據(jù)服務的公司。
由于這一新領域還處于早期,這些創(chuàng)業(yè)公司所能提供的服務并不會特別的完善,要么是以項目制的方式運轉,要么是提供專門應用場景的服務。
這樣,對于一些企業(yè)來說,這些創(chuàng)業(yè)公司提供的服務,似乎自己也能實現(xiàn),那何不干脆自己做?
這創(chuàng)業(yè)一年多以來,我看到了太多的公司在打造自己的數(shù)據(jù)平臺,但做的還不夠完善。不管是技術實力還是人力投入上,都有點力不從心。如果選用了這些第三方數(shù)據(jù)服務,那豈不飯碗被搶了?
可我要說的是,飯碗早晚都會被搶,只是時間早晚的問題。這里只需要問一個問題:我所做的數(shù)據(jù)平臺,是不是其他公司也是類似的需求?如果是的話,那肯定也有其他公司做著類似的事情,做的東西會大同小異。
那么,就會出現(xiàn)專門的公司,來解決這種通用的需求。因為這些公司專注于解決這一塊問題,所以會更加專業(yè),并且舍得投入。而對于需求公司來說,除非自己轉型去專門做大數(shù)據(jù)平臺,不然在投入上,肯定不是一件性價比很高的事情。與其如此,不如及早側重于自己的核心業(yè)務,關注應用需求本身。
那對于企業(yè)來說,在大數(shù)據(jù)時代,應該怎么做呢?我的建議是三點:
首先,要擁抱大數(shù)據(jù)技術。
新的重大技術出現(xiàn),都帶有顛覆性。一不小心,就會被革命。但也不是說企業(yè)已有的業(yè)務不用搞了,都來搞大數(shù)據(jù)吧。
在大數(shù)據(jù)這件事上,還是要從需求出發(fā),而不是從大數(shù)據(jù)出發(fā)。
有人會問我,我有了一些數(shù)據(jù),給我講講怎么能發(fā)揮更大的價值。坦率來說,許多時候不了解業(yè)務場景,很難提出建設性的意見的。
相反,我們要先看在企業(yè)滿足客戶需求的時候,還有哪些重大問題沒有解決好,如果采用了大數(shù)據(jù)技術,是不是可以更好的解決?如果有這樣的點,那非常好,就勇于去嘗試。如果沒有,那就繼續(xù)學習大數(shù)據(jù)的知識,再等待這樣的場景出現(xiàn)。
其次,企業(yè)要有懂大數(shù)據(jù)的人。
這種人不一定是全職的,但至少是可以將企業(yè)的業(yè)務和大數(shù)據(jù)技術結合起來的人。這種人不一定對大數(shù)據(jù)技術本身很懂,但善于使用新技術。
如果企業(yè)現(xiàn)在還沒有,并且還沒招到??梢匀ヅ囵B(yǎng)一個頭腦靈活,樂于學習新技術的人。如果拋開大數(shù)據(jù)系統(tǒng)的實現(xiàn)挑戰(zhàn),理解大數(shù)據(jù)的應用場景,那難度會降低不少。
最后,要善于利用第三方服務。
能用第三方服務解決的,就盡快去嘗試。在競爭激烈的情況下,通過采用新技術,獲得技術紅利,跑的更快。就像愛迪生當年發(fā)明白熾燈后,那些更早將白熾燈用于工廠的企業(yè)家,更有可能提升工人的工作效率。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉換:從基礎用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關聯(lián)查詢效率:打破 “拆分必慢” 的認知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結構數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結構數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預期算子的內(nèi)涵、作用與應用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結構數(shù)據(jù)特征價值的專業(yè)核心 表結構數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結構化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應用 在數(shù)據(jù)分析與統(tǒng)計學領域,假設檢驗是驗證研究假設、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結構數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結構數(shù)據(jù)(以 “行 - 列” 存儲的結構化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結構數(shù)據(jù)價值的核心操盤手 表格結構數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務邏輯:從規(guī)則拆解到數(shù)據(jù)把關的實戰(zhàn)指南 在業(yè)務系統(tǒng)落地過程中,“業(yè)務邏輯” 是連接 “需求設計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10