
大數據時代:數據和算法,誰更重要?
我知道很多人自始至終都認為數據是越多越好,即大數據越大越好,Google甚至直言:更多的數據勝過更好的算法,而過去很多偵探劇中崇尚“信息越多,就越靠近真相”的刑偵金句也似乎佐證這一點。
而事實上,我的觀點是,數據只是基礎,如何建構起有效的算法、模型比數據本身更重要,最起碼對目前而言是這樣的。持與我相近觀點的大有人在,如《The Signal and the Noise》(信號與噪聲,作者Nate Silver)這本書里面的一個觀點是“更多的數據意味著更多的噪聲。信號是真相,噪聲卻使我們離真相越來越遠?!?/span>
每種觀點都有自己的理據,所以我們不能片面地去判斷說哪種觀點對與錯。就大數據這個事情而言,我認為Google是一個理想主義者,而Nate Silver則是一個實用現(xiàn)實主義者。
理想中的大數據的終極形態(tài)是不用構建模型,或者說已經構建了全模型,不用針對每次分析的目的去單獨建模,數據自身會從數據特性,規(guī)律去進行邏輯性分析(非數理分析),人們只需要將所有數據輸入,機器就能告訴人們這些數據中,哪些數據說明了什么問題,大數據的輸出成果將不是一份報告,而是一個體系,沒有一份報告能容納如此多的結果。到了那個時候,確實是更多的數據勝過更好的算法,因為那時候已經沒有了算法,沒有什么是不能計算的。
但現(xiàn)實是,我們目前的大數據離理想中的大數據形態(tài)還有很遠的距離。
我們先看一個通過數據分析來輔助營銷的例子。你要推廣一個旅游產品,比如說是一個旅游攻略的APP,你第一反應肯定是去旅行社、戶外網站去收集數據,去展開宣傳,去鋪開銷售吧?這當然對,但問題是,經常旅游的人很可能已經不需要你旅游產品的指導,他們有更多的出游經驗,他們有更多的團隊合作,他們可能更傾向個體出行。而不經常出沒在戶外網站的人,不經常搜索旅游相關信息的人,他們心中對旅行的渴望也許是很強烈的。從數據的維度來看,從旅行社、戶外網站收集到的客戶信息當然是比大眾市場上得到的客戶信息的維度要多,顆粒度要細,信息更非結構化,更稱得上“大數據”,但顯然,通過這些更大的數據卻未必能支撐你找到更多有需求的客戶。當然,你也許會說在強關聯(lián)的小圈子里找到客戶的單位成本遠比漫無邊界地挖掘客戶的單位成本要低。但我只是用這個例子去說明,更多的信息未必能指向更明確結果,如何建構一個合理的模型(利用有限的數據去做最有效的分析),遠比找到一個新的數據源要重要得多。
目前的大數據與理想中的大數據形態(tài)的距離并不在于數據源的多少上,數據源從來不是問題,問題是在于我們如何去建構一個科學合理的分析模型,并相信、堅持分析模式的輸出結果。通過不斷地修正、累積各種正確的分析模型,我們將不斷接近理想形態(tài)。
而很不幸的是,有時候現(xiàn)實與之背道而馳。
分析員總是習慣帶著預設去分析,他們會自覺不自覺地以對自己有利的方式對這些數據進行分析和解釋,而哪怕這些方式很可能與這些數據所代表的客觀現(xiàn)實不相吻合。出于各種原因,分析員很難從干擾他們的噪聲中分辨出有用的信號,甚至會無視這些真實有用的信號。于是,數據展示給他們的通常都是他們想要的結果,而且他們通常也能確保這些數據令大家皆大歡喜。同時,我們天真的相信各種預測分析模型,卻沒有人認真地去驗證這些模型是否科學合理,是否與事實相符,也許這些模型在進行架設選擇時根本不堪一擊。
我對此感同身受。我曾經為不同省份的移動公司做過各種形式的經分,給我最大的感受就是,我們不是要用數據去發(fā)現(xiàn)問題,找到解決問題的方法,而是我們要用數據去支持領導的觀點,一旦結果與領導觀點相悖時,模型是可以調整,數據可以調整,口徑可以調整,只有領導的觀點不能動,不能變。具體的過程是,剛開始時我們通過經驗建構了分析模型,模型只需要三組數據,但很不幸無法支撐領導的觀點,進而增加到五組,依然無法得出想要的結論,進而想方設法增加到十組,并開始調用不同的分析模型,費盡九牛二虎之力,終于在用某模式導入XXYY數據時,出來的結果剛好與領導的觀點一致,好吧,終于天亮了,終于可以定稿了,終于可以各自回家睡覺了。一覺醒來后開始宣揚,我們充分調用了N多的數據,并創(chuàng)新性地使用了X模型,得出某某結論,與領導觀點不謀而合。
這就是分析員的困境,而這種困境是目前分析工作的常態(tài),也許壓力不是來自于領導,但也有可能來自于市場的壓力,個人績效的壓力,時間精力的有限,經驗和知識的匱乏,甚至是內心無法言明的情緒等。
這個世界自從有了印刷機,信息的傳遞不再局限,信息變得不再那么稀有,后來有了互聯(lián)網,信息開始爆炸式增長,我們擁有的信息太多,甚至多到無從下手,但事實上是有用的信息寥寥無幾。沒有科學、經過驗證的模型支持,我們往往主觀地、有選擇的看待信息,對信息的曲解卻關注不夠,于是,當我們把越來越多的信息塞進越來越臃腫的模型,我們以為我們將看到更多真相,而事實是很多只是假相。
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關鍵? 在循環(huán)神經網絡(RNN)家族中,長短期記憶網絡(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數據分析師報考條件詳解與準備指南? ? 在數據驅動決策的時代浪潮下,CDA 數據分析師認證愈發(fā)受到矚目,成為眾多有志投身數 ...
2025-07-11數據透視表中兩列相乘合計的實用指南? 在數據分析的日常工作中,數據透視表憑借其強大的數據匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數據分析師:連接數據與業(yè)務的價值轉化者? ? 在大數據與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預測分析中的應用:從數據查詢到趨勢預判? ? 在數據驅動決策的時代,預測分析作為挖掘數據潛在價值的核心手段,正被廣泛 ...
2025-07-10數據查詢結束后:分析師的收尾工作與價值深化? ? 在數據分析的全流程中,“query end”(查詢結束)并非工作的終點,而是將數 ...
2025-07-10CDA 數據分析師考試:從報考到取證的全攻略? 在數字經濟蓬勃發(fā)展的今天,數據分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數據背后的時間軌跡? 在數據分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數據類型:時間維度的精準切片? ? 在數據的世界里,時間是最不可或缺的維度之一,而year_month數據類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數據分析中的核心應用與實戰(zhàn)技巧? ? 在 CDA 數據分析師認證考試中,Python 作為數據處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數據趨勢與突變分析的有力工具? ? ? 在數據分析的廣袤領域中,準確捕捉數據的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數據分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數據分析師認證作為國內權威的數據分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應對策略? 長短期記憶網絡(LSTM)作為循環(huán)神經網絡(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學方法在市場調研數據中的深度應用? 市場調研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學方法則是市場調研數 ...
2025-07-07CDA數據分析師證書考試全攻略? 在數字化浪潮席卷全球的當下,數據已成為企業(yè)決策、行業(yè)發(fā)展的核心驅動力,數據分析師也因此成為 ...
2025-07-07剖析 CDA 數據分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數據分析師考試作為衡量數據專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉日期:解鎖數據處理的關鍵技能? 在數據處理與分析工作中,數據格式的規(guī)范性是保證后續(xù)分析準確性的基礎 ...
2025-07-04CDA 數據分析師視角:從數據迷霧中探尋商業(yè)真相? 在數字化浪潮席卷全球的今天,數據已成為企業(yè)決策的核心驅動力,CDA(Certifie ...
2025-07-04CDA 數據分析師:開啟數據職業(yè)發(fā)展新征程? ? 在數據成為核心生產要素的今天,數據分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03