
大數(shù)據(jù)時(shí)代(1)-別以為自己真的懂 Big Data
最近「大數(shù)據(jù)( Big Data )」嚴(yán)然變成流行字,感謝科技界的搜索引擎、智能電話、社交媒體等等,由于我們的生活越來越離不開網(wǎng)絡(luò),智能手機(jī)、平板、電腦……每日透過各項(xiàng)產(chǎn)品連接互聯(lián)網(wǎng)并使用的資料越來越龐大,形成新的話題。曾經(jīng)是科技界的新寵兒,現(xiàn)在變成商業(yè)界的奇貨。誰能掌握在手,誰就能獲得更大的商機(jī)。
你真的懂得大數(shù)據(jù)嗎?
仔細(xì)想想,你真的懂得大數(shù)據(jù)嗎?筆者發(fā)現(xiàn)很多人其實(shí)都是道聽涂說,一知半解。最近 RADICA DATA LAB 早前進(jìn)行「大數(shù)據(jù)市場應(yīng)用調(diào)查」,表示教育水平更高者更熟悉大數(shù)據(jù)。
大數(shù)據(jù)其實(shí)并不是甚么新奇奧秘的玩意,說穿了它就只是 Found Data ,將零散雜亂的各種數(shù)據(jù)統(tǒng)合分析,從而演算出某些結(jié)論、推測以及反應(yīng)。昔日的數(shù)據(jù)庫是被動(dòng)的,它要求使用者逐一回饋,像是填寫各項(xiàng)問卷、蒐集技術(shù)樣本等等。
「最可能的答案」而非「最正確的答案」
不論是收集過程、數(shù)量以及分析數(shù)據(jù)都需要花費(fèi)大量時(shí)間,而且往往是針對一些特定主題及目的,數(shù)據(jù)亦不夠全面。然而由于現(xiàn)在電腦及手機(jī)的普及,以及網(wǎng)絡(luò)通訊的流行,實(shí)現(xiàn)新的數(shù)據(jù)收集方式:將大量「數(shù)位化資訊」進(jìn)行演算分析從而「數(shù)據(jù)化」。即使是普通人也會(huì)聽聞及發(fā)現(xiàn),為什么手機(jī)會(huì)知道自己的喜好,搜索時(shí)都是將自己常去的網(wǎng)站搬前,顯示的廣告都是自己有興趣的,這就是大眾所感知到的「大數(shù)據(jù)」如何影響自己。
大數(shù)據(jù)有別過去收集數(shù)據(jù)的方式,它不需要刻版而特定的數(shù)據(jù),縱使再零碎不全,都一律交由電腦收集及識(shí)別。大眾日常于網(wǎng)絡(luò)上做的每一步活動(dòng),都有紀(jì)錄下來,讓有關(guān)方面可以因應(yīng)需要分析用家個(gè)人喜好、居住地區(qū)、考慮條件、特定瀏覽時(shí)間等等提供「最可能的答案」,而非「最正確的答案」。
大數(shù)據(jù)重視關(guān)連
大數(shù)據(jù)是違反科學(xué)的:科學(xué)講求精確,它卻講求模煳。科學(xué)講求因果,它只重視關(guān)連??茖W(xué)只紀(jì)錄有用的數(shù)據(jù),它卻是所有數(shù)據(jù)都有價(jià)值。早于 20 世紀(jì) 20 年代 B.Russell 就提出過有關(guān)的論文,及后 1965 年 L.A.zadeh 發(fā)表模煳集合理論,正式奠定基礎(chǔ)。模煳理論實(shí)際上是模煳集合、模煳關(guān)系、模煳邏輯、模煳控制、模煳量測等理論的泛稱。
過去人類尤其是西方科學(xué)重精確輕模煳,胡適亦曾撰文<差不多先生傳>,崇尚西方學(xué)風(fēng)的他們抨擊諷刺中國人特有的「近似推理( Approximation reasoning )」:缺乏科學(xué)精神,凡事模棱兩可,只要差不多就好。諷刺的是不出數(shù)十年,西方科技發(fā)展就要學(xué)習(xí)差不多先生,追求不明確與模煳概念。事實(shí)上,模煳理論應(yīng)用最有效最廣泛的領(lǐng)域就是模煳控制。模煳控制出人意料的解決了傳統(tǒng)西方理論邏輯無法解決或難以解決的疑難,并取得了一些驚人的成效:大數(shù)據(jù)就是其中的表表者。
大數(shù)據(jù)未必百分百正確,但又合乎一般人理解的范圍
例如「青年」這個(gè)概念,它的內(nèi)涵大家都清楚明白,但是什么樣的年齡階段內(nèi)的人是青年,恐怕大家莫衷一是,因?yàn)樵凇盖嗄辍惯@個(gè)概念中沒有一個(gè)清晰確定的邊界與外延,這就是模煳概念。人們在認(rèn)識(shí)模煳性時(shí)往往帶有主觀性,每個(gè)人對模煳事物的認(rèn)知不可能完全相同。我們詢問一千人他們認(rèn)知中「年青」的年齡范圍,那么我們可能得到一千個(gè)不同的答案。盡管如此,當(dāng)我們用模煳統(tǒng)計(jì)的方法對海量數(shù)據(jù)進(jìn)行分析時(shí),答案又具有一定的規(guī)律性。
大數(shù)據(jù)就是以相近的塬理運(yùn)作,假設(shè)我們要求電腦在甲城市報(bào)告「低收入青年的數(shù)量」,這里所說的「低收入」、「青年」都是模煳概念,過去的統(tǒng)計(jì)學(xué)要先求出「何謂低收入」「何謂青年」的「精確范圍」然后才能進(jìn)行下一步的統(tǒng)計(jì):你要先告訴電腦某個(gè)薪金以下是低收入,哪個(gè)年齡階層是青年,然后在資料庫指定欄位找符合的條目。然而在大數(shù)據(jù)時(shí)代下,電腦能通過模煳概念去分析判斷,演算法會(huì)自己跑自己分析「低收入」及「青年」大概的范圍,將相關(guān)的數(shù)據(jù)條列出來。它未必百分百正確,但又合乎一般人理解的范圍。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
2025被稱為“AI元年”,而AI,與數(shù)據(jù)密不可分。網(wǎng)易公司創(chuàng)始人丁磊在《AI思維:從數(shù)據(jù)中創(chuàng)造價(jià)值的煉金術(shù)》一書中指出:AI思維, ...
2025-07-17數(shù)據(jù)分析師的技能圖譜:從數(shù)據(jù)到價(jià)值的橋梁? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,數(shù)據(jù)分析師如同 “數(shù)據(jù)翻譯官”,將冰冷的數(shù)字轉(zhuǎn)化為清晰的 ...
2025-07-17Pandas 寫入指定行數(shù)據(jù):數(shù)據(jù)精細(xì)化管理的核心技能? 在數(shù)據(jù)處理的日常工作中,我們常常需要面對這樣的場景:在龐大的數(shù)據(jù)集里精 ...
2025-07-17解碼 CDA:數(shù)據(jù)時(shí)代的通行證? 在數(shù)字化浪潮席卷全球的今天,當(dāng)企業(yè)決策者盯著屏幕上跳動(dòng)的數(shù)據(jù)曲線尋找增長密碼,當(dāng)科研人員在 ...
2025-07-17CDA 精益業(yè)務(wù)數(shù)據(jù)分析:數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)增長的實(shí)戰(zhàn)方法論 在企業(yè)數(shù)字化轉(zhuǎn)型的浪潮中,“數(shù)據(jù)分析” 已從 “加分項(xiàng)” 成為 “必修課 ...
2025-07-16MySQL 中 ADD KEY 與 ADD INDEX 詳解:用法、差異與優(yōu)化實(shí)踐 在 MySQL 數(shù)據(jù)庫表結(jié)構(gòu)設(shè)計(jì)中,索引是提升查詢性能的核心手段。無論 ...
2025-07-16解析 MySQL Update 語句中 “query end” 狀態(tài):含義、成因與優(yōu)化指南? 在 MySQL 數(shù)據(jù)庫的日常運(yùn)維與開發(fā)中,開發(fā)者和 DBA 常會(huì) ...
2025-07-16如何考取數(shù)據(jù)分析師證書:以 CDA 為例? ? 在數(shù)字化浪潮席卷各行各業(yè)的當(dāng)下,數(shù)據(jù)分析師已然成為企業(yè)挖掘數(shù)據(jù)價(jià)值、驅(qū)動(dòng)決策的 ...
2025-07-15CDA 精益業(yè)務(wù)數(shù)據(jù)分析:驅(qū)動(dòng)企業(yè)高效決策的核心引擎? 在數(shù)字經(jīng)濟(jì)時(shí)代,企業(yè)面臨著前所未有的數(shù)據(jù)洪流,如何從海量數(shù)據(jù)中提取有 ...
2025-07-15MySQL 無外鍵關(guān)聯(lián)表的 JOIN 實(shí)戰(zhàn):數(shù)據(jù)整合的靈活之道? 在 MySQL 數(shù)據(jù)庫的日常操作中,我們經(jīng)常會(huì)遇到需要整合多張表數(shù)據(jù)的場景 ...
2025-07-15Python Pandas:數(shù)據(jù)科學(xué)的瑞士軍刀? ? 在數(shù)據(jù)驅(qū)動(dòng)的時(shí)代,面對海量、復(fù)雜的數(shù)據(jù),如何高效地進(jìn)行處理、分析和挖掘成為關(guān)鍵。 ...
2025-07-15用 SQL 生成逆向回滾 SQL:數(shù)據(jù)操作的 “后悔藥” 指南? 在數(shù)據(jù)庫操作中,誤刪數(shù)據(jù)、錯(cuò)改字段或誤執(zhí)行批量更新等問題時(shí)有發(fā)生。 ...
2025-07-14t檢驗(yàn)與Wilcoxon檢驗(yàn)的選擇:何時(shí)用t.test,何時(shí)用wilcox.test? t 檢驗(yàn)與 Wilcoxon 檢驗(yàn)的選擇:何時(shí)用 t.test,何時(shí)用 wilcox. ...
2025-07-14AI 浪潮下的生存與進(jìn)階: CDA數(shù)據(jù)分析師—開啟新時(shí)代職業(yè)生涯的鑰匙(深度研究報(bào)告、發(fā)展指導(dǎo)白皮書) 發(fā)布機(jī)構(gòu):CDA數(shù)據(jù)科 ...
2025-07-13LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10