
大數(shù)據(jù)時代你我都是透明人_數(shù)據(jù)分析師
網(wǎng)絡海量數(shù)據(jù)讓監(jiān)控輕而易舉
早期互聯(lián)網(wǎng)本身,就是在美國國防先進研究計劃內(nèi)研發(fā)出來的,在上世紀90年代互聯(lián)網(wǎng)大規(guī)模商業(yè)化應用之前,美國政府一直掌控著網(wǎng)絡的控制權。作為信息時代的幕后推手,美國政府從未將全球信息網(wǎng)絡當做單純的商業(yè)空間,而是特別重視其在國家政治和安全領域的利用價值。“棱鏡”計劃不過是延續(xù)了冷戰(zhàn)以來美國國安局全面監(jiān)聽國內(nèi)外通訊的傳統(tǒng),將其進一步延伸到數(shù)據(jù)空間而已。
十年前出國,你也許會聽到這樣的建議:在給國內(nèi)親友打電話時,電話中最好插一些涉及彈道導彈、核潛艇之類的軍事敏感詞。作為對個人隱私權遭受侵犯的抗議,如果所有普通人都在電話中夾雜一些容易被注意到的關鍵詞,會增加那些情報監(jiān)聽機構的工作量,增加其成本,最終獲得干擾對方監(jiān)聽的效果。
如今,隨著計算機運算和存儲能力的提升,以及相應成本的下降,網(wǎng)絡化計算能力得到指數(shù)倍的提升。時下,隨便哪個網(wǎng)站都可能需要處理數(shù)量巨大的在線數(shù)據(jù),例如,當你使用谷歌在線翻譯,尋找英語單詞“l(fā)ight”是該翻譯成中文的“光”還是“輕”時,一瞬間谷歌就會檢索數(shù)十億頁的翻譯資料。
這個世界每年所創(chuàng)造的數(shù)據(jù)量正在以指數(shù)形式增長,去年,這一數(shù)字則達到了2.8ZB(1ZB=10244GB),聽起來很可怕吧?據(jù)知名信息行業(yè)咨詢服務商IDC稱,這一數(shù)字將在2015年翻一番。此外,這些數(shù)據(jù)中的3/4是由個人在創(chuàng)造或移動數(shù)字文件時貢獻的。
舉例來說,一個標準的美國“上班族”每年可以貢獻180萬MB的數(shù)據(jù)量,平均每天有約5000MB,其中包括下載的電影、文檔、電郵以及這些數(shù)據(jù)通過移動或非移動互聯(lián)網(wǎng)傳播時所產(chǎn)生的附加數(shù)據(jù)量。
在這種龐大的運算能力面前,此前似乎像散沙一樣不具備任何關聯(lián)性的海量數(shù)據(jù)得到了有效處理。面對一個個體生活不斷被互聯(lián)網(wǎng)信息化高度整合,甚至裹挾和綁架的時代,暫且不去討論大數(shù)據(jù)技術是否會淪為一個專制的惡政府的可怕工具,即便一個民主政體出于一個好的目的,但是,你永遠無法判斷結果的好壞,因為魔鬼永遠用一個好的理由將人們帶向地獄?!袄忡R”事件折射出的對個人隱私權的漠視,似乎正成為一個可怕結果的開始。
大數(shù)據(jù)可預測80周后你可能到達的位置
斯諾登揭露的“棱鏡”項目的重要特征是美國的“政商協(xié)作”。這種協(xié)作既包括政府購買服務(政府訂單和服務外包),也包括企業(yè)自愿或服從政府要求提供服務,以獲取政府信任和政商互動(如人員流轉)?!袄忡R”項目暴露出的戰(zhàn)略與技術咨詢提供商博思艾倫和與政府合作的九大互聯(lián)網(wǎng)公司,也是在此政商協(xié)作模式下工作的。
很明顯,美國政府與企業(yè)的數(shù)據(jù)情報合作是互惠性的。一方面,美國的互聯(lián)網(wǎng)大企業(yè)本身具有巨大的技術和資本優(yōu)勢,可以彌補政府開支的局限性,并增強國家情報的儲存和分析能力;另一方面,國家安全局為快速發(fā)現(xiàn)潛在可用情報而研發(fā)的最新算法和培養(yǎng)的新人才,可以反過來被高科技資本迅速利用,從而保持美國公司在全球信息技術領域的領先性。
Facebook已經(jīng)可以實現(xiàn)對個人信息收集的自動化與實時化,其首次公開募股時的財務檔案顯示,Facebook上每位用戶的圖片和視頻資料數(shù)據(jù)量約為111MB,而Facebook的用戶數(shù)如今已經(jīng)超過了10億,這可是整整100PB(1PB=10242GB)的個人信息數(shù)據(jù)。這意味著,可以獲得的個人數(shù)據(jù)量越多,其中的信息量就越大。只要擁有了足夠多的數(shù)據(jù),我們甚至可能發(fā)現(xiàn)關于一個人的未來信息。去年,來自美國羅徹斯特大學的亞當·薩迪克和來自微軟實驗室的工程師約翰·克拉姆發(fā)現(xiàn)他們可以大致預測一個人未來可能到達的位置,最多可以預測到80周后,其準確度高達80%。為此,他們收集了32000天里307個人和396輛車的GPS數(shù)據(jù)并建造了一個“大規(guī)模數(shù)據(jù)集”。
根據(jù)斯諾登提供的信息,美國國安局擁有的正是一套基于大數(shù)據(jù)的新型情報收集系統(tǒng),這套名為“無界爆料”的系統(tǒng),以30天為周期,可以從全球網(wǎng)絡系統(tǒng)中接收到970億條訊息,再通過比對信用卡或者通訊記錄等方式,能幾近真實地還原個人的實時狀況。
隨著數(shù)據(jù)越來越詳盡,數(shù)據(jù)挖掘和解讀的技術不斷提高,哪怕是個人生活最隱秘的部分也越來越趨于透明化。事實上,我們可以直接說數(shù)字化生存在很大程度上就是透明化生存,而且是透明化的程度在不斷地提高。隨著數(shù)據(jù)采集取樣越來越趨于詳實,對個人和群體行為趨勢的預判越來越準確。
潛在危險需要監(jiān)督制約
相比網(wǎng)絡之前的時代,時下的數(shù)據(jù)分析能力得到了空前的提升,但誰能保障大數(shù)據(jù)分析的準確性呢?我們可以回過頭去,看看電腦是如何得出這個結果的,或許可以查閱一下硬盤上的數(shù)據(jù),或許可以檢查一下一兩個程序代碼,來判斷其邏輯是否有誤。但在大數(shù)據(jù)時代,因為大數(shù)據(jù)算法和結構太過復雜,從外部沒有人能夠追溯錯誤的源頭。
維克多·梅耶·松博格與肯尼迪·古奇爾在他們合著的《大數(shù)據(jù):改變我們生活、工作、思考的革命》一書中,記錄了這樣一件事:在2004年美國國家安全局依賴大數(shù)據(jù)系統(tǒng),自動分析生成了一張禁止飛行的危險人物名單,但這一名單錯誤百出,甚至美國參議員也赫然在列。幸虧國家安全局一名算法師從內(nèi)部阻止了這張名單生效。
在這個故事中,我們可以看到大數(shù)據(jù)出錯的風險。在沒有有效的保障下,大數(shù)據(jù)分析系統(tǒng)可能變成一個不可說明、不可追蹤,甚至不可信的黑匣子。在這種情況下,大數(shù)據(jù)和政府治理一旦密切聯(lián)姻,可能將產(chǎn)生無數(shù)的受害者。試想一下,誰能真正保證“棱鏡”計劃制止的恐怖分子不會有錯誤呢?
在西方,消費者信息監(jiān)控已經(jīng)發(fā)展為一項規(guī)模達幾十億美元的產(chǎn)業(yè),其中的企業(yè)基本不受什么監(jiān)管,即使是有影響力的人物的個人信息,其賣價通常都不會超過一美元。在這種力量不平衡之下,手中掌握著更強大的數(shù)據(jù)分析能力的大公司以及更強大的政府,就擁有了自由利用這些信息而不受監(jiān)督的能力。
顯然,“棱鏡”折射出了這一潛在的危險。大數(shù)據(jù)時代的到來,要求我們必須建立一套新的監(jiān)督制衡機制來規(guī)范政府行為,建立一個更加開放的社會治理環(huán)境來減少大數(shù)據(jù)錯誤的危害。
在大數(shù)據(jù)時代之前,民眾可以以保密的方式來保護隱私,但今天人們在不知不覺間就透露了隱私。這就要求那些保存和管理信息的企業(yè)承擔更大的責任,這應該成為一種新的隱私保護模式:政府不應假定消費者在使用企業(yè)的通訊工具等產(chǎn)品時主動透露了自己的隱私,就意味著他們授權企業(yè)使用這些隱私。力量越大責任也越大,現(xiàn)在是那些掌控大數(shù)據(jù)的大企業(yè)和政府負起責任,構建一張更完善的安全網(wǎng)的時候了。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
訓練與驗證損失驟升:機器學習訓練中的異常診斷與解決方案 在機器學習模型訓練過程中,“損失曲線” 是反映模型學習狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數(shù)據(jù)生態(tài)中兩類核心工具的差異與協(xié)同 在數(shù)字化轉型加速的今天,企業(yè)對數(shù)據(jù)的需求已從 “存儲” 轉向 “ ...
2025-09-19CDA 數(shù)據(jù)分析師:讓統(tǒng)計基本概念成為業(yè)務決策的底層邏輯 統(tǒng)計基本概念是商業(yè)數(shù)據(jù)分析的 “基礎語言”—— 從描述數(shù)據(jù)分布的 “均 ...
2025-09-19CDA 數(shù)據(jù)分析師:表結構數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結構數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-19SQL Server 中 CONVERT 函數(shù)的日期轉換:從基礎用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關聯(lián)查詢效率:打破 “拆分必慢” 的認知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預期算子的內(nèi)涵、作用與應用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結構數(shù)據(jù)特征價值的專業(yè)核心 表結構數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結構化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應用 在數(shù)據(jù)分析與統(tǒng)計學領域,假設檢驗是驗證研究假設、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結構數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結構數(shù)據(jù)(以 “行 - 列” 存儲的結構化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結構數(shù)據(jù)價值的核心操盤手 表格結構數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務邏輯:從規(guī)則拆解到數(shù)據(jù)把關的實戰(zhàn)指南 在業(yè)務系統(tǒng)落地過程中,“業(yè)務邏輯” 是連接 “需求設計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11