
對付大數據的小伎倆
大數據是當前的熱門話題。各行各業(yè),到處都有人談論大數據。就人的基因來說,大數據這部“天書”總共30億個字。在檢驗過程中,為了不看走眼大數據,保證結論準確可靠,慣例是每一個字檢驗30次以上。因為30億的數據量實在太大,需要通過相當程度的重復來排除錯誤。為了把一個人的基因通讀一遍,得念1000億個字,真真的就是大數據。
先不說如何分析、解讀這部書,如何理解全書或者它的某些章節(jié)、段落的含意。挖掘大數據所蘊含的寶藏是一個難題。生物信息學是當今的熱門專業(yè),非常搶手。我們只看第一步,生物學家要動用什麼樣的心思和手段,才能把這套數據拿到手。
基因技術上的改進共有3次,但是遠遠沒有到達終點。
最初的技術,一次只能讀100個字。100對1000億,那是愚公移山。於是人們著手改進技術,增加長度。成就也不能說沒有,終於可以從100個讀到1000個了,手工操作也改成機器自動化了。十年過去,提高了十倍。然而,1000是該技術的極限,再也難以延長。
這時,有人想到了把基因分成小組。大數據不好對付,分班分組可以減輕負擔。首先把基因切斷成大片段,再想辦法將這些大片段復制幾萬份,滿足后續(xù)操作需要;然后分頭檢測各個片段。拿到數據后,先把大片段組裝出來,作為骨架;再用骨架搭出整個基因組。
這里頭的每一步都是可以做到的,人們努力的方向自然而然就從增加讀長改成了增加基因片段的長度。增加長度很容易,但是長片段的復制是一個問題,操作繁瑣,速度簡直就是烏龜爬。
面對這種窘境,文特爾想起了獵鳥。身處曠野,鳥兒的個頭實在是太小了。它們飛在空中,即使看見了,打下來也不容易。霰彈槍是對付飛鳥的有效武器。一打一片,碰到鳥兒的機會比較多。基因散布在數據的汪洋大海中,要抓住同樣不容易。也許霰彈槍也是對付基因的一個辦法?文特爾的想法是跳過困難的長片段復制,把基因打成更短的片段,直接測序。短片段的復制比較容易,好比霰彈;短片段拼基因組,好比拼圖游戲。
突然有人提出這樣的胡思亂想,冀求朝天胡亂放一槍就碰到個把基因,完全不被看好。鳥槍法遭致一片反對。由於申請不到經費,文特爾干脆自己動手,成立了一家公司,與官方研究機構展開競賽。他們很快就測定了果蠅和人類的基因,速度之快,可比兔子。號稱可以與阿波羅登月計劃相媲美的人類基因組計劃,在鳥槍法加入競爭之后,迅速完成了。當美國總統宣布該計劃完工的時候,當初申請不到經費的人也站在克林頓旁邊。
從此,所有人都倒向鳥槍法。
每次只拿一條序列,速度還是成問題。人基因組計劃歷時10年,光文特爾的私人公司就花了10億美金,只測出一個人的基因。還有誰能付得起這樣的代價呢?於是,提高規(guī)模就成了緊迫的任務。如果一次檢驗能拿到幾百萬條序列,讀基因不就像讀小說了嗎?這一看似不可能的夢想,人們還真的通過平行測序做到了。但是任何事情都有兩面。為了實現超大規(guī)模,就不得不犧牲長度,由1000倒退回100。新技術剛起步的時候還要短,只有區(qū)區(qū)35個字,簡直令人齒冷。盡管長度短,數據總量卻不少,是原來的6百萬倍??块L度35的片段居然能拼出基因組,不能不令人驚嘆?;蚣夹g終於跨出了一大步,被尊為第二代。
官二代、富二代,都不如基因技術第二代。這一跨越留給人們的印象實在太深了,流風余韻,以至今天,盡管二代技術的長度能輕松達到兩三百,還是經常有人問:你們還做35嗎?
片段化看似笨拙、凌亂,沒有效率,卻是快刀斬亂麻地解決復雜問題、對付大數據的不二法門。我們做美味的獅子頭,要把五花肉亂刀剁碎。被剁碎的基因組,味道也很鮮美。
創(chuàng)新沒有止境。新技術雖然大獲成功,但是讀長實在短了點,對不住人,數據組裝相當吃力。那是用筷子拼出京廣線的活兒,計算機都是一屋子、一屋子地擺著,蔚為壯觀,也令人望洋興嘆。如何提高效率呢?人們又想起了基因分組的老黃歷。把基因切成大片段后,分別做好標記,各自處理成二代測序所要求的長短,再混合起來一起測序。在數據組裝的時候,先按記號分別組裝,形成骨架,再用骨架進行第二輪組裝。本來一步完成的任務,現在分成兩步,計算機的負擔大大降低。想出這個金點子的人也成立了一家公司,總共只有6名員工。小公司被大公司收購,花費1.6億美元。
看完近30年來基因技術的發(fā)展歷程,你也許很不服氣:這算什麼,也不過大蟲拿人,只是一撲、一掀、一剪;對付基因組,只有延長、分組、拼圖三招,程咬金的三板斧,來回折騰。是的,治大國若烹小鮮,對付大數據,要用小片段。
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
訓練與驗證損失驟升:機器學習訓練中的異常診斷與解決方案 在機器學習模型訓練過程中,“損失曲線” 是反映模型學習狀態(tài)的核心指 ...
2025-09-19解析 DataHub 與 Kafka:數據生態(tài)中兩類核心工具的差異與協同 在數字化轉型加速的今天,企業(yè)對數據的需求已從 “存儲” 轉向 “ ...
2025-09-19CDA 數據分析師:讓統計基本概念成為業(yè)務決策的底層邏輯 統計基本概念是商業(yè)數據分析的 “基礎語言”—— 從描述數據分布的 “均 ...
2025-09-19CDA 數據分析師:表結構數據 “獲取 - 加工 - 使用” 全流程的賦能者 表結構數據(如數據庫表、Excel 表、CSV 文件)是企業(yè)數字 ...
2025-09-19SQL Server 中 CONVERT 函數的日期轉換:從基礎用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數據處理中,日期格式轉換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關聯查詢效率:打破 “拆分必慢” 的認知誤區(qū) 在 MySQL 數據庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18DSGE 模型中的 Et:理性預期算子的內涵、作用與應用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數據分析師:解鎖表結構數據特征價值的專業(yè)核心 表結構數據(以 “行 - 列” 規(guī)范存儲的結構化數據,如數據庫表、Excel 表、 ...
2025-09-17Excel 導入數據含缺失值?詳解 dropna 函數的功能與實戰(zhàn)應用 在用 Python(如 pandas 庫)處理 Excel 數據時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應用 在數據分析與統計學領域,假設檢驗是驗證研究假設、判斷數據差異是否 “ ...
2025-09-16CDA 數據分析師:掌控表格結構數據全功能周期的專業(yè)操盤手 表格結構數據(以 “行 - 列” 存儲的結構化數據,如 Excel 表、數據 ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網絡請求開發(fā)時(如使用requests ...
2025-09-15CDA 數據分析師:激活表格結構數據價值的核心操盤手 表格結構數據(如 Excel 表格、數據庫表)是企業(yè)最基礎、最核心的數據形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調用、數據爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數據的科學計數法問題 為幫助 Python 數據從業(yè)者解決pd.read_csv讀取長浮點數據時的科學計數法問題 ...
2025-09-12CDA 數據分析師:業(yè)務數據分析步驟的落地者與價值優(yōu)化者 業(yè)務數據分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務邏輯:從規(guī)則拆解到數據把關的實戰(zhàn)指南 在業(yè)務系統落地過程中,“業(yè)務邏輯” 是連接 “需求設計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數據驅動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11