
大數(shù)據(jù)了解氣候變化:它們是怎樣運(yùn)作的
氣候變化確實(shí)威脅著我們的星球,全球都應(yīng)感受到它的毀滅性后果。美國(guó)航空航天局(NASA)氣候模擬中心(NCCS)高性能計(jì)算負(fù)責(zé)人Daniel Duffy博士,介紹了大數(shù)據(jù)對(duì)氣候變化研究工作的至關(guān)重要性。
NCCS為大規(guī)模的NASA科學(xué)項(xiàng)目提供高性能計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)資源。其中許多項(xiàng)目涉及全地球性天氣和氣候模擬。這些模擬生成的海量數(shù)據(jù)是科學(xué)家永遠(yuǎn)讀取不完的。因此,益發(fā)有必要提供分析和觀察這些模擬產(chǎn)生的大數(shù)據(jù)集的方法,更深入了解氣候變化等重大科學(xué)問(wèn)題。
大數(shù)據(jù)和氣候變化:它們是怎樣運(yùn)作的?
大數(shù)據(jù)和氣候研究息息相關(guān);沒(méi)有海量數(shù)據(jù)就無(wú)法進(jìn)行氣候研究。
NCCS擁有名曰“探索號(hào)超級(jí)計(jì)算機(jī)”的計(jì)算機(jī)集群,主要目標(biāo)是提供必要的高性能計(jì)算和存儲(chǔ)環(huán)境,以滿足NASA科學(xué)項(xiàng)目的需求。探索號(hào)計(jì)算機(jī)正在開(kāi)展一系列不同的科學(xué)項(xiàng)目,其中的大部分計(jì)算和存儲(chǔ)資源被用于天氣與氣候研究。
探索號(hào)計(jì)算機(jī)是一種高性能計(jì)算機(jī),專門為極大規(guī)模緊密耦合的應(yīng)用而設(shè)計(jì),是硬軟件緊密結(jié)合和相互依存的系統(tǒng)。雖然該計(jì)算機(jī)沒(méi)有被用于從衛(wèi)星等遙感平臺(tái)采集數(shù)據(jù),但該計(jì)算機(jī)運(yùn)行的許多大氣、陸地和海洋模擬都需要觀測(cè)數(shù)據(jù)的輸入。使用探索號(hào)計(jì)算機(jī)的科學(xué)家不斷收集輸入其模型的全球性觀測(cè)數(shù)據(jù)。
然而,如果科學(xué)無(wú)法以有效手段觀測(cè)和比對(duì)數(shù)據(jù),即使向它們提供海量數(shù)據(jù)也毫無(wú)意義。NASA全球建模和模擬辦公室(GMAO)增強(qiáng)性動(dòng)畫(huà)就是這方面的范例,該辦公室利用多方來(lái)源的觀測(cè)信息驅(qū)動(dòng)天氣預(yù)報(bào)。
GMAO的GEOS-5數(shù)據(jù)模擬系統(tǒng)(DAS)將觀測(cè)信息與建模信息融合,以生成任何時(shí)間內(nèi)都最為精確和質(zhì)地統(tǒng)一的大氣圖像。每6小時(shí)的累計(jì)觀測(cè)超過(guò)500萬(wàn)次,并對(duì)氣溫、水、風(fēng)、地表壓力和臭氧層的變量進(jìn)行比對(duì)。模擬觀測(cè)分八大類型,每類對(duì)不同來(lái)源的變量進(jìn)行測(cè)量。
數(shù)據(jù)處理
氣候變化模型需要具有大量存儲(chǔ)和數(shù)據(jù)快速接入且數(shù)據(jù)不斷增加的計(jì)算資源。為滿足這一要求,探索號(hào)計(jì)算機(jī)由多個(gè)不同類型的處理器組成:79200個(gè)英特爾Xeon核心、28800個(gè)英特爾Phi核心和103680個(gè)NVIDIA圖像處理器(GPU)CUDA核心。
探索號(hào)計(jì)算機(jī)的總計(jì)算能力為3.36萬(wàn)億次,或每秒3,694,359,069,327,360次浮點(diǎn)運(yùn)算。為使大家更好地理解這一規(guī)模的計(jì)算能力,該計(jì)算機(jī)可在一秒鐘內(nèi)完成活在世上的每個(gè)人以每秒將兩個(gè)數(shù)字相乘的速度連續(xù)運(yùn)算近140個(gè)小時(shí)的運(yùn)算量。
除了計(jì)算能力外,探索號(hào)計(jì)算機(jī)還具有約33拍字節(jié)(petabyte)的磁盤(pán)存儲(chǔ)空間。典型的家庭硬盤(pán)容量為一兆兆(terabyte)字節(jié),因此,該計(jì)算機(jī)的存儲(chǔ)能力相當(dāng)于33000個(gè)這類磁盤(pán)。如果用它存儲(chǔ)音樂(lè),你可以編排一個(gè)長(zhǎng)度超過(guò)67000年而不重復(fù)的演奏清單。
NCCS每年都對(duì)探索號(hào)計(jì)算機(jī)進(jìn)行升級(jí)。隨著其服務(wù)器和存儲(chǔ)的老化,在四或五年后替換而不是繼續(xù)運(yùn)行部分設(shè)備實(shí)際上能夠提高效率。例如2014年年底至2015年年初利用升級(jí)的計(jì)算機(jī)群取代了探索號(hào)計(jì)算機(jī)2010年升級(jí)的設(shè)備。在地面空間、功率和冷卻包絡(luò)相同的情況下,升級(jí)后的NCCS可將計(jì)算能力提高約7倍。退役設(shè)備通常會(huì)轉(zhuǎn)變用途,用于內(nèi)部支持和其他業(yè)務(wù)或大學(xué)等外部站點(diǎn),包括馬里蘭大學(xué)巴爾的摩分校(UMBC)和喬治梅森大學(xué)(GMU)。
數(shù)據(jù)映射:氣候變化與預(yù)測(cè)
NCCS生成的數(shù)據(jù)推動(dòng)了不同重要研究和政策文件的起草工作。
這一數(shù)據(jù)使人們能夠就我們星球的氣候變化影響進(jìn)行更知情的對(duì)話,并有助于決策機(jī)構(gòu)針對(duì)氣候預(yù)測(cè)制定出適用戰(zhàn)略與行動(dòng)。例如,該數(shù)據(jù)已被用于氣候變化專門委員會(huì)(IPCC)推出的評(píng)估報(bào)告。NCCS從事和NASA科學(xué)可視化工作室觀測(cè)的數(shù)據(jù)模擬,介紹了IPCC第五次評(píng)估報(bào)告提出的氣候模型,對(duì)氣候和降雨預(yù)計(jì)在整個(gè)21世紀(jì)的變化方式做了說(shuō)明。
于2005年襲擊了美國(guó)墨西哥灣沿岸的卡特里娜颶風(fēng)突顯了準(zhǔn)確預(yù)報(bào)的重要性。雖然它造成了巨大損失,但要不是預(yù)警預(yù)報(bào)給人們留出了適當(dāng)準(zhǔn)備時(shí)間,損失就會(huì)嚴(yán)重得多。如今,NCCS的超級(jí)計(jì)算機(jī)主要負(fù)責(zé)GMAO全球環(huán)流建模,其分辨率比卡特里娜颶風(fēng)時(shí)提高了10倍,因而能夠更準(zhǔn)確地觀察颶風(fēng)內(nèi)部,并有助于對(duì)其強(qiáng)度和規(guī)模做出更精確的估計(jì)。這意味著氣象學(xué)家能夠更深入地了解颶風(fēng)的走向及其內(nèi)部活動(dòng),這對(duì)于就卡特里娜颶風(fēng)這類極端天氣做出成功規(guī)劃和準(zhǔn)備至關(guān)重要。
此外,觀測(cè)系統(tǒng)模擬試驗(yàn)(OSSE)還利用全球氣候模型的輸出成果模擬NASA提出的下一代遙感平臺(tái),從而向科學(xué)家和工程師提供了虛擬地球,以便在制作新的感應(yīng)器或衛(wèi)星之前研究大氣遙測(cè)的新優(yōu)勢(shì)。
未來(lái)的氣候變化數(shù)據(jù)
數(shù)據(jù)是NASA的主要產(chǎn)品。衛(wèi)星、儀表、計(jì)算機(jī)甚至人員都可能頻繁進(jìn)出NASA,但數(shù)據(jù)尤其是地球觀測(cè)數(shù)據(jù)具有永駐價(jià)值。因此,NASA必須不僅讓其他NASA的站點(diǎn)和科學(xué)家,而且要讓全球都用上它生成的數(shù)據(jù)。
僅時(shí)時(shí)生成的數(shù)據(jù)量就構(gòu)成了一大挑戰(zhàn)。在研究系統(tǒng)的科學(xué)家都難以使用數(shù)據(jù)集的今天,NASA以外的人們獲得可用數(shù)據(jù)更是難上加難。因此,我們開(kāi)始研究創(chuàng)建一項(xiàng)氣候分析服務(wù)(CAaaS),將高性能計(jì)算、數(shù)據(jù)和應(yīng)用編程接口(API)相結(jié)合,以便為在現(xiàn)場(chǎng)與數(shù)據(jù)共同運(yùn)行的分析程序提供接口。換句話說(shuō),用戶可就他們關(guān)心的問(wèn)題提問(wèn),并利用NASA系統(tǒng)的運(yùn)行進(jìn)行分析,隨后將分析結(jié)果返回用戶。由于分析結(jié)果的規(guī)模小于生成它的原始數(shù)據(jù),這一系統(tǒng)將減少經(jīng)不同網(wǎng)絡(luò)傳送的數(shù)據(jù)量,而更重要的是,API可以大大減少用戶和數(shù)據(jù)間的摩擦
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無(wú)論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫(kù)管理中,“大表” 始終是性能優(yōu)化繞不開(kāi)的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫(kù)表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開(kāi)始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫(kù)表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫(kù))處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤(pán)手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開(kāi)發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤(pán)手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫(kù)表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問(wèn)題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長(zhǎng)浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問(wèn)題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營(yíng)問(wèn)題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過(guò)程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營(yíng)銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見(jiàn)頂” 的當(dāng)下,精準(zhǔn)營(yíng)銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場(chǎng)景中,聚類分析作為 “無(wú)監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡(jiǎn)單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10