
大數(shù)據(jù):用不用,怎么用_數(shù)據(jù)分析師
衛(wèi)星收集了那么多數(shù)據(jù),如果不用,那收集它干什么呢?如果只讓少數(shù)人關(guān)起門來用,那么這種保密是要防止什么呢?
大數(shù)據(jù)用于環(huán)境保護,科研人員開發(fā)新的森林映射工具,當大片森林被砍伐、被破壞時,工具將對監(jiān)視者發(fā)出聲響警告。
現(xiàn)在國內(nèi)大數(shù)據(jù)被叫得很響,但是空談比較多。我不喜歡空談,我想看到大數(shù)據(jù)的應(yīng)用實例。
4月16日的《科技縱覽》提醒列表(IEEE Spectrum Alert)發(fā)表一篇文章,介紹將大數(shù)據(jù)用于環(huán)境保護,科研人員開發(fā)了一個新的森林映射工具,當大片森林被砍伐、被破壞時,工具將對監(jiān)視者發(fā)出聲響警告。這引起了我的興趣。
這個由世界資源研究所開發(fā)的、名為Global Forest Watch(全球森林監(jiān)視)的在線工具,將大數(shù)據(jù)處理技術(shù)應(yīng)用于衛(wèi)星圖像,能夠隨時發(fā)現(xiàn)森林采伐和受損的情況。用戶通過它,可以探索全球地圖,發(fā)現(xiàn)自2000年以來森林的變化趨勢,同時可以考察森林情況,其精度可達30米。該地圖的熱帶區(qū)域每16天更新一次。用戶可以選擇“警報”功能,即當系統(tǒng)偵察到非法采伐或者森林火災(zāi)時將第一時間對你發(fā)出警報。
當森林中一棵大樹倒下,計算機將發(fā)出一個警告,給環(huán)保人士、研究人員和環(huán)境政策制定者。這事看似容易,實則不易。要從雜亂無章的特殊格式的衛(wèi)星數(shù)據(jù)里找到那塊特定的森林,然后從圖像上識別出剛剛倒下的那棵樹,隨即要實時發(fā)出警告推送給相關(guān)人員——這其中技術(shù)難點很多。
Global Forest Watch由谷歌地圖引擎提供技術(shù)支持,由美國NASA和美國地質(zhì)調(diào)查局的幾顆衛(wèi)星提供圖像數(shù)據(jù)。此前,谷歌開發(fā)了一個平臺,集中了千萬億字節(jié)的地球科學(xué)數(shù)據(jù),向研究人員開放,讓他們可以用簡單直接的方式來使用這些數(shù)據(jù)。谷歌地球引擎高級開發(fā)人員David Thau說:“用戶只要登錄、取出這些數(shù)據(jù)、運行他們自己的算法就可以了?!惫雀璧厍蛞娆F(xiàn)在已經(jīng)有數(shù)以千計的研究伙伴。
而谷歌森林監(jiān)視是一連串項目研究成果的集成。世界資源研究所的數(shù)據(jù)實驗室早就有一個熱點地區(qū)森林警報系統(tǒng),基于NASA兩個衛(wèi)星Terra和Aqua上的中等分辨率的分光輻射度計所測量的數(shù)據(jù)運行。美國馬里蘭大學(xué)一位地理科學(xué)Matthew Hansen教授與谷歌地球引擎合作,將NASA和美國地質(zhì)勘探局的幾個地球資源衛(wèi)星,用于全球森林監(jiān)視。前者能夠提供較好的時間分辨率,而后者則可以提供很好的空間分辨率。
2008年,美國地球資源衛(wèi)星數(shù)據(jù)可以自由使用了。每30米一個像素點,一共1430億個像素點,Hansen每月每年跟蹤這些點,發(fā)現(xiàn)根據(jù)季節(jié)的不同,它們的特征會呈現(xiàn)出正常的變化。Hansen的合作者于2013年11月發(fā)表了一個對剛果2000年至2012年消失的150萬平方公里森林的報告,他們在10000臺計算機上計算了一百萬CPU核小時。在云計算中,研究人員要考慮計算任務(wù)在整個網(wǎng)絡(luò)中的分布,而地球引擎的研究者只要用一個程序接口進入他們的問題,就能夠?qū)崿F(xiàn)自動并行化,十分簡便易行。為了建造公用的全球森林監(jiān)視網(wǎng)站,世界資源研究所計劃讓大眾都能取得這些大數(shù)據(jù),希望政府部門、商業(yè)界、研究人員和各種利益團體都能用這個工具,以得到森林管理的較好圖像。
通過這個報道,我有幾點感想:
一、大數(shù)據(jù)在這里得以應(yīng)用決定于三要素:衛(wèi)星、David Thau和Matthew Hansen。衛(wèi)星提供數(shù)據(jù),David Thau開發(fā)平臺,Matthew Hansen做數(shù)據(jù)分析。
二、衛(wèi)星是要用的。我們經(jīng)常聽到我國衛(wèi)星發(fā)射成功的消息,卻很少聽到衛(wèi)星被用上了的消息。我們的衛(wèi)星發(fā)射技術(shù)的確已經(jīng)過關(guān),而且已經(jīng)商業(yè)化。我們自己也發(fā)射了許多衛(wèi)星。但是,較少聽到衛(wèi)星做了什么用、對國民經(jīng)濟起了什么作用、衛(wèi)星數(shù)據(jù)可以供研究人員自由使用。
三、大數(shù)據(jù)的研究一定要有實際用處。用大數(shù)據(jù)做森林監(jiān)視就是一個很好的實例。每年我國森林火災(zāi)和非法砍伐時有發(fā)生,如果能實現(xiàn)自動監(jiān)測,并且實時給相關(guān)人員推送警示,那該多好?。】梢獙崿F(xiàn)這一步,還有許多工作要做——IT人員要提供工具,方便專業(yè)人員處理這些數(shù)據(jù);專業(yè)人員要研究他們自己的算法作出各種監(jiān)視的判斷。這真不容易??!
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
用 SQL 生成逆向回滾 SQL:數(shù)據(jù)操作的 “后悔藥” 指南? 在數(shù)據(jù)庫操作中,誤刪數(shù)據(jù)、錯改字段或誤執(zhí)行批量更新等問題時有發(fā)生。 ...
2025-07-14如何考取數(shù)據(jù)分析師證書:以 CDA 為例? ? 在數(shù)字化浪潮席卷各行各業(yè)的當下,數(shù)據(jù)分析師已然成為企業(yè)挖掘數(shù)據(jù)價值、驅(qū)動決策的 ...
2025-07-14t檢驗與Wilcoxon檢驗的選擇:何時用t.test,何時用wilcox.test? t 檢驗與 Wilcoxon 檢驗的選擇:何時用 t.test,何時用 wilcox. ...
2025-07-14AI 浪潮下的生存與進階: CDA數(shù)據(jù)分析師—開啟新時代職業(yè)生涯的鑰匙(深度研究報告、發(fā)展指導(dǎo)白皮書) 發(fā)布機構(gòu):CDA數(shù)據(jù)科 ...
2025-07-13LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07