
創(chuàng)建大數(shù)據(jù)項目的五大步驟
企業(yè)需要積極的提升他們的數(shù)據(jù)管理能力。這并非意味著他們應(yīng)該制定繁瑣的流程和監(jiān)督機制。明智的企業(yè)會配合他們的數(shù)據(jù)活動的生命周期制定靈活的流程和功能:根據(jù)業(yè)務(wù)需求啟動更輕更嚴(yán)格、更強大的功能,并根據(jù)需求的增加來提升質(zhì)量或精度。
一些企業(yè)正在利用新興技術(shù)來應(yīng)對新的數(shù)據(jù)源,但大多數(shù)企業(yè)仍然面臨著需要努力管理好他們已經(jīng)掌握或者應(yīng)當(dāng)掌握的數(shù)據(jù)信息的困境,而當(dāng)他們試圖部署大數(shù)據(jù)功能時,發(fā)現(xiàn)自己還需要面對和處理新的以及當(dāng)下實時的數(shù)據(jù)。
為了能夠?qū)崿F(xiàn)持久成功的大數(shù)據(jù)項目,企業(yè)需要把重點放在如下五個主要領(lǐng)域。
1、確立明確的角色分工和職責(zé)范圍。
對于您企業(yè)環(huán)境中的所有的數(shù)據(jù)信息,您需要對于這些數(shù)據(jù)信息所涉及的關(guān)鍵利益相關(guān)者、決策者有一個清晰的了解和把控。當(dāng)數(shù)據(jù)信息在企業(yè)的系統(tǒng)傳輸過程中及其整個生命周期中,角色分工將發(fā)生變化,而企業(yè)需要對這些變化有一個很好的理解。當(dāng)企業(yè)開始部署大數(shù)據(jù)項目之后,務(wù)必要明確識別相關(guān)數(shù)據(jù)的關(guān)鍵利益相關(guān)者,并做好這些數(shù)據(jù)信息的完善和迭代工作。
2、加強企業(yè)的數(shù)據(jù)治理和數(shù)據(jù)管理功能。
確保您企業(yè)的進程足夠強大,能夠滿足和支持大數(shù)據(jù)用戶和大數(shù)據(jù)技術(shù)的需求。進程可以是靈活的,并應(yīng)充分考慮到業(yè)務(wù)部門和事務(wù)部門的需求,這些部門均伴有不同程度的嚴(yán)謹(jǐn)性和監(jiān)督要求。
確保您企業(yè)的參考信息架構(gòu)已經(jīng)更新到包括大數(shù)據(jù)。這樣做會給未來的項目打好最好的使用大數(shù)據(jù)技術(shù)和適當(dāng)?shù)男畔⒐芾砟芰Φ幕A(chǔ)。
確保您企業(yè)的元數(shù)據(jù)管理功能足夠強大,能夠包括并關(guān)聯(lián)所有的基本元數(shù)據(jù)組件。隨著時間的推移,進行有序的分類,滿足業(yè)務(wù)規(guī)范。
一旦您開始在您企業(yè)的生產(chǎn)部門推廣您的解決方案時,您會希望他們長期持續(xù)的使用該解決方案,所以對架構(gòu)功能的定義并監(jiān)督其發(fā)揮的作用是至關(guān)重要的。確保您企業(yè)的治理流程包括IT控制的角色,以幫助企業(yè)的利益相關(guān)者們進行引導(dǎo)項目,以最佳地利用這些數(shù)據(jù)信息。其還應(yīng)該包括您企業(yè)的安全和法務(wù)團隊。根據(jù)我們的經(jīng)驗,使用現(xiàn)有的監(jiān)督機制能夠達到最佳的工作狀態(tài),只要企業(yè)實施了大數(shù)據(jù)應(yīng)用,并專注于快速在進程中處理應(yīng)用程序,而不是阻礙進程的通過。
3、了解環(huán)境中的數(shù)據(jù)的目的和要求的精度水平,并相應(yīng)地調(diào)整您企業(yè)的期望值和流程。
無論其是一個POC,或一個已經(jīng)進入主流業(yè)務(wù)流程的項目,請務(wù)必確保您對于期望利用這些數(shù)據(jù)來執(zhí)行什么任務(wù),及其質(zhì)量和精度處于何種級別有一個非常清晰的了解。這種方法將使得企業(yè)的項目能夠?qū)ふ业秸_的數(shù)據(jù)來源和利益相關(guān)者,以更好地評估這些數(shù)據(jù)信息的價值和影響,進而讓您決定如何最好地管理這些數(shù)據(jù)信息。更高的質(zhì)量和精度則要求更強大的數(shù)據(jù)管理和監(jiān)督能力。
隨著您企業(yè)大數(shù)據(jù)項目的日趨成熟,考慮建立一套按照數(shù)據(jù)質(zhì)量或精確度分類的辦法,這將使得數(shù)據(jù)用戶得以更好的了解他們所使用的是什么,并相應(yīng)地調(diào)整自己的期望值。例如,您可以使用白色、藍色或金色來分別代表原始數(shù)據(jù)、清理過的數(shù)據(jù),經(jīng)過驗證可以有針對性的支持分析和使用的數(shù)據(jù)。有些企業(yè)甚至進一步完善了這一分類方法:將數(shù)據(jù)從1到5進行分類,其中1是原始數(shù)據(jù),而5是便于理解,經(jīng)過整理的、有組織的數(shù)據(jù)。
4、將對非結(jié)構(gòu)化的內(nèi)容的管理納入到您企業(yè)的數(shù)據(jù)管理能力。
非結(jié)構(gòu)化數(shù)據(jù)一直是企業(yè)業(yè)務(wù)運營的一部分,但既然現(xiàn)在我們已經(jīng)有了更好的技術(shù)來探索,分析和這些非結(jié)構(gòu)化的內(nèi)容,進而幫助改善業(yè)務(wù)流程和工業(yè)務(wù)洞察,所以我們最終將其正式納入我們的數(shù)據(jù)管理是非常重要的。大多數(shù)企業(yè)目前都被困在了這一步驟。
數(shù)據(jù)庫中基本的、非結(jié)構(gòu)化的數(shù)據(jù)是以評論的形式或者自由的形式存在的,其至少是數(shù)據(jù)庫的一部分,應(yīng)該被納入到數(shù)據(jù)管理。但挖掘這些數(shù)據(jù)信息則是非常難的。
數(shù)字?jǐn)?shù)據(jù)存儲在傳統(tǒng)的結(jié)構(gòu)化數(shù)據(jù)庫和業(yè)務(wù)流程外,很少有許多的治理范圍分組和數(shù)據(jù)管理的實現(xiàn),除了當(dāng)其被看作是一個技術(shù)問題時。一般來說,除了嚴(yán)格遵守相關(guān)的安全政策,今天的企業(yè)尚未對其進行真正有效的管理。當(dāng)您的企業(yè)開始大跨步實現(xiàn)了大數(shù)據(jù)項目之后,您會發(fā)現(xiàn)這一類型的數(shù)據(jù)信息迅速進入了您需要管理的范疇,其輸出會影響您企業(yè)的商業(yè)智能解決方案或者甚至是您企業(yè)的業(yè)務(wù)活動。積極的考慮將這些數(shù)據(jù)納入到您企業(yè)的數(shù)據(jù)管理功能的范圍,并明確企業(yè)的所有權(quán),并記錄好這些數(shù)據(jù)信息的諸如如何使用、信息來源等等資料。
不要采取“容易的輕松路線”,單純依靠大數(shù)據(jù)技術(shù)是您企業(yè)唯一正式的非結(jié)構(gòu)化數(shù)據(jù)管理的過程。隨著時間的推移,企業(yè)將收集越來越多的非結(jié)構(gòu)化數(shù)據(jù),請務(wù)必搞清楚哪些數(shù)據(jù)是好的,哪些是壞的,他們分別來自何處,以及其使用是否一致,將變得越來越重要,甚至在其生命周期使用這個數(shù)據(jù)都是至關(guān)重要的。
要保持這種清晰,您可以使用大數(shù)據(jù)和其他工具,以了解您企業(yè)所收集的數(shù)據(jù)信息,確定其有怎樣的價值,需要怎樣的管理,這是至關(guān)重要的。大多數(shù)進入您企業(yè)的大數(shù)據(jù)系統(tǒng)的非結(jié)構(gòu)化數(shù)據(jù)都已經(jīng)經(jīng)過一些監(jiān)控了,但通常是作為一個BLOB(binarylargeobject)二進制大對象和非結(jié)構(gòu)化的形式進行的。隨著您的企業(yè)不斷的在您的業(yè)務(wù)流程中“發(fā)掘”出這一類型的數(shù)據(jù),其變得更加精確和有價值。其可能還具有額外的特點,符合安全,隱私或法律和法規(guī)的元素要求。最終,這些數(shù)據(jù)塊可以成為新的數(shù)據(jù)元素或添加到現(xiàn)有的數(shù)據(jù),但您必須有元數(shù)據(jù)對其進行描述和管理,以便盡可能最有效地利用這些數(shù)據(jù)。
5、正式在生產(chǎn)環(huán)境運行之前進行測試。
如果您的企業(yè)做的是一次性的分析或完整的一次性的試點,這可能并不適用于您的企業(yè),但對大多數(shù)企業(yè)來說,他們最初的大數(shù)據(jù)工作將迅速發(fā)展,他們找到一個可持續(xù)利用他們已經(jīng)挖掘出的極具價值的信息的需求。這意味著需要在您的沙箱環(huán)境中進行測試,然后才正式的在您的生產(chǎn)環(huán)境運。
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗是驗證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10