
數(shù)據(jù)倉庫架構(gòu)設(shè)計的一點概念
1、數(shù)據(jù)倉庫所處環(huán)節(jié)
在一個成體系、結(jié)構(gòu)化的數(shù)據(jù)應(yīng)用場景下,數(shù)據(jù)和處理有四個層次: 操作層、數(shù)據(jù)倉庫層、部門/數(shù)據(jù)集市層、個體層。
操作層
操作層是指為具體業(yè)務(wù)提供實時響應(yīng)的各個業(yè)務(wù)系統(tǒng),比如常見的訂單系統(tǒng)、ERP、用戶中心等等具體業(yè)務(wù)系統(tǒng),這些系統(tǒng)中的數(shù)據(jù)一般都是存入關(guān)系型數(shù)據(jù)庫。它們是數(shù)據(jù)的來源。
數(shù)據(jù)倉庫收集操作層各個業(yè)務(wù)系統(tǒng)中的數(shù)據(jù),進行統(tǒng)一格式、統(tǒng)一計量單位,規(guī)整有序地組織在一起,為數(shù)據(jù)分析、數(shù)據(jù)挖掘等需求提供數(shù)據(jù)支持。
部門/數(shù)據(jù)集市層是各個部門根據(jù)自己的數(shù)據(jù)分析需求,從數(shù)據(jù)倉庫中抽取自己部門所關(guān)心的數(shù)據(jù)報表。
個體層
個體層中的不同角色個體有讀取不同數(shù)據(jù)的權(quán)限。
2、數(shù)據(jù)倉庫概念
數(shù)據(jù)倉庫是一個面向主題的、集成的、非易失的、隨時間變化的,用來支持管理人員決策的數(shù)據(jù)集合,數(shù)據(jù)倉庫中包含了粒度化的企業(yè)數(shù)據(jù)。
面向主題的
數(shù)據(jù)倉庫不同于傳統(tǒng)的操作型系統(tǒng),傳統(tǒng)的操作型系統(tǒng)中的數(shù)據(jù)是圍繞功能進行組織的,而數(shù)據(jù)倉庫是針對于某一個主題進行分析數(shù)據(jù)用的,比如針對于銷售主題、針對于客戶主題等等。
集成的
不同產(chǎn)品或者系統(tǒng)中的數(shù)據(jù)是分散在各自系統(tǒng)中的,并且格式不一致、計量單位不一致。而數(shù)據(jù)倉庫必須將多個分散的數(shù)據(jù)統(tǒng)一為一致的、無歧義的數(shù)據(jù)格式后,并解決了命名沖突、計量單位不一致等問題,然后將數(shù)據(jù)整合在一起,才能稱這個數(shù)據(jù)倉庫是集成的。
隨時間變化的
數(shù)據(jù)倉庫要體現(xiàn)出數(shù)據(jù)隨時間變化的情況,并且可以反映在過去某一個時間點上數(shù)據(jù)是什么樣子的,也就是隨時間變化的含義。而傳統(tǒng)的操作型系統(tǒng),只能保存當(dāng)前數(shù)據(jù),體現(xiàn)當(dāng)前的情況。
非易失的
非易失是指:數(shù)據(jù)一旦進入數(shù)據(jù)倉庫,就不能再被改變了,當(dāng)在操作型系統(tǒng)中把數(shù)據(jù)改變后,再進入數(shù)據(jù)倉庫就會產(chǎn)生新的記錄。這樣數(shù)據(jù)倉庫就保留了數(shù)據(jù)變化的軌跡。
3、一般架構(gòu)
1、 STAGE層
業(yè)務(wù)系統(tǒng)的數(shù)據(jù)接入到數(shù)據(jù)倉庫時,首先將業(yè)務(wù)數(shù)據(jù)倉儲到STAGE層中,Stage層作為一個臨時緩沖區(qū),并屏蔽對業(yè)務(wù)系統(tǒng)的干擾。
STAGE層中的表結(jié)構(gòu)和數(shù)據(jù)定義一般與業(yè)務(wù)系統(tǒng)保持一致。
Stage中的數(shù)據(jù)可以每次全量接入也可以每次增量接入,一般都有會數(shù)據(jù)老化的機制,不用長期保存。
Stage的數(shù)據(jù)不會對外部開放。
2、 ODS層
ODS才是數(shù)據(jù)倉庫真正意義上的基礎(chǔ)數(shù)據(jù),數(shù)據(jù)是被清洗過的,ODS層的數(shù)據(jù)是定義統(tǒng)一的、可以體現(xiàn)歷史的、被長期保存的數(shù)據(jù)。
ODS層的數(shù)據(jù)粒度與Stage層數(shù)據(jù)粒度是一致的。
Stage層中的數(shù)據(jù)是完全形式的源數(shù)據(jù),需要進行清洗才能進入ODS層,所以說ODS層是數(shù)據(jù)倉庫格式規(guī)整的基礎(chǔ)數(shù)據(jù),為上層服務(wù)。
3、 MDS層
MDS是數(shù)據(jù)倉庫中間層,數(shù)據(jù)是以主題域劃分的,并根據(jù)業(yè)務(wù)進行數(shù)據(jù)關(guān)聯(lián)形成寬表,但是不對數(shù)據(jù)進行聚合處理,MDS層數(shù)據(jù)為數(shù)據(jù)倉庫的上層的統(tǒng)計、分析、挖掘和應(yīng)用提供直接支持。
MDS層的數(shù)據(jù)也可以執(zhí)行一定的老化策略。
4、 ADS層
ADS層是數(shù)據(jù)倉庫的應(yīng)用層,一般以業(yè)務(wù)線或者部門劃分庫。這一層可以為各個業(yè)務(wù)線創(chuàng)建一個數(shù)據(jù)庫。
ADS層的數(shù)據(jù)是基于MDS層數(shù)據(jù)生成的業(yè)務(wù)報表數(shù)據(jù),可以直接作為數(shù)據(jù)倉庫的輸出導(dǎo)出到外部的操作型系統(tǒng)中(MySQL、MSSQL、Hbase、Elasticsearch等)。
5、 DIM層
DIM層是數(shù)據(jù)倉庫數(shù)據(jù)中,各層公用的維度數(shù)據(jù)。比如:省市縣數(shù)據(jù)。
6、 ETL調(diào)度系統(tǒng)
對接入數(shù)據(jù)倉庫的數(shù)據(jù)進行清洗、數(shù)據(jù)倉庫各層間數(shù)據(jù)流轉(zhuǎn)都需要大量的程序任務(wù)來操作,這些任務(wù)一般都是定時的,并且之間都是有前后依賴關(guān)系的,為了能保證任務(wù)的有序執(zhí)行,就需要一個ETL調(diào)度系統(tǒng)來管理。
7、 元數(shù)據(jù)管理系統(tǒng)
描述數(shù)據(jù)的數(shù)據(jù)叫做元數(shù)據(jù),元數(shù)據(jù)信息一般包括表名、表描述信息、所在數(shù)據(jù)庫、表結(jié)構(gòu)、存儲位置等基本信息,另外還有表之間的血緣關(guān)系信息、每天的增量信息、表結(jié)構(gòu)修改記錄信息等等。
數(shù)據(jù)倉庫中有大量的表,元數(shù)據(jù)管理系統(tǒng)就是用來收集、存儲、查詢數(shù)據(jù)倉庫中元數(shù)據(jù)的工具,這個系統(tǒng)為數(shù)據(jù)使用方提供了極大的便利。
4、設(shè)計的兩個重要問題1、 粒度
粒度是指數(shù)據(jù)倉庫中數(shù)據(jù)單元的細節(jié)程度或綜合程度的級別。粒度會深刻地影響數(shù)據(jù)量的大小以及數(shù)據(jù)倉庫的查詢能力。
細節(jié)程度越高,粒度級別就越低,查詢就越靈活;相反,細節(jié)程度越低,粒度級別就越高。
雙重粒度:
雙重粒度是存儲兩個粒度下的數(shù)據(jù):一個是全量的細節(jié)數(shù)據(jù);另一個是輕度綜合的數(shù)據(jù)。
2、 分區(qū)
數(shù)據(jù)分區(qū)是指把數(shù)據(jù)分散到可獨立處理的分離物理單元中去。恰當(dāng)?shù)剡M行分區(qū)可以給數(shù)據(jù)倉庫帶來多個方面的好處:
(1) 數(shù)據(jù)裝載 (2) 數(shù)據(jù)訪問 (3) 數(shù)據(jù)存檔 (4) 數(shù)據(jù)刪除 (5) 數(shù)據(jù)監(jiān)控 (6) 數(shù)據(jù)存儲
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03