
數(shù)據(jù)倉庫架構(gòu)設(shè)計(jì)的一點(diǎn)概念
1、數(shù)據(jù)倉庫所處環(huán)節(jié)
在一個(gè)成體系、結(jié)構(gòu)化的數(shù)據(jù)應(yīng)用場景下,數(shù)據(jù)和處理有四個(gè)層次: 操作層、數(shù)據(jù)倉庫層、部門/數(shù)據(jù)集市層、個(gè)體層。
操作層
操作層是指為具體業(yè)務(wù)提供實(shí)時(shí)響應(yīng)的各個(gè)業(yè)務(wù)系統(tǒng),比如常見的訂單系統(tǒng)、ERP、用戶中心等等具體業(yè)務(wù)系統(tǒng),這些系統(tǒng)中的數(shù)據(jù)一般都是存入關(guān)系型數(shù)據(jù)庫。它們是數(shù)據(jù)的來源。
數(shù)據(jù)倉庫收集操作層各個(gè)業(yè)務(wù)系統(tǒng)中的數(shù)據(jù),進(jìn)行統(tǒng)一格式、統(tǒng)一計(jì)量單位,規(guī)整有序地組織在一起,為數(shù)據(jù)分析、數(shù)據(jù)挖掘等需求提供數(shù)據(jù)支持。
部門/數(shù)據(jù)集市層是各個(gè)部門根據(jù)自己的數(shù)據(jù)分析需求,從數(shù)據(jù)倉庫中抽取自己部門所關(guān)心的數(shù)據(jù)報(bào)表。
個(gè)體層
個(gè)體層中的不同角色個(gè)體有讀取不同數(shù)據(jù)的權(quán)限。
2、數(shù)據(jù)倉庫概念
數(shù)據(jù)倉庫是一個(gè)面向主題的、集成的、非易失的、隨時(shí)間變化的,用來支持管理人員決策的數(shù)據(jù)集合,數(shù)據(jù)倉庫中包含了粒度化的企業(yè)數(shù)據(jù)。
面向主題的
數(shù)據(jù)倉庫不同于傳統(tǒng)的操作型系統(tǒng),傳統(tǒng)的操作型系統(tǒng)中的數(shù)據(jù)是圍繞功能進(jìn)行組織的,而數(shù)據(jù)倉庫是針對(duì)于某一個(gè)主題進(jìn)行分析數(shù)據(jù)用的,比如針對(duì)于銷售主題、針對(duì)于客戶主題等等。
集成的
不同產(chǎn)品或者系統(tǒng)中的數(shù)據(jù)是分散在各自系統(tǒng)中的,并且格式不一致、計(jì)量單位不一致。而數(shù)據(jù)倉庫必須將多個(gè)分散的數(shù)據(jù)統(tǒng)一為一致的、無歧義的數(shù)據(jù)格式后,并解決了命名沖突、計(jì)量單位不一致等問題,然后將數(shù)據(jù)整合在一起,才能稱這個(gè)數(shù)據(jù)倉庫是集成的。
隨時(shí)間變化的
數(shù)據(jù)倉庫要體現(xiàn)出數(shù)據(jù)隨時(shí)間變化的情況,并且可以反映在過去某一個(gè)時(shí)間點(diǎn)上數(shù)據(jù)是什么樣子的,也就是隨時(shí)間變化的含義。而傳統(tǒng)的操作型系統(tǒng),只能保存當(dāng)前數(shù)據(jù),體現(xiàn)當(dāng)前的情況。
非易失的
非易失是指:數(shù)據(jù)一旦進(jìn)入數(shù)據(jù)倉庫,就不能再被改變了,當(dāng)在操作型系統(tǒng)中把數(shù)據(jù)改變后,再進(jìn)入數(shù)據(jù)倉庫就會(huì)產(chǎn)生新的記錄。這樣數(shù)據(jù)倉庫就保留了數(shù)據(jù)變化的軌跡。
3、一般架構(gòu)
1、 STAGE層
業(yè)務(wù)系統(tǒng)的數(shù)據(jù)接入到數(shù)據(jù)倉庫時(shí),首先將業(yè)務(wù)數(shù)據(jù)倉儲(chǔ)到STAGE層中,Stage層作為一個(gè)臨時(shí)緩沖區(qū),并屏蔽對(duì)業(yè)務(wù)系統(tǒng)的干擾。
STAGE層中的表結(jié)構(gòu)和數(shù)據(jù)定義一般與業(yè)務(wù)系統(tǒng)保持一致。
Stage中的數(shù)據(jù)可以每次全量接入也可以每次增量接入,一般都有會(huì)數(shù)據(jù)老化的機(jī)制,不用長期保存。
Stage的數(shù)據(jù)不會(huì)對(duì)外部開放。
2、 ODS層
ODS才是數(shù)據(jù)倉庫真正意義上的基礎(chǔ)數(shù)據(jù),數(shù)據(jù)是被清洗過的,ODS層的數(shù)據(jù)是定義統(tǒng)一的、可以體現(xiàn)歷史的、被長期保存的數(shù)據(jù)。
ODS層的數(shù)據(jù)粒度與Stage層數(shù)據(jù)粒度是一致的。
Stage層中的數(shù)據(jù)是完全形式的源數(shù)據(jù),需要進(jìn)行清洗才能進(jìn)入ODS層,所以說ODS層是數(shù)據(jù)倉庫格式規(guī)整的基礎(chǔ)數(shù)據(jù),為上層服務(wù)。
3、 MDS層
MDS是數(shù)據(jù)倉庫中間層,數(shù)據(jù)是以主題域劃分的,并根據(jù)業(yè)務(wù)進(jìn)行數(shù)據(jù)關(guān)聯(lián)形成寬表,但是不對(duì)數(shù)據(jù)進(jìn)行聚合處理,MDS層數(shù)據(jù)為數(shù)據(jù)倉庫的上層的統(tǒng)計(jì)、分析、挖掘和應(yīng)用提供直接支持。
MDS層的數(shù)據(jù)也可以執(zhí)行一定的老化策略。
4、 ADS層
ADS層是數(shù)據(jù)倉庫的應(yīng)用層,一般以業(yè)務(wù)線或者部門劃分庫。這一層可以為各個(gè)業(yè)務(wù)線創(chuàng)建一個(gè)數(shù)據(jù)庫。
ADS層的數(shù)據(jù)是基于MDS層數(shù)據(jù)生成的業(yè)務(wù)報(bào)表數(shù)據(jù),可以直接作為數(shù)據(jù)倉庫的輸出導(dǎo)出到外部的操作型系統(tǒng)中(MySQL、MSSQL、Hbase、Elasticsearch等)。
5、 DIM層
DIM層是數(shù)據(jù)倉庫數(shù)據(jù)中,各層公用的維度數(shù)據(jù)。比如:省市縣數(shù)據(jù)。
6、 ETL調(diào)度系統(tǒng)
對(duì)接入數(shù)據(jù)倉庫的數(shù)據(jù)進(jìn)行清洗、數(shù)據(jù)倉庫各層間數(shù)據(jù)流轉(zhuǎn)都需要大量的程序任務(wù)來操作,這些任務(wù)一般都是定時(shí)的,并且之間都是有前后依賴關(guān)系的,為了能保證任務(wù)的有序執(zhí)行,就需要一個(gè)ETL調(diào)度系統(tǒng)來管理。
7、 元數(shù)據(jù)管理系統(tǒng)
描述數(shù)據(jù)的數(shù)據(jù)叫做元數(shù)據(jù),元數(shù)據(jù)信息一般包括表名、表描述信息、所在數(shù)據(jù)庫、表結(jié)構(gòu)、存儲(chǔ)位置等基本信息,另外還有表之間的血緣關(guān)系信息、每天的增量信息、表結(jié)構(gòu)修改記錄信息等等。
數(shù)據(jù)倉庫中有大量的表,元數(shù)據(jù)管理系統(tǒng)就是用來收集、存儲(chǔ)、查詢數(shù)據(jù)倉庫中元數(shù)據(jù)的工具,這個(gè)系統(tǒng)為數(shù)據(jù)使用方提供了極大的便利。
4、設(shè)計(jì)的兩個(gè)重要問題1、 粒度
粒度是指數(shù)據(jù)倉庫中數(shù)據(jù)單元的細(xì)節(jié)程度或綜合程度的級(jí)別。粒度會(huì)深刻地影響數(shù)據(jù)量的大小以及數(shù)據(jù)倉庫的查詢能力。
細(xì)節(jié)程度越高,粒度級(jí)別就越低,查詢就越靈活;相反,細(xì)節(jié)程度越低,粒度級(jí)別就越高。
雙重粒度:
雙重粒度是存儲(chǔ)兩個(gè)粒度下的數(shù)據(jù):一個(gè)是全量的細(xì)節(jié)數(shù)據(jù);另一個(gè)是輕度綜合的數(shù)據(jù)。
2、 分區(qū)
數(shù)據(jù)分區(qū)是指把數(shù)據(jù)分散到可獨(dú)立處理的分離物理單元中去。恰當(dāng)?shù)剡M(jìn)行分區(qū)可以給數(shù)據(jù)倉庫帶來多個(gè)方面的好處:
(1) 數(shù)據(jù)裝載 (2) 數(shù)據(jù)訪問 (3) 數(shù)據(jù)存檔 (4) 數(shù)據(jù)刪除 (5) 數(shù)據(jù)監(jiān)控 (6) 數(shù)據(jù)存儲(chǔ)
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03