數(shù)據(jù)倉庫架構設計的一點概念

1、數(shù)據(jù)倉庫所處環(huán)節(jié)

在一個成體系、結(jié)構化的數(shù)據(jù)應用場景下，數(shù)據(jù)和處理有四個層次： 操作層、數(shù)據(jù)倉庫層、部門/數(shù)據(jù)集市層、個體層。

操作層

操作層是指為具體業(yè)務提供實時響應的各個業(yè)務系統(tǒng)，比如常見的訂單系統(tǒng)、ERP、用戶中心等等具體業(yè)務系統(tǒng)，這些系統(tǒng)中的數(shù)據(jù)一般都是存入關系型數(shù)據(jù)庫。它們是數(shù)據(jù)的來源。

數(shù)據(jù)倉庫

數(shù)據(jù)倉庫收集操作層各個業(yè)務系統(tǒng)中的數(shù)據(jù)，進行統(tǒng)一格式、統(tǒng)一計量單位，規(guī)整有序地組織在一起，為數(shù)據(jù)分析、數(shù)據(jù)挖掘等需求提供數(shù)據(jù)支持。

數(shù)據(jù)集市

部門/數(shù)據(jù)集市層是各個部門根據(jù)自己的數(shù)據(jù)分析需求，從數(shù)據(jù)倉庫中抽取自己部門所關心的數(shù)據(jù)報表。

個體層

個體層中的不同角色個體有讀取不同數(shù)據(jù)的權限。

2、數(shù)據(jù)倉庫概念

數(shù)據(jù)倉庫是一個面向主題的、集成的、非易失的、隨時間變化的，用來支持管理人員決策的數(shù)據(jù)集合，數(shù)據(jù)倉庫中包含了粒度化的企業(yè)數(shù)據(jù)。

面向主題的

數(shù)據(jù)倉庫不同于傳統(tǒng)的操作型系統(tǒng)，傳統(tǒng)的操作型系統(tǒng)中的數(shù)據(jù)是圍繞功能進行組織的，而數(shù)據(jù)倉庫是針對于某一個主題進行分析數(shù)據(jù)用的，比如針對于銷售主題、針對于客戶主題等等。

集成的

不同產(chǎn)品或者系統(tǒng)中的數(shù)據(jù)是分散在各自系統(tǒng)中的，并且格式不一致、計量單位不一致。而數(shù)據(jù)倉庫必須將多個分散的數(shù)據(jù)統(tǒng)一為一致的、無歧義的數(shù)據(jù)格式后，并解決了命名沖突、計量單位不一致等問題，然后將數(shù)據(jù)整合在一起，才能稱這個數(shù)據(jù)倉庫是集成的。

隨時間變化的

數(shù)據(jù)倉庫要體現(xiàn)出數(shù)據(jù)隨時間變化的情況，并且可以反映在過去某一個時間點上數(shù)據(jù)是什么樣子的，也就是隨時間變化的含義。而傳統(tǒng)的操作型系統(tǒng)，只能保存當前數(shù)據(jù)，體現(xiàn)當前的情況。

非易失的

非易失是指：數(shù)據(jù)一旦進入數(shù)據(jù)倉庫，就不能再被改變了，當在操作型系統(tǒng)中把數(shù)據(jù)改變后，再進入數(shù)據(jù)倉庫就會產(chǎn)生新的記錄。這樣數(shù)據(jù)倉庫就保留了數(shù)據(jù)變化的軌跡。

3、一般架構

1、 STAGE層

業(yè)務系統(tǒng)的數(shù)據(jù)接入到數(shù)據(jù)倉庫時，首先將業(yè)務數(shù)據(jù)倉儲到STAGE層中，Stage層作為一個臨時緩沖區(qū)，并屏蔽對業(yè)務系統(tǒng)的干擾。 
STAGE層中的表結(jié)構和數(shù)據(jù)定義一般與業(yè)務系統(tǒng)保持一致。 
Stage中的數(shù)據(jù)可以每次全量接入也可以每次增量接入，一般都有會數(shù)據(jù)老化的機制，不用長期保存。 
Stage的數(shù)據(jù)不會對外部開放。

2、 ODS層

ODS才是數(shù)據(jù)倉庫真正意義上的基礎數(shù)據(jù)，數(shù)據(jù)是被清洗過的，ODS層的數(shù)據(jù)是定義統(tǒng)一的、可以體現(xiàn)歷史的、被長期保存的數(shù)據(jù)。 
ODS層的數(shù)據(jù)粒度與Stage層數(shù)據(jù)粒度是一致的。 
Stage層中的數(shù)據(jù)是完全形式的源數(shù)據(jù)，需要進行清洗才能進入ODS層，所以說ODS層是數(shù)據(jù)倉庫格式規(guī)整的基礎數(shù)據(jù)，為上層服務。

3、 MDS層

MDS是數(shù)據(jù)倉庫中間層，數(shù)據(jù)是以主題域劃分的，并根據(jù)業(yè)務進行數(shù)據(jù)關聯(lián)形成寬表，但是不對數(shù)據(jù)進行聚合處理，MDS層數(shù)據(jù)為數(shù)據(jù)倉庫的上層的統(tǒng)計、分析、挖掘和應用提供直接支持。 
MDS層的數(shù)據(jù)也可以執(zhí)行一定的老化策略。

4、 ADS層

ADS層是數(shù)據(jù)倉庫的應用層，一般以業(yè)務線或者部門劃分庫。這一層可以為各個業(yè)務線創(chuàng)建一個數(shù)據(jù)庫。 
ADS層的數(shù)據(jù)是基于MDS層數(shù)據(jù)生成的業(yè)務報表數(shù)據(jù)，可以直接作為數(shù)據(jù)倉庫的輸出導出到外部的操作型系統(tǒng)中（MySQL、MSSQL、Hbase、Elasticsearch等）。

5、 DIM層

DIM層是數(shù)據(jù)倉庫數(shù)據(jù)中，各層公用的維度數(shù)據(jù)。比如：省市縣數(shù)據(jù)。

6、 ETL調(diào)度系統(tǒng)

對接入數(shù)據(jù)倉庫的數(shù)據(jù)進行清洗、數(shù)據(jù)倉庫各層間數(shù)據(jù)流轉(zhuǎn)都需要大量的程序任務來操作，這些任務一般都是定時的，并且之間都是有前后依賴關系的，為了能保證任務的有序執(zhí)行，就需要一個ETL調(diào)度系統(tǒng)來管理。

7、 元數(shù)據(jù)管理系統(tǒng)

描述數(shù)據(jù)的數(shù)據(jù)叫做元數(shù)據(jù)，元數(shù)據(jù)信息一般包括表名、表描述信息、所在數(shù)據(jù)庫、表結(jié)構、存儲位置等基本信息，另外還有表之間的血緣關系信息、每天的增量信息、表結(jié)構修改記錄信息等等。 
數(shù)據(jù)倉庫中有大量的表，元數(shù)據(jù)管理系統(tǒng)就是用來收集、存儲、查詢數(shù)據(jù)倉庫中元數(shù)據(jù)的工具，這個系統(tǒng)為數(shù)據(jù)使用方提供了極大的便利。

4、設計的兩個重要問題1、 粒度

粒度是指數(shù)據(jù)倉庫中數(shù)據(jù)單元的細節(jié)程度或綜合程度的級別。粒度會深刻地影響數(shù)據(jù)量的大小以及數(shù)據(jù)倉庫的查詢能力。 
細節(jié)程度越高，粒度級別就越低，查詢就越靈活；相反，細節(jié)程度越低，粒度級別就越高。 
雙重粒度： 
雙重粒度是存儲兩個粒度下的數(shù)據(jù)：一個是全量的細節(jié)數(shù)據(jù)；另一個是輕度綜合的數(shù)據(jù)。

2、 分區(qū)

數(shù)據(jù)分區(qū)是指把數(shù)據(jù)分散到可獨立處理的分離物理單元中去。恰當?shù)剡M行分區(qū)可以給數(shù)據(jù)倉庫帶來多個方面的好處： 
(1) 數(shù)據(jù)裝載 (2) 數(shù)據(jù)訪問 (3) 數(shù)據(jù)存檔 (4) 數(shù)據(jù)刪除 (5) 數(shù)據(jù)監(jiān)控 (6) 數(shù)據(jù)存儲