上一篇文章給大家分享了一些關(guān)于維度表和事實表的內(nèi)容，今天給大家?guī)淼氖顷P(guān)于維度表技術(shù)的一些內(nèi)容，希望對大家有所幫助。

一、維度表結(jié)構(gòu)

1.每個維度表都包含單一的主鍵列。

2.維度表的主鍵可以作為與之關(guān)聯(lián)的任何事實表的外鍵。

3.維度表通常比較寬，是扁平型非規(guī)范表，包含大量的低粒度的文本屬性。

二、常見維度表技術(shù)

1.維度代理鍵

DW/BI需要申明對所有的維度的主鍵的空置，無法采用自然鍵或者附加日期的自然鍵。最好是建立無語意的整型主鍵。

2.自然鍵、持久鍵、超自然鍵

自然鍵，例如員工編號

持久鍵，有時也被叫做超自然持久鍵。數(shù)據(jù)倉庫為員工編號創(chuàng)建一個單一鍵，這個單一鍵保持永久性不會發(fā)生變化。

最后的持久鍵應(yīng)該獨立于原始的業(yè)務(wù)過程。

3.下鉆

商業(yè)分析的基本方法：

上卷(roll-up)：上卷是沿著維的層次向上聚集匯總數(shù)據(jù)。 例如，對產(chǎn)品銷售數(shù)據(jù)，沿著時間維上卷，可以求出所有產(chǎn)品在所有地區(qū)每月 (或季度或年或全部)的銷售額。

下探(drill-down)：下探是上卷的逆操作，它是沿著維的層次向下，查看更詳細的數(shù)據(jù)。

3.空值屬性

推薦采用標(biāo)識性標(biāo)識空值，例如unknown。因為不同數(shù)據(jù)庫對空值處理不同。

4.日歷日期維度

用YYYYMMdd更容易劃分。

5.維度子集

一些需求是不需要最細節(jié)的數(shù)據(jù)的，那么此時事實數(shù)據(jù)需要關(guān)聯(lián)特定的維度，這些特定維度包含在從細節(jié)維度選擇的行中，因此就叫做維度子集。

細節(jié)維度和維度子集具有相同的屬性或內(nèi)容，具有一致性。

(1)建立包含屬性子集的子維度

例如需要上鉆到子維度。

(2)建立包含行子集的子維度

在兩個維度處于同一細節(jié)粒度的情況下，如果其中一個僅僅是行的子集，那么就會產(chǎn)生另外一種一致性維度構(gòu)造子集。

在某些版本的Hive中，對ORC表使用overwrite會出錯，為了保持兼用性，通常會使用truncate 。

(3)使用視圖實現(xiàn)維度子集

這種方式存在著兩個主要問題：一是新創(chuàng)建的子維度是物理表，因此需要額外的存儲空間;二是存在數(shù)據(jù)不一致的潛在風(fēng)險。

通常的解決方法是在基本維度上建立視圖生成子維度。

優(yōu)點：

a.可以簡單實現(xiàn)，不需要修改原來腳本的邏輯;

b.因為視圖不真正存儲數(shù)據(jù)，因此不會占用存儲空間;

c.將數(shù)據(jù)不一致的可能消除掉。

缺點：

a.如果基本維度和子維度表數(shù)據(jù)量相差懸殊的話，性能比物理表差很多;

b.如果定義視圖查詢，并且視圖很多，可能對元數(shù)據(jù)存儲系統(tǒng)造成壓力，嚴(yán)重影響查詢性能。

6.層次維度

通常我們使用grouping__id 二進制序列，rollup,collect_set,concat_ws等函數(shù)。

層次關(guān)系方法：固定深度層次進行分組和鉆取查詢，遞歸層次結(jié)構(gòu)數(shù)據(jù)裝載、展開與平面化，多路徑層次和參差不齊處理

7.退化維度

除了業(yè)務(wù)主鍵外沒有其他內(nèi)容的維度表。

8.雜項維度

包含數(shù)據(jù)具有很少可能值的維度。有時與其為每個標(biāo)志或?qū)傩远x不同的維度，不如建立單獨的講不同維度合并到一起的雜項維度。

9.維度合并

如果幾個相關(guān)維度的基數(shù)都很小，或者具有多個公共屬性時，可以考慮合并。

10.分段維度

包含連續(xù)的分段度量值，通常用作客戶維度的行為標(biāo)記時間序列，分析客戶行為。