上一篇文章給大家分享了一些關(guān)于維度表和事實(shí)表的內(nèi)容，今天給大家?guī)?lái)的是關(guān)于維度表技術(shù)的一些內(nèi)容，希望對(duì)大家有所幫助。

一、維度表結(jié)構(gòu)

1.每個(gè)維度表都包含單一的主鍵列。

2.維度表的主鍵可以作為與之關(guān)聯(lián)的任何事實(shí)表的外鍵。

3.維度表通常比較寬，是扁平型非規(guī)范表，包含大量的低粒度的文本屬性。

二、常見(jiàn)維度表技術(shù)

1.維度代理鍵

DW/BI需要申明對(duì)所有的維度的主鍵的空置，無(wú)法采用自然鍵或者附加日期的自然鍵。最好是建立無(wú)語(yǔ)意的整型主鍵。

2.自然鍵、持久鍵、超自然鍵

自然鍵，例如員工編號(hào)

持久鍵，有時(shí)也被叫做超自然持久鍵。數(shù)據(jù)倉(cāng)庫(kù)為員工編號(hào)創(chuàng)建一個(gè)單一鍵，這個(gè)單一鍵保持永久性不會(huì)發(fā)生變化。

最后的持久鍵應(yīng)該獨(dú)立于原始的業(yè)務(wù)過(guò)程。

3.下鉆

商業(yè)分析的基本方法：

上卷(roll-up)：上卷是沿著維的層次向上聚集匯總數(shù)據(jù)。 例如，對(duì)產(chǎn)品銷售數(shù)據(jù)，沿著時(shí)間維上卷，可以求出所有產(chǎn)品在所有地區(qū)每月 (或季度或年或全部)的銷售額。

下探(drill-down)：下探是上卷的逆操作，它是沿著維的層次向下，查看更詳細(xì)的數(shù)據(jù)。

3.空值屬性

推薦采用標(biāo)識(shí)性標(biāo)識(shí)空值，例如unknown。因?yàn)椴煌瑪?shù)據(jù)庫(kù)對(duì)空值處理不同。

4.日歷日期維度

用YYYYMMdd更容易劃分。

5.維度子集

一些需求是不需要最細(xì)節(jié)的數(shù)據(jù)的，那么此時(shí)事實(shí)數(shù)據(jù)需要關(guān)聯(lián)特定的維度，這些特定維度包含在從細(xì)節(jié)維度選擇的行中，因此就叫做維度子集。

細(xì)節(jié)維度和維度子集具有相同的屬性或內(nèi)容，具有一致性。

(1)建立包含屬性子集的子維度

例如需要上鉆到子維度。

(2)建立包含行子集的子維度

在兩個(gè)維度處于同一細(xì)節(jié)粒度的情況下，如果其中一個(gè)僅僅是行的子集，那么就會(huì)產(chǎn)生另外一種一致性維度構(gòu)造子集。

在某些版本的Hive中，對(duì)ORC表使用overwrite會(huì)出錯(cuò)，為了保持兼用性，通常會(huì)使用truncate 。

(3)使用視圖實(shí)現(xiàn)維度子集

這種方式存在著兩個(gè)主要問(wèn)題：一是新創(chuàng)建的子維度是物理表，因此需要額外的存儲(chǔ)空間;二是存在數(shù)據(jù)不一致的潛在風(fēng)險(xiǎn)。

通常的解決方法是在基本維度上建立視圖生成子維度。

優(yōu)點(diǎn)：

a.可以簡(jiǎn)單實(shí)現(xiàn)，不需要修改原來(lái)腳本的邏輯;

b.因?yàn)橐晥D不真正存儲(chǔ)數(shù)據(jù)，因此不會(huì)占用存儲(chǔ)空間;

c.將數(shù)據(jù)不一致的可能消除掉。

缺點(diǎn)：

a.如果基本維度和子維度表數(shù)據(jù)量相差懸殊的話，性能比物理表差很多;

b.如果定義視圖查詢，并且視圖很多，可能對(duì)元數(shù)據(jù)存儲(chǔ)系統(tǒng)造成壓力，嚴(yán)重影響查詢性能。

6.層次維度

通常我們使用grouping__id 二進(jìn)制序列，rollup,collect_set,concat_ws等函數(shù)。

層次關(guān)系方法：固定深度層次進(jìn)行分組和鉆取查詢，遞歸層次結(jié)構(gòu)數(shù)據(jù)裝載、展開與平面化，多路徑層次和參差不齊處理

7.退化維度

除了業(yè)務(wù)主鍵外沒(méi)有其他內(nèi)容的維度表。

8.雜項(xiàng)維度

包含數(shù)據(jù)具有很少可能值的維度。有時(shí)與其為每個(gè)標(biāo)志或?qū)傩远x不同的維度，不如建立單獨(dú)的講不同維度合并到一起的雜項(xiàng)維度。

9.維度合并

如果幾個(gè)相關(guān)維度的基數(shù)都很小，或者具有多個(gè)公共屬性時(shí)，可以考慮合并。

10.分段維度

包含連續(xù)的分段度量值，通常用作客戶維度的行為標(biāo)記時(shí)間序列，分析客戶行為。