99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話：13121318867

登錄
首頁精彩閱讀面對大數(shù)據(jù)OLAP分析的一些問題_數(shù)據(jù)分析師考試
面對大數(shù)據(jù)OLAP分析的一些問題_數(shù)據(jù)分析師考試
2015-07-26
收藏

面對大數(shù)據(jù)OLAP分析的一些問題_數(shù)據(jù)分析師考試


OLAP分析需要進(jìn)行大量的數(shù)據(jù)分組和表間關(guān)聯(lián)，而這些顯然不是NoSQL和傳統(tǒng)數(shù)據(jù)庫的強(qiáng)項(xiàng)，往往必須使用特定的針對BI優(yōu)化的數(shù)據(jù)庫。

比如絕大多數(shù)針對BI優(yōu)化的數(shù)據(jù)庫采用了列存儲或混合存儲、壓縮、延遲加載、對存儲數(shù)據(jù)塊的預(yù)統(tǒng)計(jì)、分片索引等技術(shù)。 Hadoop平臺上的OLAP分析，同樣存在這個(gè)問題，F(xiàn)acebook針對Hive開發(fā)的RCFile數(shù)據(jù)格式，就是采用了上述的一些優(yōu)化技術(shù)，從而達(dá)到了較好的數(shù)據(jù)分析性能。如圖2所示。 然而，對于Hadoop平臺來說，單單通過使用Hive模仿出SQL，對于數(shù)據(jù)分析來說遠(yuǎn)遠(yuǎn)不夠，首先Hive雖然將HiveQL翻譯MapReduce的時(shí)候進(jìn)行了優(yōu)化，但依然效率低下。多維分析時(shí)依然要做事實(shí)表和維度表的關(guān)聯(lián)，維度一多性能必然大幅下降。

其次，RCFile的行列混合存儲模式，事實(shí)上限制死了數(shù)據(jù)格式，也就是說數(shù)據(jù)格式是針對特定分析預(yù)先設(shè)計(jì)好的，一旦分析的業(yè)務(wù)模型有所改動(dòng)，海量數(shù)據(jù)轉(zhuǎn)換格式的代價(jià)是極其巨大的。最后，HiveQL對OLAP業(yè)務(wù)分析人員依然是非常不友善的，維度和度量才是直接針對業(yè)務(wù)人員的分析語言。

 而且目前OLAP存在的最大問題是：業(yè)務(wù)靈活多變，必然導(dǎo)致業(yè)務(wù)模型隨之經(jīng)常發(fā)生變化，而業(yè)務(wù)維度和度量一旦發(fā)生變化，技術(shù)人員需要把整個(gè)Cube（多維立方體）重新定義并重新生成，業(yè)務(wù)人員只能在此Cube上進(jìn)行多維分析，這樣就限制了業(yè)務(wù)人員快速改變問題分析的角度，從而使所謂的BI系統(tǒng)成為死板的日常報(bào)表系統(tǒng)。 使用Hadoop進(jìn)行多維分析，首先能解決上述維度難以改變的問題，利用Hadoop中數(shù)據(jù)非結(jié)構(gòu)化的特征，采集來的數(shù)據(jù)本身就是包含大量冗余信息的。

同時(shí)也可以將大量冗余的維度信息整合到事實(shí)表中，這樣可以在冗余維度下靈活地改變問題分析的角度。其次利用Hadoop MapReduce強(qiáng)大的并行化處理能力，無論OLAP分析中的維度增加多少，開銷并不顯著增長。換言之，Hadoop可以支持一個(gè)巨大無比的Cube，包含了無數(shù)你想到或者想不到的維度，而且每次多維分析，都可以支持成千上百個(gè)維度，并不會(huì)顯著影響分析性能。 

因此，我們的大數(shù)據(jù)分析架構(gòu)在這個(gè)巨大Cube的支持下，直接把維度和度量的生成交給業(yè)務(wù)人員，由業(yè)務(wù)人員自己定義好維度和度量之后，將業(yè)務(wù)的維度和度量直接翻譯成MapReduce運(yùn)行，并最終生成報(bào)表?？梢院唵卫斫鉃橛脩艨焖僮远x的“MDX”（多維表達(dá)式，或者多維立方體查詢）語言→MapReduce的轉(zhuǎn)換工具。同時(shí)OLAP分析和報(bào)表結(jié)果的展示，依然兼容傳統(tǒng)的BI和報(bào)表產(chǎn)品。 

在年收入上，用戶可以自己定義子維度。另外，用戶也可以在列上自定義維度，比如將性別和學(xué)歷合并為一個(gè)維度。由于Hadoop數(shù)據(jù)的非結(jié)構(gòu)化特征，維度可以根據(jù)業(yè)務(wù)需求任意地劃分和重組。

數(shù)據(jù)分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機(jī)數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進(jìn)行初始化 // 參數(shù)1：配置參數(shù) // 參數(shù)2：回調(diào)，回調(diào)的第一個(gè)參數(shù)驗(yàn)證碼對象，之后可以使用它調(diào)用相應(yīng)的接口 initGeetest({ // 以下 4 個(gè)配置參數(shù)為必須，不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺檢測極驗(yàn)服務(wù)器是否宕機(jī) new_captcha: data.new_captcha, // 用于宕機(jī)時(shí)表示是新驗(yàn)證碼的宕機(jī) product: "float", // 產(chǎn)品形式，包括：float，popup width: "280px", https: true // 更多配置參數(shù)說明請參見：http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計(jì)時(shí)完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請輸入'+oInput.attr('placeholder')+'！'; var errTxt = '請輸入正確的'+oInput.attr('placeholder')+'！'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }