99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話:13121318867

登錄
首頁(yè)精彩閱讀Hadoop環(huán)境中管理大數(shù)據(jù)存儲(chǔ)八大技巧
Hadoop環(huán)境中管理大數(shù)據(jù)存儲(chǔ)八大技巧
2017-05-24
收藏

Hadoop環(huán)境中管理大數(shù)據(jù)存儲(chǔ)八大技巧

在現(xiàn)如今,隨著IT互聯(lián)網(wǎng)信息技術(shù)的飛速發(fā)展和進(jìn)步。目前大數(shù)據(jù)行業(yè)也越來(lái)越火爆,從而導(dǎo)致國(guó)內(nèi)大數(shù)據(jù)人才也極度缺乏,下面介紹一下關(guān)于Hadoop環(huán)境中管理大數(shù)據(jù)存儲(chǔ)技巧。

1、分布式存儲(chǔ)

傳統(tǒng)化集中式存儲(chǔ)存在已有一段時(shí)間。但大數(shù)據(jù)并非真的適合集中式存儲(chǔ)架構(gòu)。Hadoop設(shè)計(jì)用于將計(jì)算更接近數(shù)據(jù)節(jié)點(diǎn),同時(shí)采用了HDFS文件系統(tǒng)的大規(guī)模橫向擴(kuò)展功能。

雖然,通常解決Hadoop管理自身數(shù)據(jù)低效性的方案是將Hadoop數(shù)據(jù)存儲(chǔ)在SAN上。但這也造成了它自身性能與規(guī)模的瓶頸?,F(xiàn)在,如果你把所有的數(shù)據(jù)都通過(guò)集中式SAN處理器進(jìn)行處理,與Hadoop的分布式和并行化特性相悖。你要么針對(duì)不同的數(shù)據(jù)節(jié)點(diǎn)管理多個(gè)SAN,要么將所有的數(shù)據(jù)節(jié)點(diǎn)都集中到一個(gè)SAN。

Hadoop是一個(gè)分布式應(yīng)用,就應(yīng)該運(yùn)行在分布式存儲(chǔ)上,這樣存儲(chǔ)就保留了與Hadoop本身同樣的靈活性,不過(guò)它也要求擁抱一個(gè)軟件定義存儲(chǔ)方案,并在商用服務(wù)器上運(yùn)行,這相比瓶頸化的Hadoop自然更為高效。

2、超融合VS分布式

注意,不要混淆超融合與分布式。某些超融合方案是分布式存儲(chǔ),但通常這個(gè)術(shù)語(yǔ)意味著你的應(yīng)用和存儲(chǔ)都保存在同一計(jì)算節(jié)點(diǎn)上。這是在試圖解決數(shù)據(jù)本地化的問(wèn)題,但它會(huì)造成太多資源爭(zhēng)用。這個(gè)Hadoop應(yīng)用和存儲(chǔ)平臺(tái)會(huì)爭(zhēng)用相同的內(nèi)存和CPU。Hadoop運(yùn)行在專有應(yīng)用層,分布式存儲(chǔ)運(yùn)行在專有存儲(chǔ)層這樣會(huì)更好。之后,利用緩存和分層來(lái)解決數(shù)據(jù)本地化并補(bǔ)償網(wǎng)絡(luò)性能損失。

3、避免控制器瓶頸(ControllerChokePoint)

實(shí)現(xiàn)目標(biāo)的一個(gè)重要方面就是——避免通過(guò)單個(gè)點(diǎn)例如一個(gè)傳統(tǒng)控制器來(lái)處理數(shù)據(jù)。反之,要確保存儲(chǔ)平臺(tái)并行化,性能可以得到顯著提升。

此外,這個(gè)方案提供了增量擴(kuò)展性。為數(shù)據(jù)湖添加功能跟往里面扔x86服務(wù)器一樣簡(jiǎn)單。一個(gè)分布式存儲(chǔ)平臺(tái)如有需要將自動(dòng)添加功能并重新調(diào)整數(shù)據(jù)。

4、刪重和壓縮

掌握大數(shù)據(jù)的關(guān)鍵是刪重和壓縮技術(shù)。通常大數(shù)據(jù)集內(nèi)會(huì)有70%到90%的數(shù)據(jù)簡(jiǎn)化。以PB容量計(jì),能節(jié)約數(shù)萬(wàn)美元的磁盤(pán)成本。現(xiàn)代平臺(tái)提供內(nèi)聯(lián)(對(duì)比后期處理)刪重和壓縮,大大降低了存儲(chǔ)數(shù)據(jù)所需能力。

5、合并Hadoop發(fā)行版

很多大型企業(yè)擁有多個(gè)Hadoop發(fā)行版本。可能是開(kāi)發(fā)者需要或是企業(yè)部門(mén)已經(jīng)適應(yīng)了不同版本。無(wú)論如何最終往往要對(duì)這些集群的維護(hù)與運(yùn)營(yíng)。一旦海量數(shù)據(jù)真正開(kāi)始影響一家企業(yè)時(shí),多個(gè)Hadoop發(fā)行版存儲(chǔ)就會(huì)導(dǎo)致低效性。我們可以通過(guò)創(chuàng)建一個(gè)單一,可刪重和壓縮數(shù)據(jù)湖獲取數(shù)據(jù)效率

6、虛擬化Hadoop

虛擬化已經(jīng)席卷企業(yè)級(jí)市場(chǎng)。很多地區(qū)超過(guò)80%的物理服務(wù)器現(xiàn)在是虛擬化的。但也仍有很多企業(yè)因?yàn)樾阅芎蛿?shù)據(jù)本地化問(wèn)題對(duì)虛擬化Hadoop避而不談。

7、創(chuàng)建彈性數(shù)據(jù)湖

創(chuàng)建數(shù)據(jù)湖并不容易,但大數(shù)據(jù)存儲(chǔ)可能會(huì)有需求。我們有很多種方法來(lái)做這件事,但哪一種是正確的?這個(gè)正確的架構(gòu)應(yīng)該是一個(gè)動(dòng)態(tài),彈性的數(shù)據(jù)湖,可以以多種格式(架構(gòu)化,非結(jié)構(gòu)化,半結(jié)構(gòu)化)存儲(chǔ)所有資源的數(shù)據(jù)。更重要的是,它必須支持應(yīng)用不在遠(yuǎn)程資源上而是在本地?cái)?shù)據(jù)資源上執(zhí)行。

不幸的是,傳統(tǒng)架構(gòu)和應(yīng)用(也就是非分布式)并不盡如人意。隨著數(shù)據(jù)集越來(lái)越大,將應(yīng)用遷移到數(shù)據(jù)不可避免,而因?yàn)檠舆t太長(zhǎng)也無(wú)法倒置。

理想的數(shù)據(jù)湖基礎(chǔ)架構(gòu)會(huì)實(shí)現(xiàn)數(shù)據(jù)單一副本的存儲(chǔ),而且有應(yīng)用在單一數(shù)據(jù)資源上執(zhí)行,無(wú)需遷移數(shù)據(jù)或制作副本。

8、整合分析

分析并不是一個(gè)新功能,它已經(jīng)在傳統(tǒng)RDBMS環(huán)境中存在多年。不同的是基于開(kāi)源應(yīng)用的出現(xiàn),以及數(shù)據(jù)庫(kù)表單和社交媒體,非結(jié)構(gòu)化數(shù)據(jù)資源(比如,維基百科)的整合能力。關(guān)鍵在于將多個(gè)數(shù)據(jù)類型和格式整合成一個(gè)標(biāo)準(zhǔn)的能力,有利于更輕松和一致地實(shí)現(xiàn)可視化與報(bào)告制作。合適的工具也對(duì)分析/商業(yè)智能項(xiàng)目的成功至關(guān)重要。


數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼

若不方便掃碼,搜微信號(hào):CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機(jī)數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進(jìn)行初始化 // 參數(shù)1:配置參數(shù) // 參數(shù)2:回調(diào),回調(diào)的第一個(gè)參數(shù)驗(yàn)證碼對(duì)象,之后可以使用它調(diào)用相應(yīng)的接口 initGeetest({ // 以下 4 個(gè)配置參數(shù)為必須,不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺(tái)檢測(cè)極驗(yàn)服務(wù)器是否宕機(jī) new_captcha: data.new_captcha, // 用于宕機(jī)時(shí)表示是新驗(yàn)證碼的宕機(jī) product: "float", // 產(chǎn)品形式,包括:float,popup width: "280px", https: true // 更多配置參數(shù)說(shuō)明請(qǐng)參見(jiàn):http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計(jì)時(shí)完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請(qǐng)輸入'+oInput.attr('placeholder')+'!'; var errTxt = '請(qǐng)輸入正確的'+oInput.attr('placeholder')+'!'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }