99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話：13121318867

登錄
首頁精彩閱讀用R處理大數(shù)據(jù)集_數(shù)據(jù)分析師
用R處理大數(shù)據(jù)集_數(shù)據(jù)分析師
2015-03-30
收藏

用R處理大數(shù)據(jù)集_數(shù)據(jù)分析師


用R處理大數(shù)據(jù)集

JAN 1ST, 2012

 | COMMENTS

本文翻譯自R in Action

的附錄G，如果對該書感興趣，請自行購買或去圖書館閱讀。

R會(huì)把所有的對象讀存入虛擬內(nèi)存中。對我們大多數(shù)用戶來說，這種設(shè)計(jì)可以提高與R相互的速度，但是當(dāng)分析大數(shù)據(jù)集時(shí)，這種設(shè)計(jì)會(huì)降低程序運(yùn)行速度有時(shí)還會(huì)產(chǎn)生跟內(nèi)存相關(guān)的錯(cuò)誤。

內(nèi)存限制主要取決于R的build版（32位還是64位），而在32位的windows下，取決于操作系統(tǒng)的版本。以cannot allocate vectoe of size開頭的出錯(cuò)信息表示無法分配充足的連續(xù)內(nèi)存，而以cannot allocate vector of length開頭的出錯(cuò)信息表示超越了地址限制（address limit）。在處理大數(shù)據(jù)集時(shí)，應(yīng)盡量使用64位版的R。對于各種build版，向量中的元素個(gè)數(shù)最大為2147483647（請自行?Memory）。

在處理大數(shù)據(jù)集時(shí)有三方面應(yīng)該考慮：（a）提高程序的效率，保證執(zhí)行速度；（b）把數(shù)據(jù)儲(chǔ)存在外部，以解決內(nèi)存限制問題；（c）使用專門的統(tǒng)計(jì)方法來有效處理大數(shù)據(jù)量的問題。

下面將分別討論。

高效編程

下面幾條編程技巧來可以提高處理大數(shù)據(jù)集時(shí)的效率

  • 盡量向量化運(yùn)算。使用R內(nèi)置的函數(shù)來處理向量、矩陣和list（例如函數(shù)sapply，lapply和mapply），盡量避免使用循環(huán)（for和while）;
  • 使用矩陣，必要時(shí)才使用數(shù)據(jù)框，因?yàn)榫仃嚨拈_銷更少；
  • 使用read.table()

函數(shù)族把外部數(shù)據(jù)導(dǎo)入數(shù)據(jù)框時(shí)，盡量顯式設(shè)定colClasses和nrows選項(xiàng)，設(shè)定comment.char = ""，把不需要的列設(shè)置成NULL。這樣可以減少占用的內(nèi)存，同時(shí)加快處理速度。將外部數(shù)據(jù)導(dǎo)入矩陣時(shí)，使用scan()函數(shù)；

  • 在處理全部數(shù)據(jù)前，用數(shù)據(jù)的子集測試程序，來優(yōu)化程序，去掉bug；
  • 刪除臨時(shí)對象和不再用的對象。調(diào)用rm(list=ls())

可以刪除內(nèi)存中的所有對象。刪除指定的對象可以用rm(object)；

  • 在Jeromy Anglim的博客文章“R的內(nèi)存管理：一些小竅門和技巧”(原文Memory Management in R: A Few Tips and Tricks

，被墻)中提到，使用函數(shù).ls.objects()列出工作區(qū)內(nèi)的對象占用的內(nèi)存大小。這個(gè)函數(shù)會(huì)幫助你找到吃內(nèi)存的大家伙。

  • profile你的程序，看看在每個(gè)函數(shù)中花的時(shí)間。你可以用Rprof()

和summaryRprof()函數(shù)完成這項(xiàng)工作。system.time()函數(shù)也可以幫助你。profr 和 prooftools 包提供了若干函數(shù)來幫助分析profile的輸出。

  • Rcpp包可以把R對象轉(zhuǎn)成C++函數(shù)（原文是The Rcpp package can be used to transfer R objects to C++ functions and back when more optimized subroutines are needed. 后半句不知怎么翻譯）

處理大數(shù)據(jù)集，提高代碼效率只能解決一部分問題。你也可以把數(shù)據(jù)存在外部存儲(chǔ)并使用專門的統(tǒng)計(jì)分析方法。

把數(shù)據(jù)存儲(chǔ)在內(nèi)存之外

有幾種包可以實(shí)現(xiàn)在內(nèi)存之外存儲(chǔ)數(shù)據(jù)。解決之道是把數(shù)據(jù)保存在外部數(shù)據(jù)庫或者硬盤里的二進(jìn)制文件中，然后在需要的時(shí)候部分地讀取。下表描述了幾種有用的包：

包

描述

ff

提供了一種數(shù)據(jù)結(jié)構(gòu)，保存在硬盤中，但是操作起來就如同在內(nèi)存中一樣

bigmemory

支持大規(guī)模矩陣的創(chuàng)建、儲(chǔ)存、讀取和操作。矩陣被分配到共享內(nèi)存或內(nèi)存映射的文件中（memory-mapped files）

filehash

實(shí)現(xiàn)了簡單的key-value數(shù)據(jù)庫，在其中特征字符串key與存儲(chǔ)在硬盤中的數(shù)據(jù)value相關(guān)聯(lián)。

ncdf, ncdf4

Provides an interface to Unidata netCDF data files.

RODBC, RMySQL,ROracle, RPostgreSQL,RSQLite

可以用這些包讀取外部關(guān)系數(shù)據(jù)庫管理系統(tǒng)的數(shù)據(jù)

上面的包可以幫助克服R的內(nèi)存限制。除此以外，當(dāng)需要在有限時(shí)間內(nèi)分析大數(shù)據(jù)集時(shí)，使用專門方法也是必須的。一些有用的方法將在下面介紹。

分析大數(shù)據(jù)集的包

R提供了幾種分析大數(shù)據(jù)集的包：

  • biglm

 和 speedglm 包可以針對大數(shù)據(jù)集有效地?cái)M合線性和廣義線性模型。在處理大規(guī)模數(shù)據(jù)集時(shí)，這兩個(gè)包提供了類似lm()和glm()的功能。

  • 由 bigmemory

 包可產(chǎn)生大規(guī)模矩陣，一些包可以提供分析這些大規(guī)模矩陣的函數(shù)。bigannalytics 包提供了k-means聚類、行統(tǒng)計(jì)量（column statistics）和一個(gè)對biglm()的封裝。bigtabulate 包提供了table()、split()和tapply()的功能，bigalgebra 包提供了高等線性代數(shù)的函數(shù)。

  • biglars

 包提供了最小角回歸（least-angle regression）、lasso以及針對大數(shù)據(jù)集的逐步回歸，數(shù)據(jù)集因太大而不能讀入到內(nèi)存中，這時(shí)候要配合 ff 包使用。

  • Brobdingnag

 包可以用來處理大數(shù)字（大于2^1024）

處理從GB到TB級(jí)的數(shù)據(jù)對于任何數(shù)據(jù)都是極大的挑戰(zhàn)。

數(shù)據(jù)分析咨詢請掃描二維碼

若不方便掃碼，搜微信號(hào)：CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機(jī)數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進(jìn)行初始化 // 參數(shù)1：配置參數(shù) // 參數(shù)2：回調(diào)，回調(diào)的第一個(gè)參數(shù)驗(yàn)證碼對象，之后可以使用它調(diào)用相應(yīng)的接口 initGeetest({ // 以下 4 個(gè)配置參數(shù)為必須，不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺(tái)檢測極驗(yàn)服務(wù)器是否宕機(jī) new_captcha: data.new_captcha, // 用于宕機(jī)時(shí)表示是新驗(yàn)證碼的宕機(jī) product: "float", // 產(chǎn)品形式，包括：float，popup width: "280px", https: true // 更多配置參數(shù)說明請參見：http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計(jì)時(shí)完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請輸入'+oInput.attr('placeholder')+'！'; var errTxt = '請輸入正確的'+oInput.attr('placeholder')+'！'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }