99999久久久久久亚洲,欧美人与禽猛交狂配,高清日韩av在线影院,一个人在线高清免费观看,啦啦啦在线视频免费观看www

熱線電話：13121318867

登錄
首頁精彩閱讀寫論文，沒數(shù)據(jù)？R語言抓取網(wǎng)頁大數(shù)據(jù)
寫論文，沒數(shù)據(jù)？R語言抓取網(wǎng)頁大數(shù)據(jù)
2017-05-08
收藏

寫論文，沒數(shù)據(jù)？R語言抓取網(wǎng)頁大數(shù)據(jù)

縱觀國內(nèi)外，大數(shù)據(jù)的市場發(fā)展迅猛，政府的扶持也達(dá)到了空前的力度，甚至將大數(shù)據(jù)納入發(fā)展戰(zhàn)略。如此形勢為社會各界提供了很多機(jī)遇和挑戰(zhàn)，而我們作為衛(wèi)生(醫(yī)學(xué))統(tǒng)計領(lǐng)域的一份子，更要把握好機(jī)會。放眼全球，大數(shù)據(jù)的應(yīng)用規(guī)模仍在持續(xù)擴(kuò)張，幾乎每個行業(yè)都將目光瞄準(zhǔn)了大數(shù)據(jù)背后的巨大價值。未來五到十年，是我國推進(jìn)大數(shù)據(jù)發(fā)展的關(guān)鍵時期，打造高效的大數(shù)據(jù)應(yīng)用機(jī)制和產(chǎn)業(yè)鏈迫在眉睫。

空格根據(jù)當(dāng)前大數(shù)據(jù)行業(yè)發(fā)展的分析，我們著手大數(shù)據(jù)不妨從“可視化數(shù)據(jù)抓取”開始考慮。這里提到的可視化數(shù)據(jù)抓取，主要指對互聯(lián)網(wǎng)網(wǎng)頁數(shù)據(jù)的抓取，這樣可以實現(xiàn)大數(shù)據(jù)應(yīng)用的平民化。當(dāng)前我們已經(jīng)可以通過簡易的網(wǎng)頁數(shù)據(jù)抓取工具，對其所需的網(wǎng)頁數(shù)據(jù)進(jìn)行抓取，如某知名網(wǎng)頁數(shù)據(jù)抓取工具“**采集器”(收費)。已有的互聯(lián)網(wǎng)數(shù)據(jù)抓取、處理、分析，挖掘軟件，可以靈活迅速地抓取網(wǎng)頁上散亂分布的數(shù)據(jù)信息，并通過一系列的分析處理，準(zhǔn)確挖掘出所需數(shù)據(jù)。這樣帶來的高效、便捷和平民化是不言而喻的。

空格今天小編作為大數(shù)據(jù)行業(yè)的一員，基于廣受歡迎的R軟件，給大家介紹如何實現(xiàn)網(wǎng)頁數(shù)據(jù)抓取技術(shù)。對，是R！它除了強(qiáng)大的統(tǒng)計分析功能，其網(wǎng)頁抓取的能力也是不可小覷的，尤其是Hadley寫的R包rvest，可謂把復(fù)雜的事情簡單化。使用R語言進(jìn)行網(wǎng)頁數(shù)據(jù)的抓取，最大的優(yōu)勢在于獲取數(shù)據(jù)后強(qiáng)大的數(shù)據(jù)處理、分析以及可視化功能。

R語言實例  

空格下面以rvest包抓取廣州的空氣質(zhì)量數(shù)據(jù)為例進(jìn)行講解。

網(wǎng)頁數(shù)據(jù)如下圖：

#加載程序包

library(rvest)

#找到要抓取數(shù)據(jù)的網(wǎng)址

url="http://www.pm25s.com/guangzhou.html"

#解析網(wǎng)址內(nèi)容

web= read_html(url,encoding="UTF-8")

#截取如上圖空氣質(zhì)量數(shù)據(jù)

aqi=web %>% html_nodes("span") %>% html_text()#注意！很多朋友在這一步會出現(xiàn)亂碼的情況

aqi=aqi[8:127]

#將截取的數(shù)據(jù)整理成數(shù)據(jù)框

aqi=matrix(aqi,ncol=10,byrow=T)

aqi=data.frame(aqi)

for(i in 1:ncol(aqi)){

aqi[,i]=as.character(aqi[,i])

aqi[,i]=gsub("\"","",gsub("\\n","",aqi[,i]))

}

names(aqi)=aqi[1,]

aqi=aqi[-1,]

aqi

如果一切正常，將會出現(xiàn)如下結(jié)果：

空格至此，已經(jīng)實現(xiàn)了R軟件對網(wǎng)頁數(shù)據(jù)的抓取，后續(xù)可以對空氣質(zhì)量指數(shù)做時間序列以及空間分布的展示，當(dāng)然上述僅僅是大數(shù)據(jù)的皮毛，還有很多東西可以探索并拓展。比如，針對網(wǎng)頁數(shù)據(jù)的抓取，若能實現(xiàn)動態(tài)實時抓取，才會發(fā)揮大數(shù)據(jù)的價值。

結(jié)束  

空格學(xué)會了上面的小技能，大數(shù)據(jù)應(yīng)用不再是單純的喊喊口號！當(dāng)然，可以實現(xiàn)網(wǎng)頁數(shù)據(jù)抓取的軟件還有很多，比如python、sas、excel等等，有興趣的朋友可以盡情嘗試。美國市場研究公司IDC發(fā)布報告顯示，全球大數(shù)據(jù)技術(shù)及服務(wù)市場在2016年將達(dá)238億美元，激活我國大數(shù)據(jù)的資產(chǎn)價值，開啟大數(shù)據(jù)新生態(tài)的目標(biāo)仍需社會各界的共同努力！

數(shù)據(jù)分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

數(shù)據(jù)分析師資訊
更多

OK
客服在線
立即咨詢
客服在線
立即咨詢
') } function initGt() { var handler = function (captchaObj) { captchaObj.appendTo('#captcha'); captchaObj.onReady(function () { $("#wait").hide(); }).onSuccess(function(){ $('.getcheckcode').removeClass('dis'); $('.getcheckcode').trigger('click'); }); window.captchaObj = captchaObj; }; $('#captcha').show(); $.ajax({ url: "/login/gtstart?t=" + (new Date()).getTime(), // 加隨機(jī)數(shù)防止緩存 type: "get", dataType: "json", success: function (data) { $('#text').hide(); $('#wait').show(); // 調(diào)用 initGeetest 進(jìn)行初始化 // 參數(shù)1：配置參數(shù) // 參數(shù)2：回調(diào)，回調(diào)的第一個參數(shù)驗證碼對象，之后可以使用它調(diào)用相應(yīng)的接口 initGeetest({ // 以下 4 個配置參數(shù)為必須，不能缺少 gt: data.gt, challenge: data.challenge, offline: !data.success, // 表示用戶后臺檢測極驗服務(wù)器是否宕機(jī) new_captcha: data.new_captcha, // 用于宕機(jī)時表示是新驗證碼的宕機(jī) product: "float", // 產(chǎn)品形式，包括：float，popup width: "280px", https: true // 更多配置參數(shù)說明請參見：http://docs.geetest.com/install/client/web-front/ }, handler); } }); } function codeCutdown() { if(_wait == 0){ //倒計時完成 $(".getcheckcode").removeClass('dis').html("重新獲取"); }else{ $(".getcheckcode").addClass('dis').html("重新獲取("+_wait+"s)"); _wait--; setTimeout(function () { codeCutdown(); },1000); } } function inputValidate(ele,telInput) { var oInput = ele; var inputVal = oInput.val(); var oType = ele.attr('data-type'); var oEtag = $('#etag').val(); var oErr = oInput.closest('.form_box').next('.err_txt'); var empTxt = '請輸入'+oInput.attr('placeholder')+'！'; var errTxt = '請輸入正確的'+oInput.attr('placeholder')+'！'; var pattern; if(inputVal==""){ if(!telInput){ errFun(oErr,empTxt); } return false; }else { switch (oType){ case 'login_mobile': pattern = /^1[3456789]\d{9}$/; if(inputVal.length==11) { $.ajax({ url: '/login/checkmobile', type: "post", dataType: "json", data: { mobile: inputVal, etag: oEtag, page_ur: window.location.href, page_referer: document.referrer }, success: function (data) { } }); } break; case 'login_yzm': pattern = /^\d{6}$/; break; } if(oType=='login_mobile'){ } if(!!validateFun(pattern,inputVal)){ errFun(oErr,'') if(telInput){ $('.getcheckcode').removeClass('dis'); } }else { if(!telInput) { errFun(oErr, errTxt); }else { $('.getcheckcode').addClass('dis'); } return false; } } return true; } function errFun(obj,msg) { obj.html(msg); if(msg==''){ $('.login_submit').removeClass('dis'); }else { $('.login_submit').addClass('dis'); } } function validateFun(pat,val) { return pat.test(val); }