
數(shù)據(jù)挖掘大戰(zhàn) 機(jī)器怎么做到“見(jiàn)信如面”
大數(shù)據(jù)殺熟?隱私換便捷?一度被熱捧的大數(shù)據(jù)挖掘,近日站在了輿論的風(fēng)口浪尖:一些商家利用大數(shù)據(jù)挖掘技術(shù)“殺熟”被網(wǎng)友親測(cè)證實(shí);百度董事長(zhǎng)兼CEO李彥宏一句“中國(guó)人對(duì)隱私問(wèn)題沒(méi)有那么敏感”,更是讓它的處境雪上加霜。大數(shù)據(jù)挖掘技術(shù)就像一位有了負(fù)面新聞的明星,霎時(shí)間光彩暗淡,似乎變成了偷人隱私的小賊。
《大數(shù)據(jù)時(shí)代》一書(shū)暢銷之后的幾年,大數(shù)據(jù)雖不再那么當(dāng)紅,但并未隱退,它的持續(xù)發(fā)展已成為人工智能得以實(shí)現(xiàn)的基礎(chǔ)之一。
那么,大數(shù)據(jù)挖掘究竟是怎樣的技術(shù)?從誕生發(fā)展至今,那些埋頭苦干的技術(shù)人員又讓它長(zhǎng)了哪些本領(lǐng)?面對(duì)大數(shù)據(jù)難以管理的問(wèn)題,有沒(méi)有技術(shù)手段加以控制?
用戶畫(huà)像:機(jī)器給人類貼標(biāo)簽
“通過(guò)打標(biāo)簽的方式建立用戶畫(huà)像,是數(shù)據(jù)挖掘常用的一種技術(shù)?!北本┐髮W(xué)計(jì)算機(jī)科學(xué)技術(shù)研究所多媒體信息處理研究室主任彭宇新教授解釋,建立用戶畫(huà)像就是利用社交網(wǎng)絡(luò)的信息,根據(jù)用戶社會(huì)屬性、生活習(xí)慣和消費(fèi)行為等信息,抽象出一個(gè)標(biāo)簽化的用戶模型,目標(biāo)是使機(jī)器實(shí)現(xiàn)類似于人的“見(jiàn)信如面”的能力。社交網(wǎng)絡(luò)數(shù)據(jù)是實(shí)現(xiàn)這一目標(biāo)的基礎(chǔ),機(jī)器對(duì)人的“初相見(jiàn)”多是源自于對(duì)社交網(wǎng)絡(luò)數(shù)據(jù)的挖掘。
標(biāo)簽,通常是通過(guò)對(duì)用戶信息進(jìn)行分析得到的高度精煉的特征標(biāo)識(shí),使得機(jī)器方便做信息提取、聚合分析等處理。標(biāo)簽本身無(wú)需再做過(guò)多文本分析等處理工作,這為利用機(jī)器提取標(biāo)準(zhǔn)化信息提供了便利。
“有了標(biāo)簽,計(jì)算機(jī)就能夠自動(dòng)處理與人相關(guān)的信息,能夠通過(guò)算法、模型逐步‘理解’ 人?!迸碛钚陆榻B,多個(gè)標(biāo)簽共同完成畫(huà)像,整個(gè)過(guò)程可分三步走:一是采集數(shù)據(jù),即基于文本的信息抓取,口語(yǔ)稱為“爬數(shù)據(jù)”;二是用戶行為建模,通過(guò)機(jī)器學(xué)習(xí)技術(shù),形成算法模型,判斷用戶可能的一些行為;三是可視化展現(xiàn),把機(jī)器運(yùn)算出來(lái)的結(jié)果,通過(guò)能讓人類理解的方式展現(xiàn)出來(lái)。這三步是多輪調(diào)整的,在實(shí)際應(yīng)用中,根據(jù)結(jié)果的反饋,以及業(yè)務(wù)需求,可能進(jìn)行二次建模等調(diào)整。
整個(gè)過(guò)程的影響參數(shù)是相對(duì)多元的,不同的行為類型,對(duì)于標(biāo)簽信息的權(quán)重影響也不同。以應(yīng)用最廣的商品營(yíng)銷為例,比如網(wǎng)售紅酒,如果“購(gòu)買”權(quán)重計(jì)為5,僅“瀏覽”計(jì)為1,加上瀏覽間隔、駐留時(shí)長(zhǎng)、生活習(xí)慣等,通過(guò)復(fù)雜的算法最終呈現(xiàn)出一個(gè)標(biāo)簽的權(quán)重,再形成畫(huà)像。
基于用戶畫(huà)像技術(shù),大數(shù)據(jù)挖掘進(jìn)行分類和關(guān)聯(lián)規(guī)則計(jì)算等分析:例如喜歡紅酒的用戶有多少,喜歡紅酒的人群中,男、女比例是多少,喜歡紅酒的人通常喜歡什么運(yùn)動(dòng)品牌等等。
跨媒體智能識(shí)別:為計(jì)算機(jī)裝上慧眼
“以前文本信息占主流,現(xiàn)在圖像、視頻等多媒體數(shù)據(jù)鋪天蓋地而來(lái)?!迸碛钚抡f(shuō),后者目前占據(jù)大數(shù)據(jù)的80%以上。
數(shù)據(jù)類型發(fā)生的巨大變化,使得智能識(shí)別的任務(wù)更加艱巨?!肮懿蛔 焙汀坝貌缓谩钡膯?wèn)題日益凸顯?!皺C(jī)器只能讀懂自己的語(yǔ)言?!迸碛钚抡f(shuō),人類世界的所有語(yǔ)言都要轉(zhuǎn)化為機(jī)器理解的語(yǔ)言才能被識(shí)別,以前只處理文本相對(duì)簡(jiǎn)單,而現(xiàn)在要加上復(fù)雜的圖像、視頻等數(shù)據(jù)。
“例如,世界上有數(shù)千種鳥(niǎo)類,很多種的差異非常細(xì)微,即使是有專業(yè)知識(shí)的人類也很難準(zhǔn)確辨認(rèn),計(jì)算機(jī)自動(dòng)識(shí)別的難度就更大了?!迸碛钚抡f(shuō),圖像、視頻內(nèi)容理解的難點(diǎn)在于如何進(jìn)行語(yǔ)義自動(dòng)識(shí)別,這也是他們團(tuán)隊(duì)多年攻關(guān)的課題之一,為此團(tuán)隊(duì)發(fā)明了基于注意力模型和深度增量學(xué)習(xí)的識(shí)別方法。
注意力模型,顧名思義是讓計(jì)算機(jī)自動(dòng)定位圖像的顯著性區(qū)域,以此提高檢測(cè)精度;深度增量學(xué)習(xí),是指計(jì)算機(jī)能夠利用已經(jīng)學(xué)到的知識(shí)加速對(duì)新知識(shí)的學(xué)習(xí),同時(shí)通過(guò)動(dòng)態(tài)擴(kuò)容以支持新概念的檢測(cè)。
新模型新算法的發(fā)力,幫助機(jī)器快速識(shí)別圖像、視頻的語(yǔ)義信息。彭宇新團(tuán)隊(duì)近年來(lái)六次參加國(guó)際權(quán)威評(píng)測(cè)TRECVID的視頻樣例搜索比賽均獲第一名,并在與卡內(nèi)基梅隆大學(xué)、牛津大學(xué)、IBM Watson研究中心等參賽隊(duì)伍的較量中勝出。其中一個(gè)題目就是在464個(gè)小時(shí)的視頻中快速準(zhǔn)確地找出所有的倫敦地鐵標(biāo)志,彭宇新團(tuán)隊(duì)僅用了不到1秒就成功勝出,獲得第一名。
單媒體信息的分析與識(shí)別之上,如何進(jìn)一步讓機(jī)器像人類一樣能看、能理解呢?
為達(dá)到跨媒體信息融合與一體化分析識(shí)別的目的,項(xiàng)目團(tuán)隊(duì)首先把數(shù)據(jù)按照不同媒體類型自動(dòng)分發(fā)到對(duì)應(yīng)的分析與識(shí)別模塊。例如,對(duì)視頻鏡頭進(jìn)行分割、對(duì)關(guān)鍵幀進(jìn)行提取,然后分發(fā)到鏡頭檢索、片斷檢索、視頻字幕識(shí)別等模塊中,對(duì)單媒體分析結(jié)果進(jìn)行跨媒體語(yǔ)義關(guān)聯(lián)分析,實(shí)現(xiàn)跨媒體信息的語(yǔ)義協(xié)同。“一種常用的方法是構(gòu)建第三方空間進(jìn)行跨媒體關(guān)聯(lián)?!迸碛钚抡f(shuō),“計(jì)算機(jī)根據(jù)我們教它的模型分別為圖像、視頻、文本、音頻抽取表征,再共同投射到一個(gè)第三方空間中,這樣不同媒體的信息就可以對(duì)話了?!?
技術(shù)的“抽絲剝繭”,讓圖像、視頻中的信息可以如文本一般精確透明。“我們是瞄著應(yīng)用去的,準(zhǔn)確率、處理速度都經(jīng)過(guò)多年的優(yōu)化,已經(jīng)可以進(jìn)行實(shí)際應(yīng)用了?!迸碛钚陆榻B,這項(xiàng)技術(shù)不僅幫助新聞媒體等行業(yè)進(jìn)行數(shù)據(jù)管理和檢索,還在助力互聯(lián)網(wǎng)管理部門對(duì)大數(shù)據(jù)進(jìn)行分析與監(jiān)測(cè)。
延伸閱讀
匿名處理:可預(yù)期的隱私保護(hù)對(duì)策
打破信息控制權(quán)幾乎不可能,但隱私保護(hù)卻有個(gè)很便捷的方法。北京郵電大學(xué)教授楊義先的《安全簡(jiǎn)史》中有個(gè)形象的比喻,如果數(shù)據(jù)在網(wǎng)上“裸奔”,為了不被溯源,最便捷的安全手段是“把臉捂住”。這就是所謂的“匿名化處理機(jī)制”。
“用戶隱私保護(hù)的相關(guān)規(guī)定要求,數(shù)據(jù)公司在售賣數(shù)據(jù)時(shí),需要對(duì)數(shù)據(jù)進(jìn)行匿名化處理?!北本┐髮W(xué)計(jì)算機(jī)科學(xué)技術(shù)研究所研究員趙東巖說(shuō)。但為了精準(zhǔn)定位、推送服務(wù),匿名化處理可能被忽視。“精準(zhǔn)意味著目標(biāo)客戶群的ID指向,而不是向群體發(fā)送,因此,個(gè)性化推送和匿名化處理在目前的技術(shù)中是相互沖突的?!?
針對(duì)上面的沖突,業(yè)界的先行者提出一種區(qū)塊鏈的解決思路?!拔曳Q它為OF ID?!北本╊I(lǐng)主科技公司研究人員劉偉泰說(shuō),“大數(shù)據(jù)的本質(zhì)是群體研究,但是群體粒度可以細(xì)一些,此外,區(qū)塊鏈技術(shù)可以授予用戶授權(quán)的方法?!?
不難想象,隨著新技術(shù)的不斷創(chuàng)新,會(huì)有更多用于信息安全的技術(shù)突破,不是一門心思用于大數(shù)據(jù)挖掘,而是也能用于制衡“信息控制權(quán)”。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長(zhǎng)度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長(zhǎng)序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠(chéng)摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡(jiǎn)稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測(cè)分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢(shì)預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測(cè)分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭(zhēng)搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢(shì)性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢(shì)性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢(shì)與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢(shì)變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國(guó)內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對(duì)策略? 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場(chǎng)調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場(chǎng)調(diào)研是企業(yè)洞察市場(chǎng)動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場(chǎng)調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書(shū)考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開(kāi)啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03