大圖數(shù)據(jù)科學(xué)： 圖數(shù)據(jù)中的推理

我們正淹沒在大數(shù)據(jù)的河流里，大數(shù)據(jù)并非是平的，而是多模態(tài)、多關(guān)系、兼具時(shí)空、多媒體的。目前的AI技術(shù)，特別是機(jī)器學(xué)習(xí)，它將豐富復(fù)雜數(shù)據(jù)平放到矩陣的形式當(dāng)中。我們當(dāng)下所做的一些工作很可能忽視了數(shù)據(jù)當(dāng)中的很多豐富信息，其中很重要的一點(diǎn)就是錯(cuò)誤假設(shè)了數(shù)據(jù)之間的相互關(guān)系。作為研究者和開發(fā)者，我們需要考慮到這些圖的結(jié)構(gòu)和相關(guān)的環(huán)境因素。

我想首先和大家說說三種常見的圖數(shù)據(jù)推理模式，最簡單的一種叫做協(xié)同分類。如果一個(gè)圖的部分結(jié)點(diǎn)已經(jīng)有標(biāo)簽，我們就可以推理出其結(jié)點(diǎn)的標(biāo)簽。社交網(wǎng)絡(luò)就是很典型的例子，其中包含著非常豐富的信息和聯(lián)系，通過信息和數(shù)據(jù)去做推理可以得出某位朋友的飲食習(xí)慣或其他偏好。基于數(shù)據(jù)在已有的信息，設(shè)置不同的權(quán)重，我們能夠做一些簡單的推理，充分利用本地信息和標(biāo)簽，再去推理出一些之前沒有加入的標(biāo)簽信息。

第二種叫做鏈接預(yù)測(cè)，我們不僅僅可以預(yù)測(cè)某一個(gè)結(jié)點(diǎn)的標(biāo)簽，還可以推斷結(jié)點(diǎn)之間的鏈接。比如說有一個(gè)通訊網(wǎng)絡(luò)，我們能夠通過通訊信息推理出網(wǎng)絡(luò)中所有人的層級(jí)，并通過不同種類的信息判斷不同人之間的關(guān)系。

第三種是實(shí)體解析，任務(wù)是確定哪些結(jié)點(diǎn)指向同樣的實(shí)體，我們就能從中獲得一些信息。

對(duì)我個(gè)人而言，我最喜歡的圖推理問題是圖識(shí)別(發(fā)現(xiàn)可觀察圖結(jié)構(gòu)所潛含的真實(shí)圖結(jié)構(gòu))，它能夠把上面提到的的三個(gè)小模型結(jié)合到一起。還是以郵件通訊網(wǎng)絡(luò)為例，通過對(duì)郵件信息進(jìn)行推理就可以發(fā)現(xiàn)這幾個(gè)人之間的關(guān)系及角色。我們需要對(duì)每一個(gè)信息進(jìn)行研究，研究他們的實(shí)體狀況和郵件狀況。具體做法是首先對(duì)這些人進(jìn)行分組，對(duì)之間的關(guān)系進(jìn)行預(yù)測(cè)，并對(duì)實(shí)體身份做出判斷。這其中也存在非常大的挑戰(zhàn)，如何打造一個(gè)非常魯棒的算法來理清其中的人物關(guān)系非常重要。

目前，統(tǒng)計(jì)學(xué)研究也在開發(fā)相應(yīng)的算法，例如概率性推理和關(guān)系推理。有一個(gè)工具叫概率軟性邏輯PSL，它是一種概率編程語言，即用描述性的語言對(duì)圖上的問題進(jìn)行描述。這個(gè)基礎(chǔ)是，我們有屬性、關(guān)系的邏輯表示，還有規(guī)則和約束來捕捉他們的依賴關(guān)系。PSL是一個(gè)這樣的存在，它根據(jù)模板和數(shù)據(jù)來定義他們之間的概率分布用于推斷。

PSL比較有意思的一點(diǎn)是，它通過將邏輯規(guī)則映射為凸函數(shù)，實(shí)現(xiàn)了大規(guī)模推斷的可擴(kuò)展性。更有意思的是，這個(gè)映射的合理性是用已有的理論計(jì)算機(jī)科學(xué)的結(jié)論證明的，用MAX SAT的近似隨機(jī)算法結(jié)合統(tǒng)計(jì)學(xué)、機(jī)器學(xué)習(xí)、圖模型方面的理論。之后我們就可以將從理論計(jì)算機(jī)科學(xué)當(dāng)中的一些東西轉(zhuǎn)化到實(shí)際的圖識(shí)別應(yīng)用當(dāng)中去，最后將這種軟性的邏輯和AI進(jìn)行結(jié)合，在不同的情景下，很多時(shí)候你們會(huì)得到同樣的優(yōu)化結(jié)果。在我看來，我覺得我們現(xiàn)在能看到的這些東西僅僅是冰山一角，我們稱之為叫Hinge-loss馬爾科夫隨機(jī)域。在這里有包含著很多具體微小的細(xì)節(jié)，每一個(gè)邏輯規(guī)則實(shí)際上都和某一個(gè)函數(shù)是相關(guān)的，相關(guān)的函數(shù)實(shí)際上都會(huì)造成一定的依賴損失。

在圖識(shí)別領(lǐng)域，PSL在推理速度和準(zhǔn)確度上的表現(xiàn)和離散的馬爾科夫規(guī)則相比都要更好，且從數(shù)據(jù)當(dāng)中學(xué)習(xí)權(quán)重和變量的效果也更加出色。由此PSL可以衍生出很多具體的應(yīng)用，首先是分類問題。以在線討論為例，PSL通過觀察大家討論的文字內(nèi)容和行為數(shù)據(jù)，就能夠很好地來預(yù)測(cè)用戶的觀點(diǎn)。再比如大數(shù)據(jù)和AI領(lǐng)域常常需要聚合信息做推薦、預(yù)測(cè)甚至打分，我們有來自社交互動(dòng)、圖像方面的各種信息，其實(shí)這些信息中存在一定的相似性。PSL的優(yōu)勢(shì)就在于它具有非常好的擴(kuò)展性，特別是邏輯相似性較高的情況下擴(kuò)展也會(huì)更加容易。

另外一個(gè)領(lǐng)域可能和安全相關(guān)，通過研究社交媒體當(dāng)中的垃圾郵件可以進(jìn)行協(xié)同推斷，哪些可能是垃圾郵件。還有一個(gè)問題是如何把視覺的、文本的、關(guān)系的數(shù)據(jù)全部融合起來，去推測(cè)使用用戶的個(gè)性。我們把所有的信息結(jié)合起來就能夠預(yù)測(cè)一些人口學(xué)特征，比如性別、年齡，同時(shí)還可以預(yù)測(cè)人們?cè)谏缃幻襟w當(dāng)中的信任。

最后我想和大家分享有關(guān)知識(shí)圖的建構(gòu)，如何獲取足夠多的數(shù)據(jù)來實(shí)現(xiàn)知識(shí)的自動(dòng)架構(gòu)是一項(xiàng)長期以來的挑戰(zhàn)。我們能夠結(jié)合統(tǒng)計(jì)學(xué)的數(shù)據(jù)信息以及一些相對(duì)簡單的語義信息，把它們和我開始提出的圖識(shí)別問題結(jié)合起來，并在做圖識(shí)別時(shí)找到它的結(jié)點(diǎn)、標(biāo)簽以及結(jié)點(diǎn)之間的關(guān)系，在此之上可以再融入一些本體的限制，同時(shí)還可以融入一些關(guān)于信息和其他來源的數(shù)據(jù)。把它們相結(jié)合能夠產(chǎn)生比較好的效果，而且速度可以得到顯著提升。

我們需要對(duì)圖進(jìn)行更多的機(jī)器學(xué)習(xí)，考慮各種關(guān)聯(lián)結(jié)點(diǎn)之間的復(fù)雜關(guān)系。另外，當(dāng)我們?cè)谧鰯?shù)據(jù)驅(qū)動(dòng)技術(shù)時(shí)需要思考究竟什么才是負(fù)責(zé)任的數(shù)據(jù)科學(xué)，如何檢查數(shù)據(jù)并通過算法做出決策。我個(gè)人對(duì)PSL感到興奮的原因就在于它的邏輯規(guī)則確實(shí)比一大批權(quán)重或是參數(shù)的算法更加容易解釋。這個(gè)領(lǐng)域會(huì)有一些隱私和安全性的問題，這值得我們進(jìn)一步研究;相伴而生的還有很多機(jī)遇，有更多社會(huì)、商業(yè)、科學(xué)、安全以及其他方面的應(yīng)用可以去發(fā)現(xiàn)、去探索。