機(jī)器學(xué)習(xí)、數(shù)據(jù)、隱私和更大的善

機(jī)器學(xué)習(xí)能夠?qū)】颠M(jìn)行跨類預(yù)測(cè)。社交媒體上，新媽媽們的行為和語(yǔ)言使用能夠被用來(lái)預(yù)測(cè)是否產(chǎn)后抑郁。

研究人員創(chuàng)造了一些術(shù)語(yǔ)，例如數(shù)字疾病檢測(cè)和信息監(jiān)測(cè) ，來(lái)定義這類利用不同的數(shù)字信息流進(jìn)行公共衛(wèi)生和政策信息通報(bào)的新科學(xué)，例如流行病的早期識(shí)別，疾病的傳染性和流動(dòng)性建模，個(gè)人疾病風(fēng)險(xiǎn)分類等。這種新形式的健康研究也會(huì)擴(kuò)展那些由傳統(tǒng)健康記錄和人體試驗(yàn)得出的結(jié)論。比如，藥物不良反應(yīng)的檢測(cè)可以結(jié)合美國(guó)食品和藥物管理局的不良反應(yīng)報(bào)告系統(tǒng)及匿名搜索日志加以改善。搜索日志可以作為一個(gè)大規(guī)模的傳感系統(tǒng)，用來(lái)監(jiān)測(cè)藥物安全——藥物警戒。

信息監(jiān)測(cè)研究通常是指對(duì)公開(kāi)披露或私有匿名數(shù)據(jù)的大規(guī)模綜合分析，就人群中公共健康問(wèn)題得出結(jié)論和見(jiàn)解。然而，一些方法和模型可以針對(duì)特定個(gè)體加以推測(cè)，從而采取一些舉措來(lái)改善個(gè)體或公共健康狀況，例如警報(bào)或者進(jìn)行數(shù)字干預(yù)（digital nudging）。

盡管數(shù)字干預(yù)顯示出良好前景，但是，英國(guó)最近發(fā)生的一次事件，讓人們注意到它也會(huì)對(duì)隱私造成困擾。Good Samaritan是Twitter上一款預(yù)防自殺的應(yīng)用，通過(guò)監(jiān)測(cè)用戶在Twitter上的用語(yǔ)，這款應(yīng)用能夠預(yù)測(cè)該用戶患有精神疾病的風(fēng)險(xiǎn)并通知該用戶的關(guān)注者，以便他們能介入以避免可能發(fā)生的自殺。但是，這項(xiàng)技術(shù)令輿論嘩然，也引發(fā)監(jiān)管機(jī)構(gòu)的擔(dān)憂，隨后被關(guān)閉。批評(píng)人士擔(dān)心，這款應(yīng)用會(huì)鼓勵(lì)在線騷擾者和恃強(qiáng)凌弱者將矛頭指向這些脆弱個(gè)體，他們的請(qǐng)?jiān)笗?shū)指出，這款應(yīng)用收集、處理并分享敏感信息，侵犯了用戶隱私，并收集到了1200個(gè)志愿者。雖然開(kāi)發(fā)者預(yù)防自殺的初衷值得嘉獎(jiǎng)，但是，此項(xiàng)非盈利之舉卻因它將試圖拯救的那些人的隱私和精神健康視為兒戲而遭到訓(xùn)斥。

機(jī)器學(xué)習(xí)可以促進(jìn)信息環(huán)境與社會(huì)環(huán)境之間的交流，借助遠(yuǎn)超醫(yī)療環(huán)境的非醫(yī)療數(shù)據(jù)就健康狀況或者傾向做出跨類推測(cè)（category-jumping）。這對(duì)隱私的影響是深遠(yuǎn)的。跨類推測(cè)可能會(huì)揭露一個(gè)人特意向別人隱瞞的問(wèn)題或狀況。為了防止出現(xiàn)這些違背意愿的現(xiàn)象，美國(guó)對(duì)健康護(hù)理隱私嚴(yán)加監(jiān)管。但是，雖然從健康理療和支付中獲得的健康狀況信息能夠以一種尊重患者隱私的方式加以保護(hù)，但是，機(jī)器學(xué)習(xí)和推測(cè)可以繞開(kāi)許多現(xiàn)存的保護(hù)機(jī)制。

即使不是跨類推測(cè)，機(jī)器學(xué)習(xí)也能從自我揭露、看似良性的數(shù)據(jù)以及易于觀察的行為中，進(jìn)行強(qiáng)大而折衷的推論（ powerful and compromising inferences）。這些結(jié)論可能會(huì)與隱私法的根本目的相悖——個(gè)人有權(quán)決定誰(shuí)知道以及知道自己哪些隱私。機(jī)器學(xué)習(xí)和預(yù)測(cè)會(huì)讓人們?cè)絹?lái)越難判斷：根據(jù)自己或明或暗共享過(guò)的信息，他人有權(quán)獲知自己的哪些隱私。這些計(jì)算機(jī)收集健康狀況的信息渠道與其他技術(shù)手段聯(lián)手之后，會(huì)讓既有健康隱私的保護(hù)機(jī)制出現(xiàn)很大漏洞。特別是，面對(duì)大量可以用來(lái)再次識(shí)別個(gè)體的各種輔助性數(shù)據(jù)，我們很難將公開(kāi)分享過(guò)的數(shù)據(jù)組去識(shí)別化（deidentify）。

現(xiàn)有的美國(guó)隱私制度將個(gè)人健康狀態(tài)隱私保護(hù)與被先驗(yàn)確定為健康信息的特定文本或特定信息類型關(guān)聯(lián)起來(lái)，機(jī)器學(xué)習(xí)的威力讓這種規(guī)定的根本局限性無(wú)所遁形?，F(xiàn)有美國(guó)健康隱私規(guī)則和隱私法律都是基于這一假設(shè)：孤立環(huán)境中的數(shù)據(jù)語(yǔ)義相對(duì)固定并且可知。但是，機(jī)器學(xué)習(xí)卻被用來(lái)從數(shù)據(jù)、跨數(shù)據(jù)中來(lái)預(yù)測(cè)新的數(shù)據(jù)語(yǔ)義，通常不受美國(guó)隱私法約束。例如，使用Twitter上的公開(kāi)推文來(lái)預(yù)測(cè)產(chǎn)后抑郁癥風(fēng)險(xiǎn)，這并不違反現(xiàn)有的隱私法。由于文章是公開(kāi)共享的，這樣做可能并不會(huì)讓人吃驚，也似乎不成問(wèn)題，但是，這種預(yù)測(cè)行為也會(huì)導(dǎo)致令人不安的后果。

當(dāng)前的隱私法通常采用雙重責(zé)任（double duty）。作為基本原則，法律會(huì)限制有權(quán)訪問(wèn)個(gè)人信息的主體。這也間接限制了信息能夠影響決策的范圍，因此也進(jìn)一步限制了信息引發(fā)歧視的機(jī)會(huì)。出于對(duì)隱私的高度敏感以及健康方面歧視的關(guān)注，還另立法律，對(duì)健康醫(yī)療數(shù)據(jù)文本之外的健康信息使用緊行規(guī)制。美國(guó)法律明確限制了不當(dāng)使用健康信息的行為。例如, 決定就業(yè)、信貸或住房時(shí)，法律通常禁止信用報(bào)告機(jī)構(gòu)提供醫(yī)療信息?！睹绹?guó)殘疾人法案》(ADA)禁止身體或精神殘疾歧視，甚至不允許人們這么認(rèn)為個(gè)體備受殘疾折磨。如果機(jī)器學(xué)習(xí)被用來(lái)推斷某人患有身體或精神障礙，那么，即使推斷是錯(cuò)誤的，雇主據(jù)此決定聘用對(duì)方的行為也違反了法律。

但是，《美國(guó)殘疾人法》并不禁止歧視殘疾傾向（predispositions）。機(jī)器學(xué)習(xí)也能發(fā)現(xiàn)那些殘疾傾向。理論上，《禁止基因信息歧視法案》(GINA)應(yīng)該通過(guò)保護(hù)基因上具有殘疾傾向的人來(lái)填補(bǔ)這一空白。但是，機(jī)器學(xué)習(xí)又讓這種保護(hù)變得困難。盡管GINA禁止以基因測(cè)試或某種疾病的家族遺傳史等信息為基礎(chǔ)的歧視，但是，機(jī)器學(xué)習(xí)能從其他類型數(shù)據(jù)中發(fā)現(xiàn)這些殘疾傾向，GINA并未限制人們利用這些信息進(jìn)行歧視（即使它還是根植于基因問(wèn)題）。換句話說(shuō)，機(jī)器學(xué)習(xí)能從非基因信息（包括遺傳傾向引發(fā)的健康變化）中預(yù)測(cè)未來(lái)的健康狀況，規(guī)避現(xiàn)有法律。

正如機(jī)器學(xué)習(xí)會(huì)暴露隱私一樣，它也為社會(huì)分類——對(duì)人分門(mén)別類，不同類別不同待遇——提供條件，無(wú)論這種處理的初衷如何（善或惡、好或壞）。為了將個(gè)體納入公共健康計(jì)劃和干預(yù)機(jī)制，對(duì)其進(jìn)行分門(mén)別類的方法也能輕易地被用于邪惡的目的，例如，通過(guò)歧視來(lái)保護(hù)組織的利益。

美國(guó)和其他國(guó)家的決策者們剛剛開(kāi)始著手梳理機(jī)器學(xué)習(xí)預(yù)測(cè)對(duì)信守隱私、公平帶來(lái)的挑戰(zhàn)。白宮公布了一份報(bào)告，討論了大規(guī)模數(shù)據(jù)分析可能導(dǎo)致歧視，雖然沒(méi)有特別關(guān)注健康信息，但是，報(bào)告和美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)都建議采取新舉措來(lái)保護(hù)隱私、整治惡意使用信息并增加透明度。

FTC是監(jiān)管商業(yè)活動(dòng)中不公平、欺詐性交易的關(guān)鍵部門(mén)，包括那些涉及隱私與個(gè)人信息安全的商業(yè)活動(dòng)。試行的隱私政策鼓勵(lì)公司將技術(shù)與政策機(jī)制結(jié)合來(lái)，防止再次識(shí)別（reidentification）。試行規(guī)定力圖確保數(shù)據(jù)「不能進(jìn)行合理識(shí)別」，也要求上市公司（public company）承諾不會(huì)再次識(shí)別經(jīng)過(guò)反識(shí)別處理的數(shù)據(jù)。試行也適用于數(shù)據(jù)下游使用者。這一政策方針有望適用于機(jī)器學(xué)習(xí)以及以數(shù)據(jù)為中心的分析領(lǐng)域中來(lái)。通過(guò)鼓勵(lì)公司減少數(shù)據(jù)池和數(shù)據(jù)分享對(duì)個(gè)人隱私造成的風(fēng)險(xiǎn)，使對(duì)大量數(shù)據(jù)組的學(xué)習(xí)和數(shù)據(jù)分享成為可能。

FTC的規(guī)定部分取材于機(jī)構(gòu)近期采取的一些行動(dòng)，行動(dòng)焦點(diǎn)正是我們謂之「文本跨越（context-jumping）」的預(yù)測(cè)行為。有一個(gè)頗受關(guān)注的案例，Netflix公開(kāi)一批數(shù)據(jù)組支持競(jìng)爭(zhēng)以改善公司的推薦算法。當(dāng)公司以外的研究人員用輔助數(shù)據(jù)重新識(shí)別、推測(cè)來(lái)自Netflix數(shù)據(jù)組的個(gè)體敏感特征時(shí)，F(xiàn)TC與Netflix合作，對(duì)將來(lái)公開(kāi)預(yù)測(cè)結(jié)果進(jìn)行了限制——FTC上述限制規(guī)定正是源于此。遵循類似脈絡(luò)，F(xiàn)TC反對(duì)改變Facebook的默認(rèn)規(guī)定：可以根據(jù)已經(jīng)公開(kāi)的個(gè)體隸屬組別中的敏感信息，諸如政治觀點(diǎn)和性別取向，進(jìn)行預(yù)測(cè)。

除此之外，F(xiàn)TC也努力確保個(gè)體能夠控制在線跟蹤以及移動(dòng)網(wǎng)絡(luò)環(huán)境。部分是因?yàn)槿藗兛梢詮木薮蟮臄?shù)據(jù)集合中進(jìn)行比較隱秘的推測(cè)，給用戶帶來(lái)風(fēng)險(xiǎn)，比如，市場(chǎng)活動(dòng)中，用戶會(huì)被分門(mén)別類地予以特殊對(duì)待。在某相關(guān)規(guī)定中，F(xiàn)TC建議國(guó)會(huì)要求數(shù)據(jù)掮客（data brokers）——那些搜集用戶個(gè)人信息予以出售或分享的公司——向客戶清楚說(shuō)明他們搜集的數(shù)據(jù)信息并如實(shí)告知客戶，公司從這些數(shù)據(jù)中得到了一些預(yù)測(cè)。這里，F(xiàn)TC再次表明，它的關(guān)注點(diǎn)不僅僅是原始數(shù)據(jù)，還包括基于這些數(shù)據(jù)作出的預(yù)測(cè)。

奧巴馬政府的大數(shù)據(jù)計(jì)劃也考慮到機(jī)器學(xué)習(xí)給隱私造成的威脅以及機(jī)器推測(cè)在市場(chǎng)活動(dòng)中帶來(lái)的潛在威脅，計(jì)劃總結(jié)道，我們需要更新隱私政策，提高消費(fèi)者保護(hù)和民主權(quán)利機(jī)構(gòu)的技術(shù)專業(yè)性以描述出大數(shù)據(jù)引發(fā)的新奇的歧視議題，并為個(gè)體提供隱私保護(hù)工具，讓公民可以控制、管理個(gè)人信息管理，增加公司使用和交易數(shù)據(jù)的透明度。政府也關(guān)心機(jī)器學(xué)習(xí)在政策與國(guó)家安全方面的使用情況。白宮報(bào)告要求提高專業(yè)技術(shù)，幫助民主權(quán)利和消費(fèi)者保護(hù)機(jī)構(gòu)識(shí)別、調(diào)查以及消弭會(huì)對(duì)受保護(hù)階層帶來(lái)歧視效應(yīng)的大數(shù)據(jù)分析使用。

請(qǐng)注意，政府報(bào)告和法律規(guī)定清楚強(qiáng)調(diào)了政策規(guī)范關(guān)注的是數(shù)據(jù)使用，而不是數(shù)據(jù)收集。盡管我們也需要工具來(lái)幫助用戶控制自身數(shù)據(jù)收集的時(shí)間和方式，但是，政府的建議是讓個(gè)體有權(quán)參與到如何使用與公開(kāi)搜集到的數(shù)據(jù)的決策過(guò)程中來(lái)?？偨y(tǒng)科技顧問(wèn)委員會(huì)（PCAST）出具的一份獨(dú)立報(bào)告的結(jié)論是，技術(shù)保護(hù)這個(gè)方向更加富有成效。兩份報(bào)告均建議，基于數(shù)據(jù)使用的保護(hù)能更好地描述出潛在數(shù)據(jù)意義——使用機(jī)器學(xué)習(xí)對(duì)數(shù)據(jù)進(jìn)行預(yù)測(cè)——也能適應(yīng)數(shù)據(jù)豐富規(guī)模以及將來(lái)的關(guān)聯(lián)環(huán)境。 政府呼吁各方通力合作以確保對(duì)健康數(shù)據(jù)文本的規(guī)制使以下期待成為可能：享受機(jī)器學(xué)習(xí)和預(yù)測(cè)的好處的同時(shí)降低其可能招致的風(fēng)險(xiǎn)。這種基于數(shù)據(jù)使用的保護(hù)方法也經(jīng)常得到工業(yè)領(lǐng)域的支持，該領(lǐng)域傾向于將數(shù)據(jù)視為一種自然資源，無(wú)論是出于商業(yè)目的還是公共利益，都要對(duì)之進(jìn)行開(kāi)采，抵制限制數(shù)據(jù)搜集的舉措。

盡管當(dāng)前陷入僵局的國(guó)會(huì)不太可能，也不會(huì)完全依從這些建議，但是，采用它們會(huì)增強(qiáng)數(shù)據(jù)搜集、使用以及相應(yīng)后果的透明度。連同努力識(shí)別、限制不公平或歧視性數(shù)據(jù)的使用和推測(cè)等建議，它們都是頗為有用的舉措。這些建議也與歐盟目前有關(guān)數(shù)據(jù)處理透明度與公平性的隱私法律，特別是全自動(dòng)化決策可能給個(gè)體造成的風(fēng)險(xiǎn)方面，步調(diào)一致。

目前歐盟的法律要求實(shí)體為個(gè)人提供獲得決策數(shù)據(jù)的途徑以及決策標(biāo)準(zhǔn)的信息【參看第21款第12條和第15條】。盡管目前有歐盟統(tǒng)一指令約束，但是，具體規(guī)定仍是各國(guó)法律的事情。當(dāng)個(gè)體要求獲取數(shù)據(jù)和進(jìn)行加工時(shí)，他們能夠獲取的權(quán)限大小會(huì)隨著各國(guó)對(duì)「全自動(dòng)化 」過(guò)程施加限制的不同而所有不同。歐盟想要采用一項(xiàng)高于本地法律的數(shù)據(jù)隱私規(guī)定，實(shí)行單一國(guó)家標(biāo)準(zhǔn)。盡管現(xiàn)有草案包含平行條款，但是，最終版本以及如何進(jìn)行最終解釋都尚不清楚(27)。

理論上，歐盟提出了一項(xiàng)新要求來(lái)公開(kāi)數(shù)據(jù)的處理邏輯，這可以得到廣泛適用，同時(shí)也預(yù)示著將有公開(kāi)途徑獲得數(shù)據(jù)分析及算法。歐盟將基于當(dāng)前歐盟的統(tǒng)一指令，就獲取數(shù)據(jù)和處理邏輯的程度補(bǔ)充一些細(xì)節(jié)，在這之前的過(guò)渡期，今年夏天將有望出臺(tái)一項(xiàng)決議。

對(duì)數(shù)據(jù)擁有者來(lái)說(shuō)，提高數(shù)據(jù)處理的透明度至關(guān)重要又頗具挑戰(zhàn)。盡管這一目標(biāo)會(huì)促進(jìn)我們加深對(duì)運(yùn)作方式或機(jī)器學(xué)習(xí)和推理方法的可能輸出結(jié)果的實(shí)際理解，但是，算法和決策標(biāo)準(zhǔn)的工作流和機(jī)制或許難以進(jìn)行描繪和解釋。例如，流行的卷積神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)程序能夠自動(dòng)催發(fā)豐富的、多層的表征，但對(duì)于這些表征，可能開(kāi)發(fā)者自己都無(wú)法清晰理解。盡管可以提供對(duì)步驟和表征的高級(jí)描述，但是，即便是一個(gè)能夠取得源碼的嫻熟程序員, 也無(wú)法對(duì)這一系統(tǒng)的準(zhǔn)確運(yùn)行進(jìn)行描述，無(wú)法對(duì)一組既定輸入值的輸出結(jié)果進(jìn)行準(zhǔn)確預(yù)測(cè)。

數(shù)據(jù)的意義已經(jīng)成為了一個(gè)不斷移動(dòng)的目標(biāo)。數(shù)據(jù)集可以通過(guò)去定義化被輕易的組合成重新定義的數(shù)據(jù)集，感知知識(shí)可從常規(guī)和雜亂分享的良性數(shù)據(jù)中推斷出來(lái)。這對(duì)目前美國(guó)利用合法手段進(jìn)行隱私保護(hù)造成了困難，他們的保護(hù)手段往往是基于數(shù)據(jù)的可識(shí)別性和明確含義對(duì)其進(jìn)行管理。

基于應(yīng)用的解決方案在一定程度上僅聚焦于有限的數(shù)據(jù)收集，這是不夠的。因?yàn)閺哪撤N程度上來(lái)說(shuō)，這種做法預(yù)設(shè)了數(shù)據(jù)是可被基于某種原則進(jìn)行收集的純粹的物品，無(wú)論何時(shí)何地。雖然我們尚未準(zhǔn)備好廢棄掉數(shù)據(jù)收集的限制，但我們對(duì)此表示同意——基于應(yīng)用的管理?xiàng)l例是未來(lái)法律藍(lán)圖的重要部分，盡管實(shí)施起來(lái)將面臨挑戰(zhàn)，但它將有助于促進(jìn)隱私、平等和公共物品的保護(hù)。在提高透明度的同時(shí)還要平衡隨之而來(lái)的各種限制，基于應(yīng)用的解決方案將需要格外強(qiáng)調(diào)個(gè)人數(shù)據(jù)的獲取、準(zhǔn)確性和修正權(quán)利。

盡管關(guān)于個(gè)人健康信息的管理?xiàng)l例的演化還不完整，但它卻提供給了我們一個(gè)有價(jià)值的圖景，使我們能夠?qū)裉焖媾R的機(jī)遇和挑戰(zhàn)進(jìn)行思考，同時(shí)也為潛在解決方案提出了框架思路。在醫(yī)療健康領(lǐng)域，隱私條例中總會(huì)包含不歧視條款，同時(shí)也伴隨著支持研究的特殊條款。如今，隱私條例與集體管理模型聯(lián)系在了一起，后者的設(shè)計(jì)初衷是鼓勵(lì)將支持研究的生物樣本庫(kù)數(shù)據(jù)進(jìn)行匯總，同時(shí)保護(hù)集體隱私。

盡管還有些較為現(xiàn)實(shí)的挑戰(zhàn)，我們?nèi)韵Ｍ咧贫ㄕ吆凸娔軌蚓蛿?shù)據(jù)、機(jī)器學(xué)習(xí)的能力進(jìn)行開(kāi)誠(chéng)布公的討論，這將為接下來(lái)的程序和政策提供富有洞察力的設(shè)計(jì)思路，我們一方面需要保護(hù)隱私和確保公平，另一方面也需要享受（基于個(gè)人數(shù)據(jù)的）科學(xué)研究成果給個(gè)人和公眾帶來(lái)的好處，程序和政策的設(shè)計(jì)有利于在這兩者之間取得平衡。我們對(duì)隱私和公正的追求是永恒的，我們的政策必須適應(yīng)這種進(jìn)步，同時(shí)也要支持深化我們認(rèn)識(shí)的新技術(shù)。