大數(shù)據(jù)倫理化管理：重獲控制權(quán)

隨著大數(shù)據(jù)技術(shù)的發(fā)展，各類算法對數(shù)據(jù)流加以運用，并在個人抉擇過程中發(fā)揮著越來越?jīng)Q定性的作用。就此斷言我們已為這些算法所操縱，這未免太過危言聳聽?？蛇@些算法確實也在左右我們的眾多抉擇，無論是選擇酒店、機票乃至出行路線，還是挑選在線圖書，亦或是通過社交網(wǎng)絡(luò)結(jié)交朋友。

除了利于我們做抉擇，促成我們做抉擇，這些算法還以其特有的方式參與著社會生活的構(gòu)建。這種算法“力量”正悄然顯現(xiàn)，它主要依托于原始數(shù)據(jù)。這樣的力量具有前所未有的能力，可觸及人們生活最私密的角落。即便是廣布密探與耳目的極權(quán)政權(quán)，也未敢奢想掌握這種權(quán)力。

通過大規(guī)模的數(shù)據(jù)運用，個性化資訊才得以生成。在對可能性進(jìn)行預(yù)測的基礎(chǔ)上，這些資訊“有利于”我們的選擇行為——這種論調(diào)多少有些囫圇不清。一些機構(gòu)與我們存在數(shù)據(jù)關(guān)聯(lián)，它們對我們的選擇行為感興趣，并試圖預(yù)測、引導(dǎo)我們的選擇。這些算法掌握并影響著我們的選擇，我們對其所依據(jù)標(biāo)準(zhǔn)卻幾乎無從掌控、無從知曉。

如何重獲控制權(quán)呢？有一種思路頗具意味，那就是設(shè)計并建立某種模式，以適于分析、理解并處理這些海量的復(fù)雜數(shù)據(jù)，亦即一種倫理化模式。

數(shù)據(jù)倫理化的前提：算法原理

在此我們需要予以澄清。這不是要抑制大數(shù)據(jù)的蓬勃發(fā)展，而是使我們的生活盡量不受制于盲目理性，也不單純地屈從于市場的客觀需要。問題的核心也不在于構(gòu)建某種兩全模式，得以既合乎常情，又順應(yīng)大數(shù)據(jù)的巨大潛力。

不過，鑒于數(shù)據(jù)挖掘的原理，構(gòu)建針對復(fù)雜數(shù)據(jù)的倫理化模式是完全可行的。這是因為，作為大數(shù)據(jù)核心的歸納算法，其所依賴的邏輯與作為倫理道德核心的“實踐智慧”竟然是驚人地相似。

在日常生活中，人類收集數(shù)據(jù)，闡釋信息，與記憶中的知識建立聯(lián)系，并掌握在日后可被反復(fù)運用的種種能力。由此，人類獲得了一種“實踐智慧”，亦即行為的藝術(shù)；同樣在“倫理道德”中，這種所謂的“實踐智慧”也可以得以形成并完善。

數(shù)據(jù)挖掘算法所依賴的邏輯與人類日常行為所反映的邏輯，兩者十分接近。它們都屬于歸納式、而非演繹式的邏輯。大數(shù)據(jù)算法的設(shè)計初衷不在于推理論證，并獲得無可爭辯的結(jié)論；它不是數(shù)學(xué)運算。運行這種算法所依據(jù)的局部、不完全且尚未結(jié)構(gòu)化的數(shù)據(jù)，并不足以支撐論證過程。這種算法其實是對重復(fù)性動作的辨認(rèn)，對行為線索、行為模式的識別。例如，在亞馬遜網(wǎng)，它們會發(fā)現(xiàn)某類圖書的讀者很可能對另一類圖書也感興趣。這些算法收集數(shù)據(jù)，將數(shù)據(jù)聚合為信息，對信息加以闡釋，并與記憶中的知識建立聯(lián)系，由此提供精簡過的選擇范圍，而這些選擇又導(dǎo)向?qū)嵱媒Y(jié)果。

無論就人類行為而言，還是就數(shù)據(jù)算法而言，關(guān)鍵的節(jié)點都在于“化簡”，即將復(fù)雜的原始數(shù)據(jù)轉(zhuǎn)化為實用信息的過程。在上述亞馬遜的例子中，這意味著不去向科幻小說的愛好者推薦人類學(xué)著作。在這個關(guān)鍵的化簡環(huán)節(jié)，復(fù)雜數(shù)據(jù)的倫理化模型應(yīng)試圖去維護(hù)并開發(fā)這種辨識力。

在此，我們要遵循兩條必要的原則。首先，所謂“信息”通過某種系統(tǒng)性框架與行動相聯(lián)系。信息聚合為知識，這種知識又是一種實踐性知識，在行動中得以確認(rèn)。與其說它是知識，不如說它是對知識的實踐。

第二條原則直接來自于信息科學(xué)理論。相較之?dāng)?shù)據(jù)處理，毋寧說數(shù)據(jù)狀態(tài)描述。大數(shù)據(jù)倫理的關(guān)鍵也在于將紊亂且含混的復(fù)雜知識轉(zhuǎn)化為結(jié)構(gòu)性的簡單知識，并導(dǎo)向某種最終實踐。

數(shù)據(jù)倫理化的關(guān)鍵：數(shù)據(jù)分級

數(shù)據(jù)化簡的決定性環(huán)節(jié)就是數(shù)據(jù)分級。數(shù)據(jù)分級可以“調(diào)控”算法，讓其制造可用結(jié)果。數(shù)據(jù)分級要求事先對數(shù)據(jù)價值進(jìn)行考量，這通過一系列的設(shè)問完成：為何評估，出于什么樣的目的和目標(biāo)？如何對某項數(shù)據(jù)或某條信息的價值進(jìn)行評估，依據(jù)什么樣的標(biāo)準(zhǔn)？確切地說，我們到底應(yīng)該評估什么？

我們可以從某項數(shù)據(jù)的具體內(nèi)容來評估其價值：比如，點擊一次表示有人喜歡，有人朝某個方向前進(jìn)或返回，或有人打算支付。我們還可以從冗余度、差異性和數(shù)量角度對某項數(shù)據(jù)的價值進(jìn)行評估。數(shù)據(jù)的價值也取決于知識整體：某些數(shù)據(jù)對認(rèn)知貢獻(xiàn)較少，而另一些數(shù)據(jù)則對認(rèn)知意義更大。最后，我們可以在數(shù)據(jù)分享的層面，也就是從數(shù)據(jù)交換的質(zhì)與量對數(shù)據(jù)的價值進(jìn)行評估。

數(shù)據(jù)的價值還與它為用戶所提供的服務(wù)有關(guān)。對信息的評估就是確定信息的傳播策略，即在適當(dāng)?shù)臅r機提供適當(dāng)?shù)男畔?，根?jù)客戶的興趣與需求有選擇性地推送信息，從而杜絕誤導(dǎo)性信息和信息泛濫。

因此，系統(tǒng)設(shè)計者必須要確定，向用戶提供什么數(shù)據(jù)、提供多少信息。用戶需要哪些數(shù)據(jù)，才可以“良好地”決策，并“良好地”行動呢？為了在信息系統(tǒng)內(nèi)部實現(xiàn)數(shù)據(jù)改進(jìn)與數(shù)據(jù)過量之間的均衡，兩種變量可以對數(shù)據(jù)分級和數(shù)據(jù)揀選功能實行優(yōu)化。

第一種是指對所有層級數(shù)據(jù)進(jìn)行的反復(fù)評估，但這種再評估太過頻繁的話，來回傳輸所引起的數(shù)據(jù)過載，就會抵消再評估所帶來的好處。第二種是指最小存儲單位所包含、管理和等待移動的數(shù)據(jù)量，量過大也會導(dǎo)致分級變得復(fù)雜且緩慢。

這種對數(shù)據(jù)加以分級并評估的工作至關(guān)重要。倫理的因素也是在這個環(huán)節(jié)被引入。接下來我們研究一個頗為敏感的實例：醫(yī)療數(shù)據(jù)。

倫理化分析的實例：醫(yī)療數(shù)據(jù)

醫(yī)療數(shù)據(jù)可謂是兩方面利益的邊界：作為病患隱私，醫(yī)療數(shù)據(jù)應(yīng)當(dāng)?shù)玫奖Ｗo(hù)；作為流行病統(tǒng)計資料，醫(yī)療數(shù)據(jù)又對全人類有用。如何弄清這兩種因素呢？在四點原則基礎(chǔ)上，我們可以建立一套倫理化的方法。在其相關(guān)著作《生物醫(yī)學(xué)倫理原則》中，Tom Beauchamp和James Childress確立了這四點原則。

第一，善意性原則，也就是對他人福利的貢獻(xiàn)。善意性行為要符合兩點具體規(guī)定，即善意性行為一要有益，二要有用，表現(xiàn)為正成本效益。第二，自主性原則，也就是每個人為自己設(shè)定行為準(zhǔn)則。根據(jù)這條原則，病患必須參與到?jīng)Q策過程中。第三，非惡意性原則，也就是說，針對那些我們理應(yīng)對其履職盡責(zé)的人，避免對其行惡，避免使其遭受無謂的損害與痛苦。第四，公正性原則，也就是說，全體病患分享可用資源（時間、金錢、能源）。這條原則又與平等、公平的概念緊密相聯(lián)，平等與公平牽涉公正性決策的過程。理想的狀態(tài)是，任何行為都應(yīng)趨向完全平等，但根據(jù)不同狀況與個人，公平通常是為確立行動的某種優(yōu)先次序或等級而被強調(diào)。

設(shè)計良好的醫(yī)療數(shù)據(jù)揀選過程可滿足上述四點倫理化原則的三條。

善意性原則體現(xiàn)為，向用戶（醫(yī)務(wù)工作者與民眾）發(fā)布信息要適度，確保行為的恰當(dāng)性與合理性。傳播變得更高效。

自主性原則體現(xiàn)為，信息要清晰、準(zhǔn)確、適當(dāng)且容易理解，獲得當(dāng)事人的明確同意。病患有參與商議、決策且行動的權(quán)利。

非惡意性原則體現(xiàn)為，依據(jù)用戶身份與性質(zhì)對數(shù)據(jù)權(quán)限設(shè)限，提高數(shù)據(jù)安全性、保密性和數(shù)據(jù)保護(hù)。

這種選擇性數(shù)據(jù)手段之于公正性原則，卻存在反作用。針對不同用戶，信息發(fā)送也不盡相同。系統(tǒng)為每個人設(shè)置特定的信息分配與信息獲取規(guī)則。這樣的信息不對稱屬于歧視性做法，對信息透明度也提出挑戰(zhàn)。

依據(jù)數(shù)據(jù)被賦予的重要性，以及數(shù)據(jù)運用和發(fā)布所牽涉的問題，數(shù)據(jù)分級與數(shù)據(jù)揀選得以實現(xiàn)。通過對所發(fā)送的數(shù)據(jù)進(jìn)行簡化，數(shù)據(jù)的使用與訪問變得更奏效，數(shù)據(jù)采集與數(shù)據(jù)安全也獲得改善。不過，這種方法卻造成較差的數(shù)據(jù)完整性。所以說，數(shù)據(jù)分級使各類用戶的工作更輕松，卻使信息系統(tǒng)設(shè)計者面臨更大的技術(shù)挑戰(zhàn)。

這種選擇性數(shù)據(jù)分級在數(shù)據(jù)復(fù)雜度與可訪問度兩方面均發(fā)揮著重要作用。我們可視其為一種“組織性智能”。依據(jù)倫理化數(shù)據(jù)挖掘原則所構(gòu)建的那些算法，其所生成的新信息，我們可稱其為“倫理化信息”。經(jīng)過倫理化評估預(yù)處理的信息，在其日后的運用中蘊含更大價值。

倫理在何時改進(jìn)數(shù)據(jù)質(zhì)量

這種方法對初始數(shù)據(jù)先分級再揀選，以數(shù)據(jù)和信息的量化損失為代價，卻可改善知識的定性價值與熵值。同時，數(shù)據(jù)的自動選擇性分級系統(tǒng)通過偏低的存儲占用，根據(jù)用戶的不同需求，自動地向?qū)?yīng)的服務(wù)層級轉(zhuǎn)移數(shù)據(jù)。

關(guān)于大數(shù)據(jù)技術(shù)核心即歸納算法所展開的相關(guān)工作，使上述方法被極好地予以闡釋。唯一且放之四海皆準(zhǔn)的歸納式解決方案并不存在。盡管如此，針對具體目的，可選方案的范圍也會相對明確。恰如倫理化進(jìn)程，表現(xiàn)最突出的歸納算法應(yīng)該是不斷演化的。依照最適宜的可行方案，這些算法調(diào)整其處理數(shù)據(jù)的方式，進(jìn)而實現(xiàn)自我完善。為了構(gòu)建這樣的算法，數(shù)據(jù)處理必須具有預(yù)見性，且可發(fā)揮作用。為此，運用大數(shù)據(jù)，必須及早將數(shù)據(jù)轉(zhuǎn)換為可用的倫理化信息。

在這樣的大背景下，從倫理的視角，對選擇性分級方案進(jìn)行研究，有助于我們更好地理解數(shù)據(jù)可用性、數(shù)據(jù)保密性以及數(shù)據(jù)保護(hù)之間的不穩(wěn)定均衡。根據(jù)特定情況，這種均衡時而會倒向這邊，時而又倒向那邊。數(shù)據(jù)揀選之前，這樣的方法往往會向我們拋出一系列問題：這么做的目標(biāo)、目的、關(guān)鍵、意義分別是什么？我要使用哪些數(shù)據(jù)？局部數(shù)據(jù)還是全部數(shù)據(jù)？我要如何使用這些數(shù)據(jù)？在哪？對哪些用戶？更為宏觀地講，如何運用信息系統(tǒng)內(nèi)所累積和存儲的混雜數(shù)據(jù)？這種數(shù)據(jù)整體與我處境的相關(guān)性為何？這會不會造成原始信息價值的歪曲？最終信息的完整性可否得以保留？

技術(shù)解決不了所有問題。對個人信息及其私密性的保護(hù)，同時要依賴職業(yè)道德的約束與人們行為的自律。這就需要制定相應(yīng)的道德守則，以規(guī)范對大數(shù)據(jù)中個人數(shù)據(jù)的設(shè)計、實施及運用。這同時又帶出新問題：由什么機構(gòu)或組織負(fù)責(zé)制定這樣的守則，并推進(jìn)“倫理化”算法的認(rèn)證進(jìn)程？

杰羅姆?貝朗杰

杰羅姆?貝朗杰是一位衛(wèi)生經(jīng)濟學(xué)家，Keosys公司高級顧問，Espace Ethique Méditerranéen機構(gòu)副研究員。研究領(lǐng)域是倫理學(xué)、社會學(xué)、組織和技術(shù)設(shè)計學(xué)的方法，信息系統(tǒng)在衛(wèi)生行業(yè)、醫(yī)患溝通中的使用，以及遠(yuǎn)程醫(yī)療、電子醫(yī)療、移動醫(yī)療和醫(yī)療大數(shù)據(jù)。曾在國際知名刊物上發(fā)表多篇科技論文，負(fù)責(zé)三種專業(yè)期刊的編審。