如何防范人工智能、大數(shù)據(jù)、區(qū)塊鏈、云計(jì)算的技術(shù)風(fēng)險(xiǎn)

眾所周知，人工智能、大數(shù)據(jù)、區(qū)塊鏈、云計(jì)算這四項(xiàng)技術(shù)是Techfin市場(chǎng)中的頂梁柱。近日京東金融研究院發(fā)布了《2017金融科技報(bào)告——行業(yè)發(fā)展與法律前沿》(以下簡(jiǎn)稱“報(bào)告”)，今天將從技術(shù)風(fēng)險(xiǎn)與防范角度帶來(lái)報(bào)告精彩內(nèi)容!

云計(jì)算技術(shù)風(fēng)險(xiǎn)與防范

美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院 (NIST) 關(guān)于云計(jì)算的定義是 : “云計(jì)算是一種按使用量付費(fèi)的模式，這種模式提供可用的、 便捷的、按需的網(wǎng)絡(luò)訪問(wèn)，進(jìn)入可配置的計(jì)算資源共享池 ( 資源包括網(wǎng)絡(luò)、服務(wù)器、存儲(chǔ)、應(yīng)用軟件、服務(wù)等 ) ，這些資源能夠被快速提供，只需投入很少的管理工作，或與服務(wù)供應(yīng)商進(jìn)行很少的交互?！?

“云計(jì)算”概念產(chǎn)生于谷歌和 IBM 等大型互聯(lián)網(wǎng)公司處理海量數(shù)據(jù)的實(shí)踐。2006 年 Google 首席執(zhí)行官埃里克 · 施密特 (Eric Schmidt) 在搜索引擎大會(huì)首次提出 “云計(jì)算”的概念。

云計(jì)算面臨的技術(shù)挑戰(zhàn)

利用云計(jì)算解決海量異構(gòu)信息處理和多樣化復(fù)雜應(yīng)用的整合問(wèn)題，成為眾多金融機(jī)構(gòu)的選擇，但這一方式也給金融 行業(yè)以及金融監(jiān)管帶來(lái)挑戰(zhàn)。第一層面的挑戰(zhàn)基于“云計(jì)算”本身，其自帶屬性易發(fā)生風(fēng)險(xiǎn);第二層面的挑戰(zhàn)基于“云計(jì)算”與金融的結(jié)合所產(chǎn)生的更為明顯的集聚性風(fēng)險(xiǎn)。

云計(jì)算的基礎(chǔ)性風(fēng)險(xiǎn)

數(shù)據(jù)存取缺乏控制或不易取用，是造成金融機(jī)構(gòu)及政府不敢貿(mào)然采用云方案的主要原因。云安全聯(lián)盟 ( Cloud Security Alliance ，CSA) 定義了云計(jì)算七個(gè)方面的主要風(fēng)險(xiǎn)：數(shù)據(jù)損害、共享技術(shù)的議題、竊取賬戶及服務(wù);危險(xiǎn)的局內(nèi)人;濫用云計(jì)算;不安全的程序接口與其他未知風(fēng)險(xiǎn)

基于云環(huán)境下的金融信息系統(tǒng)的安全性風(fēng)險(xiǎn)

對(duì)于金融企業(yè)的基礎(chǔ)設(shè)施而言，物理安全十分重要。云計(jì)算環(huán)境下的大部分金融系統(tǒng)往往需要在瀏覽器內(nèi)訪問(wèn)客戶 端，網(wǎng)絡(luò)服務(wù)器成為其溝通的紐帶和橋梁。

基礎(chǔ)的金融信息風(fēng)險(xiǎn)常涉及兩個(gè)方面： 一是金融內(nèi)部人員的濫用導(dǎo)致金融資產(chǎn)損失; 二是金融設(shè)施的缺陷使部分金融業(yè)務(wù)陷入中斷。 云計(jì)算下網(wǎng)絡(luò)金融系統(tǒng)最大的安全隱患在于病毒或木馬的侵襲。網(wǎng)絡(luò)服務(wù)器未受到有效保護(hù)，一旦遭到病毒入侵，網(wǎng)絡(luò)數(shù)據(jù)就會(huì)丟失，云計(jì)算環(huán)境下的金融服務(wù)體系，因其具有特殊的分布性，針對(duì)其中的敏感數(shù)據(jù)，必須采取針對(duì)性的保護(hù)措施。

云計(jì)算風(fēng)險(xiǎn)防控政策建議

基礎(chǔ)性風(fēng)險(xiǎn)防控建議

企業(yè)及政府對(duì)是否導(dǎo)入云計(jì)算的考慮集中在云計(jì)算的風(fēng)險(xiǎn)控制上，在規(guī)劃導(dǎo)入云技術(shù)及云外包服務(wù)前，必須先考慮相 關(guān)風(fēng)險(xiǎn)是否可被管控。在云環(huán)境中制作或轉(zhuǎn)移數(shù)據(jù)時(shí)，用戶必須將數(shù)據(jù)分類，分析其安全需求，并定義云服務(wù)商應(yīng)如何存儲(chǔ)或傳遞那些數(shù)據(jù)。

此外，數(shù)據(jù)安全等級(jí)的分類和定義，應(yīng)依據(jù)云服務(wù)商所定的安全標(biāo)準(zhǔn)來(lái)進(jìn)行。

云計(jì)算環(huán)境下金融系統(tǒng)風(fēng)險(xiǎn)防范建議

在金融系統(tǒng)的應(yīng)用過(guò)程中注重金融信息安全評(píng)估，在發(fā)現(xiàn)金融系統(tǒng)的安全隱患時(shí)及時(shí)修復(fù)。有效控制金融信息，制定 安全的金融系統(tǒng)策略和科學(xué)決策，保證系統(tǒng)的完整性和可靠性，重視金融信息管控治理。

注重金融信息安全處理

加強(qiáng)金融信息安全評(píng)估

重視金融信息管控治理

大數(shù)據(jù)技術(shù)風(fēng)險(xiǎn)與防范

大數(shù)據(jù)面臨的風(fēng)險(xiǎn)

數(shù)據(jù)竊取

大數(shù)據(jù)采用云端存儲(chǔ)處理海量數(shù)據(jù)，對(duì)數(shù)據(jù)的管理較為分散，對(duì)用戶進(jìn)行數(shù)據(jù)處理的場(chǎng)所無(wú)法控制，難以區(qū)分合 法用戶與非法用戶，容易導(dǎo)致非法用戶入侵，竊取重要信息，在網(wǎng)絡(luò)空間，大數(shù)據(jù)更容易成為攻擊目標(biāo)。

非法添加和篡改分析結(jié)果

黑 客入侵大數(shù)據(jù)系統(tǒng)，非法添加和篡改分析結(jié)果，可能對(duì)金融機(jī)構(gòu)以及個(gè)人甚至政府的決策造成干擾。

個(gè)人信息泄露

面臨用戶移動(dòng)客戶端安全管理和個(gè)人金融隱私信息保護(hù)的雙重安全挑戰(zhàn)，企業(yè)較難在安全性與便利性之間達(dá)成 平衡。

數(shù)據(jù)存儲(chǔ)安全

“數(shù)據(jù)大集中”在中國(guó)金融業(yè)獲得廣泛認(rèn)可。一些大型券商和銀行紛紛建設(shè)數(shù)據(jù)種子作為金融服務(wù)的核心和基 礎(chǔ)。大數(shù)據(jù)對(duì)數(shù)據(jù)存儲(chǔ)的物理安全性、多副本性要求較高。一方面各類復(fù)雜數(shù)據(jù)的集中存儲(chǔ)易出現(xiàn)存儲(chǔ)混亂，造 成安全管理違規(guī)。另一方面安全防護(hù)手段的更新升級(jí)速度無(wú)法跟上數(shù)據(jù)量的非線性增長(zhǎng)，大數(shù)據(jù)安全防護(hù)容易出現(xiàn)漏洞。

大數(shù)據(jù)風(fēng)險(xiǎn)防控政策建議

建立大數(shù)據(jù)金融系統(tǒng)

大數(shù)據(jù)金融生態(tài)系統(tǒng)是指金融大數(shù)據(jù)與從事大數(shù)據(jù)金融活動(dòng)的個(gè)人、家庭、廠商、政府、非政府組織等社會(huì)行為體之間 共同形成的動(dòng)態(tài)系統(tǒng)整體。

大數(shù)據(jù)金融系統(tǒng)可用下圖表示：

各主體在從事金融交易活動(dòng)時(shí)會(huì)產(chǎn)生海量金融大數(shù)據(jù)，這種大數(shù)據(jù)呈幾何增長(zhǎng)，構(gòu)建海量金融大數(shù)據(jù)與大數(shù)據(jù)金融活 動(dòng)相互影響的大數(shù)據(jù)金融生態(tài)系統(tǒng)非常重要。加強(qiáng)對(duì)系統(tǒng)內(nèi)不法行為的規(guī)制，杜絕信息篡改、竊取，保護(hù)個(gè)人隱私，促 進(jìn)信息流的良性循環(huán)，保證數(shù)據(jù)的真實(shí)可靠。引入信用系統(tǒng)、評(píng)級(jí)系統(tǒng)等，強(qiáng)化金融大數(shù)據(jù)系統(tǒng)的安全性和可靠性。

規(guī)范數(shù)據(jù)提取及交易程序

一方面，明確收集大數(shù)據(jù)主體。大數(shù)據(jù)的產(chǎn)生包括兩個(gè)渠道，一是來(lái)自法律授權(quán)收集，二是公民使用網(wǎng)絡(luò)設(shè)備自動(dòng)形成 的信息記錄。兩種信息源頭的信息混雜在一起，形成更為精準(zhǔn)、私密的信息。針對(duì)此類信息的收集，目前無(wú)法做到程序化和模板化，只能秉持兩個(gè)基本原則：利益原則和知情與許可原則。

另一方面，明晰數(shù)據(jù)交易主體。大數(shù)據(jù)是靜態(tài)的提取與存儲(chǔ)過(guò)程，也是動(dòng)態(tài)的交易過(guò)程。在金融領(lǐng)域，不論是個(gè)人信 息、企業(yè)信息還是政府信息都非常重要，應(yīng)嚴(yán)格審查和審批參與大數(shù)據(jù)交易的主體及其掌握的信息，從信息供給層面予以規(guī)范。

人工智能技術(shù)風(fēng)險(xiǎn)與防范

人工智能發(fā)展中面臨的風(fēng)險(xiǎn)

用戶隱私被泄露

人工智能的背后，是局域大數(shù)據(jù)及智能算法的繼續(xù)升級(jí)，人工智能系統(tǒng)通常具有記憶功能，通過(guò)收集、統(tǒng)計(jì)、分析 用戶的數(shù)據(jù)不斷提升自己的智能型。如果被黑客入侵，用戶隱私可能被泄露，輕則用戶信息被不法分子掌握，重 則危害用戶財(cái)產(chǎn)安全甚至人身安全。

故障排解和行為監(jiān)管成本急速上升

人工智能自身的負(fù)載性及系統(tǒng)風(fēng)險(xiǎn)性的增加導(dǎo)致故障排解成本將大幅度提升。在現(xiàn)有法律監(jiān)管體系下，對(duì)機(jī)器 及運(yùn)行程序故障造成的損害，難以有效界定責(zé)任主體及責(zé)任份額。

技術(shù)面臨失控風(fēng)險(xiǎn)

人工智能在短期內(nèi)的影響取決于誰(shuí)來(lái)控制，長(zhǎng)期影響取決于它是否受到控制。一旦應(yīng)用環(huán)境和數(shù)據(jù)脫離用戶的 可控范圍，尚無(wú)技術(shù)避開(kāi)人工智能失控帶來(lái)的風(fēng)險(xiǎn)。

人工智能風(fēng)險(xiǎn)防控政策建議

加強(qiáng)訪問(wèn)控制和身份認(rèn)證

人工智能的安全性很大程度上已超出人工智能用戶的控制，開(kāi)發(fā)者和使用者必須提供強(qiáng)有力的安全防御支持，將人工 智能與網(wǎng)絡(luò)安全防御技術(shù)相結(jié)合，使用密碼技術(shù)來(lái)保證機(jī)密數(shù)據(jù)的安全，統(tǒng)一用戶身份管理、授權(quán)管理、訪問(wèn)管理，以 增強(qiáng)信息安全性。

出臺(tái)審計(jì)措施和相關(guān)的監(jiān)管措施

需要采取必要的驗(yàn)證和升級(jí)措施，出臺(tái)相關(guān)評(píng)價(jià)方案對(duì)人工智能軟、硬件環(huán)境進(jìn)行嚴(yán)格評(píng)價(jià)，同時(shí)對(duì)服務(wù)器、客戶 端、軟件配置、負(fù)荷管理等進(jìn)行實(shí)時(shí)監(jiān)控和安全測(cè)試，及時(shí)發(fā)現(xiàn)系統(tǒng)故障及受感染惡意控制的情況，一旦出現(xiàn)問(wèn)題立 即報(bào)警。

不能過(guò)度依賴人工智能

基于深度學(xué)習(xí)的人工智能將會(huì)創(chuàng)造更多價(jià)值是發(fā)展趨勢(shì)，它能為人類服務(wù)甚至取代某些工作，但用戶不應(yīng)過(guò)度依賴人 工智能，仍要掌握安全主動(dòng)權(quán)，做好保護(hù)措施，通過(guò)技術(shù)、服務(wù)和管理相互配合的方式，形成共同遵循的安全規(guī)范，營(yíng)造 保障人工智能健康發(fā)展的可信環(huán)境。

區(qū)塊鏈技術(shù)風(fēng)險(xiǎn)與防范

區(qū)塊鏈面臨的風(fēng)險(xiǎn)

網(wǎng)絡(luò)公開(kāi)不設(shè)防可能導(dǎo)致信息源復(fù)雜且不可控

所有數(shù)據(jù)都在公網(wǎng)上傳輸，所有加入網(wǎng)絡(luò)的節(jié)點(diǎn)都可無(wú)障礙地鏈接其他節(jié)點(diǎn)和接受其他節(jié)點(diǎn)的鏈接，網(wǎng)絡(luò)層沒(méi)有身份驗(yàn)證或其他防護(hù)措施。

去中心化不利于合法隱私的保護(hù)

共有鏈上交易數(shù)據(jù)全網(wǎng)可見(jiàn)，公眾可跟蹤交易，不利于個(gè)人或機(jī)構(gòu)的合法隱私保護(hù)。

容易遭受算力攻擊以及道德風(fēng)險(xiǎn)

工作量證明型的區(qū)塊鏈解決方案，面臨 51% 算力攻擊問(wèn)題。隨著算力的逐漸集中，客觀上掌握超過(guò) 50% 算力的 組織會(huì)出現(xiàn)，若不改進(jìn)，會(huì)逐漸演變?yōu)槿跞鈴?qiáng)食的叢林法則。

區(qū)塊鏈內(nèi)部容量問(wèn)題難以掌控

區(qū)塊鏈處于發(fā)展初級(jí)階段，大規(guī)模實(shí)際應(yīng)用面臨很多困難?，F(xiàn)有計(jì)算機(jī)系統(tǒng)，存在區(qū)塊容量不足、信息批量存儲(chǔ)、 驗(yàn)證較難等問(wèn)題，若處理不善，會(huì)影響到整個(gè)區(qū)塊鏈系統(tǒng)的穩(wěn)定，甚至給其他金融系統(tǒng)造成很強(qiáng)的負(fù)外部性。

區(qū)塊鏈標(biāo)準(zhǔn)不統(tǒng)一

“得標(biāo)準(zhǔn)者得天下”已成為業(yè)界共識(shí)。中國(guó)的標(biāo)準(zhǔn)化還沒(méi)有真正起步，表現(xiàn)在兩方面：一是區(qū)塊鏈技術(shù)不夠標(biāo)準(zhǔn) 化，二是區(qū)塊鏈標(biāo)準(zhǔn)需要面對(duì)不同層面的矛盾：諸多標(biāo)準(zhǔn)競(jìng)爭(zhēng)可能帶來(lái)市場(chǎng)混亂。

區(qū)塊鏈帶來(lái)的安全風(fēng)險(xiǎn)

“安全”是金融業(yè)的命脈，區(qū)塊鏈與金融業(yè)的逐漸融合，將面臨很大的安全挑戰(zhàn)。

首先，去中心化的運(yùn)作機(jī)制一定 程度上削弱了中央政府對(duì)金融的控制，可能危及國(guó)家金融安全。 其次，用戶匿名化的操作在發(fā)生意外時(shí)(如密碼丟失等)相關(guān)的權(quán)益得不到相應(yīng)的保護(hù); 再次，客戶端蘊(yùn)含風(fēng)險(xiǎn)，既可能遭受黑客攻擊，也可能因?yàn)橄到y(tǒng)操作原 因?qū)е聛G失。

區(qū)塊鏈風(fēng)險(xiǎn)防范對(duì)策

立足于微觀層面的風(fēng)險(xiǎn)點(diǎn)防控

1. 網(wǎng)絡(luò)公開(kāi)不設(shè)防是區(qū)塊鏈的一大屬性，這要求更高的私密性并謹(jǐn)慎控制網(wǎng)絡(luò)鏈接。對(duì)安全性較高的行業(yè)，宜采用專 線接入?yún)^(qū)塊鏈網(wǎng)絡(luò)，對(duì)接入的鏈接進(jìn)行身份驗(yàn)證，排除未經(jīng)授權(quán)的節(jié)點(diǎn)接入以免數(shù)據(jù)泄露，防止網(wǎng)絡(luò)攻擊。

2. 隱私泄露是互聯(lián)網(wǎng)企業(yè)面臨的普遍問(wèn)題，對(duì)該類風(fēng)險(xiǎn)的應(yīng)對(duì)策略是：第一，由認(rèn)證機(jī)構(gòu)代理用戶在區(qū)塊鏈上進(jìn)行交 易，用戶資料和個(gè)人行為不進(jìn)入?yún)^(qū)塊鏈;第二，不采用全網(wǎng)廣播方式，而是將交易數(shù)據(jù)的傳輸限制在正在進(jìn)行相關(guān)交 易的節(jié)點(diǎn)之間;第三，對(duì)用戶數(shù)據(jù)的訪問(wèn)采用權(quán)限控制，持有密鑰的訪問(wèn)者才能解密和訪問(wèn)數(shù)據(jù);第四，采用隱私保 護(hù)算法，規(guī)避隱私暴露。

3. 針對(duì)算力攻擊，采用算法和現(xiàn)實(shí)約束相結(jié)合的方式，例如用資產(chǎn)抵押、法律和監(jiān)管手段聯(lián)合管控。

4. 加快金融區(qū)塊鏈技術(shù)應(yīng)用的研發(fā)。一方面，推動(dòng)國(guó)內(nèi)金融機(jī)構(gòu)聯(lián)合學(xué)術(shù)界、產(chǎn)業(yè)界加強(qiáng)密碼學(xué)等學(xué)科研究，在加密技 術(shù)和網(wǎng)絡(luò)安全等領(lǐng)域集體發(fā)力;另一方面，適度增加對(duì)光纖等網(wǎng)絡(luò)基礎(chǔ)設(shè)施的投入，構(gòu)建穩(wěn)定、安全的主干信息網(wǎng)絡(luò)， 提升網(wǎng)絡(luò)寬帶，滿足區(qū)塊鏈技術(shù)分布式記賬方式可能帶來(lái)的網(wǎng)絡(luò)容量需求的提升。

立足于宏觀層面的系統(tǒng)內(nèi)部監(jiān)管

針對(duì)現(xiàn)有區(qū)塊鏈技術(shù)的屬性，構(gòu)建一套系統(tǒng)安全的監(jiān)管體系，整體提升區(qū)塊鏈系統(tǒng)的安全性能。

物理安全角度。根據(jù)具體業(yè)務(wù)的監(jiān)管要求不同，采用不同方法對(duì)運(yùn)行區(qū)塊鏈系統(tǒng)的物理網(wǎng)絡(luò)和主機(jī)進(jìn)行保護(hù)。

數(shù)據(jù)安全角度。區(qū)塊鏈節(jié)點(diǎn)和節(jié)點(diǎn)之間的數(shù)據(jù)交換，原則上不應(yīng)明文傳輸，數(shù)據(jù)提供方應(yīng)采用嚴(yán)格的訪問(wèn)權(quán)限控制 措施，嚴(yán)格評(píng)估數(shù)據(jù)的敏感程度、安全級(jí)別，決定數(shù)據(jù)是否發(fā)送到區(qū)塊鏈，是否進(jìn)行數(shù)據(jù)脫敏。

應(yīng)用系統(tǒng)安全。從身份認(rèn)證、權(quán)限體系、交易規(guī)則、防欺詐策略等方面著手，參與運(yùn)行的相關(guān)人員、交易節(jié)點(diǎn)、交易數(shù) 據(jù)應(yīng)事前受控、事后審計(jì)。

密鑰安全。對(duì)區(qū)塊鏈節(jié)點(diǎn)之間的通行數(shù)據(jù)加密，密鑰不應(yīng)存儲(chǔ)在同一個(gè)節(jié)點(diǎn)上，應(yīng)通過(guò)加密機(jī)將私鑰妥善保管。

風(fēng)險(xiǎn)機(jī)制角度。在系統(tǒng)的網(wǎng)絡(luò)層、應(yīng)用系統(tǒng)及交易頻度層面，應(yīng)有周密的檢測(cè)措施，對(duì)任何可疑操作進(jìn)行告警、記錄、 核查。