歐盟搶先發(fā)布人工智能道德準(zhǔn)則：ai要以人為本，負(fù)責(zé)任且無偏見

原標(biāo)題：歐盟搶先發(fā)布人工智能道德準(zhǔn)則：ai要以人為本，負(fù)責(zé)任且無偏見

【文 觀察者網(wǎng)/趙挪亞】

目前，雖然人工智能（ai）的研究還處在起步階段，但歐盟已經(jīng)為其制定了道德準(zhǔn)則。

據(jù)美國科技網(wǎng)站the verge的報(bào)道，經(jīng)過52名專家的商討，歐盟委員會(huì)于4月8日發(fā)布了人工智能道德準(zhǔn)則。該準(zhǔn)則的出臺(tái)，標(biāo)志著歐盟在尋求推廣人工智能產(chǎn)業(yè)發(fā)展的同時(shí)，將立足于強(qiáng)化產(chǎn)業(yè)的道德水準(zhǔn)。

歐盟公布的人工智能道德準(zhǔn)則封面

歐盟希望在人工智能融入社會(huì)以前，未雨綢繆，制定相關(guān)準(zhǔn)則，規(guī)范其未來發(fā)展。

參與起草制定這些準(zhǔn)則的ibm歐洲法律部門副部長利亞姆·本納姆表示：“（制定這些準(zhǔn)則）就像在造房子之前，需要先打地基。而現(xiàn)在就是做這些事情的時(shí)候?！?/p>

該道德準(zhǔn)則要求“值得信賴”的人工智能應(yīng)當(dāng)滿足如下7個(gè)條件：

1.人類的力量和監(jiān)督：人工智能不能侵犯人類的自主性。人們不應(yīng)該被ai系統(tǒng)操縱或脅迫，而應(yīng)該能夠干預(yù)或監(jiān)督軟件做出的每一個(gè)決定。

2.技術(shù)的健全性和安全性：人工智能應(yīng)該安全且準(zhǔn)確。它不應(yīng)該易于受到外部攻擊的影響，且應(yīng)該相當(dāng)可靠。

3.隱私和數(shù)據(jù)管理：人工智能系統(tǒng)收集的個(gè)人數(shù)據(jù)應(yīng)該是安全的、私有的。它不應(yīng)該讓任何人接觸，也不應(yīng)該輕易被盜。

4.透明性：用于創(chuàng)建人工智能系統(tǒng)的數(shù)據(jù)和算法應(yīng)該是可訪問的，軟件所做的決定應(yīng)能被人類理解和跟蹤。換句話說，操作員應(yīng)能夠解釋ai系統(tǒng)所做的決定。

5.多樣性、非歧視和公平性：人工智能提供的服務(wù)應(yīng)面向所有人，無論年齡、性別、種族或其他特征。同樣，系統(tǒng)不應(yīng)該在這些方面存在偏見。

6.環(huán)境和社會(huì)福祉：人工智能系統(tǒng)應(yīng)該是可持續(xù)的（即它們應(yīng)該對(duì)生態(tài)負(fù)責(zé)）并“促進(jìn)積極的社會(huì)變革”。

7.問責(zé)制：人工智能系統(tǒng)應(yīng)該是可審計(jì)的，并被納入企業(yè)可舉報(bào)范疇，以便受到現(xiàn)有規(guī)則的保護(hù)。應(yīng)事先告知和報(bào)告系統(tǒng)可能產(chǎn)生的負(fù)面影響。

人工智能，以人為本

歐盟負(fù)責(zé)數(shù)字經(jīng)濟(jì)的官員瑪利亞·加布里埃爾解讀了這7項(xiàng)要求。她認(rèn)為，在人工智能使用上，“透明性”是一切的關(guān)鍵，同時(shí)也要“以人為本”。

加布里埃爾表示：“任何公司在使用人工智能技術(shù)時(shí)，其受眾都應(yīng)當(dāng)具有知情權(quán)。人們應(yīng)該知道和他們進(jìn)行溝通的是算法還是真人。同時(shí)，任何由算法做出的決定，都必須由公司出面解釋。”

瑪利亞·加布里埃爾解讀人工智能道德準(zhǔn)則 圖自視覺中國

舉例來說，如果一家保險(xiǎn)公司依賴人工智能算法拒絕了某項(xiàng)賠償申請(qǐng)，那么他們應(yīng)該讓消費(fèi)者知道做出這項(xiàng)決定的依據(jù)。同時(shí)，還應(yīng)由人類出面，進(jìn)行這項(xiàng)決定的最終判斷。

此外，加布里埃爾認(rèn)為，隱私和數(shù)據(jù)管理同樣非常重要。任何使用人工智能的機(jī)構(gòu)，都應(yīng)當(dāng)保護(hù)好系統(tǒng)收集的數(shù)據(jù)，這些數(shù)據(jù)只能被人工智能和本人訪問。

除了技術(shù)方面的準(zhǔn)則以外，歐盟制定的準(zhǔn)則里還包含了一些相對(duì)抽象的概念，例如其要求人工智能必須具有多樣性、非歧視和公平性，同時(shí)也能夠“促進(jìn)積極的社會(huì)變革”。

由于現(xiàn)階段人工智能的訓(xùn)練仍舊依賴于巨量數(shù)據(jù)的輸入，因此這些數(shù)據(jù)將極大程度左右人工智能的公平性。

加布里埃爾舉例說：“如果一家公司使用人工智能系統(tǒng)進(jìn)行招聘，而他們所使用的數(shù)據(jù)來源于另一家大量招聘男性雇員的公司，那么這一系統(tǒng)將很可能拒絕女性雇員的加入?！?/p>

“如果人們使用不公平的數(shù)據(jù)來訓(xùn)練人工智能，那么這將毫無疑問成為一個(gè)大問題?！?/p>

另辟蹊徑，歐盟想成為技術(shù)道德領(lǐng)域的領(lǐng)軍者

歐盟已經(jīng)不是第一次為數(shù)字技術(shù)制定規(guī)則和法律了。

2018年5月，歐洲聯(lián)盟出臺(tái)《通用數(shù)據(jù)保護(hù)條例》（gdpr），規(guī)范數(shù)據(jù)收集者的操作，禁止網(wǎng)絡(luò)公司以默認(rèn)隱藏的模式收集用戶數(shù)據(jù)，同時(shí)保障用戶對(duì)自己數(shù)據(jù)完全自主的權(quán)利。對(duì)于違規(guī)者，歐盟將會(huì)處以巨額罰款。

此次，歐盟表示，希望自己成為ai道德領(lǐng)域的領(lǐng)導(dǎo)者，如同制定《通用數(shù)據(jù)保護(hù)條例》（gdpr）一樣，率先規(guī)范科技領(lǐng)域的法律和道德，保護(hù)公眾的數(shù)字權(quán)利。

據(jù)the verge分析，由于歐盟在投資和前沿研究方面，已經(jīng)無法與美國和中國一爭高下，因此，它才迫不得已選擇了倫理作為塑造技術(shù)未來的最佳選擇。

相對(duì)于歐洲，中國在人工智能領(lǐng)域的發(fā)展迅速 圖自視覺中國

正如歐委會(huì)負(fù)責(zé)數(shù)字單一市場的副主席安斯普（andrus ansip）所說，“有道德的人工智能是一個(gè)能夠達(dá)到雙贏的主張，是歐洲在該領(lǐng)域的競爭優(yōu)勢——成為人們可以信賴的，以人為本的人工智能領(lǐng)導(dǎo)者?！?/p>

不過，歐盟在技術(shù)道德領(lǐng)域制定的一系列規(guī)則，也有可能成為這些技術(shù)發(fā)展的阻礙。

在當(dāng)今前沿計(jì)算機(jī)科技中，大數(shù)據(jù)、云計(jì)算和人工智能的發(fā)展，都離不開巨量數(shù)據(jù)的支撐。而歐盟的《通用數(shù)據(jù)保護(hù)條例》為網(wǎng)絡(luò)公司和研究機(jī)構(gòu)的數(shù)據(jù)搜集設(shè)置了極大障礙。

同樣，也有部分研究者懷疑，歐盟制定的人工智能道德準(zhǔn)則，將會(huì)影響到這一產(chǎn)業(yè)的未來發(fā)展。

智庫機(jī)構(gòu)數(shù)據(jù)創(chuàng)新中心（center for data innovation）的高級(jí)政策分析師艾琳·奇沃特（eline chivot）在接受the verge采訪時(shí)說：“歐盟希望通過制定道德標(biāo)準(zhǔn)，來確定自身在全球人工智能發(fā)展中的地位，我們對(duì)這種方法持懷疑態(tài)度。要成為人工智能倫理的領(lǐng)導(dǎo)者，首先你必須在人工智能領(lǐng)域遙遙領(lǐng)先?！?/p>

歐盟指出，提出人工智能道德準(zhǔn)則只是第一步，未來他們還將邀請(qǐng)其他國家的企業(yè)和國際組織共同參與測試，制定以人為本的人工智能共識(shí)，并在g20峰會(huì)上與其他國家共同討論。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。