一個(gè)人工智能道德體的 構(gòu)想

《道德機(jī)器》 如何讓機(jī)器人明辨是非 （美）溫德?tīng)枴ね呃? 柯林·艾倫 著 王小紅 譯 北京大學(xué)出版社 2018年11月出版

——讀《道德機(jī)器：如何讓機(jī)器人明辨是非》

⊙劉英團(tuán)

美國(guó)科幻小說(shuō)黃金時(shí)代的代表之一艾薩克·阿西莫夫在短篇小說(shuō)《環(huán)舞》中提出的“機(jī)器人三大法則”（包括“機(jī)器人不可以傷害人類(lèi)，或看到一個(gè)人將受到傷害而不作為”；“機(jī)器人必須服從人類(lèi)的命令，除非這些命令與第一項(xiàng)法則矛盾”以及“在不違反第一、第二項(xiàng)法則的前提下，機(jī)器人必須保護(hù)自身生存”），被此后的各類(lèi)故事和小說(shuō)不斷借用。但是，這些保護(hù)性設(shè)計(jì)或者內(nèi)置的道德法則能框住擁有獨(dú)立思考能力的機(jī)器人嗎？人們對(duì)于把自己的生命和福祉交給忽視倫理的系統(tǒng)會(huì)感到放心嗎？著名倫理學(xué)家、耶魯大學(xué)生物倫理學(xué)跨學(xué)科中心主管溫德?tīng)枴ね呃眨╳endell wallach）在與國(guó)際知名認(rèn)知科學(xué)哲學(xué)家，美國(guó)印第安納大學(xué)布盧明頓分校教務(wù)長(zhǎng)講席教授、斯坦福哲學(xué)百科（sep）副主編科林·艾倫（colin allen）討論時(shí)認(rèn)為，機(jī)器道德關(guān)乎人類(lèi)的決策行為。因此，他們?cè)凇兜赖聶C(jī)器：如何讓機(jī)器人明辨是非》中提出，不要把責(zé)任推給機(jī)器，“我們必須更加堅(jiān)守人類(lèi)的價(jià)值觀和倫理”。

我們置身于一個(gè)豐富多采的世界，也生活在一個(gè)困惑和焦慮的時(shí)代?！叭祟?lèi)決策者會(huì)因?yàn)闆](méi)有掌握全部相關(guān)信息或沒(méi)有考慮到所有偶發(fā)事件而做出糟糕的選擇，所以也許只有在一場(chǎng)未預(yù)料到的災(zāi)難發(fā)生之后，人類(lèi)才會(huì)發(fā)現(xiàn)他們所依賴的（軟硬件）機(jī)器人的不完善。”正如《道德機(jī)器》的兩位作者所言，在未來(lái)，可能會(huì)出現(xiàn)一些無(wú)人駕駛汽車(chē)需要做出選擇的場(chǎng)合——選哪條路，誰(shuí)會(huì)受到傷害，或誰(shuí)會(huì)處于受傷害的風(fēng)險(xiǎn)里？該對(duì)汽車(chē)有什么樣的道德規(guī)范？我們當(dāng)然有理由擔(dān)心，也許不能完全理解為什么機(jī)器人做出了某個(gè)特別的決定。但是，我們需要確保機(jī)器人不會(huì)吸收和加重我們的偏頗之處。因?yàn)椴还芪覀兿矚g與否，機(jī)器人就在我們的身邊，“到2030年，自動(dòng)卡車(chē)、飛行汽車(chē)和個(gè)人機(jī)器人將隨處可見(jiàn)”（斯坦福大學(xué)《2030年的人工智能與生活》報(bào)告），在交通、醫(yī)療、教育、金融和就業(yè)等各個(gè)領(lǐng)域，人工智能正以人們意想不到的方式融入人類(lèi)社會(huì)。

面對(duì)這樣的趨勢(shì)，研究人員究竟該怎樣設(shè)計(jì)一臺(tái)機(jī)器人才能使其在面對(duì)“兩難之選”之時(shí)作出正確反應(yīng)呢？

“機(jī)器需要講道德?！边@是英國(guó)皇家標(biāo)準(zhǔn)協(xié)會(huì)（bsi）最新標(biāo)準(zhǔn)《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計(jì)和應(yīng)用指南》（bs8611）的硬性規(guī)定?；赝^(guò)去近300年，現(xiàn)代科技的每一次跨越，總會(huì)引發(fā)人們對(duì)社會(huì)倫理道德的憂慮。隨著機(jī)器人越來(lái)越智能和普遍，自動(dòng)化機(jī)器終將在不可預(yù)知的情形下做出生死攸關(guān)的決定，從而具備——或至少表面上具備——道德主體資格。世人都看到了，“阿爾法狗”在對(duì)弈中戰(zhàn)勝了圍棋世界冠軍李世石和柯潔。而柯潔的感嘆是，“一個(gè)純凈、純粹自我學(xué)習(xí)的alphago master是最強(qiáng)的，對(duì)于alphago master的自我進(jìn)步來(lái)講，人類(lèi)太多余了?！苯裉?，人類(lèi)再想要阻止人工智能的想法已經(jīng)不可能了。那么，如果有一天ai的能力超過(guò)人類(lèi)，是否會(huì)反過(guò)來(lái)統(tǒng)治人類(lèi)呢？對(duì)此，包括霍金、馬斯克在內(nèi)的科技巨人都曾發(fā)出過(guò)警示：“人類(lèi)不應(yīng)低估人工智能發(fā)展可能帶來(lái)的嚴(yán)重后果。”

所以，當(dāng)下科學(xué)界的主流觀點(diǎn)是，機(jī)器不能不講道德，不然，這個(gè)世界無(wú)法想象。按麻省理工學(xué)院情感計(jì)算研究組主任羅薩琳德·皮卡德教授的說(shuō)法是，“機(jī)器越自由，就越需要道德準(zhǔn)則?！倍凇兜赖聶C(jī)器：如何讓機(jī)器人明辨是非》中，兩位學(xué)者通過(guò)強(qiáng)調(diào)兩個(gè)維度——針對(duì)道德相關(guān)事實(shí)的自主性維度和敏感性維度，給出了一個(gè)關(guān)于日趨復(fù)雜的amas（人工道德智能體）軌跡的理解框架，以“評(píng)估它們面對(duì)的選項(xiàng)的倫理可接受性”。

機(jī)器的智能化正在逐步深入到生活領(lǐng)域：客機(jī)自動(dòng)降落，列車(chē)無(wú)人駕駛，沒(méi)有方向盤(pán)、剎車(chē)和駕駛座位的無(wú)人駕駛汽車(chē)正在緊張的測(cè)試中。但是，再怎么說(shuō)，機(jī)器人之“人”終究不是人類(lèi)之“人”，“如果人們不確定機(jī)器會(huì)做什么，他們會(huì)害怕機(jī)器人的……如果我們能分析并證明它們的行為原因，就更可能克服信任問(wèn)題?！庇?guó)利物浦大學(xué)計(jì)算機(jī)科學(xué)家邁克爾·費(fèi)希爾和英國(guó)西部大學(xué)艾倫·溫菲爾德教授共同做的一項(xiàng)政府資助的項(xiàng)目證明，“道德機(jī)器程序的結(jié)果總是可知”的。“在當(dāng)前的技術(shù)水平下，我們不能‘譴責(zé)’機(jī)器人。機(jī)器人尚未達(dá)到為自己的決策負(fù)責(zé)的水平?！彼_塞克斯大學(xué)人工智能專(zhuān)家布萊·惠特比認(rèn)為，即使最低限度的道德機(jī)器人也是有用的。來(lái)自國(guó)際計(jì)算機(jī)科學(xué)家團(tuán)隊(duì)的一項(xiàng)新研究著手開(kāi)發(fā)一種新型的博弈算法——其可以依靠協(xié)作和妥協(xié)等特性來(lái)博弈，而且研究人員已經(jīng)發(fā)現(xiàn)，機(jī)器已經(jīng)可以比人類(lèi)更好地部署這些特性。由此，《道德機(jī)器》的兩位作者認(rèn)為，隨著機(jī)器變得更加復(fù)雜，一種“功能性道德”在技術(shù)上變得可能，它可以使機(jī)器自身有能力來(lái)接近并相應(yīng)地面臨道德挑戰(zhàn)。

現(xiàn)代科技推動(dòng)了人類(lèi)社會(huì)的進(jìn)步，但“人類(lèi)迫切需要確保機(jī)器人的設(shè)計(jì)符合道德規(guī)范”，以維護(hù)人類(lèi)的社會(huì)價(jià)值觀和社會(huì)倫理道德。在《道德機(jī)器：如何讓機(jī)器人明辨是非》中，兩位作者堅(jiān)信，讓人工智能機(jī)器人習(xí)得某些基本的道德感是很有必要的，而且是可行的。因而，他們不但很自然地導(dǎo)入“人類(lèi)是否想要計(jì)算機(jī)做道德決策”，還將注意力轉(zhuǎn)向道德決策的具體執(zhí)行上。他們以生動(dòng)的案例勾勒出科學(xué)家和工程師必須向彼此所提供的東西，并詳細(xì)地描述了設(shè)計(jì)amas的自上而下式進(jìn)路和自下而上式或發(fā)展的一個(gè)基本框架?；谌祟?lèi)在設(shè)計(jì)具有道德判斷能力的機(jī)器人的漫漫征途上所面臨的巨大挑戰(zhàn)，他們不僅討論了基于規(guī)則和基于責(zé)任的倫理學(xué)概念的可計(jì)算性與可實(shí)踐性，還論證了amas的不同程序化進(jìn)路的優(yōu)勢(shì)和劣勢(shì)，然后以一種哲學(xué)和認(rèn)知的復(fù)雜、周密的方式為工程amas做鋪墊，“至于未來(lái)的機(jī)器人是不是‘真的’道德主體，這無(wú)關(guān)緊要。因?yàn)?，兩位學(xué)者堅(jiān)信：“我們有可能設(shè)計(jì)、建造出能夠考量法律和道德因素而去實(shí)施決策的系統(tǒng)?！?/p>