為什么科技界的億萬(wàn)富翁們不遺余力的遏制人工智能？

并非所有科技界的大咖都是人工智能的倡導(dǎo)者。有些人對(duì)ai給社會(huì)帶來(lái)的影響憂心忡忡，他們正拿出數(shù)十億美元試圖監(jiān)控人工智能，這反過(guò)來(lái)變成了慈善事業(yè)的一個(gè)新前沿。

并非所有科技界的大咖都是人工智能的倡導(dǎo)者。有些人對(duì)ai給社會(huì)帶來(lái)的影響憂心忡忡，他們正拿出數(shù)十億美元試圖監(jiān)控人工智能，這反過(guò)來(lái)變成了慈善事業(yè)的一個(gè)新前沿。

對(duì)于ebay公司創(chuàng)始人pierre omidyar來(lái)說(shuō)，人工智能是一個(gè)令人擔(dān)憂的問(wèn)題，去年他成立了luminate，一家總部位于倫敦的組織。luminate倡導(dǎo)公民賦權(quán)、數(shù)據(jù)和數(shù)字權(quán)利、財(cái)務(wù)透明和獨(dú)立媒體。

▲ 圖為ebay創(chuàng)始人pierre omidyar支持監(jiān)控人工智能

luminate 首席執(zhí)行官stephen king表示：“這是一個(gè)新生的領(lǐng)域，我們發(fā)現(xiàn)，人工智能是由那些不關(guān)心道德后果的程序員開發(fā)出來(lái)的。”

king強(qiáng)調(diào)ai帶來(lái)的兩個(gè)真實(shí)后果，激發(fā)了像omidyar這樣的慈善家采取行動(dòng)。一個(gè)是風(fēng)險(xiǎn)評(píng)估軟件compas（correctional offender management profiling for alternative sanctions），這種軟件會(huì)分析大數(shù)據(jù)預(yù)測(cè)被告再犯下其他違法行為的風(fēng)險(xiǎn)。

當(dāng)新聞機(jī)構(gòu)propublica對(duì)在美國(guó)佛羅里達(dá)州被捕的1萬(wàn)人進(jìn)行compas評(píng)估對(duì)比時(shí)，數(shù)據(jù)顯示有些人可能會(huì)重新犯罪，propublica發(fā)現(xiàn)，當(dāng)算法正確的時(shí)候，其決策也是公平的。但當(dāng)算法錯(cuò)誤的時(shí)候，有色人種被標(biāo)記的風(fēng)險(xiǎn)要高出兩倍多，但其實(shí)他們并沒(méi)有重新犯罪。

king舉的另一個(gè)例子是中國(guó)的社會(huì)評(píng)分系統(tǒng)，這是一個(gè)涉及大數(shù)據(jù)和人工智能的國(guó)家項(xiàng)目，是給數(shù)百萬(wàn)公民進(jìn)行社會(huì)信用評(píng)分，賬單逾期支付和其他不良行為就意味著會(huì)給負(fù)面評(píng)分?！靶庞迷u(píng)分為負(fù)就無(wú)法乘坐高鐵，”king說(shuō)。

▲ 圖為社會(huì)信用評(píng)分系統(tǒng)讓500萬(wàn)-1300萬(wàn)中國(guó)公民被禁止乘坐高鐵。

對(duì)ai加以限制

當(dāng)人工智能在諸如此類的場(chǎng)景中使用時(shí)，你應(yīng)該如何抑制人工智能帶來(lái)的影響？

king表示，需要從源頭上解決這個(gè)問(wèn)題。ai底層的算法通常在開發(fā)時(shí)就融入了無(wú)意識(shí)的偏見。

紐約大學(xué)ai now研究所的一份報(bào)告發(fā)現(xiàn)，主要是白人男性編碼人員制造了算法中的偏見。

不管這是有意的還是無(wú)意的，都會(huì)影響ai的結(jié)果。麻省理工學(xué)院的研究人員發(fā)現(xiàn)，有一些面部識(shí)別軟件無(wú)法識(shí)別少數(shù)民族。king說(shuō)：“沒(méi)有人把所有種族偏見問(wèn)題都考慮清楚?！?img src='http://img.jdzj.com/jdzjnews/636927774462838243.jpg' border=0 align=middle >

▲ 圖為luminate首席執(zhí)行官stephen king

而這正是omidyar希望通過(guò)luminate的資金來(lái)遏制的偏見問(wèn)題。在成立第一年，luminate的資金額就達(dá)到了6000萬(wàn)美元。

king表示：“我們?cè)O(shè)立了基金，通過(guò)一系列其他研究機(jī)構(gòu)再授權(quán)，以更好地了解人工智能帶來(lái)的危害?！币粋€(gè)名為ethics and governance of ai initiative的項(xiàng)目從luminate以及john s. and james l. knight基金會(huì)、linkedin創(chuàng)始人reid hoffman等人那里獲得了2700萬(wàn)美元的資金。

luminate表示，這筆資金將用于確保自動(dòng)化和機(jī)器學(xué)習(xí)“是以一種維護(hù)公平、人類自治和正義的社會(huì)價(jià)值觀的方式進(jìn)行研究、開發(fā)和部署的”。

此外還有麻省理工學(xué)院媒體實(shí)驗(yàn)室和哈佛伯克曼克萊因互聯(lián)網(wǎng)與社會(huì)中心。2017年，其他九個(gè)組織得到了該基金的760萬(wàn)美元資金，專注于“媒體、刑事司法和自動(dòng)駕駛汽車三大領(lǐng)域”， john s. and james l. knight基金會(huì)主席albertoibargüen在聲明中這樣表示。

慈善事業(yè)的一個(gè)新前沿

omidyar并不是希望阻止人工智能失控的唯一一位慈善家。

事實(shí)上，自elon musk和sam altman于2015年推出open ai以來(lái)，這個(gè)慈善事業(yè)的新前沿就大受歡迎。open ai是一個(gè)促進(jìn)“安全人工智能”的非盈利組織。（musk后來(lái)離開了該組織，因?yàn)檫@可能與特斯拉自動(dòng)駕駛汽車開發(fā)中采用的人工智能存在潛在沖突。）

▲ 圖為y combinator總裁sam altman于2015年創(chuàng)立了open ai，以推廣安全的人工智能理念

在去年，symphony technology group背后的印度億萬(wàn)富翁romesh wadhwani與他的兄弟sunil成立了瓦德瓦尼人工智能研究所（wadhwani institute for artificial intelligence，wiai）。wadhwani為該組織提供了3000萬(wàn)美元資金支持，目標(biāo)是探索“人工智能研究和實(shí)施的道德維度”。

具有諷刺意味的是，科技界的億萬(wàn)富翁們花錢來(lái)遏制這些給曾經(jīng)給他們帶來(lái)財(cái)富的技術(shù)，這應(yīng)該被視為一個(gè)更廣泛的警告：如果那些最了解技術(shù)前沿的人都擔(dān)心技術(shù)的發(fā)展方向，我們就更應(yīng)該注意了。

king說(shuō)：“和硅谷其他很多慈善家一樣，pierre在10年前還是一位科技樂(lè)觀主義者。我認(rèn)為，我們現(xiàn)在看到了黑暗的一面，這個(gè)領(lǐng)域需要更多的資金支持者?！?/p>