技術巨頭宣布人工智能道德問題

最大的科技公司希望您知道他們正在特別注意確保他們使用人工智能來篩選大量數(shù)據(jù)，分析面孔或構建虛擬助手并不會讓人感到沮喪。

但是，他們努力緩解他們的機器可能用于惡意目的的擔憂并未得到普遍接受。一些懷疑論者將其視為對利潤更感興趣的企業(yè)的窗飾，而不是社會最佳利益。

“道德人工智能”已經成為一個新的企業(yè)口號，對內部審查委員會，花哨的職稱，研究項目和慈善計劃都很敏感。這些舉措旨在解決對面部識別和其他人工智能系統(tǒng)中出現(xiàn)的種族和性別偏見的擔憂，以及解決對技術失業(yè)和執(zhí)法部門和軍隊使用技術的擔憂。

但是，越來越多的公共道德活動背后有多少實質內容?誰來決定哪些技術追求不會造成傷害?

谷歌在3月底成立了一個新的外部顧問委員會，幫助指導它如何在產品中使用ai時遇到了這兩個問題。但它沒有贏得潛在的批評者，而是引發(fā)了內部的怨恨。一個多星期后，谷歌屈服于反對壓力并解散了理事會。

外板分階段崩潰。董事會的八位就職成員之一在幾天內辭職，另一位成員迅速成為谷歌員工抗議的目標，他們表示她的保守觀點與公司自稱的價值觀不一致。

由于成千上萬的員工要求移除傳統(tǒng)基金會主席kay coles james，谷歌上周解散了董事會。

“很明顯，在目前的環(huán)境下，(理事會)無法按照我們的意愿運作，”該公司在一份聲明中表示。

這種環(huán)境越來越令人擔憂，企業(yè)人工智能道德活動缺乏吸引力。

“我認為(谷歌的決定)反映了更廣泛的公眾理解，即道德規(guī)范不僅僅是在沒有制度框架的情況下創(chuàng)建道德委員會來提供問責制，”ai研究員ben wagner說。

谷歌最初的舉措陷入了瓦格納稱之為“道德洗滌”的科技行業(yè)趨勢，他將其描述為一種膚淺的努力，主要是為公眾或立法者展示。

維多利亞經濟與商業(yè)大學助理教授瓦格納說：“這基本上是假裝你做出道德的事情，并用道德作為達到目的的工具，如避免監(jiān)管。” “這是一種新形式的自我監(jiān)管，而不是通過名稱來稱呼它。”

近年來，大公司已經越來越明顯地討論他們的人工智能工作。

微軟經常試圖將自己定位為道德和隱私問題的行業(yè)領導者，發(fā)布了圍繞開發(fā)人工智能的原則，發(fā)布了一本討論該技術的社會影響的短篇小說，并呼吁政府對人工智能技術進行監(jiān)管。

該公司總裁甚至在今年早些時候會見了教皇弗朗西斯，討論行業(yè)道德問題。亞馬遜最近宣布，它正在幫助資助聯(lián)邦研究“算法公平”，salesforce雇用一名“架構師”進行道德ai實踐，以及“首席道德和人類使用”官員。如果沒有類似的舉措，很難找到一家名牌科技公司。

在2018年5月21日，文件攝影國務卿邁克·龐佩(左)與遺產基金會主席凱·科爾斯·詹姆斯一起在華盛頓的保守公共政策智庫傳統(tǒng)基金會發(fā)表講話。谷歌員工在要求公司變更方面比其他技術工人更成功。在員工推遲使用公司技術分析無人機視頻的道德影響之后，谷歌與五角大樓簽訂了合同。在超過2,400名谷歌員工簽署請愿書，要求詹姆斯被取消后，谷歌完全取消了董事會。(美聯(lián)社照片/ j.scott applewhite，文件)

研究機構艾倫人工智能研究所的首席執(zhí)行官奧倫·埃齊奧尼說，公司正在研究這個問題并尋求行業(yè)倫理觀點，這是一件好事。但最終，他說，公司的首席執(zhí)行官的任務是決定將人工智能道德建議納入商業(yè)決策。

“我認為總的來說這是一個積極的步驟而不是無花果葉，”他說。“那就是說，證據(jù)是成功實施的。我認為陪審團仍然在那。”

etzioni說，人工智能對社會的影響從未如此明顯，公司正在對人工智能中推薦算法和性別偏見的力量進行研究。

但正如谷歌的嘗試所顯示的那樣，討論公眾眼中的問題也引起了公眾的關注。

谷歌員工在要求改變公司方面比其他技術工人更成功。在員工推翻使用公司的ai技術分析無人機視頻的倫理影響后，互聯(lián)網搜索巨頭與五角大樓簽訂了合同。

在超過2,400名谷歌員工簽署請愿書，要求詹姆斯被取消后，谷歌完全取消了董事會。員工們表示，詹姆斯過去的評論是反移民和反移民，不應該是道德小組。傳統(tǒng)基金會沒有回應評論請求。

谷歌還面臨其所選議員的不同意見。卡內基梅隆大學(carnegie mellon university)教授亞歷山德羅·阿奎斯蒂(alessandro acquisti)在推特上宣布他正在拒絕邀請。他寫道，他致力于在人工智能中努力克服公平和包容，但這不是“我參與這項重要工作的正確論壇”。他拒絕進一步發(fā)表評論。

一位致力于留在理事會的專家是巴斯大學計算機副教授joanna bryson。她是一名自稱為自由主義者的人，在解散之前說，在小組中有政治多樣性是有道理的，而且她不同意那些認為只是為了表演的人。

“我只是覺得谷歌不是那么愚蠢，”布賴森說。“我不認為他們只是在墻上張貼海報。”

然而，她說，像谷歌和微軟這樣的公司確實真正擔心責任 - 這意味著他們希望確保他們向公眾展示他們在發(fā)布產品之前已經盡力以正確的方式構建產品。

“這不僅僅是正確的做法，而是他們需要做的事情，”她說。布賴森說她很有希望谷歌真的想集體討論難題，并應該在理事會解散后找到另一種方法。

目前還不清楚谷歌接下來會采取什么措施。該公司稱其“回到繪圖板”并會找到其他方式獲得外界意見。

瓦格納說現(xiàn)在是時候讓谷歌制定道德原則，包括他們必須堅持的承諾，外部監(jiān)督和其他檢查點，以使他們負起責任。

即使公司不斷設立外部董事會來監(jiān)督ai責任，仍然需要政府監(jiān)管，liz o'sullivan是一名技術工人，他離開了ai公司clarifai，因為該公司在五角大樓項目maven的工作 - 谷歌放棄的同一個項目在員工抗議之后。

奧沙利文對董事會持謹慎態(tài)度，這些董事會可以提出公司沒有法律義務堅持的建議。

她表示，“如此規(guī)模的每家公司都表示，他們有興趣進行某種無法限制或限制公司行為的能力或權限的監(jiān)督，這似乎就像他們所做的一樣。”