近3個(gè)月前，谷歌員工和公眾了解到，谷歌決定向一個(gè)有爭(zhēng)議的軍事試驗(yàn)項(xiàng)目——Maven提供人工智能服務(wù)，Maven項(xiàng)目通過(guò)自動(dòng)對(duì)物體和人的圖像進(jìn)行分類(lèi)，加快對(duì)無(wú)人機(jī)鏡頭的分析。現(xiàn)在，大約有12名谷歌員工辭職，以抗議谷歌繼續(xù)參與Maven項(xiàng)目。

辭職員工擔(dān)心無(wú)人機(jī)戰(zhàn)爭(zhēng)中人工智能的使用和谷歌的政治決策，以及這些行動(dòng)可能導(dǎo)致的用戶(hù)信任等問(wèn)題，他們中的許多人都寫(xiě)過(guò)關(guān)于離開(kāi)公司的決定，他們的故事也被收集并分享到一個(gè)內(nèi)部文件中，其中有多個(gè)消息來(lái)源向媒體描述了這些內(nèi)容。

辭職以示抗議的員工表示，谷歌高管們對(duì)有爭(zhēng)議的商業(yè)決策變得不那么透明了，而且似乎對(duì)傾聽(tīng)員工的反對(duì)意見(jiàn)也不像以前那么感興趣了。在Maven事件中，谷歌正在幫助國(guó)防部實(shí)現(xiàn)機(jī)器學(xué)習(xí)，對(duì)無(wú)人機(jī)收集的圖像進(jìn)行分類(lèi)。

一些員工認(rèn)為，人類(lèi)，而不是算法，應(yīng)該對(duì)這種敏感的、可能致命的工作負(fù)責(zé)，而且谷歌根本不應(yīng)該參與到軍事工作中來(lái)，谷歌陷入了道德困境之中。

首次大規(guī)模離職潮，Maven項(xiàng)目仍在繼續(xù)

有史以來(lái)，谷歌一直倡導(dǎo)開(kāi)放的公司文化，鼓勵(lì)員工對(duì)產(chǎn)品和決策進(jìn)行挑戰(zhàn)和辯論。而現(xiàn)在，一些員工認(rèn)為他們的領(lǐng)導(dǎo)不再那么關(guān)注他們的擔(dān)憂(yōu)，而是讓他們面對(duì)后果。一位辭職的員工表示：“在過(guò)去的幾個(gè)月里，員工們的回應(yīng)和想法越來(lái)越不受到的對(duì)待和傾聽(tīng)。”

其實(shí)，員工的抗議在以前生效過(guò)一次，當(dāng)時(shí)導(dǎo)致了產(chǎn)品的改變。2015年，員工和用戶(hù)成功地讓谷歌取消了給Blogger色情內(nèi)容的禁令。但這次卻不同，是谷歌首次因決策而出現(xiàn)的大規(guī)模辭職事件，該事件傳到出離職員工強(qiáng)烈的道德?lián)鷳n(yōu)。

除了辭職外，近4,000名谷歌員工在一份內(nèi)部請(qǐng)?jiān)笗?shū)中表達(dá)了對(duì) Maven的反對(duì)意見(jiàn)。該請(qǐng)?jiān)笗?shū)要求谷歌立即取消合同，并制定一項(xiàng)反對(duì)未來(lái)軍事行動(dòng)的政策。

然而，來(lái)自員工不斷增加的壓力似乎并沒(méi)有影響谷歌的決定，谷歌為其在Maven上的工作進(jìn)行了辯護(hù)，并且還在參與五角大樓云計(jì)算項(xiàng)目的競(jìng)標(biāo)，與微軟和IBM一起。

谷歌聲稱(chēng)，谷歌只向Maven提供開(kāi)源軟件，這意味著即使谷歌不收費(fèi)用或不提供技術(shù)援助，軍方仍能繼續(xù)使用該技術(shù)，這也讓谷歌終止與五角大樓合同的要求變得更加復(fù)雜。

盡管如此，辭職員工認(rèn)為谷歌在Maven方面的工作與公司的“改良”( do-gooder )原則不符。一名辭職員工表示：“谷歌并不是一家想要在不同行業(yè)尋找客戶(hù)的機(jī)器學(xué)習(xí)創(chuàng)業(yè)公司，谷歌若想保住聲譽(yù)就要撤出Maven項(xiàng)目。”

請(qǐng)?jiān)富顒?dòng)不斷，道德和信任不能再忽視

谷歌一直強(qiáng)調(diào)它的人工智能并沒(méi)有被用于殺戮，但在五角大樓的無(wú)人機(jī)項(xiàng)目中，人工智能的使用給技術(shù)工作者和研究機(jī)器學(xué)習(xí)領(lǐng)域的學(xué)者帶來(lái)了復(fù)雜的倫理和道德問(wèn)題。

當(dāng)今年2月底消息在谷歌內(nèi)部開(kāi)始傳播時(shí)，谷歌的一位發(fā)言人稱(chēng)，公司正在起草關(guān)于機(jī)器學(xué)習(xí)使用的“政策和保障措施”，但該政策文件尚未形成正式文件。

除了在谷歌內(nèi)部流傳的請(qǐng)?jiān)笗?shū)，科技工人聯(lián)盟(Tech Workers Coalition)也在4月發(fā)起了一項(xiàng)請(qǐng)?jiān)富顒?dòng)，要求谷歌放棄在Maven方面的工作，而包括IBM和亞馬遜在內(nèi)的其他大型科技公司也拒絕與美國(guó)國(guó)防部合作。

“我們的行業(yè)和技術(shù)帶來(lái)的有害偏見(jiàn)、大規(guī)模的信任破壞和道德缺乏，已經(jīng)不能再被忽視”請(qǐng)?jiān)笗?shū)寫(xiě)道，“這些是生死攸關(guān)的賭注”。

超過(guò)90名人工智能、倫理學(xué)和計(jì)算機(jī)科學(xué)的學(xué)者今天發(fā)表了一封公開(kāi)信，呼吁谷歌終止其在Maven的工作，并支持一項(xiàng)禁止自主武器系統(tǒng)的國(guó)際條約。這封信的兩位作者已經(jīng)在聯(lián)合國(guó)就自動(dòng)武器問(wèn)題發(fā)表了證詞;第三位作者Lilly Irani是一名科學(xué)教授，曾是谷歌的一名雇員。

她說(shuō)，谷歌對(duì)項(xiàng)目Maven的貢獻(xiàn)可能會(huì)加速開(kāi)發(fā)完全自主的武器，盡管谷歌總部設(shè)在美國(guó)，但它有義務(wù)保護(hù)其全球用戶(hù)群，這超過(guò)了它與任何一個(gè)國(guó)家的軍隊(duì)的結(jié)盟。

“谷歌已經(jīng)進(jìn)入了軍事領(lǐng)域，沒(méi)有在國(guó)內(nèi)或國(guó)際上進(jìn)行公開(kāi)辯論或?qū)徸h。盡管谷歌經(jīng)常在沒(méi)有民主公共參與的情況下決定技術(shù)的未來(lái)，但它這是在軍事技術(shù)領(lǐng)域的介入，是將信息基礎(chǔ)設(shè)施的私人控制問(wèn)題轉(zhuǎn)化為高福利。”

“在某種程度上，我意識(shí)到我不能很好地推薦任何人加入谷歌，因?yàn)槲抑牢宜赖囊磺?。我意識(shí)到如果我不能推薦人們加入這里，那為什么我還在這里呢?”一位辭職的谷歌員工說(shuō)。

“我試圖提醒自己，谷歌的決定不是我的決定，我對(duì)他們所做的每一件事都不負(fù)責(zé)。但是，當(dāng)我看到我應(yīng)該讓它升級(jí)的東西時(shí)，我確實(shí)感到有責(zé)任。”另一位補(bǔ)充道。

“我們文化的一個(gè)重要部分就是讓員工積極參與我們的工作。我們知道，在使用新技術(shù)方面，有許多開(kāi)放的問(wèn)題，所以與員工和專(zhuān)家的交流是非常重要和有益的，”谷歌的一位發(fā)言人在4月份的一份聲明中說(shuō)。

“這項(xiàng)技術(shù)被用來(lái)標(biāo)記人類(lèi)和動(dòng)物圖像，目的是拯救生命，拯救人們不需要做單調(diào)乏味的工作。任何機(jī)器學(xué)習(xí)的軍事使用自然都會(huì)引起合理的擔(dān)憂(yōu)，但我們正積極進(jìn)行公司的全面討論，并與外部專(zhuān)家進(jìn)行討論，我們將繼續(xù)圍繞機(jī)器學(xué)習(xí)技術(shù)的開(kāi)發(fā)和使用制定我們的政策。”

谷歌發(fā)言人沒(méi)有立即回復(fù)媒體就辭職事件發(fā)表評(píng)論的請(qǐng)求，但員工希望看到公司采取行動(dòng)，制定道德政策，取消合同，或兩者兼而有之。

一位辭職員工說(shuō)：“行動(dòng)勝于言語(yǔ)，這也是我自己的標(biāo)準(zhǔn)。只是在內(nèi)部表達(dá)我的擔(dān)憂(yōu)是不夠的，我能采取的最有力的聲明就是離開(kāi)。”