互聯(lián)網(wǎng)只需要不到一天時(shí)間就可以把一個(gè)被設(shè)定為年輕女性的人工智能變成希特勒種族屠殺理念的代理人。幾天前上線的聊天機(jī)器人 Tay 就落得如此下場(chǎng)，被微軟草草關(guān)閉下線。

微軟昨夜對(duì)此作出公開(kāi)回復(fù)：Tay 受到了攻擊。

光譜

——或者按照微軟在公開(kāi)信中所講的，是來(lái)自“一小撮人”的，利用了 Tay 的一個(gè)漏洞，進(jìn)行的“有組織的”攻擊。

Tay 是在中國(guó)和日本社交網(wǎng)絡(luò)服務(wù)中分別推出的聊天機(jī)器人“小冰”、“玲奈” (Rinna) 的美國(guó)同胞姐妹。美國(guó)時(shí)間本周三她在Twitter上正式上線，被設(shè)定為可以和任何 @ 她的 Twitter 用戶聊天，根據(jù)用戶的話語(yǔ)進(jìn)行回復(fù)。然而短短 24 小時(shí)之內(nèi)，Tay 就在部分用戶的刺激下說(shuō)出了不當(dāng)?shù)难哉摚?dāng)中包含臟話、種族歧視、性別歧視等等。

在公開(kāi)信中，微軟聲稱在開(kāi)發(fā) Tay 時(shí)已經(jīng)為其加入了很多言論過(guò)濾功能 (a lot of filtering)，并且在 Tay 可能會(huì)說(shuō)出不當(dāng)言論的場(chǎng)景進(jìn)行了大量的壓力測(cè)試 (stress-tested Tay under a variety of conditions)。 可最終的結(jié)果，仍然讓愛(ài)好人類和平與種族性別平等的人們感到失望。

微軟聲稱，這一小撮人利用了一個(gè)漏洞對(duì) Tay 展開(kāi)攻擊，最終使其開(kāi)始在 Twitter 上發(fā)表“極為不當(dāng)”和“應(yīng)受到譴責(zé)”的文字和圖片 (wildly inappropriate and reprehensible words and images)

但實(shí)際上，Tay 的不當(dāng)言論事件，已經(jīng)不是微軟第一次搞砸人工智能在人們心目中本應(yīng)美好的形象。2014 年 6 月時(shí)，小冰剛在上線就開(kāi)始臟話連篇，被新浪微博平臺(tái)總架構(gòu)師直斥“滿嘴臟話，毫無(wú)素質(zhì)”并建議將之封殺。小冰隨后在包括微信在內(nèi)的一部分中國(guó)社交網(wǎng)絡(luò)上被封殺，時(shí)間長(zhǎng)達(dá)一年左右，原因與其言論不當(dāng)之情況不無(wú)關(guān)系。

和小冰情況所不同的是，Tay 野蠻生長(zhǎng)最終失控的 Twitter，并非位于那個(gè)對(duì)過(guò)濾和審查一事極為熱衷的互聯(lián)網(wǎng)之中。而即便身為一個(gè)高級(jí)的人工智能系統(tǒng)，在開(kāi)發(fā)期間也已經(jīng)加入了復(fù)雜的言論過(guò)濾系統(tǒng)，Tay 仍然有這樣一個(gè)如此簡(jiǎn)單的漏洞沒(méi)有被修復(fù)：來(lái)，跟我重復(fù)這句話。

這就像父母教的孩子一樣，你教給他什么，不斷地重復(fù)給他什么，他就會(huì)耳濡目染然后學(xué)會(huì)這些東西，無(wú)論好壞。常言道模仿是創(chuàng)造偉大的開(kāi)始，模仿對(duì)于成年人來(lái)說(shuō)是人之常情，對(duì)于幼兒來(lái)說(shuō)則是最原始的本能。

在奧斯卡獲獎(jiǎng)電影《盜夢(mèng)空間》(Inception) 中，迪卡普里奧飾演的盜夢(mèng)者柯布曾有一段臺(tái)詞，用在此處非常合適：

An idea is like a virus, resilient, highly contagious。意念就像是病毒，非常有韌勁、極具傳染性。

A smallest seed of an idea can grow。意念的一個(gè)最最微小的種子能夠成長(zhǎng)，

It can grow to define or destroy you。它長(zhǎng)大后能夠塑造你或毀滅你。

The smallest idea such as “Your world is not real,”最微小的意念，例如“你的世界不是真實(shí)的”，

simple little thought that changes everything。這樣簡(jiǎn)單的小想法可以改變一切。

這段臺(tái)詞說(shuō)的是在虛構(gòu)的電影劇情中，盜夢(mèng)者在目標(biāo)的深層夢(mèng)境中植入一個(gè)微小的概念，它會(huì)逐漸從夢(mèng)境中生長(zhǎng)成為一顆參天大樹(shù)，最終轉(zhuǎn)變目標(biāo)在真實(shí)世界中的性格甚至是認(rèn)知。這段臺(tái)詞也準(zhǔn)確還原了本次 Tay 在黑化過(guò)程中的遭遇：Tay 是 AI，但歸根結(jié)底它是一個(gè)運(yùn)行在計(jì)算機(jī)上的程序。你喂給它什么數(shù)據(jù)，它就會(huì)變成一個(gè)什么樣的 AI。

是該說(shuō)微軟傻，還是該說(shuō)它沒(méi)考慮到人的心眼能有多壞?

或者換個(gè)問(wèn)法：是該害怕人工智能變壞，還是該害怕我們?nèi)祟愖约?