這是紐約大學(xué)附屬研究小組AI Now Institute的一份報(bào)告中的一篇文章，該報(bào)告研究了尖端技術(shù)對(duì)社會(huì)的影響。研究人員擔(dān)心政府和公司使用人工智能技術(shù)不斷監(jiān)測(cè)某些人群或不公平地歧視某些社區(qū)等情況。

該報(bào)告于周四發(fā)布，隨著機(jī)器學(xué)習(xí)技術(shù)越來越多地用于處理大量數(shù)據(jù)，包括谷歌，谷歌將其用于家務(wù)，如自動(dòng)識(shí)別照片中的狗。但該技術(shù)也引發(fā)了許多道德問題。

例如，谷歌的工作人員批評(píng)該搜索巨頭的高管考慮簽署一份國(guó)防部合同，該合同涉及幫助政府將圖像識(shí)別技術(shù)用于軍事目的。在強(qiáng)烈抵制中，谷歌退出了與該機(jī)構(gòu)簽訂的價(jià)值100億美元的云計(jì)算合同，理由是其內(nèi)部政策禁止將機(jī)器學(xué)習(xí)用于戰(zhàn)爭(zhēng)和監(jiān)視。

與此同時(shí)，像亞馬遜和微軟這樣的公司都遭受了員工對(duì)政府合同的強(qiáng)烈反對(duì)，因?yàn)樗麄儞?dān)心這些公司的人工智能面部識(shí)別軟件可能被執(zhí)法部門用來不公平地針對(duì)少數(shù)民族或邊緣化社區(qū)。

AI Now Institute的報(bào)告稱，聯(lián)邦政府應(yīng)該“監(jiān)督，審計(jì)和監(jiān)督”人工智能在刑事司法，醫(yī)療保健和教育等領(lǐng)域的使用。該集團(tuán)表示，個(gè)別機(jī)構(gòu)或?qū)＜壹瘧?yīng)該處理監(jiān)督，而不是一個(gè)大的人工智能監(jiān)管機(jī)構(gòu)，因?yàn)槊總€(gè)行業(yè)都受其自身的一系列監(jiān)管。

數(shù)據(jù)表，財(cái)富的技術(shù)通訊。

在面部識(shí)別技術(shù)方面，該報(bào)告建議“需要強(qiáng)有力的監(jiān)督，明確的限制和公共透明度的國(guó)家法律。”作者說，如果他們相信社區(qū)應(yīng)該能夠拒絕在他們的領(lǐng)域使用面部識(shí)別技術(shù)它可能被用來不公平地區(qū)分或瞄準(zhǔn)個(gè)人。

現(xiàn)在，AI現(xiàn)在是微軟研究部門的聯(lián)合創(chuàng)始人兼首席研究員，Kate Crawford將社區(qū)中的面部識(shí)別技術(shù)的使用比作社區(qū)政府能夠建立無核區(qū)。

對(duì)于那些使用像Facebook這樣的人工智能技術(shù)的領(lǐng)先科技公司來說，今年尤為動(dòng)蕩，因?yàn)镕acebook遭遇了多次數(shù)據(jù)隱私失誤，并且因?yàn)槿斯ぶ悄苄侣勗丛?016年美國(guó)總統(tǒng)大選的前奏傳播虛假新聞而受到批評(píng)者的猛烈抨擊。克勞福德表示，谷歌和微軟等公司的員工迫使高管們公開談?wù)撁舾械娜斯ぶ悄芟嚓P(guān)主題，甚至改變方向，這表明工人可以產(chǎn)生影響。

在另一個(gè)有希望的跡象中，她指出微軟和亞馬遜等公司并未反對(duì)政府監(jiān)管。例如，微軟總裁布拉德史密斯(Brad Smith)一直敦促對(duì)面部識(shí)別技術(shù)進(jìn)行“深思熟慮的政府監(jiān)管”。

“這還沒發(fā)生過，”克勞福德說。“我們看到了新的東西。