鍵盤俠太猖狂,谷歌用AI給網(wǎng)絡(luò)“攻擊力”打分

責(zé)任編輯:editor006

2016-09-20 17:07:12

摘自:雷鋒網(wǎng)

電影《搜索》描述了這樣一個(gè)畫面:高圓圓飾演的女主因?yàn)樵诠卉嚿蠜]有給老人讓座,有人將這段視頻傳到網(wǎng)絡(luò),引發(fā)了廣大網(wǎng)友對她進(jìn)行人肉搜索。

電影《搜索》描述了這樣一個(gè)畫面:高圓圓飾演的女主因?yàn)樵诠卉嚿蠜]有給老人讓座,有人將這段視頻傳到網(wǎng)絡(luò),引發(fā)了廣大網(wǎng)友對她進(jìn)行人肉搜索。一時(shí)間,鋪天蓋地的辱罵、嘲諷、詛咒充斥著她的生活,最后女主選擇用跳樓來結(jié)束自己的生命。如今,這已經(jīng)不再只是電影中才出現(xiàn)的畫面。隨著互聯(lián)網(wǎng)滲入我們生活的方方面面,網(wǎng)絡(luò)暴力、道德綁架,越來越多的鍵盤俠們用不負(fù)責(zé)任的言語在網(wǎng)上肆意攻擊他人。

據(jù)國外媒體報(bào)道,美國網(wǎng)民在最早接觸網(wǎng)絡(luò)的同時(shí),也最先受到網(wǎng)絡(luò)造謠誹謗之害。根據(jù)美國獨(dú)立民調(diào)機(jī)構(gòu)皮尤研究中心 2014 年的一份調(diào)查,每 10 個(gè)網(wǎng)民中就有 4 人遭遇過某種形式的網(wǎng)絡(luò)騷擾,近五分之一互聯(lián)網(wǎng)用戶遭遇過嚴(yán)重的網(wǎng)絡(luò)暴力,包括人身威脅、持續(xù)性的跟蹤騷擾。

網(wǎng)絡(luò)安全已經(jīng)成為我們不得不重視的一個(gè)問題。面對互聯(lián)網(wǎng)海量的言論和信息,人工檢測網(wǎng)絡(luò)暴力信息的確費(fèi)時(shí)費(fèi)力,這時(shí)候,人工智能就派上用場了。

Facebook 和 Google 等公司都開始嘗試結(jié)合人工智能等技術(shù)來過濾網(wǎng)絡(luò)不良言論。就連一向以言論自由著稱的 Twitter 也開始允許用戶設(shè)置一些關(guān)鍵詞來屏蔽騷擾信息:

Facebook 機(jī)器學(xué)習(xí)小組使用機(jī)器學(xué)習(xí)技術(shù)監(jiān)測所有上載到 Facebook 的圖片的內(nèi)容,包括廣告的內(nèi)容,用來過濾其中色情、暴力等內(nèi)容。

Google 的 SafeSearch(安全檢索)功能使用了機(jī)器學(xué)習(xí)來識別色情圖片,可給未成年人提供健康正常的網(wǎng)絡(luò)瀏覽與檢索。

Twitter 收購了兩家視覺媒體內(nèi)容監(jiān)測創(chuàng)業(yè)公司 Madbits 和 Whetlab,運(yùn)用它們的人工神經(jīng)網(wǎng)絡(luò)技術(shù)實(shí)現(xiàn)色情內(nèi)容監(jiān)控。

近日,谷歌又推出了一款人工智能技術(shù)支撐的全新工具,名為“Conversation AI”。這個(gè)新軟件能夠幫助用戶不受網(wǎng)絡(luò)有害言論的威脅。

Conversation AI 通過機(jī)器學(xué)習(xí)技術(shù),自動捕捉網(wǎng)絡(luò)上的污言穢語,并給它的攻擊力評分——100分是最有害的,0 分是無害的。這個(gè)工具將會首先在《紐約時(shí)報(bào)》的注釋版塊進(jìn)行測試,維基百科也計(jì)劃將會使用這款應(yīng)用。不過據(jù)《有線》雜志稱,該公司并沒有透露測試的具體細(xì)節(jié)。

由于該技術(shù)最終將成為開源的,所以在不久的將來,全球的網(wǎng)站和各類社交媒體平臺,都可以用它幫助用戶逃過暴力言論的傷害?!队芯€》表示,Conversation AI 可以“自動識別出侮辱、騷擾的言論,甚至還能幫你刪除它。”

雖然 Conversation AI 在測試中被發(fā)現(xiàn)存在一些缺陷,但是谷歌透露,它的準(zhǔn)確度已達(dá) 92 % ,并且隨著時(shí)間的推移,功能將會不斷完善。

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號