Deepfakes現(xiàn)在指代利用機(jī)器學(xué)習(xí)技術(shù)制作的換臉視頻。讓其名噪一時的神奇女俠扮演者蓋爾· 加朵的臉被移植到色情片的事件。Reddit 上一位名為deepfakes 的網(wǎng)友利用開源的TensorFlow 機(jī)器學(xué)習(xí)工具偽造出了很多女性的色情電影，其中包括蓋爾· 加朵。此后該開發(fā)工具包泄露到網(wǎng)上，被有心者利用制作報復(fù)性色情視頻。這些民間制作者的技術(shù)水平有限，用于機(jī)器學(xué)習(xí)輸入的素材量并不大，導(dǎo)致有些畫面人臉拼接并不自然，但是經(jīng)過剪輯，視頻內(nèi)容仍能以假亂真。
更為嚴(yán)重的是，不法分子可以利用該工具制作假新聞。外媒舉例說，如果人們打開電視觀看到的是美國總統(tǒng)宣示核戰(zhàn)爭全面開打，將造成不可想象的恐慌。開發(fā)人員制作的一個演示視頻中就利用美國前總統(tǒng)奧巴馬的形象生動講解了這項技術(shù)的危害性。
京公網(wǎng)安備 11010502049343號