由人工智能技術(shù)合成的虛假視頻已達(dá)到幾可亂真的水平，美國(guó)國(guó)防部設(shè)立的研究項(xiàng)目現(xiàn)已開(kāi)發(fā)出識(shí)別這些虛假視頻的首批工具。

制作虛假視頻的最常見(jiàn)技術(shù)是使用機(jī)器學(xué)習(xí)技術(shù)將一個(gè)人的臉換到另一個(gè)人的臉上。由此產(chǎn)生的視頻，也被稱為深度偽造（Deepfake）視頻，不僅制作簡(jiǎn)單而且逼真度驚人，經(jīng)熟練的視頻編輯人員進(jìn)行進(jìn)一步調(diào)整后，還可使其看起來(lái)更加真實(shí)。

深度偽造視頻使用了被稱為“生成建模”的機(jī)器學(xué)習(xí)技術(shù)，其允許計(jì)算機(jī)在生成具有統(tǒng)計(jì)相似性的假實(shí)例之前從真實(shí)數(shù)據(jù)中學(xué)習(xí)。最新的深度偽造技術(shù)擁有兩個(gè)神經(jīng)網(wǎng)絡(luò)——生成對(duì)抗網(wǎng)絡(luò)（GAN），其共同工作可產(chǎn)生更有說(shuō)服力的虛假視頻。

美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）為此設(shè)立了“媒體鑒證”項(xiàng)目，以開(kāi)發(fā)能識(shí)別深度偽造視頻的工具。該項(xiàng)目最初旨在實(shí)現(xiàn)現(xiàn)有鑒證工具的自動(dòng)化，但最近將重點(diǎn)轉(zhuǎn)向了人工智能生成的虛假視頻。項(xiàng)目負(fù)責(zé)人馬修·特魯克表示，研究人員已在GAN操縱的圖像和視頻中發(fā)現(xiàn)了微妙的線索，從而使其能夠檢測(cè)到變化的存在。

紐約州立大學(xué)奧爾巴尼分校呂思偉教授領(lǐng)導(dǎo)的團(tuán)隊(duì)開(kāi)發(fā)了一種非常簡(jiǎn)單的識(shí)別技術(shù)。研究人員在觀察深度偽造視頻時(shí)發(fā)現(xiàn)，GAN技術(shù)生成的人臉很少眨眼，其一旦眨眼，眼球運(yùn)動(dòng)很不自然。這是因?yàn)椋疃葌卧煲曨l是基于對(duì)靜止圖像的訓(xùn)練生成的，而靜止圖像的眼睛一般來(lái)說(shuō)都是睜著的。

參與DARPA媒體鑒證項(xiàng)目的其他團(tuán)隊(duì)也在探索自動(dòng)捕捉深度偽造視頻的類似技巧，如奇怪的頭部動(dòng)作、特別的眼睛顏色等。

達(dá)特茅斯大學(xué)數(shù)字鑒證專家漢尼·費(fèi)瑞德認(rèn)為，視頻偽造者和數(shù)字偵探之間的人工智能博弈才剛剛開(kāi)始，機(jī)器學(xué)習(xí)系統(tǒng)經(jīng)訓(xùn)練后往往可超越新的鑒證工具。呂思偉表示，熟練的偽造者可通過(guò)收集顯示一個(gè)人眨眼的圖像來(lái)繞過(guò)他的眨眼工具，但其團(tuán)隊(duì)目前已經(jīng)開(kāi)發(fā)出一種更有效的新技術(shù)，要比偽造技術(shù)略勝一籌。（馮衛(wèi)東）