在“美顏相機(jī)”已經(jīng)讓不少網(wǎng)友分辨不清真假的當(dāng)下，Facebook 也在努力讓通過(guò) Deepfake 制作的內(nèi)容“現(xiàn)出原形”，以便未來(lái)能夠?qū)ο嚓P(guān)內(nèi)容展開(kāi)追溯。在持續(xù)資助的相關(guān)研究中，最新項(xiàng)目就是與密歇根州立大學(xué)（MSU）研究人員達(dá)成的一項(xiàng)合作?？芍@支聯(lián)合團(tuán)隊(duì)打造了一套可對(duì) Deepfake 偽造進(jìn)行逆向工程的方法。

（圖自：Facebook AI 官網(wǎng)）

具體說(shuō)來(lái)是，這套逆向工具能夠分析 AI 生成的圖像，以揭示創(chuàng)建它的機(jī)器學(xué)習(xí)模型的識(shí)別特征。

這項(xiàng)工作的實(shí)用性在于，它可以幫助 Facebook 追蹤其在各種社交網(wǎng)絡(luò)上傳播 Deepfake 編造內(nèi)容的不良行為者。

此類內(nèi)容可能包含虛假信息，或者已經(jīng)相當(dāng)泛濫、未經(jīng)當(dāng)事人同意的編造色情內(nèi)容 —— 后者也是 Deepfake 技術(shù)在現(xiàn)階段的一大爭(zhēng)議點(diǎn)。

目前這項(xiàng)工作仍處于研究的早期階段，且逆向工程團(tuán)隊(duì)也尚未做好相關(guān)部署準(zhǔn)備工作。不過(guò)該領(lǐng)域的此前研究，已經(jīng)能夠確定 Deepfake 內(nèi)容是由哪套已知的 AI 模型來(lái)生成的。

作為對(duì)比，由 Vishal Asnani 帶領(lǐng)的 MSU 研究團(tuán)隊(duì)，將致力于更進(jìn)一步地識(shí)別未知模型架構(gòu)。因?yàn)檫@些被稱作“超參數(shù)”的特征，意味著每個(gè)機(jī)器學(xué)習(xí)模型都必須經(jīng)歷相應(yīng)的調(diào)整過(guò)程（就像引擎中的零部件一樣）。

簡(jiǎn)而言之，Deepfake 處理過(guò)的內(nèi)容，會(huì)在圖像上留下一個(gè)獨(dú)特的指紋，而調(diào)查者們可借此來(lái)追溯其來(lái)源。

Facebook 研究負(fù)責(zé)人 Tal Hassner 在接受外媒采訪時(shí)稱：“識(shí)別未知模型的特征很重要，因?yàn)?Deepfake 軟件非常容易定制。如果調(diào)查人員試圖追蹤相關(guān)活動(dòng)，別有用心者也必須更加努力地掩蓋其蹤跡”。

Hassner 還將這項(xiàng)工作與法醫(yī)技術(shù)相比較，即通在結(jié)果圖像中尋找特定的模式，以辨識(shí)源內(nèi)容是通過(guò)哪款型號(hào)的相機(jī)來(lái)拍攝的。生成的算法不僅可以識(shí)別生成模型的特征，還可知曉哪套已知模型與 Deepfake 內(nèi)容有關(guān)。

在標(biāo)準(zhǔn)的基準(zhǔn)測(cè)試中，F(xiàn)acebook AI 研究團(tuán)隊(duì)已經(jīng)得到了相當(dāng)先進(jìn)的檢測(cè)結(jié)果，盡管這距離投入實(shí)際應(yīng)用還有很長(zhǎng)一段距離。

比如在去年的 Deepfake 偽造檢測(cè)競(jìng)賽上，最終獲勝的算法，也僅能達(dá)到 65.18% 的檢出率。而且這樣的“貓鼠游戲”，顯然也會(huì)在未來(lái)很長(zhǎng)一段時(shí)間內(nèi)持續(xù)。

（舉報(bào)）