這一發(fā)現(xiàn)可為打擊虛假信息開拓新的研究方向

悉尼2022年7月14日 /美通社/ -- 近期，悉尼大學(xué)的一項研究表明，雖然觀察者無法有意識地識別"真假臉"之間的差異，但他們的大腦可以。

在興起的"換臉術(shù)"（deepfakes）黑科技使用中，如何區(qū)分真實的人臉和仿造的人臉呢？悉尼大學(xué)的神經(jīng)科學(xué)家發(fā)現(xiàn)了一種新方法：人們的大腦可以檢測出人工智能（AI）生成的假臉，即使人們無法口頭分辨出哪些臉是真、哪些是假。這項研究的論文近期被發(fā)表在 Vision Research 期刊上。

"換臉"視頻、圖像、音頻或文本看起來極其真實，但實際上是計算機生成的克隆程序，旨在誤導(dǎo)讀者并左右公眾輿論。他們是虛假信息傳播手段中的常見手段，極度普遍 -- 出現(xiàn)在政治、網(wǎng)絡(luò)安全、造假等領(lǐng)域。

悉尼大學(xué)的研究人員在觀察參與者的大腦活動時發(fā)現(xiàn)，大腦在54%的情況下可以識別出"假臉"。然而，只有37%的概率參與者可以口頭識別"假臉"。

悉尼大學(xué)心理學(xué)院的高級研究員副教授Thomas Carlson說："雖然這項研究中的大腦展示出得準確率較低，僅為54%，但從統(tǒng)計學(xué)的角度上看是可靠的。"

"這告訴我們，大腦是可以識別出虛假和真實圖像之間的差異的。"

對機器人和詐騙手段的識別

研究人員表示，他們的發(fā)現(xiàn)可為打擊假冒偽劣提供一個跳板。

Carlson副教授說："大腦能夠檢測到‘人造臉'，這意味著當前的‘換臉術(shù)'是有缺陷的。如果我們能夠了解大腦如何識別虛假圖像，我們可以利用這些信息創(chuàng)建算法，在臉書（Facebook）和推特（Twitter）等社交平臺上標記出潛在的‘人造臉'。"

在未來，基于現(xiàn)有和類似研究發(fā)現(xiàn)，相關(guān)人員預(yù)計可開發(fā)出一種可以實時提示虛假信息的技術(shù)。例如，安保人員可通過戴上腦電圖功能（EEG）的頭盔，識別正在面對的虛假圖像。

研究人員在研究中使用了腦電圖（EEG），這是一種顯示大腦表層活動的檢測方法。

Carlson副教授表示："EEG頭盔可有助于防止類似迪拜和英國最近發(fā)生的銀行盜竊和企業(yè)欺詐案件的發(fā)生。在這些案件中，騙子利用克隆語音技術(shù)竊取了數(shù)千萬美元。在這些案件中，財務(wù)人員認為他們聽到了可信客戶或同事的聲音，從而被欺騙轉(zhuǎn)移了資金。"

眼睛vs大腦

研究人員進行了兩個實驗：一個是行為實驗，另一個是神經(jīng)成像實驗。在行為實驗中，研究人員向參與者展示了50張真實和計算機生成的假臉圖像。他們被要求辨別哪些是真的，哪些是假的。

然后，另一組參與者在不知道一半的圖像為虛假的情況下，觀察相同的圖像，并使用腦電圖記錄他們的大腦活動。

研究人員隨后比較了兩個實驗的結(jié)果，發(fā)現(xiàn)人們的大腦比眼睛更善于識別虛假圖像。

這只是一個開始

研究人員強調(diào)，鑒于這一研究領(lǐng)域的新穎性，他們發(fā)表在《Vision Research》上的研究只是一個起點。它不會立即（甚至可能永遠）保證識別"人造臉"的絕對可靠方法。

Carlson副教授說："更多的深度研究是必要的。讓我們看到希望的是，deepfakes"換臉術(shù)"是由計算機程序創(chuàng)造的，因此這些程序會留下可以被檢測到的電子‘指紋'。"

"我們對大腦識別‘人造臉'能力的發(fā)現(xiàn)意味著我們可能會有另一種途徑來打擊‘換臉術(shù)'和虛假信息的傳播。"

論文鏈接：https://www.sciencedirect.com/science/article/abs/pii/S0042698922000852?via%3Dihub