從傳統(tǒng)圖像編輯軟件到生成式大模型，AI讓圖像、視頻等內(nèi)容生成的手段愈發(fā)簡單，也讓信息篡改的形式更隱蔽，載體更多樣，讓人防不勝防。網(wǎng)絡(luò)加速器供應(yīng)商Surfshark公布的數(shù)據(jù)顯示，2025 年上半年，深度偽造相關(guān)金融欺詐造成全球損失近9億美元，AI偽造能力的泛濫正在沖擊個人權(quán)益、經(jīng)濟(jì)秩序與社會信任體系。

當(dāng)技術(shù)偽造的能力逐漸超越肉眼識別的邊界，AI鑒偽技術(shù)的發(fā)展進(jìn)程牽動著公眾的視線。2025世界人工智能大會上，合合信息展示了AI鑒偽技術(shù)在人臉視頻、AIGC生成圖像、證件票據(jù)等當(dāng)今AI偽造“重災(zāi)區(qū)”中的應(yīng)用體驗(yàn)，幫助參觀者了解AI如何通過視覺特征、圖像合理性判斷、多維度交叉驗(yàn)證，精準(zhǔn)洞察多模態(tài)信息中“看不見”的偽造痕跡，為大模型安全、可信發(fā)展筑起“凈化防線”。

人臉視頻篡改檢測技術(shù)“毫秒級”狙擊“數(shù)字假面”

在合合信息AI安全展臺互動區(qū)，觀眾正在排隊(duì)體驗(yàn)一場“真假人臉”的科技較量。站在屏幕前掃描面部，系統(tǒng)就會實(shí)時生成一個“數(shù)字假面”，當(dāng)真假人臉同屏對比時，不少觀眾驚訝地發(fā)現(xiàn)，AI偽造面容近乎完美地復(fù)刻了真實(shí)人臉的表情紋路。據(jù)合合信息技術(shù)團(tuán)隊(duì)人員介紹，展會互動裝置中實(shí)時生成的“假臉”由當(dāng)前主流偽造算法生成，在合合信息AI人臉鑒偽模型的解析下，一張張“假臉”被精準(zhǔn)挑出。

圖說：合合信息AI人臉鑒偽模型對“換臉”視頻進(jìn)行精準(zhǔn)檢測

當(dāng)前人臉偽造技術(shù)手段層出不窮，傳統(tǒng)檢測算法對新型“換臉攻擊”存在滯后性。在進(jìn)行模型訓(xùn)練時，合合信息技術(shù)團(tuán)隊(duì)針對主流人臉偽造算法進(jìn)行研究，采用持續(xù)增量學(xué)習(xí)策略，與最新偽造算法同步迭代。基于大規(guī)模數(shù)據(jù)訓(xùn)練，形成了多層次篡改檢測方案，實(shí)現(xiàn)毫秒級實(shí)時鑒定。

例如，應(yīng)對人臉圖像交換偽造，合合信息AI人臉鑒偽模型能夠錨定人眼不可見的高級視覺差異，給每一個像素打上真?zhèn)螛?biāo)簽并計(jì)算偽造像素占比，為圖像真?zhèn)胃怕?ldquo;打分”。此外，面臨更復(fù)雜的偽造情況，例如由偽造算法直接生成的復(fù)雜圖像。團(tuán)隊(duì)采用了多種神經(jīng)網(wǎng)絡(luò)模型，聚焦于圖像特征，實(shí)現(xiàn)多維度交叉驗(yàn)證真?zhèn)?，讓判斷結(jié)果更精準(zhǔn)。

AI來“找茬”，AIGC圖像鑒別技術(shù)秒辨名畫真?zhèn)?/strong>