中國AI治理方案亮相聯(lián)合國峰會 擊退超六成“AI換臉”
來源： 紫牛新聞
2025-07-15 11:40:00
揚子晚報訊（記者 徐曉風(fēng)）辦理金融業(yè)務(wù)，刷臉支付，你擔(dān)心遭遇“換臉”詐騙嗎？精準(zhǔn)識別擊退類似于“AI換臉”之類的深度偽造技術(shù)，中國技術(shù)正在為全球AI安全治理貢獻中國力量。近日，聯(lián)合國在瑞士日內(nèi)瓦召開全球AI for Good（人工智能向善）峰會，螞蟻集團相關(guān)負責(zé)人在會上分享了中國在金融場景中對抗“深度偽造”的技術(shù)成果，同時披露，螞蟻數(shù)科服務(wù)的東南亞銀行偽造人臉攻擊頻率已從高峰期的10%大幅擊退至4%，識別準(zhǔn)確率保持在99.9%，成為全球AI安全治理可復(fù)用的"中國方案"。
螞蟻集團技術(shù)戰(zhàn)略與發(fā)展部副總經(jīng)理彭晉在AI for Good峰會分享中國技術(shù)成果
全球AI for Good人工智能向善峰會由聯(lián)合國下屬國際電信聯(lián)盟（ITU）與 40 多個聯(lián)合國姊妹機構(gòu)合作舉辦，并與瑞士政府共同承辦。大會旨在推動人工智能促進健康、氣候、性別、包容性繁榮、可持續(xù)基礎(chǔ)設(shè)施和其他全球發(fā)展優(yōu)先事項。
隨著生成式AI工具的普及應(yīng)用，全球范圍內(nèi)利用“AI換臉”進行欺詐的惡性事件屢見不鮮，尤其在金融機構(gòu)的用戶注冊、交易等環(huán)節(jié)，身份偽造可能導(dǎo)致銀行、支付平臺錯誤判斷，帶來直接經(jīng)濟損失。據(jù)介紹，2024年，東南亞銀行的Deepfake（深度偽造）攻擊率，在高峰時期達到了10%，即每100次人臉驗證中有10次為虛假人臉。在螞蟻數(shù)科技術(shù)支持下，東南亞銀行Deepfake攻擊率已擊退至4%。這些銀行用戶身份認證的攔截率從原本50%降低至3%。業(yè)務(wù)提效的同時，識別準(zhǔn)確率保持在99.9%。同時，技術(shù)人員也表示，人臉識別算法攻防是一個與黑產(chǎn)對抗博弈的過程，算法依然需要以“天”為單位不斷更新，來對抗及預(yù)判新型的偽造手法。
據(jù)介紹，目前金融機構(gòu)面臨的主流“換臉欺詐”方式包括兩大類，一類是呈現(xiàn)式攻擊，即在相機前呈現(xiàn)虛假圖像以繞過活體檢測。另一類是注入式攻擊，即從系統(tǒng)層面破解相機，注入預(yù)錄圖像/視頻以替換相機捕獲的面部畫面。螞蟻數(shù)科旗下ZOLOZ金融級的身份安全認證，可以在設(shè)備端實施環(huán)境安全檢測，在應(yīng)用端利用動態(tài)深度學(xué)習(xí)模型精準(zhǔn)識別活體特征，有效抵御各類攻擊。目前，ZOLOZ的相關(guān)技術(shù)產(chǎn)品已經(jīng)服務(wù)全球超25個國家和地區(qū)。