為人臉檢測(cè)“公平性”設(shè)立新基準(zhǔn)，螞蟻國(guó)際NeurIPS算法競(jìng)賽奪冠
來源： 紫牛新聞
2025-12-08 11:33:00
近日，在全球人工智能領(lǐng)域最具影響力的頂級(jí)學(xué)術(shù)會(huì)議 NeurIPS（神經(jīng)信息處理系統(tǒng)大會(huì)）上，螞蟻國(guó)際在“AI人臉檢測(cè)公平性競(jìng)賽”中獲得第一，從全球162支參賽隊(duì)伍、逾2100次結(jié)果提交中勝出。這一成果標(biāo)志著其在應(yīng)對(duì)深度偽造（deepfake）欺詐、提升金融身份驗(yàn)證可靠性方面取得關(guān)鍵進(jìn)展。
螞蟻國(guó)際風(fēng)控團(tuán)從全球160多支團(tuán)隊(duì)中脫穎而出奪得 “AI人臉檢測(cè)公平性競(jìng)賽”冠軍
NeurIPS 由非營(yíng)利組織 Neural Information Processing Systems Foundation 主辦，自1987年創(chuàng)辦以來，已成為機(jī)器學(xué)習(xí)與計(jì)算神經(jīng)科學(xué)領(lǐng)域公認(rèn)的頂級(jí)會(huì)議，被廣泛視為 AI 技術(shù)前沿的“風(fēng)向標(biāo)”。每年吸引包括谷歌 DeepMind、Meta、微軟等全球頂尖機(jī)構(gòu)參與，其競(jìng)賽以高難度、強(qiáng)實(shí)戰(zhàn)性和前瞻性著稱。本屆大會(huì)于11月30日至12月7日先后在墨西哥城和美國(guó)圣地亞哥舉行，聚焦生成式 AI 快速演進(jìn)帶來的倫理與安全挑戰(zhàn)。
本次競(jìng)賽的核心命題是：在深度偽造的挑戰(zhàn)面前，如何精確識(shí)別 AI 生成人臉的同時(shí)，確保算法對(duì)不同性別、年齡和膚色人群保持一致的準(zhǔn)確率。主辦方提供了120萬張覆蓋多元人口特征的合成圖像，要求模型既精準(zhǔn)識(shí)假，又避免因訓(xùn)練數(shù)據(jù)偏差導(dǎo)致對(duì)特定群體的系統(tǒng)性誤判。
這一問題在金融場(chǎng)景中尤為關(guān)鍵——有研究發(fā)現(xiàn)，商用的面部識(shí)別算法對(duì)女性和有色人種的錯(cuò)誤率明顯更高。這主要是由于在用來訓(xùn)練AI算法的數(shù)據(jù)中，部分人群的數(shù)據(jù)相對(duì)偏少。在金融服務(wù)上，AI算法的偏見會(huì)導(dǎo)致正當(dāng)服務(wù)需求被拒絕，并引發(fā)安全漏洞。
螞蟻國(guó)際獲勝的AI模型訓(xùn)練將混合專家 (Mixture of Expert) 架構(gòu)與內(nèi)部 “偏差檢測(cè)” 機(jī)制相結(jié)合，讓神經(jīng)子網(wǎng)絡(luò)互相對(duì)抗，一個(gè)專注于發(fā)現(xiàn)深度偽造，另一個(gè)積極挑戰(zhàn)它忽略敏感特征。這種對(duì)抗性去偏的方式確保AI模型學(xué)會(huì)發(fā)現(xiàn)真正的偽造痕跡，而不是人群特征。模型訓(xùn)練同時(shí)使用具有全球代表性的數(shù)據(jù)，包括真實(shí)的支付欺詐場(chǎng)景，進(jìn)一步確保了準(zhǔn)確性與公平性。
“有偏見的AI不是安全的AI，” 螞蟻國(guó)際風(fēng)險(xiǎn)管理與網(wǎng)絡(luò)安全事業(yè)部總經(jīng)理張?zhí)煲聿┦勘硎??！拔覀傾I模型的公平性可以有效應(yīng)對(duì)deepfake風(fēng)險(xiǎn)，并確保所有用戶的可靠身份驗(yàn)證，讓我們能在全球范圍內(nèi)提供安全、便捷的金融服務(wù)。
目前，螞蟻國(guó)際已將該技術(shù)已開始整合進(jìn)其支付與金融服務(wù)體系。包括，螞蟻國(guó)際依托AI技術(shù)強(qiáng)化深度偽造防范措施，對(duì)deepfake的識(shí)別率超過99.8%。確保AI人臉檢測(cè)的公平性能讓這些防范措施“一視同仁”地保護(hù)全球200多個(gè)市場(chǎng)不同人群的賬戶安全。同時(shí)幫助金融機(jī)構(gòu)和商戶合作伙伴滿足各地日益嚴(yán)格的電子身份認(rèn)證（eKYC）合規(guī)要求。更公平的識(shí)別能力，也為向新興市場(chǎng)更多元用戶群體擴(kuò)展普惠金融服務(wù)提供了技術(shù)支撐。
作為底層保障，螞蟻國(guó)際已構(gòu)建名為 AI SHIELD 的全生命周期 AI 安全框架，可將數(shù)據(jù)泄露、越權(quán)訪問等風(fēng)險(xiǎn)降低90%。其賬戶保護(hù)方案 Alipay+ EasySafePay 360 已實(shí)現(xiàn)數(shù)字錢包支付場(chǎng)景下賬戶被盜事件減少90%。
揚(yáng)子晚報(bào)/紫牛新聞?dòng)浾? 徐曉風(fēng)