我國科學(xué)家研發(fā)“有同情心”人工智能，困境中主動(dòng)舍己助人
來源： 北京日?qǐng)?bào)
2025-11-28 15:29:00
通過模擬人腦“共情”機(jī)制，為人工智能（AI）賦予了類似人類的“同情心”和利他動(dòng)機(jī)，讓它在復(fù)雜情境中能自發(fā)地做出助人決策。11月28日，記者從人工智能安全與超級(jí)對(duì)齊北京市重點(diǎn)實(shí)驗(yàn)室獲悉，相關(guān)研究成果已在《IEEE情感計(jì)算匯刊》上發(fā)表。
當(dāng)AI不僅會(huì)答題、畫畫，還能“感同身受”地理解他人痛苦，甚至在關(guān)鍵時(shí)刻犧牲自己的利益去幫助他人，這樣的人機(jī)共生社會(huì)或許是更好的圖景?！爱?dāng)看到他人受傷時(shí)，我們的大腦會(huì)仿佛自己也感到疼痛一樣被激活，這種‘感同身受’就是共情，它是人類產(chǎn)生同情和助人行為的基礎(chǔ)?！比斯ぶ悄馨踩c超級(jí)對(duì)齊北京市重點(diǎn)實(shí)驗(yàn)室主任、中國科學(xué)院自動(dòng)化研究所研究員曾毅說，研究團(tuán)隊(duì)據(jù)此構(gòu)建了類腦情感共情驅(qū)動(dòng)的利他決策脈沖神經(jīng)網(wǎng)絡(luò)模型，使AI能夠通過自身的虛擬“情緒體驗(yàn)”，去理解、共鳴他人的狀態(tài)，從而從內(nèi)部驅(qū)動(dòng)利他行為。
雙智能體利他救援、多智能體雪堆博弈、機(jī)器人自我—他人共鳴實(shí)驗(yàn)
通過雙智能體利他救援、多智能體雪堆博弈及機(jī)器人自我—他人共鳴實(shí)驗(yàn)，科研團(tuán)隊(duì)發(fā)現(xiàn)，在涉及多個(gè)智能體的復(fù)雜場(chǎng)景中，尤其在自身利益與他者福祉沖突的道德困境下，所提模型能主動(dòng)共情并優(yōu)先選擇利他、利集體的行為，展現(xiàn)明顯的“舍己為人”傾向。
AI的“善良”程度還可以被進(jìn)一步優(yōu)化，與共情水平直接正相關(guān)。該研究發(fā)現(xiàn)，在自身任務(wù)與救助他人直接沖突時(shí)，具備高共情能力的AI會(huì)毅然選擇調(diào)頭救援，哪怕這意味著它要付出更多“成本”。高共情AI群體展現(xiàn)出更強(qiáng)的協(xié)作精神，有效避免了“三個(gè)和尚沒水喝”的困境。此外，智能體的行為會(huì)受到交互對(duì)象共情水平的影響，形成復(fù)雜的博弈動(dòng)態(tài)。例如，中等共情AI面對(duì)高共情對(duì)象時(shí)傾向于“依賴”，面對(duì)低共情對(duì)象時(shí)轉(zhuǎn)為“主動(dòng)補(bǔ)位”。
“這項(xiàng)研究的深遠(yuǎn)意義，在于推動(dòng)AI倫理設(shè)計(jì)范式的轉(zhuǎn)變。隨著人工智能與社會(huì)深度融合，我們必須將安全和倫理價(jià)值對(duì)齊置于核心位置。將倫理考量?jī)?nèi)化為AI的內(nèi)在動(dòng)機(jī)，助力人與人工智能的和諧共生?！痹惚硎?，這將讓AI從依賴外部規(guī)則的“他律”，轉(zhuǎn)向基于內(nèi)在動(dòng)機(jī)的“自律”。該實(shí)驗(yàn)室未來將持續(xù)探索AI向安全、有益方向發(fā)展，為構(gòu)建人與人工智能和諧共生的未來、促進(jìn)人類社會(huì)可持續(xù)發(fā)展貢獻(xiàn)中國智慧。