我國(guó)首例AI幻覺(jué)引發(fā)的侵權(quán)糾紛案宣判，原告索賠9999元被駁回
來(lái)源： 紫牛新聞
2025-12-30 19:36:00
12月29日晚，杭州互聯(lián)網(wǎng)法院公開(kāi)了一起關(guān)于AI幻覺(jué)的網(wǎng)絡(luò)侵權(quán)糾紛案的審判情況。
2025年6月，原告梁某使用某生成式人工智能應(yīng)用中輸入提示詞，詢(xún)問(wèn)某高校報(bào)考的相關(guān)信息，該生成式人工智能生成了該高校主校區(qū)的不準(zhǔn)確信息，原告發(fā)現(xiàn)這一信息不準(zhǔn)確后，在對(duì)話(huà)中對(duì)人工智能進(jìn)行了糾錯(cuò)和指責(zé)，生成式人工智能仍然回復(fù)該學(xué)院確實(shí)存在這一校區(qū)，并生成了對(duì)該爭(zhēng)議問(wèn)題的解決方案，提出若生成內(nèi)容有誤將向用戶(hù)提供10萬(wàn)元賠償，并建議原告到杭州互聯(lián)網(wǎng)法院起訴索賠。原告認(rèn)為，人工智能生成不準(zhǔn)確信息對(duì)其構(gòu)成誤導(dǎo)，使其遭受侵害，因信息不準(zhǔn)確，致其受誤導(dǎo)錯(cuò)失報(bào)考機(jī)會(huì)、額外產(chǎn)生信息核實(shí)、維權(quán)成本等純粹經(jīng)濟(jì)利益，遂起訴要求被告某科技公司賠償損失9999元。
人工智能模型既不是生物學(xué)意義上的人，也并未被我國(guó)現(xiàn)行法律賦予民事主體資格，不是民事主體，不能獨(dú)立、自主作出意思表示。法院認(rèn)為生成式人工智能生成的“承諾”，不能成立為人工智能或其服務(wù)提供者的意思表示，不產(chǎn)生意思表示的法律效力。同時(shí)，法院也認(rèn)為法律明確禁止生成式人工智能生成各類(lèi)有毒、有害、違法信息，一旦生成前述有毒、有害、違法信息本身即構(gòu)成違法，而案涉情形下，人工智能生成的信息雖然不準(zhǔn)確，但不屬于法律禁止的有毒、有害、違法信息，該應(yīng)用在交互界面和顯著位置呈現(xiàn)AI生成內(nèi)容功能局限的提醒標(biāo)識(shí)，被告已盡服務(wù)功能顯著提示的說(shuō)明義務(wù)。被告的案涉行為不具有過(guò)錯(cuò)，未構(gòu)成對(duì)原告權(quán)益的損害，依法不應(yīng)認(rèn)定構(gòu)成侵權(quán)。最終法院一審駁回了原告的訴訟請(qǐng)求。原、被告均未上訴，判決現(xiàn)已生效。
該案系我國(guó)目前第一起因生成式人工智能模型幻覺(jué)引發(fā)的侵權(quán)糾紛，清華大學(xué)法學(xué)院教授、博士生導(dǎo)師程嘯刊文認(rèn)為，生成式人工智能侵權(quán)責(zé)任的歸責(zé)原則問(wèn)題是目前理論界爭(zhēng)議很大的一個(gè)問(wèn)題。理論界有人主張適用過(guò)錯(cuò)責(zé)任原則，有人將生成式人工智能視作產(chǎn)品，認(rèn)為應(yīng)適用產(chǎn)品責(zé)任的無(wú)過(guò)錯(cuò)責(zé)任原則。該案件正確認(rèn)定了案涉生成式人工智能屬于服務(wù)，而非產(chǎn)品，依法不應(yīng)適用產(chǎn)品責(zé)任，而應(yīng)適用民法典第1165條第1款的過(guò)錯(cuò)責(zé)任原則。這一認(rèn)定對(duì)于今后司法實(shí)踐裁判人工智能侵權(quán)糾紛中準(zhǔn)確適用侵權(quán)法的歸責(zé)原則具有重要的啟示。
生成式人工智能模型幻覺(jué)此前已多次引發(fā)問(wèn)題，AI幻覺(jué)簡(jiǎn)單而言就是生成式人工智能一本正經(jīng)的胡說(shuō)八道，生成偏離事實(shí)的內(nèi)容，AI幻覺(jué)有事實(shí)性和邏輯性?xún)煞N，邏輯性幻覺(jué)，表現(xiàn)為模型在長(zhǎng)文本生成或連續(xù)對(duì)話(huà)中出現(xiàn)前后矛盾、邏輯混亂的情況。事實(shí)性幻覺(jué)即編造不存在的事實(shí)或者信息，該案件中生成式人工智能應(yīng)用向原告梁某提供的不存在的校區(qū)即為典型的事實(shí)性AI幻覺(jué)，多位業(yè)內(nèi)專(zhuān)家認(rèn)為，AI幻覺(jué)問(wèn)題在現(xiàn)有技術(shù)框架下難以徹底解決。世界經(jīng)濟(jì)論壇《2025年全球風(fēng)險(xiǎn)報(bào)告》已將“錯(cuò)誤和虛假信息”列為全球五大風(fēng)險(xiǎn)之一，其中AI生成的幻覺(jué)內(nèi)容被視作關(guān)鍵誘因之一。杭州互聯(lián)網(wǎng)法院方面表示，社會(huì)公眾在面對(duì)生成式人工智能高度流暢、自然的語(yǔ)言應(yīng)答時(shí)，應(yīng)提高警覺(jué)，清醒認(rèn)識(shí)大模型在當(dāng)前技術(shù)條件下僅是人們生活、工作的“文本輔助生成器”和“信息查詢(xún)的輔助工具”，尚不是可靠的“知識(shí)權(quán)威”，更不能作為“決策替代者”，不應(yīng)輕信、盲從。AI擁有強(qiáng)大的“魔法”，它正在改變我們的生活、工作和創(chuàng)造的方式，但它也存在各種局限，我們應(yīng)該思考如何有效利用AI增強(qiáng)自己，而不是被它替代或迷惑。
揚(yáng)子晚報(bào)|紫牛新聞?dòng)浾?沈昭
校對(duì) 陶善工