網(wǎng)絡(luò)謠言治理有了新解法：“AI抖音求真”來(lái)了
來(lái)源： 紫牛新聞
2025-09-16 17:43:00
2025年9月16日，抖音舉辦不實(shí)信息治理開(kāi)放日，分享平臺(tái)治理謠言的“方法論”，并宣布上線“AI抖音求真”功能。該功能可為用戶提供針對(duì)誤導(dǎo)性內(nèi)容與謠言的事實(shí)展示及澄清。
抖音方面表示，謠言治理是抖音2025年最重要的工作之一。近期，平臺(tái)已將大模型能力應(yīng)用于謠言治理。一個(gè)季度以來(lái)，平臺(tái)謠言曝光量下降67%。
謠言治理引入大模型技術(shù)，近一個(gè)季度謠言曝光量下降67%
隨AI技術(shù)發(fā)展，內(nèi)容創(chuàng)作越來(lái)越便利，但制造謠言也更為輕易。能否用AI治理謠言？近期，抖音已嘗試在謠言治理工作中引入大模型技術(shù)，力求實(shí)現(xiàn)對(duì)謠言“發(fā)現(xiàn)即管控”。
抖音不實(shí)信息治理負(fù)責(zé)人李博在活動(dòng)中介紹，在過(guò)往的謠言治理鏈路中，發(fā)現(xiàn)謠言往往需要依靠媒體報(bào)道或機(jī)構(gòu)發(fā)聲。有了辟謠信號(hào)，才能由人工將謠言信息點(diǎn)納入謠言庫(kù)，進(jìn)一步以此為樣本回查、下架和攔截新增的該謠言內(nèi)容。單例謠言的發(fā)現(xiàn)和處置時(shí)效需以“天”為單位。
而謠言治理所使用的大模型技術(shù)能夠“化被動(dòng)為主動(dòng)”，主動(dòng)“審閱”平臺(tái)上到達(dá)一定熱度的所有資訊內(nèi)容。大模型通過(guò)提取視頻信息、分析主旨、聯(lián)網(wǎng)搜索，完成對(duì)內(nèi)容是否為謠言的風(fēng)險(xiǎn)判斷?；诖伺袛啵M(jìn)一步對(duì)謠言內(nèi)容進(jìn)行自動(dòng)處置。目前，單例謠言的處置時(shí)效已縮短至以“小時(shí)”為單位。
抖音謠言治理運(yùn)行流程。依托于大模型技術(shù)，近一個(gè)季度以來(lái)，抖音謠言內(nèi)容曝光量下降67%
值得注意的是，這一謠言治理大模型更像一個(gè)由平臺(tái)訓(xùn)練出來(lái)的“謠言鑒定專家”。大模型的搜索信源來(lái)自權(quán)威媒體報(bào)道、政務(wù)公開(kāi)平臺(tái)及歷史謠言庫(kù)樣本。此外，謠言治理大模型擁有精準(zhǔn)定義“內(nèi)容誤導(dǎo)性”“公共價(jià)值”“可證偽”等謠言特征的能力。這使得大模型對(duì)謠言的“發(fā)現(xiàn)即管控”更為精準(zhǔn)、高效。
李博介紹，在大模型技術(shù)助力下，近一個(gè)季度以來(lái)，抖音謠言內(nèi)容曝光量下降67%。大模型識(shí)別準(zhǔn)確率達(dá)85%，目前仍在持續(xù)提升中。
但他也坦言，謠言治理“任重道遠(yuǎn)”。一方面，謠言的產(chǎn)生難以杜絕，主觀編造、傳播偏差等均會(huì)帶來(lái)不實(shí)信息；另一方面，辟謠的查證和時(shí)效性仍面臨挑戰(zhàn)。例如，一些熱點(diǎn)事件常處于動(dòng)態(tài)發(fā)展中，謠言常反轉(zhuǎn)；此外，傳播方式的變化也使得信源本身受到污染?！斑@些都需要媒體、機(jī)構(gòu)、平臺(tái)，和每一位用戶攜手共治?！?/p>
“AI抖音求真”上線，與用戶共建“認(rèn)知防線”
當(dāng)日，抖音宣布升級(jí)推出“AI抖音求真”功能。在瀏覽一些易產(chǎn)生誤解的內(nèi)容和搜索謠言相關(guān)信息時(shí)，用戶均可通過(guò)“求真卡”獲知事件完整信息及辟謠內(nèi)容。
具體而言，一方面，用戶在瀏覽視頻時(shí)，一些易產(chǎn)生誤解、談及疑似不實(shí)信息的內(nèi)容，將會(huì)被平臺(tái)掛載“AI抖音求真”跳轉(zhuǎn)鏈接。用戶點(diǎn)擊可達(dá)“求真卡”頁(yè)面，獲知事件的完整信息。一些熱度較高的事件，所對(duì)應(yīng)的“求真卡”還將展示更全面的謠言點(diǎn)信息，供用戶了解復(fù)雜事件中的多例關(guān)鍵事實(shí)點(diǎn)。
另一方面，用戶在搜索相關(guān)事件關(guān)鍵詞時(shí)，搜索結(jié)果將以“求真卡”形式展現(xiàn)。內(nèi)容包括事件溯源、澄清信息、權(quán)威報(bào)道、當(dāng)事人發(fā)聲等。如事件為謠言或疑似謠言，還將被顯著標(biāo)注為“謠言”或“存疑”。
“AI抖音求真”上線，用戶在瀏覽視頻時(shí)，一些易產(chǎn)生誤解、談及疑似不實(shí)信息的內(nèi)容，將會(huì)被掛載“AI抖音求真”跳轉(zhuǎn)鏈接。用戶點(diǎn)擊可達(dá)“求真卡”頁(yè)面
據(jù)了解，“AI抖音求真”呈現(xiàn)的內(nèi)容依托于平臺(tái)訓(xùn)練的“謠言治理大模型”“資訊大模型”及辟謠運(yùn)營(yíng)團(tuán)隊(duì)。通過(guò)“AI大模型+專項(xiàng)運(yùn)營(yíng)”的方式，該功能可為用戶提供針對(duì)誤導(dǎo)性內(nèi)容和謠言信息的事實(shí)展示及澄清。目前，“AI抖音求真”的單日曝光量估測(cè)可達(dá)近億次。
此外，辟謠運(yùn)營(yíng)團(tuán)隊(duì)在發(fā)現(xiàn)一些謠言風(fēng)險(xiǎn)信號(hào)時(shí)，也會(huì)主動(dòng)向當(dāng)事人或有關(guān)部門(mén)核實(shí)內(nèi)容真?zhèn)巍?/p>
抖音辟謠運(yùn)營(yíng)團(tuán)隊(duì)舉例介紹，在剛剛過(guò)去的暑假，社交媒體接連出現(xiàn)各地涌現(xiàn)“人販子”相關(guān)信息。運(yùn)營(yíng)團(tuán)隊(duì)在捕捉到這一疑似謠言的風(fēng)險(xiǎn)后，一方面查證各地公安通報(bào)情況，另一方面主動(dòng)與各地方公安聯(lián)動(dòng)，對(duì)四川、山西、河北、海南、重慶、河南等9個(gè)地區(qū)的“人販子”謠言進(jìn)行核實(shí)。核實(shí)內(nèi)容為虛假后，平臺(tái)隨即對(duì)謠言進(jìn)行處置，并在站內(nèi)通過(guò)“抖音辟謠”賬號(hào)發(fā)布辟謠內(nèi)容，運(yùn)營(yíng)相關(guān)熱點(diǎn)。
揚(yáng)子晚報(bào)/紫牛新聞?dòng)浾?徐曉風(fēng)
校對(duì) 盛媛媛