證券時報網
葉玲珍
2025-09-18 23:02
每個網絡熱點事件的發酵，往往伴隨著大量的謠言。隨著生成式AI的廣泛使用，網絡謠言有了愈演愈烈之勢。
清華大學新聞與傳播學院新媒體研究中心發布報告顯示，AI謠言量在2024年有較為明顯的增長。其中，經濟與企業類AI謠言量增速最高。
據界面新聞了解，抖音、微信公眾平臺、微博、快手等多個平臺目前都已建立專門的辟謠賬號，定期針對傳播廣泛的謠言內容進行辟謠。
但一位平臺治理人員對界面新聞表示，生成式AI讓大幅降低了生產網絡謠言的門檻，但平臺核實信息的真實性往往需要一些時間，中間的時間差足以讓網絡謠言產生廣泛傳播，甚至帶來一些社會危害。
根據警方此前曝光的案例，一些不法團伙利用AI工具等生成謠言，通過其控制的數百個自媒體賬號發布，在短短幾天時間就能夠發布幾百條內容。這些謠言經過發酵之后，帶動的新增討論更是不計其數。
上述平臺治理人員還透露，在一些熱點事件中，雖然平臺對相關謠言進行了辟謠，但辟謠內容的傳播熱度遠低于謠言熱度，用戶往往只看到了謠言信息而看不到辟謠信息。
在很長一段時間內，“造謠容易辟謠難”的問題困擾著各個平臺的信息治理團隊。9月16日，抖音在不實信息治理開放日上宣布上線“AI抖音求真”功能，并對外分享了一些通過技術手段治理謠言的方法，這給網絡謠言治理提供了一些新思路。
治理AI謠言，用魔法打敗魔法
今年，已經有“歌手陳奕迅去世”“演員于朦朧遺體帶血的勞力士”等多起網絡謠言事件頻繁攪動輿論場，這些謠言時候均被證明使用AI進行了偽造。
此前，平臺在初步研判一些快速發酵的網絡熱點信息時，往往依靠治理人員的經驗。抖音生態治理團隊一位負責人在不久前接受界面新聞采訪時表示，今年上半年，其最初研判“華山醫院前院長張明遠客死洛杉磯”的信息時，發現大量自媒體發布的信息相似度太高，意識到這則消息可能有AI編造的痕跡。
據界面新聞了解，平臺治理人員研判謠言的經驗還包括尋找信息中不符合常識的瑕疵、信息的源頭是否包含權威媒體等。但隨著生成式AI能力的提升，這些人工經驗在謠言研判上能夠發揮的作用越來越有限，平臺治理人員對上線技術手段研判謠言的呼聲越來越高。
抖音不實信息治理負責人李博在不實信息治理開放日上透露，近期，抖音已嘗試在謠言治理工作中引入大模型技術。基于謠言治理大模型研發的智能體更像一個由平臺訓練出來的“謠言鑒定專家”，它學習了過往人工在研判的經驗，但能力比人工有了大幅提升。
李博以今年7月出現的一條“老年人坐火車有新規定”謠言內容詳細解釋了謠言治理大模型的工作機制：智能體對相關視頻的畫面、畫面中的文字以及音頻進行拆解，提煉其主旨為“7月1日起，老年人坐火車有新規定，買票可享受折扣”；接下來，智能體會全網檢索相關信息，重點關注權威媒體以及12306官方賬號有無相關報道或辟謠，來研判相關信息是否屬實；在發現官方賬號辟謠之后，智能體確定該信息為謠言，并研判其容易給公眾誤導，風險高。研判之后，智能體不只處理了這一條內容，還入庫回掃其他相關內容，處理掉了全部不實信息。
相比于人工處理謠言，該方式在全網信息研判、回查處置方面的效率更高。根據抖音方面公布的數據，在大模型技術助力下，近一個季度以來，抖音謠言內容曝光量下降67%。大模型識別準確率達85%，目前仍在持續提升中。
但謠言研判處置并不全都這么簡單，治理人員經常遇到的問題是無法立即核實信息的真實性。比如“九月社保新規，全民強制繳納社保”的信息，這實際上是對政策的補充和說明，被一些自媒體解讀為新規，引發了諸多誤解。
為此，抖音還上線了“無依據的不當臆測內容”的大模型，一方面通過內容本身的論據判斷，另一方面會結合外部舉報等信號。高置信度的就直接處置，疑似的人工會進一步研判。
李博告訴界面新聞，經過一段時間的運營，其團隊也發現了謠言治理大模型還可以優化的方向。比如，把團隊在專業知識上的積累變成大模型的知識庫，平臺上一些專業達人也可以作為一些信息反饋渠道等。
解決“造謠容易辟謠難”，平臺還需投入更多運營力量
通過技術手段能夠直接處理的謠言只是一部分，還有大量的存疑信息同樣存在引發誤解、攪動輿論場的問題。
這部分信息仍然需要平臺投入更多運營力量來向用戶呈現真實信息的全貌。據界面新聞了解，目前多個平臺對謠言治理的重點仍然是處置已經被證實的謠言信息，對這類存疑信息的治理仍存在很多難點。
微博和抖音在存疑信息的治理上有了較為明確的動作。其中，微博在信息流中推出了微博查證功能，用戶點擊之后可跳轉至微博智搜頁面，可查看到由AI總結的事件來龍去脈全貌，大幅減少了用戶因獲取片面信息產生的誤解。
抖音近日把此前已上線的抖音辟謠卡的功能升級為“AI抖音求真”功能。該功能直接掛在容易產生誤解的短視頻下方，用戶點擊就可跳轉到落地頁，了解事件全貌。根據抖音方面公布的信息，“AI抖音求真”功能目前日均曝光大概在1億左右。
在此前的平臺信息治理中，平臺的重點多集中在處置謠言內容上，辟謠信息以及事件的全貌都需要用戶主動搜索獲取，這在一定程度上也助推了“造謠容易辟謠難”的問題。從最新的治理思路來看，平臺希望能夠通過運營力量增加真實信息的曝光，讓用戶能夠在刷內容的過程中被動獲得。
抖音謠言治理員工李青松還向界面新聞透露，抖音發現未經證實的存疑信息后，會根據“社區熱點信息治理規則”先采取流量限制措施，避免無序傳播誤導公眾。若后續官方通報明確信息為謠言，則納入謠言庫處置；若通報為事實，則解除流量限制；若長期無定論，則持續維持存疑標記與流量管控。
比如，在近期的演員于朦朧墜樓事件中，各個平臺出現大量和墜樓原因相關的信息。在警方通報之前，平臺也無法核實真偽，只能盡可能呈現信息全貌，并把一些存疑信息進行流量限制。但不可否認的是，各個平臺中仍然有大量謠言信息在傳播。
在李博看來，當下謠言的產生多種多樣，主觀編造、傳播偏差、理解不足均會演變成謠言，甚至有些觀點都不是故意編造，但在傳播中用戶逐步加工變成謠言。“目前解決謠言傳播問題仍然存在較大挑戰，不實信息的治理是一場智慧與技術博弈的持久戰。”
