“有頂流明星在澳門輸了10億”

“大媽擺攤賣水果被罰16萬，監(jiān)管局回應(yīng)不交就罰145萬”

“上海退休教授靠陽臺(tái)核電池供電”

……

這些吸引眼球的內(nèi)容

都是AI生成的謠言！

隨著AI技術(shù)的發(fā)展

正確使用的確能為人類的工作帶來方便

但因?yàn)E用AI所造成的亂象也不少

AI謠言就是其中之一

哪些信息容易被AI制作成假新聞？

如何判斷AI制作的假新聞？

一起來看　

AI謠言頻出

近日，一則

“有頂流明星在澳門輸了10億”的信息

在互聯(lián)網(wǎng)平臺(tái)傳播

引發(fā)網(wǎng)民熱議和各種猜測(cè)

相關(guān)話題頻繁登上社交媒體熱搜熱榜

后經(jīng)公安網(wǎng)安部門查明

這條信息為AI制作的假新聞

公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī)

對(duì)制作這條假新聞的徐某強(qiáng)

處以行政拘留8日處罰　

無獨(dú)有偶

近日，上海辟謠平臺(tái)公布一起網(wǎng)絡(luò)謠言

稱“上海退休教授靠陽臺(tái)核電池供電”為假消息

辟謠平臺(tái)調(diào)查發(fā)現(xiàn)，相關(guān)消息大概率是

造謠者用AI技術(shù)編寫、制圖并剪輯視頻

在傳播者中，除了受誤導(dǎo)的網(wǎng)民

還有一些別有用心的傳謠者

通過續(xù)寫、點(diǎn)評(píng)等方式擴(kuò)大謠言負(fù)面效應(yīng)

薦股群所謂內(nèi)幕或是AI生成

除了一些AI造謠信息

還有些不法分子利用AI技術(shù)

盯上了你的錢包

前不久，有受害者反映

自己付費(fèi)10000元加入“薦股”咨詢?nèi)?/p>

群內(nèi)“大佬”說中國要大力發(fā)展國防軍工

制造業(yè)要遷到四川地區(qū)來

于是他重倉買入“大佬”推薦的股票

結(jié)果不僅沒有大漲 反而一路下跌

經(jīng)警方調(diào)查

這些所謂的股票利好消息

其實(shí)是利用AI生成的虛假信息

花一萬多元的學(xué)費(fèi)

得到的所謂炒股知識(shí)、內(nèi)幕消息

不過是騙子在利益驅(qū)使下

炮制而來的虛假信息

目前，警方已抓獲15名犯罪嫌疑人

這些信息容易被AI制作成假新聞

假新聞并非新生事物

但AI大模型的崛起

無疑大幅降低了造假的門檻

如今，只需與AI智能助手進(jìn)行簡短對(duì)話

幾秒鐘內(nèi)便能生成

一篇圖文并茂的假新聞

△ 使用AI工具，1分鐘便可制造一篇AI假新聞、AI圖片。圖源：網(wǎng)信浙江

而在多起AI造謠事件背后

造謠者的動(dòng)機(jī)主要源于引流和借此牟利

網(wǎng)警總結(jié)了四種典型AI謠言場(chǎng)景

1  偽造熱點(diǎn)事件

用AI生成“某地重大事故”圖文/視頻

配煽動(dòng)性標(biāo)題博流量

△ 2025年1月7日，西藏日喀則市定日縣發(fā)生6.8級(jí)地震，震后，一張“小孩被壓廢墟下”的圖片被大量轉(zhuǎn)發(fā)。后經(jīng)查證，圖片是由AI生成，圖中人物甚至有6根手指。

2  捏造名人言論

篡改語音、合成視頻

假借權(quán)威人士發(fā)布虛假政策解讀

3  炮制偽科普

利用AI生成“科學(xué)數(shù)據(jù)”

兜售偽劣產(chǎn)品（如“AI檢測(cè)抗癌神藥”）

△ 2024年年底，有網(wǎng)友稱在網(wǎng)絡(luò)賣貨視頻中看到知名醫(yī)生張文宏在售賣一種蛋白棒產(chǎn)品。在帶貨視頻中，被合成的人像反復(fù)介紹一種產(chǎn)品，聲音聽起來很像張文宏本人。對(duì)此，張文宏回應(yīng)稱，這樣的賣貨賬號(hào)不止一個(gè)，而且一直在變，他多次向平臺(tái)投訴但屢禁不絕。

4  嫁接虛假證據(jù)

將無關(guān)圖片通過AI換臉/換背景

捏造“維權(quán)證據(jù)”“聊天記錄”等

四步識(shí)別AI謠言

不當(dāng)“受害者”更別當(dāng)“幫兇”

如何識(shí)別AI謠言？

這些要點(diǎn)請(qǐng)記住↓↓↓

1  查源頭

警惕無明確作者、無正規(guī)信源的內(nèi)容

AI生成信息常偽裝成

“網(wǎng)友投稿”“內(nèi)部消息”

2  看細(xì)節(jié)

AI圖像：觀察手指數(shù)量異常、光影不自然等；

AI視頻：注意口型與聲音不同步、背景模糊扭曲。

3  驗(yàn)邏輯

AI生成謠言常出現(xiàn)時(shí)間矛盾

（如“2024年政策”引用2025年數(shù)據(jù)）

地名錯(cuò)誤等

4  用工具

關(guān)注官方賬號(hào)公布的打謠信息

或通過“中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)”等渠道

一鍵驗(yàn)證

還有一條好消息

為了促進(jìn)人工智能健康發(fā)展

規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)

《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》

正式發(fā)布，9月1日正式施行

屆時(shí)，AI生成合成內(nèi)容必須添加顯式標(biāo)識(shí)

讓我們以理性駕馭AI

用法律守護(hù)底線

共同維護(hù)網(wǎng)絡(luò)清朗空間

（央視新聞綜合法治日?qǐng)?bào)、公安部網(wǎng)安局、網(wǎng)信浙江）

監(jiān)制丨鄭弘

制片人丨張奇斌

策劃丨張媛

編輯丨邵希煒

責(zé)編：李傳新

一審：李傳新

二審：楊丹

三審：楊又華

來源：央視網(wǎng)