警方核查地震造謠信息數(shù)量多達(dá)數(shù)百條 AI時(shí)代如何應(yīng)對(duì)造假

  央視新聞客戶端   2025-01-12 06:21:52

近日,西藏日喀則市定日縣發(fā)生的6.8級(jí)地震,牽動(dòng)人心,然而,一些人為了博取流量趁機(jī)杜撰地震視頻,發(fā)布大量不實(shí)信息,誤導(dǎo)公眾。其中一系列“小男孩被埋圖”在網(wǎng)絡(luò)上廣泛傳播,并配文日喀則地震等關(guān)鍵詞,引發(fā)大量網(wǎng)民關(guān)注。記者昨天(10日)從公安部網(wǎng)安局了解到,鑒于該圖片存在明顯AI生成痕跡,公安機(jī)關(guān)網(wǎng)安部門迅速開展核查,經(jīng)查,上述圖片確由AI工具創(chuàng)作 ,原作者在2024年11月18日發(fā)布了相同畫面的短視頻,并未關(guān)聯(lián)地震且聲明是AI生成。經(jīng)查,青海某網(wǎng)民為博取眼球,將“小男孩被埋圖”與日喀則地震相關(guān)的信息進(jìn)行關(guān)聯(lián)拼湊、移花接木、混淆視聽、誤導(dǎo)群眾,致使謠言信息傳播擴(kuò)散。目前,該涉案人員已被屬地公安機(jī)關(guān)依法行政拘留。

視頻圖片疑點(diǎn)多 日喀則市警方查證核實(shí)

“小男孩被埋圖”出現(xiàn)后,盡管有很多疑點(diǎn)和AI生成的痕跡,但日喀則市公安局民警還是向當(dāng)?shù)叵嚓P(guān)部門和救援人員進(jìn)行了核實(shí)查證。

日喀則市公安局網(wǎng)絡(luò)安全保衛(wèi)支隊(duì)民警 白玉: 第一個(gè),我們跟前線的民警還有消防隊(duì)員核實(shí)了以后,他們救援人員救出來的人員里面沒有這個(gè)小孩的情況。第二個(gè),我們通過對(duì)當(dāng)?shù)氐木戎藛T的名單,同齡人的小孩里面也查詢了一下,也是沒有發(fā)現(xiàn)這個(gè)小孩的存在。所以,從這個(gè)核查情況來看,這個(gè)小孩照片不是我們定日縣地震發(fā)生時(shí)候照的。

博眼球蹭流量 查實(shí)地震造謠信息數(shù)百條

除了“小孩被埋圖”,日喀則警方核查發(fā)現(xiàn),全國(guó)各地都有網(wǎng)民參與發(fā)布地震造謠信息,數(shù)量多達(dá)數(shù)百條。一起看一下還有哪些造謠視頻。

日喀則警方1月8日在自己的公眾號(hào)上發(fā)布了《警惕這些網(wǎng)絡(luò)不實(shí)信息》的文章。其中造謠視頻內(nèi)容包括:用以往地震現(xiàn)場(chǎng)畫面假冒定日災(zāi)區(qū)現(xiàn)場(chǎng),有母親在廢墟中抱著孩子的照片,有被困男孩的照片。發(fā)出來的每一條視頻,在認(rèn)定造謠視頻前,在網(wǎng)絡(luò)上都有較高的熱度。

日喀則市公安局民警 邢彥輝: 地震當(dāng)日晚8點(diǎn)多,我在刷某平臺(tái)視頻的過程中,看到一個(gè)關(guān)于定日地震的視頻。視頻的內(nèi)容是某人在推著自行車,地震突然發(fā)生,他就左搖右晃。我通過他的著裝及周圍的環(huán)境判斷不是定日縣的地震的視頻。我隨即向該平臺(tái)進(jìn)行了舉報(bào)。

舉報(bào)很快得到了反饋,平臺(tái)查封了該賬號(hào)。

切勿心存僥幸 造謠需承擔(dān)法律責(zé)任

在全國(guó)都在關(guān)心地震災(zāi)區(qū)災(zāi)情的時(shí)候,有人卻在發(fā)布造謠視頻博流量,日喀則警方表示他們正在處理每一條造謠視頻,讓發(fā)布者受到應(yīng)有的懲罰。

日喀則市公安局網(wǎng)絡(luò)安全保衛(wèi)支隊(duì)民警 白玉: 也在此奉勸各位網(wǎng)民,在網(wǎng)上不要發(fā)布涉及地震的造謠傳謠之類的東西,我們公安機(jī)關(guān)也會(huì)依法打擊這些造謠傳謠人員。

對(duì)于地震發(fā)生地日喀則警方來說,造謠地震信息的網(wǎng)民涉及本地和外地,針對(duì)地域不同,有不同的處置方式。

日喀則市公安局網(wǎng)絡(luò)安全保衛(wèi)支隊(duì)民警 白玉: 首先,我們會(huì)去核一下,這個(gè)發(fā)帖人是在哪邊。如果是我們本地或者區(qū)內(nèi)的,我們會(huì)報(bào)相關(guān)部門或者是各屬地的公安機(jī)關(guān)去依法予以處置。第二個(gè),如果涉及區(qū)外的,我們會(huì)報(bào)上一級(jí)部門,通報(bào)屬地公安機(jī)關(guān)去依法打擊處理。

面對(duì)AI生成的虛假圖片 該如何甄別

隨著AI技術(shù)的不斷發(fā)展,生成虛假信息的門檻越來越低。在重大災(zāi)情和重大事件面前,我們必須提高警惕,謹(jǐn)慎轉(zhuǎn)發(fā)信息,尤其是對(duì)沒有權(quán)威出處的圖片和視頻保持警惕。那么面對(duì)AI生成的虛假圖片,我們?cè)撊绾握鐒e呢?

1

觀察細(xì)節(jié)

許多AI生成的圖片、視頻中,可能存在邊緣模糊、光線陰影不自然、人物的眼睛、頭發(fā)、手指等可能處理得不夠完美,透視關(guān)系也可能處理得不夠自然準(zhǔn)確等。

2

多方驗(yàn)證

不要僅僅依賴單一的信息來源,應(yīng)從多個(gè)權(quán)威渠道獲取信息進(jìn)行對(duì)比。對(duì)于一些熱點(diǎn)事件,可以檢索官方媒體報(bào)道,驗(yàn)證信息的真實(shí)性。

3

使用工具

利用AI圖片檢測(cè)工具可以幫助識(shí)別圖片是否為AI生成。

4

謹(jǐn)慎分享

在確定信息真實(shí)可靠之前,不要隨意轉(zhuǎn)發(fā),以免無意中成為謠言傳播的推手。

蹭流量是否涉嫌違法?AI時(shí)代如何應(yīng)對(duì)造假?

本應(yīng)是災(zāi)難面前“一方有難八方支援”,有人卻挖空心思為了博眼球,賺流量,發(fā)布虛假信息,還有些人借此蹭流量,蹭流量這樣的行為是否涉嫌違法?

中國(guó)政法大學(xué)副教授 朱?。?/strong> 根據(jù)別人發(fā)布的虛假消息,自己去蹭流量蹭熱點(diǎn),去發(fā)布一些所謂的虛假的感受,引起社會(huì)的恐慌,或者是評(píng)論的次數(shù),包括點(diǎn)擊的量達(dá)到了一定的數(shù)量,而且擴(kuò)散極廣,并且可能標(biāo)的IP地址也是發(fā)生地震的本地,增加了確信度,所以就有可能會(huì)造成社會(huì)的恐慌和網(wǎng)絡(luò)信息傳播秩序的混亂,在這種情況下有可能構(gòu)成傳播虛假信息的行為。

利用他人虛假信息惡意擾亂社會(huì)秩序的行為,已然令人警醒。特別是AI生成圖片帶來的“有圖未必有真相”的復(fù)雜局面,又該如何應(yīng)對(duì)?

中國(guó)政法大學(xué)副教授 朱?。?/strong> 這兩年國(guó)家網(wǎng)信管理部門先后出臺(tái)了深度合成服務(wù)管理規(guī)定,還有生成式人工智能服務(wù)管理規(guī)定,明確規(guī)定不得用AI的方式或者是深度合成的方式去炮制謠言,更不得把AI的手段作為傳播謠言的一種方式。這個(gè)責(zé)任不僅在行為人使用AI者,同時(shí)在AI平臺(tái)的管理者。

(總臺(tái)央視記者 李文杰 崔世杰 張賽 國(guó)鵬)

責(zé)編:胡澤匯

一審:胡澤匯

二審:朱曉華

三審:文鳳雛

來源:央視新聞客戶端

我要問