觀點丨警惕“換臉”背后“換錢”套路

  湖南日報·新湖南客戶端   2025-01-03 08:24:34

楊玉龍

如今，“AI（人工智能）換臉”圖片和視頻成為熱門現(xiàn)象，娛樂之余，讓人真假莫辨，風(fēng)險與困擾也不少。記者調(diào)查發(fā)現(xiàn)，屢被曝光的“AI換臉”背后，從傳播到制作再到后端環(huán)節(jié)，幾乎都藏著生意。當(dāng)前，包括網(wǎng)絡(luò)平臺、通信公司在內(nèi)，已有一些技術(shù)和措施識別“換臉”，但也面臨著“矛與盾”的考驗。

“AI換臉”不能想換就換，技術(shù)的運用必須依法規(guī)范。比如在山東淄博，一名82歲的老人近期被“AI外孫”騙走了32.6萬元。自2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)。遵守法律法規(guī)，當(dāng)是“AI換臉”的底線所在。

AI技術(shù)可定制性強、應(yīng)用場景廣泛，不法分子作案手法多樣，導(dǎo)致AI犯罪不斷衍生升級。對此，相關(guān)部門需常態(tài)化發(fā)力，全力打擊治理AI犯罪，防范不法分子利用或濫用AI技術(shù)侵犯公民權(quán)利、危害公共安全。

同時，公眾應(yīng)增強法律意識和防范意識。如，通過多種形式的宣傳教育，幫助群眾更加清晰地認(rèn)識到AI技術(shù)被利用或濫用所帶來的法律風(fēng)險。再如，養(yǎng)成良好的上網(wǎng)習(xí)慣，對可能進行聲音、圖像甚至視頻等信息采集的應(yīng)用，做好授權(quán)管理。不給他人收集自己信息的機會，也能在一定程度上讓AI換臉詐騙遠離自己。

此外，針對出現(xiàn)的詐騙套路，亟待相關(guān)部門協(xié)同配合。誠如此前有受訪專家表示，加強大數(shù)據(jù)法律監(jiān)督模型應(yīng)用，善于從中發(fā)現(xiàn)重點監(jiān)督線索和社會治理存在的難點問題，實現(xiàn)精準(zhǔn)監(jiān)督、有效監(jiān)督，在行業(yè)良性健康發(fā)展的基礎(chǔ)上實現(xiàn)精準(zhǔn)治理。

（作者單位：河北省高碑店市辛橋鄉(xiāng)人民政府）

責(zé)編：萬麗君

一審：萬麗君

二審：歐陽金雨

三審：王禮生

來源：湖南日報·新湖南客戶端

我要問