湖南法治報全媒體記者 戴志杰 梁原

近期，運(yùn)用AI換臉技術(shù)合成的一系列古人“回答我”視頻火爆出圈?！皳Q臉擬聲”屬于人工智能中的深度偽造技術(shù)，可以讓真人秒換替身臉，古人從畫像里“復(fù)活”……AI技術(shù)使用越來越廣泛，要想從用會到用好，就必須對之深度了解，且須提防技術(shù)被用歪使壞，不然我們和AI“友誼的小船說翻就翻”。

“深度偽造”知多少

AI“換臉擬聲”起初在影視、廣告等領(lǐng)域應(yīng)用較多。如一些有“劣跡藝人”參演的影視劇作品，投資方會選擇AI換臉來減少損失、保證作品播出。

隨著AI技術(shù)發(fā)展，制作一段“換臉擬聲”的視頻已非難事。借助編輯軟件中的“一鍵換臉”功能，普通人就能實(shí)現(xiàn)這種好玩的特效。創(chuàng)作者綜合利用幾種AI軟件，可以讓更多創(chuàng)意落地。

本報新媒體編輯小余使用AI配音較多，他告訴記者：“借助AI工具配音速度快、易修改，整個工作流程更加簡單便利。而且，還可以模仿角色聲音，做出有創(chuàng)意的作品?！毙潞霞夹g(shù)人員在錄制一段真人視頻的基礎(chǔ)上，通過專業(yè)軟件合成，就能得到逼真的“數(shù)字人”出鏡視頻。幾張古人圖片，經(jīng)過他們反復(fù)搗鼓幾個AI工具，就讓古人真容活靈活現(xiàn)秀出視頻《跨越千年與你相見，李清照出現(xiàn)那刻太驚艷》。

目前，AI“換臉擬聲”類軟件仍屬于半專業(yè)工具，需要一定的技術(shù)基礎(chǔ)進(jìn)行操作。公眾使用的免費(fèi)工具制作相對粗糙，逼真度不高。記者檢索發(fā)現(xiàn)，一些電商平臺上已有該項(xiàng)軟件技術(shù)和教學(xué)視頻售賣。

“換臉擬聲”屬于AI中一種學(xué)名“深度偽造”的技術(shù)。深度求索（DeepSeek）軟件解釋：深度偽造技術(shù)（Deepfake）是一種基于人工智能（尤其是深度學(xué)習(xí)）的合成媒體技術(shù)，通過替換、合成或修改圖像、視頻、音頻等內(nèi)容，生成高度逼真但完全虛假的信息。其名稱來源于“深度學(xué)習(xí)”（Deep Learning）和“偽造”（Fake）的組合。

在記者的小調(diào)查中，對深度偽造技術(shù)不太了解、完全不了解的受訪者占比一半。讀者小琪聽到記者介紹深度偽造方知：“我用過換臉特效，但就是覺得好玩，根本沒意識到這屬于偽造?！?/p>

DeepSeek形容深度偽造：像一把“數(shù)字魔術(shù)刀”，能創(chuàng)造趣味和便利，但也可能成為傷人的利器。用好了是《頭號玩家》的虛擬世界，用歪了就是《黑鏡》里的黑暗劇情。

技術(shù)“防偽”有真招

深度偽造技術(shù)使用門檻的降低，正引發(fā)一系列風(fēng)險問題。如“偽造”名人聲音或臉輸出虛假信息，發(fā)布虛假廣告，詐騙群眾。

深度偽造也需技術(shù)“防偽”。記者就此采訪網(wǎng)絡(luò)安全專家，湖南文盾信息技術(shù)有限公司董事長、方濱興院士工作站負(fù)責(zé)人任江春?！安荒芤?yàn)槊诵?yīng)就盲目相信或盲目轉(zhuǎn)發(fā)，要理智分析其觀點(diǎn)?！比谓赫f，“國家目前正在要求AIGC生成大模型備案，并建立溯源取證手段，及時發(fā)布辟謠信息等，我們將來可以隨時通過具有公信力的官方平臺進(jìn)行查詢、驗(yàn)證或舉報。”

3月14日，國家網(wǎng)信辦、工信部、公安部、國家廣電總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，自2025年9月1日起施行。任江春對此進(jìn)行解讀：“其核心內(nèi)容是要求互聯(lián)網(wǎng)服務(wù)提供者要對AI生成的內(nèi)容進(jìn)行顯式或隱式標(biāo)識，這樣就可以督促正常發(fā)布的AIGC內(nèi)容有身份來源，提高監(jiān)管檢測的效率，更大程度威懾造假者?！?/p>

顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識；隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。

對AI生成合成的視頻實(shí)現(xiàn)溯源，一定程度上能遏制不法行為。任江春還建議，建立自動巡查和舉報平臺，及時曝光違法或沒有標(biāo)注的生成內(nèi)容，協(xié)助公眾及時識別，讓AI技術(shù)更好地規(guī)范使用，為社會發(fā)展和人民福祉服務(wù)。

（轉(zhuǎn)02版）

法律監(jiān)管全鏈條

今年3月5日，常德市桃源縣公安局網(wǎng)監(jiān)大隊聯(lián)合理公港派出所查處一起虛構(gòu)事實(shí)擾亂公共秩序案。違法行為人楊某為吸引流量，利用AI技術(shù)移花接木，制作發(fā)布了一段校車突發(fā)起火的虛構(gòu)視頻及配文。經(jīng)審查，楊某被依法行政拘留。桃源縣公安局網(wǎng)監(jiān)大隊大隊長鄧克勇提醒市民，涉及公共安全事件以官方通報為準(zhǔn)，不信謠、不傳謠。

3月以來，相繼曝出虛擬院士視頻帶貨化妝品，模仿明星古天樂、林峯聲音代言賭博游戲平臺，某知名模特被人用AI換臉制作淫穢視頻等事件。在全國兩會上，一些代表委員呼吁，要規(guī)范AI“換臉擬聲”技術(shù)的不當(dāng)利用，讓法律成為AI規(guī)范發(fā)展的堅實(shí)底線。

湖南芙蓉律師事務(wù)所高級董事、高級合伙人律師杜穎告訴記者，用AI技術(shù)“換臉擬聲”他人涉嫌侵害他人名譽(yù)權(quán)，可能帶來嚴(yán)重的法律后果。

“民事方面可能需要承擔(dān)停止侵害、賠禮道歉、消除影響、恢復(fù)名譽(yù)，并賠償損失等責(zé)任，還可能會面臨行政處罰，情節(jié)嚴(yán)重的可能構(gòu)成誹謗罪、侮辱罪。除此之外，通過身份偽造和冒充，以非法占有為目的，還會涉嫌詐騙罪?！倍欧f提醒，公眾在使用AI技術(shù)時，必須注意不得制作、傳播虛假信息或惡搞視頻，尤其是涉及他人肖像、聲音等個人特征的內(nèi)容。公眾也要對個人隱私采取防護(hù)措施，避免在社交平臺公開高清人臉照片、聲音片段等生物信息。

如何判斷使用AI的行為構(gòu)成侵權(quán)？杜穎介紹，主要看產(chǎn)生的后果，如果負(fù)面影響比較大，造成社會評價的降低，那么就屬于名譽(yù)受損，可以依法維權(quán)。

不法分子利用AI技術(shù)正發(fā)展出新型詐騙。據(jù)IT時報報道，浙江警方數(shù)據(jù)顯示，AI詐騙案件在2024年同比激增270%，單筆損失金額超百萬元的案例中，83%涉及偽造視頻。

長沙市反詐中心提醒：“在日常生活中，但凡涉及交易、轉(zhuǎn)賬等行為，一定要核實(shí)對方身份，這是避免被騙的關(guān)鍵一步?！薄澳壳癆I換臉視頻主要集中于靜態(tài)場景，如帶貨視頻或短時對話。雖然AI技術(shù)發(fā)展迅速，但‘實(shí)時動態(tài)換臉’進(jìn)行詐騙的技術(shù)門檻仍極高。”對普通用戶生成的換臉視頻通常只有幾秒，畫面模糊、聲音機(jī)械，仔細(xì)觀察便能識破。

目前，我國已相繼出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《人工智能生成合成內(nèi)容標(biāo)識辦法》及配套國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》等，正在構(gòu)建多層次的治理制度，在鼓勵和保護(hù)技術(shù)創(chuàng)新的同時，對技術(shù)風(fēng)險的法律監(jiān)管趨向全鏈條發(fā)力。

AI問卷小調(diào)查

（受訪者50人）

◆您是否了解AI中的深度偽造技術(shù)？

A、非常了解 獲票 2%

B、比較了解 獲票18%

C、一般 獲票 30%

D、不太了解 獲票 46%

E、完全不了解 獲票 4%

◆您是否擔(dān)心AI工具可能被用于以下用途？（可多選）

A、生成虛假新聞 獲票28%

B、被惡搞侵害名譽(yù) 獲票23%

C、制造虛假廣告 獲票23%

D、實(shí)施詐騙犯罪 獲票26%

E、其他 獲票0%

◆您認(rèn)為應(yīng)該如何應(yīng)對AI工具可能帶來的“深度偽裝”問題？（可多選）

A、加強(qiáng)技術(shù)監(jiān)管，開發(fā)AI內(nèi)容檢測工具 獲票24%

B、制定相關(guān)法律法規(guī)，明確責(zé)任主體 獲票29%

C、提高公眾對AI生成內(nèi)容的辨識能力 獲票22%

D、規(guī)范AI應(yīng)用，制定可溯源的技術(shù)規(guī)范 獲票25%

E、其他 獲票0%

責(zé)編：李迅

一審：劉冬晨

二審：陳佳婧

三審：戴志杰