觀點(diǎn)丨防范“AI公然說謊”亟待平臺(tái)盡更多責(zé)

  湖南日?qǐng)?bào)·新湖南客戶端   2025-01-06 11:43:38

馮海寧

“自2025年1月1日起，寧波市將免費(fèi)乘坐公交車的年齡從70周歲降低至65周歲……”如果你通過AI咨詢“多大年紀(jì)的老年人在寧波可以免費(fèi)乘坐公交”相關(guān)問題，可能會(huì)獲得這樣的回答。然而，這個(gè)看上去有鼻子有眼的回答，卻是一條徹頭徹尾的假消息。

近年來，生成式AI迅速進(jìn)入我們的生活——通過簡單提問，就能快速生成文本、圖片、音頻、視頻和虛擬場景，已廣泛應(yīng)用于多個(gè)方面。與此同時(shí)，涉及AI造假、造謠的現(xiàn)象也日益增多，例如AI假冒名人帶貨事件已發(fā)生多起，AI生成的假消息同樣不少，對(duì)公眾造成誤導(dǎo)，擾亂了社會(huì)秩序。

詢問同樣一個(gè)問題，為何不同AI軟件給出不同答案，有的為何公然說謊？有AI軟件客服表示，目前這類軟件存在較多局限性，生成內(nèi)容可能不準(zhǔn)確，正在持續(xù)優(yōu)化相關(guān)模型體驗(yàn)。筆者以為，這應(yīng)該與某些AI軟件大模型在采集數(shù)據(jù)時(shí)“胡子眉毛一把抓”、沒有側(cè)重權(quán)威渠道有關(guān)。

而且某些AI軟件生成的內(nèi)容除不實(shí)外，還存在語句不通、錯(cuò)別字較多等常識(shí)性弊病，反映出這些AI軟件目前尚不成熟。對(duì)此，我們既要以包容心態(tài)來看待，鼓勵(lì)其不斷發(fā)展、走向成熟，同時(shí)也有必要提醒相關(guān)平臺(tái)以負(fù)責(zé)任態(tài)度完善技術(shù)手段，盡可能減少或避免“AI公然說謊”等問題。

從現(xiàn)實(shí)情況看，防范“AI公然說謊”等問題，需要平臺(tái)在對(duì)AI軟件生成的內(nèi)容進(jìn)行顯著標(biāo)識(shí)外，同時(shí)提醒用戶通過權(quán)威渠道去核實(shí)信息。應(yīng)根據(jù)不同情況完善AI大模型，并明確其數(shù)據(jù)采集源頭，比如涉及公共服務(wù)的數(shù)據(jù)就應(yīng)依托權(quán)威渠道采集、使用。 

（作者系媒體人士）

責(zé)編：周澤中

一審：周澤中

二審：尹虹

三審：王禮生

來源：湖南日?qǐng)?bào)·新湖南客戶端

我要問