在人工智能飛速發(fā)展的當(dāng)下

對(duì)于廣大學(xué)生和科研工作者而言

一個(gè)關(guān)鍵問(wèn)題隨之而來(lái)

借助這些前沿大模型寫(xiě)論文

真的靠譜嗎？

不久前

#防止DeepSeek亂編文獻(xiàn)的方法#

沖上熱搜

記者注意到

用AI工具寫(xiě)論文“被坑”的經(jīng)歷

并非鮮見(jiàn)

有網(wǎng)友列出了自己的親身經(jīng)歷

除了編造論文文獻(xiàn)

AI還會(huì)編造法律條文

甚至教人做菜還跑偏了

問(wèn)AI一個(gè)問(wèn)題，它給了你一個(gè)特別詳細(xì)、豐富，看上去好有邏輯的答案。但當(dāng)我們?nèi)ズ藢?shí)時(shí)，卻發(fā)現(xiàn)這些信息完全是虛構(gòu)的。這就是著名的“AI幻覺(jué)”現(xiàn)象。

“AI幻覺(jué)”指的是AI會(huì)生成看似合理但實(shí)際確實(shí)錯(cuò)誤的信息，最常見(jiàn)的表現(xiàn)就是會(huì)編造一些不存在的事實(shí)或者細(xì)節(jié)。

造成“AI幻覺(jué)”的成因很多，例如：基于統(tǒng)計(jì)關(guān)系的預(yù)測(cè)；訓(xùn)練數(shù)據(jù)的局限性；過(guò)擬合問(wèn)題，即因?yàn)橛涀×颂噱e(cuò)誤或者無(wú)關(guān)緊要的東西，從而讓AI對(duì)訓(xùn)練數(shù)據(jù)中的噪聲過(guò)于敏感；有限的上下文窗口；生成流暢回答的設(shè)計(jì)等等。

那么，當(dāng)AI會(huì)說(shuō)謊，大家如何避免被“帶偏”？技術(shù)浪潮中，我們?nèi)绾问刈o(hù)自己的思辨能力？

中國(guó)人民大學(xué)新聞學(xué)院教授盧家銀指出，在知識(shí)建構(gòu)上，AI生成的虛假學(xué)術(shù)成果，可能扭曲青年對(duì)科學(xué)方法論的理解，削弱其“假設(shè)-驗(yàn)證”的科研邏輯訓(xùn)練。在思維發(fā)展上，AI謠言通過(guò)算法推薦的“信息繭房”形成邏輯閉環(huán)，不利于批判性思維的培養(yǎng)。

北京師范大學(xué)教育學(xué)部教授、教育技術(shù)學(xué)北京市重點(diǎn)實(shí)驗(yàn)室副主任李艷燕建議，可以把AI看作一位平等對(duì)話(huà)的智者，通過(guò)引導(dǎo)與AI的對(duì)話(huà)互動(dòng)，促進(jìn)個(gè)體思維鏈的形成，并校準(zhǔn)認(rèn)知偏差。這種去權(quán)威化的思辨訓(xùn)練，可以幫助我們?cè)谂cAI的對(duì)話(huà)中保持獨(dú)立判斷，實(shí)現(xiàn)認(rèn)知躍遷。

北京郵電大學(xué)馬克思主義學(xué)院副教授宋林澤認(rèn)為，AI輸出的內(nèi)容只是一個(gè)認(rèn)知起點(diǎn)，而不是終點(diǎn)。大學(xué)生需要主動(dòng)去驗(yàn)證它的內(nèi)容，比如查閱權(quán)威來(lái)源、對(duì)比不同觀(guān)點(diǎn)，甚至直接與領(lǐng)域?qū)＜医涣?。這種驗(yàn)證過(guò)程，不僅能幫助我們更全面地理解問(wèn)題，還能讓我們?cè)诿鎸?duì)復(fù)雜信息時(shí)更有判斷力。

如何應(yīng)對(duì)AI幻覺(jué)呢？

AI工具研究者田威提到，想要獲得準(zhǔn)確答案，提問(wèn)方式很關(guān)鍵。與AI交流也需要明確和具體，避免模糊或開(kāi)放性的問(wèn)題，提問(wèn)越具體、清晰，AI的回答越準(zhǔn)確。

總結(jié)成提示詞技巧就是下面四種問(wèn)法：

1.設(shè)定邊界：“請(qǐng)嚴(yán)格限定在xx年xx期刊發(fā)表的研究范圍內(nèi)”；

示例：“介紹ChatGPT的發(fā)展歷程”→“請(qǐng)僅基于OpenAI官方2022-2023年的公開(kāi)文檔，介紹ChatGPT的發(fā)展歷程”

2.標(biāo)注不確定：“對(duì)于模糊信息，需要標(biāo)注‘此處為推測(cè)內(nèi)容’”；

示例：“分析特斯拉2025年的市場(chǎng)份額”→“分析特斯拉2025年的市場(chǎng)份額，對(duì)于非官方數(shù)據(jù)或預(yù)測(cè)性?xún)?nèi)容，請(qǐng)標(biāo)注[推測(cè)內(nèi)容]”

3.步驟拆解：“第一步列舉確定的事實(shí)依據(jù)，第二步展開(kāi)詳細(xì)分析”；

示例：“評(píng)估人工智能對(duì)就業(yè)的影響”→“請(qǐng)分兩步評(píng)估AI對(duì)就業(yè)的影響：

1)先列出目前已發(fā)生的具體影響案例；

2)基于這些案例進(jìn)行未來(lái)趨勢(shì)分析”。

4.明確約束：明確告訴AI要基于已有事實(shí)回答，不要進(jìn)行推測(cè)。

示例：“預(yù)測(cè)2025年房地產(chǎn)市場(chǎng)走勢(shì)”→“請(qǐng)僅基于2024年的實(shí)際房地產(chǎn)數(shù)據(jù)和已出臺(tái)的相關(guān)政策進(jìn)行分析，不要加入任何推測(cè)性?xún)?nèi)容”。

針對(duì)如何獲得準(zhǔn)確答案，AI自己的答案是，可以通過(guò)指令約束、工具驗(yàn)證和人工審核三重保障，大幅降低AI虛構(gòu)文獻(xiàn)的風(fēng)險(xiǎn)。值得注意的是，“人工審核”被AI自己認(rèn)為是“最后防線(xiàn)”。

專(zhuān)家提醒，“AI幻覺(jué)”并非沒(méi)有好處，有時(shí)候與其把它當(dāng)成缺陷，不如把它看作創(chuàng)意的源泉。在寫(xiě)作、藝術(shù)創(chuàng)作或頭腦風(fēng)暴時(shí)，這些“跳躍性思維”反而可能幫我們打開(kāi)新世界的大門(mén)。

“AI幻覺(jué)”的本質(zhì)是，AI在知識(shí)的迷霧中，有時(shí)會(huì)創(chuàng)造出看似真實(shí)，實(shí)則虛幻的“影子”。但就像任何工具一樣，關(guān)鍵在于如何使用。

歸根結(jié)底，在這個(gè)AI與人類(lèi)共同進(jìn)步的時(shí)代，重要的不是責(zé)備AI的不完美，而是學(xué)會(huì)與之更好地協(xié)作。

責(zé)編：肖秀芬

一審：姚懿軒

二審：唐能

三審：文鳳雛

來(lái)源：中國(guó)青年報(bào)