科技日?qǐng)?bào)記者 王祝華

博鰲亞洲論壇2025年年會(huì)期間，人工智能（AI）的安全與治理成為焦點(diǎn)議題。隨著DeepSeek等開(kāi)源大模型實(shí)現(xiàn)突破，以及算力成本指數(shù)級(jí)下降、智能體技術(shù)快速演進(jìn)，AI正從“信息智能”邁向“物理智能”與“生物智能”，但其潛在風(fēng)險(xiǎn)也引發(fā)了全球治理層與技術(shù)界的深度關(guān)切。3月26日，來(lái)自政府、學(xué)界、企業(yè)界多位嘉賓圍繞“如何推進(jìn)AI應(yīng)用與治理的平衡”這一命題，展開(kāi)了具有前瞻性的思想碰撞。

與會(huì)嘉賓從技術(shù)演進(jìn)與倫理挑戰(zhàn)兩個(gè)維度展開(kāi)深入剖析。在談到AI技術(shù)的前沿進(jìn)展時(shí)，中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤說(shuō)：“DeepSeek是近兩年來(lái)AI領(lǐng)域最大最具規(guī)模性創(chuàng)新，也是中國(guó)對(duì)全球的貢獻(xiàn)。”

“符號(hào)和連接深度融合的機(jī)遇看上去已經(jīng)到來(lái)。”中國(guó)科學(xué)院自動(dòng)化研究所研究員曾毅表示，AI發(fā)展存在符號(hào)主義和連接主義兩條路徑，過(guò)去二者未能實(shí)現(xiàn)有機(jī)融合，但如今基于生物神經(jīng)網(wǎng)絡(luò)啟發(fā)的智能推理機(jī)制，邏輯推理能力與人工神經(jīng)網(wǎng)絡(luò)表征編碼的深度融合已成功實(shí)現(xiàn)?！笆艽竽X神經(jīng)機(jī)制啟發(fā)的算法創(chuàng)新，尤其是神經(jīng)路由機(jī)制等突破性技術(shù)，將成為推動(dòng)AI發(fā)展的關(guān)鍵。”他說(shuō)。

在深入探討AI技術(shù)的前沿進(jìn)展后，嘉賓們將話題轉(zhuǎn)向與之緊密相關(guān)的風(fēng)險(xiǎn)挑戰(zhàn)方面。AI技術(shù)“一路狂飆”，其潛在風(fēng)險(xiǎn)有多少？張亞勤認(rèn)為，不可控風(fēng)險(xiǎn)“至少增加一倍”，尤其是生物智能領(lǐng)域的潛在威脅可能“放大數(shù)倍”?！氨仨氃O(shè)置不可逾越的紅線，比如禁止自我復(fù)制。人類(lèi)發(fā)明技術(shù)的智慧，需與引導(dǎo)技術(shù)走向的智慧并重?！彼f(shuō)。

“AI發(fā)展應(yīng)用和安全之間的關(guān)系不是相互掣肘?！痹阒赋?，研究團(tuán)隊(duì)已經(jīng)通過(guò)實(shí)驗(yàn)證明，提升大模型安全能力，如倫理約束，不會(huì)影響AI的認(rèn)知能力、求解能力。

“倫理安全應(yīng)該作為AI大模型發(fā)展的基因，作為第一性原理，不可刪除、不可違背，并做到穩(wěn)健發(fā)展?！痹阏f(shuō)，確保AI安全的基礎(chǔ)性地位，需要從源頭融入技術(shù)。

面對(duì)技術(shù)風(fēng)險(xiǎn)防控、倫理規(guī)范落地等AI治理挑戰(zhàn)，各國(guó)是否形成治理共識(shí)？多位嘉賓表示，盡管當(dāng)前技術(shù)發(fā)展突飛猛進(jìn)，但全球AI治理框架仍存在顯著分歧。“過(guò)去這些年，關(guān)于AI治理的進(jìn)展比較有限。”中國(guó)社會(huì)科學(xué)院大學(xué)教授江小涓指出，從經(jīng)濟(jì)學(xué)視角來(lái)說(shuō)，AI需要解決的核心問(wèn)題是效率與公平。

AI治理該由誰(shuí)管？怎么管？張亞勤認(rèn)為，在AI治理領(lǐng)域需要設(shè)立兩個(gè)機(jī)構(gòu)，一個(gè)負(fù)責(zé)技術(shù)與產(chǎn)業(yè)標(biāo)準(zhǔn)制定，另一個(gè)則承擔(dān)政策協(xié)調(diào)與國(guó)際治理職能。

對(duì)此，芬蘭前總理埃斯科·阿霍主張，AI治理不應(yīng)依賴單一國(guó)際組織，可以借鑒歐盟制定移動(dòng)通信標(biāo)準(zhǔn)的經(jīng)驗(yàn)，由政府、企業(yè)、科研機(jī)構(gòu)共建動(dòng)態(tài)標(biāo)準(zhǔn)。

而經(jīng)濟(jì)合作與發(fā)展組織全球關(guān)系與合作主任安德里亞斯·紹爾認(rèn)為：“我們需要開(kāi)放的、不斷學(xué)習(xí)演進(jìn)的AI治理機(jī)構(gòu)，并且需要多層級(jí)、多部門(mén)、更多利益相關(guān)方參與?！?/p>

責(zé)編：李傳新

一審：李傳新

二審：段涵敏

三審：楊又華

來(lái)源：中國(guó)科技網(wǎng)