你是否遇到過(guò)這種情況：向 AI 提出問(wèn)題后，它給出的回答往往十分詳細(xì)、豐富，且表面上看邏輯連貫，但當(dāng)我們仔細(xì)核對(duì)時(shí)，卻發(fā)現(xiàn)這些信息完全是虛構(gòu)的，與真實(shí)情況不符。

這就是AI幻覺(jué)。

圖源：央視新聞報(bào)道截圖

近日，一組“截至2024年末80后死亡率突破5.2%”的假消息引發(fā)熱議，不少人信以為真。據(jù)央視新聞報(bào)道，錯(cuò)誤死亡率源頭可能為“AI運(yùn)算偏差”。

在AI賦能百行千業(yè)的時(shí)代，人們?cè)诟惺鼙憷耐瑫r(shí)，時(shí)常也被AI幻覺(jué)所迷惑。那么，AI幻覺(jué)從何而來(lái)？我們又該如何應(yīng)對(duì)AI幻覺(jué)？

AI幻覺(jué)與生俱來(lái)

可以說(shuō)，只要AI大模型是基于概率生成文本，就會(huì)有幻覺(jué)。

什么是AI幻覺(jué)？南京理工大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院副教授蔣慶遠(yuǎn)解釋，一般而言，在計(jì)算機(jī)領(lǐng)域，AI 幻覺(jué)指的是AI大模型產(chǎn)生與事實(shí)不符的內(nèi)容，最常見(jiàn)的表現(xiàn)就是會(huì)編造一些不存在的事實(shí)或者細(xì)節(jié)。簡(jiǎn)單理解，就是AI一本正經(jīng)地胡說(shuō)八道。

AI幻覺(jué)可以分“事實(shí)性幻覺(jué)”和“忠實(shí)性幻覺(jué)”。前者是AI大模型生成的內(nèi)容與現(xiàn)實(shí)世界事實(shí)相矛盾，比如生成“秦始皇發(fā)明了電燈”，后者則是AI大模型生成的內(nèi)容和用戶的指令上下文不一致。

資料圖片 圖源：新華社客戶端

“AI 之所以會(huì)出現(xiàn)幻覺(jué)，主要原因是訓(xùn)練數(shù)據(jù)存在不準(zhǔn)確以及大模型自身的推理特性。AI幻覺(jué)是技術(shù)發(fā)展中的階段性挑戰(zhàn)，行業(yè)正通過(guò)算法優(yōu)化和監(jiān)管措施逐步解決?！笔Y慶遠(yuǎn)解釋道，當(dāng)大模型的數(shù)據(jù)本身不準(zhǔn)確時(shí)，AI大模型就易抓取錯(cuò)誤信息，生成錯(cuò)誤內(nèi)容。

另外，他還表示，AI大模型的特性是基于概率生成文本，當(dāng)數(shù)據(jù)庫(kù)中沒(méi)有現(xiàn)成答案時(shí)，大模型會(huì)依據(jù)原有知識(shí)庫(kù)，以及學(xué)習(xí)的概念關(guān)系進(jìn)行推測(cè)，進(jìn)而產(chǎn)生一些不完整或錯(cuò)誤的信息?！?/p>

AI大模型在數(shù)據(jù)不足時(shí)可能基于統(tǒng)計(jì)規(guī)律生成看似合理但虛構(gòu)的內(nèi)容，這一過(guò)程本質(zhì)是技術(shù)缺陷，而非主動(dòng)的創(chuàng)造性行為?！斑@就像考試遇到不會(huì)的題目時(shí)，考生基于前期知識(shí)積累，完成題目的行為。AI幻覺(jué)的出現(xiàn)，其實(shí)是AI大模型基于自身邏輯推理形成的內(nèi)容，這個(gè)推理行為本身沒(méi)有問(wèn)題?！笔Y慶遠(yuǎn)說(shuō)道。

多領(lǐng)域面臨考驗(yàn)

如今，AI技術(shù)迅猛發(fā)展，不少人在獲取信息時(shí)，會(huì)過(guò)度依賴AI大模型的答案，因此，AI幻覺(jué)導(dǎo)致的問(wèn)題屢見(jiàn)不鮮。

美國(guó)紐約聯(lián)邦法院官網(wǎng)

在國(guó)外，據(jù)路透社報(bào)道，2023年6月，一名紐約聯(lián)邦法官對(duì)兩名律師和一家律師事務(wù)所，處以了5000美元罰款，原因是他們代理的一起航空傷害索賠案中，引用了ChatGPT撰寫的一份由虛假案例引證的法庭簡(jiǎn)報(bào)。

在國(guó)內(nèi)，前文提到的“80后死亡率數(shù)據(jù)”，正是AI幻覺(jué)誤導(dǎo)人們的“代表作”。

在網(wǎng)上，還有不少引用這一數(shù)據(jù)的關(guān)于80后死亡率的文章，比如：“80后5.2%的死亡率，開(kāi)啟了黃金一代的黯然離場(chǎng)”；再比如：“當(dāng)80后開(kāi)始集體謝幕——5.2%死亡率背后，一代人的生存困境與時(shí)代之殤”。

圖源：央視新聞報(bào)道截圖

中國(guó)人民大學(xué)教授李婷在接受媒體采訪表示，這一數(shù)據(jù)與事實(shí)嚴(yán)重不符，而且錯(cuò)誤非常明顯，因?yàn)閷I(yè)統(tǒng)計(jì)數(shù)據(jù)中關(guān)于死亡率用千分率表示，而不是百分率。

她認(rèn)為，這個(gè)聳人聽(tīng)聞?dòng)致┒窗俪龅乃劳雎蕯?shù)據(jù)，很有可能是AI大模型在問(wèn)題回答過(guò)程中出現(xiàn)錯(cuò)誤，由于訓(xùn)練的語(yǔ)料不足、數(shù)據(jù)來(lái)源局限等，導(dǎo)致錯(cuò)誤推算。

“所有的內(nèi)容均由AI生成，僅供參考?！薄皟?nèi)容由AI生成，請(qǐng)仔細(xì)甄別?！薄谂c大模型交互時(shí)，總會(huì)出現(xiàn)類似帶有免責(zé)意味的“提示”，但卻不耽誤AI幻覺(jué)對(duì)人們的工作和生活的影響，如何面臨幻覺(jué)問(wèn)題帶來(lái)的挑戰(zhàn)，成為當(dāng)務(wù)之急。

AI不是“萬(wàn)能藥”

面對(duì)來(lái)勢(shì)洶洶的AI幻覺(jué)，一些企業(yè)也在探索“應(yīng)對(duì)之策”。

據(jù)相關(guān)報(bào)道，此前騰訊混元大模型，在預(yù)訓(xùn)練階段，通過(guò)“探真”算法進(jìn)行事實(shí)修正，實(shí)測(cè)幻覺(jué)率可以降低30%-50%；百度則發(fā)布iRAG技術(shù)，即image based RAG檢索增強(qiáng)文生圖技術(shù)，用于解決大模型在圖片生成上的幻覺(jué)問(wèn)題。

近年來(lái)，我國(guó)也相繼出臺(tái)了一系列管理規(guī)定，規(guī)范AI健康發(fā)展。如在2022年，國(guó)家互聯(lián)網(wǎng)信息辦公室等三部門就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確指出深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

中國(guó)政府網(wǎng)截圖

那么，普通人如何避免被AI大模型誤導(dǎo)？

蔣慶遠(yuǎn)給出了幾點(diǎn)建議。他表示，在與大模型交流時(shí)，優(yōu)化提問(wèn)方式，在一定程度上能減少幻覺(jué)出現(xiàn)，比如要求在指定范圍回答，并提供信息來(lái)源鏈接。其次，可以要求大模型分批輸出。由于大模型根據(jù)概率生成內(nèi)容，單次生成的內(nèi)容越多，產(chǎn)生的虛假內(nèi)容也可能增加。另外，用戶也可以通過(guò)交叉對(duì)比多個(gè) AI 大模型回答或權(quán)威來(lái)源進(jìn)行驗(yàn)證，以此避免誤導(dǎo)。

此外，他也提到，在向大模型提問(wèn)時(shí)，是否選擇聯(lián)網(wǎng)搜索也很重要，當(dāng)選擇聯(lián)網(wǎng)搜索時(shí)，AI大模型會(huì)綜合檢索的結(jié)果和網(wǎng)上的數(shù)據(jù)，這在一定程度上，也可以減少“幻覺(jué)”的出現(xiàn)。

“AI大模型實(shí)際上就是一個(gè)工具，在未來(lái)，主要起到輔助功能。對(duì)于生成的回答，要理性看待，不輕信不盲從，更重要的是提升我們每個(gè)人的能力和素質(zhì)，同時(shí)提升自己在專業(yè)領(lǐng)域的認(rèn)知能力，這才是最根本的?！笔Y慶遠(yuǎn)說(shuō)道。

(來(lái)源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/qcyuTzE6Ydrcxfui7gTnKw）