【科學隨筆·我見AI】
最近，四歲的女兒向我“匯報”幼兒園生活時，繪聲繪色地描述她與一只霸王龍交朋友的故事：她們一起抓小恐龍，因為蹺蹺板鬧翻，又交換零食和好……邏輯嚴密，細節(jié)豐富——盡管她的幼兒園里連只倉鼠都沒有。細究之下才知，這孩子原來把繪本、動畫和現(xiàn)實糅合在一起，用童言童語編織出一個“合理”的故事。
此情此景，也讓我想到當下人工智能（AI）的“幻覺”現(xiàn)象：它能將虛構與真實無縫拼接，生成看似嚴謹實則荒誕的答案，仿佛一個捧著百科全書滿嘴跑火車的天才兒童。
從前年爆火的ChatGPT到最近出圈的DeepSeek，AI正以肉眼可見的速度重塑生活。它既能幫中學生秒解幾何題，也能替小說家生成纏綿的劇情。而若拋出一些不著邊際的問題，譬如“從化學視角解析孫悟空火眼金睛是怎樣煉成的”，它也能像模像樣地編造出一大篇學術分析，甚至煞有介事地標注出參考文獻。更令人啼笑皆非的是，當遭到質疑時，它會杜撰更多論據(jù)來自圓其說。這種真假難辨的“知識幻覺”一如沙上樓閣，看似氣勢如虹，實則千瘡百孔。而在AI狂飆突進的當下，類似的“幻覺”還在被大批量生產(chǎn)出來。
要理解AI為何謊話連篇，得從它的學習方式說起。今天的AI普遍基于大語言模型（LLM）。在它問世之前，傳統(tǒng)AI就像循規(guī)蹈矩的優(yōu)等生，全靠死記硬背語法規(guī)則來答題解疑；而大語言模型更像煉丹術士，將龐大的語料放入“丹鼎”以期煉得“金丹”。哲學家維特根斯坦曾說，語言的意義不在預設的本質中，而在于日常的使用——就像孩子學說話，沒人教“主謂賓”，全靠觀察大人如何在飯桌上說“吃”，在踢足球時喊“跑”——維特根斯坦稱之為“語言游戲”。大語言模型正是對這種游戲的算法化：它被拋入一個虛擬的語料世界中，吞下海量的文本材料，沒有人告訴它該怎么出去，它只能自己從中摸索出一條道路來。
最終，涅槃重生的AI開口說話了——一面是口若懸河，一鳴驚人；另一面卻是信口雌黃，“鬼話”連篇。
人們不吝贊美著AI的橫空出世，卻也正絞盡腦汁要給胡言亂語的AI“治病”。比如，為了防止AI幻覺泛濫，工程師們加裝了“知識導航”（檢索增強技術RAG）來引導它查證事實，鋪設了“軌道護欄”（提示詞約束）以防止答案跑偏，甚至請人類老師當“監(jiān)考”（人類反饋強化學習RLHF）給胡謅打紅叉。但即便如此嚴加管教，AI仍會冷不丁變成“脫韁野馬”。就像班上總有幾個聰明又調皮的學生，能把考場作文寫成科幻史詩——你明知道他在編，卻還得佩服其想象的不羈。
但或許問題不止于技術層面：究其本質，語言就是真?zhèn)谓豢椀挠螒颉＿h古人類圍著篝火編神話，中世紀的吟游詩人即興歌唱，網(wǎng)友們在朋友圈嚷嚷“我有一個朋友”——虛構從未遠離我們。AI不過是把這一本質端上了桌面。當它用《紅樓夢》的文風改編科普文章，或用學術腔調分析“黛玉倒拔垂楊柳”，我們是該大呼造假之離譜，還是驚嘆創(chuàng)新之乖奇？這又讓我想起女兒的另一則“杰作”：她把動畫片里的冰雪魔法，挪到了小區(qū)游樂場上，硬說滑梯的另一頭連著艾莎公主的城堡。只不過，孩童的幻想至多令人莞爾，AI的幻覺卻可能引發(fā)真實的麻煩——可不是所有人都能一眼識破那些“一本正經(jīng)的胡說八道”。
但話說回來，當前條件下，要完全消除AI幻覺，就像苛求孩子永遠不說童話——既不可能，亦無必要。關鍵是如何給“凌空蹈虛”劃定賽道：譬如寫小說時，自可天馬行空；做學術時，便須腳踏實地。目前的主流解法是給AI裝上“場景識別器”：當檢測到用戶需要嚴謹答案時，自動調用知識庫交叉驗證；若遇到創(chuàng)意寫作，則無妨放飛自我。而要更進一步，就得考慮如何讓AI“活”在更真實的語言游戲實踐中了。如今的AI看似滿口金句，實則是黑箱里的“書呆子”。倘能走出黑箱，交到“朋友”——比如在虛擬社區(qū)充當模擬成員，在學術論壇接受“同行”評議，甚至通過腦機接口感受具身經(jīng)驗——或許它能逐漸領悟：語言不僅是符號的概率游戲，而且是生活形式的一部分。
想象某一天，當AI能“感受”小吃攤主吆喝的肢體語言，或程序員代碼錯誤時的尷尬表情，或許它再不會把火眼金睛說成是二氧化硅的高溫玻璃化了。
技術狂飆的時代，人們總渴望用算法解決一切問題。但AI幻覺始終在當頭棒喝：對理性正確的追求，和對生活世界的回歸，需要建立一種動態(tài)平衡。如同孩子總會長大，總會學著區(qū)分基本的幻想與現(xiàn)實，在人類的引導下，AI的“成長”終將水到渠成。所以面對AI幻覺，與其杞人憂天，倒不如放手讓它游戲，只要能不斷進入更豐富的場景，領悟更多樣的規(guī)則，書呆子也學得會“人情練達”。
（作者：魯博林，系清華大學科學史系助理教授）
【科學隨筆·我見AI】
最近，四歲的女兒向我“匯報”幼兒園生活時，繪聲繪色地描述她與一只霸王龍交朋友的故事：她們一起抓小恐龍，因為蹺蹺板鬧翻，又交換零食和好……邏輯嚴密，細節(jié)豐富——盡管她的幼兒園里連只倉鼠都沒有。細究之下才知，這孩子原來把繪本、動畫和現(xiàn)實糅合在一起，用童言童語編織出一個“合理”的故事。
此情此景，也讓我想到當下人工智能（AI）的“幻覺”現(xiàn)象：它能將虛構與真實無縫拼接，生成看似嚴謹實則荒誕的答案，仿佛一個捧著百科全書滿嘴跑火車的天才兒童。
從前年爆火的ChatGPT到最近出圈的DeepSeek，AI正以肉眼可見的速度重塑生活。它既能幫中學生秒解幾何題，也能替小說家生成纏綿的劇情。而若拋出一些不著邊際的問題，譬如“從化學視角解析孫悟空火眼金睛是怎樣煉成的”，它也能像模像樣地編造出一大篇學術分析，甚至煞有介事地標注出參考文獻。更令人啼笑皆非的是，當遭到質疑時，它會杜撰更多論據(jù)來自圓其說。這種真假難辨的“知識幻覺”一如沙上樓閣，看似氣勢如虹，實則千瘡百孔。而在AI狂飆突進的當下，類似的“幻覺”還在被大批量生產(chǎn)出來。
要理解AI為何謊話連篇，得從它的學習方式說起。今天的AI普遍基于大語言模型（LLM）。在它問世之前，傳統(tǒng)AI就像循規(guī)蹈矩的優(yōu)等生，全靠死記硬背語法規(guī)則來答題解疑；而大語言模型更像煉丹術士，將龐大的語料放入“丹鼎”以期煉得“金丹”。哲學家維特根斯坦曾說，語言的意義不在預設的本質中，而在于日常的使用——就像孩子學說話，沒人教“主謂賓”，全靠觀察大人如何在飯桌上說“吃”，在踢足球時喊“跑”——維特根斯坦稱之為“語言游戲”。大語言模型正是對這種游戲的算法化：它被拋入一個虛擬的語料世界中，吞下海量的文本材料，沒有人告訴它該怎么出去，它只能自己從中摸索出一條道路來。
最終，涅槃重生的AI開口說話了——一面是口若懸河，一鳴驚人；另一面卻是信口雌黃，“鬼話”連篇。
人們不吝贊美著AI的橫空出世，卻也正絞盡腦汁要給胡言亂語的AI“治病”。比如，為了防止AI幻覺泛濫，工程師們加裝了“知識導航”（檢索增強技術RAG）來引導它查證事實，鋪設了“軌道護欄”（提示詞約束）以防止答案跑偏，甚至請人類老師當“監(jiān)考”（人類反饋強化學習RLHF）給胡謅打紅叉。但即便如此嚴加管教，AI仍會冷不丁變成“脫韁野馬”。就像班上總有幾個聰明又調皮的學生，能把考場作文寫成科幻史詩——你明知道他在編，卻還得佩服其想象的不羈。
但或許問題不止于技術層面：究其本質，語言就是真?zhèn)谓豢椀挠螒颉＿h古人類圍著篝火編神話，中世紀的吟游詩人即興歌唱，網(wǎng)友們在朋友圈嚷嚷“我有一個朋友”——虛構從未遠離我們。AI不過是把這一本質端上了桌面。當它用《紅樓夢》的文風改編科普文章，或用學術腔調分析“黛玉倒拔垂楊柳”，我們是該大呼造假之離譜，還是驚嘆創(chuàng)新之乖奇？這又讓我想起女兒的另一則“杰作”：她把動畫片里的冰雪魔法，挪到了小區(qū)游樂場上，硬說滑梯的另一頭連著艾莎公主的城堡。只不過，孩童的幻想至多令人莞爾，AI的幻覺卻可能引發(fā)真實的麻煩——可不是所有人都能一眼識破那些“一本正經(jīng)的胡說八道”。
但話說回來，當前條件下，要完全消除AI幻覺，就像苛求孩子永遠不說童話——既不可能，亦無必要。關鍵是如何給“凌空蹈虛”劃定賽道：譬如寫小說時，自可天馬行空；做學術時，便須腳踏實地。目前的主流解法是給AI裝上“場景識別器”：當檢測到用戶需要嚴謹答案時，自動調用知識庫交叉驗證；若遇到創(chuàng)意寫作，則無妨放飛自我。而要更進一步，就得考慮如何讓AI“活”在更真實的語言游戲實踐中了。如今的AI看似滿口金句，實則是黑箱里的“書呆子”。倘能走出黑箱，交到“朋友”——比如在虛擬社區(qū)充當模擬成員，在學術論壇接受“同行”評議，甚至通過腦機接口感受具身經(jīng)驗——或許它能逐漸領悟：語言不僅是符號的概率游戲，而且是生活形式的一部分。
想象某一天，當AI能“感受”小吃攤主吆喝的肢體語言，或程序員代碼錯誤時的尷尬表情，或許它再不會把火眼金睛說成是二氧化硅的高溫玻璃化了。
技術狂飆的時代，人們總渴望用算法解決一切問題。但AI幻覺始終在當頭棒喝：對理性正確的追求，和對生活世界的回歸，需要建立一種動態(tài)平衡。如同孩子總會長大，總會學著區(qū)分基本的幻想與現(xiàn)實，在人類的引導下，AI的“成長”終將水到渠成。所以面對AI幻覺，與其杞人憂天，倒不如放手讓它游戲，只要能不斷進入更豐富的場景，領悟更多樣的規(guī)則，書呆子也學得會“人情練達”。
（作者：魯博林，系清華大學科學史系助理教授）
本文鏈接：當AI一本正經(jīng)地胡說八道……http://www.sq15.cn/show-2-12099-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
下一篇： 宇樹機器人秀“新技能”