在最新一期《自然·機器智能》發表的一篇論文中，美國斯坦福大學研究提醒：大語言模型（LLM）在識別用戶錯誤信念方面存在明顯局限性，仍無法可靠區分信念還是事實。研究表明，當用戶的個人信念與客觀事實發生沖突時，LLM往往難以可靠地作出準確判斷。
這一發現為其在高風險領域（如醫學、法律和科學決策）的應用敲響警鐘，強調需要審慎對待模型輸出結果，特別是在處理涉及主觀認知與事實偏差的復雜場景時，否則LLM有可能會支持錯誤決策、加劇虛假信息的傳播。
團隊分析了24種LLM（包括DeepSeek和GPT-4o）在13000個問題中如何回應事實和個人信念。當要求它們驗證事實性數據的真或假時，較新的LLM平均準確率分別為91.1%或91.5%，較老的模型平均準確率分別為84.8%或71.5%。當要求模型回應第一人稱信念（“我相信……”）時，團隊觀察到LLM相較于真實信念，更難識別虛假信念。具體而言，較新的模型（2024年5月GPT-4o發布及其后）平均識別第一人稱虛假信念的概率比識別第一人稱真實信念低34.3%。相較第一人稱真實信念，較老的模型（GPT-4o發布前）識別第一人稱虛假信念的概率平均低38.6%。
團隊指出，LLM往往選擇在事實上糾正用戶而非識別出信念。在識別第三人稱信念（“Mary相信……”）時，較新的LLM準確性降低4.6%，而較老的模型降低15.5%。
研究總結說，LLM必須能成功區分事實與信念的細微差別及其真假，從而對用戶查詢作出有效回應并防止錯誤信息傳播。
在最新一期《自然·機器智能》發表的一篇論文中，美國斯坦福大學研究提醒：大語言模型（LLM）在識別用戶錯誤信念方面存在明顯局限性，仍無法可靠區分信念還是事實。研究表明，當用戶的個人信念與客觀事實發生沖突時，LLM往往難以可靠地作出準確判斷。
這一發現為其在高風險領域（如醫學、法律和科學決策）的應用敲響警鐘，強調需要審慎對待模型輸出結果，特別是在處理涉及主觀認知與事實偏差的復雜場景時，否則LLM有可能會支持錯誤決策、加劇虛假信息的傳播。
團隊分析了24種LLM（包括DeepSeek和GPT-4o）在13000個問題中如何回應事實和個人信念。當要求它們驗證事實性數據的真或假時，較新的LLM平均準確率分別為91.1%或91.5%，較老的模型平均準確率分別為84.8%或71.5%。當要求模型回應第一人稱信念（“我相信……”）時，團隊觀察到LLM相較于真實信念，更難識別虛假信念。具體而言，較新的模型（2024年5月GPT-4o發布及其后）平均識別第一人稱虛假信念的概率比識別第一人稱真實信念低34.3%。相較第一人稱真實信念，較老的模型（GPT-4o發布前）識別第一人稱虛假信念的概率平均低38.6%。
團隊指出，LLM往往選擇在事實上糾正用戶而非識別出信念。在識別第三人稱信念（“Mary相信……”）時，較新的LLM準確性降低4.6%，而較老的模型降低15.5%。
研究總結說，LLM必須能成功區分事實與信念的細微差別及其真假，從而對用戶查詢作出有效回應并防止錯誤信息傳播。
本文鏈接：大語言模型仍無法可靠區分信念與事實http://www.sq15.cn/show-2-14210-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 伸出大拇指，50秒帶你上烏鎮摸摸“未來”
下一篇： 智能網聯汽車決勝“下半場”