盡管人工智能生成內(nèi)容已非常流暢，但提供的信息很多時候還是不準(zhǔn)確。日本研究人員近日在德國《先進科學(xué)》雜志發(fā)表的一項研究成果顯示，這一問題與人類的語言障礙——失語癥類似。新研究成果可以為研究人員改進人工智能提供參考。
智能體、聊天機器人等基于人工智能的工具正越來越多地應(yīng)用于日常生活。考慮到人工智能模型在提供信息時表現(xiàn)出“高度自信”，如果用戶對所討論主題或領(lǐng)域缺乏足夠了解，會很容易把其中的錯誤信息當(dāng)成正確的。
為此，日本東京大學(xué)研究人員使用了一種名為“能量景觀分析”的方法。這種方法最初由物理學(xué)家開發(fā)，旨在使磁性金屬中的能量狀態(tài)可視化，最近應(yīng)用于神經(jīng)科學(xué)。研究人員檢查了不同類型失語癥患者在靜息狀態(tài)下的大腦活動模式，并將其與幾個公開可用的人工智能大語言模型的內(nèi)部數(shù)據(jù)比較。
失語癥患者可能會很流利地說出一些毫無意義或難以理解的話。研究人員發(fā)現(xiàn)，人工智能與此有相似之處。在這些人工智能模型中，數(shù)字信息或信號的流動和運作方式與某些失語癥患者一些大腦信號的行為方式極為相似。
研究人員說，人工智能模型在出現(xiàn)嚴(yán)重錯誤時仍表達流暢，這與感覺性失語癥的癥狀有相似之處，即說話流利卻總說不出什么意思。這并不意味著聊天機器人有“腦損傷”，但它們可能被鎖定在一種僵化的內(nèi)部模式中，限制其靈活運用所儲存知識，就像得了感覺性失語癥。
研究人員表示，對神經(jīng)科學(xué)來說，這項研究提供了一種可能的新方法，可以根據(jù)大腦內(nèi)部活動而不僅是外部癥狀來分類和監(jiān)測失語癥等疾病；對人工智能研究來說，這將幫助研究人員從內(nèi)到外改進人工智能系統(tǒng)的架構(gòu)。
盡管人工智能生成內(nèi)容已非常流暢，但提供的信息很多時候還是不準(zhǔn)確。日本研究人員近日在德國《先進科學(xué)》雜志發(fā)表的一項研究成果顯示，這一問題與人類的語言障礙——失語癥類似。新研究成果可以為研究人員改進人工智能提供參考。
智能體、聊天機器人等基于人工智能的工具正越來越多地應(yīng)用于日常生活。考慮到人工智能模型在提供信息時表現(xiàn)出“高度自信”，如果用戶對所討論主題或領(lǐng)域缺乏足夠了解，會很容易把其中的錯誤信息當(dāng)成正確的。
為此，日本東京大學(xué)研究人員使用了一種名為“能量景觀分析”的方法。這種方法最初由物理學(xué)家開發(fā)，旨在使磁性金屬中的能量狀態(tài)可視化，最近應(yīng)用于神經(jīng)科學(xué)。研究人員檢查了不同類型失語癥患者在靜息狀態(tài)下的大腦活動模式，并將其與幾個公開可用的人工智能大語言模型的內(nèi)部數(shù)據(jù)比較。
失語癥患者可能會很流利地說出一些毫無意義或難以理解的話。研究人員發(fā)現(xiàn)，人工智能與此有相似之處。在這些人工智能模型中，數(shù)字信息或信號的流動和運作方式與某些失語癥患者一些大腦信號的行為方式極為相似。
研究人員說，人工智能模型在出現(xiàn)嚴(yán)重錯誤時仍表達流暢，這與感覺性失語癥的癥狀有相似之處，即說話流利卻總說不出什么意思。這并不意味著聊天機器人有“腦損傷”，但它們可能被鎖定在一種僵化的內(nèi)部模式中，限制其靈活運用所儲存知識，就像得了感覺性失語癥。
研究人員表示，對神經(jīng)科學(xué)來說，這項研究提供了一種可能的新方法，可以根據(jù)大腦內(nèi)部活動而不僅是外部癥狀來分類和監(jiān)測失語癥等疾病；對人工智能研究來說，這將幫助研究人員從內(nèi)到外改進人工智能系統(tǒng)的架構(gòu)。
本文鏈接：新研究：人工智能生成內(nèi)容不準(zhǔn)確與失語癥類似http://www.sq15.cn/show-2-12337-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。