21世紀經濟報道記者吳斌 上海報道
7月26日，2025世界人工智能大會暨人工智能全球治理高級別會議開幕，諾貝爾獎、圖靈獎得主杰弗里·辛頓（Geoffrey Hinton）探討了AI的優勢和未來潛在的“失控”風險。
一方面，人腦具有自己的優勢。辛頓表示，人腦只需30瓦特就能運轉，我們的神經元連接達數萬億個，無需花費大量資金制造完全相同的硬件。“但問題在于，模擬模型間的知識轉移效率極低，我無法直接將腦中的知識展示給他人。生物計算功耗低，但知識分享難。”
另一方面，軟件能“永生”，還有低功耗優勢。如果能源和計算成本低廉，情況會好很多，但這也讓辛頓感到擔憂：“幾乎所有專家都認為，我們會創造出比人類更智能的AI。人類習慣了作為最智能的生物，很難想象AI超越人類的場景。我們創造的AI智能體已經能幫我們完成任務，它們能拷貝自身、評估子目標，還會為了生存和完成目標而尋求更多控制權。”
（諾貝爾獎、圖靈獎得主杰弗里·辛頓，資料圖）
有人認為可以在AI變得過強時關掉它們，但辛頓表示，這并不現實。AI最終可能會像成年人操縱3歲孩子一樣操縱人類，勸說控制機器的人不要關閉它們。“這就像把老虎當寵物，幼虎很可愛，但長大后可能傷人，而養老虎當寵物通常不是好主意。”
面對 AI，辛頓認為只有兩個選擇：要么訓練它永遠不傷害人類，要么“消滅”它。但 AI 在醫療、教育、氣候變化、新材料等領域作用巨大，能提升各行各業的效率，無法消除它。即便一個國家放棄 AI，其他國家也不會。因此，若想讓人類生存，必須找到訓練AI不傷害人類的方法。
辛頓提醒，各國在網絡攻擊、致命武器、虛假信息操縱等領域的合作難度較大，因利益和看法不同。但在“人類掌控世界”這一目標上，各國存在共識：若有國家找到防止AI操控世界的方法，一定會愿意分享。
因此他提議，全球主要國家或AI大國應建立一個由AI安全機構組成的國際社群，研究如何訓練高智能AI向善，這與訓練AI變得聰明的技術不同。各國可在自身主權范圍內研究，再分享成果。盡管目前還不知道具體怎么做，但這是人類長期面臨的最重要問題，所有國家都能在這一領域合作。
本文鏈接：AI教父辛頓：AI會比人類聰明，必須訓練AI不傷害人類http://www.sq15.cn/show-3-150432-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 金正恩參謁中朝友誼塔并獻花圈