21世紀經濟報道 記者鐘雨欣 北京報道
自ChatGPT問世以來，國內外科技企業、科研機構紛紛競速大模型賽道，掀起“千模大戰”。在“大力出奇跡”的路徑下，大模型需要海量數據“喂養”及大規模算力投入。值得思考的問題是，崇尚“暴力美學”的AI訓練方式，能夠實現建設通用人工智能的目標嗎？以及，該以什么樣的標準來定義通用人工智能？
1月28日-29日，北京通用人工智能研究院舉辦“邁向通用人工智能前沿科技成果展”，并發布了全球首個由價值與因果驅動的通用人工智能（AGI）系統原型“通通”、通用人工智能科研平臺“通境” (TongVerse) 等多項成果。
此外，北京通用人工智能研究院院長朱松純在接受21世紀經濟報道記者采訪時指出，基于數據驅動的大模型缺“心”，即缺乏明確的價值體系，只能依據統計關聯來做“填空題”，機械地對問題進行反饋；而通用人工智能系統（通用人工智能體）應滿足三個基本條件，即實現無限任務、自主生成任務以及由價值驅動。
“小數據、大任務”范式：價值體系是關鍵
朱松純認為，架構、任務和數據是決定人工智能系統的三個關鍵要素，不同的選擇導致不同的系統和路徑。
當前，有以ChatGPT等大模型為首的“大數據，小任務”和“小數據，大任務”兩條科研范式。前者屬于“鸚鵡范式”，AI系統需要大量重復數據來訓練，可以說人話，但不理解話意，不能對應現實的因果邏輯；后者則屬于“烏鴉范式”，強調自主的智能，如感知、認知，推理、學習、執行，不依賴大數據，無標注數據、無監督學習，此外還具有低能耗的特點。
通用人工智能體應滿足三個基本特征，即要能在復雜動態環境（物理與社會）中實現：1. 完成無限任務。即任務泛化，不局限在預先設定的任務里。2. 自主定義任務。即不依賴人類，自主產生任務或指令流程。3. 由價值驅動。即內在價值體系與人類價值倫理對齊。這需要解決八大關鍵技術問題，即認知架構、自我意識、社交智能、價值驅動、價值函數、具身智能、可解釋性、人機互信。
“目前，ChatGPT等大模型尚不滿足上述任何一個要素?！?/strong>朱松純表示。
“比如，向ChatGPT等大模型詢問魚香肉絲怎么做，它可以給出菜譜，但它并不明白為什么肉要這樣切絲、為什么火要調大小等等，即因果鏈條；此外，有的人喜歡甜口，有的人喜歡酸口，由此的菜譜也有所不同，這是價值鏈條?！敝焖杉冄a充道，“這些都是當前大模型所缺乏的。”
如何使AI實現價值對齊？朱松純表示，第一步是明確AI需要對齊的價值條目，即對人類社會的價值觀進行抽取建模，然后再考慮“如何對齊”的問題，需要在社會文明的模擬系統中實踐。
“這不同于數據標注那樣從行為空間上對AI進行限制，而是在價值空間上訓練AI，教會AI基本的道德良知?！?/strong>朱松純說。
發布多項前沿成果：未來有望與教育、康養等產業結合
在成果展上，最引人關注的產品是通用智能人——小女孩“通通”。據介紹，作為首個由價值與因果驅動的AGI系統原型，“通通”的打造根植于中國傳統哲學思想，以原創的認知架構理論為頂層設計，由自研國產學習和推理框架（通用人工智能操作系統TongOS2.0和編程語言TongPL2.0）為底層支撐。
圖｜通用智能人-小女孩“通通”（Little Girl）
“通通”擁有類人價值觀，能自主生成任務，具備物理和社會常識，可保障復雜任務高效執行，推理和決策過程透明、可解釋。通過“自主學（自主環境探索）”“他人教（與人類多模態交互）”等方式，可實現技能、知識和價值持續成長。
現場工作人員向記者介紹，“通通”共擁有飽腹、干凈、聽話、安全等八項可調節的維度?；诱呖梢噪S機改變“通通”的“好奇”“整齊”“干凈”等價值傾向，“通通”能夠自主完成對環境的探索、收拾房間、擦拭污漬等任務。
比如，當互動者把墻上的相框移位，“通通”會根據自己“愛整齊”的價值觀，主動擺正相框位置；對于擺在高處的相框，不需要人類的提示，“通通”會自行在房間內找到凳子，進而踩在凳子上完成相框的擺放；當互動者將牛奶撒在桌子上，“通通”會主動識別互動者的意圖，根據“愛干凈”的價值觀主動尋找毛巾擦拭桌子。
工作人員介紹，目前“通通”像人類兒童一樣，在不斷地學習和成長，未來，“通通”將有望與教育、康養、智能制造及戰略新興產業結合，為人類社會提供更多幫助。
在期待通用智能體在人類社會大顯身手的同時，如何判斷人工智能系統是否具備通用人工智能的性能，如何應對智能體可能帶來的安全風險并進行管控與治理等，也成為各方關注的焦點。
本次成果展發布的通用人工智能評級標準與測試平臺（TongTest）全面考慮了通用人工智能的關鍵特征，擁有完備的測試任務體系，包括近100個專項任務和50+個通用任務。據介紹，專項任務用于衡量待測模型在能力和價值維度空間上的所處等級，通用任務用于衡量待測模型在人類真實生活場景和各行業場景中的綜合評級。利用價值維度空間助力通用人工智能技術更加安全可控，為監管通用人工智能發展提供有力支撐。
另一成果通用人工智能科研平臺“通境”(TongVerse)則聚焦具身智能，可提供一萬多個貼近工業生產和居家生活環境的仿真場景，同時支持動態開放環境下的機器人動力學仿真。相關科研人員表示，除了應用在科研、賽事等多場景中為人形機器人訓練等提供支持，未來，該平臺還將面向智能制造、特種行業等需求，提供多場景、多任務的機器人應用解決方案。
本文鏈接：邁向通用人工智能之路：以價值驅動，為機器“立心”http://www.sq15.cn/show-2-2456-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。