南方財經 21世紀經濟報道記者吳斌 上海報道
1979年，約瑟夫·希發基思（Joseph Sifakis）提出了通過對時序邏輯公式的計值來驗證并發系統性質的思想，得到了一系列理論結果，包括對含有“可能”和“必然”模態算子的分支時序邏輯的不動點刻劃。在此基礎上，他進一步提出了帶有“until”算子的分支時序邏輯來表達“公平性”。
他的這些工作與卡耐基梅隆大學教授Edmund Clarke、得克薩斯大學奧斯汀分校教授Allen Emerson同時期的工作一起，為模型檢測這個研究領域的創立和發展奠定了理論基礎。由于對模型檢測的開創性貢獻，他與Clarke、Emerson分享了2007年圖靈獎。
模型檢測擅長驗證一個系統模型是否滿足規約，我們能否將整個AI系統或其關鍵組件視為一個“模型”，并為其編寫“永不傷害人類”或“保持公平性”這樣的規約并進行驗證？這條路可行嗎？
2025可持續全球領導者大會于10月16日-18日在上海市黃浦區世博園區召開，2007年圖靈獎得主、Verimag實驗室創始人約瑟夫·希發基思在接受21世紀經濟報道記者采訪時表示，目前這還不是一種可行的方法。模型檢測依賴于關于系統、行為的數學模型，可以進行檢驗，可以運用數學來分析這種行為，但對人工智能系統暫不適用。
模型檢測暫無法“框住”人工智能系統
如今，模型檢測已被應用于計算機硬件、軟件、通信協議、安全認證協議等領域，取得了巨大的成功，成為分析、驗證并發系統性質的最重要的技術，被Intel、IBM、微軟等公司用于日常生產實踐中。
但對于人工智能系統，希發基思表示，目前無法提取數學模型，人工智能的神經網絡模仿人類大腦的神經網絡，而我們無法建模，不知道如何將模型檢測技術應用于人工智能系統。
在希發基思看來，模型檢測暫無法“框住”人工智能系統。傳統系統和基于AI的系統在可靠性方面有不可逾越的鴻溝，目前應嚴格應用風險管理原則，控制人工智能風險是實現社會效益的前提。
面向未來，約瑟夫·希發基思認為，需要制定全面的以人為中心的技術愿景，明確識別人工智能當前狀態的弱點，動員研究，促進國際合作，共同探索新的途徑。在實現這一愿景的過程中，全球標準和法規的制定將發揮核心作用，目前達成協議的可能性很小。
中國是發展人工智能的沃土
希發基思與中國淵源頗深，他親自指導了六名中國留學生和博士后，這些學生已成為中國科學院軟件所、浙江大學等單位的科研骨干。2017年8月開始, 他擔任清華大學計算機學科顧問委員會委員。2019年1月開始，他出任南方科技大學杰出教授。
在他擔任歐盟ARTIST嵌入式系統研究聯盟科學協調人期間，極力推動歐盟與中國在該領域的合作。在他領導下，該研究聯盟從2006年至2011年在中國舉辦了六屆嵌入式系統設計講習班，邀請國際上嵌入式系統的知名專家為國內的研究生和青年學者講課。
此外，希發基思頻繁來中國開展學術訪問，在中國科學院軟件所、計算所、清華大學、北京大學、西北工業大學、東北大學、哈爾濱工業大學、華東師范大學、深圳大學、華為公司等處做學術報告。
在他看來，中國比任何其他國家都更有條件發展全面的、技術的、以人為中心的人工智能愿景，這不僅是創造最強大的人工智能，而且注重服務社會，特別是確保有效的社會治理。
展望未來，希發基思表示，中國在整合創新方面已經很強大，需要在顛覆性創新方面迎頭趕上，鼓勵科研和產業之間的合作，創造創新生態系統。中國可以利用強大的工業基礎，與需要日益智能的產品和服務的工業部門合作，如自主交通系統、智慧城市、智慧工廠和農場、智能電網和自主電信網絡。
本文鏈接：對話圖靈獎得主希發基思：模型檢測暫無法“框住”人工智能系統http://www.sq15.cn/show-3-157159-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。