在人工智能技術加速發展、應用場景不斷拓寬的時代,人工智能是否應該開放源代碼也備受關注和討論。在4月3日亞馬遜云科技巴黎峰會上,一家名為抱抱臉的人工智能公司再次呼吁,人工智能應該開源。
抱抱臉公司是一家人工智能公司,成立于2016年,由三名法國人在美國創辦。他們推動人工智能模型“開源”開始于2018年底。
現在,他們已經構建了一個大型人工智能開源社區,并吸引了大量開發者。據公司創始人介紹,抱抱臉社區目前已共有超過1100萬用戶,有50萬人工智能模型發布在了社區之中。
在他們看來,人工智能開源可以增加數據模型透明度,也能更好推動合作與研發。
抱抱臉公司創始人之一 托馬斯·沃爾夫:抱抱臉非常支持開源,比如共享開放的模型,某些美國公司的人工智能選擇閉源,將源代碼隱藏在用戶界面之后,但像米斯特拉爾人工智能公司的法國公司創建了很好的開源模型,它們也成了抱抱臉社區的一員。
抱抱臉社區被曝存在約百個惡意模型
不過,抱抱臉公司的開源社區也產生了安全隱患。據美國科技媒體“技術之道”網站3月初報道,一個安全團隊在抱抱臉社區中發現了100個左右的惡意人工智能模型,其中一些可以在用戶的機器上執行代碼,為攻擊者提供了一個持久的后門,構成了數據泄露和間諜攻擊的重大風險。
報道說,盡管抱抱臉社區采取了包括惡意代碼識別在內的安全措施,并對模型的功能進行了檢查,但仍然沒能阻止存在安全隱患的事件發生。
開源還是閉源 人工智能未來之路引發討論
就在上個月,美國知名企業家埃隆·馬斯克旗下的人工智能初創公司xAI的大模型Grok正式宣布開源。馬斯克曾諷刺說,開放人工智能OpenAI應該改名為封閉人工智能ClosedAI。這一舉動也引發了有關人工智能應該開源還是閉源的討論。
在Grok開源之后,馬斯克在社交媒體上諷刺OpenAI稱,“告訴我們OpenAI到底Open(開源)在哪里了”。
目前,“開源”模式獲得不少知名公司和機構的支持,例如元宇宙旗下的利亞馬(LLaMA)、斯坦福大學旗下阿爾帕卡(Alpaca)等都已經公開了“算法”。
在很多專家看來,開源技術可以加速人工智能創新。在利亞馬開源的說明中,他們還認為,開源可以讓“開發者和研發者對人工智能進行壓力測試,作為一個社區,快速識別和解決問題。”
元宇宙公司人工智能科學家 揚·萊坎:有人反對開源,是因為他們認為這樣更安全,我們應該把人工智能鎖起來,因為放在每個人手里,太危險了。實際上,這將會導致人工智能不好的未來。
然而,人工智能開源的風險也確實不可忽視。一些專家警告說,開源人工智能模型可能被不法分子利用,甚至被恐怖分子用來制造化學武器。
澳大利亞陽光海岸大學講師 達拉納數字聯合創始人 卡倫·薩瑟蘭:業內對此的反應很復雜,新的技術總是一把雙刃劍,有一些開發者贊賞開源的行為,他們認為這更加透明,其他開發者能以此開發自己的人工智能工具,但是這樣做也有風險,開源人工智能可能被人利用開發可以造成惡劣影響的工具,比如制造并散布錯誤信息、虛假信息等,這將帶來很大壞處。
在人工智能技術加速發展、應用場景不斷拓寬的時代,人工智能是否應該開放源代碼也備受關注和討論。在4月3日亞馬遜云科技巴黎峰會上,一家名為抱抱臉的人工智能公司再次呼吁,人工智能應該開源。
抱抱臉公司是一家人工智能公司,成立于2016年,由三名法國人在美國創辦。他們推動人工智能模型“開源”開始于2018年底。
現在,他們已經構建了一個大型人工智能開源社區,并吸引了大量開發者。據公司創始人介紹,抱抱臉社區目前已共有超過1100萬用戶,有50萬人工智能模型發布在了社區之中。
在他們看來,人工智能開源可以增加數據模型透明度,也能更好推動合作與研發。
抱抱臉公司創始人之一 托馬斯·沃爾夫:抱抱臉非常支持開源,比如共享開放的模型,某些美國公司的人工智能選擇閉源,將源代碼隱藏在用戶界面之后,但像米斯特拉爾人工智能公司的法國公司創建了很好的開源模型,它們也成了抱抱臉社區的一員。
抱抱臉社區被曝存在約百個惡意模型
不過,抱抱臉公司的開源社區也產生了安全隱患。據美國科技媒體“技術之道”網站3月初報道,一個安全團隊在抱抱臉社區中發現了100個左右的惡意人工智能模型,其中一些可以在用戶的機器上執行代碼,為攻擊者提供了一個持久的后門,構成了數據泄露和間諜攻擊的重大風險。
報道說,盡管抱抱臉社區采取了包括惡意代碼識別在內的安全措施,并對模型的功能進行了檢查,但仍然沒能阻止存在安全隱患的事件發生。
開源還是閉源 人工智能未來之路引發討論
就在上個月,美國知名企業家埃隆·馬斯克旗下的人工智能初創公司xAI的大模型Grok正式宣布開源。馬斯克曾諷刺說,開放人工智能OpenAI應該改名為封閉人工智能ClosedAI。這一舉動也引發了有關人工智能應該開源還是閉源的討論。
在Grok開源之后,馬斯克在社交媒體上諷刺OpenAI稱,“告訴我們OpenAI到底Open(開源)在哪里了”。
目前,“開源”模式獲得不少知名公司和機構的支持,例如元宇宙旗下的利亞馬(LLaMA)、斯坦福大學旗下阿爾帕卡(Alpaca)等都已經公開了“算法”。
在很多專家看來,開源技術可以加速人工智能創新。在利亞馬開源的說明中,他們還認為,開源可以讓“開發者和研發者對人工智能進行壓力測試,作為一個社區,快速識別和解決問題。”
元宇宙公司人工智能科學家 揚·萊坎:有人反對開源,是因為他們認為這樣更安全,我們應該把人工智能鎖起來,因為放在每個人手里,太危險了。實際上,這將會導致人工智能不好的未來。
然而,人工智能開源的風險也確實不可忽視。一些專家警告說,開源人工智能模型可能被不法分子利用,甚至被恐怖分子用來制造化學武器。
澳大利亞陽光海岸大學講師 達拉納數字聯合創始人 卡倫·薩瑟蘭:業內對此的反應很復雜,新的技術總是一把雙刃劍,有一些開發者贊賞開源的行為,他們認為這更加透明,其他開發者能以此開發自己的人工智能工具,但是這樣做也有風險,開源人工智能可能被人利用開發可以造成惡劣影響的工具,比如制造并散布錯誤信息、虛假信息等,這將帶來很大壞處。
本文鏈接:開源還是閉源?人工智能未來之路引發討論http://www.sq15.cn/show-2-4608-0.html
聲明:本網站為非營利性網站,本網頁內容由互聯網博主自發貢獻,不代表本站觀點,本站不承擔任何法律責任。天上不會到餡餅,請大家謹防詐騙!若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。
上一篇: 庫克減持蘋果,套現2.4億元!