歐盟達成歷史性AI法案，企業怎么看？
錢童心
上周末，歐盟經過了馬拉松式的談判后，終于敲定了一項歷史性的AI監管協議，這也將成為全球首個廣泛覆蓋包括生成式AI在內的監管法案，并且是全球對AI監管最為嚴格的法案。
在新規則中，立法者同意嚴格限制面部識別技術的使用，并禁止利用人工智能進行“社會評分”以及“操縱人類行為”的人工智能系統。新規還禁止利用人工智能剝削那些因年齡、殘疾或經濟狀況而處于弱勢的人。不遵守規則的公司將面臨3500萬歐元或等同于全球收入7%的罰款(二選一)。
歐盟一直走在技術監管的最前沿。歐盟委員會內部市場專員蒂埃里?布雷頓 (Thierry Breton) 在X平臺上表示，歐盟將成為首個為人工智能的使用制定明確規則的地區，《人工智能法案》不僅僅是一本規則手冊，它還是歐盟初創企業和研究人員引領全球人工智能競賽的“跳板”。
監管和創新如何平衡？
一些業內人士擔心，ChatGPT等生成式AI工具有能力使用大量數據從簡單查詢中生成復雜且類似人類的輸出，并可能產生歧視性語言、侵犯隱私。
但在企業看來，嚴格的制約可能會打擊歐洲公司的創新能力。今年6月，包括法國空客公司和德國西門子公司在內的數十家最大的歐洲公司表示，如果政府制定的規則過于嚴格，則無法培育創新和幫助當地產業。
對此，布雷頓表示，歐盟出臺的規則將為人工智能技術的使用提供保障措施，同時避免給企業帶來“過度負擔”。
在歐盟就AI監管法案達成協議后，法國工業軟件巨頭達索系統董事會主席兼首席執行官夏伯納(Bernard Charles)接受第一財經記者采訪時表示：“每個國家和地區對技術都會有相應的管控和限制，包括來自歐洲以及法國本身的監管。作為達索系統這樣的高價值軟件企業而言，必須要遵守這些規則。”
在夏伯納看來，這些監管誕生的時機正處于人工智能技術蓬勃發展的背景下，這是順應技術發展的必然舉措，但同時，也不應該影響到技術創新的進步。
他同時也提到，在把高科技的軟件技術出口給中國等市場時，也同樣應該遵守相應的標準及合規。“達索系統軟件的源代碼是源自歐洲的，所以我們把這些軟件提供給中國出口的時候，要滿足歐洲出口的相應標準和合規。”夏伯納說。
他強調，對于一家全球化的企業而言，應該非常了解每個國家和每個地區的法律法規體系，順應不同國家的合規要求，并在有新的合規要求出現的時候，盡快去分析和研究，并發現其中的機會，創造更多價值。
達索系統此前收購了美國AI軟件公司Medidata，Medidata正在就十幾項應用了AI合成對照組技術的臨床試驗與各監管方進行討論。
法國空客和德國西門子醫療也都是AI領域創新的積極擁護者。根據空客的官網介紹，該公司正通過人工智能重塑業務，重點關注與人工智能相關的六個技術領域，包括從非結構化文檔中提取有價值的知識、基于深度學習檢測和決策的計算機視覺、異常檢測發現數據中隱藏的模式、設計自然語言交互系統的對話協助、優化非常復雜的約束問題的解決方案以及使下一代飛行器具有自主飛行新功能。
西門子醫療在上個月的北美放射學年會(RSNA)上率先展示了使用生成式AI技術將成像掃描與臨床報告相結合，成為全球首家展示該技術應用的醫療設備廠商。該公司表示，未來計劃將生成式AI技術開發為聊天系統，可以為臨床醫生的查詢提供適當的答案，包括基于診斷數據的“動態生成”和優先級報告。
針對歐盟最新達成的AI法案，第一財經記者向空客和西門子醫療方面尋求意見，截至發稿，對方未予以回復。
此外，德國軟件巨頭SAP也在涉足人工智能領域。該公司今年以來宣布直接投資了三家人工智能初創公司，分別為Cohere、Anthropic和Aleph Alpha。一位SAP方面人士向第一財經記者指出：“我們對生成式AI的關注主要集中在應用層面。”
歐美監管方式有何不同？
歐盟AI法案在人工智能的發展歷程中被視為具有里程碑式的意義，但已經有科技行業組織對這項新達成法案的潛在影響表達擔憂和不滿。
代表歐洲科技行業的集團Digital Europe總干事塞西莉亞?博內菲爾德-達爾 (Cecilia Bonefeld-Dahl) 在網絡平臺上公開表示：“我們雖然達成了一項協議，但也將為此付出代價，這意味著我們需要投入更多來研究對抗人工智能使用風險的方法，而不是投入技術本身，新的監管規則將要求公司投入大量資源來遵守，把資源花在律師身上，而不是雇傭人工智能工程師。”
Digital Europe的成員包括空客、愛立信SAP等數百家行業企業。早在今年6月，歐洲監管機構批準了《人工智能法案》草案時，該集團就在一封聯名信中表示：“作為歐洲數字行業的代表，我們看到了基礎模型的巨大機遇，以及該領域不斷涌現的新的創新參與者，其中許多誕生于歐洲。在它們有機會擴大規模之前，我們不應對其進行監管，或者迫使他們離開。”
公開信的簽署者聲稱，目前的《人工智能法案》可能會抑制人工智能技術為歐洲“重新加入技術先鋒”的機會。 他們認為，批準的規則過于極端，有可能破壞歐盟的技術雄心，而不是為人工智能創新提供合適的環境。
這封聯名信中還稱，全球人工智能獨角獸中只有3%來自歐盟，信中表示，支持法國、德國和意大利的聯合提案，將基礎模型的人工智能規則范圍限制在透明度要求范圍內。
此前，法國、德國和意大利的談判代表要求效仿美國的監管方法，反對直接監管生成型人工智能基礎大模型(通用人工智能模型GPAI)，而是支持其背后的公司通過政府引入的行為準則進行自我監管。德國和法國是歐洲一些最有前途的人工智能初創公司的所在地，其中包括Aleph Alpha、DeepL和Mistral AI。
一位分析人士向第一財經記者指出，歐洲的監管理念是設置一系列可變動的監管標準，旨在對風險最高的人工智能系統施加最嚴格的限制，而針對其他風險程度較小的AI工具，則必須披露內容是由人工智能合成。
相比之下，美國的監管留給企業更大的余地，采取了“自愿行為準則”。拜登政府今年7月宣布了一項人工智能的自愿監管協議，并稱包括亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI等公司都已經同意對它們開發的AI系統進行自我監管。
美國企業的“自我監管”承諾包括對AI工具進行第三方安全測試，對偏見及隱私問題進行研究，并向政府和其他機構共享風險信息，開發能夠應對氣候變化等社會挑戰的AI工具，以及包含識別人工智能生成素材的透明性措施工具。近期，包括亞馬遜AWS以及Meta在內的公司都推出了隱形的AI生成水印工具。
美國還有另一種來自國會的監管聲音，一些議員提出，應設立一個類似于美國FDA的機構，監管人工智能服務的供應商，審核新系統的牌照，并制定各類標準。
中國自2021年以來，已經迅速出臺了針對推薦算法、深度偽造等合成內容和生成式AI的一系列監管法規，這些法規包含了禁止社交平臺利用推薦算法設置價格歧視等，還規定人工智能開發商必須對人工智能生成的合成內容進行標注。
大部分專家都認為，人工智能監管需要全球合作，這需要建立一個類似于國際原子能機構的組織。但這一構想也面臨挑戰，難點在于需要克服地緣政治的不信任以及經濟競爭等各種因素。
本文鏈接：歐盟達成歷史性AI法案，企業怎么看？http://www.sq15.cn/show-5-3834-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
下一篇： 供應充足！雪中北京“菜籃子”穩穩的