國家網信辦等四部門聯合發布的《人工智能生成合成內容標識辦法》，9月1日起將正式施行，所有AI生成的文字、圖片、視頻等內容都要“亮明身份”。針對這些內容在傳播過程中該由誰來管？怎么管？
《人工智能生成合成內容標識辦法》明確，人工智能生成合成內容是指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。人工智能生成合成內容標識包括顯式標識和隱式標識。
平臺在服務提供者的內容上架或上線時要進行審核，核驗生成合成內容標識，對未標識或疑似生成內容要添加風險提示，從而在傳播端阻斷虛假信息擴散。
中國人民大學未來法治研究院執行院長 張吉豫：“標識辦法”中進行檢測分三個層次，如果平臺是從元數據中檢測出隱式標簽，那么平臺就可以標識這個內容是AI生成的，但是如果它只是通過一些算法推測這個內容是AI生成的，它應該是標識為疑似AI生成。
針對目前由于技術的局限性而導致的部分原創內容被誤判為AI生成，創作者權益受損等情況，法學專家指出，當前的算法仍然存在數據偏差和場景適配不足等問題，在誤判率難以歸零的情況下，應當建立相應的保障機制。
張吉豫：未來相關平臺進行了分級標識后，其實也應該建立分級的處理辦法，比如說對于明確它是AI生成的，通過隱式標識確定的，應該采取更嚴格的措施，但是對于很多應該標識為疑似AI生成的，應該提供更便捷的用戶反饋渠道，也不宜對用戶進行嚴肅的懲罰。
法學專家建議，首先網絡服務提供者要公開算法原理及誤判樣本數據，提升透明度；其次要設立申訴渠道，允許用戶提交證據申請復核，從而保證監管與創作自由的平衡。
讓生成內容看得見查得著 以規范促發展
據記者了解，截至目前，我國已有490余款大模型在國家網信辦完成備案，240余款大模型在省級網信辦完成登記，我國生成式人工智能產品的用戶規模已達2.3億人。“標識辦法”的施行，會對行業、個人用戶，以及相關技術的發展帶來哪些影響？
據記者了解，作為我國人工智能領域首部“辦法+強標”的組合拳，強制性的國家標準《網絡安全技術人工智能生成合成內容標識方法》將于9月1日與《人工智能生成合成內容標識辦法》同步施行，在監管維度建立審核、監測、追責的閉環機制，在技術維度規范標識體系并預留創新空間。
中國社科院法學所研究員 支振鋒：特別要提出的是這種生成式人工智能治理，我們一系列國家法律法規，還有規范性文件以及標準，一個很重要的治理目的是以規范促發展，通過治理和規范去凈化互聯網市場，凈化網絡信息內容、生態空間，從而促進人工智能特別是生成式人工智能，它的規范運用和健康良性的發展，實際上還是通過規范去促進發展的。
另外，據專家介紹，高質量數據對生成式人工智能產業發展至關重要，基于錯誤或不完整的數據作出的決策可能偏離正確方向，不符合法規要求的數據可能帶來法律風險。如果未經標識的內容進入公開數據領域，被大模型用于預訓練會出現數據污染等情況，最終會導致技術可信度的大大降低，而“標識辦法”的出臺，正是從源頭破解這一困局的關鍵舉措。
張吉豫：對于人工智能企業去選擇相應的訓練數據能夠起到很好的指引，特別是所有的這樣的生成內容都需要進行隱式的標識，這些標識是很便捷的，可以被機器檢測的，就可以很便捷的去篩選哪些可能的內容是機器產生的，也便于他們去進行訓練的選擇。
有利于公平競爭 減少侵權詐騙等問題
據專家介紹，在《人工智能生成合成內容標識辦法》以及強制性的國家標準同步施行的情況下，標識的存在也會對大規模搬運人工智能直接生成內容的行為進行攔截，讓內容平臺有了更明確的合規要求和管理程序，有利于降低總體的審核運營成本。
據法學專家介紹，《人工智能生成合成內容標識辦法》的施行有利于公平競爭和有效管理。
首先，強制“標識”有利于保護傳統內容產業，能在一定程度上降低AI技術帶來的沖擊；
另外，通過標識可以追溯AI生成內容的來源，減少因AI生成內容引發的侵權、詐騙等問題，維護個人隱私和財產安全。
支振鋒：這些生成人工智能服務的使用者，比如說自媒體賬號、博主，他們要使用這些服務的話，他們自己也有合規的要求，特別是一些MCN機構，一些自媒體賬號，它其實背后有公司在運營，他們都有這樣的合規義務，都要按照這個辦法，還有國家標準去做生成合成內容的標識。
據法學專家介紹，“標識辦法”與《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等法規充分銜接。其中，服務提供者在履行算法備案、安全評估等手續時，相關材料可能涉及標識的技術細節，如水印算法、元數據格式、服務商編碼等，這些信息能夠幫助執法部門在發現違法內容時快速識別內容來源，追蹤到服務提供者或者用戶。
來源：央視新聞客戶端
本文鏈接：9月起AI生成內容必須“亮明身份”http://www.sq15.cn/show-1-49348-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 中國女排1比3不敵法國隊，無緣世錦賽八強