從創意領域的自動化文本生成、多模態內容創作，到醫藥領域的影像輔助診斷與藥品開發預測，再到AI賦能的個性化教育、規模化農業生產等，生成式人工智能正全面融入經濟社會的肌理骨骼，推動數字社會生產力躍升。然而，技術紅利往往同風險挑戰如影隨形。生成式人工智能系統性動搖了社會信任的“視覺真實”基礎：當AI能夠以假亂真地炮制具有嚴密邏輯的網絡謠言，“數字復活”已故名人進行商業推廣，利用合成影像實施金融詐騙時，圖像和視頻不再可信，“眼見為實”的既定認知正遭受前所未有的沖擊，更從根本上侵蝕社會交往的信任基石。
面對人工智能帶來的機遇與挑戰，習近平總書記強調，“要把握人工智能發展趨勢和規律，加緊制定完善相關法律法規、政策制度、應用規范、倫理準則，構建技術監測、風險預警、應急響應體系，確保人工智能安全、可靠、可控”。在這一治理思路引導下，從2023年1月《互聯網信息服務深度合成管理規定》的實施，到同年7月《生成式人工智能服務管理暫行辦法》的發布，再到2025年9月1日《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）及配套強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》（以下簡稱《標識標準》）的正式生效，兩年時間內，我國迅速構建起覆蓋合成技術、生成服務與內容標識，容納原則、規則與標準的多層次治理體系。作為生成式人工智能治理的最新一環，《標識辦法》與《標識標準》為AI生成內容設置全覆蓋的“身份認證”標識，以技術性規范重新錨定圖像真實，一方面為公眾提供辨別依據，重塑數字信任；另一方面也為安全監管與合規應用劃定底線邊界。真正以標識之“規”，筑起生成式人工智能可信、可控、可持續的發展之“道”。
一、守護公眾信任：從“眼見為實”到“標識為準”
生成式人工智能技術重塑信息生產與傳播機制同時，也以高度仿真性模糊真實與虛假的邊界，其最大的挑戰在于，傳統以視覺感官經驗為基礎的信息真偽辨別機制失效，并由此引發真實性信任危機。《標識辦法》及其配套《標識標準》的出臺，不僅是防范技術濫用的重要制度回應，更是構建數字時代新型可信傳播機制的關鍵探索。其深遠意義在于，在“眼見為實”的主觀信任機制失效當下，以生成標識的客觀技術標準取代主觀判斷，并塑造人機協作內容生產的信任范式。
《標識辦法》及其配套《標識標準》設定若干關鍵機制，一是強制性的生成內容標識義務要求；二是詳細規范標識應包含的內容要素、呈現方式、機器可識別格式等技術細節。通過構建標準化、可驗證的技術披露機制，實質確立人機協同內容生產的倫理底線，有助于從源頭上為公眾提供辨識真偽的依據，并幫助逐步建立“標識為準”的新信任認知。技術透明有助于保護消費者知情權和選擇權，也能督促技術提供方和內容生產者履行社會責任，促進人工智能技術在信任框架內健康發展。
從更深層次看，內容標識也為一般網絡用戶構筑重要的“認知底線”，防范用戶對AI技術的過度依賴。諸多研究已初步揭示，長期依賴人工智能生成的內容可能使人類面臨創造表達能力退化和情感鈍化風險。通過強制性的內容標識特別是顯性標識，用戶得以清晰區分人類原創內容與人工智能生成內容，幫助其在信息消費中做到從被動接受到理性辨識判斷，避免被誤導欺騙，抵御能力退化風險。
二、引領產業發展：從“野蠻生長”到“負責任創新”
生成式人工智能技術浪潮爆發以來，產業界經歷一段“野蠻生長”時期，因技術標準缺失與監管框架滯后，市場上出現的生成服務質量參差不齊、應用邊界模糊，深度合成技術濫用問題突出、AI生成虛假信息事件頻發，不僅損害了個體用戶權益，威脅社會公共秩序，也阻礙了產業的健康發展。對于產業界而言，《標識辦法》及《標識標準》適時出臺，為產業從無序擴張轉向有序發展劃定關鍵的制度邊界與合法軌道。
《標識辦法》圍繞生成合成內容生產、分發與傳播的全產業鏈條，為生成合成服務提供者、信息內容傳播服務提供者與互聯網應用程序分發平臺設定相應的標識添加、核驗與審核義務。這些義務設置短期看雖會為企業帶來一定的合規成本，但從長遠看，制度化的義務安排有助于降低技術濫用引發的負外部效應，一方面提升用戶對生成內容消費的接受度與信任度，另一方面維持并擴大市場的可持續規模，為產業良性發展奠定基礎。從全球視角看，依托標識技術實現人工智能生成內容治理已成為國際監管與行業界共識，在此情況下，我國率先推出人工智能生成合成內容標識的強制性國家標準，不僅推動企業切實履行標識義務、降低跨境合規風險，更顯著增強了中國企業在全球人工智能市場競爭中的軟實力，為促進國際標準互認與合作提供了“中國方案”。
更為重要的是，《標識辦法》及配套標準以強制性的規范效力，提示并推動行業邁向“負責任創新”的成熟新階段。在標識義務約束下，企業須從單一追求技術突破，轉向兼顧商業利益與社會責任，將倫理和法律考量深度融入技術開發、產品設計與應用傳播的全流程。這意味著產業生態的深層重構——企業的核心競爭力不再僅僅體現在模型規模或生成能力上，而是越來越多地體現在技術的可控性、內容的安全性、應用的可持續性等社會維度。同時，標識標準建設也將促使產業鏈上下游企業加強協作，共同構建包含內容標識、質量評估、風險監測、用戶反饋在內的完整技術體系與治理生態，避免技術孤島和惡性競爭。
三、凈化網絡生態：協同共治的標識實踐
從更為系統、宏觀的網絡信息內容生態治理而言，《標識辦法》與《標識標準》的實施，是構建多元協同、健康清朗網絡生態的關鍵舉措。基于內容標識的技術與制度實踐，有助于建立政府、企業與用戶間的良性協同互動機制。
傳統治理模式下，政府承擔絕大多數監管責任，企業被動合規，用戶則處于信息接收的末端，治理效率有限且難以適應人工智能生成合成內容海量化、隱匿化的新特征。《標識辦法》以內容標識為紐帶，為政府、企業、用戶三大主體構建了協同互動的制度基礎。標識制度通過打通信息黑箱，明確各方角色與義務，為各方參與治理提供共同的信息基礎與責任共擔機制。政府可根據統一標識更加精準地識別和監管AI生成內容，提升治理效能；企業從被動執行轉向主動履責，通過標識技術和管理創新承擔主體責任；用戶則借助內容標識增強辨別能力，并通過用戶反饋與舉報機制參與社會監督。在透明、共享的基礎上構建起了多元協同的治理新架構。
同時，內容標識也為信息質量提升與網絡生態自凈提供內在動力。在行為引導層面，內容標識作為生態自我識別、自我糾正的“催化劑”，賦予用戶更強的內容辨識能力和選擇主動權，以透明理性的信息內容選擇形成內容生產的市場正向反饋；也為平臺建立更加精細化的內容管理體系提供了技術支撐，促使平臺基于標識信息和用戶反饋，不斷優化內容推薦策略，實施差異化治理。而在內容生產層面，內容標識要求促使內容生產者、提供者更注重信息內容的真實性、準確性，其統一規范要求也將促成行業標準與自律規范的形成，引導信息生產與供給向著更為安全、可信、可控方向發展。
四、展望未來：人機協同信息生產的信任基礎
伴隨人工智能生成合成內容標識制度的全面落地，我國在生成式人工智能治理領域邁出了系統性、前瞻性的一步。《標識辦法》與《標識標準》的實施，不僅是對當前技術濫用問題的響應，更是面向人機協同信息生產新范式所構建的信任基礎。
展望未來，標識制度需與國際治理體系接軌。生成式人工智能的內容傳播跨越國界，標識標準的互認與協同已成為全球人工智能治理的當前焦點。借此國內標識規范統一建設的契機，我國應積極推動標識標準的國際化，促進內容標識國際合作框架的構建。這不僅有助于中國企業“走出去”，也能在國際規則制定中注入中國智慧。
標識制度實踐亦應成為人機協同社會中公眾素養提升的契機。未來教育體系應加強媒介素養與人工智能通識教育，使公眾不僅能夠“識標識”，更能夠“懂標識”“用標識”，形成理性判斷與技術使用的能力。只有當公眾具備對AI生成內容的批判性認知，標識才能真正發揮其信任錨點的作用。
人工智能的發展不僅是技術問題，更是社會命題，人工智能的發展也需要經歷復雜的“社會適配”過程。中國生成式人工智能治理體系建設，為國際社會應對人工智能治理挑戰提供寶貴的制度范本與中國經驗。唯有在技術規范、法律底線與倫理共識的共同支撐下，才能構建起真正可持續、可信賴的人機協同未來。
作者：梁 正 清華大學公共管理學院教授，人工智能國際治理研究院副院長
本文鏈接：專家解讀｜用標識之“規”，筑AI發展之“道”http://www.sq15.cn/show-5-67889-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 一本族譜上的131名抗戰先輩
下一篇： 偉大的證明