南方財經全媒體記者卓皙雯 見習記者陳璐 廣州報道
隨著人工智能快速發展，“AI+安全”已成為網絡安全行業未來發展的關鍵方向。然而，AI的“無所不能”背后是否隱藏風險？近日，在2024年國家網絡安全宣傳周期間舉辦的網絡安全標準與產業促進座談會、粵港澳大灣區安全技術創新座談會等多場活動上，多位專家深度剖析了AI技術的雙刃劍效應：一方面，它能夠提升網絡防御的智能化與自動化水平，另一方面，AI的內生風險、數據濫用、系統性崩潰等隱憂也逐漸浮現。如何構建更可靠的“AI+安全”之路，成為當前網絡安全領域亟待解決的核心議題。
AI賦能網絡安全，帶來“雙刃劍”
網絡安全進入人工智能階段，“AI+安全”成為網絡安全行業未來發展的方向。當前，AI技術在安全領域到底能夠解決哪些問題？應用到哪些場景？
天融信科技集團副總裁呂延輝表示，在大模型出現之后，人工智能對安全應用起到了提質增效的作用。比如，AI技術可發現一些隱藏、潛藏的惡意行為，從而幫助安全人員快速甄別和定位網絡中的威脅源。若進一步溯源，AI技術可支撐安全分析人員快速拓建分析風險的畫像和App的追蹤行為，增強安全監測能力。此外，基于大模型對于語義理解的顯著優勢，AI技術能夠發現沒有先驗知識或傳統規則支持的安全攻擊行為。
在落地實踐中，人工智能賦能網絡安全工作價值已凸顯。聯通數字科技有限公司安全事業部CTO周凱介紹，在人工智能賦能網絡安全方向，聯通元景網絡安全大模型針對海量告警降噪、惡意檢測、攻擊事件研判等場景，提供安全咨詢、報警研判、報告生成、情報檢索等特色工具，迎合各種場景需求。截至目前，已在多個應用場景，包括安全問答、安全報告、報警研判、情報檢索等實現部署。
不過，周凱提到，一方面，AI技術應用極大提升了安全防御的智能化與自動化，但另一方面，AI技術也促使網絡安全威脅升級，如釣魚攻擊、惡意軟件等變得更高效且強悍。
中國聯通廣州市分公司黨委書記、總經理楊連成也表示，AI賦能網絡安全已成為關鍵環節，但帶來的“雙刃劍”也不容忽視，可能會帶來數據泄露、隱私侵犯及技術濫用等風險。楊連成建議，解決安全治理要構建更完善、高效、安全可控的生態環境，將安全理念融入到數據管理的全生命周期，制訂AI使用準則，完善數據監管體系。
在9月11日舉辦的網絡安全標準與產業促進座談會上，“數安標準強‘基’助‘力’行動計劃（DSEP）”正式啟動，該計劃由中國電子技術標準化研究院發起，依托數據安全和個人信息保護國家標準體系，打造基于標準的政、產、學、研、用深度融合平臺，將為各行業領域、地方區域和組織機構筑牢數據安全合規底線、提升數據安全能力提供標準化路徑。
AI自身安全隱憂正在浮現
“無所不能”的AI自身的安全隱憂正在浮現。中國工程院院士鄔賀銓認為，人工智能本身有自身的不安全性，且更可能被濫用，因此要用各種辦法提高AI的可行性。
鄔賀銓指出，目前我國基本語料數據仍不足夠，不少AI模型的訓練數據由AI自行生成，這個過程中存在一定的隱患。如果在訓練中不加區別地使用這類內容，長此以往將出現“模型崩潰”效應。數據生成率過高會帶來隱患，完全靠AI生成的數據，會逐漸變形、出錯。反復使用AI生成的數據，模型訓練就會失去效果，所以，需要重視數據的原生性。
螞蟻集團副總裁韋韜提到，大模型雖然被很多人認為是無所不能的智能引擎，但實際上它的智能水平還不夠高，當各種信息、各種工具全都對接到大模型上，很容易形成一個安全單點，只要擊破大模型，整個信息工具都會被擊穿。如果所有信息和工具都依賴于大模型，那么一旦大模型遭到攻擊，整個系統的安全性將面臨全面崩潰的風險。他舉例道，OpenAI曾經出現因漏洞被攻擊導致數據被刪除的事件，說明這種風險是真實存在的。
火山引擎安全研究部門負責人吳燁認為，隨著大模型在手機、PC端以及車載設備等各類終端的廣泛應用，AI技術在提升用戶體驗的同時，也引發了一系列隱私保護和數據安全的風險。由于大模型通常部署在云端，這就意味著終端設備上的用戶數據需要傳輸到云端進行處理。這樣的數據跨域傳輸過程中，可能會面臨數據泄露、篡改等安全隱患，增加了用戶數據的安全風險。
中國網絡空間安全協會副理事長盧衛認為，人工智能在眾多領域具備廣闊的使用前景，但自身也存在諸多缺陷與風險，需要先解決自身存在的問題，實現“我能”后，才能更好賦能網絡安全領域。
9月9日，在國家網絡安全宣傳周網絡安全技術高峰論壇主論壇暨粵港澳大灣區網絡安全大會上，全國網絡安全標準化技術委員會正式發布《人工智能安全治理框架》1.0版，按照風險管理的理念，結合人工智能的技術特性，分析人工智能風險來源和表現形式，針對模型算法安全、數據安全和系統安全等內生安全風險和網絡域、現實域、認知域、倫理域等應用安全風險，提出了相應技術應對和綜合防治措施，以及人工智能安全開發應用指引。這將為促進人工智能的健康發展和規范應用，提供基礎性、框架性技術指南。
本文鏈接：AI賦能網絡安全帶來“雙刃劍”，專家：還需解決自身安全隱憂http://www.sq15.cn/show-2-8419-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
下一篇： 人工智能為美術創作打開新空間