(經濟觀察)AI帶來網絡安全風險 專家建言“用魔法打敗魔法”
中新社北京6月5日電 (記者 劉育英)通過AI換臉的網絡詐騙、基于AI的釣魚郵件、AI數據“投毒”......如何應對人工智能帶來的網絡安全挑戰和攻擊？專家認為，應盡快發揮AI賦能網絡安全的積極作用，實現“用魔法打敗魔法”。
在5日舉行的2024北京網絡安全大會上，中國新一代人工智能發展戰略研究院執行院長龔克表示，人工智能是先進生產力，但遠未成熟，存在技術瓶頸和社會憂慮。
他認為，人工智能的風險主要來自兩個方面：一方面，是人工智能技術存在弱點和不足，而不是過于強大，需靠發展創新去解決；另一方面，是使用者對人工智能的濫用和惡意使用，以及依賴而非駕馭人工智能。
巴基斯坦NCERT主席阿巴斯?海德爾說，大型語言模型(LLM)正在徹底改變網絡安全形勢，AI在網絡安全領域帶來的既有挑戰，也有機遇。例如，網絡罪犯會使用AI生成具有強欺騙性的網絡仿冒郵件，但企業也可以用AI完成威脅檢測和事件響應、處置。
根據奇安信發布的《2024人工智能安全報告》，AI既放大現有網絡安全威脅，又引入了新型威脅，引發網絡安全事件指數級增長。其中，2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件數量增長了1000%。
在中央網信辦網絡安全協調局副局長王營康看來，隨著人工智能技術發展，攻擊者可利用人工智能技術生成網絡攻擊和網絡釣魚工具等，網絡安全從人人對抗、人機對抗逐漸向基于人工智能的攻防對抗演化。
當前中國新一代人工智能正在與實體經濟深度融合，廣泛應用于社會民生領域。龔克呼吁推進AI與網絡安全融合創新。一方面，人工智能的發展推動了網絡安全技術的創新。例如，基于深度學習的惡意軟件檢測、用戶行為分析等新技術不斷涌現。另一方面，人工智能的自動化和智能化特性又可以大大提高網絡安全管理效率。通過自動化檢測、響應和風險評估等流程，可以更快地應對網絡威脅。
AI大模型能否解決問題？奇安信董事長齊向東說，AI大模型不是萬能鑰匙。做好“AI驅動安全”至少需要具備三大條件：其一，高質量的訓練數據；其二，縱深防御的內生安全體系；其三，設備、體系具有統一的輸入輸出標準。
目前，AI驅動安全成效初顯。國家電網有限公司副總信息師王繼業介紹，國家電網依托大數據平臺，加強人工智能與網絡安全的融合，研究基于人工智能的風險異常檢測方法，開展網絡安全關聯分析、事件處置和調查溯源，強化網絡安全威脅監測和應急處置，實現網絡安全事件的智能響應、聯動防御。
在技術之外，與會者呼吁進一步提高對網絡安全態勢的重視，強化體系化安全能力建設。“數據安全是人工智能安全的前提和基礎”，中國友誼促進會理事長、國家網信辦原副主任陳智敏認為，要從網絡安全保衛向數據安全保衛的工作模式拓展，為構建與數字生產力相適應的新型生產關系奠定基礎。
王營康建議，要統籌網絡安全各方力量，構建大網絡安全工作格局，推動形成體系化防御能力；要統籌高質量發展和高水平安全，推動形成人工智能綜合治理體系。(完)
本文鏈接：AI帶來網絡安全風險 專家建言“用魔法打敗魔法”http://www.sq15.cn/show-2-6703-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： OpenAI報復“吹哨人”？前員工聯名警告缺乏監管
下一篇： 誰能站穩折疊屏手機風口