21世紀經(jīng)濟報道記者 王俊 北京報道
“未來將會是數(shù)字化的。現(xiàn)在幾乎所有的行業(yè)都在擁抱數(shù)字化浪潮，隨之而來的安全風(fēng)險，如數(shù)據(jù)泄露、商業(yè)勒索、基礎(chǔ)設(shè)施癱瘓等等，也呈現(xiàn)愈演愈烈之勢。特別是2022年底AI大模型的橫空出世，大大推開了深度智能時代的大門，安全問題也迎來了質(zhì)變時刻。”中國社會科學(xué)院大學(xué)數(shù)字中國研究院執(zhí)行院長呂鵬表示。
1月18日，中國社會科學(xué)院大學(xué)數(shù)字中國研究院聯(lián)合螞蟻集團對外發(fā)布了《數(shù)字時代安全科技價值報告》。報告指出，安全科技將成為社會的公共品，與人工智能并列為未來的兩項通用技術(shù)。在AI大模型及深度數(shù)字化趨勢下，安全科技的價值在放大。
AI安全風(fēng)險的緊迫性陡增
呂鵬在發(fā)布報告時指出，數(shù)字社會進入新階段，安全問題迎來質(zhì)變時刻。
他表示，數(shù)字化安全風(fēng)險形勢進入了快迭代、高智能、全覆蓋的新格局。近20年來，網(wǎng)絡(luò)犯罪的規(guī)模、范圍、嚴重程度和復(fù)雜性均呈指數(shù)級增長，且日益超越地理邊界，極大地挑戰(zhàn)了傳統(tǒng)司法系統(tǒng)應(yīng)對挑戰(zhàn)的效力。如今，攻擊者使用人工智能等高級工具，持續(xù)加快攻擊生命周期，從偵察漏洞到發(fā)起攻擊，往往僅需幾天乃至幾小時，亞洲更是成為了全球受攻擊最嚴重的地區(qū)。
此外，AI安全風(fēng)險的緊迫性陡增，這是全世界需要迅捷反應(yīng)、共同面對的巨大挑戰(zhàn)。
AI安全風(fēng)險分為三類：第一是人工智能系統(tǒng)內(nèi)部所產(chǎn)生的「內(nèi)生安全問題」，像“數(shù)據(jù)有毒”、“價值對齊”、“決策黑盒”等問題屬于這一類；第二是「衍生安全問題」，即人工智能被利用或不恰當使用而可能引發(fā)其他領(lǐng)域的一些重大安全事故，比如生成假新聞、深度合成偽造進行詐騙或釣魚攻擊，侵犯他人肖像權(quán)、隱私權(quán)，涉及人身安全、隱私保護、軍事與國家安全、倫理道德和法律規(guī)范等一系列與社會治理有關(guān)的挑戰(zhàn)性問題；第三是「外生安全問題」，也就是面向人工智能系統(tǒng)的外部網(wǎng)絡(luò)攻擊對抗。
要想更好地控制AI安全風(fēng)險，最合理的方法就是打造一套可靠的“質(zhì)檢”標準，像當初發(fā)明殺病毒軟件一樣，將大模型中有問題的部分精準定位并去除，安心使用其好的部分。
呂鵬還指出，有新技術(shù)的地方，就有新的安全風(fēng)險，這也是數(shù)字社會的技術(shù)實質(zhì)，兩者是本體和陰影一樣不可分割的伴生關(guān)系。新技術(shù)工具改變了工業(yè)的運作方式，同時也導(dǎo)致了安全風(fēng)險的蔓延，包括網(wǎng)絡(luò)被入侵攻擊，導(dǎo)致基礎(chǔ)設(shè)施和服務(wù)癱瘓、關(guān)鍵的信息和數(shù)據(jù)被竊取、商業(yè)勒索、大范圍的人身傷害等。
數(shù)字技術(shù)無所不在，數(shù)字安全風(fēng)險自然無所不在。只要有網(wǎng)絡(luò)、有數(shù)字信息的地方，就需要有安全科技。小到微信登錄，大到物流供應(yīng)鏈系統(tǒng)的防火墻，疫苗生產(chǎn)系統(tǒng)的設(shè)計，都離不開安全科技。只要不出事故，我們常常感知不到這些科技的存在，但它已經(jīng)遍布生活與生產(chǎn)的方方面面。
安全科技將成為社會的“公共品”
“‘技術(shù)是把雙刃劍’，在它以更快的速度變得越發(fā)強大時，我們不可能扔掉利刃，放棄科技；惟有以另一種科技打造足夠安全的刀鞘。”呂鵬表示，“未來有且只有兩項通用技術(shù)，一是人工智能，二是安全科技。”
研究團隊認為，人工智能是未來生產(chǎn)力的發(fā)動機，將在各行各業(yè)數(shù)字化的基礎(chǔ)上進一步實現(xiàn)智能化；安全科技作為方向盤，始終將各種新興科技控制在向善的道路上，兩者融合創(chuàng)新與發(fā)展。
報告同時提出，未來，安全科技將成為社會的“公共品”，是技術(shù)向善的關(guān)鍵保障，盡早對它進行投入，將有助于掌握新興技術(shù)發(fā)展與產(chǎn)業(yè)迭代的主動權(quán)。
螞蟻集團副總裁、大安全事業(yè)群總裁趙聞飆認為，安全科技具有“壓艙石”與“助燃劑”的兩重價值。“壓艙石”指的是守住技術(shù)的安全底線，防御外部風(fēng)險隱患，讓技術(shù)“難作惡”，支撐數(shù)字社會穩(wěn)步運行。“助燃劑”體現(xiàn)在提高技術(shù)的安全上限，降低技術(shù)運行的成本，讓產(chǎn)業(yè)煥發(fā)新機，讓更多人受益。比如，通過可信隱私計算技術(shù)，讓數(shù)據(jù)安全流轉(zhuǎn)成為可能，充分激活數(shù)據(jù)要素價值。
如何讓安全科技成為公共品？報告認為，政企合作是核心驅(qū)動力。通過更多的公共力量投入，在合規(guī)激勵、商業(yè)保險、行業(yè)標準、安全思維更新等方面加強生態(tài)聯(lián)動，構(gòu)建更好的安全科技實力和制度。
在合規(guī)激勵方面，報告指出，當前，大多數(shù)企業(yè)往往更傾向于把資源投入到 IT 研發(fā)而不是安全保障上。在大部分企業(yè)自身沒有直接動力來投入安全時，需要政府通過合規(guī)者的角度來推動相關(guān)的保障投入。
商業(yè)領(lǐng)域的創(chuàng)新也是落實合規(guī)的重要助手，諸如商業(yè)網(wǎng)絡(luò)安全保險就能有效幫助建立數(shù)字安全事件評估及賠償標準，幫助中小企業(yè)為安全風(fēng)險兜底買單。
在標準建設(shè)方面，借助政府、頭部機構(gòu)與企業(yè)的帶頭作用，為全社會的安全技術(shù)建設(shè)提供標準。
此外，還要梳理安全思維，以人為本的安全設(shè)計、運維與建設(shè)并重的安全構(gòu)建。通過借鑒行為科學(xué)、用戶體驗等學(xué)科，以人為本的安全設(shè)計有助于最大限度地減少人為失誤。
本文鏈接：社科院大學(xué)發(fā)布報告：AI大模型顛覆安全局面? 安全科技價值提升http://www.sq15.cn/show-2-2206-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。