【環(huán)球時(shí)報報道 記者 馬俊】迅猛發(fā)展的人工智能(AI)浪潮正席卷全球，網(wǎng)絡(luò )安全領(lǐng)域也受到巨大影響。不久前的“全球藍屏”事件已經(jīng)證明，現代社會(huì )對于信息化的依賴(lài)度有多強，而構建在大數據基礎上的AI時(shí)代，又將如何保證網(wǎng)絡(luò )安全?《環(huán)球時(shí)報》記者在7月31日到8月1日舉行的ISC.AI 2024第十二屆互聯(lián)網(wǎng)安全大會(huì )上，聽(tīng)取了多名業(yè)內專(zhuān)家的見(jiàn)解。

　　當前AI存在特殊缺陷

　　中央網(wǎng)絡(luò )安全和信息化委員會(huì )辦公室副主任、國家互聯(lián)網(wǎng)信息辦公室副主任王京濤在致辭中表示，截至目前，我國已經(jīng)完成備案并上線(xiàn)、能為公眾提供服務(wù)的生成式AI服務(wù)大模型已達180多個(gè)，注冊用戶(hù)已突破5.64億。

　　但是目前的AI在自身基礎理論和具體應用上都還存在諸多特殊缺陷。中國科學(xué)院院士、清華大學(xué)計算機系教授張鈸在大會(huì )主題演講中表示，當前流行的生成式AI擁有語(yǔ)言生成、自然語(yǔ)言交互和遷移三大能力，但同時(shí)也存在“幻覺(jué)”缺陷，也就是“一本正經(jīng)地亂說(shuō)”，而且“很多情況下AI并不知道自己說(shuō)錯了”。他表示，生成式AI的這個(gè)缺陷與“三大能力”是同時(shí)出現的，“這是因為我們要求它有多樣性的輸出，必然就會(huì )產(chǎn)生錯誤。這種跟機器都會(huì )產(chǎn)生常見(jiàn)錯誤非常不一樣，后者往往是我們可以控制的，而生成式AI的錯誤是本身的錯誤，是一定會(huì )發(fā)生的，而且是我們不可控的。”

　　中國工程院院士、國家數字交換系統工程技術(shù)研究中心主任鄔江興表示，人類(lèi)社會(huì )正在以前所未有的熱情擁抱AI時(shí)代的來(lái)臨，但是人類(lèi)社會(huì )也正面臨前所未有的AI安全威脅。AI應用系統安全問(wèn)題既包括傳統的網(wǎng)絡(luò )安全問(wèn)題，也有獨特的內生安全個(gè)性問(wèn)題，這成為當前AI推廣應用中的最大障礙。鄔江興表示，內生安全個(gè)性問(wèn)題存在著(zhù)“三不可問(wèn)題”，即不可解釋性、不可推論性、不可判識性。不可解釋性是指通過(guò)訓練擬合階段，讓AI從大數據掌握到知識規律，但其中的工作原理是什么，我們仍然不明確，一旦出現問(wèn)題，想要定位具體故障點(diǎn)有難度。不可判識性是指用來(lái)訓練AI的大數據質(zhì)量高低直接影響到大模型的判斷結果。不可推論性是指AI目前對沒(méi)有經(jīng)歷過(guò)的未知事物通常是無(wú)法理解和判斷的。

　　“全球藍屏”事件已發(fā)出預警

　　王京濤強調說(shuō)，網(wǎng)絡(luò )安全是一項系統工程，涉及的領(lǐng)域廣、方面多，維護網(wǎng)絡(luò )安全不僅是政府的事，也是全社會(huì )的共同責任，需要企業(yè)、社會(huì )組織、網(wǎng)民等各方共同參與，共筑防線(xiàn)。關(guān)鍵信息基礎設施是經(jīng)濟社會(huì )運行的神經(jīng)中樞，是國家網(wǎng)絡(luò )安全工作的重中之重。當前，萬(wàn)物互聯(lián)、產(chǎn)業(yè)數字化日趨明顯，經(jīng)濟社會(huì )運行和人民生產(chǎn)生活對關(guān)鍵信息基礎設施的依賴(lài)性日益增強，網(wǎng)絡(luò )攻擊、供應鏈中斷等都可能帶來(lái)嚴重影響。

　　如果說(shuō)在個(gè)人電腦時(shí)代，網(wǎng)絡(luò )安全是指存儲在電腦里的信息安全，在移動(dòng)互聯(lián)網(wǎng)時(shí)代，網(wǎng)絡(luò )安全可能影響財務(wù)的安全，那么在A(yíng)I時(shí)代，網(wǎng)絡(luò )安全面臨什么樣的新威脅呢?

　　360集團創(chuàng )始人周鴻祎表示，不久前美國“眾擊”公司升級程序錯誤導致的“全球藍屏”事件造成全球航空業(yè)癱瘓，就已經(jīng)提前發(fā)出了警告。他表示，過(guò)去電腦、手機都只是個(gè)人工具，存放的都是個(gè)別信息，遭到攻擊后損失和影響范圍相對有限;但在數字化時(shí)代，電腦、網(wǎng)絡(luò )和數據在生產(chǎn)流程和很多關(guān)鍵基礎設施中發(fā)揮了極大作用，如果受到網(wǎng)絡(luò )攻擊，會(huì )影響整個(gè)社會(huì )的正常運行，導致醫院開(kāi)不了門(mén)、柜臺無(wú)法值機、麥當勞結不了賬。而AI時(shí)代的這個(gè)問(wèn)題進(jìn)一步放大了，未來(lái)AI可以發(fā)揮的作用遠非現在看到的“寫(xiě)篇作文”“做點(diǎn)圖片”。他以AI最典型的應用場(chǎng)景——無(wú)人駕駛為例介紹說(shuō)，未來(lái)真正實(shí)現無(wú)人駕駛汽車(chē)，駕駛座上可以完全沒(méi)有人時(shí)，如果車(chē)廠(chǎng)運營(yíng)中心遭到網(wǎng)絡(luò )攻擊，后果遠超想象。輕則是車(chē)輛跟車(chē)廠(chǎng)失去聯(lián)系，很多車(chē)只能趴窩無(wú)法行駛。更嚴重的是“黑客控制了車(chē)廠(chǎng)服務(wù)器”。因為自動(dòng)駕駛汽車(chē)都是通過(guò)車(chē)聯(lián)網(wǎng)聽(tīng)從車(chē)廠(chǎng)的AI遙控指揮，“車(chē)廠(chǎng)的網(wǎng)絡(luò )結構非常復雜，網(wǎng)絡(luò )攻擊的難度比針對單輛自動(dòng)駕駛汽車(chē)的難度要低得多。”因此黑客控制了車(chē)廠(chǎng)的AI中心服務(wù)器，就可以給它所控制的自動(dòng)駕駛汽車(chē)下達各種指令，可能導致車(chē)門(mén)打不開(kāi)，或者一路狂奔，后果非常嚴重。

　　周鴻祎還提到，外界普遍預測未來(lái)很多養老服務(wù)會(huì )由機器人負責，如果它們因網(wǎng)絡(luò )攻擊失控更可怕，“比如機器人正在給你洗頭、洗澡，突然接到黑客指令，如果只是不動(dòng)了還好辦，就怕傳來(lái)的指令是‘再用力一點(diǎn)’”。

　　以模制模，“用魔法打敗魔法”

　　周鴻祎表示，網(wǎng)絡(luò )安全行業(yè)有很多痛點(diǎn)能用AI解決。比如海量的數據分析難、快速處置難、追蹤溯源所需要的安全專(zhuān)家人力不足等。“今天傳統網(wǎng)絡(luò )安全最大痛點(diǎn)就是缺乏專(zhuān)業(yè)的網(wǎng)絡(luò )安全人才，中國有100多萬(wàn)專(zhuān)業(yè)人才的缺口，在發(fā)現攻擊、抵御攻擊、情況處置、自動(dòng)化運營(yíng)方面現在跟不上時(shí)代要求。我們通過(guò)訓練安全大模型，通過(guò)AI自動(dòng)化解決發(fā)現攻擊、解決攻擊和運營(yíng)處置的問(wèn)題，可以提高水平，能夠填補這塊人才的缺口。”

　　但周鴻祎也承認，AI在網(wǎng)絡(luò )安全領(lǐng)域帶來(lái)了新挑戰，“首先是AI一定會(huì )成為壞人的工具，包括如何編寫(xiě)攻擊軟件、編寫(xiě)釣魚(yú)網(wǎng)站?，F在網(wǎng)絡(luò )安全是人跟人的對抗，未來(lái)會(huì )生成人和機器的對抗，最后發(fā)展成機器和機器的對抗。所以必須要用AI應對AI升級的安全問(wèn)題。”

　　其次，現在很多國家都意識到AI安全治理問(wèn)題，隨著(zhù)AI的發(fā)展，會(huì )帶來(lái)很多網(wǎng)絡(luò )安全之外、數據安全之外新的安全威脅和安全挑戰。“眼前的挑戰還不明顯，可能我們看到的還是內容安全，但是將來(lái)會(huì )出現更多我們現在還無(wú)法預測的網(wǎng)絡(luò )安全問(wèn)題。所以從現在開(kāi)始要有人解決AI安全的問(wèn)題。”他認為，AI帶來(lái)的安全問(wèn)題用傳統安全思路解決是不行的，因為AI比傳統的軟件要聰明。所以對AI就得“以模制模”，必須用大模型解決大模型的安全問(wèn)題。

　　中國網(wǎng)絡(luò )空間安全協(xié)會(huì )副理事長(cháng)盧衛也表示，人工智能的發(fā)展和治理，就是有關(guān)全人類(lèi)的共同命運。人工智能學(xué)習模型存在很多問(wèn)題，同時(shí)數據有很多自身風(fēng)險。在發(fā)展的過(guò)程中，一定要應對好、梳理好這些風(fēng)險。“我們國家對安全高度重視，在確保安全的情況下發(fā)展人工智能，已經(jīng)建立或者正在建立比較完整的治理體系。目前AI模型的安全性落后于現在的性能和發(fā)展，要引起重視。安全治理要圍繞以人為本、智能向善、公平正義、負責任、非惡意、防攻擊等重點(diǎn)環(huán)節展開(kāi)。”