8 月 19 日，第 19 屆 XCon 安全焦點(diǎn)信息安全技術(shù)峰會(huì )于北京舉行，騰訊朱雀實(shí)驗室首度亮相公眾視野。該實(shí)驗室由騰訊安全平臺部孵化，專(zhuān)注于實(shí)戰攻擊技術(shù)研究和 AI 安全技術(shù)研究，以攻促防，守護騰訊業(yè)務(wù)及用戶(hù)安全。

　　會(huì )上，騰訊朱雀實(shí)驗室高級安全研究員 nEINEI 分享了一項 AI 安全創(chuàng )新研究：模擬實(shí)戰中的黑客攻擊路徑，通過(guò)對 AI 模型文件的逆向分析，跳過(guò)傳統利用“樣本投毒”的攻擊環(huán)節，直接控制 AI 模型的神經(jīng)元，為模型“植入后門(mén)”。甚至在保留正常功能的前提下，直接在 AI 模型文件中插入二進(jìn)制攻擊代碼，將模型文件改造為攻擊載體來(lái)執行惡意代碼，在幾乎無(wú)感的情況下，實(shí)現對神經(jīng)網(wǎng)絡(luò )的深層次攻擊。

　　這也是國內首個(gè)利用 AI 模型文件直接產(chǎn)生后門(mén)效果的攻擊研究。

　　騰訊安全平臺部負責人楊勇表示，當前 AI 已融入各行各業(yè)，安全從業(yè)者面臨著(zhù)更復雜、更多變的網(wǎng)絡(luò )環(huán)境。我們已經(jīng)看到了網(wǎng)絡(luò )攻擊武器 AI 化的趨勢，除了框架這樣的 AI 基礎設施，數據、模型、算法，任何一個(gè)環(huán)節都是攻防的前線(xiàn)。作為安全工作者，必須走在業(yè)務(wù)之前，做到技術(shù)的與時(shí)俱進(jìn)。

　　針對新型攻擊手法，騰訊朱雀實(shí)驗室也對 AI 研究和從業(yè)人員提出了應對建議：從第三方渠道下載的模型，要保證渠道的安全性，避免直接加載不確定來(lái)源的模型文件。對模型文件的加載使用也要做到心中有數，通過(guò)“模型可信加載”，每次加載模型進(jìn)行交叉對比、數據校驗，進(jìn)行充分的代碼檢測，可有效應對這種新型攻擊手法。
　?。?a href="http://www.lsbmaoyi.com/website/">邯鄲網(wǎng)站建設）

特斯拉與臺積電開(kāi)發(fā)HW4.0...

蘋(píng)果發(fā)布會(huì )開(kāi)始錄制：iPh...