8 月 19 日，第 19 屆 XCon 安全焦點(diǎn)信息安全技術(shù)峰會(huì)于北京舉行，騰訊朱雀實(shí)驗(yàn)室首度亮相公眾視野。該實(shí)驗(yàn)室由騰訊安全平臺(tái)部孵化，專注于實(shí)戰(zhàn)攻擊技術(shù)研究和 AI 安全技術(shù)研究，以攻促防，守護(hù)騰訊業(yè)務(wù)及用戶安全。

　　會(huì)上，騰訊朱雀實(shí)驗(yàn)室高級(jí)安全研究員 nEINEI 分享了一項(xiàng) AI 安全創(chuàng)新研究：模擬實(shí)戰(zhàn)中的黑客攻擊路徑，通過對(duì) AI 模型文件的逆向分析，跳過傳統(tǒng)利用“樣本投毒”的攻擊環(huán)節(jié)，直接控制 AI 模型的神經(jīng)元，為模型“植入后門”。甚至在保留正常功能的前提下，直接在 AI 模型文件中插入二進(jìn)制攻擊代碼，將模型文件改造為攻擊載體來執(zhí)行惡意代碼，在幾乎無感的情況下，實(shí)現(xiàn)對(duì)神經(jīng)網(wǎng)絡(luò)的深層次攻擊。

　　這也是國(guó)內(nèi)首個(gè)利用 AI 模型文件直接產(chǎn)生后門效果的攻擊研究。

　　騰訊安全平臺(tái)部負(fù)責(zé)人楊勇表示，當(dāng)前 AI 已融入各行各業(yè)，安全從業(yè)者面臨著更復(fù)雜、更多變的網(wǎng)絡(luò)環(huán)境。我們已經(jīng)看到了網(wǎng)絡(luò)攻擊武器 AI 化的趨勢(shì)，除了框架這樣的 AI 基礎(chǔ)設(shè)施，數(shù)據(jù)、模型、算法，任何一個(gè)環(huán)節(jié)都是攻防的前線。作為安全工作者，必須走在業(yè)務(wù)之前，做到技術(shù)的與時(shí)俱進(jìn)。

　　針對(duì)新型攻擊手法，騰訊朱雀實(shí)驗(yàn)室也對(duì) AI 研究和從業(yè)人員提出了應(yīng)對(duì)建議：從第三方渠道下載的模型，要保證渠道的安全性，避免直接加載不確定來源的模型文件。對(duì)模型文件的加載使用也要做到心中有數(shù)，通過“模型可信加載”，每次加載模型進(jìn)行交叉對(duì)比、數(shù)據(jù)校驗(yàn)，進(jìn)行充分的代碼檢測(cè)，可有效應(yīng)對(duì)這種新型攻擊手法。
　?。?a href="http://www.weiseditor.com/website/">邯鄲網(wǎng)站建設(shè)）

特斯拉與臺(tái)積電開發(fā)HW4.0...

蘋果發(fā)布會(huì)開始錄制：iPh...