蓋世汽車訊 深度神經(jīng)網(wǎng)絡(luò)是用于各種分類問題的機器學習算法的一個子集，包括圖像識別和機器視覺（由自動駕駛汽車和其他機器人使用）、自然語言處理、語言翻譯和欺詐檢測。但心懷不軌的人可能會修改輸入，并使得算法運行錯誤。據(jù)外媒報道，為保護算法免受此類攻擊，密歇根大學（University of Michigan）的研究人員開發(fā)出強大的對抗性免疫啟發(fā)學習系統(tǒng)（Robust Adversarial Immune-inspired Learning System，RAILS）。

圖片來源：密歇根大學

John H. Holland杰出教授、研究員之一Alfred Hero表示：“RAILS是第一種以適應(yīng)性免疫系統(tǒng)為模型的對抗性學習方法，該系統(tǒng)與先天免疫系統(tǒng)的運作方式不同。”

當先天免疫系統(tǒng)對病原體進行全面攻擊時，哺乳動物的免疫系統(tǒng)可以產(chǎn)生新的細胞來抵御特定的病原體。事實證明，受到大腦信息處理系統(tǒng)啟發(fā)的深度神經(jīng)網(wǎng)絡(luò)也可以利用這一生物過程。

計算醫(yī)學和生物信息學副教授、該研究的共同負責人Indika Rajapakse說：“免疫系統(tǒng)設(shè)計令人驚嘆，它總能找到解決方案。”

圖片來源：密歇根大學

RAILS通過模仿免疫系統(tǒng)的自然防御來識別并最終處理神經(jīng)網(wǎng)絡(luò)的可疑輸入。 起初為了開發(fā)，生物團隊對小鼠的適應(yīng)性免疫系統(tǒng)如何對抗原作出反應(yīng)進行了研究。該實驗使用了在B細胞上表達熒光標記的轉(zhuǎn)基因小鼠的組織。

該團隊通過將脾臟細胞與骨髓細胞一起培養(yǎng)，創(chuàng)建了一個免疫系統(tǒng)模型，代表了免疫系統(tǒng)的總部和要塞。該系統(tǒng)使生物團隊能夠跟蹤B細胞的發(fā)育，這開始便是一種試錯法來設(shè)計與抗原結(jié)合的受體。一旦B細胞聚集在一個解決方案上，它們就會產(chǎn)生漿B細胞以捕獲存在的所有抗原，并產(chǎn)生記憶B細胞以準備下一次攻擊。

當時的生物信息學博士生Stephen Lindsly對Rajapakse實驗室產(chǎn)生的信息進行了數(shù)據(jù)分析，并擔任生物學家和工程師之間的翻譯。Hero的團隊隨后在計算機上模擬了該生物過程，將生物機制融入代碼中。他們用對抗性輸入測試了RAILS防御。然后，他們將B細胞學習攻擊抗原的學習曲線與學習排除不良輸入的算法進行了比較。

Hero表示：“在我們將RAILS的學習曲線與從實驗中提取的曲線進行比較之前，我們不確定我們是否真的捕捉到了生物過程。”

RAILS不僅是一種有效的仿生學，而且優(yōu)于用于對抗對抗性攻擊的兩種最常見的機器學習過程：穩(wěn)健的深度k近鄰（Deep k-Nearest Neighbor）和卷積神經(jīng)網(wǎng)絡(luò)。

圖片來源：密歇根大學

主要負責軟件開發(fā)和實施的電氣和計算機工程研究員Ren Wang表示：“這項工作的重要部分是我們的通用框架可以防御不同類型的攻擊。”

研究人員使用圖像識別作為測試用例，針對多個數(shù)據(jù)集中的八種對抗性攻擊評估 RAILS。它在所有情況下都顯示出改進，包括防止最具破壞性的對抗性攻擊類型：投影梯度下降（Projected Gradient Descent）攻擊。此外，RAILS提高了整體精度。例如，它可以正確識別雞和鴕鳥的圖像，而此前其他系統(tǒng)會將這兩種圖像識別為貓和馬。

未來，Hero團隊將致力于把響應(yīng)時間從毫秒級縮短到微秒級。

返回第一電動網(wǎng)首頁 >