在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

人工智能:機(jī)器學(xué)習(xí)模型存在著對(duì)抗樣本的安全威脅

如意 ? 來(lái)源:中國(guó)保密協(xié)會(huì)科學(xué)技術(shù)分 ? 作者:中國(guó)保密協(xié)會(huì)科學(xué) ? 2020-08-27 16:10 ? 次閱讀

導(dǎo)語(yǔ)

近年來(lái),隨著人工智能的蓬勃發(fā)展,機(jī)器學(xué)習(xí)技術(shù)在網(wǎng)絡(luò)入侵檢測(cè)領(lǐng)域得到了廣泛的應(yīng)用。然而,機(jī)器學(xué)習(xí)模型存在著對(duì)抗樣本的安全威脅,導(dǎo)致該類網(wǎng)絡(luò)入侵檢測(cè)器在對(duì)抗環(huán)境中呈現(xiàn)出特定的脆弱性。本文主要概述由對(duì)抗樣本造成的逃逸攻擊,分為上下兩篇。上篇從基本概念出發(fā)介紹逃逸攻擊的工作機(jī)理,下篇?jiǎng)t介紹一些針對(duì)逃逸攻擊的防御措施。希望能讓讀者更清晰的認(rèn)知基于機(jī)器學(xué)習(xí)的網(wǎng)絡(luò)入侵檢測(cè)器所存在的安全風(fēng)險(xiǎn)。

當(dāng)網(wǎng)絡(luò)入侵檢測(cè)器遇到機(jī)器學(xué)習(xí)

網(wǎng)絡(luò)入侵檢測(cè)系統(tǒng)(Network Intrusion Detection System,NIDS)通過(guò)采集網(wǎng)絡(luò)流量等信息,發(fā)現(xiàn)被監(jiān)控網(wǎng)絡(luò)中違背安全策略、危及系統(tǒng)安全的行為,是一種重要的安全防護(hù)手段。面對(duì)日益復(fù)雜的網(wǎng)絡(luò)環(huán)境,傳統(tǒng)NIDS所存在的缺點(diǎn)日益突出,例如系統(tǒng)占用資源過(guò)多、對(duì)未知攻擊檢測(cè)能力差、需要人工干預(yù)等。在此背景下,研究人員迫切地探尋新的解決方案,并將目光投向了發(fā)展迅速的機(jī)器學(xué)習(xí)技術(shù)。基于機(jī)器學(xué)習(xí)的網(wǎng)絡(luò)入侵檢測(cè)器是將網(wǎng)絡(luò)入侵檢測(cè)的問(wèn)題建模成一個(gè)針對(duì)網(wǎng)絡(luò)流量的分類問(wèn)題,從而使用一些機(jī)器學(xué)習(xí)的方法精練出分類模型進(jìn)行分類預(yù)測(cè)。目前,多種機(jī)器學(xué)習(xí)算法,例如決策樹(shù)、支持向量機(jī)、深度神經(jīng)網(wǎng)絡(luò)等,被用于區(qū)分入侵流量和良性流量,并取得了良好的實(shí)驗(yàn)結(jié)果。

什么是對(duì)抗樣本

2013年,Szegedy等人首次在深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Network,DNN)中發(fā)現(xiàn)了對(duì)抗樣本,并引起了機(jī)器學(xué)習(xí)社區(qū)的廣泛討論。對(duì)抗樣本是指通過(guò)對(duì)原始的輸入樣本添加輕微的擾動(dòng)所產(chǎn)生的輸入樣本,該樣本與原始樣本相近,卻能夠在不改變機(jī)器學(xué)習(xí)分類模型的情況下,導(dǎo)致目標(biāo)模型輸出錯(cuò)誤的分類結(jié)果。事實(shí)上,從傳統(tǒng)的機(jī)器學(xué)習(xí)模型到深度學(xué)習(xí)模型,再到強(qiáng)化學(xué)習(xí)模型,都存在對(duì)抗樣本的問(wèn)題。鑒于目前機(jī)器學(xué)習(xí)技術(shù)已滲透到圖像識(shí)別、自然語(yǔ)言處理、惡意軟件檢測(cè)等多個(gè)領(lǐng)域,對(duì)抗樣本的發(fā)現(xiàn)為狂熱的機(jī)器學(xué)習(xí)應(yīng)用浪潮帶來(lái)了一定的沖擊。

逃逸攻擊

針對(duì)基于機(jī)器學(xué)習(xí)的NIDS,攻擊者可利用對(duì)抗樣本來(lái)逃逸NIDS對(duì)入侵流量的檢測(cè),這種攻擊被稱為逃逸攻擊(或?qū)箻颖竟簟?duì)抗攻擊等)。圖1展示了一種經(jīng)典的逃逸攻擊流程。NIDS部署在被保護(hù)網(wǎng)絡(luò)的邊界,通過(guò)提取數(shù)據(jù)包或網(wǎng)絡(luò)流的特征形成輸入樣本,然后利用機(jī)器學(xué)習(xí)分類模型來(lái)識(shí)別該樣本是否屬于入侵流量。在發(fā)動(dòng)逃逸攻擊時(shí),攻擊者首先捕獲入侵流量所形成的輸入樣本,通過(guò)一定的手段來(lái)生成對(duì)抗樣本,然后回放依據(jù)對(duì)抗樣本產(chǎn)生的入侵流量。由于機(jī)器學(xué)習(xí)分類模型的脆弱性,該流量被NIDS錯(cuò)誤分類成良性流量,從而到達(dá)受害網(wǎng)絡(luò)。

人工智能:機(jī)器學(xué)習(xí)模型存在著對(duì)抗樣本的安全威脅

圖1 一種逃逸攻擊示意圖

威脅模型

由攻擊者發(fā)起的逃逸攻擊可以從四個(gè)維度來(lái)刻畫(huà),分別是敵手知識(shí)、敵手能力、敵手目標(biāo)、攻擊策略。其中敵手知識(shí)是指攻擊者掌握目標(biāo)機(jī)器學(xué)習(xí)模型的背景信息量,包括模型的訓(xùn)練數(shù)據(jù)、特征集合、模型結(jié)構(gòu)及參數(shù)、學(xué)習(xí)算法及決策函數(shù)、目標(biāo)模型中可用的反饋信息等。根據(jù)敵手知識(shí),可將逃逸攻擊分為以下兩類:

(1)白盒攻擊。攻擊者在完全了解目標(biāo)模型的情況下發(fā)起攻擊。在此情況下,目標(biāo)模型的網(wǎng)絡(luò)架構(gòu)及參數(shù)值、為樣本提取的特征集合、使用的訓(xùn)練方法等信息都暴露給了攻擊者,另外在某些情況下還包括目標(biāo)模型所使用的訓(xùn)練數(shù)據(jù)集。

(2)黑盒攻擊。發(fā)起攻擊時(shí),攻擊者僅對(duì)目標(biāo)模型具有有限的知識(shí),例如攻擊者可獲取模型的輸入和輸出的格式和數(shù)值范圍,但是不知道機(jī)器學(xué)習(xí)模型的網(wǎng)絡(luò)架構(gòu)、訓(xùn)練參數(shù)和訓(xùn)練算法等。在此情況下,攻擊者一般通過(guò)傳入輸入數(shù)據(jù)來(lái)觀察輸出、判斷輸出與目標(biāo)模型進(jìn)行交互。

對(duì)逃逸攻擊而言,攻擊者可不具備操縱目標(biāo)模型、操縱目標(biāo)模型的訓(xùn)練數(shù)據(jù)的能力。但是敵手能力必須包括可操縱目標(biāo)模型的測(cè)試數(shù)據(jù),即攻擊者能夠?qū)τ糜跍y(cè)試模型的網(wǎng)絡(luò)流量進(jìn)行修改,這種修改可以在網(wǎng)絡(luò)流(Flow)層進(jìn)行也可以在數(shù)據(jù)包(Packet)層。對(duì)于逃逸攻擊,敵手目的是影響目標(biāo)機(jī)器學(xué)習(xí)模型的完整性(Integrity)。具體地講,逃逸攻擊的敵手目標(biāo)包括以下幾類:

(1)減小置信度:減小輸入分類的置信度,從而引起歧義。

(2)無(wú)目標(biāo)誤分類:將輸出分類更改為與原始類不同的任何類。

(3)有目標(biāo)的誤分類:強(qiáng)制將輸出分類為特定的目標(biāo)類。

(4)源到目的誤分類:強(qiáng)制將特定的輸入的輸出分類為特定的目標(biāo)類。

根據(jù)敵手知識(shí)和敵手目的將逃逸攻擊的威脅模型進(jìn)行整合,結(jié)果如圖2所示。可以看出,黑盒模式下的有目標(biāo)攻擊將會(huì)極大地增加攻擊難度。

人工智能:機(jī)器學(xué)習(xí)模型存在著對(duì)抗樣本的安全威脅

圖2 逃逸攻擊的威脅模型分類

常見(jiàn)的攻擊策略

逃逸攻擊的核心在于如何構(gòu)造能夠使機(jī)器學(xué)習(xí)模型產(chǎn)生誤分類的對(duì)抗樣本。針對(duì)基于機(jī)器學(xué)習(xí)的網(wǎng)絡(luò)入侵檢測(cè)器,目前研究人員已提出多種生成對(duì)抗樣本的方法,主要包括以下幾類:

(1)基于梯度的方法。該類方法僅適用于白盒攻擊。在圖像識(shí)別領(lǐng)域,Goodfellow等人[15]提出了快速梯度符號(hào)(FGSM)法,該方法假設(shè)攻擊者完全了解目標(biāo)模型,通過(guò)在梯度的反方向上添加擾動(dòng)增大樣本與原始樣本的決策距離,從而快速生成對(duì)抗樣本。隨后,改進(jìn)的方法例如PGD、BIM、JSMA等相繼被提出。在此基礎(chǔ)上,研究工作[1]-[6]都采用了這類方法來(lái)對(duì)修改網(wǎng)絡(luò)流層上特征,進(jìn)而生成針對(duì)網(wǎng)絡(luò)入侵檢測(cè)器的對(duì)抗樣本。

(2)基于優(yōu)化的方法。該類方法即存在于白盒攻擊又存在于黑盒攻擊。Szegedy等人[16]首次將尋找最小可能的攻擊擾動(dòng)轉(zhuǎn)化為一個(gè)優(yōu)化問(wèn)題,并提出使用L-BFGS來(lái)解決這個(gè)分析。這種方法攻擊成功率高,但計(jì)算成本也高。Carlini等人[17]對(duì)其進(jìn)行了改進(jìn),提出了攻擊效果更好的目標(biāo)函數(shù),并通過(guò)改變變量解決邊界約束問(wèn)題,被稱為C&W攻擊。研究工作[4]-[6]都采用了這種方法來(lái)生成攻擊NIDS的對(duì)抗樣本。此外,文獻(xiàn)[12][13]研究在黑盒模式下生成對(duì)抗樣本的問(wèn)題,同樣將其轉(zhuǎn)化為一種優(yōu)化問(wèn)題,并分別采用遺傳算法和粒子群算法來(lái)解決,從而快速搜索出對(duì)抗樣本。

(3)基于生成對(duì)抗網(wǎng)絡(luò)的方法。該類方法常見(jiàn)于發(fā)動(dòng)黑盒攻擊。研究工作[7]-[9]均建立生成對(duì)抗網(wǎng)絡(luò)(Generative Adversarial Network,GAN)來(lái)生成對(duì)抗樣本。一般地,目標(biāo)NIDS作為GAN的檢測(cè)器,GAN的生成器則用于產(chǎn)生對(duì)抗擾動(dòng),并且GAN檢測(cè)器對(duì)輸入樣本的預(yù)測(cè)得分將用來(lái)訓(xùn)練GAN的生成器。特別地,生成網(wǎng)絡(luò)一旦訓(xùn)練完畢,就可以有效地為任何樣本生成擾動(dòng)而不需要向目標(biāo)NIDS發(fā)送任何問(wèn)詢。

(3)基于決策的方法。該類方法適用于在黑盒模式下發(fā)動(dòng)攻擊。在真實(shí)的逃逸攻擊中,攻擊者很少能夠獲取目標(biāo)模型的預(yù)測(cè)值,針對(duì)目標(biāo)模型僅給出類別標(biāo)簽的情況,Peng等人[14]提出了改進(jìn)的邊界攻擊方法來(lái)生成DDoS攻擊的對(duì)抗樣本。該方法的主要思想是通過(guò)迭代地修改輸入樣本來(lái)逼近目標(biāo)模型的決策邊界。此外,研究工作[10]同樣采用基于決策的思想,借助有限的目標(biāo)NIDS的反饋,不斷的在數(shù)據(jù)包層次上或網(wǎng)絡(luò)流層次上修改NIDS的原始輸入樣本,從而生成逃逸的變異樣本。與其它方法相比,該類方法需要的模型信息更少、實(shí)用性更高,但是需要向目標(biāo)NIDS發(fā)送大量的問(wèn)詢,需要更高的攻擊代價(jià)。

小結(jié):

機(jī)器學(xué)習(xí)為網(wǎng)絡(luò)入侵檢測(cè)提供了新的解決思路,同時(shí)也帶來(lái)了新的安全隱患。在機(jī)器學(xué)習(xí)成為網(wǎng)絡(luò)安全利器的道路上,攻擊與防御之間博弈不斷升級(jí),“機(jī)器學(xué)習(xí)+網(wǎng)絡(luò)安全”的研究依然任重道遠(yuǎn)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    人工智能機(jī)器學(xué)習(xí)以及Edge AI的概念與應(yīng)用

    人工智能相關(guān)各種技術(shù)的概念介紹,以及先進(jìn)的Edge AI(邊緣人工智能)的最新發(fā)展與相關(guān)應(yīng)用。 人工智能機(jī)器學(xué)習(xí)是現(xiàn)代科技的核心技術(shù)
    的頭像 發(fā)表于 01-25 17:37 ?841次閱讀
    <b class='flag-5'>人工智能</b>和<b class='flag-5'>機(jī)器</b><b class='flag-5'>學(xué)習(xí)</b>以及Edge AI的概念與應(yīng)用

    生成式人工智能模型安全可信評(píng)測(cè)

    受到關(guān)注。但當(dāng)前大模型仍然面臨可信瓶頸,無(wú)法開(kāi)展大規(guī)模應(yīng)用。大模型安全可信受到高度關(guān)注,國(guó)內(nèi)外已經(jīng)有多項(xiàng)法規(guī)與標(biāo)準(zhǔn)快速制定并落地。本文以層次化的結(jié)構(gòu),構(gòu)建了生成式人工智能
    的頭像 發(fā)表于 01-22 13:55 ?923次閱讀
    生成式<b class='flag-5'>人工智能</b><b class='flag-5'>模型</b>的<b class='flag-5'>安全</b>可信評(píng)測(cè)

    《具身智能機(jī)器人系統(tǒng)》第10-13章閱讀心得之具身智能機(jī)器人計(jì)算挑戰(zhàn)

    章深入分析了DNN的安全威脅。逃逸攻擊通過(guò)向輸入數(shù)據(jù)添加人眼難以察覺(jué)的擾動(dòng),誘導(dǎo)模型做出錯(cuò)誤判斷。投毒攻擊則通過(guò)污染訓(xùn)練數(shù)據(jù)集,在模型學(xué)習(xí)
    發(fā)表于 01-04 01:15

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】+數(shù)據(jù)在具身人工智能中的價(jià)值

    嵌入式人工智能(EAI)將人工智能集成到機(jī)器人等物理實(shí)體中,使它們能夠感知、學(xué)習(xí)環(huán)境并與之動(dòng)態(tài)交互。這種能力使此類機(jī)器人能夠在人類社會(huì)中有效
    發(fā)表于 12-24 00:33

    嵌入式和人工智能究竟是什么關(guān)系?

    、連接主義和深度學(xué)習(xí)等不同的階段。目前,人工智能已經(jīng)廣泛應(yīng)用于各種領(lǐng)域,如自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、智能推薦等。 嵌入式系統(tǒng)和人工智能在許多方面都
    發(fā)表于 11-14 16:39

    具身智能機(jī)器學(xué)習(xí)的關(guān)系

    具身智能(Embodied Intelligence)和機(jī)器學(xué)習(xí)(Machine Learning)是人工智能領(lǐng)域的兩個(gè)重要概念,它們之間存在著
    的頭像 發(fā)表于 10-27 10:33 ?936次閱讀

    人工智能機(jī)器學(xué)習(xí)和深度學(xué)習(xí)存在什么區(qū)別

    人工智能指的是在某種程度上顯示出類似人類智能的設(shè)備。AI有很多技術(shù),但其中一個(gè)很大的子集是機(jī)器學(xué)習(xí)——讓算法從數(shù)據(jù)中學(xué)習(xí)
    發(fā)表于 10-24 17:22 ?2794次閱讀
    <b class='flag-5'>人工智能</b>、<b class='flag-5'>機(jī)器</b><b class='flag-5'>學(xué)習(xí)</b>和深度<b class='flag-5'>學(xué)習(xí)</b><b class='flag-5'>存在</b>什么區(qū)別

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    人工智能在科學(xué)研究中的核心技術(shù),包括機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等。這些技術(shù)構(gòu)成了AI for Science的基石,使得AI能夠處理和分析復(fù)雜的數(shù)據(jù)集,從而發(fā)現(xiàn)隱藏在數(shù)據(jù)中的模式和規(guī)
    發(fā)表于 10-14 09:16

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第一章人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得

    人工智能:科學(xué)研究的加速器 第一章清晰地闡述了人工智能作為科學(xué)研究工具的強(qiáng)大功能。通過(guò)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等先進(jìn)技術(shù),AI能夠處理和分析海量
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    RISC-V和Arm內(nèi)核及其定制的機(jī)器學(xué)習(xí)和浮點(diǎn)運(yùn)算單元,用于處理復(fù)雜的人工智能圖像處理任務(wù)。 四、未來(lái)發(fā)展趨勢(shì) 隨著人工智能技術(shù)的不斷發(fā)展和普及,RISC-V在
    發(fā)表于 09-28 11:00

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場(chǎng)可編程門(mén)陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個(gè)方面: 一、深度學(xué)習(xí)加速 訓(xùn)練和推理過(guò)程加速:FPGA可以用來(lái)加速深度學(xué)習(xí)的訓(xùn)練和推理過(guò)程。由于其高并行性和低延遲特性
    發(fā)表于 07-29 17:05

    人工智能模型在工業(yè)網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用

    隨著人工智能技術(shù)的飛速發(fā)展,人工智能模型作為一種具有強(qiáng)大數(shù)據(jù)處理能力和復(fù)雜模式識(shí)別能力的深度學(xué)習(xí)模型,已經(jīng)在多個(gè)領(lǐng)域展現(xiàn)了其獨(dú)特的優(yōu)勢(shì)和廣
    的頭像 發(fā)表于 07-10 14:07 ?1574次閱讀

    人工神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)機(jī)器學(xué)習(xí)模型的區(qū)別

    人工智能領(lǐng)域,機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)是兩個(gè)核心概念,它們各自擁有獨(dú)特的特性和應(yīng)用場(chǎng)景。雖然它們都旨在使計(jì)算機(jī)系統(tǒng)能夠自動(dòng)從數(shù)據(jù)中學(xué)習(xí)和提升,但它們?cè)诙鄠€(gè)方面
    的頭像 發(fā)表于 07-04 14:08 ?2527次閱讀

    人工智能機(jī)器學(xué)習(xí)和深度學(xué)習(xí)是什么

    在科技日新月異的今天,人工智能(Artificial Intelligence, AI)、機(jī)器學(xué)習(xí)(Machine Learning, ML)和深度學(xué)習(xí)(Deep Learning,
    的頭像 發(fā)表于 07-03 18:22 ?2565次閱讀

    人工智能深度學(xué)習(xí)的五大模型及其應(yīng)用領(lǐng)域

    隨著科技的飛速發(fā)展,人工智能(AI)技術(shù)特別是深度學(xué)習(xí)在各個(gè)領(lǐng)域展現(xiàn)出了強(qiáng)大的潛力和廣泛的應(yīng)用價(jià)值。深度學(xué)習(xí)作為人工智能的一個(gè)核心分支,通過(guò)模擬人腦神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和功能,實(shí)現(xiàn)了對(duì)復(fù)雜數(shù)據(jù)的自動(dòng)
    的頭像 發(fā)表于 07-03 18:20 ?6434次閱讀
    主站蜘蛛池模板: 日本黄色网址视频 | 黑人黑粗硬视频 | 欧美性白人极品1819hd高清 | 男女视频免费观看 | 黄频网站免费大全在线观看 | 岛国午夜精品视频在线观看 | 午夜色片 | 久久综合九九亚洲一区 | 国产色中色 | 啪啪免费视频 | 亚洲一区二区三区免费看 | 亚洲伦理中文字幕一区 | 亚洲日本精品 | 国产美女在线免费观看 | 日韩精品系列产品 | 亚洲成网777777国产精品 | 福利精品| 色色色色色色色色色色色 | 青草91| 激情五月综合 | 欧美白人极品性喷潮 | 欧美一区二区三区免费高 | 国内精品一级毛片免费看 | 男人的天堂色偷偷之色偷偷 | 国产伦精品一区二区三区网站 | 人人干人人模 | 成人永久免费视频网站在线观看 | 男人j进女人j的一进一出视频 | 波多野结衣中文字幕教师 | 天天视频观看 | 久久看精品 | 91av在线视频观看 | 深点再深一点好爽好多水 | 一级三级黄色片 | 欧美成人午夜 | 啪啪调教所29下拉式免费阅读 | 一区二区三区福利 | 狠狠干天天 | 又粗又长又大真舒服好爽漫画 | 久久这里只有精品任你色 | 深夜一级毛片 |