電子發(fā)燒友網(wǎng)>電子資料下載>電子資料>機(jī)器學(xué)習(xí)是否會(huì)向黑客開放您的工業(yè)系統(tǒng)？

機(jī)器學(xué)習(xí)是否會(huì)向黑客開放您的工業(yè)系統(tǒng)？

2512806 2022-11-25 | pdf | 193.97KB | 次下載 | 免費(fèi)

資料介紹

每種計(jì)算方法都會(huì)帶來自身的安全挑戰(zhàn)，機(jī)器學(xué)習(xí) (ML) 也不例外。幸運(yùn)的是，這部分人工智能 (AI) 中的漏洞是可以預(yù)見的。然而，不幸的是，它們不是很容易被發(fā)現(xiàn)。每種計(jì)算方法都會(huì)帶來自身的安全挑戰(zhàn)，機(jī)器學(xué)習(xí) (ML) 也不例外。幸運(yùn)的是，這部分人工智能 (AI) 中的漏洞是可以預(yù)見的。然而，不幸的是，它們不是很容易被發(fā)現(xiàn)。當(dāng)我們考慮涉及的大量數(shù)據(jù)、數(shù)據(jù)的精細(xì)粒度以及機(jī)器學(xué)習(xí)在進(jìn)行過程中學(xué)習(xí)和改進(jìn)的事實(shí)時(shí)，挑戰(zhàn)就在于此。機(jī)器學(xué)習(xí)處理來自人類無法察覺的模式的數(shù)據(jù)，這既是一種資產(chǎn)，也是一種弱點(diǎn)。當(dāng)我們考慮涉及的大量數(shù)據(jù)、數(shù)據(jù)的精細(xì)粒度以及機(jī)器學(xué)習(xí)在進(jìn)行過程中學(xué)習(xí)和改進(jìn)的事實(shí)時(shí)，挑戰(zhàn)就在于此。機(jī)器學(xué)習(xí)處理來自人類無法察覺的模式的數(shù)據(jù)，這既是一種資產(chǎn)，也是一種弱點(diǎn)。人工智能的每個(gè)領(lǐng)域都產(chǎn)生了高效率、高質(zhì)量，而且往往是前所未有的創(chuàng)新。例如，在制造過程中，人工智能可以很容易地發(fā)現(xiàn)和糾正問題，而基于人工智能的安全方法可以保護(hù)所涉及的過程。人工智能的每個(gè)領(lǐng)域都產(chǎn)生了高效率、高質(zhì)量，而且往往是前所未有的創(chuàng)新。例如，在制造過程中，人工智能可以很容易地發(fā)現(xiàn)和糾正問題，而基于人工智能的安全方法可以保護(hù)所涉及的過程。機(jī)器學(xué)習(xí)通過訓(xùn)練算法“學(xué)習(xí)”并確定情況的可能結(jié)果，而深度學(xué)習(xí) (DL) 是 AI 的另一個(gè)子集，算法使軟件能夠自我訓(xùn)練以執(zhí)行任務(wù)。在這種情況下，多層神經(jīng)網(wǎng)絡(luò)暴露于數(shù)百萬(wàn)個(gè)數(shù)據(jù)點(diǎn)，反映了人腦識(shí)別模式、分類和澄清信息的能力。機(jī)器學(xué)習(xí)通過訓(xùn)練算法“學(xué)習(xí)”并確定情況的可能結(jié)果，而深度學(xué)習(xí) (DL) 是 AI 的另一個(gè)子集，算法使軟件能夠自我訓(xùn)練以執(zhí)行任務(wù)。在這種情況下，多層神經(jīng)網(wǎng)絡(luò)暴露于數(shù)百萬(wàn)個(gè)數(shù)據(jù)點(diǎn)，反映了人腦識(shí)別模式、分類和澄清信息的能力。機(jī)器學(xué)習(xí)中的漏洞機(jī)器學(xué)習(xí)中的漏洞那么，回到手頭的問題。機(jī)器學(xué)習(xí)是否會(huì)向黑客開放您的工業(yè)系統(tǒng)？答案是，沒有什么是萬(wàn)無一失的，尤其是快速發(fā)展的技術(shù)。也就是說，機(jī)器學(xué)習(xí)/深度學(xué)習(xí)系統(tǒng)既有設(shè)計(jì)良好的，也有設(shè)計(jì)不良的，因此有些系統(tǒng)比其他系統(tǒng)更容易受到黑客攻擊。那么，回到手頭的問題。機(jī)器學(xué)習(xí)是否會(huì)向黑客開放您的工業(yè)系統(tǒng)？答案是，沒有什么是萬(wàn)無一失的，尤其是快速發(fā)展的技術(shù)。也就是說，機(jī)器學(xué)習(xí)/深度學(xué)習(xí)系統(tǒng)既有設(shè)計(jì)良好的，也有設(shè)計(jì)不良的，因此有些系統(tǒng)比其他系統(tǒng)更容易受到黑客攻擊。Gartner 預(yù)測(cè)，到 2025 年，機(jī)器學(xué)習(xí)將成為每個(gè)安全解決方案的一部分。與此同時(shí)，需要處理的安全漏洞正在成倍增加。有效努力的例子包括谷歌使用機(jī)器學(xué)習(xí)阻止了大約 99% 的垃圾郵件。據(jù)稱，IBM 的 Watson 在 2017 年阻止了 2 億次針對(duì)溫布爾登網(wǎng)球公開賽的網(wǎng)絡(luò)攻擊。機(jī)器學(xué)習(xí)算法在保護(hù)基于云的平臺(tái)和分析可疑活動(dòng)（包括登錄和其他異常）方面發(fā)揮著重要作用。Gartner 預(yù)測(cè)，到 2025 年，機(jī)器學(xué)習(xí)將成為每個(gè)安全解決方案的一部分。與此同時(shí)，需要處理的安全漏洞正在成倍增加。有效努力的例子包括谷歌使用機(jī)器學(xué)習(xí)阻止了大約 99% 的垃圾郵件。據(jù)稱，IBM 的 Watson 在 2017 年阻止了 2 億次針對(duì)溫布爾登網(wǎng)球公開賽的網(wǎng)絡(luò)攻擊。機(jī)器學(xué)習(xí)算法在保護(hù)基于云的平臺(tái)和分析可疑活動(dòng)（包括登錄和其他異常）方面發(fā)揮著重要作用。最常用的攻擊模式是一種對(duì)抗性技術(shù)，它試圖通過惡意輸入來滲透模型，使模型出錯(cuò)。當(dāng)出現(xiàn)包含微妙但惡意制作的數(shù)據(jù)的新輸入時(shí)，模型將表現(xiàn)不佳，但模型的統(tǒng)計(jì)性能可能不會(huì)受到影響。機(jī)器學(xué)習(xí)模型也可以通過以下方式受到攻擊：最常用的攻擊模式是一種對(duì)抗性技術(shù)，它試圖通過惡意輸入來滲透模型，使模型出錯(cuò)。當(dāng)出現(xiàn)包含微妙但惡意制作的數(shù)據(jù)的新輸入時(shí)，模型將表現(xiàn)不佳，但模型的統(tǒng)計(jì)性能可能不會(huì)受到影響。機(jī)器學(xué)習(xí)模型也可以通過以下方式受到攻擊：損害誠(chéng)信是其中之一。如果 ML 模型沒有過濾掉一個(gè)或多個(gè)負(fù)面案例并且它們偷偷溜過系統(tǒng)，它可能會(huì)被黑客入侵。