人工智能領(lǐng)域涉及的安全問(wèn)題較多，如國(guó)家安全、社會(huì)安全、人的安全，還包括一些倫理問(wèn)題和隱私問(wèn)題。人工智能主要是基于信息基礎(chǔ)構(gòu)建的一些應(yīng)用，它離不開(kāi)信息的采集、存儲(chǔ)、分析、傳播。同時(shí)，人工智能領(lǐng)域的思想、方法、理論對(duì)信息安全也有很多的應(yīng)用。

1、信息安全的基本要求

******曾經(jīng)說(shuō)過(guò)，沒(méi)有網(wǎng)絡(luò)安全就沒(méi)有國(guó)家安全，沒(méi)有信息化就沒(méi)有現(xiàn)代化。這充分表達(dá)出了信息化與現(xiàn)代化、信息安全與國(guó)家安全的關(guān)系。同時(shí)，從新技術(shù)，比如“互聯(lián)網(wǎng)+”、物聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)到區(qū)塊鏈等新技術(shù)的進(jìn)一步發(fā)展，都要以信息技術(shù)為引導(dǎo)，人工智能也是如此，通過(guò)一系列技術(shù)的創(chuàng)新，最終才能真正發(fā)展國(guó)家經(jīng)濟(jì)，提升國(guó)家綜合實(shí)力。從這個(gè)意義上說(shuō)，沒(méi)有信息化就沒(méi)有現(xiàn)代化，包括人工智能在內(nèi)的新技術(shù)的發(fā)展，都需要以信息技術(shù)為主導(dǎo)。

信息化是一個(gè)雙刃劍，帶來(lái)很多便利的同時(shí)，也出現(xiàn)了很多安全問(wèn)題，因此應(yīng)當(dāng)把信息安全提高到國(guó)家安全重要組成部分的高度。保密性、完整性、可用、可控和不可抵賴性是信息安全的五個(gè)基本屬性。信息安全要實(shí)現(xiàn)的目標(biāo)是，對(duì)信息的使用和處理均經(jīng)過(guò)所有權(quán)人的授權(quán)、嚴(yán)格按所有權(quán)人要求、真實(shí)地順暢地合理地進(jìn)行。要經(jīng)過(guò)所有權(quán)人授權(quán)，主要是指身份識(shí)別問(wèn)題，身份是有所有權(quán)的，要經(jīng)過(guò)授權(quán)對(duì)信息進(jìn)行使用；在使用中是可讀、可寫(xiě)還是可改，就需要按照授權(quán)人的授權(quán)要求進(jìn)行；真實(shí)指信息的使用要真實(shí)，不是經(jīng)過(guò)篡改或者偽造的，要保證其真實(shí)性；順暢是指在信息使用過(guò)程中，能夠保證信息系統(tǒng)能夠正常使用；合理性就是要理性使用，主要是對(duì)信息的管控，如要對(duì)有害信息進(jìn)行有效治理。

信息的采集、傳輸、存儲(chǔ)、管理以及信息的處理和使用等環(huán)節(jié)中，都會(huì)涉及到安全問(wèn)題。

信息采集主要是指控制問(wèn)題，如是不是按照真實(shí)情況進(jìn)行采集？采集數(shù)據(jù)過(guò)程中是不是是否嚴(yán)格遵守規(guī)定？

信息傳輸中要有效地進(jìn)行保護(hù)，做好保密工作，要保證它的真實(shí)性不被篡改，保證傳輸過(guò)程的可靠性，能夠抗干擾。

信息存儲(chǔ)和管理，強(qiáng)調(diào)的是真實(shí)性和保密性，不會(huì)被篡改，不會(huì)被濫用。以后，很多的信息都會(huì)放在云上面，那么要如何保證個(gè)人信息的安全呢？要知道云的管理者是不可信的，每個(gè)用戶的信息對(duì)他也要進(jìn)行保密，因此說(shuō)云的安全或大數(shù)據(jù)的安全，只是指存儲(chǔ)和管理方面的安全。

那么在信息處理和使用中，就會(huì)存在另外一個(gè)問(wèn)題，就是怎樣進(jìn)行身份識(shí)別和權(quán)限的有效管理？最后，處理的結(jié)果要進(jìn)行簽名，保證它的真實(shí)性，同時(shí)可以對(duì)信息使用的整個(gè)生命周期進(jìn)行追溯。

總之，信息安全不僅僅是在于信息本身的安全，信息的作用也不僅僅只是針對(duì)設(shè)備而言，它甚至延展到了人的身上，因此提高信息的安全性顯得尤為重要。

2、人工智能應(yīng)用的信息技術(shù)體系

當(dāng)前社會(huì)引發(fā)了一輪又一輪的人工智能熱潮，很多都是由于數(shù)據(jù)驅(qū)動(dòng)，正是在云計(jì)算、大數(shù)據(jù)等技術(shù)的發(fā)展下，人工智才有了一次又一次的飛躍。所以數(shù)據(jù)的安全、信息的安全貫穿著人工智能應(yīng)用的過(guò)程中。

人工智能大體分為幾個(gè)層面。

（1）感知層，各類傳感器采集各類信息，也就是信息的采集，這涉及到很多安全問(wèn)題。

（2）傳輸層，采集過(guò)程要進(jìn)行處理，進(jìn)行反作用，靠的是基礎(chǔ)網(wǎng)絡(luò)，涉及到傳輸過(guò)程的安全。

（3）數(shù)據(jù)層，可能進(jìn)行數(shù)據(jù)匯聚，通過(guò)大量數(shù)據(jù)的分析和協(xié)同，來(lái)產(chǎn)生新的知識(shí)和價(jià)值。

（4）應(yīng)用層，也就是服與控制，提供服務(wù)，對(duì)終端進(jìn)行反控制，類似一個(gè)循環(huán)吧，一個(gè)有機(jī)的循環(huán)回路。

3、人工智能應(yīng)用的安全需求

人工智能的每一層都涉及到安全問(wèn)題和數(shù)據(jù)安全問(wèn)題。在身份識(shí)別認(rèn)證中，人和設(shè)備是不是可信的，是不是有正當(dāng)權(quán)限的人和設(shè)備。數(shù)據(jù)保護(hù)中，不管是傳輸還是存儲(chǔ)過(guò)程，都要保證數(shù)據(jù)的可控性、真實(shí)性和可追溯。如果數(shù)據(jù)在傳輸或存儲(chǔ)過(guò)程中被篡改了，那到最后通過(guò)算法推導(dǎo)出的結(jié)果，也必然是不真實(shí)和不可信的。

但在這個(gè)過(guò)程中也存在一個(gè)問(wèn)題，保證數(shù)據(jù)能夠進(jìn)行有效地匯聚，既要保證數(shù)據(jù)所有者的權(quán)益，同時(shí)又能夠通過(guò)這種大數(shù)據(jù)的匯聚產(chǎn)生價(jià)值，在可控的范圍之內(nèi)，這里的安全問(wèn)題也是現(xiàn)在研究的重點(diǎn)和難點(diǎn)。

4、人工智能應(yīng)用的安全建設(shè)

安全問(wèn)題在重視應(yīng)用的同時(shí)也要考慮到安全和應(yīng)用建設(shè)的同步發(fā)展。

政府要主導(dǎo)，在人工智能應(yīng)用中深入分析安全需求，進(jìn)行頂層的設(shè)計(jì)，提出安全要求；加強(qiáng)安全制度建設(shè)，建立安全準(zhǔn)入制度和檢測(cè)評(píng)估方法、機(jī)制。

企業(yè)應(yīng)該從感知、傳輸、分析協(xié)同、服務(wù)控制等方面建立一些安全標(biāo)準(zhǔn)。同時(shí)既要重視機(jī)制的保障還要重視技術(shù)的保障，使人工智能的應(yīng)用和網(wǎng)絡(luò)安全建設(shè)同步發(fā)展。

5、需要關(guān)注的網(wǎng)絡(luò)安全技術(shù)

（1）身份識(shí)別和生物特征識(shí)別。身份識(shí)別的核心是密碼技術(shù)，但對(duì)于輕量級(jí)設(shè)備、便攜的智能設(shè)備而言，它們的計(jì)算能力還較弱，使用成熟的密碼技術(shù)會(huì)存在一些問(wèn)題，這需要對(duì)原來(lái)的身份識(shí)別進(jìn)行改造。生物特征識(shí)別也是如此，目前的生物識(shí)別技術(shù)還沒(méi)有建立一個(gè)安全的邏輯鏈條。

（2）移動(dòng)安全。現(xiàn)在各種智能應(yīng)用的終端主要以手機(jī)為主，手機(jī)與PC機(jī)相比更不安全，因?yàn)槭謾C(jī)更便捷、成本低、更新快，所以安全隱患更多，更難解決，建立體系建立難度更大。

（3）大數(shù)據(jù)安全。大數(shù)據(jù)安全比一般意義上的云安全難度更大，云安全主要是用戶信息是放在云上，僅供用戶使用，同時(shí)云的管理者是不能看到用戶的信息。而大數(shù)據(jù)安全相對(duì)來(lái)說(shuō)更加復(fù)雜，它是將很多用戶的數(shù)據(jù)都放在云上，將不同用戶的信息進(jìn)行融合處理，每個(gè)用戶需要自己進(jìn)行加密，否則無(wú)法保證數(shù)據(jù)的安全，但是加密之后如何讓其他人使用，或在一定限度內(nèi)實(shí)現(xiàn)共享，既要加密保護(hù)，又要能夠有效地進(jìn)行數(shù)據(jù)的融合和利用，這是很難解決的問(wèn)題，同時(shí)也涉及到加密檢索，保證數(shù)據(jù)的完整性，安全的計(jì)算外包。

（4）系統(tǒng)脆弱性。目前網(wǎng)絡(luò)攻防態(tài)勢(shì)非常嚴(yán)峻，主要就是是利用信息系統(tǒng)，要知道現(xiàn)在的信息系統(tǒng)還不完善，具有脆弱性，將來(lái)人工智能應(yīng)用也是一個(gè)程序、一段代碼，如果出現(xiàn)嚴(yán)重漏洞，就會(huì)被惡意代碼取得它的控制權(quán)，帶來(lái)極大的危害，所以系統(tǒng)的脆弱性也是網(wǎng)絡(luò)安全非常重要的問(wèn)題之一。

6、網(wǎng)絡(luò)安全中的人工智能

人工智能在網(wǎng)絡(luò)安全領(lǐng)域也得到越來(lái)越多的應(yīng)用，它在主動(dòng)安全防護(hù)、主動(dòng)防御、策略配置方面發(fā)揮的作用越來(lái)越大，但是當(dāng)前仍舊處于探索階段。比如基于神經(jīng)網(wǎng)絡(luò)，在入侵檢測(cè)、識(shí)別垃圾郵件、發(fā)現(xiàn)蠕蟲(chóng)病毒、偵測(cè)和清除僵尸網(wǎng)絡(luò)設(shè)備、發(fā)現(xiàn)和阻斷未知類型惡意軟件執(zhí)行等方面進(jìn)行了大量的探索；基于專家系統(tǒng)，在安全規(guī)劃、提高安全運(yùn)行中心效率、量化風(fēng)險(xiǎn)評(píng)估、威脅情報(bào)等方面也做了很多探索，收到了良好的效果。

人工智能技術(shù)的蓬勃發(fā)展，也必然對(duì)網(wǎng)絡(luò)空間安全帶來(lái)重大的機(jī)遇和挑戰(zhàn)。