“過去這些年，我們在信息技術(shù)領(lǐng)域最大的一個經(jīng)驗教訓(xùn)，就是關(guān)鍵核心技術(shù)必須靠自己自主創(chuàng)新來解決，不能靠買、靠換。”計算機(jī)專家倪光南院士近日在2019世界人工智能大會上接受專訪時表示。

盡管在應(yīng)用、芯片等角度上發(fā)力，也會令AI產(chǎn)生更多價值，但他認(rèn)為，國內(nèi)必須在算法突破上投入更多的力氣。

這位1939年出生的中國工程院院士曾參與研制中國自行設(shè)計的第一臺電子管計算機(jī)（119機(jī)），在上世紀(jì)六、七十年代開展?jié)h字處理和字符識別研究，首創(chuàng)在漢字輸入中應(yīng)用聯(lián)想功能。

從1995年至今，倪光南就不遺余力地呼吁中國發(fā)展IT核心技術(shù)，特別是自主操作系統(tǒng)和國產(chǎn)CPU。如今，“技工貿(mào)”和“貿(mào)工技”之爭，歷史似乎已經(jīng)給出了答案。他相信，中國如今會在人工智能領(lǐng)域吸取歷史教訓(xùn)，下更大的決心實現(xiàn)突破。

人工智能安全超越軟硬件問題

在此次大會上，倪光南參與了世界人工智能安全高端對話。在他看來，自主可控是網(wǎng)絡(luò)安全的關(guān)鍵，必須在質(zhì)量測評、安全測評的基礎(chǔ)上增加自主可控測評。

這一套標(biāo)準(zhǔn)，可能也同樣適用于人工智能時代的安全問題，即通過建立一些要素準(zhǔn)則，評估人工智能相關(guān)產(chǎn)品、服務(wù)、技術(shù)、系統(tǒng)的安全可控。

“這樣有個好處，是在網(wǎng)絡(luò)安全的基礎(chǔ)上再上一個臺階，不是另起爐灶，從零開始。”他說道。

那么，在繼承網(wǎng)絡(luò)安全的基礎(chǔ)上，AI時代的安全問題表現(xiàn)出哪些新的特征？倪光南從演化的角度看待這個話題。

傳統(tǒng)安全考慮的是人和物之間的關(guān)系，網(wǎng)絡(luò)安全則涉及到人和人之間的攻防關(guān)系。“所以我們在網(wǎng)絡(luò)安全上要強(qiáng)調(diào)自主可控，假如你無法自主可控，對方就可以利用漏洞從后門攻擊，這是在傳統(tǒng)安全上更進(jìn)了一步。”

進(jìn)入到人工智能時代，我們還需要面對人和人工智能的關(guān)系。AI的安全可控由此也超越了單純的技術(shù)問題。例如，用交互過程訓(xùn)練聊天機(jī)器人時，一些機(jī)器人會出現(xiàn)“學(xué)壞”、“罵人”的情況，甚至變成一個“種族主義者”。

“這些機(jī)器人在軟件和硬件上都不應(yīng)該有問題，但在學(xué)習(xí)過程之中出現(xiàn)了更復(fù)雜的情況。”倪光南說道。這是過去從未考慮過的問題，需要各方面的深入研究。

此外，深度學(xué)習(xí)還有透明性問題。“人工智能識別圖片可能比人更準(zhǔn)確，但我們不知道為什么這么好；人類棋手下每步棋都有解釋，但AI就做不出解釋。”無法解釋為什么好，就無法避免不好的情況。針對一些人臉識別系統(tǒng)，黑客畫上一條簡單的線就能迷惑AI，利用很小的干擾造成AI的失誤。

倪光南總結(jié)道，人工智能帶來了一種全新的安全類型，可能在制度設(shè)計和方法論上都需要有個說法。

關(guān)于AI安全，另一個廣為關(guān)注的話題是AI是否會造成大規(guī)模失業(yè)。倪光南認(rèn)為，機(jī)器相對于人類有兩個最大的優(yōu)勢。其一是在某些特定領(lǐng)域上打敗人類會成為常態(tài)。其二就是機(jī)器的智能很容易疊加和擴(kuò)大，而100個人的智慧加起來就未必比一個人更強(qiáng)。

但他相信，在大量簡單勞動被人工智能取代之后，依然需要一大批工程師去使用和維護(hù)這些機(jī)器，人類從而能在新增的工作崗位上發(fā)揮更高價值的作用。

歷史教訓(xùn)賦予更大的決心

那么，中國的人工智能研究與產(chǎn)業(yè)未來要實現(xiàn)安全、健康的發(fā)展，最重要的發(fā)力點在哪里？倪光南認(rèn)為算法仍是一個核心問題。

眼下這一波人工智能的新熱潮，有三個公認(rèn)的因素發(fā)揮了主要作用：數(shù)據(jù)、算力和算法。倪光南認(rèn)為，其中最關(guān)鍵的是深度學(xué)習(xí)的出現(xiàn)在算法上實現(xiàn)了突破，將人工智能一下子提升到新的階段。

在短期內(nèi)，可以預(yù)見很多公司會首先從應(yīng)用著手。“應(yīng)用門檻低，容易做，這也是很正常的。中國市場很大，在這方面具有優(yōu)勢，傳統(tǒng)產(chǎn)業(yè)引入人工智能能夠加速升級改造，”倪光南說道，“但我們還需要投入更大的力氣，從關(guān)鍵核心技術(shù)方面進(jìn)行突破，爭取更大的前途。”

“包括現(xiàn)在很熱的人工智能芯片，很多家都能做，當(dāng)然也有好壞差別。但這個差別在都是用硬件去加速算法，沒有在根本上突破算法本身。”倪光南評價道。

“過去這些年，我們在信息技術(shù)領(lǐng)域最大的一個經(jīng)驗教訓(xùn)，就是關(guān)鍵核心技術(shù)必須靠自己自主創(chuàng)新來解決，不能靠買、靠換。”他總結(jié)道。

不過，比起當(dāng)年薄弱的基礎(chǔ)和分歧的思想，倪光南相信中國現(xiàn)在國力更強(qiáng)，突破關(guān)鍵核心技術(shù)的認(rèn)識也更為深刻。“大家在人工智能領(lǐng)域會借鑒過去的經(jīng)驗，下更大決心，縮短追趕的過程。”