圖：瑞萊智慧科技公司副總裁 唐家渝

12月27日，在深圳會展中心舉辦的第十八屆中國國際社會公共安全博覽會上，來自清華人工智能研究院的官方產(chǎn)學(xué)研機構(gòu)瑞萊智慧科技公司的副總裁唐家渝接受電子發(fā)燒友專訪，就瑞萊智慧公司的市場定位是什么？瑞萊智慧安全AI領(lǐng)域的旗艦產(chǎn)品如何助力智能企業(yè)做好安全防護(hù)？帶來了精彩的市場前瞻和產(chǎn)品分析。

應(yīng)對嚴(yán)峻的安全挑戰(zhàn)，瑞萊智慧建立獨辟蹊徑的商業(yè)定位

2018年7月，瑞萊智慧RealAI公司成立，它是清華大學(xué)人工智能研究院發(fā)起成立的科技成果轉(zhuǎn)化企業(yè)，是全球領(lǐng)先的安全可控人工智能基礎(chǔ)設(shè)施和解決方案提供商。團隊由中國科學(xué)院院士、清華大學(xué)人工智能研究院名譽院長張鈸和清華大學(xué)計算機系教授朱軍共同擔(dān)任首席科學(xué)家，清華大學(xué)計算機系博士田天出任CEO。團隊博士占比超30%，累計獲得各項知識產(chǎn)權(quán)百余項，授權(quán)發(fā)明專利近五十項。

圖：瑞萊智慧安博會展臺

瑞萊智慧副總裁唐家渝表示，伴隨規(guī)模化建設(shè)和應(yīng)用加速發(fā)展，保證人工智能“安全、可靠、可控”成為其未來發(fā)展最重要的趨勢。瑞萊智慧聚焦安全、可控的人工智能基礎(chǔ)設(shè)施建設(shè)。圍繞這一戰(zhàn)略定位，瑞萊智慧首先在底層技術(shù)上發(fā)展第三代人工智能新范式。

據(jù)悉，清華大學(xué)人工智能研究院院長、中國科學(xué)院院士張鈸教授最早提出發(fā)展“第三代人工智能”。他認(rèn)為，第三代 AI 發(fā)展的思路是把第一代的知識驅(qū)動和第二代的數(shù)據(jù)驅(qū)動結(jié)合起來，通過利用知識、數(shù)據(jù)、算法和算力等4個要素，構(gòu)造更強大的 AI，建立新的可解釋和魯棒的AI 理論與方法，發(fā)展安全、可信、可靠和可擴展的 AI 技術(shù)，這是發(fā)展 AI 的必經(jīng)之路。

其次在核心業(yè)務(wù)上，瑞萊智慧聚焦三大方向：首先算法可靠，基于世界領(lǐng)先的對抗攻防技術(shù)檢測算法漏洞，提供防御加固，進(jìn)一步提升AI系統(tǒng)安全性。其次數(shù)據(jù)安全，針對AI落地過程中可能引發(fā)的隱私數(shù)據(jù)泄漏等問題，采用隱私計算等新興技術(shù)手段，實現(xiàn)數(shù)據(jù)可用不可見，保障數(shù)據(jù)的安全流通和使用；最后針對AI換臉等技術(shù)濫用現(xiàn)象，開發(fā)相應(yīng)的檢測工具，引導(dǎo)技術(shù)的可控應(yīng)用。

唐家渝表示，人工智能應(yīng)用是集算法、數(shù)據(jù)、業(yè)務(wù)于一體的有機整體，涉及訓(xùn)練、檢驗、運行等生命周期階段，所以應(yīng)面向所有關(guān)鍵流程和要素，布局全面且有針對性地應(yīng)對措施。同時他表示，隨著公眾對于AI安全性的關(guān)注度提升，以及監(jiān)管政策的出臺和引導(dǎo)，未來AI行業(yè)將進(jìn)入發(fā)展與治理協(xié)同的新階段，如何保證AI應(yīng)用的安全性是一個重要命題，安全AI這一新興領(lǐng)域?qū)⒑芸煊瓉肀l(fā)。

AI安全防火墻+AI殺毒軟件 兩大旗艦產(chǎn)品展示

“今年比較出圈的一件事情是，我們通過一幅對抗樣本圖像可以解鎖多種多樣的人臉識別系統(tǒng)，無論是安防門禁、考勤系統(tǒng)和手機刷臉解鎖都可以攻破。”唐家渝解釋道，“數(shù)據(jù)驅(qū)動”的深度學(xué)習(xí)算法存在不可靠、不可解釋等局限性，即便是開發(fā)者也難以理解其內(nèi)在的運行邏輯，這就導(dǎo)致系統(tǒng)可能遭受到難以被察覺的惡意攻擊。

記者在走訪瑞萊智慧的展臺時，一件AI版“隱身衣”引人矚目。瑞萊智慧開發(fā)的這款特制T恤，衣服上印刷了特定的圖案，能夠讓識別算法出錯、捕捉不到目標(biāo)，人一旦穿上便可以實現(xiàn)“隱身”。據(jù)介紹，衣服上看似奇怪的圖案就是針對算法漏洞生成的“對抗樣本”圖案，能夠誤導(dǎo)識別算法使其出錯。

圖：AI版“隱身衣”演示

除此，還有更多新型攻擊手段出現(xiàn)。唐家渝補充道，“一些黑產(chǎn)分子通過不法手段采集到人臉識別信息數(shù)據(jù)后，用AI算法驅(qū)動它生成各種各樣的表情，這樣的圖像可以成功地攻破某些銀行的APP，攻破人臉識別系統(tǒng)，后續(xù)的登錄操作、轉(zhuǎn)帳操作都可以正常進(jìn)行，這也是數(shù)據(jù)泄漏很直觀的風(fēng)險所在。”

為了抵御類似的攻擊，瑞萊智慧研發(fā)了業(yè)內(nèi)首個AI安全防火墻系統(tǒng)，通過集成多項國際領(lǐng)先的對抗防御算法，能夠有效檢測和抵御對抗樣本攻擊和AI換臉等新型攻擊風(fēng)險，實現(xiàn)人臉識別、目標(biāo)檢測等計算機視覺場景的安全加固升級，可用于安防門禁、人臉身份核驗、人臉解鎖等場景的安全防護(hù)，大幅提升人工智能系統(tǒng)的安全性。

除此，瑞萊智慧推出了業(yè)內(nèi)首個業(yè)務(wù)級人工智能安全平臺RealSafe，提供模型安全性測評及防御加固的端到端解決方案，類似于AI系統(tǒng)的殺毒軟件。相較于IBM ART、Google CleverHans等開源工具，該平臺開箱即用，無需具備專業(yè)的算法安全知識和研發(fā)經(jīng)驗，同時首創(chuàng)黑盒測評，支持在被測方不暴露被測AI模型參數(shù)等信息的情況下進(jìn)行測評，優(yōu)勢顯著。

“這是深度學(xué)習(xí)算法存在的結(jié)構(gòu)性缺陷，刷臉支付、刷臉解鎖等人臉識別應(yīng)用，智能手機、智能閘機，以及線上APP、第三方支付平臺等智能系統(tǒng)均面臨對抗樣本攻擊、數(shù)據(jù)投毒等攻擊威脅。為此，瑞萊智慧基于RealSafe平臺，能夠全面挖掘模型漏洞，從根本上發(fā)掘并解決可能影響業(yè)務(wù)正常運行的安全漏洞。” 唐家渝重點介紹道。

談及兩大產(chǎn)品的不同之處，唐家渝表示，AI防火墻是通過檢測外部訪問、輸入數(shù)據(jù)、行為決策等抵御安全風(fēng)險，人工智能安全平臺則是為算法模型進(jìn)行全面的體檢并提出改進(jìn)方案，從根本上提升系統(tǒng)安全性。

截止目前，瑞萊智慧AI產(chǎn)品和解決方案已經(jīng)在政務(wù)、金融、能源、互聯(lián)網(wǎng)等領(lǐng)域落地，服務(wù)于中國石油、中國電建、長安汽車、浦發(fā)銀行等在內(nèi)的數(shù)十家大型企業(yè)機構(gòu)。最后，唐家渝表示，信息領(lǐng)域的安全是攻防博弈的過程，安全AI也同樣如此，需要不斷升級算法，更快一步的發(fā)現(xiàn)和抵御住新型風(fēng)險。未來，瑞萊智慧將持續(xù)聚焦于國際領(lǐng)先的AI安全攻防技術(shù)研發(fā)和產(chǎn)業(yè)化實踐，護(hù)航智能產(chǎn)業(yè)安全可控地蓬勃發(fā)展。


本文為原創(chuàng)文章，作者章鷹，微信號zy1052625525，轉(zhuǎn)載請注明以上來源。如需入群交流，請?zhí)砑游⑿舉lecfans999.