很多家庭使用交互式音箱，但用戶在家里的竊竊私語會不會被家里的音響“偷走”呢？人工智能時代如何實現(xiàn)用戶的隱私保護？

科大訊飛董事長劉慶峰在世界人工智能大會產(chǎn)業(yè)發(fā)展全體會議上表達了上述擔憂。

算法歧視、非法移動跟蹤、數(shù)據(jù)隱私侵犯……人工智能在帶給人類巨大進步與福利的同時，也帶來了不可忽視的風險。

7月10日，以“人工智能的權(quán)利義務(wù)與法律實踐”為主題的世界人工智能大會法治論壇（下稱“論壇”）舉行。論壇上，上海市法學會、浙江清華長三角研究院、華東政法大學、上海政法學院聯(lián)合發(fā)布《世界人工智能法治藍皮書（2020）》（下稱《藍皮書（2020）》）、《人工智能法治發(fā)展指數(shù)》（下稱《指數(shù)》）和《2019中國人工智能法治發(fā)展評估報告》，關(guān)注人工智能發(fā)展中的熱點、核心法律問題。

人工智能立法如何突破？

《藍皮書（2020）》的內(nèi)容由前言、人工智能法治綜述、人工智能法治發(fā)展指數(shù)、2019年中國人工智能法治發(fā)展報告、專題報告等11個部分組成。

其中6篇專題報告分別聚焦區(qū)塊鏈技術(shù)、醫(yī)療領(lǐng)域人工智能應(yīng)用、人臉識別與隱私權(quán)保護、數(shù)據(jù)安全、知識產(chǎn)權(quán)保護、復合型人才培養(yǎng)等人工智能發(fā)展和應(yīng)用中的熱點、核心法律問題。

如何用法律和科技來保護用戶隱私安全、數(shù)據(jù)安全？

韓國梨花大學法學院教授李元馥認為，要設(shè)計一個法律體系，來激勵并鼓勵開發(fā)者開發(fā)出更清晰、更透明的人工智能。其中一種方法是使用侵權(quán)責任來激勵和約束人工智能開發(fā)者。

“如果我們能在侵權(quán)法的設(shè)計上，讓開發(fā)者的責任與其開發(fā)的人工智能的可解釋性成反比，將有利于社會。因為它將激勵人工智能開發(fā)者努力開發(fā)更易于解釋和審查的人工智能。” 李元馥說。

上海交通大學凱原法學院訪問特聘教授秦裕林認為，在預防人工智能可能帶來危害的同時，也應(yīng)當建立相應(yīng)的法律法規(guī)，且與市場的力量相結(jié)合，倡導能自覺守法，友好地為人類服務(wù)的人工智能技術(shù)和系統(tǒng)的研究與開發(fā)。

人工智能立法已經(jīng)提上日程，立法具體要遵循哪些規(guī)則？

中國法學會學術(shù)委員會主任張文顯認為，智能社會是科技賦能型社會。法律要以激勵和保護大數(shù)據(jù)、云計算、區(qū)塊鏈、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、人工智能創(chuàng)新發(fā)展為首要原則，推進中國智能科技占領(lǐng)世界科技的制高點。

美國康奈爾大學法學院王氏中國法講席教授於興中表示，如果我們要制定有關(guān)人工智能的法律，就必須制定反映人類道德的法律。

“社會倫理、職業(yè)倫理、生物學研究倫理、機器人倫理、人工智能倫理等都與法律有關(guān)。道德原則將作為立法和執(zhí)法的指導，可以被視為人工智能開發(fā)人員的內(nèi)部約束，也可能成為人工智能開發(fā)人員的設(shè)計參數(shù)。”於興中說。

瑞典隆德大學法律社會學教授哈坎·海登（Hkan Hydn）則認為，機器學習也將給法治帶來突破。

“隨著數(shù)字化技術(shù)的出現(xiàn)，技術(shù)本身也已成為法規(guī)的來源。規(guī)范的出發(fā)點已變更。當技術(shù)自身開始成為規(guī)范時，數(shù)字化過程將進一步發(fā)展。” 海登稱。

人工智能司法應(yīng)用正在推廣

與《藍皮書（2019）》相比，《藍皮書（2020）》的另一大特點是制定了《人工智能法治發(fā)展指數(shù)》。

《指數(shù)》確定了政策文件、理論支撐、執(zhí)法實施、市場規(guī)模、社會關(guān)注、法治環(huán)境等6個一級指標，旨在客觀、準確、全面反映我國人工智能法治發(fā)展狀況，引領(lǐng)、推進人工智能法治研究。

“可量化、可視化的形式較準確、客觀、全面反映人工智能法治發(fā)展情況，為人工智能法治研究提供支撐，推動人工智能法治建設(shè)。” 上海政法學院校長、藍皮書編委會副主任劉曉紅表示。

《2019中國人工智能法治發(fā)展評估報告》顯示，2019年中國人工智能法治發(fā)展評估得分 83.79 分，總體水平較高，但相對薄弱環(huán)節(jié)在于執(zhí)法領(lǐng)域具體場景化人工智能產(chǎn)品的運用。

實際上，上海在人工智能與司法的深度融合方面已經(jīng)做出了表率。

上海市法學會黨組書記、會長，上海市高級人民法院原院長、二級大法官崔亞東在論壇上介紹，經(jīng)過三年多的努力，集中700余人合力攻關(guān)，上海在2019年底成功完成研發(fā)“推進以審判為中心的訴訟制度改革——上海刑事案件智能輔助辦案系統(tǒng)”（下稱“206系統(tǒng)”），先后獲國家批準六項知識產(chǎn)權(quán)。上海刑事案件辦理從立案、偵查、報捕、起訴、審判均在“206系統(tǒng)”內(nèi)運行。

據(jù)統(tǒng)計，2019年1月至2020年6月，206系統(tǒng)累計錄入證據(jù)材料14，047，275頁、提供證據(jù)指引541，754次（依系統(tǒng)點擊量統(tǒng)計）、提供知識索引8，331次、提示證據(jù)瑕疵28，309個。

“智能輔助審訊系統(tǒng)研發(fā)應(yīng)用，推動了審訊工作的改革，是傳統(tǒng)的審訊工作模式向現(xiàn)代化智能化審訊模式質(zhì)的飛躍。這是人工智能等新技術(shù)與刑事司法實踐深度融合的重大成果，使我國憲法、刑法、刑訴法確立的刑事法律原則得以落地，體現(xiàn)了中國法治的進步。” 崔亞東表示。

目前，該系統(tǒng)在安徽、山西、貴州、新疆生產(chǎn)建設(shè)兵團、云南等省市已推廣應(yīng)用。