8月19日，中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸在機(jī)器人大會(huì)主論壇上表示，純粹靠數(shù)據(jù)學(xué)習(xí)生成的人工智能不可解釋，處于不可控狀態(tài)，為了避免危險(xiǎn)，需要發(fā)展安全、可靠、可信的智能機(jī)器人。此外，張鈸對機(jī)器人的倫理行為也提出了自己的思考，他認(rèn)為讓機(jī)器人完全遵守道德規(guī)范和機(jī)器人的智能化存在矛盾，需要通過研究新的倫理分析工具等方式解決該問題。

要把知識(shí)加到數(shù)據(jù)驅(qū)動(dòng)中

“目前機(jī)器是人的奴隸，我們叫它做什么它就做什么。但是我們希望進(jìn)一步發(fā)展智能機(jī)器人，這就存在另一種可能性，即機(jī)器人會(huì)不會(huì)成為我們的主人？現(xiàn)在，大家越來越認(rèn)識(shí)到這個(gè)可能性是存在的，阿西莫夫、霍金也提出過相關(guān)觀點(diǎn)，如果機(jī)器的智能超過我們，我們就失去對它控制，對于這樣的機(jī)器人要加以限制，加以治理。”張鈸說。

張鈸表示，當(dāng)前機(jī)器人智能還很低的時(shí)候就處于不可控狀態(tài)，這讓人類面臨危險(xiǎn)。“比如用深度學(xué)習(xí)的方法處理事情，生成的人工智能算法危險(xiǎn)、不魯棒（魯棒性，指系統(tǒng)對異常情況的適應(yīng)能力），沒有可靠性保證，如果使用這種人工智能算法，必然會(huì)對人類帶來傷害，這已經(jīng)成為現(xiàn)實(shí)問題。參考當(dāng)前人工智能的發(fā)展?fàn)顩r，此擔(dān)心看起來是一個(gè)近憂，而不是遠(yuǎn)慮。”

在他看來，（人工智能）純粹靠數(shù)據(jù)驅(qū)動(dòng)的方法必然不魯棒，必然不可解釋，必然不可靠。人在從事人工智能工作的時(shí)候就一定要考慮到相關(guān)的可能性，要解決這類問題，唯一的可能性就是加上知識(shí)，加上模型，辦法很簡單，但執(zhí)行起來很困難，因?yàn)榘阎R(shí)加到數(shù)據(jù)驅(qū)動(dòng)中去，方法上要有很多改變。

張鈸表示，我們提出的第三代人工智能就是要解決第二代人工智能算法不安全，不可靠，不可信，不可控的狀態(tài)。第一代人工智能主要靠知識(shí)驅(qū)動(dòng)，第二代人工智能主要靠數(shù)據(jù)驅(qū)動(dòng)，這兩個(gè)方法都有片面性，必須把這兩個(gè)方法加起來，才有可能發(fā)展安全的、可靠、可信的智能機(jī)器人。

機(jī)器人如何遵守道德規(guī)范？

張鈸表示，提出過著名“機(jī)器人三定律”的阿西莫夫曾說，如果機(jī)器人有了意識(shí)，如何讓機(jī)器人能夠按照倫理準(zhǔn)則行動(dòng)是一個(gè)問題。但實(shí)際上，什么是道德以及什么是不道德本身就存在非常大的爭議，如存在電車難題這樣的困惑，而且對于機(jī)器來說還要把道德和倫理形式化，這需要法律、道德、倫理各界的共同研究。

他認(rèn)為，假設(shè)給機(jī)器一個(gè)道德規(guī)范，也涉及機(jī)器人的行為可控不可控的問題，“給機(jī)器加上人工智能就不可控了，因?yàn)橥耆凑找粋€(gè)規(guī)則來執(zhí)行的，不是智能機(jī)器人，只有給予其一定的靈活性，機(jī)器人才能有創(chuàng)造性，才能自主解決問題，這是必然要付出的代價(jià)。”

“而且我們對于一些技術(shù)本身都做不到預(yù)測，都不知道怎么做出來的，例如用深度學(xué)習(xí)做模式識(shí)別，識(shí)別率提高非常多（記者注：深度學(xué)習(xí)的輸入和輸出的部分通俗易懂，但其中間的運(yùn)算部分的構(gòu)造是一個(gè)極其復(fù)雜難以理解的‘黑箱’），大家沒有預(yù)計(jì)到這種方法魯棒性非常差。目前，機(jī)器人被濫用的現(xiàn)象非常嚴(yán)重，機(jī)器人在設(shè)計(jì)的過程中，要做很好的評估和預(yù)測，不能隨便定一個(gè)規(guī)劃，對智能機(jī)器人要做非常嚴(yán)格的評估。”張鈸表示。

在他看來，可以通過研究新的倫理分析工具進(jìn)行更好的倫理分析結(jié)果預(yù)測，利用深度學(xué)習(xí)方法對不道德和道德行為給出樣本進(jìn)行分析，以及通過仿真模擬大量實(shí)驗(yàn)來解決安全性的問題和倫理問題。

審核編輯 ：李倩