人類正在邁入新穎別致、激動人心的智能時代、智能社會。人工智能不是以往那樣的普通技術，而是一種應用前景廣泛、深刻改變世界的革命性技術，同時，也是一種開放性的、遠未成熟的顛覆性技術，其可能導致的倫理后果尚難準確預料。人工智能的研發(fā)和應用正在解構傳統(tǒng)的人倫關系，引發(fā)數(shù)不勝數(shù)的倫理沖突，帶來各種各樣的倫理難題，在社會上引發(fā)了廣泛關注和熱烈討論。如何準確把握時代變遷的特質(zhì)，深刻反思人工智能導致的倫理后果，提出合理而具有前瞻性的倫理原則，塑造更加公正更加人性化的倫理新秩序，是擺在我們面前的一個重大課題。

一、智能駕駛的道德責任歸屬

智能駕駛是目前人工智能最典型、最引人注目的應用領域之一。智能駕駛通過導航系統(tǒng)、傳感器系統(tǒng)、智能感知算法、車輛控制系統(tǒng)等智能技術，實現(xiàn)了自主無人駕駛，包括無人駕駛汽車、無人駕駛飛機、無人駕駛船舶等。

智能駕駛是一種“新事物”，可能產(chǎn)生的經(jīng)濟和社會效益十分顯著。以無人駕駛汽車為例，無人駕駛汽車的安全系數(shù)更高，據(jù)世界衛(wèi)生組織提供的數(shù)據(jù)，目前全世界每年都會發(fā)生大量車禍，造成120多萬人死亡，而大多數(shù)車禍都是由于司機的駕駛過錯所致，智能駕駛更“冷靜”、更“專注”、不易疲勞，這或許可以拯救許多人的生命；對于沒有能力駕車的老年人、殘疾人等，無人駕駛能夠提供巨大的便利，在相當程度上重塑他們的生活軌跡。此外，以大數(shù)據(jù)為基礎的自主無人駕駛還可以通過自動選擇行駛路線、讓更多人“分享”乘用，實現(xiàn)更少擁堵、更少污染，提高乘用效率等目的。當然，智能駕駛也并非“盡善盡美”，例如，不可能完全不產(chǎn)生污染，不可能“消滅”城市擁堵，不可能杜絕安全事故……在無人駕駛領域充當急先鋒的特斯拉公司已經(jīng)報告了多起事故。2016年5月7日，美國佛羅里達州一輛特斯拉電動汽車在“自動駕駛”模式下與一輛大貨車尾部的拖車相撞，導致特斯拉電動汽車的司機不幸身亡。雖然無人駕駛導致的事故率相較普通汽車低，但事故隱患的存在仍然令人心懷憂慮。

智能駕駛本身難以破解既有的道德難題，同時還導致或強化了一些惱人的“道德二難”。有人設想了這樣一個場景：一輛載滿乘客的無人駕駛汽車正在高速行駛，突遇一位行動不便的孕婦橫穿馬路。這時，如果緊急剎車，可能造成翻車而傷及乘客；但如果不緊急剎車，則可能撞倒孕婦。無人駕駛汽車應該怎么做呢？如果司機是自然人，這時完全取決于司機的經(jīng)驗，特別是當時本能的直覺或判斷。可當智能駕駛陷入人類“倫理困境”的極端情形時，由于其行為是通過算法預先設定的，而事先的編程受制于沒完沒了的功利論和義務論之爭，根本就沒有給予類似的設定，它只能從大數(shù)據(jù)庫中選取相似的案例進行類推。如果遇到的是完全陌生的情形，就只能隨機地選擇一種方案。眾所周知，未知的領域總是無限大的，不可能將所有可能性都設想到，陌生的情形無論如何都難以避免，那么應該基于什么倫理原則對智能駕駛進行規(guī)范呢？

對問題進一步思考我們會發(fā)現(xiàn)，智能駕駛顛覆了傳統(tǒng)的人車關系、以及不同車輛之間的關系，突出了價值評價、選擇中的一系列倫理難題。例如，智能駕駛顛覆了傳統(tǒng)駕駛的倫理責任體系，令以駕駛員的過錯責任為基礎建立的“風險分配責任體系”陷入了困境。因為在智能駕駛導致的交通事故中，歸責事由只有結果的“對與錯”，既不存在駕駛員主觀上的“故意”，也不存在駕駛員酒后駕駛、疲勞駕駛、情緒駕駛之類“過錯”。又如，道德和法律規(guī)范的對象也變得復雜、難以確定了。假如無人駕駛汽車在行駛中發(fā)生交通事故，造成了一定的生命、財產(chǎn)損失，那么應該由誰——無人駕駛汽車的設計者、制造者，還是使用者，抑或是無人駕駛汽車自身——來承擔相應的道德和法律責任呢？或者更尖銳地，智能系統(tǒng)本身是否可以作為道德、法律主體，承擔相應的道德或法律責任呢？如果承認其主體地位，它又如何“承擔”這種責任呢？

二、虛擬智能技術的倫理后果

“虛擬”是人的意識的功能之一。但人的意識的“虛擬”存在自身的局限性，如人腦能夠存儲的信息量有限，信息處理速度有限，思維的發(fā)散性有限，人與人之間“虛擬”鏡像的交流比較困難，等等。符號、語言、文字、沙盤等技術都在不同程度上外化了人的意識中的“虛擬”功能，但“虛擬現(xiàn)實”卻是現(xiàn)代信息技術、特別是虛擬技術發(fā)展的產(chǎn)物，智能技術的突破更是將虛擬拓展到了一個嶄新的階段。利用智能技術，機器能夠自發(fā)地將人的語言、手勢、表情等轉(zhuǎn)化為機器指令，并依據(jù)這種已“讀懂”的指令，通過“邏輯思維”和“類形象思維”進行判斷，在此基礎之上的“虛擬技術”能夠令人身處“靈境”之中，產(chǎn)生身臨其境的交互式感覺。

虛擬現(xiàn)實可能帶給人們神奇的虛擬體驗。一個人甚至可以選擇在身體上和精神方面成為一個不同的人，這是過去難以想象的。但這也可能導致一些新穎的倫理問題。人工智能醫(yī)生可以基于醫(yī)療大數(shù)據(jù)、通過遠程醫(yī)療方式進行診斷，甚至操控微型智能機器人鉆進人的身體，在患者身上準確地實施各種專家手術。與此同時，傳統(tǒng)醫(yī)患之間那種特別的心理感覺——例如無條件的信任、無助時的托付感、溫情的安慰等——往往蕩然無存，醫(yī)患心理上甚至可能形成一定的隔閡。智能秘書、教師、保姆、護理員等也可能導致類似的問題。

在各種虛擬的電子游戲中，充斥著無視道德底線的色情、暴力等。例如，在一些暴力性游戲中，人們?yōu)榱恕吧妗被蛘攉@勝，必須千方百計獲取致命性的智能武器，肆無忌憚地進行傷害和殺戮，但在虛擬的電子時空，卻根本感覺不到其中的血腥、殘酷與非人性。因為沒有面對面的憤怒對峙，沒有物理意義上的肢體沖突，看不見對手的痛苦表情，此外，似乎也沒有造成什么物理上的損害，游戲者往往不會產(chǎn)生任何犯錯的意識和愧疚感。久而久之，這難免助長人的“精神麻木癥”，影響個體人格的健康發(fā)展，甚至令人泯滅道德感，忽視甚至拒絕承擔道德責任。典型的案例是：伴隨電子游戲長大的一代美國士兵在航空母艦或飛機上發(fā)射了導彈，殺傷了大量對方的士兵或平民，卻感覺若無其事、如同玩游戲一般。

人們越來越多地生活在三維的電子空間里，終日與各種智能終端打交道，智能設備就像人自身的身體器官，人們越來越多地借助它、依賴它，或者說，離開了它，感覺難以正常的學習、工作和生活。這種虛實一體的虛擬生活充滿了不可靠、不真實的幻象，令人難免產(chǎn)生荒誕、無聊的感覺。有些人特別是年輕人過度沉溺于此，覺得虛擬世界才是真實、可親近的，而現(xiàn)實社會既落后又“麻煩”，現(xiàn)實社會中的人既“沒有意思”又虛偽狡詐，從而變得日益孤僻、冷漠和厭世，產(chǎn)生人際交往、溝通的各種新障礙……有人感嘆，虛擬交往既使人從來沒有如此的接近，同時又令人覺得一切都是那么遙遠——那種接近可能僅僅只是夸張的利益一致或趣味相投，那種遙遠則可能是心靈之間親密溝通的遙不可及。

虛擬智能技術還在不斷嘗試突破，應用前景不可限量。雖然任何虛擬都具有一定的現(xiàn)實基礎，但是，當意識虛擬被技術外化時，人所面對的是一個“虛擬”與“現(xiàn)實”交錯、“現(xiàn)實性”與“可能性”交織的奇妙世界。雖然智能化的虛擬實在拓展了人們的生存與活動空間，提供了各種新的機會和體驗，但同時，傳統(tǒng)的道德觀和道德情感正在被愚弄，倫理責任與道德規(guī)范正在被消解，社會倫理秩序瀕臨瓦解的危險。