哲學家彼得·辛格（Peter Singer）認為，會感到疼痛的生物都應該擁有道德感。他認為非人類動物也具有道德立場，因為它們會感到痛苦。

隨著真正的人工智能技術的發展，道德地位問題變得越來越重要。如果認可機器人具有道德地位，那么它們就擁有生命權。這意味著您不能簡單地拆除它們。

IBM的深藍色國際象棋機器經過訓練，可以擊敗大師級加里·卡斯帕羅夫。但這也并不表明它有自己的思想，深藍象棋機器人具通過計算機編輯的具有特定領域智能的機器人。

另一方面，有一種智力可以使自己做好各種事情。這稱為領域通用情報。這就是讓人們做飯，滑雪和撫養孩子-這些任務既相關，又非常不同。

人工智能（AGI）是具有領域通用情報的機器的術語。可以說沒有機器能夠顯示出這種智能。今年夏天，一家名為OPENAI的初創公司發布了其Generative Pre-Training語言模型的新版本。GPT-3是一種自然語言處理系統，經過培訓可以讀寫，因此人們可以輕松理解。

這不僅是因為它具有模仿風格和合理組合內容的能力，還因為它與先前版本相距甚遠。盡管有如此出色的性能，但GPT-3除了如何以各種方式將單詞串在一起之外，實際上并不知道任何其他信息。

圖靈測試以具有開創性的AI研究人員艾倫·圖靈（Alan Turing）的名字命名，可幫助確定AI何時智能。與隱藏的AI對話的人能否分辨出是AI還是人類？

意識有兩個部分

首先，是體驗的“我”方面，即意識的感官部分。哲學家稱這種現象意識。這是關于您如何體驗一種現象的，例如聞到玫瑰的氣味或感到疼痛。

相比之下，還有訪問意識。這就是報告，推理，行為和行動的能力，以協調和響應的方式對基于目標的刺激做出反應。例如，當我將足球傳給我的朋友在球門上打球時，我是對視覺刺激做出反應，從先前的訓練中表演，并追求由比賽規則確定的目標。我會在比賽流程中自動進行傳球，而無需深思熟慮。

盲人很好地說明了兩種意識類型之間的區別。例如，患有這種神經系統疾病的人可能會報告說，他們在視野的左側看不到任何東西。但是，如果要求他們從視野左側的一系列物體中拿起筆，他們可以可靠地這樣做。他們看不到筆，但是在提示時可以拿起筆-這是無意識的訪問意識示例。

android數據表明他具有自我意識，因為他可以監視自己是否處于最佳狀態（例如，他是否處于最佳充電狀態）或機械臂是否受到內部損壞。

數據在一般意義上也是智能的。他在較高的水平上做了很多不同的事情。他可以駕駛企業，接受上尉的命令，并與他一起商討最佳路線。

他還可以和他的船東玩撲克，做飯，與親密朋友討論熱門話題，與外星人的敵人戰斗以及從事各種形式的體力勞動。數據具有訪問意識。

但是，數據極有可能缺乏意識-例如，他不喜歡玫瑰的香味或感到疼痛。他體現了視力的超大版本。他具有自我意識，具有訪問意識-可以握筆-但在所有感官上他都缺乏明顯的意識。

現在，如果數據不感到痛苦，那么至少Singer提供給生物的道德地位的原因之一就無法實現。但是即使沒有痛苦，數據也可能滿足遭受痛苦的其他條件。痛苦可能并不需要痛苦本質上那樣的驚人意識。

例如，如果苦難也被定義為在追求正義的過程中受到挫敗而又不傷害他人的想法呢？假設數據的目標是解救他的船員，但由于四肢受傷，他無法接近她。數據功能的減少使他無法挽救船員，這是一種非現象性的痛苦。他本來希望挽救船員的，如果他這樣做的話，情況會更好。

問題最終不是基于數據是否具有自我意識，這是毫無疑問的。他是否有才智也不成問題–他很容易證明自己具有一般意義。目前尚不清楚他是否具有非凡的意識。數據不會被拆除，因為最終，他的人類法官無法就意識對于道德立場的重要性達成共識。

人工智能應該獲得道德嗎？

數據是善良的-他的行為是為了支持他的船員以及他在外星球遇到的人的福祉。他服從人民的命令，似乎不太可能傷害他們，而且他似乎在保護自己的存在。由于這些原因，他顯得和平而容易接受具有道德地位的事物的領域。

您不能僅僅因為一個AI違背人類意愿或違背另一個AI的利益，就說它沒有道德立場。現在是時候考慮賦予他們道德上的地位了。
責任編輯:tzh