對于 OpenAI, 我們知道它是一家非盈利的，要用開放的方法研究通用AI，為人類帶來福祉的研究機構，它的初衷是馬斯克一再強調的“安全的AI”。現在，它的使命發生了一點變化：OpenAI宣布要all-in AGI（通用人工智能），提出四項原則，并將減少AI研究的公開發表。

馬斯克在創立OpenAI時，給OpenAI的目標是確定人工智能技術如何更好地為人類服務。近日，OpenAI發布了一份新的公司章程，根據章程，OpenAI未來的使命是開發“高度自主的系統，在大多數具有經濟價值的工作上超越人類”。它想讓機器比人類更聰明。

這一使命即通用人工智能（AGI），取決于你用來做什么，它可以是圣杯，也可以是潘多拉的魔盒。

OpenAI宣布all-in AGI。盡管馬斯克最近退出了OpenAI董事會（官方稱此舉是為了避免 OpenAI 將來與特斯拉可能發生的沖突），但OpenAI仍有它的野心。

一些專家，如谷歌的Ray Kurzweil，認為我們距離奇點（機器變得比人類更聰明的時間點）只有數十年。也有人認為這永遠不會發生。在有關AGI的討論中，大多數人要么仍在試圖理清語義、學術類型，要么更擔心資金問題，而不是擔心對人類的生存威脅。

幸虧OpenAI是一個非營利性組織。它有超過10億美元的資金和AI領域最聰明的人才（以及大公司）的支持，它能夠專注于技術而不必擔心去取悅股東以免失去資助。為了達到這一目的，OpenAI致力于小心謹慎地開發AGI，并避免AI軍備競賽，這可能導致研究人員失去重點。

OpenAI新的章程寫道：

我們將嘗試直接構建安全、有益的AGI，但如果我們的工作幫助其他人達到這一目的，我們也認為我們完成了這一使命。

在這份文件中，OpenAI甚至表示，如果另一家公司似乎接近了AGI的邊緣，它將退出并終止其研究。

多數人認為AGI是離現實很遠的科幻小說里的事情，甚至AI信徒們也認為擔心AGI還為時過早。但在某種程度上，我們需要一些強有力的指導方針來幫助開發人員避免意外的陷阱（比如摧毀人類）。等到機器人出現問題，再提出常識性的政策就太遲了。

OpenAI聯合創始人Ilya Sutskever說：“OpenAI在創立之初就已為建立一個強大的技術實驗室指定了完善的規范。但是，如何建立一個旨在使這些技術的長期影響進展順利的組織，這并沒有真正的先例。在過去兩年中，我們從頭開始建立了能力、安全和政策團隊，每個團隊都對這些規范有所貢獻。我們認為這些技術影響著每個人，因此我們與其他機構合作，確保這些原則不僅對我們，而且對社區的其他人都有好處。”

OpenAI目前沒有提出AGI的時間表，但它已經開始了“下一階段的OpenAI”，包括增加對人員和設備的投資，以期“在人工智能方面取得重大突破”。

OpenAI章程全文

OpenAI的使命是確保通用人工智能（ artificial general intelligence ，AGI）——我們指的是高度自主的系統，這種系統在大多數具有經濟價值的工作上能夠超越人類——將使全人類受益。我們將嘗試直接構建安全而有益的AGI，但如果我們的工作幫助其他人實現了這一成果，我們也認為我們的使命已經完成。為此，我們承諾遵守以下原則：

廣泛受益原則

我們承諾利用我們通過部署AGI獲得的任何影響，確保它被用于所有人的利益，并避免AI或AGI的使用傷害人性或令能力過度集中。

我們主要的受托責任是人性。我們預計需要集結大量資源來完成我們的使命，但我們將始終不懈地努力，盡量減少員工和利益相關方之間的利益沖突，因為這可能會損害廣泛的利益。

長期安全原則

我們承諾進行必要的研究，以確保AGI安全，并推動AI社區廣泛采用這些研究。

我們擔心后期AGI的發展會成為一場軍備競賽，缺乏足夠時間實施安全預防。因此，如果一個價值觀一致的、關注安全的項目在我們之前接近了AGI，我們承諾放棄競爭并協助這個項目。我們會根據具體情況制定具體的協議，但一個典型的可能性是“未來兩年內出現比以往任何時候都更接近成功的機會”。

技術領導力

為了使AGI的影響對社會有效，OpenAI必須要站在AI技術的前沿——單靠政策和安全宣傳是不夠的。

我們相信AI在AGI之前會產生廣泛的社會影響，我們在與我們的使命和專業知識直接相關的領域中發揮領導作用。

合作導向

我們將積極配合其他研究機構和政策機構；我們力求創建一個全球性的社區，共同應對AGI的全球挑戰。

我們致力于提供幫助社會通向AGI的公共產品。今天，這包括公開發表我們的大部分AI研究，但我們預計，由于安全性問題，未來公開發表的研究將會減少，同時增加分享安全、政策和標準研究。