3月20日，OpenAI 聯合創始人& CEO Sam Altman 和科技主播 Lex Fridman 進行對談，主要討論 GPT-4、通用 AI（AGI）、 OpenAI 公司、AI 帶來的潛在問題，以及 AI 的未來。總體來說，Sam Altman 認為，GPT-4 等 AI 系統并非少數人的成果，而是源于無數人的共同努力，是人類智慧的結晶，成果也應當由人類共享。筆者整理了一些對話中大家比較關注的點，看看 Sam Altman 是如何回應的。

GPT-4 是通用 AI 嗎？

據 OpenAI 官方稱，GPT-4 是 OpenAI 擴展深度學習的最新里程碑，雖然目前在許多現實場景中仍然不如人類，但在專業和學術基準上均能體現出人類的水平。

那 GPT-4 到底屬不屬于通用AI（AGI）的范疇？對于這個問題，Altman 表示暫且不糾結其具體定義，只從“I know it when I see it”的角度去思考。當一個事物出現之前，人們很難具體想象或理解得到它到底到哪種程度。比如在使用 GPT-4 之前，先在一本科幻小說里看到有個角色是 AGI，而這個角色是 GPT-4，描寫了 GPT-4 能夠做到的如今 AI 做不到的事情，他會覺得這本書很荒謬。所以距離 GPT-4 成為真正的通用 AI，還有很長的路要走，因為覆蓋面、普適度還不夠。

Altman 認為，所有不能大大增加人類科學知識綜合的系統，不能發現、發明，推動基礎科學的智能，都不是超級智能。要做到這一點，人們還需要在相當重要的方面擴大 GPT 范式，而目前在這方面還沒有太多 Idea，還需要再摸索有什么值得嘗試的地方。

GPT-4 是人們想象中的“未來 AI”嗎？

人們對未來 AI 的想象是非常豐富的，值得一談的是，人們認為“更好”的 AI，就是與人類無限相似，甚至超越人類能力的存在；但另一方面，又對 AI 是否“太像”人類而感到惴惴不安。這種現象歸根結底是人們既希望 AI 強大到能夠快速理解人類意圖，卻又極其不希望其擁有人類的意識。

AI 是否會“覺醒”？對此，Altman 的態度是：人們圍繞 AI 的一些恐懼可能并不會成為現實。人類因為天生對改變、不確定性懼怕，面對新的工具，也會因為其過于好用而感到害怕。但 Altman 指出，哪怕在 AI 非常強大之后，還是無法代替人。就像當年 Alpha Go 在國際象棋中贏了人類，但現在還是有很多人在玩國際象棋，而且人們還是更愿意看真人下象棋，而不是兩個 AI 下象棋。

“人們仍然喜歡戲劇性，喜歡我們有的、而 AI 沒有那些缺陷。”Altman 說。

那么，怎樣判斷 AI 是否擁有“人的意識”？Altman 提到了一些用于判斷的測試。比如 OpenAI 首席科學家 Ilya Sutskever 提出的標準：如果你訓練模型的時候，對數據集做非常精心的設定，確保在訓練過程中 AI 不接觸到“意識”、主觀體驗或任何類似的東西，然后你和這個模型討論一些它沒有訓練過的東西，如果模型對于你說的大部分內容都不理解，但當你描述意識的主觀體驗，模型卻立即回應“知道你在說什么”時，那可能就意味著 AI 可能發展出了意識。

科技主播 Lex 對此補充了一個場景，在電影《機械姬》最后，片中的 AI 機器人機械姬逃出實驗室后，露出了一個開心的微笑。這時沒有別人在場，所以她是在為自己、為自由而笑。《機械姬》的導演認為，“為自己而笑”可以作為一個“AI 是否具有意識”的圖靈測試。

如今的 AI，還有哪些等待解決的問題？

即使 OpenAI 表示 GPT-4 是如今功能最強大、對齊最好的模型，但它仍然是一個需要不斷進步和優化的工具。比如“AI 的偏見”問題。此前有人向 ChatGPT 提問，讓其夸贊現任國家領導和往屆國家領導，結果 ChatGPT 夸現任領導的句子要比往屆領導的要長。對此，Altman 認為“小問題即大問題”，之所以會早早就公開發布，就是為了發現這類問題，并且不斷對其進行改進。許多時候，人們是沒有辦法預料到未來會發生什么事情，比如在小時候無法想象到自己會造出AI，而且造出 AI 后，人們在糾結“夸誰夸得更長”的問題，所以說 AI 的進步是全人類推進的。

Altman 表示，當 AI 快速起飛（take off）之后，技術可能在短時間內實現爆發式增長。如果 AI 的起飛無法避免，短期內就要開始不斷的進行優化，而不是任其發展 3 年、10 年之后再去干預。解決問題的方法包括：不斷迭代、盡早學習、避免只有一次機會的情況，讓外界盡早接觸這些技術，讓公眾參與塑造 AI 的發展。Altman 計劃全球巡回，進行用戶訪談，了解不同用戶的需求。未來解決路徑包括給用戶控制權，讓用戶能從全局層面給 AI 下指令。

OpenAI 的堅守和未來

Altman 告訴我們，GPT-4 是人類迄今所實現的最復雜的軟件，那 GPT-4 背后的 OpenAI 為什么這么強？Altman 總結了一下。首先是做事的態度是探求真理（truth seeking），做一切能達成最優表現的事，不管它是否優雅。就像LLM（大語言模型）這個路線曾經飽受鄙夷，但他們還是堅持下來了。

其次是“不積跬步無以至千里”的理念。實現 GPT-4 并不是單純的解決 3-5 件關鍵問題的事情，而是需要搞定大量紛繁復雜的小事，乘法效應讓技術飛躍得以實現。比如數據獲取、清潔、訓練、優化和搭結構等方面的問題。以小取大。最后，團隊的能力也非常重要，至今為止，Altman 依然親自審核及批準 OpenAI 的每一個招聘決定，招聘的優先級在團隊工作中非常重要；同時也要給予團隊成員足夠的信任和自主權，才能實現高速發展。

談到對未來 AI 的期許，Altman 的說法是：解釋所有物理現象，解決所有未解之謎。未來或許將有很多個 AGI 存在，不同的 AGI 會在不同的領域和應用上發揮作用，這是一種有益的現象。而 OpenAI 建立時定位就是非盈利組織，沒有無限逐利的動力，所以能夠更好地抵抗市場壓力。但這種背景下就沒有足夠的資金來支撐完成任務，所以他們轉變為“盈利有上限”的組織，來獲得資本的某些加成，同時不完全導向逐利。

接下來 OpenAI 不會執著于模型參數大小（Parameter count race），而是最看重如何實現最佳性能。在面對市場壓力和競爭時，Altman 強調，堅持信念和使命，雖然市場上隨時都會出現更領先的技術，但 OpenAI 不會為了追趕而放棄安全性，踏實走好每一步。

審核編輯 ：李倩