特斯拉 CEO 馬斯克對全自動駕駛的短期實現，有著近乎瘋狂的執念。最近，他又在第四季度財報的電話會議上表示，特斯拉汽車在今年年底前能實現全自動駕駛，無需人類干預。

馬斯克還表示，特斯拉在高速公路上已經可以實現全自動駕駛。然而，早在 2015 年，馬斯克曾吹牛特斯拉有望在未來兩年擁有完全自動駕駛技術。

數據科學和機器學習的進展讓不少創業公司「相信」（背后動機各異）所謂的通用人工智能距離我們并不遙遠，成功案例都被不當夸大，由此衍生出很多不負責任的言論甚至不顧惜大眾利益（隱私、安全甚至生命）的舉措，比如自動駕駛公司先推出軟件，卻沒有驗證。

在這篇文章寫于去年 8 月的文章中，作者 Vijay Kumar 以非常簡練而又不失洞見的文字刻畫出當前有關 AI 種種「非理性繁榮」，并分析出導致這些現象的主要原因。

作者在文章最后指出，當我們賦予物理系統智能，當涉及社會大眾的信息和數據時，真正的核心問題到底是什么。

Vijay Kumar 是誰？他是美國賓夕法尼亞大學工程學院的 Nemirovsky Family 院長，同時也任職于機械工程與應用機械學系、計算機與信息科學系以及電子與系統工程系。

作為機器人與無人機領域的權威學者，Kumar 也是美國機械工程師學會會士、美國電氣和電子工程師協會會士、國家工程院會士。

我相信許多人還記得 1995 年的 Netscape IPO，以及四個月內股價漲了五倍的情景。人們對技術及其影響的期望仍然很高。

而時任美聯儲主席的格林斯潘在美國企業研究所發表演講時，對市場和科技中的「非理性繁榮」提出了質疑。

我相信，今天的科技領域也出現了類似的「非理性繁榮」。

用于癌癥篩查的革命性技術——僅刺破手指抽取千分之一的正常血量——真的可行嗎？

當然，Theranos 讓每個人都相信這種革命性的進步的可能性，不是因為化學領域的新技術，而是因為他們開發了新的軟件和自動化技術！

我們真的能用馬斯克 Boring 公司挖的地下通道取代洛杉磯的 800 萬輛汽車嗎？

這種「自動化」能讓我們以遠低于正常的成本實現這種高速吊艙，其時速將達到 150 英里/小時，運行費用每次僅 1 美元——這就是 Boring 公司向洛杉磯市出售產品的廣告語。

數據科學和機器學習的最新進展，真的意味著通用人工智能即將到來嗎？這是今天許多創業公司所堅信的。

實際上，統計機器學習已經取得顯著進步，尤其是在計算機視覺和語音識別等領域，因為基礎神經網絡可以通過足夠大、有代表性的數據集進行訓練。

「足夠大」意味著什么？我們還不知道。我們也不知道何為有代表性的數據集，很多有趣的案例證明了深度學習「有效」。

但是，這些成功案例都被夸大了。

在我自己的機器人技術領域，自動化十分具有挑戰性，特別是在操作和感知-動作循環的任務中。然而，盡管說的天花亂墜，但現在最好的機器人都不如一個三歲孩子靈活。

在無人駕駛領域，這種非理性繁榮無處不在。

沒有多少人知道，無人駕駛汽車的首次演示是在 20 世紀 80 年代后期，在慕尼黑聯邦國防軍大學和卡內基梅隆大學進行的。毫無疑問，無人駕駛會產生巨大的社會、經濟和環境影響。

在過去 30 年里，這一事實以及實現這一愿景的技術挑戰吸引了一群頂尖的科學和工程人才。然而，有一個歷史問題我們都忽略了，因為三十年都未能解決的問題不太可能吸引到大量的私人投資。

根據最近的預測，全自動駕駛汽車即將問市。奧迪和特斯拉幾年前承諾說到 2018 年可實現完全自主。

優步甚至承諾，2023 年能推出由清潔能源驅動的汽車，盡管電池技術背后的基本物理和化學知識告訴我們事實并非如此。

當工程師提出這類想法時，令人擔憂；當企業家利用這些想法籌集巨額資金時，更令人擔憂。

然而，最大的問題是在如何將自動化軟件嵌入安全系統當中。

測試與日志數據、以及保證不會產生不必要和不安全行為的軟件驗證之間，存在差異。我們能否只因為底層軟件已經通過十億英里的數據測試，就宣稱無人駕駛車輛安全呢？

美國國家安全委員會的統計數據顯示，人類平均駕駛十億英里會導致 12.5 人死亡。十億英里的數據集不可能被視為「足夠大」，或「有代表性」，被用來訓練軟件以防止人員死亡。

Uber-Waymo 的案件披露了一系列文件。

這些文件揭示了一種現象，它優先發布了軟件，而沒有經過測試和驗證。對于可以后續修正的手機系統，這樣可以接受，但對于汽車軟件來說，這完全不能接受。

這種非理性繁榮，可能源于五十年前摩爾預測的計算和存儲技術的指數增長。

十多年前，智能手機、云計算和共享汽車似乎是科幻小說的情景，3D 打印和 DNA 測序等技術也難于登天。而如今，這些正在成為事實。

指數增長的事實滋生出一種外推（extrapolation）文化。

比如，最近 Alpha Go 和 Alpha Zero 在國際象棋等棋盤游戲中取得的進步令人難以置信。

但不幸的是，我們由此外推出這樣的結論：征服這類通用智能，只是一個時間問題。

至少有一個觀點認為，盡管摩爾定律帶來了計算力指數增長，事實上，我們在智能理解方面，并沒有取得重大進展。

雖然計算機在國際象棋中取得了驚人的表現，但在過去 30 年里，國際象棋程序的 Elo 評級只是呈線性增長而已。

如果我們能夠充分利用摩爾定律，那么，國際象棋程序的表現應該比 30 年前好十億倍，而不是僅僅好 30 倍。

這表明，技術的指數增長可能不適用于人工智能領域，更不用說能源存儲、生物技術、自動化和制造業了。

不幸的是，科技上的非理性繁榮還導致了一個更大的問題——學術與產品欺詐，這是每個工程師和計算機科學家都要警惕的。

作為專業人士，我們有責任揭露這種學術不端的行為。

當賦予物理系統智能時，驗證、安全性和責任必須是核心問題。

事實上，對于社會中的數據和信息，公平、問責、透明度和道德問題（fairness、accountability、transparency、ethics，FATE）也需要被解決。

好在這些好風氣在業界和學術界中正在逐漸形成。

作為教師，我們肩負著更大的責任，因為技術不再僅限于計算機科學家或工程師。

事實上，技術現在已成為一門新興學科。但這門學科的關鍵是要闡明技術的邊界，并警惕外推帶來的真實危險。

對于每個具有創造性的大學生，無論是物理方面還是軟件工具，都必須對問責制，透明度和道德責任的基本問題保持高度警惕。

重要的是，我們要解決技術中的 FATE，不僅要在數據科學的背景下，更要通過技術實踐的設計、綜合和簡化。