這可能是我最短的博客。人工智能有很多名稱，包括機器學習。識別手寫字的系統不被稱為AI，而是光學字符識別系統。另一方面，深度學習也是一種AI技術。AI可以是許多系統的一部分，但其本身并不是目的。

不管怎么樣，下面是通用功能安全標準IEC 61508-3中的重要指南。

在任何大于SIL 1的SIL級別，不推薦使用AI。對于SIL 1，既不推薦或也不說不推薦。對于指南，不推薦的定義是在 IEC 61508-3:2010 的附錄A中給出。

反對AI的一個主要意見是它過于復雜。功能安全喜歡簡單。引自《可靠系統的軟件》一書。我搜索了這本書，但找不到這句引言。我搜索了一下，在《代碼完成》一書中找到了，出自C. A. R. Hoare——“軟件設計有兩種方法：一種是使其非常簡單，因而顯然沒有缺陷；另一種是使其非常復雜，因而沒有明顯缺陷”。我明白他們的觀點，深度學習算法可能需要讓汽車撞樹5萬次之后，才會發現這是一個壞主意。而騎三輪車的小孩一般只需撞一兩次就會得出結論。非確定性對安全性是難以接受的。從上面的書中再引一句話——“開發人員必須熟悉最佳實踐，只有理由充分時才能偏離這些實踐”。

在汽車功能安全標準ISO 26262中，我沒有發現任何地方提到AI，因此理論上關于汽車的指南要回到IEC 61508標準。然而，新的汽車技術中似乎廣泛使用AI。我還沒有閱讀ISO 26262修訂版2全文（預計2018年發布），但我必須與ADI公司負責汽車功能安全的同事討論此問題。也許AI只提供駕駛輔助，而不是用于安全應用。也許它會被新的SOTIF標準（預期功能的安全性）以某種方式覆蓋。我認為AI的好處可能變得非常大，上述指南將不得不改變。事實上，IEC 61508-7:2010 C.3.9條款提出了這樣的愿望：“在一個系統的不同通道中，監督行動可由基于人工智能(AI)的系統提供非常有效的支持”。

今天的視頻選擇有很多可能性。在我寫這篇文章的那一周，發生了SpaceX重型火箭發射和側推進器著陸等事件。Elon Musk是積極警告AI存在危險的人之一（通過Google可搜索到一長串相關文章）。我可能應該選擇《2001太空漫游》之類的東西，但我選擇了《紅矮星號》中的對講機。也許不是Elon所警告的，但誰知道呢，或許他確實看過《紅矮星號》呢？畢竟他顯然看過《銀河系漫游指南》。