AI通常用于為高級自動駕駛的車輛提供感知能力。但AI也能幫助自動駕駛汽車（AV）在規(guī)劃和控制方面做出更安全的決策嗎？任何習(xí)慣于基于控制理論的確定性算法的人都很難被說服。但I(xiàn)nfineon提出了一個激進(jìn)的反駁，并一直在與汽車行業(yè)的利益相關(guān)者就其安全問題進(jìn)行辯論。

AI安全嗎？AI驅(qū)動的汽車可靠嗎？它們能被驗證嗎？

這些都是向高級自動駕駛車輛的開發(fā)人員提出的好問題。

隨著先進(jìn)的神經(jīng)網(wǎng)絡(luò)在計算機(jī)視覺方面得到良好發(fā)展，在AV上使用AI已經(jīng)成為一種公認(rèn)的規(guī)范。不過，這仍然是一個信任的問題。

Infineon的嵌入式AI和自動駕駛專家Florian Hauer表示，AI可以幫助機(jī)器感知它所看到的東西（行人、信號燈、自行車……），并獲得對環(huán)境獲的“非常高級的抽象理解”，從而知道如何在該環(huán)境中采取行動。

在自動駕駛的計算鏈中，這些最初的步驟被稱為感知和場景理解。它們是為高級自動駕駛車輛規(guī)控系統(tǒng)做準(zhǔn)備的兩個基本模塊。

計算機(jī)視覺在前兩個模塊中起著關(guān)鍵作用。Hauer說：“你已經(jīng)在使用AI作為主要解決方案。在感知和場景理解方面，我認(rèn)為沒有人會回到深度學(xué)習(xí)技術(shù)之前。”

然而，他補(bǔ)充說，AI在規(guī)控中卻“很少或幾乎不使用”。

Hauer說：“通過軌跡規(guī)劃，車輛可以在接下來的1-5秒內(nèi)繪制出它必須走的路徑，以執(zhí)行某些操作，如在信號燈前停車或變道。在軌跡控制中，規(guī)劃的路徑在道路上被執(zhí)行。車輛決定向左或向右行駛。它可以選擇在時間和空間中移動的速度，以及何時應(yīng)該加速或減速。”

為了執(zhí)行涉及規(guī)控制的安全關(guān)鍵計算，今天的高級自動駕駛車輛使用成熟的確定性算法，該算法基于由業(yè)內(nèi)專家在40多年間開發(fā)的控制理論。Tier1和OEM對經(jīng)典算法有著“共同的理解”，對安全的定義也達(dá)成了一致。到目前為止，汽車生態(tài)系統(tǒng)中的大多數(shù)參與者還沒有考慮過使用AI進(jìn)行規(guī)控。

Infineon正在打破這一模式，建議業(yè)界應(yīng)用AI來增強(qiáng)用于規(guī)控的確定性算法。Hauer說，目標(biāo)不是取代經(jīng)典算法，而是提高它們的安全性、可靠性和效率。

Infineon在推進(jìn)嵌入式AI的安全性方面有既得利益，其最新的Auriz MCU具有嵌入式AI能力。但它提出的使用AI進(jìn)行規(guī)控的建議目前只是一個假設(shè)。Hauer承認(rèn)首先需要回答安全問題，而將AI應(yīng)用于規(guī)控中“安全意味著什么”是一個“不能由單個公司回答”的復(fù)雜問題。

因此，Infineon迫切希望在利益相關(guān)者之間建立“共識”。該公司來到TTTech成立的汽車行業(yè)合作論壇The Autonomous，分享其假設(shè)，與主要參與者合作，并領(lǐng)導(dǎo)一個關(guān)于嵌入式AI安全性的工作組討論。

動機(jī)

是什么促使Infineon建議將AI應(yīng)用于高級自動駕駛的規(guī)控？為什么這對汽車行業(yè)如此重要？

該公司系統(tǒng)架構(gòu)和應(yīng)用高級負(fù)責(zé)人Jürgen Sch?fer表示，答案可以歸結(jié)為高級自動駕駛車輛達(dá)到量產(chǎn)所需的“成本和能效”。

許多人認(rèn)為如今的AV設(shè)計過度。在Sch?fer的觀點中，“今天的AV原型的利潤率可以降低”。出于安全考慮，AV公司復(fù)制計算鏈，在獨立的信號處理鏈上運(yùn)行兩種算法，使用的不是一個而是一組控制器。考慮到現(xiàn)實駕駛的不確定性，系統(tǒng)可能很難應(yīng)對意外。因此，工程師們覺得在AV系統(tǒng)中設(shè)計一個廣泛的安全冗余更舒服，Sch?fer觀察到，冗余被認(rèn)為可以增強(qiáng)安全性。

Sch?fer說，雖然在先進(jìn)的架構(gòu)中冗余被認(rèn)為是必要的，但AV公司最終推出了成本過高的AV原型，部署了“消耗2000W的電子控制系統(tǒng)”，并“使用液冷單元，這進(jìn)一步增加了成本，使系統(tǒng)不可靠”。

使用機(jī)器學(xué)習(xí)算法可以幫助系統(tǒng)設(shè)計者避免過度設(shè)計。他說：“最終，機(jī)器學(xué)習(xí)算法是唯一能從數(shù)學(xué)上預(yù)測未來的算法。通過機(jī)器學(xué)習(xí)算法，你可以說，例如，基于系統(tǒng)和環(huán)境在過去20秒的表現(xiàn)，（這就是）下一秒可能發(fā)生的事。”

在嘗試以線性方向預(yù)測未來時，你可以查看系統(tǒng)環(huán)境并謹(jǐn)慎地進(jìn)行，但是你仍然可能遇到阻礙系統(tǒng)反應(yīng)能力的緊急情況。Sch?fer表示，以“隨機(jī)方式”預(yù)測未來的機(jī)器學(xué)習(xí)算法，通過一個涉及隨機(jī)確定的事件序列的過程，有望更好地避免這種僵局。

安全用例為AI在規(guī)控中的應(yīng)用建立一個安全用例并不簡單。Hauer承認(rèn)，在行業(yè)發(fā)展到這一步之前，許多過程都會發(fā)揮作用。

他說，首先，將AI整合到規(guī)控中會影響開發(fā)過程的不同階段。必須確定和分析相關(guān)的開發(fā)步驟，以確定它們對系統(tǒng)其余部分的影響。

接下來要考慮的是數(shù)據(jù)。數(shù)據(jù)是否具有代表性？它是有意義的嗎？Hauer說：“在收集數(shù)據(jù)以處理極端情況時，我們需要了解神經(jīng)網(wǎng)絡(luò)是否被正確訓(xùn)練或過度擬合，或者它是否學(xué)習(xí)了正確的東西。”

Hauer指出，理解使用AI的影響和“副作用”是一回事，考慮它的“設(shè)計含義”是另一回事。“例如，我們能否為AI構(gòu)建一個安全包裝？如果系統(tǒng)檢測到AI的建議不可取，我們能否構(gòu)建一個經(jīng)典的算法來介入？”

為了建立安全論點，Hauer說，Infineon的策略是“使用一些非常具體的、特定的用例，看看我們是否可以降低風(fēng)險”，簡單地告訴工程師“在規(guī)劃中使用AI太抽象且對任何人都沒有幫助，所以我們正在開發(fā)一些具體的規(guī)控示例”。

他重申，目標(biāo)是降低風(fēng)險。“我們想要深入到技術(shù)層面，實際觀察這些例子，看看哪些是問題實例，以及我們?nèi)绾问顾鼈儼踩！痹谶@樣做的過程中，“我們制定或派生一個‘解決方案類型’”。

Hauer說，標(biāo)準(zhǔn)化并不是The Autonomous的工作小組的目標(biāo)。相反，該小組計劃提供一個參考解決方案，其中可能包括算法建議和最佳實踐。

使用哪種神經(jīng)網(wǎng)絡(luò)？

應(yīng)用于計算機(jī)視覺的神經(jīng)網(wǎng)絡(luò)有著很長的歷史。但什么樣的神經(jīng)網(wǎng)絡(luò)將被用于規(guī)控呢？

Hauer回答說：“我們不會更換整個模塊。相反，我們正在增強(qiáng)它。因此，我們可以在哪里以及如何進(jìn)行增強(qiáng)，有很多選擇。”

他指出，單就規(guī)劃而言，“你有一堆不同類別的解決方案，而每一類都有大量不同的技術(shù)來運(yùn)用它們。而對于每一種技術(shù)，你都有大量的選擇，如何用AI來增強(qiáng)它。”

換句話說，沒有一個單一的、標(biāo)準(zhǔn)的網(wǎng)絡(luò)可以完成這項工作。

Hauer補(bǔ)充說，一個重要的說明是，計算機(jī)視覺和規(guī)控執(zhí)行兩種完全不同的工作。計算機(jī)視覺提供檢測、分類和分割。為了增強(qiáng)規(guī)劃，必須執(zhí)行的任務(wù)是回歸和預(yù)測。回歸使用一種統(tǒng)計方法，試圖確定一個因變量和一系列其他變量之間關(guān)系的強(qiáng)度和特征。這為預(yù)測接下來發(fā)生的事奠定了基礎(chǔ)。

因此，在計算機(jī)視覺和規(guī)控中使用的網(wǎng)絡(luò)類型是不同的。后者會小得多，因為規(guī)劃只是想知道下一步是什么樣子。

Hauer說，在解決預(yù)測問題時，最有價值的結(jié)構(gòu)是眾所周知的拓?fù)浣Y(jié)構(gòu)，如循環(huán)神經(jīng)網(wǎng)絡(luò)。他描述了一種被稱為LSTM（long short-term memory）的特定網(wǎng)絡(luò)類型，它模擬了大腦的工作方式。當(dāng)你第一次看到某物時，你會把它放入你的短期記憶中，并試圖理解它的來源和含義。如果理解了，那么這個物體或經(jīng)歷就會進(jìn)入長期記憶。其基本思想是，要預(yù)測一個結(jié)果，你需要足夠的歷史來理解上下文。

相比之下，MLP（multilayer perceptron）是原始的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。它是一個前饋人工神經(jīng)網(wǎng)絡(luò)，從一組輸入生成一組輸出。Sch?fer說，MLP是在1960年左右發(fā)展起來的，而LSTM在1998年才首次發(fā)表，從數(shù)學(xué)角度來看是非常新的神經(jīng)網(wǎng)絡(luò)。

時間表

該公司的嵌入式AI安全工作組今年開始工作。根據(jù)Hauer的說法，該工作組的時間表為18個月，目標(biāo)是在2024年發(fā)表技術(shù)論文或技術(shù)報告。

Infineon認(rèn)為，嵌入式AI控制器，如Aurix MCU，可以在包括高級自動駕駛車輛在內(nèi)的應(yīng)用中提供低延遲、低處理功耗的解決方案來解決復(fù)雜問題。為了獲得車廠的支持，Infineon必須建立一個安全用例論證，將AI應(yīng)用于AV的規(guī)控等任務(wù)，可以降低安全風(fēng)險。為此，它需要來自行業(yè)利益相關(guān)者的合作。