AI通常用于為高級(jí)自動(dòng)駕駛的車(chē)輛提供感知能力。但AI也能幫助自動(dòng)駕駛汽車(chē)（AV）在規(guī)劃和控制方面做出更安全的決策嗎？任何習(xí)慣于基于控制理論的確定性算法的人都很難被說(shuō)服。但I(xiàn)nfineon提出了一個(gè)激進(jìn)的反駁，并一直在與汽車(chē)行業(yè)的利益相關(guān)者就其安全問(wèn)題進(jìn)行辯論。

AI安全嗎？AI驅(qū)動(dòng)的汽車(chē)可靠嗎？它們能被驗(yàn)證嗎？

這些都是向高級(jí)自動(dòng)駕駛車(chē)輛的開(kāi)發(fā)人員提出的好問(wèn)題。

隨著先進(jìn)的神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺(jué)方面得到良好發(fā)展，在AV上使用AI已經(jīng)成為一種公認(rèn)的規(guī)范。不過(guò)，這仍然是一個(gè)信任的問(wèn)題。

Infineon的嵌入式AI和自動(dòng)駕駛專家Florian Hauer表示，AI可以幫助機(jī)器感知它所看到的東西（行人、信號(hào)燈、自行車(chē)……），并獲得對(duì)環(huán)境獲的“非常高級(jí)的抽象理解”，從而知道如何在該環(huán)境中采取行動(dòng)。

在自動(dòng)駕駛的計(jì)算鏈中，這些最初的步驟被稱為感知和場(chǎng)景理解。它們是為高級(jí)自動(dòng)駕駛車(chē)輛規(guī)控系統(tǒng)做準(zhǔn)備的兩個(gè)基本模塊。

計(jì)算機(jī)視覺(jué)在前兩個(gè)模塊中起著關(guān)鍵作用。Hauer說(shuō)：“你已經(jīng)在使用AI作為主要解決方案。在感知和場(chǎng)景理解方面，我認(rèn)為沒(méi)有人會(huì)回到深度學(xué)習(xí)技術(shù)之前。”

然而，他補(bǔ)充說(shuō)，AI在規(guī)控中卻“很少或幾乎不使用”。

Hauer說(shuō)：“通過(guò)軌跡規(guī)劃，車(chē)輛可以在接下來(lái)的1-5秒內(nèi)繪制出它必須走的路徑，以執(zhí)行某些操作，如在信號(hào)燈前停車(chē)或變道。在軌跡控制中，規(guī)劃的路徑在道路上被執(zhí)行。車(chē)輛決定向左或向右行駛。它可以選擇在時(shí)間和空間中移動(dòng)的速度，以及何時(shí)應(yīng)該加速或減速。”

為了執(zhí)行涉及規(guī)控制的安全關(guān)鍵計(jì)算，今天的高級(jí)自動(dòng)駕駛車(chē)輛使用成熟的確定性算法，該算法基于由業(yè)內(nèi)專家在40多年間開(kāi)發(fā)的控制理論。Tier1和OEM對(duì)經(jīng)典算法有著“共同的理解”，對(duì)安全的定義也達(dá)成了一致。到目前為止，汽車(chē)生態(tài)系統(tǒng)中的大多數(shù)參與者還沒(méi)有考慮過(guò)使用AI進(jìn)行規(guī)控。

Infineon正在打破這一模式，建議業(yè)界應(yīng)用AI來(lái)增強(qiáng)用于規(guī)控的確定性算法。Hauer說(shuō)，目標(biāo)不是取代經(jīng)典算法，而是提高它們的安全性、可靠性和效率。

Infineon在推進(jìn)嵌入式AI的安全性方面有既得利益，其最新的Auriz MCU具有嵌入式AI能力。但它提出的使用AI進(jìn)行規(guī)控的建議目前只是一個(gè)假設(shè)。Hauer承認(rèn)首先需要回答安全問(wèn)題，而將AI應(yīng)用于規(guī)控中“安全意味著什么”是一個(gè)“不能由單個(gè)公司回答”的復(fù)雜問(wèn)題。

因此，Infineon迫切希望在利益相關(guān)者之間建立“共識(shí)”。該公司來(lái)到TTTech成立的汽車(chē)行業(yè)合作論壇The Autonomous，分享其假設(shè)，與主要參與者合作，并領(lǐng)導(dǎo)一個(gè)關(guān)于嵌入式AI安全性的工作組討論。

動(dòng)機(jī)

是什么促使Infineon建議將AI應(yīng)用于高級(jí)自動(dòng)駕駛的規(guī)控？為什么這對(duì)汽車(chē)行業(yè)如此重要？

該公司系統(tǒng)架構(gòu)和應(yīng)用高級(jí)負(fù)責(zé)人Jürgen Sch?fer表示，答案可以歸結(jié)為高級(jí)自動(dòng)駕駛車(chē)輛達(dá)到量產(chǎn)所需的“成本和能效”。

許多人認(rèn)為如今的AV設(shè)計(jì)過(guò)度。在Sch?fer的觀點(diǎn)中，“今天的AV原型的利潤(rùn)率可以降低”。出于安全考慮，AV公司復(fù)制計(jì)算鏈，在獨(dú)立的信號(hào)處理鏈上運(yùn)行兩種算法，使用的不是一個(gè)而是一組控制器。考慮到現(xiàn)實(shí)駕駛的不確定性，系統(tǒng)可能很難應(yīng)對(duì)意外。因此，工程師們覺(jué)得在AV系統(tǒng)中設(shè)計(jì)一個(gè)廣泛的安全冗余更舒服，Sch?fer觀察到，冗余被認(rèn)為可以增強(qiáng)安全性。

Sch?fer說(shuō)，雖然在先進(jìn)的架構(gòu)中冗余被認(rèn)為是必要的，但AV公司最終推出了成本過(guò)高的AV原型，部署了“消耗2000W的電子控制系統(tǒng)”，并“使用液冷單元，這進(jìn)一步增加了成本，使系統(tǒng)不可靠”。

使用機(jī)器學(xué)習(xí)算法可以幫助系統(tǒng)設(shè)計(jì)者避免過(guò)度設(shè)計(jì)。他說(shuō)：“最終，機(jī)器學(xué)習(xí)算法是唯一能從數(shù)學(xué)上預(yù)測(cè)未來(lái)的算法。通過(guò)機(jī)器學(xué)習(xí)算法，你可以說(shuō)，例如，基于系統(tǒng)和環(huán)境在過(guò)去20秒的表現(xiàn)，（這就是）下一秒可能發(fā)生的事。”

在嘗試以線性方向預(yù)測(cè)未來(lái)時(shí)，你可以查看系統(tǒng)環(huán)境并謹(jǐn)慎地進(jìn)行，但是你仍然可能遇到阻礙系統(tǒng)反應(yīng)能力的緊急情況。Sch?fer表示，以“隨機(jī)方式”預(yù)測(cè)未來(lái)的機(jī)器學(xué)習(xí)算法，通過(guò)一個(gè)涉及隨機(jī)確定的事件序列的過(guò)程，有望更好地避免這種僵局。

安全用例為AI在規(guī)控中的應(yīng)用建立一個(gè)安全用例并不簡(jiǎn)單。Hauer承認(rèn)，在行業(yè)發(fā)展到這一步之前，許多過(guò)程都會(huì)發(fā)揮作用。

他說(shuō)，首先，將AI整合到規(guī)控中會(huì)影響開(kāi)發(fā)過(guò)程的不同階段。必須確定和分析相關(guān)的開(kāi)發(fā)步驟，以確定它們對(duì)系統(tǒng)其余部分的影響。

接下來(lái)要考慮的是數(shù)據(jù)。數(shù)據(jù)是否具有代表性？它是有意義的嗎？Hauer說(shuō)：“在收集數(shù)據(jù)以處理極端情況時(shí)，我們需要了解神經(jīng)網(wǎng)絡(luò)是否被正確訓(xùn)練或過(guò)度擬合，或者它是否學(xué)習(xí)了正確的東西。”

Hauer指出，理解使用AI的影響和“副作用”是一回事，考慮它的“設(shè)計(jì)含義”是另一回事。“例如，我們能否為AI構(gòu)建一個(gè)安全包裝？如果系統(tǒng)檢測(cè)到AI的建議不可取，我們能否構(gòu)建一個(gè)經(jīng)典的算法來(lái)介入？”

為了建立安全論點(diǎn)，Hauer說(shuō)，Infineon的策略是“使用一些非常具體的、特定的用例，看看我們是否可以降低風(fēng)險(xiǎn)”，簡(jiǎn)單地告訴工程師“在規(guī)劃中使用AI太抽象且對(duì)任何人都沒(méi)有幫助，所以我們正在開(kāi)發(fā)一些具體的規(guī)控示例”。

他重申，目標(biāo)是降低風(fēng)險(xiǎn)。“我們想要深入到技術(shù)層面，實(shí)際觀察這些例子，看看哪些是問(wèn)題實(shí)例，以及我們?nèi)绾问顾鼈儼踩！痹谶@樣做的過(guò)程中，“我們制定或派生一個(gè)‘解決方案類型’”。

Hauer說(shuō)，標(biāo)準(zhǔn)化并不是The Autonomous的工作小組的目標(biāo)。相反，該小組計(jì)劃提供一個(gè)參考解決方案，其中可能包括算法建議和最佳實(shí)踐。

使用哪種神經(jīng)網(wǎng)絡(luò)？

應(yīng)用于計(jì)算機(jī)視覺(jué)的神經(jīng)網(wǎng)絡(luò)有著很長(zhǎng)的歷史。但什么樣的神經(jīng)網(wǎng)絡(luò)將被用于規(guī)控呢？

Hauer回答說(shuō)：“我們不會(huì)更換整個(gè)模塊。相反，我們正在增強(qiáng)它。因此，我們可以在哪里以及如何進(jìn)行增強(qiáng)，有很多選擇。”

他指出，單就規(guī)劃而言，“你有一堆不同類別的解決方案，而每一類都有大量不同的技術(shù)來(lái)運(yùn)用它們。而對(duì)于每一種技術(shù)，你都有大量的選擇，如何用AI來(lái)增強(qiáng)它。”

換句話說(shuō)，沒(méi)有一個(gè)單一的、標(biāo)準(zhǔn)的網(wǎng)絡(luò)可以完成這項(xiàng)工作。

Hauer補(bǔ)充說(shuō)，一個(gè)重要的說(shuō)明是，計(jì)算機(jī)視覺(jué)和規(guī)控執(zhí)行兩種完全不同的工作。計(jì)算機(jī)視覺(jué)提供檢測(cè)、分類和分割。為了增強(qiáng)規(guī)劃，必須執(zhí)行的任務(wù)是回歸和預(yù)測(cè)。回歸使用一種統(tǒng)計(jì)方法，試圖確定一個(gè)因變量和一系列其他變量之間關(guān)系的強(qiáng)度和特征。這為預(yù)測(cè)接下來(lái)發(fā)生的事奠定了基礎(chǔ)。

因此，在計(jì)算機(jī)視覺(jué)和規(guī)控中使用的網(wǎng)絡(luò)類型是不同的。后者會(huì)小得多，因?yàn)橐?guī)劃只是想知道下一步是什么樣子。

Hauer說(shuō)，在解決預(yù)測(cè)問(wèn)題時(shí)，最有價(jià)值的結(jié)構(gòu)是眾所周知的拓?fù)浣Y(jié)構(gòu)，如循環(huán)神經(jīng)網(wǎng)絡(luò)。他描述了一種被稱為L(zhǎng)STM（long short-term memory）的特定網(wǎng)絡(luò)類型，它模擬了大腦的工作方式。當(dāng)你第一次看到某物時(shí)，你會(huì)把它放入你的短期記憶中，并試圖理解它的來(lái)源和含義。如果理解了，那么這個(gè)物體或經(jīng)歷就會(huì)進(jìn)入長(zhǎng)期記憶。其基本思想是，要預(yù)測(cè)一個(gè)結(jié)果，你需要足夠的歷史來(lái)理解上下文。

相比之下，MLP（multilayer perceptron）是原始的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。它是一個(gè)前饋人工神經(jīng)網(wǎng)絡(luò)，從一組輸入生成一組輸出。Sch?fer說(shuō)，MLP是在1960年左右發(fā)展起來(lái)的，而LSTM在1998年才首次發(fā)表，從數(shù)學(xué)角度來(lái)看是非常新的神經(jīng)網(wǎng)絡(luò)。

時(shí)間表

該公司的嵌入式AI安全工作組今年開(kāi)始工作。根據(jù)Hauer的說(shuō)法，該工作組的時(shí)間表為18個(gè)月，目標(biāo)是在2024年發(fā)表技術(shù)論文或技術(shù)報(bào)告。

Infineon認(rèn)為，嵌入式AI控制器，如Aurix MCU，可以在包括高級(jí)自動(dòng)駕駛車(chē)輛在內(nèi)的應(yīng)用中提供低延遲、低處理功耗的解決方案來(lái)解決復(fù)雜問(wèn)題。為了獲得車(chē)廠的支持，Infineon必須建立一個(gè)安全用例論證，將AI應(yīng)用于AV的規(guī)控等任務(wù)，可以降低安全風(fēng)險(xiǎn)。為此，它需要來(lái)自行業(yè)利益相關(guān)者的合作。