2020年12月3日，由中國汽車工程研究院主辦的第五屆i-VISTA智能網聯汽車國際研討會隆重召開， 在中國智能網聯汽車產業創新聯盟CAICV-SOTIF工作組會議環節，清華大學車輛與運載學院副研究員、智能出行所副所長王紅發表了“預期功能安全量化評價指標初探”的主旨演講。

清華大學車輛與運載學院副研究員、智能出行所副所長王紅

以下為演講實錄：　

非常感謝陳老師前面對預期功能安全量化評價指標的這樣一個詳細的報告，研究得非常的深入，然后我的報告從更宏觀的層面來給大家介紹一下我對預期功能安全量化評價指標的一個初步的想法，大家充分領域，然后后面我們看看具體是不是具有可實際的操作性。那么這個目錄看上去很多內容，但實際上的話內容不是特別的多，總共是23頁，第一個是預期功能安全問題及其關鍵的難點，那么這里就是預期功能安全定義的一個回數，預期功能安全主要關注的是功能不足，性能局限或者可合理預見的人員互用所引起的危害。

為什么加入這些內容？因為我發現今天在座的各位并不是所有的專家都對預期中完全有比較詳細的了解，所以特意把這部分內容拿出來跟大家回顧一下。

那么這里道路環境包括隨機的場景變換，非常規的交通參與度和交通的環境干擾。

另外自動駕駛系統的局限性，包括系統的功能局限，AR算法的局限的，另外駕駛員乘客的可合理運行的雇傭，包括事件的偏移，駕駛的疲勞以及人員的雇傭。那么這里是剛才陳老師也提到了一個典型的案例，大家都喜歡把它拿出來說事，開發這個車，把玉溪木板前面的白色卡車車廂識別為是一種白云，導致了這樣一個一起事故，這就是預期功能安全一個典型的案例。

那么根據阿薩爾21448里面，我們可以看到預期功能安全最難攻克的部分其實就是阿諾阿c的位置的安全區域，這個產品部分。

另外我們在研究的過程當中，把預期功能安全分為了感知層、決策層和控制層三個層面，對預期工作安全進行研究、感知、決策控制它的劃分，也對于后面我們提出預期功能安全的評價體系作為一個引述。那么當前預期工作安全的難題包括感知的不充分，這里主要是從感知層面，包括漏檢和錯檢，另外就是度量的不準確性，這里主要是由場景的隨機變換和人人工智能算法的這種不確定性，造成我們預期功能安全度量的不準確。

那么第三個就是驗證不全面，測試里程長驗證不全面的。那么下面就是我來跟大家探討的重點是預期功能安全量化評價體系的一個整體的思路。下面跟大家說一下我們這樣總結出來思路的一個心路歷程。因為公共安全發展到后來發現很多問題，隨著預期功能，隨著通過智能算法的應用，它是覆蓋不了所有關于預自動駕駛方面的所有的安全問題，所以才有了預期功能安全問題，也就是阿q21448的產生。

但是在現有的資料里面，就像我在前面介紹的過程當中，說的預期工作安全的評價體系，目前來看都是來自于硬件系統的功能安全評價體系，比如horror stpasmea目前上午公認的預期功能安全分析與評價方法。

在我做預期功能安全研究之初，也就是去年的7月份，在我剛研究的時候，我也跟張玉清老師交流過，我當時特別抵觸功能安全的SS的評價方法，因為我認為那是對于功能安全功能失效造成的這樣一個分析方法，而且它里面涉及的EMC都是零散的，我覺得并不適應我們預期功能安全的評價，但是在我后來了解的深入之后，我發現我們不能完全摒棄功能安全的評價的思路，只不過我們要在這個基礎上進行放話，更適用于預期功能安全的一個評價思路。

那么在預期功能安全量化評價體系在了解的過程當中，我們會發現，因為它是伴隨著人工智能的算法不確定性，我們這里面又調研了關于人工智能算法借鑒計算機系他們對于人工智能算法的不確定性的評價，因為不確定性目前來造成的就是我們預期功能安全的問題。

那么這里我們必須得跨學科跨領域交流，才能攻克我們預期功能安全。所以在感知方面和決策方面甚至預測方面，我們對預期功能安全的不確定性的評價方法進行了一個比較深入的調研。

例如在環境轉移算法和不確定性評價這里，我們主要是發現了牛津大學一個叫延安蓋奧的非常年輕的教授，他們提出用近似于b Bs推動的一個語義分割方法，利用它里面的MC job out，就是利用這種方法或者是公司training這兩種比較典型的方法，提出了預測商和互信息，這個思路就比較貼合我們前期的就是商的概念，所以我沒有追蹤的他們就是1011這個團隊的所有的研究，他們最初是研究人工智能算法的不確定性的，那么后來才有機會把這些不確定性方法做到我們的車輛領域。

這也就回答了剛才重慶大學王科老師的一個問題，就是預期工作安全它涉及的算法不確定性該如何進行評價，我認為這是一個非常值得有借鑒意義和學習的參考的資料。

另外在決策算法不確定性分析上，我們發現MIT和cmd他們都做了大量的工作，就是決策上所決策算法的前端就是預測算法，那么我們對預測算法對周圍環境，由人和車輛他們的軌跡進行預測，如果他的預測不夠準確的話，那么直接會影響到我們決策的安全。

那么這里主要是前期的研究，主要是針對于預測算法，對周圍環境周圍車輛和周圍閑人他們預測的不確定性，如何引入到我們的決策模塊里面，使得我們的決策具有預測的，這種不確定性敏感度的這樣一個決策方法，那么這里面他們提出來，如果我對于周圍的環境預測的不確定性高的情況下，應該采取一些降級或者是應急的處置方法，那么這里我認為也是對于預期功能安全的研究也是具有借鑒意義，所以綜合前面大概是根據借鑒功能什么內容和計計算機領域對預期工作安全所有可能借鑒意義，對得出來了這樣一個預期功能安全量化評價體系的一個整體的思路。

那么整體的思路可以就是說拿出來跟大家討論一下，其實現在也是我的團隊正在做的事情。

我們認為預期功能安全評價體系包括三個層面，第一個層面是系統層面，我們不管內部是什么樣的構成，它的算法是具有不確定性還是怎么樣，但是我們把它作為一個黑盒，我們來看它的表現在我們現有的場景這種測試場景的輸入，包括功能場景邏輯場景和具體場景，另外就是建設我們預期功能安全的產品庫，輸入在這些場景的基礎上，我們進行整體性能的一個評價，也就是結合系統級的評價，系統級的評價，我們現在就認為它必須得包括三個層面，也就是暴露度，還有嚴重度還有可控性，那么 exposure高度是必須要結合產品的分類評估的，估計賊的前他肯定不是離散的，不是說1234這么簡單，而是通過我們可以實時的做出這樣一個風險評估。

這里我們起了一個名字叫potential security combat index，也就是我們潛在的碰撞風險系數，potential security， price，index，我們可以實時的判斷它的風險，那么很特別的可控性，我們是依據碰撞的一個評估，根據它的可能發生沖突的概率來定義我們可控性，所以在系統級的評價這一層，我們可以發現現在的存儲是結合esc但是s和c都是跟傳統的的功能安全是不一樣的，進行了一個泛化。

然后這是第一層是系統層，那么第二層是構建層，這個部件就是把內部的系統打開成是一個百合，包括感知模塊、預測模塊、決策模塊和執行模塊。

那么這里面感知模塊它的一個輸出，也就是在我們來講就是結構導向它的輸出，包括風險率特點率，還有定位的誤差等等，當然我們把定位涵蓋在這模塊里面，那么這里面就可以說它的根據它的結構性的導向，包括你對弱弱堿域抽檢率和定位的精度等等，來評估你這一個模塊它的表現怎么樣。

另外同樣的是決策預測模塊、決策模塊、執行模塊等等，都是根據他們預測的結果來進行的一個評估，就是結果導向。

那么第三層要深入到算法本身，研究它的不確定性，這個也就是更適合我們公司的產品開發以及高效的這樣理論的研究。比如說感知模塊，它里面數據的確定性，算法的不確定性，這里面包括我們對于它是較為認知和偶然不確定性，那么這里面就通過這些不確定性，我們可以得出部件級感知的一個評價指標。

那么這也是一個例子，這個是三我們認為是第三層的一個評價，就是決策層和預測層其實也是這樣，預測層是我們可以研究預測模型的不確定性，預測模型預測你是有精度的，它形成的軌跡預測出來的，它是有一個不確定性的。

另外還有決策模塊，決策模塊目前我們團隊在研究的是決策模型的科技屬性的研究，我們希望通過可解釋性的研究來提出決策模塊的一個評價指標，同樣還有執行模塊，所以這一幅圖闡述了我們對預期功能安全量化評價體系的一個整體的思路，包括系統級的評價，esc部件級的評價，部件級的評價，包括結構導向的，也就是根據它輸出的結果來判斷，另外一部分是深入到算法本身，去研究它內部的不確定性，來進行一個評價指標的提出，整個這是三個層面。

那么這里面剛才我所說的系統級的評價指標，就是這里的一根據我們的場景出現的頻度統計，既那么斯維爾寫這里面提出的是潛在碰撞風險系數和潛在的一個financial field市場，另外可說value就是介紹我們可控性碰撞概率的預算，那么這里面通過通過我們整個EMC的計算來得出系統級的預期功能安全評價評價體系。

那么三第三塊是感知層的預期功能安全評價體系，那么這里面是感知也是分了兩塊，一個是結果導向的，就是根據我數字的結果，包括我們的感知精度、漏檢率、錯檢率等等這些來評價我們感知的結果是什么樣的一個評價指標，而這里也得到了一個佐證，就是前兩天跟特訓李繼明女博士溝通的時候，某激光雷達廠家對他們算法性能的衰退也是同樣用到這樣的一個方法，對于不同的檢測距離，他們對未知因素的一個判斷。

也就是說我們對于某某個模塊的評價，不一定就是說非常復雜的算法，而是說用比較實用的，用比較大家容易理解容易接受的方法來對它進行評價。

另外就是內因導向的評價方法，內因就是評價我們算法的不確定性，而這里是我們對采用我們的卡羅州號的一個不確定性如何進行一個評價。

那么預測層的預期功能安全評價體系其實是根據預測的不確定性，把它其實也是用了MC周刊，我們基于貝葉斯推斷的一個模型的不確定性分析的評估方法，然后來得出我們預測模塊整個不確定性分析的一個評價指標，當然評價的指標可能會比較適用于高校做理論研究，那么也不排除應用在我們行業做預期的安全這樣一個評價體系，對于預測層這塊。

那么決策層這塊其實主要是研究決策的可解釋性和不確定性的一些評價指標，這里我們希望能夠得到決策層的可解釋性，還有它的不確定性的一些評價指標，這部分研究內容還是在進程當中才，所以具體的結果可能得到明年才能跟大家進行一個探討，所以這里就是我介紹了一個評價體系的初步的思路，供大家參考，也歡迎大家就提出更多的寶貴意見。

注：本文根據現場速記整理，未經演講嘉賓審閱，僅作為參考資料，請勿轉載！

返回第一電動網首頁 >