VAIVA zentraler Projektpartner in KI Absicherung der VDA

von Christian

Mit dem großen Abschlussevent in Berlin ging am 23. Juni 2022 das Projekt KI Absicherung zu Ende. In vier Teilprojekten wurde eine Methodik zur systematischen Identifizierung, Erfassung und Entschärfung von Funktionsschwächen bei der Anwendung von Künstlicher Intelligenz für das autonome Fahren entwickelt. VAIVA war mit ihrer Safety-Expertise maßgeblich am Erfolg beteiligt und erstellte als zentraler Koordinator die finale Sicherheitsargumentation des Projekts.

KI Absicherung ist ein Projekt der KI Familie, zusammen mit 3 Schwesterprojekten (KI Wissen, KI Data-Tooling, KI Delta-Learning). Diese KI Familie ist Teil der VDA-Leitinitiative für autonomes und vernetztes Fahren. Als erstes Projekt der KI Familie ist KI Absicherung jetzt abgeschlossen und übergibt damit seine Ergebnisse und Daten an seine Schwesterprojekte.

Die Anwendung von Künstlicher Intelligenz (KI) gilt als Schlüsseltechnologie für das autonome Fahren. In dem Projekt KI Absicherung erarbeiten KI- und Sicherheitsexperten aus der Industrie, zusammen mit akademischen Partnern, eine Methodik, die systematisch die Schwächen von Funktionen mit künstlicher Intelligenz identifiziert, erfasst und entschärft. Im Projekt KI Absicherung wird dies an der beispielhaften Funktion der Fußgängererkennung demonstriert. Das Ziel hierbei ist es einen industrieweiten Konsens für die Methodik zur Absicherung von KI-Funktionen zu erreichen. Hierzu arbeitet ein Konsortium aus 24 Partnern, bestehend aus OEMs, Zulieferern, Technologie-Providern und wissenschaftlichen Instituten und Universitäten zusammen.

In KI Absicherung wurden exemplarisch mehrere KI-Funktionen entwickelt (v.a. der Single Shot Detector, SSD, als 2D Bounding Box Detector für Fußgänger), welche als Grundlage für das Projekt dienten. Die (Weiter-)Entwicklung dieser exemplarischen KI-Funktion fand in Teilprojekt 1 (TP1) statt. In TP2 wurden synthetische Daten generiert, mit der die KI-Funktion aus TP1 trainiert wurde. Synthetische Daten haben den großen Vorteil, dass diese systematisch und in großer Menge erzeugt werden können. Man ist hierbei nicht abhängig davon große Strecken zu fahren, um seltene Szenarien in den Daten wiederzufinden. Des Weiteren können Test-Szenarien beliebig variiert werden, um Schwächen in der KI-Funktion systematisch zu untersuchen. Es bleibt allerdings die Problemstellung von der Übertragbarkeit der synthetischen Daten in die echte Welt als Fragestellung und Herausforderung.

In TP3 werden Methoden und Maßnahmen entwickelt und definiert, um die KI-Funktion systematisch untersuchen zu können. Dies ist bei der Verwendung von Künstlicher Intelligenz besonders wichtig, da Tiefe Neuronale Netze (Deep Neural Network, DNN) eine Black Box darstellen und Entscheidungen nicht direkt nachvollzogen werden können. Es wurden im Rahmen des Projekts sog. DNN-spezifische Safety Concerns formuliert, welche die wichtigsten Schwächen von DNNs adressieren. Die Methoden und Tests aus TP3 dienen der Absicherungsstrategie aus TP4 als Nachweise (Evidence), um die Sicherheitsargumentation auf eine fundierte Basis zu stellen. Diese Absicherungsstrategie wurde in der sog. Goal Structuring Notation (GSN) erstellt, was eine übersichtliche, graphische Darstellung ist. In der Sicherheitsargumentation finden sich alle anderen Teile des Projekts wieder: die KI-Funktion als zentrales Element, welches als sicher argumentiert wird, die Daten für dessen Training und Tests und die Methoden zum Testen der Schwächen der KI-Funktion als Nachweise.

Die Aktivitäten der VAIVA (im Projekt noch ASTech) fokussierten sich auf die Safety Aspekte und damit auf das TP4, sowie auf Aktivitäten als Sicherheitsexperte für einen DNN-spezifischen Safety Concern. VAIVA war zentraler Koordinator für die Erstellung der finalen Sicherheitsargumentation und damit eines der zentralen Ergebnisse des Projekts.

Die Rolle von künstlicher Intelligenz wird in Zukunft durch seine immensen Möglichkeiten (Stichwort autonomes Fahren) immer weiter zunehmen, auch und v.a. im Automobilbereich. Herausfordernd ist hierbei aber nicht nur die Entwicklung von KI-basierten Funktionen, sondern v.a. sicher zu stellen, dass diese auch den sehr strengen Sicherheitsstandards im Automobilbereich genügen. Das Projekt KI Absicherung schaffte hier die Grundlagen, wie KI in Zukunft als sicher beschrieben und argumentiert werden kann. Für VAIVA war Christian u.a. als Koordinator für die Sicherheitsargumentation zuständig und saß gemeinsam mit Nicole im Steuergremium des Projekts. Darüber hinaus wurde Timo, mit Unterstützung von Yanjie, als Sicherheitsexperte tätig und erstellte einen Teil der Sicherheitsargumentation.