Ende November erreichte das Projekt Safe AI Engineering einen wichtigen Meilenstein: die Demonstration von Use Case 1 im AVL Tech Center in Bietigheim-Bissingen. Ziel des Projekts ist es, eine praxisnahe Methodik zu entwickeln, mit der KI-Funktionen zuverlässig und langfristig sicher ausgelegt werden können. Diese Methodik wird über drei Jahre hinweg in drei Use Cases mit steigender Komplexität weiterentwickelt.

Der Tag begann mit einer durchgängigen Vorstellung der im Projekt entstandenen Methodik sowie der Präsentation der Ansätze für die Umsetzung anhand des Use Case 1. Im Fokus: ein stehendes Fahrzeug und ein stehender Fußgänger auf einer geraden Straße – ein scheinbar einfaches Szenario, das dennoch wichtige Herausforderungen für die sichere Gestaltung von KI-Funktionen birgt.

Im zweiten Teil des Tages wurden Simulationen vorgeführt und die Teilnehmenden konnten bei Demonstrationen in Testfahrzeugen live erleben, was es bedeutet, KI-Funktionen am Beispiel des Use Case 1 sicher zu gestalten, welche Hürden es gibt und wie man diese meistern kann.

Zum einen wurde die Integration von mehreren Komponenten vorgestellt, wie zum Beispiel Threat Metrics für die funktionale Bewertung und ein Adversarial Loss Monitor zu Überwachung der KI-Funktion. Für alle Komponenten lag eine ausgearbeitete Sicherheitsargumentation vor, die relevante Standards berücksichtigt.

In den drei Demo-Fahrzeugen vom FZI, KIT sowie von AVL wurden die Komponenten zur Absicherung von KI-Funktionen integriert. Die Fußgängererkennung konnte von den Teilnehmenden live erlebt und getestet werden, das KI-Modell unter Einbindung von Safety Zones wurde vorgestellt und zudem ging es um die Fehlererkennung durch strukturierte Redundanz sowie die Messung der Wahrscheinlichkeit und Schwere möglicher Kollisionen.

Mit dem erfolgreichen Abschluss der ersten Iteration ist nun der Weg geebnet, komplexere Situationen zu meistern und die Entwicklung in Richtung einer skalierbaren und automatisierbaren Methodik weiter zu treiben. Der zweite Use Case startet in 2026.

Foto: AVL Deutschland