Die Akzeptanz autonomer Fahrzeuge hängt von deren Sicherheit ab. Für die Entwicklung sicherheitskritischer KI-Funktionen im Bereich des automatisierten Fahrens leistet Safe AI Engineering einen entscheidenden Beitrag zur praxistauglichen Absicherung.
Standardisierte Sicherheit für KI in autonomen Fahrzeugen.
Ein Forschungsprojekt zur Definition einheitlicher Sicherheitsanforderungen
Die Forschungsarbeiten von Safe AI Engineering schließen die Lücke zwischen Konzept und Sicherheitsnachweis mittels Verifikation, Validierung (V&V) sowie Monitoring der KI. Dazu werden bestehende Normen wie ISO/PAS 8800, ISO/PAS 21448 (SOTIF) und ISO 26262 integriert, die internationale Standards für KI-Funktionen setzen. Die Methodik wird anhand einer kamerabasierten KI-Perzeptionsfunktion zur Fußgängererkennung erarbeitet und in drei Anwendungsfällen mit steigender Komplexität getestet: Von einer statischen Szene mit einem Fußgänger bis hin zu dynamischen, realitätsnahen Verkehrssituationen.
Das Vorhaben fügt sich nahtlos in die Projektlandschaft der VDA Leitinitiative autonomes und vernetztes Fahren ein und ist Teil der zweiten Generation der KI Familie (eine Projektfamilie, die sich thematisch auf KI-Themen in automobilen Anwendungsfeldern fokussiert) – zusammen mit den Projekten jbDATA und nxtAIM.
Motivation
Die Integration Künstlicher Intelligenz in sicherheitskritische Systeme führt dazu, dass KI-Funktionen nachweislich zuverlässig abgesichert werden müssen. Dieser Nachweis erstreckt sich sowohl auf die korrekte Funktionalität automatisierter Fahrzeuge als auch auf die Gewährleistung eines kontinuierlichen Monitorings im laufenden Betrieb. Die Grundlage für diesen Nachweis bildet eine strukturierte AI-Engineering-Methodik. Diese Methodik wird im Projekt anhand des Einsatzes realer und synthetischer Fahrdatengemeinsam mit Automobilherstellern, Zulieferern, IT- und Technologieunternehmen sowie Forschungseinrichtungen entlang der gesamten automobilen Wertschöpfungskette entwickelt. Aus den unterschiedlichen Disziplinen des AI Engineerings wie zum Beispiel Datengenerierung, Machine Learning Design, Validierung oder Evaluation – gebündelt in Teilprojekten – wird ein sicheres Seil gewoben, welches sinnbildlich für die Sicherheitsargumentation über den gesamten Lebenszyklus einer KI-Funktion steht.
Kerninnovationen
Safe AI Engineering entwickelt neue Ansätze für die sichere Nutzung von KI im automatisierten Fahren.
Dabei liegt der Schwerpunkt auf:
Sicherheit und KI-Integration
Verknüpfung von Sicherheitsanforderungen an die Funktion mit Sicherheitsprinzipien, die zur Gesamtargumentation beitragen. Dies erfolgt durch die AI-Engineering-Methodik, die eine Rückverfolgbarkeit der freigaberelevanten Sicherheitsargumentations-Bausteine auf System- und Komponentenebene gewährleistet.
Datenbasis und Qualitätssicherung
Methoden für die Normalisierung von hochwertigen Trainings- und Validierungsdaten, einschließlich synthetischer Daten.
KI-Bewertung und Sicherheitsstandards
Bewertung von Qualitätsmetriken gemäß ISO 26262, ISO/PAS 8800 und ISO/PAS 21448 (SOTIF).
Erklärbare und robuste KI
Transparente Methodik zur Absicherung einer Perzeptionsfunktion durch erklärbare KI-Eigenschaften.
Monitoring und kontinuierliche Verbesserung
Modellüberprüfung durch evidenzbasierte Offline- und Online-Überwachung, sowohl während des Entwicklungszyklus als auch im Betrieb.
Praxisnahe Demonstration
Testen der Technologien in realistischen Demonstratoren.
Impact
Safe AI Engineering stärkt die Innovationskraft der Branche und fördert die Weiterentwicklung neuer Technologien. Das Projekt trägt maßgeblich zur Integration von KI-Komponenten in automatisierte Fahrzeuge bei und ermöglicht KI-getriebene Fortschritte in Sensorik, Aktorsystemen, Robustheit, Ausfallsicherheit sowie Datenfusion und -verarbeitung. Damit wird die Grundlage für die Skalierung automatisierter Mobilitätslösungen geschaffen.
Fahrzeughersteller und -zulieferer profitieren zweifach: Sie finden eine erprobte Methodik zur Überprüfung ihrer KI-Systeme bereits in der Entwicklung und freigaberelevante Argumentationsbausteine zu den sicherheitskritischen KI-Funktionen im Fahrzeug vor. Eine Realisierung von Level 3 und höheren automatisierten Funktionen im Fahrzeug einschließlich behördlicher Genehmigung rückt damit in greifbare Nähe. Die gesellschaftliche Akzeptanz steigt und Nutzer:innen erhalten ein straßentaugliches Fahrzeug – mit zuverlässigen und sicheren KI-Funktionen.
Ausblick
Als Projekt weist Safe AI Engineering in die Zukunft, das nicht nur die Sicherheit von KI im Fahrzeug gewährleistet, sondern auch einen Standard für die gesamte Branche setzen kann. Es ist ein wichtiger Schritt auf dem Weg zu einer sicheren und zuverlässigen Integration von KI in automatisierte Fahrzeuge und trägt dazu bei, ein allgemeines Sicherheitsgefühl in Bezug auf automatisierte und autonome Mobilitätssysteme sowohl bei Herstellern als auch Behörden und Nutzer:innen zu etablieren. Auch andere Bereiche beispielsweise in der Robotik oder Automatisierungstechnik können zumindest Anleihe an der AI Engineering Methode nehmen, wenn nicht sogar Ansätze übernehmen.