Um KI-Funktionen zuverlässig und langfristig sicher auszulegen, wird eine praxisgerechte Methodik für die Erstellung einer freigaberelevanten Sicherheitsargumentation erarbeitet, die in direkten Anwendungsfällen getestet und umgesetzt wird.
Methodik
Die Methodik wird anhand einer kamerabasierten KI-Perzeptionsfunktion zur Fußgängererkennung erarbeitet. Sie durchläuft drei iterative Stufen der Funktionsevolution, die jeweils einen Use Case mit steigender Komplexität beinhalten. Die KI-Funktion zur Fußgängererkennung wird über die Use Cases weiterentwickelt und getestet. Jeder dieser Use Cases integriert neue Herausforderungen und erfordert so die kontinuierliche Verbesserung und Absicherung der KI-Funktion. Aus der Zusammenarbeit und Verflechtung der einzelnen Teilprojekte entsteht ein vollumfänglicher, freigaberelevanter Sicherheitsnachweis. Die Herangehensweise, diese Verflechtung (oder auch Orchestrierung) zu systematisieren, ist das zentrale Ziel des Projekts – die Safe AI Engineering Methodik.
Orchestrierung / Teilprojekte
Im Fokus von TP1 steht die systematische Orchestrierung einer AI-Engineering-Methodik über den gesamten Lebenszyklus einer KI-basierten Perzeptionsfunktion hinweg. Hier werden auch die Systemanforderungen an die KI-Eigenschaften, deren Grenzen und somit auch die Grenzen, die die Sicherheitsargumentation abdecken muss, beschrieben. Anhand eines Steuerungskonzept ist sichergestellt, dass relevante Artefakte konsistent, teilprojektübergreifend zur Verfügung gestellt, integriert und validiert werden.
1 von 7Im TP2 wird durch die Weiterentwicklung bestehender Werkzeuge, Szenarien und Datenquellen eine einheitliche, adaptive und skalierbare Datenbasis geschaffen. Diese Datenbasis liefert Bausteine zur Sicherheitsargumentationen, schließt gezielt Datenlücken, macht hybride Daten nutzbar und unterstützt systematisch die Datenbereitstellung entlang des gesamten Lebenszyklus sicherheitskritischer KI-basierter Funktionen.
2 von 7In TP3 werden Konzepte zur effizienten Nutzung der in TP2 generierten Daten für das Training und die Validierung von KI-Systemen entwickelt. Durch informationstheoretisch fundierte Methoden zur Normalisierung und Bewertung der Informationsqualität wird sichergestellt, dass Sensordaten robust, abstrahiert und sicherheitsrelevant verarbeitet werden können.
3 von 7Kern von TP4 ist die Entwicklung eines hybriden Sicherheitskonzepts, das auf einer Bedarfsanalyse sicherheitsrelevanter Prinzipien gemäß ISO PAS 8800, ISO 26262 und SOTIF basiert und datengetriebene, kausal-analytische sowie monitorbasierte Ansätze integriert. Gemeinsam mit anderen TPs wird hiermit eine konsistente, praxistaugliche Sicherheitsargumentation über System-, Daten- und Funktionsbausteine hinweg ermöglicht.
4 von 7TP5 entwickelt eine sichere, erklärbare und robuste kamerabasierte Perzeptionsfunktion für Fußgänger. Bestehende KI-Modelle werden erweitert und durch Methoden zur Quantifizierung von Unsicherheiten, Erhöhung der Erklärbarkeit, Verbesserung der Robustheit sowie durch praxisnahe Gütemetriken und sicheres Software-Engineering ergänzt. Entscheidungen werden nachvollziehbar, Risiken zuverlässig adressiert und die Effektivität von Safety-Maßnahmen wird messbar in die KI-Entwicklung integriert.
5 von 7Das TP6 entwickelt Online- und Offline-Monitoring-Methoden zur Überwachung der KI-basierten Fußgängererkennung. Online-Monitoring sorgt im Fahrbetrieb für unmittelbare Sicherheitsreaktionen, Offline-Monitoring nutzt historische Daten zur gezielten Verbesserung und Validierung.Gemeinsam gewährleisten beide Ansätze die kurz- und langfristige Sicherheit, Robustheit und Weiterentwicklung der KI-Funktion im automatisierten Fahren über den gesamten Lebenszyklus hinweg.
6 von 7TP7 zielt auf eine durchgängige Sicherheitsbewertung der entwickelten KI-Methoden über den gesamten Lebenszyklus ab. Dazu wird ein Evaluationskonzept mit geeigneten Metriken und Triggern definiert, um Unsicherheiten zu quantifizieren sowie Restrisiken und Sicherheitszielen systematisch gegenüber zu stellen. Die kontinuierliche Anwendung der Sicherheitsziele und die Ergebnisanalyse während der Entwicklung und des Betrieb ermöglichen eine gezielte Weiterentwicklung und liefern Artefakte zur freigaberelevanten Sicherheitsargumentation.
7 von 7Use Cases mit steigender Komplexität
Use Cases mit steigender Komplexität
USE CASE 01
Ein stehendes Fahrzeug und ein stehender Fußgänger auf einer geraden Straße.
USE CASE 02
Ein stehendes Fahrzeug und ein Fußgänger in Bewegung an einer Kreuzung. Der Fußgänger kann teilweise verdeckt sein.
USE CASE 03
Mehrere stehende und fahrende Fahrzeuge, Fahrräder und mehrere sich bewegende Fußgänger an und auf einer Kreuzung, wobei Fußgänger teilweise bis vollständig verdeckt sein können.