KI-LOK
Ein Verbundprojekt über Prüfverfahren für KI-basierte Komponenten im Eisenbahnbetrieb
Motivation des Projektes
Der Entwurf und Betrieb innovativer Fahrzeuge im schienengebundenen Verkehr fordert verstärkt den Einsatz KI-basierter, lernender Systeme, um die Qualität des Verkehrsangebotes zu verbessern, die Ressourceneffizienz und damit die Nachhaltigkeit der Züge zu steigern sowie neue Funktionalitäten bereitzustellen. Der Einsatz von KI wird dabei nicht nur auf Komfortfunktionen beschränkt bleiben, sondern immer stärker in sicherheitskritische Bereiche hineindrängen.
Beispiele sind Triebfahrzeugführer-Assistenzsysteme zur Erkennung von Hindernissen, Systeme zur prädiktiven Vorhersage von Wartungsarbeiten am Zug oder Systeme zur energetisch optimierten Fahrweise. Die Umbrüche, die sich durch solche intelligenten datenbasierten Mobilitätssysteme im Fahrzeug ergeben, sind revolutionär und umfassend.
Eine der größten Herausforderungen ist dabei die Entwicklung entsprechender Verifikations- und Validierungsverfahren, die in ihrer Gesamtheit den Zielen der datenbasierten Mobilität wie auch den Qualitäts- und Sicherheitsansprüchen des Bahnverkehrs gerecht werden müssen. Bis heute existieren in der Bahntechnik jedoch keine industrietauglichen Methoden und Werkzeuge für den Nachweis der funktionalen Sicherheit von KI-Systemen.
Forschungsbedarf ergibt sich insbesondere aus den neuen Eigenschaften von Software für KI-Anwendungen. Durch den Einsatz von Machine Learning (ML) entstehen Softwareprodukte, die wesentlich dynamischer sind als die fest codierten Algorithmen klassischer Software. Das Verhalten solcher Systeme ist oft nicht transparent nachvollziehbar und lässt sich kaum vorhersagen.
Projektziele und Inhalte
Ziel des Projektes ist es, Testverfahren und Methoden zur Absicherung und Zertifizierung von KI-gestützten Technologien für sicherheitskritische Anwendungen in der Bahntechnik zu entwickeln.
Die zu entwickelnden Techniken und Werkzeuge werden anhand von praktischen Anwendungsbeispielen entwickelt, um praxisgerecht zu sein. Auf Grundlage zweier Fallstudien – „Objekterkennung im vorausliegenden Lichtraumprofil“ und „Sichere Eigenlokation als Teil des Fahrzeug-Odometriesystems“ – soll daher die Trainings- und Teststrategie für KI-Systeme entwickelt und für den industriellen Einsatz nutzbar gemacht werden.
Der Wirkraum des Projektes KI-LOK wird durch drei Eckpunkte definiert. Deren gemeinsames Ziel ist die Schaffung geeigneter Test- und Trainingsmodelle für den Einsatz in Testwerkzeugen und deren Integration in eine industriell nutzbare Umgebung.
Zulassungsprozesse
Die Definition möglicher Zulassungsprozesse für KI basierende Applikationen ist eines der Hauptfelder des Projektes. Es soll damit ein Baustein für die praktische Einsetzbarkeit von KI-basierten Komponenten zur Verfügung gestellt werden. Die Erfüllung von Sicherheitsanforderungen im Sinne des europäischen Regelwerks auf Ebene des Eisenbahnsystems muss auch beim Einsatz von KI-Komponenten erreicht werden. Der Schwerpunkt eines Nachweises für KI-basierte Komponenten muss demnach auf der Erfüllung der RAMS- (Zuverlässigkeit, Verfügbarkeit, Instandhaltbarkeit und Safety) und Security-Anforderungen liegen. Die Forschungsfrage zielt daher auf die Schaffung geeigneter Methoden ab.
Struktur der Sicherheitsnormen in der Bahntechnik
Risiko- und Gefährdungsanalyse
In zahlreichen Normen und Sicherheitsstandards haben sich eine Reihe qualitativer und quantitativer Ansätze etabliert, mit denen Risiken systematisch identifiziert sowie deren Auswirkungen beschrieben werden können. ML-basierte Software weist einige Besonderheiten auf, in denen sie sich bezüglich Fehleranfälligkeit und Stabilität von klassischer Software unterscheidet. Hierzu zählen auch neue Fehlermodi und Schwachstellen, die für die Anwendungen von ML charakteristisch sind (Anfälligkeit für Verteilungsverschiebungen, fehlende Generalisierungsfähigkeit, fehlende Robustheit sowie unzureichende Testmöglichkeiten in der Einsatzumgebung). Ein Ansatz im Projekt ist es, speziell diese ML-spezifischen Fehlermodi in der Risiko- und Gefährdungsanalyse systematisch zu berücksichtigen und sinnvolle Maßnahmen zur Risikoreduktion und Verifikation zu entwickeln.
Analysemethoden für KI
Im Rahmen des Projektes werden vier Gruppen von Analysemethoden verfolgt.
Der Bereich formale Beweisführung untersucht Ansätze, um aus der Struktur eines neuronalen Netzes allgemein gültige Schlussfolgerungen über dessen Verhalten zu ziehen. Im Projekt sollen dazu „Random Forests“ untersucht werden. Des Weiteren soll der Einsatz statischer Analyseverfahren für das Grenzverhalten mittelgroßer neuronaler Netze im Projekt geprüft werden. Zusätzlich werden Möglichkeiten zur domänenspezifischen Visualisierung, z.B. mithilfe adversialer Netze, untersucht, anhand derer eine bessere Problemanalyse möglich ist.
Analysemethoden für KI
Zur Evaluierung hoch-dimensionaler KI-Systeme konzentriert sich ein weiterer Ansatz auf die Untersuchung empirisch-statistischer Methoden für die Entwicklung von KI-Teststrategien. Die Zusammenfassung einzelner empirischer Testergebnisse zu aussagekräftigen KI-Robustheits-Scores erfordert einen hinreichend großen und qualitativ hochwertigen Testdatensatz, der sowohl für alle relevanten Objekt-Klassen, als auch für den realen Einsatzkontext repräsentativ sein muss.
Als vierte Methode stellt der dynamische Test ein auch für KI-basierte Komponenten unerlässliches Mittel der Qualitätssicherung dar. Im Rahmen von KI-LOK sollen daher Testverfahren entwickelt werden, die auf Abdeckungskriterien und Vollständigkeitsargumentationen basieren und eine Brücke zwischen dem risikobasierten Ansatz der klassischen Sicherheitsargumentation und den spezifischen Eigenschaften ML-basierte Systeme schlagen.
Projektergebnisse
Die Ergebnisse aus den Untersuchungen im Projekt sollen zum einen in Tools für die Validierung der KI-basierten Komponenten verwendet werden, didie im industriellen Umfeld zum Einsatz kommen sollen. Zum anderen sollen die gewonnen Erkenntnisse dazu dienen, Zulassungsprozesse für KI-basierte Anwendungen im Eisenbahnbetrieb zu definieren.
Träger und Förderung
Das Projekt KI-LOK wird vom Bundesministerium für Wirtschaft und Energie im Rahmen der Förderrichtlinie „Neue Fahrzeug- und Systemtechnologien“ gefördert und finanziert. Projektträger ist der TÜV-Rheinland.
