Autonome Systeme erfordern Paradigmenwechsel im Safety Engineering

Kooperationsprojekt von Fraunhofer IESE, Fraunhofer IKS und der Universität York soll Markteinführung durch neue Sicherheitsarchitektur beschleunigen.

Im neuen Forschungsprojekt ICON »LOPAAS« (Layers of Protection Architecture for Autonomous Systems) entwickelt das Fraunhofer IESE gemeinsam mit dem Fraunhofer IKS und der Universität York in England mit dem Assuring Autonomy International Programm (AAIP) eine Vorgehensweise, um autonome Systeme und insbesondere autonome Fahrzeuge abzusichern. Das interne Fraunhofer-Förderprogramm »ICON – International Cooperation and Networking« unterstützt bilaterale Kooperationsprojekte mit international herausragenden Universitäten und außeruniversitären Forschungseinrichtungen. In den kommenden drei Jahren stehen 3 Millionen Euro für die Kollaboration zur Verfügung, um den notwendigen Paradigmenwechsel im Safety Engineering autonomer Systeme herbeizuführen.

Die Markteinführung von autonomen Systemen und insbesondere dem automatisierten Fahren birgt viele Herausforderungen. Eine wesentliche Herausforderung besteht darin, die Sicherheit zu gewährleisten, ohne dabei mit so starken Einschränkungen hinsichtlich Geschwindigkeit und anderer Faktoren zu arbeiten, dass der Mehrwert verschwindet. Genau diese Herausforderung wurde bisher in vielen Prognosen unterschätzt, und auch die Pilotstudien der Automobilhersteller bestätigen die Wahrnehmung der Passagiere, dass autonome Fahrzeuge meist langsam und zögerlich sind.

Das Fraunhofer-Institut für Experimentelles Software Engineering IESE, das Fraunhofer-Institut für Kognitive Systeme IKS und die Universität York forschen seit Jahren an dieser Thematik und treiben den Stand der Wissenschaft und Technik voran. Mithilfe des ICON-Projekts bündeln die Partner nun ihre Forschungskompetenzen, um eine Referenzsicherheitsarchitektur und -argumentation für automatisiertes Fahren und autonome Systeme zu entwickeln. Dazu gehört insbesondere das »dynamische Risikomanagement«, welches dem Fahrzeug ein besseres »Verständnis« der aktuellen Risiken der Fahrsituation gibt. Das dynamische Risikomanagement berücksichtigt nicht nur externe Einflussfaktoren wie das Fahrverhalten anderer Verkehrsteilnehmer, sondern auch interne Faktoren wie die Unsicherheiten bei der Wahrnehmung der aktuellen Situation. Die Berücksichtigung von Unsicherheiten in der Sicherheitsarchitektur bietet neue Möglichkeiten, Künstliche Intelligenz (KI) für sicherheitskritische Aufgaben zu nutzen. Sie beschreibt, wie externe und interne Einflussfaktoren verwendet werden können, um Risiken im laufenden Betrieb automatisiert zu bestimmen und zu kontrollieren.

Das langfristige Ziel des Projekts ist es, autonomen Fahrzeuge zu ermöglichen, schneller und unbeirrter zu fahren, da sie Risiken sicherer und genauer abschätzen können. Die Ergebnisse des Projekts sollen anschließend für den Technologietransfer in die Standardisierung und Normierung einfließen.

Die Projektpartner – wer bringt welche Expertise ein?
Das Fraunhofer IESE und das Fraunhofer IKS sind die beiden führenden Fraunhofer-Institute im Bereich Safety Engineering autonomer Systeme. Zusammen mit der Universität York, die international als die zentrale Forschungseinrichtung auf dem Gebiet Safety gilt, und dem Assuring Autonomy International Programm entsteht ein Konsortium, das einen prägenden Einfluss auf das autonome Fahren der Zukunft nehmen kann.

»Für das IESE ist das Thema »Autonome Systeme« von besonderer Relevanz, da das Systems- und Software-Engineering der entscheidende Erfolgsfaktor für die rechtzeitige Einführung und den verlässlichen Betrieb autonomer Systeme ist. Im ICON-Projekt bringen wir insbesondere unsere Expertise im dynamischen Risikomanagement ein, das autonome Systeme befähigt, die Risiken ihrer Handlungsoptionen situationsspezifisch abzuschätzen und zu kontrollieren«, so Dr. Rasmus Adler, Program Manager »Autonomous Systems« am Fraunhofer IESE und Projektleiter von ICON »LOPAAS«.

Der Fokus des ICON-Projekts passt ebenso zur strategischen Ausrichtung des Fraunhofer IKS. Das IKS konzentriert sich in dem Forschungsprojekt auf vertrauenswürdige KI-basierte Situationserkennungen sowie eine Laufzeitüberwachung der damit verbundenen Unsicherheiten.

ICON »LOPAAS« sorgt für Umbruch im Safety Engineering
Die Absicherung autonomer Systeme bedarf eines Paradigmenwechsels im Safety Engineering. Es müssen viele neue Aspekte berücksichtigt werden, wie die Verwendung von KI-basierten Algorithmen in sicherheitsrelevanten Anwendungen und automatisierte Risikobewertungen. Die Expertise der Universität York, die bereits seit über 30 Jahren an der Absicherung von software-basierten Systemen forscht und maßgeblich den heutigen Standard im Safety Engineering geprägt hat, ist entscheidend, um einen neuen wissenschaftlichen Konsens zu schaffen und in einem überzeugenden, strukturierten Sicherheitsnachweis darzustellen.

Wissenschaftliche Ansprechpartner:

Dr. Rasmus Adler
Program Manager »Autonomous Systems«
Fraunhofer IESE
Fraunhofer-Platz 1
67663 Kaiserslautern

Telefon +49 631 6800-2172
rasmus.adler@iese.fraunhofer.de

https://www.iese.fraunhofer.de/de/presse/current_releases/pm_2021_10_18_paradigmenwechsel-se.html