In akuten Gefahrenlagen, wie etwa im Zusammenhang mit der Freisetzung radioaktiver Substanzen, haben Einsatzkräfte aufgrund der hohen Gesundheitsrisiken keinen unmittelbaren Zugang zum Gefahrenort. Zur Lageaufklärung können in derartigen Situationen ferngesteuerte Roboter eingesetzt werden. In KIARA werden modulare KI-Systeme für den Einsatz auf mobilen Robotersystemen entwickelt und evaluiert. Dabei unterstützt die künstliche Intelligenz die Einsatzkräfte gezielt bei der Bedienung – sowohl bei der schnellen Aufklärung von akuten Gefährdungslagen als auch bei der Durchführung von ersten Maßnahmen zur Lageentschärfung. Aufklärungs- und Sicherungsmaßnahmen können so schneller, effektiver und mit geringeren Risiken für die Einsatzkräfte durchgeführt werden. Die Fähigkeiten der KI-Systeme verbessern sich sukzessiv durch Anlernen und Selbstoptimierung. Für die Anwenderschulung werden neue Trainingsmethoden entwickelt.

Im Projekt arbeiten Vertreter von Wissenschaft, Wirtschaft (KMU) und einer gemeinnützigen Organisation eng mit Behörden und Endanwendern bei der Erforschung und der praxisnahen Entwicklung zusammen.

Das ITAS gestaltet dabei das Design und den Einsatz KI-assistierter Robotersysteme mittels kontinuierlicher, prospektiver technikethischer (Begleit-)Forschung mit. Ethische Fragestellungen der Rettungsrobotik mit KI sind ein bisher sehr neues und wenig bearbeitetes Feld. Die ethische Begleitforschung weitet damit Grundlagenforschung der KI- und Roboterethik und deren Anwendung auch innovativ auf ein bisher unbearbeitetes Feld aus.

Die prospektive und gestaltende Technikethik zielt auf die Akzeptabilität der technischen Entwicklungen ab und identifiziert bereits während deren Entwicklung entsprechende Problemfelder, zu denen Lösungen interdisziplinär erarbeitet werden.

Dabei gilt es (1) Regularien und Indikatorensysteme für das Design und die Anwendung von KI-Assistenz zur roboterunterstützten Aufklärung und Abwehr akuter radiologischer Gefahrenlagen zu entwickeln und (2) die Grenzen derselben zu verstehen.

Die Verknüpfung ethischer Aspekte autonomer Systeme mit expliziten Fragen des Umgangs mit Risiken, Unsicherheiten und Ungewissheiten ist dabei innovativ.

Hierzu werden nicht allein die ethischen Spezifika, etwa das Gefahrenpotenzial und die Chancen des Einsatzes von KI-Assistenz zur roboterunterstützten Aufklärung und Abwehr akuter radiologischer Gefahrenlagen untersucht, sondern auch deren spezifische epistemische Charakteristiken, nämlich die inhärenten Unsicherheiten insbesondere in der Datengenerierung, -erfassung und ‑verarbeitung, die zu Fehleinschätzungen des KI-Systems und/oder der Menschen führen können.

Neben der Schnittstelle zwischen Ethik und Technik ist auch die Schnittstelle zwischen Ethik und Recht hier von zentraler Bedeutung. Das Teilvorhaben adressiert, inwieweit Ethik und Recht hier übereinstimmen oder unterschiedliche Einschätzungen liefern, möglicherweise konfligieren, sich aber auch ergänzen.

Hier besteht zum einen ein Bezug zur konkreten Thematik autonomer Systeme zur Aufklärung und Abwehr radiologischer Gefahrenlagen, zum anderen ein Bezug zum Umgang mit Risiken, Unsicherheiten und Ungewissheiten, die terminologisch aus ethischer und rechtlicher Sicht zu beleuchten sind.

Schlussendlich wird das ITAS am Ende der Projektlaufzeit neben verschiedenen Publikationen und einer Blaupause für die Regulierung KI-assistierter Rettungssysteme ein Verständnis dafür liefern, welche ethischen Aspekte quantifiziert und sinnvoll in Indikatoren abgebildet werden können und welche nicht und daher ggf. prozedural zu adressieren wären. Diese Blaupause lässt sich auch für andere KI-gestützte Robotikanwendungen mit hohem Risiko nutzen.

Tel.: 0721 608-26041
E-Mail