Implementierung erklärbarer Künstlicher Intelligenz in einer Simulationsumgebung zur Unterstützung von Mensch-KI-Teams in der Seenotrettung aus der Luft

Die vorliegende Masterarbeit beschäftige ich mich mit dem Einsatz von Explainable
Artificial Intelligence (XAI) bei maritimen Search-and-Rescue-(MSAR)-Operationen
aus der Luft. Hierfür wird ein bestehendes Simulationssystem in Unity um simulierte
XAI-Methoden erweitert. In einem Analyseteil werden verschiedene XAI-Methoden, die
in der Bildanalyse eingesetzt werden, hinsichtlich ihrer Vor- und Nachteile untersucht
und im Hinblick auf eine mögliche Implementierung ausgewertet. Auf dieser Grundlage
werden drei unterschiedliche XAI-Ansätze ausgewählt. Ein konzeptbasierter Ansatz,
der Systementscheidungen anhand für Menschen verständlicher Konzepte erklärt,
ein salienzbasierter Ansatz, der für die Entscheidung relevante Bildbereiche mithilfe
einer Heat-Map hervorhebt, sowie ein textbasierter Ansatz, der kurze Erklärungssätze
zu den Systementscheidungen generiert. Diese Methoden werden simuliert in das
Simulationsprojekt implementiert. Eine Pilotstudie wurde mit N = 47 Teilnehmenden
durchgeführt um die implementierten Systeme auf die Faktoren Vertrauen, subjektive
Wahrnehmung der Informationsverarbeitung des Systems, Compliance, Reliance und
Aufgabenleistung zu evaluieren. Die Studie wurde in einem Between-Subjects-Design
als Online-Video-Studie durchgeführt. Insgesamt konnten für die Faktoren Vertrauen,
subjektive Wahrnehmung der Informationsverarbeitung des Systems, Reliance und
Aufgabenleistung keine signifikanten Effekte gegenüber einer Kontrollgruppe ohne
XAI-Unterstützung festgestellt werden. Nur bei der Compliance wurde für die Gruppe
mit salienzbasierten Erklärungen eine signifikante Erhöhung der Compliance gemessen,
die das Niveau von Overcompliance erreicht.