KI-Systeme haben wie Menschen Problemlösefähigkeiten in komplexen Domänen. Damit KI-Systeme nicht nur als "Black Box Systeme" aus Informationen neue Informationen generieren sollen sie als "White Box Systeme" realisiert werden, die den Nutzern Erklärungen und Rechenschaft abgeben, wie Ergebnisse zustande gekommen sind. Explainable AI (XAI) als ein Teilaspekt ermöglicht so den Nutzern Ergebnisse bei Bedarf zu hinterfragen und zu verstehen, ggf. auch zu verwerfen. Menschzentrierte KI (Human Centered AI) macht KI-Systeme zu menschengerechten und kooperativen Systemen. So wird Technik ergonomisch, verständlich und verantwortbar. Am IMIS werden Prototypen entwickelt, die zeigen, wie White Box Systeme aussehen und wie man damit interagiert.