Visualisierung & Erklärung von KI-Entscheidungen im modellbasierten DRL
Die Entwicklung erklärbarer KI-Systeme ist entscheidend für die sichere und alltägliche Nutzung von Künstlicher Intelligenz. Eine große Herausforderung stellt dabei die Transparenz von Deep Reinforcement Learning dar. Forschende des KIT entwickeln ein Erklärungsverfahren für modellbasiertes Deep Reinforcement Learning, das sogenannte World Models nutzt. Ziel ist es, Fachkundige und Laien die Entscheidungsprozesse der KI verständlich zu machen. Die Evaluation durch Nutzerinnen und Nutzern ist ein Schwerpunkt des Projekts.
Kontakt: Dr. Kristine Bentz | Leiterin Forschungsförderung
kristine.bentz@vector-stiftung.de | Telefon: +49 711 80670-1181