Fortgeschrittene Themen in AI und Robotik

Mit diesem  Vortrag gibt Huber eine Einführung in das Forschungsfeld des Explainable (Deep) Reinforcement Learning, stellt einige der gängigsten Methoden vor und zeigt, wie deren Effektivität sowohl rechnerisch als auch in einer Nutzerstudie unter Verwendung der Arcade Learning Umgebung evaluiert werden kann.

Kurzer Lebenslauf:
Tobias Huber hat seinen Masterabschluss 2018 in Mathematik an der Universität Augsburg erlangt und ist seitdem Doktorand am Lehrstuhl für Humanzentrierte Künstliche Intelligenz der Universität Augsburg. Seine Forschung zielt darauf ab, die Zusammenarbeit zwischen Mensch und KI zu erleichtern, indem er durch die Entwicklung neuartiger erklärbarer KI-Techniken und die Evaluierung ihres Nutzens für menschliche Nutzer Erklärungsansätze entwickelt .  Insbesondere konzentriert er sich auf die Erklärbarkeit von Reinforcement Learning Agenten.

Grundlegende Literatur zum Talk:

[1] Huber, T., Schiller, D., André, E. (2019). Enhancing Explainability of Deep Reinforcement Learning Through Selective Layer-Wise Relevance Propagation. In: Benzmüller, C., Stuckenschmidt, H. (eds) KI 2019: Advances in Artificial Intelligence. KI 2019. Lecture Notes in Computer Science(), vol 11793. Springer, Cham. https://doi.org/10.1007/978-3-030-30179-8_16

[2] Tobias Huber, Katharina Weitz, Elisabeth André, Ofra Amir, Local and global explanations of agent behavior: Integrating strategy summaries with saliency maps, Artificial Intelligence, Volume 301, 2021.

[3] Huber T, Limmer B, André E. Benchmarking Perturbation-Based Saliency Maps for Explaining Atari Agents. Front Artif Intell. 2022 Jul 13

[4] Huber T, Demmler M, Mertes S, Olson M., André E. GANterfactual-RL: Understanding Reinforcement Learning Agents' Strategies through Visual Counterfactual Explanations. AAMAS 2023

Relevante Hintergrundinformationen zu Deep RL: 

[5] Mnih, V., Kavukcuoglu, K., Silver, D., Rusu, A. A., Veness, J., Bellemare, M. G., ... & Hassabis, D. (2015). Human-level control through deep reinforcement learning. nature, 518(7540), 529-533

Der Vortrag findet in englischer Sprache statt und richtet sich an die Studierenden und Mitarbeitenden der H-BRS. Interessierte sind herzlich eingeladen.