Bayerisches Landesamt für Steuern und Technische Universität Nürnberg arbeiten an verlässlicher KI für die Verwaltung

Symposium „Hallucination-Guard“ stellt wissenschaftliche Methoden zur Vermeidung von KI-Fehlern vor

Das Bayerische Landesamt für Steuern (LfSt) und die Technische Universität Nürnberg (UTN) arbeiten gemeinsam daran, Künstliche Intelligenz (KI) verlässlich und verantwortungsvoll in der bayerischen Steuerverwaltung einzusetzen. Im Rahmen ihrer BAItaxlab-Kooperation veranstalteten beide Partner das Symposium „Hallucination-Guard“, an dem Fachleute aus verschiedenen Behörden sowie aus Wissenschaft und IT teilnahmen.

Im Mittelpunkt der Veranstaltung stand die Frage, wie große Sprachmodelle inhaltlich korrekte und nachvollziehbare Antworten liefern können. KI-Systeme mit großen Sprachmodellen erzeugen mitunter sogenannte „Halluzinationen“, d. h. Antworten, die plausibel erscheinen, tatsächlich aber falsche oder erfundene Informationen enthalten.

Wissenschaftler der UTN stellten verschiedene aktuelle Methoden vor, mit denen sich solche Fehler reduzieren lassen. Die Ansätze zielen darauf ab, KI-Systeme stärker an überprüfbare und qualitätsgesicherte Informationen zu binden und ihre Antworten nachvollziehbarer zu machen. In Demonstrationen wurde veranschaulicht, wie KI-Systeme vorhandene Dokumente und Wissensbestände gezielt einbeziehen können, um zuverlässigere Ergebnisse zu liefern.

Neben Einblicken in neue wissenschaftliche Ansätze bot das Symposium zugleich eine Plattform für den überbehördlichen Erfahrungsaustausch im Umgang mit KI-Systemen. 

Solche Technologien tragen bereits jetzt dazu bei, umfangreiche Dokumente schneller auszuwerten oder komplexe Sachverhalte übersichtlich aufzubereiten. Ziel ist es, Verwaltungsprozesse zu unterstützen und gleichzeitig die Qualität von Informationen zu verbessern. Für Bürgerinnen und Bürger kann der Einsatz von KI vor allem kürzere Bearbeitungszeiten und einen verbesserten Service der öffentlichen Verwaltung bedeuten.

Die im Symposium vorgestellten Methoden sollen nun im Rahmen der Kooperation zwischen dem LfSt und der UTN weiter untersucht und schrittweise für mögliche Anwendungen weiterentwickelt werden. Grundlage dafür ist eine eigene technische Infrastruktur der Steuerverwaltung, auf der KI-Systeme sicher und datenschutzkonform betrieben werden können. Sensible Steuerdaten bleiben damit vollständig innerhalb der staatlichen Systeme und werden nicht an externe Cloud-Anbieter übermittelt, wodurch die digitale Souveränität gesichert bleibt.

Zur BAItaxlab-Kooperation (Bavarian AI taxation laboratory)

Das LfSt und die UTN arbeiten gemeinsam an Methoden für den sicheren und zuverlässigen Einsatz von Künstlicher Intelligenz in der bayerischen Steuerverwaltung. Die Kooperation verbindet aktuelle wissenschaftliche Forschung mit praktischen Anforderungen der Verwaltung.