Nationaler Normenkontrollrat

Kongress Digitaler Staat des Behörden Spiegel

Künstliche Intelligenz – Assistenz oder Konkurrenz in der Verwaltung?

Der Einsatz von Künstlicher Intelligenz (KI) ist derzeit das Megathema in Politik und Wirtschaft. Bislang erfolgreiche Geschäftsmodelle und sogar die Zukunftsfähigkeit des gesamten Wirtschaftsstandorts werden unter Verweis auf Fortschritte bei der KI in Frage gestellt. Disruption ist das Schlagwort, das in diesem Zusammenhang immer wieder auftaucht. Auch die öffentliche Verwaltung, die tendenziell immer etwas langsamer ist als die Wirtschaft, hat mittlerweile die Bedeutung von KI erkannt. Denn auch in der Verwaltung kann KI zu Effizienzsteigerungen und Kosteneinsparungen beitragen.

Vollkommen autonome Entscheidungen durch KI sind zumindest momentan noch Zukunftsmusik Vollkommen autonome Entscheidungen durch KI sind zumindest momentan noch Zukunftsmusik Foto: Fotolia/vege

Bis zu einem Viertel ihrer Arbeitszeit verbringen Mitarbeiter der Verwaltung heute mit Routinetätigkeiten – also mit Aufgaben, die durch den Einsatz von KI im Grundsatz automatisiert werden können. Aber wie verändert KI unsere Arbeits- und Lebenswelt wirklich? Und sind diese Veränderungen ethisch vertretbar? Über diese Fragen diskutierte Frau Störr-Ritter, Mitglied des Nationalen Normenkontrollrates (NKR) mit Vertretern aus Wissenschaft und Verwaltung auf dem Kongress Digitaler Staat des Behörden Spiegel.

Im Hinblick auf das Spannungsfeld von Chancen und Risiken waren sich alle Experten einig, dass der Einsatz von KI die Art und Weise, wie die öffentliche Verwaltung arbeitet, nachhaltig verändern wird. Die größten Vorteile werden in der Entlastung der Mitarbeiter von Routineaufgaben und in  der Unterstützung der Mitarbeiter durch Assistenzsysteme gesehen. Mitarbeiter würden so mehr Zeit für andere Tätigkeiten haben, etwa die persönliche Beratung, die Beurteilung komplizierter Fallkonstellationen oder planerische Tätigkeiten. Ein weiteres Potential sah die Diskussionsrunde darin, dass Fehlentscheidungen von Mitarbeiten beispielsweise durch individuelle Vorurteile gegenüber anderen oder Flüchtigkeitsfehler vermieden werden können.

Der Einsatz von KI in der öffentlichen Verwaltung wirft jedoch auch kritische Fragen auf. So besteht die Sorge, dass sich KI-Systeme diskriminierende Entscheidungsmerkmale anlernen oder aufgrund unvollständiger Datengrundlage unfaire Entscheidungen treffen. Darüber hinaus kann es KI-Systemen an Erfahrungswerten fehlen, über die langjährige Mitarbeiter verfügen. Können wir uns darauf verlassen, dass Maschinen sachkundige, neutrale und objektive Entscheidungen treffen? Und welche Möglichkeiten müssten man vorsehen, um solche Entscheidungen überprüfen und revidieren zu können? Viele Fragen, die deutlich machen, dass wir beim Thema KI in der Verwaltung noch am Anfang stehen. Denn klar ist auch, dass der Staat im Hinblick auf seine Entscheidungen anderen Kriterien unterworfen ist als die Wirtschaft. Fehlentscheidungen, die durch den Einsatz von KI entstehen, darf es für die Verwaltung aus rechtsstaatlicher Sicht nicht geben.

Da, wo in der Verwaltung schon heute überwiegend automatisiert anhand von Standardprozessen gearbeitet wird, kann KI weitere Fortschritte bringen. Bei komplexeren Verfahren, bei denen gegebenenfalls. auch Ermessen ausgeübt werden muss,  kann KI in der Entscheidungsfindung unterstützen. Darüber hinaus gehende, vollkommen autonome Entscheidungen durch KI sind zumindest momentan noch Zukunftsmusik.

Zusatzinformationen