Künstliche Intelligenz ist im deutschen Public Sector keine Zukunftsvision mehr, sondern Gegenstand konkreter Pilotprojekte und erster Produktivlösungen. Während Kommunen und Ministerien Verwaltungsautomatisierung durch KI-gestützte Sprachmodelle, Dokumentenanalyse und automatisierte Antragsbearbeitung testen, verschärft sich die Debatte über digitale Souveränität, Datenschutz und den regulatorischen Rahmen.

EU-AI-Act fordert Compliance-Architekturen

Der seit 2024 schrittweise in Kraft getretene EU-AI-Act setzt Behörden unter Zugzwang. Die Verordnung stuft viele Verwaltungsanwendungen als Hochrisiko-Systeme ein – etwa KI-gestützte Sozialleistungsprüfung, automatisierte Steuerbescheide oder risikobasierte Einwanderungsentscheidungen. Betroffene Behörden müssen Transparenz- und Dokumentationspflichten erfüllen, bevor Systeme produktiv gehen. Das bindet Ressourcen: IT-Dienstleister wie Dataport AöR und AKDB bauen derzeit Compliance-Teams auf, die Risikoklassifizierung, Qualitätssicherung und Folgenabschätzung übernehmen.

Parallel bereiten sich Landes-IT-Dienstleister auf die Zertifizierungsanforderungen vor, die ab 2026 greifen. Erste Leitfäden, etwa vom IT-Planungsrat und der Bundesbeauftragten für den Datenschutz, geben Orientierung. Doch die Umsetzung bleibt komplex: Welche bestehenden Verfahren fallen unter die Hochrisiko-Kategorie? Welche Legacy-Systeme müssen nachgerüstet werden? Antworten liefern oft erst aufwendige Rechtsgutachten.

Souveräne KI-Infrastruktur im Aufbau

Die Forderung nach souveränen KI-Plattformen hat sich von der politischen Absichtserklärung zur konkreten Ausschreibungspraxis entwickelt. Bund und Länder setzen verstärkt auf Betreiber, die Rechenzentren in Deutschland unterhalten und DSGVO-konforme Datenverarbeitung garantieren. T-Systems Public und die Bundesdruckerei bauen derzeit KI-Dienste aus, die auf europäischen Open-Source-Modellen (etwa BLOOM, LLaMA-Derivate) basieren und ohne US-Cloud-Hyperscaler auskommen.

Die souveräne Cloud-Strategie wirkt sich direkt auf KI-Beschaffungen aus. Mehrere Bundesländer haben in jüngsten Ausschreibungen Nachweise über Datenhaltung in der EU zur Pflicht gemacht. AWS Public Sector und Microsoft Public Sector reagieren mit lokalen Sovereign-Cloud-Angeboten, doch die Skepsis bleibt: Wie lässt sich der Zugriff von US-Behörden rechtssicher ausschließen, wenn der Mutterkonzern in den USA sitzt?

Pilotprojekte: Von Chatbots bis Dokumentenanalyse

In der Praxis konzentrieren sich KI-Projekte auf drei Anwendungsfelder. Erstens: Chatbots und virtuelle Assistenten für Bürgerportale. Mehrere Kommunen nutzen Large Language Models (LLMs), um Standardanfragen zu Wohnsitz-Anmeldung, Kinderbetreuung oder Gewerbeanmeldung automatisiert zu beantworten. Die Systeme greifen auf strukturierte Wissensdatenbanken zurück und leiten komplexe Fälle an Sachbearbeiter weiter.

Zweitens: Automatisierte Dokumentenanalyse. Finanzämter und Sozialämter testen KI-gestützte Klassifikation eingehender Anträge, um Postfächer zu entlasten und Bearbeitungszeiten zu senken. Die Modelle extrahieren relevante Daten aus Scans, prüfen Vollständigkeit und schlagen Fallbearbeitung vor. Hier greift die digitale Akte als zentrale Infrastruktur: Ohne durchgängige Digitalisierung der Aktenführung bleibt KI-gestützte Vorgangsbearbeitung Stückwerk.

Drittens: Vorhersagemodelle für Ressourcenplanung. Einzelne Landkreise nutzen KI, um Antragsaufkommen bei Elterngeld oder Wohngeld zu prognostizieren und Personaleinsatz entsprechend zu steuern. Der Nutzen ist messbar, doch die Transparenzpflicht fordert: Bürger müssen nachvollziehen können, ob und wie KI in ihrem Verfahren eingesetzt wurde.

Markt zwischen Etablierten und Spezialisten

Der Anbietermarkt differenziert sich. Klassische Public-Sector-IT-Dienstleister wie Materna, msg systems und Capgemini Public Sector ergänzen ihre Portfolios um KI-Module – etwa intelligente Suche in Fachverfahren oder automatisierte Risikoprüfung. Parallel drängen spezialisierte KI-Startups in den Markt, die auf Nischen wie Verwaltungssprache-NLP oder Formularextraktion setzen.

Die FITKO unterstützt die Entwicklung wiederverwendbarer KI-Komponenten, die über den Portalverbund bereitgestellt werden sollen. Ziel ist es, Doppelentwicklungen zu vermeiden und Kommunen Zugang zu erprobten Lösungen zu geben. Doch die föderale Struktur bremst: Jedes Bundesland prüft KI-Tools nach eigenen Kriterien, gemeinsame Standards fehlen bislang.

Offene Fragen zu Haftung und Bias

Rechtlich bleibt vieles ungeklärt. Wer haftet, wenn eine KI-gestützte Entscheidung fehlerhaft ist? Behörden prüfen derzeit, ob bestehende Verwaltungsverfahrensgesetze ausreichen oder ob neue Regeln nötig sind. Besonders kritisch: Bias in Trainingsdaten. Wird ein Modell auf historischen Verwaltungsdaten trainiert, kann es strukturelle Ungleichbehandlung fortschreiben. Erste Kommunen fordern deshalb verpflichtende Bias-Audits vor Produktivschaltung.

Datenschutzbeauftragte mahnen zudem, dass viele LLMs personenbezogene Daten in Trainingskorpora einbeziehen könnten. Das widerspricht der DSGVO-Grundregel der Zweckbindung. Die Lösung: isolierte Modelle, die ausschließlich auf behördlichen Daten ohne Personenbezug trainiert werden. Technisch aufwendig, aber juristisch geboten.

Ausblick: Von Piloten zur Skalierung

Die nächste Phase wird zeigen, ob KI im Public Sector über Leuchtturmprojekte hinauskommt. Entscheidend sind drei Faktoren: klare Governance-Strukturen, die regeln, wer KI-Systeme freigeben darf; Interoperabilität zwischen Fachverfahren, damit KI-Module nahtlos integriert werden können; und Schulung der Beschäftigten, die lernen müssen, KI-Vorschläge kritisch zu prüfen statt blind zu übernehmen.

Die regulatorische Landschaft bleibt in Bewegung. Neben dem EU-AI-Act bereiten mehrere Bundesländer eigene KI-Strategien für die Verwaltung vor. Bayern hat bereits einen Digitalplan vorgelegt, der KI-Piloten in Justiz und Finanzverwaltung vorsieht. Nordrhein-Westfalen plant einen zentralen KI-Marktplatz für Kommunen. Ob diese Initiativen zusammenwachsen oder zu föderaler Fragmentierung führen, entscheidet sich in den kommenden zwölf Monaten.

Weitere Einordnung zum Thema bietet der Artikel KI im Public Sector: Deutschland setzt auf Praxis, Souveränität und EU-Konformität. Einen Blick über die Grenze liefert Schweiz: KI in der Verwaltung zwischen Pilotprojekten und Souveränitätsfragen. Das übergeordnete Themendossier findet sich unter KI-gestützte Verwaltungsprozesse.