Der deutsche Markt für KI im Public Sector befindet sich in einer Umbruchphase. Nach der Pilotphase rücken jetzt Skalierung und Produktivbetrieb in den Fokus – gleichzeitig begleiten grundsätzliche Debatten über digitale Souveränität und DSGVO-konforme Infrastrukturen jede Beschaffungsentscheidung. Die Verwaltung steht vor der Aufgabe, die technologischen Potenziale von Large Language Models (LLM) und generativen Systemen zu nutzen, ohne dabei Kontrolle über Daten und Prozesse zu verlieren.

Marktstruktur: Zwischen Tech-Giganten und europäischen Partnern

Im Kern konkurrieren zwei Lager um öffentliche Aufträge: US-amerikanische Hyperscaler mit etablierten Cloud- und KI-Plattformen sowie europäische IT-Dienstleister, die auf souveräne Alternativen setzen. Microsoft Public Sector und AWS Public Sector bieten umfassende KI-Services, die sich in bestehende Cloud-Infrastrukturen integrieren lassen – allerdings oft mit Rechenzentren außerhalb der EU und damit verbundenen Datenschutzfragen.

Europäische Anbieter wie Dataport AöR, AKDB und T-Systems Public setzen dagegen auf regionale Rechenzentren und souveräne Cloud-Infrastrukturen. Materna und msg systems entwickeln KI-basierte Verwaltungswerkzeuge, die direkt auf Fachverfahren und OZG-Anforderungen zugeschnitten sind. Der Vorteil: engere Integration in bestehende Verwaltungsarchitekturen und bessere Kontrolle über Datenflüsse.

Einsatzfelder: Von Chatbots bis zur automatisierten Fallbearbeitung

Konkret kommen KI-Systeme in der Verwaltung vor allem in drei Bereichen zum Einsatz: erstens automatisierte Bürgeranfragen über intelligente Chatbots und Sprachmodelle, die FAQs beantworten und Anträge vorqualifizieren. Zweitens Dokumentenverarbeitung, bei der KI-gestützte Klassifizierung und Informationsextraktion aus Schriftstücken Sachbearbeiter entlasten. Drittens Entscheidungsunterstützung, etwa bei der Bewertung von Anträgen oder der Priorisierung von Vorgängen.

Die Verwaltungsautomatisierung bleibt dabei reguliert: Der EU AI Act definiert Hochrisiko-Szenarien, die besondere Transparenz- und Auditanforderungen erfüllen müssen. Entscheidungen mit direktem Rechtsfolgeneffekt – etwa Bescheide über Sozialleistungen – dürfen nicht vollautomatisiert ablaufen. KI übernimmt hier Vorschlagsfunktionen, die finale Entscheidung trifft der Sachbearbeiter.

Regulatorik: EU AI Act und DSGVO bestimmen Architektur

Der EU AI Act ist seit August 2024 in Kraft und wird schrittweise verpflichtend. Hochrisiko-Anwendungen in der Verwaltung müssen spätestens ab 2027 dokumentierte Risikoanalysen, Testprotokolle und menschliche Aufsicht vorweisen. Das betrifft insbesondere Systeme, die biometrische Daten verarbeiten oder Zugang zu Leistungen gewähren. Für viele Behörden bedeutet das: zusätzliche Investition in Dokumentation, Compliance-Prozesse und ggf. technische Anpassungen.

Parallel verschärfen DSGVO-Vorgaben die Anforderungen an Datenverarbeitung. Viele KI-Modelle benötigen große Mengen an Trainingsdaten, deren Anonymisierung oder Pseudonymisierung aufwendig ist. Öffentliche Stellen müssen zudem nachweisen, dass Daten nur im EU-Rechtsraum verarbeitet werden – ein Aspekt, der bei US-Cloud-Diensten zusätzliche vertragliche und technische Maßnahmen erfordert.

Souveränitätsdebatte: Lokale Modelle versus globale Plattformen

Die Souveränitätsdebatte prägt die Beschaffungsentscheidungen maßgeblich. Länderrechenzentren und kommunale IT-Dienstleister bevorzugen zunehmend Open-Source-LLMs, die lokal gehostet werden können – etwa Modelle aus dem Umfeld von BLOOM, LLaMA oder deutsche Initiativen wie OpenGPT-X. Vorteil: vollständige Kontrolle über Daten und Modellverhalten, keine Abhängigkeit von externen API-Anbietern.

Nachteil ist der höhere Betriebsaufwand. Eigene Sprachmodelle erfordern spezialisierte Hardware, kontinuierliches Training und Feintuning sowie IT-Personal mit KI-Expertise – Ressourcen, die viele kleinere Kommunen nicht vorhalten. Hybridansätze, bei denen Standard-Aufgaben über souveräne KI-Plattformen laufen und komplexe Analysen auf spezialisierte Dienste zurückgreifen, werden daher häufiger.

Ausblick: Skalierung hängt an Standardisierung

Die weitere Marktentwicklung hängt stark von zwei Faktoren ab: erstens der Schaffung einheitlicher Schnittstellen und APIs, die es ermöglichen, KI-Module in bestehende Fachverfahren einzubinden. Interoperabilität zwischen den föderalen IT-Systemen ist Voraussetzung, damit Lösungen über Ländergrenzen hinweg funktionieren. Zweitens müssen klare Governance-Rahmen definieren, wer für KI-Entscheidungen haftet und wie Transparenz gegenüber Bürgern gewährleistet wird.

Initiativen wie OZG 2.0 und die souveränen Cloud-Projekte schaffen erste Grundlagen. Solange jedoch bundeseinheitliche KI-Standards fehlen, bleibt der Markt fragmentiert – mit unterschiedlichen Lösungen je nach Bundesland und kommunaler IT-Strategie. Für Anbieter bedeutet das: regionaler Vertrieb und enge Zusammenarbeit mit den IT-Dienstleistern der Länder bleibt Pflicht, ein bundesweiter Roll-out ist kurzfristig nicht realistisch.