KI in der Verwaltung

Rechtlicher Rahmen für künstliche Intelligenz

Der Einsatz von künstlicher Intelligenz eröffnet kommunalen Verwaltungen neue Möglichkeiten. Sie kann Abläufe beschleunigen, Entscheidungen unterstützen und den Service für Bürgerinnen/Bürger verbessern. Gleichzeitig gibt es viele rechtliche Vorgaben, die oft komplex sind und in der Praxis schwierige Fragen aufwerfen.

Zwar gibt es schon seit Jahren erste gesetzliche Grundlagen – etwa den 2017 in Kraft getretenen § 35a VwVfG, der den automatisierten Erlass von Verwaltungsakten ermöglicht. Doch viele KI-Anwendungen – wie Chatbots, Prognosemodelle oder automatische Dokumentenauswertung – waren rechtlich bislang noch nicht klar geregelt. Die neue EU-KI-Verordnung (2024/1689) schafft nun erstmals einheitliche Regeln für ganz Europa. Erste Vorgaben, etwa das Verbot bestimmter KI-Praktiken, gelten seit dem 2. Februar 2025.

Der Datenschutz ist ein besonders sensibler Bereich. Denn KI-Anwendungen in Kommunen nutzen fast immer personenbezogene Daten. Damit das erlaubt ist und das Vertrauen der Bürgerinnen und Bürger erhalten bleibt, müssen klare Regeln eingehalten werden:

• Datenschutzkonformität: KI-Systeme müssen mit der Datenschutz-Grundverordnung (DSGVO) und dem jeweiligen Landesrecht übereinstimmen.
• Zusätzliche Prüfung bei Hochrisiko-Anwendungen: Anwendungen, deren Einsatz erhebliche Auswirkungen auf die Grundrechte oder die Sicherheit von Personen haben kann, erfordern eine sogenannte Datenschutz-Folgenabschätzung (DSFA).
• Transparenz: Entscheidungen der KI müssen nachvollziehbar, überprüfbar und im Zweifel korrigierbar sein.
• Menschliche Kontrolle: Eine verantwortliche Person muss den Entscheidungsprozess begleiten und eingreifen können, wenn dies nötig wird.

Auch ethisch stehen die Kommunen in der Verantwortung, denn KI-Systeme dürfen niemanden benachteiligen. Deshalb müssen Verfahren fair gestaltet, gut dokumentiert und stets überprüfbar sein. Einige Kommunen – unter anderem Essen und Kiel – haben dafür eigene Leitlinien und Dienstvereinbarungen entwickelt. Auf diese Weise soll sichergestellt werden, dass KI verantwortungsvoll eingesetzt wird.

Datenqualität und -verfügbarkeit sind entscheidend

Auch der Datenschutz schränkt die Nutzung von Daten ein. Selbst wenn Daten technisch verfügbar sind, dürfen sie oft nicht für KI verwendet werden – zum Beispiel dann, wenn sie Rückschlüsse auf einzelne Personen zulassen. Gerade kleinere Kommunen haben nur selten das nötige Know-how oder die technischen Möglichkeiten, um personenbezogene Informationen rechtskonform zu anonymisieren oder zu aggregieren. Mithilfe von Pseudonymisierung, Datenminimierung oder statistischer Aggregation lassen sich jedoch datenschutzkonforme Lösungen schaffen. Dafür braucht es klare Standards, geeignete Software und gegebenenfalls externe Unterstützung.

Ein weiteres Problem ist die Qualität der Daten. Viele Datensätze enthalten doppelte oder fehlerhafte Einträge, sind unvollständig oder veraltet. Solche Mängel können KI-Systeme in die Irre führen. Damit künstliche Intelligenz sinnvoll arbeiten kann, müssen die Daten gut strukturiert, gepflegt und regelmäßig aktualisiert werden. Genau das ist für viele Kommunen eine große Herausforderung.

Kommunen fehlen oft technische Voraussetzungen

Viele Kommunen haben beim Einsatz von KI mit technischen Grundproblemen zu kämpfen. Besonders die IT-Infrastruktur bereitet Schwierigkeiten:

• Veraltete IT-Strukturen: Ältere Fachverfahren sind oft nicht miteinander verbunden und lassen sich schwer mit neuen KI-Systemen verknüpfen.
• Zu wenig Rechenleistung: In vielen Verwaltungen fehlen starke Server, passende Software oder sichere Cloud-Lösungen.
• Fehlende Standardisierung: Unterschiedliche Formate und fehlende Schnittstellen behindern den Austausch von Daten.
• Geringe Investitionsmöglichkeiten: Gerade kleinere Kommunen haben nicht genug Geld, um die nötige Technik allein bereitzustellen.

Hinzu kommen hohe Anforderungen an IT-Sicherheit und Datenschutz. KI-Systeme arbeiten oft mit sensiblen Daten. Wenn es keine sicheren Rechenzentren oder klaren Zugriffsregeln gibt, entstehen Sicherheitsrisiken. Kommunen müssen dafür sorgen, dass ihre Daten geschützt bleiben und die Kontrolle nicht verloren geht. Externe Anbieter können dabei helfen, bringen aber auch neue Herausforderungen – besonders in komplizierten Verwaltungsstrukturen.

Gleichzeitig ist der Aufbau eines grundlegenden Verständnisses für KI auf allen Personalebenen wichtig. Besonders Führungskräfte müssen lernen, Chancen und Risiken zu erkennen und den KI-Einsatz gut zu steuern. Dabei helfen Schulungen, Workshops und andere Weiterbildungen. Wichtig ist auch die Akzeptanz im gesamten Team: Eine verlässliche Basis für den digitalen Wandel in der Verwaltung kann nur dann entstehen, wenn alle Mitarbeiterinnen/Mitarbeiter frühzeitig einbezogen werden.

Bleiben Sie immer auf dem Laufenden

Melden Sie sich für den Newsletter von GVV Kommunal an. Sie erhalten hilfreiche Informationen rund um das Thema Kommunalversicherung kostenlos per E-Mail.