Ethik Digital: Verwaltung zwischen Fortschritt und Risiko – Alina Lorenz über Vertrauen in Künstliche Intelligenz

Alina Lorenz ist Gründerin und Geschäftsführerin der Plattform für vertrauenswürdige KI sowie Lehrbeauftragte für Digitale Ethik am Institut für Informatik der Universität Augsburg. Im Podcast Ethik Digital spricht sie darüber, wie im Bereich von Verwaltungen von Staat, Verbänden oder Nichtregierungsorganisationen mit KI die Arbeit verbessert werden kann - und warum wir mehr Transparenz bei der Nutzung von KI brauchen und wie wir die Verbraucher schützen. 

Harmsen: Ihre Expertise im Bereich Datenrecherche haben Sie unter anderem in der Bundesverwaltung bei der Arbeitslosenstatistik gesammelt. Was fasziniert Sie an KI und Digitalisierung?

Lorenz: Die Digitalisierung ist die Voraussetzung für KI. Mich fasziniert dabei der Perspektivenwechsel: IT wird nicht mehr nur technisch gedacht, sondern vom Bedarf des Menschen her. Es geht nicht primär um Technologie, sondern um den Nutzen. Die zentrale Frage lautet nicht mehr: Welche Tools haben wir? Sondern: Welches Problem lösen wir? Dieser Perspektivenwechsel hat die IT-Arbeit positiv verändert. An KI fasziniert mich die Interdisziplinarität. Sie geht über Digitalisierung hinaus, weil wir eine soziotechnische Perspektive benötigen. Technik, Daten und Modelle müssen gemeinsam mit Menschen, Prozessen, Organisation, Macht- und Wertefragen gedacht werden.

Harmsen: Sie haben in der Verwaltung gearbeitet. Medienberichte kritisieren oft den schleppenden Fortschritt, andere betonen die bereits erreichten Erfolge. Wie bewerten Sie den aktuellen Stand der deutschen Verwaltung in Bezug auf KI und Digitalisierung?

Lorenz: Lassen Sie mich das anhand eines positiven und eines negativen Beispiels erläutern. Ein Erfolgsmodell ist die Kataster-KI in Niedersachsen. Alle drei Jahre werden hochauflösende Luftbilder erstellt. Die KI erkennt darauf automatisch Gebäudedachflächen und vergleicht sie mit dem bestehenden Kataster. Bei Veränderungen - sei es Neubau, Abriss oder bauliche Änderung - markiert die KI diese Stellen. Wichtig dabei: Die Einträge erfolgen nicht automatisch, sondern werden von Mitarbeitern geprüft, bevor sie ins amtliche Kataster übernommen werden.

Dies ermöglicht die Sichtung und Aktualisierung von Millionen Gebäuden in kürzester Zeit - eine Arbeit, die zuvor jahrelange Vor-Ort-Einsätze von Vermessungsingenieuren erforderte. Das System liefert aktuelle Daten für Grundsteuerberechnung, Stadtplanung, Infrastruktur und Einsatzkräfte. Nach EU-Verordnung hat es ein geringes Risiko, da es rein unterstützend arbeitet und nicht in Grundrechte eingreift. Zudem stellt Niedersachsen diese KI allen Bundesländern zur Nachnutzung zur Verfügung.

Ein negatives Beispiel sind Large Language Models, die von Baden-Württemberg und Hamburg entwickelt wurden. Beide werden als Leuchtturmprojekte präsentiert, erfüllen aber den gleichen Zweck: Sie unterstützen Verwaltungsmitarbeiter bei Recherche, Dokumentenzusammenfassung und Vermerkerstellung. Wenn alle Bundesländer und Bundesbehörden eigene LLMs entwickeln, entstehen 30 parallele Projekte mit hohen finanziellen und ökologischen Kosten - ohne zusätzlichen Nutzen.

Harmsen: Wie können wir verhindern, dass das Rad immer wieder neu erfunden wird? 

Lorenz: Betrachten wir zunächst den Stand der öffentlichen Verwaltung bei KI. Wir bewegen uns zwischen Sondierung, Experimentieren und ersten Einführungen. Es gibt Leuchtturmprojekte, aber keine flächendeckende Umsetzung. In der KI-Entwicklung dominieren Assistenzsysteme, Datenanalyse und punktuelle Prozessoptimierung.

Aus ethischer Sicht wurde KI bisher in der Verwaltung auf Objekte angewandt - Bescheinigungen, Dokumente, Verwaltungsprozesse, Katasterkarten - nicht auf Menschen. Dies hat uns vor großen Krisen bewahrt, anders als in England mit zurückgetretenen Ministern oder den Niederlanden mit Regierungskrisen. Unsere vorsichtige Herangehensweise, auch aufgrund der negativen Beispiele aus Nachbarländern, hat sich bewährt.

Diese Phase geht jedoch zu Ende. Mit Projekten wie Palantir bei Polizei und Sicherheitsbehörden verschiebt sich der Fokus von Objekten zu Subjekten - zu Bewegungsprofilen, sozialen Netzwerken und potenziellen Verdachtsmomenten. Die KI richtet sich nun direkt auf Menschen und ihr Verhalten, wodurch sie grundrechtsrelevant wird. Fragen der Diskriminierung, des Machtmissbrauchs und der Transparenz rücken in den Vordergrund.

Deutschland steht an der Schwelle von der vorsichtigen, objektbezogenen KI zu Anwendungen, die Bürger direkt betreffen. In dieser Phase benötigen wir klare rechtliche Rahmenbedingungen, strenge Kontrollen und eine breite gesellschaftliche Debatte. Wir setzen große Hoffnungen in die Arbeit des neuen Digitalministers, dass durch die Bündelung der Kompetenzen eine vertrauenswürdige KI-Entwicklung gelingt.

Harmsen: Sie erwähnten den neuen Minister, der erstmals diese Arbeiten in Deutschland bündeln wird. Kritiker sehen eine Gefahr in der engen Verbindung zur Wirtschaft, Sie nannten Palantir als Beispiel. Welche Forderungen haben Sie an die Bundespolitik, basierend auf Ihrer Studie zu KI-Kompetenz in der Verwaltung?

Lorenz: Wie die KI selbst ein Werkzeugkasten mit vielen Methoden und Perspektiven ist, brauchen wir auch verschiedene Lösungsansätze. Die Kompetenzfrage ist zentral. Die KI-Kompetenz in der Verwaltung ist ähnlich heterogen wie in der Gesellschaft: Es gibt erste Ansätze und gute Ideen, aber keine flächendeckende Expertise. Zu viele Projekte werden noch von externen Beratern umgesetzt. Wir müssen dringend interne Kompetenz aufbauen - ein zentrales Anliegen für den öffentlichen Dienst.

Dafür haben wir ein praxisorientiertes Kompetenzmodell entwickelt. Es definiert die erforderlichen Kompetenzen: technische Kompetenz, Datenkompetenz zum Verständnis von Datenqualität und -information, rechtliche Kompetenz, ethische Kompetenz und Fachkompetenz. Je nach Einsatzbereich der KI variieren die Anforderungen. Nicht jeder Mitarbeiter benötigt alle Kompetenzen in gleicher Tiefe - ein Vermittler vor Ort braucht andere Fähigkeiten als ein Jurist. Der Planungsrat empfiehlt dieses Modell bereits allen Verwaltungen zur Nutzung.

Harmsen: Sie sprechen von interdisziplinären Teams. Wie können solche Teams zwischen Kommunen, Ländern und Bund aufgebaut werden?

Lorenz: Der Aufbau erfolgt kompetenzbasiert. Nehmen wir als Beispiel eine Risikobewertung nach EU-Verordnung für Predictive Maintenance im Produktionsumfeld: Wir brauchen Juristen mit Spezialisierung auf KI-Verordnung und Maschinenbau für Robotik-Aspekte, Ethiker, den Projektleiter oder Geschäftsführer als Entscheider.

Wenn diese Experten zusammenkommen, müssen alle zunächst ein gemeinsames Verständnis der jeweiligen KI entwickeln. Dies geschieht über systematische Checklisten: Was macht die KI? Welche Daten werden genutzt? Diese Informationen werden verständlich aufbereitet und geteilt. Anschließend analysiert man jede Lebensphase der KI von der Konzeption bis zur Stilllegung. Der Vergleich zwischen Ist- und Soll-Zustand identifiziert Risiken. Von den 1600 spezifischen Risiken muss man die relevanten im konkreten Kontext erkennen. Daraus entwickeln sich Maßnahmen, deren Wirksamkeit geprüft wird.hen, indem wir sie gehen. Wir müssen es einfach angehen und bestmöglich umsetzen.