KI wirkt oft vor der Entscheidung: Sortierung, Priorisierung, Empfehlung. Wer kann die Form erreichen, wenn algorithmische Vorformen praktische Stellung verändern?
Der Fall trifft die Vorform — die Antwort erreicht nur die Entscheidung, nicht die Vorform.
KI in der Verwaltung wird selten als große Entscheidung beginnen. Häufig tritt sie leiser auf: als Assistenzsystem, Vorprüfung, Zusammenfassung, Priorisierung, Plausibilitätskontrolle, Risikohinweis, Übersetzung oder Sortierung. Sie entscheidet nicht immer selbst. Aber sie verändert, was die Verwaltung sieht, was früher auffällt, was als riskant gilt, welcher Fall mehr Aufmerksamkeit bekommt und welche Begründung vorbereitet wird.
Genau hier liegt ihre Bedeutung. Wer nur fragt, ob eine Maschine die endgültige Entscheidung trifft, kommt oft zu spät. Verwaltungsmacht wirkt nicht erst im Bescheid. Sie wirkt schon in der Vorform: in der Auswahl der relevanten Information, in der Gewichtung, in der Markierung, im Hinweis, im Score, in der Empfehlung, in der Reihenfolge der Bearbeitung. KI kann solche Vorformen beschleunigen und verbessern. Sie kann aber auch Antwortorte verschieben.
Der europäische AI Act macht deutlich, dass KI-Systeme nach Risiken geordnet werden und sensible Einsatzbereiche besondere Anforderungen auslösen können. Für die Theorie zurechenbarer Macht reicht der bloße Risikobegriff jedoch nicht aus. Die eigene Frage lautet: Welche Folgen erzeugt ein KI-System als Wirkform, und wer besitzt Antwortmacht gegenüber dieser Form?
Antwortmacht ist mehr als menschliche Letztentscheidung. Oft bleibt formal ein Mensch beteiligt, während die praktische Stellung längst durch die algorithmische Vorform geprägt wurde. Ein Sachbearbeiter kann eine Empfehlung überstimmen, aber die Empfehlung hat bereits Aufmerksamkeit, Zeit und Begründung gelenkt. Eine Behörde kann sagen, sie entscheide selbst, aber ihre Wahrnehmung wurde vorbereitet. Ein Betroffener kann Widerspruch einlegen, weiß aber möglicherweise nicht, welche Vorprüfung seinen Fall geprägt hat.
KI in der Verwaltung braucht deshalb Sichtbarkeit. Nicht jede technische Einzelheit muss offengelegt werden. Doch Betroffene und Kontrollstellen müssen erkennen können, ob ein System beteiligt war, welche Art von Beitrag es geleistet hat und an welchem Punkt der Verfahrensstrecke es wirkte. Ohne diese Spur bleibt Bestreitung blind. Man kann keine Form erreichen, deren Beteiligung unsichtbar bleibt.
Daran schließt Begründbarkeit an. Eine Verwaltung darf Gründe nicht nur für das Endergebnis liefern, wenn die praktische Wirkung vorher entstanden ist. Wird ein Fall durch KI priorisiert, sortiert oder als auffällig markiert, müssen Gründe auch diese Vorform erreichen. Warum wurde gerade diese Datenbasis genutzt? Welche Annahmen liegen in der Sortierung? Welche Qualitätsprüfung besteht? Wie werden Fehler erkannt? Wer überprüft, ob bestimmte Gruppen, Lebenslagen oder atypische Fälle systematisch schlechter sichtbar werden?
Auch Revision ist zentral. Einzelne Korrekturen genügen nicht, wenn ein KI-System wiederkehrend ähnliche Folgen erzeugt. Dann braucht es eine Stelle, die nicht nur den Fall neu betrachtet, sondern die Wirkform selbst prüft: Datengrundlage, Modell, Einsatzkontext, Schwellen, menschliche Aufsicht, Protokollierung und Weiterleitung in die Fachverantwortung. Ein KI-System ohne revisionsfähige Form bleibt auch dann problematisch, wenn jeder Einzelfall theoretisch überprüfbar ist.
Die stärkste Gefahr liegt in der Scheinantwort. Eine Behörde kann erklären, dass ein Mensch entschieden habe. Ein Support kann sagen, das System sei nur unterstützend gewesen. Eine Dokumentation kann formal vorhanden sein. Trotzdem bleibt die Folge möglicherweise unterhalb der Antwortebene, wenn niemand die KI-Vorform tatsächlich ändern kann. Dann wird Verantwortung nicht geleugnet, sondern verdünnt.
Das bedeutet nicht, KI aus der Verwaltung fernzuhalten. Gut gebaute Systeme können Hinweise geben, Betrugsrisiken erkennen, Bearbeitung unterstützen, Sprache vereinfachen, Wissen bündeln und Verwaltungsarbeit entlasten. Gerade in überlasteten Behörden kann das wichtig sein. Aber je stärker KI die Wahrnehmung der Verwaltung ordnet, desto klarer müssen Antwortorte und Antwortmacht gebaut werden.
Eine moderne Verwaltung darf automatisierte Hilfen nutzen. Sie darf aber nicht zulassen, dass Menschen nur noch gegen Ergebnisse sprechen, deren Vorformen sie nicht erreichen. KI in der Verwaltung braucht Antwortmacht, weil algorithmische Formen praktische Stellung verändern können, bevor die Entscheidung sichtbar wird. Zurechenbar bleibt der digitale Staat nur, wenn auch seine intelligenten Vorformen für ihre Folgen antworten können.