Autonomie verdient sich jede Entscheidungsklasse einzeln

Ein KI-Agent, der Aufträge für einen IT-Hardware-Anbieter annimmt, trifft rund ein Dutzend Arten von Entscheidungen. Er liest die Bestellung. Er prüft, ob sich die Konfiguration bauen lässt und ob die Bonität des Kunden reicht. Er entscheidet, ob eine Lieferung aufgeteilt wird, wenn die Monitore auf Lager sind und die Notebooks erst in zwei Wochen kommen. Er wendet die mit diesem Kunden vereinbarten Konditionen an. Einige Wochen nach Beginn der Tests an echten Aufträgen stellte die Leiterin des Vertriebsinnendienstes die Frage, die jeder Sponsor stellt: Der Agent liegt fast immer richtig, die Freigaben bremsen den Innendienst, wann können wir sie abschalten?

Manche dieser Entscheidungen waren seit Wochen richtig und in Sekunden umkehrbar. Andere waren ebenso oft richtig, verpflichteten das Unternehmen aber zu etwas, auf das ein Kunde bestehen würde. Ein einziger Schalter hätte beide gleich behandelt.

Die Leiterin des Kreditmanagements im Raum hatte das bessere Modell. Sie entscheidet nicht, ob Kunden allgemein auf Rechnung kaufen dürfen. Sie setzt ein Limit pro Kunde auf Basis der Zahlungshistorie, prüft es zu einem festen Termin, und das Konto sperrt automatisch, wenn eine Rechnung offen bleibt. Die Handlungsfreiheit eines Agenten funktioniert genauso, ob er Überweisungen im Krankenhaus weiterleitet oder Versicherungsschäden reguliert.

Freiheit gehört zu einer Art von Entscheidung

Wir fassen Entscheidungen zu Arten zusammen, so eng, dass jeder Fall einer Art etwa gleich schwer ist und ein Fehler etwa gleich viel kostet. „Konfiguration gegen die Bauregeln prüfen“ ist eine Art. „Lieferung aufteilen“ eine andere. Jede Art bekommt ihre eigene Stufe, festgehalten mit Datum, Nachweisen und der Person, die zugestimmt hat. Der Agent als Ganzes hat keine.

Fünf Stufen

1. Vorschlagen. Der Agent schlägt vor; ein Mensch erledigt die Arbeit.
2. Entwerfen. Der Agent bereitet die Änderung vor; ein Mensch prüft und gibt sie frei.
3. Mit Freigabe handeln. Der Agent führt aus, sobald ein Mensch eine Zusammenfassung auf einem Bildschirm freigibt. Ein Ja oder Nein, keine Nacharbeit.
4. Handeln und berichten. Der Agent führt aus; eine benannte Person liest einen täglichen Bericht und kann alles rückgängig machen.
5. Still handeln. Niemand schaut hin, außer über Stichproben.

Feng, McDonald und Zhang beschreiben in „Levels of Autonomy for AI Agents“ (Knight First Amendment Institute, Juli 2025) eine sorgfältige Skala mit fünf Stufen und ordnen einem Agenten eine Stufe zu. Im Betrieb ist das zu grob: Derselbe Agent braucht mehrere Stufen gleichzeitig.

Das System setzt die Stufe durch

Eine Stufe in den Anweisungen des Agenten ist nur eine Bitte. Die Stufe jeder Art ist deshalb eine Einstellung außerhalb des Agenten, und sie bestimmt, welche Aktionen er überhaupt erreicht. Beim Vorschlagen kann er nur lesen. Beim Entwerfen kann er Entwürfe schreiben, aber nicht freigeben. Bei Handeln mit Freigabe funktioniert die letzte Aktion nur mit einer Freigabe für genau diesen Vorschlag. Eine höhere Stufe läuft über die normalen Änderungsfreigaben des Kunden, und der Agent kann sich nicht hochreden, weil die nötige Aktion gar nicht da ist.

Aufstieg braucht vier Nachweise

Eine Art steigt eine Stufe auf, wenn vier Dinge zutreffen und der Prozessverantwortliche schriftlich zustimmt:

• Genauigkeit an aktuellen Fällen. Notwendig, und der schwächste der vier.
• Begrenzter Schaden. Der schlimmste wahrscheinliche Fehler hat bekannte Kosten und lässt sich umkehren. Auf Rechnung freigegebene Ware, die schon auf dem Lkw ist, nicht, also bleibt diese Art bei Handeln mit Freigabe.
• Eine spätere Kontrolle. Etwas fängt einen Fehler ab, den niemand mehr prüft: ein Abgleich, eine Kundenbestätigung. Ohne sie versteckt ein Aufstieg nur Fehler.
• Ein Verantwortlicher. Eine benannte Person übernimmt die Verantwortung auf der neuen Stufe.

Der Agent schlägt seinen eigenen Aufstieg nie vor.

Wie viele fehlerfreie Fälle reichen

„Sechs Wochen lang jeder Fall richtig“ ist schwächer, als es klingt. Hanley und Lippman-Hand haben die Faustregel 1983 im Journal of the American Medical Association beschrieben, unter dem Titel „If nothing goes wrong, is everything all right?“: Nach null Fehlern in n Fällen kann man mit 95 % Sicherheit nur sagen, dass die wahre Fehlerquote unter etwa 3 geteilt durch n liegt. Dreihundert fehlerfreie Fälle schließen einen Fehler in hundert aus. Über einen in fünfhundert sagen sie nichts.

Eine Führungskraft legt also fest, welche Fehlerquote das Geschäft auf der nächsten Stufe tragen kann, und die Art braucht etwa drei geteilt durch diese Quote an fehlerfreien, aktuellen Fällen.

Aufgeteilte Lieferungen kamen auf etwa 400 Fälle im Monat. Eine falsche Aufteilung kostete eine zweite Sendung und einen Anruf beim Einkäufer, und der Sponsor akzeptierte einen Fehler in zweihundert. Das heißt 600 fehlerfreie Fälle: etwa sechs Wochen. Sonderkonditionen, also Aufträge mit einer Bedingung, die mit einem Kunden vereinbart ist, gaben einem Kunden bei einem Fehler eine Kondition, auf die er für den Rest des Vertragsjahres bestehen würde. Tragbare Quote: einer in fünftausend, also 15.000 fehlerfreie Fälle, mehr als zwei Jahre Volumen. Sie blieb bei Handeln mit Freigabe.

Zustimmung des Prüfers heißt nicht, dass der Agent richtig liegt

Bei Handeln mit Freigabe sieht der Prüfer den Vorschlag zuerst, und Menschen lassen sich davon leiten. Etwas Plausibles freizugeben ist nicht dasselbe, wie unabhängig zur selben Antwort zu kommen. Freigabequoten überschätzen die Genauigkeit also, am stärksten bei unklaren Fällen. Vor jedem Aufstieg wird deshalb eine kleine Stichprobe blind geprüft: Der Prüfer entscheidet nur anhand der Belege, und die Antworten werden danach verglichen. Diese Zahl fällt meist etwas niedriger aus. Manchmal deutlich niedriger.

Abstieg ist eine Regel, keine Besprechung

Eine Art fällt automatisch eine Stufe zurück, wenn ein bestätigter Fehler durchgerutscht ist, wenn sich ihre Eingaben ändern (ein neues Bestellformat eines großen Kunden, eine neue Produktlinie, ein neuer Markt) oder wenn ihre spätere Kontrolle ausfällt. Ein neues KI-Modell oder eine Regeländerung setzt jede Art auf Handeln mit Freigabe zurück, bis sie sich neu bewährt hat. Und jede Stufe über dem Entwerfen hat einen Prüftermin; verstreicht er, fällt sie eine Stufe, so wie ein Kreditlimit ausläuft.

Aufstieg hat einen Preis

Jeder Aufstieg entfernt einen Teil der menschlichen Prüfung, aus der seine Nachweise stammen. Stichproben auf den oberen Stufen sind deshalb so bemessen, dass eine Verdopplung der Fehlerquote innerhalb eines Monats auffällt. Bei einer Art mit wenig Volumen kann das heißen, ein Drittel der Fälle zu prüfen, und dann ist die ehrliche Antwort, sie dort zu lassen, wo sie war.

Abstieg funktioniert nur, wenn jemand die Arbeit zurücknehmen kann. Fallen aufgeteilte Lieferungen eine Stufe zurück, kommen 400 Fälle im Monat in eine Warteschlange. Hat niemand Zeit, werden sie ungelesen freigegeben. Jeder Aufstieg hält deshalb fest, wer die Arbeit zurücknimmt und wie viele Stunden pro Woche das ungefähr kostet.

Die meisten Entscheidungen landen in der Mitte

Die meisten Arten enden bei Entwerfen, Handeln mit Freigabe oder Handeln und berichten. Still handeln reservieren wir für Entscheidungen, die umkehrbar sind und laufend kontrolliert werden, etwa das Zuordnen einer Bankzahlung zu einer offenen Rechnung. Ein Agent rechnet sich, indem er das Lesen und Vorbereiten übernimmt, damit die verbleibende Aufmerksamkeit kurz ist, nicht indem er die letzte Sekunde davon streicht. Einen einzigen Schalter für den ganzen Agenten lehnen wir ab, auch im Pilotprojekt, weil er die gewichtigsten Entscheidungen zusammen mit den einfachsten befördert.

Die Frage des Sponsors, beantwortet

Wann können wir die Freigaben abschalten? Für manche Entscheidungen jetzt, und hier sind die Nachweise. Für manche nach einigen hundert weiteren Fällen. Für manche nie, und hier ist die Rechnung.