Autonomie verdient sich jede Entscheidungsklasse einzeln

Ein Agent, der Aufträge für einen IT-Hardware-Anbieter annimmt, trifft rund ein Dutzend verschiedener Arten von Entscheidungen. Er liest die Bestellung des Kunden. Er prüft die gewünschte Konfiguration gegen das, was sich tatsächlich bauen und liefern lässt: die Dockingstation, die zu diesem Notebook-Modell passt, den Arbeitsspeicher, den das Gehäuse aufnimmt. Er führt die Kreditprüfung gegen das Limit und die offenen Posten des Kunden durch. Er entscheidet, ob eine Lieferung aufgeteilt wird, wenn die Monitore auf Lager sind und die Notebooks erst in zwei Wochen kommen. Er wendet die Konditionen an, die mit diesem Kunden vereinbart sind. Einige Wochen nachdem wir einen solchen Agenten an echten Aufträgen zu validieren begonnen hatten, stellte die Leiterin des Vertriebsinnendienstes die Frage, die jeder Sponsor irgendwann stellt: Der Agent liegt fast immer richtig, die Freigaben bremsen den Innendienst, wann können wir sie also abschalten?

Die Frage behandelt Autonomie wie eine Einstellung am Agenten. Manche dieser Entscheidungen waren seit Wochen in jedem geprüften Fall richtig und ließen sich in Sekunden rückgängig machen. Andere waren ebenso oft richtig, gingen aber eine Verpflichtung gegenüber dem Kunden ein, auf die er sich berufen konnte. Ein einziger Schalter hätte beide gleich behandelt.

Die Leiterin des Kreditmanagements saß mit im Raum, und ihre eigene Arbeit war dafür das bessere Modell. Das gilt für jedes Unternehmen, das auf Rechnung verkauft. Das Kreditmanagement entscheidet nicht, ob Kunden im Allgemeinen auf Ziel kaufen dürfen. Es setzt ein Limit je Kunde, abhängig vom Zahlungsverhalten, überprüft es zu einem festen Termin und sperrt das Konto automatisch, wenn eine Rechnung offen bleibt. Niemand hält das für Bürokratie. So gewährt ein Unternehmen Vertrauen, das es begründen kann. Autonomie für einen Agenten funktioniert genauso, und der Rest dieses Beitrags beschreibt die Mechanik.

Autonomie gilt je Entscheidungsklasse

Eine Entscheidungsklasse fasst Entscheidungen so eng zusammen, dass alle Fälle darin gleich schwierig sind und gleich viel auf dem Spiel steht. „Eine Konfiguration gegen die Baubarkeitsregeln prüfen“ ist eine Klasse. „Eine Lieferung aufteilen“ ist eine andere. Die Klassen werden vor der Entwicklung in der Prozesslandkarte festgelegt, und jede Entscheidung des Agenten wird in der Vorgangsakte mit ihrer Klasse gekennzeichnet.

Autonomie ist eine Eigenschaft der einzelnen Klasse, dokumentiert mit dem Datum der Erteilung, den Nachweisen dahinter und der Person, die zugestimmt hat. Der Agent als Ganzes hat keine Autonomiestufe. Die Frage, ob der Agent unbeaufsichtigt laufen darf, ist wie die Frage, ob der Innendienst Aufträge annehmen darf. Welche Aufträge?

Das Modell hat fünf Stufen

1. Vorschlagen. Der Agent macht einen Vorschlag, ein Mensch erledigt die Arbeit. Für neue Klassen und für Entscheidungen, bei denen der Agent vor allem Lesezeit sparen soll.
2. Entwerfen. Der Agent legt die Änderung im Zielsystem als Entwurf an, ein Mensch prüft und gibt sie frei.
3. Mit Freigabe handeln. Der Agent führt aus, nachdem ein Mensch eine Entscheidungsvorlage freigegeben hat. Die Freigabe ist eine Entscheidung, keine Nacharbeit, und deshalb schneller als die Prüfung eines Entwurfs.
4. Handeln und berichten. Der Agent führt aus, eine benannte Person prüft täglich einen Bericht über seine Aktionen und kann jede davon rückgängig machen.
5. Eigenständig handeln. Der Agent führt aus, und niemand sieht hin, abgesehen von Stichproben und Monitoring.

„Levels of Autonomy for AI Agents“ von Feng, McDonald und Zhang (Knight First Amendment Institute, Juli 2025) beschreibt eine sorgfältige Skala mit fünf Stufen, definiert über die Rolle des Nutzers, vom Bediener bis zum Beobachter, und ordnet einem Agenten eine Stufe zu. Im operativen Geschäft ist das eine Ebene zu hoch angesetzt. Derselbe Agent braucht mehrere Stufen gleichzeitig, und das Stufenmodell macht aus der Frage, wie viel Autonomie es sein darf, eine Entscheidung, die eine verantwortliche Führungskraft im Fachbereich treffen und begründen kann, Klasse für Klasse.

Die Stufe wird technisch durchgesetzt, nicht per Prompt

Steht die Stufe nur in den Anweisungen des Agenten, ist sie eine Empfehlung. Setzt die Architektur sie durch, ist sie eine Kontrolle. Die Stufe jeder Klasse ist deshalb ein Konfigurationseintrag außerhalb des Agenten, und dieser Eintrag legt fest, welche Tools der Agent für diese Klasse überhaupt erhält. Auf der Stufe „vorschlagen“ bekommt er nur lesende Tools. Auf „entwerfen“ ein Tool, das Entwürfe anlegt, aber keines, das sie freigibt. Auf „mit Freigabe handeln“ verlangt das ausführende Tool ein Freigabe-Token, das ausschließlich über die Entscheidungsvorlage erzeugt wird und an diesen Vorgang und diese Version des Vorschlags gebunden ist. Erst ab „handeln und berichten“ darf der Agent das ausführende Tool direkt aufrufen.

Eine Klasse höherzustufen bedeutet also, diesen Eintrag zu ändern, über den Change-Prozess des Kunden und in der Historie nachvollziehbar. Per Prompt-Änderung kann niemand eine Klasse höherstufen, und der Agent kann sich keine höhere Stufe erschleichen, weil ihm das nötige Tool schlicht fehlt.

Ein Aufstieg setzt vier Bedingungen voraus

Eine Klasse steigt eine Stufe auf, wenn vier Bedingungen erfüllt sind und der Prozessverantwortliche schriftlich zustimmt.

• Genauigkeit bei aktuellen Fällen. Gemessen an kürzlich geprüften Fällen. Notwendig, aber die schwächste der vier Bedingungen.
• Begrenzte Tragweite. Die Kosten des schlimmsten realistischen Fehlers sind bekannt, und es gibt ein erprobtes Verfahren, ihn rückgängig zu machen. Eine Klasse, deren Fehler sich nicht korrigieren lassen, etwa Ware, die auf Kredit freigegeben wurde und schon auf dem Lkw ist, bleibt auf „mit Freigabe handeln“.
• Eine nachgelagerte Kontrolle. Etwas im weiteren Prozess deckt einen Fehler auf, den kein Prüfer mehr sieht: eine Abstimmung, eine Kundenbestätigung, ein Tagesbericht. Fehlt diese Kontrolle, macht ein Aufstieg Fehler nur unsichtbar.
• Ein Verantwortlicher. Eine namentlich benannte Person übernimmt die Verantwortung für die Klasse auf ihrer neuen Stufe.

Die Nachweise lassen sich automatisch sammeln, die Entscheidung trifft ein Mensch. Und der Agent schlägt nie selbst vor, höhergestuft zu werden.

Wie viele fehlerfreie Fälle genügen

„Sechs Wochen lang in jedem Fall richtig“ klingt eindeutig. Es ist schwächer, als es klingt. Statistiker haben für genau diese Situation eine Faustregel, die Hanley und Lippman-Hand 1983 im Journal of the American Medical Association unter dem Titel „If nothing goes wrong, is everything all right?“ dargelegt haben: Wer in n Fällen null Fehler gesehen hat, kann mit 95 % Sicherheit nur sagen, dass die wahre Fehlerquote unter etwa 3 geteilt durch n liegt. Dreihundert fehlerfreie Fälle schließen eine Fehlerquote über eins zu hundert aus. Über eins zu fünfhundert sagen sie nichts.

Damit wird der Aufstieg zu einer Rechnung, die ein Prozessverantwortlicher selbst aufstellen kann. Ausgangspunkt ist die Folge: was ein Fehler kostet und wie viele Fälle die Klasse im Monat bearbeitet. Dann wird festgelegt, welche Fehlerquote das Unternehmen auf dieser Stufe tragen kann. Die Klasse braucht dann ungefähr drei geteilt durch diese Quote an fehlerfreien, aktuellen Fällen, bevor sie aufsteigt. Eine Klasse, die eine Konfiguration gegen die Baubarkeitsregeln prüft, bei der ein Fehler bei der Kommissionierung auffällt und Minuten kostet, kann nach einigen hundert Fällen aufsteigen. Eine Klasse, die wegen Kreditprüfung gesperrte Aufträge freigibt, sammelt in einem Jahr vielleicht nie genug Fälle, um über „mit Freigabe handeln“ hinauszukommen, und das ist die richtige Antwort, kein Versagen des Agenten.

Nehmen wir die Hardware-Aufträge. Die Klasse für Lieferaufteilungen bearbeitete rund 400 Fälle im Monat. Eine falsche Aufteilung, die durchrutschte, kostete eine zweite Sendung und einen Anruf beim Einkäufer des Kunden, und der Sponsor legte die tragbare Quote für „handeln und berichten“ auf eins zu zweihundert fest. Drei geteilt durch eins zu zweihundert ergibt 600 fehlerfreie, aktuelle Fälle: bei diesem Volumen etwa sechs Wochen, sofern sich in der Zwischenzeit nichts ändert. Die Klasse für Sonderkonditionen, also Aufträge mit einer Zahlungsbedingung oder Lieferbedingung, die nur mit diesem einen Kunden vereinbart ist, bearbeitete mehr Fälle, aber ein Fehler dort gab einem Kunden eine Kondition, auf die er das Unternehmen für den Rest des Vertragsjahres festlegen würde. Ihre tragbare Quote lag bei eins zu fünftausend, was 15.000 fehlerfreie Fälle bedeutete, mehr als zwei Jahre Volumen. Das Design ließ sie auf „mit Freigabe handeln“, und niemand widersprach, weil die Rechnung auf eine Seite passte.

Übereinstimmung mit einem Prüfer ist keine Genauigkeit

In den Nachweisen steckt eine zweite Falle, und in die tappen gerade sorgfältige Teams. Auf der Stufe „mit Freigabe handeln“ sieht die prüfende Person den Vorschlag des Agenten, bevor sie entscheidet. Menschen lassen sich verankern. Wer einen vernünftig aussehenden Vorschlag freigibt, hat ihm zugestimmt. Das ist etwas anderes, als unabhängig zur selben Antwort zu kommen. Übereinstimmungsquoten bei geprüften Fällen überzeichnen die Genauigkeit deshalb, am stärksten bei den mehrdeutigen Fällen, auf die es ankommt.

Bevor eine Klasse aufsteigt, wird deshalb eine kleine Stichprobe ihrer Fälle blind geprüft: Die prüfende Person entscheidet allein anhand der Belege, ohne den Vorschlag des Agenten zu sehen, und die beiden Antworten werden danach verglichen. Diese Zahl, nicht die Freigabequote, ist die Genauigkeit im Aufstiegsprotokoll. Meist fällt sie etwas niedriger aus. Gelegentlich deutlich niedriger, und das ist die Klasse, bei der wir froh sind, sie nicht höhergestuft zu haben.

Die Rückstufung folgt einer Regel, nicht einer Sitzung

Eine Klasse fällt automatisch eine Stufe zurück, wenn ein bestätigter Fehler auftritt, den kein Prüfer mehr gesehen hat, wenn sich ihre Eingangsdaten verändern (ein neues Bestellformat eines großen Kunden, eine neue Produktlinie, ein neuer Markt) oder wenn ihre nachgelagerte Kontrolle ausfällt.

Ein Modell-Upgrade oder eine Änderung am Regelwerk stuft jede Klasse auf „mit Freigabe handeln“ zurück, bis sie sich erneut qualifiziert hat. Diese Regel mögen Sponsoren am wenigsten und schätzen sie am Ende am meisten. Nachweise gehören dem System, das sie erbracht hat. Ein neues Modell ist ein neuer Kunde ohne Zahlungshistorie, egal wie gut seine Referenzen sind.

Nachweise veralten auch dann, wenn sich nichts ändert. Jede Stufe oberhalb von „entwerfen“ hat ein Prüfdatum. Verstreicht es, fällt die Klasse eine Stufe zurück, genau wie ein Kreditlimit ohne Überprüfung verfällt. Autonomie, die ein Jahr lang niemand überprüft hat, wurde für ein Geschäft erteilt, das es in dieser Form nicht mehr gibt.

Ein Aufstieg lässt die Nachweise versiegen

Jeder Aufstieg nimmt einen Teil der menschlichen Prüfung weg, aus der die Nachweise dafür stammten. Auf „handeln und berichten“ werden weniger Fälle genau angesehen, auf „eigenständig handeln“ nur noch die Stichprobe. Die Klasse hält ihre Stufe dann mit einem dünneren Strom an Nachweisen als dem, mit dem sie sie erreicht hat, und das ist verkehrt herum. Die Stichprobenquote auf den oberen Stufen folgt deshalb einer Rechnung, nicht einer Gewohnheit: groß genug, dass eine Verdopplung der Fehlerquote innerhalb eines Monats sichtbar würde. Bei einer Klasse mit geringem Volumen kann das bedeuten, ein Drittel ihrer Fälle zu prüfen. Dann spart der Aufstieg wenig, und die ehrliche Schlussfolgerung ist, die Klasse zu lassen, wo sie war.

Eine Rückstufung braucht Menschen, die bereitstehen

Eine Regel, die eine Klasse eine Stufe zurücksetzt, ist nur dann echt, wenn jemand die zurückkommende Arbeit auffangen kann. Fällt die Klasse für Lieferaufteilungen von „handeln und berichten“ auf „mit Freigabe handeln“ zurück, kehren 400 Fälle im Monat in eine Warteschlange zurück. Hat niemand Zeit dafür, wehrt sich das Team stillschweigend gegen die Rückstufung oder gibt die zurückgekehrten Fälle frei, ohne sie zu lesen, und die Regel wird zum Theater. Jeder Aufstieg hält deshalb fest, wer die Arbeit bei einer Rückstufung zurücknimmt und wie viele Stunden pro Woche das ungefähr kosten würde. Sponsoren halten diese Zeile für die nützlichste im Aufstiegsprotokoll, weil sie der tatsächliche Preis der Autonomie ist, um die sie gebeten haben.

Die meisten Klassen landen in der Mitte

In den operativen Bereichen, in denen wir arbeiten, landen die meisten Klassen bei „entwerfen“, „mit Freigabe handeln“ oder „handeln und berichten“. „Eigenständig handeln“ ist selten. Wir behalten es Klassen vor, die umkehrbar sind und laufend abgestimmt werden, etwa die Zuordnung einer Kontoauszugszeile zu einem offenen Posten, bei der jeder Fehler im nächsten Abstimmungslauf auffällt.

Das ist keine übertriebene Vorsicht. Ein Agent macht sich selten dadurch bezahlt, dass die letzte Sekunde menschlicher Aufmerksamkeit wegfällt. Er macht sich dadurch bezahlt, dass der Agent das Lesen, Prüfen und Vorbereiten übernimmt, sodass die verbleibende Aufmerksamkeit kurz und gezielt eingesetzt wird. Eine Klasse auf „mit Freigabe handeln“ kostet einen Prüfer mit einer guten Entscheidungsvorlage wenige Sekunden pro Fall. Wer sie auf „eigenständig handeln“ setzt, spart diese Sekunden und beseitigt die einzige Stelle, an der jemand bemerken würde, dass sich die Lage geändert hat.

Eines lehnen wir ab: einen globalen Autonomieschalter, auch im Pilotprojekt, denn am Ende steigen die folgenreichsten Entscheidungen zusammen mit den einfachsten auf.

Was vorhanden sein sollte, bevor der Sponsor fragt

• Eine Liste der Entscheidungsklassen, jede in jeder Vorgangsakte gekennzeichnet.
• Eine Stufe je Klasse, als Konfiguration außerhalb des Agenten hinterlegt und nur über den Change-Prozess änderbar.
• Eine tragbare Fehlerquote je Klasse, mit der verantwortlichen Person vereinbart, und die Zahl fehlerfreier Fälle, die daraus folgt.
• Eine blind geprüfte Stichprobe für jede Klasse, deren Aufstieg erwogen wird.
• Automatische Rückstufung bei einem bestätigten späten Fehler, veränderten Eingangsdaten, einer ausgefallenen nachgelagerten Kontrolle, einer Änderung an Modell oder Regelwerk oder einem verstrichenen Prüfdatum.

Die Antwort an den Sponsor

Wann können wir die Freigaben abschalten? Für manche Entscheidungen jetzt, und hier sind die Nachweise. Für manche nach einigen hundert weiteren Fällen. Für manche nie, und hier ist die Rechnung. So erteilte Autonomie ist ein Kreditlimit: Es wächst mit der Historie, und es wird an dem Tag gekürzt, an dem die Historie nicht mehr bedeutet, was sie bedeutet hat.