Die Entscheidungsvorlage: menschliche Freigaben in KI-gestützten Finanzprozessen

Fünfundfünfzig angehaltene Zahlungen in gut vier Minuten. Wir saßen neben der Treasury-Verantwortlichen einer Unternehmensgruppe, die den morgendlichen Zahlungslauf für sieben Gesellschaften abarbeitete, den ersten, den ein neuer Workflow vorbereitet hatte, und fragten danach, was sie bei jeder Zahlung geprüft hatte. Die ehrliche Antwort: die Summe je Gesellschaft und ob die Empfängernamen bekannt klangen.

Der Bildschirm zeigte Empfänger, Betrag, Währung, Fälligkeit und zahlende Gesellschaft, einen Link zu den Unterlagen und einen Freigabeknopf. Warum eine Zahlung angehalten war, stand nirgends. Also wurde geprüft, was sich schnell prüfen ließ, wie es jeder von uns bei fünfundfünfzig Zeilen und einem Cut-off um elf täte. Im Audit-Log standen fünfundfünfzig Freigaben durch eine namentlich genannte Person, und es konnte nicht zeigen, was angesehen worden war.

Im Finanzbereich trennt man seit Langem, wer eine Zahlung vorbereitet und wer sie verbindlich ausführt. Auf derselben Trennung bauen wir KI-Workflows: Die KI bereitet vor, ein Mensch führt aus. Ob das trägt, entscheidet sich im Moment dazwischen: was der Mensch sieht, wenn er bestätigen soll, und wie lange er wirklich hinsieht.

Eine Vorlage für jeden Grund, aus dem ein Fall anhält

Das System weiß bereits, warum es die Zahlung angehalten hat, also sollte der Bildschirm es sagen, statt die Fehlersuche der prüfenden Person zu überlassen. Wir ersetzen die Datensatzansicht durch eine Entscheidungsvorlage, die sich um eine einzige Frage dreht.

Die Vorlage beginnt mit einer Zeile: welche Entscheidung ansteht und warum die Zahlung angehalten wurde. „Diese Zahlung ist viermal so hoch wie die größte, die diese Gesellschaft je an diesen Empfänger geleistet hat.“ Darunter nebeneinander: das auslösende Feld, der gefundene und der erwartete Wert. Dann die Belege nur zu diesem Punkt. Der vollständige Datensatz ist einen Klick entfernt.

In jenem Treasury begann eine typische Vorlage mit der Entscheidung in Fettschrift: 86.400 EUR von der spanischen Gesellschaft an einen Frachtführer freigeben oder an das Team zurückgeben, das Lieferantenzahlungen vorbereitet. Dann der Grund: Die Regel hält alles an, was über dem Doppelten der größten Zahlung der Gesellschaft an diesen Frachtführer in zwölf Monaten liegt, und die betrug 21.750 EUR. Dann die letzte Zahlung, 18.920 EUR im August für zwei Wochen Transport, übrige Felder gleich und eingeklappt. Im Belegbereich lagen der Rahmenvertrag für eine neue saisonale Route und die Oktober-Buchungen an der Bestellung. In Sekunden sieht die prüfende Person, dass der Sprung einen Grund hat, eine vertraglich vereinbarte und gebuchte Route, und dass sich sonst nichts bewegt hat.

Andere Gründe bekommen andere Vorlagen. Ein Empfänger, der für diese Gesellschaft neu ist, aber seit Jahren von einer Schwestergesellschaft bezahlt wird, öffnet mit dieser Historie: eine bekannte Beziehung statt einer leeren Seite. Eine Währung, die die Gesellschaft nie verwendet hat, öffnet mit der Währung, der Kursquelle und dem, worin sie sonst zahlt. Zwei Gründe ergeben zwei Vorlagen. Nicht zuzuordnende Unterlagen öffnen mit dem, was fehlt.

Jede Vorlage ist Entwicklungsarbeit, deshalb bauen wir zuerst für die häufigsten Stopps. Seltene fallen auf die Datensatzansicht zurück, als Ausweichlösung gekennzeichnet, damit niemand sie für das fertige Design hält.

Zeigen, was sich unterscheidet, nicht alles, was da ist

Nach unserer Erfahrung arbeiten Prüfende schneller und genauer, wenn sie vergleichen, als wenn sie lesen. Jede Vorlage stellt die Zahlung deshalb neben ihren nächsten Vergleichsfall: die zuletzt freigegebene Zahlung an denselben Empfänger aus derselben Gesellschaft oder aus einer Schwestergesellschaft, wenn diese hier nie an ihn gezahlt hat. Unveränderte Felder sind eingeklappt, geänderte hervorgehoben, sodass ein Betrag weit außerhalb des Üblichen oder eine neue Währung dort steht, wohin der Blick zuerst fällt. Es ist das, was im Treasury auf einer ausgedruckten Zahlungsliste auffiele, wenn die Zeit da wäre.

Den Konfidenzwert der KI zeigen wir nicht. Wer eine hohe Zahl sieht, prüft tendenziell weniger. Die Literaturübersicht von Microsoft zu übermäßigem Vertrauen in KI (Passi und Vorvoreanu, Juni 2022) enthält eine Studie, in der selbst eine nichtssagende Genauigkeitsangabe das Vertrauen erhöhte. Prüfende fragen trotzdem danach. Wir nutzen den Wert dort, wo er kein Urteil verankern kann: zum Sortieren der Warteschlange, niedrigste zuerst.

Sammelfreigabe ist eine Eigenschaft der Fälle

Zahlungen einzeln freizugeben ist langsam, und im Treasury wünscht man sich in der ersten Woche einen Knopf für Sammelfreigaben. Gerade dort wird die Prüfung unbemerkt dünner, deshalb müssen sich Fälle dafür qualifizieren.

Sie qualifizieren sich, wenn sie aus demselben Grund angehalten wurden, demselben Vergleichsfall in jedem Feld außer dem freizugebenden entsprechen, dieselbe Währung haben und in einer Betragsspanne liegen, die das Treasury festgelegt hat. Zwölf Zahlungen an einen Frachtführer aus drei Gesellschaften, alle angehalten, weil neue Saisontarife sie über denselben Vergleichsfall hoben, sind eine Entscheidung. Derselbe Frachtführer mit zwölf verschiedenen Gründen sind zwölf.

Jede Abweichung trägt eine Begründung

Ändert eine prüfende Person den Vorschlag des Systems, fragt die Vorlage nach dem Grund, aus einer kurzen, mit dem Treasury abgestimmten Liste: Betrag außerhalb des Vertrags vereinbart, falsche zahlende Gesellschaft, Doppel einer früheren Zahlung, aufteilen oder verschieben, oder Sonstiges mit Notiz. Eine kurze Liste wird weit zuverlässiger ausgefüllt als ein Freitextfeld.

Diese Gründe gehören zu den nützlichsten Daten, die das System erzeugt: welche Halteregeln falsch sind, welche Lieferantenbeziehungen sich ändern und, nach ein oder zwei Quartalen, welche Zahlungsarten keinen Stopp mehr brauchen.

Der Prüfaufwand wird gemessen

Wir messen die Prüfung selbst: Zeit pro Vorlage, geöffnete Belege, geänderte Vorschläge und später zurückgenommene oder zurückgerufene Zahlungen. Nichts davon bewertet Menschen; es zeigt, ob die Kontrolle wirkt.

Wird an einem Prüfpunkt Woche für Woche jeder Fall in Sekunden unverändert freigegeben, fügt er kein Urteil hinzu. Entweder brauchen die Fälle keinen Menschen, und eine automatische Prüfung sollte ihn ersetzen, oder die Vorlage zeigt nicht, was der Mensch braucht. Beides sind Gestaltungsprobleme; mehr Sorgfalt einzufordern löst keins davon.

Vor dem Start arbeiten Prüfende in einer Testkopie des Systems Fälle mit bekannten Antworten durch, von denen einige angehalten werden müssten, um zu sehen, bevor echtes Geld fließt, ob die Vorlage die falsche Antwort sichtbar macht. Nach dem Start prüft eine zweite Person aus dem Treasury jede Woche eine kleine Zufallsstichprobe freigegebener Vorlagen, ohne die erste Entscheidung zu kennen. Wo beide abweichen, sehen wir uns zuerst die Vorlage an. Das ist das direkteste Maß, das wir dafür kennen, ob die Prüfung findet, wofür sie da ist.

Wir achten auf zwei Linien, die gemeinsam fallen: Zeit pro Vorlage und Anteil geänderter Vorschläge. Meist hat dann jemand gelernt, dass das System meistens richtig liegt, und die Prüfung lässt nach. Dann verbirgt jede zwanzigste Vorlage die vorgeschlagene Aktion, bis die prüfende Person selbst entschieden hat. Die Forschung nennt das eine Cognitive Forcing Function. Buçinca, Malaya und Gajos von der Harvard University stellten 2021 fest, dass solche Gestaltungen übermäßiges Vertrauen in KI verringern und dass Menschen die wirksamsten als am unangenehmsten empfanden. Deshalb läuft sie nur, wenn die Zahlen es verlangen, und das Team weiß, warum.

Freigaben werden wie jede Finanzkontrolle festgehalten

Wer freigibt, ist nie das System, das den Lauf vorbereitet hat, und nie die Person, die die Zahlung vorgeschlagen hat. Jede Freigabe wird mit prüfender Person, Zeitpunkt, der Vorlage genau wie angezeigt, den geöffneten Belegen und dem Grund jeder Änderung gespeichert. Eine Prüferin sieht, was die prüfende Person gesehen hat, nicht nur, dass geklickt wurde. Aus demselben Grund bieten wir keine Freigabe per E-Mail-Antwort oder Chat-Knopf an: Sie entfernt die Belege und behält nur die Unterschrift.

Der Name im Log sollte etwas bedeuten

Ein Prüfpunkt, den niemand liest, kann schlimmer sein als keiner, weil er einen Eintrag hinterlässt, der behauptet, jemand habe geprüft. Gestalten Sie die Vorlage so, dass der Name im Audit-Log beschreibt, was tatsächlich geschehen ist.