Intelligenz wird billig. Verantwortung nicht.

Ein CFO schickte uns letzten Monat zwei Angebote zur Automatisierung der Eingangsrechnungen und fragte, welches günstiger sei. Beide rechneten die Modellkosten genau vor: Tokens pro Rechnung, Rechnungen pro Monat, Kosten pro tausend Belege. Keines sagte, wer dem Wirtschaftsprüfer Rede und Antwort steht, wenn das System eine Rechnung auf die falsche Kostenstelle bucht, welche Nachweise diese Person dann hätte und wie die Buchung zurückgenommen würde.

Der Posten für das Modell war in beiden Angeboten die kleinste Zahl, und im nächsten Jahr wird er noch kleiner. Der fehlende Posten entscheidet über die Kosten des Projekts, und er wird im nächsten Jahr nicht kleiner. Diese Asymmetrie ist aus unserer Sicht das Wichtigste, was eine Führungskraft Ende 2024 über KI im Unternehmen verstehen sollte.

Die Preiskurve ist real

Als GPT-4 im März 2023 erschien, kostete es 30 Dollar pro Million Input-Tokens. Im Juli dieses Jahres brachte OpenAI GPT-4o mini für 15 Cent pro Million Input-Tokens auf den Markt. Das Modell ist kleiner, aber für das Lesen, Sortieren und Extrahieren, das den Großteil der operativen Arbeit ausmacht, reicht es aus, zu einem Zweihundertstel des Preises. Anthropic, Google und die Open-Weight-Modelle folgen derselben Kurve.

David Cahn fragte in seinem Essay „AI's $600B Question“ (Sequoia, Juni 2024), woher die Umsätze kommen sollen, die die derzeit entstehende Infrastruktur rechtfertigen. Für ein Unternehmen, das KI einkauft, sagen dieselben Zahlen etwas Einfacheres: Modellleistung wird zur Massenware, bepreist wie Bandbreite oder Speicherplatz. Niemand baut eine Strategie darauf, günstigere Bandbreite zu haben als der Wettbewerb. Am Modell wird kein Unternehmen gewinnen oder verlieren.

Was nicht billiger wird

Im Februar entschied das Civil Resolution Tribunal von British Columbia den Fall Moffatt gegen Air Canada. Der Chatbot auf der Website der Airline hatte einem Kunden erklärt, er könne einen Trauerfalltarif auch nach der Reise noch beantragen. Die Richtlinie der Airline sah das anders vor, und die Airline argumentierte, der Chatbot sei für seine Aussagen selbst verantwortlich. Das Tribunal widersprach: Das Unternehmen haftet für alles auf seiner Website, gleich wer oder was es geschrieben hat. Der Schadenersatz betrug einige hundert Dollar. Das Prinzip wiegt schwerer.

Genau hier liegt der zweite Kostenblock. Für jede Entscheidung, die ein System im Namen des Unternehmens trifft, muss im Unternehmen jemand die Verantwortung übernehmen, gegenüber Kunden, Wirtschaftsprüfern, Aufsichtsbehörden oder dem Vorstand. Dazu gehören vier Dinge, und keines davon wird mit den Tokenpreisen billiger:

• Eine verantwortliche Person. Jemand, in dessen Zuständigkeit diese Art von Entscheidungen fällt und der die Regeln abgenommen hat, nach denen das System entscheidet.
• Nachweise. Welche Daten das System gesehen hat, welche Regel angewendet wurde, wer freigegeben hat und was in welches System gebucht wurde. Aufbewahrt, bis eine Prüfung sie anfordert.
• Rücknahme. Ein Verfahren, um die Entscheidung im führenden System rückgängig zu machen, und jemand, der es beherrscht.
• Kontrolle. Mitarbeitende mit ausreichend Zeit und Informationen für die Fälle, die geprüft werden müssen, und ein Verfahren, das diese Fälle erkennt.

Diese Kosten wachsen mit der Tragweite einer Entscheidung, nicht mit der Zahl der Tokens. Eine falsche Auskunft über einen Trauerfalltarif kostet einige hundert Dollar. Eine falsch geänderte Bankverbindung im Lieferantenstamm kostet so viel, wie der nächste Zahllauf an einen Betrüger überweist. Ein zehnmal billigeres Modell ändert daran nichts.

Billigere Antworten bedeuten mehr Verantwortung

Dazu kommt ein zweiter Effekt, und er trifft alle, die mit dem Tokenpreis rechnen. Kostet eine Antwort nur noch Bruchteile eines Cents, lohnt sich plötzlich die Automatisierung von Entscheidungen, bei denen sie sich nie gelohnt hat: die Kleinstrechnung, die routinemäßige Adressänderung, die Gutschrift über einen geringen Betrag. Jede davon ist eine weitere Entscheidung, die jemand verantworten muss. Je billiger Intelligenz wird, desto mehr Entscheidungen überträgt ein Unternehmen auf Software, und desto höher fallen die Kosten der Verantwortung aus.

Wer nur den Tokenpreis im Blick hat, sieht die KI-Kosten steigen, obwohl der Preis pro Antwort fällt, und versteht nicht, warum. Wer die Verantwortung mitrechnet, sieht, wohin das Geld fließt: in Kontrolle, Nachweise und Rücknahme bei jeder Art von Entscheidung. Genau dort lässt sich auch sparen, denn Verantwortung lässt sich kostengünstiger organisieren. Eine Entscheidung, die sich in Sekunden rückgängig machen lässt, braucht weniger Kontrolle als eine, bei der das nicht geht. Nachweise, die im laufenden Prozess automatisch entstehen, verursachen bei der Prüfung keinen Aufwand mehr. Eine Kontrolle, die sich auf die kritischen Fälle konzentriert, kostet nur einen Bruchteil einer flächendeckenden.

Wo der Wert entstehen wird

Wenn Intelligenz billig ist und Verantwortung teuer, verlagert sich der Wert von KI im Unternehmen dorthin, wo Verantwortung günstig zu haben ist. Wir sehen drei solche Stellen.

Die führenden Systeme. In ERP, Bankanbindung, Warenwirtschaft und Ticketsystem liegen Befugnisse, Prüfpfad und Geld eines Unternehmens bereits. Ihre Berechtigungen, Freigabeprozesse, Periodensperren und Änderungsprotokolle sind über Jahrzehnte gewachsene Verantwortung. KI, die in diesen Systemen handelt, über deren Schnittstellen und unter deren Kontrollen, übernimmt all das. KI, die daneben arbeitet, etwa in einem separaten Assistenten, aus dem Mitarbeitende Antworten herauskopieren, muss all das nachbauen oder darauf verzichten. Wir erwarten, dass vieles aus der Chat-Welle dieses Jahres genau deshalb neu gebaut wird.

Die eigenen Regeln und Aufzeichnungen. Jedes Unternehmen hat ein ungeschriebenes Regelwerk: welche Differenzen eine Sachbearbeiterin durchgehen lässt, welche Kunden Ausnahmen bekommen, welcher Lieferant immer die falsche Referenz schickt. Für ein System kann man nur geradestehen, wenn seine Regeln schriftlich festgehalten sind und jemand für sie verantwortlich ist. Unternehmen, die ihre Regeln aufschreiben und jede Entscheidung und jede Korrektur dokumentieren, besitzen etwas, das ein Wettbewerber nicht beim selben Modellanbieter einkaufen kann. Das ist weniger glamourös als ein Modell und weit schwerer zu kopieren.

Wer für das Ergebnis haftet. Foundation Capital vertrat im April die These, dass Unternehmen mit KI künftig fertige Arbeit statt Software verkaufen. Sequoias Essay über die Ära des Reasoning vom Oktober argumentiert ähnlich für Dienstleistungen, die als Software geliefert werden. Wir halten die Richtung für richtig. Seltener besprochen wird, was daraus für Käufer folgt: Ein Anbieter, der die Arbeit verkauft, verkauft Verantwortung, und genau die kann ein Käufer nie vollständig abgeben. Das Tribunal fragte nicht, welcher Anbieter den Chatbot gebaut hatte. Der Preis ergebnisbasierter KI wird davon abhängen, welchen Anteil der Fehlerkosten der Anbieter übernimmt. Entscheidend ist der Vertrag, der regelt, wer zahlt, wer korrigiert und wer die Nachweise vorhält, wenn das Ergebnis falsch ist.

Agenten vergrößern die Lücke

Bis zu diesem Jahr hat KI im Unternehmen vor allem Vorschläge gemacht. Ein Mensch las eine Zusammenfassung oder einen Entwurf und entschied. Das hielt die Kosten der Verantwortung niedrig, denn für jede Handlung stand ein Mensch gerade, und das System half nur beim schnelleren Lesen.

Das ändert sich schnell. Im September stellte Salesforce Agentforce vor, das im Auftrag von Kunden auf der Plattform selbst handeln soll. Im Oktober veröffentlichte Anthropic ein Modell, das Bildschirm und Tastatur eines Computers bedienen kann. Wenn KI nicht mehr nur vorschlägt, sondern handelt, kostet ein Fehler nicht mehr ein paar Minuten Lesezeit, sondern bewegtes Geld und Zusagen an Kunden. Die Intelligenz wird genau in dem Moment billiger, in dem die Verantwortung teurer wird.

Was jetzt zu ändern ist

Nichts davon spricht für Abwarten. Es spricht dafür, das Geld an anderer Stelle einzusetzen.

1. Den Business Case in drei Posten neu aufstellen. Die Kosten der Intelligenz, die sinken werden. Die Kosten der Integration in die führenden Systeme. Die Kosten der Verantwortung: Prüfzeit, Nachweise, Rücknahme und die Zeit der verantwortlichen Person. Sie sinken nicht und wachsen mit der Tragweite. Kann ein Angebot den dritten Posten nicht beziffern, ist es noch kein Angebot.
2. Die Person vor dem System benennen. Für jede KI-Initiative festhalten, wer für ihre Entscheidungen geradesteht und welche Nachweise diese Person dafür bräuchte. Setzt niemand seinen Namen darunter, ist die Initiative eine Demo, was auch immer auf den Folien steht.
3. In der Transaktion bauen. Lösungen bevorzugen, bei denen die KI eine Handlung über das führende System vorbereitet oder ausführt, mit dessen bestehenden Berechtigungen und Protokollen, statt in einem separaten Fenster. Fortschritt an den Transaktionen messen, die das System bearbeitet, nicht an der Zahl der Anmeldungen.
4. Die Regeln aufschreiben und Buch führen. Mit einem Workflow beginnen. Die Entscheidungen darin auflisten, die Regel für jede und wer für die Regel verantwortlich ist. Jede Entscheidung des Systems und jede Korrektur durch einen Menschen protokollieren. Diese Aufzeichnungen werden zum Nachweis des Unternehmens, zu seinen Trainingsdaten und zu seiner Verhandlungsposition gegenüber jedem Anbieter.
5. Über den Fehlerfall verhandeln, nicht über den Preis. Will ein Anbieter Ergebnisse verkaufen, fragen, wer für ein falsches Ergebnis zahlt, wie schnell es zurückgenommen wird und wem Regeln und Entscheidungsprotokoll gehören, wenn der Vertrag endet. Die Antworten sind mehr wert als jeder Rabatt pro Beleg.
6. In Entscheidungen investieren, für die man günstig geradestehen kann. Ein Modell wählen, das gut genug ist, und so bauen, dass es sich austauschen lässt. Den Entwicklungsaufwand in umkehrbare Handlungen stecken, in Nachweise, die bei der Arbeit entstehen, und in eine Prüfung, die gezielt die folgenreichen Fälle erfasst.

Der Posten, der entscheidet

In zwei Jahren wird das Modell in den meisten KI-Budgets der billigste Posten sein, und niemand wird sich erinnern, welches gewählt wurde. Unternehmen werden sich darin unterscheiden, ob sie für jede Entscheidung ihrer Software sagen können, wer dafür geradesteht und woher diese Person weiß, dass sie richtig war. Diese Fähigkeit entsteht langsam, Workflow für Workflow, und kein neues Modell kürzt den Weg ab.