Intelligenz wird billig. Verantwortung nicht.

Der operative Leiter eines Großhändlers schickte uns letzten Monat zwei Angebote zur Automatisierung der Kundenservice-E-Mails und fragte, welches günstiger sei. Beide rechneten das KI-Modell genau vor: Kosten pro E-Mail, E-Mails pro Monat, Kosten pro tausend Nachrichten. Keines sagte, wer dem Kunden Rede und Antwort steht, wenn das System einen Liefertermin oder eine Erstattung zusagt, die das Unternehmen nicht einhalten kann, welche Nachweise diese Person hätte und wie die Zusage korrigiert würde.

Das Modell war in beiden Angeboten die kleinste Zahl, und im nächsten Jahr dürfte sie weiter sinken. Der fehlende Posten entscheidet über die Kosten des Projekts, und er folgt nicht derselben Kurve.

Die Preiskurve ist real

KI-Modelle werden pro Token abgerechnet, das sind einige Buchstaben Text. Als GPT-4 im März 2023 erschien, kostete es 30 Dollar pro Million Input-Tokens. Im Juli dieses Jahres brachte OpenAI GPT-4o mini für 15 Cent pro Million heraus. Das Modell ist kleiner, aber für das Lesen, Sortieren und Herausziehen von Angaben, das den Großteil operativer Arbeit ausmacht, reicht es, zu einem Zweihundertstel des Preises. Andere Anbieter folgen derselben Kurve.

David Cahn fragte in seinem Essay „AI's $600B Question“ (Sequoia, Juni 2024), wer die gerade entstehende Infrastruktur wieder einspielt. Für Käufer sagen die Zahlen etwas Einfacheres: KI wird allmählich bepreist wie Bandbreite, und kaum ein Unternehmen gewinnt mit billigerer Bandbreite.

Was nicht billiger wird

Im Februar entschied das Civil Resolution Tribunal von British Columbia den Fall Moffatt gegen Air Canada. Der Chatbot auf der Website der Airline hatte einem Kunden erklärt, er könne einen Trauerfalltarif auch nach der Reise noch beantragen. Die Richtlinie sah das anders vor, und die Airline argumentierte, der Chatbot sei für seine Aussagen selbst verantwortlich. Das Tribunal widersprach: Das Unternehmen haftet für alles auf seiner Website, gleich wer oder was es geschrieben hat. Der Schadenersatz betrug einige hundert Dollar. Das Prinzip wiegt schwerer.

Für jede Entscheidung, die ein System im Namen des Unternehmens trifft, muss dort jemand einstehen, gegenüber Kunden, Wirtschaftsprüfern, Aufsicht oder Vorstand. Dazu braucht es vier Dinge, und keines folgt der Preiskurve:

• Eine benannte Person, zu deren Aufgaben diese Art von Entscheidung gehört und die den Regeln des Systems zugestimmt hat.
• Nachweise: was das System gesehen hat, welche Regel galt, wer freigegeben hat, was wohin geschrieben wurde, aufbewahrt bis zur Prüfung.
• Rücknahme: ein Weg, die Entscheidung in dem System rückgängig zu machen, in dem sie liegt.
• Kontrolle: Menschen mit Zeit und Informationen für die Fälle, die geprüft werden müssen, und ein Weg zu erkennen, welche das sind.

Diese Kosten wachsen mit dem Gewicht einer Entscheidung, nicht mit der Textmenge, die die KI liest. Eine falsche Entscheidung, die Geld bewegt, kostet das Geld. Ein zehnmal billigeres Modell ändert daran nichts.

Billigere Antworten bedeuten mehr Verantwortung

Kostet eine Antwort Bruchteile eines Cents, lohnt sich die Automatisierung von Entscheidungen, bei denen sie sich nie gelohnt hat: die Frage nach dem Auftragsstatus, die Adressänderung, die kleine Gutschrift. Für jede muss jemand einstehen. Je billiger Intelligenz wird, desto höher die Rechnung für Verantwortung.

Diese Rechnung lässt sich durch Gestaltung senken. Eine Entscheidung, die sich in Sekunden rückgängig machen lässt, braucht weniger Kontrolle. Nachweise, die bei der Arbeit entstehen, kosten bei der Prüfung nichts. Eine Kontrolle, die gezielt die riskanten Fälle erfasst, kostet einen Bruchteil einer flächendeckenden.

Der Hebel, den die meisten Budgets übersehen, ist die Zeit. Eine falsche Entscheidung kostet mehr, je länger sie unbemerkt bleibt. Eine falsche Lieferzusage, die am nächsten Morgen auffällt, ist ein Anruf. Entdeckt erst, wenn die Ware nicht ankommt, ist sie eine Beschwerde und manchmal ein verlorener Kunde. Eine tägliche Stichprobe dessen, was das System zugesagt hat, bringt oft mehr als eine doppelt so große Prüfwarteschlange.

Wo der Wert entstehen wird

Der Wert wandert dorthin, wo Verantwortung günstig zu haben ist. Wir sehen drei solche Stellen.

Die Kernsysteme des Geschäfts. Das ERP (das Hauptsystem für Aufträge, Bestand und Buchhaltung), die Bank, das Patienten- oder Vertragsverwaltungssystem und das Ticketsystem halten bereits Befugnisse, Prüfpfad und Geld eines Unternehmens, mit über Jahrzehnte gewachsenen Berechtigungen und Freigaben. KI, die in diesen Systemen handelt, übernimmt all das. KI in einem separaten Assistenten, aus dem Mitarbeitende Antworten herauskopieren, muss es nachbauen oder darauf verzichten. Wir erwarten, dass vieles aus der Chat-Welle dieses Jahres deshalb neu gebaut wird.

Die eigenen Regeln und Aufzeichnungen. Jedes Unternehmen hat ein ungeschriebenes Regelwerk: welche Differenzen eine Sachbearbeiterin durchgehen lässt, welche Kunden Ausnahmen bekommen, welchen Terminen eines Spediteurs man trauen kann. Für ein System kann man nur einstehen, wenn seine Regeln aufgeschrieben sind und jemandem gehören. Ein Unternehmen, das das tut und jede Entscheidung und Korrektur festhält, besitzt etwas, das kein Wettbewerber beim selben Anbieter kaufen kann.

Wer für das Ergebnis haftet. Foundation Capital vertrat im April die These, dass Unternehmen mit KI fertige Arbeit statt Software verkaufen werden, und Sequoias Essay über die Ära des Reasoning vom Oktober argumentiert ähnlich. Wir halten die Richtung für richtig. Aber ein Anbieter, der die Arbeit verkauft, verkauft Verantwortung, und die kann ein Käufer nie ganz abgeben. Das Tribunal fragte nicht, wer den Chatbot gebaut hatte. Entscheidend ist der Vertrag, der regelt, wer zahlt, wer korrigiert und wer die Nachweise hält, wenn das Ergebnis falsch ist.

Agenten vergrößern die Lücke

Bis zu diesem Jahr hat die KI, die wir in Unternehmen sahen, meist vorgeschlagen, und ein Mensch hat entschieden. Im September stellte Salesforce Agentforce vor, KI-Agenten, die auf der Plattform Aufgaben ausführen. Im Oktober veröffentlichte Anthropic ein Modell, das Bildschirm und Tastatur eines Computers bedienen kann. Sobald KI handelt, ist ein Fehler bewegtes Geld und eine Zusage an einen Kunden, nicht ein paar Minuten Lesezeit.

Was jetzt zu ändern ist

Nichts davon spricht für Abwarten, nur dafür, das Geld anders einzusetzen.

1. Den Business Case in drei Posten aufstellen. Die KI, die billiger wird. Die Anbindung an die Kernsysteme. Die Verantwortung: Prüfung, Nachweise, Rücknahme und die Zeit der verantwortlichen Person, die nicht billiger wird. Ein Angebot ohne den dritten Posten ist noch kein Angebot.
2. Die Person vor dem System benennen. Setzt niemand seinen Namen unter die Entscheidungen, ist es eine Demo.
3. In der Transaktion bauen. Die KI über das Kernsystem handeln lassen, mit dessen Berechtigungen und Protokollen, nicht in einem separaten Fenster. Bearbeitete Vorgänge zählen, nicht Anmeldungen.
4. Regeln aufschreiben und Buch führen. Mit einem Ablauf beginnen: seine Entscheidungen, die Regel für jede, wem sie gehört. Jede Entscheidung und jede Korrektur protokollieren. Das ist Ihr Nachweis und Ihre Verhandlungsposition.
5. Über den Fehlerfall verhandeln, nicht über den Preis. Fragen, wer für ein falsches Ergebnis zahlt, wie schnell es zurückgenommen wird und wem Regeln und Protokoll gehören, wenn der Vertrag endet.
6. Entscheidungen so bauen, dass man günstig für sie einstehen kann. Ein Modell wählen, das gut genug ist, und es austauschbar halten. Den Aufwand in umkehrbare Handlungen, festgehaltene Nachweise und gezielte Kontrolle stecken.

Der Posten, der entscheidet

Wir erwarten, dass das Modell in den meisten KI-Budgets innerhalb von zwei Jahren zu einem der kleineren Posten wird. Unternehmen werden sich darin unterscheiden, ob sie für jede Entscheidung ihrer Software sagen können, wer dafür einsteht und woher diese Person weiß, dass sie richtig war. Das beginnt mit dem Posten, der in beiden Angeboten fehlte.