Intelligentie wordt goedkoop. Verantwoording niet.

De operationeel directeur van een groothandel stuurde ons vorige maand twee voorstellen voor het automatiseren van klantenservicemail en vroeg welk voorstel goedkoper was. Beide rekenden het model tot in detail door: tokens per e-mail, e-mails per maand, kosten per duizend berichten. Geen van beide behandelde wie zich tegenover de klant zou verantwoorden als het systeem een leverdatum of een terugbetaling toezegde die het bedrijf niet kon waarmaken, welk bewijs die persoon dan zou hebben, of hoe de toezegging zou worden rechtgezet.

De modelregel was het kleinste getal op beide pagina's, en volgend jaar wordt hij waarschijnlijk nog kleiner. De ontbrekende regel bepaalt de kosten van het project, en die ligt niet op dezelfde curve.

De prijscurve is echt

Toen GPT-4 in maart 2023 verscheen, kostte het 30 dollar per miljoen inputtokens. In juli van dit jaar bracht OpenAI GPT-4o mini uit voor 15 cent per miljoen inputtokens. Het is een kleiner model, maar voor het lezen, sorteren en extraheren waaruit het meeste operationele werk bestaat is het goed genoeg, voor een tweehonderdste van de prijs. Anthropic, Google en de open-weight-modellen zitten op dezelfde curve.

David Cahns essay "AI's $600B Question" (Sequoia, juni 2024) vroeg waar de omzet vandaan moet komen die de infrastructuur in aanbouw rechtvaardigt. Voor een bedrijf dat AI inkoopt zeggen dezelfde cijfers iets eenvoudigers: modelcapaciteit wordt steeds meer geprijsd als een grondstof, zoals bandbreedte en opslag. Weinig bedrijven bouwen een strategie op goedkopere bandbreedte dan de concurrent. Voor de meeste ondernemingen is het model waarschijnlijk niet waar ze winnen of verliezen.

Wat niet goedkoper wordt

In februari deed het Civil Resolution Tribunal van British Columbia uitspraak in Moffatt tegen Air Canada. De chatbot op de website van de luchtvaartmaatschappij had een klant verteld dat hij na zijn reis nog een rouwtarief kon aanvragen. Het beleid van de maatschappij zei iets anders, en de maatschappij voerde aan dat de chatbot zelf verantwoordelijk was voor wat hij zei. Het tribunaal was het daar niet mee eens: het bedrijf is verantwoordelijk voor alles op zijn website, wie of wat het ook schreef. De schadevergoeding was een paar honderd dollar. Het principe weegt zwaarder. Een antwoord dat een leverdatum op donderdag belooft, is net zo'n uitspraak, gedaan in naam van het bedrijf, en de klant gaat erop plannen.

Dat principe is de tweede kostenregel. Voor elke beslissing die een systeem namens een bedrijf neemt, moet iemand in het bedrijf zich verantwoorden, tegenover een klant, een accountant, een toezichthouder of een raad van bestuur. Daarvoor zijn vier dingen nodig, en geen daarvan ligt op de tokenprijscurve:

• Een benoemde persoon. Iemand bij wiens werk deze klasse beslissingen hoort en die heeft ingestemd met de regels die het systeem volgt.
• Bewijs. Wat het systeem zag, welke regel gold, wie goedkeurde, wat waar werd weggeschreven. Lang genoeg bewaard om een audit te doorstaan.
• Terugdraaien. Een manier om de beslissing ongedaan te maken in het systeem dat haar vasthoudt, door iemand die weet hoe.
• Controle. Mensen met de tijd en de informatie om de gevallen te controleren die controle nodig hebben, en een manier om te weten welke dat zijn.

Deze kosten groeien met de gevolgen van een beslissing, niet met haar lengte in tokens. Een fout antwoord over een rouwtarief kost een paar honderd dollar. Een foute beslissing die geld verplaatst, kost dat geld. Een tien keer goedkoper model verandert aan geen van beide iets.

Goedkopere antwoorden betekenen meer om voor in te staan

Er is een tweede effect, en dat werkt de verkeerde kant op voor iedereen die op de tokenprijs begroot. Als een antwoord een fractie van een cent kost, wordt het de moeite waard beslissingen te automatiseren die dat nooit waard waren: de routinevraag naar de orderstatus, de adreswijziging, de creditnota voor een klein bedrag. Elk daarvan is weer een beslissing waarvoor iemand moet instaan. Hoe verder de prijs van intelligentie daalt, hoe meer beslissingen een bedrijf aan software overlaat, en hoe hoger de rekening voor verantwoording.

Wie op de tokenprijs plant, kan de AI-kosten zien stijgen terwijl de prijs per antwoord daalt. Wie op verantwoording plant, ziet waar het geld heen gaat: naar controle, bewijs en terugdraaien rond elke klasse beslissingen. Daar valt ook te besparen, want verantwoording laat zich goedkoper ontwerpen. Een beslissing die in seconden terug te draaien is, heeft minder controle nodig dan een die dat niet is. Bewijs dat als bijproduct van het werk ontstaat, kost bij de audit niets om te verzamelen. Controle gericht op de gevallen die haar nodig hebben, kost een fractie van controle die over alles is uitgesmeerd.

De hefboom die de meeste begrotingen missen, is tijd. Wat een foute beslissing kost, hangt af van hoe vaak ze voorkomt, wat ze kost als ze voorkomt en hoe lang ze onopgemerkt blijft. De eerste twee krijgen de aandacht, via betere modellen en meer controle. De derde is meestal het goedkoopst te veranderen. Een verkeerde levertoezegging die de volgende ochtend wordt gevonden, is een telefoontje naar de klant. Dezelfde toezegging, gevonden als de goederen niet aankomen, is een klacht, en soms een verloren klant. Een dagelijkse controle op een steekproef, die vergelijkt wat het systeem heeft toegezegd met wat een medewerker zou verwachten, levert vaak meer verantwoording op dan een twee keer zo grote controlewachtrij.

Waar de waarde komt te liggen

Als intelligentie goedkoop is en verantwoording duur, verschuift de waarde van AI in de onderneming naar de plekken die verantwoording goedkoop maken. Wij zien er drie.

De bronsystemen. Het ERP, de bank, het polisadministratiesysteem en het ticketsysteem zijn de plekken waar de bevoegdheden, het audittrail en het geld van een bedrijf al liggen. Hun rechten, goedkeuringsstromen, periodeafsluitingen en wijzigingslogs zijn decennia aan opgebouwde verantwoording. AI die binnen die systemen handelt, via hun eigen koppelingen en onder hun eigen controles, erft dat allemaal. AI die ernaast werkt, in een aparte assistent waaruit mensen antwoorden kopiëren, moet dat allemaal opnieuw bouwen of het zonder doen. We verwachten dat veel van het chatwerk van dit jaar om die reden opnieuw wordt gebouwd.

De eigen regels en vastleggingen. Elk bedrijf heeft een ongeschreven regelboek: welke verschillen een medewerker laat passeren, welke klanten een uitzondering krijgen, van welke vervoerder de leverdata zonder meer kunnen worden toegezegd. Een bedrijf kan alleen voor een systeem instaan als de regels zijn opgeschreven en een eigenaar hebben. Bedrijven die hun regels opschrijven en elke beslissing en elke correctie vastleggen, hebben iets wat een concurrent niet bij dezelfde modelleverancier kan kopen.

Wie de uitkomst draagt. Foundation Capital betoogde in april dat AI bedrijven in staat stelt af werk te verkopen in plaats van software, en Sequoia's essay over het tijdperk van reasoning uit oktober maakt een vergelijkbaar punt over diensten die als software worden geleverd. We denken dat de richting klopt. Wat daaruit volgt voor een koper, wordt minder besproken: een leverancier die het werk verkoopt, verkoopt verantwoording, en dat is precies het deel dat een koper nooit helemaal kan overdragen. Het tribunaal vroeg niet welke leverancier de chatbot had gebouwd. De prijs van AI op basis van uitkomsten wordt bepaald door hoeveel van de foutkosten de leverancier draagt, en het contract dat ertoe doet regelt wie betaalt, wie herstelt en wie het bewijs bewaart als het werk fout is.

Agents maken de kloof groter

Tot dit jaar deed de meeste AI die wij in ondernemingen zagen voorstellen, in plaats van zelf te handelen. Een mens las een samenvatting of een concept en besliste. Dat hield verantwoording goedkoop, want voor elke handeling stond een mens in.

Dat verandert snel. In september kondigde Salesforce Agentforce aan: agents die binnen het platform taken plannen en uitvoeren, in plaats van alleen vragen te beantwoorden. In oktober bracht Anthropic een model uit dat het scherm en toetsenbord van een computer kan bedienen. Als AI van voorstellen naar handelen gaat, verschuiven de kosten van een fout van een paar minuten leestijd naar geld dat is overgemaakt en een klant aan wie iets is toegezegd.

Wat nu te veranderen

Niets hiervan pleit voor afwachten. Het pleit ervoor het geld op andere plekken uit te geven.

1. Herschrijf de business case in drie regels. De kosten van intelligentie, die zullen dalen. De kosten van integratie in de bronsystemen. De kosten van verantwoording: controletijd, bewijs, terugdraaien en de tijd van de eigenaar, die niet dalen en meegroeien met de gevolgen. Als een voorstel de derde regel niet kan invullen, is het nog geen voorstel.
2. Benoem de persoon vóór het systeem. Schrijf voor elk AI-initiatief op wie instaat voor de beslissingen en welk bewijs die persoon daarvoor nodig heeft. Als niemand er zijn naam onder wil zetten, is het initiatief een demonstratie, wat de slides ook zeggen.
3. Bouw binnen de transactie. Geef de voorkeur aan ontwerpen waarin AI een handeling via het bronsysteem voorbereidt of uitvoert, onder de bestaande rechten en logs, boven ontwerpen waarin ze in een apart venster zit. Meet voortgang in transacties die het systeem raakt, niet in gebruikers die inloggen.
4. Schrijf de regels op en houd de vastlegging bij. Begin met één workflow. Zet de beslissingen erin op een rij, de regel voor elke beslissing en wie eigenaar van die regel is. Log elke beslissing van het systeem en elke correctie door een mens. Die vastlegging wordt het bewijs van het bedrijf, zijn trainingsdata en zijn onderhandelingspositie tegenover elke leverancier.
5. Onderhandel over de fout, niet over de prijs. Als een leverancier uitkomsten wil verkopen, vraag dan wie betaalt voor een foute uitkomst, hoe snel die wordt teruggedraaid en wie eigenaar is van de regels en het beslissingslog als het contract afloopt. De antwoorden zijn meer waard dan elke korting per document.
6. Investeer in beslissingen waar u goedkoop voor kunt instaan. Kies een model dat goed genoeg is en ontwerp zo dat het te vervangen is. Stop de engineering in handelingen die terug te draaien zijn, in bewijs dat tijdens het werk ontstaat en in controle gericht op de gevallen met gevolgen.

De regel die de doorslag geeft

We verwachten dat het model binnen twee jaar in de meeste AI-budgetten een van de kleinere regels is. Wat bedrijven onderscheidt, is of ze voor elke beslissing van hun software kunnen zeggen wie ervoor instaat en hoe ze weten dat die klopte. Dat vermogen ontstaat langzaam, workflow voor workflow, en een beter model maakt die weg nauwelijks korter. Het begint met de regel die in beide voorstellen ontbrak: wie zich voor elke beslissing verantwoordt, met welk bewijs, en hoe een fout wordt rechtgezet.