Intelligentie wordt goedkoop. Verantwoording niet.

Een CFO stuurde ons vorige maand twee voorstellen voor het automatiseren van de verwerking van leveranciersfacturen en vroeg welk voorstel goedkoper was. Beide rekenden het model tot in detail door: tokens per factuur, facturen per maand, kosten per duizend documenten. Geen van beide zei wie zich tegenover de accountant zou verantwoorden als het systeem een factuur op de verkeerde kostenplaats boekte, welk bewijs die persoon dan zou hebben, of hoe de boeking zou worden teruggedraaid.

De modelregel was het kleinste getal op beide pagina's, en volgend jaar is hij nog kleiner. De regel die ontbrak, bepaalt de kosten van het project, en die is volgend jaar niet kleiner. Die asymmetrie is volgens ons het nuttigste wat een bestuurder eind 2024 over AI in de onderneming kan begrijpen.

De prijscurve is echt

Toen GPT-4 in maart 2023 verscheen, kostte het 30 dollar per miljoen inputtokens. In juli van dit jaar bracht OpenAI GPT-4o mini uit voor 15 cent per miljoen inputtokens. Het is een kleiner model, maar voor het lezen, sorteren en extraheren waaruit het meeste operationele werk bestaat is het goed genoeg, voor een tweehonderdste van de prijs. Anthropic, Google en de open-weight-modellen zitten op dezelfde curve.

David Cahns essay "AI's $600B Question" (Sequoia, juni 2024) vroeg waar de omzet vandaan moet komen die de infrastructuur in aanbouw rechtvaardigt. Voor een bedrijf dat AI inkoopt zeggen dezelfde cijfers iets eenvoudigers: modelcapaciteit wordt een grondstof, geprijsd zoals bandbreedte of opslag. Niemand bouwt een strategie op goedkopere bandbreedte dan de concurrent. Op het model wint of verliest een onderneming niet.

Wat niet goedkoper wordt

In februari deed het Civil Resolution Tribunal van British Columbia uitspraak in Moffatt tegen Air Canada. De chatbot op de website van de luchtvaartmaatschappij had een klant verteld dat hij na zijn reis nog een rouwtarief kon aanvragen. Het beleid van de maatschappij zei iets anders, en de maatschappij voerde aan dat de chatbot zelf verantwoordelijk was voor wat hij zei. Het tribunaal was het daar niet mee eens: het bedrijf is verantwoordelijk voor alles op zijn website, wie of wat het ook schreef. De schadevergoeding was een paar honderd dollar. Het principe weegt zwaarder.

Dat principe is de tweede kostenregel. Voor elke beslissing die een systeem namens een bedrijf neemt, moet iemand in het bedrijf zich verantwoorden, tegenover een klant, een accountant, een toezichthouder of een raad van bestuur. Daarvoor zijn vier dingen nodig, en geen daarvan ligt op de tokenprijscurve:

• Een benoemde persoon. Iemand bij wiens werk deze klasse beslissingen hoort en die heeft ingestemd met de regels die het systeem volgt.
• Bewijs. Wat het systeem zag, welke regel gold, wie goedkeurde, wat waar werd weggeschreven. Lang genoeg bewaard om een audit te doorstaan.
• Terugdraaien. Een manier om de beslissing ongedaan te maken in het systeem dat haar vasthoudt, door iemand die weet hoe.
• Controle. Mensen met de tijd en de informatie om de gevallen te controleren die controle nodig hebben, en een manier om te weten welke dat zijn.

Deze kosten groeien met de gevolgen van een beslissing, niet met haar lengte in tokens. Een fout antwoord over een rouwtarief kost een paar honderd dollar. Een foute wijziging van het bankrekeningnummer van een leverancier kost wat de volgende betaalrun naar een fraudeur overmaakt. Een tien keer goedkoper model verandert aan geen van beide iets.

Goedkopere antwoorden betekenen meer om voor in te staan

Er is een tweede effect, en dat werkt de verkeerde kant op voor iedereen die op de tokenprijs begroot. Als een antwoord een fractie van een cent kost, wordt het de moeite waard beslissingen te automatiseren die dat nooit waard waren: de kleine factuur, de routinematige adreswijziging, de creditnota voor een klein bedrag. Elk daarvan is weer een beslissing waarvoor iemand moet instaan. Hoe verder de prijs van intelligentie daalt, hoe meer beslissingen een bedrijf aan software overlaat, en hoe hoger de rekening voor verantwoording.

Een bedrijf dat op de tokenprijs plant, ziet zijn AI-kosten stijgen terwijl de prijs per antwoord daalt, en begrijpt niet waarom. Een bedrijf dat op verantwoording plant, ziet waar het geld heen gaat: naar controle, bewijs en terugdraaien rond elke klasse beslissingen. Daar valt ook te besparen, want verantwoording laat zich goedkoper ontwerpen. Een beslissing die in seconden terug te draaien is, heeft minder controle nodig dan een die dat niet is. Bewijs dat als bijproduct van het werk ontstaat, kost bij de audit niets om te verzamelen. Controle gericht op de gevallen die haar nodig hebben, kost een fractie van controle die over alles is uitgesmeerd.

Waar de waarde komt te liggen

Als intelligentie goedkoop is en verantwoording duur, verschuift de waarde van AI in de onderneming naar de plekken die verantwoording goedkoop maken. Wij zien er drie.

De bronsystemen. Het ERP, de bank, het polisadministratiesysteem en het ticketsysteem zijn de plekken waar de bevoegdheden, het audittrail en het geld van een bedrijf al liggen. Hun rechten, goedkeuringsstromen, periodeafsluitingen en wijzigingslogs zijn decennia aan opgebouwde verantwoording. AI die binnen die systemen handelt, via hun eigen koppelingen en onder hun eigen controles, erft dat allemaal. AI die ernaast werkt, in een aparte assistent waaruit mensen antwoorden kopiëren, moet dat allemaal opnieuw bouwen of het zonder doen. We verwachten dat veel van het chatwerk van dit jaar om die reden opnieuw wordt gebouwd.

De eigen regels en vastleggingen. Elk bedrijf heeft een ongeschreven regelboek: welke verschillen een medewerker laat passeren, welke klanten een uitzondering krijgen, welke leverancier altijd de verkeerde referentie stuurt. Een bedrijf kan alleen voor een systeem instaan als de regels zijn opgeschreven en een eigenaar hebben. Bedrijven die hun regels opschrijven en elke beslissing en elke correctie vastleggen, hebben iets wat een concurrent niet bij dezelfde modelleverancier kan kopen. Het is minder glamoureus dan een model en veel moeilijker na te maken.

Wie de uitkomst draagt. Foundation Capital betoogde in april dat AI bedrijven in staat stelt af werk te verkopen in plaats van software, en Sequoia's essay over het tijdperk van reasoning uit oktober maakt een vergelijkbaar punt over diensten die als software worden geleverd. We denken dat de richting klopt. Wat daaruit volgt voor een koper, wordt minder besproken: een leverancier die het werk verkoopt, verkoopt verantwoording, en dat is precies het deel dat een koper nooit helemaal kan overdragen. Het tribunaal vroeg niet welke leverancier de chatbot had gebouwd. De prijs van AI op basis van uitkomsten wordt bepaald door hoeveel van de foutkosten de leverancier draagt, en het contract dat ertoe doet regelt wie betaalt, wie herstelt en wie het bewijs bewaart als het werk fout is.

Agents maken de kloof groter

Tot dit jaar deed de meeste AI in de onderneming voorstellen. Een mens las een samenvatting of een concept en besliste. Dat hield verantwoording goedkoop, want voor elke handeling stond een mens in, en het systeem was alleen een snellere manier om te lezen.

Dat verandert snel. In september kondigde Salesforce Agentforce aan, gebouwd om namens klanten binnen zijn platform te handelen. In oktober bracht Anthropic een model uit dat het scherm en toetsenbord van een computer kan bedienen. Als AI van voorstellen naar handelen gaat, verschuiven de kosten van een fout van een paar minuten leestijd naar geld dat is overgemaakt en een klant aan wie iets is toegezegd. De intelligentie wordt goedkoper op precies het moment dat de verantwoording duurder wordt.

Wat nu te veranderen

Niets hiervan pleit voor afwachten. Het pleit ervoor het geld op andere plekken uit te geven.

1. Herschrijf de business case in drie regels. De kosten van intelligentie, die zullen dalen. De kosten van integratie in de bronsystemen. De kosten van verantwoording: controletijd, bewijs, terugdraaien en de tijd van de eigenaar, die niet dalen en meegroeien met de gevolgen. Als een voorstel de derde regel niet kan invullen, is het nog geen voorstel.
2. Benoem de persoon vóór het systeem. Schrijf voor elk AI-initiatief op wie instaat voor de beslissingen en welk bewijs die persoon daarvoor nodig heeft. Als niemand er zijn naam onder wil zetten, is het initiatief een demonstratie, wat de slides ook zeggen.
3. Bouw binnen de transactie. Geef de voorkeur aan ontwerpen waarin AI een handeling via het bronsysteem voorbereidt of uitvoert, onder de bestaande rechten en logs, boven ontwerpen waarin ze in een apart venster zit. Meet voortgang in transacties die het systeem raakt, niet in gebruikers die inloggen.
4. Schrijf de regels op en houd de vastlegging bij. Begin met één workflow. Zet de beslissingen erin op een rij, de regel voor elke beslissing en wie eigenaar van die regel is. Log elke beslissing van het systeem en elke correctie door een mens. Die vastlegging wordt het bewijs van het bedrijf, zijn trainingsdata en zijn onderhandelingspositie tegenover elke leverancier.
5. Onderhandel over de fout, niet over de prijs. Als een leverancier uitkomsten wil verkopen, vraag dan wie betaalt voor een foute uitkomst, hoe snel die wordt teruggedraaid en wie eigenaar is van de regels en het beslissingslog als het contract afloopt. De antwoorden zijn meer waard dan elke korting per document.
6. Investeer in beslissingen waar u goedkoop voor kunt instaan. Kies een model dat goed genoeg is en ontwerp zo dat het te vervangen is. Stop de engineering in handelingen die terug te draaien zijn, in bewijs dat tijdens het werk ontstaat en in controle gericht op de gevallen met gevolgen.

De regel die de doorslag geeft

Binnen twee jaar is het model in de meeste AI-budgetten de goedkoopste regel, en weet niemand meer welk model werd gekozen. Wat bedrijven onderscheidt, is of ze voor elke beslissing van hun software kunnen zeggen wie ervoor instaat en hoe ze weten dat die klopte. Dat vermogen ontstaat langzaam, workflow voor workflow, en geen nieuw model maakt die weg korter.