Intelligentie wordt goedkoop. Verantwoording niet.

De operationeel directeur van een groothandel stuurde ons vorige maand twee voorstellen voor het automatiseren van klantenservicemail en vroeg welk goedkoper was. Beide rekenden het AI-model tot in detail door: kosten per e-mail, e-mails per maand, kosten per duizend berichten. Geen van beide zei wie zich tegenover de klant verantwoordt als het systeem een leverdatum of terugbetaling toezegt die het bedrijf niet kan waarmaken, welk bewijs die persoon heeft, of hoe de toezegging wordt rechtgezet.

Het model was op beide pagina's het kleinste bedrag, en volgend jaar daalt het waarschijnlijk weer. De ontbrekende regel bepaalt de kosten van het project, en die volgt niet dezelfde curve.

De prijscurve is echt

AI-modellen rekenen per token af, een paar letters tekst. Toen GPT-4 in maart 2023 uitkwam, kostte het 30 dollar per miljoen inputtokens. In juli dit jaar bracht OpenAI GPT-4o mini uit voor 15 cent per miljoen. Het is een kleiner model, maar voor het lezen, sorteren en uitlezen van gegevens, het grootste deel van operationeel werk, is het goed genoeg, voor een tweehonderdste van de prijs. Andere aanbieders volgen dezelfde curve.

David Cahn vroeg in zijn essay "AI's $600B Question" (Sequoia, juni 2024) wie de infrastructuur die nu wordt gebouwd gaat terugverdienen. Voor een koper zeggen de cijfers iets eenvoudigers: AI wordt geprijsd als bandbreedte, en weinig bedrijven winnen met goedkopere bandbreedte.

Wat niet goedkoper wordt

In februari deed het Civil Resolution Tribunal van British Columbia uitspraak in Moffatt tegen Air Canada. De chatbot op de website van de luchtvaartmaatschappij had een klant verteld dat hij na de reis nog een rouwtarief kon aanvragen. Het beleid zei iets anders, en de maatschappij voerde aan dat de chatbot zelf verantwoordelijk was voor wat hij zei. Het tribunaal was het daar niet mee eens: het bedrijf staat in voor alles op zijn website, wie of wat het ook schreef. De schadevergoeding was een paar honderd dollar. Het principe weegt zwaarder.

Voor elke beslissing die een systeem namens een bedrijf neemt, moet iemand in dat bedrijf instaan, tegenover een klant, een accountant, een toezichthouder of het bestuur. Daarvoor zijn vier dingen nodig, en geen ervan volgt de prijscurve:

• Een aangewezen persoon bij wiens werk dit soort beslissingen hoort en die met de regels van het systeem heeft ingestemd.
• Bewijs: wat het systeem zag, welke regel gold, wie goedkeurde, wat waar werd vastgelegd, bewaard tot een audit erom vraagt.
• Terugdraaien: een manier om de beslissing ongedaan te maken in het systeem waar ze staat.
• Controle: mensen met de tijd en informatie om de gevallen te bekijken die dat nodig hebben, en een manier om te weten welke dat zijn.

Deze kosten groeien met het gewicht van een beslissing, niet met de hoeveelheid tekst die de AI leest. Een verkeerde beslissing die geld verplaatst, kost dat geld. Een tien keer goedkoper model verandert daar niets aan.

Goedkopere antwoorden betekenen meer verantwoording

Kost een antwoord een fractie van een cent, dan loont het om beslissingen te automatiseren waarbij dat nooit loonde: de vraag naar de orderstatus, de adreswijziging, de kleine creditnota. Voor elk ervan moet iemand instaan. Hoe goedkoper intelligentie wordt, hoe hoger de rekening voor verantwoording.

Die rekening kan door ontwerp omlaag. Een beslissing die in seconden terug te draaien is, heeft minder controle nodig. Bewijs dat tijdens het werk ontstaat, kost bij de audit niets. Controle gericht op de risicovolle gevallen kost een fractie van alles controleren.

De hefboom die de meeste budgetten missen, is tijd. Een verkeerde beslissing kost meer naarmate ze langer onopgemerkt blijft. Een verkeerde levertoezegging die de volgende ochtend opvalt, is een telefoontje. Ontdekt als de goederen niet aankomen, is het een klacht en soms een verloren klant. Een dagelijkse steekproef van wat het systeem toezegde, levert vaak meer op dan een twee keer zo lange controlewachtrij.

Waar de waarde komt te liggen

De waarde verschuift naar de plekken die verantwoording goedkoop maken. Wij zien er drie.

De kernsystemen van het bedrijf. Het ERP (het hoofdsysteem voor orders, voorraad en boekhouding), de bank, het patiënt- of polisadministratiesysteem en het ticketsysteem bevatten al de bevoegdheden, het controlespoor en het geld van een bedrijf, met tientallen jaren aan rechten en goedkeuringsstappen. AI die binnen die systemen handelt, erft dat allemaal. AI in een losse assistent waaruit mensen antwoorden kopiëren, moet het opnieuw bouwen of het zonder doen. Wij verwachten dat veel chatwerk van dit jaar daarom opnieuw wordt gebouwd.

De eigen regels en vastleggingen. Elk bedrijf heeft een ongeschreven regelboek: welke verschillen een medewerker laat passeren, welke klanten een uitzondering krijgen, welke data van een vervoerder te vertrouwen zijn. Voor een systeem kan men alleen instaan als de regels zijn opgeschreven en een eigenaar hebben. Een bedrijf dat dit doet en elke beslissing en correctie vastlegt, heeft iets wat geen concurrent bij dezelfde leverancier kan kopen.

Wie de uitkomst draagt. Foundation Capital betoogde in april dat bedrijven met AI af werk zullen verkopen in plaats van software, en het Sequoia-essay over het reasoning-tijdperk van oktober zegt iets vergelijkbaars. Wij denken dat de richting klopt. Maar een leverancier die het werk verkoopt, verkoopt verantwoording, en die kan een koper nooit helemaal uit handen geven. Het tribunaal vroeg niet wie de chatbot had gebouwd. Het contract dat telt, regelt wie betaalt, wie herstelt en wie het bewijs bewaart als het werk fout is.

Agents maken de kloof groter

Tot dit jaar deed de AI die wij in bedrijven zagen vooral voorstellen, en besliste een mens. In september kondigde Salesforce Agentforce aan, AI-agents die taken uitvoeren binnen het platform. In oktober bracht Anthropic een model uit dat het scherm en toetsenbord van een computer kan bedienen. Zodra AI handelt, is een fout verplaatst geld en een klant die iets is beloofd, niet een paar minuten leestijd.

Wat nu te veranderen

Niets hiervan pleit voor wachten, alleen voor anders besteden.

1. Schrijf de businesscase in drie regels. De AI, die goedkoper wordt. De koppeling met de kernsystemen. De verantwoording: controle, bewijs, terugdraaien en de tijd van de eigenaar, die niet goedkoper wordt. Een voorstel zonder de derde regel is nog geen voorstel.
2. Noem de persoon vóór het systeem. Zet niemand zijn naam onder de beslissingen, dan is het een demonstratie.
3. Bouw binnen de transactie. Laat AI handelen via het kernsysteem, onder de rechten en logs daarvan, niet in een apart venster. Tel verwerkte transacties, niet ingelogde gebruikers.
4. Schrijf de regels op en houd het register bij. Begin met één werkstroom: de beslissingen, de regel voor elke, wie die bezit. Leg elke beslissing en correctie vast. Dat is uw bewijs en uw onderhandelingspositie.
5. Onderhandel over de fout, niet over de prijs. Vraag wie betaalt voor een verkeerde uitkomst, hoe snel die wordt teruggedraaid en wie de regels en het log bezit als het contract eindigt.
6. Maak beslissingen goedkoop om voor in te staan. Kies een model dat goed genoeg is en houd het vervangbaar. Steek de moeite in terug te draaien handelingen, vastgelegd bewijs en gerichte controle.

De regel die het beslist

Wij verwachten dat het model binnen twee jaar een van de kleinere posten in de meeste AI-budgetten wordt. Bedrijven gaan verschillen in of ze voor elke beslissing van hun software kunnen zeggen wie ervoor instaat en hoe die weet dat ze juist was. Dat begint met de regel die in beide voorstellen ontbrak.