Je AI-proces werkt. Maar blijven de kosten beheersbaar?

Een werkend AI-proces is nog geen voorspelbare businesscase

Je kiest een AI-model, richt je proces in en rekent uit wat de automatisering oplevert. Daarmee lijkt de keuze gemaakt. Toch blijft er iets veranderen waar je proces afhankelijk van is: de prijs van het gebruik.

Bij OpenAI worden de API-credits binnen het abonnement van 200 dollar per maand gehalveerd. Tegelijk komt er een abonnement van 500 dollar waarmee het eerdere gebruik mogelijk blijft. De aanpassing van het duurste abonnement laat zien waarom een huidig tarief geen vanzelfsprekend uitgangspunt voor de toekomst is.

Betalen naar gebruik krijgt meer nadruk. Je betaalt dan steeds meer per token. Dat maakt de vraag voor ondernemers en IT-managers concreet: wat kost dezelfde taak als de voorwaarden veranderen? Geen onbeperkt gebruik. Geen vanzelfsprekend vast bedrag. Een businesscase moet dus niet alleen over bespaarde tijd gaan, maar ook over de verhouding tussen AI-kosten en opbrengsten.

Veel tijdwinst maakt de kosten niet onbelangrijk

Herkenbaar? Denk aan medewerkers die video’s bekijken en beschrijvingen invoeren, zodat het materiaal later terug te vinden is. Bij een uitgever kostte dat werk 200 minuten per dag. Met een AI-agent werd dat teruggebracht naar 2 minuten.

De agent bekijkt de video’s, herkent wat erin voorkomt en zet de gegevens in een database. Niet alleen losse kenmerken, maar ook context. Ondertussen maakt hij een transcriptie, zodat ook de gesproken tekst beschikbaar komt. Meer over deze toepassing staat in het voorbeeld van geautomatiseerd videobeheer.

Dat lost een concreet probleem op. Als iemand vergeet een rode auto te vermelden, is de video op dat kenmerk niet meer te vinden. De tijdwinst is dus niet het enige voordeel. Maar als de verwerking op tokenbasis wordt afgerekend, blijft de prijs van dat gebruik belangrijk. De vraag is niet alleen: kan AI dit sneller? De vraag is ook: waarom automatiseren we dit, en wat mag die verbetering kosten?

Moet een router iedere keer het model kiezen?

Een modelrouter kiest welk AI-model bij een vraag of taak past. Bijvoorbeeld het goedkoopste model, het snelste model of een model dat beter geschikt is voor de inhoud. Dat klinkt logisch wanneer de vragen sterk verschillen.

Toch hoeft die keuze niet in ieder bedrijfsproces telkens opnieuw gemaakt te worden. Bij het automatiseren van een gestandaardiseerd proces probeer je juist vooraf zoveel mogelijk variatie weg te nemen. Je weet dan welke taak op welke plek uitgevoerd moet worden. Daar kun je vooraf een passend model bij kiezen.

Niet iedere taak vraagt dus om een dynamische modelkeuze. Een router kan bovendien zelf fouten maken. Daarmee blijft onzekerheid bestaan over de keuzes en de kosten. Voor een vaste taak is het daarom zinvol eerst te kijken of je de modelkeuze al kunt vastleggen. Dat sluit aan bij de vraag waarom niet elke AI-taak een zwaar taalmodel nodig heeft.

Wat betekent dit voor jouw organisatie?

Begin niet met de opdracht aan een agent om je bedrijf zelfstandig te laten draaien. Begin met het proces, de specifieke taken en de grenzen. Een agent een doel geven zonder kostenlimiet is een blanco cheque. Je wilt vooraf weten waar je aan toe bent.

De besproken aanpak voor het automatiseren van een administratie is concreet: per agent limieten instellen en vooraf bepalen welk model hij gebruikt. Dat zijn keuzes die je al bij de inrichting kunt maken.

• Standaardiseer het proces. Verminder variatie voordat je een model telkens laat bepalen wat er moet gebeuren.
• Kies per taak. Leg vast welk model past bij het werk dat op die plek uitgevoerd wordt.
• Stel limieten in. Bepaal vooraf hoeveel gebruik je toestaat, ook per agent.
• Bekijk de businesscase. Zet de tijdwinst naast de gebruikskosten en bekijk wat gewijzigde tarieven betekenen.

Zo gaat de afweging niet alleen over wat technisch mogelijk is, maar over wat je gecontroleerd wilt laten uitvoeren.