⏱ 4 minuten lezen · AI
Je AI-agent voert taken uit en het resultaat is snel zichtbaar. Maar weet je ook welke agents actief zijn, wat ze mogen en welke wijzigingen ze hebben gedaan? Juist als automatisering goed werkt, moet je die vragen kunnen beantwoorden.
Snel resultaat maakt een goed proces niet overbodig
Een AI-agent kan snel resultaat opleveren. Tegelijkertijd kan het aantal agents en taken zo snel groeien dat het overzicht verdwijnt. Welke agent doet wat? Welke agents heb je überhaupt? Dat zijn geen vragen voor later, maar vragen die bij de inrichting horen.
De helpdesk van ShipStation laat zien hoeveel automatisering mogelijk maakt. Het bedrijf lost volgens de beschreven praktijkcase over de AI-helpdesk 97,5% van de IT-aanvragen automatisch op. Daarbij wordt Slack gecombineerd met Jira.
Dat is een concreet resultaat. Maar het percentage vertelt niet hoe jij jouw proces moet inrichten. Automatisch aanvragen oplossen en wijzigingen goed registreren horen bij elkaar. Niet alleen snel handelen, maar ook kunnen terugvinden wat er is gebeurd.
De vraag achter de techniek is daarom niet alleen: kunnen we dit automatiseren? De vraag is ook: waarom doen we dit, en blijft het proces goed ingericht wanneer AI meer taken uitvoert?
Zelfstandig werken is geen blanco cheque
Bij aankopen wordt het belang van grenzen direct duidelijk. American Express introduceert een raamwerk dat moet voorkomen dat AI-agents zonder toestemming bestellingen plaatsen. Daarmee wordt menselijke toestemming onderdeel van het proces.
Het gaat niet alleen om alles toestaan of alles blokkeren. Je kunt ook specifieke aankopen toestaan en daar beperkingen aan verbinden. In het raamwerk van American Express draait het juist om die afbakening.
Hoe concreet moet dat zijn? Denk aan het verschil tussen toestemming om salmiakballetjes te kopen en toestemming om zomaar alles te bestellen. Ook de hoeveelheid maakt uit: 24 stuks is iets anders dan 100.000.
- Product: welke aankoop mag de agent doen?
- Winkel: waar mag de agent die aankoop doen?
- Limiet: welke beperking geldt voor de bestelling?
- Toestemming: wat mag niet zonder menselijke goedkeuring?
Een doel meegeven is dus niet voldoende. Je moet ook aangeven wat daarbuiten valt. Dat is precies waarom een AI-agent grenzen nodig heeft, niet alleen doelen.
Kun je achteraf zien welke agent iets heeft gedaan?
Grenzen bepalen wat een agent mag. Registratie maakt zichtbaar wat hij daadwerkelijk heeft gedaan. Beide zijn nodig zodra meerdere agents zelfstandig werken.
Herkenbaar? Bij het automatiseren van administratie kunnen al snel meerdere agents tegelijk actief zijn. Als je die niet goed registreert, vergeet je gemakkelijk welke er nog bezig zijn. Je wilt niet pas bij een afschrijving op je creditcard ontdekken dat een agent nog aankopen doet.
Daarom moet je vastleggen welke agents er zijn en hun handelingen loggen. Ook wijzigingen moeten goed geregistreerd worden. Zo kun je terugvinden welke agent een actie heeft uitgevoerd, in plaats van alleen het eindresultaat te zien.
Daarnaast moet duidelijk zijn welke regels agents niet mogen overtreden. Geen onduidelijke afspraken. Geen beveiliging achteraf. Het proces en de architectuur moeten duidelijk blijven, ook wanneer het aantal agents groeit. Meer daarover lees je bij governance rond AI-agents en automatisering.
Wat betekent dit voor jouw organisatie?
Kijk niet alleen naar wat een agent kan uitvoeren. Kijk ook naar wat je nodig hebt om die uitvoering te blijven volgen en onderhouden. Een werkende oplossing is niet hetzelfde als een goed beheerde oplossing.
Dat geldt ook als je met AI zelf software bouwt. De functionaliteit kan goed werken, maar daarmee zijn onderhoud en beveiliging nog niet geregeld. Ook open source betekent alleen dat de broncode openbaar is. Het betekent niet automatisch dat alles gecontroleerd is of onderhouden wordt.
Maak daarom bij jouw automatisering deze punten expliciet:
- Overzicht: welke agents zijn actief en wat doet iedere agent?
- Bevoegdheden: welke acties zijn toegestaan en welke grenzen gelden?
- Registratie: worden handelingen en wijzigingen vastgelegd?
- Onderhoud: wie onderhoudt de oplossing en neemt de beveiliging mee?
Zo gaat het gesprek niet alleen over hoeveel werk AI overneemt, maar ook over hoe je dat werk beheersbaar houdt.
Veelgestelde vragen
Kun je een AI-agent alleen bepaalde aankopen laten doen?
Ja. Het besproken raamwerk van American Express maakt specifieke beperkingen mogelijk, bijvoorbeeld voor het product, de winkel en de limiet van een aankoop.
Waarom moet je handelingen van AI-agents loggen?
Je wilt kunnen terugvinden welke agent wat heeft gedaan. Dat wordt belangrijker wanneer meerdere agents tegelijk werken en wijzigingen uitvoeren.
Betekent open source dat software gecontroleerd en veilig is?
Nee. Open source betekent dat de broncode openbaar is. Het zegt niet automatisch dat de software gecontroleerd wordt of goed onderhouden is.
Conclusie
Zelfstandige AI vraagt niet alleen om werkende techniek, maar ook om grenzen, registratie en onderhoud. Bij Novictus wordt bij het bouwen ook gekeken naar wie de oplossing onderhoudt en hoe beveiliging wordt meegenomen. Zo blijft naast het resultaat ook het beheer onderdeel van het gesprek.
Meer hierover hoor je in deze aflevering van Kwart over Tech.
Vragen over dit onderwerp?
Benieuwd wat dit voor jouw organisatie betekent? Neem gerust contact op met Adem Ozdemir van Novictus.
