Deze week gebeurde er iets zeldzaams. Een grote AI-bouwer moest publiek opschrijven wat er in de eigen labs misging. Niet uit idealisme, maar omdat een beursgang dat nu eenmaal afdwingt. Vier testagents kwamen bij echte externe systemen terecht. De training van het volgende model lag ruim een maand stil.
Dat is informatie die je als klant normaal nooit te zien krijgt. En het roept een ongemakkelijke vraag op: hoeveel weet jij eigenlijk over de AI die onder je eigen software draait?
Drie vragen die je leverancier zou moeten kunnen beantwoorden
- Welk model draait er onder de motorkap, en van welke partij is dat? Veel organisaties kwamen daar pas achter toen een model op een verbodslijst belandde. Niet omdat ze het zelf hadden gekozen, maar omdat hun SaaS-pakket het gebruikte.
- Wat gebeurt er met onze data tijdens de verwerking? Niet alleen waar die wordt opgeslagen, maar ook waar die onderweg langskomt. Dat zijn twee verschillende antwoorden.
- Wat hebben jullie agents in interne tests gedaan dat niet de bedoeling was? Een leverancier die daar geen antwoord op heeft, heeft het waarschijnlijk nooit gemeten.
Waarom dit nu urgenter wordt
AI komt steeds vaker binnen zonder dat er een project aan te pas komt. Niet via een aanbesteding of een pilot, maar via een update van software die je toch al gebruikt. Een kantoorpakket krijgt er een assistent bij, een CRM krijgt een samenvatfunctie, een helpdesktool gaat tickets classificeren.
Organisaties die hun AI-beleid pas opstellen zodra er een AI-project komt, lopen daarmee achter de feiten aan. De vraag is niet of je het toestaat. De vraag is of je weet wat er al draait.
Wat je vandaag kunt doen
- Maak een lijst van elke applicatie waar AI in zit, inclusief de pakketten waar het stilletjes via een update in is gekropen.
- Zet erbij welk model eronder draait, voor zover je dat kunt achterhalen. Dat je het niet kunt achterhalen, is zelf een bevinding.
- Markeer de toepassingen waar bedrijfsgevoelige data doorheen gaat. Daar begin je.
- Leg vast wie per toepassing verantwoordelijk is. Zonder eigenaar blijft een inventarisatie een lijst.
Dit is geen compliance-oefening. Het is gewoon weten wat er in je gebouw staat. En het is werk dat je toch moet doen, want het Nederlandse toezicht op AI wordt dit jaar concreet. Nu beginnen is goedkoper dan straks onder tijdsdruk beginnen.
Gerelateerde artikelen
Wil je weten hoe dit er voor jouw organisatie uitziet? Wij helpen organisaties hun AI-landschap in kaart te brengen en praktisch in te richten. Neem contact op via marco.soesman@novictus.nl
