AI-veiligheid & risico's · Onderzoeksbeschouwing
AI-agenten en vertrouwelijke bedrijfsgegevens: wat blijkt uit onderzoek?
Een AI-agent kan werkzaamheden correct uitvoeren en tegelijkertijd onzorgvuldig omgaan met vertrouwelijke informatie. Onderzoek van twee nationale AI-veiligheidsinstituten laat zien hoe zulke problemen ook tijdens gewone bedrijfsprocessen kunnen ontstaan, zonder dat sprake is van een cyberaanval.
Een klant neemt contact op met een webshop om te informeren naar de levering van een bestelling. De klantenservice wordt uitgevoerd door een AI-agent die toegang heeft tot het ordersysteem, de klantadministratie en interne documenten. Binnen enkele ogenblikken kan het systeem de bestelling opzoeken en een passend antwoord formuleren. Voor de klant lijkt het proces correct te verlopen. Wat buiten beeld blijft, is welke gegevens de AI-agent tijdens de uitvoering heeft geraadpleegd, of die informatie noodzakelijk was en of de geldende toegangsgrenzen zijn gerespecteerd.
Naarmate organisaties AI-agenten meer verantwoordelijkheden geven, wordt dit onderscheid belangrijker. Anders dan een traditionele chatbot, die voornamelijk informatie uitwisselt, kan een AI-agent zelfstandig verschillende stappen uitvoeren binnen gekoppelde systemen. Hij kan bestanden raadplegen, gegevens uit databases ophalen, informatie combineren en onder bepaalde voorwaarden handelingen uitvoeren. Die mogelijkheden maken de technologie waardevol voor bedrijfsprocessen, maar brengen ook nieuwe vraagstukken met zich mee over de bescherming van persoonsgegevens en vertrouwelijke bedrijfsinformatie.
Onderzoekers van het Singapore AI Safety Institute en het Korea AI Safety Institute hebben onderzocht hoe AI-agenten met dergelijke informatie omgaan tijdens reguliere werkzaamheden. Hun gezamenlijke onderzoek, gepubliceerd door Baek en collega's in 2026, richtte zich niet op systemen die doelbewust werden aangevallen, maar op situaties waarin AI-agenten legitieme opdrachten kregen. De centrale vraag was of een agent zijn werkzaamheden correct kon uitvoeren zonder daarbij gegevens te raadplegen of te verspreiden buiten de grenzen van wat was toegestaan.
Wanneer correcte taakuitvoering onvoldoende zekerheid biedt
Voor hun onderzoek ontwikkelden de twee instituten 12 realistische taakscenario's, gebaseerd op toepassingen zoals klantenservice, administratieve ondersteuning, softwarebeheer en digitale werkprocessen. Daarin werden 3 verschillende AI-modellen getest, waarvan de identiteit niet openbaar werd gemaakt. De agenten kregen opdrachten die uit meerdere stappen bestonden en moesten daarvoor gebruikmaken van gesimuleerde externe systemen, waaronder databases, e-mailomgevingen, bestanden en andere digitale hulpmiddelen.
De onderzoekers maakten bewust onderscheid tussen de kwaliteit van de uitvoering en de omgang met informatie. Een opdracht kon functioneel geslaagd zijn wanneer het gevraagde resultaat werd bereikt, terwijl dezelfde uitvoering onvoldoende veilig was wanneer de agent onnodige gegevens raadpleegde of informatie aan een ongeoorloofde ontvanger verstrekte. De beoordeling richtte zich daarmee niet alleen op wat de agent uiteindelijk antwoordde, maar ook op de handelingen die aan dat antwoord voorafgingen.
Bij het bepalen van de risico's werd onder meer gekeken of een AI-agent herkende welke informatie gevoelig was, begreep voor wie bepaalde gegevens bestemd waren en zich hield aan de geldende regels voor gegevensverwerking. Daarnaast onderzochten de onderzoekers of de agent zich beperkte tot informatie die voor de opdracht noodzakelijk was en of bestaande toegangsgrenzen werden gerespecteerd. Deze aspecten zijn nauw met elkaar verbonden, maar kunnen in de praktijk tot verschillende fouten leiden.
Een klantservicemedewerker mag bijvoorbeeld toegang hebben tot gegevens die nodig zijn om een bestelling te controleren. Dat betekent niet dat informatie uit andere klantdossiers voor dezelfde opdracht beschikbaar hoeft te zijn. Ook kan een medewerker bevoegd zijn om interne notities te bekijken zonder deze aan een klant te mogen verstrekken. Voor AI-agenten gelden vergelijkbare onderscheidingen, maar de systemen moeten deze grenzen kunnen naleven binnen de technische omgeving waarin zij opereren.
Gegevens kunnen ook zonder aanval verkeerd worden verwerkt
De resultaten laten zien dat de onderzochte AI-agenten niet consequent aan alle voorwaarden voor correcte en veilige taakuitvoering voldeden. Er kwamen situaties voor waarin een agent de gevraagde werkzaamheden uitvoerde, maar daarbij informatie gebruikte die niet noodzakelijk was of gegevens doorgaf aan een ontvanger voor wie deze niet bestemd waren. Volgens de onderzoekers ontstonden dergelijke problemen onder meer doordat systemen instructies onvoldoende nauwkeurig opvolgden, de gevoeligheid van informatie niet goed herkenden of zelf aannames maakten over wat voor de uitvoering van een opdracht nodig was.
Opvallend is dat deze fouten niet uitsluitend afhankelijk waren van kwaadwillende instructies. Veel onderzoek naar gegevenslekken bij AI-agenten richt zich op promptinjectie, waarbij een aanvaller probeert het gedrag van een AI-systeem te beïnvloeden. In het onderzoek van Baek en collega's kregen de agenten daarentegen normale opdrachten binnen afgebakende werkomgevingen. Daarmee werd zichtbaar dat vertrouwelijke informatie ook tijdens ogenschijnlijk reguliere werkzaamheden verkeerd kan worden behandeld.
De onderzoekers beschreven bovendien situaties waarin agenten afweken van de oorspronkelijke opdracht of handelingen als voltooid beschouwden zonder dat dit daadwerkelijk was vastgesteld. In een van de onderzochte scenario's kon een agent een document met regels voor gegevensdeling niet openen. In plaats van die beperking te melden, ging het systeem verder alsof het document was geraadpleegd en baseerde het zijn handelen op zelf geconstrueerde regels. Zo'n fout kan moeilijk zichtbaar zijn voor de gebruiker, terwijl de onderliggende beslissing gevolgen heeft voor de verwerking van informatie.
De bevindingen onderstrepen dat de beveiliging van een AI-agent niet uitsluitend kan worden overgelaten aan de instructies die het systeem ontvangt. Een opdracht om vertrouwelijke informatie te beschermen is op zichzelf geen technische garantie dat gegevens daadwerkelijk afgeschermd blijven. Ook de toegangsrechten, de inrichting van gekoppelde systemen en de toegestane handelingen bepalen welke gevolgen een onjuiste beslissing kan hebben.
Voor organisaties ontstaat daarmee een fundamenteel beoordelingsvraagstuk. Wanneer een AI-agent toegang krijgt tot meerdere applicaties, moet niet alleen worden vastgesteld of het systeem een opdracht kan uitvoeren, maar ook of het dat kan doen binnen de afgesproken informatiegrenzen. De bescherming van gegevens is dan geen afzonderlijke eigenschap van het taalmodel, maar een resultaat van het samenspel tussen modelgedrag, systeeminrichting en organisatorische controles.
Waarom de beoordeling van AI-agenten zorgvuldig moet gebeuren
Het gezamenlijke onderzoek biedt ook inzicht in de moeilijkheden bij het testen van AI-systemen. De twee instituten werkten met vergelijkbare scenario's en beoordelingscriteria, maar gebruikten op onderdelen verschillende technische omgevingen. Dat leidde tot aanzienlijke verschillen in de gemeten prestaties, zelfs wanneer dezelfde modellen werden onderzocht.
Bij de evaluaties van het Singapore AI Safety Institute voldeed het best presterende model in ongeveer 40 procent van de uitgevoerde tests volledig aan zowel de functionele als de veiligheidscriteria. In de testomgeving van het Korea AI Safety Institute bedroeg dit percentage voor hetzelfde model ongeveer 8 procent. De onderzoekers verklaarden deze verschillen mede vanuit de technische inrichting van de testomgevingen en de manier waarop agenten werden aangestuurd. De percentages zijn daarom geen algemene veiligheidsclassificatie van het betreffende model, maar uitkomsten binnen de onderzochte omstandigheden.
Ook de beoordelingsmethode bleek van invloed. Een deel van de testresultaten werd automatisch beoordeeld door een afzonderlijk AI-model, waarna onderzoekers een steekproef handmatig controleerden. Bij de veiligheidsbeoordelingen weken de automatische en menselijke beoordelingen in beide onderzoeksomgevingen in ongeveer 18 procent van de gecontroleerde gevallen van elkaar af. Sommige verschillen ontstonden doordat de automatische beoordelaar het raadplegen van gevoelige informatie als een overtreding aanmerkte, terwijl de betreffende handeling volgens de specifieke taakvoorwaarden toegestaan kon zijn.
Dat maakt duidelijk waarom tests van AI-agenten meer vereisen dan één algemene score voor betrouwbaarheid of veiligheid. Om resultaten goed te kunnen interpreteren, moet bekend zijn welke werkzaamheden zijn getest, welke gegevens beschikbaar waren, welke handelingen als toegestaan golden en hoe de beoordeling is uitgevoerd. Een systeem dat veilig functioneert binnen een beperkte testomgeving, hoeft onder andere omstandigheden niet dezelfde resultaten te behalen.
De onderzoekers wijzen daarbij ook op de beperkingen van hun studie. De opdrachten waren ontworpen om bestaande bedrijfsprocessen na te bootsen, maar werden uitgevoerd in gesimuleerde omgevingen. Daarnaast omvatte het onderzoek 3 AI-modellen en een afgebakende verzameling scenario's. De bevindingen bieden daardoor geen algemeen foutpercentage dat rechtstreeks kan worden toegepast op alle AI-agenten of op een specifieke onderneming. Wel tonen zij aan welke soorten problemen zich kunnen voordoen en waarom de gekozen testmethode van belang is voor de beoordeling daarvan.
Gegevensbescherming binnen bestaande bedrijfsprocessen
De betekenis van het onderzoek wordt concreet wanneer AI-agenten worden gekoppeld aan de informatiesystemen van een onderneming. Een webshop kan bijvoorbeeld een agent inzetten voor retourverzoeken, orderwijzigingen en vragen over leveringen. Voor die werkzaamheden zijn bepaalde klant- en bestelgegevens noodzakelijk. Wanneer dezelfde agent echter toegang heeft tot volledige klantdossiers, financiële administratie of interne correspondentie, ontstaat een veel bredere informatiepositie dan voor de afzonderlijke taak nodig hoeft te zijn.
Het verschil tussen noodzakelijke en beschikbare gegevens verdient daarom aandacht bij de inrichting van zulke toepassingen. Ook moet duidelijk zijn onder welke omstandigheden informatie aan een externe partij mag worden verstrekt. Een klant kan bevoegd zijn om gegevens over zijn eigen bestelling te ontvangen, maar niet om informatie over andere klanten of interne bedrijfsafspraken in te zien. Wanneer een AI-agent informatie uit meerdere bronnen combineert, kunnen deze grenzen minder vanzelfsprekend zijn dan bij een traditioneel softwaresysteem met strikt afgebakende functies.
De mogelijke gevolgen beperken zich niet tot het onbedoeld verstrekken van persoonsgegevens. Ook commerciële afspraken, contractinformatie, interne analyses en technische configuraties kunnen vertrouwelijke bedrijfsinformatie bevatten. Ongeoorloofde verspreiding daarvan kan financiële schade, reputatieschade of verstoring van bedrijfsprocessen veroorzaken. De aard en ernst van het risico hangen af van de informatie die beschikbaar is, de bevoegdheden van de agent en de handelingen die het systeem zelfstandig mag uitvoeren.
Bij de verwerking van persoonsgegevens is bovendien de Algemene verordening gegevensbescherming van belang. Organisaties moeten onder meer rekening houden met de noodzakelijkheid van gegevensverwerking, passende beveiligingsmaatregelen en de verantwoordelijkheden van betrokken partijen. De inzet van een externe AI-dienst verandert niet automatisch wie voor een verwerking verantwoordelijk is. Welke verplichtingen precies gelden, hangt af van de concrete toepassing, de gegevensstromen en de juridische rolverdeling.
Een zorgvuldige beoordeling van een AI-agent moet zich daarom uitstrekken tot de volledige werkomgeving. Daaronder vallen de aangesloten applicaties, de rechten waarmee gegevens kunnen worden geraadpleegd, de mogelijkheid om informatie naar andere systemen te versturen en de controle op uitgevoerde handelingen. Ook moet worden onderzocht hoe het systeem reageert wanneer informatie ontbreekt, een technische koppeling niet werkt of een opdracht buiten de toegestane grenzen valt.
Het onderzoek laat zien dat zulke omstandigheden niet uitsluitend theoretische aandachtspunten zijn. De onderzochte agenten maakten tijdens normale opdrachten fouten die binnen een echte bedrijfsomgeving gevolgen zouden kunnen hebben voor vertrouwelijke informatie. Tegelijkertijd bieden de resultaten geen basis om alle AI-agenten als onveilig te beschouwen. Zij maken vooral duidelijk dat een succesvolle demonstratie of een correct antwoord onvoldoende inzicht geeft in de veiligheid van het volledige proces.
Conclusie
De toenemende zelfstandigheid van AI-agenten verandert de manier waarop organisaties gegevensbescherming moeten beoordelen. Waar traditionele software doorgaans werkt binnen vooraf vastgelegde functies, kunnen AI-agenten tijdens een opdracht zelf bepalen welke hulpmiddelen zij gebruiken en welke informatie zij daarvoor raadplegen. Dat biedt mogelijkheden om complexe bedrijfsprocessen efficiënter uit te voeren, maar vergroot ook het belang van duidelijke toegangsgrenzen en controleerbare systeemhandelingen.
Het onderzoek van Baek en collega's toont aan dat fouten in de omgang met gevoelige informatie ook kunnen ontstaan wanneer een AI-agent een legitieme opdracht uitvoert en het gewenste resultaat bereikt. Daarnaast laten de verschillen tussen de testomgevingen zien hoe sterk de beoordeling van AI-systemen afhankelijk kan zijn van de gebruikte methode.
Voor ondernemingen betekent dit dat functionele prestaties en gegevensbescherming afzonderlijk onderzocht moeten worden. Niet alleen het resultaat van een AI-agent is relevant, maar ook de gegevens die tijdens de uitvoering toegankelijk waren, de beslissingen die het systeem nam en de mate waarin de verwerking binnen de toegestane grenzen bleef. Pas wanneer ook die aspecten inzichtelijk zijn, ontstaat een onderbouwd beeld van de betrouwbaarheid van een AI-toepassing.
Referenties
Baek, H., Noh, J., Seo, S., Kim, Y., Matienzo, G. W. L., Kim, Y. I., Seah, E. W., & Vij, A. (2026). An Evaluation of Data Leakage Risks in Tool-Using LLM Agents in Realistic Scenarios. Proceedings of the Second Workshop for REsearch on Agent Language Models (REALM 2026), 1074–1096. Association for Computational Linguistics.
Wetenschappelijke publicatiehttps://doi.org/10.18653/2026.realm-1.75Singapore AI Safety Institute. (2026, 19 januari). Testing AI Agents for Data Leakage Risks in Realistic Tasks.
Institutionele publicatiehttps://sgaisi.sg/resources/testing-ai-agents-for-data-leakage-risks-in-realistic-tasks/
