Een klantserviceagent van een luchtvaartmaatschappij belooft een passagier een korting die niet in de voorwaarden staat. De passagier boekt, vraagt de korting aan en krijgt nul op het rekest: "dat heeft de chatbot verzonnen." De Canadese rechter die deze zaak in 2024 behandelde (Moffatt tegen Air Canada) was er snel klaar mee: de toezegging van de agent telt gewoon als toezegging van het bedrijf. Vervang de chatbot door een moderne AI-agent die zelfstandig bestellingen plaatst, refunds toekent of kandidaten voorsorteert, en de vraag wordt urgent voor elke bestuurskamer: wie is verantwoordelijk als zo'n agent een fout maakt?
Het directe antwoord: de organisatie die de agent inzet, blijft verantwoordelijk voor de besluiten en processen waarin die agent opereert. De EU AI Act kent geen aparte categorie voor AI-agents en dus ook geen apart verantwoordelijkheidsregime. Agents vallen onder de gewone systematiek van de verordening, die verplichtingen verdeelt over een keten van rollen: de aanbieder van het onderliggende model, de aanbieder van het agent-platform en de gebruiksverantwoordelijke die de agent in een proces zet. Daarnaast geldt de AVG, met name artikel 22 over geautomatiseerde besluitvorming, vandaag al onverkort. "De AI deed het" is in geen van beide kaders een verweer.
Geen apart agent-regime, wel een duidelijke rolverdeling
De definitie van een AI-systeem in artikel 3, lid 1 van de AI Act noemt expliciet "variërende niveaus van autonomie". Een agent die zelfstandig plant, tools aanroept en acties uitvoert is dus geen grensgeval maar een schoolvoorbeeld van wat de verordening bedoelt. Hoe de AI Act als geheel op agentic AI landt, werken we uit in onze pillar over agentic AI onder de EU AI Act. Voor de verantwoordelijkheidsvraag is vooral de rolverdeling van belang: wie in de keten draagt welke verplichtingen?
De keten: drie rollen, drie pakketten verplichtingen
De modelaanbieder
Vrijwel elke agent draait op een general-purpose AI-model (GPAI). De aanbieder van dat model, denk aan OpenAI, Anthropic of Google, draagt sinds 2 augustus 2025 de GPAI-verplichtingen: technische documentatie, informatie voor downstream-partijen, een samenvatting van trainingsdata en copyrightbeleid. De Europese Commissie heeft in juli 2025 richtsnoeren gepubliceerd over de reikwijdte van die verplichtingen. Handhaving en boetes worden scherp vanaf 2 augustus 2026. Belangrijk voor de verantwoordelijkheidsvraag: de modelaanbieder is verantwoordelijk voor het model, niet voor wat uw agent daarmee in uw proces doet.
De platformaanbieder
Wie een agent-platform of kant-en-klare agent op de markt brengt, is aanbieder van dat AI-systeem. Die partij moet zorgen dat het systeem aan de toepasselijke eisen voldoet, waaronder vanaf 2 augustus 2026 de transparantieverplichtingen van artikel 50: mensen die met een agent communiceren moeten weten dat ze met AI te maken hebben, en door de agent gegenereerde content moet als zodanig herkenbaar zijn. Wordt de agent ingezet voor een hoog-risicotoepassing uit Annex III, dan volgt het systeem de hoog-risicoroute, met als beoogde datum 2 december 2027 (verschoven via de Digital Omnibus, die nog niet in het Publicatieblad staat en dus niet definitief is).
De gebruiksverantwoordelijke: uw organisatie
De organisatie die de agent in een werkproces zet, is gebruiksverantwoordelijke (deployer). Dat is de rol waar bestuurders en legal counsel het meest op moeten letten, want hier komen de gevolgen van fouten terecht. De gebruiksverantwoordelijke moet de agent gebruiken volgens de gebruiksaanwijzing, zorgen voor passend menselijk toezicht, relevante logs bewaren en, bij hoog-risicotoepassingen, monitoren en incidenten melden. En los van elke AI Act-verplichting: het besluit dat de agent voorbereidt of uitvoert blijft een besluit van de organisatie.
Waarom "de AI deed het" geen verweer is
De Air Canada-zaak illustreert het principe: een agent handelt binnen de processen, systemen en het mandaat van de organisatie die hem inzet. Wat de agent toezegt, bestelt of besluit, wordt aan die organisatie toegerekend. Richting klanten en contractspartijen geldt dat civielrechtelijk, richting toezichthouders bestuursrechtelijk. Wie zich bij de Autoriteit Persoonsgegevens of straks de AI-toezichthouder verschuilt achter het model, krijgt dezelfde reactie als de werkgever die zich achter een medewerker verschuilt: u heeft dit proces ingericht, u had toezicht moeten organiseren. De AI Act onderstreept dat met boetes via de toezichthouder tot 35 miljoen euro of 7 procent van de wereldwijde omzet voor verboden praktijken, en tot 15 miljoen euro of 3 procent voor de meeste andere overtredingen.
Voor bestuurders betekent dit een simpele vuistregel: behandel elke actie van een agent alsof een medewerker haar heeft uitgevoerd. Zou u een junior medewerker zelfstandig contracten laten tekenen zonder vier-ogen-controle? Nee? Geef die bevoegdheid dan ook niet aan een agent.
Menselijk toezicht concreet maken
Artikel 14 van de AI Act stelt menselijk toezicht verplicht voor hoog-risicosystemen, maar het is voor alle autonome agents het praktische anker. Toezicht op een agent die honderden acties per dag uitvoert kan niet bestaan uit "iemand kijkt af en toe mee". Maak het concreet:
- Goedkeuringsdrempels: acties boven een bepaalde impact (bedrag, aantal betrokkenen, externe communicatie) vereisen expliciete menselijke goedkeuring voordat ze worden uitgevoerd.
- Spend-limits en mandaten: geef de agent een technisch afgedwongen maximum per transactie en per periode, net als een inkoopmandaat voor een medewerker.
- Escalatieroutes: definieer wanneer de agent moet stoppen en overdragen aan een mens, bijvoorbeeld bij klachten, juridische vragen of afwijkende patronen.
- Stopmechanisme: iemand moet de agent per direct kunnen pauzeren, met een aangewezen rol die daartoe bevoegd is.
- Periodieke review: steekproefsgewijze controle van uitgevoerde acties, niet alleen incidentafhandeling.
Toezicht werkt alleen als de toezichthoudende medewerkers begrijpen wat de agent doet en waar die de mist in kan gaan. Dat raakt aan artikel 4 van de AI Act: sinds 2 februari 2025 moeten organisaties maatregelen nemen voor voldoende AI-geletterdheid van personeel dat met AI-systemen werkt. Geen boete-artikel op zichzelf, wel een maatregelen-plicht en een randvoorwaarde voor geloofwaardig toezicht; platforms als LearnWize zijn daarvoor ingericht.
AVG artikel 22 geldt vandaag al
Neemt de agent besluiten met rechtsgevolgen of vergelijkbaar significante gevolgen voor personen, denk aan het afwijzen van een sollicitant, het weigeren van een claim of het voorbereiden van een kredietbeslissing, dan is AVG artikel 22 van toepassing. Dat artikel wacht op niets: het geldt nu. Betrokkenen hebben recht op menselijke tussenkomst, en die tussenkomst moet betekenisvol zijn. Een medewerker die elk agent-advies binnen drie seconden goedkeurt, is volgens de EDPB-richtsnoeren over geautomatiseerde besluitvorming geen menselijke tussenkomst maar een doorgeefluik. Wie de mens in de loop zet, moet die mens ook de informatie, tijd en bevoegdheid geven om af te wijken.
Logging als bewijsvoering
Als een agent een fout maakt, is de eerste vraag van elke jurist: wat is er precies gebeurd, en wie of wat heeft welk besluit genomen? Zonder logging is die vraag niet te beantwoorden. Voor hoog-risicosystemen schrijft de AI Act logging en bewaring expliciet voor, maar ook daarbuiten is het simpelweg bewijsvoering. Leg minimaal vast: welke opdracht de agent kreeg, welke tools en databronnen hij aanriep, welke acties hij uitvoerde, welke mens waar heeft goedgekeurd of ingegrepen, en op welke modelversie en configuratie dit draaide. Wie dit op orde heeft, kan bij een incident reconstrueren, herstellen en aantonen dat het toezicht werkte. Wie het niet heeft, staat bij toezichthouder en wederpartij met lege handen.
Contractuele afspraken met uw agent-leverancier
De rolverdeling in de keten moet u contractueel spiegelen. Vraag bij inkoop van een agent-platform minimaal uit:
- Welke rol claimt de leverancier onder de AI Act en welke documentatie hoort daarbij (gebruiksaanwijzing, beoogd doel, beperkingen)?
- Hoe is voldaan aan artikel 50: disclosure richting eindgebruikers en markering van gegenereerde content?
- Welke logging levert het platform en hoe lang is die exporteerbaar en bewaarbaar?
- Welke configuratiemogelijkheden zijn er voor goedkeuringsdrempels, mandaten en escalatie?
- Hoe worden modelwissels en updates aangekondigd, en kunt u een versie bevriezen voor kritieke processen?
- Wie draagt welke verantwoordelijkheid bij fouten, en hoe zijn vrijwaring en herstel geregeld?
De artikel 25-val: zelf bouwen of white-labelen
Wie zelf een agent bouwt op een GPAI-model, een ingekochte agent onder eigen naam of merk op de markt brengt, het systeem substantieel wijzigt of het beoogde doel naar een hoog-risicotoepassing verschuift, kan op grond van artikel 25 zelf aanbieder worden, met het volledige bijbehorende verplichtingenpakket. Dit is de valkuil voor organisaties die "even een agent bouwen" op een API en die vervolgens breed uitrollen of aan klanten aanbieden. Wanneer die grens precies wordt overschreden, leest u in onze analyse over wanneer je aanbieder wordt onder artikel 25.
Wat u deze maand belegt
Voor bestuurders en legal counsel komt het neer op vijf acties: breng in kaart welke agents er draaien en wie in de keten welke rol heeft; stel per agent vast of er besluiten met rechtsgevolgen in zitten (dan geldt artikel 22 nu al); maak menselijk toezicht concreet met drempels, mandaten en escalatie; regel logging en contracten; en wijs één eigenaar aan die dit blijvend beheert. Wie dit gestructureerd wil aanpakken, van inventarisatie tot toezichtsmodel, kan terecht bij de agentic AI governance aanpak van Embed AI.
De kern om te onthouden: verantwoordelijkheid volgt de rol in de keten, maar de gevolgen van fouten landen bij de organisatie die de agent inzet. Wie autonomie geeft, moet toezicht organiseren. Dat is geen toekomstige verplichting, dat is nu al de norm.