Artikel 60: testen onder reele omstandigheden buiten een testomgeving

Artikel 60 lid 1 bepaalt dat het testen van AI-systemen met een hoog risico onder reele omstandigheden buiten AI-testomgevingen voor regelgeving mag worden uitgevoerd door aanbieders of potentiele aanbieders van in bijlage III vermelde AI-systemen met een hoog risico, in overeenstemming met dit artikel en het plan voor tests onder reele omstandigheden, onverminderd de verbodsbepalingen van artikel 5. De Commissie specificeert de precieze onderdelen van dat plan bij uitvoeringshandeling. De derde alinea van lid 1 bepaalt dat dit lid geen afbreuk doet aan Unie- of nationaal recht voor het testen onder reele omstandigheden van systemen met een hoog risico die verband houden met producten die onder de in bijlage I vermelde harmonisatiewetgeving vallen. Artikel 60 lid 2 staat toe dat aanbieders of potentiele aanbieders op elk moment voor het in de handel brengen of in gebruik nemen testen, zelf of in samenwerking met een of meer gebruiksverantwoordelijken of potentiele gebruiksverantwoordelijken. Artikel 60 lid 3 bepaalt dat dit testen geen afbreuk doet aan de ethische toetsing die op grond van Unie- of nationaal recht is vereist. Artikel 60 lid 4, punt f), begrenst de duur: niet langer dan nodig is om de doelstellingen te verwezenlijken en in geen geval langer dan zes maanden, met een mogelijke verlenging van nog eens zes maanden na voorafgaande kennisgeving aan de markttoezichtautoriteit met uitleg over de noodzaak. Artikel 60 lid 4, punt g), eist dat proefpersonen die tot kwetsbare groepen behoren vanwege leeftijd of handicap naar behoren worden beschermd. Artikel 60 lid 9 stelt uitdrukkelijk vast dat de aanbieder of potentiele aanbieder voor schade die in de loop van het testen onder reele omstandigheden wordt veroorzaakt onverkort onder het toepasselijke Unie- en nationale recht daarover valt. Hoofdstuk VI, waarin artikel 60 staat, valt niet onder de uitzonderingen van artikel 113 en is van toepassing sinds 2 augustus 2026.

Veel organisaties noemen wat zij doen een pilot en gaan ervan uit dat zij daarmee buiten de verordening blijven. Artikel 60 laat zien dat dat niet opgaat zodra u een systeem uit bijlage III onder reele omstandigheden test met echte mensen en echte uitkomsten. Dan geldt een volwaardig regime: een plan, voorafgaande goedkeuring, registratie met een Uniebreed uniek identificatienummer, geinformeerde toestemming, en een harde klok van zes maanden met een verlenging van maximaal zes maanden. De zwaarste eis in de praktijk is artikel 60 lid 4, punt k): de voorspellingen, aanbevelingen of beslissingen van het systeem moeten daadwerkelijk kunnen worden teruggedraaid en genegeerd. Test u een selectie-, scoring- of triagesysteem waarvan de uitkomst rechtstreeks in de werkstroom doorwerkt zonder dat iemand die kan terugdraaien, dan voldoet uw opzet niet, hoe zorgvuldig uw toestemmingsformulier ook is. Let ook op de timing, want die is commercieel interessant. Hoofdstuk VI geldt sinds 2 augustus 2026, terwijl de kernverplichtingen voor zelfstandige bijlage III-systemen pas op 2 december 2027 van toepassing worden. De testroute staat dus al open voordat de eisen zelf bijten, en dat is precies het venster om uw ontwerp te valideren in plaats van het achteraf te moeten herbouwen. Tot slot: artikel 60 lid 3 laat ethische toetsing die op grond van ander recht is vereist volledig staan, en artikel 60 lid 9 stelt uitdrukkelijk vast dat u voor schade die tijdens het testen wordt veroorzaakt onverkort onder het toepasselijke recht valt.