Bronherleidbare verbindingen van AI Act-wijzigingen en verplichtingen naar actoren, acties, bewijs, controls en publieke hulpmiddelen.
Responsible AI Platform release validation
Hoog-risico AI moet zo zijn ontworpen dat mensen er effectief toezicht op kunnen houden en kunnen ingrijpen.
Het systeem is hoog-risico; de aanbieder bouwt toezichtsmaatregelen in, de gebruiksverantwoordelijke belegt het toezicht bij bekwame personen.
Voor biometrische identificatie op afstand geldt de verzwaarde eis van verificatie door ten minste twee bevoegde personen (Artikel 14 lid 5), met de daar genoemde uitzonderingen.
Artikel 14 vereist dat hoog-risico systemen effectief door natuurlijke personen kunnen worden overzien, met maatregelen die het mogelijk maken het systeem te begrijpen, output juist te interpreteren, automation bias te onderkennen, en te besluiten het systeem niet te gebruiken, te negeren of te stoppen.
Voor de Bijlage III-route geldt deze eis vanaf 2 december 2027; voor hoog-risico AI in gereguleerde producten (Bijlage I) vanaf 2 augustus 2028.
Toezicht op papier is geen toezicht: de wet noemt automation bias expliciet, dus een mens die alleen mag doorklikken telt niet. Effectief toezicht vergt begrip, tijd en mandaat, en dat raakt direct aan de artikel 4-geletterdheidsmaatregelen.
Wijs nu per (aankomend) hoog-risico systeem de toezichthoudende personen aan, train ze gericht en leg hun mandaat om in te grijpen schriftelijk vast.