AI Act voor UWV, SVB & Uitvoeringsorganisaties
Van werkloosheidsuitkeringen tot studiefinanciering — hoe voldoet uw organisatie aan de AI Act?
Specifieke handreikingen voor uitvoeringsorganisaties met grootschalige, impactvolle AI-systemen.
Direct toepasbaar voor ZBO's en uitvoeringsinstanties
Dit Geldt voor Uw Organisatie
UWV
Werkloosheidsuitkeringen, arbeidsongeschiktheid, WIA-beoordelingen
SVB
AOW, kinderbijslag, persoonsgebonden budget
Belastingdienst
Toeslagen, fraudedetectie, risicoselectie
DUO
Studiefinanciering, diplomaregistratie, terugvorderingen
RVO
Subsidies, vergunningen, ondernemersregelingen
CJIB
Incasso, boeteverwerking, betalingsregelingen
Hoog-risico AI bij Uitvoeringsorganisaties
Veel systemen bij uitvoeringsorganisaties vallen onder Annex III van de AI Act
Uitkeringsbeoordelingen
Automatische beoordeling van aanvragen voor WW, WIA, bijstand of toeslagen
Direct invloed op levensonderhoud van burgers
Fraude-risicoprofilering
Algoritmes die bepalen welke dossiers extra gecontroleerd worden
Risico op discriminatie en ongelijke behandeling
Terugvorderingsbeslissingen
Geautomatiseerde berekening en besluitvorming over terugvorderingen
Financiële gevolgen voor kwetsbare groepen
Triage en prioritering
AI-gestuurde werkverdelingen en urgentiebepaling
Bepaalt toegang tot dienstverlening
Lessen uit het Verleden
Uitvoeringsorganisaties hebben belangrijke lessen geleerd
Belastingdienst
Toeslagenaffaire
Hoe risicoprofilering en automatische besluiten leidden tot groot onrecht.
Les:
Menselijke tussenkomst en uitlegbaarheid zijn essentieel
Diverse organisaties
SyRI-arrest
Systeem Risico Indicatie werd verboden door de rechter.
Les:
Privacy en proportionaliteit moeten worden geborgd
UWV
Algoritmische besluitvorming
Onderzoek toonde aan dat niet alle systemen navolgbaar waren.
Les:
Transparantie en documentatie zijn verplicht
Specifieke Verplichtingen
Wat de AI Act van uitvoeringsorganisaties vraagt
Menselijke Tussenkomst
Bij beslissingen die burgers raken moet altijd een mens betrokken zijn. "Meaningful human oversight" is verplicht.
Risicobeheersysteem
Continue monitoring en evaluatie van AI-systemen op risico's en impact.
Technische Documentatie
Uitgebreide documentatie over werking, trainingsdata en besluitvormingslogica.
Conformiteitsbeoordeling
Hoog-risico systemen moeten een conformiteitsbeoordeling ondergaan.