Definitie & Uitleg
Het gebruik van AI om natuurlijke personen of groepen te evalueren of classificeren op basis van hun sociale gedrag of persoonlijke kenmerken, waarbij die score leidt tot nadelige behandeling. Sociale scoring is een verboden AI-praktijk onder Artikel 5 EU AI Act vanwege het onaanvaardbare risico voor fundamentele rechten. Het verbod geldt sinds 2 februari 2025 voor zowel overheden als private organisaties.
Artikel 5(1)(c) EU AI Act verbiedt AI-systemen die personen of groepen beoordelen of classificeren op basis van sociaal gedrag of bekende, afgeleide of voorspelde persoonlijke kenmerken, wanneer de sociale score leidt tot (1) nadelige behandeling in een sociale context die geen verband houdt met de context waarin de data oorspronkelijk is verzameld, of (2) nadelige behandeling die ongerechtvaardigd of disproportioneel is ten opzichte van het gedrag. Overtreding valt in de zwaarste boetecategorie: een boete via de toezichthouder tot 35 miljoen euro of 7% van de wereldwijde jaaromzet.
Het bekendste voorbeeld is het Chinese sociale kredietsysteem, maar het verbod is breder. Denk aan een verzekeraar die socialemediagedrag gebruikt om premies te bepalen voor een verzekering die niets met dat gedrag te maken heeft, of een uitkeringsinstantie die burgers een risicoscore geeft op basis van buurt, taalniveau en gezinssamenstelling. Het Nederlandse SyRI-systeem, dat in 2020 door de rechtbank Den Haag werd verboden wegens strijd met het EVRM, laat zien hoe dicht zulke systemen bij verboden sociale scoring kunnen komen.
Sociale scoring is niet alleen een overheidskwestie en niet alleen "het Chinese systeem". Het verbod in de AI Act geldt uitdrukkelijk ook voor private partijen. Tegelijk is niet elke score verboden: een kredietscore op basis van relevante financiële gegevens valt buiten het verbod, maar is wel hoog-risico onder Annex III. De toets is of data uit de ene context wordt gebruikt voor nadelige beslissingen in een andere, niet-gerelateerde context, of dat de behandeling disproportioneel is.
