Responsible AI Platform

Artikel 22AI-relevant

Geautomatiseerde individuele besluitvorming, waaronder profilering

Hoofdstuk IIIVan kracht sinds 25-05-2018

Raakvlak met de AI Act

Geautomatiseerde besluitvorming is kernraakvlak met de AI Act: verboden praktijken (Art. 5), menselijk toezicht (Art. 14), en deployer-verplichtingen (Art. 26).

AI Act Art. 5 →AI Act Art. 14 →AI Act Art. 26 →

Officiële tekst

/
De betrokkene heeft het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft.
Lid 1 geldt niet indien het besluit: a) noodzakelijk is voor de totstandkoming of de uitvoering van een overeenkomst tussen de betrokkene en een verwerkingsverantwoordelijke; b) is toegestaan bij een Unierechtelijke of lidstaatrechtelijke bepaling die op de verwerkingsverantwoordelijke van toepassing is en die ook voorziet in passende maatregelen ter bescherming van de rechten en vrijheden en gerechtvaardigde belangen van de betrokkene; of c) berust op de uitdrukkelijke toestemming van de betrokkene.
In de in lid 2, punten a) en c), bedoelde gevallen treft de verwerkingsverantwoordelijke passende maatregelen ter bescherming van de rechten en vrijheden en gerechtvaardigde belangen van de betrokkene, waaronder ten minste het recht op menselijke tussenkomst van de verwerkingsverantwoordelijke, het recht om zijn standpunt kenbaar te maken en het recht om het besluit aan te vechten.
De in lid 2 bedoelde besluiten worden niet gebaseerd op de in artikel 9, lid 1, bedoelde bijzondere categorieën van persoonsgegevens, tenzij artikel 9, lid 2, punt a) of g), van toepassing is en er passende maatregelen ter bescherming van de gerechtvaardigde belangen van de betrokkene zijn getroffen. Afdeling 5 Beperkingen

Bron: EUR-Lex, Verordening (EU) 2016/679. Officiële tekst, ongewijzigd overgenomen.

Wat betekent dit voor jou?

Verwerkingsverantwoordelijke

Beoordeel of jouw AI-systeem besluiten neemt die onder Art. 22 vallen. Implementeer menselijk toezicht, bied betrokkenen het recht op uitleg en bezwaar, en documenteer de logica achter het AI-systeem.

Verwerker

Zorg voor technische mogelijkheden om menselijke tussenkomst te faciliteren. Bouw logging in zodat besluiten achteraf verklaarbaar zijn.

Functionaris gegevensbescherming

Monitor of AI-systemen de facto volledig geautomatiseerd besluiten nemen, ook als ze formeel als 'adviserend' zijn gepositioneerd. Adviseer over de implementatie van Art. 22-waarborgen.

Betrokkene

Als een AI-systeem een besluit over jou neemt met rechtsgevolgen (bijv. kredietweigering, sollicitatie-afwijzing), heb je recht op menselijke tussenkomst, uitleg, en de mogelijkheid het besluit aan te vechten.

Compliance checklist

Gerelateerde overwegingen

(71)

De betrokkene dient het recht te hebben niet te worden onderworpen aan een louter op geautomatiseerde verwerking gebaseerd besluit, dat een maatregel kan behelzen — over persoonlijke hem betreffende a...

(72)

Voor profilering gelden de regels van deze verordening betreffende de verwerking van persoonsgegevens, bijvoorbeeld de rechtsgronden voor verwerking of beginselen van gegevensbescherming. Het Europees...

Kruisverwijzingen

Art. 9: Verwerking van bijzondere categorieën van persoonsgegevens

Veelgestelde vragen

← Art. 21: Recht van bezwaarArt. 23: Beperkingen →