Responsible AI Platform

Annex III AI Act

6. panta 2. punktā minētās augsta riska MI sistēmas

Officiële tekst

id="anx_III "> III PIELIKUMS 6. panta 2. punktā minētās augsta riska MI sistēmas 6. panta 2. punktā minētās augsta riska MI sistēmas ir norādītās MI sistēmas, ko izmanto kādā no tālāk uzskaitītajām jomām.

1. Biometrija, ciktāl to izmantošanu atļauj attiecīgie Savienības vai valsts tiesību akti:

a) biometriskās tālidentifikācijas sistēmas. Tas neietver MI sistēmas, ko paredzēts izmantot biometriskai verifikācijai, kuras vienīgais nolūks ir apstiprināt, ka konkrēta fiziska persona ir persona, par kuru tā uzdodas;

b) MI sistēmas, ko paredzēts izmantot biometriskai kategorizēšanai pēc sensitīviem vai aizsargātiem atribūtiem vai raksturlielumiem, pamatojoties uz minēto atribūtu vai raksturlielumu inferenci;

c) MI sistēmas, ko paredzēts izmantot emociju atpazīšanai.

2. Kritiskā infrastruktūra: MI sistēmas, ko paredzēts izmantot kā drošības sastāvdaļas kritiskās digitālās infrastruktūras pārvaldībā un darbībā, ceļu satiksmē vai ūdens, gāzes vai elektroapgādē vai apkures nodrošināšanā.

3. Izglītība un arodmācības:

a) MI sistēmas, ko paredzēts izmantot, lai noteiktu fizisku personu piekļuvi izglītības un arodmācību iestādēm visos līmeņos vai viņu iestāšanos tajās vai viņu uzņemšanu tajās;

b) MI sistēmas, ko paredzēts izmantot, lai izvērtētu mācību rezultātus, tostarp, ja šos rezultātus izmanto, lai vadītu fizisku personu mācību procesu izglītības un arodmācību iestādēs visos līmeņos;

c) MI sistēmas, ko paredzēts izmantot, lai novērtētu pienācīgu izglītības līmeni, kuru persona saņems vai kuram tā varēs piekļūt izglītības un arodmācības iestādēs vai saistībā ar tām visos līmeņos;

d) MI sistēmas, ko paredzēts izmantot, lai pārbaudījumu laikā izglītības un arodmācības iestādēs vai saistībā ar tām uzraudzītu un konstatētu audzēkņu neatļautu uzvedību visos līmeņos.

4. Nodarbinātība, darba ņēmēju pārvaldība un piekļuve pašnodarbinātībai:

a) MI sistēmas, ko paredzēts izmantot fizisku personu pieņemšanai darbā vai darbinieku atlasei, jo īpaši, lai izvietotu mērķtiecīgus darba sludinājumus, analizētu un atsijātu darba pieteikumus un izvērtētu kandidātus;

b) MI sistēmas, ko paredzēts izmantot, lai pieņemtu lēmumus, kas skar darba attiecību, paaugstināšanas amatā vai darba līgumattiecību izbeigšanas kārtību, sadalītu uzdevumus, pamatojoties uz individuālo uzvedību vai personības iezīmēm vai īpašībām, vai lai pārraudzītu un izvērtētu darba līgumattiecībās esošo personu sniegumu un uzvedību.

5. Piekļuve privātiem pamatpakalpojumiem un sabiedriskajiem pamatpakalpojumiem un pabalstiem un to izmantošana:

a) MI sistēmas, ko paredzēts izmantot publiskajās iestādēs vai to vārdā, lai izvērtētu fizisku personu tiesības saņemt pamata sociālās palīdzības pabalstus un pakalpojumus, tostarp veselības aprūpes pakalpojumus, kā arī lai piešķirtu, samazinātu, atsauktu vai atgūtu šādus pabalstus un pakalpojumus;

b) MI sistēmas, ko paredzēts izmantot fizisku personu kredītspējas izvērtēšanai vai to kredītnovērtējuma noteikšanai, izņemot tādas MI sistēmas, kuras izmanto krāpšanas atklāšanai finanšu jomā;

c) MI sistēmas, ko paredzēts izmantot riska novērtēšanai un cenu noteikšanai attiecībā uz fiziskām personām dzīvības un veselības apdrošināšanas gadījumā;

d) MI sistēmas, ko paredzēts izmantot, lai izvērtētu un klasificētu fizisku personu ārkārtas palīdzības izsaukumus vai ārkārtas pirmās reaģēšanas dienestu, tostarp policijas, ugunsdzēsēju un medicīniskās palīdzības sniedzēju, nosūtīšanai vai nosūtīšanas prioritāšu noteikšanai, kā arī neatliekamās medicīniskās aprūpes pacientu triāžas sistēmām.

6. Tiesībaizsardzība, ciktāl to izmantošanu atļauj attiecīgie Savienības vai valsts tiesību akti:

a) MI sistēmas, ko paredzēts izmantot tiesībaizsardzības iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, kas atbalsta tiesībaizsardzības iestādes, vai to vārdā, lai novērtētu risku, ka fiziska persona varētu kļūt par cietušo personu noziedzīgos nodarījumos;

b) MI sistēmas, ko paredzēts izmantot tiesībaizsardzības iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, kas atbalsta tiesībaizsardzības iestādes, piemēram, melu detektori un līdzīgi rīki;

c) MI sistēmas, ko paredzēts izmantot tiesībaizsardzības iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, kas atbalsta tiesībaizsardzības iestādes, pierādījumu uzticamības izvērtēšanai noziedzīgu nodarījumu izmeklēšanas vai kriminālvajāšanas gaitā;

d) MI sistēmas, ko paredzēts izmantot tiesībaizsardzības iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, kas atbalsta tiesībaizsardzības iestādes, lai novērtētu risku, ka fiziska persona varētu izdarīt vai atkārtoti izdarīt nodarījumu, pamatojoties ne tikai uz fizisku personu profilēšanu, kas minēta Direktīvas (ES) 2016/680 3. panta 4. punktā, vai lai novērtētu fizisku personu vai grupu personības iezīmes un rakstura īpašības vai agrāku noziedzīgu rīcību;

e) MI sistēmas, ko paredzēts izmantot tiesībaizsardzības iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, kas atbalsta tiesībaizsardzības iestādes, Direktīvas (ES) 2016/680 3. panta 4. punktā minētajai fizisku personu profilēšanai noziedzīgu nodarījumu atklāšanas, izmeklēšanas vai kriminālvajāšanas gaitā.

7. Migrācijas, patvēruma un robežkontroles pārvaldība, ciktāl to izmantošanu atļauj attiecīgie Savienības vai valsts tiesību akti:

a) MI sistēmas, ko paredzēts izmantot kompetentās publiskajās iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās kā melu detektorus vai līdzīgus rīkus;

b) MI sistēmas, ko paredzēts izmantot kompetentās publiskajās iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, lai novērtētu risku, tostarp drošības risku, neatbilstīgas migrācijas risku vai veselības risku, ko rada fiziska persona, kas vēlas ieceļot vai ir ieceļojusi dalībvalsts teritorijā;

c) MI sistēmas, ko paredzēts izmantot kompetentās publiskajās iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, lai palīdzētu kompetentām publiskajām iestādēm izskatīt patvēruma, vīzu vai uzturēšanās atļauju pieteikumus, kā arī saistītās sūdzības, nosakot, vai fiziskās personas, kuras iesniegušas pieteikumu uz kādu no minētajiem statusiem, atbilst kritērijiem, tostarp veicot saistītu pierādījumu patiesuma novērtēšanu;

d) MI sistēmas, ko paredzēts izmantot kompetentās publiskajās iestādēs vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, vai to vārdā saistībā ar migrācijas, patvēruma vai robežkontroles pārvaldību nolūkā atklāt, atpazīt vai identificēt fiziskas personas, izņemot ceļošanas dokumentu verifikāciju.

8. Tiesvedība un demokrātijas procesi:

a) MI sistēmas, ko paredzēts izmantot tiesu iestādē vai tās vārdā, lai palīdzētu tiesu iestādei izpētīt un interpretēt faktus vai tiesību normas un piemērot tiesību normas konkrētam faktu kopumam, vai izmantot līdzīgā veidā strīdu alternatīvā izšķiršanā;

b) MI sistēmas, ko paredzēts izmantot, lai ietekmētu vēlēšanu vai referenduma rezultātus vai fizisku personu uzvedību balsošanā, kad tās balso vēlēšanās vai referendumos. Tas neattiecas uz MI sistēmām, kuru rezultātam fiziskas personas nav tieši pakļautas, piemēram, rīkiem, ko izmanto, lai organizētu, optimizētu vai strukturētu politiskas kampaņas no administratīvā vai loģistikas viedokļa.

Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.

📬 AI Act Weekly

Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.

Aanmelden

Veelgestelde vragen

Welke AI-systemen staan in Bijlage III van de AI Act?

Bijlage III bevat acht categorieën hoog-risico AI-systemen: (1) biometrie, (2) kritieke infrastructuur, (3) onderwijs en beroepsopleiding, (4) werkgelegenheid en personeelsbeheer, (5) essentiële diensten, (6) rechtshandhaving, (7) migratie en grenscontrole, en (8) rechtsbedeling en democratische processen.

Is mijn AI-systeem hoog-risico volgens Bijlage III?

Controleer of uw AI-systeem valt onder een van de acht categorieën in Bijlage III. Het systeem moet 'bedoeld zijn om te worden gebruikt' voor het genoemde doel. De classificatie hangt af van het beoogde gebruik, niet van de onderliggende technologie.

Welke AI-systemen in HR en werving zijn hoog-risico?

Volgens Bijlage III, punt 4: AI voor (a) werving en selectie, waaronder gerichte vacatureadvertenties, het filteren van sollicitaties en het beoordelen van kandidaten, en (b) beslissingen over arbeidsvoorwaarden, promotie, ontslag, taakverdeling en het monitoren van prestaties.

Vallen AI-systemen in de bankensector onder Bijlage III?

Ja, als het AI-systeem wordt gebruikt voor kredietwaardigheidsbeoordelingen of het bepalen van kredietscores van natuurlijke personen (punt 5b). Uitzondering: AI-systemen voor het detecteren van financiële fraude vallen hier niet onder.

Zijn AI-systemen in de zorg hoog-risico volgens Bijlage III?

Ja, onder punt 5a: AI-systemen die door of namens overheidsinstanties worden gebruikt om de geschiktheid van personen voor essentiële publieke diensten te beoordelen, waaronder gezondheidszorg. Ook AI voor triage bij spoedgevallen (punt 5d) is hoog-risico.

Welke biometrische AI-systemen zijn hoog-risico?

Volgens Bijlage III, punt 1: (a) biometrische identificatie op afstand, (b) biometrische categorisering op basis van gevoelige kenmerken, en (c) emotieherkenning. Biometrische verificatie (bevestigen dat iemand is wie hij zegt te zijn) is uitgesloten.

Vallen AI-systemen bij de overheid onder Bijlage III?

Ja, meerdere categorieën zijn relevant voor de overheid: AI voor publieke dienstverlening (punt 5a), rechtshandhaving (punt 6), migratie en grenscontrole (punt 7), en rechtsbedeling (punt 8). Ook AI in onderwijs (punt 3) is relevant voor publieke onderwijsinstellingen.

Is AI voor emotieherkenning hoog-risico?

Ja, AI-systemen bedoeld voor emotieherkenning staan expliciet in Bijlage III, punt 1c. Let op: emotieherkenning op de werkplek en in het onderwijs is zelfs verboden onder artikel 5.

Welke AI in het onderwijs is hoog-risico?

Bijlage III, punt 3 noemt vier categorieën: (a) toelating tot onderwijsinstellingen, (b) beoordeling van leerresultaten, (c) bepalen van het juiste onderwijsniveau, en (d) het monitoren van verboden gedrag tijdens examens (proctoring).

Is AI voor noodoproepen hoog-risico?

Ja, Bijlage III, punt 5d classificeert AI-systemen die noodoproepen evalueren en classificeren, of die worden gebruikt voor het dispatchen van hulpdiensten (politie, brandweer, ambulance) en triage bij spoedeisende hulp als hoog-risico.

Kan de Europese Commissie Bijlage III uitbreiden?

Ja, artikel 7 geeft de Commissie de bevoegdheid om via gedelegeerde handelingen nieuwe hoog-risico AI-toepassingen aan Bijlage III toe te voegen, mits deze vergelijkbare risico's voor grondrechten opleveren als de bestaande categorieën.

Vallen AI-systemen voor verkiezingsbeïnvloeding onder Bijlage III?

Ja, Bijlage III, punt 8b classificeert AI-systemen bedoeld om de uitkomst van verkiezingen of referenda te beïnvloeden, of het stemgedrag van personen, als hoog-risico. Logistieke campagnetools waar burgers niet direct aan worden blootgesteld zijn uitgezonderd.

Valt AI voor verzekeringen onder Bijlage III?

Ja, Bijlage III punt 5c classificeert AI-systemen die worden gebruikt voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen van natuurlijke personen als hoog-risico. AI voor schadedetectie en fraudebestrijding bij verzekeringen valt hier niet automatisch onder.

Is AI-gestuurde CV-screening hoog-risico?

Ja, Bijlage III punt 4a classificeert AI-systemen voor het filteren en beoordelen van sollicitaties expliciet als hoog-risico. Dit omvat geautomatiseerde CV-screening, AI-gestuurde matching van kandidaten en geautomatiseerde assessments in wervingsprocessen.

Hoe weet ik of mijn AI-systeem 'bedoeld is om te worden gebruikt' voor een doel uit Bijlage III?

De classificatie hangt af van het beoogde gebruik (intended purpose) zoals bepaald door de aanbieder, niet van de technische mogelijkheden. Als een AI-systeem technisch geschikt is voor een Bijlage III-doel maar niet daarvoor is bedoeld, is het niet automatisch hoog-risico. Wel kan hergebruik voor een Bijlage III-doel leiden tot herclassificatie.