Annex III AI Act
class="oj-doc-ti" id="d1e38-127-1">ANNESS III
Officiële tekst
id="anx_III"> ANNESS III Sistemi tal-IA b'riskju għoli msemmija fl-Artikolu 6(2) Sistemi tal-IA b'riskju għoli skont l-Artikolu 6(2) huma s-sistemi tal-IA elenkati f'xi wieħed minn dawn l-oqsma li ġejjin:
1. Bijometrika, sa fejn l-użu tagħhom ikun permess skont id-dritt rilevanti tal-Unjoni jew nazzjonali:
(a) sistemi ta’ identifikazzjoni bijometrika remota. Dan ma għandux jinkludi sistemi tal-IA maħsuba biex jintużaw għall-verifika bijometrika li l-uniku skop tagħhom huwa li jikkonfermaw li persuna fiżika speċifika tkun il-persuna li hija tiddikjara li tkun;
(b) Sistemi tal-IA maħsuba biex jintużaw għall-kategorizzazzjoni bijometrika, skont attributi jew karatteristiċi sensittivi jew protetti abbażi tal-inferenza ta' dawk l-attributi jew il-karatteristiċi;
(c) Sistemi tal-IA maħsuba biex jintużaw għar-rikonoxximent tal-emozzjonijiet.
2. Infrastruttura kritika: Sistemi tal-IA maħsuba biex jintużaw bħala komponenti tas-sikurezza fil-ġestjoni u t-tħaddim tal-infrastruttura diġitali kritika, tat-traffiku fit-toroq, jew fil-provvista tal-ilma, il-gass, it-tisħin jew l-elettriku.
3. Edukazzjoni u taħriġ vokazzjonali:
(a) Sistemi tal-IA maħsuba biex jintużaw biex jiddeterminaw l-aċċess jew l-ammissjoni jew biex jassenjaw persuni fiżiċi lil istituzzjonijiet tal-edukazzjoni u tat-taħriġ vokazzjonali fil-livelli kollha;
(b) Sistemi tal-IA maħsuba biex jintużaw biex jevalwaw l-eżiti tal-apprendiment, inkluż meta dawk l-eżiti jintużaw biex jidderieġu l-proċess tal-apprendiment tal-persuni fiżiċi f'istituzzjonijiet tal-edukazzjoni u tat-taħriġ vokazzjonali fil-livelli kollha;
(c) Sistemi tal-IA maħsuba biex jintużaw bl-għan li jivvalutaw il-livell xieraq ta' edukazzjoni li l-individwu ser jirċievi jew ser ikun jista' jaċċessa, fil-kuntest tal-istituzzjonijiet tal-edukazzjoni u tat-taħriġ vokazzjonali jew fi ħdanhom fil-livelli kollha;
(d) Sistemi tal-IA maħsuba biex jintużaw biex jimmonitorjaw jew jikxfu mġiba pprojbita tal-istudenti waqt it-testijiet fil-kuntest tal-istituzzjonijiet tal-edukazzjoni u tat-taħriġ vokazzjonali jew fi ħdanhom fil-livelli kollha.
4. Impjiegi, ġestjoni tal-ħaddiema u aċċess għal impjiegi indipendenti:
(a) Sistemi tal-IA maħsuba biex jintużaw biex jirreklutaw jew jagħżlu l-persuni fiżiċi, b'mod partikolari biex isiru avviżi ta' impjieg immirati, biex jiġu analizzati u ffiltrati l-applikazzjonijiet għal impjieg, u biex jiġu evalwati l-kandidati;
(b) Sistemi tal-IA maħsuba biex jintużaw biex jittieħdu deċiżjonijiet li jaffettwaw it-termini tar-relazzjonijiet relatati max-xogħol, il-promozzjoni jew it-terminazzjoni ta' relazzjonijiet kuntrattwali relatati max-xogħol, biex jallokaw kompiti abbażi tal-mġiba individwali jew il-karatteristiċi personali jew biex jimmonitorjaw u jevalwaw il-prestazzjoni u l-imġiba tal-persuni f'dawn ir-relazzjonijiet.
5. Aċċess għal servizzi privati essenzjali u għal servizzi u benefiċċji pubbliċi essenzjali u t-tgawdija tagħhom:
(a) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet pubbliċi jew f'isem l-awtoritajiet pubbliċi biex jevalwaw l-eliġibbiltà tal-persuni fiżiċi għal benefiċċji u servizzi ta' assistenza pubblika essenzjali, inkluż servizzi tal-kura tas-saħħa, kif ukoll biex jagħtu, inaqqsu, jirrevokaw, jew jitolbu mill-ġdid dawn il-benefiċċji u s-servizzi;
(b) Sistemi tal-IA maħsuba biex jintużaw biex jevalwaw l-affidabbiltà kreditizja tal-persuni fiżiċi jew biex jistabbilixxu l-punteġġ tal-kreditu tagħhom, bl-eċċezzjoni ta' sistemi tal-IA użati bl-għan li tinkixef frodi finanzjarja;
(c) Sistemi tal-IA maħsuba biex jintużaw biex jiġi vvalutat u pprezzat ir-riskju fir-rigward tal-persuni fiżiċi fil-każ ta' assigurazzjoni tal-ħajja u tas-saħħa;
(d) Sistemi tal-IA maħsuba biex jevalwaw u jikklassifikaw it-telefonati ta' emerġenza minn persuni fiżiċi jew biex jintużaw għad-dispaċċ, jew biex tiġi stabbilita prijorità fid-dispaċċ ta' servizzi tal-ewwel rispons ta' emerġenza, inkluż mill-pulizija, minn ħaddiema tat-tifi tan-nar u tal-għajnuna medika, kif ukoll minn sistemi ta' triage tal-pazjenti tal-kura tas-saħħa ta' emerġenza;
6. Infurzar tal-liġi, sa fejn l-użu tagħhom ikun permess skont id-dritt rilevanti tal-Unjoni jew nazzjonali:
(a) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi jew f'isimhom, jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni b'appoġġ għall-awtoritajiet tal-infurzar tal-liġi jew f'isimhom biex jivvalutaw ir-riskjuli persuna fiżika tisfa vittma ta' reati kriminali;
(b) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi jew f'isimhom jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni b'appoġġ għall-awtoritajiet tal-infurzar tal-liġi bħala poligrafi jew għodod simili;
(c) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi jew f'isimhom, jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni b'appoġġ għall-awtoritajiet tal-infurzar tal-liġi biex jevalwaw l-affidabbiltà tal-evidenza waqt l-investigazzjoni jew prosekuzzjoni ta' reati kriminali;
(d) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi jew f'isimhom jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni b'appoġġ għall-awtoritajiet tal-infurzar tal-liġi biex jivvalutaw ir-riskju li persuna fiżika twettaq jew terġa' twettaq reat mhux biss abbażi tat-tfassil tal-profil tal-persuni fiżiċi kif imsemmi fl-Artikolu 3(4) tad-Direttiva (UE) 2016/680, jew biex jivvalutaw il-karatteristiċi tal-personalità jew l-imġiba kriminali tal-passat ta' persuni fiżiċi jew ta' gruppi;
(e) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi jew f'isimhom jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni b'appoġġ għall-awtoritajiet tal-infurzar tal-liġi għat-tfassil tal-profil ta' persuni fiżiċi kif imsemmi fl-Artikolu 3(4) tad-Direttiva (UE) 2016/680 waqt il-kxif, l-investigazzjoni jew il-prosekuzzjoni ta' reati kriminali.
7. Ġestjoni tal-migrazzjoni, l-ażil u l-kontroll fuq il-fruntieri, sa fejn l-użu tagħhom ikun permess skont id-dritt rilevanti tal-Unjoni jew nazzjonali:
(a) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti jew f’isimhom, jew minn istituzzjonijiet tal-Unjoni, korpi, uffiċċji jew aġenziji bħala poligrafi jew għodod simili;
(b) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti jew f'isimhom jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni biex jivvalutaw riskju, inkluż riskju għas-sigurtà, riskju ta' migrazzjoni irregolari, jew riskju għas-saħħa, maħluq minn persuna fiżika li jkun biħsiebha tidħol jew li tkun daħlet fit-territorju ta' Stat Membru;
(c) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti jew f'isimhom jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni biex jassistu lill-awtoritajiet pubbliċi kompetenti għall-eżami ta' applikazzjonijiet għall-ażil, viżi jew permessi ta' residenza u għall-ilmenti assoċjati fir-rigward tal-eliġibbiltà tal-persuni fiżiċi li japplikaw għal status, inkluż valutazzjonijiet relatati tal-affidabbiltà tal-evidenza;
(d) Sistemi tal-IA maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti jew f'isimhom, jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni, fil-kuntest tal-ġestjoni tal-migrazzjoni, l-ażil jew il-kontroll fuq il-fruntieri, għall-fini tal-kxif, ir-rikonoxximent jew l-identifikazzjoni tal-persuni fiżiċi, bl-eċċezzjoni tal-verifika ta' dokumenti tal-ivvjaġġar.
8. Amministrazzjoni tal-ġustizzja u proċessi demokratiċi:
(a) Sistemi tal-IA maħsuba biex jintużaw minn awtorità ġudizzjarja jew f'isimha biex jassistu awtorità ġudizzjarja fir-riċerka u l-interpretazzjoni ta' fatti u tal-liġi u fl-applikazzjoni tal-liġi għal sett konkret ta' fatti, jew biex jintużaw b'mod simili f'soluzzjoni alternattiva għat-tilwim;
(b) Sistemi tal-IA maħsuba biex jintużaw biex jinfluwenzaw l-eżitu ta' elezzjoni jew referendum jew l-imġiba tal-votazzjoni tal-persuni fiżiċi fl-eżerċizzju tal-vot tagħhom f'elezzjonijiet jew referenda. Dan ma jinkludix sistemi tal-IA li persuni fiżiċi ma jkunux esposti direttament għall-output tagħhom, bħal għodod użati għall-organizzazzjoni, l-ottimizzazzjoni jew l-istrutturar ta' kampanji politiċi minn perspettiva amministrattiva jew loġistika.
Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.
📬 AI Act Weekly
Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.
AanmeldenVeelgestelde vragen
Welke AI-systemen staan in Bijlage III van de AI Act?
Bijlage III bevat acht categorieën hoog-risico AI-systemen: (1) biometrie, (2) kritieke infrastructuur, (3) onderwijs en beroepsopleiding, (4) werkgelegenheid en personeelsbeheer, (5) essentiële diensten, (6) rechtshandhaving, (7) migratie en grenscontrole, en (8) rechtsbedeling en democratische processen.
Is mijn AI-systeem hoog-risico volgens Bijlage III?
Controleer of uw AI-systeem valt onder een van de acht categorieën in Bijlage III. Het systeem moet 'bedoeld zijn om te worden gebruikt' voor het genoemde doel. De classificatie hangt af van het beoogde gebruik, niet van de onderliggende technologie.
Welke AI-systemen in HR en werving zijn hoog-risico?
Volgens Bijlage III, punt 4: AI voor (a) werving en selectie, waaronder gerichte vacatureadvertenties, het filteren van sollicitaties en het beoordelen van kandidaten, en (b) beslissingen over arbeidsvoorwaarden, promotie, ontslag, taakverdeling en het monitoren van prestaties.
Vallen AI-systemen in de bankensector onder Bijlage III?
Ja, als het AI-systeem wordt gebruikt voor kredietwaardigheidsbeoordelingen of het bepalen van kredietscores van natuurlijke personen (punt 5b). Uitzondering: AI-systemen voor het detecteren van financiële fraude vallen hier niet onder.
Zijn AI-systemen in de zorg hoog-risico volgens Bijlage III?
Ja, onder punt 5a: AI-systemen die door of namens overheidsinstanties worden gebruikt om de geschiktheid van personen voor essentiële publieke diensten te beoordelen, waaronder gezondheidszorg. Ook AI voor triage bij spoedgevallen (punt 5d) is hoog-risico.
Welke biometrische AI-systemen zijn hoog-risico?
Volgens Bijlage III, punt 1: (a) biometrische identificatie op afstand, (b) biometrische categorisering op basis van gevoelige kenmerken, en (c) emotieherkenning. Biometrische verificatie (bevestigen dat iemand is wie hij zegt te zijn) is uitgesloten.
Vallen AI-systemen bij de overheid onder Bijlage III?
Ja, meerdere categorieën zijn relevant voor de overheid: AI voor publieke dienstverlening (punt 5a), rechtshandhaving (punt 6), migratie en grenscontrole (punt 7), en rechtsbedeling (punt 8). Ook AI in onderwijs (punt 3) is relevant voor publieke onderwijsinstellingen.
Is AI voor emotieherkenning hoog-risico?
Ja, AI-systemen bedoeld voor emotieherkenning staan expliciet in Bijlage III, punt 1c. Let op: emotieherkenning op de werkplek en in het onderwijs is zelfs verboden onder artikel 5.
Welke AI in het onderwijs is hoog-risico?
Bijlage III, punt 3 noemt vier categorieën: (a) toelating tot onderwijsinstellingen, (b) beoordeling van leerresultaten, (c) bepalen van het juiste onderwijsniveau, en (d) het monitoren van verboden gedrag tijdens examens (proctoring).
Is AI voor noodoproepen hoog-risico?
Ja, Bijlage III, punt 5d classificeert AI-systemen die noodoproepen evalueren en classificeren, of die worden gebruikt voor het dispatchen van hulpdiensten (politie, brandweer, ambulance) en triage bij spoedeisende hulp als hoog-risico.
Kan de Europese Commissie Bijlage III uitbreiden?
Ja, artikel 7 geeft de Commissie de bevoegdheid om via gedelegeerde handelingen nieuwe hoog-risico AI-toepassingen aan Bijlage III toe te voegen, mits deze vergelijkbare risico's voor grondrechten opleveren als de bestaande categorieën.
Vallen AI-systemen voor verkiezingsbeïnvloeding onder Bijlage III?
Ja, Bijlage III, punt 8b classificeert AI-systemen bedoeld om de uitkomst van verkiezingen of referenda te beïnvloeden, of het stemgedrag van personen, als hoog-risico. Logistieke campagnetools waar burgers niet direct aan worden blootgesteld zijn uitgezonderd.
Valt AI voor verzekeringen onder Bijlage III?
Ja, Bijlage III punt 5c classificeert AI-systemen die worden gebruikt voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen van natuurlijke personen als hoog-risico. AI voor schadedetectie en fraudebestrijding bij verzekeringen valt hier niet automatisch onder.
Is AI-gestuurde CV-screening hoog-risico?
Ja, Bijlage III punt 4a classificeert AI-systemen voor het filteren en beoordelen van sollicitaties expliciet als hoog-risico. Dit omvat geautomatiseerde CV-screening, AI-gestuurde matching van kandidaten en geautomatiseerde assessments in wervingsprocessen.
Hoe weet ik of mijn AI-systeem 'bedoeld is om te worden gebruikt' voor een doel uit Bijlage III?
De classificatie hangt af van het beoogde gebruik (intended purpose) zoals bepaald door de aanbieder, niet van de technische mogelijkheden. Als een AI-systeem technisch geschikt is voor een Bijlage III-doel maar niet daarvoor is bedoeld, is het niet automatisch hoog-risico. Wel kan hergebruik voor een Bijlage III-doel leiden tot herclassificatie.