Annex III AI Act
6 straipsnio 2 dalyje nurodytos didelės rizikos DI sistemos
Officiële tekst
id="anx_III "> III PRIEDAS 6 straipsnio 2 dalyje nurodytos didelės rizikos DI sistemos Didelės rizikos DI sistemos pagal 6 straipsnio 2 dalį yra bet kurioje iš toliau nurodytų sričių išvardytos DI sistemos.
1. Biometrija, jei ją leidžiama naudoti pagal atitinkamus Sąjungos ar nacionalinės teisės aktus:
a) nuotolinio biometrinio tapatybės nustatymo sistemos. Į tai neįtraukiamos DI sistemos, skirtos naudoti biometriniam sutikrinimui, kurių vienintelis tikslas – patvirtinti, kad konkretus fizinis asmuo yra tas asmuo, kuriuo jis prisistato;
b) DI sistemos, skirtos naudoti biometriniam kategorizavimui pagal neskelbtinus ar saugomus požymius ar ypatumus, remiantis nuspėjamais tais požymiais ar ypatumais;
c) DI sistemos, skirtos naudoti emocijų atpažinimui.
2. Ypatingos svarbos infrastruktūra: DI sistemos, skirtos naudoti kaip saugos komponentai užtikrinant ypatingos svarbos skaitmeninės infrastruktūros, kelių eismo ar vandens, dujų, šilumos ar elektros energijos tiekimo valdymą ir veikimą.
3. Švietimas ir profesinis mokymas:
a) DI sistemos, skirtos naudoti siekiant nustatyti fizinių asmenų teisę būti svarstomiems dėl priėmimo į švietimo ir profesinio mokymo įstaigas visais lygmenimis ar juos į tas įstaigas priimti arba paskirti;
b) DI sistemos, skirtos naudoti mokymosi rezultatams vertinti, įskaitant atvejus, kai tie rezultatai naudojami siekiant valdyti fizinių asmenų mokymosi procesą švietimo ir profesinio mokymo įstaigose visais lygmenimis;
c) DI sistemos, skirtos naudoti siekiant įvertinti tinkamą švietimo, kurį asmuo gaus arba galės gauti visų lygių švietimo ir profesinio mokymo įstaigose, lygį;
d) DI sistemos, skirtos naudoti siekiant stebėti ir atpažinti draudžiamą mokinių arba studentų elgesį per testus visų lygių švietimo ir profesinio mokymo įstaigose.
4. Užimtumas, darbuotojų valdymas ir galimybė dirbti savarankiškai:
a) DI sistemos, skirtos naudoti fizinių asmenų įdarbinimui arba atrankai, visų pirma siekiant teikti tikslinius darbo skelbimus, analizuoti ir filtruoti darbo prašymus ir vertinti kandidatus;
b) DI sistemos, skirtos naudoti priimant sprendimus, darančius poveikį darbo santykių sąlygoms, paaukštinimui arba darbo santykių nutraukimui, siekiant paskirstyti užduotis remiantis individualiu elgesiu arba asmenybės bruožais ar savybėmis arba stebėti bei įvertinti tokiuose santykiuose dalyvaujančių asmenų rezultatus ir elgesį.
5. Galimybė gauti pagrindines privačiąsias paslaugas ir pagrindines viešąsias paslaugas ir išmokas ir naudojimasis jomis:
a) DI sistemos, skirtos naudoti valdžios institucijose arba jų vardu siekiant įvertinti fizinių asmenų tinkamumą gauti esminės viešosios paramos išmokas ir paslaugas, įskaitant sveikatos priežiūros paslaugas, taip pat siekiant suteikti, sumažinti, panaikinti arba susigrąžinti tokias išmokas;
b) DI sistemos, skirtos naudoti siekiant įvertinti fizinių asmenų kreditingumą arba nustatyti jų kredito reitingą, išskyrus DI sistemas, naudojamas finansinio sukčiavimo atvejų aptikimo tikslu;
c) DI sistemos, skirtos naudoti siekiant įvertinti su fiziniais asmenimis susijusią riziką ir kainodarą gyvybės bei sveikatos draudimo atveju;
d) DI sistemos, skirtos naudoti siekiant įvertinti ir klasifikuoti fizinių asmenų pagalbos skambučius ar teikiant arba nustatant prioritetines teiktinas skubias pirmosios pagalbos paslaugas, įskaitant policijos, ugniagesių ir medicinos pagalbos tarnybų paslaugas, taip pat skubios sveikatos priežiūros pacientų medicininio skirstymo sistemas.
6. Teisėsauga, jei jas leidžiama naudoti pagal atitinkamus Sąjungos ar nacionalinės teisės aktus:
a) DI sistemos, skirtos naudoti teisėsaugos institucijose ar jų vardu arba Sąjungos institucijose, įstaigose, organuose ar agentūrose, siekiant padėti teisėsaugos institucijoms įvertinti riziką, kad fizinis asmuo taps nusikalstamų veikų auka, arba tai darant jų vardu;
b) DI sistemos, skirtos naudoti teisėsaugos institucijose ar jų vardu arba Sąjungos institucijose, įstaigose, organuose ar agentūrose, siekiant padėti teisėsaugos institucijoms, kaip poligrafai ar panašios priemonės;
c) DI sistemos, skirtos naudoti teisėsaugos institucijose ar jų vardu arba Sąjungos institucijose, įstaigose, organuose ar agentūrose, siekiant padėti teisėsaugos institucijoms įvertinti įrodymų patikimumą tiriant nusikalstamas veikas arba vykdant baudžiamąjį persekiojimą už jas;
d) DI sistemos, skirtos naudoti teisėsaugos institucijose ar jų vardu arba Sąjungos institucijose, įstaigose, organuose ar agentūrose, siekiant padėti teisėsaugos institucijoms įvertinti fizinio asmens nusikalstamumo ar pakartotinio nusikalstamumo riziką remiantis ne tik fizinių asmenų profiliavimu, kaip nurodyta Direktyvos (ES) 2016/680 3 straipsnio 4 dalyje, arba įvertinti fizinių asmenų arba grupių asmenybės bruožus ir savybes arba ankstesnį nusikalstamą elgesį;
e) DI sistemos, skirtos naudoti teisėsaugos institucijose ar jų vardu arba Sąjungos institucijose, įstaigose, organuose ar agentūrose, siekiant padėti teisėsaugos institucijoms profiliuoti fizinius asmenis, kaip nurodyta Direktyvos (ES) 2016/680 3 straipsnio 4 dalyje, išaiškinant ar tiriant nusikalstamas veikas arba vykdant baudžiamąjį persekiojimą už jas.
7. Migracija, prieglobstis ir sienų kontrolės valdymas, jei DI sistemas leidžiama naudoti pagal atitinkamus Sąjungos ar nacionalinės teisės aktus:
a) DI sistemos, skirtos naudoti kompetentingose valdžios institucijose arba Sąjungos institucijose, įstaigose, organuose ar agentūrose arba jų vardu kaip poligrafai ar panašios priemonės;
b) DI sistemos, skirtos naudoti kompetentingose valdžios institucijose ar jų vardu arba Sąjungos institucijose, įstaigose, organuose ar agentūrose, siekiant įvertinti riziką, įskaitant saugumo riziką, neteisėtos migracijos riziką arba riziką sveikatai, kurią kelia fizinis asmuo, ketinantis atvykti į valstybės narės teritoriją arba į ją atvykęs;
c) DI sistemos, skirtos naudoti kompetentingose valdžios institucijose ar jų vardu arba Sąjungos institucijose, įstaigose, organuose ar agentūrose, siekiant padėti kompetentingoms valdžios institucijoms išnagrinėti prašymus suteikti prieglobstį, išduoti vizą ar leidimus gyventi ir susijusius skundus dėl fizinių asmenų tinkamumo prašyti suteikti tam tikrą statusą, įskaitant susijusius įrodymų patikimumo vertinimus;
d) DI sistemos, skirtos naudoti kompetentingose valdžios institucijose arba Sąjungos institucijose, įstaigose, organuose ar agentūrose arba jų vardu migracijos, prieglobsčio ar sienų kontrolės valdymo kontekste fizinių asmenų aptikimo, atpažinimo arba identifikavimo tikslu, išskyrus kelionės dokumentų tikrinimą.
8. Teisingumo vykdymas ir demokratiniai procesai:
a) DI sistemos, skirtos naudoti teisminėse institucijose arba jų vardu, siekiant padėti teisminei institucijai tirti ir aiškinti faktus bei įstatymus ir taikyti įstatymus konkretiems faktų rinkiniams, arba skirtas naudoti panašiu būdu alternatyvaus ginčų sprendimo procese;
b) DI sistemos, skirtos naudoti siekiant daryti įtaką rinkimų ar referendumų rezultatams arba fizinių asmenų balsavimo elgsenai, kai jie balsuoja rinkimuose ar referendumuose. Tai neapima DI sistemų, kurių išvediniai fiziniams asmenims neturi tiesioginio poveikio, pavyzdžiui, priemonių, naudojamų politinėms kampanijoms organizuoti, optimizuoti ar struktūrizuoti administraciniu ar logistiniu požiūriu.
Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.
📬 AI Act Weekly
Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.
AanmeldenVeelgestelde vragen
Welke AI-systemen staan in Bijlage III van de AI Act?
Bijlage III bevat acht categorieën hoog-risico AI-systemen: (1) biometrie, (2) kritieke infrastructuur, (3) onderwijs en beroepsopleiding, (4) werkgelegenheid en personeelsbeheer, (5) essentiële diensten, (6) rechtshandhaving, (7) migratie en grenscontrole, en (8) rechtsbedeling en democratische processen.
Is mijn AI-systeem hoog-risico volgens Bijlage III?
Controleer of uw AI-systeem valt onder een van de acht categorieën in Bijlage III. Het systeem moet 'bedoeld zijn om te worden gebruikt' voor het genoemde doel. De classificatie hangt af van het beoogde gebruik, niet van de onderliggende technologie.
Welke AI-systemen in HR en werving zijn hoog-risico?
Volgens Bijlage III, punt 4: AI voor (a) werving en selectie, waaronder gerichte vacatureadvertenties, het filteren van sollicitaties en het beoordelen van kandidaten, en (b) beslissingen over arbeidsvoorwaarden, promotie, ontslag, taakverdeling en het monitoren van prestaties.
Vallen AI-systemen in de bankensector onder Bijlage III?
Ja, als het AI-systeem wordt gebruikt voor kredietwaardigheidsbeoordelingen of het bepalen van kredietscores van natuurlijke personen (punt 5b). Uitzondering: AI-systemen voor het detecteren van financiële fraude vallen hier niet onder.
Zijn AI-systemen in de zorg hoog-risico volgens Bijlage III?
Ja, onder punt 5a: AI-systemen die door of namens overheidsinstanties worden gebruikt om de geschiktheid van personen voor essentiële publieke diensten te beoordelen, waaronder gezondheidszorg. Ook AI voor triage bij spoedgevallen (punt 5d) is hoog-risico.
Welke biometrische AI-systemen zijn hoog-risico?
Volgens Bijlage III, punt 1: (a) biometrische identificatie op afstand, (b) biometrische categorisering op basis van gevoelige kenmerken, en (c) emotieherkenning. Biometrische verificatie (bevestigen dat iemand is wie hij zegt te zijn) is uitgesloten.
Vallen AI-systemen bij de overheid onder Bijlage III?
Ja, meerdere categorieën zijn relevant voor de overheid: AI voor publieke dienstverlening (punt 5a), rechtshandhaving (punt 6), migratie en grenscontrole (punt 7), en rechtsbedeling (punt 8). Ook AI in onderwijs (punt 3) is relevant voor publieke onderwijsinstellingen.
Is AI voor emotieherkenning hoog-risico?
Ja, AI-systemen bedoeld voor emotieherkenning staan expliciet in Bijlage III, punt 1c. Let op: emotieherkenning op de werkplek en in het onderwijs is zelfs verboden onder artikel 5.
Welke AI in het onderwijs is hoog-risico?
Bijlage III, punt 3 noemt vier categorieën: (a) toelating tot onderwijsinstellingen, (b) beoordeling van leerresultaten, (c) bepalen van het juiste onderwijsniveau, en (d) het monitoren van verboden gedrag tijdens examens (proctoring).
Is AI voor noodoproepen hoog-risico?
Ja, Bijlage III, punt 5d classificeert AI-systemen die noodoproepen evalueren en classificeren, of die worden gebruikt voor het dispatchen van hulpdiensten (politie, brandweer, ambulance) en triage bij spoedeisende hulp als hoog-risico.
Kan de Europese Commissie Bijlage III uitbreiden?
Ja, artikel 7 geeft de Commissie de bevoegdheid om via gedelegeerde handelingen nieuwe hoog-risico AI-toepassingen aan Bijlage III toe te voegen, mits deze vergelijkbare risico's voor grondrechten opleveren als de bestaande categorieën.
Vallen AI-systemen voor verkiezingsbeïnvloeding onder Bijlage III?
Ja, Bijlage III, punt 8b classificeert AI-systemen bedoeld om de uitkomst van verkiezingen of referenda te beïnvloeden, of het stemgedrag van personen, als hoog-risico. Logistieke campagnetools waar burgers niet direct aan worden blootgesteld zijn uitgezonderd.
Valt AI voor verzekeringen onder Bijlage III?
Ja, Bijlage III punt 5c classificeert AI-systemen die worden gebruikt voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen van natuurlijke personen als hoog-risico. AI voor schadedetectie en fraudebestrijding bij verzekeringen valt hier niet automatisch onder.
Is AI-gestuurde CV-screening hoog-risico?
Ja, Bijlage III punt 4a classificeert AI-systemen voor het filteren en beoordelen van sollicitaties expliciet als hoog-risico. Dit omvat geautomatiseerde CV-screening, AI-gestuurde matching van kandidaten en geautomatiseerde assessments in wervingsprocessen.
Hoe weet ik of mijn AI-systeem 'bedoeld is om te worden gebruikt' voor een doel uit Bijlage III?
De classificatie hangt af van het beoogde gebruik (intended purpose) zoals bepaald door de aanbieder, niet van de technische mogelijkheden. Als een AI-systeem technisch geschikt is voor een Bijlage III-doel maar niet daarvoor is bedoeld, is het niet automatisch hoog-risico. Wel kan hergebruik voor een Bijlage III-doel leiden tot herclassificatie.