Annex III AI Act
class="oj-doc-ti" id="d1e38-127-1">III. MELLÉKLET
Officiële tekst
id="anx_III"> III. MELLÉKLET A 6. cikk (2) bekezdésében említett nagy kockázatú MI-rendszerek A 6. cikk (2) bekezdése szerinti nagy kockázatú MI-rendszerek a következő területek bármelyikén felsorolt MI-rendszerek:
1. biometria, amennyiben annak használatát a releváns uniós vagy nemzeti jog megengedi:
a) távoli biometrikus azonosító rendszerek. Ez nem terjed ki a biometrikus ellenőrzéshez való felhasználásra szánt azon MI-rendszerekre, amelyek kizárólagos célja annak megerősítése, hogy egy adott természetes személy azonos azzal a személlyel, akinek állítja magát;
b) érzékeny vagy védett tulajdonságok vagy jellemzők szerint, ilyen tulajdonságokból vagy jellemzőkből levont következtetések alapján való biometrikus kategorizáláshoz való használatra szánt MI-rendszerek;
c) érzelemfelismeréshez való használatra szánt MI-rendszerek;
2. kritikus infrastruktúra: a kritikus digitális infrastruktúrák, a közúti forgalom, vagy a víz-, gáz-, fűtési vagy villamosenergia-szolgáltatás irányításában és működtetésében biztonsági alkotórészekként való használatra szánt MI-rendszerek;
3. oktatás és szakképzés:
a) minden szintre kiterjedő oktatási és szakképzési intézményekbe való bejutás vagy felvétel meghatározásához, illetve természetes személyek ilyen intézményekhez történő hozzárendeléséhez való használatra szánt MI-rendszerek;
b) tanulási eredmények értékeléséhez való használatra szánt MI-rendszerek, beleértve azon eseteket is, amikor ezeket az eredményeket a minden szintre kiterjedő oktatási és szakképzési intézményekben tanuló természetes személyek tanulási folyamatának irányítására használják;
c) valamennyi szinten az oktatási és szakképzési intézményekkel összefüggésben vagy azokon belül azon oktatás megfelelő szintjének felmérése céljából való használatra szánt MI-rendszerek, amelyet az egyén kapni fog, vagy amelyhez hozzá fog tudni férni;
d) valamennyi szinten az oktatási és szakképzési intézményekkel összefüggésben vagy azokon belül a vizsgák során a tiltott tanulói magatartás figyelemmel követéséhez és észleléséhez való használatra szánt MI-rendszerek;
4. foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés:
a) természetes személyek felvételéhez vagy kiválasztásához való használatra szánt MI-rendszerek, különösen célzott álláshirdetések elhelyezése, a jelentkezések elemzése és szűrése, valamint a jelöltek értékelése céljából;
b) a munkával kapcsolatos jogviszonyok feltételeit, az előléptetést vagy a munkával kapcsolatos szerződéses jogviszonyok megszüntetését érintő döntések meghozatalához, egyéni magatartáson vagy személyes vonásokon vagy jellemzőkön alapuló feladatkiosztáshoz, vagy az ilyen jogviszonyokban álló személyek teljesítményének és magatartásának nyomon követéséhez és értékeléséhez való használatra szánt MI-rendszerek;
5. alapvető magán- és közszolgáltatásokhoz és ellátásokhoz való hozzáférés és ezek igénybevétele:
a) hatóságok általi vagy hatóságok nevében való használatra szánt MI-rendszerek, természetes személyek állami segítségnyújtási ellátásokra és szolgáltatásokra, köztük egészségügyi szolgáltatásokra való jogosultságának értékelése, valamint az ilyen ellátások és szolgáltatások biztosítása, csökkentése, visszavonása vagy visszaigénylése céljából;
b) a természetes személyek hitelképességének értékeléséhez vagy hitelpontszámuk megállapításához való használatra szánt MI-rendszerek, kivéve a pénzügyi csalás észlelésére használt MI-rendszereket;
c) a természetes személyek vonatkozásában egészség- és életbiztosítás esetén a kockázatértékeléshez és az árképzéshez való használatra szánt MI-rendszerek;
d) természetes személyek segélyhívásainak értékeléséhez és osztályozásához, vagy a sürgősségi segélyszolgálatok – többek között a rendőrség és a tűzoltók által biztosított ilyen szolgáltatások és orvosi segítségnyújtás – kirendeléséhez vagy a kirendelési prioritás megállapításához, valamint a sürgősségi egészségügyi ellátásban alkalmazott betegosztályozási rendszerekhez való használatra szánt MI-rendszerek.
6. bűnüldözés, amennyiben azok használatát a releváns uniós vagy nemzeti jog megengedi:
a) a bűnüldöző hatóságok által vagy nevében, vagy a bűnüldöző hatóságok támogatása érdekében uniós intézmények, szervek, hivatalok vagy ügynökségek által vagy nevében való használatra szánt, annak értékelésére szolgáló MI-rendszerek, hogy egy természetes személy esetében fennáll-e annak kockázata, hogy bűncselekmény áldozatává válik;
b) a bűnüldöző hatóságok által vagy nevében, vagy a bűnüldöző hatóságok támogatása érdekében uniós intézmények, szervek, hivatalok vagy ügynökségek által például poligráfként vagy hasonló eszközként való használatra szánt MI-rendszerek;
c) bűncselekményekkel kapcsolatos nyomozás vagy büntetőeljárás alá vonás során a bizonyítékok megbízhatóságának értékelése céljából a bűnüldöző hatóságok által vagy nevében, vagy a bűnüldöző hatóságok támogatása érdekében uniós intézmények, szervek, hivatalok vagy ügynökségek általvaló használatra szánt MI-rendszerek;
d) a bűnüldöző hatóságok által vagy nevében, vagy a bűnüldöző hatóságok támogatása érdekében uniós intézmények, szervek, hivatalok vagy ügynökségek által való használatra szánt MI-rendszerek annak értékeléséhez, hogy egy természetes személy esetében fennáll-e bűncselekmény elkövetésének vagy ismételt elkövetésének kockázata, nem kizárólag az (EU) 2016/680 irányelv 3. cikkének 4. pontjában említett, természetes személyekre vonatkozó profilalkotás alapján, vagy természetes személyek vagy csoportok személyiségjegyeinek és személyes jellemzőinek, vagy múltbeli bűnözői magatartásának értékeléséhez;
e) bűncselekmények felderítése, bűncselekményekkel kapcsolatos nyomozás vagy büntetőeljárás alá vonás során az (EU) 2016/680 irányelv 3. cikkének 4. pontjában említett, természetes személyekre vonatkozó profilalkotás céljából a bűnüldöző hatóságok által vagy nevében, vagy a bűnüldöző hatóságok támogatása érdekében uniós intézmények, szervek, hivatalok vagy ügynökségek által való használatra szánt MI-rendszerek;
7. migráció, menekültügy és határigazgatás, amennyiben azok használatát a releváns uniós vagy nemzeti jog megengedi:
a) az illetékes hatóságok vagy az uniós intézmények, szervek, hivatalok vagy ügynökségek által vagy nevében poligráfként vagy hasonló eszközként való használatra szánt MI-rendszerek;
b) a valamely tagállam területére belépni szándékozó vagy oda belépett természetes személy által jelentett kockázat – többek között biztonsági kockázat, irreguláris migrációs kockázat vagy egészségügyi kockázat – értékelését célzó, illetékes hatóságok által vagy nevében, vagy uniós intézmények, szervek, hivatalok vagy ügynökségek által való használatra szánt MI-rendszerek;
c) menedékjog iránti kérelmek, vízumkérelmek vagy tartózkodási engedély iránti kérelmek, valamint jogállást kérelmező természetes személyek jogosultsága tekintetében az ezekkel összefüggő panaszok kivizsgálásához – beleértve a bizonyítékok megbízhatóságának kapcsolódó értékeléseihez – az illetékes hatóságok által vagy nevében, vagy az illetékes hatóságok támogatása érekében uniós intézmények, szervek, hivatalok vagy ügynökségek által való használatra szánt MI-rendszerek;
d) a migrációval, a menekültüggyel vagy a határigazgatással összefüggésben – az úti okmányok ellenőrzése kivételével – a természetes személyek felderítése, felismerése vagy azonosítása céljából az illetékes hatóságok vagy az uniós intézmények, szervek, hivatalok vagy ügynökségek által vagy nevében való használatra szánt MI-rendszerek;
8. igazságszolgáltatás és demokratikus folyamatok:
a) igazságügyi hatóság által vagy nevében való használatra szánt MI-rendszerek, amelyek célja, hogy segítsék az igazságügyi hatóságokat a ténybeli és a jogi elemek kutatásában és értelmezésében, valamint a jog konkrét tényekre történő alkalmazásában, illetve hogy alternatív vitarendezés keretében hasonló módon használják őket;
b) választások vagy népszavazások eredményének vagy a természetes személyek választásokon vagy népszavazásokon tanúsított szavazási magatartásának befolyásolásához való használatra szánt MI-rendszerek. Nem tartoznak ide azok az MI-rendszerek, amelyek kimenete nem érint közvetlenül természetes személyeket, mint például a politikai kampányok adminisztratív vagy logisztikai szempontból való megszervezéséhez, optimalizálásához vagy strukturálásához használt eszközök.
Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.
📬 AI Act Weekly
Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.
AanmeldenVeelgestelde vragen
Welke AI-systemen staan in Bijlage III van de AI Act?
Bijlage III bevat acht categorieën hoog-risico AI-systemen: (1) biometrie, (2) kritieke infrastructuur, (3) onderwijs en beroepsopleiding, (4) werkgelegenheid en personeelsbeheer, (5) essentiële diensten, (6) rechtshandhaving, (7) migratie en grenscontrole, en (8) rechtsbedeling en democratische processen.
Is mijn AI-systeem hoog-risico volgens Bijlage III?
Controleer of uw AI-systeem valt onder een van de acht categorieën in Bijlage III. Het systeem moet 'bedoeld zijn om te worden gebruikt' voor het genoemde doel. De classificatie hangt af van het beoogde gebruik, niet van de onderliggende technologie.
Welke AI-systemen in HR en werving zijn hoog-risico?
Volgens Bijlage III, punt 4: AI voor (a) werving en selectie, waaronder gerichte vacatureadvertenties, het filteren van sollicitaties en het beoordelen van kandidaten, en (b) beslissingen over arbeidsvoorwaarden, promotie, ontslag, taakverdeling en het monitoren van prestaties.
Vallen AI-systemen in de bankensector onder Bijlage III?
Ja, als het AI-systeem wordt gebruikt voor kredietwaardigheidsbeoordelingen of het bepalen van kredietscores van natuurlijke personen (punt 5b). Uitzondering: AI-systemen voor het detecteren van financiële fraude vallen hier niet onder.
Zijn AI-systemen in de zorg hoog-risico volgens Bijlage III?
Ja, onder punt 5a: AI-systemen die door of namens overheidsinstanties worden gebruikt om de geschiktheid van personen voor essentiële publieke diensten te beoordelen, waaronder gezondheidszorg. Ook AI voor triage bij spoedgevallen (punt 5d) is hoog-risico.
Welke biometrische AI-systemen zijn hoog-risico?
Volgens Bijlage III, punt 1: (a) biometrische identificatie op afstand, (b) biometrische categorisering op basis van gevoelige kenmerken, en (c) emotieherkenning. Biometrische verificatie (bevestigen dat iemand is wie hij zegt te zijn) is uitgesloten.
Vallen AI-systemen bij de overheid onder Bijlage III?
Ja, meerdere categorieën zijn relevant voor de overheid: AI voor publieke dienstverlening (punt 5a), rechtshandhaving (punt 6), migratie en grenscontrole (punt 7), en rechtsbedeling (punt 8). Ook AI in onderwijs (punt 3) is relevant voor publieke onderwijsinstellingen.
Is AI voor emotieherkenning hoog-risico?
Ja, AI-systemen bedoeld voor emotieherkenning staan expliciet in Bijlage III, punt 1c. Let op: emotieherkenning op de werkplek en in het onderwijs is zelfs verboden onder artikel 5.
Welke AI in het onderwijs is hoog-risico?
Bijlage III, punt 3 noemt vier categorieën: (a) toelating tot onderwijsinstellingen, (b) beoordeling van leerresultaten, (c) bepalen van het juiste onderwijsniveau, en (d) het monitoren van verboden gedrag tijdens examens (proctoring).
Is AI voor noodoproepen hoog-risico?
Ja, Bijlage III, punt 5d classificeert AI-systemen die noodoproepen evalueren en classificeren, of die worden gebruikt voor het dispatchen van hulpdiensten (politie, brandweer, ambulance) en triage bij spoedeisende hulp als hoog-risico.
Kan de Europese Commissie Bijlage III uitbreiden?
Ja, artikel 7 geeft de Commissie de bevoegdheid om via gedelegeerde handelingen nieuwe hoog-risico AI-toepassingen aan Bijlage III toe te voegen, mits deze vergelijkbare risico's voor grondrechten opleveren als de bestaande categorieën.
Vallen AI-systemen voor verkiezingsbeïnvloeding onder Bijlage III?
Ja, Bijlage III, punt 8b classificeert AI-systemen bedoeld om de uitkomst van verkiezingen of referenda te beïnvloeden, of het stemgedrag van personen, als hoog-risico. Logistieke campagnetools waar burgers niet direct aan worden blootgesteld zijn uitgezonderd.
Valt AI voor verzekeringen onder Bijlage III?
Ja, Bijlage III punt 5c classificeert AI-systemen die worden gebruikt voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen van natuurlijke personen als hoog-risico. AI voor schadedetectie en fraudebestrijding bij verzekeringen valt hier niet automatisch onder.
Is AI-gestuurde CV-screening hoog-risico?
Ja, Bijlage III punt 4a classificeert AI-systemen voor het filteren en beoordelen van sollicitaties expliciet als hoog-risico. Dit omvat geautomatiseerde CV-screening, AI-gestuurde matching van kandidaten en geautomatiseerde assessments in wervingsprocessen.
Hoe weet ik of mijn AI-systeem 'bedoeld is om te worden gebruikt' voor een doel uit Bijlage III?
De classificatie hangt af van het beoogde gebruik (intended purpose) zoals bepaald door de aanbieder, niet van de technische mogelijkheden. Als een AI-systeem technisch geschikt is voor een Bijlage III-doel maar niet daarvoor is bedoeld, is het niet automatisch hoog-risico. Wel kan hergebruik voor een Bijlage III-doel leiden tot herclassificatie.