Responsible AI Platform

Annex III AI Act

Artikli 6 lõikes 2 osutatud suure riskiga tehisintellektisüsteemid

Official text

id="anx_III "> III LISA Artikli 6 lõikes 2 osutatud suure riskiga tehisintellektisüsteemid Artikli 6 lõike 2 kohaselt on suure riskiga tehisintellektisüsteemid järgmistes valdkondades loetletud tehisintellektisüsteemid.

1. Biomeetria, kui selliste süsteemide kasutamine on lubatud asjakohase liidu või riigisisese õigusega:

a) biomeetrilise kaugtuvastamise süsteemid. See ei hõlma tehisintellektisüsteeme, mis on ette nähtud kasutamiseks biomeetriliseks kontrolliks ja mille ainus eesmärk on kinnitada, et konkreetne füüsiline isik on isik, kes ta väidab end olevat;

b) tehisintellektisüsteemid, mis on ette nähtud biomeetriliseks liigitamiseks tundlike või kaitstud atribuutide või omaduste alusel, mis põhinevad nende atribuutide või omadustega seotud järeldustel;

c) tehisintellektisüsteemid, mis on ette nähtud emotsioonituvastuseks.

2. Elutähtis taristu: tehisintellektisüsteemid, mis on ette nähtud kasutamiseks elutähtsa digitaristu, maanteeliikluse või vee, gaasi, kütteenergia või elektri tarnimise korraldamise ja käitamise turvakomponentidena.

3. Haridus ja kutseõpe:

a) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks selleks, et määrata kindlaks füüsiliste isikute juurdepääs haridus- ja kutseõppeasutustele või nende vastuvõtmine või määramine nendesse kõigil tasanditel;

b) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks õpiväljundite hindamiseks, muu hulgas juhul, kui neid väljundeid kasutatakse füüsiliste isikute õppeprotsessi suunamiseks haridus- ja kutseõppeasutustes kõigil tasanditel;

c) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks selleks, et hinnata sobivat haridustaset, mille isik saab või millele tal on juurdepääs kõigi tasandite haridus- ja kutseõppeasutustes;

d) tehisintellektisüsteemid, mis on ette nähtud õpilaste keelatud käitumise jälgimiseks ja avastamiseks kõigi tasandite haridus- ja kutseõppeasutustes tehtavate testide ajal.

4. Tööhõive, töötajate juhtimine ja iseenda tööandjana tegutsemise võimaldamine:

a) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks füüsiliste isikute töölevõtmiseks või valimiseks, eelkõige sihipäraste töökuulutuste avaldamiseks, tööle kandideerimise taotluste analüüsimiseks ja filtreerimiseks ning kandidaatide hindamiseks;

b) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks selleks, et teha otsuseid, mis mõjutavad tööga seotud suhteid, edutamist ja tööga seotud lepinguliste suhete lõpetamist, et jagada isiku käitumise või isikuomaduste või erijoonte põhjal tööülesandeid või tegeleda selliste suhete kontekstis inimeste töötulemuste ja käitumise seire ja hindamisega

5. Oluliste erateenuste ning oluliste avalike teenuste ja hüvede kättesaadavus ja kasutamine:

a) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks ametiasutustele või nende nimel, et hinnata füüsiliste isikute vastavust oluliste avalike hüvede ja teenuste, sealhulgas tervishoiuteenuste saamise tingimustele, samuti selleks, et selliseid hüvesid ja teenuseid anda, vähendada, tühistada või tagasi nõuda;

b) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks selleks, et hinnata füüsiliste isikute krediidikõlblikkust või anda neile krediidihinnang, välja arvatud tehisintellektisüsteemid, mida kasutatakse finantspettuste avastamiseks;

c) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks füüsiliste isikutega seotud riskihindamiseks ja hinnakujunduseks elu- ja tervisekindlustuse puhul;

d) tehisintellektisüsteemid, mis on ette nähtud füüsiliste isikute hädaabikõnede hindamiseks ja liigitamiseks või kasutamiseks kiirabi ja päästeteenistuse, sealhulgas politsei, tuletõrje ja arstiabi väljasaatmiseks ja väljasaatmisprioriteetide seadmiseks ning erakorralise arstiabi patsientide triaaži süsteemide tööks.

6. Õiguskaitse, kui selliste süsteemide kasutamine on lubatud asjakohase liidu või riigisisese õigusega:

a) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks õiguskaitseasutustele või nende nimel või liidu institutsioonidele, organitele või asutustele õiguskaitseasutuste toetamiseks või nende nimel, et hinnata füüsilise isiku riski langeda kuriteo ohvriks;

b) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks õiguskaitseasutustele või nende nimel või liidu institutsioonidele, organitele või asutustele õiguskaitseasutuste toetamiseks valedetektori või sarnase vahendina;

c) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks õiguskaitseasutustele või nende nimel või liidu institutsioonidele, organitele ja asutustele õiguskaitseasutuste toetamiseks, et hinnata tõendite usaldusväärsust kuritegude uurimise või nende eest vastutusele võtmise käigus;

d) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks õiguskaitseasutustele või nende nimel või liidu institutsioonidele, organitele ja asutustele õiguskaitseasutuste toetamiseks, et hinnata füüsilise isiku poolt õigusrikkumise või korduva õigusrikkumise toimepanemise riski mitte üksnes füüsiliste isikute profiilianalüüsi põhjal, nagu on osutatud direktiivi (EL) 2016/680 artikli 3 punktis 4, või hinnata füüsiliste isikute või rühmade isikuomadusi, erijooni või varasemat kuritegelikku käitumist;

e) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks õiguskaitseasutustele või nende nimel või liidu institutsioonidele, organitele ja asutustele õiguskaitseasutuste toetamiseks, et teha kuritegude avastamise, uurimise või nende eest vastutusele võtmise käigus füüsiliste isikute profiilianalüüsi, nagu on osutatud direktiivi (EL) 2016/680 artikli 3 lõikes 4.

7. Rände-, varjupaiga- ja piirikontrollihaldus, kui selliste süsteemide kasutamine on lubatud asjakohase liidu või riigisisese õigusega:

a) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks pädevatele asutustele või nende nimel või kasutamiseks liidu institutsioonidele, organitele või asutustele valedetektorite ja muude samalaadsete vahenditena;

b) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks pädevatele ametiasutustele või nende nimel või liidu institutsioonidele, asutustele ja organitele, et hinnata riske, sh julgeolekuriski, ebaseadusliku rände riski või terviseriski, mille põhjustab füüsiline isik, kes kavatseb siseneda või on sisenenud liikmesriigi territooriumile;

c) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks pädevatele ametiasutustele või nende nimel või liidu institutsioonidele, organitele või asutustele, et abistada pädevaid ametiasutusi varjupaiga-, viisa- ja elamisloataotluste ja nendega seotud kaebuste läbivaatamisel seoses sellist staatust taotlevate füüsiliste isikute vastavusega asjakohastele tingimustele, hõlmates sellega seotud tõendite usaldusväärsuse hindamine;

d) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks pädevatele ametiasutustele või nende nimel või liidu institutsioonidele, organitele või asutustele rände-, varjupaiga- või piirikontrollihalduse kontekstis, füüsiliste isikute avastamiseks, ära tundmiseks või tuvastamiseks, välja arvatud reisidokumentide kontrollimine.

8. Õigusemõistmine ja demokraatlikud protsessid:

a) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks õigusasutustele või nende nimel, et abistada õigusasutusi faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel konkreetse faktide kogumi suhtes, või mida kasutatakse sarnasel viisil vaidluste kohtuväliseks lahendamiseks;

b) tehisintellektisüsteemid, mis on ette nähtud kasutamiseks selleks, et mõjutada valimiste või rahvahääletuste tulemusi või füüsiliste isikute hääletamiskäitumist valimistel või rahvahääletustel. See ei hõlma tehisintellektisüsteeme, mille väljundiga füüsilised isikud otseselt kokku ei puutu, näiteks vahendid, mida kasutatakse poliitiliste kampaaniate korraldamiseks, optimeerimiseks või struktureerimiseks halduslikust või logistilisest seisukohast.

Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.

📬 AI Act Weekly

Get the most important AI Act developments in your inbox every week.

Subscribe

Frequently asked questions

Which AI systems are listed in Annex III of the AI Act?

Annex III contains eight categories of high-risk AI systems: (1) biometrics, (2) critical infrastructure, (3) education and vocational training, (4) employment and workers management, (5) essential services, (6) law enforcement, (7) migration and border control, and (8) administration of justice and democratic processes.

Is my AI system high-risk according to Annex III?

Check whether your AI system falls under one of the eight categories in Annex III. The system must be 'intended to be used' for the stated purpose. Classification depends on the intended use, not the underlying technology.

Which AI systems in HR and recruitment are high-risk?

Under Annex III, point 4: AI for (a) recruitment and selection, including targeted job ads, filtering applications and evaluating candidates, and (b) decisions on working conditions, promotion, termination, task allocation and monitoring performance.

Do AI systems in the banking sector fall under Annex III?

Yes, if the AI system is used for creditworthiness assessments or establishing credit scores of natural persons (point 5b). Exception: AI systems for detecting financial fraud are excluded.

Are AI systems in healthcare high-risk under Annex III?

Yes, under point 5a: AI used by or on behalf of public authorities to evaluate eligibility for essential public services, including healthcare. AI for emergency triage (point 5d) is also high-risk.

Which biometric AI systems are high-risk?

Under Annex III, point 1: (a) remote biometric identification systems, (b) biometric categorisation based on sensitive characteristics, and (c) emotion recognition. Biometric verification (confirming someone is who they claim to be) is excluded.

Do government AI systems fall under Annex III?

Yes, multiple categories are relevant for government: AI for public services (point 5a), law enforcement (point 6), migration and border control (point 7), and administration of justice (point 8). AI in education (point 3) is also relevant for public institutions.

Is AI for emotion recognition high-risk?

Yes, AI systems intended for emotion recognition are explicitly listed in Annex III, point 1c. Note: emotion recognition in the workplace and education is even prohibited under Article 5.

Which AI in education is high-risk?

Annex III, point 3 lists four categories: (a) admission to educational institutions, (b) evaluating learning outcomes, (c) assessing the appropriate education level, and (d) monitoring prohibited behaviour during tests (proctoring).

Is AI for emergency calls high-risk?

Yes, Annex III, point 5d classifies AI systems that evaluate and classify emergency calls, or are used for dispatching emergency services (police, fire, ambulance) and emergency healthcare triage as high-risk.

Can the European Commission expand Annex III?

Yes, Article 7 empowers the Commission to add new high-risk AI applications to Annex III through delegated acts, provided they pose comparable risks to fundamental rights as the existing categories.

Do AI systems for election influence fall under Annex III?

Yes, Annex III, point 8b classifies AI systems intended to influence the outcome of elections or referenda, or voting behaviour, as high-risk. Logistical campaign tools not directly exposed to citizens are excluded.

Does AI for insurance fall under Annex III?

Yes, Annex III point 5c classifies AI systems used for risk assessment and pricing in relation to natural persons for life and health insurance as high-risk. AI for claims detection and fraud prevention in insurance does not automatically fall under this category.

Is AI-powered CV screening high-risk?

Yes, Annex III point 4a explicitly classifies AI systems for filtering and evaluating job applications as high-risk. This includes automated CV screening, AI-powered candidate matching and automated assessments in recruitment processes.

How do I know if my AI system is 'intended to be used' for an Annex III purpose?

Classification depends on the intended purpose as determined by the provider, not on technical capabilities. If an AI system is technically capable of an Annex III purpose but not intended for it, it is not automatically high-risk. However, repurposing for an Annex III purpose can lead to reclassification.