Overweging 56 AI Act

id="rct_56">

(56)

Tähtis on juurutada tehisintellektisüsteeme hariduses, et edendada kvaliteetset digiõpet ja -koolitust ning võimaldada kõigil õppijatel ja õpetajatel omandada ja jagada vajalikke digioskusi ja -pädevusi, sealhulgas meediapädevust ja kriitilist mõtlemist, et osaleda aktiivselt majanduses, ühiskonnas ja demokraatlikes protsessides. Kuid tehisintellektisüsteemid, mida kasutatakse hariduses või kutseõppes, eelkõige selleks, et otsustada juurdepääs või vastuvõtmine, isikute määramine haridus- ja kutseõppeasutustesse või -programmidesse kõikidel tasanditel, hinnata isikute õpitulemusi, hinnata üksikisiku asjakohast haridustaset ja oluliselt mõjutada haridus- ja koolitustaset, mida inimestele pakutakse või millele nad saavad juurde pääseda, või jälgida ja avastada õpilaste keelatud käitumist katsete ajal, tuleks liigitada suure riskiga tehisintellektisüsteemideks, sest need võivad otsustada inimese haridusliku ja kutsealase käekäigu ning mõjutada seega selle inimese toimetulekut. Kui sellised süsteemid ei ole korrektselt projekteeritud või kui neid ei kasutata korrektselt, võivad need olla eriti sekkuvad ja rikkuda õigust haridusele ja koolitusele, aga ka õigust mitte olla diskrimineeritud, ning põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, näiteks naiste, teatavate vanuserühmade, puuetega inimeste või teatava rassilise või etnilise päritoluga või seksuaalse sättumusega inimeste vastu.