Recital 44 AI Act

id="rct_44">

(44)

didelį susirūpinimą kelia DI sistemų, kuriomis siekiama nustatyti emocijas arba daryti dėl jų išvadas, mokslinis pagrindas, visų pirma dėl to, kad emocijų raiška įvairiose kultūrose ir situacijose, taip pat net ir vieno asmens atveju, labai skiriasi. Vienas iš pagrindinių tokių sistemų trūkumų yra ribotas patikimumas, specifiškumo stoka ir ribotos galimybės apibendrinti. Todėl DI sistemos, pagal kurias nustatomos fizinių asmenų emocijos ar ketinimai arba daromos dėl jų išvados remiantis jų biometriniais duomenimis, gali lemti diskriminuojančius rezultatus ir gali riboti atitinkamų asmenų teises ir laisves. Atsižvelgiant į galios disbalansą darbo arba švietimo srityje ir į tai, kad šios sistemos yra ribojančio pobūdžio, tokios sistemos galėtų lemti žalingą arba nepalankų elgesį su tam tikrais fiziniais asmenimis arba ištisomis jų grupėmis. Todėl turėtų būti draudžiama pateikti rinkai, pradėti naudoti arba naudoti DI sistemas, skirtas naudoti siekiant nustatyti asmenų emocinę būklę situacijose, susijusiose su darbo vieta ir švietimu. Tas draudimas neturėtų būti taikomas DI sistemoms, kurios pateikiamos rinkai tik dėl medicininių ar saugumo priežasčių, pavyzdžiui, sistemoms, skirtoms naudoti terapijoje;