Recital 29 AI Act

id="rct_29">

(29)

DI grindžiami manipuliavimo metodai gali būti naudojami siekiant įtikinti asmenis atlikti nepageidaujamus veiksmus arba juos apgauti, skatinant juos priimti sprendimus taip, kad būtų trukdoma ir kenkiama jų autonomiškumui, sprendimų priėmimui ir laisvam pasirinkimui. Tam tikrų DI sistemų pateikimas rinkai, pradėjimas naudoti arba naudojimas siekiant iš esmės iškreipti arba iškreipiant žmogaus elgesį, galbūt sukeliant didelę žalą, visų pirma darančią pakankamai didelį neigiamą poveikį fizinei, psichologinei sveikatai ar finansiniams interesams, yra ypač pavojingas ir todėl turėtų būti draudžiamas. Tokiose DI sistemose naudojami pasąmonę veikiantys komponentai, pavyzdžiui, garso, paveikslėlių, judamo vaizdo stimuliacijos, kurių žmonės negali suvokti, nes tos stimuliacijos priemonės yra žmogui nesuvokiamos, arba kiti manipuliavimo ar apgaulės metodai, kuriais trukdoma arba kenkiama asmens autonomiškumui, sprendimų priėmimui ar laisvam pasirinkimui tokiais būdais, kad žmonės sąmoningai nesuvokia tų priemonių, jei jas ir suvokia, vis tiek yra apgaunami arba negali jų kontroliuoti ar joms pasipriešinti. Tą galėtų palengvinti, pavyzdžiui, mašinos ir smegenų sąsajos arba virtualioji realybė, nes jos leidžia geriau kontroliuoti, kokios stimuliacijos pateikiamos žmonėms, tiek, kiek jos gali iš esmės iškreipti jų elgesį labai žalingu būdu. Be to, DI sistemos taip pat gali kitaip išnaudoti asmens arba konkrečios asmenų grupės pažeidžiamumą dėl jų amžiaus, negalios, kaip tai suprantama Europos Parlamento ir Tarybos direktyvoje (ES) 2019/882 (16), arba konkrečios socialinės ar ekonominės padėties, dėl kurios tuos asmenis yra lengviau išnaudoti, pavyzdžiui, ypač skurdžiai gyvenančius asmenis, etnines ar religines mažumas. Tokios DI sistemos gali būti pateiktos rinkai, pradėtos naudoti arba naudojamos siekiant iš esmės iškreipti arba iškreipiant asmens elgesį tokiu būdu, kuris sukelia arba pagrįstai manoma, kad gali sukelti didelę žalą tam ar kitam asmeniui arba asmenų grupėms, įskaitant žalą, kuri laikui bėgant gali didėti, ir todėl turėtų būti draudžiamos. Gali būti neįmanoma daryti prielaidos, kad ketinama iškreipti elgesį, kai iškreipimą lemia su DI sistema nesusiję veiksniai, kurių tiekėjas ar diegėjas negali kontroliuoti, t. y. veiksniai, kurių DI sistemos tiekėjas ar diegėjas negali pagrįstai numatyti ir dėl to negali sušvelninti jų poveikio. Bet kuriuo atveju nebūtina, kad tiekėjas ar diegėjas ketintų sukelti didelę žalą, jeigu tokia žala vis tiek atsiranda dėl manipuliavimo ar išnaudojimo pasitelkiant DI grindžiamas praktiką. Tokios DI praktikos draudimai papildo Europos Parlamento ir Tarybos direktyvos 2005/29/EB (17) nuostatas, visų pirma tai, kad nesąžininga komercinė praktika, daranti ekonominę ar finansinę žalą vartotojams, yra draudžiama bet kokiomis aplinkybėmis, nepaisant to, ar ji vykdoma naudojant DI sistemas ar kitaip. Šiame reglamente nustatyti manipuliavimo ir išnaudojimo praktikos draudimai neturėtų daryti poveikio teisėtai praktikai, susijusiai su medicininiu gydymu, pavyzdžiui, psichologiniu psichikos ligos gydymu ar fizine reabilitacija, kai tokia praktika vykdoma laikantis taikytinos teisės ir medicinos standartų, pavyzdžiui, gavus aiškų asmenų arba jų teisinių atstovų sutikimą. Be to, įprasta ir teisėta komercinė praktika, pavyzdžiui, reklamos srityje, kuri atitinka taikytiną teisę, neturėtų būti savaime laikoma DI grindžiama žalinga manipuliavimo praktika;