Recital 110 AI Act

id="rct_110">

(110)

Vispārīga lietojuma MI modeļi varētu radīt sistēmiskus riskus, kas cita starpā ietver jebkādu faktisku vai pamatoti paredzamu negatīvu ietekmi saistībā ar smagiem negadījumiem, kritisko nozaru darbības traucējumiem un nopietnām sekām sabiedrības veselībai un drošībai; jebkādu faktisku vai pamatoti paredzamu negatīvu ietekmi uz demokrātiskajiem procesiem, sabiedrības un ekonomikas drošību; nelikumīga, nepatiesa vai diskriminējoša satura izplatīšanu. Sistēmiskie riski būtu jāsaprot kā tādi, kas palielinās līdz ar modeļa spējām un modeļa tvērumu, var rasties visā modeļa dzīves ciklā un ko ietekmē ļaunprātīgas izmantošanas apstākļi, modeļa uzticamība, modeļa taisnīgums un modeļa drošība, modeļa autonomijas pakāpe, tā piekļuve rīkiem, nebijušas vai kombinētas modalitātes, laišanas apgrozībā un izplatīšanas stratēģijas, aizsargmehānismu likvidēšanas potenciāls un citi faktori. Jo īpaši starptautiskajās pieejās līdz šim ir konstatēta vajadzība pievērst uzmanību riskiem, ko rada potenciāli tīša ļaunprātīga izmantošana vai neparedzētas kontroles problēmas saistībā ar saskaņošanu ar cilvēka nolūku; ķīmiskiem, bioloģiskiem, radioloģiskiem riskiem un kodolriskiem, piemēram, veidiem, kā samazināt iekļūšanas šķēršļus, tostarp attiecībā uz ieroču izstrādi, projektēšanu iegādi vai izmantošanu; ofensīvām kiberspējām, piemēram, neaizsargātības atklāšanas, izmantošanas vai operatīvas izmantošanas veidiem; rīku mijiedarbības un izmantošanas ietekmei, tostarp, piemēram, spējai kontrolēt fiziskās sistēmas un ietekmēt kritisko infrastruktūru; riskiem, ko rada modeļi, kas paši sevi kopē, ir “pašreplicējoši” vai apmāca citus modeļus; veidiem, kā modeļi var veicināt kaitējošus aizspriedumus un diskrimināciju, rados riskus personām, kopienām vai sabiedrībai; dezinformācijas veicināšanai vai privātuma aizskārumiem, kas apdraud demokrātiskās vērtības un cilvēktiesības; riskam, ka konkrēts notikums varētu izraisīt ķēdes reakciju ar ievērojamu negatīvu ietekmi, kas varētu skart veselu pilsētu, veselas jomas darbību vai veselu kopienu.