Recital 65 AI Act

id="rct_65">

(65)

A kockázatkezelési rendszernek olyan megszakítás nélkül végzett iteratív folyamatnak kell lennie, amelyet a nagy kockázatú MI-rendszer teljes életciklusára terveztek és működtetnek. Az említett folyamatnak az MI-rendszerek által az egészségre, a biztonságra és az alapvető jogokra jelentett releváns kockázatok azonosítására és enyhítésére kell irányulnia. A kockázatkezelési rendszert rendszeresen felül kell vizsgálni és aktualizálni kell a folyamatos hatékonyságának biztosítása, valamint az e rendelet alapján hozott valamennyi jelentős döntés és intézkedés alátámasztása és dokumentálása érdekében. E folyamatnak biztosítania kell, hogy a szolgáltató azonosítsa a kockázatokat vagy kedvezőtlen hatásokat, és az MI-rendszerek által az egészségre, a biztonságra és az alapvető jogokra jelentett ismert és észszerűen előrelátható kockázatokra vonatkozó enyhítő intézkedéseket vezessen be a rendeltetésük vagy az észszerűen előre látható rendellenes használatuk fényében, ideértve az MI-rendszer és a működési környezete közötti kölcsönhatásból eredő lehetséges kockázatokat is. A kockázatkezelési rendszer révén az MI-vel kapcsolatos technika mindenkori állásának fényében legmegfelelőbb kockázatkezelési intézkedéseket kell elfogadni. A legmegfelelőbb kockázatkezelési intézkedések meghatározásakor a szolgáltatónak dokumentálnia kell és meg kell indokolnia a meghozott döntéseket, és adott esetben be kell vonnia szakértőket és külső érdekelt feleket. A nagy kockázatú MI-rendszerek észszerűen előrelátható rendellenes használatának meghatározásakor a szolgáltatónak ki kell térnie az MI-rendszerek olyan használatára, amelyekre a rendszer rendeltetése nem terjed ki közvetlenül és amelyek nem szerepelnek a használati utasításban, azonban az adott MI-rendszer sajátos jellemzői és használata összefüggésében észszerűen feltételezhető, hogy az előrelátható emberi magatartásból eredhet. A szolgáltató által biztosított használati utasításnak tartalmaznia kell minden olyan ismert vagy előre látható, a nagy kockázatú MI-rendszer rendeltetésszerű használatával vagy az észszerűen előrelátható rendellenes használatával kapcsolatos körülményt, amely kockázatot jelenthet az egészségre és a biztonságra vagy az alapvető jogokra nézve. Ez annak biztosítását célozza, hogy az alkalmazó tisztában legyen azokkal, és figyelembe vegye azokat a nagy kockázatú MI-rendszer használata során. Az e rendelet szerinti észszerűen előrelátható rendellenes használatra vonatkozó kockázatenyhítő intézkedések meghatározása és végrehajtása nem tehet szükségessé a szolgáltató részéről a nagy kockázatú MI-rendszer tekintetében konkrét további tanítást az előrelátható rendellenes használat kezelése céljából. A szolgáltatók azonban ösztönözve vannak ilyen további tanító intézkedések fontolóra vételére, hogy szükség szerint és adott esetben mérsékeljék az észszerűen előrelátható rendellenes használatokat.