Annex IV AI Act
class="oj-doc-ti" id="d1e38-130-1">IV. MELLÉKLET
Officiële tekst
id="anx_IV"> IV. MELLÉKLET A 11. cikk (1) bekezdésében említett műszaki dokumentáció A 11. cikk (1) bekezdésében említett műszaki dokumentációnak a releváns MI-rendszerre alkalmazandó, legalább a következő információkat kell tartalmaznia:
1. az MI-rendszer általános leírása, ideértve a következőket:
a) a rendszer rendeltetése, a szolgáltató neve és a rendszer verziója, feltüntetve a korábbi verziókhoz való viszonyát;
b) adott esetben annak ismertetése, hogy az MI-rendszer hogyan működik együtt olyan hardverrel vagy szoftverrel, köztük más MI-rendszerekkel, amelyek nem részei magának az MI-rendszernek, illetve hogyan használható fel az ezekkel való interakcióra;
c) a releváns szoftver vagy förmver verziója és a verzió frissítéseivel kapcsolatos követelmények;
d) az MI-rendszer valamennyi forgalomba hozatali vagy üzembe helyezési formájának ismertetése, például a hardverbe beágyazott szoftvercsomagok, letölthető alkalmazások vagy API-k;
e) annak a hardvernek a leírása, amelyen az MI-rendszert működtetni kívánják;
f) amennyiben az MI-rendszer termékek alkotóeleme, e termékek külső jellemzőit, jelölését és belső elrendezését bemutató fényképek vagy illusztrációk;
g) az alkalmazó rendelkezésére bocsátott felhasználói felület alapleírása;
h) használati utasítás az alkalmazó számára és adott esetben az alkalmazó rendelkezésére bocsátott felhasználói felület alapleírása;
2. az MI-rendszer elemeinek és fejlesztési folyamatának részletes leírása, beleértve a következőket:
a) az MI-rendszer fejlesztése érdekében alkalmazott módszerek és az ennek érdekében tett lépések, beleértve adott esetben a harmadik felek által biztosított, előre betanított rendszerek vagy eszközök igénybevételét, valamint azt, hogy a szolgáltató hogyan használta, integrálta vagy módosította azokat;
b) a rendszer tervezési előírásai, nevezetesen az MI-rendszer és az algoritmusok általános logikája; a legfontosabb tervezési döntések, beleértve az indokokat és a feltételezéseket, többek között azon személyek vagy személyek csoportjai tekintetében is, akik vagy amelyek vonatkozásában a rendszert használni kívánják; a fő osztályozási döntések; tervezésének megfelelően mit optimalizál a rendszer és a különböző paraméterek relevanciája; a rendszer várt kimenetének és kimeneti minőségének leírása; a III. fejezet 2. szakaszában foglalt követelményeknek való megfelelés érdekében elfogadott műszaki megoldásokkal kapcsolatos, az esetleges kompromisszumokra vonatkozó döntések;
c) a rendszer architektúrájának leírása, ismertetve, hogy a szoftverösszetevők hogyan épülnek egymásra vagy egymásba, illetve hogyan integrálódnak a teljes folyamatba; az MI-rendszer fejlesztéséhez, tanításához, teszteléséhez és validálásához használt számítási erőforrások;
d) adott esetben a tanítómódszereket és -technikákat, valamint az alkalmazott tanítóadat-készleteket leíró adatlapokra vonatkozó adatszolgáltatási követelmények, ideértve ezen adatkészletek általános leírását, az eredetükre, a hatályukra és a fő jellemzőikre vonatkozó információkat is; az adatok megszerzésének és kiválasztásának módja; címkézési eljárások (például felügyelt tanulás esetén), adattisztítási módszerek (például a kiugró értékek észlelése);
e) a 14. cikkel összhangban szükséges emberi felügyeleti intézkedések értékelése, beleértve az MI-rendszerekhez kapcsolódó kimenetek alkalmazók általi értelmezésének megkönnyítéséhez szükséges technikai intézkedések értékelését, a 13. cikk (3) bekezdésének d) pontjával összhangban;
f) adott esetben az MI-rendszer és teljesítménye előre meghatározott változtatásainak részletes leírása, az MI-rendszernek a III. fejezet 2. szakaszában foglalt releváns követelményeknek való folyamatos megfelelését biztosító műszaki megoldásokkal kapcsolatos valamennyi releváns információval együtt;
g) az alkalmazott validálási és tesztelési eljárások, beleértve a felhasznált validálási és tesztelési adatokra és azok fő jellemzőire vonatkozó információkat; a pontosság, a megbízhatóság és a III. fejezet 2. szakaszában foglalt egyéb vonatkozó követelményeknek való megfelelés mérésére használt mérőszámok, valamint a potenciálisan diszkriminatív hatások; a felelős személyek által dátummal és aláírással ellátott tesztelési naplók és tesztelési jelentések, többek között az f) pontban említett, előre meghatározott változtatásokra vonatkozóan;
h) az életbe léptetett kiberbiztonsági intézkedések;
3. az MI-rendszer nyomon követésére, működésére és ellenőrzésére vonatkozó részletes információk, különös tekintettel a következőkre: a rendszer teljesítménybeli képességei és korlátai, beleértve a pontosság fokát azon személyek vagy személyek csoportjai esetében, akik vagy amelyek tekintetében a rendszert használni kívánják, valamint a pontosság általános elvárt szintje a rendeltetéséhez viszonyítva; az előre látható nem kívánt eredmények, valamint az egészséggel és a biztonsággal, az alapvető jogokkal és a megkülönböztetéssel kapcsolatos kockázatok forrásai az MI-rendszer rendeltetése tekintetében; a 14. cikkel összhangban szükséges emberi felügyeleti intézkedések, beleértve az MI-rendszerek kimeneteinek alkalmazók általi értelmezését megkönnyítő technikai intézkedéseket; adott esetben a bemeneti adatokra vonatkozó előírások;
4. a teljesítménymutatók megfelelőségének leírása az adott MI-rendszer tekintetében;
5. a 9. cikk szerinti kockázatkezelési rendszer részletes ismertetése;
6. a szolgáltató által a rendszeren, annak életciklusa során végrehajtott releváns változtatások leírása;
7. az olyan, részben vagy egészben alkalmazott harmonizált szabványok jegyzéke, amelyek hivatkozása megjelent az Európai Unió Hivatalos Lapjában; amennyiben nem került sor ilyen harmonizált szabványok alkalmazására, a III. fejezet 2. szakaszában foglalt követelményeknek való megfelelés érdekében alkalmazott megoldások részletes leírása, beleértve az egyéb releváns szabványok és műszaki előírások jegyzékét;
8. a 47. cikkben említett EU-megfelelőségi nyilatkozat másolata;
9. a 72. cikkel összhangban az MI-rendszer teljesítményének a forgalomba hozatalt követő értékelésére szolgáló rendszer részletes leírása, beleértve a 72. cikk (3) bekezdésében említett forgalomba hozatal utáni nyomonkövetési tervet.
Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.
📬 AI Act Weekly
Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.
AanmeldenVeelgestelde vragen
Wat moet er in de technische documentatie volgens Bijlage IV?
Bijlage IV vereist negen onderdelen: (1) algemene beschrijving van het AI-systeem, (2) gedetailleerde beschrijving van elementen en ontwikkelproces, (3) monitoring en controle-informatie, (4) geschiktheid van prestatiemetrieken, (5) risicobeheer, (6) wijzigingen gedurende de levenscyclus, (7) toegepaste normen, (8) EU-conformiteitsverklaring, en (9) post-market monitoringsysteem.
Welke informatie over trainingsdata moet in de technische documentatie?
Punt 2d vereist: datavereisten inclusief datasheets met trainingsmethodologieën, beschrijving van trainingsdatasets, herkomst en omvang van data, hoe data is verkregen en geselecteerd, labelprocedures (bijv. bij supervised learning), en datacleaning-methoden (bijv. outlier-detectie).
Moet ik cybersecuritymaatregelen documenteren?
Ja, punt 2h van Bijlage IV vereist expliciet dat de getroffen cybersecuritymaatregelen worden opgenomen in de technische documentatie.
Wat moet ik documenteren over menselijk toezicht?
Punt 2e vereist een beoordeling van de noodzakelijke menselijk-toezichtmaatregelen conform artikel 14, inclusief een beoordeling van technische maatregelen die het voor gebruikers mogelijk maken om de output van het AI-systeem te interpreteren (conform artikel 13, lid 3, punt d).
Hoe uitgebreid moet de risicobeoordeling in de technische documentatie zijn?
Punt 5 vereist een gedetailleerde beschrijving van het risicobeheersysteem conform artikel 9. Dit omvat identificatie van risico's voor gezondheid, veiligheid en grondrechten, risicobeperkende maatregelen, en restrisico-analyse.
Moet ik testresultaten opnemen in de technische documentatie?
Ja, punt 2g vereist: validatie- en testprocedures, informatie over test- en validatiedata, gebruikte metrieken voor nauwkeurigheid, robuustheid en compliance, potentieel discriminerende effecten, testlogs en alle testrapporten gedateerd en ondertekend.
Wat moet er in de algemene beschrijving van het AI-systeem?
Punt 1 vereist: (a) beoogd doel, naam aanbieder en versie, (b) interactie met hardware/software, (c) softwareversies, (d) vormen van marktintroductie (API, download, etc.), (e) beoogde hardware, (f) foto's bij ingebouwde producten, (g) beschrijving user interface, (h) gebruiksinstructies.
Moet ik wijzigingen aan het AI-systeem bijhouden?
Ja, punt 6 vereist een beschrijving van relevante wijzigingen die de aanbieder gedurende de levenscyclus aan het systeem heeft aangebracht. Ook punt 2f vereist documentatie van vooraf bepaalde wijzigingen en hoe continue compliance wordt gewaarborgd.
Is de technische documentatie van Bijlage IV verplicht voor alle AI-systemen?
Nee, Bijlage IV is alleen verplicht voor hoog-risico AI-systemen (conform artikel 11, lid 1). Voor AI-modellen voor algemene doeleinden (GPAI) geldt Bijlage XI.
Hoe verhoudt Bijlage IV zich tot de post-market monitoring?
Punt 9 vereist een gedetailleerde beschrijving van het systeem voor het evalueren van AI-prestaties na marktintroductie, conform artikel 72, inclusief het post-market monitoringsplan van artikel 72, lid 3.
Moet ik geharmoniseerde normen vermelden in de documentatie?
Ja, punt 7 vereist een lijst van toegepaste geharmoniseerde normen. Als geen geharmoniseerde normen zijn toegepast, moet een gedetailleerde beschrijving worden gegeven van de alternatieve oplossingen om aan de eisen van Hoofdstuk III, Afdeling 2 te voldoen.
Hoe bewaar ik de technische documentatie van Bijlage IV?
Conform artikel 18 moet de technische documentatie worden opgesteld vóór het AI-systeem op de markt wordt gebracht en actueel worden gehouden. De documentatie moet ten minste 10 jaar na marktintroductie beschikbaar zijn voor de bevoegde autoriteiten.
Hoe verhoudt de technische documentatie van Bijlage IV zich tot ISO 42001?
ISO/IEC 42001 (AI Management System) biedt een raamwerk dat deels overlapt met de eisen van Bijlage IV. Een ISO 42001-certificering dekt echter niet automatisch alle vereisten af. Bijlage IV bevat specifieke EU-eisen rond conformiteitsverklaring, post-market monitoring en CE-markering die verder gaan dan ISO 42001.
Wie heeft toegang tot de technische documentatie van Bijlage IV?
De technische documentatie moet beschikbaar zijn voor nationale markttoezichtautoriteiten op verzoek. U hoeft de documentatie niet openbaar te publiceren. Bij hoog-risico AI-systemen die een beoordeling door een aangemelde instantie vereisen (Bijlage VII), moet de documentatie ook aan deze instantie worden verstrekt.
Mag ik de technische documentatie in het Nederlands opstellen?
De technische documentatie moet worden opgesteld in een taal die door de betrokken lidstaat wordt geaccepteerd. In de praktijk accepteren de meeste lidstaten Engels. Controleer bij uw nationale toezichthouder of documentatie in het Nederlands of Engels volstaat voor uw markt.