Responsible AI Platform

Annex IV AI Act

class="oj-doc-ti" id="d1e38-130-1">IV. MELLÉKLET

Official text

id="anx_IV"> IV. MELLÉKLET A 11. cikk (1) bekezdésében említett műszaki dokumentáció A 11. cikk (1) bekezdésében említett műszaki dokumentációnak a releváns MI-rendszerre alkalmazandó, legalább a következő információkat kell tartalmaznia:

1. az MI-rendszer általános leírása, ideértve a következőket:

a) a rendszer rendeltetése, a szolgáltató neve és a rendszer verziója, feltüntetve a korábbi verziókhoz való viszonyát;

b) adott esetben annak ismertetése, hogy az MI-rendszer hogyan működik együtt olyan hardverrel vagy szoftverrel, köztük más MI-rendszerekkel, amelyek nem részei magának az MI-rendszernek, illetve hogyan használható fel az ezekkel való interakcióra;

c) a releváns szoftver vagy förmver verziója és a verzió frissítéseivel kapcsolatos követelmények;

d) az MI-rendszer valamennyi forgalomba hozatali vagy üzembe helyezési formájának ismertetése, például a hardverbe beágyazott szoftvercsomagok, letölthető alkalmazások vagy API-k;

e) annak a hardvernek a leírása, amelyen az MI-rendszert működtetni kívánják;

f) amennyiben az MI-rendszer termékek alkotóeleme, e termékek külső jellemzőit, jelölését és belső elrendezését bemutató fényképek vagy illusztrációk;

g) az alkalmazó rendelkezésére bocsátott felhasználói felület alapleírása;

h) használati utasítás az alkalmazó számára és adott esetben az alkalmazó rendelkezésére bocsátott felhasználói felület alapleírása;

2. az MI-rendszer elemeinek és fejlesztési folyamatának részletes leírása, beleértve a következőket:

a) az MI-rendszer fejlesztése érdekében alkalmazott módszerek és az ennek érdekében tett lépések, beleértve adott esetben a harmadik felek által biztosított, előre betanított rendszerek vagy eszközök igénybevételét, valamint azt, hogy a szolgáltató hogyan használta, integrálta vagy módosította azokat;

b) a rendszer tervezési előírásai, nevezetesen az MI-rendszer és az algoritmusok általános logikája; a legfontosabb tervezési döntések, beleértve az indokokat és a feltételezéseket, többek között azon személyek vagy személyek csoportjai tekintetében is, akik vagy amelyek vonatkozásában a rendszert használni kívánják; a fő osztályozási döntések; tervezésének megfelelően mit optimalizál a rendszer és a különböző paraméterek relevanciája; a rendszer várt kimenetének és kimeneti minőségének leírása; a III. fejezet 2. szakaszában foglalt követelményeknek való megfelelés érdekében elfogadott műszaki megoldásokkal kapcsolatos, az esetleges kompromisszumokra vonatkozó döntések;

c) a rendszer architektúrájának leírása, ismertetve, hogy a szoftverösszetevők hogyan épülnek egymásra vagy egymásba, illetve hogyan integrálódnak a teljes folyamatba; az MI-rendszer fejlesztéséhez, tanításához, teszteléséhez és validálásához használt számítási erőforrások;

d) adott esetben a tanítómódszereket és -technikákat, valamint az alkalmazott tanítóadat-készleteket leíró adatlapokra vonatkozó adatszolgáltatási követelmények, ideértve ezen adatkészletek általános leírását, az eredetükre, a hatályukra és a fő jellemzőikre vonatkozó információkat is; az adatok megszerzésének és kiválasztásának módja; címkézési eljárások (például felügyelt tanulás esetén), adattisztítási módszerek (például a kiugró értékek észlelése);

e) a 14. cikkel összhangban szükséges emberi felügyeleti intézkedések értékelése, beleértve az MI-rendszerekhez kapcsolódó kimenetek alkalmazók általi értelmezésének megkönnyítéséhez szükséges technikai intézkedések értékelését, a 13. cikk (3) bekezdésének d) pontjával összhangban;

f) adott esetben az MI-rendszer és teljesítménye előre meghatározott változtatásainak részletes leírása, az MI-rendszernek a III. fejezet 2. szakaszában foglalt releváns követelményeknek való folyamatos megfelelését biztosító műszaki megoldásokkal kapcsolatos valamennyi releváns információval együtt;

g) az alkalmazott validálási és tesztelési eljárások, beleértve a felhasznált validálási és tesztelési adatokra és azok fő jellemzőire vonatkozó információkat; a pontosság, a megbízhatóság és a III. fejezet 2. szakaszában foglalt egyéb vonatkozó követelményeknek való megfelelés mérésére használt mérőszámok, valamint a potenciálisan diszkriminatív hatások; a felelős személyek által dátummal és aláírással ellátott tesztelési naplók és tesztelési jelentések, többek között az f) pontban említett, előre meghatározott változtatásokra vonatkozóan;

h) az életbe léptetett kiberbiztonsági intézkedések;

3. az MI-rendszer nyomon követésére, működésére és ellenőrzésére vonatkozó részletes információk, különös tekintettel a következőkre: a rendszer teljesítménybeli képességei és korlátai, beleértve a pontosság fokát azon személyek vagy személyek csoportjai esetében, akik vagy amelyek tekintetében a rendszert használni kívánják, valamint a pontosság általános elvárt szintje a rendeltetéséhez viszonyítva; az előre látható nem kívánt eredmények, valamint az egészséggel és a biztonsággal, az alapvető jogokkal és a megkülönböztetéssel kapcsolatos kockázatok forrásai az MI-rendszer rendeltetése tekintetében; a 14. cikkel összhangban szükséges emberi felügyeleti intézkedések, beleértve az MI-rendszerek kimeneteinek alkalmazók általi értelmezését megkönnyítő technikai intézkedéseket; adott esetben a bemeneti adatokra vonatkozó előírások;

4. a teljesítménymutatók megfelelőségének leírása az adott MI-rendszer tekintetében;

5. a 9. cikk szerinti kockázatkezelési rendszer részletes ismertetése;

6. a szolgáltató által a rendszeren, annak életciklusa során végrehajtott releváns változtatások leírása;

7. az olyan, részben vagy egészben alkalmazott harmonizált szabványok jegyzéke, amelyek hivatkozása megjelent az Európai Unió Hivatalos Lapjában; amennyiben nem került sor ilyen harmonizált szabványok alkalmazására, a III. fejezet 2. szakaszában foglalt követelményeknek való megfelelés érdekében alkalmazott megoldások részletes leírása, beleértve az egyéb releváns szabványok és műszaki előírások jegyzékét;

8. a 47. cikkben említett EU-megfelelőségi nyilatkozat másolata;

9. a 72. cikkel összhangban az MI-rendszer teljesítményének a forgalomba hozatalt követő értékelésére szolgáló rendszer részletes leírása, beleértve a 72. cikk (3) bekezdésében említett forgalomba hozatal utáni nyomonkövetési tervet.

Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.

📬 AI Act Weekly

Get the most important AI Act developments in your inbox every week.

Subscribe

Frequently asked questions

What must be included in the technical documentation under Annex IV?

Annex IV requires nine sections: (1) general description of the AI system, (2) detailed description of elements and development process, (3) monitoring and control information, (4) appropriateness of performance metrics, (5) risk management, (6) lifecycle changes, (7) applied standards, (8) EU declaration of conformity, and (9) post-market monitoring system.

What information about training data is required in the technical documentation?

Point 2d requires: data requirements including datasheets with training methodologies, description of training datasets, provenance and scope of data, how data was obtained and selected, labelling procedures (e.g. for supervised learning), and data cleaning methods (e.g. outlier detection).

Do I need to document cybersecurity measures?

Yes, point 2h of Annex IV explicitly requires that cybersecurity measures put in place are included in the technical documentation.

What must I document about human oversight?

Point 2e requires an assessment of human oversight measures needed under Article 14, including an assessment of technical measures to facilitate interpretation of AI outputs by deployers (under Article 13(3)(d)).

How detailed must the risk assessment in the technical documentation be?

Point 5 requires a detailed description of the risk management system under Article 9. This includes identification of risks to health, safety and fundamental rights, risk mitigation measures, and residual risk analysis.

Do I need to include test results in the technical documentation?

Yes, point 2g requires: validation and testing procedures, information on test and validation data, metrics for accuracy, robustness and compliance, potentially discriminatory impacts, test logs and all test reports dated and signed.

What goes in the general description of the AI system?

Point 1 requires: (a) intended purpose, provider name and version, (b) interaction with hardware/software, (c) software versions, (d) forms of market placement (API, download, etc.), (e) intended hardware, (f) photos for embedded products, (g) user interface description, (h) instructions for use.

Do I need to track changes to the AI system?

Yes, point 6 requires a description of relevant changes made by the provider throughout the lifecycle. Point 2f also requires documentation of pre-determined changes and how continuous compliance is ensured.

Is Annex IV technical documentation mandatory for all AI systems?

No, Annex IV is only mandatory for high-risk AI systems (under Article 11(1)). For general-purpose AI models (GPAI), Annex XI applies instead.

How does Annex IV relate to post-market monitoring?

Point 9 requires a detailed description of the system for evaluating AI performance post-market, in accordance with Article 72, including the post-market monitoring plan of Article 72(3).

Do I need to list harmonised standards in the documentation?

Yes, point 7 requires a list of applied harmonised standards. If no harmonised standards were applied, a detailed description must be provided of alternative solutions to meet the requirements of Chapter III, Section 2.

How do I store the Annex IV technical documentation?

Under Article 18, technical documentation must be drawn up before the AI system is placed on the market and kept up to date. The documentation must be available to competent authorities for at least 10 years after market placement.

How does the Annex IV technical documentation relate to ISO 42001?

ISO/IEC 42001 (AI Management System) provides a framework that partially overlaps with Annex IV requirements. However, ISO 42001 certification does not automatically cover all requirements. Annex IV contains specific EU requirements around conformity declaration, post-market monitoring and CE marking that go beyond ISO 42001.

Who has access to the Annex IV technical documentation?

The technical documentation must be available to national market surveillance authorities upon request. You do not need to publish the documentation publicly. For high-risk AI systems requiring assessment by a notified body (Annex VII), the documentation must also be provided to that body.

Can I prepare the technical documentation in Dutch?

The technical documentation must be prepared in a language accepted by the relevant Member State. In practice, most Member States accept English. Check with your national supervisory authority whether documentation in Dutch or English suffices for your market.