Annex IV AI Act
class="oj-doc-ti" id="d1e38-130-1">PRILOG IV.
Official text
id="anx_IV"> PRILOG IV. Tehnička dokumentacija iz članka 11. stavka 1. Tehnička dokumentacija iz članka 11. stavka 1. sadržava barem sljedeće informacije, ovisno o tome što je primjenjivo na dotični UI sustav:
1. opći opis UI sustava, uključujući:
(a) njegovu namjenu, ime dobavljača i verziju sustava koja odražava njegovu povezanost s prethodnim verzijama;
(b) način na koji je UI sustav u interakciji s hardverom ili softverom, među ostalim s drugim UI sustavima koji nisu dio samog UI sustava, ili način na koji se može upotrijebiti za takvu interakciju, ako je primjenjivo;
(c) verzije relevantnog softvera ili ugrađenog softvera i sve zahtjeve povezane s ažuriranjem verzija;
(d) opis svih oblika u kojima se UI sustav stavlja na tržište ili u upotrebu, kao što su softverski paketi ugrađeni u hardver, preuzimanja ili aplikacijska programska sučelja;
(e) opis hardvera na kojem bi UI sustav trebao raditi;
(f) ako je UI sustav komponenta proizvoda, fotografije ili ilustracije koje prikazuju vanjske značajke, oznake i unutarnju strukturu tih proizvoda;
(g) osnovni opis korisničkog sučelja koje se pruža subjektu koji uvodi sustav;
(h) upute za korištenje namijenjene subjektu koji uvodi sustav i osnovni opis korisničkog sučelja koje se pruža subjektu koji uvod sustav, ako je primjenjivo;
2. detaljan opis elemenata UI sustava i postupka njegova razvoja, uključujući:
(a) metode i korake provedene u razvoju UI sustava, uključujući, ako je to relevantno, upotrebu prethodno treniranih sustava ili alata trećih strana i način na koji ih je dobavljač upotrijebio, integrirao ili izmijenio;
(b) specifikacije dizajna sustava, odnosno opću logiku UI sustava i algoritama; najvažnije odabire u pogledu dizajna, uključujući obrazloženja i pretpostavke, među ostalim u vezi s osobama ili skupinama osoba u vezi s kojima se sustav namjerava upotrebljavati; glavne klasifikacijske odabire; informacije o tome što bi sustav svojim dizajnom trebao optimizirati i relevantnost različitih parametara; opis očekivanih izlaznih podataka sustava i njihove kvalitete; odluke o eventualnim kompromisima u pogledu tehničkih rješenja donesenima radi ispunjavanja zahtjeva iz poglavlja III. odjeljka 2.;
(c) opis arhitekture sustava u kojem se objašnjava kako se softverske komponente međusobno nadopunjuju ili potpomažu te kako su integrirane u cjelokupnu obradu; računalne resurse upotrijebljene za razvoj, treniranje, testiranje i validaciju UI sustava;
(d) ako je to relevantno, zahtjeve u pogledu podataka u smislu tablica s opisom metodologija i tehnika treniranja te upotrijebljenih skupova podataka za treniranje, uključujući opći opis tih skupova podataka i informacije o njihovu podrijetlu, sadržaju i glavnim karakteristikama; način na koji su podaci dobiveni i odabrani; postupke označivanja (npr. za nadzirano učenje), metodologije čišćenja podataka (npr. otkrivanje netipičnih vrijednosti);
(e) procjenu mjera ljudskog nadzora potrebnih u skladu s člankom 14., uključujući procjenu tehničkih mjera potrebnih kako bi se subjektima koji uvode sustav olakšalo tumačenje izlaznih podataka UI sustava, u skladu s člankom 13. stavkom 3. točkom (d);
(f) ako je primjenjivo, detaljan opis unaprijed određenih promjena UI sustava i njegove učinkovitosti, zajedno sa svim relevantnim informacijama o tehničkim rješenjima primijenjenima radi osiguravanja kontinuirane usklađenosti UI sustava s relevantnim zahtjevima iz poglavlja III. odjeljka 2.;
(g) primijenjene postupke validacije i testiranja, uključujući informacije o podacima upotrijebljenima za validaciju i testiranje te njihovim glavnim karakteristikama; parametre upotrijebljene za mjerenje točnosti, otpornosti i usklađenosti s drugim relevantnim zahtjevima iz poglavlja III. odjeljka 2., kao i potencijalne diskriminirajuće učinke; evidenciju događaja tijekom testiranja i sva izvješća o testiranju s datumom i potpisom odgovornih osoba, među ostalim u vezi s unaprijed određenim promjenama iz točke (f);
(h) uspostavljene mjere u području kibernetičke sigurnosti;
3. detaljne informacije o praćenju, funkcioniranju i kontroli UI sustava, posebno u pogledu sljedećeg: njegovih sposobnosti i ograničenja u radu, uključujući stupnjeve točnosti za konkretne osobe ili skupine osoba na kojima se sustav namjerava upotrebljavati te ukupnu očekivanu razinu točnosti u odnosu na namjenu sustava; predvidljivih neplaniranih ishoda i izvora rizika za zdravlje i sigurnost, temeljna prava i u pogledu diskriminacije s obzirom na namjenu UI sustava; mjera ljudskog nadzora potrebnih u skladu s člankom 14., uključujući tehničke mjere uspostavljene kako bi se subjektima koji uvode sustav olakšalo tumačenje izlaznih podataka UI sustava; specifikacije ulaznih podataka, prema potrebi;
4. opis primjerenosti parametara učinkovitosti za određeni UI sustav;
5. detaljan opis sustava upravljanja rizikom u skladu s člankom 9.;
6. opis svih relevantnih promjena koje je dobavljač unio u sustav tijekom njegova životnog ciklusa;
7. popis u cijelosti ili djelomično primijenjenih usklađenih normi na koje su objavljena upućivanja u Službenom listu Europske unije; ako nisu primijenjene takve usklađene norme, detaljan opis rješenja koja su primijenjenima radi ispunjavanja zahtjeva iz poglavlja III. odjeljka 2., uključujući popis drugih primijenjenih relevantnih normi i tehničkih specifikacija;
8. primjerak EU izjave o sukladnosti iz članka 47.;
9. detaljan opis sustava uspostavljenog za evaluaciju učinkovitosti UI sustava u fazi nakon stavljanja na tržište u skladu s člankom 72., uključujući plan praćenja nakon stavljanja na tržište iz članka 72. stavka 3.
Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.
📬 AI Act Weekly
Get the most important AI Act developments in your inbox every week.
SubscribeFrequently asked questions
What must be included in the technical documentation under Annex IV?
Annex IV requires nine sections: (1) general description of the AI system, (2) detailed description of elements and development process, (3) monitoring and control information, (4) appropriateness of performance metrics, (5) risk management, (6) lifecycle changes, (7) applied standards, (8) EU declaration of conformity, and (9) post-market monitoring system.
What information about training data is required in the technical documentation?
Point 2d requires: data requirements including datasheets with training methodologies, description of training datasets, provenance and scope of data, how data was obtained and selected, labelling procedures (e.g. for supervised learning), and data cleaning methods (e.g. outlier detection).
Do I need to document cybersecurity measures?
Yes, point 2h of Annex IV explicitly requires that cybersecurity measures put in place are included in the technical documentation.
What must I document about human oversight?
Point 2e requires an assessment of human oversight measures needed under Article 14, including an assessment of technical measures to facilitate interpretation of AI outputs by deployers (under Article 13(3)(d)).
How detailed must the risk assessment in the technical documentation be?
Point 5 requires a detailed description of the risk management system under Article 9. This includes identification of risks to health, safety and fundamental rights, risk mitigation measures, and residual risk analysis.
Do I need to include test results in the technical documentation?
Yes, point 2g requires: validation and testing procedures, information on test and validation data, metrics for accuracy, robustness and compliance, potentially discriminatory impacts, test logs and all test reports dated and signed.
What goes in the general description of the AI system?
Point 1 requires: (a) intended purpose, provider name and version, (b) interaction with hardware/software, (c) software versions, (d) forms of market placement (API, download, etc.), (e) intended hardware, (f) photos for embedded products, (g) user interface description, (h) instructions for use.
Do I need to track changes to the AI system?
Yes, point 6 requires a description of relevant changes made by the provider throughout the lifecycle. Point 2f also requires documentation of pre-determined changes and how continuous compliance is ensured.
Is Annex IV technical documentation mandatory for all AI systems?
No, Annex IV is only mandatory for high-risk AI systems (under Article 11(1)). For general-purpose AI models (GPAI), Annex XI applies instead.
How does Annex IV relate to post-market monitoring?
Point 9 requires a detailed description of the system for evaluating AI performance post-market, in accordance with Article 72, including the post-market monitoring plan of Article 72(3).
Do I need to list harmonised standards in the documentation?
Yes, point 7 requires a list of applied harmonised standards. If no harmonised standards were applied, a detailed description must be provided of alternative solutions to meet the requirements of Chapter III, Section 2.
How do I store the Annex IV technical documentation?
Under Article 18, technical documentation must be drawn up before the AI system is placed on the market and kept up to date. The documentation must be available to competent authorities for at least 10 years after market placement.
How does the Annex IV technical documentation relate to ISO 42001?
ISO/IEC 42001 (AI Management System) provides a framework that partially overlaps with Annex IV requirements. However, ISO 42001 certification does not automatically cover all requirements. Annex IV contains specific EU requirements around conformity declaration, post-market monitoring and CE marking that go beyond ISO 42001.
Who has access to the Annex IV technical documentation?
The technical documentation must be available to national market surveillance authorities upon request. You do not need to publish the documentation publicly. For high-risk AI systems requiring assessment by a notified body (Annex VII), the documentation must also be provided to that body.
Can I prepare the technical documentation in Dutch?
The technical documentation must be prepared in a language accepted by the relevant Member State. In practice, most Member States accept English. Check with your national supervisory authority whether documentation in Dutch or English suffices for your market.