Responsible AI Platform

Annex IV AI Act

class="oj-doc-ti" id="d1e38-130-1">BILAG IV

Official text

id="anx_IV"> BILAG IV Teknisk dokumentation omhandlet i artikel 11, stk. 1 Den tekniske dokumentation, der er omhandlet i artikel 11, stk. 1, skal som minimum indeholde følgende oplysninger, alt efter hvad der er relevant for det pågældende AI-system:

1. En generel beskrivelse af AI-systemet, herunder:

a) det tilsigtede formål, udbyderens navn samt systemets dato og version, der afspejler sammenhængen med tidligere versioner

b) hvis det er relevant, hvordan AI-systemet interagerer med eller kan bruges til at interagere med hardware eller software, herunder med andre AI-systemer, der ikke er en del af selve AI-systemet

c) versionerne af relevant software eller firmware og eventuelle krav vedrørende opdateringer

d) en beskrivelse af alle de former, hvori AI-systemet bringes i omsætning eller ibrugtages, såsom softwarepakke indlejret i hardware, downloads eller API'er

e) en beskrivelse af den hardware, som AI-systemet tilsigtes at køre på

f) hvis AI-systemet er komponent i produkter, fotografier eller illustrationer, der viser disse produkters eksterne karakteristika, mærkning og interne layout

g) en grundlæggende beskrivelse af den brugergrænseflade, der stilles til rådighed for idriftsætteren

h) brugsanvisning til idriftsætteren og en grundlæggende beskrivelse af den brugergrænseflade, der stilles til rådighed for idriftsætteren, hvis det er relevant.

2. En detaljeret beskrivelse af elementerne i AI-systemet og af processen for dets udvikling, herunder:

a) de metoder og trin, der er brugt i udviklingen af AI-systemet, herunder, hvis det er relevant, anvendelse af forhåndstrænede systemer eller værktøjer leveret af tredjeparter, og hvordan disse er blevet anvendt, integreret eller ændret af udbyderen

b) systemets konstruktionsspecifikationer, dvs. AI-systemets og algoritmernes generelle logik, navnlig de vigtigste valg med hensyn til udformning, herunder begrundelser og antagelser, herunder med hensyn til personer eller grupper af personer, som systemet tilsigtes anvendt på, de overordnede klassificeringsvalg, hvad systemet er udformet til at optimere for og relevansen af de forskellige parametre, en beskrivelse af systemets forventede output og outputkvalitet samt beslutninger om eventuelle trade-offs i de tekniske løsninger, der er valgt for at overholde kravene i kapitel III, afdeling 2

c) en beskrivelse af systemarkitekturen, der forklarer, hvordan softwarekomponenterne bygger på eller føder ind i hinanden og integreres i den samlede anvendelse; de beregningskraftsressourcer, der anvendes til at udvikle, træne, afprøve og validere AI-systemet

d) hvis det er relevant, datakravene i form af datablade, der beskriver de anvendte træningsmetoder og -teknikker og de anvendte træningsdatasæt, herunder en generel beskrivelse af disse datasæt, oplysninger om deres oprindelse, omfang og vigtigste karakteristika, hvordan dataene er indhentet og udvalgt, mærkningsprocedurer (f.eks. for læring med tilsyn) og datarensningsmetoder (f.eks. påvisning af outliere)

e) vurdering af de foranstaltninger til menneskeligt tilsyn, der er nødvendige i overensstemmelse med artikel 14, herunder en vurdering af de tekniske foranstaltninger, der er nødvendige for at lette idriftsætternes fortolkning af AI-systemets output, i overensstemmelse med artikel 13, stk. 3, litra d)

f) hvis det er relevant, en detaljeret beskrivelse af på forhånd fastlagte ændringer af AI-systemet og dets ydeevne sammen med alle relevante oplysninger vedrørende de tekniske løsninger, der er valgt for at sikre, at AI-systemet til stadighed overholder de relevante krav i kapitel III, afdeling 2

g) de anvendte validerings- og afprøvningsprocedurer, herunder oplysninger om de anvendte validerings- og afprøvningsdata og deres vigtigste karakteristika, parametre til måling af nøjagtighed, robusthed og overholdelse af andre relevante krav i kapitel III, afdeling 2, samt potentielt forskelsbehandlende virkninger samt afprøvningslogfiler og alle afprøvningsrapporter, der er dateret og underskrevet af de ansvarlige personer, herunder med hensyn til forudbestemte ændringer som omhandlet i litra f)

h) indførte cybersikkerhedsforanstaltninger.

3. Detaljerede oplysninger om overvågningen af AI-systemet, dets funktion og kontrollen hermed, navnlig med hensyn til dets kapacitet og begrænsninger i ydeevne, herunder nøjagtighedsgraden for specifikke personer eller grupper af personer, som systemet tilsigtes anvendt på, og det samlede forventede nøjagtighedsniveau i forhold til det tilsigtede formål, de forventede utilsigtede resultater og kilder til risici for sundhed og sikkerhed, grundlæggende rettigheder og forskelsbehandling i lyset af AI-systemets tilsigtede formål, foranstaltningerne til menneskeligt tilsyn i overensstemmelse med artikel 14, herunder de tekniske foranstaltninger, der er indført for at lette idriftsætternes fortolkning af AI-systemets output, samt specifikationer for inputdata, alt efter hvad der er relevant.

4. En beskrivelse af ydeevneparametrenes egnethed til det specifikke AI-system.

5. En detaljeret beskrivelse af risikostyringssystemet i overensstemmelse med artikel 9.

6. En beskrivelse af relevante ændringer, som udbyderen foretager af systemet i løbet af dets livscyklus.

7. En liste over de helt eller delvis anvendte harmoniserede standarder, hvis referencer er offentliggjort i Den Europæiske Unions Tidende, samt, hvis disse harmoniserede standarder ikke er blevet anvendt, en detaljeret beskrivelse af de løsninger, der er anvendt for at opfylde kravene i kapitel III, afdeling 2, herunder en liste over andre relevante tekniske specifikationer, som er anvendt.

8. En kopi af den i artikel 47 omhandlede EU-overensstemmelseserklæring.

9. En detaljeret beskrivelse af det system, der er indført til evaluering af AI-systemets ydeevne, efter at systemet er bragt i omsætning, i overensstemmelse med artikel 72, herunder planen for overvågning efter omsætningen, der er omhandlet i artikel 72, stk. 3.

Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.

📬 AI Act Weekly

Get the most important AI Act developments in your inbox every week.

Subscribe

Frequently asked questions

What must be included in the technical documentation under Annex IV?

Annex IV requires nine sections: (1) general description of the AI system, (2) detailed description of elements and development process, (3) monitoring and control information, (4) appropriateness of performance metrics, (5) risk management, (6) lifecycle changes, (7) applied standards, (8) EU declaration of conformity, and (9) post-market monitoring system.

What information about training data is required in the technical documentation?

Point 2d requires: data requirements including datasheets with training methodologies, description of training datasets, provenance and scope of data, how data was obtained and selected, labelling procedures (e.g. for supervised learning), and data cleaning methods (e.g. outlier detection).

Do I need to document cybersecurity measures?

Yes, point 2h of Annex IV explicitly requires that cybersecurity measures put in place are included in the technical documentation.

What must I document about human oversight?

Point 2e requires an assessment of human oversight measures needed under Article 14, including an assessment of technical measures to facilitate interpretation of AI outputs by deployers (under Article 13(3)(d)).

How detailed must the risk assessment in the technical documentation be?

Point 5 requires a detailed description of the risk management system under Article 9. This includes identification of risks to health, safety and fundamental rights, risk mitigation measures, and residual risk analysis.

Do I need to include test results in the technical documentation?

Yes, point 2g requires: validation and testing procedures, information on test and validation data, metrics for accuracy, robustness and compliance, potentially discriminatory impacts, test logs and all test reports dated and signed.

What goes in the general description of the AI system?

Point 1 requires: (a) intended purpose, provider name and version, (b) interaction with hardware/software, (c) software versions, (d) forms of market placement (API, download, etc.), (e) intended hardware, (f) photos for embedded products, (g) user interface description, (h) instructions for use.

Do I need to track changes to the AI system?

Yes, point 6 requires a description of relevant changes made by the provider throughout the lifecycle. Point 2f also requires documentation of pre-determined changes and how continuous compliance is ensured.

Is Annex IV technical documentation mandatory for all AI systems?

No, Annex IV is only mandatory for high-risk AI systems (under Article 11(1)). For general-purpose AI models (GPAI), Annex XI applies instead.

How does Annex IV relate to post-market monitoring?

Point 9 requires a detailed description of the system for evaluating AI performance post-market, in accordance with Article 72, including the post-market monitoring plan of Article 72(3).

Do I need to list harmonised standards in the documentation?

Yes, point 7 requires a list of applied harmonised standards. If no harmonised standards were applied, a detailed description must be provided of alternative solutions to meet the requirements of Chapter III, Section 2.

How do I store the Annex IV technical documentation?

Under Article 18, technical documentation must be drawn up before the AI system is placed on the market and kept up to date. The documentation must be available to competent authorities for at least 10 years after market placement.

How does the Annex IV technical documentation relate to ISO 42001?

ISO/IEC 42001 (AI Management System) provides a framework that partially overlaps with Annex IV requirements. However, ISO 42001 certification does not automatically cover all requirements. Annex IV contains specific EU requirements around conformity declaration, post-market monitoring and CE marking that go beyond ISO 42001.

Who has access to the Annex IV technical documentation?

The technical documentation must be available to national market surveillance authorities upon request. You do not need to publish the documentation publicly. For high-risk AI systems requiring assessment by a notified body (Annex VII), the documentation must also be provided to that body.

Can I prepare the technical documentation in Dutch?

The technical documentation must be prepared in a language accepted by the relevant Member State. In practice, most Member States accept English. Check with your national supervisory authority whether documentation in Dutch or English suffices for your market.