Responsible AI Platform

Annex IV AI Act

Tehniskā dokumentācija, kas minēta 11. panta 1. punktā

Official text

id="anx_IV "> IV PIELIKUMS Tehniskā dokumentācija, kas minēta 11. panta 1. punktā Tehniskajā dokumentācijā, kas minēta 11. panta 1. punktā, norāda vismaz turpmāk uzskaitīto informāciju, ja tā ir attiecināma uz konkrēto MI sistēmu.

1. Vispārējs MI sistēmas apraksts, kas ietver šādu informāciju:

a) tās paredzētais nolūks, nodrošinātāja nosaukums/vārds un sistēmas versija, atspoguļojot tās saikni ar iepriekšējām versijām;

b) attiecīgā gadījumā – kā MI sistēma mijiedarbojas, vai var tikt izmantota mijiedarbībai, ar aparatūru vai programmatūru, tostarp ar citām MI sistēmām, kas nav pašas MI sistēmas daļa;

c) attiecīgās programmatūras vai aparātprogrammatūras versijas un prasības par versiju atjaunināšanu;

d) apraksts par visām formām, kādās MI sistēma laista tirgū vai nodota ekspluatācijā, piemēram, programmatūras pakotnes, kas iegultas aparatūrā, lejupielādes vai API;

e) tās aparatūras apraksts, kurā MI sistēmai paredzēts darboties;

f) ja MI sistēma ir produktu sastāvdaļa – fotoattēli vai ilustrācijas, kas parāda šo produktu ārējās iezīmes, marķējumu un iekšējo izkārtojumu;

g) uzturētājam nodrošinātās lietotāja saskarnes pamatapraksts;

h) lietošanas instrukcija uzturētājam un, attiecīgā gadījumā, uzturētājam nodrošinātās lietotāja saskarnes pamatapraksts;

2. Detalizēts MI sistēmas elementu un tās izstrādes procesa apraksts, kas ietver šādu informāciju:

a) MI sistēmas izstrādes metodes un soļi, attiecīgā gadījumā ietverot norādes par iepriekš apmācītu sistēmu vai trešo personu nodrošinātu instrumentu izmantošanu un to, kā nodrošinātājs ir tos izmantojis, integrējis vai modificējis;

b) sistēmas projekta specifikācijas, proti, MI sistēmas un algoritmu vispārīgā loģika; galvenās projektēšanas izvēles, arī pamatojums un izdarītie pieņēmumi, tostarp saistībā ar personām vai personu grupām, attiecībā uz kurām sistēmu paredzēts izmantot; galvenās klasifikācijas izvēles; ko ar sistēmu paredzēts optimizēt un kāda ir dažādo parametru nozīme; sistēmas paredzamā iznākuma un iznākuma kvalitātes apraksts; lēmumi par iespējamiem kompromisiem saistībā ar izmantotajiem tehniskajiem risinājumiem, lai nodrošinātu atbilstību III nodaļas 2. iedaļā noteiktajām prasībām;

c) sistēmas arhitektūras apraksts, kurā paskaidrots, kā programmatūras komponenti ir balstīti cits citā vai papildina cits citu un kā tie integrēti kopējā programmas darbībā; skaitļošanas resursi, kas izmantoti MI sistēmas izstrādē, apmācīšanā, testēšanā un validēšanā;

d) attiecīgā gadījumā – datu prasības, t. i., datu lapas, kurās aprakstīti izmantotie apmācības paņēmieni un metodes, kā arī apmācības datu kopas, tostarp šo datu kopu vispārējs apraksts, sniegta informācija par to izcelsmi, to tvērumu un galvenajiem raksturlielumiem; kā dati iegūti un atlasīti; marķēšanas procedūras (piemēram, uzraudzītās mācīšanās gadījumā), datu tīrīšanas metodes (piemēram, izlecošo vērtību noteikšana);

e) 14. pantā prasīto cilvēka virsvadības pasākumu novērtējums, tostarp novērtējums par tehniskajiem pasākumiem, kas saskaņā ar 13. panta 3. punkta d) apakšpunktu jāievieš, lai palīdzētu uzturētājiem interpretēt MI sistēmu iznākumus;

f) attiecīgā gadījumā – detalizēts apraksts par iepriekš noteiktām izmaiņām MI sistēmā un tās veiktspējā un visa attiecīgā informācija par tehniskajiem risinājumiem, kas izmantoti, lai nodrošinātu MI sistēmas pastāvīgu atbilstību attiecīgajām III nodaļas 2. iedaļas prasībām;

g) izmantotās validēšanas un testēšanas procedūras, arī informācija par izmantotajiem validēšanas un testēšanas datiem un to galvenajām iezīmēm; rādītāji, kas izsaka precizitāti, robustumu un atbilstību citām attiecīgām III nodaļas 2. iedaļā noteiktajām prasībām, kā arī potenciāli diskriminējošo ietekmi; testēšanas žurnāli un visi testēšanas ziņojumi, ko datējušas un parakstījušas atbildīgās personas, tai skaitā tādi, kuri attiecas uz iepriekš noteiktām izmaiņām, kas minētas f) apakšpunktā;

h) ieviestie kiberdrošības pasākumi.

3. Detalizēta informācija par MI sistēmas pārraudzību, darbību un kontroli, it īpaši par: tās spējām un veiktspējas ierobežojumiem, tostarp precizitātes līmeni attiecībā uz konkrētām personām vai personu grupām, attiecībā uz kurām sistēmu paredzēts lietot, un kopējo paredzamo precizitātes līmeni paredzētā nolūka izpildē; prognozējamiem neparedzētiem iznākumiem un tādu risku avotiem, kas apdraud veselību, drošību un pamattiesības un var radīt diskrimināciju, ņemot vērā MI sistēmas paredzēto nolūku; 14. pantā prasītajiem cilvēka virsvadības pasākumiem, tostarp tehniskajiem pasākumiem, kas ieviesti, lai palīdzētu uzturētājiem interpretēt MI sistēmu iznākumus; attiecīgā gadījumā – ievaddatu specifikācijām.

4. Konkrētās MI sistēmas veiktspējas rādītāju piemērotības apraksts.

5. Detalizēts apraksts par riska pārvaldības sistēmu, kas izveidota saskaņā ar 9. pantu.

6. Attiecīgo izmaiņu apraksts, ko sistēmai tās darbmūžā veicis nodrošinātājs.

7. To saskaņoto standartu saraksts, kas piemēroti pilnībā vai daļēji un uz ko atsauces publicētas Eiropas Savienības Oficiālajā Vēstnesī; ja šādi saskaņotie standarti nav tikuši piemēroti – detalizēts apraksts par risinājumiem, kas izmantoti, lai izpildītu III nodaļas 2. iedaļā noteiktās prasības, tai skaitā citu izmantoto attiecīgo standartu un tehnisko specifikāciju saraksts.

8. Šīs regulas 47. pantā minētās ES atbilstības deklarācijas kopija.

9. Detalizēts apraksts par sistēmu, kas ieviesta MI sistēmas veiktspējas izvērtēšanai pēctirgus posmā saskaņā ar 72. pantu, kā arī pēctirgus uzraudzības plāns, kas minēts 72. panta 3. punktā.

Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.

📬 AI Act Weekly

Get the most important AI Act developments in your inbox every week.

Subscribe

Frequently asked questions

What must be included in the technical documentation under Annex IV?

Annex IV requires nine sections: (1) general description of the AI system, (2) detailed description of elements and development process, (3) monitoring and control information, (4) appropriateness of performance metrics, (5) risk management, (6) lifecycle changes, (7) applied standards, (8) EU declaration of conformity, and (9) post-market monitoring system.

What information about training data is required in the technical documentation?

Point 2d requires: data requirements including datasheets with training methodologies, description of training datasets, provenance and scope of data, how data was obtained and selected, labelling procedures (e.g. for supervised learning), and data cleaning methods (e.g. outlier detection).

Do I need to document cybersecurity measures?

Yes, point 2h of Annex IV explicitly requires that cybersecurity measures put in place are included in the technical documentation.

What must I document about human oversight?

Point 2e requires an assessment of human oversight measures needed under Article 14, including an assessment of technical measures to facilitate interpretation of AI outputs by deployers (under Article 13(3)(d)).

How detailed must the risk assessment in the technical documentation be?

Point 5 requires a detailed description of the risk management system under Article 9. This includes identification of risks to health, safety and fundamental rights, risk mitigation measures, and residual risk analysis.

Do I need to include test results in the technical documentation?

Yes, point 2g requires: validation and testing procedures, information on test and validation data, metrics for accuracy, robustness and compliance, potentially discriminatory impacts, test logs and all test reports dated and signed.

What goes in the general description of the AI system?

Point 1 requires: (a) intended purpose, provider name and version, (b) interaction with hardware/software, (c) software versions, (d) forms of market placement (API, download, etc.), (e) intended hardware, (f) photos for embedded products, (g) user interface description, (h) instructions for use.

Do I need to track changes to the AI system?

Yes, point 6 requires a description of relevant changes made by the provider throughout the lifecycle. Point 2f also requires documentation of pre-determined changes and how continuous compliance is ensured.

Is Annex IV technical documentation mandatory for all AI systems?

No, Annex IV is only mandatory for high-risk AI systems (under Article 11(1)). For general-purpose AI models (GPAI), Annex XI applies instead.

How does Annex IV relate to post-market monitoring?

Point 9 requires a detailed description of the system for evaluating AI performance post-market, in accordance with Article 72, including the post-market monitoring plan of Article 72(3).

Do I need to list harmonised standards in the documentation?

Yes, point 7 requires a list of applied harmonised standards. If no harmonised standards were applied, a detailed description must be provided of alternative solutions to meet the requirements of Chapter III, Section 2.

How do I store the Annex IV technical documentation?

Under Article 18, technical documentation must be drawn up before the AI system is placed on the market and kept up to date. The documentation must be available to competent authorities for at least 10 years after market placement.

How does the Annex IV technical documentation relate to ISO 42001?

ISO/IEC 42001 (AI Management System) provides a framework that partially overlaps with Annex IV requirements. However, ISO 42001 certification does not automatically cover all requirements. Annex IV contains specific EU requirements around conformity declaration, post-market monitoring and CE marking that go beyond ISO 42001.

Who has access to the Annex IV technical documentation?

The technical documentation must be available to national market surveillance authorities upon request. You do not need to publish the documentation publicly. For high-risk AI systems requiring assessment by a notified body (Annex VII), the documentation must also be provided to that body.

Can I prepare the technical documentation in Dutch?

The technical documentation must be prepared in a language accepted by the relevant Member State. In practice, most Member States accept English. Check with your national supervisory authority whether documentation in Dutch or English suffices for your market.