Anhang IV AI Act

Technische Dokumentation gemäß Artikel 11 Absatz 1

Officiële tekst

Technische Dokumentation gemäß Artikel 11 Absatz 1 Die in Artikel 11 Absatz 1 genannte technische Dokumentation muss mindestens die folgenden Informationen enthalten, soweit sie für das betreffende KI-System von Belang sind:

1. Allgemeine Beschreibung des KI-Systems, darunter

a) Zweckbestimmung, Name des Anbieters und Version des Systems mit Angaben dazu, in welcher Beziehung sie zu vorherigen Versionen steht;

b) gegebenenfalls Interaktion oder Verwendung des KI-Systems mit Hardware oder Software, einschließlich anderer KI-Systeme, die nicht Teil des KI-Systems selbst sind;

c) Versionen der betreffenden Software oder Firmware und etwaige Anforderungen in Bezug auf Aktualisierungen der Versionen;

d) Beschreibung aller Formen, in denen das KI-System in Verkehr gebracht oder in Betrieb genommen wird, zum Beispiel in Hardware eingebettete Softwarepakete, Herunterladen oder API;

e) Beschreibung der Hardware, auf der das KI-System betrieben werden soll;

f) falls das KI-System Bestandteil von Produkten ist: Fotografien oder Abbildungen, die äußere Merkmale, die Kennzeichnungen und den inneren Aufbau dieser Produkte zeigen;

g) eine grundlegende Beschreibung der Benutzerschnittstelle, die dem Betreiber zur Verfügung gestellt wird;

h) Betriebsanleitungen für den Betreiber und gegebenenfalls eine grundlegende Beschreibung der dem Betreiber zur Verfügung gestellten Benutzerschnittstelle;

2. Detaillierte Beschreibung der Bestandteile des KI-Systems und seines Entwicklungsprozesses, darunter

a) Methoden und Schritte zur Entwicklung des KI-Systems, gegebenenfalls einschließlich des Einsatzes von durch Dritte bereitgestellten vortrainierten Systemen oder Instrumenten, und wie diese vom Anbieter verwendet, integriert oder verändert wurden;

b) Entwurfsspezifikationen des Systems, insbesondere die allgemeine Logik des KI-Systems und der Algorithmen; die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen, einschließlich in Bezug auf Personen oder Personengruppen, bezüglich deren das System angewandt werden soll; hauptsächliche Einstufungsentscheidungen; was das System optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; Beschreibung der erwarteten Ausgabe des Systems und der erwarteten Qualität dieser Ausgabe; die über mögliche Kompromisse in Bezug auf die technischen Lösungen, mit denen die in Kapitel III Abschnitt 2 festgelegten Anforderungen erfüllt werden sollen, getroffenen Entscheidungen;

c) Beschreibung der Systemarchitektur, aus der hervorgeht, wie Softwarekomponenten aufeinander aufbauen oder einander zuarbeiten und in die Gesamtverarbeitung integriert sind; zum Entwickeln, Trainieren, Testen und Validieren des KI-Systems verwendete Rechenressourcen;

d) gegebenenfalls Datenanforderungen in Form von Datenblättern, in denen die Trainingsmethoden und -techniken und die verwendeten Trainingsdatensätze beschrieben werden, einschließlich einer allgemeinen Beschreibung dieser Datensätze sowie Informationen zu deren Herkunft, Umfang und Hauptmerkmalen; Angaben zur Beschaffung und Auswahl der Daten; Kennzeichnungsverfahren (zum Beispiel für überwachtes Lernen) und Datenbereinigungsmethoden (zum Beispiel Erkennung von Ausreißern);

e) Bewertung der nach Artikel 14 erforderlichen Maßnahmen der menschlichen Aufsicht, mit einer Bewertung der technischen Maßnahmen, die erforderlich sind, um den Betreibern gemäß Artikel 13 Absatz 3 Buchstabe d die Interpretation der Ausgaben von KI-Systemen zu erleichtern;

Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.

📬 AI Act Weekly

Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.

Aanmelden

Veelgestelde vragen

Wat moet er in de technische documentatie volgens Bijlage IV?

Bijlage IV vereist negen onderdelen: (1) algemene beschrijving van het AI-systeem, (2) gedetailleerde beschrijving van elementen en ontwikkelproces, (3) monitoring en controle-informatie, (4) geschiktheid van prestatiemetrieken, (5) risicobeheer, (6) wijzigingen gedurende de levenscyclus, (7) toegepaste normen, (8) EU-conformiteitsverklaring, en (9) post-market monitoringsysteem.

Welke informatie over trainingsdata moet in de technische documentatie?

Punt 2d vereist: datavereisten inclusief datasheets met trainingsmethodologieën, beschrijving van trainingsdatasets, herkomst en omvang van data, hoe data is verkregen en geselecteerd, labelprocedures (bijv. bij supervised learning), en datacleaning-methoden (bijv. outlier-detectie).

Moet ik cybersecuritymaatregelen documenteren?

Ja, punt 2h van Bijlage IV vereist expliciet dat de getroffen cybersecuritymaatregelen worden opgenomen in de technische documentatie.

Wat moet ik documenteren over menselijk toezicht?

Punt 2e vereist een beoordeling van de noodzakelijke menselijk-toezichtmaatregelen conform artikel 14, inclusief een beoordeling van technische maatregelen die het voor gebruikers mogelijk maken om de output van het AI-systeem te interpreteren (conform artikel 13, lid 3, punt d).

Hoe uitgebreid moet de risicobeoordeling in de technische documentatie zijn?

Punt 5 vereist een gedetailleerde beschrijving van het risicobeheersysteem conform artikel 9. Dit omvat identificatie van risico's voor gezondheid, veiligheid en grondrechten, risicobeperkende maatregelen, en restrisico-analyse.

Moet ik testresultaten opnemen in de technische documentatie?

Ja, punt 2g vereist: validatie- en testprocedures, informatie over test- en validatiedata, gebruikte metrieken voor nauwkeurigheid, robuustheid en compliance, potentieel discriminerende effecten, testlogs en alle testrapporten gedateerd en ondertekend.

Wat moet er in de algemene beschrijving van het AI-systeem?

Punt 1 vereist: (a) beoogd doel, naam aanbieder en versie, (b) interactie met hardware/software, (c) softwareversies, (d) vormen van marktintroductie (API, download, etc.), (e) beoogde hardware, (f) foto's bij ingebouwde producten, (g) beschrijving user interface, (h) gebruiksinstructies.

Moet ik wijzigingen aan het AI-systeem bijhouden?

Ja, punt 6 vereist een beschrijving van relevante wijzigingen die de aanbieder gedurende de levenscyclus aan het systeem heeft aangebracht. Ook punt 2f vereist documentatie van vooraf bepaalde wijzigingen en hoe continue compliance wordt gewaarborgd.

Is de technische documentatie van Bijlage IV verplicht voor alle AI-systemen?

Nee, Bijlage IV is alleen verplicht voor hoog-risico AI-systemen (conform artikel 11, lid 1). Voor AI-modellen voor algemene doeleinden (GPAI) geldt Bijlage XI.

Hoe verhoudt Bijlage IV zich tot de post-market monitoring?

Punt 9 vereist een gedetailleerde beschrijving van het systeem voor het evalueren van AI-prestaties na marktintroductie, conform artikel 72, inclusief het post-market monitoringsplan van artikel 72, lid 3.

Moet ik geharmoniseerde normen vermelden in de documentatie?

Ja, punt 7 vereist een lijst van toegepaste geharmoniseerde normen. Als geen geharmoniseerde normen zijn toegepast, moet een gedetailleerde beschrijving worden gegeven van de alternatieve oplossingen om aan de eisen van Hoofdstuk III, Afdeling 2 te voldoen.

Hoe bewaar ik de technische documentatie van Bijlage IV?

Conform artikel 18 moet de technische documentatie worden opgesteld vóór het AI-systeem op de markt wordt gebracht en actueel worden gehouden. De documentatie moet ten minste 10 jaar na marktintroductie beschikbaar zijn voor de bevoegde autoriteiten.

Hoe verhoudt de technische documentatie van Bijlage IV zich tot ISO 42001?

ISO/IEC 42001 (AI Management System) biedt een raamwerk dat deels overlapt met de eisen van Bijlage IV. Een ISO 42001-certificering dekt echter niet automatisch alle vereisten af. Bijlage IV bevat specifieke EU-eisen rond conformiteitsverklaring, post-market monitoring en CE-markering die verder gaan dan ISO 42001.

Wie heeft toegang tot de technische documentatie van Bijlage IV?

De technische documentatie moet beschikbaar zijn voor nationale markttoezichtautoriteiten op verzoek. U hoeft de documentatie niet openbaar te publiceren. Bij hoog-risico AI-systemen die een beoordeling door een aangemelde instantie vereisen (Bijlage VII), moet de documentatie ook aan deze instantie worden verstrekt.

Mag ik de technische documentatie in het Nederlands opstellen?

De technische documentatie moet worden opgesteld in een taal die door de betrokken lidstaat wordt geaccepteerd. In de praktijk accepteren de meeste lidstaten Engels. Controleer bij uw nationale toezichthouder of documentatie in het Nederlands of Engels volstaat voor uw markt.