Anexo IV AI Act

Documentación técnica a que se refiere el artículo 11, apartado 1

Officiële tekst

Documentación técnica a que se refiere el artículo 11, apartado 1 La documentación técnica a que se refiere el artículo 11, apartado 1, incluirá como mínimo la siguiente información, aplicable al sistema de IA pertinente:

1. Una descripción general del sistema de IA que incluya:

a) su finalidad prevista, el nombre del proveedor y la versión del sistema de tal manera que se refleje su relación con versiones anteriores;

b) la manera en que el sistema de IA interactúa o puede utilizarse para interactuar con hardware o software , también con otros sistemas de IA, que no formen parte del propio sistema de IA, cuando proceda;

c) las versiones de software o firmware pertinentes y todo requisito relacionado con la actualización de versiones;

d) la descripción de todas las formas en que el sistema de IA se introduce en el mercado o se pone en servicio, como paquetes de software integrados en el hardware , descargas o API;

e) la descripción del hardware en el que está previsto que se ejecute el sistema de IA;

f) en el caso de que el sistema de IA sea un componente de un producto, fotografías o ilustraciones de las características exteriores, el marcado y la configuración interna de dicho producto;

g) una descripción básica de la interfaz de usuario facilitada al responsable del despliegue;

h) instrucciones de uso para el responsable del despliegue y una descripción básica de la interfaz de usuario facilitada al responsable del despliegue, cuando proceda.

2. Una descripción detallada de los elementos del sistema de IA y de su proceso de desarrollo, incluidos:

a) los métodos y las medidas adoptados para el desarrollo del sistema de IA, incluido, en su caso, el recurso a sistemas o herramientas previamente entrenados facilitados por terceros y la manera en que han sido utilizados, integrados o modificados por el proveedor;

b) las especificaciones de diseño del sistema, a saber, la lógica general del sistema de IA y de los algoritmos; las decisiones clave de diseño, incluidos la lógica y los supuestos de los que se ha partido, también con respecto a las personas o colectivos de personas en relación con los que está previsto que se utilice el sistema; las principales decisiones de clasificación; aquello que el sistema está diseñado para optimizar y la pertinencia de los diversos parámetros; la descripción de los resultados de salida esperados del sistema y la calidad de dichos resultados; las decisiones adoptadas acerca de cualquier posible concesión con respecto a las soluciones técnicas adoptadas para dar cumplimiento a los requisitos establecidos en el capítulo III, sección 2;

c) la arquitectura del sistema, con una explicación de la manera en que los componentes del software se utilizan o enriquecen mutuamente y de la manera en que se integran en el procesamiento general; los recursos informáticos utilizados para desarrollar, entrenar, probar y validar el sistema de IA;

d) cuando proceda, los requisitos en materia de datos, en forma de fichas técnicas que describan las metodologías y técnicas de entrenamiento, así como los conjuntos de datos de entrenamiento utilizados, e incluyan una descripción general de dichos conjuntos de datos e información acerca de su procedencia, su alcance y sus características principales; la manera en que se obtuvieron y seleccionaron los datos; los procedimientos de etiquetado (p. ej., para el aprendizaje supervisado) y las metodologías de depuración de datos (p. ej., la detección de anomalías);

e) una evaluación de las medidas de supervisión humana necesarias de conformidad con el artículo 14, incluida una evaluación de las medidas técnicas necesarias para facilitar la interpretación de los resultados de salida de los sistemas de IA por parte de los responsables del despliegue, con arreglo al artí

Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.

📬 AI Act Weekly

Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.

Aanmelden

Veelgestelde vragen

Wat moet er in de technische documentatie volgens Bijlage IV?

Bijlage IV vereist negen onderdelen: (1) algemene beschrijving van het AI-systeem, (2) gedetailleerde beschrijving van elementen en ontwikkelproces, (3) monitoring en controle-informatie, (4) geschiktheid van prestatiemetrieken, (5) risicobeheer, (6) wijzigingen gedurende de levenscyclus, (7) toegepaste normen, (8) EU-conformiteitsverklaring, en (9) post-market monitoringsysteem.

Welke informatie over trainingsdata moet in de technische documentatie?

Punt 2d vereist: datavereisten inclusief datasheets met trainingsmethodologieën, beschrijving van trainingsdatasets, herkomst en omvang van data, hoe data is verkregen en geselecteerd, labelprocedures (bijv. bij supervised learning), en datacleaning-methoden (bijv. outlier-detectie).

Moet ik cybersecuritymaatregelen documenteren?

Ja, punt 2h van Bijlage IV vereist expliciet dat de getroffen cybersecuritymaatregelen worden opgenomen in de technische documentatie.

Wat moet ik documenteren over menselijk toezicht?

Punt 2e vereist een beoordeling van de noodzakelijke menselijk-toezichtmaatregelen conform artikel 14, inclusief een beoordeling van technische maatregelen die het voor gebruikers mogelijk maken om de output van het AI-systeem te interpreteren (conform artikel 13, lid 3, punt d).

Hoe uitgebreid moet de risicobeoordeling in de technische documentatie zijn?

Punt 5 vereist een gedetailleerde beschrijving van het risicobeheersysteem conform artikel 9. Dit omvat identificatie van risico's voor gezondheid, veiligheid en grondrechten, risicobeperkende maatregelen, en restrisico-analyse.

Moet ik testresultaten opnemen in de technische documentatie?

Ja, punt 2g vereist: validatie- en testprocedures, informatie over test- en validatiedata, gebruikte metrieken voor nauwkeurigheid, robuustheid en compliance, potentieel discriminerende effecten, testlogs en alle testrapporten gedateerd en ondertekend.

Wat moet er in de algemene beschrijving van het AI-systeem?

Punt 1 vereist: (a) beoogd doel, naam aanbieder en versie, (b) interactie met hardware/software, (c) softwareversies, (d) vormen van marktintroductie (API, download, etc.), (e) beoogde hardware, (f) foto's bij ingebouwde producten, (g) beschrijving user interface, (h) gebruiksinstructies.

Moet ik wijzigingen aan het AI-systeem bijhouden?

Ja, punt 6 vereist een beschrijving van relevante wijzigingen die de aanbieder gedurende de levenscyclus aan het systeem heeft aangebracht. Ook punt 2f vereist documentatie van vooraf bepaalde wijzigingen en hoe continue compliance wordt gewaarborgd.

Is de technische documentatie van Bijlage IV verplicht voor alle AI-systemen?

Nee, Bijlage IV is alleen verplicht voor hoog-risico AI-systemen (conform artikel 11, lid 1). Voor AI-modellen voor algemene doeleinden (GPAI) geldt Bijlage XI.

Hoe verhoudt Bijlage IV zich tot de post-market monitoring?

Punt 9 vereist een gedetailleerde beschrijving van het systeem voor het evalueren van AI-prestaties na marktintroductie, conform artikel 72, inclusief het post-market monitoringsplan van artikel 72, lid 3.

Moet ik geharmoniseerde normen vermelden in de documentatie?

Ja, punt 7 vereist een lijst van toegepaste geharmoniseerde normen. Als geen geharmoniseerde normen zijn toegepast, moet een gedetailleerde beschrijving worden gegeven van de alternatieve oplossingen om aan de eisen van Hoofdstuk III, Afdeling 2 te voldoen.

Hoe bewaar ik de technische documentatie van Bijlage IV?

Conform artikel 18 moet de technische documentatie worden opgesteld vóór het AI-systeem op de markt wordt gebracht en actueel worden gehouden. De documentatie moet ten minste 10 jaar na marktintroductie beschikbaar zijn voor de bevoegde autoriteiten.

Hoe verhoudt de technische documentatie van Bijlage IV zich tot ISO 42001?

ISO/IEC 42001 (AI Management System) biedt een raamwerk dat deels overlapt met de eisen van Bijlage IV. Een ISO 42001-certificering dekt echter niet automatisch alle vereisten af. Bijlage IV bevat specifieke EU-eisen rond conformiteitsverklaring, post-market monitoring en CE-markering die verder gaan dan ISO 42001.

Wie heeft toegang tot de technische documentatie van Bijlage IV?

De technische documentatie moet beschikbaar zijn voor nationale markttoezichtautoriteiten op verzoek. U hoeft de documentatie niet openbaar te publiceren. Bij hoog-risico AI-systemen die een beoordeling door een aangemelde instantie vereisen (Bijlage VII), moet de documentatie ook aan deze instantie worden verstrekt.

Mag ik de technische documentatie in het Nederlands opstellen?

De technische documentatie moet worden opgesteld in een taal die door de betrokken lidstaat wordt geaccepteerd. In de praktijk accepteren de meeste lidstaten Engels. Controleer bij uw nationale toezichthouder of documentatie in het Nederlands of Engels volstaat voor uw markt.