Responsible AI Platform

Annex XI AI Act

class="oj-doc-ti" id="d1e38-141-1">BILAG XI

Officiële tekst

id="anx_XI"> BILAG XI Teknisk dokumentation omhandlet i artikel 53, stk. 1, litra a) — teknisk dokumentation for udbydere af AI-modeller til almen brug Afsnit 1 Oplysninger, der skal forelægges af alle udbydere af AI-modeller til almen brug Den tekniske dokumentation omhandlet i artikel 53, stk. 1, litra a), skal som minimum indeholde følgende oplysninger, alt efter hvad der er relevant for modellens størrelse og risikoprofil:

1. En generel beskrivelse af AI-modellen til almen brug, herunder:

a) de opgaver, som modellen tilsigtes at udføre, og typen og arten af AI-systemer, som den kan integreres i

b) gældende acceptable anvendelsespolitikker

c) frigivelsesdato og distributionsmetoder

d) parametrenes arkitektur og antal

e) modalitet (f.eks. tekst, billede) og format af input og output

f) licensen.

2. En detaljeret beskrivelse af elementerne i den model, der er omhandlet i punkt 1, og relevante oplysninger om udviklingsprocessen, herunder følgende elementer:

a) de tekniske midler (f.eks. brugsanvisning, infrastruktur, værktøjer), der er nødvendige for, at AI-modellen til almen brug kan integreres i AI-systemer

b) modellens konstruktionsspecifikationer og træningsprocessen, herunder træningsmetoder og -teknikker, de vigtigste valg med hensyn til udformning, herunder begrundelser og antagelser, hvad modellen er udformet til at optimere for og relevansen af de forskellige parametre, alt efter hvad der er relevant

c) oplysninger om de data, der anvendes til træning, afprøvning og validering, hvis det er relevant, herunder dataenes type og oprindelse og kurateringsmetoder (f.eks. rensning, filtrering osv.), antallet af datapunkter, deres omfang og vigtigste karakteristika, hvordan dataene er indhentet og udvalgt, samt alle andre foranstaltninger til at opdage uegnede datakilder og metoder til at opdage identificerbare bias, hvor det er relevant

d) de beregningskraftsressourcer, der anvendes til at træne modellen (f.eks. antal flydende kommatalsberegninger), træningstid og andre relevante detaljer vedrørende træningen

e) modellens kendte eller anslåede energiforbrug.

For så vidt angår litra e) kan energiforbruget, hvis modellens energiforbrug er ukendt, baseres på oplysninger om anvendte beregningskraftsressourcer.

Afsnit 2 Yderligere oplysninger, der skal forelægges af udbydere af AI-modeller til almen brug med systemisk risiko

1. En detaljeret beskrivelse af evalueringsstrategierne, herunder evalueringsresultater, på grundlag af tilgængelige offentlige evalueringsprotokoller og -værktøjer eller på anden måde af andre evalueringsmetoder. Evalueringsstrategierne skal omfatte evalueringskriterier, parametre og metoder til identifikation af begrænsninger.

2. Hvis det er relevant, en detaljeret beskrivelse af de foranstaltninger, der er truffet med henblik på at gennemføre intern og/eller ekstern kontradiktorisk afprøvning (f.eks. red teaming), modeltilpasninger, herunder tilpasning og finjustering.

3. Hvis det er relevant, en detaljeret beskrivelse af systemarkitekturen, der forklarer, hvordan softwarekomponenterne bygger på eller føder ind i hinanden og integreres i den samlede anvendelse.

Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.

📬 AI Act Weekly

Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.

Aanmelden

Veelgestelde vragen

Wat regelt Bijlage XI van de AI Act?

Bijlage XI beschrijft de technische documentatie die aanbieders van AI-modellen voor algemene doeleinden (GPAI) moeten opstellen conform artikel 53, lid 1, punt a). Het bevat twee secties: een voor alle GPAI-aanbieders en een extra sectie voor modellen met systeemrisico.

Wat moet in de technische documentatie van een GPAI-model?

Sectie 1 vereist: (1) algemene beschrijving inclusief taken, gebruiksbeleid, architectuur, parameters, modaliteiten en licentie, en (2) gedetailleerde beschrijving van ontwikkeling, trainingsmethodologieën, data, rekenkracht en energieverbruik.

Moet ik het energieverbruik van mijn AI-model documenteren?

Ja, punt 2e van Sectie 1 vereist het bekende of geschatte energieverbruik van het model. Als het exacte verbruik onbekend is, mag een schatting gebaseerd op gebruikte rekenkracht worden gegeven.

Welke extra documentatie is vereist voor GPAI met systeemrisico?

Sectie 2 vereist drie extra onderdelen: (1) gedetailleerde evaluatiestrategieën met resultaten en methoden, (2) beschrijving van adversarial testing (red teaming), alignment en fine-tuning, en (3) beschrijving van de systeemarchitectuur.

Moet ik mijn trainingsdata beschrijven?

Ja, punt 2c van Sectie 1 vereist informatie over trainings-, test- en validatiedata, inclusief type, herkomst, curatiemethoden, aantal datapunten, omvang, kenmerken, en maatregelen voor bias-detectie.

Verschilt Bijlage XI van Bijlage IV?

Ja, Bijlage IV is voor hoog-risico AI-systemen (artikel 11), terwijl Bijlage XI specifiek is voor GPAI-modellen (artikel 53). Bijlage XI focust meer op modelarchitectuur, trainingsdata en rekenkracht, terwijl Bijlage IV breder is met eisen voor risicobeheer en menselijk toezicht.

Wat is red teaming en waarom is het vereist?

Red teaming is adversarial testing waarbij het model wordt aangevallen om kwetsbaarheden te ontdekken. Sectie 2, punt 2 vereist dit voor GPAI-modellen met systeemrisico, inclusief beschrijving van alignment en fine-tuning maatregelen.

Hoeveel parameters moet mijn model hebben om onder Bijlage XI te vallen?

Bijlage XI geldt voor alle GPAI-modellen ongeacht grootte. Het aantal parameters moet worden gedocumenteerd (punt 1d), maar er is geen minimumdrempel. De extra eisen van Sectie 2 gelden alleen voor modellen met systeemrisico (artikel 51).