Responsible AI Platform

Annex XI AI Act

Tehniskā dokumentācija, kas minēta 53. panta 1. punkta a) apakšpunktā – tehniskā dokumentācija vispārīga lietojuma MI modeļu nodrošinātājiem

Official text

id="anx_XI "> XI PIELIKUMS Tehniskā dokumentācija, kas minēta 53. panta 1. punkta a) apakšpunktā – tehniskā dokumentācija vispārīga lietojuma MI modeļu nodrošinātājiem 1. iedaļa Informācija, kas jāsniedz visiem vispārīga lietojuma MI modeļu nodrošinātājiem Tehniskajā dokumentācijā, kas minēta 53. panta 1. punkta a) apakšpunktā, norāda vismaz turpmāk uzskaitīto informāciju atbilstīgi modeļa lielumam un riska profilam.

1. Vispārīga lietojuma MI modeļa vispārīgs apraksts, kas ietver šādu informāciju:

a) uzdevumi, kādus modelim paredzēts veikt, un to MI sistēmu veids un raksturs, kādās to var integrēt;

b) piemērojamās pieļaujamās lietošanas politikas;

c) izlaides datums un izplatīšanas metodes;

d) arhitektūra un parametru skaits;

e) ievaddatu un iznākumu modalitāte (piemēram, teksts, attēls) un formāts;

f) licence.

2. Detalizēts 1. punktā minētā modeļa elementu apraksts un relevanta informācija par izstrādes procesu, kas ietver šādus elementus:

a) tehniskie līdzekļi (piemēram, lietošanas instrukcija, infrastruktūra, rīki), kas vajadzīgi, lai vispārīga lietojuma MI modeli integrētu MI sistēmās;

b) modeļa un apmācības procesa projekta specifikācijas, tostarp apmācības metodikas un metodes, galvenās projektēšanas izvēles, tostarp pamatojums un izdarītie pieņēmumi; ko ar modeli paredzēts optimizēt un, attiecīgi, kāda ir dažādo parametru nozīme;

c) attiecīgā gadījumā – informācija par apmācībai, validēšanai un testēšanai izmantotajiem datiem, tostarp datu veidu un izcelsmi un kūrēšanas metodiku (piemēram, tīrīšana, filtrēšana), datu punktu skaitu, to tvērumu un galvenajiem raksturlielumiem; to, kā dati iegūti un atlasīti, kā arī, attiecīgā gadījumā, citiem pasākumiem nolūkā atklāt datu avotu nepiemērotību un metodēm nolūkā atklāt identificējamu neobjektivitāti;

d) skaitļošanas resursi, ko izmanto modeļa apmācīšanai (piemēram, peldošā punkta operāciju skaits), apmācības laiks un cita būtiska informācija, kas saistīta ar apmācību;

e) modeļa zināmais vai aplēstais enerģijas patēriņš.

Attiecībā uz e) apakšpunktu, ja modeļa enerģijas patēriņš nav zināms, enerģijas patēriņu var balstīt uz informāciju par izmantotajiem skaitļošanas resursiem.

2. iedaļa Papildu informācija, kas jāsniedz vispārīga lietojuma MI modeļu ar sistēmisku risku nodrošinātājiem

1. Izvērtēšanas stratēģiju detalizēts apraksts, ietverot izvērtēšanu rezultātus, pamatojoties uz pieejamiem publiskiem izvērtēšanas protokoliem un rīkiem vai citādi uz citām izvērtēšanas metodikām. Izvērtēšanas stratēģijas ietver izvērtēšanas kritērijus, rādītājus un metodiku saistībā ar ierobežojumu identifikāciju.

2. Attiecīgā gadījumā – detalizēts apraksts par pasākumiem, kas ieviesti, lai veiktu iekšēju un/vai ārēju pretiniecisko testēšanu (piemēram, sarkanās komandas pieeju (red teaming)), modeļa pielāgojumus, tostarp līdzināšanu un precīzu iestatīšanu.

3. Attiecīgā gadījumā – detalizēts sistēmas arhitektūras apraksts, kurā paskaidrots, kā programmatūras komponenti ir balstīti cits citā vai papildina cits citu un kā tie integrēti kopējā programmas darbībā.

Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.

📬 AI Act Weekly

Get the most important AI Act developments in your inbox every week.

Subscribe

Frequently asked questions

What does Annex XI of the AI Act regulate?

Annex XI describes the technical documentation that providers of general-purpose AI (GPAI) models must prepare under Article 53(1)(a). It has two sections: one for all GPAI providers and an additional section for models with systemic risk.

What must be in the technical documentation of a GPAI model?

Section 1 requires: (1) general description including tasks, usage policies, architecture, parameters, modalities and licence, and (2) detailed description of development, training methodologies, data, computational resources and energy consumption.

Do I need to document my AI model's energy consumption?

Yes, point 2e of Section 1 requires the known or estimated energy consumption of the model. If exact consumption is unknown, an estimate based on computational resources used may be provided.

What extra documentation is required for GPAI with systemic risk?

Section 2 requires three additional elements: (1) detailed evaluation strategies with results and methods, (2) description of adversarial testing (red teaming), alignment and fine-tuning, and (3) description of system architecture.

Do I need to describe my training data?

Yes, point 2c of Section 1 requires information on training, testing and validation data, including type, provenance, curation methods, number of data points, scope, characteristics, and bias detection measures.

How does Annex XI differ from Annex IV?

Annex IV is for high-risk AI systems (Article 11), while Annex XI is specifically for GPAI models (Article 53). Annex XI focuses more on model architecture, training data and compute, while Annex IV is broader with requirements for risk management and human oversight.

What is red teaming and why is it required?

Red teaming is adversarial testing where the model is attacked to discover vulnerabilities. Section 2, point 2 requires this for GPAI models with systemic risk, including description of alignment and fine-tuning measures.

How many parameters must my model have to fall under Annex XI?

Annex XI applies to all GPAI models regardless of size. The number of parameters must be documented (point 1d), but there is no minimum threshold. The extra Section 2 requirements only apply to models with systemic risk (Article 51).