Annex XI AI Act
53 straipsnio 1 dalies a punkte nurodyti techniniai dokumentai: bendrosios paskirties DI modelių tiekėjams skirti techniniai dokumentai
Official text
id="anx_XI "> XI PRIEDAS 53 straipsnio 1 dalies a punkte nurodyti techniniai dokumentai: bendrosios paskirties DI modelių tiekėjams skirti techniniai dokumentai 1 skirsnis Informacija, kurią turi pateikti visi bendrosios paskirties DI modelių tiekėjai 53 straipsnio 1 dalies a punkte nurodytuose techniniuose dokumentuose pateikiama bent ši informacija atitinkamai pagal modelio dydį ir rizikos profilį:
1) bendras bendrosios paskirties DI sistemos aprašymas, be kita ko:
a) užduotys, kurias turėtų atlikti modelis, ir DI sistemų, į kurias jis gali būti integruojamas, tipas ir pobūdis;
b) taikytinos priimtinos naudojimo taisyklės;
c) išleidimo data ir platinimo būdai;
d) architektūra ir parametrų skaičius;
e) įvedinių ir išvedinių būdai (pvz., tekstas, vaizdas) ir formatas;
f) licencija;
2) išsamus 1 punkte nurodyto modelio elementų aprašymas ir atitinkama informacija apie kūrimo procesą, be kita ko, šie elementai:
a) techninės priemonės (pvz., naudojimo instrukcijos, infrastruktūra, priemonės), reikalingos bendrosios paskirties DI modeliui integruoti į DI sistemas;
b) modelio projektavimo ir mokymo proceso rengimo specifikacijos, įskaitant mokymo metodiką ir būdus, pagrindinius projektavimo sprendimus, įskaitant loginį pagrindą ir prielaidas; jei taikytina, tai, ką modeliu siekiama optimizuoti, ir įvairių parametrų svarba;
c) kai taikytina, informacija apie mokymui, bandymui ir validavimui naudotus duomenis, įskaitant duomenų tipą bei kilmę ir priežiūros metodikas (pvz., valymą, filtravimą ir t. t.), duomenų taškų skaičių, jų apimtį ir pagrindinius ypatumus; kai taikytina, tai, kaip buvo gauti ir atrinkti duomenys, taip pat visos kitos priemonės, skirtos aptikti duomenų šaltinių ir metodų netinkamumą nustatytinam šališkumui aptikti;
d) kompiuterinio apdorojimo ištekliai, naudojami modeliui mokyti (pvz., slankiojo kablelio operacijų skaičius, mokymo laikas ir kita su mokymu susijusi informacija;
e) žinomas arba apskaičiuotas modelio energijos suvartojimas.
Atsižvelgiant į e punktą, kai modelio suvartojamos energijos kiekis nežinomas, energijos suvartojimas gali būti grindžiamas informacija apie naudojamus kompiuterinio apdorojimo išteklius.
2 skirsnis Papildoma informacija, kurią turi pateikti sisteminės rizikos bendrosios paskirties DI modelių tiekėjai
1. Išsamus vertinimo strategijų aprašymas, įskaitant vertinimo rezultatus, remiantis viešai prieinamais vertinimo protokolais ir priemonėmis arba kitomis vertinimo metodikomis. Vertinimo strategijos apima vertinimo kriterijus, metrikas ir ribotumų nustatymo metodiką.
2. Kai taikytina, išsamus priemonių, kurių imamasi siekiant atlikti vidaus ir (arba) išorės atsparumo kenksmingiems veiksmams bandymus (pvz., etišką įsilaužimą), modelių adaptavimo, įskaitant suderinimą ir pritaikymą, aprašymas.
3. Kai taikytina, išsamus sistemos architektūros aprašymas, kuriame paaiškinama, kaip programinės įrangos komponentai remiasi vienas kitu arba kaip papildo vienas kitą ir kaip jie integruoti į visą apdorojimo procesą.
Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.
📬 AI Act Weekly
Get the most important AI Act developments in your inbox every week.
SubscribeFrequently asked questions
What does Annex XI of the AI Act regulate?
Annex XI describes the technical documentation that providers of general-purpose AI (GPAI) models must prepare under Article 53(1)(a). It has two sections: one for all GPAI providers and an additional section for models with systemic risk.
What must be in the technical documentation of a GPAI model?
Section 1 requires: (1) general description including tasks, usage policies, architecture, parameters, modalities and licence, and (2) detailed description of development, training methodologies, data, computational resources and energy consumption.
Do I need to document my AI model's energy consumption?
Yes, point 2e of Section 1 requires the known or estimated energy consumption of the model. If exact consumption is unknown, an estimate based on computational resources used may be provided.
What extra documentation is required for GPAI with systemic risk?
Section 2 requires three additional elements: (1) detailed evaluation strategies with results and methods, (2) description of adversarial testing (red teaming), alignment and fine-tuning, and (3) description of system architecture.
Do I need to describe my training data?
Yes, point 2c of Section 1 requires information on training, testing and validation data, including type, provenance, curation methods, number of data points, scope, characteristics, and bias detection measures.
How does Annex XI differ from Annex IV?
Annex IV is for high-risk AI systems (Article 11), while Annex XI is specifically for GPAI models (Article 53). Annex XI focuses more on model architecture, training data and compute, while Annex IV is broader with requirements for risk management and human oversight.
What is red teaming and why is it required?
Red teaming is adversarial testing where the model is attacked to discover vulnerabilities. Section 2, point 2 requires this for GPAI models with systemic risk, including description of alignment and fine-tuning measures.
How many parameters must my model have to fall under Annex XI?
Annex XI applies to all GPAI models regardless of size. The number of parameters must be documented (point 1d), but there is no minimum threshold. The extra Section 2 requirements only apply to models with systemic risk (Article 51).