Annex XI AI Act
class="oj-doc-ti" id="d1e38-141-1">PRÍLOHA XI
Official text
id="anx_XI"> PRÍLOHA XI Technická dokumentácia podľa článku 53 ods. 1 písm. a) – technická dokumentácia pre poskytovateľov modelov AI na všeobecné účely Oddiel 1 Informácie, ktoré majú poskytnúť všetci poskytovatelia modelov AI na všeobecné účely Technická dokumentácia podľa článku 53 ods. 1 písm. a) obsahuje v závislosti od veľkosti a rizikového profilu modelu aspoň tieto informácie:
1. všeobecný opis modelu AI na všeobecné účely vrátane týchto prvkov:
a) úlohy, ktoré má model plniť, a typ a povaha systémov AI, do ktorých ho možno integrovať;
b) uplatniteľné politiky prijateľného použitia;
c) dátum vydania a spôsoby distribúcie;
d) architektúra a počet parametrov;
e) modality (napr. text, obrázok) a formát vstupov a výstupov;
f) licencia.
2. Podrobný opis prvkov modelu uvedeného v bode 1 a relevantné informácie o procese vývoja vrátane týchto prvkov:
a) technické prostriedky (napr. návod na použitie, infraštruktúra, nástroje) potrebné na integráciu modelu AI na všeobecné účely do systémov AI;
b) špecifikácie dizajnu modelu a procesu trénovania vrátane metodík a techník trénovania, kľúčové rozhodnutia prijaté počas dizajnovania vrátane odôvodnenia a predpokladov; čo má model optimalizovať a relevantnosť jednotlivých parametrov, podľa prípadu;
c) informácie o údajoch použitých na trénovanie, testovanie a prípadne validáciu vrátane typu a pôvodu údajov a metodík spracovania (napr. čistenie, filtrovanie atď.), o počte údajových bodov, ich rozsahu a hlavných charakteristikách; spôsob, akým sa údaje získali a vybrali, ako aj všetky ostatné opatrenia na zistenie nevhodnosti zdrojov údajov a metód na zistenie identifikovateľných skreslení, podľa prípadu;
d) výpočtové zdroje použité na trénovanie modelu (napr. počet operácií s pohyblivou rádovou čiarkou), dĺžka trénovania a iné relevantné podrobnosti týkajúce sa trénovania;
e) známa alebo odhadovaná spotreba energie modelu.
Pokiaľ ide o písmeno e), ak spotreba energie modelu nie je známa, spotreba energie môže byť založená na informáciách o použitých výpočtových zdrojoch.
Oddiel 2 Ďalšie informácie, ktoré majú poskytovať poskytovatelia modelov AI na všeobecné účely so systémovým rizikom
1. Podrobný opis stratégií hodnotenia vrátane výsledkov hodnotenia na základe dostupných protokolov a nástrojov verejného hodnotenia alebo iných metodík hodnotenia. Stratégie hodnotenia zahŕňajú hodnotiace kritériá, metriky a metodiku identifikácie obmedzení.
2. Ak je to relevantné, podrobný opis opatrení zavedených na účely vykonávania interného a/alebo externého testovania na nepriateľské útoky (napr. červené tímy), úpravy modelu vrátane zosúlaďovania a dolaďovania.
3. Ak je to relevantné, podrobný opis architektúry systému, v ktorom sa vysvetľuje, ako softvérové komponenty na seba nadväzujú alebo ako sa navzájom dopĺňajú a ako sú integrované do celkového spracúvania.
Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.
📬 AI Act Weekly
Get the most important AI Act developments in your inbox every week.
SubscribeFrequently asked questions
What does Annex XI of the AI Act regulate?
Annex XI describes the technical documentation that providers of general-purpose AI (GPAI) models must prepare under Article 53(1)(a). It has two sections: one for all GPAI providers and an additional section for models with systemic risk.
What must be in the technical documentation of a GPAI model?
Section 1 requires: (1) general description including tasks, usage policies, architecture, parameters, modalities and licence, and (2) detailed description of development, training methodologies, data, computational resources and energy consumption.
Do I need to document my AI model's energy consumption?
Yes, point 2e of Section 1 requires the known or estimated energy consumption of the model. If exact consumption is unknown, an estimate based on computational resources used may be provided.
What extra documentation is required for GPAI with systemic risk?
Section 2 requires three additional elements: (1) detailed evaluation strategies with results and methods, (2) description of adversarial testing (red teaming), alignment and fine-tuning, and (3) description of system architecture.
Do I need to describe my training data?
Yes, point 2c of Section 1 requires information on training, testing and validation data, including type, provenance, curation methods, number of data points, scope, characteristics, and bias detection measures.
How does Annex XI differ from Annex IV?
Annex IV is for high-risk AI systems (Article 11), while Annex XI is specifically for GPAI models (Article 53). Annex XI focuses more on model architecture, training data and compute, while Annex IV is broader with requirements for risk management and human oversight.
What is red teaming and why is it required?
Red teaming is adversarial testing where the model is attacked to discover vulnerabilities. Section 2, point 2 requires this for GPAI models with systemic risk, including description of alignment and fine-tuning measures.
How many parameters must my model have to fall under Annex XI?
Annex XI applies to all GPAI models regardless of size. The number of parameters must be documented (point 1d), but there is no minimum threshold. The extra Section 2 requirements only apply to models with systemic risk (Article 51).