Annex XI AI Act
class="oj-doc-ti" id="d1e38-141-1">ПРИЛОЖЕНИЕ XI
Official text
id="anx_XI"> ПРИЛОЖЕНИЕ XI Техническа документация по член 53, параграф 1, буква а) — техническа документация за доставчиците на модели на ИИ с общо предназначение Раздел 1 Информация, която се предоставя от всички доставчици на модели на ИИ с общо предназначение Техническата документация по член 53, параграф 1, буква а) съдържа най-малко следната информация, до степента, в която е целесъобразно предвид размера и рисковия профил на модела:
1. Общо описание на модела на ИИ с общо предназначение, включително:
a) задачите, които моделът е предназначен да изпълнява, и вида и естеството на системите с ИИ, в които той може да бъде интегриран;
б)
приложимите политики за приемливо използване;
в)
датата на пускане и методите на разпространение;
г)
архитектурата и броя на параметрите;
д)
вида (например текст, изображение) и формата на входящите и изходящите данни;
е)
лицензът.
2. Подробно описание на елементите на модела, посочени в точка 1, и съответната информация за процеса на разработване, включително следните елементи:
a) техническите средства (например инструкции за употреба, инфраструктура, инструменти), необходими за интегрирането на модела на ИИ с общо предназначение в системите с ИИ;
б)
проектните спецификации на модела и процеса на обучение, включително методологии и техники за обучение, ключовите проектни решения, включително обосновката и направените допускания; какво е проектиран да оптимизира моделът и адекватността на различните параметри, доколкото е приложимо;
в)
информация относно данните, използвани за обучение, изпитване и валидиране, когато е приложимо, включително вида и произхода на данните и методиките за поддържане (например почистване, филтриране и т.н.), броя на данните, техния обхват и основни характеристики; как са получени и подбрани данните, както и всички други мерки за откриване на непригодност на източниците на данни и методите за откриване на установима предубеденост, когато е приложимо;
г)
изчислителните ресурси, използвани за обучение на модела (например брой операции с плаваща запетая), времето за обучение и други съответни подробности, свързани с обучението;
д)
известно или прогнозно енергопотребление на модела.
По отношение на буква д), когато енергопотреблението на модела е неизвестно, енергопотреблението може да се основава на информация за използваните изчислителни ресурси.
Раздел 2 Допълнителна информация, която се предоставя от доставчиците на модели на ИИ с общо предназначение, пораждащи системен риск
1. Подробно описание на стратегиите за оценка, включително резултатите от оценката, въз основа на наличните протоколи и инструменти за публична оценка или други методологии за оценка. Стратегиите за оценка включват критерии за оценка, показатели и методология за определяне на ограниченията.
2. Когато е приложимо, подробно описание на мерките, въведени с цел провеждане на вътрешно и/или външно състезателно изпитване (например техники за проверка), адаптиране на модела, включително подравняване и фино регулиране.
3. Когато е приложимо, подробно описание на архитектурата на системата, в което се обяснява как софтуерните компоненти се надграждат или допълват взаимно и как се интегрират в цялостната обработка.
Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.
📬 AI Act Weekly
Get the most important AI Act developments in your inbox every week.
SubscribeFrequently asked questions
What does Annex XI of the AI Act regulate?
Annex XI describes the technical documentation that providers of general-purpose AI (GPAI) models must prepare under Article 53(1)(a). It has two sections: one for all GPAI providers and an additional section for models with systemic risk.
What must be in the technical documentation of a GPAI model?
Section 1 requires: (1) general description including tasks, usage policies, architecture, parameters, modalities and licence, and (2) detailed description of development, training methodologies, data, computational resources and energy consumption.
Do I need to document my AI model's energy consumption?
Yes, point 2e of Section 1 requires the known or estimated energy consumption of the model. If exact consumption is unknown, an estimate based on computational resources used may be provided.
What extra documentation is required for GPAI with systemic risk?
Section 2 requires three additional elements: (1) detailed evaluation strategies with results and methods, (2) description of adversarial testing (red teaming), alignment and fine-tuning, and (3) description of system architecture.
Do I need to describe my training data?
Yes, point 2c of Section 1 requires information on training, testing and validation data, including type, provenance, curation methods, number of data points, scope, characteristics, and bias detection measures.
How does Annex XI differ from Annex IV?
Annex IV is for high-risk AI systems (Article 11), while Annex XI is specifically for GPAI models (Article 53). Annex XI focuses more on model architecture, training data and compute, while Annex IV is broader with requirements for risk management and human oversight.
What is red teaming and why is it required?
Red teaming is adversarial testing where the model is attacked to discover vulnerabilities. Section 2, point 2 requires this for GPAI models with systemic risk, including description of alignment and fine-tuning measures.
How many parameters must my model have to fall under Annex XI?
Annex XI applies to all GPAI models regardless of size. The number of parameters must be documented (point 1d), but there is no minimum threshold. The extra Section 2 requirements only apply to models with systemic risk (Article 51).