Annex XI AI Act
class="oj-doc-ti" id="d1e38-141-1">ПРИЛОЖЕНИЕ XI
Officiële tekst
id="anx_XI"> ПРИЛОЖЕНИЕ XI Техническа документация по член 53, параграф 1, буква а) — техническа документация за доставчиците на модели на ИИ с общо предназначение Раздел 1 Информация, която се предоставя от всички доставчици на модели на ИИ с общо предназначение Техническата документация по член 53, параграф 1, буква а) съдържа най-малко следната информация, до степента, в която е целесъобразно предвид размера и рисковия профил на модела:
1. Общо описание на модела на ИИ с общо предназначение, включително:
a) задачите, които моделът е предназначен да изпълнява, и вида и естеството на системите с ИИ, в които той може да бъде интегриран;
б)
приложимите политики за приемливо използване;
в)
датата на пускане и методите на разпространение;
г)
архитектурата и броя на параметрите;
д)
вида (например текст, изображение) и формата на входящите и изходящите данни;
е)
лицензът.
2. Подробно описание на елементите на модела, посочени в точка 1, и съответната информация за процеса на разработване, включително следните елементи:
a) техническите средства (например инструкции за употреба, инфраструктура, инструменти), необходими за интегрирането на модела на ИИ с общо предназначение в системите с ИИ;
б)
проектните спецификации на модела и процеса на обучение, включително методологии и техники за обучение, ключовите проектни решения, включително обосновката и направените допускания; какво е проектиран да оптимизира моделът и адекватността на различните параметри, доколкото е приложимо;
в)
информация относно данните, използвани за обучение, изпитване и валидиране, когато е приложимо, включително вида и произхода на данните и методиките за поддържане (например почистване, филтриране и т.н.), броя на данните, техния обхват и основни характеристики; как са получени и подбрани данните, както и всички други мерки за откриване на непригодност на източниците на данни и методите за откриване на установима предубеденост, когато е приложимо;
г)
изчислителните ресурси, използвани за обучение на модела (например брой операции с плаваща запетая), времето за обучение и други съответни подробности, свързани с обучението;
д)
известно или прогнозно енергопотребление на модела.
По отношение на буква д), когато енергопотреблението на модела е неизвестно, енергопотреблението може да се основава на информация за използваните изчислителни ресурси.
Раздел 2 Допълнителна информация, която се предоставя от доставчиците на модели на ИИ с общо предназначение, пораждащи системен риск
1. Подробно описание на стратегиите за оценка, включително резултатите от оценката, въз основа на наличните протоколи и инструменти за публична оценка или други методологии за оценка. Стратегиите за оценка включват критерии за оценка, показатели и методология за определяне на ограниченията.
2. Когато е приложимо, подробно описание на мерките, въведени с цел провеждане на вътрешно и/или външно състезателно изпитване (например техники за проверка), адаптиране на модела, включително подравняване и фино регулиране.
3. Когато е приложимо, подробно описание на архитектурата на системата, в което се обяснява как софтуерните компоненти се надграждат или допълват взаимно и как се интегрират в цялостната обработка.
Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.
📬 AI Act Weekly
Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.
AanmeldenVeelgestelde vragen
Wat regelt Bijlage XI van de AI Act?
Bijlage XI beschrijft de technische documentatie die aanbieders van AI-modellen voor algemene doeleinden (GPAI) moeten opstellen conform artikel 53, lid 1, punt a). Het bevat twee secties: een voor alle GPAI-aanbieders en een extra sectie voor modellen met systeemrisico.
Wat moet in de technische documentatie van een GPAI-model?
Sectie 1 vereist: (1) algemene beschrijving inclusief taken, gebruiksbeleid, architectuur, parameters, modaliteiten en licentie, en (2) gedetailleerde beschrijving van ontwikkeling, trainingsmethodologieën, data, rekenkracht en energieverbruik.
Moet ik het energieverbruik van mijn AI-model documenteren?
Ja, punt 2e van Sectie 1 vereist het bekende of geschatte energieverbruik van het model. Als het exacte verbruik onbekend is, mag een schatting gebaseerd op gebruikte rekenkracht worden gegeven.
Welke extra documentatie is vereist voor GPAI met systeemrisico?
Sectie 2 vereist drie extra onderdelen: (1) gedetailleerde evaluatiestrategieën met resultaten en methoden, (2) beschrijving van adversarial testing (red teaming), alignment en fine-tuning, en (3) beschrijving van de systeemarchitectuur.
Moet ik mijn trainingsdata beschrijven?
Ja, punt 2c van Sectie 1 vereist informatie over trainings-, test- en validatiedata, inclusief type, herkomst, curatiemethoden, aantal datapunten, omvang, kenmerken, en maatregelen voor bias-detectie.
Verschilt Bijlage XI van Bijlage IV?
Ja, Bijlage IV is voor hoog-risico AI-systemen (artikel 11), terwijl Bijlage XI specifiek is voor GPAI-modellen (artikel 53). Bijlage XI focust meer op modelarchitectuur, trainingsdata en rekenkracht, terwijl Bijlage IV breder is met eisen voor risicobeheer en menselijk toezicht.
Wat is red teaming en waarom is het vereist?
Red teaming is adversarial testing waarbij het model wordt aangevallen om kwetsbaarheden te ontdekken. Sectie 2, punt 2 vereist dit voor GPAI-modellen met systeemrisico, inclusief beschrijving van alignment en fine-tuning maatregelen.
Hoeveel parameters moet mijn model hebben om onder Bijlage XI te vallen?
Bijlage XI geldt voor alle GPAI-modellen ongeacht grootte. Het aantal parameters moet worden gedocumenteerd (punt 1d), maar er is geen minimumdrempel. De extra eisen van Sectie 2 gelden alleen voor modellen met systeemrisico (artikel 51).