Annex XI AI Act
53 straipsnio 1 dalies a punkte nurodyti techniniai dokumentai: bendrosios paskirties DI modelių tiekėjams skirti techniniai dokumentai
Officiële tekst
id="anx_XI "> XI PRIEDAS 53 straipsnio 1 dalies a punkte nurodyti techniniai dokumentai: bendrosios paskirties DI modelių tiekėjams skirti techniniai dokumentai 1 skirsnis Informacija, kurią turi pateikti visi bendrosios paskirties DI modelių tiekėjai 53 straipsnio 1 dalies a punkte nurodytuose techniniuose dokumentuose pateikiama bent ši informacija atitinkamai pagal modelio dydį ir rizikos profilį:
1) bendras bendrosios paskirties DI sistemos aprašymas, be kita ko:
a) užduotys, kurias turėtų atlikti modelis, ir DI sistemų, į kurias jis gali būti integruojamas, tipas ir pobūdis;
b) taikytinos priimtinos naudojimo taisyklės;
c) išleidimo data ir platinimo būdai;
d) architektūra ir parametrų skaičius;
e) įvedinių ir išvedinių būdai (pvz., tekstas, vaizdas) ir formatas;
f) licencija;
2) išsamus 1 punkte nurodyto modelio elementų aprašymas ir atitinkama informacija apie kūrimo procesą, be kita ko, šie elementai:
a) techninės priemonės (pvz., naudojimo instrukcijos, infrastruktūra, priemonės), reikalingos bendrosios paskirties DI modeliui integruoti į DI sistemas;
b) modelio projektavimo ir mokymo proceso rengimo specifikacijos, įskaitant mokymo metodiką ir būdus, pagrindinius projektavimo sprendimus, įskaitant loginį pagrindą ir prielaidas; jei taikytina, tai, ką modeliu siekiama optimizuoti, ir įvairių parametrų svarba;
c) kai taikytina, informacija apie mokymui, bandymui ir validavimui naudotus duomenis, įskaitant duomenų tipą bei kilmę ir priežiūros metodikas (pvz., valymą, filtravimą ir t. t.), duomenų taškų skaičių, jų apimtį ir pagrindinius ypatumus; kai taikytina, tai, kaip buvo gauti ir atrinkti duomenys, taip pat visos kitos priemonės, skirtos aptikti duomenų šaltinių ir metodų netinkamumą nustatytinam šališkumui aptikti;
d) kompiuterinio apdorojimo ištekliai, naudojami modeliui mokyti (pvz., slankiojo kablelio operacijų skaičius, mokymo laikas ir kita su mokymu susijusi informacija;
e) žinomas arba apskaičiuotas modelio energijos suvartojimas.
Atsižvelgiant į e punktą, kai modelio suvartojamos energijos kiekis nežinomas, energijos suvartojimas gali būti grindžiamas informacija apie naudojamus kompiuterinio apdorojimo išteklius.
2 skirsnis Papildoma informacija, kurią turi pateikti sisteminės rizikos bendrosios paskirties DI modelių tiekėjai
1. Išsamus vertinimo strategijų aprašymas, įskaitant vertinimo rezultatus, remiantis viešai prieinamais vertinimo protokolais ir priemonėmis arba kitomis vertinimo metodikomis. Vertinimo strategijos apima vertinimo kriterijus, metrikas ir ribotumų nustatymo metodiką.
2. Kai taikytina, išsamus priemonių, kurių imamasi siekiant atlikti vidaus ir (arba) išorės atsparumo kenksmingiems veiksmams bandymus (pvz., etišką įsilaužimą), modelių adaptavimo, įskaitant suderinimą ir pritaikymą, aprašymas.
3. Kai taikytina, išsamus sistemos architektūros aprašymas, kuriame paaiškinama, kaip programinės įrangos komponentai remiasi vienas kitu arba kaip papildo vienas kitą ir kaip jie integruoti į visą apdorojimo procesą.
Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.
📬 AI Act Weekly
Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.
AanmeldenVeelgestelde vragen
Wat regelt Bijlage XI van de AI Act?
Bijlage XI beschrijft de technische documentatie die aanbieders van AI-modellen voor algemene doeleinden (GPAI) moeten opstellen conform artikel 53, lid 1, punt a). Het bevat twee secties: een voor alle GPAI-aanbieders en een extra sectie voor modellen met systeemrisico.
Wat moet in de technische documentatie van een GPAI-model?
Sectie 1 vereist: (1) algemene beschrijving inclusief taken, gebruiksbeleid, architectuur, parameters, modaliteiten en licentie, en (2) gedetailleerde beschrijving van ontwikkeling, trainingsmethodologieën, data, rekenkracht en energieverbruik.
Moet ik het energieverbruik van mijn AI-model documenteren?
Ja, punt 2e van Sectie 1 vereist het bekende of geschatte energieverbruik van het model. Als het exacte verbruik onbekend is, mag een schatting gebaseerd op gebruikte rekenkracht worden gegeven.
Welke extra documentatie is vereist voor GPAI met systeemrisico?
Sectie 2 vereist drie extra onderdelen: (1) gedetailleerde evaluatiestrategieën met resultaten en methoden, (2) beschrijving van adversarial testing (red teaming), alignment en fine-tuning, en (3) beschrijving van de systeemarchitectuur.
Moet ik mijn trainingsdata beschrijven?
Ja, punt 2c van Sectie 1 vereist informatie over trainings-, test- en validatiedata, inclusief type, herkomst, curatiemethoden, aantal datapunten, omvang, kenmerken, en maatregelen voor bias-detectie.
Verschilt Bijlage XI van Bijlage IV?
Ja, Bijlage IV is voor hoog-risico AI-systemen (artikel 11), terwijl Bijlage XI specifiek is voor GPAI-modellen (artikel 53). Bijlage XI focust meer op modelarchitectuur, trainingsdata en rekenkracht, terwijl Bijlage IV breder is met eisen voor risicobeheer en menselijk toezicht.
Wat is red teaming en waarom is het vereist?
Red teaming is adversarial testing waarbij het model wordt aangevallen om kwetsbaarheden te ontdekken. Sectie 2, punt 2 vereist dit voor GPAI-modellen met systeemrisico, inclusief beschrijving van alignment en fine-tuning maatregelen.
Hoeveel parameters moet mijn model hebben om onder Bijlage XI te vallen?
Bijlage XI geldt voor alle GPAI-modellen ongeacht grootte. Het aantal parameters moet worden gedocumenteerd (punt 1d), maar er is geen minimumdrempel. De extra eisen van Sectie 2 gelden alleen voor modellen met systeemrisico (artikel 51).