Annex IV AI Act
11 straipsnio 1 dalyje nurodyti techniniai dokumentai
Officiële tekst
id="anx_IV "> IV PRIEDAS 11 straipsnio 1 dalyje nurodyti techniniai dokumentai 11 straipsnio 1 dalyje nurodytuose techniniuose dokumentuose pateikiama bent ši informacija, kuri taikoma atitinkamai DI sistemai:
1) bendras DI sistemos aprašymas, įskaitant:
a) numatytąją paskirtį, tiekėjo pavadinimą bei sistemos versiją, atspindinčią jos ryšį su ankstesnėmis versijomis;
b) kai taikytina, tai, kaip DI sistema sąveikauja su aparatine arba programine įranga, be kita ko, su kitomis DI sistemomis, kurios nėra pačios DI sistemos sudedamoji dalis, arba kaip ji gali būti naudojama, kad sąveikautų su tokia įranga;
c) atitinkamos programinės įrangos arba aparatinės programinės įrangos versijas ir su versijos atnaujinimais susijusius bet kokius reikalavimus;
d) visų DI sistemos pateikimo rinkai arba pradėjimo naudoti formų, pvz., į aparatinę įrangą instaliuotų programinės įrangos paketų, parsisiuntimų ar API, aprašymą;
e) aparatinės įrangos, kurią naudojant numatoma naudoti DI sistemą, aprašymą;
f) jeigu DI sistema yra gaminių komponentas, nuotraukas arba iliustracijas, kuriose matomi tų gaminių išorės požymiai, ženklinimas ir vidaus sandara;
g) diegėjui pateiktos naudotojo sąsajos pagrindinį aprašymą;
h) diegėjui skirtos naudojimo instrukcijos ir, kai taikytina, diegėjui pateiktos naudotojo sąsajos pagrindinį aprašymą;
2) išsamus DI sistemos ir jos kūrimo proceso elementų aprašymas, įskaitant:
a) metodus ir etapus, susijusius su DI sistemos kūrimu, įskaitant, kai aktualu, iš anksto apmokytų sistemų arba įrankių, kuriuos suteikė trečiosios šalys, naudojimą ir tai, kaip tiekėjas juos panaudojo, integravo arba pakeitė;
b) sistemos modelio specifikacijas, būtent bendrą DI sistemos ir algoritmų logiką; pagrindinius projektavimo sprendimus, įskaitant loginį pagrindą ir prielaidas, be kita ko, dėl asmenų ar asmenų grupių, kurių atžvilgiu sistema skirta naudoti; pagrindinius klasifikacijos sprendimus; tai, ką sistema siekiama optimizuoti, ir įvairių parametrų svarbą; numatomo sistemos išvedinio ir išvedinio kokybės aprašymą; sprendimus dėl bet kokių galimų kompromisų, susijusių su techniniais sprendimais, kurie buvo įgyvendinti siekiant laikytis III skyriaus 2 skirsnyje nustatytų reikalavimų;
c) sistemos architektūros aprašymą, kuriame paaiškinama, kaip programinės įrangos komponentai remiasi vienas kitu arba kaip papildo vienas kitą ir kaip jie integruoti į visą apdorojimo procesą; kompiuterinio apdorojimo išteklius, kurie buvo naudojami DI sistemai kurti, mokyti, bandyti ir validuoti;
d) kai aktualu, duomenų reikalavimus, nustatytus duomenų lapuose, kuriuose aprašomos mokymo metodikos ir būdai, ir naudojamus mokymo duomenų rinkinius, įskaitant bendrą šių duomenų rinkinių aprašymą, informaciją apie jų kilmę, taikymo sritį ir pagrindinius ypatumus; tai, kaip duomenys buvo gauti ir atrinkti; ženklinimo procedūras (pvz., prižiūrimojo mokymosi), duomenų valymo metodikas (pvz., išskirčių nustatymas);
e) žmogaus atliekamos priežiūros priemonių, reikalingų pagal 14 straipsnį, vertinimą, įskaitant techninių priemonių, kurios reikalingos siekiant padėti diegėjams interpretuoti DI sistemų išvedinius pagal 13 straipsnio 3 dalies d punktą, vertinimą;
f) kai taikytina, išsamų iš anksto nustatytų DI sistemos ir jos veikimo efektyvumo pakeitimų aprašymą, įskaitant visą atitinkamą informaciją, susijusią su techniniais sprendimais, įgyvendintais siekiant užtikrinti nuolatinę DI sistemos atitiktį atitinkamiems III skyriaus 2 skirsnyje išdėstytiems reikalavimams;
g) naudotas validavimo ir bandymo procedūras, įskaitant informaciją apie naudotus validavimo ir bandymo duomenis ir jų pagrindines charakteristikas; metriką, kuri buvo naudota tikslumui, patvarumui ir atitikčiai kitiems susijusiems reikalavimams, nustatytiems III skyriaus 2 skirsnyje, taip pat galimam diskriminaciniam poveikiui įvertinti; bandymų žurnalus ir visas bandymų ataskaitas, kuriuose nurodoma data ir kuriuos pasirašo atsakingi asmenys, taip pat atsižvelgiant į f punkte nurodytus iš anksto nustatytus pakeitimus;
h) taikomas kibernetinio saugumo priemones;
3) išsami informacija apie DI sistemos stebėseną, veikimą ir kontrolę, visų pirma atsižvelgiant į: jos veikimo efektyvumo pajėgumus ir ribotumus, įskaitant tikslumo laipsnius konkrečių asmenų arba asmenų grupių, kurių atžvilgiu numatoma naudoti sistemą, atveju ir bendrą tikėtiną tikslumo lygį, atsižvelgiant į numatytąją paskirtį; įmanomas numatyti nepageidaujamas pasekmes ir rizikos sveikatai ir saugai, pagrindinėms teisėms ir susijusius su diskriminacija šaltinius, atsižvelgiant į DI sistemos numatytąją paskirtį; žmogaus atliekamos priežiūros priemones, reikalingas pagal 14 straipsnį, įskaitant įdiegtas technines priemones, siekiant padėti diegėjams interpretuoti DI sistemų išvedinius; kai tinkama, įvesties duomenų specifikacijas;
4) konkrečios DI sistemos veikimo efektyvumo metrikos tinkamumo aprašymas;
5) išsamus rizikos valdymo sistemos aprašymas pagal 9 straipsnį;
6) atitinkamų sistemos pakeitimų, padarytų tiekėjo per jos gyvavimo ciklą, aprašymas;
7) darniųjų standartų, taikomų visa apimtimi ar iš dalies, kurių nuorodos buvo paskelbtos Europos Sąjungos oficialiajame leidinyje, sąrašas; jeigu tokie darnieji standartai nebuvo taikomi, išsamus sprendimų, įgyvendintų siekiant laikytis III skyriaus 2 skirsnyje nurodytų reikalavimų, aprašymas, įskaitant kitų taikomų susijusių standartų ir techninių specifikacijų sąrašą;
8) 47 straipsnyje nurodytą ES atitikties deklaracijos kopija;
9) išsamus sistemos, taikomos vertinant DI sistemos veikimo efektyvumą stebėsenos po pateikimo rinkai etape pagal 72 straipsnį, aprašymas, įskaitant 72 straipsnio 3 dalyje nurodytą stebėsenos po pateikimo rinkai planą.
Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.
📬 AI Act Weekly
Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.
AanmeldenVeelgestelde vragen
Wat moet er in de technische documentatie volgens Bijlage IV?
Bijlage IV vereist negen onderdelen: (1) algemene beschrijving van het AI-systeem, (2) gedetailleerde beschrijving van elementen en ontwikkelproces, (3) monitoring en controle-informatie, (4) geschiktheid van prestatiemetrieken, (5) risicobeheer, (6) wijzigingen gedurende de levenscyclus, (7) toegepaste normen, (8) EU-conformiteitsverklaring, en (9) post-market monitoringsysteem.
Welke informatie over trainingsdata moet in de technische documentatie?
Punt 2d vereist: datavereisten inclusief datasheets met trainingsmethodologieën, beschrijving van trainingsdatasets, herkomst en omvang van data, hoe data is verkregen en geselecteerd, labelprocedures (bijv. bij supervised learning), en datacleaning-methoden (bijv. outlier-detectie).
Moet ik cybersecuritymaatregelen documenteren?
Ja, punt 2h van Bijlage IV vereist expliciet dat de getroffen cybersecuritymaatregelen worden opgenomen in de technische documentatie.
Wat moet ik documenteren over menselijk toezicht?
Punt 2e vereist een beoordeling van de noodzakelijke menselijk-toezichtmaatregelen conform artikel 14, inclusief een beoordeling van technische maatregelen die het voor gebruikers mogelijk maken om de output van het AI-systeem te interpreteren (conform artikel 13, lid 3, punt d).
Hoe uitgebreid moet de risicobeoordeling in de technische documentatie zijn?
Punt 5 vereist een gedetailleerde beschrijving van het risicobeheersysteem conform artikel 9. Dit omvat identificatie van risico's voor gezondheid, veiligheid en grondrechten, risicobeperkende maatregelen, en restrisico-analyse.
Moet ik testresultaten opnemen in de technische documentatie?
Ja, punt 2g vereist: validatie- en testprocedures, informatie over test- en validatiedata, gebruikte metrieken voor nauwkeurigheid, robuustheid en compliance, potentieel discriminerende effecten, testlogs en alle testrapporten gedateerd en ondertekend.
Wat moet er in de algemene beschrijving van het AI-systeem?
Punt 1 vereist: (a) beoogd doel, naam aanbieder en versie, (b) interactie met hardware/software, (c) softwareversies, (d) vormen van marktintroductie (API, download, etc.), (e) beoogde hardware, (f) foto's bij ingebouwde producten, (g) beschrijving user interface, (h) gebruiksinstructies.
Moet ik wijzigingen aan het AI-systeem bijhouden?
Ja, punt 6 vereist een beschrijving van relevante wijzigingen die de aanbieder gedurende de levenscyclus aan het systeem heeft aangebracht. Ook punt 2f vereist documentatie van vooraf bepaalde wijzigingen en hoe continue compliance wordt gewaarborgd.
Is de technische documentatie van Bijlage IV verplicht voor alle AI-systemen?
Nee, Bijlage IV is alleen verplicht voor hoog-risico AI-systemen (conform artikel 11, lid 1). Voor AI-modellen voor algemene doeleinden (GPAI) geldt Bijlage XI.
Hoe verhoudt Bijlage IV zich tot de post-market monitoring?
Punt 9 vereist een gedetailleerde beschrijving van het systeem voor het evalueren van AI-prestaties na marktintroductie, conform artikel 72, inclusief het post-market monitoringsplan van artikel 72, lid 3.
Moet ik geharmoniseerde normen vermelden in de documentatie?
Ja, punt 7 vereist een lijst van toegepaste geharmoniseerde normen. Als geen geharmoniseerde normen zijn toegepast, moet een gedetailleerde beschrijving worden gegeven van de alternatieve oplossingen om aan de eisen van Hoofdstuk III, Afdeling 2 te voldoen.
Hoe bewaar ik de technische documentatie van Bijlage IV?
Conform artikel 18 moet de technische documentatie worden opgesteld vóór het AI-systeem op de markt wordt gebracht en actueel worden gehouden. De documentatie moet ten minste 10 jaar na marktintroductie beschikbaar zijn voor de bevoegde autoriteiten.
Hoe verhoudt de technische documentatie van Bijlage IV zich tot ISO 42001?
ISO/IEC 42001 (AI Management System) biedt een raamwerk dat deels overlapt met de eisen van Bijlage IV. Een ISO 42001-certificering dekt echter niet automatisch alle vereisten af. Bijlage IV bevat specifieke EU-eisen rond conformiteitsverklaring, post-market monitoring en CE-markering die verder gaan dan ISO 42001.
Wie heeft toegang tot de technische documentatie van Bijlage IV?
De technische documentatie moet beschikbaar zijn voor nationale markttoezichtautoriteiten op verzoek. U hoeft de documentatie niet openbaar te publiceren. Bij hoog-risico AI-systemen die een beoordeling door een aangemelde instantie vereisen (Bijlage VII), moet de documentatie ook aan deze instantie worden verstrekt.
Mag ik de technische documentatie in het Nederlands opstellen?
De technische documentatie moet worden opgesteld in een taal die door de betrokken lidstaat wordt geaccepteerd. In de praktijk accepteren de meeste lidstaten Engels. Controleer bij uw nationale toezichthouder of documentatie in het Nederlands of Engels volstaat voor uw markt.