Responsible AI Platform

Annex VII AI Act

class="oj-doc-ti" id="d1e38-134-1">PRILOGA VII

Official text

id="anx_VII"> PRILOGA VII Skladnost na podlagi ocene sistema upravljanja kakovosti in ocene tehnične dokumentacije 1.   Uvod Skladnost na podlagi ocene sistema upravljanja kakovosti in ocene tehnične dokumentacije se ugotovi s postopkom ugotavljanja skladnosti, ki temelji na točkah 2 do 5. 2.   Pregled Odobreni sistem upravljanja kakovosti za načrtovanje, razvoj in testiranje sistemov UI na podlagi člena 17 se preuči v skladu s točko 3 in je predmet nadzora, kot je določeno v točki 5. Tehnična dokumentacija sistema UI se preuči v skladu s točko 4. 3.   Sistem upravljanja kakovosti

3.1.

Zahtevek ponudnika vključuje:

(a) ime in naslov ponudnika in, če je zahtevek vložil pooblaščeni zastopnik, tudi njegovo ime in naslov;

(b) seznam sistemov UI, zajetih v istem sistemu upravljanja kakovosti;

(c) tehnično dokumentacijo za vse sisteme UI, zajete v istem sistemu upravljanja kakovosti;

(d) dokumentacijo v zvezi s sistemom upravljanja kakovosti, ki zajema vse vidike iz člena 17;

(e) opis postopkov, ki so vzpostavljeni za ohranjanje ustreznosti in učinkovitosti sistema upravljanja kakovosti;

(f) pisno izjavo, da isti zahtevek ni bil vložen pri nobenem drugem priglašenem organu.

3.2.

Priglašeni organ oceni sistem upravljanja kakovosti, da ugotovi, ali izpolnjuje zahteve iz člena 17. Odločitev se uradno sporoči ponudniku ali njegovemu pooblaščenemu zastopniku. Obvestilo vsebuje ugotovitve ocenjevanja sistema upravljanja kakovosti in obrazloženo odločitev o oceni.

3.3.

Ponudnik še naprej izvaja in vzdržuje odobreni sistem upravljanja kakovosti, da ostane ustrezen in učinkovit.

3.4.

Ponudnik obvesti priglašeni organ o vseh načrtovanih spremembah odobrenega sistema upravljanja kakovosti ali seznama sistemov UI, zajetih v njem. Priglašeni organ pregleda predlagane spremembe in presodi, ali spremenjeni sistem upravljanja kakovosti še naprej izpolnjuje zahteve iz točke 3.2 oziroma ali je potrebna ponovna ocena. Priglašeni organ ponudnika uradno obvesti o svoji odločitvi. Obvestilo vsebuje ugotovitve pregleda sprememb in obrazloženo odločitev o oceni.

4.   Pregled tehnične dokumentacije

4.1.

Ponudnik poleg zahtevka iz točke 3 pri priglašenem organu, ki ga izbere sam, vloži zahtevek za oceno tehnične dokumentacije v zvezi s sistemom UI, ki ga namerava dati na trg ali v uporabo in ki je zajet v sistemu upravljanja kakovosti iz točke 3.

4.2.

Zahtevek vključuje:

(a) ime in naslov ponudnika;

(b) pisno izjavo, da enak zahtevek ni bil predložen nobenemu drugemu priglašenemu organu;

(c) tehnično dokumentacijo iz Priloge IV.

4.3.

Priglašeni organ pregleda tehnično dokumentacijo. Kadar je primerno in omejeno na to, kar je potrebno za izpolnjevanje njegovih nalog, se priglašenemu organu omogoči neomejen dostop do uporabljenih naborov učnih, validacijskih in testnih podatkov, tudi, kadar je ustrezno in ob uporabi ustreznih varoval, prek API ali z drugimi ustreznimi tehničnimi sredstvi in orodji, ki omogočajo dostop na daljavo.

4.4.

Pri pregledu tehnične dokumentacije lahko priglašeni organ zahteva, da ponudnik predloži dodatna dokazila ali izvede dodatna testiranja, da se omogoči ustrezna ocena skladnosti sistema UI z zahtevami iz poglavja III, oddelek 2. Kadar priglašeni organ ni zadovoljen s testiranji, ki jih je opravil ponudnik, neposredno sam opravi ustrezna testiranja, če je to primerno.

4.5.

Potem ko so bili izkoriščeni in so se izkazali za nezadostne vsi drugi razumni načini preverjanja skladnosti, se priglašenemu organu na obrazloženo zahtevo dovoli tudi dostop do učnih in naučenih modelov sistema UI, vključno z njegovimi relevantnimi parametri, kadar je to potrebno za oceno skladnosti visokotveganega sistema UI z zahtevami iz naslova III, poglavje 2. Za tak dostop se uporablja veljavno pravo Unije in nacionalno pravo o intelektualni lastnini in poslovnih skrivnostih.

4.6.

Odločitev priglašenega organa se uradno sporoči ponudniku ali njegovemu pooblaščenemu zastopniku. Obvestilo vsebuje ugotovitve ocenjevanja tehnične dokumentacije in obrazloženo odločitev o oceni. Kadar je sistem UI skladen z zahtevami iz poglavja III, oddelek 2, priglašeni organ izda certifikat Unije o oceni tehnične dokumentacije. V certifikatu so navedeni ime in naslov ponudnika, ugotovitve pregleda, morebitni pogoji za njegovo veljavnost in podatki, potrebni za identifikacijo sistema UI. V certifikatu in njegovih prilogah so navedene vse potrebne informacije za oceno skladnosti sistema UI in, kadar je ustrezno, nadzor sistema UI med uporabo. Kadar sistem UI ni skladen z zahtevami iz poglavja III, oddelek 2, priglašeni organ zavrne izdajo certifikata Unije o oceni tehnične dokumentacije ter o tem obvesti vlagatelja in svojo zavrnitev podrobno utemelji. Kadar sistem UI ne izpolnjuje zahtev glede podatkov, uporabljenih za njegovo učenje, bo pred zahtevkom za novo ugotavljanje skladnosti potrebno ponovno učenje sistema UI. V tem primeru obrazložena odločitev priglašenega organa o oceni, s katero zavrne izdajo certifikata Unije o oceni tehnične dokumentacije, vsebuje specifične premisleke glede kakovosti podatkov, uporabljenih za učenje sistema UI, zlasti glede razlogov za neskladnost.

4.7.

Vsako spremembo sistema UI, ki bi lahko vplivala na njegovo skladnost z zahtevami ali predvidenim namenom, oceni priglašeni organ, ki je izdal certifikat Unije o oceni tehnične dokumentacije. Ponudnik obvesti ta priglašeni organ o svoji nameri, da bo uvedel katero koli od navedenih sprememb, obvesti pa ga tudi, če drugače izve za uvedbo takih sprememb. Priglašeni organ oceni načrtovane spremembe in odloči, ali je zaradi njih potrebno novo ugotavljanje skladnosti v skladu s členom 43(4) oziroma ali bi zadostovala dopolnitev certifikata Unije o oceni tehnične dokumentacije. V slednjem primeru priglašeni organ oceni spremembe, uradno obvesti ponudnika o svoji odločitvi in mu, kadar so spremembe odobrene, izda dopolnilo certifikata Unije o oceni tehnične dokumentacije.

5.   Nadzor odobrenega sistema upravljanja kakovosti

5.1.

Namen nadzora, ki ga izvaja priglašeni organ iz točke 3, je zagotoviti, da ponudnik ustrezno izpolnjuje pogoje odobrenega sistema upravljanja kakovosti.

5.2.

Za namene ocene ponudnik priglašenemu organu omogoči dostop do prostorov, v katerih potekajo zasnova, razvoj in testiranje sistemov UI. Poleg tega mu posreduje vse potrebne informacije.

5.3.

Priglašeni organ opravlja redne revizije, s čimer zagotovi, da ponudnik vzdržuje in izvaja sistem upravljanja kakovosti, poročila o teh revizijah pa predloži ponudniku. V okviru teh revizij lahko priglašeni organ izvede dodatna testiranja sistemov UI, za katere je bil izdan certifikat Unije o oceni tehnične dokumentacije.

Source: EUR-Lex, Regulation (EU) 2024/1689 — text reproduced verbatim.

📬 AI Act Weekly

Get the most important AI Act developments in your inbox every week.

Subscribe

Frequently asked questions

What does Annex VII of the AI Act describe?

Annex VII describes the conformity assessment procedure based on assessment of the quality management system and assessment of the technical documentation by a notified body.

When is the Annex VII procedure mandatory?

Annex VII is mandatory for biometric AI systems under Annex III, point 1 (remote identification, biometric categorisation, emotion recognition), unless fully harmonised standards have been applied and the provider opts for internal control (Annex VI).

What does the notified body assess?

The notified body assesses two things: (1) the quality management system for compliance with Article 17, and (2) the technical documentation of the AI system for compliance with Chapter III, Section 2 requirements.

Can the notified body demand access to training data?

Yes, point 4.3 states that the notified body, where relevant and limited to its tasks, shall be granted full access to training, validation and testing datasets, including through API or other technical means for remote access where appropriate.

What if the notified body rejects my technical documentation?

The notified body will refuse the EU certificate and inform the provider with detailed reasons. If the issue relates to training data, the AI system must be retrained before a new conformity assessment.

How long is the certificate valid?

The certificate contains its validity conditions. The notified body conducts periodic audits (point 5.3) to verify the quality management system is maintained. Changes to the AI system may require reassessment (point 4.7).

What must I submit to the notified body?

Point 3.1 requires: (a) provider name and address, (b) list of AI systems under the QMS, (c) technical documentation per AI system, (d) QMS documentation, (e) procedures for adequacy, and (f) declaration that no other notified body has been approached.

Can the notified body also access the trained model?

Yes, point 4.5 states that in exceptional cases, after exhausting other means and upon reasoned request, the notified body may also access the trained model and relevant parameters, subject to IP and trade secret protections.