Annex IV AI Act
Τεχνικός φάκελος που αναφέρεται στο άρθρο 11 παράγραφος 1
Officiële tekst
Τεχνικός φάκελος που αναφέρεται στο άρθρο 11 παράγραφος 1 Ο τεχνικός φάκελος που αναφέρεται στο άρθρο 11 παράγραφος 1 περιλαμβάνει τουλάχιστον τις ακόλουθες πληροφορίες, ανάλογα με το σχετικό σύστημα ΤΝ:
1. Γενική περιγραφή του συστήματος ΤΝ, η οποία περιλαμβάνει:
α)
τον επιδιωκόμενο σκοπό του, το όνομα του παρόχου και την έκδοση του συστήματος που αντικατοπτρίζει τη σχέση του με προηγούμενες εκδόσεις·
β)
τον τρόπο με τον οποίο το σύστημα ΤΝ αλληλεπιδρά με υλισμικό ή λογισμικό ή μπορεί να χρησιμοποιηθεί για αλληλεπίδραση με υλισμικό ή λογισμικό, μεταξύ άλλων και με άλλα συστήματα ΤΝ, που δεν αποτελούν μέρος του ίδιου του συστήματος ΤΝ, κατά περίπτωση·
γ)
τις εκδόσεις του σχετικού λογισμικού ή υλικολογισμικού και κάθε απαίτηση σχετική με την επικαιροποίηση εκδόσεων·
δ)
την περιγραφή όλων των μορφών με τις οποίες το σύστημα ΤΝ διατίθεται στην αγορά ή τίθεται σε λειτουργία, όπως πακέτα λογισμικού ενσωματωμένα σε υλισμικό, τηλεφορτώσεις ή ΔΠΕ·
ε)
την περιγραφή του υλισμικού στο οποίο προορίζεται να λειτουργήσει το σύστημα ΤΝ·
στ)
όταν το σύστημα ΤΝ αποτελεί κατασκευαστικό στοιχείο προϊόντων, φωτογραφίες ή εικόνες που να δείχνουν τα εξωτερικά χαρακτηριστικά, τη σήμανση και την εσωτερική διαρρύθμιση των εν λόγω προϊόντων·
ζ)
βασική περιγραφή της διεπαφής χρήστη που παρέχεται στον φορέα εφαρμογής·
η)
οδηγίες χρήσης για τον φορέα εφαρμογής και βασική περιγραφή της διεπαφής χρήστη που παρέχεται στον φορέα εφαρμογής, κατά περίπτωση·
2. Λεπτομερή περιγραφή των στοιχείων του συστήματος ΤΝ και της διαδικασίας για την ανάπτυξή του, η οποία περιλαμβάνει:
α)
τις μεθόδους και τα βήματα που εκτελέστηκαν για την ανάπτυξη του συστήματος ΤΝ, συμπεριλαμβανομένων, κατά περίπτωση, της προσφυγής σε προεκπαιδευμένα συστήματα ή εργαλεία που παρασχέθηκαν από τρίτα μέρη και του τρόπου με τον οποίο αυτά χρησιμοποιήθηκαν, ενσωματώθηκαν ή τροποποιήθηκαν από τον πάροχο·
β)
τις προδιαγραφές σχεδιασμού του συστήματος, δηλαδή τη γενική λογική του συστήματος ΤΝ και των αλγορίθμων· τις βασικές επιλογές σχεδιασμού, συμπεριλαμβανομένων του σκεπτικού και των παραδοχών που έχουν γίνει, μεταξύ άλλων και σε σχέση με τα πρόσωπα ή τις ομάδες προσώπων σχετικά με τα οποία προορίζεται να χρησιμοποιηθεί το σύστημα· τις βασικές επιλογές ταξινόμησης· το τι προορίζεται το σύστημα να βελτιστοποιήσει και τη συνάφεια των διάφορων παραμέτρων· την περιγραφή των αναμενόμενων στοιχείων εξόδου και της ποιότητας των στοιχείων εξόδου του συστήματος· τις αποφάσεις σχετικά με ενδεχόμενες αντισταθμίσεις όσον αφορά τις τεχνικές λύσεις που υιοθετούνται για τη συμμόρφωση με τις απαιτήσεις που καθορίζονται στο κεφάλαιο ΙΙΙ τμήμα 2·
γ)
την περιγραφή της αρχιτεκτονικής του συστήματος που εξηγεί τον τρόπο με τον οποίο τα κατασκευαστικά στοιχεία λογισμικού βασίζονται το ένα στο άλλο ή αλληλοτροφοδοτούνται και ενσωματώνονται στη συνολική επεξεργασία· τους υπολογιστικούς πόρους που χρησιμοποιήθηκαν για την ανάπτυξη, την εκπαίδευση, τη δοκιμή και την επικύρωση του συστήματος ΤΝ·
δ)
κατά περίπτωση, τις απαιτήσεις δεδομένων όσον αφορά τα δελτία δεδομένων που περιγράφουν τις μεθοδολογίες και τις τεχνικές εκπαίδευσης και τα σύνολα δεδομένων εκπαίδευσης που χρησιμοποιήθηκαν, συμπεριλαμβανομένων γενικής περιγραφής αυτών των συνόλων δεδομένων και πληροφοριών σχετικά με την προέλευσή τους, το εύρος και τα κύρια χαρακτηριστικά τους· τον τρόπο λήψης και επιλογής των δεδομένων· τις διαδικασίες επισήμανσης (π.χ. για επιβλεπόμενη μάθηση), τις μεθοδολογίες καθαρισμού δεδομένων (π.χ. ανίχνευση εκτρόπων τιμών)·
ε)
αξιολόγηση των μέτρων ανθρώπινης εποπτείας που απαιτούνται σύμφωνα με το άρθρο 14, συμπεριλαμβανομένης της εκτίμησης των τεχνικών μέτρων που απαιτούνται για να διευκολυνθεί η ερμηνεία των στοιχείων εξόδου των συστημάτων ΤΝ από τους φορείς εφαρμογής σύμφωνα με το άρθρο 13 παράγραφος 3 στοιχείο δ)·
στ)
κατά περίπτωση, λεπτομερή περιγραφή των προκαθορισμένων αλλαγών στο σύστημα ΤΝ και στις επιδόσεις του, μαζί με όλες τις συναφείς πληροφορίες οι οποίες σχετίζονται με τις τεχνικές λύσεις που έχουν επιλεγεί για τη διασφάλιση της συνεχούς συμμόρφωσης του συστήματος ΤΝ με τις σχετικές απαιτήσεις που καθορίζονται στο κεφάλαιο III τμήμα 2·
ζ)
τις διαδικασίες επικύρωσης και δοκιμής που χρησιμοποιήθηκαν, συμπεριλαμβανομένων των πληροφοριών σχετικά με τα δεδομένα επικύρωσης και δοκιμής και τα κύρια χαρακτηριστικά τους· τους δείκτες μέτρησης που χρησιμοποιήθηκαν για τη μέτρηση της ακρίβειας, της στιβαρότητας και της συμμόρφωσης με άλλες σχετικές απαιτήσεις που καθορίζονται στο κεφάλαιο ΙΙΙ τμήμα 2, καθώς και των επιπτώσεων δυνητικής διακριτικής μεταχείρισης· αρχεία καταγραφής δοκιμών και όλες τις εκθέσεις δοκιμών, χρονολογημένες και υπογεγραμμένες από τους υπευθύνους, μεταξύ άλλων όσον αφορά προκαθορισμένες αλλαγές όπως αναφέρονται στο στοιχείο στ)·
η)
ειλημμένα μέτρα κυβερνοασφάλειας·
3. Λεπτομερείς πληροφορίες σχετικά με την παρακολούθηση, τη λειτουργία και τον έλεγχο του συστήματος ΤΝ, ιδίως όσον αφορά: τις ικανότητές του και τους περιορισμούς όσον αφορά τις επιδόσεις του, συμπεριλαμβανομένων των βαθμών ακρίβειας για συγκεκριμένα πρόσωπα ή ομάδες προσώπων στα οποία προορίζεται να χρησιμοποιηθεί το σύστημα και του συνολικού αναμενόμενου επιπέδου ακρίβειας σε σχέση με τον επιδιωκόμενο σκοπό του· τα προβλέψιμα ανεπιθύμητα αποτελέσματα και τις πηγές κινδύνων για την υγεία και την ασφάλεια, τα θεμελιώδη δικαιώματα και τον κίνδυνο διακρίσεων με βάση τον επιδιωκόμενο σκοπό του συστήματος ΤΝ· τα μέτρα ανθρώπινης εποπτείας που απαιτούνται σύμφωνα με το άρθρο 14, συμπεριλαμβανομένων των τεχνικών μέτρων που εφαρμόζονται για τη διευκόλυνση της ερμηνείας των στοιχείων εξόδου των συστημάτων ΤΝ από τους φορείς εφαρμογής· προδιαγραφές για τα δεδομένα εισόδου, κατά περίπτωση·
4. Περιγραφή της καταλληλότητας των μετρήσεων επιδόσεων για το συγκεκριμένο σύστημα ΤΝ·
5. Λεπτομερή περιγραφή του συστήματος διαχείρισης κινδύνου σύμφωνα με το άρθρο 9·
6. Περιγραφή σημαντικών αλλαγών που επιφέρει ο πάροχος στο σύστημα κατά τη διάρκεια του κύκλου ζωής του·
7. Κατάλογο των εναρμονισμένων προτύπων που εφαρμόζονται πλήρως ή εν μέρει και των οποίων τα στοιχεία αναφοράς έχουν δημοσιευθεί στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης· σε περίπτωση που δεν έχουν εφαρμοστεί τέτοια εναρμονισμένα πρότυπα, λεπτομερή περιγραφή των λύσεων που υιοθετήθηκαν για την τήρηση των απαιτήσεων που καθορίζονται στο κεφάλαιο ΙΙΙ τμήμα 2, συμπεριλαμβανομένου του καταλόγου των άλλων σχετικών προτύπων και τεχνικών προδιαγραφών που εφαρμόστηκαν·
8. Αντίγραφο της δήλωσης συμμόρφωσης ΕΕ που αναφέρεται στο άρθρο 47·
9. Λεπτομερή περιγραφή του συστήματος που εφαρμόζεται για την αξιολόγηση των επιδόσεων του συστήματος ΤΝ κατά το στάδιο μετά τη διάθεση στην αγορά σύμφωνα με το άρθρο 72, συμπεριλαμβανομένου του σχεδίου παρακολούθησης μετά τη διάθεση στην αγορά που αναφέρεται στο άρθρο 72 παράγραφος 3.
Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.
📬 AI Act Weekly
Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.
AanmeldenVeelgestelde vragen
Wat moet er in de technische documentatie volgens Bijlage IV?
Bijlage IV vereist negen onderdelen: (1) algemene beschrijving van het AI-systeem, (2) gedetailleerde beschrijving van elementen en ontwikkelproces, (3) monitoring en controle-informatie, (4) geschiktheid van prestatiemetrieken, (5) risicobeheer, (6) wijzigingen gedurende de levenscyclus, (7) toegepaste normen, (8) EU-conformiteitsverklaring, en (9) post-market monitoringsysteem.
Welke informatie over trainingsdata moet in de technische documentatie?
Punt 2d vereist: datavereisten inclusief datasheets met trainingsmethodologieën, beschrijving van trainingsdatasets, herkomst en omvang van data, hoe data is verkregen en geselecteerd, labelprocedures (bijv. bij supervised learning), en datacleaning-methoden (bijv. outlier-detectie).
Moet ik cybersecuritymaatregelen documenteren?
Ja, punt 2h van Bijlage IV vereist expliciet dat de getroffen cybersecuritymaatregelen worden opgenomen in de technische documentatie.
Wat moet ik documenteren over menselijk toezicht?
Punt 2e vereist een beoordeling van de noodzakelijke menselijk-toezichtmaatregelen conform artikel 14, inclusief een beoordeling van technische maatregelen die het voor gebruikers mogelijk maken om de output van het AI-systeem te interpreteren (conform artikel 13, lid 3, punt d).
Hoe uitgebreid moet de risicobeoordeling in de technische documentatie zijn?
Punt 5 vereist een gedetailleerde beschrijving van het risicobeheersysteem conform artikel 9. Dit omvat identificatie van risico's voor gezondheid, veiligheid en grondrechten, risicobeperkende maatregelen, en restrisico-analyse.
Moet ik testresultaten opnemen in de technische documentatie?
Ja, punt 2g vereist: validatie- en testprocedures, informatie over test- en validatiedata, gebruikte metrieken voor nauwkeurigheid, robuustheid en compliance, potentieel discriminerende effecten, testlogs en alle testrapporten gedateerd en ondertekend.
Wat moet er in de algemene beschrijving van het AI-systeem?
Punt 1 vereist: (a) beoogd doel, naam aanbieder en versie, (b) interactie met hardware/software, (c) softwareversies, (d) vormen van marktintroductie (API, download, etc.), (e) beoogde hardware, (f) foto's bij ingebouwde producten, (g) beschrijving user interface, (h) gebruiksinstructies.
Moet ik wijzigingen aan het AI-systeem bijhouden?
Ja, punt 6 vereist een beschrijving van relevante wijzigingen die de aanbieder gedurende de levenscyclus aan het systeem heeft aangebracht. Ook punt 2f vereist documentatie van vooraf bepaalde wijzigingen en hoe continue compliance wordt gewaarborgd.
Is de technische documentatie van Bijlage IV verplicht voor alle AI-systemen?
Nee, Bijlage IV is alleen verplicht voor hoog-risico AI-systemen (conform artikel 11, lid 1). Voor AI-modellen voor algemene doeleinden (GPAI) geldt Bijlage XI.
Hoe verhoudt Bijlage IV zich tot de post-market monitoring?
Punt 9 vereist een gedetailleerde beschrijving van het systeem voor het evalueren van AI-prestaties na marktintroductie, conform artikel 72, inclusief het post-market monitoringsplan van artikel 72, lid 3.
Moet ik geharmoniseerde normen vermelden in de documentatie?
Ja, punt 7 vereist een lijst van toegepaste geharmoniseerde normen. Als geen geharmoniseerde normen zijn toegepast, moet een gedetailleerde beschrijving worden gegeven van de alternatieve oplossingen om aan de eisen van Hoofdstuk III, Afdeling 2 te voldoen.
Hoe bewaar ik de technische documentatie van Bijlage IV?
Conform artikel 18 moet de technische documentatie worden opgesteld vóór het AI-systeem op de markt wordt gebracht en actueel worden gehouden. De documentatie moet ten minste 10 jaar na marktintroductie beschikbaar zijn voor de bevoegde autoriteiten.
Hoe verhoudt de technische documentatie van Bijlage IV zich tot ISO 42001?
ISO/IEC 42001 (AI Management System) biedt een raamwerk dat deels overlapt met de eisen van Bijlage IV. Een ISO 42001-certificering dekt echter niet automatisch alle vereisten af. Bijlage IV bevat specifieke EU-eisen rond conformiteitsverklaring, post-market monitoring en CE-markering die verder gaan dan ISO 42001.
Wie heeft toegang tot de technische documentatie van Bijlage IV?
De technische documentatie moet beschikbaar zijn voor nationale markttoezichtautoriteiten op verzoek. U hoeft de documentatie niet openbaar te publiceren. Bij hoog-risico AI-systemen die een beoordeling door een aangemelde instantie vereisen (Bijlage VII), moet de documentatie ook aan deze instantie worden verstrekt.
Mag ik de technische documentatie in het Nederlands opstellen?
De technische documentatie moet worden opgesteld in een taal die door de betrokken lidstaat wordt geaccepteerd. In de praktijk accepteren de meeste lidstaten Engels. Controleer bij uw nationale toezichthouder of documentatie in het Nederlands of Engels volstaat voor uw markt.