Recital 67 AI Act

id="rct_67">

(67)

Τα δεδομένα υψηλής ποιότητας και η πρόσβαση σε υψηλής ποιότητας δεδομένα διαδραματίζουν ζωτικό ρόλο στην οργάνωση της δομής και στην εξασφάλιση των επιδόσεων πολλών συστημάτων ΤΝ, ιδίως όταν χρησιμοποιούνται τεχνικές που αφορούν την εκπαίδευση μοντέλων, προκειμένου να διασφαλίζεται ότι το σύστημα ΤΝ υψηλού κινδύνου λειτουργεί όπως προβλέπεται και με ασφάλεια και δεν αποτελεί πηγή διακρίσεων που απαγορεύονται από το δίκαιο της Ένωσης. Τα υψηλής ποιότητας σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής απαιτούν την εφαρμογή κατάλληλων πρακτικών διακυβέρνησης και διαχείρισης δεδομένων. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής, περιλαμβανομένων των επισημάνσεων, θα πρέπει να είναι συναφή, επαρκώς αντιπροσωπευτικά και, στον μέγιστο δυνατό βαθμό, πλήρη και χωρίς σφάλματα έναντι του επιδιωκόμενου σκοπού. Προκειμένου να διευκολυνθεί η συμμόρφωση με το δίκαιο της Ένωσης για την προστασία των δεδομένων, όπως ο κανονισμός (ΕΕ) 2016/679, οι πρακτικές διακυβέρνησης και διαχείρισης δεδομένων θα πρέπει να περιλαμβάνουν, στην περίπτωση των δεδομένων προσωπικού χαρακτήρα, διαφάνεια σχετικά με τον αρχικό σκοπό της συλλογής δεδομένων. Τα σύνολα δεδομένων θα πρέπει επίσης να έχουν τις κατάλληλες στατιστικές ιδιότητες, μεταξύ άλλων όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων σε σχέση με τα οποία πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου, με ιδιαίτερη προσοχή στον μετριασμό ενδεχόμενων προκαταλήψεων στα σύνολα δεδομένων, οι οποίες είναι πιθανόν να επηρεάσουν την υγεία και την ασφάλεια των προσώπων, να έχουν αρνητικό αντίκτυπο στα θεμελιώδη δικαιώματα ή να οδηγήσουν σε διακρίσεις που απαγορεύονται δυνάμει του ενωσιακού δικαίου, ιδίως όταν τα δεδομένα εξόδου επηρεάζουν τα στοιχεία εισόδου για μελλοντικές δραστηριότητες (βρόχοι ανάδρασης). Οι προκαταλήψεις, για παράδειγμα, μπορεί να είναι εγγενείς στα υποκείμενα σύνολα δεδομένων, ιδίως όταν χρησιμοποιούνται ιστορικά δεδομένα, ή να προκαλούνται όταν τα συστήματα τίθενται σε εφαρμογή σε πραγματικά περιβάλλοντα. Τα αποτελέσματα που παρέχουν τα συστήματα ΤΝ θα μπορούσαν να επηρεαστούν από τέτοιου είδους εγγενείς προκαταλήψεις, που τείνουν να αυξάνονται σταδιακά, διαιωνίζοντας και ενισχύοντας έτσι υφιστάμενες διακρίσεις, ιδίως εις βάρος προσώπων που ανήκουν σε ορισμένες ευάλωτες ομάδες, συμπεριλαμβανομένων των φυλετικών ή εθνοτικών ομάδων. Η απαίτηση να είναι τα σύνολα δεδομένων στον μέγιστο δυνατό βαθμό πλήρη και χωρίς σφάλματα δεν θα πρέπει να επηρεάζει τη χρήση τεχνικών προστασίας της ιδιωτικής ζωής στο πλαίσιο της ανάπτυξης και της δοκιμής συστημάτων ΤΝ. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής θα πρέπει, ιδίως, να λαμβάνουν υπόψη, στον βαθμό που απαιτείται από τον επιδιωκόμενο σκοπό τους, τα γνωρίσματα, τα χαρακτηριστικά ή τα στοιχεία που προσιδιάζουν σε συγκεκριμένο γεωγραφικό, συμπεριφορικό, συγκυριακό ή λειτουργικό περιβάλλον εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ. Οι απαιτήσεις που σχετίζονται με τη διακυβέρνηση των δεδομένων μπορούν να τηρούνται με προσφυγή σε τρίτους που προσφέρουν πιστοποιημένες υπηρεσίες συμμόρφωσης, συμπεριλαμβανομένων της επαλήθευσης της διακυβέρνησης των δεδομένων, της ακεραιότητας του συνόλου δεδομένων και των πρακτικών εκπαίδευσης, επικύρωσης και δοκιμής δεδομένων, υπό την προϋπόθεση ότι εξασφαλίζεται η συμμόρφωση με τις απαιτήσεις του παρόντος κανονισμού όσον αφορά τα δεδομένα.