Overweging 31 AI Act

id="rct_31">

(31)

Τα συστήματα ΤΝ που παρέχουν κοινωνική βαθμολόγηση φυσικών προσώπων από δημόσιους ή ιδιωτικούς φορείς μπορούν να οδηγήσουν σε διακρίσεις και στον αποκλεισμό ορισμένων ομάδων. Μπορούν να παραβιάσουν το δικαίωμα στην αξιοπρέπεια και στη μεταχείριση χωρίς διακρίσεις, καθώς και τις αξίες της ισότητας και της δικαιοσύνης. Τα συστήματα ΤΝ αυτού του είδους αξιολογούν ή ταξινομούν φυσικά πρόσωπα ή ομάδες φυσικών προσώπων με βάση πολλαπλά σημεία δεδομένων σχετιζόμενα με την κοινωνική τους συμπεριφορά σε πολλαπλά πλαίσια ή με βάση γνωστά, συναγόμενα ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους για ορισμένα χρονικά διαστήματα. Η κοινωνική βαθμολογία που λαμβάνεται από τέτοια συστήματα ΤΝ μπορεί να οδηγήσει σε επιζήμια ή δυσμενή μεταχείριση φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων σε κοινωνικά πλαίσια, τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο παρήχθησαν ή συνελέγησαν αρχικά τα δεδομένα, ή σε επιζήμια μεταχείριση η οποία είναι δυσανάλογη ή αδικαιολόγητη σε σχέση με τη σοβαρότητα της κοινωνικής συμπεριφοράς τους. Τα συστήματα ΤΝ που περιλαμβάνουν τέτοιες απαράδεκτες πρακτικές βαθμολόγησης και οδηγούν σε επιζήμια ή δυσμενή αποτελέσματα αυτού του είδους θα πρέπει, συνεπώς, να απαγορεύονται. Η απαγόρευση αυτή δεν θα πρέπει να θίγει τις νόμιμες πρακτικές αξιολόγησης φυσικών προσώπων που διενεργούνται για συγκεκριμένο σκοπό κατά τρόπο σύμφωνο προς το ενωσιακό και το εθνικό δίκαιο.