ΕΥΡΩΠΑΪΚΗ ΕΠΙΤΡΟΠΗ

Βρυξέλλες, 21.4.2021

COM(2021) 206 final

2021/0106(COD)

Πρόταση

ΚΑΝΟΝΙΣΜΟΣ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ

ΓΙΑ ΤΗ ΘΕΣΠΙΣΗ ΕΝΑΡΜΟΝΙΣΜΕΝΩΝ ΚΑΝΟΝΩΝ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ (ΠΡΑΞΗ ΓΙΑ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ) ΚΑΙ ΓΙΑ ΤΗΝ ΤΡΟΠΟΠΟΙΗΣΗ ΟΡΙΣΜΕΝΩΝ ΝΟΜΟΘΕΤΙΚΩΝ ΠΡΑΞΕΩΝ ΤΗΣ ΕΝΩΣΗΣ

{SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}

ΑΙΤΙΟΛΟΓΙΚΗ ΕΚΘΕΣΗ

1.ΠΛΑΙΣΙΟ ΤΗΣ ΠΡΟΤΑΣΗΣ

1.1.Αιτιολόγηση και στόχοι της πρότασης

Η παρούσα αιτιολογική έκθεση συνοδεύει την πρόταση κανονισμού για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (πράξη για την τεχνητή νοημοσύνη). Η τεχνητή νοημοσύνη (ΤΝ) είναι ένα ταχέως εξελισσόμενο σύνολο τεχνολογιών που μπορούν να αποφέρουν ευρείας κλίμακας οικονομικά και κοινωνικά οφέλη σε ολόκληρο το φάσμα των κλάδων και των κοινωνικών δραστηριοτήτων. Μέσω της βελτίωσης της πρόβλεψης, της βελτιστοποίησης των δραστηριοτήτων και της κατανομής των πόρων, καθώς και της εξατομίκευσης της παροχής υπηρεσιών, η χρήση της τεχνητής νοημοσύνης μπορεί να στηρίξει κοινωνικά και περιβαλλοντικά επωφελή αποτελέσματα και να παράσχει βασικά ανταγωνιστικά πλεονεκτήματα στις εταιρείες και στην ευρωπαϊκή οικονομία. Η δράση αυτή είναι ιδιαίτερα αναγκαία σε τομείς υψηλού αντικτύπου, μεταξύ των οποίων συγκαταλέγονται η κλιματική αλλαγή, το περιβάλλον και η υγεία, ο δημόσιος τομέας, τα οικονομικά, η κινητικότητα, οι εσωτερικές υποθέσεις και η γεωργία. Ωστόσο, τα ίδια στοιχεία και τεχνικές που διαμορφώνουν τα κοινωνικοοικονομικά οφέλη της ΤΝ μπορούν επίσης να επιφέρουν νέους κινδύνους ή αρνητικές συνέπειες για τα άτομα ή την κοινωνία. Λαμβανομένων υπόψη της ταχύτητας των τεχνολογικών αλλαγών και των πιθανών προκλήσεων, η ΕΕ δεσμεύεται να καταβάλλει προσπάθειες για μια ισορροπημένη προσέγγιση. Είναι προς το συμφέρον της Ένωσης να διατηρηθεί η τεχνολογική πρωτοπορία της ΕΕ και να διασφαλιστεί ότι οι Ευρωπαίοι μπορούν να επωφεληθούν από τις νέες τεχνολογίες που αναπτύσσονται και λειτουργούν σύμφωνα με τις αξίες, τα θεμελιώδη δικαιώματα και τις αρχές της Ένωσης.

Η παρούσα πρόταση υλοποιεί την πολιτική δέσμευση της προέδρου von der Leyen, η οποία ανακοίνωσε στις πολιτικές κατευθύνσεις της για την Επιτροπή 2019-2024 «Μια Ένωση που επιδιώκει περισσότερα» 1 ότι η Επιτροπή θα προτείνει νομοθεσία για μια συντονισμένη ευρωπαϊκή προσέγγιση όσον αφορά τις επιπτώσεις της ΤΝ σε επίπεδο ανθρώπων και ηθικής. Σε συνέχεια της ανακοίνωσης αυτής, η Επιτροπή δημοσίευσε στις 19 Φεβρουαρίου 2020 τη Λευκή Βίβλο για την Τεχνητή Νοημοσύνη — Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης 2 . Η Λευκή Βίβλος καθορίζει επιλογές πολιτικής σχετικά με τον τρόπο επίτευξης του διττού στόχου που συνίσταται στην προώθηση της αποδοχής της ΤΝ και στην αντιμετώπιση των κινδύνων που συνδέονται με ορισμένες χρήσεις της εν λόγω τεχνολογίας. Η παρούσα πρόταση αποσκοπεί στην υλοποίηση του δεύτερου στόχου για την ανάπτυξη ενός οικοσυστήματος εμπιστοσύνης, προτείνοντας ένα νομικό πλαίσιο για αξιόπιστη ΤΝ. Η πρόταση βασίζεται στις αξίες και στα θεμελιώδη δικαιώματα της ΕΕ και έχει ως στόχο να ενισχύσει την εμπιστοσύνη των πολιτών και άλλων χρηστών ώστε να υιοθετήσουν λύσεις που βασίζονται στην ΤΝ, ενθαρρύνοντας παράλληλα τις επιχειρήσεις να αναπτύξουν τέτοιες λύσεις. Η TN θα πρέπει να αποτελεί εργαλείο για τους ανθρώπους και να λειτουργεί ως δύναμη για το καλό της κοινωνίας, με απώτερο στόχο την αύξηση της ανθρώπινης ευημερίας. Οι κανόνες για την ΤΝ που διατίθεται στην αγορά της Ένωσης ή επηρεάζει με άλλον τρόπο τους πολίτες της Ένωσης θα πρέπει, συνεπώς, να είναι ανθρωποκεντρικοί, ώστε οι πολίτες να μπορούν να έχουν τη βεβαιότητα ότι η τεχνολογία χρησιμοποιείται κατά τρόπο ασφαλή και συμβατό με τη νομοθεσία, συμπεριλαμβανομένου του σεβασμού των θεμελιωδών δικαιωμάτων. Μετά τη δημοσίευση της Λευκής Βίβλου, η Επιτροπή ξεκίνησε ευρεία διαβούλευση με τα ενδιαφερόμενα μέρη, την οποία παρακολούθησαν με μεγάλο ενδιαφέρον πολυάριθμα ενδιαφερόμενα μέρη που υποστήριξαν σε μεγάλο βαθμό τη ρυθμιστική παρέμβαση για την αντιμετώπιση των προκλήσεων και των ανησυχιών που εγείρει η αυξανόμενη χρήση της ΤΝ.

Η πρόταση ανταποκρίνεται επίσης σε ρητά αιτήματα του Ευρωπαϊκού Κοινοβουλίου (ΕΚ) και του Ευρωπαϊκού Συμβουλίου, τα οποία έχουν επανειλημμένα εκφράσει εκκλήσεις για ανάληψη νομοθετικής δράσης προκειμένου να διασφαλιστεί η εύρυθμη λειτουργία της εσωτερικής αγοράς συστημάτων τεχνητής νοημοσύνης (στο εξής: συστήματα ΤΝ), όπου τόσο τα οφέλη όσο και οι κίνδυνοι της ΤΝ αντιμετωπίζονται επαρκώς σε επίπεδο Ένωσης. Στηρίζει τον στόχο της Ένωσης να αναλάβει ηγετικό ρόλο παγκοσμίως στην ανάπτυξη ασφαλούς, αξιόπιστης και δεοντολογικής τεχνητής νοημοσύνης, όπως δήλωσε το Ευρωπαϊκό Συμβούλιο 3 και διασφαλίζει την προστασία των δεοντολογικών αρχών, όπως είχε ζητηθεί ειδικά από το Ευρωπαϊκό Κοινοβούλιο 4 . 

Το 2017 το Ευρωπαϊκό Συμβούλιο ζήτησε «συναίσθηση του επείγοντος έναντι των αναδυόμενων τάσεων», μεταξύ των οποίων περιλαμβάνονται «ζητήματα όπως η τεχνητή νοημοσύνη [...], διασφαλίζοντας συγχρόνως υψηλό επίπεδο προστασίας δεδομένων, ψηφιακών δικαιωμάτων και προτύπων δεοντολογίας» 5 . Στα συμπεράσματά του τού 2019 σχετικά με το συντονισμένο σχέδιο για την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης στην Ευρώπη 6 , το Συμβούλιο ανέδειξε περαιτέρω τη σημασία της διασφάλισης του πλήρους σεβασμού των δικαιωμάτων των Ευρωπαίων πολιτών και ζήτησε την επανεξέταση της υφιστάμενης σχετικής νομοθεσίας ώστε να καταστεί κατάλληλη για τον επιδιωκόμενο σκοπό όσον αφορά τις νέες ευκαιρίες και προκλήσεις που προκύπτουν από την ΤΝ. Το Ευρωπαϊκό Συμβούλιο ζήτησε επίσης σαφή καθορισμό των εφαρμογών ΤΝ που θα πρέπει να θεωρούνται υψηλού κινδύνου 7 .

Στα πλέον πρόσφατα συμπεράσματα της 21ης Οκτωβρίου 2020 ζητήθηκε επιπλέον να αντιμετωπιστούν η αδιαφάνεια, η πολυπλοκότητα, η μεροληψία, ένας ορισμένος βαθμός μη προβλεψιμότητας και εν μέρει αυτόνομης συμπεριφοράς ορισμένων συστημάτων ΤΝ, προκειμένου να εξασφαλιστεί η συμβατότητά τους με τα θεμελιώδη δικαιώματα και να διευκολυνθεί η επιβολή των νομικών κανόνων 8 .

Το Ευρωπαϊκό Κοινοβούλιο έχει επίσης αναλάβει σημαντικό έργο στον τομέα της ΤΝ. Τον Οκτώβριο του 2020 ενέκρινε σειρά ψηφισμάτων σχετικά με την ΤΝ, μεταξύ άλλων σχετικά με τη δεοντολογία 9 , την ευθύνη 10 και τα δικαιώματα πνευματικής ιδιοκτησίας 11 . Το 2021 ακολούθησαν ψηφίσματα σχετικά με την τεχνητή νοημοσύνη σε ποινικές υποθέσεις 12 και στην εκπαίδευση, στον πολιτισμό και στον οπτικοακουστικό τομέα 13 . Το ψήφισμα του ΕΚ σχετικά με ένα πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών συνιστά συγκεκριμένα στην Επιτροπή να προτείνει νομοθετική δράση για την αξιοποίηση των ευκαιριών και των οφελών της ΤΝ, αλλά και για τη διασφάλιση της προστασίας των δεοντολογικών αρχών. Το ψήφισμα περιλαμβάνει κείμενο της νομοθετικής πρότασης κανονισμού σχετικά με δεοντολογικές αρχές για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών. Σύμφωνα με την πολιτική δέσμευση που ανέλαβε η πρόεδρος von der Leyen στις πολιτικές κατευθύνσεις της όσον αφορά τα ψηφίσματα που εγκρίθηκαν από το Ευρωπαϊκό Κοινοβούλιο δυνάμει του άρθρου 225 της ΣΛΕΕ, στην παρούσα πρόταση λαμβάνεται υπόψη το προαναφερόμενο ψήφισμα του Ευρωπαϊκού Κοινοβουλίου με πλήρη σεβασμό των αρχών της αναλογικότητας, της επικουρικότητας και της βελτίωσης της νομοθεσίας.

Σε αυτό το πολιτικό πλαίσιο, η Επιτροπή προωθεί το προτεινόμενο κανονιστικό πλαίσιο για την τεχνητή νοημοσύνη με τους ακόλουθους ειδικούς στόχους:

·να διασφαλιστεί ότι τα συστήματα ΤΝ που διατίθενται στην αγορά και χρησιμοποιούνται είναι ασφαλή και τηρούν την ισχύουσα νομοθεσία για τα θεμελιώδη δικαιώματα και τις αξίες της Ένωσης·

·να διασφαλιστεί ασφάλεια δικαίου για τη διευκόλυνση των επενδύσεων και της καινοτομίας στον τομέα της ΤΝ·

·να ενισχυθεί η διακυβέρνηση και η αποτελεσματική επιβολή της ισχύουσας νομοθεσίας για τα θεμελιώδη δικαιώματα και τις απαιτήσεις ασφάλειας που εφαρμόζονται στα συστήματα ΤΝ·

·να διευκολυνθεί η ανάπτυξη ενιαίας αγοράς για νόμιμα, ασφαλή και αξιόπιστα συστήματα ΤΝ και να προληφθεί ο κατακερματισμός της αγοράς.

Για την επίτευξη των στόχων αυτών, η παρούσα πρόταση παρουσιάζει μια ισορροπημένη και αναλογική οριζόντια κανονιστική προσέγγιση για την ΤΝ, η οποία περιορίζεται στις ελάχιστες αναγκαίες απαιτήσεις για την αντιμετώπιση των κινδύνων και των προβλημάτων που συνδέονται με την ΤΝ, χωρίς να περιορίζεται ή να παρεμποδίζεται αδικαιολόγητα η τεχνολογική ανάπτυξη ή να αυξάνεται δυσανάλογα με άλλον τρόπο το κόστος της διάθεσης λύσεων ΤΝ στην αγορά. Η πρόταση καθορίζει ένα ισχυρό και ευέλικτο νομικό πλαίσιο. Αφενός, είναι ολοκληρωμένο και διαχρονικό όσον αφορά τις θεμελιώδεις ρυθμιστικές επιλογές του, συμπεριλαμβανομένων των απαιτήσεων που βασίζονται σε αρχές με τις οποίες θα πρέπει να συμμορφώνονται τα συστήματα ΤΝ. Από την άλλη πλευρά, θέτει σε εφαρμογή ένα αναλογικό κανονιστικό σύστημα επικεντρωμένο σε μια σαφώς καθορισμένη κανονιστική προσέγγιση βάσει κινδύνου, η οποία δεν δημιουργεί περιττούς περιορισμούς στο εμπόριο, στο πλαίσιο της οποίας η νομική παρέμβαση είναι προσαρμοσμένη στις συγκεκριμένες καταστάσεις στις οποίες υπάρχει βάσιμος λόγος ανησυχίας ή όπου μπορεί εύλογα να αναμένεται τέτοια ανησυχία στο εγγύς μέλλον. Ταυτόχρονα, το νομικό πλαίσιο περιλαμβάνει ευέλικτους μηχανισμούς που επιτρέπουν τη δυναμική προσαρμογή του ανάλογα με την εξέλιξη της τεχνολογίας και την εμφάνιση νέων ανησυχητικών καταστάσεων.

Στην πρόταση καθορίζονται εναρμονισμένοι κανόνες για την ανάπτυξη, τη διάθεση στην αγορά και τη χρήση συστημάτων ΤΝ στην Ένωση, σύμφωνα με μια αναλογική προσέγγιση βάσει κινδύνου. Προτείνεται ένας ενιαίος διαχρονικός ορισμός της ΤΝ. Ορισμένες ιδιαίτερα επιβλαβείς πρακτικές ΤΝ απαγορεύονται διότι αντιβαίνουν στις αξίες της Ένωσης, ενώ προτείνονται ειδικοί περιορισμοί και εγγυήσεις σε σχέση με ορισμένες χρήσεις συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης για σκοπούς επιβολής του νόμου. Η πρόταση θεσπίζει μια αξιόπιστη μεθοδολογία κινδύνου για τον ορισμό των συστημάτων ΤΝ «υψηλού κινδύνου» που ενέχουν σημαντικούς κινδύνους για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα των προσώπων. Τα εν λόγω συστήματα ΤΝ θα πρέπει να συμμορφώνονται με ένα σύνολο οριζόντιων υποχρεωτικών απαιτήσεων για αξιόπιστη ΤΝ και να ακολουθούν διαδικασίες αξιολόγησης της συμμόρφωσης προτού επιτραπεί η διάθεση των εν λόγω συστημάτων στην αγορά της Ένωσης. Επιβάλλονται επίσης προβλέψιμες, αναλογικές και σαφείς υποχρεώσεις στους παρόχους και στους χρήστες των εν λόγω συστημάτων, προκειμένου να διασφαλίζονται η ασφάλεια και η τήρηση της ισχύουσας νομοθεσίας για την προστασία των θεμελιωδών δικαιωμάτων καθ’ όλη τη διάρκεια του κύκλου ζωής των συστημάτων ΤΝ. Για ορισμένα ειδικά συστήματα ΤΝ, προτείνονται μόνον ελάχιστες υποχρεώσεις διαφάνειας, ειδικότερα σε περιπτώσεις χρήσης διαλογικών ρομπότ ή «βαθιά ψευδούς υλικού».

Οι προτεινόμενοι κανόνες θα επιβληθούν μέσω ενός συστήματος διακυβέρνησης σε επίπεδο κρατών μελών, με βάση τις ήδη υφιστάμενες δομές, και ενός μηχανισμού συνεργασίας σε επίπεδο Ένωσης με τη σύσταση Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης. Προτείνονται επίσης πρόσθετα μέτρα για τη στήριξη της καινοτομίας, ειδικότερα μέσω ρυθμιστικών δοκιμαστηρίων για την ΤΝ και άλλων μέτρων για τη μείωση της κανονιστικής επιβάρυνσης και για τη στήριξη των μικρομεσαίων επιχειρήσεων (ΜΜΕ) και των νεοφυών επιχειρήσεων.

1.2.Συνέπεια με τις ισχύουσες διατάξεις στον τομέα πολιτικής

Ο οριζόντιος χαρακτήρας της πρότασης απαιτεί απόλυτη συνέπεια με την ισχύουσα νομοθεσία της Ένωσης που εφαρμόζεται σε τομείς στους οποίους τα συστήματα ΤΝ υψηλού κινδύνου χρησιμοποιούνται ήδη ή είναι πιθανό να χρησιμοποιηθούν στο εγγύς μέλλον.

Εξασφαλίζεται επίσης η συνέπεια με τον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ και το ισχύον παράγωγο δίκαιο της Ένωσης για την προστασία των δεδομένων, την προστασία των καταναλωτών, την απαγόρευση των διακρίσεων και την ισότητα των φύλων. Η πρόταση αφενός δεν θίγει και αφετέρου συμπληρώνει τον γενικό κανονισμό για την προστασία δεδομένων [κανονισμός (ΕΕ) 2016/679] και την οδηγία για την επιβολή του νόμου [οδηγία (ΕΕ) 2016/680] με ένα σύνολο εναρμονισμένων κανόνων που εφαρμόζονται στον σχεδιασμό, στην ανάπτυξη και στη χρήση ορισμένων συστημάτων ΤΝ υψηλού κινδύνου, καθώς και με περιορισμούς σε ορισμένες χρήσεις των συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης. Επιπλέον, η πρόταση συμπληρώνει την ισχύουσα νομοθεσία της Ένωσης για την απαγόρευση των διακρίσεων με ειδικές απαιτήσεις που αποσκοπούν στην ελαχιστοποίηση του κινδύνου αλγοριθμικών διακρίσεων, ειδικότερα σε σχέση με τον σχεδιασμό και την ποιότητα των συνόλων δεδομένων που χρησιμοποιούνται για την ανάπτυξη συστημάτων ΤΝ, οι οποίες συμπληρώνονται με υποχρεώσεις δοκιμών, διαχείρισης κινδύνου, τεκμηρίωσης και ανθρώπινης εποπτείας καθ’ όλη τη διάρκεια του κύκλου ζωής των συστημάτων ΤΝ. Η πρόταση δεν θίγει την εφαρμογή του ενωσιακού δικαίου περί ανταγωνισμού.

Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων, η παρούσα πρόταση θα ενσωματωθεί στην ισχύουσα τομεακή νομοθεσία για την ασφάλεια, ώστε να εξασφαλιστεί συνέπεια, να αποφευχθούν οι αλληλεπικαλύψεις και να ελαχιστοποιηθούν οι πρόσθετες επιβαρύνσεις. Ειδικότερα, όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που σχετίζονται με προϊόντα που καλύπτονται από τη νομοθεσία του νέου νομοθετικού πλαισίου (π.χ. μηχανήματα, ιατροτεχνολογικά προϊόντα, παιχνίδια), οι απαιτήσεις για τα συστήματα ΤΝ που καθορίζονται στην παρούσα πρόταση θα ελεγχθούν στο πλαίσιο των υφιστάμενων διαδικασιών αξιολόγησης της συμμόρφωσης βάσει της σχετικής νομοθεσίας του νέου νομοθετικού πλαισίου. Όσον αφορά την αλληλεπίδραση των απαιτήσεων, παρότι επιδιώκεται οι κίνδυνοι ασφάλειας που αφορούν ειδικά τα συστήματα ΤΝ να καλύπτονται από τις απαιτήσεις της παρούσας πρότασης, η νομοθεσία του νέου νομοθετικού πλαισίου αποσκοπεί στη διασφάλιση της συνολικής ασφάλειας του τελικού προϊόντος και, ως εκ τούτου, μπορεί να περιλαμβάνει ειδικές απαιτήσεις σχετικά με την ασφαλή ενσωμάτωση ενός συστήματος ΤΝ στο τελικό προϊόν. Η πρόταση κανονισμού για τα μηχανήματα, η οποία εκδίδεται την ίδια ημέρα με την παρούσα πρόταση, αντικατοπτρίζει πλήρως την εν λόγω προσέγγιση. Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που σχετίζονται με προϊόντα που καλύπτονται από τη σχετική νομοθεσία της παλαιάς προσέγγισης (π.χ. αεροπορικές μεταφορές, αυτοκίνητα), η παρούσα πρόταση δεν θα ισχύει άμεσα. Ωστόσο, οι εκ των προτέρων βασικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου που καθορίζονται στην παρούσα πρόταση θα πρέπει να λαμβάνονται υπόψη κατά τη θέσπιση σχετικών εκτελεστικών ή κατ’ εξουσιοδότηση πράξεων δυνάμει της εν λόγω νομοθεσίας.

Όσον αφορά τα συστήματα ΤΝ που παρέχονται ή χρησιμοποιούνται από ρυθμιζόμενα πιστωτικά ιδρύματα, οι αρχές που είναι υπεύθυνες για την εποπτεία της νομοθεσίας της Ένωσης για τις χρηματοπιστωτικές υπηρεσίες θα πρέπει να οριστούν ως αρμόδιες αρχές για την εποπτεία των απαιτήσεων που προβλέπονται στην παρούσα πρόταση, ώστε να διασφαλιστεί η συνεκτική επιβολή των υποχρεώσεων που απορρέουν από την παρούσα πρόταση και τη νομοθεσία της Ένωσης για τις χρηματοπιστωτικές υπηρεσίες, όπου τα συστήματα ΤΝ ρυθμίζονται σε κάποιον βαθμό έμμεσα σε σχέση με το σύστημα εσωτερικής διακυβέρνησης των πιστωτικών ιδρυμάτων. Για την περαιτέρω ενίσχυση της συνέπειας, η διαδικασία αξιολόγησης της συμμόρφωσης και ορισμένες από τις διαδικαστικές υποχρεώσεις των παρόχων βάσει της παρούσας πρότασης ενσωματώνονται στις διαδικασίες της οδηγίας 2013/36/ΕΕ σχετικά με την πρόσβαση στη δραστηριότητα πιστωτικών ιδρυμάτων και την προληπτική εποπτεία 14 .

Η παρούσα πρόταση είναι επίσης συνεπής με την εφαρμοστέα ενωσιακή νομοθεσία για τις υπηρεσίες, συμπεριλαμβανομένων των υπηρεσιών μεσαζόντων που ρυθμίζονται από την οδηγία 2000/31/ΕΚ για το ηλεκτρονικό εμπόριο 15 και την πρόσφατη πρόταση της Επιτροπής σχετικά με την πράξη για τις ψηφιακές υπηρεσίες 16 .

Όσον αφορά τα συστήματα ΤΝ που αποτελούν κατασκευαστικά στοιχεία συστημάτων ΤΠ μεγάλης κλίμακας στον χώρο της ελευθερίας, της ασφάλειας και της δικαιοσύνης, τα οποία διαχειρίζεται ο Οργανισμός της Ευρωπαϊκής Ένωσης για τη λειτουργική διαχείριση συστημάτων ΤΠ μεγάλης κλίμακας (eu-LISA), η πρόταση δεν θα εφαρμόζεται στα συστήματα ΤΝ που έχουν διατεθεί στην αγορά ή έχουν τεθεί σε λειτουργία πριν από την παρέλευση ενός έτους από την ημερομηνία εφαρμογής του παρόντος κανονισμού, εκτός αν η αντικατάσταση ή η τροποποίηση των εν λόγω νομικών πράξεων οδηγεί σε σημαντική μεταβολή του σχεδιασμού ή του επιδιωκόμενου σκοπού του σχετικού συστήματος ή των σχετικών συστημάτων ΤΝ.

1.3.Συνέπεια με άλλες πολιτικές της Ένωσης

Η πρόταση αποτελεί μέρος μιας ευρύτερης ολοκληρωμένης δέσμης μέτρων για την αντιμετώπιση των προβλημάτων που προκαλούνται από την ανάπτυξη και τη χρήση της ΤΝ, όπως εξετάζονται στη Λευκή Βίβλο για την ΤΝ. Ως εκ τούτου, διασφαλίζεται η συνέπεια και η συμπληρωματικότητα με άλλες υπό εξέλιξη ή προγραμματισμένες πρωτοβουλίες της Επιτροπής που αποσκοπούν επίσης στην αντιμετώπιση των εν λόγω προβλημάτων, συμπεριλαμβανομένης της αναθεώρησης της τομεακής νομοθεσίας για τα προϊόντα (π.χ. της οδηγίας για τα μηχανήματα, της οδηγίας για τη γενική ασφάλεια των προϊόντων) και των πρωτοβουλιών που αφορούν ζητήματα ευθύνης που σχετίζονται με τις νέες τεχνολογίες, συμπεριλαμβανομένων των συστημάτων ΤΝ. Οι πρωτοβουλίες αυτές θα βασιστούν και θα συμπληρώσουν την παρούσα πρόταση προκειμένου να επιτευχθεί νομική σαφήνεια και να προωθηθεί η ανάπτυξη ενός οικοσυστήματος εμπιστοσύνης στην ΤΝ στην Ευρώπη.

Η πρόταση συνάδει επίσης με τη συνολική ψηφιακή στρατηγική της Επιτροπής, καθώς συμβάλλει στην προώθηση της τεχνολογίας στην υπηρεσία των ανθρώπων, η οποία είναι ένας από τους τρεις κύριους πυλώνες του προσανατολισμού και των στόχων πολιτικής που παρουσιάστηκαν στην ανακοίνωση με τίτλο «Διαμόρφωση του ψηφιακού μέλλοντος της Ευρώπης» 17 . Θεσπίζει ένα συνεκτικό, αποτελεσματικό και αναλογικό πλαίσιο για να διασφαλιστεί ότι η ΤΝ αναπτύσσεται με τρόπους που σέβονται τα δικαιώματα των πολιτών και κερδίζουν την εμπιστοσύνη τους, καθιστώντας την Ευρώπη έτοιμη για την ψηφιακή εποχή και μετατρέποντας την επόμενη δεκαετία σε ψηφιακή δεκαετία 18 .

Επιπλέον, η προώθηση της καινοτομίας με βάση την ΤΝ συνδέεται στενά με την πράξη για τη διακυβέρνηση δεδομένων 19 , την οδηγία για τα ανοικτά δεδομένα 20 και άλλες πρωτοβουλίες στο πλαίσιο της ενωσιακής στρατηγικής για τα δεδομένα 21 , που θα καθιερώσει αξιόπιστους μηχανισμούς και υπηρεσίες για την περαιτέρω χρήση, την κοινοχρησία και τη διασύνδεση δεδομένων που είναι απαραίτητα για την ανάπτυξη υψηλής ποιότητας μοντέλων ΤΝ που βασίζονται σε δεδομένα.

Η πρόταση ενισχύει επίσης σημαντικά τον ρόλο της Ένωσης στη διαμόρφωση παγκόσμιων κανόνων και προτύπων και στην προώθηση αξιόπιστης ΤΝ που συνάδει με τις αξίες και τα συμφέροντα της Ένωσης. Παρέχει στην Ένωση ισχυρή βάση για περαιτέρω συνεργασία με τους εξωτερικούς εταίρους της, συμπεριλαμβανομένων τρίτων χωρών, καθώς και σε διεθνή φόρα για θέματα που σχετίζονται με την ΤΝ.

2.ΝΟΜΙΚΗ ΒΑΣΗ, ΕΠΙΚΟΥΡΙΚΟΤΗΤΑ ΚΑΙ ΑΝΑΛΟΓΙΚΟΤΗΤΑ

2.1.Νομική βάση

Η νομική βάση της πρότασης είναι καταρχάς το άρθρο 114 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης (ΣΛΕΕ), το οποίο προβλέπει την έκδοση μέτρων για τη διασφάλιση της εγκαθίδρυσης και της λειτουργίας της εσωτερικής αγοράς.

Η παρούσα πρόταση αποτελεί βασικό μέρος της στρατηγικής της ΕΕ για την ψηφιακή ενιαία αγορά. Πρωταρχικός στόχος της παρούσας πρότασης είναι να διασφαλιστεί η ορθή λειτουργία της εσωτερικής αγοράς με τη θέσπιση εναρμονισμένων κανόνων, ειδικότερα σε σχέση με την ανάπτυξη, τη διάθεση στην αγορά της Ένωσης και τη χρήση προϊόντων και υπηρεσιών που χρησιμοποιούν τεχνολογίες ΤΝ ή παρέχονται ως αυτόνομα συστήματα ΤΝ. Κάποια κράτη μέλη εξετάζουν ήδη το ενδεχόμενο θέσπισης εθνικών κανόνων για να διασφαλίσουν ότι η ΤΝ είναι ασφαλής και αναπτύσσεται και χρησιμοποιείται σύμφωνα με τις υποχρεώσεις που απορρέουν από τα θεμελιώδη δικαιώματα. Αυτό είναι πιθανό να οδηγήσει σε δύο βασικά προβλήματα: i) στον κατακερματισμό της εσωτερικής αγοράς σε σχέση με ουσιώδη στοιχεία, ειδικότερα όσον αφορά τις απαιτήσεις για τα προϊόντα και τις υπηρεσίες ΤΝ, την εμπορία τους, τη χρήση τους, την ευθύνη και την εποπτεία από τις δημόσιες αρχές, και ii) τη σημαντική μείωση της ασφάλειας δικαίου τόσο για τους παρόχους όσο και για τους χρήστες συστημάτων ΤΝ σχετικά με τον τρόπο εφαρμογής των υφιστάμενων και των νέων κανόνων στα εν λόγω συστήματα στην Ένωση. Δεδομένης της ευρείας διασυνοριακής κυκλοφορίας προϊόντων και υπηρεσιών, τα δύο αυτά προβλήματα μπορούν να επιλυθούν καλύτερα μέσω της εναρμόνισης της νομοθεσίας σε επίπεδο ΕΕ.

Πράγματι, η πρόταση ορίζει κοινές υποχρεωτικές απαιτήσεις που θα ισχύουν για τον σχεδιασμό και την ανάπτυξη ορισμένων συστημάτων ΤΝ πριν από τη διάθεσή τους στην αγορά, οι οποίες θα εφαρμοστούν περαιτέρω μέσω εναρμονισμένων τεχνικών προτύπων. Η πρόταση αντιμετωπίζει επίσης την κατάσταση μετά τη διάθεση των συστημάτων ΤΝ στην αγορά, εναρμονίζοντας τον τρόπο με τον οποίο διενεργούνται οι εκ των υστέρων έλεγχοι.

Επιπλέον, δεδομένου ότι η παρούσα πρόταση περιέχει ορισμένους ειδικούς κανόνες για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα, κυρίως δε περιορισμούς στη χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, είναι σκόπιμο ο παρών κανονισμός να βασιστεί, όσον αφορά αυτούς τους ειδικούς κανόνες, στο άρθρο 16 της ΣΛΕΕ.

2.2.Επικουρικότητα (σε περίπτωση μη αποκλειστικής αρμοδιότητας)

Η φύση της ΤΝ, η οποία συχνά βασίζεται σε μεγάλα και ποικίλα σύνολα δεδομένων και μπορεί να ενσωματωθεί σε οποιοδήποτε προϊόν ή υπηρεσία που κυκλοφορεί ελεύθερα εντός της εσωτερικής αγοράς, συνεπάγεται ότι οι στόχοι της παρούσας πρότασης δεν μπορούν να επιτευχθούν αποτελεσματικά από τα κράτη μέλη μεμονωμένα. Επιπλέον, ένα αναδυόμενο συνονθύλευμα δυνητικά αποκλινόντων εθνικών κανόνων θα παρεμποδίσει την απρόσκοπτη κυκλοφορία προϊόντων και υπηρεσιών που σχετίζονται με συστήματα ΤΝ σε ολόκληρη την ΕΕ και θα είναι αναποτελεσματικό όσον αφορά τη διασφάλιση της ασφάλειας και της προστασίας των θεμελιωδών δικαιωμάτων και των αξιών της Ένωσης στα διάφορα κράτη μέλη. Οι εθνικές προσεγγίσεις για την αντιμετώπιση των προβλημάτων θα δημιουργήσουν μόνο πρόσθετη ανασφάλεια δικαίου και φραγμούς, ενώ επίσης θα επιβραδύνουν την αποδοχή της ΤΝ από την αγορά.

Οι στόχοι της παρούσας πρότασης μπορούν να επιτευχθούν καλύτερα σε επίπεδο Ένωσης, ώστε να αποφευχθεί ο περαιτέρω κατακερματισμός της ενιαίας αγοράς σε δυνητικά αντιφατικά εθνικά πλαίσια που εμποδίζουν την ελεύθερη κυκλοφορία των εμπορευμάτων και των υπηρεσιών που ενσωματώνουν ΤΝ. Ένα στέρεο ευρωπαϊκό κανονιστικό πλαίσιο για αξιόπιστη ΤΝ θα διασφαλίζει επίσης ισότιμους όρους ανταγωνισμού και θα προστατεύει όλους τους ανθρώπους, ενισχύοντας παράλληλα την ανταγωνιστικότητα και τη βιομηχανική βάση της Ευρώπης στον τομέα της ΤΝ. Μόνον η κοινή δράση σε επίπεδο Ένωσης μπορεί επίσης να προστατεύει την ψηφιακή κυριαρχία της Ένωσης και να αξιοποιεί τα εργαλεία και τις ρυθμιστικές της εξουσίες για τη διαμόρφωση παγκόσμιων κανόνων και προτύπων.

2.3.Αναλογικότητα

Η πρόταση βασίζεται στα υφιστάμενα νομικά πλαίσια και είναι αναλογική και αναγκαία για την επίτευξη των στόχων της, δεδομένου ότι ακολουθεί προσέγγιση βάσει κινδύνου και επιβάλλει κανονιστικές επιβαρύνσεις μόνον όταν ένα σύστημα ΤΝ είναι πιθανό να ενέχει υψηλούς κινδύνους για τα θεμελιώδη δικαιώματα και την ασφάλεια. Για άλλα συστήματα ΤΝ μη υψηλού κινδύνου, επιβάλλονται μόνο πολύ περιορισμένες υποχρεώσεις διαφάνειας, για παράδειγμα όσον αφορά την παροχή πληροφοριών για τη σήμανση της χρήσης ενός συστήματος ΤΝ κατά την αλληλεπίδραση με ανθρώπους. Για τα συστήματα ΤΝ υψηλού κινδύνου, οι απαιτήσεις για υψηλής ποιότητας δεδομένα, τεκμηρίωση και ιχνηλασιμότητα, διαφάνεια, ανθρώπινη εποπτεία, ακρίβεια και στιβαρότητα είναι απολύτως αναγκαίες για τον μετριασμό των κινδύνων που ενέχει η ΤΝ για τα θεμελιώδη δικαιώματα και την ασφάλεια και δεν καλύπτονται από άλλα υφιστάμενα νομικά πλαίσια. Τα εναρμονισμένα πρότυπα και τα υποστηρικτικά εργαλεία καθοδήγησης και συμμόρφωσης θα βοηθήσουν τους παρόχους και τους χρήστες να συμμορφωθούν με τις απαιτήσεις που προβλέπονται στην πρόταση και να ελαχιστοποιήσουν το κόστος τους. Το κόστος με το οποίο επιβαρύνονται οι φορείς εκμετάλλευσης είναι ανάλογο προς τους στόχους που αναμένεται να επιτευχθούν και τα οικονομικά οφέλη, καθώς και τα οφέλη σε επίπεδο φήμης τα οποία μπορούν να προσδοκούν οι φορείς εκμετάλλευσης από την παρούσα πρόταση.

2.4.Επιλογή της νομικής πράξης

Η επιλογή ενός κανονισμού ως νομικής πράξης δικαιολογείται από την ανάγκη ομοιόμορφης εφαρμογής των νέων κανόνων, όπως ο ορισμός της ΤΝ, η απαγόρευση ορισμένων επιβλαβών πρακτικών που βασίζονται στην ΤΝ και η ταξινόμηση ορισμένων συστημάτων ΤΝ. Η άμεση εφαρμογή ενός κανονισμού, σύμφωνα με το άρθρο 288 της ΣΛΕΕ, θα μειώσει τον νομικό κατακερματισμό και θα διευκολύνει την ανάπτυξη μιας ενιαίας αγοράς νόμιμων, ασφαλών και αξιόπιστων συστημάτων ΤΝ. Αυτό θα επιτευχθεί, ειδικότερα, με τη θέσπιση εναρμονισμένου συνόλου βασικών απαιτήσεων όσον αφορά τα συστήματα ΤΝ που ταξινομούνται ως υψηλού κινδύνου και με υποχρεώσεις για τους παρόχους και τους χρήστες των εν λόγω συστημάτων, με τη βελτίωση της προστασίας των θεμελιωδών δικαιωμάτων και την παροχή ασφάλειας δικαίου τόσο για τους φορείς εκμετάλλευσης όσο και για τους καταναλωτές.

Ταυτόχρονα, οι διατάξεις του κανονισμού δεν είναι υπερβολικά περιοριστικές και αφήνουν περιθώριο για διαφορετικά επίπεδα δράσης των κρατών μελών όσον αφορά στοιχεία που δεν υπονομεύουν τους στόχους της πρωτοβουλίας, ειδικότερα την εσωτερική οργάνωση του συστήματος εποπτείας της αγοράς και τη λήψη μέτρων για την προώθηση της καινοτομίας.

3.ΑΠΟΤΕΛΕΣΜΑΤΑ ΤΩΝ ΕΚ ΤΩΝ ΥΣΤΕΡΩΝ ΑΞΙΟΛΟΓΗΣΕΩΝ, ΤΩΝ ΔΙΑΒΟΥΛΕΥΣΕΩΝ ΜΕ ΤΑ ΕΝΔΙΑΦΕΡΟΜΕΝΑ ΜΕΡΗ ΚΑΙ ΤΩΝ ΕΚΤΙΜΗΣΕΩΝ ΕΠΙΠΤΩΣΕΩΝ

3.1.Διαβουλεύσεις με τα ενδιαφερόμενα μέρη

Η παρούσα πρόταση είναι το αποτέλεσμα εκτενούς διαβούλευσης με όλα τα βασικά ενδιαφερόμενα μέρη, στο πλαίσιο της οποίας εφαρμόστηκαν οι γενικές αρχές και τα ελάχιστα πρότυπα για τη διαβούλευση των ενδιαφερόμενων μερών με την Επιτροπή.

Μια διαδικτυακή δημόσια διαβούλευση ξεκίνησε στις 19 Φεβρουαρίου 2020 παράλληλα με τη δημοσίευση της Λευκής Βίβλου για την τεχνητή νοημοσύνη και διήρκεσε έως τις 14 Ιουνίου 2020. Στόχος της διαβούλευσης αυτής ήταν να συγκεντρωθούν απόψεις και γνώμες σχετικά με τη Λευκή Βίβλο. Απευθυνόταν σε όλα τα ενδιαφερόμενα μέρη από τον δημόσιο και τον ιδιωτικό τομέα, συμπεριλαμβανομένων κυβερνήσεων, τοπικών αρχών, εμπορικών και μη εμπορικών οργανώσεων, των κοινωνικών εταίρων, εμπειρογνωμόνων, πανεπιστημιακών και πολιτών. Έπειτα από την ανάλυση όλων των απαντήσεων που έλαβε, η Επιτροπή δημοσίευσε τα περιληπτικά αποτελέσματα και τις επιμέρους απαντήσεις στον δικτυακό της τόπο 22 .

Συνολικά, ελήφθησαν 1 215 απαντήσεις, από τις οποίες οι 352 προέρχονταν από εταιρείες ή επιχειρηματικές οργανώσεις/ενώσεις, οι 406 από ιδιώτες (92 % άτομα από την ΕΕ), οι 152 εξ ονόματος πανεπιστημιακών/ερευνητικών ιδρυμάτων και οι 73 από δημόσιες αρχές. Η φωνή της κοινωνίας των πολιτών εκπροσωπήθηκε από 160 απαντήσαντες (μεταξύ των οποίων 9 οργανώσεις καταναλωτών, 129 μη κυβερνητικές οργανώσεις και 22 συνδικαλιστικές οργανώσεις), ενώ 72 απάντησαν ως «άλλοι». Από τους 352 εκπροσώπους των επιχειρήσεων και της βιομηχανίας, οι 222 ήταν εταιρείες και εκπρόσωποι επιχειρήσεων, εκ των οποίων το 41,5 % ήταν πολύ μικρές, μικρές και μεσαίες επιχειρήσεις. Οι υπόλοιπες ήταν επιχειρηματικές ενώσεις. Συνολικά, το 84 % των απαντήσεων των επιχειρήσεων και της βιομηχανίας προήλθαν από την ΕΕ των 27. Ανάλογα με την ερώτηση, από 81 έως 598 απαντήσαντες χρησιμοποίησαν την επιλογή ελεύθερου κειμένου για την εισαγωγή σχολίων. Περισσότερα από 450 έγγραφα θέσης υποβλήθηκαν μέσω του δικτυακού τόπου της έρευνας της ΕΕ, είτε ως προσθήκη στις απαντήσεις στο ερωτηματολόγιο (περισσότερα από 400) είτε ως αυτοτελείς απαντήσεις (περισσότερα από 50).

Συνολικά, υπάρχει γενική συμφωνία μεταξύ των ενδιαφερόμενων μερών σχετικά με την ανάγκη ανάληψης δράσης. Η μεγάλη πλειονότητα των ενδιαφερόμενων μερών συμφωνεί ότι υπάρχουν νομοθετικά κενά ή ότι απαιτείται νέα νομοθεσία. Ωστόσο, αρκετά ενδιαφερόμενα μέρη προειδοποιούν την Επιτροπή να αποφύγει τις αλληλεπικαλύψεις, τις αντικρουόμενες υποχρεώσεις και την υπερβολική ρύθμιση. Υπήρξαν πολλές παρατηρήσεις στις οποίες υπογραμμίστηκε η σημασία ενός τεχνολογικά ουδέτερου και αναλογικού κανονιστικού πλαισίου.

Τα ενδιαφερόμενα μέρη ζήτησαν κατά κύριο λόγο έναν στενό, σαφή και ακριβή ορισμό της ΤΝ. Τα ενδιαφερόμενα μέρη τόνισαν επίσης ότι, εκτός από την αποσαφήνιση του όρου της ΤΝ, είναι σημαντικό να οριστούν οι έννοιες του «κινδύνου», του «υψηλού κινδύνου», του «χαμηλού κινδύνου», της «εξ αποστάσεως βιομετρικής ταυτοποίησης» και της «βλάβης».

Οι περισσότεροι από τους απαντήσαντες τάσσονται ρητά υπέρ της προσέγγισης βάσει κινδύνου. Η χρήση πλαισίου βάσει κινδύνου θεωρήθηκε καλύτερη επιλογή από την καθολική ρύθμιση όλων των συστημάτων ΤΝ. Οι τύποι κινδύνων και απειλών θα πρέπει να βασίζονται σε μια προσέγγιση ανά τομέα και κατά περίπτωση. Οι κίνδυνοι θα πρέπει επίσης να υπολογίζονται λαμβανομένου υπόψη του αντίκτυπου στα δικαιώματα και στην ασφάλεια.

Τα ρυθμιστικά δοκιμαστήρια θα μπορούσαν να είναι πολύ χρήσιμα για την προώθηση της ΤΝ και είναι ευπρόσδεκτα από ορισμένα ενδιαφερόμενα μέρη, και ειδικά από τις επιχειρηματικές ενώσεις.

Μεταξύ εκείνων που διατύπωσαν τη γνώμη τους σχετικά με τα μοντέλα επιβολής, ποσοστό άνω του 50 %, κυρίως από τις επιχειρηματικές ενώσεις, τάχθηκαν υπέρ του συνδυασμού εκ των προτέρων αυτοαξιολόγησης κινδύνου και εκ των υστέρων επιβολής για τα συστήματα ΤΝ υψηλού κινδύνου.

3.2.Συλλογή και χρήση εμπειρογνωσίας

Η πρόταση βασίζεται σε ανάλυση δύο ετών και στη στενή συμμετοχή των ενδιαφερόμενων μερών, συμπεριλαμβανομένων πανεπιστημιακών, επιχειρήσεων, κοινωνικών εταίρων, μη κυβερνητικών οργανώσεων, κρατών μελών και πολιτών. Οι προπαρασκευαστικές εργασίες ξεκίνησαν το 2018 με τη σύσταση ομάδας εμπειρογνωμόνων υψηλού επιπέδου (ΟΕΥΕ) για την ΤΝ, η οποία διέθετε ευρεία σύνθεση χωρίς αποκλεισμούς, απαρτιζόμενη από 52 ευρέως γνωστούς εμπειρογνώμονες επιφορτισμένους με την παροχή συμβουλών στην Επιτροπή σχετικά με την εφαρμογή της στρατηγικής της Επιτροπής για την τεχνητή νοημοσύνη. Τον Απρίλιο του 2019 η Επιτροπή υποστήριξε 23 τις βασικές απαιτήσεις που ορίζονται στις κατευθυντήριες γραμμές δεοντολογίας της ΟΕΥΕ για αξιόπιστη ΤΝ 24 , οι οποίες είχαν αναθεωρηθεί ώστε να ληφθούν υπόψη περισσότερες από 500 παρατηρήσεις που υποβλήθηκαν από ενδιαφερόμενα μέρη. Οι βασικές απαιτήσεις αντικατοπτρίζουν μια ευρεία και κοινή προσέγγιση, όπως αποδεικνύεται από πληθώρα κωδίκων δεοντολογίας και αρχών που έχουν αναπτυχθεί από πολλούς ιδιωτικούς και δημόσιους οργανισμούς στην Ευρώπη και πέραν αυτής, ότι η ανάπτυξη και η χρήση ΤΝ θα πρέπει να καθοδηγείται από ορισμένες βασικές αρχές με γνώμονα την αξία. Ο κατάλογος αξιολόγησης για αξιόπιστη τεχνητή νοημοσύνη (ALTAI) 25 έθεσε τις εν λόγω απαιτήσεις σε εφαρμογή στο πλαίσιο πιλοτικής διαδικασίας με περισσότερους από 350 οργανισμούς.

Επιπλέον, η Συμμαχία για την ΤΝ 26 δημιουργήθηκε ως πλατφόρμα για περίπου 4 000 ενδιαφερόμενα μέρη με σκοπό τον διάλογο σχετικά με τις τεχνολογικές και κοινωνικές επιπτώσεις της ΤΝ, με αποκορύφωμα την ετήσια συνέλευση για την ΤΝ.

3.3.Εκτίμηση επιπτώσεων

Σύμφωνα με την πολιτική της για τη «βελτίωση της νομοθεσίας», η Επιτροπή διενήργησε εκτίμηση των επιπτώσεων για την παρούσα πρόταση, η οποία εξετάστηκε από την επιτροπή ρυθμιστικού ελέγχου της Επιτροπής. Στις 16 Δεκεμβρίου 2020 πραγματοποιήθηκε συνεδρίαση με την επιτροπή ρυθμιστικού ελέγχου, σε συνέχεια της οποίας εκδόθηκε αρνητική γνώμη. Έπειτα από ουσιαστική αναθεώρηση της εκτίμησης των επιπτώσεων, προκειμένου να ληφθούν υπόψη τα σχόλια, και εκ νέου υποβολή της εκτίμησης των επιπτώσεων, η επιτροπή ρυθμιστικού ελέγχου εξέδωσε θετική γνώμη στις 21 Μαρτίου 2021. Οι γνώμες της επιτροπής ρυθμιστικού ελέγχου, οι συστάσεις και η επεξήγηση του τρόπου με τον οποίο ελήφθησαν υπόψη παρουσιάζονται στο παράρτημα 1 της εκτίμησης των επιπτώσεων.

Η Επιτροπή εξέτασε διάφορες επιλογές πολιτικής για την επίτευξη του γενικού στόχου της πρότασης, ο οποίος συνίσταται στη διασφάλιση της ορθής λειτουργίας της ενιαίας αγοράς με τη δημιουργία των προϋποθέσεων για την ανάπτυξη και τη χρήση αξιόπιστης ΤΝ στην Ένωση.

Αξιολογήθηκαν τέσσερις επιλογές πολιτικής με διαφορετικό βαθμό ρυθμιστικής παρέμβασης:

·Επιλογή 1: νομοθετική πράξη της ΕΕ για τη θέσπιση εθελοντικού συστήματος επισήμανσης·

·Επιλογή 2: τομεακή, «ad-hoc» προσέγγιση·

·Επιλογή 3: οριζόντια νομοθετική πράξη της ΕΕ σύμφωνα με αναλογική προσέγγιση βάσει κινδύνου·

·Επιλογή 3+: οριζόντια νομοθετική πράξη της ΕΕ σύμφωνα με αναλογική προσέγγιση βάσει κινδύνου + κώδικες δεοντολογίας για τα συστήματα ΤΝ μη υψηλού κινδύνου·

·Επιλογή 4: οριζόντια νομοθετική πράξη της ΕΕ που θεσπίζει υποχρεωτικές απαιτήσεις για όλα τα συστήματα ΤΝ, ανεξάρτητα από τον κίνδυνο που ενέχουν.

Σύμφωνα με την καθιερωμένη μεθοδολογία της Επιτροπής, κάθε επιλογή πολιτικής αξιολογήθηκε με βάση τις οικονομικές και κοινωνικές επιπτώσεις, με ιδιαίτερη έμφαση στις επιπτώσεις στα θεμελιώδη δικαιώματα. Η προτιμώμενη επιλογή είναι η επιλογή 3+, κανονιστικό πλαίσιο μόνο για τα συστήματα ΤΝ υψηλού κινδύνου, με τη δυνατότητα τήρησης κώδικα δεοντολογίας για όλους τους παρόχους συστημάτων ΤΝ μη υψηλού κινδύνου. Οι απαιτήσεις θα αφορούν τα δεδομένα, την τεκμηρίωση και την ιχνηλασιμότητα, την παροχή πληροφοριών και τη διαφάνεια, την ανθρώπινη εποπτεία καθώς και τη στιβαρότητα και την ακρίβεια, και θα είναι υποχρεωτικές για τα συστήματα ΤΝ υψηλού κινδύνου. Οι εταιρείες που θέσπισαν κώδικες δεοντολογίας για άλλα συστήματα ΤΝ το έπραξαν εθελοντικά.

Η προτιμώμενη επιλογή θεωρήθηκε κατάλληλη για να ανταποκριθεί με τον πλέον αποτελεσματικό τρόπο στους στόχους της παρούσας πρότασης. Απαιτώντας ένα περιορισμένο αλλά αποτελεσματικό σύνολο δράσεων από τους φορείς ανάπτυξης και τους χρήστες ΤΝ, η προτιμώμενη επιλογή περιορίζει τους κινδύνους παραβίασης των θεμελιωδών δικαιωμάτων και της ασφάλειας των ανθρώπων και προάγει την αποτελεσματική εποπτεία και επιβολή, εστιάζοντας τις απαιτήσεις μόνο στα συστήματα όπου υπάρχει υψηλός κίνδυνος να σημειωθούν τέτοιες παραβιάσεις. Ως εκ τούτου, η επιλογή αυτή διατηρεί το κόστος συμμόρφωσης στο ελάχιστο, αποφεύγοντας με τον τρόπο αυτόν την περιττή επιβράδυνση της αποδοχής λόγω υψηλότερων τιμών και κόστους συμμόρφωσης. Προκειμένου να αντιμετωπιστούν πιθανά μειονεκτήματα για τις ΜΜΕ, η επιλογή αυτή περιλαμβάνει διάφορες διατάξεις για τη στήριξη της συμμόρφωσής τους και τη μείωση του κόστους τους, συμπεριλαμβανομένης της δημιουργίας ρυθμιστικών δοκιμαστηρίων και της υποχρέωσης να λαμβάνονται υπόψη τα συμφέροντα των ΜΜΕ κατά τον καθορισμό των τελών που σχετίζονται με την αξιολόγηση της συμμόρφωσης.

Η προτιμώμενη επιλογή θα αυξήσει την εμπιστοσύνη των ανθρώπων στην ΤΝ, οι εταιρείες θα επιτύχουν ασφάλεια δικαίου και τα κράτη μέλη δεν θα έχουν λόγο να αναλάβουν μονομερή δράση που θα μπορούσε να οδηγήσει σε κατακερματισμό της ενιαίας αγοράς. Ως αποτέλεσμα της υψηλότερης ζήτησης λόγω μεγαλύτερης εμπιστοσύνης, των περισσότερων διαθέσιμων προσφορών λόγω της ασφάλειας δικαίου, καθώς και της απουσίας εμποδίων στη διασυνοριακή κυκλοφορία των συστημάτων ΤΝ, η ενιαία αγορά για την ΤΝ πιθανότατα θα ακμάσει. Η Ευρωπαϊκή Ένωση θα συνεχίσει να εξελίσσει ένα ταχέως αναπτυσσόμενο οικοσύστημα ΤΝ καινοτόμων υπηρεσιών και προϊόντων που ενσωματώνουν τεχνολογία ΤΝ ή αυτόνομων συστημάτων ΤΝ, με αποτέλεσμα την αύξηση της ψηφιακής αυτονομίας.

Οι επιχειρήσεις ή οι δημόσιες αρχές που αναπτύσσουν ή χρησιμοποιούν εφαρμογές ΤΝ που συνιστούν υψηλό κίνδυνο για την ασφάλεια ή τα θεμελιώδη δικαιώματα των πολιτών θα πρέπει να συμμορφώνονται με συγκεκριμένες απαιτήσεις και υποχρεώσεις. Η συμμόρφωση με αυτές τις απαιτήσεις θα    συνεπαγόταν κόστος το οποίο θα ανερχόταν κατά προσέγγιση σε 6 000 EUR έως 7 000 EUR για την προμήθεια ενός μέσου συστήματος ΤΝ υψηλού κινδύνου της τάξης των 170 000 EUR έως το 2025. Για τους χρήστες ΤΝ, θα υπάρχει επίσης το ετήσιο κόστος για τον χρόνο που δαπανάται για τη διασφάλιση της ανθρώπινης εποπτείας, όπου αυτό κρίνεται σκόπιμο, ανάλογα με την περίπτωση χρήσης. Το κόστος αυτό εκτιμάται κατά προσέγγιση σε 5 000 EUR έως 8 000 EUR ετησίως. Το κόστος επαλήθευσης θα μπορούσε να ανέλθει σε επιπλέον 3 000 EUR έως 7 500 EUR για τους προμηθευτές ΤΝ υψηλού κινδύνου. Οι επιχειρήσεις ή οι δημόσιες αρχές που αναπτύσσουν ή χρησιμοποιούν οποιεσδήποτε εφαρμογές ΤΝ που δεν ταξινομούνται ως υψηλού κινδύνου θα έχουν μόνον ελάχιστες υποχρεώσεις ενημέρωσης. Ωστόσο, θα μπορούσαν να επιλέξουν να ενώσουν τις δυνάμεις τους με άλλες και να εγκρίνουν από κοινού έναν κώδικα δεοντολογίας για την τήρηση των κατάλληλων απαιτήσεων και τη διασφάλιση της αξιοπιστίας των οικείων συστημάτων ΤΝ. Στην περίπτωση αυτή, το κόστος θα ανερχόταν, το πολύ, στο ίδιο επίπεδο με εκείνο για τα συστήματα ΤΝ υψηλού κινδύνου, αλλά κατά πάσα πιθανότητα θα ήταν χαμηλότερο.

Οι επιπτώσεις των επιλογών πολιτικής στις διάφορες κατηγορίες ενδιαφερόμενων μερών (οικονομικοί φορείς/επιχειρήσεις· οργανισμοί αξιολόγησης της συμμόρφωσης, οργανισμοί τυποποίησης και άλλοι δημόσιοι οργανισμοί· άτομα/πολίτες· ερευνητές) επεξηγούνται λεπτομερώς στο παράρτημα 3 της εκτίμησης των επιπτώσεων που υποστηρίζει την παρούσα πρόταση.

3.4.Καταλληλότητα και απλούστευση του κανονιστικού πλαισίου

Η παρούσα πρόταση θεσπίζει υποχρέωση που θα ισχύει για τους παρόχους και τους χρήστες συστημάτων ΤΝ υψηλού κινδύνου. Για τους παρόχους που αναπτύσσουν και διαθέτουν τέτοια συστήματα στην αγορά της Ένωσης, θα δημιουργήσει ασφάλεια δικαίου και θα διασφαλίσει ότι δεν θα προκύψει κανένα εμπόδιο στη διασυνοριακή παροχή υπηρεσιών και προϊόντων που σχετίζονται με την ΤΝ. Για τις εταιρείες που χρησιμοποιούν ΤΝ, θα προωθήσει την εμπιστοσύνη μεταξύ των πελατών τους. Για τις εθνικές δημόσιες διοικήσεις, θα προωθήσει την εμπιστοσύνη του κοινού στη χρήση της ΤΝ και θα ενισχύσει τους μηχανισμούς επιβολής (με τη θέσπιση ευρωπαϊκού μηχανισμού συντονισμού, την παροχή κατάλληλων ικανοτήτων και τη διευκόλυνση των ελέγχων των συστημάτων ΤΝ με νέες απαιτήσεις τεκμηρίωσης, ιχνηλασιμότητας και διαφάνειας). Επιπλέον, το πλαίσιο θα προβλέπει ειδικά μέτρα για τη στήριξη της καινοτομίας, συμπεριλαμβανομένων ρυθμιστικών δοκιμαστηρίων και ειδικών μέτρων για τη στήριξη των χρηστών μικρής κλίμακας και των παρόχων συστημάτων ΤΝ υψηλού κινδύνου, ώστε να συμμορφώνονται με τους νέους κανόνες.

Η πρόταση αποσκοπεί επίσης ειδικά στην ενίσχυση της ανταγωνιστικότητας και της βιομηχανικής βάσης της Ευρώπης στον τομέα της ΤΝ. Εξασφαλίζεται απόλυτη συνέπεια με την ισχύουσα τομεακή νομοθεσία της Ένωσης που εφαρμόζεται στα συστήματα ΤΝ (π.χ. σχετικά με τα προϊόντα και τις υπηρεσίες), η οποία θα επιφέρει περαιτέρω σαφήνεια και θα απλουστεύσει την επιβολή των νέων κανόνων.

3.5.Θεμελιώδη δικαιώματα

Η χρήση της ΤΝ με τα ιδιαίτερα χαρακτηριστικά της (π.χ. αδιαφάνεια, πολυπλοκότητα, εξάρτηση από δεδομένα, αυτόνομη συμπεριφορά) μπορεί να επηρεάσει αρνητικά ορισμένα θεμελιώδη δικαιώματα που κατοχυρώνονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ (στο εξής: Χάρτης). Η παρούσα πρόταση επιδιώκει να εξασφαλίσει υψηλό επίπεδο προστασίας για τα εν λόγω θεμελιώδη δικαιώματα και αποσκοπεί στην αντιμετώπιση διαφόρων πηγών κινδύνων μέσω μιας σαφώς καθορισμένης προσέγγισης βάσει κινδύνου. Με ένα σύνολο απαιτήσεων για αξιόπιστη ΤΝ και αναλογικές υποχρεώσεις για όλους τους συμμετέχοντες στην αξιακή αλυσίδα, η πρόταση θα ενισχύσει και θα προωθήσει την προάσπιση των δικαιωμάτων που προστατεύονται από τον Χάρτη, όπως: το δικαίωμα στην ανθρώπινη αξιοπρέπεια (άρθρο 1), τον σεβασμό της ιδιωτικής ζωής και την προστασία των δεδομένων προσωπικού χαρακτήρα (άρθρα 7 και 8), την απαγόρευση των διακρίσεων (άρθρο 21) και την ισότητα γυναικών και ανδρών (άρθρο 23). Σκοπός της είναι η πρόληψη τυχόν αποτρεπτικού αποτελέσματος σε σχέση με τα δικαιώματα της ελευθερίας της έκφρασης (άρθρο 11) και της ελευθερίας του συνέρχεσθαι (άρθρο 12), η διασφάλιση της προστασίας του δικαιώματος πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, των δικαιωμάτων της υπεράσπισης και του τεκμηρίου αθωότητας (άρθρα 47 και 48), καθώς και της γενικής αρχής της χρηστής διοίκησης. Επιπλέον, όπως θα εφαρμοστεί σε ορισμένους τομείς, η πρόταση θα επηρεάσει θετικά τα δικαιώματα ορισμένων ειδικών ομάδων, όπως τα δικαιώματα των εργαζομένων σε δίκαιες και πρόσφορες συνθήκες εργασίας (άρθρο 31), υψηλό επίπεδο προστασίας των καταναλωτών (άρθρο 28), τα δικαιώματα του παιδιού (άρθρο 24) και την ένταξη των ατόμων με αναπηρίες (άρθρο 26). Το δικαίωμα σε υψηλό επίπεδο προστασίας του περιβάλλοντος και η βελτίωση της ποιότητας του περιβάλλοντος (άρθρο 37) έχουν επίσης σημασία, μεταξύ άλλων και σε σχέση με την υγεία και την ασφάλεια των ανθρώπων. Οι υποχρεώσεις για εκ των προτέρων δοκιμές, διαχείριση κινδύνου και ανθρώπινη εποπτεία θα διευκολύνουν επίσης τον σεβασμό άλλων θεμελιωδών δικαιωμάτων, ελαχιστοποιώντας τον κίνδυνο εσφαλμένων ή μεροληπτικών αποφάσεων με τη βοήθεια ΤΝ σε κρίσιμους τομείς όπως η εκπαίδευση και η κατάρτιση, η απασχόληση, οι σημαντικές υπηρεσίες, η επιβολή του νόμου και η δικαιοσύνη. Σε περίπτωση που εξακολουθούν να υφίστανται παραβιάσεις των θεμελιωδών δικαιωμάτων, θα καταστεί δυνατή η αποτελεσματική προσφυγή για τα θιγόμενα πρόσωπα με τη διασφάλιση της διαφάνειας και της ιχνηλασιμότητας των συστημάτων ΤΝ σε συνδυασμό με αυστηρούς εκ των υστέρων ελέγχους.

Η παρούσα πρόταση επιβάλλει ορισμένους περιορισμούς στην επιχειρηματική ελευθερία (άρθρο 16) και στην ελευθερία της τέχνης και της επιστήμης (άρθρο 13) για τη διασφάλιση της συμμόρφωσης με επιτακτικούς λόγους δημόσιου συμφέροντος, όπως η υγεία, η ασφάλεια, η προστασία των καταναλωτών και η προστασία άλλων θεμελιωδών δικαιωμάτων («υπεύθυνη καινοτομία»), κατά την ανάπτυξη και τη χρήση τεχνολογίας ΤΝ υψηλού κινδύνου. Οι περιορισμοί αυτοί είναι αναλογικοί και περιορίζονται στο ελάχιστο αναγκαίο για την πρόληψη και τον μετριασμό των σοβαρών κινδύνων ασφάλειας και των πιθανών παραβιάσεων των θεμελιωδών δικαιωμάτων.

4.ΔΗΜΟΣΙΟΝΟΜΙΚΕΣ ΕΠΙΠΤΩΣΕΙΣ

Τα κράτη μέλη θα πρέπει να ορίσουν εποπτικές αρχές επιφορτισμένες με την εφαρμογή των νομοθετικών απαιτήσεων. Η εποπτική τους λειτουργία θα μπορούσε να βασιστεί σε υφιστάμενες ρυθμίσεις, για παράδειγμα όσον αφορά τους οργανισμούς αξιολόγησης της συμμόρφωσης ή την εποπτεία της αγοράς, αλλά θα απαιτούσε επαρκή τεχνολογική εμπειρογνωσία, καθώς και ανθρώπινους και οικονομικούς πόρους. Ανάλογα με την προϋπάρχουσα δομή σε κάθε κράτος μέλος, αυτό θα μπορούσε να ανέλθει σε 1 έως 25 ισοδύναμα πλήρους απασχόλησης ανά κράτος μέλος.

5.ΛΟΙΠΑ ΣΤΟΙΧΕΙΑ

5.1.Σχέδια εφαρμογής και ρυθμίσεις παρακολούθησης, αξιολόγησης και υποβολής εκθέσεων

Η πρόβλεψη ισχυρού μηχανισμού παρακολούθησης και αξιολόγησης είναι εξαιρετικά σημαντική προκειμένου να διασφαλιστεί ότι η πρόταση θα επιτύχει με αποτελεσματικό τρόπο τους ειδικούς στόχους της. Η Επιτροπή θα είναι επιφορτισμένη με την παρακολούθηση των αποτελεσμάτων της πρότασης. Θα δημιουργήσει ένα σύστημα για την καταχώριση αυτόνομων εφαρμογών ΤΝ υψηλού κινδύνου σε δημόσια βάση δεδομένων σε επίπεδο ΕΕ. Η καταχώριση αυτή θα παράσχει επίσης στις αρμόδιες αρχές, στους χρήστες και σε άλλους ενδιαφερόμενους τη δυνατότητα να επαληθεύουν αν το σύστημα ΤΝ υψηλού κινδύνου συμμορφώνεται με τις απαιτήσεις που προβλέπονται στην πρόταση και να ασκούν ενισχυμένη εποπτεία στα συστήματα ΤΝ που ενέχουν υψηλούς κινδύνους για τα θεμελιώδη δικαιώματα. Για να τροφοδοτούν αυτή τη βάση δεδομένων, οι πάροχοι ΤΝ θα είναι υποχρεωμένοι να παρέχουν ουσιαστικές πληροφορίες σχετικά με τα συστήματά τους και την αξιολόγηση της συμμόρφωσης που διενεργείται στα εν λόγω συστήματα.

Επιπλέον, οι πάροχοι ΤΝ θα είναι υποχρεωμένοι να ενημερώνουν τις αρμόδιες εθνικές αρχές για σοβαρά περιστατικά ή δυσλειτουργίες που συνιστούν παράβαση των υποχρεώσεων που απορρέουν από τα θεμελιώδη δικαιώματα μόλις λάβουν γνώση αυτών, καθώς και για τυχόν ανακλήσεις ή αποσύρσεις συστημάτων ΤΝ από την αγορά. Στη συνέχεια, οι εθνικές αρμόδιες αρχές θα διερευνούν τα συμβάντα ή τη δυσλειτουργία, θα συλλέγουν όλες τις απαραίτητες πληροφορίες και θα τις διαβιβάζουν τακτικά στην Επιτροπή με επαρκή μεταδεδομένα. Η Επιτροπή θα συμπληρώνει τις πληροφορίες αυτές σχετικά με τα περιστατικά με μια ολοκληρωμένη ανάλυση της συνολικής αγοράς ΤΝ.

Η Επιτροπή θα δημοσιεύσει έκθεση αξιολόγησης και επανεξέτασης του προτεινόμενου πλαισίου για την ΤΝ πέντε έτη μετά την ημερομηνία έναρξης εφαρμογής του.

5.2.Αναλυτική επεξήγηση των επιμέρους διατάξεων της πρότασης

5.2.1.ΠΕΔΙΟ ΕΦΑΡΜΟΓΗΣ ΚΑΙ ΟΡΙΣΜΟΙ (ΤΙΤΛΟΣ I)

Ο τίτλος Ι καθορίζει το αντικείμενο του κανονισμού και το πεδίο εφαρμογής των νέων κανόνων που καλύπτουν τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ. Περιλαμβάνει επίσης τους ορισμούς που χρησιμοποιούνται σε όλη την έκταση της πράξης. Ο ορισμός του συστήματος ΤΝ στο νομικό πλαίσιο έχει ως στόχο να είναι όσο το δυνατόν τεχνολογικά ουδέτερος και διαχρονικός, λαμβανομένων υπόψη των ραγδαίων τεχνολογικών εξελίξεων και των εξελίξεων της αγοράς που σχετίζονται με την ΤΝ. Προκειμένου να παρασχεθεί η αναγκαία ασφάλεια δικαίου, ο τίτλος Ι συμπληρώνεται από το παράρτημα Ι, το οποίο περιέχει λεπτομερή κατάλογο προσεγγίσεων και τεχνικών για την ανάπτυξη της ΤΝ, ο οποίος πρέπει να προσαρμοστεί από την Επιτροπή σύμφωνα με τις νέες τεχνολογικές εξελίξεις. Οι βασικοί συμμετέχοντες σε ολόκληρη την αξιακή αλυσίδα της ΤΝ ορίζονται επίσης με σαφήνεια, όπως οι πάροχοι και οι χρήστες συστημάτων ΤΝ που καλύπτουν τόσο τους δημόσιους όσο και τους ιδιωτικούς φορείς εκμετάλλευσης, ώστε να διασφαλίζονται ισότιμοι όροι ανταγωνισμού.

5.2.2.ΑΠΑΓΟΡΕΥΜΕΝΕΣ ΠΡΑΚΤΙΚΕΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ (ΤΙΤΛΟΣ II)

Ο τίτλος II περιλαμβάνει κατάλογο απαγορευμένων πρακτικών ΤΝ. Ο κανονισμός ακολουθεί μια προσέγγιση βάσει κινδύνου, στο πλαίσιο της οποίας γίνεται διάκριση μεταξύ των χρήσεων της ΤΝ που δημιουργούν i) μη αποδεκτό κίνδυνο, ii) υψηλό κίνδυνο και iii) χαμηλό ή ελάχιστο κίνδυνο. Ο κατάλογος απαγορευμένων πρακτικών στον τίτλο ΙΙ περιλαμβάνει όλα τα συστήματα ΤΝ των οποίων η χρήση θεωρείται μη αποδεκτή διότι αντιβαίνει στις αξίες της Ένωσης, για παράδειγμα παραβιάζοντας θεμελιώδη δικαιώματα. Οι απαγορεύσεις καλύπτουν πρακτικές που έχουν σημαντικές δυνατότητες χειραγώγησης προσώπων μέσω τεχνικών που απευθύνονται στο υποσυνείδητο υπερκεράζοντας το συνειδητό τους ή εκμεταλλεύονται τα τρωτά σημεία συγκεκριμένων ευάλωτων ομάδων, όπως τα παιδιά ή τα άτομα με αναπηρίες, προκειμένου να στρεβλώσουν ουσιωδώς τη συμπεριφορά τους κατά τρόπο που ενδέχεται να προκαλέσει στα άτομα αυτά ή σε άλλο πρόσωπο ψυχολογική ή σωματική βλάβη. Άλλες πρακτικές χειραγώγησης ή εκμετάλλευσης που επηρεάζουν ενήλικες και οι οποίες ενδέχεται να διευκολύνονται από συστήματα ΤΝ θα μπορούσαν να καλύπτονται από την ισχύουσα νομοθεσία για την προστασία των δεδομένων, την προστασία των καταναλωτών και τις ψηφιακές υπηρεσίες, η οποία εγγυάται ότι τα φυσικά πρόσωπα ενημερώνονται δεόντως και έχουν ελεύθερη επιλογή να μην υπόκεινται σε κατάρτιση προφίλ ή σε άλλες πρακτικές που ενδέχεται να επηρεάσουν τη συμπεριφορά τους. Η πρόταση απαγορεύει επίσης την κοινωνική βαθμολόγηση με βάση την ΤΝ για γενικούς σκοπούς από τις δημόσιες αρχές. Τέλος, απαγορεύεται επίσης η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, εκτός εάν ισχύουν ορισμένες περιορισμένες εξαιρέσεις.

5.2.3.ΣΥΣΤΗΜΑΤΑ ΤΝ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ (ΤΙΤΛΟΣ III)

Ο τίτλος III περιλαμβάνει ειδικούς κανόνες για τα συστήματα ΤΝ που προκαλούν υψηλό κίνδυνο για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα των φυσικών προσώπων. Σύμφωνα με μια προσέγγιση βάσει κινδύνου, τα εν λόγω συστήματα ΤΝ υψηλού κινδύνου επιτρέπονται στην ευρωπαϊκή αγορά με την επιφύλαξη της συμμόρφωσης με ορισμένες υποχρεωτικές απαιτήσεις και της εκ των προτέρων αξιολόγησης της συμμόρφωσης. Η ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου βασίζεται στον επιδιωκόμενο σκοπό του συστήματος ΤΝ, σύμφωνα με την ισχύουσα νομοθεσία για την ασφάλεια των προϊόντων. Συνεπώς, η ταξινόμηση ως υψηλού κινδύνου δεν εξαρτάται μόνον από τη λειτουργία που επιτελεί το σύστημα ΤΝ, αλλά και από τον συγκεκριμένο σκοπό και τις πρακτικές λεπτομέρειες για τις οποίες χρησιμοποιείται το εν λόγω σύστημα.

Στο κεφάλαιο 1 του τίτλου III καθορίζονται οι κανόνες ταξινόμησης και προσδιορίζονται δύο κύριες κατηγορίες συστημάτων ΤΝ υψηλού κινδύνου:

·συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας προϊόντων τα οποία υπόκεινται σε εκ των προτέρων αξιολόγηση της συμμόρφωσης από τρίτα μέρη·

·άλλα αυτόνομα συστήματα ΤΝ με επιπτώσεις κυρίως στα θεμελιώδη δικαιώματα, τα οποία αναφέρονται ρητά στο παράρτημα III.

Ο εν λόγω κατάλογος συστημάτων ΤΝ υψηλού κινδύνου στο παράρτημα III περιλαμβάνει περιορισμένο αριθμό συστημάτων ΤΝ των οποίων οι κίνδυνοι έχουν ήδη πραγματωθεί ή είναι πιθανό να πραγματωθούν στο εγγύς μέλλον. Προκειμένου να διασφαλιστεί ότι ο κανονισμός μπορεί να προσαρμοστεί στις αναδυόμενες χρήσεις και εφαρμογές της ΤΝ, η Επιτροπή μπορεί να επεκτείνει τον κατάλογο των συστημάτων ΤΝ υψηλού κινδύνου που χρησιμοποιούνται σε ορισμένους προκαθορισμένους τομείς, μέσω της εφαρμογής συνόλου κριτηρίων και μεθοδολογίας εκτίμησης κινδύνου.

Στο κεφάλαιο 2 καθορίζονται οι νομικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου σε σχέση με τα δεδομένα και τη διακυβέρνηση των δεδομένων, την τεκμηρίωση και την τήρηση αρχείων, τη διαφάνεια και την παροχή πληροφοριών στους χρήστες, την ανθρώπινη εποπτεία, τη στιβαρότητα, την ακρίβεια και την ασφάλεια. Οι προτεινόμενες ελάχιστες απαιτήσεις είναι ήδη προηγμένες για πολλούς επιμελείς φορείς εκμετάλλευσης και συνιστούν το αποτέλεσμα διετών προπαρασκευαστικών εργασιών, που προέκυψε από τις κατευθυντήριες γραμμές δεοντολογίας της ΟΕΥΕ 29 , οι οποίες εφαρμόζονται πιλοτικά από περισσότερους από 350 οργανισμούς 30 . Είναι επίσης σε μεγάλο βαθμό συνεπείς με άλλες διεθνείς συστάσεις και αρχές, γεγονός που διασφαλίζει ότι το προτεινόμενο πλαίσιο για την ΤΝ είναι συμβατό με εκείνο που εγκρίθηκε από τους διεθνείς εμπορικούς εταίρους της ΕΕ. Οι ακριβείς τεχνικές λύσεις για την επίτευξη της συμμόρφωσης με τις εν λόγω απαιτήσεις μπορούν να παρέχονται μέσω προτύπων ή μέσω άλλων τεχνικών προδιαγραφών ή να αναπτύσσονται με άλλον τρόπο σύμφωνα με γενικές τεχνικές ή επιστημονικές γνώσεις κατά τη διακριτική ευχέρεια του παρόχου του συστήματος ΤΝ. Η ευελιξία αυτή είναι ιδιαίτερα σημαντική, διότι επιτρέπει στους παρόχους συστημάτων ΤΝ να επιλέγουν τον τρόπο εκπλήρωσης των απαιτήσεών τους, λαμβανομένης υπόψη της τεχνολογικής και επιστημονικής προόδου στον εν λόγω τομέα.

Το κεφάλαιο 3 προβλέπει σαφές σύνολο οριζόντιων υποχρεώσεων για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου. Αναλογικές υποχρεώσεις επιβάλλονται επίσης στους χρήστες και σε άλλους συμμετέχοντες σε ολόκληρη την αξιακή αλυσίδα της ΤΝ (π.χ. εισαγωγείς, διανομείς, εξουσιοδοτημένους αντιπροσώπους).

Στο κεφάλαιο 4 καθορίζεται το πλαίσιο για τη συμμετοχή των κοινοποιημένων οργανισμών ως ανεξάρτητων τρίτων στις διαδικασίες αξιολόγησης της συμμόρφωσης, ενώ στο κεφάλαιο 5 εξηγούνται λεπτομερώς οι διαδικασίες αξιολόγησης της συμμόρφωσης που πρέπει να ακολουθούνται για κάθε τύπο συστήματος ΤΝ υψηλού κινδύνου. Η προσέγγιση αξιολόγησης της συμμόρφωσης αποσκοπεί στην ελαχιστοποίηση της επιβάρυνσης για τους οικονομικούς φορείς, καθώς και για τους κοινοποιημένους οργανισμούς, των οποίων η ικανότητα πρέπει να αυξάνεται σταδιακά με την πάροδο του χρόνου. Τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας προϊόντων, τα οποία ρυθμίζονται από τη νομοθεσία του νέου νομοθετικού πλαισίου (π.χ. μηχανήματα, παιχνίδια, ιατροτεχνολογικά προϊόντα κ.λπ.), θα υπόκεινται στους ίδιους εκ των προτέρων και εκ των υστέρων μηχανισμούς συμμόρφωσης και επιβολής στους οποίους υπόκεινται τα προϊόντα των οποίων αποτελούν κατασκευαστικό στοιχείο. Η βασική διαφορά είναι ότι οι μηχανισμοί εκ των προτέρων και εκ των υστέρων θα διασφαλίσουν τη συμμόρφωση όχι μόνο με τις απαιτήσεις που καθορίζονται στην τομεακή νομοθεσία, αλλά και με τις απαιτήσεις που θεσπίζονται με τον παρόντα κανονισμό.

Όσον αφορά τα αυτόνομα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III, θα θεσπιστεί νέο σύστημα συμμόρφωσης και επιβολής. Αυτό ακολουθεί το πρότυπο της νομοθεσίας του νέου νομοθετικού πλαισίου που εφαρμόζεται μέσω ελέγχων στο πλαίσιο του εσωτερικού ελέγχου από τους παρόχους, με εξαίρεση τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης που θα υπόκεινται σε αξιολόγηση της συμμόρφωσης από τρίτους. Η ολοκληρωμένη εκ των προτέρων αξιολόγηση της συμμόρφωσης μέσω εσωτερικών ελέγχων, σε συνδυασμό με την ισχυρή εκ των υστέρων επιβολή, θα μπορούσε να είναι αποτελεσματική και εύλογη λύση για τα εν λόγω συστήματα, δεδομένης της αρχικής φάσης της ρυθμιστικής παρέμβασης και δεδομένου του γεγονότος ότι ο τομέας της ΤΝ είναι πολύ καινοτόμος και η εμπειρογνωσία στον τομέα του ελέγχου μόλις τώρα αρχίζει να συσσωρεύεται. Η αξιολόγηση μέσω εσωτερικών ελέγχων για τα «αυτόνομα» συστήματα ΤΝ υψηλού κινδύνου θα απαιτούσε πλήρη, αποτελεσματική και δεόντως τεκμηριωμένη εκ των προτέρων συμμόρφωση με όλες τις απαιτήσεις του κανονισμού και συμμόρφωση με στιβαρά συστήματα ποιότητας και διαχείρισης κινδύνου, καθώς και παρακολούθηση μετά τη διάθεση στην αγορά. Μετά τη διενέργεια της σχετικής αξιολόγησης της συμμόρφωσης, ο πάροχος θα πρέπει να καταχωρίζει τα εν λόγω αυτόνομα συστήματα ΤΝ υψηλού κινδύνου σε βάση δεδομένων της ΕΕ την οποία θα διαχειρίζεται η Επιτροπή για να αυξήσει τη δημόσια διαφάνεια και εποπτεία και να ενισχύσει την εκ των υστέρων εποπτεία από τις αρμόδιες αρχές. Αντιθέτως, για λόγους συνέπειας με την ισχύουσα νομοθεσία για την ασφάλεια των προϊόντων, οι αξιολογήσεις της συμμόρφωσης των συστημάτων ΤΝ που αποτελούν κατασκευαστικά στοιχεία προϊόντων θα ακολουθούν σύστημα με διαδικασίες αξιολόγησης της συμμόρφωσης από τρίτους που έχουν ήδη καθιερωθεί στο πλαίσιο της σχετικής τομεακής νομοθεσίας για την ασφάλεια των προϊόντων. Θα απαιτούνται νέες εκ των προτέρων επαναξιολογήσεις της συμμόρφωσης σε περίπτωση ουσιαστικών τροποποιήσεων των συστημάτων ΤΝ (και κυρίως αλλαγών που υπερβαίνουν τα όσα προκαθορίζονται από τον πάροχο στην τεχνική του τεκμηρίωση και ελέγχονται κατά τη στιγμή της εκ των προτέρων αξιολόγησης της συμμόρφωσης).

5.2.4.ΥΠΟΧΡΕΩΣΕΙΣ ΔΙΑΦΑΝΕΙΑΣ ΓΙΑ ΟΡΙΣΜΕΝΑ ΣΥΣΤΗΜΑΤΑ ΤΝ (ΤΙΤΛΟΣ IV)

Ο τίτλος IV αφορά την απαίτηση να λαμβάνονται υπόψη οι ειδικοί κίνδυνοι χειραγώγησης τους οποίους ενέχουν ορισμένα συστήματα ΤΝ. Υποχρεώσεις διαφάνειας θα ισχύουν για τα συστήματα που i) αλληλεπιδρούν με ανθρώπους, ii) χρησιμοποιούνται για την ανίχνευση συναισθημάτων ή για τον προσδιορισμό της συσχέτισης με (κοινωνικές) κατηγορίες με βάση βιομετρικά δεδομένα, ή iii) παράγουν ή χειρίζονται περιεχόμενο («βαθιά ψευδές υλικό»). Όταν τα πρόσωπα αλληλεπιδρούν με ένα σύστημα ΤΝ ή τα συναισθήματα ή τα χαρακτηριστικά τους αναγνωρίζονται με αυτοματοποιημένα μέσα, τα άτομα πρέπει να ενημερώνονται για το γεγονός αυτό. Εάν ένα σύστημα ΤΝ χρησιμοποιείται για τη δημιουργία ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο που παρουσιάζει αισθητή ομοιότητα με αυθεντικό περιεχόμενο, θα πρέπει να υπάρχει υποχρέωση γνωστοποίησης ότι το περιεχόμενο παράγεται με αυτοματοποιημένα μέσα, με την επιφύλαξη εξαιρέσεων για νόμιμους σκοπούς (επιβολή του νόμου, ελευθερία της έκφρασης). Αυτό επιτρέπει στα άτομα να προβαίνουν σε τεκμηριωμένες επιλογές ή να υπαναχωρούν από μια δεδομένη κατάσταση.

5.2.5.ΜΕΤΡΑ ΓΙΑ ΤΗ ΣΤΗΡΙΞΗ ΤΗΣ ΚΑΙΝΟΤΟΜΙΑΣ (ΤΙΤΛΟΣ V)

Ο τίτλος V συμβάλλει στον στόχο της δημιουργίας ενός νομικού πλαισίου που να είναι φιλικό προς την καινοτομία, διαχρονικό και ανθεκτικό στις διαταραχές. Για τον σκοπό αυτόν, ενθαρρύνει τις εθνικές αρμόδιες αρχές να δημιουργήσουν ρυθμιστικά δοκιμαστήρια και καθορίζει ένα βασικό πλαίσιο όσον αφορά τη διακυβέρνηση, την εποπτεία και την ευθύνη. Τα ρυθμιστικά δοκιμαστήρια ΤΝ δημιουργούν ένα ελεγχόμενο περιβάλλον για τη δοκιμή καινοτόμων τεχνολογιών για περιορισμένο χρονικό διάστημα βάσει σχεδίου δοκιμών που έχει συμφωνηθεί με τις αρμόδιες αρχές. Ο τίτλος V περιλαμβάνει επίσης μέτρα για τη μείωση της κανονιστικής επιβάρυνσης για τις ΜΜΕ και τις νεοφυείς επιχειρήσεις.

5.2.6.ΔΙΑΚΥΒΕΡΝΗΣΗ ΚΑΙ ΕΦΑΡΜΟΓΗ (ΤΙΤΛΟΙ VI, VII ΚΑΙ VII)

Ο τίτλος VI θεσπίζει τα συστήματα διακυβέρνησης σε ενωσιακό και εθνικό επίπεδο. Σε επίπεδο Ένωσης, η πρόταση προβλέπει τη σύσταση Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης (στο εξής: συμβούλιο), το οποίο απαρτίζεται από εκπροσώπους των κρατών μελών και της Επιτροπής. Το συμβούλιο θα διευκολύνει την ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του παρόντος κανονισμού συμβάλλοντας στην αποτελεσματική συνεργασία των εθνικών εποπτικών αρχών και της Επιτροπής και παρέχοντας συμβουλές και εμπειρογνωσία στην Επιτροπή. Επίσης, θα διασφαλίζει τη συλλογή και ανταλλαγή βέλτιστων πρακτικών μεταξύ των κρατών μελών.

Σε εθνικό επίπεδο, τα κράτη μέλη θα πρέπει να ορίσουν μία ή περισσότερες εθνικές αρμόδιες αρχές και, μεταξύ αυτών, την εθνική εποπτική αρχή, για τους σκοπούς της εποπτείας της εφαρμογής και της εκτέλεσης του κανονισμού. Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων θα ενεργεί ως η αρμόδια αρχή για την εποπτεία των θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης όταν εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού.

Ο τίτλος VII αποσκοπεί στη διευκόλυνση του έργου παρακολούθησης της Επιτροπής και των εθνικών αρχών μέσω της δημιουργίας μιας πανευρωπαϊκής βάσης δεδομένων για αυτόνομα συστήματα ΤΝ υψηλού κινδύνου με επιπτώσεις κυρίως στα θεμελιώδη δικαιώματα. Η βάση δεδομένων θα τελεί υπό τη διαχείριση της Επιτροπής και θα λαμβάνει δεδομένα από τους παρόχους των συστημάτων ΤΝ, οι οποίοι θα υποχρεούνται να καταχωρίζουν τα συστήματά τους προτού τα διαθέσουν στην αγορά ή τα θέσουν σε λειτουργία με άλλον τρόπο.

Ο τίτλος VIII καθορίζει τις υποχρεώσεις παρακολούθησης και υποβολής εκθέσεων για τους παρόχους συστημάτων ΤΝ όσον αφορά την παρακολούθηση και την υποβολή εκθέσεων μετά τη διάθεση στην αγορά και τη διερεύνηση περιστατικών και δυσλειτουργιών που σχετίζονται με την ΤΝ. Οι αρχές εποπτείας της αγοράς θα ελέγχουν επίσης την αγορά και θα διερευνούν τη συμμόρφωση με τις υποχρεώσεις και τις απαιτήσεις για όλα τα συστήματα ΤΝ υψηλού κινδύνου που διατίθενται ήδη στην αγορά. Οι αρχές εποπτείας της αγοράς θα έχουν όλες τις εξουσίες βάσει του κανονισμού (ΕΕ) 2019/1020 για την εποπτεία της αγοράς. Η εκ των υστέρων επιβολή θα πρέπει να διασφαλίζει ότι, μετά τη διάθεση του συστήματος ΤΝ στην αγορά, οι δημόσιες αρχές διαθέτουν τις εξουσίες και τους πόρους για να παρεμβαίνουν σε περίπτωση που τα συστήματα ΤΝ δημιουργούν απροσδόκητους κινδύνους, οι οποίοι απαιτούν ταχεία δράση. Θα παρακολουθούν επίσης τη συμμόρφωση των φορέων εκμετάλλευσης με τις σχετικές υποχρεώσεις τους βάσει του κανονισμού. Η πρόταση δεν προβλέπει την αυτόματη δημιουργία πρόσθετων οργανισμών ή αρχών σε επίπεδο κρατών μελών. Ως εκ τούτου, τα κράτη μέλη μπορούν να διορίζουν υφιστάμενες τομεακές αρχές (και να αξιοποιούν την εμπειρογνωσία τους), στις οποίες θα ανατεθούν επίσης οι εξουσίες παρακολούθησης και επιβολής των διατάξεων του κανονισμού.

Όλα αυτά ισχύουν με την επιφύλαξη του υφιστάμενου συστήματος και της κατανομής αρμοδιοτήτων για την εκ των υστέρων επιβολή υποχρεώσεων όσον αφορά τα θεμελιώδη δικαιώματα στα κράτη μέλη. Όταν είναι αναγκαίο για τους σκοπούς της εντολής τους, οι υφιστάμενες αρχές εποπτείας και επιβολής θα έχουν επίσης την εξουσία να ζητούν και να έχουν πρόσβαση σε όλα τα έγγραφα που τηρούνται σύμφωνα με τον παρόντα κανονισμό και, όπου απαιτείται, να ζητούν από τις αρχές εποπτείας της αγοράς να οργανώνουν δοκιμές του συστήματος ΤΝ υψηλού κινδύνου με τεχνικά μέσα.

5.2.7.ΚΩΔΙΚΕΣ ΔΕΟΝΤΟΛΟΓΙΑΣ (ΤΙΤΛΟΣ IX)

Ο τίτλος IX διαμορφώνει ένα πλαίσιο για τη δημιουργία κωδίκων δεοντολογίας, οι οποίοι αποσκοπούν στην ενθάρρυνση των παρόχων συστημάτων ΤΝ μη υψηλού κινδύνου να εφαρμόζουν εθελοντικά τις υποχρεωτικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου (όπως ορίζονται στον τίτλο III). Οι πάροχοι συστημάτων ΤΝ μη υψηλού κινδύνου μπορούν να δημιουργούν και να εφαρμόζουν οι ίδιοι τους κώδικες δεοντολογίας. Οι κώδικες αυτοί μπορούν επίσης να περιλαμβάνουν εθελοντικές δεσμεύσεις που σχετίζονται, για παράδειγμα, με την περιβαλλοντική βιωσιμότητα, την προσβασιμότητα για τα άτομα με αναπηρία, τη συμμετοχή των ενδιαφερόμενων μερών στον σχεδιασμό και στην ανάπτυξη συστημάτων ΤΝ, καθώς και την ποικιλομορφία των ομάδων ανάπτυξης.

5.2.8.ΤΕΛΙΚΕΣ ΔΙΑΤΑΞΕΙΣ (ΤΙΤΛΟΙ X, XI ΚΑΙ XII)

Ο τίτλος Χ τονίζει την υποχρέωση όλων των μερών να σέβονται την εμπιστευτικότητα των πληροφοριών και των δεδομένων και θεσπίζει κανόνες για την ανταλλαγή πληροφοριών που λαμβάνονται κατά την εφαρμογή του κανονισμού. Ο τίτλος X περιλαμβάνει επίσης μέτρα για τη διασφάλιση της αποτελεσματικής εφαρμογής του κανονισμού μέσω αποτελεσματικών, αναλογικών και αποτρεπτικών κυρώσεων για παραβάσεις των διατάξεων.

Ο τίτλος XI θεσπίζει κανόνες για την άσκηση των εξουσιών έκδοσης κατ’ εξουσιοδότηση και εκτελεστικών πράξεων. Η πρόταση εξουσιοδοτεί την Επιτροπή να εκδίδει, κατά περίπτωση, εκτελεστικές πράξεις για τη διασφάλιση της ομοιόμορφης εφαρμογής του κανονισμού ή κατ’ εξουσιοδότηση πράξεις για την επικαιροποίηση ή τη συμπλήρωση των καταλόγων των παραρτημάτων I έως VII.

Ο τίτλος XII περιλαμβάνει την υποχρέωση της Επιτροπής να αξιολογεί τακτικά την ανάγκη επικαιροποίησης του παραρτήματος ΙΙΙ και να εκπονεί τακτικές εκθέσεις σχετικά με την αξιολόγηση και την επανεξέταση του κανονισμού. Θεσπίζει επίσης τελικές διατάξεις, συμπεριλαμβανομένης μιας διαφοροποιημένης μεταβατικής περιόδου για την αρχική ημερομηνία εφαρμογής του κανονισμού, ώστε να διευκολύνεται η ομαλή εφαρμογή του για όλα τα ενδιαφερόμενα μέρη.

2021/0106 (COD)

Πρόταση

ΚΑΝΟΝΙΣΜΟΣ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ

ΓΙΑ ΤΗ ΘΕΣΠΙΣΗ ΕΝΑΡΜΟΝΙΣΜΕΝΩΝ ΚΑΝΟΝΩΝ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ (ΠΡΑΞΗ ΓΙΑ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ) ΚΑΙ ΓΙΑ ΤΗΝ ΤΡΟΠΟΠΟΙΗΣΗ ΟΡΙΣΜΕΝΩΝ ΝΟΜΟΘΕΤΙΚΩΝ ΠΡΑΞΕΩΝ ΤΗΣ ΕΝΩΣΗΣ

ΤΟ ΕΥΡΩΠΑΪΚΟ ΚΟΙΝΟΒΟΥΛΙΟ ΚΑΙ ΤΟ ΣΥΜΒΟΥΛΙΟ ΤΗΣ ΕΥΡΩΠΑΪΚΗΣ ΕΝΩΣΗΣ,

Έχοντας υπόψη τη Συνθήκη για τη λειτουργία της Ευρωπαϊκής Ένωσης και ιδίως τα άρθρα 16 και 114,

Έχοντας υπόψη την πρόταση της Ευρωπαϊκής Επιτροπής,

Κατόπιν διαβίβασης του σχεδίου νομοθετικής πράξης στα εθνικά κοινοβούλια,

Έχοντας υπόψη τη γνώμη της Ευρωπαϊκής Οικονομικής και Κοινωνικής Επιτροπής 31 ,

Έχοντας υπόψη τη γνώμη της Επιτροπής των Περιφερειών 32 ,

Αποφασίζοντας σύμφωνα με τη συνήθη νομοθετική διαδικασία,

Εκτιμώντας τα ακόλουθα:

(1)Σκοπός του παρόντος κανονισμού είναι η βελτίωση της λειτουργίας της εσωτερικής αγοράς με τη θέσπιση ενιαίου νομικού πλαισίου, ιδίως για την ανάπτυξη, την εμπορία και τη χρήση της τεχνητής νοημοσύνης σύμφωνα με τις αξίες της Ένωσης. Ο παρών κανονισμός επιδιώκει ορισμένους σκοπούς υπέρτερου δημόσιου συμφέροντος, όπως υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων, και διασφαλίζει την ελεύθερη κυκλοφορία των αγαθών και υπηρεσιών που βασίζονται στην ΤΝ σε διασυνοριακό επίπεδο, εμποδίζοντας, κατ’ αυτόν τον τρόπο, τα κράτη μέλη να επιβάλλουν περιορισμούς στην ανάπτυξη, την εμπορία και τη χρήση συστημάτων ΤΝ, εκτός εάν αυτό επιτρέπεται ρητά από τον παρόντα κανονισμό.

(2)Τα συστήματα τεχνητής νοημοσύνης (συστήματα ΤΝ) μπορούν εύκολα να χρησιμοποιηθούν σε πολλούς τομείς της οικονομίας και της κοινωνίας, μεταξύ άλλων και σε διασυνοριακό επίπεδο, και να κυκλοφορούν σε ολόκληρη την Ένωση. Ορισμένα κράτη μέλη έχουν ήδη διερευνήσει τη θέσπιση εθνικών κανόνων για να διασφαλίσουν ότι η τεχνητή νοημοσύνη είναι ασφαλής και αναπτύσσεται και χρησιμοποιείται σύμφωνα με τις υποχρεώσεις που απορρέουν από τα θεμελιώδη δικαιώματα. Η ύπαρξη διαφορετικών εθνικών κανόνων μπορεί να οδηγήσει σε κατακερματισμό της εσωτερικής αγοράς και να μειώσει την ασφάλεια δικαίου για τους φορείς εκμετάλλευσης που αναπτύσσουν ή χρησιμοποιούν συστήματα ΤΝ. Ως εκ τούτου, θα πρέπει να διασφαλιστεί ένα συνεκτικό και υψηλό επίπεδο προστασίας σε ολόκληρη την Ένωση, ενώ θα πρέπει να αποτρέπονται οι αποκλίσεις που εμποδίζουν την ελεύθερη κυκλοφορία των συστημάτων ΤΝ και των συναφών προϊόντων και υπηρεσιών εντός της εσωτερικής αγοράς, με τον καθορισμό ενιαίων υποχρεώσεων για τους φορείς εκμετάλλευσης και με τη διασφάλιση της ενιαίας προστασίας του υπέρτερου δημόσιου συμφέροντος και των δικαιωμάτων των προσώπων σε ολόκληρη την εσωτερική αγορά βάσει του άρθρου 114 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης (ΣΛΕΕ). Στον βαθμό που ο παρών κανονισμός περιέχει ειδικούς κανόνες για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα αναφορικά με περιορισμούς στη χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, είναι σκόπιμο ο παρών κανονισμός να βασιστεί, όσον αφορά αυτούς τους ειδικούς κανόνες, στο άρθρο 16 της ΣΛΕΕ. Λαμβανομένων υπόψη των εν λόγω ειδικών κανόνων και της επίκλησης του άρθρου 16 της ΣΛΕΕ, είναι σκόπιμο να ζητηθεί η γνώμη του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων.

(3)Η τεχνητή νοημοσύνη είναι ένα ταχέως εξελισσόμενο σύνολο τεχνολογιών που μπορούν να συμβάλλουν στην επίτευξη ευρείας κλίμακας οικονομικών και κοινωνικών οφελών σε ολόκληρο το φάσμα των κλάδων και των κοινωνικών δραστηριοτήτων. Μέσω της βελτίωσης της πρόβλεψης, της βελτιστοποίησης των δραστηριοτήτων και της κατανομής των πόρων, καθώς και της εξατομίκευσης των ψηφιακών λύσεων που διατίθενται σε ιδιώτες και οργανισμούς, η χρήση της τεχνητής νοημοσύνης μπορεί να παράσχει βασικά ανταγωνιστικά πλεονεκτήματα στις εταιρείες και να στηρίξει κοινωνικά και περιβαλλοντικά επωφελή αποτελέσματα, για παράδειγμα στους τομείς της υγειονομικής περίθαλψης, της γεωργίας, της εκπαίδευσης και κατάρτισης, της διαχείρισης υποδομών, της ενέργειας, των μεταφορών και της εφοδιαστικής, των δημόσιων υπηρεσιών, της ασφάλειας, της δικαιοσύνης, της αποδοτικότητας των πόρων και της ενεργειακής απόδοσης, και του μετριασμού της κλιματικής αλλαγής και της προσαρμογής σε αυτήν.

(4)Ταυτόχρονα, ανάλογα με τις περιστάσεις που αφορούν τη συγκεκριμένη εφαρμογή και χρήση της, η τεχνητή νοημοσύνη μπορεί να δημιουργήσει κινδύνους και να αποβεί επιζήμια για τα δημόσια συμφέροντα και τα δικαιώματα που προστατεύονται από το δίκαιο της Ένωσης. Η ζημία αυτή μπορεί να είναι υλική ή άυλη.

(5)Ως εκ τούτου, για την προώθηση της ανάπτυξης, της χρήσης και της αποδοχής της τεχνητής νοημοσύνης στην εσωτερική αγορά, είναι αναγκαίο ένα ενωσιακό νομικό πλαίσιο το οποίο θεσπίζει εναρμονισμένους κανόνες σχετικά με την τεχνητή νοημοσύνη και που ανταποκρίνεται, ταυτόχρονα, σε υψηλό επίπεδο προστασίας των δημόσιων συμφερόντων, όπως η υγεία και η ασφάλεια και η προστασία των θεμελιωδών δικαιωμάτων, όπως αυτά αναγνωρίζονται και προστατεύονται από το δίκαιο της Ένωσης. Για την επίτευξη του στόχου αυτού, θα πρέπει να θεσπιστούν κανόνες που να ρυθμίζουν τη διάθεση στην αγορά και τη θέση σε λειτουργία ορισμένων συστημάτων ΤΝ, διασφαλίζοντας, κατ’ αυτόν τον τρόπο, την ομαλή λειτουργία της εσωτερικής αγοράς και παρέχοντας στα συστήματα αυτά τη δυνατότητα να επωφελούνται από την αρχή της ελεύθερης κυκλοφορίας των εμπορευμάτων και των υπηρεσιών. Με τη θέσπιση των κανόνων αυτών, o παρών κανονισμός στηρίζει τον στόχο της Ένωσης να αναλάβει ηγετικό ρόλο παγκοσμίως στην ανάπτυξη ασφαλούς, αξιόπιστης και δεοντολογικής τεχνητής νοημοσύνης, όπως δήλωσε το Ευρωπαϊκό Συμβούλιο 33 , και διασφαλίζει την προστασία των δεοντολογικών αρχών, όπως είχε ζητηθεί ειδικά από το Ευρωπαϊκό Κοινοβούλιο 34 .

(6)Η έννοια του συστήματος ΤΝ θα πρέπει να οριστεί με σαφήνεια, για λόγους ασφάλειας δικαίου, και για να διασφαλιστεί, παράλληλα, ευελιξία για την προσαρμογή στις μελλοντικές τεχνολογικές εξελίξεις. Ο ορισμός θα πρέπει να βασίζεται στα βασικά λειτουργικά χαρακτηριστικά του λογισμικού, ειδικότερα στην ικανότητα ενός δεδομένου συνόλου στόχων καθορισμένων από τον άνθρωπο, να παράγει στοιχεία εξόδου όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν το περιβάλλον με το οποίο αλληλεπιδρά το σύστημα, είτε σε υλική είτε σε ψηφιακή διάσταση. Τα συστήματα ΤΝ μπορούν να σχεδιάζονται ώστε να λειτουργούν με διαφορετικά επίπεδα αυτονομίας και να χρησιμοποιούνται σε αυτόνομη βάση ή ως κατασκευαστικό στοιχείο προϊόντος, ανεξάρτητα από το αν το σύστημα έχει ενσωματωθεί φυσικά στο προϊόν (ενσωματωμένο σύστημα) ή εξυπηρετεί τη λειτουργικότητα του προϊόντος χωρίς να έχει ενσωματωθεί σε αυτό (μη ενσωματωμένο σύστημα). Ο ορισμός του συστήματος ΤΝ θα πρέπει να συμπληρωθεί από κατάλογο ειδικών τεχνικών και προσεγγίσεων που χρησιμοποιούνται για την ανάπτυξή του, ο οποίος θα πρέπει να επικαιροποιείται με βάση τις εξελίξεις της αγοράς και της τεχνολογίας, μέσω της έκδοσης κατ’ εξουσιοδότηση πράξεων από την Επιτροπή για την τροποποίησή του.

(7)Η έννοια των βιομετρικών δεδομένων η οποία χρησιμοποιείται στον παρόντα κανονισμό συνάδει και θα πρέπει να ερμηνεύεται σύμφωνα με την έννοια των βιομετρικών δεδομένων, όπως αυτά ορίζονται στο άρθρο 4 σημείο 14) του κανονισμού (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 35 , στο άρθρο 3 σημείο 18) του κανονισμού (ΕΕ) 2018/1725 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 36 και στο άρθρο 3 σημείο 13) της οδηγίας (ΕΕ) 2016/680 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 37 .

(8)Η έννοια του συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης, όπως χρησιμοποιείται στον παρόντα κανονισμό, θα πρέπει να οριστεί λειτουργικά ως σύστημα ΤΝ που προορίζεται για την εξ αποστάσεως ταυτοποίηση φυσικών προσώπων μέσω της αντιπαραβολής των βιομετρικών δεδομένων του προσώπου με τα βιομετρικά δεδομένα που περιέχονται σε βάση δεδομένων αναφοράς και χωρίς να είναι γνωστό εκ των προτέρων το αν το στοχευόμενο πρόσωπο θα είναι παρόν και αν μπορεί να ταυτοποιηθεί, ανεξάρτητα από τη συγκεκριμένη τεχνολογία, τις διαδικασίες ή τους τύπους βιομετρικών δεδομένων που χρησιμοποιούνται. Λαμβανομένων υπόψη των διαφορετικών χαρακτηριστικών και τρόπων με τους οποίους χρησιμοποιούνται, καθώς και των διαφορετικών κινδύνων που ενέχουν, θα πρέπει να γίνει διάκριση μεταξύ συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε «πραγματικό χρόνο» και «σε ύστερο χρόνο». Στην περίπτωση των συστημάτων ταυτοποίησης σε «πραγματικό χρόνο», η λήψη των βιομετρικών δεδομένων, η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται αμέσως, σχεδόν αμέσως ή, σε κάθε περίπτωση, χωρίς σημαντική καθυστέρηση. Στο πλαίσιο αυτό, με την πρόβλεψη μικρών καθυστερήσεων, αναμένεται ότι δεν θα υπάρξει περιθώριο καταστρατήγησης των κανόνων του παρόντος κανονισμού σχετικά με τη χρήση «σε πραγματικό χρόνο» των συστημάτων ΤΝ. Τα συστήματα ταυτοποίησης «σε πραγματικό χρόνο» περιλαμβάνουν τη χρήση υλικού σε «ζωντανή μετάδοση» ή «σχεδόν ζωντανή μετάδοση», όπως βίντεο που δημιουργείται μέσω κάμερας ή άλλης συσκευής με παρόμοια λειτουργία. Αντιθέτως, στην περίπτωση των συστημάτων ταυτοποίησης «σε ύστερο χρόνο», τα βιομετρικά δεδομένα έχουν ήδη ληφθεί και η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται μόνο μετά από σημαντική καθυστέρηση. Πρόκειται για υλικό, όπως φωτογραφίες ή βίντεο που δημιουργούνται από κάμερες συστημάτων τηλεόρασης κλειστού κυκλώματος ή ιδιωτικές συσκευές, και τα οποία είχαν δημιουργηθεί πριν χρησιμοποιηθεί το σύστημα για τα συγκεκριμένα φυσικά πρόσωπα.

(9)Για τους σκοπούς του παρόντος κανονισμού, η έννοια του δημόσια προσβάσιμου χώρου θα πρέπει να θεωρείται ότι αφορά κάθε φυσικό χώρο προσβάσιμο στο κοινό, ανεξάρτητα από το αν ο εν λόγω χώρος είναι ιδιωτικός ή δημόσιος. Ως εκ τούτου, η έννοια δεν καλύπτει χώρους ιδιωτικού χαρακτήρα οι οποίοι κατά κανόνα δεν είναι ελεύθερα προσβάσιμοι σε τρίτους, συμπεριλαμβανομένων των αρχών επιβολής του νόμου, εκτός αν οι τρίτοι έχουν προσκληθεί ή εξουσιοδοτηθεί ειδικά· παραδείγματα τέτοιων χώρων είναι οι οικίες, οι ιδιωτικές λέσχες, τα γραφεία, οι αποθήκες και τα εργοστάσια. Επίσης, δεν καλύπτονται οι επιγραμμικοί χώροι, καθώς δεν είναι φυσικοί χώροι. Ωστόσο, το γεγονός και μόνον ότι η πρόσβαση σε συγκεκριμένο χώρο μπορεί να υπόκειται σε ορισμένες προϋποθέσεις, όπως εισιτήρια εισόδου ή περιορισμοί ηλικίας, δεν σημαίνει ότι ο χώρος δεν είναι δημόσια προσβάσιμος κατά την έννοια του παρόντος κανονισμού. Συνεπώς, πέραν των δημόσιων χώρων, όπως είναι οι δρόμοι, τα σχετικά τμήματα των κρατικών κτιρίων και οι περισσότερες υποδομές μεταφορών, δημόσια προσβάσιμοι είναι, κατά κανόνα, και χώροι όπως κινηματογράφοι, θέατρα, καταστήματα και εμπορικά κέντρα. Ωστόσο, το αν ένας συγκεκριμένος χώρος είναι προσβάσιμος στο κοινό θα πρέπει να καθορίζεται κατά περίπτωση, λαμβανομένων υπόψη των ιδιαιτεροτήτων της εκάστοτε εξεταζόμενης κατάστασης.

(10)Προκειμένου να διασφαλιστούν ισότιμοι όροι ανταγωνισμού και αποτελεσματική προστασία των δικαιωμάτων και των ελευθεριών των ατόμων σε ολόκληρη την Ένωση, οι κανόνες που θεσπίζονται με τον παρόντα κανονισμό θα πρέπει να εφαρμόζονται στους παρόχους συστημάτων ΤΝ χωρίς διακρίσεις, ανεξάρτητα από το αν είναι εγκατεστημένοι εντός της Ένωσης ή σε τρίτη χώρα, καθώς και στους χρήστες συστημάτων ΤΝ που είναι εγκατεστημένοι εντός της Ένωσης.

(11)Δεδομένου του ψηφιακού τους χαρακτήρα, ορισμένα συστήματα ΤΝ θα πρέπει να εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού, ακόμη και σε περίπτωση που δεν διατίθενται στην αγορά, ούτε τίθενται σε λειτουργία, ούτε χρησιμοποιούνται στην Ένωση. Αυτό ισχύει, για παράδειγμα, στην περίπτωση φορέα εκμετάλλευσης που είναι εγκατεστημένος στην Ένωση και αναθέτει ορισμένες υπηρεσίες σε φορέα εκμετάλλευσης που είναι εγκατεστημένος εκτός της Ένωσης σε σχέση με δραστηριότητα που πρόκειται να εκτελεστεί από σύστημα ΤΝ το οποίο χαρακτηρίζεται υψηλού κινδύνου και έχει επιπτώσεις σε φυσικά πρόσωπα που βρίσκονται στην Ένωση. Στις περιπτώσεις αυτές, το σύστημα ΤΝ που χρησιμοποιείται από τον φορέα εκμετάλλευσης εκτός της Ένωσης θα μπορούσε να επεξεργάζεται δεδομένα που έχουν συλλεχθεί και διαβιβαστεί νομίμως από την Ένωση, και τα στοιχεία εξόδου του συστήματος ΤΝ που προκύπτουν από την εν λόγω επεξεργασία να παρέχονται στον αναθέτοντα φορέα στην Ένωση, χωρίς το εν λόγω σύστημα ΤΝ να έχει διατεθεί στην αγορά, να έχει τεθεί σε λειτουργία ή να χρησιμοποιείται στην Ένωση. Για να αποφευχθεί η καταστρατήγηση του παρόντος κανονισμού και να διασφαλιστεί η αποτελεσματική προστασία των φυσικών προσώπων που βρίσκονται στην Ένωση, ο παρών κανονισμός θα πρέπει να εφαρμόζεται και στους παρόχους και τους χρήστες των συστημάτων ΤΝ που είναι εγκατεστημένοι σε τρίτη χώρα, στον βαθμό που τα στοιχεία εξόδου που παράγονται από τα εν λόγω συστήματα χρησιμοποιούνται στην Ένωση. Ωστόσο, προκειμένου να ληφθούν υπόψη οι υφιστάμενες ρυθμίσεις και οι ειδικές ανάγκες για συνεργασία με αλλοδαπούς εταίρους με τους οποίους ανταλλάσσονται πληροφορίες και αποδεικτικά στοιχεία, ο παρών κανονισμός δεν θα πρέπει να εφαρμόζεται σε δημόσιες αρχές τρίτης χώρας και σε διεθνείς οργανισμούς όταν ενεργούν στο πλαίσιο διεθνών συμφωνιών που συνάπτονται σε εθνικό ή ευρωπαϊκό επίπεδο για σκοπούς επιβολής του νόμου και δικαστικής συνεργασίας με την Ένωση ή με τα κράτη μέλη της. Συμφωνίες αυτού του είδους έχουν συναφθεί σε διμερές επίπεδο μεταξύ κρατών μελών και τρίτων χωρών ή μεταξύ της Ευρωπαϊκής Ένωσης, της Ευρωπόλ και άλλων οργανισμών της ΕΕ και τρίτων χωρών ή διεθνών οργανισμών.

(12)Ο παρών κανονισμός θα πρέπει επίσης να εφαρμόζεται στα θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης όταν ενεργούν ως πάροχοι ή χρήστες συστήματος ΤΝ. Τα συστήματα ΤΝ που αναπτύσσονται ή χρησιμοποιούνται αποκλειστικά για στρατιωτικούς σκοπούς θα πρέπει να εξαιρεθούν από το πεδίο εφαρμογής του παρόντος κανονισμού, όταν η εν λόγω χρήση εμπίπτει αποκλειστικά στο πεδίο της Κοινής Εξωτερικής Πολιτικής και Πολιτικής Ασφάλειας που διέπεται από τον Τίτλο V της Συνθήκης για την Ευρωπαϊκή Ένωση (ΣΕΕ). Ο παρών κανονισμός δεν θα πρέπει να θίγει τις διατάξεις σχετικά με την ευθύνη των μεσαζόντων παροχής υπηρεσιών που ορίζονται στην οδηγία 2000/31/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [όπως τροποποιήθηκε με την πράξη για τις ψηφιακές υπηρεσίες].

(13)Προκειμένου να διασφαλιστεί ένα συνεκτικό και υψηλό επίπεδο προστασίας των δημόσιων συμφερόντων όσον αφορά την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα, θα πρέπει να θεσπιστούν κοινά κανονιστικά πρότυπα για όλα τα συστήματα ΤΝ υψηλού κινδύνου. Τα πρότυπα αυτά θα πρέπει να συνάδουν με τον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης (ο Χάρτης), να μην εισάγουν διακρίσεις και να είναι σύμφωνα με τις διεθνείς εμπορικές δεσμεύσεις της ΕΕ.

(14)Προκειμένου να θεσπιστεί ένα αναλογικό και αποτελεσματικό σύνολο δεσμευτικών κανόνων για τα συστήματα ΤΝ, θα πρέπει να ακολουθηθεί μια σαφώς καθορισμένη προσέγγιση βάσει κινδύνου. Μέσω αυτής της προσέγγισης, το είδος και το περιεχόμενο των εν λόγω κανόνων αναμένεται να προσαρμοστούν στην ένταση και την έκταση των κινδύνων που μπορούν να δημιουργήσουν τα συστήματα ΤΝ. Ως εκ τούτου, είναι αναγκαίο να απαγορευτούν ορισμένες πρακτικές τεχνητής νοημοσύνης, και να καθοριστούν απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου, υποχρεώσεις για τους σχετικούς φορείς εκμετάλλευσης, καθώς και υποχρεώσεις διαφάνειας για ορισμένα συστήματα ΤΝ.

(15)Πέρα από τις πολλές επωφελείς χρήσεις της, η τεχνολογία τεχνητής νοημοσύνης μπορεί επίσης να χρησιμοποιηθεί καταχρηστικά και να παράσχει νέα και ισχυρά εργαλεία για πρακτικές χειραγώγησης, εκμετάλλευσης και κοινωνικού ελέγχου. Οι πρακτικές αυτές είναι ιδιαίτερα επιβλαβείς και θα πρέπει να απαγορευτούν διότι έρχονται σε αντίθεση με τις ενωσιακές αξίες του σεβασμού της ανθρώπινης αξιοπρέπειας, της ελευθερίας, της ισότητας, της δημοκρατίας και του κράτους δικαίου, καθώς και με τα θεμελιώδη δικαιώματα της Ένωσης, συμπεριλαμβανομένου του δικαιώματος στη μη διακριτική μεταχείριση, στην προστασία των δεδομένων και της ιδιωτικότητας, καθώς και στα δικαιώματα του παιδιού.

(16)Θα πρέπει να απαγορευτεί η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση ορισμένων συστημάτων ΤΝ που αποσκοπούν στη στρέβλωση της ανθρώπινης συμπεριφοράς, με την οποία είναι πιθανόν να προκληθούν σωματικές ή ψυχολογικές βλάβες. Αυτά τα συστήματα ΤΝ χρησιμοποιούν κατασκευαστικά στοιχεία που απευθύνονται στο υποσυνείδητο και τα οποία τα άτομα δεν μπορούν να αντιληφθούν, ή εκμεταλλεύονται ευάλωτα χαρακτηριστικά παιδιών και ανθρώπων λόγω της ηλικίας τους ή λόγω της σωματικής ή της διανοητικής ανικανότητάς τους. Αυτό έχει ως στόχο να στρεβλωθεί ουσιωδώς η συμπεριφορά ενός προσώπου, κατά τρόπο που προκαλεί ή είναι πιθανό να προκαλέσει βλάβη σε αυτό ή σε άλλο πρόσωπο. Δεν μπορεί να θεωρηθεί ότι υπάρχει τέτοια πρόθεση εάν η στρέβλωση της ανθρώπινης συμπεριφοράς οφείλεται σε εξωτερικούς παράγοντες του συστήματος ΤΝ οι οποίοι είναι εκτός του ελέγχου του παρόχου ή του χρήστη. Η απαγόρευση δεν θα πρέπει να παρεμποδίζει την έρευνα που διεξάγεται για νόμιμους σκοπούς σε σχέση με τα εν λόγω συστήματα ΤΝ, εάν η εν λόγω έρευνα δεν ισοδυναμεί με χρήση του συστήματος ΤΝ σε σχέσεις ανθρώπου-μηχανής η οποία εκθέτει φυσικά πρόσωπα σε επιζήμιους παράγοντες, και η εν λόγω έρευνα διεξάγεται σύμφωνα με αναγνωρισμένα πρότυπα δεοντολογίας για την επιστημονική έρευνα.

(17)Τα συστήματα ΤΝ που παρέχουν κοινωνική βαθμολόγηση των φυσικών προσώπων για γενική χρήση από τις δημόσιες αρχές ή για λογαριασμό τους μπορεί να οδηγήσουν σε διακρίσεις και στον αποκλεισμό ορισμένων ομάδων. Ενδέχεται να παραβιάζουν το δικαίωμα στην αξιοπρέπεια και στη μη διακριτική μεταχείριση, καθώς και τις αξίες της ισότητας και της δικαιοσύνης. Αυτά τα συστήματα ΤΝ αξιολογούν ή ταξινομούν την αξιοπιστία των φυσικών προσώπων με βάση την κοινωνική τους συμπεριφορά σε πολλαπλά πλαίσια ή με βάση τα γνωστά ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους. Η κοινωνική βαθμολόγηση που λαμβάνεται από τα εν λόγω συστήματα ΤΝ μπορεί να οδηγήσει σε δυσμενή μεταχείριση φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων σε κοινωνικά πλαίσια, τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο παρήχθησαν ή συλλέχθηκαν αρχικά τα δεδομένα ή σε δυσμενή μεταχείριση η οποία είναι δυσανάλογη ή αδικαιολόγητη σε σχέση με τη σοβαρότητα της κοινωνικής συμπεριφοράς τους. Ως εκ τούτου, αυτά τα συστήματα ΤΝ θα πρέπει να απαγορευτούν.

(18)Η χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θεωρείται ιδιαιτέρως παρεμβατική όσον αφορά τα δικαιώματα και τις ελευθερίες των εν λόγω προσώπων, στον βαθμό που μπορεί να επηρεάσει την ιδιωτική ζωή μεγάλου τμήματος του πληθυσμού, να δημιουργήσει την αίσθηση συνεχούς παρακολούθησης και να αποθαρρύνει έμμεσα την άσκηση της ελευθερίας του συνέρχεσθαι και άλλων θεμελιωδών δικαιωμάτων. Επιπλέον, η αμεσότητα των επιπτώσεων και οι περιορισμένες δυνατότητες για τη διενέργεια περαιτέρω ελέγχων ή διορθώσεων σε σχέση με τη χρήση τέτοιων συστημάτων που λειτουργούν σε «πραγματικό χρόνο» ενέχουν αυξημένους κινδύνους για τα δικαιώματα και τις ελευθερίες των προσώπων τα οποία αφορούν οι δραστηριότητες επιβολής του νόμου.

(19)Η χρήση των συστημάτων αυτών για σκοπούς επιβολής του νόμου θα πρέπει, συνεπώς, να απαγορευτεί, με εξαίρεση τρεις εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, στις οποίες η χρήση τους είναι απολύτως αναγκαία για την επίτευξη σκοπού ουσιαστικού δημόσιου συμφέροντος, η σπουδαιότητα του οποίου υπερτερεί των κινδύνων. Οι περιπτώσεις αυτές περιλαμβάνουν την αναζήτηση δυνητικών θυμάτων εγκληματικών πράξεων, συμπεριλαμβανομένων των αγνοούμενων παιδιών· ορισμένες απειλές κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης· και τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δραστών ή υπόπτων για τα ποινικά αδικήματα που αναφέρονται στην απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου 38 , εφόσον τα εν λόγω ποινικά αδικήματα τιμωρούνται στο οικείο κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τριών ετών και όπως ορίζονται στο δίκαιο του εν λόγω κράτους μέλους. Αυτό το όριο για τη στερητική της ελευθερίας ποινή ή το στερητικό μέτρο ασφάλειας σύμφωνα με το εθνικό δίκαιο συμβάλλει στο να διασφαλιστεί ότι το αδίκημα θα είναι αρκετά σοβαρό ώστε να δικαιολογεί δυνητικά τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο». Επίσης, από τα 32 ποινικά αδικήματα που απαριθμούνται στην απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου, στην πράξη ορισμένα ενδέχεται να είναι πιο σημαντικά από άλλα, υπό την έννοια ότι, κατά πάσα πιθανότητα, η εκτίμηση του κατά πόσον η προσφυγή στην εξ αποστάσεως βιομετρική ταυτοποίηση «σε πραγματικό χρόνο» είναι αναγκαία και αναλογική για την επιδίωξη, στην πράξη, του εντοπισμού, της ταυτοποίησης ή της δίωξης ενός δράστη ή υπόπτου για τα διάφορα απαριθμούμενα ποινικά αδικήματα θα ποικίλλει σε σημαντικό βαθμό, λαμβανομένων επίσης υπόψη των πιθανών διαφορών ως προς τη σοβαρότητα, την πιθανότητα και την κλίμακα της βλάβης ή των πιθανών αρνητικών συνεπειών.

(20)Προκειμένου να διασφαλιστεί ότι τα συστήματα χρησιμοποιούνται κατά τρόπο υπεύθυνο και αναλογικό, είναι επίσης σημαντικό να καθοριστεί ότι, σε καθεμία από αυτές τις τρεις, εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, θα πρέπει να λαμβάνονται υπόψη ορισμένα στοιχεία, ιδίως όσον αφορά τη φύση της κατάστασης στο πλαίσιο της οποίας προκύπτει το αίτημα και τις συνέπειες της χρήσης για τα δικαιώματα και τις ελευθερίες όλων των ενδιαφερομένων προσώπων, καθώς και τις εγγυήσεις και τους όρους που προβλέπονται για τη χρήση. Επιπλέον, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε κατάλληλους χρονικούς και χωρικούς περιορισμούς, ειδικότερα όσον αφορά τα αποδεικτικά στοιχεία ή ενδείξεις σχετικά με τις απειλές, τα θύματα ή τον δράστη. Η βάση δεδομένων αναφοράς προσώπων θα πρέπει να είναι κατάλληλη για κάθε περίπτωση χρήσης σε καθεμία από τις περιπτώσεις που αναφέρονται ανωτέρω.

(21)Κάθε χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε ρητή και ειδική άδεια που χορηγείται από δικαστική αρχή ή από ανεξάρτητη διοικητική αρχή κράτους μέλους. Η άδεια αυτή θα πρέπει καταρχήν να λαμβάνεται πριν από τη χρήση, εκτός από δεόντως αιτιολογημένες επείγουσες περιπτώσεις, δηλαδή σε περιπτώσεις στις οποίες η ανάγκη χρήσης των εν λόγω συστημάτων είναι τέτοια που η λήψη άδειας πριν από την έναρξη της χρήσης καθίσταται πρακτικά και αντικειμενικά αδύνατη. Σε αυτές τις επείγουσες περιπτώσεις, η χρήση θα πρέπει να περιορίζεται στο απολύτως ελάχιστο αναγκαίο και να υπόκειται στις κατάλληλες εγγυήσεις και προϋποθέσεις, όπως καθορίζονται στο εθνικό δίκαιο και εξειδικεύονται στο πλαίσιο κάθε επιμέρους περίπτωσης επείγουσας χρήσης από την ίδια την αρχή επιβολής του νόμου. Επιπλέον, σε τέτοιες περιπτώσεις, η αρχή επιβολής του νόμου θα πρέπει να επιδιώκει να λάβει άδεια το συντομότερο δυνατόν, δηλώνοντας παράλληλα τους λόγους για τους οποίους δεν ήταν σε θέση να τη ζητήσει νωρίτερα.

(22)Πέραν τούτου, είναι σκόπιμο να προβλεφθεί, εντός του εξαντλητικού πλαισίου που ορίζει ο παρών κανονισμός, ότι η εν λόγω χρήση στην επικράτεια κράτους μέλους σύμφωνα με τον παρόντα κανονισμό θα πρέπει να είναι δυνατή μόνο όταν και στον βαθμό που το εν λόγω κράτος μέλος έχει αποφασίσει να προβλέψει ρητά τη δυνατότητα να επιτρέπεται η χρήση αυτή στο πλαίσιο των ειδικότερων κανόνων του εθνικού του δικαίου. Συνεπώς, τα κράτη μέλη έχουν την ευχέρεια, δυνάμει του παρόντος κανονισμού, να μην προβλέψουν καθόλου αυτή τη δυνατότητα ή να προβλέψουν τη δυνατότητα αυτή μόνο για ορισμένους από τους στόχους που μπορούν να δικαιολογήσουν την εγκεκριμένη χρήση που προσδιορίζεται στον παρόντα κανονισμό.

(23)Η χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου περιλαμβάνει κατ’ ανάγκη την επεξεργασία βιομετρικών δεδομένων. Οι κανόνες του παρόντος κανονισμού οι οποίοι, με την επιφύλαξη ορισμένων εξαιρέσεων, απαγορεύουν αυτή τη χρήση, και οι οποίοι βασίζονται στο άρθρο 16 της ΣΛΕΕ θα πρέπει να εφαρμόζονται ως lex specialis σε σχέση με τους κανόνες για την επεξεργασία βιομετρικών δεδομένων που περιέχονται στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680, ρυθμίζοντας, συνεπώς, κατά τρόπο εξαντλητικό, τη χρήση αυτή και την επεξεργασία των σχετικών βιομετρικών δεδομένων. Ως εκ τούτου, αυτή η χρήση και επεξεργασία θα πρέπει να είναι δυνατή μόνο στον βαθμό που είναι συμβατή με το πλαίσιο που καθορίζεται στον παρόντα κανονισμό, χωρίς να υπάρχει περιθώριο, εκτός του πλαισίου αυτού, για τις αρμόδιες αρχές, όταν ενεργούν για σκοπούς επιβολής του νόμου, να χρησιμοποιούν τα εν λόγω συστήματα και να επεξεργάζονται τα εν λόγω δεδομένα σε σχέση με αυτά τα συστήματα για τους λόγους που απαριθμούνται στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680. Στο πλαίσιο αυτό, ο παρών κανονισμός δεν προορίζεται να αποτελέσει τη νομική βάση για την επεξεργασία δεδομένων προσωπικού χαρακτήρα σύμφωνα με το άρθρο 8 της οδηγίας 2016/680. Ωστόσο, η χρήση των συστημάτων εξ αποστάσεως ταυτοποίησης σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς άλλους από την επιβολή του νόμου, μεταξύ άλλων από τις αρμόδιες αρχές, δεν θα πρέπει να καλύπτεται από το ειδικό πλαίσιο σχετικά με τη χρήση αυτή για σκοπούς επιβολής του νόμου το οποίο καθορίζεται στον παρόντα κανονισμό. Ως εκ τούτου, η χρήση αυτή για σκοπούς άλλους από την επιβολή του νόμου, δεν θα πρέπει να υπόκειται στην απαίτηση λήψης άδειας δυνάμει του παρόντος κανονισμού και των εφαρμοστέων ειδικών κανόνων εθνικού δικαίου που ενδεχομένως τον θέτουν σε εφαρμογή.

(24)Κάθε επεξεργασία βιομετρικών δεδομένων και άλλων δεδομένων προσωπικού χαρακτήρα που εμπλέκονται στη χρήση συστημάτων ΤΝ για βιομετρική ταυτοποίηση, εκτός του πλαισίου χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου όπως ρυθμίζεται από τον παρόντα κανονισμό, συμπεριλαμβανομένων των περιπτώσεων όπου τα εν λόγω συστήματα χρησιμοποιούνται από τις αρμόδιες αρχές σε δημόσια προσβάσιμους χώρους για σκοπούς άλλους από την επιβολή του νόμου, θα πρέπει να εξακολουθήσει να συμμορφώνεται με όλες τις απαιτήσεις που απορρέουν από το άρθρο 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679, το άρθρο 10 παράγραφος 1 του κανονισμού (ΕΕ) 2018/1725 και το άρθρο 10 της οδηγίας (ΕΕ) 2016/680, κατά περίπτωση.

(25)Σύμφωνα με το άρθρο 6α του πρωτοκόλλου αριθ. 21 για τη θέση του Ηνωμένου Βασιλείου και της Ιρλανδίας όσον αφορά τον χώρο ελευθερίας, ασφάλειας και δικαιοσύνης, το οποίο προσαρτάται στη ΣΕΕ και στη ΣΛΕΕ, η Ιρλανδία δεν δεσμεύεται από τους κανόνες που καθορίζονται στο άρθρο 5 παράγραφος 1 στοιχείο δ) και στο άρθρο 5 παράγραφοι 2 και 3 του παρόντος κανονισμού οι οποίοι θεσπίζονται βάσει του άρθρου 16 της ΣΛΕΕ και οι οποίοι συνδέονται με την επεξεργασία δεδομένων προσωπικού χαρακτήρα από τα κράτη μέλη κατά τη διεξαγωγή δραστηριοτήτων που εμπίπτουν στο πεδίο εφαρμογής του τρίτου μέρους τίτλος V κεφάλαιο 4 ή κεφάλαιο 5 της ΣΛΕΕ, στον βαθμό που η Ιρλανδία δεν δεσμεύεται από τους κανόνες οι οποίοι διέπουν μορφές δικαστικής συνεργασίας σε ποινικές υποθέσεις ή αστυνομικής συνεργασίας στο πλαίσιο των οποίων πρέπει να τηρούνται οι διατάξεις οι οποίες θεσπίζονται βάσει του άρθρου 16 ΣΛΕΕ.

(26)Σύμφωνα με τα άρθρα 2 και 2α του πρωτοκόλλου αριθ. 22 σχετικά με τη θέση της Δανίας, το οποίο προσαρτάται στη ΣΕΕ και στη ΣΛΕΕ, η Δανία δεν δεσμεύεται από τους κανόνες που καθορίζονται στο άρθρο 5 παράγραφος 1 στοιχείο δ) και στο άρθρο 5 παράγραφοι 2 και 3 του παρόντος κανονισμού οι οποίοι θεσπίζονται βάσει του άρθρου 16 της ΣΛΕΕ, οι οποίοι συνδέονται με την επεξεργασία δεδομένων προσωπικού χαρακτήρα από τα κράτη μέλη κατά τη διεξαγωγή δραστηριοτήτων που εμπίπτουν στο πεδίο εφαρμογής του τρίτου μέρους τίτλος V κεφάλαιο 4 ή κεφάλαιο 5 της ΣΛΕΕ, ούτε υπόκειται στην εφαρμογή τους.

(27)Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να διατίθενται στην αγορά της Ένωσης ή να τίθενται σε λειτουργία μόνον εάν συμμορφώνονται με ορισμένες υποχρεωτικές απαιτήσεις. Οι απαιτήσεις αυτές θα πρέπει να διασφαλίζουν ότι τα συστήματα ΤΝ υψηλού κινδύνου που διατίθενται στην Ένωση ή των οποίων τα στοιχεία εξόδου χρησιμοποιούνται με άλλο τρόπο στην Ένωση δεν ενέχουν μη αποδεκτούς κινδύνους για σημαντικά δημόσια συμφέροντα της Ένωσης, όπως αναγνωρίζονται και προστατεύονται από το ενωσιακό δίκαιο. Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου θα πρέπει να περιορίζονται σε αυτά που έχουν σημαντικές επιβλαβείς επιπτώσεις στην υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα των προσώπων στην Ένωση, ενώ ο περιορισμός αυτός ελαχιστοποιεί τυχόν δυνητικούς περιορισμούς στο διεθνές εμπόριο, εφόσον υπάρχουν.

(28)Τα συστήματα ΤΝ θα μπορούσαν να έχουν δυσμενείς επιπτώσεις στην υγεία και την ασφάλεια των προσώπων, ιδίως όταν τα εν λόγω συστήματα λειτουργούν ως κατασκευαστικά στοιχεία προϊόντων. Σύμφωνα με τους στόχους της ενωσιακής νομοθεσίας εναρμόνισης οι οποίοι συνίστανται στη διευκόλυνση της ελεύθερης κυκλοφορίας των εμπορευμάτων στην εσωτερική αγορά και στο να διασφαλιστεί ότι μόνο ασφαλή και κατά τα άλλα συμμορφούμενα προϊόντα εισέρχονται στην αγορά, είναι σημαντικό να προλαμβάνονται και να μετριάζονται κατάλληλα οι κίνδυνοι για την ασφάλεια που ενδέχεται να προκύψουν από ένα προϊόν στο σύνολό του λόγω των ψηφιακών συστατικών του στοιχείων, συμπεριλαμβανομένων των συστημάτων ΤΝ. Για παράδειγμα, τα ολοένα και πιο αυτόνομα ρομπότ, είτε στο πλαίσιο της κατασκευής είτε της προσωπικής βοήθειας και φροντίδας, θα πρέπει να είναι σε θέση να λειτουργούν με ασφάλεια και να εκτελούν τις λειτουργίες τους σε σύνθετα περιβάλλοντα. Ομοίως, στον τομέα της υγείας όπου το διακύβευμα για τη ζωή και την υγεία είναι ιδιαίτερα υψηλό, τα ολοένα και πιο εξελιγμένα συστήματα διάγνωσης και τα συστήματα που υποστηρίζουν τις ανθρώπινες αποφάσεις θα πρέπει να είναι αξιόπιστα και ακριβή. Η έκταση των δυσμενών επιπτώσεων του συστήματος ΤΝ στα θεμελιώδη δικαιώματα που προστατεύονται από τον Χάρτη έχει ιδιαίτερη σημασία για την ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου. Τα δικαιώματα αυτά περιλαμβάνουν το δικαίωμα στην ανθρώπινη αξιοπρέπεια, στον σεβασμό της ιδιωτικής και οικογενειακής ζωής, στην προστασία των δεδομένων προσωπικού χαρακτήρα, την ελευθερία έκφρασης και πληροφόρησης, την ελευθερία του συνέρχεσθαι και του συνεταιρίζεσθαι, την απαγόρευση των διακρίσεων, την προστασία των καταναλωτών, τα δικαιώματα των εργαζομένων, τα δικαιώματα των ατόμων με αναπηρία, το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, το δικαίωμα υπεράσπισης και το τεκμήριο αθωότητας, το δικαίωμα χρηστής διοίκησης. Πέραν των δικαιωμάτων αυτών, είναι σημαντικό να επισημανθεί ότι τα παιδιά έχουν ειδικά δικαιώματα, όπως αυτά κατοχυρώνονται στο άρθρο 24 του Χάρτη της ΕΕ και στη Σύμβαση των Ηνωμένων Εθνών για τα Δικαιώματα του Παιδιού (και αναλύονται περαιτέρω στο Γενικό Σχόλιο αριθ. 25 της UNCRC σχετικά με το ψηφιακό περιβάλλον), που αμφότερα απαιτούν να λαμβάνονται υπόψη τα ευάλωτα χαρακτηριστικά των παιδιών και να παρέχεται η προστασία και η φροντίδα που απαιτούνται για την ευημερία τους. Το θεμελιώδες δικαίωμα σε υψηλό επίπεδο περιβαλλοντικής προστασίας, το οποίο κατοχυρώνεται στον Χάρτη και εφαρμόζεται σε πολιτικές της Ένωσης θα πρέπει επίσης να λαμβάνεται υπόψη κατά την αξιολόγηση της σοβαρότητας της βλάβης που μπορεί να προκαλέσει ένα σύστημα ΤΝ, μεταξύ άλλων και σε σχέση με την υγεία και την ασφάλεια των προσώπων.

(29)Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή συστημάτων, ή είναι τα ίδια προϊόντα ή συστήματα που εμπίπτουν στο πεδίο εφαρμογής του κανονισμού (ΕΚ) αριθ. 300/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 39 , του κανονισμού (ΕΕ) αριθ. 167/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 40 , του κανονισμού (ΕΕ) αριθ. 168/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 41 , της οδηγίας 2014/90/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 42 , της οδηγίας (ΕΕ) 2016/797 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 43 , του κανονισμού (EE) 2018/858 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 44 , του κανονισμού (ΕΕ) 2018/1139 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 45 και του κανονισμού (ΕΕ) 2019/2144 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 46 , είναι σκόπιμο να τροποποιηθούν οι πράξεις αυτές, ώστε να διασφαλιστεί ότι η Επιτροπή λαμβάνει υπόψη, βάσει των τεχνικών και κανονιστικών ιδιαιτεροτήτων κάθε τομέα, και χωρίς να παρεμβαίνει στους υφιστάμενους μηχανισμούς και αρχές διακυβέρνησης, αξιολόγησης της συμμόρφωσης και επιβολής που θεσπίζονται σε αυτές, τις υποχρεωτικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου οι οποίες καθορίζονται στον παρόντα κανονισμό κατά τη θέσπιση τυχόν σχετικών μελλοντικών κατ’ εξουσιοδότηση ή εκτελεστικών πράξεων βάσει των εν λόγω πράξεων.

(30)Όσον αφορά τα συστήματα ΤΝ που αποτελούν κατασκευαστικά στοιχεία προϊόντων ή είναι τα ίδια προϊόντα που εμπίπτουν στο πεδίο εφαρμογής ορισμένης ενωσιακής νομοθεσίας εναρμόνισης, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου βάσει του παρόντος κανονισμού εάν το εν λόγω προϊόν υποβάλλεται στη διαδικασία αξιολόγησης της συμμόρφωσης από τρίτο φορέα αξιολόγησης της συμμόρφωσης σύμφωνα με την εν λόγω σχετική ενωσιακή νομοθεσία εναρμόνισης. Ειδικότερα, τα προϊόντα αυτά είναι μηχανήματα, παιχνίδια, ανελκυστήρες, εξοπλισμός και συστήματα προστασίας που προορίζονται για χρήση σε εκρήξιμες ατμόσφαιρες, ραδιοεξοπλισμός, εξοπλισμός υπό πίεση, εξοπλισμός σκαφών αναψυχής, εγκαταστάσεις με συρματόσχοινα, συσκευές με καύση αέριων καυσίμων, ιατροτεχνολογικά προϊόντα και in vitro διαγνωστικά ιατροτεχνολογικά προϊόντα.

(31)Η ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό δεν θα πρέπει κατ’ ανάγκη να σημαίνει ότι το προϊόν του οποίου κατασκευαστικό στοιχείο ασφάλειας είναι το σύστημα ΤΝ, ή το ίδιο το σύστημα ΤΝ ως προϊόν, θεωρείται «υψηλού κινδύνου» σύμφωνα με τα κριτήρια που καθορίζονται στη σχετική ενωσιακή νομοθεσία εναρμόνισης που εφαρμόζεται στο προϊόν. Αυτό ισχύει ιδίως στην περίπτωση του κανονισμού (ΕΕ) 2017/745 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 47 και του κανονισμού (EE) 2017/746 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 48 , στο πλαίσιο των οποίων προβλέπεται αξιολόγηση της συμμόρφωσης από τρίτο φορέα για προϊόντα μεσαίου και υψηλού κινδύνου.

(32)Όσον αφορά τα αυτόνομα συστήματα ΤΝ, δηλαδή τα συστήματα ΤΝ υψηλού κινδύνου πέραν αυτών που αποτελούν συστατικά στοιχεία ασφάλειας προϊόντων, ή τα συστήματα τα οποία είναι τα ίδια προϊόντα, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου εάν, με βάση τον επιδιωκόμενο σκοπό τους, ενέχουν υψηλό κίνδυνο βλάβης για την υγεία και την ασφάλεια ή τα θεμελιώδη δικαιώματα των προσώπων, λαμβανομένων υπόψη τόσο της σοβαρότητας της πιθανής βλάβης όσο και της πιθανότητας επέλευσής της, και χρησιμοποιούνται σε ορισμένους ειδικά προκαθορισμένους τομείς που προσδιορίζονται στον κανονισμό. Ο προσδιορισμός των εν λόγω συστημάτων βασίζεται στην ίδια μεθοδολογία και στα ίδια κριτήρια που προβλέπονται και για τυχόν μελλοντικές τροποποιήσεις του καταλόγου των συστημάτων ΤΝ υψηλού κινδύνου.

(33)Οι τεχνικές ανακρίβειες των συστημάτων ΤΝ που προορίζονται για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων μπορούν να οδηγήσουν σε στρέβλωση των αποτελεσμάτων και να επιφέρουν διακρίσεις. Αυτό είναι ιδιαίτερα σημαντικό σε σχέση με την ηλικία, την εθνοτική καταγωγή, το φύλο ή τις αναπηρίες. Ως εκ τούτου, τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» ή «σε ύστερο χρόνο» θα πρέπει να ταξινομηθούν ως υψηλού κινδύνου. Λόγω των κινδύνων που ενέχουν, και τα δύο είδη συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης θα πρέπει να υπόκεινται σε ειδικές απαιτήσεις όσον αφορά τις ικανότητες καταγραφής και την ανθρώπινη εποπτεία.

(34)Όσον αφορά τη διαχείριση και τη λειτουργία υποδομών ζωτικής σημασίας, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας στη διαχείριση και τη λειτουργία της οδικής κυκλοφορίας και την παροχή νερού, φυσικού αερίου, θέρμανσης και ηλεκτρικής ενέργειας, δεδομένου ότι η αστοχία ή η δυσλειτουργία τους μπορεί να θέσει σε κίνδυνο τη ζωή και την υγεία των προσώπων σε μεγάλη κλίμακα και να προκαλέσει σημαντικές διαταραχές στη συνήθη άσκηση των κοινωνικών και οικονομικών δραστηριοτήτων.

(35)Τα συστήματα ΤΝ που χρησιμοποιούνται στην εκπαίδευση ή την επαγγελματική κατάρτιση, ιδίως για τον καθορισμό της πρόσβασης ή την τοποθέτηση ατόμων σε ιδρύματα εκπαίδευσης και επαγγελματικής κατάρτισης ή για την αξιολόγηση προσώπων που υποβάλλονται σε εξετάσεις στο πλαίσιο ή ως προϋπόθεση για την εκπαίδευσή τους θα πρέπει να θεωρούνται υψηλού κινδύνου, δεδομένου ότι μπορούν να καθορίσουν την εκπαιδευτική και επαγγελματική πορεία της ζωής ενός ατόμου και, ως εκ τούτου, να επηρεάσουν την ικανότητά του να εξασφαλίσει τα μέσα βιοπορισμού του. Όταν σχεδιάζονται και χρησιμοποιούνται εσφαλμένα, τα συστήματα αυτά ενδέχεται να παραβιάζουν το δικαίωμα στην εκπαίδευση και στην κατάρτιση, καθώς και το δικαίωμα στη μη διακριτική μεταχείριση, και να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων.

(36)Τα συστήματα ΤΝ που χρησιμοποιούνται στην απασχόληση, στη διαχείριση των εργαζομένων και την πρόσβαση στην αυτοαπασχόληση, ιδίως για την πρόσληψη και την επιλογή προσώπων, για τη λήψη αποφάσεων σχετικά με την προαγωγή και την καταγγελία των συμβάσεων απασχόλησης και την κατανομή καθηκόντων, την παρακολούθηση ή την αξιολόγηση προσώπων που τελούν σε συμβατικές σχέσεις που σχετίζονται με την εργασία, θα πρέπει επίσης να ταξινομηθούν ως υψηλού κινδύνου, δεδομένου ότι τα εν λόγω συστήματα ενδέχεται να επηρεάσουν σημαντικά τις μελλοντικές προοπτικές σταδιοδρομίας και τα μέσα βιοπορισμού αυτών των προσώπων. Οι σχετικές συμβατικές σχέσεις εργασίας θα πρέπει να αφορούν και τους εργαζόμενους και τα άτομα που παρέχουν υπηρεσίες μέσω πλατφορμών όπως αναφέρεται στο πρόγραμμα εργασίας της Επιτροπής για το 2021. Τα πρόσωπα αυτά δεν θα πρέπει καταρχήν να θεωρούνται χρήστες κατά την έννοια του παρόντος κανονισμού. Καθ’ όλη τη διάρκεια της διαδικασίας πρόσληψης και κατά την αξιολόγηση, την προαγωγή ή τη διατήρηση ατόμων σε συμβατικές σχέσεις που σχετίζονται με την εργασία, τα συστήματα αυτά μπορούν να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων, για παράδειγμα εις βάρος γυναικών, ορισμένων ηλικιακών ομάδων, ατόμων με αναπηρία ή ατόμων συγκεκριμένης φυλετικής ή εθνοτικής καταγωγής ή γενετήσιου προσανατολισμού. Τα συστήματα ΤΝ που χρησιμοποιούνται για την παρακολούθηση των επιδόσεων και της συμπεριφοράς των εν λόγω προσώπων ενδέχεται επίσης να επηρεάσουν τα δικαιώματά τους στην προστασία των δεδομένων και της ιδιωτικότητας.

(37)Ένας άλλος τομέας στο πλαίσιο του οποίου αξίζει να δοθεί ιδιαίτερη προσοχή στη χρήση των συστημάτων ΤΝ είναι η πρόσβαση και η απόλαυση ορισμένων βασικών ιδιωτικών και δημόσιων υπηρεσιών και παροχών που είναι απαραίτητες για την πλήρη συμμετοχή των πολιτών στην κοινωνία ή τη βελτίωση του βιοτικού τους επιπέδου. Ειδικότερα, τα συστήματα ΤΝ που χρησιμοποιούνται για την αξιολόγηση ή τη βαθμολόγηση της πιστοληπτικής ικανότητας των φυσικών προσώπων θα πρέπει να ταξινομηθούν ως συστήματα ΤΝ υψηλού κινδύνου, καθώς καθορίζουν την πρόσβαση των εν λόγω προσώπων σε χρηματοοικονομικούς πόρους ή βασικές υπηρεσίες όπως στέγαση, ηλεκτρική ενέργεια και τηλεπικοινωνιακές υπηρεσίες. Τα συστήματα ΤΝ που χρησιμοποιούνται για τον σκοπό αυτό μπορούν να οδηγήσουν σε διακρίσεις εις βάρος ατόμων ή ομάδων και να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων, για παράδειγμα λόγω φυλετικής ή εθνοτικής καταγωγής, αναπηρίας, ηλικίας, γενετήσιου προσανατολισμού ή να δημιουργήσουν νέες μορφές διακρίσεων. Λαμβανομένης υπόψη της πολύ περιορισμένης κλίμακας των επιπτώσεων και δεδομένων των διαθέσιμων εναλλακτικών λύσεων στην αγορά, είναι σκόπιμο να εξαιρεθούν τα συστήματα ΤΝ που χρησιμοποιούνται για τους σκοπούς της αξιολόγησης και βαθμολόγησης της πιστοληπτικής ικανότητας όταν τίθενται σε λειτουργία από παρόχους υπηρεσιών μικρής κλίμακας για ιδία χρήση. Τα φυσικά πρόσωπα που ζητούν ή λαμβάνουν παροχές και υπηρεσίες δημόσιας αρωγής από δημόσιες αρχές εξαρτώνται κατά κανόνα από τις εν λόγω παροχές και υπηρεσίες και βρίσκονται σε ευάλωτη θέση σε σχέση με τις αρμόδιες αρχές. Εάν τα συστήματα ΤΝ χρησιμοποιούνται για να προσδιοριστεί αν οι αρμόδιες αρχές θα πρέπει να αρνηθούν την πρόσβαση στις εν λόγω παροχές και υπηρεσίες ή να τις μειώσουν, να τις ανακαλέσουν ή να τις ανακτήσουν, ενδέχεται να έχουν σημαντικό αντίκτυπο στα μέσα διαβίωσης των προσώπων και να παραβιάζουν τα θεμελιώδη δικαιώματά τους, όπως το δικαίωμα στην κοινωνική προστασία, στη μη διακριτική μεταχείριση, στην ανθρώπινη αξιοπρέπεια ή σε πραγματική προσφυγή. Ως εκ τούτου, τα συστήματα αυτά θα πρέπει να ταξινομηθούν ως υψηλού κινδύνου. Ωστόσο, ο παρών κανονισμός δεν θα πρέπει να παρεμποδίζει την ανάπτυξη και τη χρήση καινοτόμων προσεγγίσεων στη δημόσια διοίκηση, η οποία θα μπορούσε να επωφεληθεί από την ευρύτερη χρήση συμμορφούμενων και ασφαλών συστημάτων ΤΝ, υπό την προϋπόθεση ότι τα εν λόγω συστήματα δεν ενέχουν υψηλό κίνδυνο για τα νομικά και φυσικά πρόσωπα. Τέλος, τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για την αποστολή ή τον καθορισμό προτεραιοτήτων κατά την αποστολή υπηρεσιών πρώτης αντίδρασης σε καταστάσεις έκτακτης ανάγκης θα πρέπει επίσης να ταξινομηθούν ως υψηλού κινδύνου δεδομένου ότι λαμβάνουν αποφάσεις σε πολύ κρίσιμες καταστάσεις για τη ζωή και την υγεία των προσώπων, καθώς και για τα περιουσιακά τους στοιχεία.

(38)Οι ενέργειες των αρχών επιβολής του νόμου που αφορούν ορισμένες χρήσεις των συστημάτων ΤΝ χαρακτηρίζονται από σημαντικό βαθμό ανισορροπίας ισχύος και μπορούν να οδηγήσουν στην παρακολούθηση, τη σύλληψη ή τη στέρηση της ελευθερίας ενός φυσικού προσώπου, και να έχουν άλλες δυσμενείς επιπτώσεις για τα θεμελιώδη δικαιώματα που κατοχυρώνονται στον Χάρτη. Ειδικότερα, αν το σύστημα ΤΝ δεν είναι εκπαιδευμένο με δεδομένα υψηλής ποιότητας, δεν πληροί τις κατάλληλες απαιτήσεις όσον αφορά την ακρίβεια και τη στιβαρότητά του ή δεν έχει σχεδιαστεί κατάλληλα και δεν έχει υποβληθεί στις κατάλληλες δοκιμές προτού διατεθεί στην αγορά ή τεθεί με άλλο τρόπο σε λειτουργία, μπορεί να διακρίνει άτομα με μεροληπτικό ή άλλο εσφαλμένο ή άδικο τρόπο. Επιπλέον, θα μπορούσε να παρεμποδιστεί η άσκηση σημαντικών δικονομικών θεμελιωδών δικαιωμάτων, όπως το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, καθώς και το δικαίωμα υπεράσπισης και το τεκμήριο αθωότητας, ιδίως όταν τα εν λόγω συστήματα ΤΝ δεν είναι επαρκώς διαφανή, εξηγήσιμα και τεκμηριωμένα. Ως εκ τούτου, είναι σκόπιμο να ταξινομηθεί ως υψηλού κινδύνου μια σειρά συστημάτων ΤΝ που προορίζονται να χρησιμοποιηθούν στο πλαίσιο της επιβολής του νόμου, όπου η ακρίβεια, η αξιοπιστία και η διαφάνεια είναι ιδιαίτερα σημαντικές για την αποφυγή δυσμενών επιπτώσεων, τη διατήρηση της εμπιστοσύνης του κοινού και τη διασφάλιση της λογοδοσίας και της αποτελεσματικής προσφυγής Λόγω της φύσης των εν λόγω δραστηριοτήτων και των συναφών κινδύνων, αυτά τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να περιλαμβάνουν ιδίως τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις αρχές επιβολής του νόμου για ατομικές εκτιμήσεις κινδύνου, πολύγραφους και παρεμφερή εργαλεία ή για την ανίχνευση της συναισθηματικής κατάστασης φυσικών προσώπων, για τον εντοπισμό «βαθιά ψευδούς υλικού», για την αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων σε ποινικές διαδικασίες, για την πρόβλεψη της τέλεσης ή εκ νέου τέλεσης ποινικού αδικήματος, πραγματικού ή δυνητικού, με βάση την κατάρτιση προφίλ φυσικών προσώπων ή την αξιολόγηση των γνωρισμάτων και χαρακτηριστικών της προσωπικότητας ή προηγούμενης εγκληματικής συμπεριφοράς φυσικών προσώπων ή ομάδων, για την κατάρτιση προφίλ στο πλαίσιο της ανίχνευσης, της διερεύνησης ή της δίωξης ποινικών αδικημάτων, καθώς και για την ανάλυση εγκλημάτων σε σχέση με φυσικά πρόσωπα. Τα συστήματα ΤΝ που προορίζονται ειδικά για χρήση σε διοικητικές διαδικασίες από τις φορολογικές και τελωνειακές αρχές δεν θα πρέπει να θεωρούνται συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται από τις αρχές επιβολής του νόμου για τους σκοπούς της πρόληψης, της ανίχνευσης, της διερεύνησης και της δίωξης ποινικών αδικημάτων. 

(39)Τα συστήματα ΤΝ που χρησιμοποιούνται στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων επηρεάζουν άτομα που βρίσκονται συχνά σε ιδιαίτερα ευάλωτη θέση και εξαρτώνται από την έκβαση των ενεργειών των αρμόδιων δημόσιων αρχών. Ως εκ τούτου, η ακρίβεια, ο αμερόληπτος χαρακτήρας και η διαφάνεια των συστημάτων ΤΝ που χρησιμοποιούνται σε αυτά τα πλαίσια είναι ιδιαίτερα σημαντικά για τη διασφάλιση του σεβασμού των δικαιωμάτων των θιγόμενων προσώπων, ιδίως των δικαιωμάτων τους στην ελεύθερη κυκλοφορία, τη μη διακριτική μεταχείριση, την προστασία της ιδιωτικής ζωής και των δεδομένων προσωπικού χαρακτήρα, σε διεθνή προστασία και χρηστή διοίκηση. Ως εκ τούτου, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις αρμόδιες δημόσιες αρχές που είναι επιφορτισμένες με καθήκοντα στους τομείς της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων ως πολύγραφοι και παρεμφερή εργαλεία ή για την ανίχνευση της συναισθηματικής κατάστασης ενός φυσικού προσώπου· για την αξιολόγηση ορισμένων κινδύνων που παρουσιάζουν φυσικά πρόσωπα που εισέρχονται στο έδαφος κράτους μέλους ή υποβάλλουν αίτηση θεώρησης ή ασύλου· για την επαλήθευση της γνησιότητας των σχετικών εγγράφων των φυσικών προσώπων· για την παροχή συνδρομής στις αρμόδιες δημόσιες αρχές για την εξέταση των αιτήσεων ασύλου, θεώρησης και αδειών διαμονής και των συναφών καταγγελιών με στόχο τον καθορισμό της επιλεξιμότητας των φυσικών προσώπων που υποβάλλουν αίτηση χορήγησης καθεστώτος. Τα συστήματα ΤΝ στον τομέα της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων τα οποία καλύπτονται από τον παρόντα κανονισμό θα πρέπει να πληρούν τις σχετικές διαδικαστικές απαιτήσεις που καθορίζονται στην οδηγία 2013/32/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 49 , στον κανονισμό (ΕΚ) αριθ. 810/2009 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 50 και σε άλλη σχετική νομοθεσία.

(40)Ορισμένα συστήματα ΤΝ που προορίζονται για την απονομή δικαιοσύνης και τις δημοκρατικές διαδικασίες θα πρέπει να ταξινομηθούν ως υψηλού κινδύνου, λαμβανομένου υπόψη του δυνητικά σημαντικού αντίκτυπού τους στη δημοκρατία, το κράτος δικαίου, τις ατομικές ελευθερίες, καθώς και στο δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου. Ειδικότερα, για την αντιμετώπιση των κινδύνων δυνητικής μεροληψίας, σφαλμάτων και αδιαφάνειας, είναι σκόπιμο να χαρακτηριστούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται για την παροχή συνδρομής σε δικαστικές αρχές κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών. Ωστόσο, ο χαρακτηρισμός αυτός δεν θα πρέπει να επεκταθεί σε συστήματα ΤΝ που προορίζονται για αμιγώς επικουρικές διοικητικές δραστηριότητες οι οποίες δεν επηρεάζουν στην πράξη την απονομή της δικαιοσύνης σε μεμονωμένες περιπτώσεις, όπως η ανωνυμοποίηση ή η ψευδωνυμοποίηση δικαστικών αποφάσεων, εγγράφων ή δεδομένων, η επικοινωνία μεταξύ των μελών του προσωπικού, η εκτέλεση διοικητικών καθηκόντων ή η κατανομή πόρων.

(41)Το γεγονός ότι ένα σύστημα ΤΝ ταξινομείται ως υψηλού κινδύνου βάσει του παρόντος κανονισμού δεν θα πρέπει να ερμηνεύεται ως ένδειξη ότι η χρήση του συστήματος είναι κατ’ ανάγκη νόμιμη βάσει άλλων πράξεων του ενωσιακού δικαίου ή δυνάμει του εθνικού δικαίου που είναι συμβατό με το δίκαιο της Ένωσης, όπως η νομοθεσία για την προστασία των δεδομένων προσωπικού χαρακτήρα, για τη χρήση πολύγραφων και παρεμφερών εργαλείων ή άλλων συστημάτων για την ανίχνευση της συναισθηματικής κατάστασης φυσικών προσώπων. Κάθε τέτοια χρήση θα πρέπει να συνεχίσει να πραγματοποιείται αποκλειστικά σύμφωνα με τις εφαρμοστέες απαιτήσεις που απορρέουν από τον Χάρτη και από τις εφαρμοστέες πράξεις του παράγωγου ενωσιακού δικαίου και του εθνικού δικαίου. Ο παρών κανονισμός δεν θα πρέπει να θεωρείται ότι παρέχει τη νομική βάση για την επεξεργασία δεδομένων προσωπικού χαρακτήρα, συμπεριλαμβανομένων ειδικών κατηγοριών δεδομένων προσωπικού χαρακτήρα, κατά περίπτωση.

(42)Για τον μετριασμό των κινδύνων που προκύπτουν από συστήματα ΤΝ υψηλού κινδύνου που διατίθενται στην αγορά ή τίθενται με άλλο τρόπο σε λειτουργία θα πρέπει να εφαρμόζονται ορισμένες υποχρεωτικές απαιτήσεις, λαμβανομένου υπόψη του σκοπού που επιδιώκεται με τη χρήση του συστήματος και σύμφωνα με το σύστημα διαχείρισης κινδύνου που θα θεσπίσει ο πάροχος.

(43)Οι απαιτήσεις θα πρέπει να εφαρμόζονται σε συστήματα ΤΝ υψηλού κινδύνου όσον αφορά την ποιότητα των συνόλων δεδομένων που χρησιμοποιούνται, τον τεχνικό φάκελο και την τήρηση αρχείων, τη διαφάνεια και την πληροφόρηση των χρηστών, την ανθρώπινη εποπτεία και τη στιβαρότητα, την ακρίβεια και την κυβερνοασφάλεια. Οι απαιτήσεις αυτές είναι αναγκαίες για τον αποτελεσματικό μετριασμό των κινδύνων για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα, όπως εφαρμόζονται βάσει του επιδιωκόμενου σκοπού του συστήματος και δεν είναι ευλόγως διαθέσιμα άλλα λιγότερο περιοριστικά για το εμπόριο μέτρα, ώστε να αποφεύγονται αδικαιολόγητοι περιορισμοί στο εμπόριο.

(44)Η υψηλή ποιότητα των δεδομένων είναι σημαντική για τις επιδόσεις των συστημάτων ΤΝ, ιδίως όταν χρησιμοποιούνται τεχνικές που αφορούν την εκπαίδευση μοντέλων, προκειμένου να διασφαλίζεται ότι το σύστημα ΤΝ υψηλού κινδύνου λειτουργεί όπως προβλέπεται και με ασφάλεια και δεν αποτελεί πηγή διακρίσεων που απαγορεύονται από το δίκαιο της Ένωσης. Τα υψηλής ποιότητας δεδομένα εκπαίδευσης, επικύρωσης και δοκιμής απαιτούν την εφαρμογή κατάλληλων πρακτικών διακυβέρνησης και διαχείρισης. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής θα πρέπει να είναι επαρκώς συναφή, αντιπροσωπευτικά και να μην περιέχουν σφάλματα, και να είναι πλήρως σύμφωνα με τον επιδιωκόμενο σκοπό του συστήματος. Θα πρέπει επίσης να έχουν τις κατάλληλες στατιστικές ιδιότητες, μεταξύ άλλων όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων για τα οποία πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου. Ειδικότερα, τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής θα πρέπει να λαμβάνουν υπόψη, στον βαθμό που απαιτείται ανάλογα με τον επιδιωκόμενο σκοπό τους, τα γνωρίσματα, τα χαρακτηριστικά ή τα στοιχεία που προσιδιάζουν σε συγκεκριμένο γεωγραφικό, συμπεριφορικό ή λειτουργικό περιβάλλον ή πλαίσιο εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ. Προκειμένου να προστατεύεται το δικαίωμα τρίτων από διακρίσεις που θα μπορούσαν να προκύψουν από τη μεροληψία στα συστήματα ΤΝ, οι πάροχοι θα πρέπει να είναι σε θέση να επεξεργάζονται επίσης ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα, για λόγους ουσιαστικού δημόσιου συμφέροντος, προκειμένου να διασφαλίζεται η παρακολούθηση, ο εντοπισμός και η διόρθωση της μεροληψίας στα συστήματα ΤΝ υψηλού κινδύνου.

(45)Για την ανάπτυξη συστημάτων ΤΝ υψηλού κινδύνου, ορισμένοι παράγοντες, όπως πάροχοι, κοινοποιημένοι οργανισμοί και άλλες σχετικές οντότητες, όπως κόμβοι ψηφιακής καινοτομίας, εγκαταστάσεις πειραματισμού και δοκιμών και ερευνητές, θα πρέπει να είναι σε θέση να αποκτούν πρόσβαση και να χρησιμοποιούν σύνολα δεδομένων υψηλής ποιότητας στους αντίστοιχους οικείους τομείς δραστηριοτήτων που σχετίζονται με τον παρόντα κανονισμό. Οι ευρωπαϊκοί κοινοί χώροι δεδομένων που δημιουργούνται από την Επιτροπή και η διευκόλυνση της κοινοχρησίας δεδομένων μεταξύ επιχειρήσεων και με την κυβέρνηση για την εξυπηρέτηση του δημόσιου συμφέροντος, θα έχουν καθοριστική σημασία για την παροχή αξιόπιστης, υπεύθυνης και χωρίς διακρίσεις πρόσβασης σε υψηλής ποιότητας δεδομένα για την εκπαίδευση, την επικύρωση και τη δοκιμή των συστημάτων ΤΝ. Για παράδειγμα, στον τομέα της υγείας, ο ευρωπαϊκός χώρος δεδομένων υγείας θα διευκολύνει τη χωρίς διακρίσεις πρόσβαση σε δεδομένα υγείας και την εκπαίδευση αλγόριθμων τεχνητής νοημοσύνης σε αυτά τα σύνολα δεδομένων, κατά τρόπο ασφαλή, έγκαιρο, διαφανή και αξιόπιστο, που διαφυλάσσει την ιδιωτικότητα, και με την κατάλληλη θεσμική διακυβέρνηση. Οι σχετικές αρμόδιες αρχές, συμπεριλαμβανομένων των τομεακών αρχών, οι οποίες παρέχουν ή υποστηρίζουν την πρόσβαση σε δεδομένα μπορούν επίσης να υποστηρίξουν την παροχή δεδομένων υψηλής ποιότητας για την εκπαίδευση, την επικύρωση και τη δοκιμή συστημάτων ΤΝ.

(46)Η ύπαρξη πληροφοριών σχετικά με τον τρόπο ανάπτυξης συστημάτων ΤΝ υψηλού κινδύνου και τις επιδόσεις τους καθ’ όλη τη διάρκεια του κύκλου ζωής τους είναι σημαντική για την επαλήθευση της συμμόρφωσης με τις απαιτήσεις του παρόντος κανονισμού. Αυτό απαιτεί την τήρηση αρχείων και τη διαθεσιμότητα τεχνικού φακέλου, ο οποίος περιέχει πληροφορίες που είναι απαραίτητες για την αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ με τις σχετικές απαιτήσεις. Οι πληροφορίες αυτές θα πρέπει να περιλαμβάνουν τα γενικά χαρακτηριστικά, τις ικανότητες και τους περιορισμούς του συστήματος, τους αλγόριθμους, τα δεδομένα, τις διαδικασίες εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται, καθώς και τεκμηρίωση σχετικά με το σχετικό σύστημα διαχείρισης κινδύνου. Ο τεχνικός φάκελος θα πρέπει να επικαιροποιείται.

(47)Για να αντιμετωπιστεί η αδιαφάνεια που μπορεί να καταστήσει ορισμένα συστήματα ΤΝ δυσνόητα ή υπερβολικά περίπλοκα για τα φυσικά πρόσωπα, θα πρέπει να απαιτείται κάποιος βαθμός διαφάνειας για τα συστήματα ΤΝ υψηλού κινδύνου. Οι χρήστες θα πρέπει να σε θέση να ερμηνεύουν τα στοιχεία εξόδου του συστήματος και να τα χρησιμοποιούν σωστά. Ως εκ τούτου, τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να συνοδεύονται από σχετική τεκμηρίωση και οδηγίες χρήσης και να περιλαμβάνουν συνοπτικές και σαφείς πληροφορίες, μεταξύ άλλων σε σχέση με πιθανούς κινδύνους για τα θεμελιώδη δικαιώματα και κινδύνους διακρίσεων, κατά περίπτωση.

(48)Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να σχεδιάζονται και να αναπτύσσονται κατά τρόπο ώστε τα φυσικά πρόσωπα να μπορούν να επιβλέπουν τη λειτουργία τους. Για τον σκοπό αυτό, ο πάροχος του συστήματος θα πρέπει να προσδιορίζει κατάλληλα μέτρα ανθρώπινης εποπτείας πριν από τη διάθεσή του συστήματος στην αγορά ή τη θέση του σε λειτουργία. Ειδικότερα, τα μέτρα αυτά θα πρέπει, κατά περίπτωση, να διασφαλίζουν ότι το σύστημα υπόκειται σε εγγενείς περιορισμούς λειτουργίας οι οποίοι δεν μπορούν να παρακαμφθούν από το ίδιο το σύστημα και ότι ανταποκρίνεται στον άνθρωπο που το χειρίζεται, και ότι τα φυσικά πρόσωπα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία διαθέτουν την απαιτούμενη ικανότητα, κατάρτιση και εξουσιοδότηση για την εκτέλεση αυτού του καθήκοντος.

(49)Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να λειτουργούν με συνέπεια καθ’ όλη τη διάρκεια του κύκλου ζωής τους και να επιτυγχάνουν κατάλληλο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας σύμφωνα με τη γενικώς αναγνωρισμένη εξέλιξη της τεχνολογίας. Το επίπεδο ακρίβειας και οι μετρήσεις ακρίβειας θα πρέπει να κοινοποιούνται στους χρήστες.

(50)Η τεχνική στιβαρότητα αποτελεί βασική απαίτηση για τα συστήματα ΤΝ υψηλού κινδύνου. Θα πρέπει να είναι ανθεκτικά απέναντι στους κινδύνους που συνδέονται με τους περιορισμούς του συστήματος (π.χ. σφάλματα, ελαττώματα, ασυνέπειες, απρόβλεπτες καταστάσεις), καθώς και σε κακόβουλες ενέργειες που ενδέχεται να θέσουν σε κίνδυνο την ασφάλεια του συστήματος ΤΝ και να οδηγήσουν σε επιβλαβή ή άλλως ανεπιθύμητη συμπεριφορά. Η έλλειψη προστασίας από τους κινδύνους αυτούς θα μπορούσε να έχει επιπτώσεις στην ασφάλεια ή να επηρεάσει αρνητικά τα θεμελιώδη δικαιώματα, για παράδειγμα λόγω εσφαλμένων αποφάσεων ή λανθασμένων ή μεροληπτικών στοιχείων εξόδου που παράγονται από το σύστημα ΤΝ.

(51)Η κυβερνοασφάλεια διαδραματίζει καίριο ρόλο στη διασφάλιση της ανθεκτικότητας των συστημάτων ΤΝ έναντι προσπαθειών κακόβουλων τρίτων να αλλοιώσουν τη χρήση τους, τη συμπεριφορά τους και τις επιδόσεις τους ή να θέσουν σε κίνδυνο τις ιδιότητες ασφάλειας εκμεταλλευόμενοι τα τρωτά σημεία του συστήματος. Οι κυβερνοεπιθέσεις κατά συστημάτων ΤΝ μπορούν να μοχλεύσουν συγκεκριμένα περιουσιακά στοιχεία της ΤΝ, όπως τα σύνολα δεδομένα εκπαίδευσης (π.χ. μόλυνση δεδομένων) ή εκπαιδευμένα μοντέλα (π.χ. αντιπαραθετικές επιθέσεις) ή να εκμεταλλευτούν τα τρωτά σημεία των ψηφιακών περιουσιακών στοιχείων του συστήματος ΤΝ ή των υποκείμενων υποδομών ΤΠΕ. Ως εκ τούτου, προκειμένου να διασφαλιστεί επίπεδο κυβερνοασφάλειας που να αρμόζει στους κινδύνους, θα πρέπει οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου να λάβουν κατάλληλα μέτρα, λαμβάνοντας επίσης υπόψη, κατά περίπτωση, τις υποκείμενες υποδομές ΤΠΕ.

(52)Στο πλαίσιο της ενωσιακής νομοθεσίας εναρμόνισης, θα πρέπει να θεσπιστούν κανόνες για τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ υψηλού κινδύνου, σύμφωνα με τον κανονισμό (ΕΚ) αριθ. 765/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 51 για τον καθορισμό των απαιτήσεων διαπίστευσης και εποπτείας της αγοράς των προϊόντων, την απόφαση αριθ. 768/2008/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 52 για κοινό πλαίσιο εμπορίας των προϊόντων και τον κανονισμό (ΕΕ) 2019/1020 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 53 για την εποπτεία της αγοράς και τη συμμόρφωση των προϊόντων («νέο νομοθετικό πλαίσιο για την εμπορία των προϊόντων»).

(53)Είναι σκόπιμο ένα συγκεκριμένο φυσικό ή νομικό πρόσωπο, το οποίο ορίζεται ως ο πάροχος, να αναλαμβάνει την ευθύνη για τη διάθεση στην αγορά ή τη θέση σε λειτουργία ενός συστήματος ΤΝ υψηλού κινδύνου, ανεξάρτητα από το αν το εν λόγω φυσικό ή νομικό πρόσωπο είναι αυτό που σχεδίασε ή ανέπτυξε το σύστημα.

(54)Ο πάροχος θα πρέπει να θεσπίσει ένα άρτιο σύστημα διαχείρισης της ποιότητας, να διασφαλίσει την ολοκλήρωση της απαιτούμενης διαδικασίας αξιολόγησης, να καταρτίσει τη σχετική τεκμηρίωση και να καθιερώσει ένα στιβαρό σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι δημόσιες αρχές που θέτουν σε λειτουργία συστήματα ΤΝ υψηλού κινδύνου για ιδία χρήση μπορούν να θεσπίζουν και να εφαρμόζουν τους κανόνες για το σύστημα διαχείρισης της ποιότητας στο πλαίσιο του συστήματος διαχείρισης της ποιότητας που έχει θεσπιστεί σε εθνικό ή περιφερειακό επίπεδο, κατά περίπτωση, λαμβάνοντας υπόψη τις ιδιαιτερότητες του τομέα και τις αρμοδιότητες και την οργάνωση της οικείας δημόσιας αρχής.

(55)Όταν ένα σύστημα ΤΝ υψηλού κινδύνου που αποτελεί συστατικό ασφάλειας ενός προϊόντος που καλύπτεται από σχετική τομεακή νομοθεσία του νέου νομοθετικού πλαισίου δεν διατίθεται στην αγορά ούτε τίθεται σε λειτουργία ανεξάρτητα από το προϊόν, ο κατασκευαστής του τελικού προϊόντος, όπως ορίζεται στη σχετική νομοθεσία του νέου νομοθετικού πλαισίου, θα πρέπει να συμμορφώνεται με τις υποχρεώσεις του παρόχου οι οποίες καθορίζονται στον παρόντα κανονισμό και ιδίως να διασφαλίζει ότι το σύστημα ΤΝ που είναι ενσωματωμένο στο τελικό προϊόν συμμορφώνεται με τις απαιτήσεις του παρόντος κανονισμού.

(56)Για να καταστεί δυνατή η επιβολή του παρόντος κανονισμού και να διαμορφωθούν ισότιμοι όροι ανταγωνισμού για τους φορείς εκμετάλλευσης, και λαμβανομένων υπόψη των διαφόρων μορφών διάθεσης ψηφιακών προϊόντων, είναι σημαντικό να διασφαλιστεί ότι, σε κάθε περίπτωση, ένα πρόσωπο εγκατεστημένο στην Ένωση είναι σε θέση να παρέχει στις αρχές όλες τις απαραίτητες πληροφορίες σχετικά με τη συμμόρφωση ενός συστήματος ΤΝ. Ως εκ τούτου, πριν από τη διάθεση των συστημάτων τους στην Ένωση, όταν δεν μπορεί να προσδιοριστεί εισαγωγέας, οι πάροχοι που είναι εγκατεστημένοι εκτός της Ένωσης διορίζουν με γραπτή εντολή εξουσιοδοτημένο αντιπρόσωπο εγκατεστημένο στην Ένωση.

(57)Σύμφωνα με τις αρχές του νέου νομοθετικού πλαισίου, θα πρέπει να καθοριστούν ειδικές υποχρεώσεις για τους σχετικούς οικονομικούς φορείς, όπως οι εισαγωγείς και οι διανομείς, για λόγους ασφάλειας δικαίου και για να διευκολυνθεί η κανονιστική συμμόρφωση των εν λόγω σχετικών φορέων.

(58)Δεδομένης της φύσης των συστημάτων ΤΝ και δεδομένων των κινδύνων για την ασφάλεια και τα θεμελιώδη δικαιώματα που ενδεχομένως συνδέονται με τη χρήση τους, μεταξύ άλλων όσον αφορά την ανάγκη διασφάλισης ορθής παρακολούθησης των επιδόσεων ενός συστήματος ΤΝ σε πραγματικές συνθήκες, είναι σκόπιμο να καθοριστούν συγκεκριμένες ευθύνες για τους χρήστες. Οι χρήστες θα πρέπει, ειδικότερα, να χρησιμοποιούν συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με τις οδηγίες χρήσης, ενώ θα πρέπει να προβλέπονται και ορισμένες άλλες υποχρεώσεις όσον αφορά την παρακολούθηση της λειτουργίας των συστημάτων ΤΝ και όσον αφορά την τήρηση αρχείων, κατά περίπτωση.

(59)Είναι σκόπιμο να προβλεφθεί ότι χρήστης του συστήματος ΤΝ θα πρέπει να είναι το φυσικό ή νομικό πρόσωπο, η δημόσια αρχή, η υπηρεσία ή άλλος φορέας υπό την ευθύνη του οποίου λειτουργεί το σύστημα ΤΝ, εκτός εάν η χρήση λαμβάνει χώρα στο πλαίσιο προσωπικής μη επαγγελματικής δραστηριότητας.

(60)Δεδομένης της πολυπλοκότητας της αξιακής αλυσίδας της τεχνητής νοημοσύνης, οι ενδιαφερόμενοι τρίτοι, ιδίως όσοι εμπλέκονται στην πώληση και την προμήθεια λογισμικού, εργαλείων και συστατικών στοιχείων λογισμικού, προεκπαιδευμένων μοντέλων και δεδομένων ή οι πάροχοι υπηρεσιών δικτύου, θα πρέπει να συνεργάζονται, κατά περίπτωση, με τους παρόχους και τους χρήστες ώστε να καθίσταται δυνατή η συμμόρφωσή τους με τις υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό και με τις αρμόδιες αρχές που συστήνονται δυνάμει του παρόντος κανονισμού.

(61)Η τυποποίηση θα πρέπει να διαδραματίσει βασικό ρόλο στην παροχή τεχνικών λύσεων στους παρόχους για τη διασφάλιση της συμμόρφωσης με τον παρόντα κανονισμό. Η συμμόρφωση με τα εναρμονισμένα πρότυπα, όπως ορίζονται στον κανονισμό (ΕΕ) αριθ. 1025/2012 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 54 θα πρέπει να αποτελεί μέσο απόδειξης της συμμόρφωσης των παρόχων με τις απαιτήσεις του παρόντος κανονισμού. Ωστόσο, η Επιτροπή θα μπορούσε να θεσπίσει κοινές τεχνικές προδιαγραφές σε τομείς όπου δεν υπάρχουν εναρμονισμένα πρότυπα ή όπου αυτά δεν επαρκούν.

(62)Προκειμένου να διασφαλιστεί υψηλό επίπεδο αξιοπιστίας των συστημάτων ΤΝ υψηλού κινδύνου, τα συστήματα αυτά θα πρέπει να υπόκεινται σε αξιολόγηση της συμμόρφωσης πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία.

(63)Προκειμένου να ελαχιστοποιηθεί η επιβάρυνση των φορέων εκμετάλλευσης και να αποφευχθεί κάθε πιθανή επικάλυψη, όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που σχετίζονται με προϊόντα που καλύπτονται από την υφιστάμενη ενωσιακή νομοθεσία εναρμόνισης σύμφωνα με την προσέγγιση του νέου νομοθετικού πλαισίου, είναι σκόπιμο η συμμόρφωση των εν λόγω συστημάτων ΤΝ με τις απαιτήσεις του παρόντος κανονισμού να αξιολογείται στο πλαίσιο της αξιολόγησης της συμμόρφωσης που προβλέπεται ήδη στην εν λόγω νομοθεσία. Συνεπώς, η εφαρμογή των απαιτήσεων του παρόντος κανονισμού δεν θα πρέπει να επηρεάζει την ειδική λογική, τη μεθοδολογία ή τη γενική δομή της αξιολόγησης της συμμόρφωσης βάσει της σχετικής ειδικής νομοθεσίας του νέου νομοθετικού πλαισίου. Η προσέγγιση αυτή αντικατοπτρίζεται πλήρως στην αλληλεπίδραση μεταξύ του παρόντος κανονισμού και του [κανονισμού για τα μηχανήματα]. Οι κίνδυνοι ασφάλειας των συστημάτων ΤΝ που εκτελούν λειτουργίες ασφάλειας στα μηχανήματα αντιμετωπίζονται από τις απαιτήσεις του παρόντος κανονισμού, ενώ ορισμένες ειδικές απαιτήσεις του [κανονισμού για τα μηχανήματα] θα διασφαλίσουν την ασφαλή ενσωμάτωση του συστήματος ΤΝ στο σύνολο του μηχανήματος, ώστε να μην τίθεται σε κίνδυνο η ασφάλεια του μηχανήματος στο σύνολό του. Ο [κανονισμός για τα μηχανήματα] εφαρμόζει τον ίδιο ορισμό του συστήματος ΤΝ που εφαρμόζει ο παρών κανονισμός.

(64)Δεδομένης της πιο εκτεταμένης πείρας των επαγγελματιών φορέων πιστοποίησης πριν από τη διάθεση στην αγορά στον τομέα της ασφάλειας των προϊόντων, καθώς και της διαφορετικής φύσης των σχετικών κινδύνων, είναι σκόπιμο να περιοριστεί, τουλάχιστον κατά την αρχική φάση εφαρμογής του παρόντος κανονισμού, το πεδίο εφαρμογής της αξιολόγησης της συμμόρφωσης από τρίτους φορείς όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου πλην εκείνων που σχετίζονται με τα προϊόντα. Ως εκ τούτου, η αξιολόγηση της συμμόρφωσης των εν λόγω συστημάτων θα πρέπει να διενεργείται, κατά γενικό κανόνα, από τον πάροχο, με δική του ευθύνη, με μόνη εξαίρεση τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εξ αποστάσεως βιομετρική ταυτοποίηση προσώπων, για την οποία θα πρέπει να προβλέπεται η συμμετοχή κοινοποιημένου οργανισμού στην αξιολόγηση της συμμόρφωσης, στον βαθμό που δεν απαγορεύονται.

(65)Για τη διενέργεια αξιολόγησης της συμμόρφωσης από τρίτους φορείς, όσον αφορά τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εξ αποστάσεως βιομετρική ταυτοποίηση προσώπων, θα πρέπει να οριστούν από τις εθνικές αρμόδιες αρχές κοινοποιημένοι οργανισμοί, βάσει του παρόντος κανονισμού, υπό την προϋπόθεση ότι συμμορφώνονται με ένα σύνολο απαιτήσεων, ιδίως όσον αφορά την ανεξαρτησία, την επάρκεια και την απουσία συγκρούσεων συμφερόντων.

(66)Σύμφωνα με την κοινώς καθιερωμένη έννοια της ουσιαστικής τροποποίησης, όσον αφορά τα προϊόντα που ρυθμίζονται από την ενωσιακή νομοθεσία εναρμόνισης, είναι σκόπιμο ένα σύστημα ΤΝ να υποβάλλεται σε νέα αξιολόγηση της συμμόρφωσης όποτε επέρχεται αλλαγή η οποία ενδέχεται να επηρεάσει τη συμμόρφωση του συστήματος με τον παρόντα κανονισμό ή όταν αλλάζει ο επιδιωκόμενος σκοπός του συστήματος. Επιπλέον, όσον αφορά τα συστήματα ΤΝ που συνεχίζουν να «μαθαίνουν» μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία (δηλαδή προσαρμόζουν αυτόματα τον τρόπο εκτέλεσης των λειτουργιών) είναι αναγκαίο να θεσπιστούν κανόνες που να ορίζουν ότι οι αλλαγές στον αλγόριθμο και στις επιδόσεις του συστήματος που έχουν προκαθοριστεί από τον πάροχο και έχουν αξιολογηθεί κατά τον χρόνο της αξιολόγησης της συμμόρφωσης δεν θα πρέπει να συνιστούν ουσιαστική τροποποίηση.

(67)Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να φέρουν τη σήμανση CE ώστε να δηλώνεται η συμμόρφωσή τους με τον παρόντα κανονισμό και να μπορούν να κυκλοφορούν ελεύθερα εντός της εσωτερικής αγοράς. Τα κράτη μέλη δεν θα πρέπει να δημιουργούν αδικαιολόγητα εμπόδια στη διάθεση στην αγορά ή στη θέση σε λειτουργία των συστημάτων ΤΝ υψηλού κινδύνου που συμμορφώνονται με τις απαιτήσεις που ορίζονται στον παρόντα κανονισμό και φέρουν τη σήμανση CE.

(68)Υπό ορισμένες προϋποθέσεις, η ταχεία διαθεσιμότητα καινοτόμων τεχνολογιών μπορεί να έχει κρίσιμη σημασία για την υγεία και την ασφάλεια των προσώπων και για την κοινωνία στο σύνολό της. Συνεπώς, είναι σκόπιμο, για εξαιρετικούς λόγους δημόσιας ασφάλειας ή προστασίας της ζωής και της υγείας φυσικών προσώπων και της προστασίας της βιομηχανικής και εμπορικής ιδιοκτησίας, τα κράτη μέλη να μπορούν να επιτρέπουν τη διάθεση στην αγορά ή τη θέση σε λειτουργία συστημάτων τεχνητής νοημοσύνης που δεν έχουν υποβληθεί σε αξιολόγηση της συμμόρφωσης.

(69)Για να διευκολυνθεί το έργο της Επιτροπής και των κρατών μελών στον τομέα της τεχνητής νοημοσύνης, καθώς και να αυξηθεί η διαφάνεια έναντι του κοινού, οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου εκτός αυτών που σχετίζονται με προϊόντα που εμπίπτουν στο πεδίο εφαρμογής της σχετικής υφιστάμενης ενωσιακής νομοθεσίας εναρμόνισης, θα πρέπει να υποχρεούνται να καταχωρίζουν το οικείο σύστημα ΤΝ υψηλού κινδύνου σε βάση δεδομένων της ΕΕ, την οποία θα δημιουργήσει και θα διαχειρίζεται η Επιτροπή. Η Επιτροπή θα πρέπει να είναι ο υπεύθυνος επεξεργασίας αυτής της βάσης δεδομένων, σύμφωνα με τον κανονισμό (ΕΕ) 2018/1725 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 55 . Προκειμένου να διασφαλιστεί η πλήρης λειτουργικότητα της βάσης δεδομένων, όταν αναπτυχθεί, η διαδικασία για τη δημιουργία της βάσης δεδομένων θα πρέπει να περιλαμβάνει την εκπόνηση λειτουργικών προδιαγραφών από την Επιτροπή και ανεξάρτητη έκθεση ελέγχου.

(70)Ορισμένα συστήματα ΤΝ που προορίζονται να αλληλεπιδρούν με φυσικά πρόσωπα ή να παράγουν περιεχόμενο ενδέχεται να ενέχουν συγκεκριμένους κινδύνους πλαστοπροσωπίας ή παραπλάνησης ανεξάρτητα από το αν χαρακτηρίζονται ως υψηλού κινδύνου ή όχι. Συνεπώς, σε ορισμένες περιπτώσεις, η χρήση των συστημάτων αυτών θα πρέπει να υπόκειται σε ειδικές υποχρεώσεις διαφάνειας, με την επιφύλαξη των απαιτήσεων και των υποχρεώσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου. Ειδικότερα, τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ, εκτός εάν αυτό είναι προφανές από τις περιστάσεις και το πλαίσιο της χρήσης. Επιπλέον τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται όταν εκτίθενται σε σύστημα αναγνώρισης συναισθημάτων ή βιομετρικής κατηγοριοποίησης. Οι πληροφορίες και κοινοποιήσεις θα πρέπει να παρέχονται σε μορφή προσβάσιμη για τα άτομα με αναπηρία. Επιπλέον, οι χρήστες οι οποίοι χρησιμοποιούν σύστημα ΤΝ για τη δημιουργία ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο που έχει αισθητές ομοιότητες με υπαρκτά πρόσωπα, τόπους ή γεγονότα και το οποίο θα μπορούσε να εκληφθεί ψευδώς από κάποιο πρόσωπο ως γνήσιο, θα πρέπει να γνωστοποιούν ότι το περιεχόμενο έχει δημιουργηθεί τεχνητά ή έχει υποστεί χειρισμό, μέσω της κατάλληλης επισήμανσης των στοιχείων εξόδου του συστήματος τεχνητής νοημοσύνης και γνωστοποίησης της τεχνητής προέλευσής του.

(71)Η τεχνητή νοημοσύνη είναι ένα ταχέως αναπτυσσόμενο σύνολο τεχνολογιών που απαιτεί καινοτόμες μορφές ρυθμιστικής εποπτείας και ασφαλή χώρο για πειραματισμό, με παράλληλη διασφάλιση της υπεύθυνης καινοτομίας και της ενσωμάτωσης κατάλληλων διασφαλίσεων και μέτρων μετριασμού του κινδύνου. Προκειμένου να διασφαλιστεί ένα νομικό πλαίσιο φιλικό προς την καινοτομία, ανθεκτικό στις μελλοντικές εξελίξεις και στις διαταραχές, οι εθνικές αρμόδιες αρχές σε ένα ή περισσότερα κράτη μέλη θα πρέπει να ενθαρρυνθούν να δημιουργήσουν ρυθμιστικά δοκιμαστήρια για την τεχνητή νοημοσύνη ώστε να διευκολύνουν την ανάπτυξη και τη δοκιμή καινοτόμων συστημάτων ΤΝ υπό αυστηρή ρυθμιστική εποπτεία προτού τα εν λόγω συστήματα διατεθούν στην αγορά ή τεθούν με άλλο τρόπο σε λειτουργία.

(72)Στόχοι των ρυθμιστικών δοκιμαστηρίων θα πρέπει να είναι η προώθηση της καινοτομίας στον τομέα της ΤΝ με τη δημιουργία περιβάλλοντος ελεγχόμενου πειραματισμού και δοκιμών κατά τη φάση ανάπτυξης και πριν από την εμπορική προώθηση, με σκοπό τη διασφάλιση της συμμόρφωσης των καινοτόμων συστημάτων ΤΝ με τον παρόντα κανονισμό και με άλλη σχετική ενωσιακή νομοθεσία και τη νομοθεσία των κρατών μελών· η ενίσχυση της ασφάλειας δικαίου για τους φορείς καινοτομίας και της άσκησης εποπτείας από τις αρμόδιες αρχές και της εκ μέρους τους κατανόησης των ευκαιριών, των αναδυόμενων κινδύνων και των επιπτώσεων της χρήσης της ΤΝ, καθώς και η επιτάχυνση της πρόσβασης στις αγορές, μεταξύ άλλων με την άρση των φραγμών για τις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ) και τις νεοφυείς επιχειρήσεις. Για να διασφαλιστούν η ομοιόμορφη εφαρμογή σε ολόκληρη την Ένωση και οικονομίες κλίμακας, είναι σκόπιμο να θεσπιστούν κοινοί κανόνες για την εφαρμογή των ρυθμιστικών δοκιμαστηρίων, καθώς και πλαίσιο συνεργασίας μεταξύ των αρμόδιων αρχών που συμμετέχουν στην εποπτεία των δοκιμαστηρίων. Ο παρών κανονισμός θα πρέπει να παρέχει τη νομική βάση για τη χρήση δεδομένων προσωπικού χαρακτήρα, τα οποία έχουν συλλεχθεί για άλλους σκοπούς, για την ανάπτυξη ορισμένων συστημάτων ΤΝ προς το δημόσιο συμφέρον εντός του ρυθμιστικού δοκιμαστηρίου ΤΝ, σύμφωνα με το άρθρο 6 παράγραφος 4 του κανονισμού (ΕΕ) 2016/679 και το άρθρο 6 του κανονισμού (ΕΕ) 2018/1725 και με την επιφύλαξη του άρθρου 4 παράγραφος 2 της οδηγίας 2016/680. Οι συμμετέχοντες στο δοκιμαστήριο θα πρέπει να διασφαλίζουν ότι υπάρχουν κατάλληλες εγγυήσεις και να συνεργάζονται με τις αρμόδιες αρχές, μεταξύ άλλων ακολουθώντας την καθοδήγησή τους και ενεργώντας ταχέως και καλή τη πίστει για τον μετριασμό τυχόν υψηλών κινδύνων για την ασφάλεια και τα θεμελιώδη δικαιώματα που ενδέχεται να προκύψουν κατά την ανάπτυξη και τον πειραματισμό στο πλαίσιο του δοκιμαστηρίου. Η συμπεριφορά των συμμετεχόντων στο δοκιμαστήριο θα πρέπει να λαμβάνεται υπόψη όταν οι αρμόδιες αρχές αποφασίζουν αν θα επιβάλουν διοικητικό πρόστιμο σύμφωνα με το άρθρο 83 παράγραφος 2 του κανονισμού 2016/679 και το άρθρο 57 της οδηγίας 2016/680.

(73)Για την προώθηση και την προστασία της καινοτομίας, είναι σημαντικό να λαμβάνονται ιδιαιτέρως υπόψη τα συμφέροντα των παρόχων μικρής κλίμακας και των χρηστών συστημάτων ΤΝ. Για τον σκοπό αυτό, τα κράτη μέλη θα πρέπει να αναπτύξουν πρωτοβουλίες που θα απευθύνονται στους εν λόγω φορείς εκμετάλλευσης, μεταξύ άλλων όσον αφορά την ευαισθητοποίηση και την ενημέρωση. Επιπλέον, τα ειδικά συμφέροντα και οι ανάγκες των παρόχων μικρής κλίμακας λαμβάνονται υπόψη κατά τον καθορισμό των τελών αξιολόγησης της συμμόρφωσης από τους κοινοποιημένους οργανισμούς. Οι δαπάνες μετάφρασης που σχετίζονται με την υποχρεωτική τεκμηρίωση και επικοινωνία με τις αρχές ενδέχεται να αποτελούν σημαντικό κόστος για τους παρόχους και άλλους φορείς εκμετάλλευσης, ιδίως τους φορείς μικρής κλίμακας. Τα κράτη μέλη θα πρέπει ενδεχομένως να διασφαλίσουν ότι μία από τις γλώσσες που καθορίζουν και αποδέχονται για την τεκμηρίωση των σχετικών παρόχων και για την επικοινωνία με τους φορείς εκμετάλλευσης είναι γλώσσα ευρέως κατανοητή από τον μεγαλύτερο δυνατό αριθμό διασυνοριακών χρηστών.

(74)Προκειμένου να ελαχιστοποιηθούν οι κίνδυνοι για την εφαρμογή, οι οποίοι προκύπτουν από την έλλειψη γνώσεων και εμπειρογνωσίας στην αγορά, καθώς και για να διευκολυνθεί η συμμόρφωση των παρόχων και των κοινοποιημένων οργανισμών με τις υποχρεώσεις τους δυνάμει του παρόντος κανονισμού, η πλατφόρμα ΤΝ κατά παραγγελία, οι ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας και οι εγκαταστάσεις δοκιμών και πειραματισμού που συστήνονται από την Επιτροπή και τα κράτη μέλη σε εθνικό επίπεδο και σε επίπεδο ΕΕ θα πρέπει ενδεχομένως να συμβάλουν στην εφαρμογή του παρόντος κανονισμού. Στο πλαίσιο της αντίστοιχης αποστολής και των πεδίων αρμοδιοτήτων τους, μπορούν να παρέχουν ιδίως τεχνική και επιστημονική υποστήριξη σε παρόχους και κοινοποιημένους οργανισμούς,

(75)Είναι σκόπιμο η Επιτροπή να διευκολύνει, στο μέτρο του δυνατού, την πρόσβαση σε εγκαταστάσεις δοκιμών και πειραματισμού για τους φορείς, τις ομάδες ή τα εργαστήρια που έχουν συσταθεί ή διαπιστευθεί σύμφωνα με οποιαδήποτε σχετική ενωσιακή νομοθεσία εναρμόνισης και οι οποίοι εκτελούν καθήκοντα στο πλαίσιο της αξιολόγησης της συμμόρφωσης προϊόντων ή συσκευών που καλύπτονται από την εν λόγω ενωσιακή νομοθεσία εναρμόνισης. Αυτό ισχύει ιδίως για τις ομάδες εμπειρογνωμόνων, τα εργαστήρια εμπειρογνωμόνων και τα εργαστήρια αναφοράς στον τομέα των ιατροτεχνολογικών προϊόντων σύμφωνα με τον κανονισμό (ΕΕ) 2017/745 και τον κανονισμό (ΕΕ) 2017/746,

(76)Προκειμένου να διευκολυνθεί η ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του παρόντος κανονισμού θα πρέπει να συσταθεί Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης. Το Συμβούλιο θα πρέπει να είναι αρμόδιο για την εκτέλεση ορισμένων συμβουλευτικών καθηκόντων, συμπεριλαμβανομένης της έκδοσης γνωμών, συστάσεων, συμβουλών ή κατευθυντήριων οδηγιών σε θέματα που σχετίζονται με την εφαρμογή του παρόντος κανονισμού, μεταξύ άλλων σε σχέση με τεχνικές προδιαγραφές ή υφιστάμενα πρότυπα όσον αφορά τις απαιτήσεις που θεσπίζονται με τον παρόντα κανονισμό, καθώς και της παροχής συμβουλών και συνδρομής στην Επιτροπή για συγκεκριμένα ζητήματα που σχετίζονται με την τεχνητή νοημοσύνη.

(77)Τα κράτη μέλη διαδραματίζουν καίριο ρόλο στην εφαρμογή και την επιβολή του παρόντος κανονισμού. Στο πλαίσιο αυτό, κάθε κράτος μέλος θα πρέπει να ορίσει μία ή περισσότερες εθνικές αρμόδιες αρχές για την εποπτεία της εφαρμογής και της υλοποίησης του παρόντος κανονισμού. Προκειμένου να αυξηθεί η αποτελεσματικότητα της οργάνωσης από την πλευρά των κρατών μελών και να δημιουργηθεί ένα επίσημο σημείο επαφής με το κοινό και άλλους ομολόγους σε επίπεδο κρατών μελών και σε επίπεδο Ένωσης, σε κάθε κράτος μέλος θα πρέπει να οριστεί μία εθνική αρχή ως εθνική εποπτική αρχή.

(78)Προκειμένου να διασφαλιστεί ότι οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου μπορούν να λαμβάνουν υπόψη την πείρα από τη χρήση συστημάτων ΤΝ υψηλού κινδύνου για τη βελτίωση των συστημάτων τους και τη διαδικασία σχεδιασμού και ανάπτυξης ή να μπορούν να λαμβάνουν εγκαίρως τυχόν διορθωτικά μέτρα, όλοι οι πάροχοι θα πρέπει να διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Το εν λόγω σύστημα έχει επίσης καίρια σημασία προκειμένου να διασφαλίζεται ότι οι πιθανοί κίνδυνοι που προκύπτουν από συστήματα ΤΝ τα οποία συνεχίζουν να «μαθαίνουν» μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία μπορούν να αντιμετωπιστούν αποτελεσματικότερα και πιο έγκαιρα. Σε αυτό το πλαίσιο, οι πάροχοι θα πρέπει επίσης να υποχρεούνται να διαθέτουν σύστημα για την αναφορά, στις δημόσιες αρχές, τυχόν σοβαρών περιστατικών ή παραβιάσεων της εθνικής ή της ενωσιακής νομοθεσίας για την προστασία των θεμελιωδών δικαιωμάτων που προκύπτουν από τη χρήση των οικείων συστημάτων ΤΝ.

(79)Προκειμένου να διασφαλιστεί η κατάλληλη και αποτελεσματική επιβολή των απαιτήσεων και των υποχρεώσεων που ορίζονται στον παρόντα κανονισμό, ο οποίος αποτελεί ενωσιακή νομοθεσία εναρμόνισης, θα πρέπει να εφαρμόζεται στο σύνολό του το σύστημα εποπτείας της αγοράς και συμμόρφωσης των προϊόντων που θεσπίστηκε με τον κανονισμό (ΕΕ) 2019/1020. Όταν απαιτείται για την άσκηση της εντολής τους, οι εθνικές αρμόδιες αρχές ή φορείς που έχουν επιφορτιστεί με την εποπτεία της εφαρμογής του δικαίου της Ένωσης για την προστασία των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένων των φορέων ισότητας, θα πρέπει επίσης να έχουν πρόσβαση σε κάθε φάκελο τεκμηρίωσης που δημιουργείται στο πλαίσιο του παρόντος κανονισμού.

(80)Η νομοθεσία της Ένωσης για τις χρηματοπιστωτικές υπηρεσίες περιλαμβάνει κανόνες και απαιτήσεις εσωτερικής διακυβέρνησης και διαχείρισης κινδύνου που εφαρμόζονται στα ρυθμιζόμενα χρηματοπιστωτικά ιδρύματα στο πλαίσιο της παροχής των εν λόγω υπηρεσιών, μεταξύ άλλων όταν χρησιμοποιούνται συστήματα τεχνητής νοημοσύνης. Προκειμένου να διασφαλιστεί η συνεκτική εφαρμογή και επιβολή των υποχρεώσεων δυνάμει του παρόντος κανονισμού και των σχετικών κανόνων και απαιτήσεων της νομοθεσίας της Ένωσης για τις χρηματοπιστωτικές υπηρεσίες, οι αρχές που είναι αρμόδιες για την εποπτεία και την επιβολή της νομοθεσίας για τις χρηματοπιστωτικές υπηρεσίες, συμπεριλαμβανομένης, κατά περίπτωση, της Ευρωπαϊκής Κεντρικής Τράπεζας, θα πρέπει να οριστούν ως αρμόδιες αρχές για την εποπτεία της εφαρμογής του παρόντος κανονισμού, μεταξύ άλλων και για τις δραστηριότητες εποπτείας της αγοράς, όσον αφορά τα συστήματα ΤΝ που παρέχονται ή χρησιμοποιούνται από ρυθμιζόμενα και εποπτευόμενα χρηματοπιστωτικά ιδρύματα. Προκειμένου να ενισχυθεί περαιτέρω η συνέπεια μεταξύ του παρόντος κανονισμού και των κανόνων που ισχύουν για τα πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 56 , είναι επίσης σκόπιμο η διαδικασία αξιολόγησης και ορισμένες από τις διαδικαστικές υποχρεώσεις των παρόχων σε σχέση με τη διαχείριση κινδύνου, την παρακολούθηση μετά τη διάθεση στην αγορά και την τεκμηρίωση, να ενσωματωθούν στις υφιστάμενες υποχρεώσεις και διαδικασίες δυνάμει της οδηγίας 2013/36/ΕΕ. Προκειμένου να αποφευχθούν αλληλεπικαλύψεις, θα πρέπει επίσης να προβλεφθούν περιορισμένες παρεκκλίσεις σε σχέση με το σύστημα διαχείρισης ποιότητας των παρόχων και την υποχρέωση παρακολούθησης που επιβάλλεται σε χρήστες συστημάτων ΤΝ υψηλού κινδύνου, στον βαθμό που ισχύουν για πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ.

(81)Η ανάπτυξη συστημάτων ΤΝ πέραν των συστημάτων ΤΝ υψηλού κινδύνου σύμφωνα με τις απαιτήσεις του παρόντος κανονισμού μπορεί να οδηγήσει στην ευρύτερη αποδοχή αξιόπιστης τεχνητής νοημοσύνης στην Ένωση. Οι πάροχοι συστημάτων ΤΝ μη υψηλού κινδύνου θα πρέπει να ενθαρρύνονται να δημιουργούν κώδικες δεοντολογίας με σκοπό την εθελοντική εφαρμογή των υποχρεωτικών απαιτήσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου. Οι πάροχοι θα πρέπει επίσης να ενθαρρύνονται να εφαρμόζουν σε εθελοντική βάση πρόσθετες απαιτήσεις που σχετίζονται, για παράδειγμα, με την περιβαλλοντική βιωσιμότητα, την προσβασιμότητα για τα άτομα με αναπηρία, τη συμμετοχή των ενδιαφερόμενων μερών στον σχεδιασμό και την ανάπτυξη συστημάτων ΤΝ και την ποικιλομορφία των ομάδων ανάπτυξης. Η Επιτροπή μπορεί να αναπτύξει πρωτοβουλίες, μεταξύ άλλων τομεακού χαρακτήρα, για να διευκολύνει τη μείωση των τεχνικών φραγμών που εμποδίζουν τη διασυνοριακή ανταλλαγή δεδομένων για την ανάπτυξη τεχνητής νοημοσύνης, μεταξύ άλλων όσον αφορά την υποδομή πρόσβασης σε δεδομένα, και τη σημασιολογική και τεχνική διαλειτουργικότητα των διαφόρων τύπων δεδομένων.

(82)Είναι σημαντικό τα συστήματα ΤΝ που σχετίζονται με προϊόντα που δεν είναι υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό και, ως εκ τούτου, δεν απαιτείται να συμμορφώνονται με τις απαιτήσεις που ορίζονται στον παρόντα κανονισμό να είναι, παρόλα αυτά, ασφαλή κατά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Για να προωθηθεί η επίτευξη αυτού του στόχου, η οδηγία 2001/95/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 57 θα εφαρμόζεται ως δίχτυ ασφαλείας.

(83)Προκειμένου να διασφαλιστεί η αξιόπιστη και εποικοδομητική συνεργασία των αρμόδιων αρχών σε ενωσιακό και σε εθνικό επίπεδο, όλα τα μέρη που συμμετέχουν στην εφαρμογή του παρόντος κανονισμού θα πρέπει να τηρούν την εμπιστευτικότητα των πληροφοριών και των δεδομένων που λαμβάνονται κατά την εκτέλεση των καθηκόντων τους.

(84)Τα κράτη μέλη θα πρέπει να λαμβάνουν όλα τα απαραίτητα μέτρα για να εξασφαλίζουν την εφαρμογή των διατάξεων του παρόντος κανονισμού, μεταξύ άλλων θεσπίζοντας αποτελεσματικές, αναλογικές και αποτρεπτικές ποινές για την παράβασή τους. Για ορισμένες συγκεκριμένες παραβάσεις, τα κράτη μέλη θα πρέπει να λαμβάνουν υπόψη τα περιθώρια και τα κριτήρια που καθορίζονται στον παρόντα κανονισμό. Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων θα πρέπει να έχει την εξουσία να επιβάλλει πρόστιμα σε θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού.

(85)Προκειμένου να διασφαλιστεί ότι το κανονιστικό πλαίσιο μπορεί να προσαρμόζεται όταν απαιτείται, θα πρέπει να ανατεθεί στην Επιτροπή η εξουσία έκδοσης πράξεων σύμφωνα με το άρθρο 290 ΣΛΕΕ ώστε να τροποποιεί τις τεχνικές και τις προσεγγίσεις που αναφέρονται στο παράρτημα Ι για τον καθορισμό των συστημάτων ΤΝ, την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα II, τα συστήματα ΤΝ υψηλού κινδύνου που απαριθμούνται στο παράρτημα ΙΙΙ, τις διατάξεις που αφορούν τον τεχνικό φάκελο στο παράρτημα IV, το περιεχόμενο της δήλωσης συμμόρφωσης ΕΕ που αναφέρεται στο παράρτημα V, τις διατάξεις που αφορούν τις διαδικασίες αξιολόγησης της συμμόρφωσης στα παραρτήματα VI και VII και τις διατάξεις για τον καθορισμό των συστημάτων ΤΝ υψηλού κινδύνου στα οποία θα πρέπει να εφαρμόζεται η διαδικασία αξιολόγησης της συμμόρφωσης βάσει αξιολόγησης του συστήματος διαχείρισης της ποιότητας και αξιολόγησης του τεχνικού φακέλου. Είναι ιδιαίτερα σημαντικό η Επιτροπή να διεξάγει, κατά τις προπαρασκευαστικές της εργασίες, τις κατάλληλες διαβουλεύσεις, μεταξύ άλλων σε επίπεδο εμπειρογνωμόνων, και οι διαβουλεύσεις αυτές να πραγματοποιούνται σύμφωνα με τις αρχές που ορίζονται στη διοργανική συμφωνία της 13ης Απριλίου 2016 για τη βελτίωση του νομοθετικού έργου 58 . Πιο συγκεκριμένα, προκειμένου να εξασφαλιστεί η ίση συμμετοχή στην προετοιμασία των κατ’ εξουσιοδότηση πράξεων, το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο λαμβάνουν όλα τα έγγραφα κατά τον ίδιο χρόνο με τους εμπειρογνώμονες των κρατών μελών, και οι εμπειρογνώμονές τους έχουν συστηματικά πρόσβαση στις συνεδριάσεις των ομάδων εμπειρογνωμόνων της Επιτροπής που ασχολούνται με την προετοιμασία κατ’ εξουσιοδότηση πράξεων.

(86)Προκειμένου να εξασφαλισθούν ενιαίες προϋποθέσεις για την εκτέλεση του παρόντος κανονισμού, θα πρέπει να ανατεθούν στην Επιτροπή εκτελεστικές αρμοδιότητες. Οι εν λόγω αρμοδιότητες θα πρέπει να ασκούνται σύμφωνα με τον κανονισμό (ΕΕ) αριθ. 182/2011 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 59 .

(87)Δεδομένου ότι ο στόχος του παρόντος κανονισμού δεν μπορεί να επιτευχθεί επαρκώς από τα κράτη μέλη, μπορεί όμως, λόγω της κλίμακας ή των αποτελεσμάτων της δράσης, να επιτευχθεί καλύτερα σε ενωσιακό επίπεδο, η Ένωση δύναται να λάβει μέτρα σύμφωνα με την αρχή της επικουρικότητας, η οποία διατυπώνεται στο άρθρο 5 της ΣΕΕ. Σύμφωνα με την αρχή της αναλογικότητας, όπως ορίζεται στο ίδιο άρθρο, ο παρών κανονισμός δεν υπερβαίνει τα αναγκαία για την επίτευξη του εν λόγω στόχου.

(88)Ο παρών κανονισμός θα πρέπει να αρχίσει να εφαρμόζεται από...[Υπηρεσία Εκδόσεων: να προστεθεί η ημερομηνία που ορίζεται στο άρθρο 85]. Ωστόσο, η υποδομή που σχετίζεται με τη διακυβέρνηση και το σύστημα αξιολόγησης της συμμόρφωσης θα πρέπει να τεθεί σε λειτουργία πριν από την εν λόγω ημερομηνία, συνεπώς οι διατάξεις για τους κοινοποιημένους οργανισμούς και τη δομή διακυβέρνησης θα πρέπει να αρχίσουν να εφαρμόζονται από [Υπηρεσία Εκδόσεων: να προστεθεί η ημερομηνία — τρεις μήνες μετά την έναρξη ισχύος του παρόντος κανονισμού]. Επιπλέον, τα κράτη μέλη θα πρέπει να θεσπίσουν και να κοινοποιήσουν στην Επιτροπή κανόνες σχετικά με τις κυρώσεις, συμπεριλαμβανομένων των διοικητικών προστίμων, και να διασφαλίσουν την ορθή και αποτελεσματική εφαρμογή τους έως την ημερομηνία εφαρμογής του παρόντος κανονισμού. Ως εκ τούτου, οι διατάξεις σχετικά με τις κυρώσεις θα πρέπει να αρχίσουν να εφαρμόζονται από [Υπηρεσία Εκδόσεων: να προστεθεί η ημερομηνία — δώδεκα μήνες μετά την έναρξη ισχύος του παρόντος κανονισμού].

(89)Πραγματοποιήθηκε διαβούλευση, σύμφωνα με το άρθρο 42 παράγραφος 2 του κανονισμού (ΕΕ) 2018/1725, με τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων και το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων, οι οποίοι γνωμοδότησαν στις [...],

ΕΞΕΔΩΣΑΝ ΤΟΝ ΠΑΡΟΝΤΑ ΚΑΝΟΝΙΣΜΟ:

ΤΙΤΛΟΣ I

ΓΕΝΙΚΕΣ ΔΙΑΤΑΞΕΙΣ

Άρθρο 1
Αντικείμενο

Ο παρών κανονισμός θεσπίζει:

α)εναρμονισμένους κανόνες για τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων τεχνητής νοημοσύνης (στο εξής: συστήματα ΤΝ) στην Ένωση·

β)απαγορεύσεις ορισμένων πρακτικών τεχνητής νοημοσύνης·

γ)ειδικές απαιτήσεις για συστήματα ΤΝ υψηλού κινδύνου και υποχρεώσεις για τους φορείς εκμετάλλευσης τέτοιων συστημάτων·

δ)εναρμονισμένους κανόνες διαφάνειας για τα συστήματα ΤΝ που προορίζονται για αλληλεπίδραση με φυσικά πρόσωπα, συστήματα αναγνώρισης συναισθημάτων και τα συστήματα βιομετρικής κατηγοριοποίησης, καθώς και τα συστήματα ΤΝ που χρησιμοποιούνται για τη δημιουργία ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο·

ε)κανόνες για την παρακολούθηση και την εποπτεία της αγοράς.

Άρθρο 2
Πεδίο εφαρμογής

1.Ο παρών κανονισμός εφαρμόζεται σε:

α)παρόχους που διαθέτουν στην αγορά ή θέτουν σε λειτουργία συστήματα ΤΝ στην Ένωση, ανεξάρτητα από το αν οι εν λόγω πάροχοι είναι εγκατεστημένοι εντός της Ένωσης ή σε τρίτη χώρα·

β)χρήστες συστημάτων ΤΝ οι οποίοι βρίσκονται εντός της Ένωσης·

γ)παρόχους και χρήστες συστημάτων ΤΝ οι οποίοι βρίσκονται σε τρίτη χώρα, όταν τα στοιχεία εξόδου που παράγει το σύστημα χρησιμοποιούνται στην Ένωση.

2.Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή συστημάτων ή που είναι τα ίδια προϊόντα ή συστήματα και εμπίπτουν στο πεδίο εφαρμογής των ακόλουθων πράξεων, εφαρμόζεται μόνο το άρθρο 84 του παρόντος κανονισμού:

α)του κανονισμού (EΚ) αριθ. 300/2008·

β)του κανονισμού (ΕΕ) αριθ. 167/2013·

γ)του κανονισμού (ΕΕ) αριθ. 168/2013·

δ)της οδηγίας 2014/90/ΕΕ·

ε)της οδηγίας (ΕΕ) 2016/797·

στ)του κανονισμού (EΕ) 2018/858·

ζ)του κανονισμού (EΕ) 2018/1139·

η)του κανονισμού (ΕΕ) 2019/2144.

3.Ο παρών κανονισμός δεν εφαρμόζεται σε συστήματα που αναπτύσσονται ή χρησιμοποιούνται αποκλειστικά για στρατιωτικούς σκοπούς.

4.Ο παρών κανονισμός δεν εφαρμόζεται σε δημόσιες αρχές τρίτης χώρας ούτε σε διεθνείς οργανισμούς που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού σύμφωνα με την παράγραφο 1, όταν οι εν λόγω αρχές ή οργανισμοί χρησιμοποιούν συστήματα ΤΝ στο πλαίσιο διεθνών συμφωνιών για την επιβολή του νόμου και τη δικαστική συνεργασία με την Ένωση ή με ένα ή περισσότερα κράτη μέλη.

5.Ο παρών κανονισμός δεν θίγει την εφαρμογή των διατάξεων σχετικά με την ευθύνη των μεσαζόντων παροχής υπηρεσιών που ορίζονται στο κεφάλαιο II, τμήμα IV της οδηγίας 2000/31/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 60 [όπως θα αντικατασταθούν από τις αντίστοιχες διατάξεις της πράξης για τις ψηφιακές υπηρεσίες].

Άρθρο 3
Ορισμοί

Για τους σκοπούς του παρόντος κανονισμού, ισχύουν οι ακόλουθοι ορισμοί:

(1)«σύστημα τεχνητής νοημοσύνης» (σύστημα ΤΝ): λογισμικό που αναπτύσσεται με μία ή περισσότερες από τις τεχνικές και προσεγγίσεις που παρατίθενται στο παράρτημα I και μπορεί, για ένα δεδομένο σύνολο στόχων που έχουν καθοριστεί από τον άνθρωπο, να παράγει στοιχεία εξόδου όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν τα περιβάλλοντα με τα οποία αλληλεπιδρά·

(2)«πάροχος»: το φυσικό ή νομικό πρόσωπο, η δημόσια αρχή, η υπηρεσία ή άλλος φορέας που αναπτύσσει σύστημα ΤΝ ή έχει στην κατοχή του σύστημα ΤΝ το οποίο έχει αναπτυχθεί με σκοπό να το διαθέσει στην αγορά ή να το θέσει σε λειτουργία με τη δική του επωνυμία ή εμπορικό σήμα, είτε έναντι αντιτίμου είτε δωρεάν·

(3)«πάροχος μικρής κλίμακας»: πάροχος που είναι πολύ μικρή ή μικρή επιχείρηση κατά την έννοια της σύστασης 2003/361/ΕΚ της Επιτροπής 61 ·

(4)«χρήστης»: κάθε φυσικό ή νομικό πρόσωπο, δημόσια αρχή, υπηρεσία ή άλλος φορέας που χρησιμοποιεί σύστημα ΤΝ υπό την ευθύνη του, εκτός εάν το σύστημα ΤΝ χρησιμοποιείται στο πλαίσιο προσωπικής μη επαγγελματικής δραστηριότητας·

(5)«εξουσιοδοτημένος αντιπρόσωπος»: κάθε φυσικό ή νομικό πρόσωπο εγκατεστημένο στην Ένωση, το οποίο έχει λάβει γραπτή εντολή από πάροχο συστήματος ΤΝ να εκπληρώνει και να διεκπεραιώνει, αντίστοιχα, εξ ονόματός του, τις υποχρεώσεις και τις διαδικασίες που θεσπίζονται με τον παρόντα κανονισμό·

(6)«εισαγωγέας»: κάθε φυσικό ή νομικό πρόσωπο εγκατεστημένο στην Ένωση που διαθέτει στην αγορά ή θέτει σε λειτουργία σύστημα ΤΝ το οποίο φέρει την επωνυμία ή το εμπορικό σήμα φυσικού ή νομικού προσώπου εγκατεστημένου εκτός της Ένωσης·

(7)«διανομέας»: κάθε φυσικό ή νομικό πρόσωπο στην αλυσίδα εφοδιασμού, πλην του κατασκευαστή και του εισαγωγέα, το οποίο θέτει σύστημα ΤΝ σε κυκλοφορία στην αγορά της Ένωσης, χωρίς να επηρεάζει τις ιδιότητές του·

(8)«φορέας εκμετάλλευσης»: ο πάροχος, ο χρήστης, ο εξουσιοδοτημένος αντιπρόσωπος, ο εισαγωγέας και ο διανομέας·

(9)«διάθεση στην αγορά»: η πρώτη φορά κατά την οποία σύστημα ΤΝ καθίσταται διαθέσιμο στην αγορά της Ένωσης·

(10)«διαθεσιμότητα στην αγορά»: κάθε προσφορά συστήματος ΤΝ για διανομή ή χρήση στην αγορά της Ένωσης στο πλαίσιο εμπορικής δραστηριότητας, είτε έναντι αντιτίμου είτε δωρεάν·

(11)«θέση σε λειτουργία»: η προσφορά συστήματος ΤΝ για πρώτη χρήση απευθείας στον χρήστη ή για ιδία χρήση στην αγορά της Ένωσης για τον επιδιωκόμενο σκοπό του·

(12)«επιδιωκόμενος σκοπός»: η χρήση για την οποία προορίζει το σύστημα ΤΝ ο πάροχος του συστήματος, συμπεριλαμβανομένων του ειδικού πλαισίου και των όρων χρήσης, όπως προσδιορίζονται στις πληροφορίες που παρέχει ο πάροχος στις οδηγίες χρήσης, σε διαφημιστικό υλικό ή στο υλικό πωλήσεων και σε δηλώσεις, καθώς και στον τεχνικό φάκελο·

(13)«ευλόγως προβλέψιμη κακή χρήση»: η χρήση συστήματος ΤΝ κατά τρόπο που δεν συνάδει με τον επιδιωκόμενο σκοπό του, αλλά μπορεί να προκύψει από ευλόγως προβλέψιμη ανθρώπινη συμπεριφορά ή αλληλεπίδραση με άλλα συστήματα·

(14)«κατασκευαστικό στοιχείο ασφάλειας προϊόντος ή συστήματος»: το κατασκευαστικό στοιχείο προϊόντος ή συστήματος το οποίο επιτελεί λειτουργία ασφάλειας για το εν λόγω προϊόν ή σύστημα ή του οποίου η αστοχία ή δυσλειτουργία θέτει σε κίνδυνο την υγεία και την ασφάλεια προσώπων ή περιουσιακών στοιχείων·

(15)«οδηγίες χρήσης»: οι πληροφορίες που παρέχονται από τον πάροχο για την ενημέρωση του χρήστη ιδίως σχετικά με τον επιδιωκόμενο σκοπό και την ορθή χρήση ενός συστήματος ΤΝ, συμπεριλαμβανομένου του συγκεκριμένου γεωγραφικού, συμπεριφορικού ή λειτουργικού περιβάλλοντος εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου·

(16)«ανάκληση συστήματος ΤΝ»: κάθε μέτρο που αποσκοπεί στην επιστροφή, στον πάροχο, συστήματος ΤΝ που έχει τεθεί στη διάθεση των χρηστών·

(17)«απόσυρση συστήματος ΤΝ»: κάθε μέτρο που αποσκοπεί στην παρεμπόδιση της διανομής, της έκθεσης και της προσφοράς ενός συστήματος ΤΝ·

(18)«επιδόσεις συστήματος ΤΝ»: η ικανότητα ενός συστήματος ΤΝ να επιτυγχάνει τον επιδιωκόμενο σκοπό του·

(19)«κοινοποιούσα αρχή»: η εθνική αρχή που είναι υπεύθυνη για τον καθορισμό και τη διεξαγωγή των αναγκαίων διαδικασιών αξιολόγησης, ορισμού και κοινοποίησης των οργανισμών αξιολόγησης της συμμόρφωσης, καθώς και για την παρακολούθησή τους·

(20)«αξιολόγηση της συμμόρφωσης»: η διαδικασία με την οποία ελέγχεται αν πληρούνται οι απαιτήσεις που καθορίζονται στον τίτλο ΙΙΙ κεφάλαιο 2 του παρόντος κανονισμού σε σχέση με ένα σύστημα ΤΝ·

(21)«οργανισμός αξιολόγησης της συμμόρφωσης»: φορέας που εκτελεί δραστηριότητες αξιολόγησης της συμμόρφωσης ως τρίτο πρόσωπο, συμπεριλαμβανομένων των δοκιμών, της πιστοποίησης και της επιθεώρησης·

(22)«κοινοποιημένος οργανισμός»: οργανισμός αξιολόγησης της συμμόρφωσης που ορίζεται σύμφωνα με τον παρόντα κανονισμό και άλλη σχετική ενωσιακή νομοθεσία·

(23)«ουσιαστική τροποποίηση»: αλλαγή στο σύστημα ΤΝ μετά τη διάθεσή του στην αγορά ή τη θέση του σε λειτουργία, η οποία επηρεάζει τη συμμόρφωση του συστήματος ΤΝ με τις απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2 του παρόντος κανονισμού ή επιφέρει τροποποίηση του επιδιωκόμενου σκοπού για τον οποίο έχει αξιολογηθεί το σύστημα ΤΝ·

(24)«σήμανση συμμόρφωσης CE» (σήμανση CE): η σήμανση με την οποία ο πάροχος δηλώνει ότι το σύστημα ΤΝ συμμορφώνεται με τις απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2 του παρόντος κανονισμού και άλλης ισχύουσας ενωσιακής νομοθεσίας η οποία εναρμονίζει τους όρους εμπορίας των προϊόντων (στο εξής: ενωσιακή νομοθεσία εναρμόνισης) όπου προβλέπεται η τοποθέτηση της εν λόγω σήμανσης·

(25)«εποπτεία μετά τη διάθεση στην αγορά»: το σύνολο των ενεργειών που πραγματοποιούν οι πάροχοι συστημάτων ΤΝ με στόχο την προδραστική συλλογή στοιχείων και την αξιολόγηση της πείρας από τη χρήση συστημάτων ΤΝ τα οποία διαθέτουν οι ίδιοι στην αγορά ή θέτουν σε λειτουργία προκειμένου να εντοπίζουν ενδεχόμενη ανάγκη άμεσης εφαρμογής διορθωτικών ή προληπτικών μέτρων·

(26)«αρχή εποπτείας της αγοράς»: η εθνική αρχή που διεξάγει τις δραστηριότητες και λαμβάνει μέτρα σύμφωνα με τον κανονισμό (ΕΕ) 2019/1020·

(27)«εναρμονισμένο πρότυπο»: ευρωπαϊκό πρότυπο, όπως ορίζεται στο άρθρο 2 παράγραφος 1 στοιχείο γ) το κανονισμού (ΕΕ) αριθ. 1025/2012·

(28)«κοινές προδιαγραφές»: έγγραφο, εκτός των προτύπων, το οποίο περιέχει τεχνικές λύσεις που παρέχουν ένα μέσο για τη συμμόρφωση με ορισμένες απαιτήσεις και υποχρεώσεις που θεσπίζονται δυνάμει του παρόντος κανονισμού·

(29)«δεδομένα εκπαίδευσης»: δεδομένα που χρησιμοποιούνται για την εκπαίδευση ενός συστήματος ΤΝ μέσω της προσαρμογής των διδάξιμων παραμέτρων του, συμπεριλαμβανομένων των βαρών νευρωνικού δικτύου·

(30)«δεδομένα επικύρωσης»: δεδομένα που χρησιμοποιούνται για την αξιολόγηση του εκπαιδευμένου συστήματος ΤΝ και για τον συντονισμό των μη διδάξιμων παραμέτρων του και της οικείας διαδικασίας μάθησης, μεταξύ άλλων, με σκοπό την αποτροπή της υπερπροσαρμογής, λαμβανομένου υπόψη ότι το σύνολο δεδομένων επικύρωσης μπορεί να είναι χωριστό σύνολο δεδομένων ή μέρος συνόλου δεδομένων εκπαίδευσης, είτε ως σταθερό είτε ως μεταβλητό τμήμα·

(31)«δεδομένα δοκιμής»: δεδομένα που χρησιμοποιούνται για την παροχή ανεξάρτητης αξιολόγησης του εκπαιδευμένου και επικυρωμένου συστήματος ΤΝ, προκειμένου να επιβεβαιωθούν οι αναμενόμενες επιδόσεις του εν λόγω συστήματος πριν από τη διάθεσή του στην αγορά ή τη θέση του σε λειτουργία·

(32)«δεδομένα εισόδου»: δεδομένα που παρέχονται σε σύστημα ΤΝ ή λαμβάνονται απευθείας από αυτό, βάσει των οποίων το σύστημα παράγει στοιχεία εξόδου·

(33)«βιομετρικά δεδομένα»: τα δεδομένα προσωπικού χαρακτήρα τα οποία προκύπτουν από ειδική τεχνική επεξεργασία συνδεόμενη με τα φυσικά χαρακτηριστικά, τα χαρακτηριστικά της φυσιολογίας ή τα συμπεριφορικά χαρακτηριστικά φυσικού προσώπου και τα οποία επιτρέπουν ή επιβεβαιώνουν τη μοναδική ταυτοποίηση του εν λόγω φυσικού προσώπου, όπως εικόνες προσώπου ή δακτυλοσκοπικά δεδομένα·

(34)«σύστημα αναγνώρισης συναισθημάτων»: σύστημα ΤΝ για τον προσδιορισμό ή τη διαπίστωση συναισθημάτων ή προθέσεων φυσικών προσώπων βάσει των βιομετρικών δεδομένων τους·

(35)«σύστημα βιομετρικής κατηγοριοποίησης»: σύστημα ΤΝ για την κατάταξη φυσικών προσώπων σε συγκεκριμένες κατηγορίες, όπως φύλο, ηλικία, χρώμα μαλλιών, χρώμα οφθαλμών, δερματοστιξία, εθνοτική καταγωγή ή γενετήσιος ή πολιτικός προσανατολισμός, βάσει των βιομετρικών δεδομένων τους·

(36)«σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης»: σύστημα ΤΝ για την εξ αποστάσεως ταυτοποίηση φυσικών προσώπων μέσω της αντιπαραβολής των βιομετρικών δεδομένων του προσώπου με τα βιομετρικά δεδομένα που περιέχονται σε βάση δεδομένων αναφοράς και χωρίς ο χρήστης του συστήματος ΤΝ να γνωρίζει εκ των προτέρων αν το πρόσωπο θα είναι παρόν και μπορεί να ταυτοποιηθεί·

(37)«σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης ‘‘σε πραγματικό χρόνο”»: σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης στο οποίο η λήψη βιομετρικών δεδομένων, η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται χωρίς σημαντική καθυστέρηση. Αυτό δεν περιλαμβάνει μόνο την άμεση ταυτοποίηση, αλλά και περιορισμένες σύντομες καθυστερήσεις προς αποφυγή καταστρατηγήσεων.

(38)«σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης ‘‘σε ύστερο χρόνο”»: σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης, διαφορετικό από το σύστημα εξ αποστάσεως βιομετρικής ταυτοποίησης σε «πραγματικό χρόνο»·

(39)«δημόσια προσβάσιμος χώρος»: κάθε φυσικός χώρος προσβάσιμος στο κοινό, ανεξάρτητα από το αν τυχόν ισχύουν ορισμένοι όροι πρόσβασης·

(40)«αρχή επιβολής του νόμου»:

α)κάθε δημόσια αρχή αρμόδια για την πρόληψη, τη διερεύνηση, την ανίχνευση ή τη δίωξη ποινικών αδικημάτων ή την εκτέλεση ποινικών κυρώσεων, συμπεριλαμβανομένων της προστασίας από απειλές κατά της δημόσιας ασφάλειας και της αποτροπής τους· ή

β)κάθε άλλος οργανισμός ή φορέας στον οποίο δυνάμει του δικαίου κράτους μέλους ανατίθεται ρόλος δημόσιας αρχής και η εκτέλεση δημόσιων εξουσιών για τους σκοπούς της πρόληψης, της διερεύνησης, της ανίχνευσης ή της δίωξης ποινικών αδικημάτων ή της εκτέλεσης ποινικών κυρώσεων, συμπεριλαμβανομένων της προστασίας από απειλές κατά της δημόσιας ασφάλειας και της αποτροπής τους·

(41)«επιβολή του νόμου»: οι δραστηριότητες που διεξάγονται από τις αρχές επιβολής του νόμου για την πρόληψη, τη διερεύνηση, την ανίχνευση ή τη δίωξη ποινικών αδικημάτων ή την εκτέλεση ποινικών κυρώσεων, συμπεριλαμβανομένων της προστασίας από απειλές κατά της δημόσιας ασφάλειας και της αποτροπής τους·

(42)«εθνική εποπτική αρχή»: η αρχή στην οποία ένα κράτος μέλος αναθέτει την ευθύνη για την υλοποίηση και την εφαρμογή του παρόντος κανονισμού, για τον συντονισμό των δραστηριοτήτων που ανατίθενται στο εν λόγω κράτος μέλος, για να λειτουργεί ως ενιαίο σημείο επαφής για την Επιτροπή, και για να εκπροσωπεί το κράτος μέλος στο Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης·

(43)«εθνική αρμόδια αρχή»: η εθνική εποπτική αρχή, η κοινοποιούσα αρχή και η αρχή εποπτείας της αγοράς·

(44)«σοβαρό περιστατικό»: κάθε περιστατικό που, άμεσα ή έμμεσα, οδηγεί, ενδέχεται να έχει οδηγήσει ή ενδέχεται να οδηγήσει σε ένα από τα ακόλουθα:

α)θάνατος προσώπου ή σοβαρή βλάβη της υγείας του, ή σοβαρή ζημία της περιουσίας του ή του περιβάλλοντος,

β)σοβαρή και μη αναστρέψιμη διαταραχή στη διαχείριση και τη λειτουργία υποδομών ζωτικής σημασίας.

Άρθρο 4
Τροποποιήσεις του παραρτήματος I

Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 73 για την τροποποίηση του καταλόγου των τεχνικών και των προσεγγίσεων που απαριθμούνται στο παράρτημα Ι, με σκοπό την επικαιροποίηση του εν λόγω καταλόγου σε συνάρτηση με τις εξελίξεις της αγοράς και τις τεχνολογικές εξελίξεις με βάση χαρακτηριστικά παρόμοια με τις τεχνικές και τις προσεγγίσεις που απαριθμούνται σε αυτό.

ΤΙΤΛΟΣ II

ΑΠΑΓΟΡΕΥΜΕΝΕΣ ΠΡΑΚΤΙΚΕΣ ΣΤΟΝ ΤΟΜΕΑ ΤΗΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ

Άρθρο 5

1.Απαγορεύονται οι ακόλουθες πρακτικές στον τομέα της τεχνητής νοημοσύνης:

α)η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που χρησιμοποιεί τεχνικές οι οποίες απευθύνονται στο υποσυνείδητο ενός προσώπου υπερκεράζοντας το συνειδητό του, προκειμένου να στρεβλώσει ουσιωδώς τη συμπεριφορά ενός προσώπου κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη·

β)η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που εκμεταλλεύεται οποιοδήποτε από τα τρωτά σημεία συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας, της σωματικής ή διανοητικής αναπηρίας τους, προκειμένου να στρεβλωθεί ουσιωδώς η συμπεριφορά προσώπου που ανήκει στην εν λόγω ομάδα κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη·

γ)η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστημάτων ΤΝ από τις δημόσιες αρχές ή εξ ονόματός τους για την αξιολόγηση ή την ταξινόμηση της αξιοπιστίας των φυσικών προσώπων για ορισμένο χρονικό διάστημα με βάση την κοινωνική τους συμπεριφορά ή τα γνωστά ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους, με κοινωνική βαθμολογία η οποία οδηγεί σε ένα ή σε αμφότερα από τα ακόλουθα:

i)επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων σε κοινωνικά πλαίσια τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο παρήχθησαν ή συλλέχθηκαν αρχικά τα δεδομένα·

ii)επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων, η οποία είναι αδικαιολόγητη ή δυσανάλογη προς την κοινωνική συμπεριφορά τους ή τη σοβαρότητά της·

δ)η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, εκτός εάν και στον βαθμό που η χρήση αυτή είναι απολύτως αναγκαία για έναν από τους ακόλουθους στόχους:

i)τη στοχευμένη αναζήτηση συγκεκριμένων δυνητικών θυμάτων εγκληματικών πράξεων, συμπεριλαμβανομένων των αγνοούμενων παιδιών·

ii)την πρόληψη συγκεκριμένης, ουσιώδους και επικείμενης απειλής κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης·

iii)τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου για ποινικό αδίκημα που αναφέρεται στο άρθρο 2 παράγραφος 2 της απόφασης-πλαισίου 2002/584/ΔΕΥ του Συμβουλίου 62 και το οποίο τιμωρείται στο οικείο κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τριών ετών, όπως ορίζεται στο δίκαιο του εν λόγω κράτους μέλους.

2.Η χρήση των συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, για οποιονδήποτε από τους στόχους που αναφέρονται στην παράγραφο 1 στοιχείο δ) λαμβάνει υπόψη τα ακόλουθα στοιχεία:

α)τη φύση της κατάστασης που οδηγεί στην πιθανή χρήση, ειδικότερα τη σοβαρότητα, την πιθανότητα και το μέγεθος της βλάβης που θα προκληθεί αν δεν χρησιμοποιηθεί το σύστημα·

β)τις συνέπειες της χρήσης του συστήματος για τα δικαιώματα και τις ελευθερίες όλων των ενδιαφερομένων προσώπων, ειδικότερα τη σοβαρότητα, την πιθανότητα και την έκταση των εν λόγω συνεπειών.

Επιπλέον, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου για οποιονδήποτε από τους στόχους που αναφέρονται στην παράγραφο 1 στοιχείο δ) συμμορφώνεται με τις αναγκαίες και αναλογικές διασφαλίσεις και προϋποθέσεις που σχετίζονται με τη χρήση, ιδιαίτερα όσον αφορά τους χρονικούς και γεωγραφικούς περιορισμούς, καθώς και τους περιορισμούς όσον αφορά τα πρόσωπα.

3.Όσον αφορά την παράγραφο 1 στοιχείο δ) και την παράγραφο 2, κάθε μεμονωμένη χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου υπόκειται σε προηγούμενη άδεια που χορηγείται από δικαστική αρχή ή από ανεξάρτητη διοικητική αρχή του κράτους μέλους στο οποίο πρόκειται να πραγματοποιηθεί η χρήση, και η οποία εκδίδεται κατόπιν αιτιολογημένου αιτήματος και σύμφωνα με τους λεπτομερείς κανόνες του εθνικού δικαίου που αναφέρονται στην παράγραφο 4. Ωστόσο, σε δεόντως αιτιολογημένες επείγουσες περιπτώσεις, η χρήση του συστήματος μπορεί να αρχίσει χωρίς άδεια, ενώ η άδεια μπορεί να ζητηθεί μόνο κατά τη διάρκεια της χρήσης ή μετά τη χρήση.

Η αρμόδια δικαστική ή διοικητική αρχή χορηγεί την άδεια μόνο εφόσον έχει πεισθεί, βάσει αντικειμενικών αποδεικτικών στοιχείων ή σαφών ενδείξεων που της προσκομίζονται, ότι η χρήση του εν λόγω συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» είναι αναγκαία και αναλογική για την επίτευξη ενός από τους στόχους που ορίζονται στην παράγραφο 1 στοιχείο δ), όπως προσδιορίζονται στο αίτημα. Κατά τη λήψη απόφασης σχετικά με το αίτημα, η αρμόδια δικαστική ή διοικητική αρχή λαμβάνει υπόψη τα στοιχεία που αναφέρονται στην παράγραφο 2.

4.Ένα κράτος μέλος μπορεί να αποφασίσει να προβλέψει τη δυνατότητα πλήρους ή μερικής έγκρισης της χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου εντός των ορίων και υπό τις προϋποθέσεις που απαριθμούνται στην παράγραφο 1 στοιχείο δ) και στις παραγράφους 2 και 3. Το εν λόγω κράτος μέλος καθορίζει στο εθνικό του δίκαιο τους αναγκαίους λεπτομερείς κανόνες για το αίτημα, την έκδοση και την άσκηση, καθώς και την εποπτεία, όσον αφορά τις άδειες που αναφέρονται στην παράγραφο 3. Οι εν λόγω κανόνες προσδιορίζουν επίσης σε σχέση με ποιους από τους στόχους που απαριθμούνται στην παράγραφο 1 στοιχείο δ), μεταξύ άλλων για ποια από τα ποινικά αδικήματα που αναφέρονται στο σημείο iii), μπορεί να επιτραπεί στις αρμόδιες αρχές να χρησιμοποιούν τα εν λόγω συστήματα για σκοπούς επιβολής του νόμου.

ΤΙΤΛΟΣ ΙΙΙ

ΣΥΣΤΗΜΑΤΑ ΤΝ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ

Κεφάλαιο 1

ΤΑΞΙΝΟΜΗΣΗ ΣΥΣΤΗΜΑΤΩΝ ΤΝ ΩΣ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ

Άρθρο 6
Κανόνες ταξινόμησης για συστήματα ΤΝ υψηλού κινδύνου

1.Ασχέτως εάν ένα σύστημα ΤΝ διατίθεται στην αγορά ή τίθεται σε λειτουργία ανεξάρτητα από τα προϊόντα που αναφέρονται στα στοιχεία α) και β), το συγκεκριμένο σύστημα ΤΝ θεωρείται υψηλού κινδύνου όταν πληρούνται αμφότερες οι ακόλουθες προϋποθέσεις:

α)το σύστημα ΤΝ προορίζεται να χρησιμοποιηθεί ως κατασκευαστικό στοιχείο ασφάλειας ενός προϊόντος ή είναι το ίδιο προϊόν που καλύπτεται από την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα ΙΙ·

β)το προϊόν του οποίου κατασκευαστικό στοιχείο ασφάλειας είναι το σύστημα ΤΝ, ή το ίδιο το σύστημα ΤΝ ως προϊόν, απαιτείται να υποβληθεί σε αξιολόγηση της συμμόρφωσης από τρίτο μέρος με σκοπό τη διάθεση του εν λόγω προϊόντος στην αγορά ή τη θέση του σε λειτουργία, σύμφωνα με την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα II.

2.Εκτός από τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στην παράγραφο 1, τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III θεωρούνται επίσης υψηλού κινδύνου.

Άρθρο 7
Τροποποιήσεις του παραρτήματος IIΙ

1.Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 73 για την επικαιροποίηση του καταλόγου του παραρτήματος ΙΙΙ με την προσθήκη συστημάτων ΤΝ υψηλού κινδύνου, όταν πληρούνται αμφότερες οι ακόλουθες προϋποθέσεις:

α)τα συστήματα ΤΝ προορίζονται να χρησιμοποιηθούν σε οποιονδήποτε από τους τομείς που απαριθμούνται στο παράρτημα ΙΙΙ σημεία 1 έως 8·

β)τα συστήματα ΤΝ ενέχουν κίνδυνο βλάβης για την υγεία και την ασφάλεια ή κίνδυνο δυσμενών επιπτώσεων στα θεμελιώδη δικαιώματα, δηλαδή όσον αφορά τη σοβαρότητα και την πιθανότητα εμφάνισης κινδύνου ισοδύναμου ή μεγαλύτερου από τον κίνδυνο βλάβης ή δυσμενών επιπτώσεων που ενέχουν τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται ήδη στο παράρτημα ΙΙΙ.

2.Όταν, για τους σκοπούς της παραγράφου 1, αξιολογείται αν ένα σύστημα ΤΝ ενέχει κίνδυνο βλάβης για την υγεία και την ασφάλεια ή κίνδυνο δυσμενών επιπτώσεων στα θεμελιώδη δικαιώματα που είναι ισοδύναμος ή μεγαλύτερος από τον κίνδυνο βλάβης που ενέχουν τα συστήματα ΤΝ υψηλού κινδύνου που ήδη αναφέρονται στο παράρτημα III, η Επιτροπή λαμβάνει υπόψη τα ακόλουθα κριτήρια:

α)τον επιδιωκόμενο σκοπό του συστήματος ΤΝ·

β)τον βαθμό στον οποίο ένα σύστημα ΤΝ έχει χρησιμοποιηθεί ή είναι πιθανό να χρησιμοποιηθεί·

γ)τον βαθμό στον οποίο η χρήση ενός συστήματος ΤΝ έχει ήδη προκαλέσει βλάβη στην υγεία και την ασφάλεια ή δυσμενείς επιπτώσεις στα θεμελιώδη δικαιώματα ή έχει εγείρει σοβαρές ανησυχίες σε σχέση με την επέλευση της βλάβης ή των δυσμενών επιπτώσεων, όπως καταδεικνύεται από εκθέσεις ή τεκμηριωμένους ισχυρισμούς που υποβάλλονται στις εθνικές αρμόδιες αρχές·

δ)την πιθανή έκταση της εν λόγω βλάβης ή των εν λόγω δυσμενών επιπτώσεων, ιδιαίτερα όσον αφορά την ένταση και την ικανότητά τους να επηρεάζουν πλήθος προσώπων·

ε)τον βαθμό στον οποίο τα δυνητικά ζημιωθέντα ή δυσμενώς επηρεαζόμενα πρόσωπα εξαρτώνται από το αποτέλεσμα που παράγεται με ένα σύστημα ΤΝ, ιδιαίτερα επειδή για πρακτικούς ή νομικούς λόγους δεν είναι ευλόγως δυνατό να εξαιρεθούν από το εν λόγω αποτέλεσμα·

στ)τον βαθμό στον οποίο τα δυνητικά ζημιωθέντα ή δυσμενώς επηρεαζόμενα πρόσωπα βρίσκονται σε ευάλωτη θέση σε σχέση με τον χρήστη ενός συστήματος ΤΝ, ιδίως λόγω ανισορροπίας ισχύος, γνώσεων, οικονομικών ή κοινωνικών περιστάσεων ή ηλικίας·

ζ)τον βαθμό στον οποίο το αποτέλεσμα που παράγεται με ένα σύστημα ΤΝ είναι εύκολα αναστρέψιμο, οπότε τα αποτελέσματα που έχουν αντίκτυπο στην υγεία ή την ασφάλεια των προσώπων δεν θεωρούνται εύκολα αναστρέψιμα·

η)τον βαθμό στον οποίο η ισχύουσα νομοθεσία της Ένωσης προβλέπει:

i)αποτελεσματικά μέτρα επανόρθωσης σε σχέση με τους κινδύνους που ενέχει ένα σύστημα ΤΝ, με εξαίρεση τις αξιώσεις αποζημίωσης·

ii)αποτελεσματικά μέτρα για την πρόληψη ή την ουσιαστική ελαχιστοποίηση των εν λόγω κινδύνων.

Κεφάλαιο 2

Απαιτήσεις για συστήματα ΤΝ υψηλού κινδύνου

Άρθρο 8
Συμμόρφωση με τις απαιτήσεις

1.Τα συστήματα ΤΝ υψηλού κινδύνου συμμορφώνονται με τις απαιτήσεις που καθορίζονται στο παρόν κεφάλαιο.

2.Ο επιδιωκόμενος σκοπός του συστήματος ΤΝ υψηλού κινδύνου και του συστήματος διαχείρισης κινδύνου που αναφέρεται στο άρθρο 9 λαμβάνεται υπόψη κατά τη διασφάλιση της συμμόρφωσης με τις εν λόγω απαιτήσεις.

Άρθρο 9
Σύστημα διαχείρισης κινδύνου

1.Θεσπίζεται, υλοποιείται, τεκμηριώνεται και διατηρείται σύστημα διαχείρισης κινδύνου σε σχέση με τα συστήματα ΤΝ υψηλού κινδύνου.

2.Το σύστημα διαχείρισης κινδύνου συνίσταται σε μια συνεχή επαναληπτική διαδικασία καθ’ όλη τη διάρκεια του κύκλου ζωής ενός συστήματος ΤΝ υψηλού κινδύνου, η οποία απαιτεί τακτική συστηματική επικαιροποίηση. Περιλαμβάνει τα ακόλουθα βήματα:

α)προσδιορισμό και ανάλυση των γνωστών και προβλέψιμων κινδύνων που συνδέονται με κάθε σύστημα ΤΝ υψηλού κινδύνου·

β)εκτίμηση και αξιολόγηση των κινδύνων που ενδέχεται να προκύψουν όταν το σύστημα ΤΝ υψηλού κινδύνου χρησιμοποιείται σύμφωνα με τον επιδιωκόμενο σκοπό του και υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης·

γ)αξιολόγηση άλλων πιθανών κινδύνων με βάση την ανάλυση των δεδομένων που συλλέγονται από το σύστημα παρακολούθησης μετά τη διάθεση στην αγορά, όπως αναφέρεται στο άρθρο 61·

δ)θέσπιση κατάλληλων μέτρων διαχείρισης κινδύνου σύμφωνα με τις διατάξεις των επόμενων παραγράφων.

3.Τα μέτρα διαχείρισης κινδύνου που αναφέρονται στην παράγραφο 2 στοιχείο δ) λαμβάνουν δεόντως υπόψη τις επιπτώσεις και τις πιθανές αλληλεπιδράσεις που προκύπτουν από τη συνδυασμένη εφαρμογή των απαιτήσεων που ορίζονται στο παρόν κεφάλαιο 2. Λαμβάνουν υπόψη τη γενικά αναγνωρισμένη εξέλιξη της τεχνολογίας, μεταξύ άλλων όπως αντικατοπτρίζεται στα σχετικά εναρμονισμένα πρότυπα ή τις κοινές προδιαγραφές.

4.Τα μέτρα διαχείρισης κινδύνου που αναφέρονται στην παράγραφο 2 στοιχείο δ) είναι τέτοια ώστε κάθε υπολειπόμενος κίνδυνος που συνδέεται με κάθε παράγοντα κινδύνου, καθώς και ο συνολικός υπολειπόμενος κίνδυνος των συστημάτων ΤΝ υψηλού κινδύνου να κρίνονται αποδεκτοί, υπό την προϋπόθεση ότι το σύστημα ΤΝ υψηλού κινδύνου χρησιμοποιείται σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης. Οι εν λόγω υπολειπόμενοι κίνδυνοι κοινοποιούνται στον χρήστη.

Κατά τον προσδιορισμό των καταλληλότερων μέτρων διαχείρισης κινδύνου, εξασφαλίζονται τα εξής:

α)εξάλειψη ή μείωση των κινδύνων όσο είναι δυνατόν μέσω κατάλληλου σχεδιασμού και ανάπτυξης·

β)κατά περίπτωση, εφαρμογή κατάλληλων μέτρων μετριασμού και ελέγχου σε σχέση με κινδύνους που δεν μπορούν να εξαλειφθούν·

γ)παροχή επαρκών πληροφοριών σύμφωνα με το άρθρο 13, ειδικότερα όσον αφορά τους κινδύνους που αναφέρονται στην παράγραφο 2 στοιχείο β) του παρόντος άρθρου και, κατά περίπτωση, κατάρτιση των χρηστών.

Για την εξάλειψη ή τη μείωση των κινδύνων που σχετίζονται με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου, λαμβάνονται δεόντως υπόψη οι τεχνικές γνώσεις, η πείρα, η εκπαίδευση, η κατάρτιση που αναμένονται από τον χρήστη και το περιβάλλον στο οποίο πρόκειται να χρησιμοποιηθεί το σύστημα.

5.Τα συστήματα ΤΝ υψηλού κινδύνου υποβάλλονται σε δοκιμή με σκοπό τον προσδιορισμό των καταλληλότερων μέτρων διαχείρισης κινδύνου. Η δοκιμή διασφαλίζει ότι τα συστήματα ΤΝ υψηλού κινδύνου λειτουργούν με συνέπεια για τον επιδιωκόμενο σκοπό τους και συμμορφώνονται με τις απαιτήσεις που ορίζονται στο παρόν κεφάλαιο.

6.Οι διαδικασίες δοκιμής είναι κατάλληλες για την επίτευξη του επιδιωκόμενου σκοπού του συστήματος ΤΝ και δεν χρειάζεται να υπερβαίνουν τα αναγκαία όρια για την επίτευξη του εν λόγω σκοπού.

7.Η δοκιμή των συστημάτων ΤΝ υψηλού κινδύνου διενεργείται, κατά περίπτωση, σε οποιοδήποτε στάδιο της διαδικασίας ανάπτυξης και, σε κάθε περίπτωση, πριν από τη διάθεση στην αγορά ή τη θέση σε λειτουργία. Η δοκιμή πραγματοποιείται βάσει προκαταρκτικά καθορισμένων δεικτών μέτρησης και πιθανολογικών ορίων που είναι κατάλληλα για τον σκοπό για τον οποίο προορίζεται το σύστημα ΤΝ υψηλού κινδύνου.

8.Κατά την εφαρμογή του συστήματος διαχείρισης κινδύνου που περιγράφεται στις παραγράφους 1 έως 7, δίνεται ιδιαίτερη προσοχή στο κατά πόσον το σύστημα ΤΝ υψηλού κινδύνου είναι πιθανό να είναι προσβάσιμο από παιδιά ή να έχει αντίκτυπο σε παιδιά.

9.Για τα πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ, οι πτυχές που περιγράφονται στις παραγράφους 1 έως 8 αποτελούν μέρος των διαδικασιών διαχείρισης κινδύνου που θεσπίζονται από τα εν λόγω ιδρύματα σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας.

Άρθρο 10
Δεδομένα και διακυβέρνηση δεδομένων

1.Τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούν τεχνικές που περιλαμβάνουν την εκπαίδευση μοντέλων με δεδομένα αναπτύσσονται βάσει συνόλων δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής που πληρούν τα κριτήρια που αναφέρονται στις παραγράφους 2 έως 5.

2.Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής υπόκεινται σε κατάλληλες πρακτικές διακυβέρνησης και διαχείρισης δεδομένων. Οι πρακτικές αυτές αφορούν ειδικότερα:

α)τις σχετικές επιλογές σχεδιασμού·

β)τη συλλογή δεδομένων·

γ)σχετικές εργασίες επεξεργασίας της προετοιμασίας των δεδομένων, όπως σχολιασμός, επισήμανση, καθαρισμός, εμπλουτισμός και ομαδοποίηση·

δ)τη διατύπωση σχετικών παραδοχών, κυρίως όσον αφορά τις πληροφορίες τις οποίες πρέπει να μετρούν και να αντιπροσωπεύουν τα δεδομένα·

ε)προηγούμενη αξιολόγηση της διαθεσιμότητας, της ποσότητας και της καταλληλότητας των απαιτούμενων συνόλων δεδομένων·

στ)εξέταση ενόψει πιθανών περιπτώσεων μεροληψίας·

ζ)τον εντοπισμό τυχόν κενών ή ελλείψεων δεδομένων και τον τρόπο με τον οποίο μπορούν να αντιμετωπιστούν τα εν λόγω κενά και οι ελλείψεις.

3.Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής είναι συναφή, αντιπροσωπευτικά, πλήρη και δεν περιέχουν σφάλματα. Έχουν τις κατάλληλες στατιστικές ιδιότητες, μεταξύ άλλων, κατά περίπτωση, όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων για τα οποία πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου. Αυτά τα χαρακτηριστικά των συνόλων δεδομένων μπορούν να πληρούνται σε επίπεδο μεμονωμένων συνόλων δεδομένων ή συνδυασμού αυτών.

4.Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής λαμβάνουν υπόψη, στον βαθμό που απαιτείται από τον επιδιωκόμενο σκοπό, τα χαρακτηριστικά ή τα στοιχεία που προσιδιάζουν σε συγκεκριμένο γεωγραφικό, συμπεριφορικό ή λειτουργικό περιβάλλον εντός του οποίου πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου.

5.Στον βαθμό που είναι απολύτως αναγκαίο για τη διασφάλιση της παρακολούθησης, του εντοπισμού και της διόρθωσης πιθανών περιπτώσεων μεροληψίας σε σχέση με τα συστήματα ΤΝ υψηλού κινδύνου, οι πάροχοι των εν λόγω συστημάτων μπορούν να επεξεργάζονται ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα που αναφέρονται στο άρθρο 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679, στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680 και στο άρθρο 10 παράγραφος 1 του κανονισμού (ΕΕ) 2018/1725, με την επιφύλαξη κατάλληλων διασφαλίσεων για τα θεμελιώδη δικαιώματα και τις ελευθερίες των φυσικών προσώπων, συμπεριλαμβανομένων τεχνικών περιορισμών στην περαιτέρω χρήση και τη χρήση προηγμένων μέτρων ασφάλειας και προστασίας της ιδιωτικότητας, όπως η ψευδωνυμοποίηση ή η κρυπτογράφηση όταν η ανωνυμοποίηση μπορεί να επηρεάσει σημαντικά τον επιδιωκόμενο σκοπό.

6.Εφαρμόζονται κατάλληλες πρακτικές διακυβέρνησης και διαχείρισης δεδομένων για την ανάπτυξη συστημάτων ΤΝ υψηλού κινδύνου, εκτός εκείνων που χρησιμοποιούν τεχνικές που περιλαμβάνουν την εκπαίδευση μοντέλων, προκειμένου να διασφαλίζεται ότι τα εν λόγω συστήματα ΤΝ υψηλού κινδύνου συμμορφώνονται με την παράγραφο 2.

Άρθρο 11
Τεχνικός φάκελος

1.Ο τεχνικός φάκελος ενός συστήματος ΤΝ υψηλού κινδύνου καταρτίζεται πριν από τη διάθεση του εν λόγω συστήματος στην αγορά ή τη θέση του σε λειτουργία και επικαιροποιείται συνεχώς.

Ο τεχνικός φάκελος καταρτίζεται κατά τρόπο που να αποδεικνύει ότι το σύστημα ΤΝ υψηλού κινδύνου συμμορφώνεται με τις απαιτήσεις του παρόντος κεφαλαίου και παρέχει στις εθνικές αρμόδιες αρχές και στους κοινοποιημένους οργανισμούς όλες τις απαραίτητες πληροφορίες για την αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ με τις εν λόγω απαιτήσεις. Περιέχει τουλάχιστον τα στοιχεία που ορίζονται στο παράρτημα ΙV.

2.Όταν ένα σύστημα ΤΝ υψηλού κινδύνου που σχετίζεται με προϊόν στο οποίο εφαρμόζονται οι νομικές πράξεις που παρατίθενται στο παράρτημα ΙΙ τμήμα Α, διατίθεται στην αγορά ή τίθεται σε λειτουργία, καταρτίζεται ενιαίος τεχνικός φάκελος που περιέχει όλες τις πληροφορίες που ορίζονται στο παράρτημα IV, καθώς και τις πληροφορίες που απαιτούνται βάσει των εν λόγω νομικών πράξεων.

3.Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 73 για την τροποποίηση του παραρτήματος IV, εφόσον απαιτείται, ώστε να εξασφαλίζεται ότι, με βάση την τεχνική πρόοδο, ο τεχνικός φάκελος παρέχει όλες τις απαραίτητες πληροφορίες για την αξιολόγηση της συμμόρφωσης του συστήματος με τις απαιτήσεις του παρόντος κεφαλαίου.

Άρθρο 12
Τήρηση αρχείων

1.Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται με ικανότητες που καθιστούν δυνατή την αυτόματη καταγραφή συμβάντων («αρχεία καταγραφής») κατά τη λειτουργία των συστημάτων ΤΝ υψηλού κινδύνου. Αυτές οι ικανότητες καταγραφής πρέπει να είναι σύμφωνες με αναγνωρισμένα πρότυπα ή κοινές προδιαγραφές.

2.Οι ικανότητες καταγραφής διασφαλίζουν ένα επίπεδο ιχνηλασιμότητας της λειτουργίας του συστήματος ΤΝ καθ’ όλη τη διάρκεια του κύκλου ζωής του, το οποίο είναι κατάλληλο για τον επιδιωκόμενο σκοπό του συστήματος.

3.Συγκεκριμένα, οι ικανότητες καταγραφής καθιστούν δυνατή την παρακολούθηση της λειτουργίας του συστήματος ΤΝ υψηλού κινδύνου όσον αφορά την εμφάνιση καταστάσεων που ενδέχεται να έχουν ως αποτέλεσμα το σύστημα ΤΝ να παρουσιάσει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1 ή να οδηγήσουν σε ουσιαστική τροποποίηση, ενώ παράλληλα διευκολύνουν την παρακολούθηση μετά τη διάθεση στην αγορά, όπως αναφέρεται στο άρθρο 61.

4.Για τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα ΙΙΙ παράγραφος 1 στοιχείο α), οι ικανότητες καταγραφής παρέχουν τουλάχιστον:

α)καταγραφή της περιόδου κάθε χρήσης του συστήματος (ημερομηνία και ώρα έναρξης και ημερομηνία και ώρα λήξης κάθε χρήσης)·

β)τη βάση δεδομένων αναφοράς βάσει της οποίας έχουν ελεγχθεί τα δεδομένα εισόδου από το σύστημα·

γ)τα δεδομένα εισόδου για τα οποία η αναζήτηση οδήγησε σε αντιστοίχιση·

δ)την ταυτοποίηση των φυσικών προσώπων που συμμετέχουν στην επαλήθευση των αποτελεσμάτων, όπως αναφέρεται στο άρθρο 14 παράγραφος 5.

Άρθρο 13
Διαφάνεια και πληροφόρηση των χρηστών

1.Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται κατά τρόπο που διασφαλίζει ότι η λειτουργία τους είναι επαρκώς διαφανής ώστε οι χρήστες να είναι σε θέση να ερμηνεύουν τα στοιχεία εξόδου του συστήματος και να τα χρησιμοποιούν κατάλληλα. Διασφαλίζεται ο κατάλληλος τύπος και βαθμός διαφάνειας, με στόχο την επίτευξη συμμόρφωσης με τις σχετικές υποχρεώσεις του χρήστη και του παρόχου οι οποίες καθορίζονται στο κεφάλαιο 3 του παρόντος τίτλου.

2.Τα συστήματα ΤΝ υψηλού κινδύνου συνοδεύονται από οδηγίες χρήσης σε κατάλληλο ψηφιακό μορφότυπο ή με άλλο τρόπο, οι οποίες περιλαμβάνουν συνοπτικές, πλήρεις, ορθές και σαφείς πληροφορίες που είναι συναφείς, προσβάσιμες και κατανοητές από τους χρήστες.

3.Οι πληροφορίες που αναφέρονται στην παράγραφο 2 διευκρινίζουν:

α)την ταυτότητα και τα στοιχεία επικοινωνίας του παρόχου και, κατά περίπτωση, του εξουσιοδοτημένου εκπροσώπου του·

β)τα χαρακτηριστικά, τις ικανότητες και τους περιορισμούς των επιδόσεων του συστήματος ΤΝ υψηλού κινδύνου, μεταξύ άλλων:

i)τον επιδιωκόμενο σκοπό του·

ii)το επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας που αναφέρεται στο άρθρο 15 με βάση το οποίο έχει δοκιμαστεί και επικυρωθεί το σύστημα ΤΝ υψηλού κινδύνου και το οποίο μπορεί να αναμένεται, καθώς και κάθε γνωστή και προβλέψιμη περίσταση που μπορεί να έχει αντίκτυπο στο εν λόγω αναμενόμενο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας·

iii)κάθε γνωστή ή προβλέψιμη περίσταση που σχετίζεται με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης, η οποία μπορεί να οδηγήσει σε κινδύνους για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα·

iv)τις επιδόσεις του όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων στα οποία προορίζεται να χρησιμοποιηθεί το σύστημα·

v)κατά περίπτωση, προδιαγραφές για τα δεδομένα εισόδου ή κάθε άλλη σχετική πληροφορία όσον αφορά τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται, δεδομένου του επιδιωκόμενου σκοπού του συστήματος ΤΝ.

γ)τις αλλαγές στο σύστημα ΤΝ υψηλού κινδύνου και τις επιδόσεις του, όπως έχουν προκαθοριστεί από τον πάροχο κατά τη στιγμή της αρχικής αξιολόγησης της συμμόρφωσης, εάν υπάρχουν·

δ)τα μέτρα ανθρώπινης εποπτείας που αναφέρονται στο άρθρο 14, συμπεριλαμβανομένων των τεχνικών μέτρων που εφαρμόζονται για τη διευκόλυνση της ερμηνείας των στοιχείων εξόδου των συστημάτων ΤΝ από τους χρήστες·

ε)την αναμενόμενη διάρκεια ζωής του συστήματος ΤΝ υψηλού κινδύνου και τυχόν απαραίτητα μέτρα συντήρησης και φροντίδας για τη διασφάλιση της ορθής λειτουργίας του εν λόγω συστήματος ΤΝ, μεταξύ άλλων όσον αφορά τις επικαιροποιήσεις του λογισμικού.

Άρθρο 14
Ανθρώπινη εποπτεία

1.Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται κατά τέτοιο τρόπο, μεταξύ άλλων με κατάλληλα εργαλεία διεπαφής ανθρώπου-μηχανής, ώστε να μπορούν να εποπτεύονται αποτελεσματικά από φυσικά πρόσωπα κατά τη διάρκεια της περιόδου χρήσης τους.

2.Η ανθρώπινη εποπτεία αποσκοπεί στην πρόληψη ή την ελαχιστοποίηση των κινδύνων για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα που ενδέχεται να προκύψουν όταν ένα σύστημα ΤΝ υψηλού κινδύνου χρησιμοποιείται σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης, ιδιαίτερα όταν οι κίνδυνοι αυτοί εξακολουθούν να υφίστανται παρά την εφαρμογή άλλων απαιτήσεων που ορίζονται στο παρόν κεφάλαιο.

3.Η ανθρώπινη εποπτεία εξασφαλίζεται είτε με ένα είτε με όλα τα ακόλουθα μέτρα τα οποία:

α)προσδιορίζονται και ενσωματώνονται, όταν είναι τεχνικά εφικτό, στο σύστημα ΤΝ υψηλού κινδύνου από τον πάροχο πριν από τη διάθεσή του στην αγορά ή τη θέση του σε λειτουργία·

β)προσδιορίζονται από τον πάροχο πριν από τη διάθεση του συστήματος ΤΝ υψηλού κινδύνου στην αγορά ή τη θέση του σε λειτουργία και είναι σκόπιμο να εφαρμόζονται από τον χρήστη.

4.Τα μέτρα που αναφέρονται στην παράγραφο 3 επιτρέπουν στα άτομα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία να προβαίνουν στις ακόλουθες ενέργειες, ανάλογα με τις περιστάσεις:

α)να κατανοούν πλήρως τις ικανότητες και τους περιορισμούς του συστήματος ΤΝ υψηλού κινδύνου και να είναι σε θέση να παρακολουθούν δεόντως τη λειτουργία του, έτσι ώστε να εντοπίζονται και να αντιμετωπίζονται το συντομότερο δυνατόν ενδείξεις ανωμαλιών, δυσλειτουργιών και απροσδόκητων επιδόσεων·

β)να παραμένουν ενήμερα για την πιθανή τάση αυτόματης εξάρτησης ή υπέρμετρης εξάρτησης από τα στοιχεία εξόδου που παράγονται από σύστημα ΤΝ υψηλού κινδύνου («μεροληψία αυτοματισμού»), ειδικότερα για τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται για την παροχή πληροφοριών ή συστάσεων για αποφάσεις που πρόκειται να ληφθούν από φυσικά πρόσωπα·

γ)να είναι σε θέση να ερμηνεύουν ορθά τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου, λαμβάνοντας ιδιαίτερα υπόψη τα χαρακτηριστικά του συστήματος και τα διαθέσιμα εργαλεία και τις μεθόδους ερμηνείας·

δ)να είναι σε θέση να αποφασίζουν, σε οποιαδήποτε συγκεκριμένη περίπτωση, να μη χρησιμοποιήσουν το σύστημα ΤΝ υψηλού κινδύνου ή να αγνοούν, να παρακάμπτουν ή να αντιστρέφουν με οποιονδήποτε άλλον τρόπο τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου·

ε)να είναι σε θέση να παρεμβαίνουν στη λειτουργία του συστήματος ΤΝ υψηλού κινδύνου ή να διακόπτουν το σύστημα μέσω πλήκτρου «διακοπής» ή παρόμοιας διαδικασίας.

5.Για τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα ΙΙΙ σημείο 1 στοιχείο α), τα μέτρα που αναφέρονται στην παράγραφο 3 εξασφαλίζουν επιπλέον ότι ο χρήστης δεν προβαίνει σε καμία ενέργεια ή απόφαση με βάση την ταυτοποίηση που προκύπτει από το σύστημα, εκτός εάν αυτή έχει επαληθευτεί και επιβεβαιωθεί από τουλάχιστον δύο φυσικά πρόσωπα.

Άρθρο 15
Ακρίβεια, στιβαρότητα και κυβερνοασφάλεια

1.Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται κατά τρόπο ώστε να επιτυγχάνουν, λαμβανομένου υπόψη του επιδιωκόμενου σκοπού τους, κατάλληλο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας, και να λειτουργούν με συνέπεια ως προς αυτές τις πτυχές καθ’ όλη τη διάρκεια του κύκλου ζωής τους.

2.Τα επίπεδα ακρίβειας και οι σχετικοί δείκτες μέτρησης της ακρίβειας των συστημάτων ΤΝ υψηλού κινδύνου δηλώνονται στις συνοδευτικές οδηγίες χρήσης.

3.Τα συστήματα ΤΝ υψηλού κινδύνου είναι ανθεκτικά όσον αφορά σφάλματα, αστοχίες ή ασυνέπειες που ενδέχεται να προκύψουν εντός του συστήματος ή του περιβάλλοντος στο οποίο λειτουργεί το σύστημα, ειδικότερα λόγω της αλληλεπίδρασής τους με φυσικά πρόσωπα ή άλλα συστήματα.

Η στιβαρότητα των συστημάτων ΤΝ υψηλού κινδύνου μπορεί να επιτευχθεί μέσω λύσεων τεχνικής εφεδρείας, οι οποίες μπορεί να περιλαμβάνουν εφεδρικά σχέδια ή σχέδια ασφαλή από αστοχίες.

Τα συστήματα ΤΝ υψηλού κινδύνου που συνεχίζουν να μαθαίνουν και μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία αναπτύσσονται κατά τρόπο ώστε να διασφαλίζεται ότι τα ενδεχομένως μεροληπτικά στοιχεία εξόδου λόγω της χρήσης στοιχείων εξόδου ως στοιχείων εισόδου για μελλοντικές εργασίες («βρόχοι ανάδρασης») αντιμετωπίζονται δεόντως με κατάλληλα μέτρα μετριασμού.

4.Τα συστήματα ΤΝ υψηλού κινδύνου είναι ανθεκτικά στις απόπειρες μη εξουσιοδοτημένων τρίτων να αλλοιώσουν τη χρήση ή τις επιδόσεις τους εκμεταλλευόμενοι τα τρωτά σημεία του συστήματος.

Οι τεχνικές λύσεις που αποσκοπούν στη διασφάλιση της κυβερνοασφάλειας των συστημάτων ΤΝ υψηλού κινδύνου είναι κατάλληλες για τις σχετικές περιστάσεις και τους κινδύνους.

Οι τεχνικές λύσεις για την αντιμετώπιση συγκεκριμένων τρωτών σημείων των συστημάτων ΤΝ περιλαμβάνουν, κατά περίπτωση, μέτρα για την πρόληψη και τον έλεγχο επιθέσεων που επιχειρούν να χειραγωγήσουν το σύνολο δεδομένων εκπαίδευσης («μόλυνση δεδομένων»), στοιχεία εισόδου που έχουν σχεδιαστεί έτσι ώστε να ωθούν το μοντέλο να διαπράξει σφάλμα («αντιπαραθετικά παραδείγματα») ή ελαττώματα του μοντέλου.

Κεφάλαιο 3

ΥΠΟΧΡΕΩΣΕΙΣ ΤΩΝ ΠΑΡΟΧΩΝ ΚΑΙ ΧΡΗΣΤΩΝ ΣΥΣΤΗΜΑΤΩΝ ΤΝ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ και άλλων μερών

Άρθρο 16
Υποχρεώσεις των παρόχων συστημάτων ΤΝ υψηλού κινδύνου

Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου:

α)διασφαλίζουν ότι τα οικεία συστήματα ΤΝ υψηλού κινδύνου συμμορφώνονται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου·

β)διαθέτουν σύστημα διαχείρισης ποιότητας το οποίο συμμορφώνεται με το άρθρο 17·

γ)καταρτίζουν τον τεχνικό φάκελο του συστήματος ΤΝ υψηλού κινδύνου·

δ)τηρούν τα αρχεία καταγραφής που δημιουργούνται αυτόματα από τα οικεία συστήματα ΤΝ υψηλού κινδύνου, όταν τα εν λόγω αρχεία βρίσκονται υπό τον έλεγχό τους·

ε)διασφαλίζουν ότι το σύστημα ΤΝ υψηλού κινδύνου υποβάλλεται στη σχετική διαδικασία αξιολόγησης της συμμόρφωσης, πριν από τη διάθεσή του στην αγορά ή τη θέση του σε λειτουργία·

στ)τηρούν τις υποχρεώσεις καταχώρισης που αναφέρονται στο άρθρο 51·

ζ)λαμβάνουν τα αναγκαία διορθωτικά μέτρα, εάν το σύστημα ΤΝ υψηλού κινδύνου δεν συμμορφώνεται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου·

η)ενημερώνουν τις αρμόδιες εθνικές αρχές των κρατών μελών στην αγορά των οποίων έχουν διαθέσει το σύστημα ΤΝ ή το έχουν θέσει σε λειτουργία και, κατά περίπτωση, τον κοινοποιημένο οργανισμό σχετικά με τη μη συμμόρφωση και με τυχόν διορθωτικά μέτρα που έχουν λάβει·

θ)τοποθετούν τη σήμανση CE στα οικεία συστήματα ΤΝ υψηλού κινδύνου για να υποδεικνύουν τη συμμόρφωση με τον παρόντα κανονισμό σύμφωνα με το άρθρο 49·

ι)κατόπιν αιτήματος αρμόδιας εθνικής αρχής, αποδεικνύουν τη συμμόρφωση του συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου.

Άρθρο 17
Σύστημα διαχείρισης ποιότητας

1.Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου εφαρμόζουν σύστημα διαχείρισης ποιότητας το οποίο διασφαλίζει τη συμμόρφωση με τον παρόντα κανονισμό. Το εν λόγω σύστημα τεκμηριώνεται με συστηματικό και τακτικό τρόπο υπό τη μορφή γραπτών πολιτικών, διαδικασιών και οδηγιών, και περιλαμβάνει τουλάχιστον τις ακόλουθες πτυχές:

α)στρατηγική για την κανονιστική συμμόρφωση, που περιλαμβάνει τη συμμόρφωση με τις διαδικασίες αξιολόγησης της συμμόρφωσης και τις διαδικασίες για τη διαχείριση των αλλαγών στο σύστημα ΤΝ υψηλού κινδύνου·

β)τεχνικές, διαδικασίες και συστηματικές ενέργειες που πρέπει να χρησιμοποιούνται για τον σχεδιασμό, τον έλεγχο του σχεδιασμού και την επαλήθευση του σχεδιασμού του συστήματος ΤΝ υψηλού κινδύνου·

γ)τεχνικές, διαδικασίες και συστηματικές ενέργειες που πρέπει να χρησιμοποιούνται για την ανάπτυξη, τον έλεγχο ποιότητας και τη διασφάλιση της ποιότητας του συστήματος ΤΝ υψηλού κινδύνου·

δ)διαδικασίες εξέτασης, δοκιμής και επικύρωσης που πρέπει να διενεργούνται πριν, κατά τη διάρκεια και μετά την ανάπτυξη του συστήματος ΤΝ υψηλού κινδύνου, καθώς και τη συχνότητα με την οποία πρέπει να διενεργούνται·

ε)τεχνικές προδιαγραφές, συμπεριλαμβανομένων των προτύπων, που πρέπει να εφαρμόζονται και, όταν τα σχετικά εναρμονισμένα πρότυπα δεν εφαρμόζονται πλήρως, τα μέσα που πρέπει να χρησιμοποιούνται για να διασφαλίζεται ότι το σύστημα ΤΝ υψηλού κινδύνου συμμορφώνεται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου·

στ)συστήματα και διαδικασίες για τη διαχείριση δεδομένων, συμπεριλαμβανομένης της συλλογής δεδομένων, της ανάλυσης δεδομένων, της επισήμανσης δεδομένων, της αποθήκευσης δεδομένων, του φιλτραρίσματος δεδομένων, της εξόρυξης δεδομένων, της ομαδοποίησης δεδομένων, της διατήρησης δεδομένων και κάθε άλλης ενέργειας σχετικά με τα δεδομένα η οποία εκτελείται πριν και για τους σκοπούς της διάθεσης των συστημάτων ΤΝ υψηλού κινδύνου στην αγορά ή της θέσης τους σε λειτουργία·

ζ)το σύστημα διαχείρισης κινδύνου που αναφέρεται στο άρθρο 9·

η)την εκπόνηση, εφαρμογή και συντήρηση συστήματος παρακολούθησης μετά τη διάθεση στην αγορά σύμφωνα με το άρθρο 61·

θ)διαδικασίες σχετικά με την αναφορά σοβαρών περιστατικών και δυσλειτουργιών σύμφωνα με το άρθρο 62·

ι)τον χειρισμό της επικοινωνίας με τις εθνικές αρμόδιες αρχές, συμπεριλαμβανομένων των τομεακών αρχών, για την παροχή ή υποστήριξη της πρόσβασης σε δεδομένα, κοινοποιημένους οργανισμούς, άλλους φορείς εκμετάλλευσης, πελάτες ή άλλα ενδιαφερόμενα μέρη·

ια)συστήματα και διαδικασίες για την τήρηση αρχείων όλων των σχετικών εγγράφων και πληροφοριών·

ιβ)διαχείριση των πόρων, συμπεριλαμβανομένων μέτρων σχετικών με την ασφάλεια του εφοδιασμού·

ιγ)πλαίσιο λογοδοσίας που καθορίζει τις αρμοδιότητες της διοίκησης και του λοιπού προσωπικού όσον αφορά όλες τις πτυχές που απαριθμούνται στην παρούσα παράγραφο.

2.Η εφαρμογή των πτυχών που αναφέρονται στην παράγραφο 1 είναι ανάλογη προς το μέγεθος του οργανισμού του παρόχου.

3.Για τους παρόχους που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ, η υποχρέωση εφαρμογής συστήματος διαχείρισης ποιότητας θεωρείται ότι εκπληρώνεται με τη συμμόρφωση με τους κανόνες σχετικά με τις ρυθμίσεις, τις διαδικασίες και τους μηχανισμούς εσωτερικής διακυβέρνησης σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας. Στο πλαίσιο αυτό, λαμβάνονται υπόψη τυχόν εναρμονισμένα πρότυπα που αναφέρονται στο άρθρο 40 του παρόντος κανονισμού.

Άρθρο 18
Υποχρέωση κατάρτισης τεχνικού φακέλου

1.Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου καταρτίζουν τον τεχνικό φάκελο που αναφέρεται στο άρθρο 11 σύμφωνα με το παράρτημα IV.

2.Οι πάροχοι που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ διατηρούν τον τεχνικό φάκελο στο πλαίσιο της τεκμηρίωσης που αφορά τις ρυθμίσεις, τις διαδικασίες και τους μηχανισμούς εσωτερικής διακυβέρνησης σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας.

Άρθρο 19
Αξιολόγηση της συμμόρφωσης

1.Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου διασφαλίζουν ότι τα συστήματά τους υποβάλλονται στη σχετική διαδικασία αξιολόγησης της συμμόρφωσης σύμφωνα με το άρθρο 43, πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Όταν, κατόπιν της εν λόγω αξιολόγησης της συμμόρφωσης, αποδεικνύεται η συμμόρφωση των συστημάτων ΤΝ με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, οι πάροχοι καταρτίζουν δήλωση συμμόρφωσης ΕΕ σύμφωνα με το άρθρο 48 και τοποθετούν τη σήμανση συμμόρφωσης CE σύμφωνα με το άρθρο 49.

2.Για τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα ΙΙΙ σημείο 5 στοιχείο β) και τα οποία διατίθενται στην αγορά ή τίθενται σε λειτουργία από παρόχους που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ, η αξιολόγηση της συμμόρφωσης διενεργείται στο πλαίσιο της διαδικασίας που αναφέρεται στα άρθρα 97 έως 101 της εν λόγω οδηγίας.

Άρθρο 
Αυτόματη δημιουργία αρχείων καταγραφής

1.Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου τηρούν τα αρχεία καταγραφής που δημιουργούνται αυτόματα από τα συστήματα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχό τους δυνάμει συμβατικής ρύθμισης με τον χρήστη ή άλλως βάσει νόμου. Τα αρχεία καταγραφής τηρούνται για χρονικό διάστημα που είναι κατάλληλο υπό το πρίσμα του επιδιωκόμενου σκοπού του συστήματος ΤΝ υψηλού κινδύνου και των εφαρμοστέων νομικών υποχρεώσεων βάσει του ενωσιακού ή του εθνικού δικαίου.

2.Οι πάροχοι που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ διατηρούν τα αρχεία καταγραφής που δημιουργούνται αυτόματα από τα οικεία συστήματα ΤΝ υψηλού κινδύνου στο πλαίσιο της τεκμηρίωσης δυνάμει του άρθρου 74 της εν λόγω οδηγίας.

Άρθρο 21
Διορθωτικά μέτρα

Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου που θεωρούν ή έχουν λόγους να θεωρούν ότι ένα σύστημα ΤΝ υψηλού κινδύνου που έχουν διαθέσει στην αγορά ή έχουν θέσει σε λειτουργία δεν συμμορφώνεται με τον παρόντα κανονισμό λαμβάνουν αμέσως τα αναγκαία διορθωτικά μέτρα για τη συμμόρφωση, την απόσυρση ή την ανάκλησή του, κατά περίπτωση. Ενημερώνουν τους διανομείς του εν λόγω συστήματος ΤΝ υψηλού κινδύνου και, κατά περίπτωση, τον εξουσιοδοτημένο αντιπρόσωπο και τους εισαγωγείς αναλόγως.

Άρθρο 22
Υποχρέωση ενημέρωσης

Όταν το σύστημα ΤΝ υψηλού κινδύνου παρουσιάζει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1 και ο εν λόγω κίνδυνος είναι γνωστός στον πάροχο του συστήματος, ο εν λόγω πάροχος ενημερώνει αμέσως τις αρμόδιες εθνικές αρχές των κρατών μελών στα οποία κατέστησε διαθέσιμο το σύστημα και, κατά περίπτωση, τον κοινοποιημένο οργανισμό που εξέδωσε πιστοποιητικό για το σύστημα ΤΝ υψηλού κινδύνου, κυρίως για τη μη συμμόρφωση και για τα τυχόν διορθωτικά μέτρα που έχει λάβει.

Άρθρο 23
Συνεργασία με τις αρμόδιες αρχές

Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου, κατόπιν αιτήματος εθνικής αρμόδιας αρχής, παρέχουν στην εν λόγω αρχή όλες τις πληροφορίες και την τεκμηρίωση που απαιτούνται για να αποδειχθεί η συμμόρφωση του συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, σε επίσημη γλώσσα της Ένωσης που καθορίζεται από το οικείο κράτος μέλος. Κατόπιν αιτιολογημένου αιτήματος εθνικής αρμόδιας αρχής, οι πάροχοι παρέχουν επίσης στην εν λόγω αρχή πρόσβαση στα αρχεία καταγραφής που δημιουργούνται αυτόματα από το σύστημα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχό τους δυνάμει συμβατικής ρύθμισης με τον χρήστη ή άλλως βάσει νόμου.

Άρθρο 24
Υποχρεώσεις των κατασκευαστών προϊόντων

Όταν ένα σύστημα ΤΝ υψηλού κινδύνου που σχετίζεται με προϊόντα στα οποία εφαρμόζονται οι νομικές πράξεις που παρατίθενται στο παράρτημα ΙΙ τμήμα Α, διατίθεται στην αγορά ή τίθεται σε λειτουργία μαζί με το προϊόν που κατασκευάζεται σύμφωνα με τις εν λόγω νομικές πράξεις και με την επωνυμία του κατασκευαστή του προϊόντος, ο κατασκευαστής του προϊόντος αναλαμβάνει την ευθύνη για τη συμμόρφωση του συστήματος ΤΝ με τον παρόντα κανονισμό και, όσον αφορά το σύστημα ΤΝ, έχει τις ίδιες υποχρεώσεις που επιβάλλει ο παρών κανονισμός στον πάροχο.

Άρθρο 25
Εξουσιοδοτημένοι αντιπρόσωποι

1.Πριν από τη διάθεση των συστημάτων τους στην αγορά της Ένωσης, όταν δεν μπορεί να προσδιοριστεί εισαγωγέας, οι πάροχοι που είναι εγκατεστημένοι εκτός της Ένωσης διορίζουν με γραπτή εντολή εξουσιοδοτημένο αντιπρόσωπο εγκατεστημένο στην Ένωση.

2.Ο εξουσιοδοτημένος αντιπρόσωπος ασκεί τα καθήκοντα που προσδιορίζονται στην εντολή την οποία λαμβάνει από τον πάροχο. Η εντολή δίνει στον εξουσιοδοτημένο αντιπρόσωπο τη δυνατότητα να προβαίνει στις εξής ενέργειες:

α)να διατηρεί αντίγραφο της δήλωσης συμμόρφωσης ΕΕ και του τεχνικού φακέλου στη διάθεση των αρμόδιων εθνικών αρχών και των εθνικών αρχών που αναφέρονται στο άρθρο 63 παράγραφος 7·

β)να παρέχει στην αρμόδια εθνική αρχή, κατόπιν αιτιολογημένου αιτήματος, όλες τις πληροφορίες και την τεκμηρίωση που απαιτούνται για να αποδειχθεί η συμμόρφωση ενός συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, συμπεριλαμβανομένης της πρόσβασης στα αρχεία καταγραφής που δημιουργούνται αυτόματα από το σύστημα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχο του παρόχου δυνάμει συμβατικής ρύθμισης με τον χρήστη ή άλλως βάσει νόμου·

γ)να συνεργάζεται με τις αρμόδιες εθνικές αρχές, κατόπιν αιτιολογημένου αιτήματος, για τυχόν ενέργειες στις οποίες προβαίνουν οι εν λόγω αρχές σε σχέση με το σύστημα ΤΝ υψηλού κινδύνου.

Άρθρο 26
Υποχρεώσεις των εισαγωγέων

1.Πριν από τη διάθεση συστήματος ΤΝ υψηλού κινδύνου στην αγορά, οι εισαγωγείς του εν λόγω συστήματος εξασφαλίζουν ότι:

α)ο πάροχος του εν λόγω συστήματος ΤΝ έχει διενεργήσει την κατάλληλη διαδικασία αξιολόγησης της συμμόρφωσης·

β)ο πάροχος έχει καταρτίσει τον τεχνικό φάκελο σύμφωνα με το παράρτημα IV·

γ)το σύστημα φέρει την απαιτούμενη σήμανση συμμόρφωσης και συνοδεύεται από την απαιτούμενη τεκμηρίωση και οδηγίες χρήσης.

2.Όταν ο εισαγωγέας θεωρεί ή έχει λόγους να θεωρεί ότι ένα σύστημα ΤΝ υψηλού κινδύνου δεν συμμορφώνεται με τον παρόντα κανονισμό, τότε δεν διαθέτει το εν λόγω σύστημα στην αγορά έως ότου επιτευχθεί η συμμόρφωση του εν λόγω συστήματος ΤΝ. Όταν το σύστημα ΤΝ υψηλού κινδύνου παρουσιάζει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1, ο εισαγωγέας ενημερώνει σχετικά τον πάροχο του συστήματος ΤΝ και τις αρχές εποπτείας της αγοράς.

3.Οι εισαγωγείς σημειώνουν το όνομα, την καταχωρισμένη εμπορική επωνυμία τους ή το καταχωρισμένο εμπορικό σήμα τους και τη διεύθυνσή τους στο σύστημα ΤΝ υψηλού κινδύνου ή, όταν δεν είναι δυνατόν, στη συσκευασία του ή στην τεκμηρίωση που το συνοδεύει, κατά περίπτωση.

4.Οι εισαγωγείς διασφαλίζουν ότι, ενόσω το σύστημα ΤΝ υψηλού κινδύνου βρίσκεται υπό την ευθύνη τους, κατά περίπτωση, οι συνθήκες αποθήκευσης ή μεταφοράς δεν θέτουν σε κίνδυνο τη συμμόρφωσή του με τις απαιτήσεις που καθορίζονται στο κεφάλαιο 2 του παρόντος τίτλου.

5.Οι εισαγωγείς παρέχουν στις αρμόδιες εθνικές αρχές, κατόπιν αιτιολογημένου αιτήματος, όλες τις πληροφορίες και την τεκμηρίωση που απαιτούνται για να αποδειχθεί η συμμόρφωση ενός συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, σε γλώσσα που μπορεί να γίνει εύκολα κατανοητή από την αρμόδια εθνική αρχή, συμπεριλαμβανομένης της πρόσβασης στα αρχεία καταγραφής που δημιουργούνται αυτόματα από το σύστημα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχο του παρόχου δυνάμει συμβατικής ρύθμισης με τον χρήστη ή άλλως βάσει νόμου. Επίσης, συνεργάζονται με τις εν λόγω αρχές για οποιαδήποτε ενέργεια στην οποία προβαίνει η αρμόδια εθνική αρχή σε σχέση με το εν λόγω σύστημα.

Άρθρο 27
Υποχρεώσεις των διανομέων

1.Πριν από τη διάθεση συστήματος ΤΝ υψηλού κινδύνου στην αγορά, οι διανομείς επαληθεύουν ότι το σύστημα ΤΝ υψηλού κινδύνου φέρει την απαιτούμενη σήμανση συμμόρφωσης CE, ότι συνοδεύεται από την απαιτούμενη τεκμηρίωση και οδηγίες χρήσης και ότι ο πάροχος και ο εισαγωγέας του συστήματος, κατά περίπτωση, έχουν συμμορφωθεί με τις υποχρεώσεις που ορίζονται στον παρόντα κανονισμό.

2.Όταν ο διανομέας θεωρεί ή έχει λόγους να θεωρεί ότι ένα σύστημα ΤΝ υψηλού κινδύνου δεν συμμορφώνεται με τις απαιτήσεις που προβλέπονται στο κεφάλαιο 2 του παρόντος τίτλου, τότε μπορεί να καθιστά διαθέσιμο το σύστημα ΤΝ υψηλού κινδύνου στην αγορά μόνο αφού το εν λόγω σύστημα συμμορφωθεί με αυτές τις απαιτήσεις. Επιπλέον, όταν το σύστημα παρουσιάζει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1, ο διανομέας ενημερώνει σχετικά τον πάροχο ή τον εισαγωγέα του συστήματος, κατά περίπτωση.

3.Οι διανομείς διασφαλίζουν ότι, ενόσω το σύστημα ΤΝ υψηλού κινδύνου βρίσκεται υπό την ευθύνη τους, κατά περίπτωση, οι συνθήκες αποθήκευσης ή μεταφοράς δεν θέτουν σε κίνδυνο τη συμμόρφωση του συστήματος με τις απαιτήσεις που καθορίζονται στο κεφάλαιο 2 του παρόντος τίτλου.

4.Ο διανομέας που θεωρεί ή έχει λόγους να θεωρεί ότι ένα σύστημα ΤΝ υψηλού κινδύνου το οποίο έχει διαθέσει στην αγορά δεν συμμορφώνεται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, λαμβάνει τα διορθωτικά μέτρα που απαιτούνται για τη συμμόρφωση του εν λόγω συστήματος με τις εν λόγω απαιτήσεις, την απόσυρση ή την ανάκλησή του, ή διασφαλίζει ότι ο πάροχος, ο εισαγωγέας ή οποιοσδήποτε σχετικός φορέας, κατά περίπτωση, λαμβάνει τα εν λόγω διορθωτικά μέτρα. Όταν το σύστημα ΤΝ υψηλού κινδύνου παρουσιάζει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1, ο διανομέας ενημερώνει αμέσως σχετικά με το θέμα αυτό τις αρμόδιες εθνικές αρχές των κρατών μελών στα οποία έχει καταστήσει διαθέσιμο το προϊόν και παραθέτει λεπτομέρειες ιδίως για τη μη συμμόρφωση και τα διορθωτικά μέτρα που έλαβε.

5.Κατόπιν αιτιολογημένου αιτήματος αρμόδιας εθνικής αρχής, οι διανομείς συστημάτων ΤΝ υψηλού κινδύνου παρέχουν στην εν λόγω αρχή όλες τις πληροφορίες και την τεκμηρίωση που απαιτούνται για να αποδειχθεί η συμμόρφωση συστήματος υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου. Οι διανομείς συνεργάζονται επίσης με την εν λόγω αρμόδια εθνική αρχή για κάθε μέτρο που λαμβάνει η εν λόγω αρχή.

Άρθρο 28
Υποχρεώσεις των διανομέων, των εισαγωγέων, των χρηστών ή λοιπών τρίτων

1.Οποιοσδήποτε διανομέας, εισαγωγέας, χρήστης ή άλλος τρίτος θεωρείται πάροχος για τους σκοπούς του παρόντος κανονισμού και υπόκειται στις υποχρεώσεις που ισχύουν για τον πάροχο δυνάμει του άρθρου 16, στις ακόλουθες περιστάσεις:

α)διαθέτουν στην αγορά ή θέτουν σε λειτουργία σύστημα ΤΝ υψηλού κινδύνου υπό την επωνυμία ή το εμπορικό τους σήμα·

β)τροποποιούν τον επιδιωκόμενο σκοπό συστήματος ΤΝ υψηλού κινδύνου που έχει ήδη διατεθεί στην αγορά ή έχει τεθεί σε λειτουργία·

γ)πραγματοποιούν ουσιαστική τροποποίηση στο σύστημα ΤΝ υψηλού κινδύνου.

2.Όταν συντρέχουν οι περιστάσεις που αναφέρονται στην παράγραφο 1 στοιχείο β) ή γ), ο πάροχος που αρχικά διέθεσε το σύστημα ΤΝ υψηλού κινδύνου στην αγορά ή το έθεσε σε λειτουργία δεν θεωρείται πλέον πάροχος για τους σκοπούς του παρόντος κανονισμού.

Άρθρο 29
Υποχρεώσεις των χρηστών συστημάτων ΤΝ υψηλού κινδύνου

1.Οι χρήστες συστημάτων ΤΝ υψηλού κινδύνου χρησιμοποιούν τα συστήματα αυτά σύμφωνα με τις οδηγίες χρήσης που συνοδεύουν τα συστήματα, σύμφωνα με τις παραγράφους 2 και 5.

2.Οι υποχρεώσεις της παραγράφου 1 ισχύουν με την επιφύλαξη άλλων υποχρεώσεων των χρηστών βάσει του ενωσιακού ή του εθνικού δικαίου και της διακριτικής ευχέρειας του χρήστη κατά την οργάνωση των πόρων του και των δραστηριοτήτων για τον σκοπό της εφαρμογής των μέτρων ανθρώπινης εποπτείας που υποδεικνύει ο πάροχος.

3.Με την επιφύλαξη της παραγράφου 1, στον βαθμό που ο χρήστης ασκεί έλεγχο επί των δεδομένων εισόδου, ο εν λόγω χρήστης διασφαλίζει ότι τα δεδομένα εισόδου είναι συναφή με τον επιδιωκόμενο σκοπό του συστήματος ΤΝ υψηλού κινδύνου.

4.Οι χρήστες παρακολουθούν τη λειτουργία του συστήματος ΤΝ υψηλού κινδύνου με βάση τις οδηγίες χρήσης. Όταν έχουν λόγους να θεωρούν ότι η χρήση σύμφωνα με τις οδηγίες χρήσης μπορεί να έχει ως αποτέλεσμα το σύστημα ΤΝ να παρουσιάσει κίνδυνο κατά την έννοια του άρθρου 65 παράγραφος 1, τότε ενημερώνουν τον πάροχο ή τον διανομέα και αναστέλλουν τη χρήση του συστήματος. Ενημερώνουν επίσης τον πάροχο ή τον διανομέα όταν εντοπίσουν σοβαρό περιστατικό ή δυσλειτουργία κατά την έννοια του άρθρου 62 και διακόπτουν τη χρήση του συστήματος ΤΝ. Σε περίπτωση που ο χρήστης δεν είναι σε θέση να επικοινωνήσει με τον πάροχο, εφαρμόζεται το άρθρο 62, τηρουμένων των αναλογιών.

Για τους χρήστες που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ, η υποχρέωση παρακολούθησης που ορίζεται στο πρώτο εδάφιο θεωρείται ότι εκπληρώνεται με τη συμμόρφωση με τους κανόνες σχετικά με τις ρυθμίσεις, τις διαδικασίες και τους μηχανισμούς εσωτερικής διακυβέρνησης σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας.

5.Οι χρήστες συστημάτων ΤΝ υψηλού κινδύνου τηρούν τα αρχεία καταγραφής που δημιουργούνται αυτόματα από το εν λόγω σύστημα ΤΝ υψηλού κινδύνου, στον βαθμό που τα εν λόγω αρχεία καταγραφής βρίσκονται υπό τον έλεγχό τους. Τα αρχεία καταγραφής τηρούνται για χρονικό διάστημα που είναι κατάλληλο υπό το πρίσμα του επιδιωκόμενου σκοπού του συστήματος ΤΝ υψηλού κινδύνου και των εφαρμοστέων νομικών υποχρεώσεων βάσει του ενωσιακού ή του εθνικού δικαίου.

Οι χρήστες που είναι πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ διατηρούν τα αρχεία καταγραφής στο πλαίσιο της τεκμηρίωσης που αφορά τις ρυθμίσεις, τις διαδικασίες και τους μηχανισμούς εσωτερικής διακυβέρνησης σύμφωνα με το άρθρο 74 της εν λόγω οδηγίας.

6.Οι χρήστες συστημάτων ΤΝ υψηλού κινδύνου χρησιμοποιούν τις πληροφορίες που παρέχονται βάσει του άρθρου 13 για να συμμορφωθούν με την υποχρέωσή τους να διενεργούν εκτίμηση αντικτύπου σχετικά με την προστασία των δεδομένων, δυνάμει του άρθρου 35 του κανονισμού (ΕΕ) 2016/679 ή του άρθρου 27 της οδηγίας (ΕΕ) 2016/680, κατά περίπτωση.

Κεφάλαιο 4

ΚΟΙΝΟΠΟΙΟΥΣΕΣ ΑΡΧΕΣ ΚΑΙ ΚΟΙΝΟΠΟΙΗΜΕΝΟΙ ΟΡΓΑΝΙΣΜΟΙ

Άρθρο 30
Κοινοποιούσες αρχές

1.Κάθε κράτος μέλος ορίζει ή συστήνει κοινοποιούσα αρχή, υπεύθυνη για τον καθορισμό και τη διεξαγωγή των αναγκαίων διαδικασιών αξιολόγησης, ορισμού και κοινοποίησης των οργανισμών αξιολόγησης της συμμόρφωσης, καθώς και για την παρακολούθησή τους.

2.Τα κράτη μέλη μπορούν να ορίσουν εθνικό οργανισμό διαπίστευσης που αναφέρεται στον κανονισμό (ΕΚ) αριθ. 765/2008 ως κοινοποιούσα αρχή.

3.Οι κοινοποιούσες αρχές συστήνονται, οργανώνονται και λειτουργούν κατά τρόπο ώστε να μην προκύπτει σύγκρουση συμφερόντων με τους οργανισμούς αξιολόγησης της συμμόρφωσης και να διασφαλίζονται η αντικειμενικότητα και η αμεροληψία των δραστηριοτήτων τους.

4.Οι κοινοποιούσες αρχές οργανώνονται κατά τρόπο ώστε οι αποφάσεις που αφορούν την κοινοποίηση των οργανισμών αξιολόγησης της συμμόρφωσης να λαμβάνονται από τα αρμόδια πρόσωπα που είναι άλλα από τα πρόσωπα που διεξήγαγαν την αξιολόγηση των εν λόγω οργανισμών.

5.Οι κοινοποιούσες αρχές δεν προσφέρουν ούτε προβλέπουν δραστηριότητες που εκτελούνται από τους οργανισμούς αξιολόγησης της συμμόρφωσης ούτε παρέχουν συμβουλευτικές υπηρεσίες σε εμπορική ή ανταγωνιστική βάση.

6.Οι κοινοποιούσες αρχές διασφαλίζουν την εμπιστευτικότητα των πληροφοριών που λαμβάνουν.

7.Οι κοινοποιούσες αρχές διαθέτουν επαρκή αριθμό αρμόδιου προσωπικού για τη σωστή εκτέλεση των καθηκόντων τους.

8.Οι κοινοποιούσες αρχές διασφαλίζουν ότι οι αξιολογήσεις συμμόρφωσης διενεργούνται με αναλογικό τρόπο και ότι αποφεύγονται περιττές επιβαρύνσεις για τους παρόχους, καθώς και ότι οι κοινοποιημένοι οργανισμοί εκτελούν τις δραστηριότητές τους λαμβάνοντας υπόψη το μέγεθος μιας επιχείρησης, τον τομέα στον οποίο δραστηριοποιείται, τη δομή της και τον βαθμό πολυπλοκότητας του εν λόγω συστήματος ΤΝ.

Άρθρο 31
Αίτηση από οργανισμό αξιολόγησης της συμμόρφωσης για κοινοποίηση

1.Οι οργανισμοί αξιολόγησης της συμμόρφωσης υποβάλλουν αίτηση κοινοποίησης στην κοινοποιούσα αρχή του κράτους μέλους στο οποίο είναι εγκατεστημένοι.

2.Η αίτηση κοινοποίησης συνοδεύεται από περιγραφή των δραστηριοτήτων αξιολόγησης της συμμόρφωσης, της ενότητας ή των ενοτήτων αξιολόγησης της συμμόρφωσης και των τεχνολογιών τεχνητής νοημοσύνης για τις οποίες ο οργανισμός αξιολόγησης της συμμόρφωσης ισχυρίζεται ότι διαθέτει επάρκεια, καθώς και από πιστοποιητικό διαπίστευσης, όταν αυτό υπάρχει, το οποίο εκδόθηκε από εθνικό οργανισμό διαπίστευσης και με το οποίο πιστοποιείται ότι ο οργανισμός αξιολόγησης της συμμόρφωσης πληροί τις απαιτήσεις του άρθρου 33. Προστίθεται κάθε έγκυρο έγγραφο που σχετίζεται με υφιστάμενους ορισμούς του αιτούντος κοινοποιημένου οργανισμού βάσει οποιασδήποτε άλλης ενωσιακής νομοθεσίας εναρμόνισης.

3.Αν ο οργανισμός αξιολόγησης της συμμόρφωσης δεν μπορεί να προσκομίσει πιστοποιητικό διαπίστευσης, τότε παρέχει στην κοινοποιούσα αρχή όλη την τεκμηρίωση που είναι αναγκαία για την επαλήθευση, την αναγνώριση και την τακτική παρακολούθηση της συμμόρφωσής του με τις απαιτήσεις του άρθρου 33. Για κοινοποιημένους οργανισμούς που ορίζονται δυνάμει οποιασδήποτε άλλης ενωσιακής νομοθεσίας εναρμόνισης, μπορούν να χρησιμοποιούνται όλα τα έγγραφα και τα πιστοποιητικά που συνδέονται με τους εν λόγω ορισμούς, για την υποστήριξη της διαδικασίας ορισμού τους δυνάμει του παρόντος κανονισμού, κατά περίπτωση.

Άρθρο 32
Διαδικασία κοινοποίησης

1.Οι κοινοποιούσες αρχές μπορούν να κοινοποιούν μόνο τους οργανισμούς αξιολόγησης της συμμόρφωσης που πληρούν τις απαιτήσεις του άρθρου 33.

2.Οι κοινοποιούσες αρχές πραγματοποιούν την κοινοποίηση στην Επιτροπή και στα λοιπά κράτη μέλη μέσω του ηλεκτρονικού μέσου κοινοποίησης που έχει δημιουργήσει και διαχειρίζεται η Επιτροπή.

3.Στην κοινοποίηση περιλαμβάνονται όλα τα στοιχεία για τις δραστηριότητες αξιολόγησης της συμμόρφωσης, την ενότητα ή τις ενότητες αξιολόγησης της συμμόρφωσης και τις οικείες τεχνολογίες τεχνητής νοημοσύνης.

4.Ο ενδιαφερόμενος οργανισμός αξιολόγησης της συμμόρφωσης μπορεί να εκτελεί τις δραστηριότητες κοινοποιημένου οργανισμού μόνο εφόσον δεν διατυπωθεί ένσταση από την Επιτροπή και τα άλλα κράτη μέλη εντός ενός μηνός από την κοινοποίηση.

5.Οι κοινοποιούσες αρχές ενημερώνουν την Επιτροπή και τα λοιπά κράτη μέλη για τυχόν επακόλουθες συναφείς αλλαγές στην κοινοποίηση.

Άρθρο 33
Κοινοποιημένοι οργανισμοί

1.Οι κοινοποιημένοι οργανισμοί επαληθεύουν τη συμμόρφωση του συστήματος ΤΝ υψηλού κινδύνου σύμφωνα με τις διαδικασίες αξιολόγησης της συμμόρφωσης που αναφέρονται στο άρθρο 43.

2.Οι κοινοποιημένοι οργανισμοί πληρούν τις οργανωτικές απαιτήσεις και τις απαιτήσεις σχετικά με τη διαχείριση της ποιότητας, τους πόρους και τις διαδικασίες, οι οποίες είναι απαραίτητες για την εκπλήρωση των καθηκόντων τους.

3.Η οργανωτική δομή, η κατανομή αρμοδιοτήτων, οι δίαυλοι αναφοράς και η λειτουργία των κοινοποιημένων οργανισμών έχουν τα χαρακτηριστικά που διασφαλίζουν την εμπιστοσύνη στις επιδόσεις των κοινοποιημένων οργανισμών και στα αποτελέσματα των δραστηριοτήτων αξιολόγησης της συμμόρφωσης που αυτοί διενεργούν.

4.Οι κοινοποιημένοι οργανισμοί είναι ανεξάρτητοι από τον πάροχο συστήματος ΤΝ υψηλού κινδύνου σε σχέση με το οποίο εκτελεί δραστηριότητες αξιολόγησης της συμμόρφωσης. Οι κοινοποιημένοι οργανισμοί είναι επίσης ανεξάρτητοι από κάθε άλλον φορέα εκμετάλλευσης που έχει οικονομικό συμφέρον στο αξιολογούμενο σύστημα ΤΝ υψηλού κινδύνου, καθώς και από τυχόν ανταγωνιστές του παρόχου.

5.Οι κοινοποιημένοι οργανισμοί οργανώνονται και λειτουργούν με τέτοιον τρόπον ώστε να διασφαλίζουν την ανεξαρτησία, την αντικειμενικότητα και την αμεροληψία των δραστηριοτήτων τους. Οι κοινοποιημένοι οργανισμοί τεκμηριώνουν και εφαρμόζουν δομές και διαδικασίες για τη διασφάλιση της αμεροληψίας και την προώθηση και εφαρμογή των αρχών της αμεροληψίας σε όλα τα επίπεδα της οργάνωσής τους, του προσωπικού τους και των δραστηριοτήτων αξιολόγησης.

6.Οι κοινοποιημένοι οργανισμοί διαθέτουν τεκμηριωμένες διαδικασίες οι οποίες διασφαλίζουν ότι τα μέλη του προσωπικού, οι επιτροπές, οι θυγατρικές και οι υπεργολάβοι τους, καθώς και κάθε άλλος συνδεδεμένος οργανισμός ή προσωπικό εξωτερικών φορέων, τηρούν την εμπιστευτικότητα των πληροφοριών που αποκτούν κατά την εκτέλεση των δραστηριοτήτων αξιολόγησης της συμμόρφωσης, εκτός αν η δημοσιοποίηση απαιτείται από τον νόμο. Το προσωπικό των κοινοποιημένων οργανισμών δεσμεύεται να τηρεί το επαγγελματικό απόρρητο για κάθε πληροφορία που περιέρχεται σε γνώση του κατά την εκτέλεση των καθηκόντων του σύμφωνα με τον παρόντα κανονισμό, εξαιρουμένων των πληροφοριών που αφορούν τις κοινοποιούσες αρχές του κράτους μέλους στο οποίο διεξάγονται οι δραστηριότητές τους.

7.Οι κοινοποιημένοι οργανισμοί διαθέτουν διαδικασίες για την άσκηση των δραστηριοτήτων τους, λαμβανομένων υπόψη του μεγέθους της επιχείρησης, του τομέα στον οποίο δραστηριοποιείται, της δομής της και του βαθμού πολυπλοκότητας του οικείου συστήματος ΤΝ.

8.Οι κοινοποιημένοι οργανισμοί συνάπτουν κατάλληλη σύμβαση ασφάλισης αστικής ευθύνης για τις δραστηριότητες αξιολόγησης της συμμόρφωσης που διενεργούν, εκτός αν την ευθύνη φέρει το ενδιαφερόμενο κράτος μέλος σύμφωνα με το εθνικό δίκαιο ή αν το ίδιο το κράτος μέλος είναι άμεσα υπεύθυνο για την αξιολόγηση της συμμόρφωσης.

9.Οι κοινοποιημένοι οργανισμοί είναι σε θέση να εκτελούν όλα τα καθήκοντα που υπέχουν βάσει του παρόντος κανονισμού με τον ύψιστο βαθμό επαγγελματικής ακεραιότητας και την απαιτούμενη επάρκεια στον συγκεκριμένο τομέα, είτε τα καθήκοντα αυτά εκτελούνται από τους ίδιους τους κοινοποιημένους οργανισμούς είτε εξ ονόματός τους και υπό την ευθύνη τους.

10.Οι κοινοποιημένοι οργανισμοί διαθέτουν επαρκή εσωτερική επάρκεια ώστε να είναι σε θέση να αξιολογούν αποτελεσματικά τα καθήκοντα που εκτελούν εξωτερικοί φορείς για λογαριασμό τους. Για τον σκοπό αυτόν, ανά πάσα στιγμή και για κάθε διαδικασία αξιολόγησης της συμμόρφωσης και κάθε είδος συστήματος ΤΝ υψηλού κινδύνου για το οποίο έχει οριστεί, ο κοινοποιημένος οργανισμός διαθέτει σε μόνιμη βάση επαρκές διοικητικό, τεχνικό και επιστημονικό προσωπικό με πείρα και γνώσεις όσον αφορά τις σχετικές τεχνολογίες τεχνητής νοημοσύνης, τα δεδομένα και την υπολογιστική δεδομένων, καθώς και όσον αφορά τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου.

11.Οι κοινοποιημένοι οργανισμοί συμμετέχουν στις δραστηριότητες συντονισμού που αναφέρονται στο άρθρο 38. Επίσης, λαμβάνουν μέρος άμεσα ή εκπροσωπούνται σε ευρωπαϊκούς οργανισμούς τυποποίησης, ή διασφαλίζουν ότι γνωρίζουν και είναι ενήμεροι για τα σχετικά πρότυπα.

12.Οι κοινοποιημένοι οργανισμοί καθιστούν διαθέσιμη και υποβάλλουν, κατόπιν αιτήματος, κάθε σχετική τεκμηρίωση, συμπεριλαμβανομένης εκείνης του παρόχου, στην κοινοποιούσα αρχή που αναφέρεται στο άρθρο 30, ώστε να είναι σε θέση να διεξάγει τις δραστηριότητες αξιολόγησης, ορισμού, κοινοποίησης, παρακολούθησης και εποπτείας και να διευκολύνεται η αξιολόγηση που περιγράφεται στο παρόν κεφάλαιο.

Άρθρο 34
Θυγατρικές και υπεργολάβοι κοινοποιημένων οργανισμών

1.Όταν κοινοποιημένος οργανισμός αναθέτει υπεργολαβικά συγκεκριμένα καθήκοντα που συνδέονται με την αξιολόγηση της συμμόρφωσης ή προσφεύγει σε θυγατρική, εξασφαλίζει ότι ο υπεργολάβος ή η θυγατρική πληροί τις απαιτήσεις του άρθρου 33 και ενημερώνει την κοινοποιούσα αρχή αναλόγως.

2.Οι κοινοποιημένοι οργανισμοί αναλαμβάνουν πλήρως την ευθύνη για τα καθήκοντα που εκτελούν οι υπεργολάβοι ή οι θυγατρικές, όπου κι αν είναι εγκατεστημένοι.

3.Οι δραστηριότητες μπορούν να ανατίθενται σε υπεργολάβο ή να διεξάγονται από θυγατρική μόνον αφού συμφωνήσει ο πάροχος.

4.Οι κοινοποιημένοι οργανισμοί τηρούν στη διάθεση της κοινοποιούσας αρχής τα έγγραφα σχετικά με την αξιολόγηση των προσόντων του υπεργολάβου ή της θυγατρικής και σχετικά με τις εργασίες που διεξήγαγε ο υπεργολάβος ή η θυγατρική δυνάμει του παρόντος κανονισμού.

Άρθρο 35
Αριθμοί μητρώου και κατάλογοι κοινοποιημένων οργανισμών που ορίζονται δυνάμει του παρόντος κανονισμού

1.Η Επιτροπή χορηγεί στους κοινοποιημένους οργανισμούς αριθμό μητρώου. Χορηγεί έναν και μόνο αριθμό, ακόμη και αν ο οργανισμός είναι κοινοποιημένος βάσει διαφόρων πράξεων της Ένωσης.

2.Η Επιτροπή δημοσιοποιεί τον κατάλογο των οργανισμών που κοινοποιούνται βάσει του παρόντος κανονισμού, συμπεριλαμβανομένων των αριθμών μητρώου που τους έχουν χορηγηθεί και των δραστηριοτήτων για τις οποίες έχουν κοινοποιηθεί. Η Επιτροπή μεριμνά για την επικαιροποίηση του καταλόγου.

Άρθρο 36
Αλλαγές κοινοποιήσεων

1.Όταν κοινοποιούσα αρχή έχει υποψίες ή πληροφορείται ότι κοινοποιημένος οργανισμός δεν πληροί πλέον τις απαιτήσεις του άρθρου 33 ή ότι αδυνατεί να εκπληρώσει τις υποχρεώσεις του, η εν λόγω αρχή διερευνά χωρίς καθυστέρηση το ζήτημα επιδεικνύοντας τη μέγιστη δυνατή επιμέλεια. Στο πλαίσιο αυτό, ενημερώνει τον ενδιαφερόμενο κοινοποιημένο οργανισμό σχετικά με τις αντιρρήσεις που διατυπώθηκαν και του παρέχει τη δυνατότητα να γνωστοποιήσει τις απόψεις του. Εάν η κοινοποιούσα αρχή καταλήξει στο συμπέρασμα ότι ο υπό διερεύνηση κοινοποιημένος οργανισμός δεν πληροί πλέον τις απαιτήσεις του άρθρου 33 ή ότι αδυνατεί να εκπληρώσει τις υποχρεώσεις του, περιορίζει, αναστέλλει ή ανακαλεί την κοινοποίηση, κατά περίπτωση, αναλόγως της σοβαρότητας της μη τήρησης των απαιτήσεων ή της μη εκπλήρωσης των υποχρεώσεων. Επίσης, ενημερώνει αμέσως σχετικά την Επιτροπή και τα άλλα κράτη μέλη.

2.Σε περίπτωση περιορισμού, αναστολής ή ανάκλησης της κοινοποίησης ή όταν ο κοινοποιημένος οργανισμός παύσει τη δραστηριότητά του, η κοινοποιούσα αρχή προβαίνει στις δέουσες ενέργειες για να διασφαλίσει ότι τα αρχεία αυτού του κοινοποιημένου οργανισμού είτε αναλαμβάνονται από άλλον κοινοποιημένο οργανισμό είτε καθίστανται διαθέσιμα στις αρμόδιες κοινοποιούσες αρχές, κατόπιν αιτήματός τους.

Άρθρο 37
Αμφισβήτηση της επάρκειας των κοινοποιημένων οργανισμών

1.Η Επιτροπή ερευνά, εφόσον είναι αναγκαίο, όλες τις περιπτώσεις στις οποίες εγείρονται αμφιβολίες σχετικά με τη συμμόρφωση του κοινοποιημένου οργανισμού με τις απαιτήσεις του άρθρου 33.

2.Η κοινοποιούσα αρχή παρέχει στην Επιτροπή, κατόπιν αιτήματος, όλες τις σχετικές πληροφορίες που αφορούν την κοινοποίηση του υπόψη κοινοποιημένου οργανισμού.

3.Η Επιτροπή διασφαλίζει τον εμπιστευτικό χαρακτήρα όλων των εμπιστευτικών πληροφοριών που λαμβάνει από τις έρευνες που διενεργεί δυνάμει του παρόντος άρθρου.

4.Όταν η Επιτροπή διαπιστώσει ότι κοινοποιημένος οργανισμός δεν πληροί ή παύει να πληροί τις απαιτήσεις που ορίζονται στο άρθρο 33, εκδίδει αιτιολογημένη απόφαση που απαιτεί από το κοινοποιούν κράτος μέλος να λάβει τα αναγκαία διορθωτικά μέτρα, συμπεριλαμβανομένης της απόσυρσης της κοινοποίησης, εφόσον είναι αναγκαίο. Αυτή η εκτελεστική πράξη εκδίδεται σύμφωνα με τη διαδικασία εξέτασης που αναφέρεται στο άρθρο 74 παράγραφος 2.

Άρθρο 38
Συντονισμός των κοινοποιημένων οργανισμών

1.Η Επιτροπή εξασφαλίζει ότι, όσον αφορά τους τομείς που καλύπτονται από τον παρόντα κανονισμό, καθιερώνονται κατάλληλος συντονισμός και συνεργασία μεταξύ των κοινοποιημένων οργανισμών που δραστηριοποιούνται στις διαδικασίες αξιολόγησης της συμμόρφωσης συστημάτων ΤΝ σύμφωνα με τον παρόντα κανονισμό, οι οποίοι λειτουργούν σωστά με τη μορφή τομεακής ομάδας κοινοποιημένων οργανισμών.

2.Τα κράτη μέλη εξασφαλίζουν ότι οι οργανισμοί τους οποίους έχουν κοινοποιήσει συμμετέχουν στις εργασίες της εν λόγω ομάδας, απευθείας ή μέσω διορισθέντων αντιπροσώπων.

Άρθρο 39
Οργανισμοί αξιολόγησης της συμμόρφωσης τρίτων χωρών

Οι οργανισμοί αξιολόγησης της συμμόρφωσης που έχουν συσταθεί βάσει της νομοθεσίας τρίτης χώρας με την οποία η Ένωση έχει συνάψει συμφωνία μπορούν να εξουσιοδοτούνται να ασκούν τις δραστηριότητες κοινοποιημένων οργανισμών δυνάμει του παρόντος κανονισμού.

Κεφάλαιο 5

ΠΡΟΤΥΠΑ, ΑΞΙΟΛΟΓΗΣΗ ΤΗΣ ΣΥΜΜΟΡΦΩΣΗΣ, ΠΙΣΤΟΠΟΙΗΤΙΚΑ, ΚΑΤΑΧΩΡΙΣΗ

Άρθρο 40
Εναρμονισμένα πρότυπα

Τα συστήματα ΤΝ υψηλού κινδύνου που συμμορφώνονται με τα εναρμονισμένα πρότυπα ή μέρη αυτών, των οποίων τα στοιχεία έχουν δημοσιευθεί στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης, τεκμαίρεται ότι συμμορφώνονται με τις απαιτήσεις του κεφαλαίου 2 του παρόντος τίτλου, στον βαθμό που τα εν λόγω πρότυπα καλύπτουν αυτές τις απαιτήσεις.

Άρθρο 41
Κοινές προδιαγραφές

1.Όταν δεν υπάρχουν εναρμονισμένα πρότυπα που αναφέρονται στο άρθρο 40 ή όταν η Επιτροπή θεωρεί ότι τα σχετικά εναρμονισμένα πρότυπα είναι ανεπαρκή ή ότι υπάρχει ανάγκη αντιμετώπισης ειδικών ζητημάτων ασφάλειας ή θεμελιωδών δικαιωμάτων, η Επιτροπή μπορεί, με εκτελεστικές πράξεις, να θεσπίζει κοινές προδιαγραφές όσον αφορά τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου. Οι εν λόγω εκτελεστικές πράξεις εκδίδονται σύμφωνα με τη διαδικασία εξέτασης του άρθρου 74 παράγραφος 2.

2.Η Επιτροπή, κατά την κατάρτιση των κοινών προδιαγραφών που αναφέρονται στην παράγραφο 1, συγκεντρώνει τις απόψεις των σχετικών φορέων ή ομάδων εμπειρογνωμόνων που έχουν συσταθεί βάσει της σχετικής τομεακής νομοθεσίας της Ένωσης.

3.Τα συστήματα ΤΝ υψηλού κινδύνου που συμμορφώνονται με τις κοινές προδιαγραφές που αναφέρονται στην παράγραφο 1 τεκμαίρεται ότι συμμορφώνονται με τις απαιτήσεις του κεφαλαίου 2 του παρόντος τίτλου, στον βαθμό που οι εν λόγω κοινές προδιαγραφές καλύπτουν αυτές τις απαιτήσεις.

4.Όταν οι πάροχοι δεν συμμορφώνονται με τις κοινές προδιαγραφές που αναφέρονται στην παράγραφο 1, αιτιολογούν δεόντως ότι έχουν θεσπίσει τεχνικές λύσεις τουλάχιστον ισοδύναμες με αυτές.

Άρθρο 42
Τεκμήριο συμμόρφωσης με ορισμένες απαιτήσεις

1.Λαμβανομένου υπόψη του επιδιωκόμενου σκοπού τους, τα συστήματα ΤΝ υψηλού κινδύνου που έχουν εκπαιδευτεί και δοκιμαστεί σε δεδομένα σχετικά με το συγκεκριμένο γεωγραφικό, συμπεριφορικό και λειτουργικό πλαίσιο εντός του οποίου πρόκειται να χρησιμοποιηθούν τεκμαίρεται ότι συμμορφώνονται με την απαίτηση που ορίζεται στο άρθρο 10 παράγραφος 4.

2.Τα συστήματα ΤΝ υψηλού κινδύνου που έχουν πιστοποιηθεί ή για τα οποία έχει εκδοθεί δήλωση συμμόρφωσης στο πλαίσιο συστήματος κυβερνοασφάλειας σύμφωνα με τον κανονισμό (ΕΕ) 2019/881 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 63 και των οποίων τα στοιχεία αναφοράς έχουν δημοσιευθεί στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης τεκμαίρεται ότι συμμορφώνονται με τις απαιτήσεις κυβερνοασφάλειας που ορίζονται στο άρθρο 15 του παρόντος κανονισμού, εφόσον το πιστοποιητικό κυβερνοασφάλειας ή η δήλωση συμμόρφωσης ή μέρη αυτών καλύπτουν τις εν λόγω απαιτήσεις.

Άρθρο 43
Αξιολόγηση της συμμόρφωσης

1.Για τα συστήματα ΤΝ υψηλού κινδύνου που απαριθμούνται στο παράρτημα III σημείο 1, όταν, για να αποδειχθεί η συμμόρφωση συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, ο πάροχος έχει εφαρμόσει τα εναρμονισμένα πρότυπα που αναφέρονται στο άρθρο 40 ή, κατά περίπτωση, τις κοινές προδιαγραφές που αναφέρονται στο άρθρο 41, ο πάροχος ακολουθεί μία από τις ακόλουθες διαδικασίες:

α)τη διαδικασία αξιολόγησης της συμμόρφωσης με βάση εσωτερικό έλεγχο που αναφέρεται στο παράρτημα VI·

β)τη διαδικασία αξιολόγησης της συμμόρφωσης με βάση αξιολόγηση του συστήματος διαχείρισης της ποιότητας και αξιολόγηση του τεχνικού φακέλου, με τη συμμετοχή κοινοποιημένου οργανισμού, όπως αναφέρεται στο παράρτημα VII.

Όταν, για να αποδείξει τη συμμόρφωση συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, ο πάροχος δεν έχει εφαρμόσει ή έχει εφαρμόσει μόνο εν μέρει τα εναρμονισμένα πρότυπα που αναφέρονται στο άρθρο 40, ή όταν δεν υπάρχουν τέτοια εναρμονισμένα πρότυπα και δεν υπάρχουν διαθέσιμες οι κοινές προδιαγραφές που αναφέρονται στο άρθρο 41, ο πάροχος ακολουθεί τη διαδικασία αξιολόγησης της συμμόρφωσης που ορίζεται στο παράρτημα VII.

Για τους σκοπούς της διαδικασίας αξιολόγησης της συμμόρφωσης που αναφέρεται στο παράρτημα VII, ο πάροχος μπορεί να επιλέξει οποιονδήποτε από τους κοινοποιημένους οργανισμούς. Ωστόσο, όταν το σύστημα πρόκειται να τεθεί σε λειτουργία από αρχές επιβολής του νόμου, μετανάστευσης ή ασύλου, καθώς και από θεσμικά και λοιπά όργανα ή οργανισμούς της ΕΕ, η αρχή εποπτείας της αγοράς που αναφέρεται στο άρθρο 63 παράγραφοι 5 ή 6, κατά περίπτωση, ενεργεί ως κοινοποιημένος οργανισμός.

2.Για τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III σημεία 2 έως 8, οι πάροχοι ακολουθούν τη διαδικασία αξιολόγησης της συμμόρφωσης με βάση τον εσωτερικό έλεγχο που αναφέρεται στο παράρτημα VI, η οποία δεν προβλέπει τη συμμετοχή κοινοποιημένου οργανισμού. Για τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III σημείο 5 στοιχείο β) και τα οποία διατίθενται στην αγορά ή τίθενται σε λειτουργία από πιστωτικά ιδρύματα τα οποία ρυθμίζονται από την οδηγία 2013/36/ΕΕ, η αξιολόγηση της συμμόρφωσης διενεργείται στο πλαίσιο της διαδικασίας που αναφέρεται στα άρθρα 97 έως 101 της εν λόγω οδηγίας.

3.Για συστήματα ΤΝ υψηλού κινδύνου, στα οποία εφαρμόζονται οι νομικές πράξεις που παρατίθενται στο παράρτημα ΙΙ τμήμα Α, ο πάροχος ακολουθεί τη σχετική διαδικασία αξιολόγησης της συμμόρφωσης που απαιτείται βάσει των εν λόγω νομικών πράξεων. Οι απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου ισχύουν για αυτά τα συστήματα ΤΝ υψηλού κινδύνου και αποτελούν μέρος της εν λόγω αξιολόγησης. Εφαρμόζεται επίσης το παράρτημα VII σημεία 4.3., 4.4., 4.5. και σημείο 4.6 πέμπτο εδάφιο.

Για τους σκοπούς της εν λόγω αξιολόγησης, οι κοινοποιημένοι οργανισμοί που έχουν κοινοποιηθεί δυνάμει των εν λόγω νομικών πράξεων δικαιούνται να ελέγχουν τη συμμόρφωση των συστημάτων ΤΝ υψηλού κινδύνου με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, υπό την προϋπόθεση ότι η συμμόρφωση των εν λόγω κοινοποιημένων οργανισμών με τις απαιτήσεις που ορίζονται στο άρθρο 33 παράγραφοι 4, 9 και 10 έχει αξιολογηθεί στο πλαίσιο της διαδικασίας κοινοποίησης δυνάμει των εν λόγω νομικών πράξεων.

Όταν οι νομικές πράξεις που παρατίθενται στο παράρτημα ΙΙ τμήμα Α επιτρέπουν στον κατασκευαστή του προϊόντος να εξαιρεθεί από την αξιολόγηση της συμμόρφωσης από τρίτο μέρος, υπό την προϋπόθεση ότι ο εν λόγω κατασκευαστής έχει εφαρμόσει όλα τα εναρμονισμένα πρότυπα που καλύπτουν όλες τις σχετικές απαιτήσεις, ο εν λόγω κατασκευαστής μπορεί να κάνει χρήση αυτής της επιλογής μόνο εάν έχει επίσης εφαρμόσει εναρμονισμένα πρότυπα ή, κατά περίπτωση, τις κοινές προδιαγραφές που αναφέρονται στο άρθρο 41 και καλύπτουν τις απαιτήσεις του κεφαλαίου 2 του παρόντος τίτλου.

4.Τα συστήματα ΤΝ υψηλού κινδύνου υποβάλλονται σε νέα διαδικασία αξιολόγησης της συμμόρφωσης όποτε τροποποιούνται ουσιαστικά, ανεξάρτητα από το αν το τροποποιημένο σύστημα προορίζεται για περαιτέρω διανομή ή εξακολουθεί να χρησιμοποιείται από τον τωρινό χρήστη.

Για τα συστήματα ΤΝ υψηλού κινδύνου που συνεχίζουν να μαθαίνουν μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία, οι αλλαγές στο σύστημα ΤΝ υψηλού κινδύνου και στις επιδόσεις του που έχουν προκαθοριστεί από τον πάροχο κατά τη στιγμή της αρχικής αξιολόγησης της συμμόρφωσης και αποτελούν μέρος των πληροφοριών που περιέχονται στον τεχνικό φάκελο που αναφέρεται στο παράρτημα IV σημείο 2 στοιχείο στ), δεν συνιστούν ουσιαστική τροποποίηση.

5.Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 73 για την επικαιροποίηση των παραρτημάτων VI και VII, προκειμένου να εισάγει στοιχεία των διαδικασιών αξιολόγησης της συμμόρφωσης που καθίστανται αναγκαία υπό το πρίσμα της τεχνικής προόδου,

6.Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις για την τροποποίηση των παραγράφων 1 και 2 προκειμένου τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα ΙΙΙ σημεία 2 έως 8 να υπόκεινται στη διαδικασία αξιολόγησης της συμμόρφωσης που αναφέρεται στο παράρτημα VII ή σε μέρη αυτού. Η Επιτροπή εκδίδει τις εν λόγω κατ’ εξουσιοδότηση πράξεις λαμβάνοντας υπόψη την αποτελεσματικότητα της διαδικασίας αξιολόγησης της συμμόρφωσης με βάση τον εσωτερικό έλεγχο που αναφέρεται στο παράρτημα VI όσον αφορά την πρόληψη ή την ελαχιστοποίηση των κινδύνων για την υγεία και την ασφάλεια και την προστασία των θεμελιωδών δικαιωμάτων που ενέχουν τα εν λόγω συστήματα, καθώς και τη διαθεσιμότητα επαρκών ικανοτήτων και πόρων των κοινοποιημένων οργανισμών.

Άρθρο 44
Πιστοποιητικά

1.Τα πιστοποιητικά που εκδίδουν οι κοινοποιημένοι οργανισμοί σύμφωνα με το παράρτημα VII συντάσσονται σε επίσημη γλώσσα της Ένωσης που καθορίζεται από το κράτος μέλος στο οποίο είναι εγκατεστημένος ο κοινοποιημένος οργανισμός ή σε επίσημη γλώσσα της Ένωσης την οποία κατά τα άλλα αποδέχεται ο κοινοποιημένος οργανισμός.

2.Τα πιστοποιητικά ισχύουν για την περίοδο που αναφέρουν και η οποία δεν υπερβαίνει τα πέντε έτη. Μετά από αίτηση του παρόχου, η διάρκεια ισχύος του πιστοποιητικού μπορεί να παραταθεί για πρόσθετο χρονικό διάστημα που δεν υπερβαίνει τα πέντε έτη κάθε φορά, βάσει νέας αξιολόγησης σύμφωνα με τις ισχύουσες διαδικασίες αξιολόγησης της συμμόρφωσης.

3.Στις περιπτώσεις που ένας κοινοποιημένος οργανισμός θεωρεί ότι το σύστημα ΤΝ δεν πληροί πλέον τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, αναστέλλει ή ανακαλεί το εκδοθέν πιστοποιητικό ή επιβάλλει περιορισμούς σε αυτό, λαμβανομένης υπόψη της αρχής της αναλογικότητας, εκτός αν διασφαλίζεται η συμμόρφωση προς τις εν λόγω απαιτήσεις με τη λήψη κατάλληλων διορθωτικών μέτρων από τον πάροχο του συστήματος εντός κατάλληλης προθεσμίας που ορίζει ο κοινοποιημένος οργανισμός. Ο κοινοποιημένος οργανισμός αιτιολογεί την απόφασή του.

Άρθρο 45
Προσφυγή κατά αποφάσεων των κοινοποιημένων οργανισμών

Τα κράτη μέλη διασφαλίζουν ότι προβλέπεται διαδικασία προσφυγής κατά των αποφάσεων των κοινοποιημένων οργανισμών για τα μέρη που έχουν έννομο συμφέρον σε σχέση με την εκάστοτε απόφαση.

Άρθρο 46
Υποχρεώσεις ενημέρωσης για τους κοινοποιημένους οργανισμούς

1.Οι κοινοποιημένοι οργανισμοί ενημερώνουν την κοινοποιούσα αρχή για τα ακόλουθα:

α)τυχόν ενωσιακά πιστοποιητικά αξιολόγησης τεχνικού φακέλου, συμπληρώματα των εν λόγω πιστοποιητικών, εγκρίσεις συστημάτων διαχείρισης ποιότητας που έχουν χορηγηθεί σύμφωνα με τις απαιτήσεις του παραρτήματος VII·

β)τυχόν άρνηση, περιορισμό, αναστολή ή ανάκληση ενωσιακού πιστοποιητικού αξιολόγησης τεχνικού φακέλου ή έγκρισης συστήματος διαχείρισης ποιότητας που χορηγήθηκε σύμφωνα με τις απαιτήσεις του παραρτήματος VII·

γ)περιστάσεις που επηρεάζουν το πεδίο εφαρμογής ή τους όρους της κοινοποίησης·

δ)τυχόν αίτημα για ενημέρωση σχετικά με δραστηριότητες αξιολόγησης της συμμόρφωσης, το οποίο έλαβαν από τις αρχές εποπτείας της αγοράς·

ε)κατόπιν αιτήματος, για τις δραστηριότητες αξιολόγησης της συμμόρφωσης που εκτελούν στο πλαίσιο της κοινοποίησής τους και για οποιαδήποτε άλλη δραστηριότητα, συμπεριλαμβανομένων των διασυνοριακών δραστηριοτήτων και υπεργολαβιών.

2.Κάθε κοινοποιημένος οργανισμός ενημερώνει τους άλλους κοινοποιημένους οργανισμούς σχετικά με:

α)εγκρίσεις των συστημάτων διαχείρισης της ποιότητας τις οποίες έχει απορρίψει, αναστείλει ή ανακαλέσει, και, κατόπιν αιτήματος, σχετικά με τις εγκρίσεις συστημάτων ποιότητας που έχει χορηγήσει·

β)ενωσιακά πιστοποιητικά αξιολόγησης τεχνικού φακέλου ή τυχόν συμπληρώματά τους που έχει απορρίψει, αποσύρει, αναστείλει ή κατ’ άλλο τρόπο περιορίσει, και, κατόπιν αιτήματος, πιστοποιητικά και/ή συμπληρώματά τους που έχει χορηγήσει.

3.Κάθε κοινοποιημένος οργανισμός παρέχει στους άλλους κοινοποιημένους οργανισμούς που διεξάγουν παρόμοιες δραστηριότητες αξιολόγησης της συμμόρφωσης που καλύπτουν τις ίδιες τεχνολογίες τεχνητής νοημοσύνης, σχετικές πληροφορίες για ζητήματα που αφορούν αρνητικά και, κατόπιν αιτήματος, θετικά αποτελέσματα αξιολόγησης της συμμόρφωσης.

Άρθρο 47
Παρέκκλιση από τη διαδικασία αξιολόγησης της συμμόρφωσης

1.Κατά παρέκκλιση από το άρθρο 43, οποιαδήποτε αρχή εποπτείας της αγοράς μπορεί να επιτρέπει τη διάθεση ειδικών συστημάτων ΤΝ υψηλού κινδύνου στην αγορά ή τη θέση τους σε λειτουργία εντός της επικράτειας του οικείου κράτους μέλους, για εξαιρετικούς λόγους δημόσιας ασφάλειας ή προστασίας της ζωής και της υγείας προσώπων, προστασίας του περιβάλλοντος και προστασίας βασικών βιομηχανικών στοιχείων ενεργητικού και υποδομών. Η άδεια αυτή ισχύει για περιορισμένο χρονικό διάστημα, ενώ διεξάγονται οι αναγκαίες διαδικασίες αξιολόγησης της συμμόρφωσης, και παύει να ισχύει μόλις ολοκληρωθούν οι εν λόγω διαδικασίες. Η ολοκλήρωση των εν λόγω διαδικασιών πραγματοποιείται χωρίς αδικαιολόγητη καθυστέρηση.

2.Η άδεια που αναφέρεται στην παράγραφο 1 εκδίδεται μόνο αν η αρχή εποπτείας της αγοράς καταλήξει στο συμπέρασμα ότι το σύστημα ΤΝ υψηλού κινδύνου συμμορφώνεται με τις απαιτήσεις του κεφαλαίου 2 του παρόντος τίτλου. Η αρχή εποπτείας της αγοράς ενημερώνει την Επιτροπή και τα άλλα κράτη μέλη για κάθε άδεια που εκδίδει σύμφωνα με την παράγραφο 1.

3.Εάν εντός 15 ημερολογιακών ημερών από τη λήψη των κατά την παράγραφο 2 πληροφοριών δεν έχει διατυπωθεί αντίρρηση από κράτος μέλος ή την Επιτροπή σε σχέση με άδεια που έχει εκδοθεί από αρχή εποπτείας της αγοράς κράτους μέλους σύμφωνα με την παράγραφο 1, η εν λόγω άδεια θεωρείται δικαιολογημένη.

4.Όταν, εντός 15 ημερολογιακών ημερών από την παραλαβή της κοινοποίησης που αναφέρεται στην παράγραφο 2, κάποιο κράτος μέλος διατυπώσει αντιρρήσεις κατά άδειας που έχει εκδοθεί από αρχή εποπτείας της αγοράς άλλου κράτους μέλους, ή όταν η Επιτροπή θεωρήσει ότι η άδεια είναι αντίθετη προς το δίκαιο της Ένωσης ή ότι το συμπέρασμα των κρατών μελών όσον αφορά τη συμμόρφωση του συστήματος που αναφέρεται στην παράγραφο 2 είναι αβάσιμο, η Επιτροπή διαβουλεύεται αμελλητί με το οικείο κράτος μέλος· ζητείται η γνώμη του/των ενδιαφερόμενου/-ων φορέα/-ων εκμετάλλευσης, ο/οι οποίος/-οι έχει/-ουν τη δυνατότητα να εκθέσει/-ουν τις απόψεις του/τους. Στο πλαίσιο αυτό, η Επιτροπή αποφασίζει αν η άδεια είναι δικαιολογημένη ή όχι. Η Επιτροπή ανακοινώνει την απόφασή της στο οικείο κράτος μέλος και στον σχετικό φορέα ή φορείς εκμετάλλευσης.

5.Εάν η άδεια θεωρηθεί αδικαιολόγητη, αποσύρεται από την αρχή εποπτείας της αγοράς του οικείου κράτους μέλους.

6.Κατά παρέκκλιση από τις διατάξεις των παραγράφων 1 έως 5, για τα συστήματα ΤΝ υψηλού κινδύνου που προορίζονται για χρήση ως κατασκευαστικά στοιχεία ασφάλειας τεχνολογικών προϊόντων, ή τα οποία είναι τα ίδια τεχνολογικά προϊόντα και καλύπτονται από τον κανονισμό (ΕΕ) 2017/745 και τον κανονισμό (ΕΕ) 2017/746, ισχύουν επίσης το άρθρο 59 του κανονισμού (ΕΕ) 2017/745 και το άρθρο 54 του κανονισμού (ΕΕ) 2017/746 όσον αφορά την παρέκκλιση από την αξιολόγηση της συμμόρφωσης με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου.

Άρθρο 48
Δήλωση συμμόρφωσης ΕΕ

1.Ο πάροχος συντάσσει γραπτή δήλωση συμμόρφωσης ΕΕ για κάθε σύστημα ΤΝ και τη θέτει στη διάθεση των αρμόδιων εθνικών αρχών επί 10 έτη από τη διάθεση του συστήματος ΤΝ στην αγορά ή τη θέση του σε λειτουργία. Στη δήλωση συμμόρφωσης ΕΕ αναφέρονται τα στοιχεία ταυτοποίησης του συστήματος ΤΝ για το οποίο έχει συνταχθεί. Αντίγραφο της δήλωσης συμμόρφωσης ΕΕ διατίθεται στις αρμόδιες εθνικές αρχές κατόπιν αιτήματος.

2.Στη δήλωση συμμόρφωσης ΕΕ αναφέρεται ότι το εν λόγω σύστημα ΤΝ υψηλού κινδύνου πληροί τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου. Η δήλωση συμμόρφωσης ΕΕ περιέχει τις πληροφορίες που ορίζονται στο παράρτημα V και μεταφράζεται σε μία ή περισσότερες επίσημες γλώσσες της Ένωσης όπως απαιτεί/-ούν το/τα κράτος/-η μέλος/-η στο/στα οποίο/-α καθίσταται διαθέσιμο το σύστημα ΤΝ υψηλού κινδύνου.

3.Όταν τα συστήματα ΤΝ υψηλού κινδύνου υπόκεινται σε άλλη ενωσιακή νομοθεσία εναρμόνισης η οποία επίσης απαιτεί δήλωση συμμόρφωσης ΕΕ, καταρτίζεται ενιαία δήλωση συμμόρφωσης ΕΕ για όλες τις νομοθετικές πράξεις της Ένωσης που ισχύουν για το σύστημα ΤΝ υψηλού κινδύνου. Η δήλωση περιέχει όλες τις πληροφορίες που απαιτούνται για την αναγνώριση της ενωσιακής νομοθεσίας εναρμόνισης στην οποία αναφέρεται η δήλωση.

4.Με την κατάρτιση της δήλωσης συμμόρφωσης ΕΕ, ο πάροχος αναλαμβάνει την ευθύνη για τη συμμόρφωση με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου. Ο πάροχος επικαιροποιεί αναλόγως τη δήλωση συμμόρφωσης ΕΕ.

5.Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 73 για να επικαιροποιεί το περιεχόμενο της δήλωσης συμμόρφωσης ΕΕ που παρατίθεται στο παράρτημα V, προκειμένου να εισάγει στοιχεία που καθίστανται απαραίτητα βάσει της τεχνικής προόδου.

Άρθρο 49
Σήμανση συμμόρφωσης CE

1.Η σήμανση CE τοποθετείται κατά τρόπο ευδιάκριτο, ευανάγνωστο και ανεξίτηλο στα συστήματα ΤΝ υψηλού κινδύνου. Όταν η φύση του συστήματος ΤΝ υψηλού κινδύνου δεν το επιτρέπει ή δεν το δικαιολογεί, η σήμανση τοποθετείται στη συσκευασία ή στα συνοδευτικά έγγραφα, κατά περίπτωση.

2.H σήμανση CE που αναφέρεται στην παράγραφο 1 του παρόντος άρθρου διέπεται από τις γενικές αρχές του άρθρου 30 του κανονισμού (ΕΚ) αριθ. 765/2008.

3.Κατά περίπτωση, η σήμανση CE συνοδεύεται από τον αριθμό μητρώου του κοινοποιημένου οργανισμού που είναι αρμόδιος για τις διαδικασίες αξιολόγησης της συμμόρφωσης οι οποίες ορίζονται στο άρθρο 43. Ο αριθμός μητρώου αναγράφεται επίσης σε κάθε διαφημιστικό υλικό στο οποίο αναφέρεται ότι το σύστημα ΤΝ υψηλού κινδύνου πληροί τις απαιτήσεις για τη σήμανση CE.

Άρθρο 50
Διατήρηση εγγράφων

Ο πάροχος διατηρεί στη διάθεση των αρμόδιων εθνικών αρχών, για χρονικό διάστημα 10 ετών από τη διάθεση του συστήματος ΤΝ στην αγορά ή τη θέση του σε λειτουργία:

α)τον τεχνικό φάκελο που αναφέρεται στο άρθρο 11·

β)τον φάκελο του συστήματος διαχείρισης ποιότητας που αναφέρεται στο άρθρο 17·

γ)τον φάκελο που αφορά τις αλλαγές που έχουν εγκριθεί από κοινοποιημένους οργανισμούς, κατά περίπτωση·

δ)τις αποφάσεις και άλλα έγγραφα που εκδίδονται από τους κοινοποιημένους οργανισμούς, κατά περίπτωση·

ε)τη δήλωση συμμόρφωσης ΕΕ που αναφέρεται στο άρθρο 48.

Άρθρο 51
Καταχώριση

Πριν από τη διάθεση συστήματος ΤΝ υψηλού κινδύνου στην αγορά ή τη θέση του σε λειτουργία, όπως αναφέρεται στο άρθρο 6 παράγραφος 2, ο πάροχος ή, κατά περίπτωση, ο εξουσιοδοτημένος αντιπρόσωπος καταχωρίζει το εν λόγω σύστημα στη βάση δεδομένων της ΕΕ που αναφέρεται στο άρθρο 60.

ΤΙΤΛΟΣ ΙV

ΥΠΟΧΡΕΩΣΕΙΣ ΔΙΑΦΑΝΕΙΑΣ ΓΙΑ ΟΡΙΣΜΕΝΑ ΣΥΣΤΗΜΑΤΑ ΤΝ

Άρθρο 52
Υποχρεώσεις διαφάνειας για ορισμένα συστήματα ΤΝ

1.Οι πάροχοι διασφαλίζουν ότι τα συστήματα ΤΝ που προορίζονται για αλληλεπίδραση με φυσικά πρόσωπα σχεδιάζονται και αναπτύσσονται κατά τρόπο ώστε τα φυσικά πρόσωπα να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ, εκτός εάν αυτό είναι προφανές από τις περιστάσεις και το πλαίσιο χρήσης. Η υποχρέωση αυτή δεν ισχύει για συστήματα ΤΝ εξουσιοδοτημένα από τον νόμο για την ανίχνευση, την πρόληψη, τη διερεύνηση και τη δίωξη ποινικών αδικημάτων, εκτός εάν τα συστήματα αυτά είναι διαθέσιμα στο κοινό για την καταγγελία ποινικού αδικήματος.

2.Οι χρήστες συστήματος αναγνώρισης συναισθημάτων ή συστήματος βιομετρικής κατηγοριοποίησης ενημερώνουν σχετικά με τη λειτουργία του συστήματος τα φυσικά πρόσωπα που εκτίθενται σε αυτό. Η υποχρέωση αυτή δεν ισχύει για τα συστήματα ΤΝ που χρησιμοποιούνται για βιομετρική κατηγοριοποίηση, των οποίων η χρήση επιτρέπεται από τον νόμο για την ανίχνευση, την πρόληψη και τη διερεύνηση ποινικών αδικημάτων.

3.Οι χρήστες συστήματος ΤΝ που παράγει ή χειρίζεται περιεχόμενο εικόνας, ήχου ή βίντεο που έχει αισθητή ομοιότητα με υπαρκτά πρόσωπα, αντικείμενα, τόπους ή άλλες οντότητες ή γεγονότα και θα εκλαμβανόταν ψευδώς από κάποιο πρόσωπο ως γνήσιο ή αληθινό («βαθιά ψευδές υλικό»), γνωστοποιούν ότι το περιεχόμενο έχει παραχθεί τεχνητά ή υποστεί χειρισμό.

Ωστόσο, το πρώτο εδάφιο δεν εφαρμόζεται όταν η χρήση επιτρέπεται από τον νόμο για την ανίχνευση, την πρόληψη, τη διερεύνηση και τη δίωξη ποινικών αδικημάτων ή είναι απαραίτητη για την άσκηση του δικαιώματος στην ελευθερία της έκφρασης και του δικαιώματος στην ελευθερία της τέχνης και της επιστήμης που κατοχυρώνονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ, και με την επιφύλαξη των κατάλληλων εγγυήσεων για τα δικαιώματα και τις ελευθερίες τρίτων.

4.Οι παράγραφοι 1, 2 και 3 δεν θίγουν τις απαιτήσεις και τις υποχρεώσεις που ορίζονται στον τίτλο ΙΙΙ του παρόντος κανονισμού.

ΤΙΤΛΟΣ V

ΜΕΤΡΑ ΓΙΑ ΤΗ ΣΤΗΡΙΞΗ ΤΗΣ ΚΑΙΝΟΤΟΜΙΑΣ

Άρθρο 53 
Ρυθμιστικά δοκιμαστήρια ΤΝ

1.Τα ρυθμιστικά δοκιμαστήρια ΤΝ που θεσπίζονται από μία ή περισσότερες αρμόδιες αρχές των κρατών μελών ή από τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων παρέχουν ελεγχόμενο περιβάλλον που διευκολύνει την ανάπτυξη, τη δοκιμή και την επικύρωση καινοτόμων συστημάτων ΤΝ για περιορισμένο χρονικό διάστημα πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία σύμφωνα με συγκεκριμένο σχέδιο. Η διαδικασία αυτή λαμβάνει χώρα υπό την άμεση εποπτεία και καθοδήγηση των αρμόδιων αρχών, με σκοπό τη διασφάλιση της συμμόρφωσης με τις απαιτήσεις του παρόντος κανονισμού και, κατά περίπτωση, με άλλες νομοθετικές πράξεις της Ένωσης και των κρατών μελών που εποπτεύονται εντός του δοκιμαστηρίου.

2.Τα κράτη μέλη διασφαλίζουν ότι στον βαθμό που τα καινοτόμα συστήματα ΤΝ περιλαμβάνουν την επεξεργασία δεδομένων προσωπικού χαρακτήρα ή εμπίπτουν με άλλον τρόπο στην εποπτική αρμοδιότητα άλλων εθνικών αρχών ή αρμόδιων αρχών που παρέχουν ή υποστηρίζουν την πρόσβαση σε δεδομένα, οι εθνικές αρχές προστασίας δεδομένων και οι εν λόγω άλλες εθνικές αρχές συνδέονται με τη λειτουργία του ρυθμιστικού δοκιμαστηρίου ΤΝ.

3.Τα ρυθμιστικά δοκιμαστήρια ΤΝ δεν θίγουν τις εποπτικές και διορθωτικές εξουσίες των αρμόδιων αρχών. Τυχόν σημαντικοί κίνδυνοι για την υγεία και την ασφάλεια και για τα θεμελιώδη δικαιώματα που εντοπίζονται κατά την ανάπτυξη και τη δοκιμή των εν λόγω συστημάτων έχουν ως αποτέλεσμα τον άμεσο μετριασμό και, ελλείψει αυτού, την αναστολή της διαδικασίας ανάπτυξης και δοκιμής έως ότου πραγματοποιηθεί ο εν λόγω μετριασμός.

4.Οι συμμετέχοντες στο ρυθμιστικό δοκιμαστήριο ΤΝ παραμένουν υπεύθυνοι βάσει της εφαρμοστέας νομοθεσίας της Ένωσης και των κρατών μελών σχετικά με την ευθύνη για κάθε ζημία που προκαλείται σε τρίτους ως αποτέλεσμα του πειραματισμού που πραγματοποιείται στο δοκιμαστήριο.

5.Οι αρμόδιες αρχές των κρατών μελών που έχουν θεσπίσει ρυθμιστικά δοκιμαστήρια ΤΝ συντονίζουν τις δραστηριότητές τους και συνεργάζονται στο πλαίσιο του Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης. Υποβάλλουν ετήσιες εκθέσεις στο συμβούλιο και στην Επιτροπή σχετικά με τα αποτελέσματα της υλοποίησης αυτών των συστημάτων, συμπεριλαμβανομένων των ορθών πρακτικών, των διδαγμάτων και των συστάσεων σχετικά με τη σύστασή τους και, κατά περίπτωση, σχετικά με την εφαρμογή του παρόντος κανονισμού και της λοιπής ενωσιακής νομοθεσίας που εποπτεύεται εντός του δοκιμαστηρίου.

6.Οι λεπτομέρειες και οι όροι λειτουργίας των ρυθμιστικών δοκιμαστηρίων ΤΝ, συμπεριλαμβανομένων των κριτηρίων επιλεξιμότητας και της διαδικασίας για την υποβολή αίτησης, την επιλογή, τη συμμετοχή και την έξοδο από το δοκιμαστήριο, καθώς και τα δικαιώματα και οι υποχρεώσεις των συμμετεχόντων καθορίζονται σε εκτελεστικές πράξεις. Οι εν λόγω εκτελεστικές πράξεις εκδίδονται σύμφωνα με τη διαδικασία εξέτασης του άρθρου 74 παράγραφος 2.

Άρθρο 54
Περαιτέρω επεξεργασία δεδομένων προσωπικού χαρακτήρα για την ανάπτυξη ορισμένων συστημάτων ΤΝ προς το δημόσιο συμφέρον στο ρυθμιστικό δοκιμαστήριο ΤΝ

1.Στο ρυθμιστικό δοκιμαστήριο ΤΝ τα δεδομένα προσωπικού χαρακτήρα που έχουν συλλεχθεί νόμιμα για άλλους σκοπούς υποβάλλονται σε επεξεργασία για τους σκοπούς της ανάπτυξης και της δοκιμής ορισμένων καινοτόμων συστημάτων ΤΝ στο δοκιμαστήριο υπό τις ακόλουθες προϋποθέσεις:

α)τα καινοτόμα συστήματα ΤΝ αναπτύσσονται για τη διασφάλιση ουσιαστικού δημόσιου συμφέροντος σε έναν ή περισσότερους από τους ακόλουθους τομείς:

i)την πρόληψη, τη διερεύνηση, την ανίχνευση ή τη δίωξη ποινικών αδικημάτων ή την εκτέλεση ποινικών κυρώσεων, περιλαμβανομένης της προστασίας από απειλές κατά της δημόσιας ασφάλειας και της πρόληψης αυτών, υπό τον έλεγχο και την ευθύνη των αρμόδιων αρχών. Η επεξεργασία βασίζεται στο δίκαιο κράτους μέλους ή στο δίκαιο της Ένωσης·

ii)τη δημόσια ασφάλεια και τη δημόσια υγεία, περιλαμβανομένων της πρόληψης, του ελέγχου και της θεραπείας νόσων·

iii)υψηλό επίπεδο προστασίας και βελτίωση της ποιότητας του περιβάλλοντος·

β)τα δεδομένα που υποβάλλονται σε επεξεργασία είναι αναγκαία για τη συμμόρφωση με μία ή περισσότερες από τις απαιτήσεις που αναφέρονται στον τίτλο III κεφάλαιο 2, όταν οι εν λόγω απαιτήσεις δεν μπορούν να ικανοποιηθούν αποτελεσματικά με την επεξεργασία ανωνυμοποιημένων, συνθετικών ή άλλων δεδομένων μη προσωπικού χαρακτήρα·

γ)υπάρχουν αποτελεσματικοί μηχανισμοί παρακολούθησης για τον εντοπισμό τυχόν υψηλών κινδύνων για τα θεμελιώδη δικαιώματα των υποκειμένων των δεδομένων κατά τη διάρκεια του πειραματισμού στο πλαίσιο του δοκιμαστηρίου, καθώς και μηχανισμοί απόκρισης για τον άμεσο μετριασμό των εν λόγω κινδύνων και, όταν είναι αναγκαίο, τη διακοπή της επεξεργασίας·

δ)τα δεδομένα προσωπικού χαρακτήρα που υποβάλλονται σε επεξεργασία στο πλαίσιο του δοκιμαστηρίου βρίσκονται σε λειτουργικά χωριστό, απομονωμένο και προστατευόμενο περιβάλλον επεξεργασίας υπό τον έλεγχο των συμμετεχόντων και μόνο εξουσιοδοτημένα πρόσωπα έχουν πρόσβαση στα εν λόγω δεδομένα·

ε)τα δεδομένα προσωπικού χαρακτήρα που υποβάλλονται σε επεξεργασία δεν διαβιβάζονται ούτε μεταφέρονται από άλλα μέρη, ούτε είναι δυνατή η πρόσβαση των εν λόγω μερών σε αυτά·

στ)τυχόν επεξεργασία δεδομένων προσωπικού χαρακτήρα στο πλαίσιο του δοκιμαστηρίου δεν οδηγεί στη λήψη μέτρων ή αποφάσεων που επηρεάζουν τα υποκείμενα των δεδομένων·

ζ)τα δεδομένα προσωπικού χαρακτήρα που υποβάλλονται σε επεξεργασία στο πλαίσιο του δοκιμαστηρίου διαγράφονται μόλις λήξει η συμμετοχή στο δοκιμαστήριο ή τα δεδομένα προσωπικού χαρακτήρα φτάσουν στη λήξη της περιόδου διατήρησής τους·

η)τα αρχεία καταγραφής της επεξεργασίας δεδομένων προσωπικού χαρακτήρα στο πλαίσιο του δοκιμαστηρίου διατηρούνται καθ’ όλη τη διάρκεια της συμμετοχής στο δοκιμαστήριο και για 1 έτος μετά τη λήξη της, αποκλειστικά για τους σκοπούς και μόνο για το χρονικό διάστημα που απαιτείται για την εκπλήρωση των υποχρεώσεων λογοδοσίας και τεκμηρίωσης δυνάμει του παρόντος άρθρου ή άλλης εφαρμοστέας νομοθεσίας της Ένωσης ή κράτους μέλους·

θ)πλήρης και λεπτομερής περιγραφή της διαδικασίας και του σκεπτικού στο οποίο βασίζεται η εκπαίδευση, η δοκιμή και η επικύρωση του συστήματος ΤΝ διατηρείται μαζί με τα αποτελέσματα των δοκιμών ως μέρος του τεχνικού φακέλου του παραρτήματος IV·

ι)μια σύντομη περίληψη του έργου ΤΝ που αναπτύχθηκε στο δοκιμαστήριο, οι στόχοι του και τα αναμενόμενα αποτελέσματά του δημοσιεύονται στον δικτυακό τόπο των αρμόδιων αρχών.

2.Η παράγραφος 1 δεν θίγει τη νομοθεσία της Ένωσης ή των κρατών μελών που αποκλείει την επεξεργασία για άλλους σκοπούς εκτός από εκείνους που αναφέρονται ρητά στην εν λόγω νομοθεσία.

Άρθρο 55
Μέτρα για παρόχους και χρήστες μικρής κλίμακας

1.Τα κράτη μέλη προβαίνουν στις ακόλουθες ενέργειες:

α)παρέχουν στους παρόχους μικρής κλίμακας και τις νεοφυείς επιχειρήσεις κατά προτεραιότητα πρόσβαση στα ρυθμιστικά δοκιμαστήρια ΤΝ εφόσον πληρούν τους όρους επιλεξιμότητας·

β)οργανώνουν ειδικές δραστηριότητες ευαισθητοποίησης σχετικά με την εφαρμογή του παρόντος κανονισμού, προσαρμοσμένες στις ανάγκες των παρόχων και των χρηστών μικρής κλίμακας·

γ)κατά περίπτωση, θεσπίζουν ειδικό δίαυλο επικοινωνίας με παρόχους και χρήστες μικρής κλίμακας και άλλους φορείς καινοτομίας για την παροχή καθοδήγησης και απαντήσεων σε ερωτήματα σχετικά με την εφαρμογή του παρόντος κανονισμού.

2.Τα ειδικά συμφέροντα και οι ανάγκες των παρόχων μικρής κλίμακας λαμβάνονται υπόψη κατά τον καθορισμό των τελών για την αξιολόγηση της συμμόρφωσης δυνάμει του άρθρου 43, με μείωση των εν λόγω τελών αναλογικά προς το μέγεθός τους και το μέγεθος της αγοράς.

ΤΙΤΛΟΣ VI

ΔΙΑΚΥΒΕΡΝΗΣΗ

Κεφάλαιο 1

Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης

Άρθρο 56
Σύσταση του Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης

1.Συστήνεται «Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης» (στο εξής: συμβούλιο).

2.Το συμβούλιο παρέχει συμβουλές και συνδρομή στην Επιτροπή προκειμένου:

α)να συμβάλει στην αποτελεσματική συνεργασία των εθνικών εποπτικών αρχών και της Επιτροπής για θέματα που καλύπτονται από τον παρόντα κανονισμό·

β)να συντονίζει και να συμβάλλει στην καθοδήγηση και ανάλυση της Επιτροπής και των εθνικών εποπτικών αρχών και άλλων αρμόδιων αρχών όσον αφορά νεοεμφανιζόμενα ζητήματα στην εσωτερική αγορά σχετικά με θέματα που καλύπτονται από τον παρόντα κανονισμό·

γ)να επικουρεί τις εθνικές εποπτικές αρχές και την Επιτροπή στη διασφάλιση της συνεπούς εφαρμογής του παρόντος κανονισμού.

Άρθρο 57
Διάρθρωση του συμβουλίου

1.Το συμβούλιο απαρτίζεται από τις εθνικές εποπτικές αρχές, οι οποίες εκπροσωπούνται από τον επικεφαλής ή ισοδύναμο υψηλόβαθμο υπάλληλο της εν λόγω αρχής, και από τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων. Στις συνεδριάσεις μπορούν να προσκαλούνται άλλες εθνικές αρχές, όταν τις αφορούν τα ζητήματα που συζητούνται.

2.Το συμβούλιο εκδίδει τον εσωτερικό κανονισμό του με απλή πλειοψηφία των μελών που το αποτελούν, κατόπιν συναίνεσης της Επιτροπής. Ο εσωτερικός κανονισμός περιλαμβάνει επίσης τις επιχειρησιακές πτυχές που σχετίζονται με την εκτέλεση των καθηκόντων του συμβουλίου, όπως απαριθμούνται στο άρθρο 58. Το συμβούλιο μπορεί να συγκροτεί υποομάδες, εφόσον είναι σκόπιμο για την εξέταση συγκεκριμένων ζητημάτων.

3.Η προεδρία του συμβουλίου ασκείται από την Επιτροπή. Η Επιτροπή συγκαλεί τις συνεδριάσεις και καταρτίζει την ημερήσια διάταξη σύμφωνα με τα καθήκοντα του συμβουλίου βάσει του παρόντος κανονισμού και του εσωτερικού κανονισμού του. Η Επιτροπή παρέχει διοικητική και αναλυτική στήριξη για τις δραστηριότητες του συμβουλίου σύμφωνα με τον παρόντα κανονισμό.

4.Το συμβούλιο μπορεί να καλεί εξωτερικούς εμπειρογνώμονες και παρατηρητές να παρίστανται στις συνεδριάσεις του, καθώς και να πραγματοποιεί ανταλλαγές με ενδιαφερόμενους τρίτους οι οποίοι συνεισφέρουν στις δραστηριότητές του σε κατάλληλο βαθμό. Για τον σκοπό αυτό, η Επιτροπή μπορεί να διευκολύνει τις επαφές μεταξύ του συμβουλίου και άλλων οργάνων, υπηρεσιών, οργανισμών και συμβουλευτικών ομάδων της Ένωσης.

Άρθρο 58
Καθήκοντα του συμβουλίου

Κατά την παροχή συμβουλών και συνδρομής στην Επιτροπή στο πλαίσιο του άρθρου 56 παράγραφος 2, το συμβούλιο έχει συγκεκριμένα τα εξής καθήκοντα:

α)συλλέγει και ανταλλάσσει εμπειρογνωσία και βέλτιστες πρακτικές μεταξύ των κρατών μελών·

β)συμβάλλει στην καθιέρωση ομοιόμορφων διοικητικών πρακτικών στα κράτη μέλη, μεταξύ άλλων για τη λειτουργία των ρυθμιστικών δοκιμαστηρίων που αναφέρονται στο άρθρο 53·

γ)εκδίδει γνώμες, συστάσεις ή γραπτές εισηγήσεις για θέματα που σχετίζονται με την εφαρμογή του παρόντος κανονισμού, ειδικότερα

i)για τεχνικές προδιαγραφές ή υφιστάμενα πρότυπα όσον αφορά τις απαιτήσεις που ορίζονται στον τίτλο ΙΙΙ κεφάλαιο 2,

ii)για τη χρήση εναρμονισμένων προτύπων ή κοινών προδιαγραφών που αναφέρονται στα άρθρα 40 και 41,

iii)για την κατάρτιση εγγράφων καθοδήγησης, συμπεριλαμβανομένων των κατευθυντήριων γραμμών που αφορούν τον καθορισμό των διοικητικών προστίμων που αναφέρονται στο άρθρο 71.

ΚΕΦΑΛΑΙΟ 2

ΕΘΝΙΚΕΣ ΑΡΜΟΔΙΕΣ ΑΡΧΕΣ

Άρθρο 59
Ορισμός των εθνικών αρμόδιων αρχών

1.Οι εθνικές αρμόδιες αρχές συστήνονται ή ορίζονται από κάθε κράτος μέλος με σκοπό τη διασφάλιση της εφαρμογής και της υλοποίησης του παρόντος κανονισμού. Οι εθνικές αρμόδιες αρχές οργανώνονται κατά τρόπον ώστε να διασφαλίζεται η αντικειμενικότητα και η αμεροληψία των δραστηριοτήτων και των καθηκόντων τους.

2.Κάθε κράτος μέλος ορίζει μια εθνική εποπτική αρχή μεταξύ των εθνικών αρμόδιων αρχών. Η εθνική εποπτική αρχή ενεργεί ως κοινοποιούσα αρχή και ως αρχή εποπτείας της αγοράς, εκτός εάν το κράτος μέλος έχει οργανωτικούς και διοικητικούς λόγους να ορίσει περισσότερες από μία αρχές.

3.Τα κράτη μέλη ενημερώνουν την Επιτροπή σχετικά με τον ορισμό μίας ή περισσότερων αρχών και, κατά περίπτωση, τους λόγους για τους οποίους ορίζουν περισσότερες από μία αρχές.

4.Τα κράτη μέλη μεριμνούν ώστε οι εθνικές αρμόδιες αρχές να διαθέτουν επαρκείς οικονομικούς και ανθρώπινους πόρους για την εκπλήρωση των καθηκόντων τους δυνάμει του παρόντος κανονισμού. Ειδικότερα, οι εθνικές αρμόδιες αρχές διαθέτουν επαρκή αριθμό μονίμως διαθέσιμου προσωπικού, οι αρμοδιότητες και η εμπειρογνωσία του οποίου περιλαμβάνουν εις βάθος κατανόηση των τεχνολογιών τεχνητής νοημοσύνης, των δεδομένων και της υπολογιστικής δεδομένων, των θεμελιωδών δικαιωμάτων, των κινδύνων για την υγεία και την ασφάλεια, και γνώση των υφιστάμενων προτύπων και νομικών απαιτήσεων.

5.Τα κράτη μέλη υποβάλλουν έκθεση στην Επιτροπή σε ετήσια βάση σχετικά με την κατάσταση των οικονομικών και ανθρώπινων πόρων των εθνικών αρμόδιων αρχών με αξιολόγηση της επάρκειάς τους. Η Επιτροπή διαβιβάζει τις εν λόγω πληροφορίες στο συμβούλιο προς συζήτηση και, ενδεχομένως, διατύπωση συστάσεων.

6.Η Επιτροπή διευκολύνει την ανταλλαγή εμπειριών μεταξύ των εθνικών αρμόδιων αρχών.

7.Οι εθνικές αρμόδιες αρχές μπορούν να παρέχουν καθοδήγηση και συμβουλές σχετικά με την εφαρμογή του παρόντος κανονισμού, μεταξύ άλλων και σε παρόχους μικρής κλίμακας. Όποτε οι εθνικές αρμόδιες αρχές προτίθενται να παράσχουν καθοδήγηση και συμβουλές σχετικά με ένα σύστημα ΤΝ σε τομείς που καλύπτονται από άλλη ενωσιακή νομοθεσία, ζητείται η γνώμη των αρμόδιων εθνικών αρχών δυνάμει της εν λόγω ενωσιακής νομοθεσίας, κατά περίπτωση. Τα κράτη μέλη μπορούν επίσης να δημιουργήσουν ένα κεντρικό σημείο επαφής για την επικοινωνία με τους φορείς εκμετάλλευσης.

8.Όταν τα θεσμικά και λοιπά όργανα και οι οργανισμοί της Ένωσης εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού, ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων ενεργεί ως η αρμόδια αρχή για την εποπτεία τους.

ΤΙΤΛΟΣ VII

ΒΑΣΗ ΔΕΔΟΜΕΝΩΝ ΤΗΣ ΕΕ ΓΙΑ ΑΥΤΟΝΟΜΑ ΣΥΣΤΗΜΑΤΑ ΤΝ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ

Άρθρο 60
Βάση δεδομένων της ΕΕ για αυτόνομα συστήματα ΤΝ υψηλού κινδύνου

1.Η Επιτροπή, σε συνεργασία με τα κράτη μέλη, δημιουργεί και διατηρεί βάση δεδομένων της ΕΕ που περιέχει τις πληροφορίες που αναφέρονται στην παράγραφο 2 όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο άρθρο 6 παράγραφος 2, τα οποία καταχωρίζονται σύμφωνα με το άρθρο 51.

2.Τα δεδομένα που απαριθμούνται στο παράρτημα VIII εισάγονται στη βάση δεδομένων της ΕΕ από τους παρόχους. Η Επιτροπή τους παρέχει τεχνική και διοικητική στήριξη.

3.Οι πληροφορίες που περιέχονται στη βάση δεδομένων της ΕΕ είναι προσβάσιμες στο κοινό.

4.Η βάση δεδομένων της ΕΕ περιέχει δεδομένα προσωπικού χαρακτήρα μόνο εφόσον αυτό είναι αναγκαίο για τη συλλογή και την επεξεργασία πληροφοριών σύμφωνα με τον παρόντα κανονισμό. Οι πληροφορίες αυτές περιλαμβάνουν τα ονόματα και τα στοιχεία επικοινωνίας των φυσικών προσώπων που είναι υπεύθυνα για την καταχώριση του συστήματος και έχουν τη νομική εξουσία να εκπροσωπούν τον πάροχο.

5.Η Επιτροπή είναι ο υπεύθυνος επεξεργασίας της βάσης δεδομένων της ΕΕ. Εξασφαλίζει επίσης στους παρόχους επαρκή τεχνική και διοικητική στήριξη.

ΤΙΤΛΟΣ VΙΙΙ

ΠΑΡΑΚΟΛΟΥΘΗΣΗ ΜΕΤΑ ΤΗ ΔΙΑΘΕΣΗ ΣΤΗΝ ΑΓΟΡΑ, ΑΝΤΑΛΛΑΓΗ ΠΛΗΡΟΦΟΡΙΩΝ, ΕΠΟΠΤΕΙΑ ΤΗΣ ΑΓΟΡΑΣ

Κεφάλαιο 1

Παρακολούθηση μετά τη διάθεση στην αγορά

Άρθρο 61
Παρακολούθηση από παρόχους μετά τη διάθεση στην αγορά και σχέδιο παρακολούθησης μετά τη διάθεση στην αγορά για συστήματα ΤΝ υψηλού κινδύνου

1.Οι πάροχοι καθιερώνουν και τεκμηριώνουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά κατά τρόπο αναλογικό προς τη φύση των τεχνολογιών τεχνητής νοημοσύνης και τους κινδύνους του συστήματος ΤΝ υψηλού κινδύνου.

2.Το σύστημα παρακολούθησης μετά τη διάθεση στην αγορά συλλέγει ενεργά και συστηματικά, τεκμηριώνει και αναλύει τα σχετικά δεδομένα που παρέχονται από τους χρήστες ή συλλέγονται μέσω άλλων πηγών σχετικά με τις επιδόσεις των συστημάτων ΤΝ υψηλού κινδύνου καθ’ όλη τη διάρκεια ζωής τους, ενώ παράλληλα επιτρέπει στον πάροχο να αξιολογεί τη συνεχή συμμόρφωση των συστημάτων ΤΝ με τις απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2.

3.Το σύστημα παρακολούθησης μετά τη διάθεση στην αγορά βασίζεται σε σχέδιο παρακολούθησης μετά τη διάθεση στην αγορά. Το σχέδιο παρακολούθησης μετά τη διάθεση στην αγορά αποτελεί μέρος του τεχνικού φακέλου που αναφέρεται στο παράρτημα IV. Η Επιτροπή εκδίδει εκτελεστική πράξη που θεσπίζει λεπτομερείς διατάξεις για τον καθορισμό υποδείγματος για το σχέδιο παρακολούθησης μετά τη διάθεση στην αγορά και καταλόγου στοιχείων που πρέπει να περιλαμβάνονται στο σχέδιο.

4.Για τα συστήματα ΤΝ υψηλού κινδύνου που καλύπτονται από τις νομικές πράξεις που αναφέρονται στο παράρτημα ΙΙ, όταν έχει ήδη θεσπιστεί σύστημα και σχέδιο παρακολούθησης μετά τη διάθεση στην αγορά βάσει της εν λόγω νομοθεσίας, τα στοιχεία που περιγράφονται στις παραγράφους 1, 2 και 3 ενσωματώνονται στο εν λόγω σύστημα και το σχέδιο, κατά περίπτωση.

Το πρώτο εδάφιο εφαρμόζεται επίσης στα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III σημείο 5 στοιχείο β) και τα οποία διατίθενται στην αγορά ή τίθενται σε λειτουργία από πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ.

Κεφάλαιο 2

Ανταλλαγή πληροφοριών σχετικά με περιστατικά και δυσλειτουργίες

Άρθρο 62
Αναφορά σοβαρών περιστατικών και δυσλειτουργιών

1.Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου που διατίθενται στην αγορά της Ένωσης αναφέρουν τυχόν σοβαρά περιστατικά ή δυσλειτουργίες των εν λόγω συστημάτων, τα οποία συνιστούν παραβίαση των υποχρεώσεων που απορρέουν από το δίκαιο της Ένωσης και αποσκοπούν στην προστασία των θεμελιωδών δικαιωμάτων, στις αρχές εποπτείας της αγοράς των κρατών μελών όπου προέκυψε το περιστατικό ή η παραβίαση.

Η εν λόγω κοινοποίηση πραγματοποιείται αμέσως μόλις ο πάροχος διαπιστώσει αιτιώδη συνάφεια μεταξύ του συστήματος ΤΝ και του περιστατικού ή της δυσλειτουργίας ή εύλογη πιθανότητα στοιχειοθέτησης τέτοιας συνάφειας, και σε κάθε περίπτωση, το αργότερο εντός 15 ημερών αφότου ο πάροχος λάβει γνώση του σοβαρού περιστατικού ή της δυσλειτουργίας.

2.Μόλις λάβει κοινοποίηση σχετικά με παραβίαση των υποχρεώσεων που απορρέουν από το δίκαιο της Ένωσης και αποσκοπούν στην προστασία των θεμελιωδών δικαιωμάτων, η αρχή εποπτείας της αγοράς ενημερώνει τις εθνικές δημόσιες αρχές ή τους φορείς που αναφέρονται στο άρθρο 64 παράγραφος 3. Η Επιτροπή καταρτίζει ειδική καθοδήγηση για τη διευκόλυνση της συμμόρφωσης με τις υποχρεώσεις που ορίζονται στην παράγραφο 1. Η εν λόγω καθοδήγηση εκδίδεται το αργότερο 12 μήνες μετά την έναρξη ισχύος του παρόντος κανονισμού.

3.Για τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III σημείο 5 στοιχείο β) και τα οποία διατίθενται στην αγορά ή τίθενται σε λειτουργία από παρόχους που είναι πιστωτικά ιδρύματα ρυθμιζόμενα από την οδηγία 2013/36/ΕΕ και για συστήματα ΤΝ υψηλού κινδύνου που αποτελούν κατασκευαστικά στοιχεία ασφάλειας τεχνολογικών προϊόντων, ή είναι τα ίδια τεχνολογικά προϊόντα, και καλύπτονται από τον κανονισμό (ΕΕ) 2017/745 και τον κανονισμό (ΕΕ) 2017/746, η κοινοποίηση σοβαρών περιστατικών ή δυσλειτουργιών περιορίζεται σε αυτά που συνιστούν παραβίαση των υποχρεώσεων που απορρέουν από το δίκαιο της Ένωσης και αποσκοπούν στην προστασία των θεμελιωδών δικαιωμάτων.

Κεφάλαιο 3

Επιβολή

Άρθρο 63
Εποπτεία της αγοράς και έλεγχος των συστημάτων ΤΝ στην ενωσιακή αγορά

1.Ο κανονισμός (ΕΕ) 2019/1020 εφαρμόζεται στα συστήματα ΤΝ που καλύπτονται από τον παρόντα κανονισμό. Ωστόσο, για τους σκοπούς της αποτελεσματικής επιβολής του παρόντος κανονισμού:

α)κάθε αναφορά σε οικονομικό φορέα δυνάμει του κανονισμού (ΕΕ) 2019/1020 θεωρείται ότι περιλαμβάνει όλους τους φορείς εκμετάλλευσης που προσδιορίζονται στον τίτλο ΙΙΙ κεφάλαιο 3 του παρόντος κανονισμού·

β)κάθε αναφορά σε προϊόν δυνάμει του κανονισμού (ΕΕ) 2019/1020 θεωρείται ότι περιλαμβάνει όλα τα συστήματα ΤΝ που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού.

2.Η εθνική εποπτική αρχή υποβάλλει τακτικά έκθεση στην Επιτροπή σχετικά με τα αποτελέσματα των σχετικών δραστηριοτήτων εποπτείας της αγοράς. Η εθνική εποπτική αρχή αναφέρει, χωρίς καθυστέρηση, στην Επιτροπή και στις αρμόδιες εθνικές αρχές ανταγωνισμού κάθε πληροφορία που εντοπίζεται στο πλαίσιο των δραστηριοτήτων εποπτείας της αγοράς και η οποία ενδέχεται να παρουσιάζει ενδιαφέρον για την εφαρμογή των κανόνων ανταγωνισμού του ενωσιακού δικαίου.

3.Για τα συστήματα ΤΝ υψηλού κινδύνου, όσον αφορά τα προϊόντα στα οποία εφαρμόζονται οι νομικές πράξεις που παρατίθενται στο παράρτημα ΙΙ τμήμα Α, η αρχή εποπτείας της αγοράς για τους σκοπούς του παρόντος κανονισμού είναι η αρχή που είναι υπεύθυνη για τις δραστηριότητες εποπτείας της αγοράς που ορίζονται δυνάμει των εν λόγω νομικών πράξεων.

4.Για τα συστήματα ΤΝ που διατίθενται στην αγορά, τίθενται σε λειτουργία ή χρησιμοποιούνται από χρηματοπιστωτικά ιδρύματα που διέπονται από τη νομοθεσία της Ένωσης σχετικά με τις χρηματοπιστωτικές υπηρεσίες, η αρχή εποπτείας της αγοράς για τους σκοπούς του παρόντος κανονισμού είναι η αρμόδια αρχή που είναι υπεύθυνη για τη χρηματοπιστωτική εποπτεία των εν λόγω ιδρυμάτων δυνάμει της εν λόγω νομοθεσίας.

5.Για τα συστήματα ΤΝ που απαριθμούνται στο σημείο 1 στοιχείο α), εφόσον τα συστήματα χρησιμοποιούνται για σκοπούς επιβολής του νόμου, παράρτημα ΙΙΙ σημεία 6 και 7, τα κράτη μέλη ορίζουν ως αρχές εποπτείας της αγοράς για τους σκοπούς του παρόντος κανονισμού είτε τις αρμόδιες εποπτικές αρχές προστασίας δεδομένων δυνάμει της οδηγίας (ΕΕ) 2016/680 ή του κανονισμού (ΕΕ) 2016/679 είτε τις εθνικές αρμόδιες αρχές που εποπτεύουν τις δραστηριότητες των αρχών επιβολής του νόμου, μετανάστευσης ή ασύλου που θέτουν σε λειτουργία ή χρησιμοποιούν τα εν λόγω συστήματα.

6.Όταν τα θεσμικά και λοιπά όργανα και οι οργανισμοί της Ένωσης εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού, ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων ενεργεί ως η οικεία αρχή εποπτείας της αγοράς.

7.Τα κράτη μέλη διευκολύνουν τον συντονισμό μεταξύ των αρχών εποπτείας της αγοράς που ορίζονται δυνάμει του παρόντος κανονισμού και άλλων σχετικών εθνικών αρχών ή φορέων που εποπτεύουν την εφαρμογή της ενωσιακής νομοθεσίας εναρμόνισης που παρατίθεται στο παράρτημα ΙΙ ή άλλης ενωσιακής νομοθεσίας που μπορεί να αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III.

Άρθρο 64
Πρόσβαση σε δεδομένα και τεκμηρίωση

1.Στο πλαίσιο των δραστηριοτήτων τους, στις αρχές εποπτείας της αγοράς παρέχεται πλήρης πρόσβαση στα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται από τον πάροχο, μεταξύ άλλων μέσω διεπαφών προγραμματισμού εφαρμογών (στο εξής: API) ή άλλων κατάλληλων τεχνικών μέσων και εργαλείων που επιτρέπουν την εξ αποστάσεως πρόσβαση.

2.Όταν απαιτείται για την αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2 και κατόπιν αιτιολογημένου αιτήματος, στις αρχές εποπτείας της αγοράς παρέχεται πρόσβαση στον πηγαίο κώδικα του συστήματος ΤΝ.

3.Οι εθνικές δημόσιες αρχές ή οι φορείς που εποπτεύουν ή επιβάλλουν την τήρηση των υποχρεώσεων που απορρέουν από το ενωσιακό δίκαιο για την προστασία των θεμελιωδών δικαιωμάτων σε σχέση με τη χρήση των συστημάτων ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III έχουν την εξουσία να ζητούν και να έχουν πρόσβαση σε κάθε τεκμηρίωση που δημιουργείται ή διατηρείται δυνάμει του παρόντος κανονισμού όταν η πρόσβαση στην εν λόγω τεκμηρίωση είναι απαραίτητη για την εκπλήρωση των αρμοδιοτήτων που εμπίπτουν στην εντολή τους εντός των ορίων της δικαιοδοσίας τους. Η αρμόδια δημόσια αρχή ή ο φορέας ενημερώνει την αρχή εποπτείας της αγοράς του οικείου κράτους μέλους για κάθε σχετικό αίτημα.

4.Εντός 3 μηνών από την έναρξη ισχύος του παρόντος κανονισμού, κάθε κράτος μέλος προσδιορίζει τις δημόσιες αρχές ή τους φορείς που αναφέρονται στην παράγραφο 3 και δημοσιοποιεί κατάλογο στον δικτυακό τόπο της εθνικής εποπτικής αρχής. Τα κράτη μέλη κοινοποιούν τον κατάλογο στην Επιτροπή και σε όλα τα άλλα κράτη μέλη και τον επικαιροποιούν συνεχώς.

5.Όταν η τεκμηρίωση που αναφέρεται στην παράγραφο 3 δεν επαρκεί για να διαπιστωθεί αν έχει σημειωθεί παραβίαση των υποχρεώσεων που απορρέουν από το δίκαιο της Ένωσης και αποσκοπούν στην προστασία των θεμελιωδών δικαιωμάτων, η δημόσια αρχή ή ο φορέας που αναφέρεται στην παράγραφο 3 μπορεί να ζητήσει από την αρχή εποπτείας της αγοράς, υποβάλλοντας αιτιολογημένο αίτημα, να οργανώσει δοκιμή του συστήματος ΤΝ υψηλού κινδύνου με τεχνικά μέσα. Η αρχή εποπτείας της αγοράς οργανώνει τη δοκιμή με τη στενή συμμετοχή της αιτούσας δημόσιας αρχής ή του φορέα εντός εύλογου χρονικού διαστήματος μετά την υποβολή του αιτήματος.

6.Κάθε πληροφορία και τεκμηρίωση που λαμβάνεται από τις εθνικές δημόσιες αρχές ή τους φορείς που αναφέρονται στην παράγραφο 3 σύμφωνα με τις διατάξεις του παρόντος άρθρου αντιμετωπίζεται σύμφωνα με τις υποχρεώσεις εμπιστευτικότητας που ορίζονται στο άρθρο 70.

Άρθρο 65
Διαδικασία αντιμετώπισης των συστημάτων ΤΝ που παρουσιάζουν κίνδυνο σε εθνικό επίπεδο

1.Ως συστήματα ΤΝ που παρουσιάζουν κίνδυνο νοούνται τα προϊόντα που παρουσιάζουν κίνδυνο όπως ορίζεται στο άρθρο 3 σημείο 19 του κανονισμού (ΕΕ) 2019/1020 όσον αφορά τους κινδύνους για την υγεία ή την ασφάλεια ή για την προστασία των θεμελιωδών δικαιωμάτων των προσώπων.

2.Όταν η αρχή εποπτείας της αγοράς ενός κράτους μέλους έχει επαρκείς λόγους να θεωρεί ότι ένα σύστημα ΤΝ παρουσιάζει κίνδυνο όπως αναφέρεται στην παράγραφο 1, διενεργεί αξιολόγηση του οικείου συστήματος ΤΝ όσον αφορά τη συμμόρφωσή του με όλες τις απαιτήσεις και τις υποχρεώσεις που ορίζονται στον παρόντα κανονισμό. Όταν παρουσιάζονται κίνδυνοι για την προστασία των θεμελιωδών δικαιωμάτων, η αρχή εποπτείας της αγοράς ενημερώνει επίσης τις σχετικές εθνικές δημόσιες αρχές ή τους φορείς που αναφέρονται στο άρθρο 64 παράγραφος 3. Οι σχετικοί φορείς εκμετάλλευσης συνεργάζονται, ανάλογα με τις ανάγκες, με τις αρχές εποπτείας της αγοράς και τις άλλες εθνικές δημόσιες αρχές ή τους φορείς που αναφέρονται στο άρθρο 64 παράγραφος 3.

Εάν, κατά την εν λόγω αξιολόγηση, η αρχή εποπτείας της αγοράς διαπιστώσει ότι το σύστημα ΤΝ δεν συμμορφώνεται με τις απαιτήσεις και τις υποχρεώσεις του παρόντος κανονισμού, ζητεί αμελλητί από τον οικείο φορέα εκμετάλλευσης να λάβει όλα τα αναγκαία διορθωτικά μέτρα για να διασφαλίσει τη συμμόρφωση του συστήματος ΤΝ, να αποσύρει το σύστημα ΤΝ από την αγορά ή να το ανακαλέσει εντός εύλογου χρονικού διαστήματος, ανάλογου με τη φύση του κινδύνου, το οποίο ορίζει η αρχή.

Η αρχή εποπτείας της αγοράς ενημερώνει σχετικά τον οικείο κοινοποιημένο οργανισμό. Το άρθρο 18 του κανονισμού (ΕΕ) 2019/1020 ισχύει για τα προαναφερθέντα στο δεύτερο εδάφιο μέτρα.

3.Εάν η αρχή εποπτείας της αγοράς θεωρήσει ότι η μη συμμόρφωση δεν περιορίζεται στην εθνική της επικράτεια, ενημερώνει την Επιτροπή και τα άλλα κράτη μέλη για τα αποτελέσματα της αξιολόγησης και τα μέτρα που ζήτησε να λάβει ο φορέας εκμετάλλευσης.

4.Ο φορέας εκμετάλλευσης εξασφαλίζει ότι λαμβάνονται όλα τα ενδεικνυόμενα διορθωτικά μέτρα για όλα τα συστήματα ΤΝ που έχει καταστήσει διαθέσιμα στην αγορά σε όλη την Ένωση.

5.Εάν ο φορέας εκμετάλλευσης συστήματος ΤΝ δεν λάβει επαρκή διορθωτικά μέτρα εντός του χρονικού διαστήματος το οποίο αναφέρεται στην παράγραφο 2, η αρχή εποπτείας της αγοράς λαμβάνει όλα τα κατάλληλα προσωρινά μέτρα για να απαγορεύσει ή να περιορίσει τη διαθεσιμότητα του συστήματος ΤΝ στην εθνική αγορά ή να αποσύρει το προϊόν από την εν λόγω αγορά ή να το ανακαλέσει. Η εν λόγω αρχή ενημερώνει αμελλητί την Επιτροπή και τα άλλα κράτη μέλη για τα μέτρα αυτά.

6.Οι κατά την παράγραφο 5 πληροφορίες περιλαμβάνουν όλα τα διαθέσιμα στοιχεία, ιδίως τα στοιχεία που απαιτούνται για την ταυτοποίηση του μη συμμορφούμενου συστήματος ΤΝ, την προέλευσή του, τη φύση της εικαζόμενης μη συμμόρφωσης και του σχετικού κινδύνου, τη φύση και τη διάρκεια των εθνικών μέτρων που ελήφθησαν, καθώς και τις απόψεις που προβάλλει ο σχετικός φορέας εκμετάλλευσης. Ειδικότερα, οι αρχές εποπτείας της αγοράς αναφέρουν αν η μη συμμόρφωση οφείλεται σε έναν ή περισσότερους από τους παρακάτω λόγους:

α)το σύστημα ΤΝ δεν πληροί τις απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2·

β)υπάρχουν ελλείψεις στα εναρμονισμένα πρότυπα ή στις κοινές προδιαγραφές που αναφέρονται στα άρθρα 40 και 41 και στα οποία βασίζεται το τεκμήριο της συμμόρφωσης.

7.Οι αρχές εποπτείας της αγοράς των κρατών μελών πλην της αρχής εποπτείας της αγοράς του κράτους μέλους που κίνησε τη διαδικασία ενημερώνουν αμέσως την Επιτροπή και τα άλλα κράτη μέλη για τα μέτρα που έλαβαν και παρέχουν τυχόν άλλες πρόσθετες πληροφορίες που διαθέτουν όσον αφορά τη μη συμμόρφωση του σχετικού συστήματος ΤΝ και, σε περίπτωση διαφωνίας, με το κοινοποιηθέν εθνικό μέτρο για τις τυχόν αντιρρήσεις τους.

8.Εάν εντός τριών μηνών από τη λήψη των κατά την παράγραφο 5 πληροφοριών δεν διατυπωθεί αντίρρηση από κράτος μέλος ή από την Επιτροπή σε σχέση με προσωρινό μέτρο που έχει λάβει κράτος μέλος, τότε το μέτρο θεωρείται δικαιολογημένο. Αυτό ισχύει με την επιφύλαξη των διαδικαστικών δικαιωμάτων του ενδιαφερόμενου φορέα εκμετάλλευσης σύμφωνα με το άρθρο 18 του κανονισμού (ΕΕ) 2019/1020.

9.Οι αρχές εποπτείας της αγοράς όλων των κρατών μελών εξασφαλίζουν ότι λαμβάνονται αμελλητί τα κατάλληλα περιοριστικά μέτρα όσον αφορά το σχετικό προϊόν, όπως η άμεση απόσυρση του προϊόντος από την αγορά τους.

Άρθρο 66
Διαδικασία διασφάλισης στο επίπεδο της Ένωσης

1.Αν, εντός τριών μηνών από την παραλαβή της κοινοποίησης του άρθρου 65 παράγραφος 5, ένα κράτος μέλος διατυπώσει αντιρρήσεις για μέτρο που έλαβε ένα άλλο κράτος μέλος ή αν η Επιτροπή κρίνει ότι το μέτρο αντιβαίνει στο ενωσιακό δίκαιο, η Επιτροπή διαβουλεύεται αμελλητί με το οικείο κράτος μέλος και τον φορέα ή τους φορείς εκμετάλλευσης και διενεργεί αξιολόγηση του εθνικού μέτρου. Βάσει των αποτελεσμάτων αυτής της αξιολόγησης, η Επιτροπή αποφασίζει αν το εθνικό μέτρο είναι δικαιολογημένο εντός 9 μηνών από την κοινοποίηση που αναφέρεται στο άρθρο 65 παράγραφος 5 και κοινοποιεί την απόφαση αυτή στο οικείο κράτος μέλος.

2.Εάν το εθνικό μέτρο θεωρηθεί δικαιολογημένο, όλα τα κράτη μέλη λαμβάνουν τα αναγκαία μέτρα για να εξασφαλίσουν ότι το μη συμμορφούμενο σύστημα ΤΝ αποσύρεται από τις αγορές τους και ενημερώνουν την Επιτροπή σχετικά. Εάν το εθνικό μέτρο δεν θεωρηθεί δικαιολογημένο, το οικείο κράτος μέλος ανακαλεί το μέτρο.

3.Εάν το εθνικό μέτρο θεωρηθεί δικαιολογημένο και η μη συμμόρφωση του συστήματος ΤΝ οφείλεται σε ελλείψεις στα εναρμονισμένα πρότυπα ή στις κοινές προδιαγραφές που αναφέρονται στα άρθρα 40 και 41 του παρόντος κανονισμού, η Επιτροπή εφαρμόζει τη διαδικασία του άρθρου 11 του κανονισμού (ΕΕ) αριθ. 1025/2012.

Άρθρο 67
Συμμορφούμενα συστήματα ΤΝ που παρουσιάζουν κίνδυνο

1.Όταν η αρχή εποπτείας της αγοράς κράτους μέλους διαπιστώσει, αφού έχει διενεργήσει αξιολόγηση δυνάμει του άρθρου 65, ότι σύστημα ΤΝ, μολονότι συμμορφώνεται προς τον παρόντα κανονισμό, ενέχει κίνδυνο για την υγεία ή την ασφάλεια των προσώπων, για τη συμμόρφωση με υποχρεώσεις που απορρέουν από το ενωσιακό ή το εθνικό δίκαιο και αποσκοπούν στην προστασία των θεμελιωδών δικαιωμάτων ή για άλλα ζητήματα προστασίας του δημόσιου συμφέροντος, απαιτεί από τον σχετικό φορέα εκμετάλλευσης να λάβει όλα τα δέοντα μέτρα για να εξασφαλίσει ότι το εν λόγω σύστημα ΤΝ, όταν διατεθεί στην αγορά ή τεθεί σε λειτουργία, δεν παρουσιάζει πλέον τον εν λόγω κίνδυνο ή για να αποσύρει το σύστημα ΤΝ από την αγορά ή να το ανακαλέσει εντός εύλογου χρονικού διαστήματος που αυτή ορίζει, ανάλογου με τη φύση του κινδύνου.

2.Ο πάροχος ή άλλοι σχετικοί φορείς εκμετάλλευσης διασφαλίζουν ότι λαμβάνονται διορθωτικά μέτρα όσον αφορά όλα τα σχετικά συστήματα ΤΝ που έχουν καταστήσει διαθέσιμα στην αγορά σε ολόκληρη την Ένωση εντός του χρονοδιαγράμματος που ορίζεται από την αρχή εποπτείας της αγοράς του κράτους μέλους που αναφέρεται στην παράγραφο 1.

3.Το κράτος μέλος ενημερώνει αμέσως την Επιτροπή και τα λοιπά κράτη μέλη. Στην πληροφόρηση που παρέχει περιλαμβάνονται όλα τα διαθέσιμα στοιχεία, ιδίως τα στοιχεία που είναι αναγκαία για την ταυτοποίηση του συστήματος ΤΝ, την καταγωγή του και την αλυσίδα εφοδιασμού του συστήματος ΤΝ, τη φύση του σχετικού κινδύνου, τη φύση και τη διάρκεια των εθνικών μέτρων που ελήφθησαν.

4.Η Επιτροπή διαβουλεύεται αμελλητί με τα κράτη μέλη και τον σχετικό φορέα εκμετάλλευσης και διενεργεί αξιολόγηση των εθνικών μέτρων που ελήφθησαν. Βάσει των αποτελεσμάτων αυτής της αξιολόγησης, η Επιτροπή αποφασίζει αν το μέτρο είναι δικαιολογημένο και, εφόσον απαιτείται, προτείνει τα δέοντα μέτρα.

5.Η Επιτροπή κοινοποιεί την απόφασή της στα κράτη μέλη.

Άρθρο 68
Τυπική μη συμμόρφωση

1.Όταν η αρχή εποπτείας της αγοράς κράτους μέλους προβεί σε μία από τις κατωτέρω διαπιστώσεις, απαιτεί από τον οικείο πάροχο να θέσει τέλος στη μη συμμόρφωση:

α)η σήμανση συμμόρφωσης έχει τεθεί κατά παράβαση του άρθρου 49·

β)δεν έχει τεθεί η σήμανση συμμόρφωσης·

γ)δεν έχει καταρτιστεί δήλωση συμμόρφωσης ΕΕ·

δ)η δήλωση συμμόρφωσης ΕΕ δεν έχει καταρτιστεί σωστά·

ε)δεν έχει τοποθετηθεί ο αριθμός μητρώου του κοινοποιημένου οργανισμού που εμπλέκεται στη διαδικασία αξιολόγησης της συμμόρφωσης, κατά περίπτωση.

2.Εάν η μη συμμόρφωση της παραγράφου 1 εξακολουθήσει να υφίσταται, το οικείο κράτος μέλος λαμβάνει όλα τα δέοντα μέτρα για να περιορίσει ή να απαγορεύσει τη διαθεσιμότητα του συστήματος ΤΝ υψηλού κινδύνου στην αγορά ή να εξασφαλίσει την ανάκλησή του ή απόσυρσή του από την αγορά.

ΤΙΤΛΟΣ ΙΧ

ΚΩΔΙΚΕΣ ΔΕΟΝΤΟΛΟΓΙΑΣ

Άρθρο 69
Κώδικες δεοντολογίας

1.Η Επιτροπή και τα κράτη μέλη ενθαρρύνουν και διευκολύνουν την κατάρτιση κωδίκων δεοντολογίας που αποσκοπούν στην προώθηση της εθελοντικής εφαρμογής στα συστήματα ΤΝ, πλην των συστημάτων ΤΝ υψηλού κινδύνου, των απαιτήσεων που ορίζονται στον τίτλο III κεφάλαιο 2, με βάση τεχνικές προδιαγραφές και λύσεις που αποτελούν κατάλληλα μέσα για τη διασφάλιση της συμμόρφωσης με τις εν λόγω απαιτήσεις με βάση τον επιδιωκόμενο σκοπό των συστημάτων.

2.Η Επιτροπή και το συμβούλιο ενθαρρύνουν και διευκολύνουν την κατάρτιση κωδίκων δεοντολογίας που αποσκοπούν στην προώθηση της εθελοντικής εφαρμογής στα συστήματα ΤΝ, απαιτήσεων που σχετίζονται για παράδειγμα με την περιβαλλοντική βιωσιμότητα, την προσβασιμότητα για τα άτομα με αναπηρία, τη συμμετοχή των ενδιαφερόμενων μερών στον σχεδιασμό και την ανάπτυξη των συστημάτων ΤΝ και την ποικιλομορφία των ομάδων ανάπτυξης με βάση σαφείς στόχους και βασικούς δείκτες επιδόσεων για τη μέτρηση της επίτευξης των εν λόγω στόχων.

3.Οι κώδικες δεοντολογίας μπορούν να καταρτίζονται από μεμονωμένους παρόχους συστημάτων ΤΝ ή από οργανώσεις που τους εκπροσωπούν ή και από τους δύο, μεταξύ άλλων με τη συμμετοχή των χρηστών και τυχόν ενδιαφερόμενων μερών και των οργανώσεων που τους εκπροσωπούν. Οι κώδικες δεοντολογίας μπορούν να καλύπτουν ένα ή περισσότερα συστήματα ΤΝ, λαμβανομένης υπόψη της ομοιότητας του επιδιωκόμενου σκοπού των σχετικών συστημάτων.

4.Η Επιτροπή και το συμβούλιο λαμβάνουν υπόψη τα ειδικά συμφέροντα και τις ανάγκες των παρόχων μικρής κλίμακας και των νεοφυών επιχειρήσεων, όταν ενθαρρύνουν και διευκολύνουν την κατάρτιση κωδίκων δεοντολογίας.

ΤΙΤΛΟΣ Χ

ΕΜΠΙΣΤΕΥΤΙΚΟΤΗΤΑ ΚΑΙ ΚΥΡΩΣΕΙΣ

Άρθρο 70
Εμπιστευτικότητα

1.Οι εθνικές αρμόδιες αρχές και οι κοινοποιημένοι οργανισμοί που συμμετέχουν στην εφαρμογή του παρόντος κανονισμού τηρούν την εμπιστευτικότητα των πληροφοριών και των δεδομένων που λαμβάνονται κατά την εκτέλεση των καθηκόντων και των δραστηριοτήτων τους κατά τρόπο ώστε να προστατεύονται, ιδίως:

α)τα δικαιώματα διανοητικής ιδιοκτησίας και οι εμπιστευτικές επιχειρηματικές πληροφορίες ή τα εμπορικά απόρρητα φυσικού ή νομικού προσώπου, συμπεριλαμβανομένου του πηγαίου κώδικα, με εξαίρεση τις περιπτώσεις που αναφέρονται στο άρθρο 5 της οδηγίας 2016/943 για την προστασία της τεχνογνωσίας και των επιχειρηματικών πληροφοριών που δεν αποκαλύπτονται (εμπορικό απόρρητο) από την παράνομη απόκτηση, χρήση και αποκάλυψή τους.

β)η αποτελεσματική εφαρμογή του παρόντος κανονισμού, κυρίως για τους σκοπούς επιθεωρήσεων, ερευνών ή ελέγχων· γ) το δημόσιο συμφέρον και τα συμφέροντα εθνικής ασφάλειας·

γ)η ακεραιότητα των ποινικών ή διοικητικών διαδικασιών.

2.Με την επιφύλαξη της παραγράφου 1, οι πληροφορίες που ανταλλάσσονται εμπιστευτικά μεταξύ των εθνικών αρμόδιων αρχών και μεταξύ των εθνικών αρμόδιων αρχών και της Επιτροπής δεν αποκαλύπτονται χωρίς προηγούμενη διαβούλευση με την εθνική αρμόδια αρχή προέλευσης και τον χρήστη όταν τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα ΙΙΙ σημεία 1, 6 και 7 χρησιμοποιούνται από τις αρχές επιβολής του νόμου, μετανάστευσης ή ασύλου, όταν η εν λόγω αποκάλυψη θα έθετε σε κίνδυνο το δημόσιο συμφέρον και συμφέροντα εθνικής ασφάλειας.

Όταν οι αρχές επιβολής του νόμου, μετανάστευσης ή ασύλου είναι πάροχοι των συστημάτων ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα ΙΙΙ σημεία 1, 6 και 7, ο τεχνικός φάκελος που αναφέρεται στο παράρτημα IV παραμένει εντός των εγκαταστάσεων των εν λόγω αρχών. Οι εν λόγω αρχές διασφαλίζουν ότι οι αρχές εποπτείας της αγοράς που αναφέρονται στο άρθρο 63 παράγραφοι 5 και 6, κατά περίπτωση, μπορούν κατόπιν αιτήματος να έχουν άμεση πρόσβαση στον φάκελο ή να λαμβάνουν αντίγραφό του. Μόνο το προσωπικό της αρχής εποπτείας της αγοράς που διαθέτει το κατάλληλο επίπεδο διαβάθμισης ασφάλειας επιτρέπεται να έχει πρόσβαση στον εν λόγω φάκελο ή σε οποιοδήποτε αντίγραφό του.

3.Οι παράγραφοι 1 και 2 δεν θίγουν τα δικαιώματα και τις υποχρεώσεις της Επιτροπής, των κρατών μελών και των κοινοποιημένων οργανισμών για την ανταλλαγή πληροφοριών και την κοινοποίηση των προειδοποιήσεων, ούτε τις υποχρεώσεις των ενδιαφερόμενων μερών να παρέχουν πληροφορίες βάσει του ποινικού δικαίου των κρατών μελών.

4.Η Επιτροπή και τα κράτη μέλη μπορούν να ανταλλάσσουν, εφόσον είναι αναγκαίο, εμπιστευτικές πληροφορίες με τις κανονιστικές αρχές τρίτων χωρών με τις οποίες έχουν συνάψει διμερείς ή πολυμερείς διακανονισμούς για την τήρηση της εμπιστευτικότητας οι οποίοι εγγυώνται επαρκές επίπεδο εμπιστευτικότητας.

Άρθρο 71
Κυρώσεις

1.Σύμφωνα με τους όρους και τις προϋποθέσεις που προβλέπονται στον παρόντα κανονισμό, τα κράτη μέλη καθορίζουν τους κανόνες σχετικά με τις κυρώσεις, συμπεριλαμβανομένων των διοικητικών προστίμων, οι οποίες επιβάλλονται σε περίπτωση παράβασης του παρόντος κανονισμού και λαμβάνουν όλα τα αναγκαία μέτρα για να εξασφαλίσουν την ορθή και αποτελεσματική εφαρμογή τους. Οι προβλεπόμενες κυρώσεις είναι αποτελεσματικές, αναλογικές και αποτρεπτικές. Λαμβάνουν ιδιαίτερα υπόψη τα συμφέροντα των παρόχων μικρής κλίμακας και των νεοφυών επιχειρήσεων, καθώς και την οικονομική τους βιωσιμότητα.

2.Τα κράτη μέλη κοινοποιούν στην Επιτροπή τους εν λόγω κανόνες και τα εν λόγω μέτρα και την ενημερώνουν αμελλητί σχετικά με κάθε μεταγενέστερη τροποποίησή τους.

3.Για τις ακόλουθες παραβάσεις επιβάλλονται διοικητικά πρόστιμα ύψους έως 30 000 000 EUR ή, εάν ο παραβάτης είναι εταιρεία, έως και το 6 % του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της για το προηγούμενο οικονομικό έτος, ανάλογα με το ποιο ποσό είναι υψηλότερο:

α)μη συμμόρφωση με την απαγόρευση των πρακτικών τεχνητής νοημοσύνης που αναφέρονται στο άρθρο 5·

β)μη συμμόρφωση του συστήματος ΤΝ με τις απαιτήσεις που ορίζονται στο άρθρο 10.

4.Η μη συμμόρφωση του συστήματος ΤΝ με οποιεσδήποτε απαιτήσεις ή υποχρεώσεις δυνάμει του παρόντος κανονισμού, πλην εκείνων που ορίζονται στα άρθρα 5 και 10, επισύρει διοικητικά πρόστιμα ύψους έως 20 000 000 EUR ή, εάν ο παραβάτης είναι εταιρεία, έως το 4 % του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της για το προηγούμενο οικονομικό έτος, ανάλογα με το ποιο ποσό είναι υψηλότερο.

5.Η παροχή ανακριβών, ελλιπών ή παραπλανητικών πληροφοριών σε κοινοποιημένους οργανισμούς και εθνικές αρμόδιες αρχές κατά την απάντηση σε αίτημα επισύρει διοικητικά πρόστιμα ύψους έως 10 000 000 EUR ή, εάν ο παραβάτης είναι εταιρεία, έως το 2 % του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της για το προηγούμενο οικονομικό έτος, ανάλογα με το ποιο ποσό είναι υψηλότερο.

6.Κατά τη λήψη απόφασης σχετικά με το ύψος του διοικητικού προστίμου σε κάθε μεμονωμένη περίπτωση, λαμβάνονται υπόψη όλες οι σχετικές περιστάσεις της συγκεκριμένης κατάστασης και λαμβάνονται δεόντως υπόψη τα ακόλουθα:

α)η φύση, η σοβαρότητα και η διάρκεια της παράβασης και οι συνέπειές της·

β)αν έχουν ήδη επιβληθεί διοικητικά πρόστιμα από άλλες αρχές εποπτείας της αγοράς στον ίδιο φορέα εκμετάλλευσης για την ίδια παράβαση·

γ)το μέγεθος και το μερίδιο αγοράς του φορέα εκμετάλλευσης που διέπραξε την παράβαση.

7.Κάθε κράτος μέλος καθορίζει τους κανόνες για το αν και σε ποιο βαθμό μπορούν να επιβάλλονται διοικητικά πρόστιμα σε δημόσιες αρχές και φορείς που έχουν συσταθεί στο εν λόγω κράτος μέλος.

8.Ανάλογα με το νομικό σύστημα των κρατών μελών, οι κανόνες για τα διοικητικά πρόστιμα μπορούν να εφαρμόζονται κατά τρόπο ώστε τα πρόστιμα να επιβάλλονται από τα αρμόδια εθνικά δικαστήρια ή από άλλους φορείς, κατά τα ισχύοντα στα εν λόγω κράτη μέλη. Η εφαρμογή των κανόνων αυτών στα εν λόγω κράτη μέλη έχει ισοδύναμο αποτέλεσμα.

Άρθρο 72
Διοικητικά πρόστιμα σε θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης

1.Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων μπορεί να επιβάλλει διοικητικά πρόστιμα σε θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού. Κατά τη λήψη απόφασης σχετικά με την επιβολή διοικητικού προστίμου και το ύψος του διοικητικού προστίμου σε κάθε μεμονωμένη περίπτωση, λαμβάνονται υπόψη όλες οι σχετικές περιστάσεις της συγκεκριμένης κατάστασης και λαμβάνονται δεόντως υπόψη τα ακόλουθα:

α)η φύση, η σοβαρότητα και η διάρκεια της παράβασης και οι συνέπειές της·

β)η συνεργασία με τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων για την επανόρθωση της παράβασης και τον μετριασμό των πιθανών αρνητικών συνεπειών της παράβασης, συμπεριλαμβανομένης της συμμόρφωσης με οποιοδήποτε από τα μέτρα που έχει προηγουμένως διατάξει ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων σε βάρος του οικείου θεσμικού ή άλλου οργάνου ή οργανισμού της Ένωσης όσον αφορά το ίδιο αντικείμενο·

γ)τυχόν παρόμοιες προηγούμενες παραβάσεις του θεσμικού ή άλλου οργάνου ή οργανισμού της Ένωσης·

2.Οι ακόλουθες παραβάσεις επισύρουν διοικητικά πρόστιμα ύψους έως 500 000 EUR:

α)μη συμμόρφωση με την απαγόρευση των πρακτικών τεχνητής νοημοσύνης που αναφέρονται στο άρθρο 5·

β)μη συμμόρφωση του συστήματος ΤΝ με τις απαιτήσεις που ορίζονται στο άρθρο 10.

3.Η μη συμμόρφωση του συστήματος ΤΝ με οποιεσδήποτε απαιτήσεις ή υποχρεώσεις δυνάμει του παρόντος κανονισμού, πλην εκείνων που ορίζονται στα άρθρα 5 και 10, επισύρει διοικητικά πρόστιμα ύψους έως 250 000 EUR.

4.Προτού λάβει αποφάσεις σύμφωνα με το παρόν άρθρο, ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων παρέχει στο θεσμικό ή άλλο όργανο ή οργανισμό της Ένωσης που υπόκειται στη διαδικασία την οποία διεξάγει ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων την ευκαιρία να διατυπώσει την άποψή του επί του θέματος που αφορά την πιθανή παράβαση. Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων στηρίζει τις αποφάσεις του μόνο σε στοιχεία και περιστάσεις ως προς τις οποίες έχει παρασχεθεί στα ενδιαφερόμενα μέρη η δυνατότητα υποβολής των παρατηρήσεών τους. Οι καταγγέλλοντες, εάν υπάρχουν, μετέχουν στενά στη διαδικασία.

5.Κατά τη διεξαγωγή της διαδικασίας διασφαλίζονται πλήρως τα δικαιώματα υπεράσπισης των ενδιαφερόμενων μερών. Δικαιούνται δε να έχουν πρόσβαση στον φάκελο του Ευρωπαίου Επόπτη Προστασίας Δεδομένων, με την επιφύλαξη των έννομων συμφερόντων προσώπων ή επιχειρήσεων στην προστασία των οικείων δεδομένων προσωπικού χαρακτήρα ή επαγγελματικών απορρήτων.

6.Τα ποσά που συγκεντρώνονται από την επιβολή προστίμων βάσει του παρόντος άρθρου συνιστούν έσοδο του γενικού προϋπολογισμού της Ένωσης.

ΤΙΤΛΟΣ ΧΙ

ΑΝΑΘΕΣΗ ΑΡΜΟΔΙΟΤΗΤΩΝ ΚΑΙ ΔΙΑΔΙΚΑΣΙΑ ΕΠΙΤΡΟΠΗΣ

Άρθρο 73 
Άσκηση της εξουσιοδότησης

1.Ανατίθεται στην Επιτροπή η εξουσία έκδοσης κατ’ εξουσιοδότηση πράξεων υπό τους όρους του παρόντος άρθρου.

2.Η εξουσιοδότηση που αναφέρεται στο άρθρο 4, στο άρθρο 7 παράγραφος 1, στο άρθρο 11 παράγραφος 3, στο άρθρο 43 παράγραφοι 5 και 6 και στο άρθρο 48 παράγραφος 5 παρέχεται στην Επιτροπή για αόριστο χρονικό διάστημα από [την έναρξη ισχύος του παρόντος κανονισμού].

3.Η εξουσιοδότηση που αναφέρεται στο άρθρο 4, στο άρθρο 7 παράγραφος 1, στο άρθρο 11 παράγραφος 3, στο άρθρο 43 παράγραφοι 5 και 6 και στο άρθρο 48 παράγραφος 5 μπορεί να ανακληθεί ανά πάσα στιγμή από το Ευρωπαϊκό Κοινοβούλιο ή το Συμβούλιο. Η απόφαση ανάκλησης περατώνει την εξουσιοδότηση που προσδιορίζεται στην εν λόγω απόφαση. Αρχίζει να ισχύει την επόμενη ημέρα από τη δημοσίευσή της στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης ή σε μεταγενέστερη ημερομηνία που ορίζεται σε αυτήν. Δεν θίγει το κύρος των κατ’ εξουσιοδότηση πράξεων που βρίσκονται ήδη σε ισχύ.

4.Μόλις εκδώσει κατ’ εξουσιοδότηση πράξη, η Επιτροπή την κοινοποιεί ταυτόχρονα στο Ευρωπαϊκό Κοινοβούλιο και στο Συμβούλιο.

5.Μια κατ’ εξουσιοδότηση πράξη που εκδίδεται σύμφωνα με το άρθρο 4, το άρθρο 7 παράγραφος 1, το άρθρο 11 παράγραφος 3, το άρθρο 43 παράγραφοι 5 και 6 και το άρθρο 48 παράγραφος 5 αρχίζει να ισχύει μόνο είτε εάν το Ευρωπαϊκό Κοινοβούλιο ή το Συμβούλιο δεν διατυπώσει αντιρρήσεις εντός περιόδου τριών μηνών από την κοινοποίηση της πράξης αυτής στο Ευρωπαϊκό Κοινοβούλιο ή το Συμβούλιο, είτε εάν πριν από την εκπνοή της εν λόγω προθεσμίας τόσο το Ευρωπαϊκό Κοινοβούλιο όσο και το Συμβούλιο έχουν ενημερώσει την Επιτροπή ότι δεν πρόκειται να εγείρουν αντιρρήσεις. Η εν λόγω περίοδος παρατείνεται κατά τρεις μήνες με πρωτοβουλία του Ευρωπαϊκού Κοινοβουλίου ή του Συμβουλίου.

Άρθρο 74 
Διαδικασία επιτροπής

1.Η Επιτροπή επικουρείται από επιτροπή. Πρόκειται για επιτροπή κατά την έννοια του κανονισμού (ΕΕ) αριθ. 182/2011.

2.Σε περίπτωση παραπομπής στην παρούσα παράγραφο, εφαρμόζεται το άρθρο 5 του κανονισμού (ΕΕ) αριθ. 182/2011.

ΤΙΤΛΟΣ ΧΙΙ

ΤΕΛΙΚΕΣ ΔΙΑΤΑΞΕΙΣ

Άρθρο 75
Τροποποιήσεις του κανονισμού (ΕΚ) αριθ. 300/2008

Στο άρθρο 4 παράγραφος 3 του κανονισμού (ΕΚ) αριθ. 300/2008 προστίθεται το ακόλουθο εδάφιο:

«Κατά τη θέσπιση λεπτομερών μέτρων σχετικά με τεχνικές προδιαγραφές και διαδικασίες για την έγκριση και τη χρήση εξοπλισμού ασφάλειας που αφορά συστήματα τεχνητής νοημοσύνης κατά την έννοια του κανονισμού (ΕΕ) ΥΥΥ/ΧΧ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [σχετικά με την τεχνητή νοημοσύνη]*, λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στο κεφάλαιο 2 τίτλος ΙΙΙ του εν λόγω κανονισμού.»

__________

*Κανονισμός (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη] (ΕΕ …).»

Άρθρο 76
Τροποποίηση του κανονισμού (ΕΕ) αριθ. 167/2013

Στο άρθρο 17 παράγραφος 5 του κανονισμού (ΕΕ) αριθ. 167/2013 προστίθεται το ακόλουθο εδάφιο:

«Κατά την έκδοση κατ’ εξουσιοδότηση πράξεων σύμφωνα με το πρώτο εδάφιο σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [σχετικά με την τεχνητή νοημοσύνη]*, λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.

__________

*Κανονισμός (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη] (ΕΕ …).»

Άρθρο 77
Τροποποίηση του κανονισμού (ΕΕ) αριθ. 168/2013

Στο άρθρο 22 παράγραφος 5 του κανονισμού (ΕΕ) αριθ. 168/2013 προστίθεται το ακόλουθο εδάφιο:

«Κατά την έκδοση κατ’ εξουσιοδότηση πράξεων σύμφωνα με το πρώτο εδάφιο σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [σχετικά με την τεχνητή νοημοσύνη]*, λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.

__________

*Κανονισμός (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη] (ΕΕ …).»

Άρθρο 78
Τροποποίηση της οδηγίας 2014/90/ΕΕ

Στο άρθρο 8 της οδηγίας 2014/90/ΕΕ προστίθεται η ακόλουθη παράγραφος:

«4. Για τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [σχετικά με την τεχνητή νοημοσύνη]*, κατά την εκτέλεση των δραστηριοτήτων της σύμφωνα με την παράγραφο 1 και κατά την έγκριση τεχνικών προδιαγραφών και προτύπων δοκιμής σύμφωνα με τις παραγράφους 2 και 3, η Επιτροπή λαμβάνει υπόψη τις απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.

__________

*Κανονισμός (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη] (ΕΕ …).»

Άρθρο 79
Τροποποίηση της οδηγίας (ΕΕ) 2016/797

Στο άρθρο 5 της οδηγίας (ΕΕ) 2016/797 προστίθεται η ακόλουθη παράγραφος:

«12. Κατά την έκδοση κατ’ εξουσιοδότηση πράξεων σύμφωνα με την παράγραφο 1 και εκτελεστικών πράξεων σύμφωνα με την παράγραφο 11 σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [σχετικά με την τεχνητή νοημοσύνη]*, λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.

__________

*Κανονισμός (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη] (ΕΕ …).»

Άρθρο 80
Τροποποίηση του κανονισμού (ΕΕ) 2018/858

Στο άρθρο 5 του κανονισμού (ΕΕ) 2018/858 προστίθεται η ακόλουθη παράγραφος:

«4. «Κατά την έκδοση κατ’ εξουσιοδότηση πράξεων σύμφωνα με την παράγραφο 3 σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [σχετικά με την τεχνητή νοημοσύνη]*, λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.

__________

*Κανονισμός (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη] (ΕΕ …).»

Άρθρο 81
Τροποποίηση του κανονισμού (ΕΕ) 2018/1139

Ο κανονισμός (ΕΕ) 2018/1139 τροποποιείται ως εξής:

1) Στο άρθρο 17 προστίθεται η ακόλουθη παράγραφος:

«3. Με την επιφύλαξη της παραγράφου 2, κατά την έκδοση εκτελεστικών πράξεων σύμφωνα με την παράγραφο 1 σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [σχετικά με την τεχνητή νοημοσύνη]*, λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.

__________

*Κανονισμός (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη] (ΕΕ …).»

2) Στο άρθρο 19 προστίθεται η ακόλουθη παράγραφος:

«4. Κατά την έκδοση κατ’ εξουσιοδότηση πράξεων σύμφωνα με τις παραγράφους 1 και 2 σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη], λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.»

3) Στο άρθρο 43 προστίθεται η ακόλουθη παράγραφος:

«4. «Κατά την έκδοση εκτελεστικών πράξεων σύμφωνα με την παράγραφο 1 σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη], λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.»

4) Στο άρθρο 47 προστίθεται η ακόλουθη παράγραφος:

«3. Κατά την έκδοση κατ’ εξουσιοδότηση πράξεων σύμφωνα με τις παραγράφους 1 και 2 σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη], λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.»

5) Στο άρθρο 57 προστίθεται η ακόλουθη παράγραφος:

Κατά την έκδοση των εν λόγω εκτελεστικών πράξεων σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη], λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.»

6) Στο άρθρο 58 προστίθεται η ακόλουθη παράγραφος:

«3. Κατά την έκδοση κατ’ εξουσιοδότηση πράξεων σύμφωνα με τις παραγράφους 1 και 2 σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη], λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.»

Άρθρο 82
Τροποποίηση του κανονισμού (ΕΕ) 2019/2144

Στο άρθρο 11 του κανονισμού (ΕΕ) 2019/2144 προστίθεται η ακόλουθη παράγραφος:

«3. Κατά την έκδοση των εκτελεστικών πράξεων σύμφωνα με την παράγραφο 2 σχετικά με τα συστήματα τεχνητής νοημοσύνης που αποτελούν κατασκευαστικά στοιχεία ασφάλειας κατά την έννοια του κανονισμού (ΕΕ) YYY/XX του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου [σχετικά με την τεχνητή νοημοσύνη]*, λαμβάνονται υπόψη οι απαιτήσεις που ορίζονται στον τίτλο III κεφάλαιο 2 του εν λόγω κανονισμού.

__________

*Κανονισμός (ΕΕ) YYY/XX [σχετικά με την τεχνητή νοημοσύνη] (ΕΕ …).»

Άρθρο 83
Συστήματα ΤΝ που έχουν ήδη διατεθεί στην αγορά ή έχουν τεθεί σε λειτουργία

1.Ο παρών κανονισμός δεν εφαρμόζεται στα συστήματα ΤΝ που αποτελούν κατασκευαστικά στοιχεία των συστημάτων ΤΠ μεγάλης κλίμακας που θεσπίζονται με τις νομικές πράξεις που παρατίθενται στο παράρτημα IX και έχουν διατεθεί στην αγορά ή έχουν τεθεί σε λειτουργία πριν από [12 μήνες μετά την ημερομηνία εφαρμογής του παρόντος κανονισμού που αναφέρεται στο άρθρο 85 παράγραφος 2], εκτός εάν η αντικατάσταση ή η τροποποίηση των εν λόγω νομικών πράξεων οδηγεί σε σημαντική αλλαγή στον σχεδιασμό ή στον επιδιωκόμενο σκοπό του οικείου συστήματος ή συστημάτων ΤΝ.

Οι απαιτήσεις που ορίζονται στον παρόντα κανονισμό λαμβάνονται υπόψη, κατά περίπτωση, κατά την αξιολόγηση κάθε συστήματος ΤΠ μεγάλης κλίμακας που θεσπίζεται με τις νομικές πράξεις που παρατίθενται στο παράρτημα IX και πρόκειται να διενεργηθεί όπως προβλέπεται στις εν λόγω αντίστοιχες πράξεις.

2.Ο παρών κανονισμός εφαρμόζεται στα συστήματα ΤΝ υψηλού κινδύνου, πλην εκείνων που αναφέρονται στην παράγραφο 1, τα οποία έχουν διατεθεί στην αγορά ή έχουν τεθεί σε λειτουργία πριν από την [ημερομηνία εφαρμογής του παρόντος κανονισμού που αναφέρεται στο άρθρο 85 παράγραφος 2], μόνο εάν, από την ημερομηνία αυτή, τα εν λόγω συστήματα υπόκεινται σε σημαντικές αλλαγές στον σχεδιασμό τους ή στον επιδιωκόμενο σκοπό τους.

Άρθρο 84
Αξιολόγηση και επανεξέταση

1.Η Επιτροπή αξιολογεί την ανάγκη τροποποίησης του καταλόγου του παραρτήματος ΙΙΙ μία φορά ετησίως μετά την έναρξη ισχύος του παρόντος κανονισμού.

2.Έως [τρία έτη μετά την ημερομηνία εφαρμογής του παρόντος κανονισμού που αναφέρεται στο άρθρο 85 παράγραφος 2] και στη συνέχεια κάθε τέσσερα έτη, η Επιτροπή υποβάλλει στο Ευρωπαϊκό Κοινοβούλιο και στο Συμβούλιο εκθέσεις σχετικά με την αξιολόγηση και την επανεξέταση του παρόντος κανονισμού. Οι εκθέσεις δημοσιοποιούνται.

3.Οι εκθέσεις που αναφέρονται στην παράγραφο 2 αποδίδουν ιδιαίτερη προσοχή στα εξής:

α)την κατάσταση των οικονομικών και ανθρώπινων πόρων των εθνικών αρμόδιων αρχών για την αποτελεσματική εκτέλεση των καθηκόντων που τους ανατίθενται δυνάμει του παρόντος κανονισμού·

β)την κατάσταση των κυρώσεων, και κυρίως των διοικητικών προστίμων που αναφέρονται στο άρθρο 71 παράγραφος 1, που επιβάλλονται από τα κράτη μέλη για παραβάσεις των διατάξεων του παρόντος κανονισμού.

4.Εντός [τριών ετών από την ημερομηνία εφαρμογής του παρόντος κανονισμού που αναφέρεται στο άρθρο 85 παράγραφος 2] και στη συνέχεια κάθε τέσσερα έτη, η Επιτροπή αξιολογεί τον αντίκτυπο και την αποτελεσματικότητα των κωδίκων δεοντολογίας για την προώθηση της εφαρμογής των απαιτήσεων που ορίζονται στον τίτλο III κεφάλαιο 2 και ενδεχομένως άλλων πρόσθετων απαιτήσεων για συστήματα ΤΝ πλην των συστημάτων ΤΝ υψηλού κινδύνου.

5.Για τους σκοπούς των παραγράφων 1 έως 4, το συμβούλιο, τα κράτη μέλη και οι εθνικές αρμόδιες αρχές παρέχουν στην Επιτροπή πληροφορίες κατόπιν αιτήματός της.

6.Κατά τη διενέργεια των αξιολογήσεων και επανεξετάσεων που αναφέρονται στις παραγράφους 1 έως 4, η Επιτροπή λαμβάνει υπόψη τις θέσεις και τα συμπεράσματα του συμβουλίου, του Ευρωπαϊκού Κοινοβουλίου, του Συμβουλίου, καθώς και άλλων αρμόδιων φορέων ή πηγών.

7.Η Επιτροπή υποβάλλει, εφόσον απαιτείται, κατάλληλες προτάσεις με σκοπό την τροποποίηση του παρόντος κανονισμού, ιδίως λαμβάνοντας υπόψη τις εξελίξεις στην τεχνολογία και υπό το πρίσμα της προόδου στην κοινωνία της πληροφορίας.

Άρθρο 85
Έναρξη ισχύος και εφαρμογή

1.Ο παρών κανονισμός αρχίζει να ισχύει την εικοστή ημέρα από τη δημοσίευσή του στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης.

2.Ο παρών κανονισμός εφαρμόζεται από την [24 μήνες από την ημερομηνία έναρξης ισχύος του κανονισμού].

3.Κατά παρέκκλιση από τις διατάξεις της παραγράφου 2:

α)Ο τίτλος ΙΙΙ κεφάλαιο 4 και ο τίτλος VI εφαρμόζονται [τρεις μήνες από την ημερομηνία έναρξης ισχύος του παρόντος κανονισμού].

β)Το άρθρο 71 εφαρμόζεται [δώδεκα μήνες από την ημερομηνία έναρξης ισχύος του κανονισμού].

Ο παρών κανονισμός είναι δεσμευτικός ως προς όλα τα μέρη του και ισχύει άμεσα σε κάθε κράτος μέλος.

Βρυξέλλες,

ΝΟΜΟΘΕΤΙΚΟ ΔΗΜΟΣΙΟΝΟΜΙΚΟ ΔΕΛΤΙΟ

1.ΠΛΑΙΣΙΟ ΤΗΣ ΠΡΟΤΑΣΗΣ/ΠΡΩΤΟΒΟΥΛΙΑΣ

1.1. Τίτλος της πρότασης/πρωτοβουλίας

1.2. Σχετικοί τομείς πολιτικής

1.3. Η πρόταση/πρωτοβουλία αφορά:

1.4. Στόχοι

1.4.1. Γενικοί στόχοι

1.4.2. Ειδικοί στόχοι

1.4.3. Αναμενόμενα αποτελέσματα και επιπτώσεις

1.4.4. Δείκτες επιδόσεων

1.5. Αιτιολόγηση της πρότασης/πρωτοβουλίας

1.5.1. Βραχυπρόθεσμη ή μακροπρόθεσμη κάλυψη αναγκών, συμπεριλαμβανομένου λεπτομερούς χρονοδιαγράμματος για τη σταδιακή υλοποίηση της πρωτοβουλίας

1.5.2. Προστιθέμενη αξία της ενωσιακής παρέμβασης (που μπορεί να προκύπτει από διάφορους παράγοντες, π.χ. οφέλη από τον συντονισμό, ασφάλεια δικαίου, μεγαλύτερη αποτελεσματικότητα ή συμπληρωματικότητα). Για τους σκοπούς του παρόντος σημείου «προστιθέμενη αξία της ενωσιακής παρέμβασης» είναι η αξία που απορρέει από την ενωσιακή παρέμβαση και η οποία προστίθεται στην αξία που θα είχε δημιουργηθεί αν τα κράτη μέλη ενεργούσαν μεμονωμένα.

1.5.3. Διδάγματα από ανάλογες εμπειρίες του παρελθόντος

1.5.4. Συμβατότητα με το πολυετές δημοσιονομικό πλαίσιο και ενδεχόμενες συνέργειες με άλλα κατάλληλα μέσα

1.5.5. Αξιολόγηση των διαφόρων διαθέσιμων επιλογών χρηματοδότησης, συμπεριλαμβανομένων των δυνατοτήτων ανακατανομής

1.6. Διάρκεια και δημοσιονομικές επιπτώσεις της πρότασης/πρωτοβουλίας

1.7. Προβλεπόμενοι τρόποι διαχείρισης

2.ΜΕΤΡΑ ΔΙΑΧΕΙΡΙΣΗΣ

2.1. Κανόνες παρακολούθησης και υποβολής εκθέσεων

2.2. Σύστημα διαχείρισης και ελέγχου

2.2.1. Αιτιολόγηση των τρόπων διαχείρισης, των μηχανισμών εκτέλεσης της χρηματοδότησης, των όρων πληρωμής και της προτεινόμενης στρατηγικής ελέγχου

2.2.2. Πληροφορίες σχετικά με τους κινδύνους που έχουν εντοπιστεί και τα συστήματα εσωτερικού ελέγχου που έχουν δημιουργηθεί για τον μετριασμό τους

2.2.3. Εκτίμηση και αιτιολόγηση της οικονομικής αποδοτικότητας των ελέγχων (λόγος του κόστους του ελέγχου προς την αξία των σχετικών κονδυλίων που αποτελούν αντικείμενο διαχείρισης) και αξιολόγηση του εκτιμώμενου επιπέδου κινδύνου σφάλματος (κατά την πληρωμή και κατά το κλείσιμο)

2.3.Μέτρα για την πρόληψη περιπτώσεων απάτης και παρατυπίας

3.ΕΚΤΙΜΩΜΕΝΕΣ ΔΗΜΟΣΙΟΝΟΜΙΚΕΣ ΕΠΙΠΤΩΣΕΙΣ ΤΗΣ ΠΡΟΤΑΣΗΣ/ΠΡΩΤΟΒΟΥΛΙΑΣ

3.1.Τομείς του πολυετούς δημοσιονομικού πλαισίου και γραμμές δαπανών του προϋπολογισμού που επηρεάζονται

3.2.Εκτιμώμενες δημοσιονομικές επιπτώσεις της πρότασης στις πιστώσεις 

3.2.1.Συνοπτική παρουσίαση των εκτιμώμενων επιπτώσεων στις επιχειρησιακές πιστώσεις

3.2.2.Εκτιμώμενο αποτέλεσμα που χρηματοδοτείται με επιχειρησιακές πιστώσεις

3.2.3. Συνοπτική παρουσίαση των εκτιμώμενων επιπτώσεων στις διοικητικές πιστώσεις

3.2.4.Συμβατότητα με το ισχύον πολυετές δημοσιονομικό πλαίσιο

3.2.5.Συμμετοχή τρίτων στη χρηματοδότηση

3.3.Εκτιμώμενες επιπτώσεις στα έσοδα

ΝΟΜΟΘΕΤΙΚΟ ΔΗΜΟΣΙΟΝΟΜΙΚΟ ΔΕΛΤΙΟ

1.ΠΛΑΙΣΙΟ ΤΗΣ ΠΡΟΤΑΣΗΣ/ΠΡΩΤΟΒΟΥΛΙΑΣ

1.1.Τίτλος της πρότασης/πρωτοβουλίας

1.2.Σχετικοί τομείς πολιτικής

1.3.Η πρόταση/πρωτοβουλία αφορά:

X νέα δράση 

◻ νέα δράση μετά από πιλοτικό έργο / προπαρασκευαστική ενέργεια 64  

◻ την παράταση υφιστάμενης δράσης 

◻ δράση προσανατολισμένη προς νέα δράση 

1.4.Στόχοι

1.4.1.Γενικοί στόχοι

1.4.2.Ειδικοί στόχοι

1.4.3.Αναμενόμενα αποτελέσματα και επιπτώσεις

Να προσδιοριστούν τα αποτελέσματα που θα πρέπει να έχει η πρόταση/πρωτοβουλία όσον αφορά τους στοχοθετημένους δικαιούχους / τις στοχοθετημένες ομάδες.

1.4.4.Δείκτες επιδόσεων

Να προσδιοριστούν οι δείκτες για την παρακολούθηση της υλοποίησης της πρότασης/πρωτοβουλίας.

1.5.Αιτιολόγηση της πρότασης/πρωτοβουλίας

1.5.1.Βραχυπρόθεσμη ή μακροπρόθεσμη κάλυψη αναγκών, συμπεριλαμβανομένου λεπτομερούς χρονοδιαγράμματος για τη σταδιακή υλοποίηση της πρωτοβουλίας

1.5.2.Προστιθέμενη αξία της ενωσιακής παρέμβασης (που μπορεί να προκύπτει από διάφορους παράγοντες, π.χ. οφέλη από τον συντονισμό, ασφάλεια δικαίου, μεγαλύτερη αποτελεσματικότητα ή συμπληρωματικότητα). Για τους σκοπούς του παρόντος σημείου, «προστιθέμενη αξία της ενωσιακής παρέμβασης» είναι η αξία που απορρέει από την ενωσιακή παρέμβαση και η οποία προστίθεται στην αξία που θα είχε δημιουργηθεί αν τα κράτη μέλη ενεργούσαν μεμονωμένα.

1.5.3.Διδάγματα από ανάλογες εμπειρίες του παρελθόντος

1.5.4.Συμβατότητα με το πολυετές δημοσιονομικό πλαίσιο και ενδεχόμενες συνέργειες με άλλα κατάλληλα μέσα

1.5.5.Αξιολόγηση των διαφόρων διαθέσιμων επιλογών χρηματοδότησης, συμπεριλαμβανομένων των δυνατοτήτων ανακατανομής

1.6.Διάρκεια και δημοσιονομικές επιπτώσεις της πρότασης/πρωτοβουλίας

◻ περιορισμένη διάρκεια

–◻    με ισχύ από [ΗΗ/MM]ΕΕΕΕ έως [ΗΗ/MM]ΕΕΕΕ

–◻    Δημοσιονομικές επιπτώσεις από το ΕΕΕΕ έως το ΕΕΕΕ για πιστώσεις ανάληψης υποχρεώσεων και από το ΕΕΕΕ έως το ΕΕΕΕ για πιστώσεις πληρωμών.

X απεριόριστη διάρκεια

–Εκτέλεση με φάση εκκίνησης από το πρώτο/δεύτερο (προς επιβεβαίωση) έτος

–και στη συνέχεια πλήρης εφαρμογή.

1.7.Προβλεπόμενοι τρόποι διαχείρισης 65  

X Άμεση διαχείριση από την Επιτροπή

–◻ από τις υπηρεσίες της, συμπεριλαμβανομένου του προσωπικού της στις αντιπροσωπείες της Ένωσης

–◻ από τους εκτελεστικούς οργανισμούς

◻ Επιμερισμένη διαχείριση με τα κράτη μέλη

◻ Έμμεση διαχείριση με ανάθεση καθηκόντων εκτέλεσης του προϋπολογισμού:

–◻ σε τρίτες χώρες ή οργανισμούς που αυτές έχουν ορίσει

–◻ σε διεθνείς οργανισμούς και στις οργανώσεις τους (να προσδιοριστούν)

–◻ στην ΕΤΕπ και στο Ευρωπαϊκό Ταμείο Επενδύσεων

–◻ στους οργανισμούς που αναφέρονται στα άρθρα 70 και 71 του δημοσιονομικού κανονισμού

–◻ σε οργανισμούς δημοσίου δικαίου

–◻ σε οργανισμούς που διέπονται από ιδιωτικό δίκαιο και έχουν αποστολή δημόσιας υπηρεσίας, στον βαθμό που παρέχουν επαρκείς οικονομικές εγγυήσεις

–◻ σε οργανισμούς που διέπονται από το ιδιωτικό δίκαιο κράτους μέλους, στους οποίους έχει ανατεθεί η εκτέλεση σύμπραξης δημόσιου και ιδιωτικού τομέα και οι οποίοι παρέχουν επαρκείς οικονομικές εγγυήσεις

–◻ σε πρόσωπα επιφορτισμένα με την εκτέλεση συγκεκριμένων δράσεων στην ΚΕΠΠΑ βάσει του τίτλου V της ΣΕΕ και τα οποία προσδιορίζονται στην αντίστοιχη βασική πράξη.

–Αν αναφέρονται περισσότεροι του ενός τρόποι διαχείρισης, να διευκρινιστούν στο τμήμα «Παρατηρήσεις».

Παρατηρήσεις

2.ΜΕΤΡΑ ΔΙΑΧΕΙΡΙΣΗΣ

2.1.Κανόνες παρακολούθησης και υποβολής εκθέσεων

Να προσδιοριστούν η συχνότητα και οι όροι.

2.2.Συστήματα διαχείρισης και ελέγχου

2.2.1.Αιτιολόγηση των τρόπων διαχείρισης, των μηχανισμών εκτέλεσης της χρηματοδότησης, των όρων πληρωμής και της προτεινόμενης στρατηγικής ελέγχου

2.2.2.Πληροφορίες σχετικά με τους κινδύνους που έχουν εντοπιστεί και τα συστήματα εσωτερικού ελέγχου που έχουν δημιουργηθεί για τον μετριασμό τους

2.2.3.Εκτίμηση και αιτιολόγηση της οικονομικής αποδοτικότητας των ελέγχων (λόγος του κόστους του ελέγχου προς την αξία των σχετικών κονδυλίων που αποτελούν αντικείμενο διαχείρισης) και αξιολόγηση του εκτιμώμενου επιπέδου κινδύνου σφάλματος (κατά την πληρωμή και κατά το κλείσιμο)

2.3.Μέτρα για την πρόληψη περιπτώσεων απάτης και παρατυπίας

Να προσδιοριστούν τα ισχύοντα ή τα προβλεπόμενα μέτρα πρόληψης και προστασίας, π.χ. στη στρατηγική για την καταπολέμηση της απάτης.

3.ΕΚΤΙΜΩΜΕΝΕΣ ΔΗΜΟΣΙΟΝΟΜΙΚΕΣ ΕΠΙΠΤΩΣΕΙΣ ΤΗΣ ΠΡΟΤΑΣΗΣ/ΠΡΩΤΟΒΟΥΛΙΑΣ

3.1.Τομείς του πολυετούς δημοσιονομικού πλαισίου και γραμμές δαπανών του προϋπολογισμού που επηρεάζονται

·Υφιστάμενες γραμμές του προϋπολογισμού

Κατά σειρά τομέων του πολυετούς δημοσιονομικού πλαισίου και γραμμών του προϋπολογισμού.

3.2.Εκτιμώμενες δημοσιονομικές επιπτώσεις της πρότασης στις πιστώσεις

3.2.1.Συνοπτική παρουσίαση των εκτιμώμενων επιπτώσεων στις δαπάνες για τις επιχειρησιακές πιστώσεις

–◻    Η πρόταση/πρωτοβουλία δεν συνεπάγεται τη χρησιμοποίηση επιχειρησιακών πιστώσεων

–X    Η πρόταση/πρωτοβουλία συνεπάγεται τη χρησιμοποίηση επιχειρησιακών πιστώσεων, όπως εξηγείται κατωτέρω:

σε εκατ. EUR (με τρία δεκαδικά ψηφία)

Αν η πρόταση/πρωτοβουλία επηρεάζει περισσότερους του ενός τομείς, επαναλάβετε το ανωτέρω τμήμα:

Αυτό το τμήμα πρέπει να συμπληρωθεί με «στοιχεία διοικητικού χαρακτήρα του προϋπολογισμού» τα οποία θα εισαχθούν, καταρχάς, στο παράρτημα του νομοθετικού δημοσιονομικού δελτίου (παράρτημα V του εσωτερικού κανονισμού), που τηλεφορτώνεται στο DECIDE για διυπηρεσιακή διαβούλευση.

σε εκατ. EUR (με τρία δεκαδικά ψηφία)

σε εκατ. EUR (με τρία δεκαδικά ψηφία)

3.2.2.Εκτιμώμενο αποτέλεσμα που χρηματοδοτείται με επιχειρησιακές πιστώσεις

Πιστώσεις ανάληψης υποχρεώσεων σε εκατ. EUR (με τρία δεκαδικά ψηφία)

3.2.3.Συνοπτική παρουσίαση των εκτιμώμενων επιπτώσεων στις διοικητικές πιστώσεις

–◻    Η πρόταση/πρωτοβουλία δεν συνεπάγεται τη χρησιμοποίηση πιστώσεων διοικητικού χαρακτήρα

–X    Η πρόταση/πρωτοβουλία συνεπάγεται τη χρησιμοποίηση πιστώσεων διοικητικού χαρακτήρα, όπως εξηγείται κατωτέρω:

σε εκατ. EUR (με τρία δεκαδικά ψηφία)

ΤΟΜΕΑΣ 7 του πολυετούς δημοσιονομικού πλαισίου
Ανθρώπινοι πόροι		1,520	1,520	1,520	1,520	1,520	1,520	7,600
Άλλες διοικητικές δαπάνες		0,010	0,010	0,010	0,010	0,010	0,010	0,050
Μερικό σύνολο του ΤΟΜΕΑ 7 του πολυετούς δημοσιονομικού πλαισίου		1,530	1,530	1,530	1,530	1,530	1,530	7,650

Εκτός του ΤΟΜΕΑ 7 76 του πολυετούς δημοσιονομικού πλαισίου
Ανθρώπινοι πόροι
Άλλες δαπάνες διοικητικού χαρακτήρα		0,240	0,240	0,240	0,240	0,240	0,240	1,20
Μερικό σύνολο εκτός του ΤΟΜΕΑ 7 του πολυετούς δημοσιονομικού πλαισίου		0,240	0,240	0,240	0,240	0,240	0,240	1,20

ΣΥΝΟΛΟ

1,770

1,770

1,770

1,770

1,770

1,770

8,850

Οι απαιτούμενες πιστώσεις για ανθρώπινους πόρους και άλλες δαπάνες διοικητικού χαρακτήρα θα καλυφθούν από τις πιστώσεις της ΓΔ που έχουν ήδη διατεθεί για τη διαχείριση της δράσης και/ή έχουν ανακατανεμηθεί στο εσωτερικό της ΓΔ και οι οποίες θα συμπληρωθούν, κατά περίπτωση, με πρόσθετα κονδύλια που ενδέχεται να χορηγηθούν στην αρμόδια για τη διαχείριση ΓΔ στο πλαίσιο της ετήσιας διαδικασίας κατανομής και λαμβανομένων υπόψη των υφιστάμενων δημοσιονομικών περιορισμών.

3.2.3.1.Εκτιμώμενες ανάγκες σε ανθρώπινους πόρους

–◻    Η πρόταση/πρωτοβουλία δεν συνεπάγεται τη χρησιμοποίηση ανθρώπινων πόρων

–X    Η πρόταση/πρωτοβουλία συνεπάγεται τη χρησιμοποίηση ανθρώπινων πόρων, όπως εξηγείται κατωτέρω:

Εκτίμηση η οποία πρέπει να εκφράζεται σε μονάδες ισοδυνάμων πλήρους απασχόλησης

XX είναι ο σχετικός τομέας πολιτικής ή ο σχετικός τίτλος του προϋπολογισμού.

Οι ανάγκες σε ανθρώπινους πόρους θα καλυφθούν από το προσωπικό της ΓΔ που έχει ήδη διατεθεί για τη διαχείριση της δράσης και/ή έχει ανακατανεμηθεί στο εσωτερικό της ΓΔ και το οποίο θα συμπληρωθεί, εάν χρειαστεί, από πρόσθετους πόρους που μπορεί να διατεθούν στην αρμόδια για τη διαχείριση ΓΔ στο πλαίσιο της ετήσιας διαδικασίας κατανομής και λαμβανομένων υπόψη των υφιστάμενων δημοσιονομικών περιορισμών.

Ο ΕΕΠΔ αναμένεται να διαθέσει το ήμισυ των απαιτούμενων πόρων.

Περιγραφή των προς εκτέλεση καθηκόντων:

3.2.4.Συμβατότητα με το ισχύον πολυετές δημοσιονομικό πλαίσιο

Η πρόταση/πρωτοβουλία:

–X    μπορεί να χρηματοδοτηθεί εξ ολοκλήρου με ανακατανομή εντός του οικείου τομέα του πολυετούς δημοσιονομικού πλαισίου (ΠΔΠ).

–◻    συνεπάγεται τη χρησιμοποίηση του αδιάθετου περιθωρίου στο πλαίσιο του αντίστοιχου τομέα του ΠΔΠ και/ή τη χρήση ειδικών μηχανισμών, όπως ορίζεται στον κανονισμό για το ΠΔΠ.

–◻    συνεπάγεται την αναθεώρηση του ΠΔΠ.

3.2.5.Συμμετοχή τρίτων στη χρηματοδότηση

Η πρόταση/πρωτοβουλία:

–X    δεν προβλέπει συγχρηματοδότηση από τρίτους

–◻    προβλέπει τη συγχρηματοδότηση από τρίτους που εκτιμάται παρακάτω:

Πιστώσεις σε εκατ. EUR (με τρία δεκαδικά ψηφία)

3.3.Εκτιμώμενες επιπτώσεις στα έσοδα

–◻    Η πρόταση/πρωτοβουλία έχει τις δημοσιονομικές επιπτώσεις που περιγράφονται κατωτέρω:

–◻    Η πρόταση/πρωτοβουλία έχει τις δημοσιονομικές επιπτώσεις που περιγράφονται κατωτέρω:

–◻    στα λοιπά έσοδα

–◻    στα λοιπά έσοδα

–Να αναφερθεί αν τα έσοδα προορίζονται για γραμμές δαπανών ◻

σε εκατ. EUR (με τρία δεκαδικά ψηφία)

Ως προς τα έσοδα «για ειδικό προορισμό», να προσδιοριστούν οι γραμμές δαπανών του προϋπολογισμού που επηρεάζονται.

Άλλες παρατηρήσεις (π.χ. μέθοδος/τύπος για τον υπολογισμό των επιπτώσεων στα έσοδα ή τυχόν άλλες πληροφορίες).

(1)     https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_el.pdf .

(2)    Ευρωπαϊκή Επιτροπή, Λευκή Βίβλος για την Τεχνητή Νοημοσύνη — H ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης, COM(2020) 65 final, 2020.

(3)    Ευρωπαϊκό Συμβούλιο, Έκτακτη σύνοδος του Ευρωπαϊκού Συμβουλίου (1 και 2 Οκτωβρίου 2020) — Συμπεράσματα , EUCO 13/20, 2020, σ. 6.

(4)    Ψήφισμα του Ευρωπαϊκού Κοινοβουλίου της 20ής Οκτωβρίου 2020 που περιέχει συστάσεις προς την Επιτροπή σχετικά με ένα πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, 2020/2012(INL).

(5)    Ευρωπαϊκό Συμβούλιο, Σύνοδος του Ευρωπαϊκού Συμβουλίου (19 Οκτωβρίου 2017) — Συμπεράσματα , EUCO 14/17, 2017, σ. 8.

(6)    Συμβούλιο της Ευρωπαϊκής Ένωσης, Τεχνητή νοημοσύνη β) Συμπεράσματα σχετικά με το συντονισμένο σχέδιο για την τεχνητή νοημοσύνη — Έγκριση  6177/19, 2019.

(7)    Ευρωπαϊκό Συμβούλιο, Έκτακτη σύνοδος του Ευρωπαϊκού Συμβουλίου (1 και 2 Οκτωβρίου 2020) — Συμπεράσματα , EUCO 13/20, 2020.

(8)    Συμβούλιο της Ευρωπαϊκής Ένωσης, Συμπεράσματα της Προεδρίας — Ο Χάρτης Θεμελιωδών Δικαιωμάτων στο πλαίσιο της τεχνητής νοημοσύνης και της ψηφιακής αλλαγής , 11481/20, 2020.

(9)    Ψήφισμα του Ευρωπαϊκού Κοινοβουλίου της 20ής Οκτωβρίου 2020 σχετικά με ένα πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, 2020/2012(INL) .

(10)    Ψήφισμα του Ευρωπαϊκού Κοινοβουλίου της 20ής Οκτωβρίου 2020 όσον αφορά το καθεστώς αστικής ευθύνης για την τεχνητή νοημοσύνη, 2020/2014(INL).

(11)    Ψήφισμα του Ευρωπαϊκού Κοινοβουλίου της 20ής Οκτωβρίου 2020 σχετικά με τα δικαιώματα διανοητικής ιδιοκτησίας για την ανάπτυξη τεχνολογιών τεχνητής νοημοσύνης, 2020/2015(INI).

(12)    Σχέδιο έκθεσης του Ευρωπαϊκού Κοινοβουλίου, Τεχνητή νοημοσύνη στο ποινικό δίκαιο και χρήση της από τις αστυνομικές και δικαστικές αρχές σε ποινικές υποθέσεις,  2020/2016(INI) .

(13)    Σχέδιο έκθεσης του Ευρωπαϊκού Κοινοβουλίου, Τεχνητή νοημοσύνη στην εκπαίδευση, τον πολιτισμό και τον οπτικοακουστικό τομέα, 2020/2017(INI) . Εν προκειμένω, η Επιτροπή ενέκρινε το «Σχέδιο δράσης για την ψηφιακή εκπαίδευση 2021-2027: Επαναπροσδιορίζοντας την εκπαίδευση και την κατάρτιση για την ψηφιακή εποχή», το οποίο προβλέπει την εκπόνηση κατευθυντήριων γραμμών δεοντολογίας για την τεχνητή νοημοσύνη και τη χρήση των δεδομένων στο πλαίσιο της εκπαίδευσης — ανακοίνωση της Επιτροπής COM(2020) 624 final.

(14)    Οδηγία 2013/36/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 26ης Ιουνίου 2013, σχετικά με την πρόσβαση στη δραστηριότητα πιστωτικών ιδρυμάτων και την προληπτική εποπτεία πιστωτικών ιδρυμάτων και επιχειρήσεων επενδύσεων, για την τροποποίηση της οδηγίας 2002/87/ΕΚ και για την κατάργηση των οδηγιών 2006/48/ΕΚ και 2006/49/ΕΚ (Κείμενο που παρουσιάζει ενδιαφέρον για τον ΕΟΧ) (ΕΕ L 176 της 27.6.2013, σ. 338).

(15)    Οδηγία 2000/31/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 8ης Ιουνίου 2000, για ορισμένες νομικές πτυχές των υπηρεσιών της κοινωνίας της πληροφορίας, ιδίως του ηλεκτρονικού εμπορίου, στην εσωτερική αγορά («οδηγία για το ηλεκτρονικό εμπόριο») (EE L 178 της 17.7.2000, σ. 1).

(16)    Βλ. πρόταση ΚΑΝΟΝΙΣΜΟΥ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ σχετικά με την ενιαία αγορά ψηφιακών υπηρεσιών (πράξη για τις ψηφιακές υπηρεσίες) και την τροποποίηση της οδηγίας 2000/31/ΕΚ, COM/2020/825 final.

(17)    Ανακοίνωση της Επιτροπής, Διαμόρφωση του ψηφιακού μέλλοντος της Ευρώπης, COM/2020/67 final.

(18)     Ψηφιακή Πυξίδα 2030: η ευρωπαϊκή οδός για την ψηφιακή δεκαετία .

(19)    Πρόταση κανονισμού σχετικά με την ευρωπαϊκή διακυβέρνηση δεδομένων (Πράξη για τη διακυβέρνηση δεδομένων) COM/2020/767 .

(20)    Οδηγία (ΕΕ) 2019/1024 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 20ής Ιουνίου 2019, για τα ανοικτά δεδομένα και την περαιτέρω χρήση πληροφοριών του δημόσιου τομέα, PE/28/2019/REV/1 (ΕΕ L 172 της 26.6.2019, σ. 56).

(21)     Ανακοίνωση της Επιτροπής, Ευρωπαϊκή στρατηγική για τα δεδομένα, COM/2020/66 final.

(22)     Δείτε όλα τα αποτελέσματα της διαβούλευσης εδώ.

(23)    Ευρωπαϊκή Επιτροπή, Building Trust in Human-Centric Artificial Intelligence [Οικοδόμηση εμπιστοσύνης στην ανθρωποκεντρική τεχνητή νοημοσύνη], COM(2019) 168.

(24)    ΟΕΥΕ, Ethics Guidelines for Trustworthy AI [Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη], 2019.

(25)    ΟΕΥΕ, Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self-assessment [Κατάλογος αξιολόγησης για αξιόπιστη τεχνητή νοημοσύνη (ALTAI) για σκοπούς αυτοαξιολόγησης], 2020.

(26)    Η Συμμαχία για την ΤΝ είναι ένα πολυμερές φόρουμ που εγκαινιάστηκε τον Ιούνιο του 2018, Συμμαχία για την ΤΝ https://ec.europa.eu/digital-single-market/en/european-ai-alliance

(27)    Ευρωπαϊκή Επιτροπή, Αρχική εκτίμηση των επιπτώσεων για μια πρόταση νομικής πράξης του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση απαιτήσεων για την τεχνητή νοημοσύνη .  

(28)    Για λεπτομέρειες σχετικά με όλες τις διαβουλεύσεις που πραγματοποιήθηκαν, βλ. παράρτημα 2 της εκτίμησης των επιπτώσεων.

(29)    Ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη, Ethics Guidelines for Trustworthy AI [Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη], 2019.

(30)    Εγκρίθηκαν επίσης από την Επιτροπή στην ανακοίνωσή της του 2019 σχετικά με την ανθρωποκεντρική προσέγγιση της τεχνητής νοημοσύνης.

(31)    ΕΕ C […] της […], σ. […].

(32)    ΕΕ C […] της […], σ. […].

(33)    Ευρωπαϊκό Συμβούλιο, Έκτακτη σύνοδος του Ευρωπαϊκού Συμβουλίου (1 και 2 Οκτωβρίου 2020) — Συμπεράσματα, EUCO 13/20, 2020, σ. 6.

(34)    Ψήφισμα του Ευρωπαϊκού Κοινοβουλίου της 20ής Οκτωβρίου 2020 που περιέχει συστάσεις προς την Επιτροπή σχετικά με ένα πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, 2020/2012(INL).

(35)    Κανονισμός (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας των δεδομένων προσωπικού χαρακτήρα και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της οδηγίας 95/46/ΕΚ (Γενικός κανονισμός για την Προστασία Δεδομένων) (ΕΕ L 119 της 4.5.2016, σ. 1).

(36)    Κανονισμός (ΕΕ) 2018/1725 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 23ης Οκτωβρίου 2018, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα από τα θεσμικά και λοιπά όργανα και τους οργανισμούς της Ένωσης και την ελεύθερη κυκλοφορία των δεδομένων αυτών, και για την κατάργηση του κανονισμού (ΕΚ) αριθ. 45/2001 και της απόφασης αριθ. 1247/2002/ΕΚ (ΕΕ L 295 της 21.11.2018, σ. 39).

(37)    Οδηγία (ΕΕ) 2016/680 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα από αρμόδιες αρχές για τους σκοπούς της πρόληψης, διερεύνησης, ανίχνευσης ή δίωξης ποινικών αδικημάτων ή της εκτέλεσης ποινικών κυρώσεων και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της απόφασης-πλαίσιο 2008/977/ΔΕΥ του Συμβουλίου (οδηγία για την επιβολή του νόμου) (ΕΕ L 119 της 4.5.2016, σ. 89).

(38)    Απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου, της 13ης Ιουνίου 2002, για το ευρωπαϊκό ένταλμα σύλληψης και τις διαδικασίες παράδοσης μεταξύ των κρατών μελών (ΕΕ L 190 της 18.7.2002, σ. 1).

(39)    Κανονισμός (ΕΚ) αριθ. 300/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 11ης Μαρτίου 2008, για τη θέσπιση κοινών κανόνων στο πεδίο της ασφάλειας της πολιτικής αεροπορίας και την κατάργηση του κανονισμού (ΕΚ) αριθ. 2320/2002 (ΕΕ L 97 της 9.4.2008, σ. 72).

(40)    Κανονισμός (ΕΕ) αριθ. 167/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 5ης Φεβρουαρίου 2013, για την έγκριση και την εποπτεία της αγοράς γεωργικών και δασικών οχημάτων (ΕΕ L 60 της 2.3.2013, σ. 1).

(41)    Κανονισμός (ΕΕ) αριθ. 168/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 15ης Ιανουαρίου 2013, για την έγκριση και την εποπτεία της αγοράς δίκυκλων ή τρίκυκλων οχημάτων και τετράκυκλων (ΕΕ L 60 της 2.3.2013, σ. 52).

(42)    Οδηγία 2014/90/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 23ης Ιουλίου 2014, σχετικά με τον εξοπλισμό πλοίων και για την κατάργηση της οδηγίας 96/98/ΕΚ του Συμβουλίου (ΕΕ L 257 της 28.8.2014, σ. 146).

(43)    Οδηγία (ΕΕ) 2016/797 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 11ης Μαΐου 2016, σχετικά με τη διαλειτουργικότητα του σιδηροδρομικού συστήματος της Ευρωπαϊκής Ένωσης (ΕΕ L 138 της 26.5.2016, σ. 44).

(44)    Κανονισμός (EE) 2018/858 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 30ής Μαΐου 2018, για την έγκριση και την εποπτεία της αγοράς μηχανοκίνητων οχημάτων και των ρυμουλκουμένων τους και των συστημάτων, κατασκευαστικών στοιχείων και χωριστών τεχνικών μονάδων που προορίζονται για τα οχήματα αυτά, για την τροποποίηση των κανονισμών (ΕΚ) αριθ. 715/2007 και (ΕΚ) αριθ. 595/2009 και για την κατάργηση της οδηγίας 2007/46/ΕΚ (ΕΕ L 151 της 14.6.2018, σ. 1).

(45)    Κανονισμός (ΕΕ) 2018/1139 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 4ης Ιουλίου 2018, για τη θέσπιση κοινών κανόνων στον τομέα της πολιτικής αεροπορίας και την ίδρυση Οργανισμού της Ευρωπαϊκής Ένωσης για την Αεροπορική Ασφάλεια, και για την τροποποίηση των κανονισμών (ΕΚ) αριθ. 2111/2005, (ΕΚ) αριθ. 1008/2008, (ΕΕ) αριθ. 996/2010, (ΕΕ) αριθ. 376/2014 και των οδηγιών 2014/30/ΕΕ και 2014/53/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, καθώς και για την κατάργηση των κανονισμών (ΕΚ) αριθ. 552/2004 και (ΕΚ) αριθ. 216/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και του κανονισμού (ΕΟΚ) αριθ. 3922/91 του Συμβουλίου (ΕΕ L 212 της 22.8.2018, σ. 1).

(46)    Κανονισμός (ΕΕ) 2019/2144 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Νοεμβρίου 2019, για τις απαιτήσεις έγκρισης τύπου των μηχανοκίνητων οχημάτων και των ρυμουλκουμένων τους και των συστημάτων, κατασκευαστικών στοιχείων και χωριστών τεχνικών μονάδων που προορίζονται για τα οχήματα αυτά όσον αφορά τη γενική τους ασφάλεια και την προστασία των επιβατών των οχημάτων και του ευάλωτου χρήστη της οδού, για την τροποποίηση του κανονισμού (ΕΕ) 2018/858 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και την κατάργηση των κανονισμών (ΕΚ) αριθ. 78/2009, (ΕΚ) αριθ. 79/2009 και (ΕΚ) αριθ. 661/2009 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και των κανονισμών (ΕΚ) αριθ. 631/2009, (ΕΕ) αριθ. 406/2010, (ΕΕ) αριθ. 672/2010, (ΕΕ) αριθ. 1003/2010, (ΕΕ) αριθ. 1005/2010, (ΕΕ) αριθ. 1008/2010, (ΕΕ) αριθ. 1009/2010, (EΕ) αριθ. 19/2011, (EΕ) αριθ. 109/2011, (EΕ) αριθ. 458/2011, (EΕ) αριθ. 65/2012, (EΕ) αριθ. 130/2012, (EΕ) αριθ. 347/2012, (EΕ) αριθ. 351/2012, (EΕ) αριθ. 1230/2012 και (EΕ) 2015/166 της Επιτροπής (ΕΕ L 325 της 16.12.2019, σ. 1).

(47)    Κανονισμός (ΕΕ) 2017/745 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 5ης Απριλίου 2017, για τα ιατροτεχνολογικά προϊόντα, για την τροποποίηση της οδηγίας 2001/83/ΕΚ, του κανονισμού (ΕΚ) αριθ. 178/2002 και του κανονισμού (ΕΚ) αριθ. 1223/2009 και για την κατάργηση των οδηγιών του Συμβουλίου 90/385/ΕΟΚ και 93/42/ΕΟΚ (ΕΕ L 117 της 5.5.2017, σ. 1).

(48)    Κανονισμός (EE) 2017/746 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 5ης Απριλίου 2017, για τα in vitro διαγνωστικά ιατροτεχνολογικά προϊόντα και για την κατάργηση της οδηγίας 98/79/ΕΚ και της απόφασης 2010/227/ΕΕ της Επιτροπής (ΕΕ L 117 της 5.5.2017, σ. 176).

(49)    Οδηγία 2013/32/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 26ης Ιουνίου 2013, σχετικά με κοινές διαδικασίες για τη χορήγηση και ανάκληση του καθεστώτος διεθνούς προστασίας (ΕΕ L 180 της 29.6.2013, σ. 60).

(50)    Κανονισμός (ΕΚ) αριθ. 810/2009 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουλίου 2009, για τη θέσπιση κοινοτικού κώδικα θεωρήσεων (κώδικας θεωρήσεων) (ΕΕ L 243 της 15.9.2009, σ. 1).

(51)    Κανονισμός (ΕΚ) αριθ. 765/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 9ης Ιουλίου 2008, για τον καθορισμό των απαιτήσεων διαπίστευσης και εποπτείας της αγοράς όσον αφορά την εμπορία των προϊόντων και για την κατάργηση του κανονισμού (ΕΟΚ) αριθ. 339/93 του Συμβουλίου (ΕΕ L 218 της 13.8.2008, σ. 30).

(52)    Απόφαση αριθ. 768/2008/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 9ης Ιουλίου 2008, για κοινό πλαίσιο εμπορίας των προϊόντων και για την κατάργηση της απόφασης 93/465/ΕΟΚ του Συμβουλίου (ΕΕ L 218 της 13.8.2008, σ. 82).

(53)    Κανονισμός (ΕΕ) 2019/1020 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 20ής Ιουνίου 2019, για την εποπτεία της αγοράς και τη συμμόρφωση των προϊόντων και για την κατάργηση της οδηγίας 2004/42/ΕΚ και των κανονισμών (ΕΚ) αριθ. 765/2008 και (ΕΕ) αριθ. 305/2011 (Κείμενο που παρουσιάζει ενδιαφέρον για τον ΕΟΧ) (ΕΕ L 169 της 25.6.2019, σ. 1).

(54)    Κανονισμός (ΕΕ) αριθ. 1025/2012 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 25ης Οκτωβρίου 2012, σχετικά με την ευρωπαϊκή τυποποίηση, την τροποποίηση των οδηγιών του Συμβουλίου 89/686/ΕΟΚ και 93/15/ΕΟΚ και των οδηγιών του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου 94/9/ΕΚ, 94/25/ΕΚ, 95/16/ΕΚ, 97/23/ΕΚ, 98/34/ΕΚ, 2004/22/ΕΚ, 2007/23/ΕΚ, 2009/23/ΕΚ και 2009/105/ΕΚ και την κατάργηση της απόφασης 87/95/ΕΟΚ του Συμβουλίου και της απόφασης αριθ. 1673/2006/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (ΕΕ L 316 της 14.11.2012, σ. 12).

(55)    Κανονισμός (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας των δεδομένων προσωπικού χαρακτήρα και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της οδηγίας 95/46/ΕΚ (Γενικός κανονισμός για την Προστασία Δεδομένων) (ΕΕ L 119 της 4.5.2016, σ. 1).

(56)    Οδηγία 2013/36/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 26ης Ιουνίου 2013, σχετικά με την πρόσβαση στη δραστηριότητα πιστωτικών ιδρυμάτων και την προληπτική εποπτεία πιστωτικών ιδρυμάτων και επιχειρήσεων επενδύσεων, για την τροποποίηση της οδηγίας 2002/87/ΕΚ και για την κατάργηση των οδηγιών 2006/48/ΕΚ και 2006/49/ΕΚ (ΕΕ L 176 της 27.6.2013, σ. 338).

(57)    Οδηγία 2001/95/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 3ης Δεκεμβρίου 2001, για τη γενική ασφάλεια των προϊόντων (ΕΕ L 11 της 15.1.2002, σ. 4).

(58)    ΕΕ L 123 της 12.5.2016, σ. 1.

(59)    Κανονισμός (ΕΕ) αριθ. 182/2011 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 16ης Φεβρουαρίου 2011, για τη θέσπιση κανόνων και γενικών αρχών σχετικά με τους τρόπους ελέγχου από τα κράτη μέλη της άσκησης των εκτελεστικών αρμοδιοτήτων από την Επιτροπή (ΕΕ L 55 της 28.2.2011, σ. 13).

(60)    Οδηγία 2000/31/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 8ης Ιουνίου 2000, για ορισμένες νομικές πτυχές των υπηρεσιών της κοινωνίας της πληροφορίας, ιδίως του ηλεκτρονικού εμπορίου, στην εσωτερική αγορά («οδηγία για το ηλεκτρονικό εμπόριο») (EE L 178 της 17.7.2000, σ. 1).

(61)    Σύσταση της Επιτροπής, της 6ης Μαΐου 2003, σχετικά με τον ορισμό των πολύ μικρών, των μικρών και των μεσαίων επιχειρήσεων (ΕΕ L 124 της 20.5.2003, σ. 36).

(62)    Απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου, της 13ης Ιουνίου 2002, για το ευρωπαϊκό ένταλμα σύλληψης και τις διαδικασίες παράδοσης μεταξύ των κρατών μελών (ΕΕ L 190 της 18.7.2002, σ. 1).

(63)    Κανονισμός (ΕΕ) 2019/881 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 17ης Απριλίου 2019, σχετικά με τον ENISA («Οργανισμός της Ευρωπαϊκής Ένωσης για την Κυβερνοασφάλεια») και με την πιστοποίηση της κυβερνοασφάλειας στον τομέα της τεχνολογίας πληροφοριών και επικοινωνιών και για την κατάργηση του κανονισμού (ΕΕ) αριθ. 526/2013 (πράξη για την κυβερνοασφάλεια) (ΕΕ L 151 της 7.6.2019, σ. 1).

(64)    Όπως αναφέρεται στο άρθρο 54 παράγραφος 2 στοιχείο α) ή β) του δημοσιονομικού κανονισμού.

(65)    Οι λεπτομέρειες σχετικά με τους τρόπους διαχείρισης και οι παραπομπές στον δημοσιονομικό κανονισμό είναι διαθέσιμες στον δικτυακό τόπο BudgWeb: http://www.cc.cec/budg/man/budgmanag/budgmanag_en.html

(66)    ΔΠ = Διαχωριζόμενες πιστώσεις / ΜΔΠ = Μη διαχωριζόμενες πιστώσεις.

(67)    ΕΖΕΣ: Ευρωπαϊκή Ζώνη Ελεύθερων Συναλλαγών.

(68)    Υποψήφιες χώρες και, κατά περίπτωση, δυνάμει υποψήφια μέλη της ΕΕ από τα Δυτικά Βαλκάνια.

(69)    Ενδεικτικό και εξαρτώμενο από τη διαθεσιμότητα του προϋπολογισμού.

(70)    Σύμφωνα με την επίσημη ονοματολογία του προϋπολογισμού.

(71)    Τεχνική και/ή διοικητική βοήθεια και δαπάνες στήριξης της εφαρμογής προγραμμάτων και/ή δράσεων της ΕΕ (πρώην γραμμές «BA»), έμμεση έρευνα, άμεση έρευνα.

(72)    Όλα τα ποσά της παρούσας στήλης είναι ενδεικτικά και υπόκεινται στη συνέχιση των προγραμμάτων και στη διαθεσιμότητα των πιστώσεων.

(73)    Όλα τα ποσά της παρούσας στήλης είναι ενδεικτικά και υπόκεινται στη συνέχιση των προγραμμάτων και στη διαθεσιμότητα των πιστώσεων.

(74)    Όπως περιγράφεται στο σημείο 1.4.2. «Ειδικοί στόχοι …»

(75)    Όλα τα ποσά της παρούσας στήλης είναι ενδεικτικά και υπόκεινται στη συνέχιση των προγραμμάτων και στη διαθεσιμότητα των πιστώσεων.

(76)    Τεχνική και/ή διοικητική βοήθεια και δαπάνες στήριξης της εφαρμογής προγραμμάτων και/ή δράσεων της ΕΕ (πρώην γραμμές «BA»), έμμεση έρευνα, άμεση έρευνα.

(77)    Όλα τα ποσά της παρούσας στήλης είναι ενδεικτικά και υπόκεινται στη συνέχιση των προγραμμάτων και στη διαθεσιμότητα των πιστώσεων.

(78)    AC = Συμβασιούχος υπάλληλος· AL = Τοπικός υπάλληλος· END = Αποσπασμένος εθνικός εμπειρογνώμονας· INT = Προσωρινό προσωπικό· JPD = Νέος επαγγελματίας σε αντιπροσωπεία της ΕΕ.

(79)    Επιμέρους ανώτατο όριο εξωτερικού προσωπικού που καλύπτεται από επιχειρησιακές πιστώσεις (πρώην γραμμές «BA»).

(80)    Το έτος N είναι το έτος έναρξης εφαρμογής της πρότασης/πρωτοβουλίας. Να αντικατασταθεί το «N» με το αναμενόμενο πρώτο έτος εφαρμογής (για παράδειγμα: 2021). Το ίδιο και για τα επόμενα έτη.

(81)    Όσον αφορά τους παραδοσιακούς ιδίους πόρους (δασμούς, εισφορές ζάχαρης), τα αναγραφόμενα ποσά πρέπει να είναι καθαρά ποσά, δηλ. τα ακαθάριστα ποσά μετά την αφαίρεση του 20 % για έξοδα είσπραξης.

ΕΥΡΩΠΑΪΚΗ ΕΠΙΤΡΟΠΗ

Βρυξέλλες, 21.4.2021

COM(2021) 206 final

ΠΑΡΑΡΤΗΜΑΤΑ

της

Πρότασης κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου

ΓΙΑ ΤΗ ΘΕΣΠΙΣΗ ΕΝΑΡΜΟΝΙΣΜΕΝΩΝ ΚΑΝΟΝΩΝ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ (ΠΡΑΞΗ ΓΙΑ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ) ΚΑΙ ΤΗΝ ΤΡΟΠΟΠΟΙΗΣΗ ΟΡΙΣΜΕΝΩΝ ΜΟΜΟΘΕΤΙΚΩΝ ΠΡΑΞΕΩΝ ΤΗΣ ΕΝΩΣΗΣ

{SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}

ΠΑΡΑΡΤΗΜΑ I ΤΕΧΝΙΚΕΣ ΚΑΙ ΠΡΟΣΕΓΓΙΣΕΙΣ ΣΤΟΝ ΤΟΜΕΑ ΤΗΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ που αναφέρονται στο άρθρο 3 σημείο 1

α)Προσεγγίσεις μηχανικής μάθησης, συμπεριλαμβανομένων της επιβλεπόμενης, της μη επιβλεπόμενης και της ενισχυτικής μάθησης, με τη χρήση ευρέος φάσματος μεθόδων, συμπεριλαμβανομένης της βαθιάς μάθησης·

β)Προσεγγίσεις που βασίζονται στη λογική και στις γνώσεις, συμπεριλαμβανομένων της αναπαράστασης γνώσεων, του επαγωγικού (λογικού) προγραμματισμού, των βάσεων γνώσεων, των μηχανών εξαγωγής συμπερασμάτων και παραγωγικών συλλογισμών, των συστημάτων (συμβολικής) συλλογιστικής και των συστημάτων-εμπειρογνωμόνων·

γ)Στατιστικές προσεγγίσεις, εκτίμηση κατά Bayes, μέθοδοι αναζήτησης και βελτιστοποίησης.

ΠΑΡΑΡΤΗΜΑ ΙΙ ΚΑΤΑΛΟΓΟΣ ΤΗΣ ΕΝΩΣΙΑΚΗΣ ΝΟΜΟΘΕΣΙΑΣ ΕΝΑΡΜΟΝΙΣΗΣ Τμήμα Α — Κατάλογος της ενωσιακής νομοθεσίας εναρμόνισης βάσει του νέου νομοθετικού πλαισίου

1.Οδηγία 2006/42/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 17ης Μαΐου 2006, σχετικά με τα μηχανήματα και την τροποποίηση της οδηγίας 95/16/ΕΚ (ΕΕ L 157 της 9.6.2006, σ. 24) [όπως καταργείται από τον κανονισμό για τα μηχανήματα]·

2.οδηγία 2009/48/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 18ης Ιουνίου 2009, σχετικά με την ασφάλεια των παιχνιδιών (ΕΕ L 170 της 30.6.2009, σ. 1)·

3.οδηγία 2013/53/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 20ής Νοεμβρίου 2013, για τα σκάφη αναψυχής και τα ατομικά σκάφη και την κατάργηση της οδηγίας 94/25/ΕΚ (ΕΕ L 354 της 28.12.2013, σ. 90)·

4.οδηγία 2014/33/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 26ης Φεβρουαρίου 2014, για την εναρμόνιση των νομοθεσιών των κρατών μελών σχετικά με τους ανελκυστήρες και τα κατασκευαστικά στοιχεία ασφάλειας για ανελκυστήρες (ΕΕ L 96 της 29.3.2014, σ. 251)·

5.οδηγία 2014/34/EΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 26ης Φεβρουαρίου 2014, για την εναρμόνιση των νομοθεσιών των κρατών μελών σχετικά με τις συσκευές και τα συστήματα προστασίας που προορίζονται για χρήση σε εκρήξιμες ατμόσφαιρες (ΕΕ L 96 της 29.3.2014, σ. 309)·

6.οδηγία 2014/53/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 16ης Απριλίου 2014, σχετικά με την εναρμόνιση των νομοθεσιών των κρατών μελών σχετικά με τη διαθεσιμότητα ραδιοεξοπλισμού στην αγορά και την κατάργηση της οδηγίας 1999/5/ΕΚ (ΕΕ L 153 της 22.5.2014, σ. 62)·

7.οδηγία 2014/68/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 15ης Μαΐου 2014, για την εναρμόνιση των νομοθεσιών των κρατών μελών σχετικά με τη διαθεσιμότητα του εξοπλισμού υπό πίεση στην αγορά (ΕΕ L 189 της 27.6.2014, σ. 164)·

8.κανονισμός (ΕΕ) 2016/424 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 9ης Μαρτίου 2016, σχετικά με τις εγκαταστάσεις με συρματόσχοινα και την κατάργηση της οδηγίας 2000/9/ΕΚ (ΕΕ L 81 της 31.3.2016, σ. 1)·

9.κανονισμός (ΕΕ) 2016/425 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 9ης Μαρτίου 2016, σχετικά με τα μέσα ατομικής προστασίας και για την κατάργηση της οδηγίας 89/686/ΕΟΚ του Συμβουλίου (ΕΕ L 81 της 31.3.2016, σ. 51)·

10.κανονισμός (ΕΕ) 2016/426 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 9ης Μαρτίου 2016, σχετικά με τις συσκευές με καύση αέριων καυσίμων και την κατάργηση της οδηγίας 2009/142/ΕΚ (ΕΕ L 81 της 31.3.2016, σ. 99)·

11.κανονισμός (ΕΕ) 2017/745 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 5ης Απριλίου 2017, για τα ιατροτεχνολογικά προϊόντα, για την τροποποίηση της οδηγίας 2001/83/ΕΚ, του κανονισμού (ΕΚ) αριθ. 178/2002 και του κανονισμού (ΕΚ) αριθ. 1223/2009 και για την κατάργηση των οδηγιών του Συμβουλίου 90/385/ΕΟΚ και 93/42/ΕΟΚ (ΕΕ L 117 της 5.5.2017, σ. 1)·

12.κανονισμός (EE) 2017/746 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 5ης Απριλίου 2017, για τα in vitro διαγνωστικά ιατροτεχνολογικά προϊόντα και για την κατάργηση της οδηγίας 98/79/ΕΚ και της απόφασης 2010/227/ΕΕ της Επιτροπής (ΕΕ L 117 της 5.5.2017, σ. 176).

Τμήμα Β. Κατάλογος άλλης ενωσιακής νομοθεσίας εναρμόνισης

1.Κανονισμός (ΕΚ) αριθ. 300/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 11ης Μαρτίου 2008, για τη θέσπιση κοινών κανόνων στο πεδίο της ασφάλειας της πολιτικής αεροπορίας και την κατάργηση του κανονισμού (ΕΚ) αριθ. 2320/2002 (ΕΕ L 97 της 9.4.2008, σ. 72)·

2.κανονισμός (ΕΕ) αριθ. 168/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 15ης Ιανουαρίου 2013, για την έγκριση και την εποπτεία της αγοράς δίκυκλων ή τρίκυκλων οχημάτων και τετράκυκλων (ΕΕ L 60 της 2.3.2013, σ. 52)·

3.κανονισμός (ΕΕ) αριθ. 167/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 5ης Φεβρουαρίου 2013, για την έγκριση και την εποπτεία της αγοράς γεωργικών και δασικών οχημάτων (ΕΕ L 60 της 2.3.2013, σ. 1)·

4.οδηγία 2014/90/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 23ης Ιουλίου 2014, σχετικά με τον εξοπλισμό πλοίων και για την κατάργηση της οδηγίας 96/98/ΕΚ του Συμβουλίου (ΕΕ L 257 της 28.8.2014, σ. 146)·

5.οδηγία (ΕΕ) 2016/797 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 11ης Μαΐου 2016, σχετικά με τη διαλειτουργικότητα του σιδηροδρομικού συστήματος της Ευρωπαϊκής Ένωσης (ΕΕ L 138 της 26.5.2016, σ. 44)·

6.κανονισμός (EE) 2018/858 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 30ής Μαΐου 2018, για την έγκριση και την εποπτεία της αγοράς μηχανοκίνητων οχημάτων και των ρυμουλκουμένων τους και των συστημάτων, κατασκευαστικών στοιχείων και χωριστών τεχνικών μονάδων που προορίζονται για τα οχήματα αυτά, για την τροποποίηση των κανονισμών (ΕΚ) αριθ. 715/2007 και (ΕΚ) αριθ. 595/2009 και για την κατάργηση της οδηγίας 2007/46/ΕΚ (ΕΕ L 151 της 14.6.2018, σ. 1)· 3. κανονισμός (ΕΕ) 2019/2144 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Νοεμβρίου 2019, για τις απαιτήσεις έγκρισης τύπου των μηχανοκίνητων οχημάτων και των ρυμουλκουμένων τους και των συστημάτων, κατασκευαστικών στοιχείων και χωριστών τεχνικών μονάδων που προορίζονται για τα οχήματα αυτά όσον αφορά τη γενική τους ασφάλεια και την προστασία των επιβατών των οχημάτων και του ευάλωτου χρήστη της οδού, για την τροποποίηση του κανονισμού (ΕΕ) 2018/858 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και την κατάργηση των κανονισμών (ΕΚ) αριθ. 78/2009, (ΕΚ) αριθ. 79/2009 και (ΕΚ) αριθ. 661/2009 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και των κανονισμών (ΕΚ) αριθ. 631/2009, (ΕΕ) αριθ. 406/2010, (ΕΕ) αριθ. 672/2010, (ΕΕ) αριθ. 1003/2010, (ΕΕ) αριθ. 1005/2010, (ΕΕ) αριθ. 1008/2010, (ΕΕ) αριθ. 1009/2010, (EΕ) αριθ. 19/2011, (EΕ) αριθ. 109/2011, (EΕ) αριθ. 458/2011, (EΕ) αριθ. 65/2012, (EΕ) αριθ. 130/2012, (EΕ) αριθ. 347/2012, (EΕ) αριθ. 351/2012, (EΕ) αριθ. 1230/2012 και (EΕ) 2015/166 της Επιτροπής (ΕΕ L 325 της 16.12.2019, σ. 1)·

7.κανονισμός (ΕΕ) 2018/1139 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 4ης Ιουλίου 2018, για τη θέσπιση κοινών κανόνων στον τομέα της πολιτικής αεροπορίας και την ίδρυση Οργανισμού της Ευρωπαϊκής Ένωσης για την Ασφάλεια της Αεροπορίας, και για την τροποποίηση των κανονισμών (ΕΚ) αριθ. 2111/2005, (ΕΚ) αριθ. 1008/2008, (ΕΕ) αριθ. 996/2010, (ΕΕ) αριθ. 376/2014 και των οδηγιών 2014/30/ΕΕ και 2014/53/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, καθώς και για την κατάργηση των κανονισμών (ΕΚ) αριθ. 552/2004 και (ΕΚ) αριθ. 216/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και του κανονισμού (ΕΟΚ) αριθ. 3922/91 του Συμβουλίου (ΕΕ L 212 της 22.8.2018, σ. 1), στον βαθμό που αφορά τον σχεδιασμό, την παραγωγή και τη διάθεση των αεροσκαφών που αναφέρονται στο άρθρο 2 παράγραφος 1 στοιχεία α) και β) στην αγορά, όσον αφορά τα μη επανδρωμένα αεροσκάφη, τους κινητήρες, τους έλικες, τα εξαρτήματα και τον εξοπλισμό τους για τον εξ αποστάσεως έλεγχό τους.

ΠΑΡΑΡΤΗΜΑ ΙΙΙ ΣΥΣΤΗΜΑΤΑ ΤΝ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ ΠΟΥ ΑΝΑΦΕΡΟΝΤΑΙ ΣΤΟ ΑΡΘΡΟ 6 ΠΑΡΑΓΡΑΦΟΣ 2

Συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με το άρθρο 6 παράγραφος 2 είναι τα συστήματα ΤΝ που απαριθμούνται σε οποιονδήποτε από τους ακόλουθους τομείς:

1.Βιομετρική ταυτοποίηση και κατηγοριοποίηση φυσικών προσώπων:

α)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων «σε πραγματικό χρόνο» και «σε ύστερο χρόνο»·

2.Διαχείριση και λειτουργία υποδομών ζωτικής σημασίας:

α)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας για τη διαχείριση και τη λειτουργία της οδικής κυκλοφορίας και την παροχή νερού, φυσικού αερίου, θέρμανσης και ηλεκτρικής ενέργειας.

3.Εκπαίδευση και επαγγελματική κατάρτιση:

α)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για τον καθορισμό της πρόσβασης ή την τοποθέτηση φυσικών προσώπων σε ιδρύματα εκπαίδευσης και επαγγελματικής κατάρτισης·

β)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την αξιολόγηση σπουδαστών σε ιδρύματα εκπαίδευσης και επαγγελματικής κατάρτισης και για την αξιολόγηση των συμμετεχόντων σε εξετάσεις που απαιτούνται συνήθως για την εισαγωγή σε εκπαιδευτικά ιδρύματα.

4.Απασχόληση, διαχείριση εργαζομένων και πρόσβαση στην αυτοαπασχόληση:

α)Συστήματα TN που προορίζονται να χρησιμοποιηθούν για την πρόσληψη ή την επιλογή φυσικών προσώπων, ιδίως για τη δημοσίευση κενών θέσεων εργασίας, τον έλεγχο ή το φιλτράρισμα των αιτήσεων, την αξιολόγηση των υποψηφίων κατά τη διάρκεια συνεντεύξεων ή εξετάσεων·

β)Η τεχνητή νοημοσύνη που προορίζεται να χρησιμοποιηθεί για τη λήψη αποφάσεων σχετικά με την προώθηση και την καταγγελία συμβατικών σχέσεων σχετικών με την εργασία, για την κατανομή καθηκόντων και για την παρακολούθηση και αξιολόγηση των επιδόσεων και της συμπεριφοράς των προσώπων που τελούν σε τέτοιες σχέσεις.

5.Πρόσβαση και απόλαυση βασικών ιδιωτικών υπηρεσιών και δημόσιων υπηρεσιών και παροχών:

α)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις δημόσιες αρχές ή για λογαριασμό δημόσιων αρχών, για την αξιολόγηση της επιλεξιμότητας φυσικών προσώπων για παροχές και υπηρεσίες δημόσιας αρωγής, καθώς και για τη χορήγηση, μείωση, ανάκληση ή ανάκτηση των εν λόγω παροχών και υπηρεσιών·

β)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την αξιολόγηση ή τη βαθμολόγηση της πιστοληπτικής ικανότητας φυσικών προσώπων, με εξαίρεση τα συστήματα ΤΝ που τίθενται σε λειτουργία από παρόχους μικρής κλίμακας για δική τους χρήση·

γ)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την αποστολή ή για τον καθορισμό προτεραιοτήτων κατά την αποστολή υπηρεσιών πρώτης αντίδρασης σε καταστάσεις έκτακτης ανάγκης, μεταξύ άλλων από πυροσβέστες, καθώς και ιατρική βοήθεια.

6. Επιβολή του νόμου:

α)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου για τη διενέργεια ατομικών εκτιμήσεων κινδύνου όσον αφορά φυσικά πρόσωπα, προκειμένου να εκτιμηθεί ο κίνδυνος διάπραξης αδικήματος ή υποτροπής ή ο κίνδυνος για δυνητικά θύματα ποινικών αδικημάτων·

β)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου ως πολύγραφοι και παρεμφερή εργαλεία ή για την ανίχνευση της συναισθηματικής κατάστασης ενός φυσικού προσώπου·

γ)Συστήματα TN που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου για τον εντοπισμό βαθιά ψευδούς υλικού όπως αναφέρεται στο άρθρο 52 παράγραφος 3·

δ)Συστήματα TN που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου για την αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων στο πλαίσιο της διερεύνησης ή της δίωξης ποινικών αδικημάτων·

ε)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου για την πρόβλεψη της τέλεσης ή εκ νέου τέλεσης ποινικού αδικήματος, πραγματικού ή δυνητικού, με βάση την κατάρτιση προφίλ φυσικών προσώπων όπως αναφέρεται στο άρθρο 3 σημείο 4) της οδηγίας (ΕΕ) 2016/680 ή την αξιολόγηση των γνωρισμάτων και χαρακτηριστικών της προσωπικότητας ή προηγούμενης εγκληματικής συμπεριφοράς φυσικών προσώπων ή ομάδων·

στ)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου για την κατάρτιση προφίλ φυσικών προσώπων όπως αναφέρεται στο άρθρο 3 σημείο 4) της οδηγίας (ΕΕ) 2016/680 στο πλαίσιο της ανίχνευσης, της διερεύνησης ή της δίωξης ποινικών αδικημάτων·

ζ)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την ανάλυση εγκλημάτων όσον αφορά φυσικά πρόσωπα, επιτρέποντας στις αρχές επιβολής του νόμου να αναζητούν σύνθετα συναφή και μη συναφή μεγάλα σύνολα δεδομένων διαθέσιμα σε διαφορετικές πηγές δεδομένων ή σε διαφορετικούς μορφότυπους δεδομένων για να εντοπίζουν άγνωστες τάσεις ή να ανακαλύπτουν κρυφές σχέσεις στα δεδομένα.

7.Διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων:

α)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις αρμόδιες δημόσιες αρχές ως πολύγραφοι και παρεμφερή εργαλεία ή για την ανίχνευση της συναισθηματικής κατάστασης ενός φυσικού προσώπου·

β)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις αρμόδιες δημόσιες αρχές για την εκτίμηση κινδύνου, συμπεριλαμβανομένων του κινδύνου για την ασφάλεια, του κινδύνου αντικανονικής μετανάστευσης ή του κινδύνου για την υγεία, τον οποίο συνιστά φυσικό πρόσωπο που προτίθεται να εισέλθει ή έχει εισέλθει στο έδαφος κράτους μέλους·

γ)Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις αρμόδιες δημόσιες αρχές για την επαλήθευση της γνησιότητας των ταξιδιωτικών εγγράφων και των δικαιολογητικών εγγράφων φυσικών προσώπων και για τον εντοπισμό μη γνήσιων εγγράφων με έλεγχο των χαρακτηριστικών ασφαλείας τους·

δ)Συστήματα ΤΝ που προορίζονται για την παροχή συνδρομής στις αρμόδιες δημόσιες αρχές για την εξέταση των αιτήσεων ασύλου, θεώρησης και αδειών διαμονής και των συναφών καταγγελιών όσον αφορά τον καθορισμό της επιλεξιμότητας των προσώπων που υποβάλλουν αίτηση για αναγνώριση καθεστώτος.

8.Απονομή δικαιοσύνης και δημοκρατικές διαδικασίες:

α)Συστήματα ΤΝ που προορίζονται για την παροχή συνδρομής σε δικαστική αρχή κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών.

ΠΑΡΑΡΤΗΜΑ IV ΤΕΧΝΙΚΟΣ ΦΑΚΕΛΟΣ που αναφέρεται στο άρθρο 11 παράγραφος 1

Ο τεχνικός φάκελος που αναφέρεται στο άρθρο 11 παράγραφος 1 περιλαμβάνει τουλάχιστον τις ακόλουθες πληροφορίες, ανάλογα με το σχετικό σύστημα ΤΝ:

1.Γενική περιγραφή του συστήματος ΤΝ, η οποία περιλαμβάνει:

α)τον επιδιωκόμενο σκοπό του συστήματος, το πρόσωπο ή τα πρόσωπα που είναι υπεύθυνο/-α για την ανάπτυξή του, την ημερομηνία και την έκδοση του συστήματος·

β)τον τρόπο με τον οποίο το σύστημα ΤΝ αλληλεπιδρά ή μπορεί να χρησιμοποιηθεί για αλληλεπίδραση με υλισμικό ή λογισμικό που δεν αποτελεί μέρος του ίδιου του συστήματος ΤΝ, κατά περίπτωση·

γ)τις εκδόσεις του σχετικού λογισμικού ή υλικολογισμικού και κάθε απαίτηση σχετικά με την επικαιροποίηση εκδόσεων·

δ)την περιγραφή όλων των μορφών με τις οποίες το σύστημα ΤΝ διατίθεται στην αγορά ή τίθεται σε λειτουργία·

ε)την περιγραφή του υλισμικού στο οποίο προορίζεται να λειτουργήσει το σύστημα ΤΝ·

στ)όταν το σύστημα ΤΝ αποτελεί κατασκευαστικό στοιχείο προϊόντων, φωτογραφίες ή εικόνες που να δείχνουν τα εξωτερικά χαρακτηριστικά, τη σήμανση και την εσωτερική διαρρύθμιση των εν λόγω προϊόντων·

ζ)οδηγίες χρήσης για τον χρήστη και, κατά περίπτωση, οδηγίες εγκατάστασης·

2.Λεπτομερή περιγραφή των στοιχείων του συστήματος ΤΝ και της διαδικασίας για την ανάπτυξή του, η οποία περιλαμβάνει:

α)τις μεθόδους και τα βήματα που εκτελέστηκαν για την ανάπτυξη του συστήματος ΤΝ, συμπεριλαμβανομένων, κατά περίπτωση, της προσφυγής σε προεκπαιδευμένα συστήματα ή εργαλεία που παρασχέθηκαν από τρίτους και του τρόπου με τον οποίο αυτά χρησιμοποιήθηκαν, ενσωματώθηκαν ή τροποποιήθηκαν από τον πάροχο·

β)τις προδιαγραφές σχεδιασμού του συστήματος, δηλαδή τη γενική λογική του συστήματος ΤΝ και των αλγορίθμων· τις βασικές επιλογές σχεδιασμού, συμπεριλαμβανομένων του σκεπτικού και των παραδοχών που έχουν γίνει, και σε σχέση με τα πρόσωπα ή τις ομάδες προσώπων για τα οποία προορίζεται να χρησιμοποιηθεί το σύστημα· τις βασικές επιλογές ταξινόμησης· το τι προορίζεται να βελτιστοποιήσει το σύστημα και τη συνάφεια των διαφόρων παραμέτρων· τις αποφάσεις σχετικά με τυχόν αντισταθμίσεις όσον αφορά τις τεχνικές λύσεις που υιοθετούνται για τη συμμόρφωση με τις απαιτήσεις που καθορίζονται στον τίτλο ΙΙΙ κεφάλαιο 2·

γ)την περιγραφή της αρχιτεκτονικής του συστήματος που εξηγεί τον τρόπο με τον οποίο τα συστατικά στοιχεία λογισμικού βασίζονται ή τροφοδοτούν το ένα το άλλο και ενσωματώνονται στη συνολική επεξεργασία· τους υπολογιστικούς πόρους που χρησιμοποιήθηκαν για την ανάπτυξη, την εκπαίδευση, τη δοκιμή και την επικύρωση του συστήματος ΤΝ·

δ)κατά περίπτωση, τις απαιτήσεις δεδομένων όσον αφορά τα δελτία δεδομένων που περιγράφουν τις μεθοδολογίες και τις τεχνικές εκπαίδευσης και τα σύνολα δεδομένων εκπαίδευσης που χρησιμοποιήθηκαν, συμπεριλαμβανομένων πληροφοριών σχετικά με την προέλευση αυτών των συνόλων δεδομένων, του εύρους και των κύριων χαρακτηριστικών τους· τον τρόπο λήψης και επιλογής των δεδομένων· τις διαδικασίες επισήμανσης (π.χ. για επιβλεπόμενη μάθηση), τις μεθοδολογίες καθαρισμού δεδομένων (π.χ. ανίχνευση εκτρόπων τιμών)·

ε)αξιολόγηση των μέτρων ανθρώπινης εποπτείας που απαιτούνται σύμφωνα με το άρθρο 14, συμπεριλαμβανομένης της αξιολόγησης των τεχνικών μέτρων που απαιτούνται για τη διευκόλυνση της ερμηνείας των στοιχείων εξόδου των συστημάτων ΤΝ από τους χρήστες σύμφωνα με το άρθρο 13 παράγραφος 3 στοιχείο δ)·

στ)κατά περίπτωση, λεπτομερή περιγραφή των προκαθορισμένων αλλαγών στο σύστημα ΤΝ και στις επιδόσεις του, μαζί με όλες τις συναφείς πληροφορίες που σχετίζονται με τις τεχνικές λύσεις που έχουν επιλεγεί για τη διασφάλιση της συνεχούς συμμόρφωσης του συστήματος ΤΝ με τις σχετικές απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2·

ζ)τις διαδικασίες επικύρωσης και δοκιμής που χρησιμοποιήθηκαν, συμπεριλαμβανομένων πληροφοριών σχετικά με τα δεδομένα επικύρωσης και δοκιμής και των κύριων χαρακτηριστικών τους· τους δείκτες μέτρησης που χρησιμοποιήθηκαν για τη μέτρηση της ακρίβειας, της στιβαρότητας, της κυβερνοασφάλειας και της συμμόρφωσης με άλλες σχετικές απαιτήσεις που καθορίζονται στον τίτλο ΙΙΙ κεφάλαιο 2, καθώς και των επιπτώσεων δυνητικής διακριτικής μεταχείρισης· αρχεία καταγραφής δοκιμών και όλες τις εκθέσεις δοκιμών, χρονολογημένες και υπογεγραμμένες από τους υπευθύνους, μεταξύ άλλων όσον αφορά προκαθορισμένες αλλαγές όπως αναφέρονται στο στοιχείο στ).

3.Λεπτομερείς πληροφορίες σχετικά με την παρακολούθηση, τη λειτουργία και τον έλεγχο του συστήματος ΤΝ, ιδίως όσον αφορά: τις ικανότητές του και τους περιορισμούς όσον αφορά τις επιδόσεις του, συμπεριλαμβανομένων των βαθμών ακρίβειας για συγκεκριμένα πρόσωπα ή ομάδες προσώπων στα οποία προορίζεται να χρησιμοποιηθεί το σύστημα και του συνολικού αναμενόμενου επιπέδου ακρίβειας σε σχέση με τον επιδιωκόμενο σκοπό του· τα προβλέψιμα ανεπιθύμητα αποτελέσματα και τις πηγές κινδύνων για την υγεία και την ασφάλεια, τα θεμελιώδη δικαιώματα και τον κίνδυνο διακρίσεων με βάση τον επιδιωκόμενο σκοπό του συστήματος ΤΝ· τα μέτρα ανθρώπινης εποπτείας που απαιτούνται σύμφωνα με το άρθρο 14, συμπεριλαμβανομένων των τεχνικών μέτρων που εφαρμόζονται για τη διευκόλυνση της ερμηνείας των στοιχείων εξόδου των συστημάτων ΤΝ από τους χρήστες· προδιαγραφές για τα δεδομένα εισόδου, κατά περίπτωση·

4.Λεπτομερή περιγραφή του συστήματος διαχείρισης κινδύνου σύμφωνα με το άρθρο 9·

5.Περιγραφή κάθε αλλαγής που επέρχεται στο σύστημα κατά τη διάρκεια του κύκλου ζωής του·

6.Κατάλογο των εναρμονισμένων προτύπων που εφαρμόζονται πλήρως ή εν μέρει, των οποίων τα στοιχεία αναφοράς έχουν δημοσιευθεί στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης· σε περίπτωση που δεν έχουν εφαρμοστεί τέτοια εναρμονισμένα πρότυπα, λεπτομερή περιγραφή των λύσεων που υιοθετήθηκαν για την τήρηση των απαιτήσεων που καθορίζονται στον τίτλο ΙΙΙ κεφάλαιο 2, συμπεριλαμβανομένου καταλόγου άλλων σχετικών προτύπων και τεχνικών προδιαγραφών που εφαρμόστηκαν·

7.Αντίγραφο της δήλωσης συμμόρφωσης ΕΕ·

8.Λεπτομερή περιγραφή του συστήματος που εφαρμόζεται για την αξιολόγηση των επιδόσεων του συστήματος ΤΝ κατά το στάδιο μετά τη διάθεση στην αγορά σύμφωνα με το άρθρο 61, συμπεριλαμβανομένου του σχεδίου παρακολούθησης μετά τη διάθεση στην αγορά που αναφέρεται στο άρθρο 61 παράγραφος 3.

ΠΑΡΑΡΤΗΜΑ V ΔΗΛΩΣΗ ΣΥΜΜΟΡΦΩΣΗΣ ΕΕ

Στη δήλωση συμμόρφωσης ΕΕ που αναφέρεται στο άρθρο 48, περιλαμβάνονται όλες οι ακόλουθες πληροφορίες:

1.Ονομασία και τύπος του συστήματος ΤΝ και όλα τα πρόσθετα αδιαμφισβήτητα στοιχεία αναφοράς που επιτρέπουν την ταυτοποίηση και την ιχνηλασιμότητα του συστήματος ΤΝ·

2.Όνομα και διεύθυνση του παρόχου και, κατά περίπτωση, του εξουσιοδοτημένου αντιπροσώπου του·

3.Βεβαίωση ότι η δήλωση συμμόρφωσης ΕΕ εκδίδεται με αποκλειστική ευθύνη του παρόχου·

4.Βεβαίωση ότι το οικείο σύστημα ΤΝ συμμορφώνεται με τον παρόντα κανονισμό και, κατά περίπτωση, με οποιαδήποτε άλλη σχετική νομοθεσία της Ένωσης στην οποία προβλέπεται η έκδοση δήλωσης συμμόρφωσης ΕΕ·

5.Μνεία τυχόν σχετικών εναρμονισμένων προτύπων που χρησιμοποιούνται ή τυχόν άλλων κοινών προδιαγραφών σε σχέση με τις οποίες δηλώνεται η συμμόρφωση·

6.Κατά περίπτωση, επωνυμία και αριθμός μητρώου του κοινοποιημένου οργανισμού, περιγραφή της διαδικασίας αξιολόγησης της συμμόρφωσης που διενεργήθηκε και ταυτοποίηση του εκδοθέντος πιστοποιητικού·

7.Τόπος και ημερομηνία έκδοσης της δήλωσης, ονοματεπώνυμο και ιδιότητα του προσώπου που την υπέγραψε, καθώς και ένδειξη του προσώπου αντί ή εξ ονόματος του οποίου την υπέγραψε, υπογραφή.

ΠΑΡΑΡΤΗΜΑ VI ΔΙΑΔΙΚΑΣΙΑ ΑΞΙΟΛΟΓΗΣΗΣ ΤΗΣ ΣΥΜΜΟΡΦΩΣΗΣ ΜΕ ΒΑΣΗ ΤΟΝ ΕΣΩΤΕΡΙΚΟ ΕΛΕΓΧΟ

1.Η διαδικασία αξιολόγησης της συμμόρφωσης με βάση τον εσωτερικό έλεγχο είναι η διαδικασία αξιολόγησης σύμφωνα με τα σημεία 2 έως 4.

2.Ο πάροχος ελέγχει αν το σύστημα διαχείρισης ποιότητας που έχει θεσπιστεί συμμορφώνεται με τις απαιτήσεις του άρθρου 17.

3.Ο πάροχος εξετάζει τις πληροφορίες που περιέχονται στον τεχνικό φάκελο προκειμένου να αξιολογήσει τη συμμόρφωση του συστήματος ΤΝ με τις σχετικές βασικές απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2.

4.Ο πάροχος ελέγχει επίσης αν η διαδικασία σχεδιασμού και ανάπτυξης του συστήματος ΤΝ και η παρακολούθησή του μετά τη διάθεση στην αγορά, όπως αναφέρεται στο άρθρο 61, είναι σύμφωνες με τον τεχνικό φάκελο.

ΠΑΡΑΡΤΗΜΑ VII ΣΥΜΜΟΡΦΩΣΗ ΜΕ ΒΑΣΗ ΑΞΙΟΛΟΓΗΣΗ ΤΟΥ ΣΥΣΤΗΜΑΤΟΣ ΔΙΑΧΕΙΡΙΣΗΣ ΤΗΣ ΠΟΙΟΤΗΤΑΣ ΚΑΙ ΑΞΙΟΛΟΓΗΣΗ ΤΟΥ ΤΕΧΝΙΚΟΥ ΦΑΚΕΛΟΥ

1.Εισαγωγή

Η συμμόρφωση με βάση την αξιολόγηση του συστήματος διαχείρισης ποιότητας και την αξιολόγηση του τεχνικού φακέλου είναι η διαδικασία αξιολόγησης της συμμόρφωσης που διεξάγεται σύμφωνα με τα σημεία 2 έως 5.

2.Επισκόπηση

Το εγκεκριμένο σύστημα διαχείρισης ποιότητας για τον σχεδιασμό, την ανάπτυξη και τη δοκιμή συστημάτων ΤΝ σύμφωνα με το άρθρο 17 εξετάζεται σύμφωνα με το σημείο 3 και υπόκειται σε επιτήρηση σύμφωνα με το σημείο 5. Ο τεχνικός φάκελος του συστήματος ΤΝ εξετάζεται σύμφωνα με το σημείο 4.

3.Σύστημα διαχείρισης ποιότητας

3.1.Η αίτηση του παρόχου περιλαμβάνει:

α)το όνομα και τη διεύθυνση του παρόχου και, εάν η αίτηση υποβάλλεται από τον εξουσιοδοτημένο αντιπρόσωπο, το όνομα και τη διεύθυνση και του εξουσιοδοτημένου αντιπροσώπου·

β)τον κατάλογο των συστημάτων ΤΝ που καλύπτονται από το ίδιο σύστημα διαχείρισης ποιότητας·

γ)τον τεχνικό φάκελο για κάθε σύστημα ΤΝ που καλύπτεται από το ίδιο σύστημα διαχείρισης ποιότητας·

δ)τον φάκελο του συστήματος διαχείρισης ποιότητας το οποίο καλύπτει όλες τις πτυχές που αναφέρονται στο άρθρο 17·

ε)περιγραφή των διαδικασιών που προβλέπονται για να διασφαλιστεί η διατήρηση της καταλληλότητας και της αποτελεσματικότητας του συστήματος διαχείρισης ποιότητας·

στ)γραπτή δήλωση με την οποία βεβαιώνεται ότι δεν έχει υποβληθεί η ίδια αίτηση σε άλλο κοινοποιημένο οργανισμό.

3.2.Το σύστημα διαχείρισης ποιότητας αξιολογείται από τον κοινοποιημένο οργανισμό για να διαπιστωθεί αν πληροί τις απαιτήσεις που αναφέρονται στο άρθρο 17.

Η απόφαση κοινοποιείται στον πάροχο ή στον εξουσιοδοτημένο αντιπρόσωπό του.

Η κοινοποίηση περιλαμβάνει τα συμπεράσματα της αξιολόγησης του συστήματος διαχείρισης ποιότητας και την αιτιολογημένη απόφαση αξιολόγησης.

3.3.Ο πάροχος εξακολουθεί να εφαρμόζει και να συντηρεί το σύστημα διαχείρισης ποιότητας, ως έχει εγκριθεί, ώστε να παραμένει κατάλληλο και αποτελεσματικό.

3.4.Ο πάροχος γνωστοποιεί στον κοινοποιημένο οργανισμό κάθε σχεδιαζόμενη αλλαγή στο εγκεκριμένο σύστημα διαχείρισης ποιότητας ή του καταλόγου των συστημάτων ΤΝ που καλύπτονται από αυτό.

Ο κοινοποιημένος οργανισμός εξετάζει τις προτεινόμενες αλλαγές και αποφασίζει αν το τροποποιημένο σύστημα διαχείρισης ποιότητας εξακολουθεί να πληροί τις απαιτήσεις που αναφέρονται στο σημείο 3.2 ή αν χρειάζεται νέα αξιολόγηση.

Ο κοινοποιημένος οργανισμός κοινοποιεί την απόφασή του στον πάροχο. Η κοινοποίηση περιέχει τα συμπεράσματα της εξέτασης των αλλαγών και την αιτιολογημένη απόφαση αξιολόγησης.

4.Έλεγχος του τεχνικού φακέλου.

4.1.Πέραν της αίτησης που αναφέρεται στο σημείο 3, ο πάροχος υποβάλλει στον κοινοποιημένο οργανισμό της επιλογής του αίτηση για την αξιολόγηση του τεχνικού φακέλου του συστήματος ΤΝ που προτίθεται να διαθέσει στην αγορά ή να θέσει σε λειτουργία και που καλύπτεται από το σύστημα διαχείρισης ποιότητας το οποίο αναφέρεται στο τμήμα 3.

4.2.Η αίτηση περιέχει:

α)το όνομα και τη διεύθυνση του παρόχου·

β)γραπτή δήλωση με την οποία βεβαιώνεται ότι δεν έχει υποβληθεί η ίδια αίτηση σε άλλο κοινοποιημένο οργανισμό·

γ)τον τεχνικό φάκελο που αναφέρεται στο παράρτημα IV.

4.3.Ο κοινοποιημένος οργανισμός εξετάζει τον τεχνικό φάκελο. Προς τούτο, στον κοινοποιημένο οργανισμό παρέχεται πλήρης πρόσβαση στα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται από τον πάροχο, μεταξύ άλλων μέσω διεπαφών προγραμματισμού εφαρμογών (API) ή άλλων κατάλληλων τεχνικών μέσων και εργαλείων που επιτρέπουν την εξ αποστάσεως πρόσβαση.

4.4.Κατά την εξέταση του τεχνικού φακέλου, ο κοινοποιημένος οργανισμός μπορεί να ζητήσει από τον πάροχο να παράσχει περαιτέρω αποδεικτικά στοιχεία ή να διενεργήσει περαιτέρω δοκιμές ώστε να καταστεί δυνατή η ορθή αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ με τις απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2. Όταν ο κοινοποιημένος οργανισμός δεν είναι ικανοποιημένος με τις δοκιμές που πραγματοποίησε ο πάροχος, διεξάγει απευθείας κατάλληλες δοκιμές, κατά περίπτωση.

4.5.Όταν απαιτείται για την αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ υψηλού κινδύνου με τις απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2 και κατόπιν αιτιολογημένου αιτήματος, στον κοινοποιημένο οργανισμό παρέχεται επίσης πρόσβαση στον πηγαίο κώδικα του συστήματος ΤΝ

4.6.Η απόφαση κοινοποιείται στον πάροχο ή στον εξουσιοδοτημένο αντιπρόσωπό του. Η κοινοποίηση περιλαμβάνει τα συμπεράσματα της αξιολόγησης του τεχνικού φακέλου και την αιτιολογημένη απόφαση αξιολόγησης.

Όταν το σύστημα ΤΝ συμμορφώνεται με τις απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2, ο κοινοποιημένος οργανισμός εκδίδει πιστοποιητικό αξιολόγησης του τεχνικού φακέλου ΕΕ. Το πιστοποιητικό αυτό περιλαμβάνει το όνομα και τη διεύθυνση του παρόχου, τα συμπεράσματα της εξέτασης, τους (τυχόν) όρους υπό τους οποίους ισχύει και τα απαραίτητα στοιχεία για την αναγνώριση του συστήματος ΤΝ.

Το πιστοποιητικό και τα παραρτήματά του περιλαμβάνουν όλες τις απαραίτητες πληροφορίες για την αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ και, κατά περίπτωση, τον έλεγχό του κατά τη χρήση του.

Εάν το σύστημα ΤΝ δεν πληροί τις απαιτήσεις που καθορίζονται στον τίτλο III κεφάλαιο 2, ο κοινοποιημένος οργανισμός αρνείται να χορηγήσει πιστοποιητικό αξιολόγησης του τεχνικού φακέλου ΕΕ και ενημερώνει τον αιτούντα σχετικά, αιτιολογεί δε λεπτομερώς την άρνηση χορήγησης του πιστοποιητικού.

Όταν το σύστημα ΤΝ δεν πληροί την απαίτηση σχετικά με τα δεδομένα που χρησιμοποιούνται για την εκπαίδευσή του, θα χρειαστεί επανεκπαίδευση του συστήματος ΤΝ πριν από την υποβολή αίτησης για νέα αξιολόγηση της συμμόρφωσης. Σε αυτή την περίπτωση, η αιτιολογημένη απόφαση αξιολόγησης του κοινοποιημένου οργανισμού με την οποία αρνείται να εκδώσει το πιστοποιητικό αξιολόγησης του τεχνικού φακέλου ΕΕ, περιλαμβάνει ειδικές εκτιμήσεις σχετικά με τα δεδομένα ποιότητας που χρησιμοποιήθηκαν για την εκπαίδευση του συστήματος ΤΝ, ιδίως όσον αφορά τους λόγους μη συμμόρφωσης.

4.7.Κάθε αλλαγή στο σύστημα ΤΝ που θα μπορούσε να επηρεάσει τη συμμόρφωση του συστήματος ΤΝ με τις απαιτήσεις ή τον επιδιωκόμενο σκοπό του εγκρίνεται από τον κοινοποιημένο οργανισμό που εξέδωσε το πιστοποιητικό αξιολόγησης του τεχνικού φακέλου ΕΕ. Ο πάροχος ενημερώνει τον εν λόγω κοινοποιημένο οργανισμό για την πρόθεσή του να προβεί σε οποιαδήποτε από τις προαναφερόμενες αλλαγές ή εάν αντιληφθεί με άλλο τρόπο την επέλευση των αλλαγών αυτών. Ο κοινοποιημένος οργανισμός εκτιμά τις σχεδιαζόμενες αλλαγές και αποφασίζει αν οι αλλαγές αυτές απαιτούν νέα αξιολόγηση της συμμόρφωσης σύμφωνα με το άρθρο 43 παράγραφος 4 ή αν θα μπορούσαν να αποτελέσουν αντικείμενο συμπληρώματος του πιστοποιητικού αξιολόγησης του τεχνικού φακέλου ΕΕ. Στη δεύτερη περίπτωση, ο κοινοποιημένος οργανισμός εκτιμά τις αλλαγές, γνωστοποιεί στον πάροχο την απόφασή του και, εφόσον εγκριθούν οι αλλαγές, χορηγεί στον πάροχο συμπλήρωμα του πιστοποιητικού αξιολόγησης του τεχνικού φακέλου ΕΕ.

5.Επιτήρηση του εγκεκριμένου συστήματος διαχείρισης ποιότητας.

5.1.Σκοπός της επιτήρησης που διενεργείται από τον κοινοποιημένο οργανισμό που αναφέρεται στο σημείο 3 είναι να εξασφαλιστεί ότι ο πάροχος τηρεί δεόντως τους όρους και τις προϋποθέσεις του εγκεκριμένου συστήματος διαχείρισης ποιότητας.

5.2.Για σκοπούς αξιολόγησης, ο πάροχος επιτρέπει στον κοινοποιημένο οργανισμό την πρόσβαση στους χώρους όπου πραγματοποιείται ο σχεδιασμός, η ανάπτυξη και η δοκιμή των συστημάτων ΤΝ. Ο πάροχος κοινοποιεί περαιτέρω στον κοινοποιημένο οργανισμό όλες τις απαραίτητες πληροφορίες.

5.3.Ο κοινοποιημένος οργανισμός πραγματοποιεί περιοδικούς ελέγχους για να βεβαιώνεται ότι ο πάροχος συντηρεί και εφαρμόζει το σύστημα διαχείρισης ποιότητας, και υποβάλλει στον πάροχο έκθεση ελέγχου. Στο πλαίσιο των εν λόγω ελέγχων, ο κοινοποιημένος οργανισμός μπορεί να διενεργεί πρόσθετες δοκιμές των συστημάτων ΤΝ για τα οποία έχει εκδοθεί πιστοποιητικό αξιολόγησης του τεχνικού φακέλου ΕΕ.

ΠΑΡΑΡΤΗΜΑ VΙΙΙ ΠΛΗΡΟΦΟΡΙΕΣ ΠΟΥ ΥΠΟΒΑΛΛΟΝΤΑΙ ΜΕ ΤΗΝ ΚΑΤΑΧΩΡΙΣΗ ΤΩΝ ΣΥΣΤΗΜΑΤΩΝ ΤΝ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ ΣΥΜΦΩΝΑ ΜΕ ΤΟ ΑΡΘΡΟ 51

Υποβάλλονται και στη συνέχεια επικαιροποιούνται οι ακόλουθες πληροφορίες σχετικά με τα συστήματα ΤΝ υψηλού κινδύνου που πρόκειται να καταχωριστούν σύμφωνα με το άρθρο 51.

1.Το όνομα, η διεύθυνση και τα στοιχεία επικοινωνίας του παρόχου·

2.Εάν η υποβολή των πληροφοριών πραγματοποιείται από άλλο πρόσωπο εξ ονόματος του παρόχου, το όνομα, η διεύθυνση και τα στοιχεία επικοινωνίας του προσώπου αυτού·

3.Το όνομα, η διεύθυνση και τα στοιχεία επικοινωνίας του εξουσιοδοτημένου αντιπροσώπου, κατά περίπτωση·

4.Η εμπορική ονομασία του συστήματος ΤΝ και όλα τα πρόσθετα αδιαμφισβήτητα στοιχεία αναφοράς που επιτρέπουν την ταυτοποίηση και την ιχνηλασιμότητα του συστήματος ΤΝ·

5.Περιγραφή του επιδιωκόμενου σκοπού του συστήματος ΤΝ·

6.Κατάσταση του συστήματος ΤΝ (έχει διατεθεί στην αγορά ή τεθεί σε λειτουργία· δεν διατίθεται πλέον στην αγορά/είναι εκτός λειτουργίας, έχει ανακληθεί)·

7.Το είδος, ο αριθμός και η ημερομηνία λήξης της ισχύος του πιστοποιητικού που εκδόθηκε από τον κοινοποιημένο οργανισμό και η επωνυμία ή ο αριθμός μητρώου του εν λόγω κοινοποιημένου οργανισμού, κατά περίπτωση·

8.Σαρωμένο αντίγραφο του πιστοποιητικού που αναφέρεται στο σημείο 7, κατά περίπτωση·

9.Τα κράτη μέλη στην αγορά των οποίων διατίθεται ή έχει διατεθεί το σύστημα ΤΝ ή στα οποία έχει τεθεί σε λειτουργία ή έχει καταστεί διαθέσιμο στην Ένωση·

10.Αντίγραφο της δήλωσης συμμόρφωσης ΕΕ που αναφέρεται στο άρθρο 48·

11.Οι ηλεκτρονικές οδηγίες χρήσης· Οι πληροφορίες αυτές δεν παρέχονται για συστήματα ΤΝ υψηλού κινδύνου στους τομείς της επιβολής του νόμου και της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων τα οποία αναφέρονται στο παράρτημα III σημεία 1, 6 και 7.

12.Διεύθυνση URL για συμπληρωματικές πληροφορίες (προαιρετικά).

ΠΑΡΑΡΤΗΜΑ ΙΧ Ενωσιακή νομοθεσία για συστήματα ΤΠ μεγάλης κλίμακας στον χώρο της ελευθερίας, της ασφάλειας και της δικαιοσύνης

1.Σύστημα Πληροφοριών Σένγκεν (SIS)

α)Κανονισμός (ΕΕ) 2018/1860 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 28ης Νοεμβρίου 2018, σχετικά με τη χρήση του Συστήματος Πληροφοριών Σένγκεν για την επιστροφή παρανόμως διαμενόντων υπηκόων τρίτων χωρών (ΕΕ L 312 της 7.12.2018, σ. 1).

β)Κανονισμός (ΕΕ) 2018/1861 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 28ης Νοεμβρίου 2018, σχετικά με την εγκατάσταση, τη λειτουργία και τη χρήση του Συστήματος Πληροφοριών Σένγκεν (SIS) στον τομέα των συνοριακών ελέγχων, την τροποποίηση της σύμβασης εφαρμογής της συμφωνίας Σένγκεν και την τροποποίηση και την κατάργηση του κανονισμού (ΕΚ) αριθ. 1987/2006 (ΕΕ L 312 της 7.12.2018, σ. 14).

γ)Κανονισμός (ΕΕ) 2018/1862 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 28ης Νοεμβρίου 2018, σχετικά με την εγκατάσταση, τη λειτουργία και τη χρήση του συστήματος πληροφοριών Σένγκεν (SIS) στον τομέα της αστυνομικής συνεργασίας και της δικαστικής συνεργασίας σε ποινικές υποθέσεις, την τροποποίηση και κατάργηση της απόφασης 2007/533/ΔΕΥ του Συμβουλίου και την κατάργηση του κανονισμού (ΕΚ) αριθ. 1986/2006 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και της απόφασης 2010/261/ΕΕ της Επιτροπής (ΕΕ L 312 της 7.12.2018, σ. 56).

2.Σύστημα Πληροφοριών για τις Θεωρήσεις

(α)Πρόταση ΚΑΝΟΝΙΣΜΟΣ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ για την τροποποίηση του κανονισμού (ΕΚ) αριθ. 767/2008, του κανονισμού (ΕΚ) αριθ. 810/2009, του κανονισμού (ΕΕ) 2017/2226, του κανονισμού (ΕΕ) 2016/399, του κανονισμού ΧΧ/2018 [κανονισμός για τη διαλειτουργικότητα] και της απόφασης 2004/512/ΕΚ, και για την κατάργηση της απόφασης 2008/633/ΔΕΥ του Συμβουλίου — COM(2018) 302 final Θα επικαιροποιηθεί μόλις εγκριθεί ο κανονισμός (Απρίλιος/Μάιος 2021) από τους συννομοθέτες.

3.Eurodac

α)Τροποποιημένη πρόταση ΚΑΝΟΝΙΣΜΟΣ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ σχετικά με τη θέσπιση του «Eurodac» για την αντιπαραβολή βιομετρικών δεδομένων με σκοπό την αποτελεσματική εφαρμογή του κανονισμού (ΕΕ) XXX/XXX [κανονισμός για τη διαχείριση του ασύλου και της μετανάστευσης] και του κανονισμού (ΕΕ) XXX/XXX [κανονισμός για την επανεγκατάσταση] και την ταυτοποίηση παρανόμως διαμενόντων υπηκόων τρίτων χωρών ή απάτριδων, σχετικά με τις αιτήσεις αντιπαραβολής με τα δεδομένα Eurodac που υποβάλλουν οι αρχές επιβολής του νόμου των κρατών μελών και η Ευρωπόλ για σκοπούς επιβολής του νόμου, και σχετικά με την τροποποίηση των κανονισμών (ΕΕ) 2018/1240 και (ΕΕ) 2019/818 — COM(2020) 614 final

4.Σύστημα εισόδου/εξόδου

α)Κανονισμός (ΕΕ) 2017/2226 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 30ής Νοεμβρίου 2017, σχετικά με τη θέσπιση συστήματος εισόδου/εξόδου (ΣΕΕ) για την καταχώριση δεδομένων εισόδου και εξόδου και δεδομένων άρνησης εισόδου των υπηκόων τρίτων χωρών που διέρχονται τα εξωτερικά σύνορα των κρατών μελών, τον καθορισμό των όρων πρόσβασης στο ΣΕΕ για σκοπούς επιβολής του νόμου και την τροποποίηση της σύμβασης εφαρμογής της Συμφωνίας του Σένγκεν και των κανονισμών (ΕΚ) αριθ. 767/2008 και (ΕΕ) αριθ. 1077/2011 (EE L 327 της 9.12.2017, σ. 20).

5.Ευρωπαϊκό σύστημα πληροφοριών και αδειοδότησης ταξιδιού

α)Κανονισμός (ΕΕ) 2018/1240 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 12ης Σεπτεμβρίου 2018, για τη θέσπιση Ευρωπαϊκού Συστήματος Πληροφοριών και Αδειοδότησης Ταξιδιού (ETIAS), καθώς και για την τροποποίηση των κανονισμών (ΕΕ) αριθ. 1077/2011, (ΕΕ) αριθ. 515/2014, (ΕΕ) 2016/399, (ΕΕ) 2016/1624 και (ΕΕ) 2017/2226 (ΕΕ L 236 της 19.9.2018, σ. 1).

β)Κανονισμός (ΕΕ) 2018/1241 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 12ης Σεπτεμβρίου 2018, που τροποποιεί τον κανονισμό (ΕΕ) 2016/794 προκειμένου να θεσπιστεί Ευρωπαϊκό Σύστημα Πληροφοριών και Αδειοδότησης Ταξιδιού (ETIAS) (ΕΕ L 236 της 19.9.2018, σ. 72).

6.Ευρωπαϊκό σύστημα πληροφοριών ποινικού μητρώου για υπηκόους τρίτων χωρών και ανιθαγενείς

α)Κανονισμός (ΕΕ) 2019/816 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 17ης Απριλίου 2019, για τη θέσπιση κεντρικού συστήματος εντοπισμού των κρατών μελών που διαθέτουν πληροφορίες σχετικά με καταδικαστικές αποφάσεις εις βάρος υπηκόων τρίτων χωρών και ανιθαγενών (ECRIS-TCN) με σκοπό τη συμπλήρωση του Ευρωπαϊκού Συστήματος Πληροφοριών Ποινικού Μητρώου, και για την τροποποίηση του κανονισμού (ΕΕ) 2018/1726 (ΕΕ L 135 της 22.5.2019, σ. 1).

7.Διαλειτουργικότητα

α)Κανονισμός (ΕΕ) 2019/817 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 20ής Μαΐου 2019, για τη θέσπιση πλαισίου διαλειτουργικότητας μεταξύ των συστημάτων πληροφοριών της ΕΕ στον τομέα των συνόρων και θεωρήσεων (ΕΕ L 135 της 22.5.2019, σ. 27).

β)Κανονισμός (ΕΕ) 2019/818 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 20ής Μαΐου 2019, για τη θέσπιση πλαισίου διαλειτουργικότητας μεταξύ των συστημάτων πληροφοριών της ΕΕ στον τομέα της αστυνομικής και δικαστικής συνεργασίας, του ασύλου και της μετανάστευσης (ΕΕ L 135 της 22.5.2019, σ. 85).