IL-KUMMISSJONI EWROPEA

Brussell, 21.4.2021

COM(2021) 206 final

2021/0106(COD)

Proposta għal

REGOLAMENT TAL-PARLAMENT EWROPEW U TAL-KUNSILL

LI JISTABBILIXXI REGOLI ARMONIZZATI DWAR L-INTELLIĠENZA ARTIFIĊJALI (L-ATT DWAR L-INTELLIĠENZA ARTIFIĊJALI) U LI JEMENDA ĊERTI ATTI LEĠIŻLATTIVI TAL-UNJONI

{SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}

MEMORANDUM TA’ SPJEGAZZJONI

1.KUNTEST TAL-PROPOSTA

1.1.Raġunijiet u objettivi tal-proposta

Dan il-Memorandum ta’ Spjegazzjoni qed jinhemeż mal-proposta għal Regolament li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali (l-Att dwar l-Intelliġenza Artifiċjali). L-Intelliġenza Artifiċjali (AI) hi familja ta’ teknoloġiji li qed tevolvi malajr u li tista’ ġġib firxa wiesgħa ta’ benefiċċji ekonomiċi u soċjetali fl-ispettru kollu tal-industriji u tal-attivitajiet soċjali. B’titjib fil-previżjoni, b’ottimizzazzjoni tal-operazzjonijiet u l-allokazzjoni tar-riżorsi, u b’personalizzazzjoni tat-twassil tas-servizzi, l-użu tal-intelliġenza artifiċjali jista’ jappoġġa eżiti b’benefiċċji soċjali u ambjentali u jipprovdi vantaġġi kompetittivi importanti lill-kumpaniji u lill-ekonomija Ewropea. Azzjoni bħal din hi meħtieġa b’mod partikolari f’setturi b’impatt qawwi, inkluż it-tibdil fil-klima, l-ambjent u s-saħħa, is-settur pubbliku, il-finanzi, il-mobbiltà, l-affarijiet interni u l-agrikoltura. Madankollu, l-istess elementi u tekniki li jżidu l-benefiċċji soċjoekonomiċi tal-AI jistgħu jġibu magħhom ukoll għadd ta’ riskji ġodda jew konsegwenzi negattivi għall-individwi jew għas-soċjetà. Fid-dawl tal-ħeffa tal-bidla teknoloġika u l-isfidi possibbli, l-UE impenjata bis-sħiħ li tikseb approċċ bilanċjat. Hu fl-interess tal-Unjoni li titħares it-tmexxija teknoloġika tal-UE u li jkun żgurat li l-Ewropej ikunu jistgħu jibbenefikaw mit-teknoloġiji ġodda żviluppati u li dawn ikunu jaqblu mal-valuri, id-drittijiet fundamentali u l-prinċipji tal-Unjoni.

Din il-proposta twettaq l-impenn politiku tal-President von der Leyen imħabbar fil-linji gwida politiċi tagħha għall-Kummissjoni tal-2019-2024 “Unjoni li tirsisti għal aktar” 1 , li l-Kummissjoni tressaq leġiżlazzjoni għal approċċ Ewropew koordinat dwar l-implikazzjonijiet umani u etiċi tal-AI. Wara dik it-tħabbira, fid-19 ta’ Frar 2020 il-Kummissjoni ppubblikat il-White Paper dwar l-AI – Approċċ Ewropew għall-eċċellenza u għall-fiduċja 2 . Il-White Paper tistabbilixxi l-alternattivi politiċi dwar kif għandu jintlaħaq l-objettiv doppju li jiġi promoss l-użu tal-AI u jiġu indirizzati r-riskji assoċjati ma’ ċerti użi ta’ din it-teknoloġija. Din il-proposta għandha l-għan li timplimenta t-tieni objettiv, jiġifieri li tinħoloq ekosistema ta’ fiduċja, billi tipproponi qafas legali għal AI affidabbli. Il-proposta hi bbażata fuq il-valuri tal-UE u fuq id-drittijiet fundamentali u għandha l-għan tagħti l-fiduċja lin-nies u lil utenti oħra biex iħaddnu soluzzjonijiet ibbażati fuq l-AI, filwaqt li tħeġġeġ lin-negozji jiżviluppawhom. L-AI jenħtieġ tkun għodda għan-nies u tkun forza li tagħmel il-ġid fis-soċjetà bl-għan aħħari li ttejjeb il-benesseri tal-bniedem. Għalhekk, ir-regoli għall-AI disponibbli fis-suq tal-Unjoni jew li jaffettwaw b’mod ieħor lin-nies fl-Unjoni jenħtieġ ikollhom il-bniedem fiċ-ċentru biex in-nies ikollhom fiduċja li t-teknoloġija qed tintuża b’mod sikur u skont il-liġi, inkluż b’rispett lejn id-drittijiet fundamentali. Wara l-pubblikazzjoni tal-White Paper, il-Kummissjoni nediet konsultazzjoni wiesgħa mal-partijiet ikkonċernati, li ntlaqgħet b’interess kbir minn għadd kbir ta’ partijiet ikkonċernati li fil-biċċa l-kbira tagħhom kienu favur intervent regolatorju biex jiġu indirizzati l-isfidi u t-tħassib ikkawżati b’użu dejjem akbar tal-AI.

Il-proposta twieġeb ukoll talbiet espliċiti tal-Parlament Ewropew (PE) u tal-Kunsill Ewropew, li kemm-il darba għamlu sejħiet għal azzjoni leġiżlattiva li tiżgura suq intern li jiffunzjona tajjeb għas-sistemi tal-intelliġenza artifiċjali (“sistemi tal-AI”), biex il-benefiċċji u r-riskji tal-AI jiġu indirizzati kif xieraq fil-livell tal-Unjoni. Din tappoġġa l-objettiv li l-Unjoni tkun mexxejja dinjija fl-iżvilupp ta’ intelliġenza artifiċjali sigura, affidabbli u etika kif iddikjara l-Kunsill Ewropew 3 , u tiżgura l-ħarsien tal-prinċipji etiċi kif talab speċifikament il-Parlament Ewropew 4 . 

Fl-2017, il-Kunsill Ewropew talab għal “sens ta’ urġenza biex jiġu indirizzati x-xejriet emerġenti”, inkluż “kwistjonijiet bħall-intelliġenza artifiċjali…, filwaqt li fl-istess ħin ikun żgurat livell għoli ta’ protezzjoni tad-data, ta’ drittijiet diġitali u ta’ standards etiċi” 5 . Fil-Konklużjonijiet tiegħu tal-2019 b’rabta mal-Pjan Ikkoordinat dwar l-Intelliġenza Artifiċjali “Made in Europe” 6 , il-Kunsill saħaq ukoll fuq l-importanza li niżguraw rispett sħiħ tad-drittijiet taċ-ċittadini Ewropej, u appella għal rieżami tal-leġiżlazzjoni rilevanti eżistenti biex tkun adattata għal dan il-għan skont l-opportunitajiet u l-isfidi l-ġodda li toħloq l-AI. Il-Kunsill Ewropew appella wkoll għal determinazzjoni ċara tal-applikazzjonijiet tal-AI li jenħtieġ jitqiesu li għandhom riskju kbir 7 .

L-aħħar Konklużjonijiet tal-21 ta’ Ottubru 2020 appellaw ukoll biex jiġu indirizzati l-opaċità, il-kumplessità, il-preġudizzju, ċertu grad ta’ imprevedibbiltà u l-imġiba parzjalment awtonoma ta’ ċerti sistemi tal-AI, ħalli jkun żgurat li dawn ikunu kompatibbli mad-drittijiet fundamentali u jiġi ffaċilitat l-infurzar tal-liġijiet 8 .

Il-Parlament Ewropew wettaq ukoll għadd ġmielu ta’ xogħol fil-qasam tal-AI. F’Ottubru 2020, adotta għadd ta’ riżoluzzjonijiet relatati mal-AI, fosthom dwar l-etika 9 , ir-responsabbiltà 10 u d-drittijiet tal-awtur 11 . Fl-2021, imbagħad saru riżoluzzjonijiet dwar l-AI f’materji kriminali 12 u fl-edukazzjoni, fil-kultura u fis-settur awdjoviżiv 13 . Ir-Riżoluzzjoni tal-Parlament Ewropew dwar Qafas tal-Aspetti Etiċi tal-Intelliġenza Artifiċjali, ir-Robotika u t-Teknoloġiji Relatati tirrakkomanda b’mod speċifiku lill-Kummissjoni biex tipproponi azzjoni leġiżlattiva ħalli jinħatfu l-opportunitajiet u l-benefiċċji tal-AI, iżda anki biex ikun żgurat il-ħarsien tal-prinċipji etiċi. Ir-riżoluzzjoni tinkludi test tal-proposta leġiżlattiva għal regolament dwar il-prinċipji etiċi għall-iżvilupp, l-adozzjoni u l-użu tal-AI, ir-robotika u teknoloġiji relatati. Bi qbil mal-impenn politiku tal-President von der Leyen fil-Linji Gwida Politiċi tagħha b’rabta mar-riżoluzzjonijiet adottati mill-Parlament Ewropew skont l-Artikolu 225 tat-TFUE, din il-proposta tqis ir-riżoluzzjoni msemmija hawn fuq tal-Parlament Ewropew b’rispett sħiħ tal-prinċipji tal-proporzjonalità, tas-sussidjarjetà u tat-tfassil aħjar tal-liġijiet.

Fl-isfond ta’ dan il-kuntest politiku, il-Kummissjoni tressaq il-qafas regolatorju propost dwar l-Intelliġenza Artifiċjali bl-objettivi speċifiċi li:

·ikun żgurat li s-sistemi tal-AI imqiegħda fis-suq tal-Unjoni u użati jkunu sikuri u jirrispettaw il-liġi eżistenti dwar id-drittijiet fundamentali u l-valuri tal-Unjoni;

·tkun żgurata ċ-ċertezza tad-dritt biex jiġu ffaċilitati l-investiment u l-innovazzjoni fl-AI;

·jitjiebu l-governanza u l-infurzar effettiv tal-liġi eżistenti dwar id-drittijiet fundamentali u r-rekwiżiti tas-sikurezza applikabbli għas-sistemi tal-AI;

·jeħfief l-iżvilupp ta’ suq uniku għal applikazzjonijiet tal-AI legali, sikuri u affidabbli u tkun evitata l-frammentazzjoni tas-suq.

Biex jintlaħqu dawk l-objettivi, din il-proposta tippreżenta approċċ regolatorju orizzontali bilanċjat u proporzjonat għall-AI, li hu limitat għar-rekwiżiti minimi meħtieġa biex jiġu indirizzati r-riskji u l-problemi marbutin mal-AI, mingħajr restrizzjoni jew tfixkil bla bżonn fl-iżvilupp teknoloġiku jew xi forma ta’ żieda sproporzjonata oħra tal-kost għat-tqegħid ta’ soluzzjonijiet tal-AI fis-suq. Il-proposta tistabbilixxi qafas legali robust u flessibbli. Min-naħa, din hi komprensiva u valida għall-futur fejn jidħlu l-għażliet regolatorji fundamentali tagħha, inkluż ir-rekwiżiti bbażati fuq il-prinċipji li s-sistemi tal-AI jenħtieġ jirrispettaw. Min-naħa l-oħra, din tistabbilixxi sistema regolatorja proporzjonata ċċentrata fuq approċċ regolatorju definit sew u bbażat fuq ir-riskji li ma joħloqx restrizzjonijiet bla bżonn għall-kummerċ u li permezz tiegħu jitfassal intervent legali skont dawk is-sitwazzjonijiet konkreti meta jkun hemm kawża ġustifikata għal tħassib jew meta dan it-tħassib ikun jista’ jiġi antiċipat b’mod raġonevoli fil-futur qrib. Fl-istess ħin, il-qafas legali jinkludi mekkaniżmi flessibbli li jippermettulu jadatta b’mod dinamiku hekk kif tevolvi t-teknoloġija u jfeġġu sitwazzjonijiet ġodda ta’ tħassib.

Il-proposta tistabbilixxi regoli armonizzati għall-iżvilupp, it-tqegħid fis-suq u l-użu tas-sistemi tal-AI fl-Unjoni b’approċċ proporzjonat ibbażat fuq ir-riskji. Tipproponi definizzjoni unika tal-AI li tibqa’ valida għall-futur. Ċerti prattiki tal-AI li huma partikolarment dannużi u li ma jirrispettawx il-valuri tal-Unjoni, huma pprojbiti, filwaqt li qed jiġu proposti restrizzjonijiet u salvagwardji speċifiċi b’rabta ma’ ċerti użi tas-sistemi tal-identifikazzjoni bijometrika remota għall-finijiet ta’ infurzar tal-liġi. Il-proposta tistabbilixxi metodoloġija soda tar-riskju li tiddefinixxi sistemi tal-AI “b’riskju kbir” li joħolqu riskji sinifikanti għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali tal-bniedem. Dawk is-sistemi tal-AI iridu jikkonformaw ma’ sett ta’ rekwiżiti obbligatorji orizzontali għal AI affidabbli, u jeħtieġ jimxu skont proċeduri tal-valutazzjoni tal-konformità qabel ma jkunu jistgħu jitqiegħdu fis-suq tal-Unjoni. Anki l-fornituri u l-utenti ta’ dawk is-sistemi għandhom obbligi prevedibbli, proporzjonati u ċari biex ikunu żgurati s-sikurezza u r-rispett tal-leġiżlazzjoni eżistenti li tipproteġi d-drittijiet fundamentali tul iċ-ċiklu kollu tal-ħajja tas-sistemi tal-AI. Għal xi sistemi speċifiċi tal-AI qed jiġu proposti biss obbligi minimi ta’ trasparenza, b’mod partikolari meta jintużaw chatbots jew “deep fakes”.

Ir-regoli proposti jiġu infurzati b’sistema ta’ governanza fil-livell tal-Istati Membri, abbażi ta’ strutturi diġà eżistenti, u b’mekkaniżmu ta’ kooperazzjoni fil-livell tal-Unjoni bl-istabbiliment ta’ Bord Ewropew għall-Intelliġenza Artifiċjali. Qed jiġu proposti wkoll miżuri addizzjonali biex tiġi appoġġata l-innovazzjoni, b’mod partikolari permezz ta’ sandboxes regolatorji tal-AI u miżuri oħra li jnaqqsu il-piż regolatorju u jappoġġaw lill-intrapriżi żgħar u medji (l-SMEs) u lin-negozji ġodda.

1.2.Konsistenza ma’ dispożizzjonijiet ta’ politika eżistenti fil-qasam ta’ politika

In-natura orizzontali tal-proposta teħtieġ konsistenza sħiħa mal-leġiżlazzjoni eżistenti tal-Unjoni applikabbli għas-setturi li diġà jużaw sistemi tal-AI b’riskju kbir, jew li aktarx jintużawhom fil-futur qrib.

Hi żgurata wkoll il-konsistenza mal-Karta tad-Drittijiet Fundamentali tal-UE u mal-leġiżlazzjoni sekondarja eżistenti tal-Unjoni dwar il-protezzjoni tad-data, il-protezzjoni tal-konsumatur, in-nondiskriminazzjoni u l-ugwaljanza bejn il-ġeneri. Il-proposta hi mingħajr preġudizzju u tikkumplimenta r-Regolament Ġenerali dwar il-Protezzjoni tad-Data (ir-Regolament (UE) 2016/679) u d-Direttiva dwar l-Infurzar tal-Liġi (id-Direttiva (UE) 2016/680) b’sett ta’ regoli armonizzati applikabbli għad-disinn, l-iżvilupp u l-użu ta’ ċerti sistemi tal-AI b’riskju kbir u b’restrizzjonijiet fuq ċerti użi tas-sistemi tal-identifikazzjoni bijometrika remota. Barra minn hekk, il-proposta tikkumplimenta l-liġi eżistenti tal-Unjoni dwar in-nondiskriminazzjoni b’rekwiżiti speċifiċi bil-għan li jnaqqsu kemm jista’ jkun ir-riskju ta’ diskriminazzjoni algoritmika, b’mod partikolari fir-rigward tad-disinn u l-kwalità tas-settijiet tad-data użati għall-iżvilupp ta’ sistemi tal-AI, u kkumplimentati b’obbligi għall-ittestjar, il-ġestjoni tar-riskju, id-dokumentazzjoni u s-sorveljanza umana tul iċ-ċiklu tal-ħajja kollu tas-sistemi tal-AI. Il-proposta hi mingħajr preġudizzju għall-applikazzjoni tal-liġi tal-kompetizzjoni tal-Unjoni.

Fir-rigward tas-sistemi tal-AI b’riskju kbir li jkunu komponenti tas-sikurezza ta’ xi prodotti, din il-proposta se tiġi integrata fil-leġiżlazzjoni settorjali eżistenti dwar is-sikurezza biex tkun żgurata l-konsistenza, ikunu evitati d-duplikazzjonijiet u jitnaqqsu kemm jista’ jkun il-piżijiet addizzjonali. B’mod partikolari, fir-rigward tas-sistemi tal-AI b’riskju kbir relatati mal-prodotti koperti bil-leġiżlazzjoni tal-Qafas Leġiżlattiv il-Ġdid (NLF) (eż. makkinarju, apparati mediċi, ġugarelli), ir-rekwiżiti għas-sistemi tal-AI stabbiliti f’din il-proposta se jiġu vverifikati bħala parti mill-proċeduri eżistenti tal-valutazzjoni tal-konformità skont il-leġiżlazzjoni rilevanti tal-NLF. Fir-rigward tal-interazzjoni tar-rekwiżiti, filwaqt li hu maħsub li r-riskji tas-sikurezza speċifiċi għas-sistemi tal-AI ikunu koperti mir-rekwiżiti ta’ din il-proposta, il-leġiżlazzjoni tal-NLF għandha l-għan tiżgura s-sikurezza ġenerali tal-prodott finali u għalhekk jista’ jkun fiha rekwiżiti speċifiċi għal integrazzjoni sikura ta’ sistema tal-AI fi prodott finali. Il-proposta għal Regolament dwar il-Makkinarju, adottata fl-istess jum ma’ din il-proposta, tirrifletti għalkollox dan l-approċċ. Fir-rigward tas-sistemi tal-AI b’riskju kbir relatati mal-prodotti koperti bil-leġiżlazzjoni rilevanti dwar l-approċċ preċedenti (eż. l-avjazzjoni, il-karozzi), din il-proposta ma tapplikax direttament. Madankollu, meta tiġi adottata l-leġiżlazzjoni ta’ implimentazzjoni jew delegata rilevanti skont dawk l-atti, iridu jitqiesu r-rekwiżiti essenzjali ex ante għas-sistemi tal-AI b’riskju kbir stabbiliti f’din il-proposta.

Fir-rigward tas-sistemi tal-AI provduti jew użati minn istituzzjonijiet ta’ kreditu regolati, l-awtoritajiet responsabbli għas-superviżjoni tal-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji jenħtieġ jinħatru bħala awtoritajiet kompetenti għas-superviżjoni tar-rekwiżiti ta’ din il-proposta biex ikun żgurat infurzar koerenti tal-obbligi skont din il-proposta u l-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji meta s-sistemi tal-AI, sa ċertu punt, jiġu impliċitament regolati fir-rigward tas-sistema ta’ governanza interna tal-istituzzjonijiet ta’ kreditu. Biex tkompli tissaħħaħ il-konsistenza, il-proċedura tal-valutazzjoni tal-konformità u wħud mill-obbligi proċedurali tal-fornituri skont din il-proposta huma integrati fil-proċeduri skont id-Direttiva 2013/36/UE dwar l-aċċess għall-attività tal-istituzzjonijiet ta’ kreditu u s-superviżjoni prudenzjali 14 .

Din il-proposta hi konsistenti wkoll mal-leġiżlazzjoni applikabbli tal-Unjoni dwar is-servizzi, inkluż dwar is-servizzi intermedjarji regolati bid-Direttiva dwar il-Kummerċ Elettroniku 2000/31/KE 15 u l-proposta riċenti tal-Kummissjoni għall-Att dwar is-Servizzi Diġitali (DSA) 16 .

Fir-rigward tas-sistemi tal-AI li jkunu komponenti ta’ sistemi tal-IT fuq skala kbira fl-Ispazju tal-Libertà, tas-Sigurtà u tal-Ġustizzja mmexxija mill-Aġenzija tal-Unjoni Ewropea għat-Tmexxija Operattiva ta’ Sistemi tal-IT fuq Skala Kbira (eu-LISA), il-proposta mhix se tapplika għal dawk is-sistemi tal-AI imqiegħda fis-suq jew fis-servizz qabel ma tkun għaddiet sena mid-data tal-applikazzjoni ta’ dan ir-Regolament, sakemm is-sostituzzjoni jew l-emendar ta’ dawk l-atti legali ma jwassalx għal tibdil sinifikanti fid-disinn jew fl-għan maħsub tas-sistema tal-AI jew tas-sistemi tal-AI ikkonċernati.

1.3.Konsistenza ma’ politiki oħra tal-Unjoni

Il-proposta hi parti minn pakkett komprensiv usa’ ta’ miżuri li jindirizzaw il-problemi kkawżati mill-iżvilupp u l-użu tal-AI, kif eżaminati fil-White Paper dwar l-AI. Għalhekk, din tiżgura l-konsistenza u l-kumplimentarjetà ma’ inizjattivi oħra li qed jitwettqu jew ippjanati tal-Kummissjoni bil-għan ukoll li jindirizzaw dawk il-problemi, inkluż ir-reviżjoni tal-leġiżlazzjoni settorjali dwar il-prodotti (eż. id-Direttiva dwar il-Makkinarju, id-Direttiva dwar is-Sigurtà Ġenerali tal-Prodotti) u inizjattivi li jindirizzaw kwistjonijiet ta’ responsabbiltà relatati ma’ teknoloġiji ġodda, li jinkludu s-sistemi tal-AI. Dawk l-inizjattivi jibnu fuq din il-proposta u jikkumplimentawha, biex tinkiseb iċ-ċarezza legali u jitħeġġeġ l-iżvilupp ta’ ekosistema ta’ fiduċja fl-AI fl-Ewropa.

Il-proposta hi wkoll koerenti mal-istrateġija diġitali kumplessiva tal-Kummissjoni fil-kontribut tagħha biex tippromwovi teknoloġija li taħdem għan-nies, bħala wieħed mit-tliet pilastri ewlenin tal-orjentazzjoni u tal-objettivi ta’ politika mħabbrin fil-Komunikazzjoni “Insawru l-futur diġitali tal-Ewropa” 17 . Tistabbilixxi qafas koerenti, effettiv u proporzjonat biex ikun żgurat li l-AI tiżviluppa b’modi li jirrispettaw id-drittijiet tal-bniedem u jiksbu l-fiduċja tagħhom, ħalli l-Ewropa tkun lesta għall-era diġitali, u biex l-għaxar snin li ġejjin isiru d-Deċennju Diġitali 18 .

Barra minn hekk, il-promozzjoni tal-innovazzjoni xprunata mill-AI hi marbuta mill-qrib mal-Att dwar il-Governanza tad-Data 19 , mad-Direttiva dwar id-Data Miftuħa 20 u ma’ inizjattivi oħra skont l-istrateġija tal-UE għad-data 21 , li jistabbilixxu mekkaniżmi u servizzi affidabbli għal użu mill-ġdid, kondiviżjoni u ġbir flimkien ta’ data li hi essenzjali għall-iżvilupp ta’ mudelli tal-AI xprunati minn data ta’ kwalità għolja.

Il-proposta ssaħħaħ ferm ukoll ir-rwol tal-Unjoni biex tgħin fit-tfassil ta’ normi u standards dinjin u biex tippromwovi AI affidabbli u konsistenti mal-valuri u l-interessi tal-Unjoni. Tipprovdi bażi b’saħħitha lill-Unjoni biex tinvolvi aktar lis-sħab esterni tagħha, inkluż lil pajjiżi terzi, u waqt fora internazzjonali dwar kwistjonijiet relatati mal-AI.

2.BAŻI ĠURIDIKA, SUSSIDJARJETÀ U PROPORZJONALITÀ

2.1.Bażi ġuridika

Il-bażi ġuridika għall-proposta hi qabelxejn l-Artikolu 114 tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropea (TFUE), li jipprevedi l-adozzjoni ta’ miżuri li jiżguraw l-istabbiliment u l-funzjonament tas-suq intern.

Din il-proposta tikkostitwixxi parti ewlenija mill-istrateġija tal-UE għal suq uniku diġitali. Din il-proposta għandha l-objettiv primarju li tiżgura l-funzjonament xieraq tas-suq intern billi tistabbilixxi regoli armonizzati b’mod partikolari dwar l-iżvilupp, it-tqegħid fis-suq tal-Unjoni u l-użu ta’ prodotti u servizzi li jużaw teknoloġiji tal-AI jew ipprovduti bħala sistemi awtonomi tal-AI. Xi Stati Membri diġà qed jikkunsidraw regoli nazzjonali biex jiżguraw li l-AI tkun sikura u tiġi żviluppata u tintuża skont l-obbligi tad-drittijiet fundamentali. Aktarx li dan iwassal għal żewġ problemi ewlenin: i) frammentazzjoni tas-suq intern b’rabta ma’ elementi essenzjali rigward, b’mod partikolari, ir-rekwiżiti għall-prodotti u s-servizzi tal-AI, il-kummerċjalizzazzjoni u l-użu tagħhom, ir-responsabbiltà u s-superviżjoni tal-awtoritajiet pubbliċi, u ii) tnaqqis sostanzjali fiċ-ċertezza legali għall-fornituri daqskemm għall-utenti tas-sistemi tal-AI dwar kif se japplikaw ir-regoli eżistenti u oħrajn ġodda għal dawk is-sistemi fl-Unjoni. Minħabba ċ-ċirkolazzjoni wiesgħa ta’ prodotti u servizzi bejn il-fruntieri, dawn iż-żewġ problemi jistgħu jissolvew bl-aħjar mod b’leġiżlazzjoni ta’ armonizzazzjoni tal-UE.

Fil-fatt, il-proposta tiddefinixxi rekwiżiti obbligatorji komuni applikabbli għad-disinn u l-iżvilupp ta’ ċerti sistemi tal-AI qabel ma dawn jitqiegħdu fis-suq, u dawn se jibqgħu jiġu operazzjonalizzati bi standards tekniċi armonizzati. Il-proposta tindirizza wkoll is-sitwazzjoni wara t-tqegħid fis-suq tas-sistemi tal-AI billi tarmonizza l-mod kif isiru l-kontrolli ex post.

Barra minn hekk, meta jitqies li din il-proposta fiha ċerti regoli speċifiċi dwar il-protezzjoni ta’ individwi rigward l-ipproċessar tad-data personali, b’mod partikolari restrizzjonijiet tal-użu ta’ sistemi tal-AI għal identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi, jixraq li, fejn jidħlu dawk ir-regoli speċifiċi, dan ir-Regolament jiġi bbażat fuq l-Artikolu 16 tat-TFUE.

2.2.Sussidjarjetà (għall-kompetenzi mhux esklużivi)

Minħabba n-natura tal-AI, li ħafna drabi tiddependi fuq settijiet kbar u varjati tad-data u li tista’ tiġi inkorporata f’xi prodott jew servizz li jiċċirkola liberament fis-suq intern, l-objettivi ta’ din il-proposta ma jistgħux jintlaħqu b’mod effettiv mill-Istati Membri waħedhom. Barra minn hekk, taħlita emerġenti ta’ regoli nazzjonali potenzjalment diverġenti tfixkel iċ-ċirkolazzjoni bla xkiel tal-prodotti u s-servizzi relatati mas-sistemi tal-AI madwar l-UE u ma tkunx effettiva fl-iżgurar tas-sikurezza u l-ħarsien tad-drittijiet fundamentali u tal-valuri tal-Unjoni fost l-Istati Membri differenti. Jekk il-problemi jiġu indirizzati b’approċċi nazzjonali, dan joħloq biss inċertezza legali u ostakli addizzjonali filwaqt li tonqos l-adozzjoni tal-AI mis-suq.

L-objettivi ta’ din il-proposta jistgħu jintlaħqu aħjar fil-livell tal-Unjoni ħalli tkun evitata aktar frammentazzjoni tas-Suq Uniku b’oqfsa nazzjonali potenzjalment kontradittorji li jfixklu ċ-ċirkolazzjoni libera tal-prodotti u s-servizzi li jinkorporaw l-AI. Qafas regolatorju Ewropew sod għal AI affidabbli jiżgura wkoll kundizzjonijiet ekwi u jipproteġi lin-nies kollha, filwaqt li jsaħħaħ il-kompetittività u l-bażi industrijali tal-Ewropa fl-AI. B’azzjoni komuni fil-livell tal-Unjoni biss tista’ titħares is-sovranità diġitali tal-Unjoni u jiġu sfruttati l-għodod u s-setgħat regolatorji tagħha għal tfassil ta’ regoli u standards dinjin.

2.3.Proporzjonalità

Il-proposta tibni fuq oqfsa legali eżistenti u hi proporzjonata u meħtieġa biex jintlaħqu l-objettivi tagħha, għax timxi b’approċċ ibbażat fuq ir-riskji u timponi piżijiet regolatorji biss meta s-sistema tal-AI aktarx tkun se toħloq riskji kbar għad-drittijiet fundamentali u s-sikurezza. Għal sistemi oħra tal-AI li m’għandhomx riskju kbir, qed jiġu imposti biss obbligi tat-trasparenza limitati ħafna, pereżempju fejn jidħol l-għoti ta’ informazzjoni dwar it-tħaddim ta’ sistema tal-AI meta din tkun qed tinteraġixxi mal-bnedmin. Għas-sistemi tal-AI b’riskju kbir, ir-rekwiżiti ta’ data ta’ kwalità għolja, tad-dokumentazzjoni u t-traċċabbiltà, tat-trasparenza, tas-sorveljanza umana, tal-eżattezza u r-robustezza, huma strettament meħtieġa biex jittaffew ir-riskji għad-drittijiet fundamentali u s-sikurezza li ġġib magħha l-AI u li mhumiex koperti b’oqfsa legali eżistenti oħra. L-istandards armonizzati u l-għodod ta’ appoġġ għal appoġġ u konformità jgħinu lill-fornituri u lill-utenti jikkonformaw mar-rekwiżiti stabbiliti fil-proposta u jnaqqsu kemm jista’ jkun il-kostijiet tagħhom. Il-kostijiet li jġarrbu l-operaturi huma proporzjonati mal-objettivi miksuba u mal-benefiċċji ekonomiċi u reputazzjonali li l-operaturi jistgħu jistennew minn din il-proposta.

2.4.Għażla tal-istrument

L-għażla ta’ regolament bħala strument legali hi ġġustifikata bil-ħtieġa ta’ applikazzjoni uniformi tar-regoli l-ġodda, bħad-definizzjoni ta’ AI, il-projbizzjoni ta’ ċerti prattiki dannużi ffaċilitati mill-AI, u l-klassifikazzjoni ta’ ċerti sistemi tal-AI. L-applikabbiltà diretta ta’ Regolament, f’konformità mal-Artikolu 288 tat-TFUE, tnaqqas il-frammentazzjoni legali u tiffaċilita l-iżvilupp ta’ suq uniku għal sistemi tal-AI legali, sikuri u affidabbli. Dan jiksbu, b’mod partikolari, billi jintroduċi sett armonizzat ta’ rekwiżiti ewlenin rigward is-sistemi tal-AI li huma kklassifikati li għandhom riskju kbir, jintroduċi obbligi għall-fornituri u għall-utenti ta’ dawk is-sistemi, itejjeb il-protezzjoni tad-drittijiet fundamentali, u jipprovdi ċertezza legali lill-operaturi u lill-konsumaturi.

Fl-istess ħin, id-dispożizzjonijiet tar-Regolament mhumiex preskrittivi żżejjed u jħallu lok għal livelli differenti ta’ azzjoni mill-Istati Membri fejn jidħlu l-elementi li ma jfixklux l-objettivi tal-inizjattiva, fosthom l-organizzazzjoni interna tas-sistema tas-sorveljanza tas-suq u l-adozzjoni ta’ miżuri biex titrawwem l-innovazzjoni.

3.RIŻULTATI TAL-EVALWAZZJONIJIET EX POST, TAL-KONSULTAZZJONIJIET MAL-PARTIJIET IKKONĊERNATI U TAL-VALUTAZZJONIJIET TAL-IMPATT

3.1.Konsultazzjoni mal-partijiet ikkonċernati

Din il-proposta saret wara konsultazzjoni estensiva mal-partijiet ikkonċernati ewlenin kollha, li matulha l-Kummissjoni applikat il-prinċipji ġenerali u l-istandards minimi għall-konsultazzjoni mal-partijiet interessati.

Fid-19 ta’ Frar 2020 tnediet konsultazzjoni pubblika online u ġiet ippubblikata l-White Paper dwar l-Intelliġenza Artifiċjali; din baqgħet għaddejja sal-14 ta’ Ġunju 2020. Dik il-konsultazzjoni saret bl-objettiv li jinġabru l-fehmiet u l-opinjonijiet dwar il-White Paper. Kienet immirata lejn il-partijiet ikkonċernati interessati kollha mis-setturi pubbliċi u privati, inkluż gvernijiet, awtoritajiet lokali, organizzazzjonijiet kummerċjali u mhux kummerċjali, sħab soċjali, esperti, akkademiċi u ċittadini. Wara li analizzat it-tweġibiet kollha li rċiviet, il-Kummissjoni ppubblikat eżitu sommarju u t-tweġibiet individwali fuq is-sit web tagħha 22 .

B’kollox, waslu 1215-il kontribut, li 352 minnhom kienu mingħand kumpaniji jew organizzazzjonijiet/assoċjazzjonijiet tan-negozju, 406 mingħand individwi (92 % individwi mill-UE), 152 f’isem istituzzjonijiet akkademiċi/tar-riċerka, u 73 mingħand awtoritajiet pubbliċi. L-ilħna tas-soċjetà ċivili kienu rrappreżentati minn 160 rispondent (li 9 minnhom kienu organizzazzjonijiet tal-konsumaturi, 129 kienu organizzazzjonijiet mhux governattivi u 22 kienu tradeunions) filwaqt li 72 rispondent ikkontribwew bħala “oħrajn”. Mit-352 rappreżentant tan-negozju u tal-industrija, 222 kienu kumpaniji u rappreżentanti tan-negozju, li 41,5 % minnhom kienu intrapriżi mikro, żgħar u medji. Il-bqija kienu assoċjazzjonijiet tan-negozju. B’mod ġenerali, 84 % tat-tweġibiet tan-negozju u tal-industrija ġew mill-EU-27. Skont il-mistoqsija, bejn 81 u 598 rispondent użaw l-għażla ta’ test liberu biex idaħħlu kummenti. Aktar minn 450 dokument ta’ pożizzjoni tressqu fuq is-sit web EUSurvey: aktar minn 400 tressqu mat-tweġibiet tal-kwestjonarji u aktar minn 50 tressqu bħala kontributi individwali.

B’mod ġenerali, hemm qbil ġenerali fost il-partijiet ikkonċernati dwar il-ħtieġa li tittieħed azzjoni. Maġġoranza kbira tal-partijiet ikkonċernati jaqblu li jeżistu lakuni leġiżlattivi jew li hemm bżonn leġiżlazzjoni ġdida. Iżda diversi partijiet ikkonċernati jwissu lill-Kummissjoni biex tevita d-duplikazzjoni, obbligi kunfliġġenti u regolamentazzjoni żejda. Bosta kummenti saħqu fuq l-importanza ta’ qafas regolatorju proporzjonat, u newtrali għat-teknoloġija.

Fil-biċċa l-kbira, il-partijiet ikkonċernati talbu definizzjoni stretta, ċara u preċiża għall-AI. Il-partijiet ikkonċernati enfasizzaw ukoll li, minbarra l-kjarifika tat-terminu tal-AI, jeħtieġ jiġu ddefiniti t-termini “riskju”, “riskju kbir”, “riskju żgħir”, “identifikazzjoni bijometrika remota” u “dannu”.

Il-biċċa l-kbira tar-rispondenti jaqblu espliċitament mal-approċċ ibbażat fuq ir-riskji. L-għażla ta’ qafas ibbażat fuq ir-riskji tqieset aħjar minn regolamentazzjoni ġenerali li tkopri s-sistemi kollha tal-AI. Jenħtieġ li t-tipi ta’ riskji u ta’ theddidiet ikunu bbażati fuq approċċ settorjali u ta’ każ b’każ. Jenħtieġ li r-riskji jiġu kkalkolati wkoll filwaqt li jitqies l-impatt fuq id-drittijiet u fuq is-sikurezza.

Is-sandboxes regolatorji jistgħu jkunu utli ħafna għall-promozzjoni tal-AI, u ċerti partijiet ikkonċernati, speċjalment l-Assoċjazzjonijiet tan-Negozju, laqgħuhom tajjeb.

Fost dawk li fformulaw l-opinjoni tagħhom dwar il-mudelli tal-infurzar, aktar minn 50 %, speċjalmentl-assoċjazzjonijiet tan-negozju, kienu favur taħlita ta’ awtovalutazzjoni tar-riskji ex ante u infurzar ex post għas-sistemi tal-AI b’riskju kbir.

3.2.Ġbir u użu ta’ għarfien espert

Il-proposta tibni fuq sentejn ta’ analiżi u involviment mill-qrib tal-partijiet ikkonċernati, li jinkludu akkademiċi, negozji, sħab soċjali, organizzazzjonijiet mhux governattivi, l-Istati Membri u ċittadini. Il-ħidma preparatorja bdiet fl-2018 bit-twaqqif ta’ Grupp ta’ Esperti ta’ Livell Għoli dwar l-AI (HLEG) li kellu kompożizzjoni inklużiva u wiesgħa ta’ 52 espert magħruf sew bil-kompitu li jagħti pariri lill-Kummissjoni dwar l-implimentazzjoni tal-Istrateġija tal-Kummissjoni dwar l-Intelliġenza Artifiċjali. F’April 2019, il-Kummissjoni appoġġat 23 ir-rekwiżiti ewlenin stabbiliti fil-linji gwida dwar l-etika tal-HLEG għal AI Affidabbli 24 , li kienu ġew riveduti biex iqisu aktar minn 500 sottomissjoni mingħand partijiet ikkonċernati. Ir-rekwiżiti ewlenin jirriflettu approċċ mifrux u komuni, kif jidher fil-ħemel ta’ kodiċijiet tal-etika u prinċipji li ħolqi bosta organizzazzjonijiet privati u pubbliċi fl-Ewropa u lil hinn minnha, li l-iżvilupp u l-użu tal-AI jenħtieġ ikunu ggwidati b’ċerti prinċipji essenzjali orjentati lejn il-valur. Il-Lista ta’ Valutazzjoni għall-Intelliġenza Artifiċjali Affidabbli (ALTAI) 25 għamlet dawk ir-rekwiżiti operazzjonali bi proċess ta’ pilotaġġ ma’ aktar minn 350 organizzazzjoni.

Barra minn hekk, ġiet ifformata l-Alleanza dwar l-AI 26 bħala pjattaforma għal madwar 4 000 parti kkonċernata biex isir dibattiku dwar l-implikazzjonijiet teknoloġiċi u soċjetali tal-AI, li jilħaq il-qofol tiegħu f’Assemblea annwali dwar l-AI.

3.3.Valutazzjoni tal-impatt

F’konformità mal-politika tagħha għal “Regolamentazzjoni Aħjar”, il-Kummissjoni wettqet valutazzjoni tal-impatt ta’ din il-proposta eżaminata mill-Bord tal-Iskrutinju Regolatorju tal-Kummissjoni. Fis-16 ta’ Diċembru 2020 saret laqgħa mal-Bord tal-Iskrutinju Regolatorju u ngħatat opinjoni negattiva. Wara reviżjoni sostanzjali tal-valutazzjoni tal-impatt biex jiġu indirizzati l-kummenti, u sottomissjoni ta’ valutazzjoni tal-impatt imġedda, fil-21 ta’ Marzu 2021 il-Bord tal-Iskrutinju Regolatorju ħareġ opinjoni pożittiva. L-opinjonijiet tal-Bord tal-Iskrutinju Regolatorju, ir-rakkomandazzjonijiet u spjegazzjoni ta’ kif tqiesu jinsabu fl-Anness 1 tal-valutazzjoni tal-impatt.

Il-Kummissjoni eżaminat għażliet ta’ politika differenti biex jintlaħaq l-objettiv ġenerali tal-proposta, li jkun żgurat il-funzjonament xieraq tas-suq uniku billi jinħolqu l-kundizzjonijiet għall-iżvilupp u l-użu ta’ AI affidabbli fl-Unjoni.

Ġew ivvalutati erba’ għażliet ta’ politika bi gradi differenti ta’ intervent regolatorju:

·Għażla Nru 1: strument leġiżlattiv tal-UE li jistabbilixxi skema volontarja tat-tikkettar;

·Għażla Nru 2: approċċ settorjali ad hoc;

·Għażla Nru 3: strument leġiżlattiv orizzontali tal-UE li jħaddem approċċ proporzjonat ibbażat fuq ir-riskji;

·Għażla Nru 3+: Strument leġiżlattiv orizzontali tal-UE li jħaddem approċċ proporzjonat ibbażat fuq ir-riskji + kodiċijiet tal-kondotta għas-sistemi tal-AI li m’għandhomx riskju kbir;

·Għażla Nru 4: Strument leġiżlattiv orizzontali tal-UE li jistabbilixxi rekwiżiti obbligatorji għas-sistemi kollha tal-AI, irrispettivament mir-riskju.

Bil-metodoloġija stabbilita tal-Kummissjoni, kull għażla ta’ politika ġiet evalwata skont l-impatti ekonomiċi u soċjetali, b’enfasi partikolari fuq l-impatti fuq id-drittijiet fundamentali. L-għażla ppreferuta hi l-għażla 3+, qafas regolatorju għas-sistemi tal-AI b’riskju kbir biss, bil-possibbiltà li l-fornituri kollha tas-sistemi tal-AI li m’għandhomx b’riskju kbir jħaddmu kodiċi tal-kondotta. Ir-rekwiżiti se jikkonċernaw id-data, id-dokumentazzjoni u t-traċċabbiltà, l-għoti ta’ informazzjoni u t-trasparenza, is-sorveljanza umana u r-robustezza, u l-eżattezza u jkunu obbligatorji għas-sistemi tal-AI b’riskju kbir. Il-kumpaniji li daħħlu kodiċijiet tal-kondotta għal sistemi oħra tal-AI jagħmlu dan volontarjament.

L-għażla ppreferuta tqieset xierqa biex tindirizza l-objettivi ta’ din il-proposta bl-aktar mod effettiv. Billi titlob sett ristrett iżda effettiv ta’ azzjonijiet mill-iżviluppaturi u l-utenti tal-AI, l-għażla ppreferuta tillimita r-riskji ta’ ksur tad-drittijiet fundamentali u tas-sikurezza tal-persuni u trawwem superviżjoni u infurzar effettivi, billi timmira r-rekwiżiti biss lejn sistemi b’riskju kbir li jista’ jwassal għal dan il-ksur. Għaldaqstant, dik l-għażla żżomm il-kostijiet tal-konformità għall-anqas possibbli, u b’hekk tevita tnaqqis bla bżonn fl-użu minħabba prezzijiet u kostijiet tal-konformità ogħla. Biex jiġu indirizzati l-iżvantaġġi possibbli għall-SMEs, din l-għażla tinkludi diversi dispożizzjonijiet li jappoġġaw il-konformità tagħhom u jnaqqsu l-kostijiet tagħhom, inkluż il-ħolqien ta’ sandboxes regolatorji u l-obbligu li jitqiesu l-interessi tal-SMEs meta jiġu stabbiliti tariffi relatati mal-valutazzjoni tal-konformità.

Bl-għażla ppreferuta tiżdied il-fiduċja tan-nies fl-AI, il-kumpaniji jiksbu ċ-ċertezza legali, u l-Istati Membri ma jarawx raġuni biex jieħdu azzjoni unilaterali li tista’ tifframmenta s-suq uniku. Żieda fil-fiduċja iżżid id-domanda, u żieda fid-domanda żżid l-offerti disponibbli minħabba ċ-ċertezza legali u nuqqas ta’ xkiel għall-moviment transfruntier tas-sistemi tal-AI, u b’hekk is-suq uniku għall-AI aktarx jiffjorixxi. L-Unjoni Ewropea se tkompli tiżviluppa ekosistema tal-AI li qed tikber malajr ta’ servizzi u prodotti innovattivi li jinkorporaw teknoloġija tal-AI jew sistemi awtonomi tal-AI, u din twassal għal aktar awtonomija diġitali.

In-negozji jew l-awtoritajiet pubbliċi li jiżviluppaw jew jużaw applikazzjonijiet tal-AI b’riskju kbir għas-sikurezza jew d-drittijiet fundamentali taċ-ċittadini, iridu jikkonformaw ma’ rekwiżiti u obbligi speċifiċi. Il-konformità ma’ dawn ir-rekwiżiti tkun    timplika kostijiet li jammontaw għal madwar EUR 6 000 sa EUR 7 000 għall-provvista ta’ sistema medja tal-AI b’riskju kbir ta’ madwar EUR 170 000 sal-2025. Għall-utenti tal-AI, ikun hemm il-kost annwali għall-ħin użat biex tkun żgurata s-sorveljanza umana meta din tkun xierqa, skont il-każ tal-użu. Dawk ġew stmati għal madwar EUR 5 000 sa EUR 8 000 fis-sena. Il-kostijiet tal-verifika jistgħu jilħqu bejn EUR 3 000 sa EUR 7 500 oħra għall-fornituri tal-AI b’riskju kbir. In-negozji jew l-awtoritajiet pubbliċi li jiżviluppaw jew jużaw xi applikazzjoni tal-AI li ma tkunx ikklassifikata li għandha riskju kbir, ikollhom biss obbligi minimi ta’ informazzjoni. Iżda dawn jistgħu jagħżlu li jingħaqdu ma’ oħrajn u flimkien jadottaw kodiċi tal-kondotta biex isegwu rekwiżiti xierqa, u biex jiżguraw li s-sistemi tal-AI tagħhom ikunu affidabbli. F’każ bħal dan, il-kostijiet ma jkunux akbar minn dawk għas-sistemi tal-AI b’riskju kbir, iżda aktarx ikunu anqas.

L-impatti tal-għażliet ta’ politika fuq kategoriji differenti ta’ partijiet ikkonċernati (operaturi ekonomiċi/negozji; korpi tal-valutazzjoni tal-konformità, korpi tal-istandardizzazzjoni u korpi pubbliċi oħrajn; individwi/ċittadini; riċerkaturi) huma spjegati fid-dettall fl-Anness 3 tal-valutazzjoni tal-impatt li tappoġġa din il-proposta.

3.4.Idoneità regolatorja u simplifikazzjoni

Din il-proposta tistabbilixxi obbligu li japplika għall-fornituri u għall-utenti tas-sistemi tal-AI b’riskju kbir. Għall-fornituri li jiżviluppaw u jqiegħdu sistemi bħal dawn fis-suq tal-Unjoni, din toħloq ċertezza legali u tiżgura li ma jinħoloq l-ebda xkiel għall-forniment transfruntier ta’ servizzi u prodotti relatati mal-AI. Għall-kumpaniji li jużaw l-AI, din tippromwovi l-fiduċja fost il-klijenti tagħhom. Għall-amministrazzjonijiet pubbliċi nazzjonali, din tippromwovi l-fiduċja pubblika fl-użu tal-AI u ssaħħaħ il-mekkaniżmi tal-infurzar (billi tintroduċi mekkaniżmu Ewropew ta’ koordinazzjoni, tipprovdi għal kapaċitajiet xierqa, u tiffaċilita l-awditjar tas-sistemi tal-AI b’rekwiżiti ġodda għad-dokumentazzjoni, it-traċċabbiltà u t-trasparenza). Barra minn hekk, il-qafas jipprevedi miżuri speċifiċi li jappoġġaw l-innovazzjoni, inkluż sandboxes regolatorji u miżuri speċifiċi li jappoġġaw lill-utenti u lill-fornituri tas-sistemi tal-AI b’riskju kbir fuq skala żgħira biex jikkonformaw mar-regoli l-ġodda.

Il-proposta għandha wkoll l-għan speċifiku li ssaħħaħ il-kompetittività u l-bażi industrijali tal-Ewropa fl-AI. Tiżgura konsistenza sħiħa mal-leġiżlazzjoni settorjali eżistenti tal-Unjoni applikabbli għas-sistemi tal-AI (eż. dwar il-prodotti u s-servizzi) li se ġġib aktar ċarezza u tissimplifika l-infurzar tar-regoli l-ġodda.

3.5.Drittijiet fundamentali

L-użu tal-AI bil-karatteristiċi speċifiċi tagħha (eż. l-opaċità, il-kumplessità, id-dipendenza fuq id-data, l-imġiba awtonoma) jista’ jaffettwa ħażin lil għadd ta’ drittijiet fundamentali stabbiliti fil-Karta tad-Drittijiet Fundamentali tal-UE (“il-Karta”). Din il-proposta għandha l-għan li tiżgura livell għoli ta’ ħarsien għal dawk id-drittijiet fundamentali u li tindirizza sorsi varji ta’ riskji b’approċċ definit b’mod ċar u bbażat fuq ir-riskji. B’sett ta’ rekwiżiti għal AI affidabbli u b’obbligi proporzjonati fuq il-parteċipanti kollha fil-katina tal-valur, il-proposta ttejjeb u tippromwovi l-ħarsien tad-drittijiet protetti mill-Karta: id-dritt għad-dinjità umana (l-Artikolu 1), ir-rispett għall-ħajja privata u l-protezzjoni tad-data personali (l-Artikoli 7 u 8), in-nondiskriminazzjoni (l-Artikolu 21) u l-ugwaljanza bejn in-nisa u l-irġiel (l-Artikolu 23). Għandha l-għan li tipprevjeni effett dissważiv fuq id-drittijiet għal-libertà tal-espressjoni (l-Artikolu 11) u għal-libertà ta’ għaqda (l-Artikolu 12), li tiżgura l-protezzjoni tad-dritt għal rimedju effettiv u għal proċess imparzjali, id-drittijiet għad-difiża u l-preżunzjoni ta’ innoċenza (l-Artikoli 47 u 48), kif ukoll il-prinċipju ġenerali ta’ amministrazzjoni tajba. Barra minn hekk, kif inhu applikabbli f’ċerti oqsma, il-proposta taffettwa b’mod pożittiv id-drittijiet ta’ bosta gruppi speċjali, bħad-drittijiet tal-ħaddiema għal kundizzjonijiet tax-xogħol ġusti u xierqa (l-Artikolu 31), livell għoli ta’ protezzjoni tal-konsumaturi (l-Artikolu 28), id-drittijiet tat-tfal (l-Artikolu 24) u l-integrazzjoni tal-persuni b’diżabbiltà (l-Artikolu 26). Id-dritt għal livell għoli ta’ protezzjoni ambjentali u t-titjib tal-kwalità tal-ambjent (l-Artikolu 37) huma rilevanti wkoll, inkluż fir-rigward tas-saħħa u s-sikurezza tan-nies. L-obbligi għal ittestjar ex ante, il-ġestjoni tar-riskju u s-sorveljanza umana jiffaċilitaw ukoll ir-rispett ta’ drittijiet fundamentali oħra għax inaqqsu kemm jista’ jkun ir-riskju ta’ deċiżjonijiet assistiti bl-AI li jkunu żbaljati jew preġudikati f’oqsma kritiċi bħall-edukazzjoni u t-taħriġ, l-impjiegi, servizzi importanti, l-infurzar tal-liġi u l-ġudikatura. Jekk il-ksur tad-drittijiet fundamentali jibqa’ jseħħ, isir possibbli rimedju effettiv għall-persuni affettwati billi jiġu żgurati t-trasparenza u t-traċċabbiltà tas-sistemi tal-AI flimkien ma’ kontrolli ex post sodi.

Din il-proposta timponi xi restrizzjonijiet fuq il-libertà ta’ intrapriża (l-Artikolu 16) u l-libertà tal-arti u x-xjenzi (l-Artikolu 13) biex tiġi żgurata l-konformità ma’ raġunijiet prevalenti ta’ interess pubbliku bħas-saħħa, is-sikurezza, il-protezzjoni tal-konsumaturi u l-ħarsien ta’ drittijiet fundamentali oħra (“innovazzjoni responsabbli”) meta tiġi żviluppata u tintuża teknoloġija tal-AI b’riskju kbir. Dawk ir-restrizzjonijiet huma proporzjonati u limitati għall-minimu meħtieġ biex ikunu evitati jew jittaffew riskji serji għas-sikurezza u l-ksur probabbli tad-drittijiet fundamentali.

4.IMPLIKAZZJONIJIET BAĠITARJI

L-Istati Membri jridu jaħtru awtoritajiet superviżorji inkarigati mill-implimentazzjoni tar-rekwiżiti leġiżlattivi. Il-funzjoni superviżorja tagħhom tista’ tibni fuq l-arranġamenti eżistenti, pereżempju fir-rigward tal-korpi tal-valutazzjoni tal-konformità jew tas-sorveljanza tas-suq, iżda tkun teħtieġ għarfien espert teknoloġiku u riżorsi umani u finanzjarji suffiċjenti. Skont l-istruttura preeżistenti f’kull Stat Membru, dan jista’ jammonta għal bejn 1 u 25 Ekwivalenti Full Time għal kull Stat Membru.

5.ELEMENTI OĦRAJN

5.1.Pjanijiet għall-implimentazzjoni u arranġamenti ta’ monitoraġġ, ta’ evalwazzjoni u ta’ rappurtar

Il-mekkaniżmu robust ta’ monitoraġġ u ta’ evalwazzjoni previst hu kruċjali biex tkun żgurata proposta effettiva fil-kisba tal-objettivi speċifiċi tagħha. Il-Kummissjoni se tkun inkarigata mill-monitoraġġ tal-effetti tal-proposta. Din tistabbilixxi sistema għar-reġistrazzjoni tal-applikazzjonijiet awtonomi tal-AI b’riskju kbir f’bażi tad-data pubblika li tkopri lill-UE kollha. B’din ir-reġistrazzjoni, l-awtoritajiet kompetenti, l-utenti u persuni interessati oħrajn ikunu jistgħu jivverifikaw jekk is-sistema tal-AI b’riskju kbir tkunx konformi mar-rekwiżiti stabbiliti fil-proposta u jkunu jistgħu jeżerċitaw sorveljanza msaħħa fuq dawk is-sistemi tal-AI li joħolqu riskji kbar għad-drittijiet fundamentali. Biex jikkontribwixxu għal din il-bażi tad-data, il-fornituri tal-AI se jkunu obbligati jipprovdu informazzjoni sinifikanti dwar is-sistemi tagħhom u l-valutazzjoni tal-konformità mwettqa fuq dawk is-sistemi.

Barra minn hekk, il-fornituri tal-AI se jkunu obbligati jinformaw lill-awtoritajiet nazzjonali kompetenti dwar inċidenti serji jew funzjonament ħażin li jikkostitwixxu ksur tal-obbligi tad-drittijiet fundamentali malli jsiru jafu bihom, kif ukoll kull ġbir lura jew irtirar ta’ sistemi tal-AI mis-suq. Imbagħad, l-awtoritajiet nazzjonali kompetenti se jinvestigaw l-inċidenti/jew il-funzjonament ħażin, jiġbru l-informazzjoni meħtieġa kollha u jibagħtuhom regolarment lill-Kummissjoni flimkien ma’ metadata adegwata. Il-Kummissjoni se tikkumplimenta din l-informazzjoni dwar l-inċidenti b’analiżi komprensiva tas-suq ġenerali għall-AI.

Ħames snin wara d-data meta jsir applikabbli, il-Kummissjoni se tippubblika rapport li jevalwa u jirrieżamina l-qafas propost tal-AI.

5.2.Spjegazzjoni dettaljata tad-dispożizzjonijiet speċifiċi tal-proposta

5.2.1.KAMP TA’ APPLIKAZZJONI U DEFINIZZJONIJIET (TITOLU I)

It-Titolu I jiddefinixxi s-suġġett tar-Regolament u l-kamp ta’ applikazzjoni tar-regoli l-ġodda li jkopru t-tqegħid fis-suq, it-tqegħid fis-servizz u l-użu tas-sistemi tal-AI. Jistabbilixxi wkoll id-definizzjonijiet użati fl-istrument kollu. Id-definizzjoni tas-sistema tal-AI fil-qafas legali għandha l-għan li tkun kemm jista’ jkun newtrali għat-teknoloġija u valida għall-futur, filwaqt li jitqiesu l-iżviluppi rapidi tat-teknoloġija u tas-suq fejn tidħol l-AI. Għaċ-ċertezza legali meħtieġa, it-Titolu I hu kkumplimentat bl-Anness I li fih lista dettaljata ta’ approċċi u tekniki għall-iżvilupp tal-AI li trid tiġi adattata mill-Kummissjoni bi qbil ma’ żviluppi teknoloġiċi ġodda. Huma ddefiniti b’mod ċar ukoll il-parteċipanti ewlenin fil-katina tal-valur tal-AI, bħall-fornituri u l-utenti tas-sistemi tal-AI li jkopru l-operaturi pubbliċi u privati biex ikunu żgurati kundizzjonijiet ekwi.

5.2.2.PRATTIKI TAL-INTELLIĠENZA ARTIFIĊJALI PPROJBITI (TITOLU II)

It-Titolu II jistabbilixxi lista ta’AI ipprojbita. Ir-Regolament iħaddem approċċ ibbażat fuq ir-riskji u jiddistingwi bejn l-użi tal-AI li joħolqu (i) riskju inaċċettabbli, (ii) riskju kbir, u (iii) riskju żgħir jew minimu. Il-lista ta’ prattiki pprojbiti fit-Titolu II tinkludi dawk is-sistemi kollha tal-AI li l-użu tagħhom jitqies inaċċettabbli għax jikser il-valuri tal-Unjoni, fosthom id-drittijiet fundamentali. Il-projbizzjonijiet ikopru prattiki li għandhom potenzjal sinifikanti li jimmanipulaw lill-persuni b’tekniki subliminali li ma jkunux konxji tagħhom jew jisfruttaw vulnerabbiltajiet ta’ gruppi vulnerabbli speċifiċi bħat-tfal jew il-persuni b’diżabbiltà biex ibiddlu b’mod materjali l-imġiba tagħhom b’mod li jista’ jikkawża ħsara psikoloġika jew fiżika lilhom jew lil persuna oħra. Prattiki manipulattivi jew ta’ sfruttament oħrajn li jaffettwaw lill-adulti u li jistgħu jiġu ffaċilitati mis-sistemi tal-AI, jistgħu jkunu koperti bil-leġiżlazzjoni eżistenti dwar il-protezzjoni tad-data, il-protezzjoni tal-konsumaturi u s-servizzi diġitali li tiggarantixxi li l-persuni fiżiċi jkunu informati kif suppost u jkollhom għażla libera li ma jkunux soġġetti għal profilar jew prattiki oħra li jistgħu jaffettwaw l-imġiba tagħhom. Il-proposta tipprojbixxi wkoll il-punteġġi soċjali bbażati fuq l-AI għal skopijiet ġenerali magħmula mill-awtoritajiet pubbliċi. Fl-aħħar nett, l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi hu pprojbit ukoll sakemm ma jkunux japplikaw ċerti eċċezzjonijiet limitati.

5.2.3.SISTEMI TAL-INTELLIĠENZA ARTIFIĊJALI B’RISKJU KBIR (TITOLU III)

It-Titolu III fih regoli speċifiċi għas-sistemi tal-AI li joħolqu riskju kbir għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali tal-persuni fiżiċi. Bi qbil ma’ approċċ ibbażat fuq ir-riskji, dawk is-sistemi tal-AI b’riskju kbir jitħallew jitqiegħdu fis-suq Ewropew diment li jkunu konformi ma’ ċerti rekwiżiti obbligatorji u ma’ valutazzjoni tal-konformità ex ante. Il-klassifikazzjoni ta’ sistema tal-AI bħala waħda li għandha riskju kbir tkun ibbażata fuq l-iskop maħsub tas-sistema tal-AI, skont il-leġiżlazzjoni eżistenti dwar is-sikurezza tal-prodotti. Għalhekk, il-klassifikazzjoni ta’ sistema li għandha riskju kbir ma tiddependix biss mill-funzjoni tas-sistema tal-AI, iżda anki mill-iskop u l-modalitajiet speċifiċi li għalihom tintuża dik is-sistema.

Il-Kapitolu 1 tat-Titolu III jistabbilixxi r-regoli tal-klassifikazzjoni u jidentifika żewġ kategoriji ewlenin ta’ sistemi tal-AI b’riskju kbir:

·sistemi tal-AI maħsubin biex jintużaw bħala komponent tas-sikurezza fi prodotti li huma soġġetti għal valutazzjoni tal-konformità ex ante minn parti terza;

·sistemi awtonomi tal-AI oħra li prinċipalment ikollhom implikazzjonijiet fuq id-drittijiet fundamentali elenkati b’mod espliċitu fl-Anness III.

Din il-lista tas-sistemi tal-AI b’riskju kbir fl-Anness III fiha għadd limitat ta’ sistemi tal-AI li r-riskji tagħhom diġà mmaterjalizzaw jew aktarx jimmaterjalizzaw fil-futur qrib. Biex ikun żgurat li r-Regolament jista’ jiġi aġġustat għall-użi u l-applikazzjonijiet emerġenti tal-AI, il-Kummissjoni tista’ tespandi l-lista tas-sistemi tal-AI b’riskju kbir użati f’xi oqsma definiti minn qabel, billi tapplika sett ta’ kriterji u metodoloġija ta’ valutazzjoni tar-riskju.

Il-Kapitolu 2 jistabbilixxi r-rekwiżiti legali għas-sistemi tal-AI b’riskju kbir fir-rigward tad-data u l-governanza tad-data, id-dokumentazzjoni u ż-żamma tar-rekords, it-trasparenza u l-għoti tal-informazzjoni lill-utenti, is-sorveljanza umana, ir-robustezza, l-eżattezza u s-sigurtà. Ir-rekwiżiti minimi proposti diġà huma tal-ogħla livell għal ħafna operaturi diliġenti u tfasslu wara sentejn sħaħ ta’ ħidma preparatorja, derivati mil-Linji Gwida tal-HLEG dwar l-Etika 29 , adottati bi prova minn aktar minn 350 organizzazzjoni 30 . Huma wkoll fil-biċċa l-kbira konsistenti ma’ rakkomandazzjonijiet u prinċipji internazzjonali oħrajn, li jiżguraw li l-qafas propost tal-AI ikun kompatibbli ma’ dawk adottati mis-sħab kummerċjali internazzjonali tal-UE. Is-soluzzjonijiet tekniċi preċiżi biex tinkiseb il-konformità ma’ dawk ir-rekwiżiti jistgħu jinġiebu minn standards jew speċifikazzjonijiet tekniċi oħrajn, jew jinħolqu skont l-għarfien inġineristiku jew xjentifiku ġenerali fid-diskrezzjoni tal-fornitur tas-sistema tal-AI. Din il-flessibbiltà hi partikolarment importanti għax il-fornituri tas-sistemi tal-AI jistgħu jagħżlu l-mod kif jissodisfaw ir-rekwiżiti tagħhom, filwaqt li jqisu l-aħħar avvanzi u l-progress teknoloġiku u xjentifiku f’dan il-qasam.

Il-Kapitolu 3 jistabbilixxi sett ċar ta’ obbligi orizzontali għall-fornituri tas-sistemi tal-AI b’riskju kbir. Iddaħħlu wkoll obbligi proporzjonati għall-utenti u parteċipanti oħra tul il-katina tal-valur tal-AI (eż. importaturi, distributuri, rappreżentanti awtorizzati).

Il-Kapitolu 4 jistabbilixxi l-qafas biex il-korpi notifikati jkunu involuti bħala partijiet terzi indipendenti fil-proċeduri tal-valutazzjoni tal-konformità, filwaqt li l-Kapitolu 5 jispjega fid-dettall il-proċeduri tal-valutazzjoni tal-konformità li jridu jiġu segwiti għal kull tip ta’ sistema tal-AI b’riskju kbir. L-approċċ tal-valutazzjoni tal-konformità għandu l-għan li jnaqqas kemm jista’ jkun il-piż għall-operaturi ekonomiċi u l-korpi notifikati, li l-kapaċità tagħhom jeħtieġ tiżdied progressivament maż-żmien. Is-sistemi tal-AI maħsubin biex jintużaw bħala komponenti tas-sikurezza fi prodotti regolati bil-leġiżlazzjoni tal-Qafas Leġiżlattiv il-Ġdid (eż. makkinarju, ġugarelli, apparati mediċi, eċċ.) se jkunu soġġetti għall-istess mekkaniżmi ta’ konformità u infurzar ex ante u ex post bħall-prodotti li huma l-komponent tagħhom. Id-differenza ewlenija hi li l-mekkaniżmi ex ante u ex post jiżguraw il-konformità mhux biss mar-rekwiżiti stabbiliti bil-leġiżlazzjoni settorjali, iżda anki mar-rekwiżiti stabbiliti b’dan ir-Regolament.

Fir-rigward tas-sistemi awtonomi tal-AI b’riskju kbir imsemmija fl-Anness III, se tiġi stabbilita sistema ġdida ta’ konformità u infurzar. Din timxi bil-mudell tal-leġiżlazzjoni tal-Qafas Leġiżlattiv il-Ġdid implimentata b’verifiki ta’ kontroll intern mill-fornituri, għajr fil-każ tas-sistemi tal-identifikazzjoni bijometrika remota li se jkunu soġġetti għal valutazzjoni tal-konformità minn parti terza. Valutazzjoni komprensiva ex ante tal-konformità b’kontrolli interni, flimkien ma’ infurzar ex post sod, jistgħu jkunu soluzzjoni effettiva u raġonevoli għal dawk is-sistemi, fid-dawl tal-fażi bikrija tal-intervent regolatorju u l-fatt li s-settur tal-AI hu innovattiv ħafna u l-għarfien espert fl-awditjar issa għadu kif beda jinġabar. Valutazzjoni b’kontrolli interni għal sistemi “awtonomi” tal-AI b’riskju kbir tkun teħtieġ konformità ex ante sħiħa, effettiva u dokumentata kif xieraq mar-rekwiżiti kollha tar-Regolament u konformità ma’ sistemi sodi tal-ġestjoni tal-kwalità u tar-riskju u sorveljanza ta’ wara t-tqegħid fis-suq. Wara li l-fornitur jagħmel il-valutazzjoni tal-konformità rilevanti, jenħtieġ jirreġistra dawk is-sistemi awtonomi tal-AI b’riskju kbir f’bażi tad-data tal-UE mmexxija mill-Kummissjoni biex jiżdiedu t-trasparenza u s-sorveljanza pubbliċi u tissaħħaħ is-superviżjoni ex post mill-awtoritajiet kompetenti. B’kuntrast ma’ dan, għal raġunijiet ta’ konsistenza mal-leġiżlazzjoni eżistenti dwar is-sikurezza tal-prodotti, il-valutazzjonijiet tal-konformità tas-sistemi tal-AI li jkun komponenti tas-sikurezza fi prodotti se jimxu b’sistema bi proċeduri tal-valutazzjoni tal-konformità minn parti terzi kif diġà stabbilit fil-leġiżlazzjoni settorjali rilevanti dwar is-sikurezza tal-prodotti. Jekk isiru modifiki sostanzjali fis-sistemi tal-AI (u b’mod partikolari tibdiliet li jmorru lil hinn minn dak li jkun determinat minn qabel mill-fornitur fid-dokumentazzjoni teknika tiegħu u vverifikat waqt il-valutazzjoni tal-konformità ex ante), ikun hemm bżonn valutazzjonijiet mill-ġdid ex ante tal-konformità.

5.2.4.OBBLIGI TAT-TRASPARENZA GĦAL ĊERTI SISTEMI TAL-INTELLIĠENZA ARTIFIĊJALI (TITOLU IV)

It-Titolu IV jikkonċerna ċerti sistemi tal-AI biex jitqiesu r-riskji speċifiċi ta’ manipulazzjoni li dawn joħolqu. L-obbligi tat-trasparenza japplikaw għas-sistemi li (i) jinteraġixxu mal-bnedmin, (ii) jintużaw biex jiġu identifikati emozzjonijiet jew biex tiġi determinata assoċjazzjoni ma’ kategoriji (soċjali) abbażi ta’ data bijometrika, jew (iii) jiġġeneraw jew jimmanipulaw xi kontenut (“deep fakes”). Meta l-persuni jinteraġixxu ma’ sistema tal-AI jew meta l-emozzjonijiet jew il-karatteristiċi tagħhom jingħarfu b’mezzi awtomatizzati, in-nies iridu jiġu informati b’dik iċ-ċirkostanza. Jekk sistema tal-AI tintuża biex tiġġenera jew timmanipula kontenut ta’ immaġni, awdjo jew vidjo li jixbah sostanzjalment lil kontenut awtentiku, jenħtieġ ikun hemm obbligu ta’ żvelar li l-kontenut qed jiġi ġġenerat b’mezzi awtomatizzati, soġġetta għal eċċezzjonijiet ta’ skopijiet leġittimi (infurzar tal-liġi, libertà tal-espressjoni). B’hekk, il-persuni jkunu jistgħu jagħmlu għażliet informati jew joħorġu minn sitwazzjoni partikolari.

5.2.5.MIŻURI LI JAPPOĠĠAW L-INNOVAZZJONI (TITOLU V)

It-Titolu V jikkontribwixxi għall-objettiv li jinħoloq qafas legali favorevoli għall-innovazzjoni, validu għall-futur u reżiljenti għat-tfixkil. Għal dak il-għan, dan iħeġġeġ lill-awtoritajiet nazzjonali kompetenti jistabbilixxu sandboxes regolatorji, u jistabbilixxi qafas bażiku f’termini ta’ governanza, superviżjoni u responsabbiltà. Is-sandboxes regolatorji tal-AI jistabbilixxu ambjent ikkontrollat biex jiġu ttestjati teknoloġiji innovattivi għal żmien limitat abbażi ta’ pjan ta’ ttestjar miftiehem mal-awtoritajiet kompetenti. It-Titolu V fih ukoll miżuri biex jitnaqqas il-piż regolatorju fuq l-SMEs u fuq in-negozji ġodda.

5.2.6.GOVERNANZA U IMPLIMENTAZZJONI (TITOLI VI, VII U VII)

It-Titolu VI jistabbilixxi s-sistemi ta’ governanza fil-livell tal-Unjoni u nazzjonali. Fil-livell tal-Unjoni, il-proposta tistabbilixxi Bord Ewropew għall-Intelliġenza Artifiċjali (il-“Bord”), magħmul minn rappreżentanti tal-Istati Membri u tal-Kummissjoni. Il-Bord jiffaċilita implimentazzjoni bla xkiel, effettiva u armonizzata ta’ dan ir-Regolament billi jikkontribwixxi għall-kooperazzjoni effettiva tal-awtoritajiet nazzjonali superviżorji u tal-Kummissjoni u jipprovdi konsulenza u għarfien espert lill-Kummissjoni. Jiġbor ukoll l-aqwa prattiki u jaqsamhom mal-Istati Membri.

Fil-livell nazzjonali, l-Istati Membri se jkollhom jaħtru awtorità nazzjonali kompetenti waħda jew aktar u, fosthom, lill-awtorità superviżorja nazzjonali, għall-finijiet ta’ superviżjoni tal-applikazzjoni u tal-implimentazzjoni tar-Regolament. Il-Kontrollur Ewropew għall-Protezzjoni tad-Data jaġixxi bħala l-awtorità kompetenti għas-superviżjoni tal-istituzzjonijiet, tal-aġenziji u tal-korpi tal-Unjoni meta dawn ikunu jaqgħu fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament.

It-Titolu VII għandu l-għan li jiffaċilita l-ħidma ta’ monitoraġġ tal-Kummissjoni u tal-awtoritajiet nazzjonali bl-istabbiliment ta’ bażi tad-data fl-UE għas-sistemi awtonomi tal-AI b’riskju kbir li prinċipalment ikollhom implikazzjonijiet fuq id-drittijiet fundamentali. Il-bażi tad-data tħaddimha l-Kummissjoni u tingħata data mill-fornituri tas-sistemi tal-AI, li se jkunu meħtieġa jirreġistraw is-sistemi tagħhom qabel ma jqegħduhom fis-suq jew qabel ma jqegħduhom fis-servizz b’xi mod ieħor.

It-Titolu VIII jistabbilixxi l-obbligi tal-monitoraġġ u tar-rappurtar għall-fornituri tas-sistemi tal-AI fir-rigward tas-sorveljanza ta’ wara t-tqegħid fis-suq u tar-rappurtar u tal-investigazzjoni ta’ inċidenti u funzjonament ħażin relatati mal-AI. L-awtoritajiet tas-sorveljanza tas-suq jikkontrollaw ukoll is-suq u jinvestigaw il-konformità mal-obbligi u mar-rekwiżiti għas-sistemi kollha tal-AI b’riskju kbir diġà mqiegħda fis-suq. L-awtoritajiet tas-sorveljanza tas-suq ikollhom is-setgħat kollha skont ir-Regolament (UE) 2019/1020 dwar is-sorveljanza tas-suq. L-infurzar ex post jenħtieġ jiżgura li ladarba s-sistema tal-AI titqiegħed fis-suq, l-awtoritajiet pubbliċi jkollhom is-setgħat u r-riżorsi biex jintervjenu meta s-sistemi tal-AI jiġġeneraw riskji mhux mistennija li jeżiġu azzjoni rapida. Dawn jimmonitorjaw ukoll il-konformità tal-operaturi mal-obbligi rilevanti tagħhom skont ir-Regolament. Il-proposta ma tipprevedix l-istabbiliment awtomatiku ta’ xi korp jew awtorità addizzjonali fil-livell tal-Istati Membri. Għalhekk, l-Istati Membri jistgħu jaħtru (u jistrieħu fuq l-għarfien espert ta’) awtoritajiet settorjali eżistenti biex ikunu fdati wkoll bis-setgħat li jimmonitorjaw u jinfurzaw id-dispożizzjonijiet tar-Regolament.

Dan kollu hu mingħajr preġudizzju għas-sistema eżistenti u għall-allokazzjoni tas-setgħat ta’ infurzar ex post tal-obbligi rigward id-drittijiet fundamentali fl-Istati Membri. Meta jkun meħtieġ għall-mandat tagħhom, l-awtoritajiet tas-superviżjoni u tal-infurzar eżistenti se jkollhom ukoll is-setgħa jitolbu u jaċċessaw kull dokumentazzjoni miżmuma skont dan ir-Regolament u, meta meħtieġ, jitolbu lill-awtoritajiet tas-sorveljanza tas-suq jorganizzaw ittestjar tas-sistema tal-AI b’riskju kbir permezz ta’ mezzi tekniċi.

5.2.7.KODIĊIJIET TAL-KONDOTTA (TITOLU IX)

It-Titolu IX joħloq qafas għall-ħolqien ta’ kodiċijiet tal-kondotta bil-għan li jħeġġu lill-fornituri tas-sistemi tal-AI li m’għandhomx riskju kbir biex japplikaw b’mod volontarju r-rekwiżiti obbligatorji għas-sistemi tal-AI b’riskju kbir (kif stabbilit fit-Titolu III). Il-fornituri tas-sistemi tal-AI li m’għandhomx riskju kbir jistgħu joħolqu u jimplimentaw il-kodiċijiet tal-kondotta huma stess. Dawk il-kodiċijiet jistgħu jinkludu wkoll impenji volontarji relatati, pereżempju, mas-sostenibbiltà ambjentali, mal-aċċessibbiltà għall-persuni b’diżabbiltà, mal-parteċipazzjoni tal-partijiet ikkonċernati fit-tfassil u fl-iżvilupp tas-sistemi tal-AI, u mad-diversità tat-timijiet tal-iżvilupp.

5.2.8.DISPOŻIZZJONIJIET FINALI (TITOLI X, XI U XII)

It-Titolu X jenfasizza l-obbligu tal-partijiet kollha li jirrispettaw il-kunfidenzjalità tal-informazzjoni u tad-data u jistabbilixxi regoli għall-iskambju tal-informazzjoni miksuba waqt l-implimentazzjoni tar-Regolament. It-Titolu X jinkludi wkoll miżuri biex jiżgura l-implimentazzjoni effettiva tar-Regolament permezz ta’ penali effettivi, proporzjonati u dissważivi għall-ksur tad-dispożizzjonijiet.

It-Titolu XI jistabbilixxi regoli għall-eżerċizzju tas-setgħat ta’ delega u ta’ implimentazzjoni. Il-proposta tagħti s-setgħa lill-Kummissjoni li tadotta, meta xieraq, atti ta’ implimentazzjoni biex tiżgura l-applikazzjoni uniformi tar-Regolament jew tal-atti delegati biex taġġorna jew tikkumplimenta l-listi fl-Annessi I sa VII.

It-Titolu XII fih obbligu għall-Kummissjoni li tivvaluta regolarment il-ħtieġa ta’ aġġornament tal-Anness III u tħejji rapporti regolari dwar l-evalwazzjoni u r-rieżami tar-Regolament. Jistabbilixxi wkoll id-dispożizzjonijiet finali, inkluż perjodu tranżitorju differenzjat għad-data inizjali tal-applikabbiltà tar-Regolament biex tiġi ffaċilitata l-implimentazzjoni bla xkiel għall-partijiet ikkonċernati kollha.

2021/0106 (COD)

Proposta għal

REGOLAMENT TAL-PARLAMENT EWROPEW U TAL-KUNSILL

LI JISTABBILIXXI REGOLI ARMONIZZATI DWAR L-INTELLIĠENZA ARTIFIĊJALI (L-ATT DWAR L-INTELLIĠENZA ARTIFIĊJALI) U LI JEMENDA ĊERTI ATTI LEĠIŻLATTIVI TAL-UNJONI

IL-PARLAMENT EWROPEW U L-KUNSILL TAL-UNJONI EWROPEA,

Wara li kkunsidraw it-Trattat dwar il-Funzjonament tal-Unjoni Ewropea, u b’mod partikolari l-Artikoli 16 u 114 tiegħu,

Wara li kkunsidraw il-proposta tal-Kummissjoni Ewropea,

Wara t-trażmissjoni tal-abbozz tal-att leġiżlattiv lill-Parlamenti nazzjonali,

Wara li kkunsidraw l-opinjoni tal-Kumitat Ekonomiku u Soċjali Ewropew 31 ,

Wara li kkunsidraw l-opinjoni tal-Kumitat tar-Reġjuni 32 ,

Filwaqt li jaġixxu f’konformità mal-proċedura leġiżlattiva ordinarja,

Billi:

(1)Dan ir-Regolament għandu l-iskop li jtejjeb il-funzjonament tas-suq intern billi jistabbilixxi qafas legali uniformi b’mod partikolari għall-iżvilupp, il-kummerċjalizzazzjoni u l-użu tal-intelliġenza artifiċjali bi qbil mal-valuri tal-Unjoni. Dan ir-Regolament isegwi għadd ta’ raġunijiet prevalenti ta’ interess pubbliku, fosthom livell għoli ta’ protezzjoni tas-saħħa u s-sikurezza, u ta’ ħarsien tad-drittijiet fundamentali, u jiżgura l-moviment liberu transfruntier tal-prodotti u s-servizzi bbażati fuq l-AI, u b’hekk jevita li l-Istati Membri jimponu restrizzjonijiet fuq l-iżvilupp, il-kummerċjalizzazzjoni u l-użu tas-sistemi tal-AI, sakemm ma jkunux awtorizzati espliċitament minn dan ir-Regolament.

(2)Is-sistemi tal-intelliġenza artifiċjali (is-sistemi tal-AI) jistgħu faċilment jibdew jintużaw f’bosta setturi tal-ekonomija u tas-soċjetà, inkluż dawk transfruntieri, u jiċċirkolaw madwar l-Unjoni. Ċerti Stati Membri diġà esploraw l-adozzjoni ta’ regoli nazzjonali biex jiżguraw li l-intelliġenza artifiċjali tkun sikura u li tiġi żviluppata u tintuża skont l-obbligi tad-drittijiet fundamentali. Regoli nazzjonali differenti jistgħu jwasslu għal frammentazzjoni tas-suq intern u jnaqqsu ċ-ċertezza legali lill-operaturi li jiżviluppaw jew jużaw is-sistemi tal-AI. Għalhekk, jenħtieġ ikun żgurat livell konsistenti u għoli ta’ protezzjoni madwar l-Unjoni kollha, filwaqt li jenħtieġ jiġu evitat d-diverġenzi li jfixklu ċ-ċirkolazzjoni libera tas-sistemi tal-AI u tal-prodotti u tas-servizzi relatati fi ħdan is-suq intern, billi jiġu stabbiliti obbligi uniformi għall-operaturi u tkun żgurata l-protezzjoni uniformi tar-raġunijiet prevalenti ta’ interess pubbliku u tad-drittijiet tal-persuni fis-suq intern kollu abbażi tal-Artikolu 114 tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropea (TFUE). Peress li dan ir-Regolament fih regoli speċifiċi dwar il-protezzjoni ta’ individwi fir-rigward tal-ipproċessar tad-data personali rigward restrizzjonijiet tal-użu ta’ sistemi tal-AI għal identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi, ikun xieraq li, fejn jidħlu dawk ir-regoli speċifiċi, dan ir-Regolament jiġi bbażat fuq l-Artikolu 16 tat-TFUE. Fid-dawl ta’ dawk ir-regoli speċifiċi u tar-rikors għall-Artikolu 16 tat-TFUE, jixraq jiġi kkonsultat il-Bord Ewropew għall-Protezzjoni tad-Data.

(3)L-intelliġenza artifiċjali hi familja ta’ teknoloġiji li qed tevolvi malajr u tista’ tikkontribwixxi għal firxa wiesgħa ta’ benefiċċji ekonomiċi u soċjetali fl-ispettru kollu tal-industriji u tal-attivitajiet soċjali. B’titjib fil-previżjoni, b’ottimizzazzjoni tal-operazzjonijiet u l-allokazzjoni tar-riżorsi, u b’personalizzazzjoni tas-soluzzjonijiet diġitali disponibbli għall-individwi u l-organizzazzjonijiet, l-użu tal-intelliġenza artifiċjali jista’ jipprovdi vantaġġi kompetittivi ewlenin lill-kumpaniji u jappoġġa eżiti b’benefiċċji soċjali u ambjentali, bħal pereżempju fil-kura tas-saħħa, fil-biedja, fl-edukazzjoni u t-taħriġ, fil-ġestjoni tal-infrastruttura, fl-enerġija, fit-trasport u l-loġistika, fis-servizzi pubbliċi, fis-sigurtà, fil-ġustizzja, fl-effiċjenza tar-riżorsi u enerġetika, u fil-mitigazzjoni u l-adattament għat-tibdil fil-klima.

(4)Fl-istess ħin, skont iċ-ċirkostanzi rigward l-applikazzjoni u l-użu speċifiċi tagħha, l-intelliġenza artifiċjali tista’ toħloq riskji u tikkawża dannu lill-interessi u lid-drittijiet pubbliċi mħarsa bil-liġi tal-Unjoni. Dan id-dannu jista’ jkun materjali jew mhux materjali.

(5)Għalhekk, hu meħtieġ qafas legali tal-Unjoni li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali biex jitrawwem l-iżvilupp, l-użu u l-adozzjoni tal-intelliġenza artifiċjali fis-suq intern li fl-istess ħin jissodisfa livell għoli ta’ protezzjoni tal-interessi pubbliċi, bħas-saħħa u s-sikurezza, u ħarsien tad-drittijiet fundamentali, kif rikonoxxuti u mħarsa bil-liġi tal-Unjoni. Biex jintlaħaq dak l-objettiv, jenħtieġ jiġu stabbiliti regoli li jirregolaw it-tqegħid fis-suq u t-tqegħid fis-servizz ta’ ċerti sistemi tal-AI, u b’hekk ikun żgurat il-funzjonament bla xkiel tas-suq intern u dawk is-sistemi jitħallew jibbenefikaw mill-prinċipju tal-moviment liberu tal-prodotti u tas-servizzi. Dan ir-Regolament jistabbilixxi dawk ir-regoli, u għalhekk jappoġġa l-objettiv li l-Unjoni tkun mexxejja dinjija fl-iżvilupp ta’ intelliġenza artifiċjali sigura, affidabbli u etika kif iddikjara l-Kunsill Ewropew 33 , u tkun żgurata l-protezzjoni tal-prinċipji etiċi kif mitlub speċifikament mill-Parlament Ewropew 34 .

(6)Il-kunċett ta’ sistema tal-AI jenħtieġ jiġi ddefinit b’mod ċar biex tiġi żgurata ċ-ċertezza legali, filwaqt li tingħata l-flessibbiltà meħtieġa biex jiġu akkomodati l-iżviluppi teknoloġiċi futuri. Jenħtieġ li d-definizzjoni tibbaża fuq il-karatteristiċi funzjonali ewlenin tas-software, b’mod partikolari l-kapaċità, għal sett partikolari ta’ objettivi definiti mill-bniedem, li jiġu ġġenerati outputs bħal kontenut, previżjonijiet, rakkomandazzjonijiet, jew deċiżjonijiet li jinfluwenzaw l-ambjent li miegħu tinteraġixxi s-sistema, sew f’dimensjoni fiżika u sew diġitali. Is-sistemi tal-AI jistgħu jitfasslu biex joperaw b’livelli varji ta’ awtonomija u jintużaw b’mod awtonomu jew bħala komponent ta’ prodott, irrispettivament minn jekk is-sistema tkunx integrata fiżikament fil-prodott (inkorporata) jew taqdix il-funzjonalità tal-prodott mingħajr ma tkunx integrata fih (mhux inkorporata). Jenħtieġ li d-definizzjoni ta’ sistema tal-AI tiġi kkumplimentata b’lista ta’ tekniki u approċċi speċifiċi użati għall-iżvilupp tagħha, li jenħtieġ tinżamm aġġornata fid-dawl tal-iżviluppi teknoloġiċi u tas-suq bl-adozzjoni ta’ atti delegati mill-Kummissjoni li jemendaw dik il-lista.

(7)Il-kunċett ta’ data bijometrika użat f’dan ir-Regolament hu allinjat mal-kunċett ta’ data bijometrika, u jenħtieġ jiġi interpretat b’mod konsistenti miegħu kif definit fl-Artikolu 4(14) tar-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill 35 , fl-Artikolu 3(18) tar-Regolament (UE) 2018/1725 tal-Parlament Ewropew u tal-Kunsill 36 u fl-Artikolu 3(13) tad-Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill 37 .

(8)Il-kunċett ta’ sistema tal-identifikazzjoni bijometrika remota kif użata f’dan ir-Regolament jenħtieġ jiġi definit b’mod funzjonali, bħala sistema tal-AI maħsuba għall-identifikazzjoni remota ta’ persuni fiżiċi bit-tqabbil tad-data bijometrika ta’ persuna mad-data bijometrika li tinsab f’bażi tad-data ta’ referenza, u mingħajr għarfien minn qabel dwar jekk il-persuna fil-mira hix se tkun preżenti u tistax tiġi identifikata, irrispettivament mit-teknoloġija, mill-proċessi jew mit-tipi partikolari ta’ data bijometrika użati. Meta jitqiesu l-karatteristiċi u l-modi differenti tagħhom li fihom jintużaw, kif ukoll ir-riskji differenti involuti, jenħtieġ issir distinzjoni bejn is-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” u “f’ħin aktar tard”. Fil-każ ta’ sistemi “fil-ħin reali”, il-qbid tad-data bijometrika, it-tqabbil u l-identifikazzjoni jsiru b’mod istantanju, kważi istantanju jew fi kwalunkwe każ mingħajr dewmien sinifikanti. F’dan ir-rigward, jenħtieġ ma jkun hemm l-ebda lok li jiġu evitati r-regoli ta’ dan ir-Regolament dwar l-użu “fil-ħin reali” tas-sistemi tal-AI inkwistjoni billi jiġi previst xi dewmien żgħir. Is-sistemi “fil-ħin reali” jinvolvu l-użu ta’ materjal “dirett” jew “kważi dirett”, bħal filmat, iġġenerat minn kamera jew minn apparat ieħor b’funzjonalità simili. Għall-kuntrarju, fil-każ tas-sistemi “f’ħin aktar tard”, id-data bijometrika tkun diġà nkisbet u t-tqabbil u l-identifikazzjoni jsiru biss wara ċertu dewmien sinifikanti. Dan jinvolvi materjal, bħal stampi jew filmati ġġenerati minn kameras tat-televiżjoni b’ċirkwit magħluq jew minn apparati privati, li jkun ġie ġġenerat qabel tintuża s-sistema fir-rigward tal-persuni fiżiċi kkonċernati.

(9)Għall-finijiet ta’ dan ir-Regolament, il-kunċett ta’ spazju aċċessibbli għall-pubbliku jenħtieġ jinftiehem li jirreferi għal kull post fiżiku li hu aċċessibbli għall-pubbliku, irrispettivament minn jekk il-post inkwistjoni hux proprjetà privata jew pubblika. Għalhekk, il-kunċett ma jkoprix il-postijiet li fin-natura tagħhom huma privati u li normalment ma jkunux aċċessibbli liberament għal partijiet terzi, inkluż awtoritajiet tal-infurzar tal-liġi, sakemm dawk il-partijiet ma jkunux ġew mistiedna jew awtorizzati speċifikament, bħal djar, għaqdiet privati, uffiċini, imħażen u fabbriki. Lanqas l-ispazji online ma huma koperti għax dawn mhumiex spazji fiżiċi. Iżda s-sempliċi fatt li għal aċċess għal spazju partikolari jaf ikunu japplikaw ċerti kundizzjonijiet, bħal biljetti tad-dħul jew restrizzjonijiet fuq l-età, ma jfissirx li l-ispazju mhux aċċessibbli għall-pubbliku skont it-tifsira ta’ dan ir-Regolament. Għaldaqstant, minbarra l-ispazji pubbliċi bħat-toroq, il-partijiet rilevanti tal-binjiet tal-gvern u l-biċċa l-kbira tal-infrastruttura tat-trasport, spazji bħal swali taċ-ċinema, teatri, ħwienet u ċentri kummerċjali normalment ikunu aċċessibbli għall-pubbliku wkoll. Iżda jekk spazju partikolari jkunx aċċessibbli għall-pubbliku jenħtieġ jiġi determinat abbażi ta’ każ b’każ, filwaqt li jitqiesu l-ispeċifiċitajiet tas-sitwazzjoni individwali inkwistjoni.

(10)Biex ikunu żgurati kundizzjonijiet ekwi u ħarsien effettiv tad-drittijiet u tal-libertajiet tal-individwi madwar l-Unjoni, ir-regoli stabbiliti b’dan ir-Regolament jenħtieġ japplikaw għall-fornituri tas-sistemi tal-AI b’mod mhux diskriminatorju, irrispettivament minn jekk humiex stabbiliti fl-Unjoni jew f’pajjiż terz, u għall-utenti tas-sistemi tal-AI stabbiliti fl-Unjoni.

(11)Fid-dawl tan-natura diġitali tagħhom, jenħtieġ li ċerti sistemi tal-AI ikunu fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament anki meta ma jitqegħdux fis-suq, ma jitqegħdux fis-servizz, jew ma jintużawx fl-Unjoni. Pereżempju, dan hu l-każ ta’ operatur stabbilit fl-Unjoni li jikkuntratta ċerti servizzi lil operatur stabbilit barra mill-Unjoni fir-rigward ta’ attività li tkun se titwettaq minn sistema tal-AI u li tikkwalifika bħala ta’ riskju kbir u li l-effetti tagħha jħallu impatt fuq persuni fiżiċi li jinsabu fl-Unjoni. F’dawk iċ-ċirkostanzi, is-sistema tal-AI użata mill-operatur barra mill-Unjoni tista’ tipproċessa d-data miġbura legalment fl-Unjoni u trasferita minnha, u tipprovdi lill-operatur kontraenti fl-Unjoni l-output ta’ dik is-sistema tal-AI li jirriżulta minn dak l-ipproċessar, mingħajr ma dik is-sistema tal-AI titqiegħed fis-suq, titqiegħed fis-servizz jew tintuża fl-Unjoni. Biex tiġi evitata ċ-ċirkumvenzjoni ta’ dan ir-Regolament u biex tiġi żgurata protezzjoni effettiva tal-persuni fiżiċi li jinsabu fl-Unjoni, jenħtieġ li dan ir-Regolament japplika wkoll għall-fornituri u għall-utenti tas-sistemi tal-AI li huma stabbiliti f’pajjiż terz, sa fejn l-output prodott minn dawk is-sistemi jintuża fl-Unjoni. Madankollu, biex jitqiesu l-arranġamenti eżistenti u l-ħtiġijiet speċjali għall-kooperazzjoni mas-sħab barranin li magħhom jiġu skambjati informazzjoni u evidenza, jenħtieġ li dan ir-Regolament ma japplikax għall-awtoritajiet pubbliċi ta’ pajjiż terz u għal organizzazzjonijiet internazzjonali meta jaġixxu fil-qafas ta’ ftehimiet internazzjonali konklużi fil-livell nazzjonali jew Ewropew għall-infurzar tal-liġi u għall-kooperazzjoni ġudizzjarja mal-Unjoni jew mal-Istati Membri tagħha. Dawn il-ftehimiet ġew konklużi b’mod bilaterali bejn l-Istati Membri u pajjiżi terzi jew bejn l-Unjoni Ewropea, il-Europol u aġenziji oħra tal-UE u pajjiżi terzi u organizzazzjonijiet internazzjonali.

(12)Jenħtieġ li dan ir-Regolament japplika wkoll għall-istituzzjonijiet, l-uffiċċji, il-korpi u l-aġenziji tal-Unjoni meta dawn jaġixxu bħala fornitur jew utent ta’ sistema tal-AI. Is-sistemi tal-AI żviluppati jew użati esklussivament għal skopijiet militari jenħtieġ jiġu esklużi mill-kamp ta’ applikazzjoni ta’ dan ir-Regolament meta dak l-użu jkun fil-mandat esklussiv tal-Politika Estera u ta’ Sigurtà Komuni regolata skont it-Titolu V tat-Trattat dwar l-Unjoni Ewropea (TUE). Jenħtieġ li dan ir-Regolament ikun mingħajr preġudizzju għad-dispożizzjonijiet dwar ir-responsabbiltà tal-fornituri intermedjarji tas-servizzi stabbiliti fid-Direttiva 2000/31/KE tal-Parlament Ewropew u tal-Kunsill [kif emendata bl-Att dwar is-Servizzi Diġitali].

(13)Biex ikun żgurat livell konsistenti u għoli ta’ protezzjoni tal-interessi pubbliċi fir-rigward tas-saħħa u s-sikurezza, u ħarsien tad-drittijiet fundamentali, jenħtieġ jiġu stabbiliti standards normattivi komuni għas-sistemi kollha tal-AI b’riskju kbir. Jenħtieġ li dawk l-istandards ikunu konsistenti mal-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea (il-Karta) u jenħtieġ ma jkunux diskriminatorji filwaqt li jkunu konformi mal-impenji kummerċjali internazzjonali tal-Unjoni.

(14)Biex jiddaħħal sett proporzjonat u effettiv ta’ regoli vinkolanti għas-sistemi tal-AI, jenħtieġ jitħaddem approċċ definit b’mod ċar u bbażat fuq ir-riskji. Dak l-approċċ jenħtieġ ifassal it-tip u l-kontenut ta’ dawk ir-regoli skont l-intensità u l-ambitu tar-riskji li jistgħu jiġġeneraw is-sistemi tal-AI. Għalhekk, jeħtieġ jiġu pprojbiti ċerti prattiki tal-intelliġenza artifiċjali, jiġu stabbiliti rekwiżiti għal sistemi tal-AI b’riskju kbir u obbligi għall-operaturi rilevanti, u jiġu stabbiliti obbligi tat-trasparenza għal ċerti sistemi tal-AI.

(15)Minbarra l-ħafna użi ta’ benefiċċju tal-intelliġenza artifiċjali, dik it-teknoloġija tista’ tintuża ħażin ukoll u tipprovdi għodod ġodda u qawwijin għal prattiki manipulattivi, ta’ sfruttament u ta’ kontroll soċjali. Dawn il-prattiki huma partikolarment dannużi u jenħtieġ jiġu pprojbiti għax imorru kontra l-valuri tal-Unjoni ta’ rispett għad-dinjità umana, ta’ libertà, ta’ ugwaljanza, ta’ demokrazija u tal-istat tad-dritt u d-drittijiet fundamentali tal-Unjoni, fosthom id-dritt ta’ nondiskriminazzjoni, għal protezzjoni tad-data u għal privatezza u d-drittijiet tat-tfal.

(16)Jenħtieġ jiġu pprojbiti t-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ ċerti sistemi tal-AI maħsuba biex ifixklu l-imġiba tal-bniedem, li aktarx joħolqu dannu fiżiku jew psikoloġiku. Sistemi tal-AI bħal dawn jużaw komponenti subliminali li l-individwi ma jistgħux jipperċepixxu jew jisfruttaw il-vulnerabbiltajiet tat-tfal u tal-persuni minħabba l-età, inkapaċitajiet fiżiċi jew mentali tagħhom. Dawn jagħmlu dan bl-intenzjoni li jfixklu materjalment l-imġiba ta’ persuna u b’mod li jikkawża jew li aktarx jikkawża dannu lil dik il-persuna jew lil xi persuna oħra. L-intenzjoni tista’ ma tiġix preżunta jekk it-tfixkil tal-imġiba tal-bniedem tirriżulta minn fatturi esterni għas-sistema tal-AI li ma jkunux fil-kontroll tal-fornitur jew tal-utent. Jenħtieġ li r-riċerka għal skopijiet leġittimi fir-rigward ta’ sistemi tal-AI bħal dawn ma tinħonoqx mill-projbizzjoni, diment li din ir-riċerka ma twassalx biex is-sistema tal-AI tintuża f’relazzjonijiet bejn il-bniedem u l-magni li jesponu lil persuni fiżiċi għal dannu u diment li din ir-riċerka ssir skont standards etiċi rikonoxxuti għar-riċerka xjentifika.

(17)Sistemi tal-AI li jipprovdu punteġġ soċjali ta’ persuni fiżiċi għal skop ġenerali mill-awtoritajiet pubbliċi jew f’isimhom jistgħu jwasslu għal eżiti diskriminatorji u għall-esklużjoni ta’ ċerti gruppi. Jistgħu jiksru d-dritt għad-dinjità u ta’ nondiskriminazzjoni u l-valuri tal-ugwaljanza u tal-ġustizzja. Dawn is-sistemi tal-AI jevalwaw jew jikklassifikaw l-affidabbiltà tal-persuni fiżiċi abbażi tal-imġiba soċjali tagħhom f’diversi kuntesti jew abbażi ta’ karatteristiċi personali jew tal-personalità magħrufin jew imbassrin. Il-punteġġ soċjali miksub minn dawn is-sistemi tal-AI jista’ jwassal għal trattament detrimentali jew mhux favorevoli ta’ persuni fiżiċi jew ta’ gruppi sħaħ tagħhom f’kuntesti soċjali, li ma jkunux relatati mal-kuntest li fih kienet oriġinarjament iġġenerata jew inġabret id-data, jew għal trattament detrimentali sproporzjonat jew mhux ġustifikat għall-gravità tal-imġiba soċjali tagħhom. Għalhekk, jenħtieġ li sistemi tal-AI bħal dawn jiġu pprojbiti.

(18)L-użu tas-sistemi tal-AI għall-identifikazzjoni bijometrika remota “fil-ħin reali” ta’ persuni fiżiċi fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi jitqies partikolarment intrużiv għad-drittijiet u l-libertajiet tal-persuni kkonċernati, sal-punt li dan jista’ jaffettwa l-ħajja privata ta’ parti kbira tal-popolazzjoni, jevoka sentiment ta’ sorveljanza kostanti u indirettament jiddisswadi l-eżerċitar tal-libertà ta’ għaqda u ta’ drittijiet fundamentali oħra. Barra minn hekk, l-immedjatezza tal-impatt u l-opportunitajiet limitati għal aktar kontrolli jew korrezzjonijiet fir-rigward tal-użu ta’ dawn is-sistemi li joperaw “fil-ħin reali” jikkawżaw riskji akbar għad-drittijiet u l-libertajiet tal-persuni kkonċernati mill-attivitajiet tal-infurzar tal-liġi.

(19)Għalhekk, jenħtieġ li l-użu ta’ dawk is-sistemi għall-finijiet tal-infurzar tal-liġi jiġi pprojbit, għajr fi tliet sitwazzjonijiet elenkati b’mod eżawrjenti u definiti b’mod ristrett, meta l-użu hu strettament meħtieġ biex jinkiseb interess pubbliku sostanzjali li l-importanza tiegħu tisboq ir-riskji. Dawk is-sitwazzjonijiet jinvolvu t-tiftix għal vittmi potenzjali tal-kriminalità, inkluż tfal neqsin; ċerti theddidiet għall-ħajja jew għas-sikurezza fiżika ta’ persuni fiżiċi jew ta’ attakk terroristiku; u s-sejbien, il-lokalizzazzjoni, l-identifikazzjoni jew il-prosekuzzjoni ta’ awturi jew ta’ persuni suspettati tar-reati kriminali msemmija fid-Deċiżjoni Qafas tal-Kunsill 2002/584/ĠAI 38 jekk dawk ir-reati kriminali jkunu punibbli fl-Istat Membru kkonċernat b’piena li ċċaħħad il-libertà jew b’ordni ta’ detenzjoni għal perjodu massimu ta’ mill-inqas tliet snin u kif ikunu definiti fil-liġi ta’ dak l-Istat Membru. Dak il-limitu fil-piena li ċċaħħad il-libertà jew l-ordni ta’ detenzjoni f’konformità mal-liġi nazzjonali jikkontribwixxi biex jiżgura li r-reat jenħtieġ ikun serju biżżejjed biex potenzjalment jiġġustifika l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali”. Barra minn hekk, mit-32 reat kriminali elenkat fid-Deċiżjoni Qafas tal-Kunsill 2002/584/ĠAI, uħud aktarx li fil-prattika jkunu aktar rilevanti minn oħrajn, fis-sens li r-rikors għal identifikazzjoni bijometrika remota “fil-ħin reali” jkun prevedibbilment meħtieġ u proporzjonat sa gradi varji ħafna biex fil-prattika jkun hemm is-sejbien, il-lokalizzazzjoni, l-identifikazzjoni jew il-prosekuzzjoni ta’ awtur jew ta’ persuna suspettata bir-reati kriminali differenti elenkati u b’kunsiderazzjoni tad-differenzi probabbli fil-gravità, fil-probabbiltà u fl-iskala tad-dannu jew tal-konsegwenzi negattivi possibbli.

(20)Biex ikun żgurat li dawk is-sistemi jintużaw b’mod responsabbli u proporzjonat, hu importanti wkoll li jiġi stabbilit li, f’kull waħda minn dawk it-tliet sitwazzjonijiet elenkati b’mod eżawrjenti u definiti b’mod ristrett, jenħtieġ jitqiesu ċerti elementi, b’mod partikolari fir-rigward tan-natura tas-sitwazzjoni li twassal għat-talba u l-konsegwenzi tal-użu għad-drittijiet u għal-libertajiet tal-persuni kollha kkonċernati u s-salvagwardji u l-kundizzjonijiet previsti fl-użu. Barra minn hekk, jenħtieġ li l-użu tas-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi jkun soġġett għal limiti xierqa fiż-żmien u fl-ispazju, filwaqt li jitqiesu b’mod partikolari l-evidenza jew l-indikazzjonijiet dwar it-theddidiet, il-vittmi jew l-awtur. Jenħtieġ li l-bażi tad-data ta’ referenza tal-persuni tkun adattata għal kull każ ta’ użu f’kull waħda mit-tliet sitwazzjonijiet imsemmija hawn fuq.

(21)Jenħtieġ li kull użu tas-sistema tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi jkun soġġett għal awtorizzazzjoni espliċita u speċifika minn awtorità ġudizzjarja jew minn awtorità amministrattiva indipendenti ta’ Stat Membru. Jenħtieġ li, fil-prinċipju, din l-awtorizzazzjoni tinkiseb qabel l-użu, għajr f’sitwazzjonijiet ta’ urġenza debitament ġustifikati, jiġifieri, f’sitwazzjonijiet meta l-ħtieġa li jintużaw is-sistemi inkwistjoni tkun tali li tagħmilha effettivament u oġġettivament impossibbli li tinkiseb awtorizzazzjoni qabel ma jibda l-użu. F’sitwazzjonijiet ta’ urġenza bħal dawn, jenħtieġ li l-użu jkun ristrett għall-minimu assolut meħtieġ u jkun soġġett għal salvagwardji u għal kundizzjonijiet xierqa, kif determinati fil-liġi nazzjonali u speċifikati fil-kuntest ta’ kull każ individwali ta’ użu urġenti mill-awtorità tal-infurzar tal-liġi nnifisha. Barra minn hekk, jenħtieġ li f’sitwazzjonijiet bħal dawn l-awtorità tal-infurzar tal-liġi tfittex li tikseb awtorizzazzjoni mill-aktar fis possibbli, filwaqt li tipprovdi r-raġunijiet għalfejn ma setgħetx titlobha qabel.

(22)Barra minn hekk, jixraq li, fi ħdan il-qafas eżawrjenti stabbilit b’dan ir-Regolament, ikun previst li dan l-użu fit-territorju ta’ Stat Membru f’konformità ma’ dan ir-Regolament jeħtieġ ikun possibbli biss meta u sa fejn l-Istat Membru inkwistjoni jkun iddeċieda li jipprevedi b’mod espliċitu l-possibbiltà li jawtorizza dan l-użu fir-regoli dettaljati tiegħu tal-liġi nazzjonali. Għaldaqstant, l-Istati Membri huma liberi skont dan ir-Regolament li ma jipprevedu l-ebda possibbiltà bħal din jew li jipprevedu biss din il-possibbiltà fir-rigward ta’ wħud mill-objettivi li jistgħu jiġġustifikaw l-użu awtorizzat identifikat f’dan ir-Regolament.

(23)L-użu tas-sistemi tal-AI għall-identifikazzjoni bijometrika remota “fil-ħin reali” ta’ persuni fiżiċi fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi bilfors jinvolvi l-ipproċessar ta’ data bijometrika. Ir-regoli ta’ dan ir-Regolament li jipprojbixxu dan l-użu, soġġetta għal ċerti eċċezzjonijiet, u li huma bbażati fuq l-Artikolu 16 tat-TFUE, jenħtieġ japplikaw bħala lex specialis fir-rigward tar-regoli dwar l-ipproċessar tad-data bijometrika li jinsabu fl-Artikolu 10 tad-Direttiva (UE) 2016/680, u b’hekk jirregolaw dan l-użu u l-ipproċessar tad-data bijometrika involuta b’mod eżawrjenti. Għalhekk, jenħtieġ li dawn l-użu u l-ipproċessar ikunu possibbli biss sa fejn ikun kompatibbli mal-qafas stabbilit b’dan ir-Regolament, mingħajr ma jkun hemm ambitu, barra minn dak il-qafas, għall-awtoritajiet kompetenti, meta jaġixxu għall-finijiet ta’ infurzar tal-liġi, li jużaw dawn is-sistemi u jipproċessaw din id-data b’rabta magħhom abbażi tar-raġunijiet elenkati fl-Artikolu 10 tad-Direttiva (UE) 2016/680. F’dan il-kuntest, dan ir-Regolament mhux maħsub biex jipprovdi l-bażi ġuridika għall-ipproċessar ta’ data personali skont l-Artikolu 8 tad-Direttiva 2016/680. Madankollu, l-użu tas-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet oħra għajr l-infurzar tal-liġi, inkluż minn awtoritajiet kompetenti, jenħtieġ ma jkunx kopert mill-qafas speċifiku rigward dan l-użu għall-finijiet ta’ infurzar tal-liġi stabbilit b’dan ir-Regolament. Għalhekk, dan l-użu għal finijiet oħra għajr l-infurzar tal-liġi jenħtieġ ma jkunx soġġett għar-rekwiżit ta’ awtorizzazzjoni skont dan ir-Regolament u r-regoli dettaljati applikabbli tal-liġi nazzjonali li jistgħu jdaħħluh fis-seħħ.

(24)Kull ipproċessar tad-data bijometrika u ta’ data personali oħra involuta fl-użu tas-sistemi tal-AI għall-identifikazzjoni bijometrika, għajr b’rabta mal-użu tas-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi kif regolat b’dan ir-Regolament, inkluż meta dawk is-sistemi jintużaw mill-awtoritajiet kompetenti fi spazji aċċessibbli għall-pubbliku għal finijiet oħra għajr l-infurzar tal-liġi, jenħtieġ jibqgħu jikkonformaw mar-rekwiżiti kollha li jirriżultaw mill-Artikolu 9(1) tar-Regolament (UE) 2016/679, mill-Artikolu 10(1) tar-Regolament (UE) 2018/1725 u mill-Artikolu 10 tad-Direttiva (UE) 2016/680, skont kif ikun applikabbli.

(25)F’konformità mal-Artikolu 6a tal-Protokoll Nru 21 dwar il-pożizzjoni tar-Renju Unit u tal-Irlanda fir-rigward tal-ispazju ta’ libertà, sigurtà u ġustizzja, kif anness mat-TUE u mat-TFUE, l-Irlanda mhix marbuta bir-regoli stabbiliti fil-punt (d), (2) u (3) tal-Artikolu 5(1) ta’ dan ir-Regolament adottat abbażi tal-Artikolu 16 tat-TFUE relatati mal-ipproċessar tad-data personali mill-Istati Membri meta jwettqu attivitajiet li huma fil-kamp ta’ applikazzjoni tal-Kapitolu 4 jew tal-Kapitolu 5 tat-Titolu V tal-Parti Tlieta tat-TFUE, meta l-Irlanda mhix marbuta bir-regoli li jirregolaw il-forom ta’ kooperazzjoni ġudizzjarja f’materji kriminali jew ta’ kooperazzjoni tal-pulizija li jeħtieġu konformità mad-dispożizzjonijiet stabbiliti abbażi tal-Artikolu 16 tat-TFUE.

(26)F’konformità mal-Artikoli 2 u 2a tal-Protokoll Nru 22 dwar il-pożizzjoni tad-Danimarka, kif anness mat-TUE u mat-TFUE, id-Danimarka mhix marbuta bir-regoli stabbiliti fil-punt (d), (2) u (3) tal-Artikolu 5(1) ta’ dan ir-Regolament adottat abbażi tal-Artikolu 16 tat-TFUE, u lanqas mhi soġġetta għall-applikazzjoni tagħhom, relatati mal-ipproċessar tad-data personali mill-Istati Membri meta jwettqu l-attivitajiet li huma fil-kamp ta’ applikazzjoni tal-Kapitolu 4 jew tal-Kapitolu 5 tat-Titolu V tal-Parti Tlieta tat-TFUE.

(27)Is-sistemi tal-AI b’riskju kbir jenħtieġ jitqiegħdu fis-suq tal-Unjoni jew fis-servizz biss jekk ikunu konformi ma’ ċerti rekwiżiti obbligatorji. Jenħtieġ li dawk ir-rekwiżiti jiżguraw li s-sistemi tal-AI b’riskju kbir disponibbli fl-Unjoni jew li l-output tagħhom jintuża b’xi mod ieħor fl-Unjoni ma jkunux joħolqu riskji inaċċettabbli għal interessi pubbliċi importanti tal-Unjoni kif rikonoxxuti u mħarsa bil-liġi tal-Unjoni. Is-sistemi tal-AI identifikati li għandhom riskju kbir jenħtieġ ikunu limitati għal dawk li jħallu impatt dannuż sinifikanti fuq is-saħħa, fuq is-sikurezza u fuq id-drittijiet fundamentali tal-persuni fl-Unjoni u din il-limitazzjoni tnaqqas kemm jista’ jkun kull restrizzjoni potenzjali fuq il-kummerċ internazzjonali, jekk ikun hemm.

(28)Is-sistemi tal-AI jistgħu jipproduċu eżiti negattivi għas-saħħa u s-sikurezza tal-persuni, b’mod partikolari meta dawn is-sistemi jaħdmu bħala komponenti ta’ prodotti. B’mod konsistenti mal-objettivi tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni biex jiġi ffaċilitat il-moviment liberu tal-prodotti fis-suq intern u biex ikun żgurat li prodotti sikuri u konformi b’xi mod ieħor biss jitqiegħdu fis-suq, hu importanti li jiġu evitati u mmitigati kif xieraq ir-riskji għas-sikurezza li jistgħu jiġu ġġenerati minn prodott sħiħ minħabba l-komponenti diġitali tiegħu, inkluż sistemi tal-AI. Pereżempju, robots dejjem aktar awtonomi, sew fil-kuntest tal-manifattura u sew fil-kuntest tal-assistenza u l-kura personali, jenħtieġ ikunu jistgħu jitħaddmu b’mod sikur u jwettqu l-funzjonijiet tagħhom f’ambjenti kumplessi. Bl-istess mod, fis-settur tas-saħħa fejn l-interessi għall-ħajja u għas-saħħa huma partikolarment għoljin, jenħtieġ li s-sistemi dijanjostiċi dejjem aktar sofistikati u s-sistemi li jappoġġaw id-deċiżjonijiet umani jkunu affidabbli u eżatti. Il-firxa tal-impatt negattiv ikkawżat mis-sistema tal-AI fuq id-drittijiet fundamentali mħarsa mill-Karta għandha rilevanza partikolari meta sistema tal-AI tiġi kklassifikata li għandha riskju kbir. Dawk id-drittijiet jinkludu d-dritt għad-dinjità umana, ir-rispett għall-ħajja privata u tal-familja, il-protezzjoni tad-data personali, il-libertà tal-espressjoni u tal-informazzjoni, il-libertà ta’ għaqda u ta’ assoċjazzjoni, u n-nondiskriminazzjoni, il-protezzjoni tal-konsumatur, id-drittijiet tal-ħaddiema, id-drittijiet tal-persuni b’diżabbiltà, id-dritt għal rimedju effettiv u għal proċess imparzjali, id-dritt għad-difiża u l-preżunzjoni ta’ innoċenza, id-dritt għal amministrazzjoni tajba. Minbarra dawk id-drittijiet, hu importanti li jiġi enfasizzat li t-tfal għandhom drittijiet speċifiċi kif stabbiliti fl-Artikolu 24 tal-Karta tal-UE u fil-Konvenzjoni tan-Nazzjonijiet Uniti dwar id-Drittijiet tat-Tfal (elaborata aktar fil-Kumment Ġenerali Nru 25 tal-UNCRC fir-rigward tal-ambjent diġitali), li t-tnejn li huma jeħtieġu kunsiderazzjoni tal-vulnerabbiltajiet tat-tfal u l-għoti ta’ tali protezzjoni u kura kif meħtieġ għall-benesseri tagħhom. Id-dritt fundamentali għal livell għoli ta’ ħarsien ambjentali, kif stabbilit fil-Karta u implimentat fil-politiki tal-Unjoni, jenħtieġ jitqies ukoll waqt il-valutazzjoni tas-severità tad-dannu li sistema tal-AI tista’ tikkawża, inkluż rigward is-saħħa u s-sikurezza tal-persuni.

(29)Rigward is-sistemi tal-AI b’riskju kbir li huma komponenti tas-sikurezza ta’ prodotti jew ta’ sistemi, jew li huma stess huma prodotti jew sistemi li huma fil-kamp ta’ applikazzjoni tar-Regolament (KE) Nru 300/2008 tal-Parlament Ewropew u tal-Kunsill 39 , tar-Regolament (UE) Nru 167/2013 tal-Parlament Ewropew u tal-Kunsill 40 , tar-Regolament (UE) Nru 168/2013 tal-Parlament Ewropew u tal-Kunsill 41 , tad-Direttiva 2014/90/UE tal-Parlament Ewropew u tal-Kunsill 42 , tad-Direttiva (UE) 2016/797 tal-Parlament Ewropew u tal-Kunsill 43 , tar-Regolament (UE) 2018/858 tal-Parlament Ewropew u tal-Kunsill 44 , tar-Regolament (UE) 2018/1139 tal-Parlament Ewropew u tal-Kunsill 45 , u tar-Regolament (UE) 2019/2144 tal-Parlament Ewropew u tal-Kunsill 46 , jixraq li dawk l-atti jiġu emendati biex ikunżgurat li l-Kummissjoni tqis, abbażi tal-ispeċifiċitajiet tekniċi u regolatorji ta’ kull settur, u mingħajr ma tinterferixxi mal-mekkaniżmi u mal-awtoritajiet eżistenti ta’ governanza, ta’ valutazzjoni tal-konformità u ta’ infurzar stabbiliti fihom, ir-rekwiżiti obbligatorji għas-sistemi tal-AI b’riskju kbir stabbiliti f’dan ir-Regolament meta tadotta xi att delegat jew ta’ implimentazzjoni futur rilevanti abbażi ta’ dawk l-atti.

(30)Fir-rigward tas-sistemi tal-AI li huma komponenti tas-sikurezza ta’ prodotti, jew li huma stess huma prodotti, li huma fil-kamp ta’ applikazzjoni ta’ ċerta leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jixraq jiġu kklassifikati li għandhom riskju kbir skont dan ir-Regolament jekk il-prodott inkwistjoni ssirlu l-proċedura tal-valutazzjoni tal-konformità mwettqa minn korp terz tal-valutazzjoni tal-konformità skont dik il-leġiżlazzjoni rilevanti tal-Unjoni dwar l-armonizzazzjoni. B’mod partikolari, dawn il-prodotti huma makkinarju, ġugarelli, liftijiet, tagħmir u sistemi protettivi maħsuba għal użu f’ambjenti potenzjalment esplożivi, tagħmir tar-radju, apparat tal-pressa, tagħmir ta’ opri tal-baħar għar-rikreazzjoni, installazzjonijiet tal-funikular, apparati li jaħarqu fjuwils gassużi, apparati mediċi, u apparati mediċi dijanjostiċi in vitro.

(31)Jenħtieġ li l-klassifikazzjoni ta’ sistema tal-AI bħala li għandha riskju kbir skont dan ir-Regolament mhux bilfors tkun tfisser li l-prodott li l-komponent tas-sikurezza tiegħu jkun is-sistema tal-AI, jew is-sistema tal-AI stess bħala prodott, jitqiesu li għandhom “riskju kbir” skont il-kriterji stabbiliti fil-leġiżlazzjoni rilevanti tal-Unjoni dwar l-armonizzazzjoni li tapplika għall-prodott. Dan hu partikolarment il-każ għar-Regolament (UE) 2017/745 tal-Parlament Ewropew u tal-Kunsill 47 u għar-Regolament (UE) 2017/746 tal-Parlament Ewropew u tal-Kunsill 48 , meta ssir valutazzjoni tal-konformità minn parti terza għall-prodotti b’riskju medju u b’riskju kbir.

(32)Fir-rigward tas-sistemi awtonomi tal-AI, jiġifieri s-sistemi tal-AI b’riskju kbir għajr dawk li huma komponenti tas-sikurezza ta’ prodotti, jew li huma stess huma prodotti, jixraq jiġi klassifikat li għandhom riskju kbir jekk, fid-dawl tal-għan maħsub tagħhom, dawn jippreżentaw riskju kbir ta’ dannu għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali tal-bniedem, filwaqt li jitqiesu s-severità tad-dannu possibbli u l-probabbiltà li dan iseħħ, u jintużaw f’għadd ta’ oqsma speċifikament definiti minn qabel kif speċifikat fir-Regolament. L-identifikazzjoni ta’ dawk is-sistemi timxi bl-istess metodoloġija u kriterji previsti wkoll għal kwalunkwe emenda futura tal-lista tas-sistemi tal-AI b’riskju kbir.

(33)L-ineżattezzi tas-sistemi tal-AI maħsuba għall-identifikazzjoni bijometrika remota ta’ persuni fiżiċi jistgħu jwasslu għal riżultati preġudikati u jħallu effetti diskriminatorji. Dan hu partikolarment rilevanti fir-rigward tal-età, tal-etniċità, tal-ġeneru jew tad-diżabbiltà. Għaldaqstant, is-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” u “f’ħin aktar tard” jenħtieġ jiġu kklassifikati li għandhom riskju kbir. Fid-dawl tar-riskji li joħolqu, iż-żewġ tipi ta’ sistemi tal-identifikazzjoni bijometrika remota jenħtieġ ikunu soġġetti għal rekwiżiti speċifiċi dwar il-kapaċitajiet tal-illoggjar u s-sorveljanza umana.

(34)Fir-rigward tal-ġestjoni u t-tħaddim tal-infrastruttura kritika, jixraq li s-sistemi tal-AI maħsuba biex jintużaw bħala komponenti tas-sikurezza fil-ġestjoni u t-tħaddim tat-traffiku tat-triq u fil-provvista tal-ilma, tal-gass, tat-tisħin u tal-elettriku jiġu kklassifikati li għandhom riskju kbir, għax il-falliment jew il-funzjonament ħażin fihom jistgħu jqiegħdu f’riskju l-ħajja u s-saħħa tal-persuni fuq skala kbira u jwasslu għal tfixkil sinifikanti fl-eżekuzzjoni ordinarja tal-attivitajiet soċjali u ekonomiċi.

(35)Is-sistemi tal-AI użati fl-edukazzjoni jew it-taħriġ vokazzjonali, b’mod partikolari għad-determinazzjoni tal-aċċess jew għall-assenjazzjoni ta’ persuni f’istituzzjonijiet edukattivi u tat-taħriġ vokazzjonali jew għall-evalwazzjoni ta’ persuni b’testijiet bħala parti mill-edukazzjoni tagħhom jew bħala prekundizzjoni għal din, jenħtieġ jitqiesu li għandhom riskju kbir għax jistgħu jiddeterminaw il-kors edukattiv u professjonali tal-ħajja ta’ persuna u għalhekk jaffettwaw l-abbiltà tagħhom li jiżguraw l-għajxien tagħhom. Meta jitfasslu u jintużaw b’mod mhux xieraq, dawn is-sistemi jistgħu jiksru d-dritt għal edukazzjoni u taħriġ, u d-dritt ta’ nondiskriminazzjoni u jkattru mudelli storiċi ta’ diskriminazzjoni.

(36)Anki s-sistemi tal-AI użati fl-impjiegi, fil-ġestjoni tal-ħaddiema u fl-aċċess għal impjieg indipendenti, b’mod partikolari għar-reklutaġġ u għall-għażla tal-persuni, għat-teħid ta’ deċiżjonijiet dwar il-promozzjoni u t-terminazzjoni u għall-allokazzjoni tal-kompiti, għall-monitoraġġ jew għall-evalwazzjoni tal-persuni f’relazzjonijiet kuntrattwali relatati max-xogħol, jenħtieġ jiġu kklassifikati li għandhom riskju kbir għax jistgħu jaffettwaw b’mod sinifikanti l-prospetti futuri tal-karriera u tal-għajxien ta’ dawk il-persuni. Jenħtieġ li r-relazzjonijiet kuntrattwali rilevanti relatati max-xogħol ikunu jinvolvu lill-impjegati u lill-persuni li jipprovdu servizzi permezz ta’ pjattaformi kif imsemmi fil-Programm ta’ Ħidma 2021 tal-Kummissjoni. Jenħtieġ li, fil-prinċipju, dawn il-persuni ma jitqisux bħala utenti skont it-tifsira ta’ dan ir-Regolament. Tul il-proċess tar-reklutaġġ u fl-evalwazzjoni, fil-promozzjoni, jew fiż-żamma ta’ persuni f’relazzjonijiet kuntrattwali relatati max-xogħol, dawn is-sistemi jistgħu jkattru mudelli storiċi ta’ diskriminazzjoni, pereżempju kontra n-nisa, ċerti gruppi ta’ età, persuni b’diżabbiltà, jew persuni ta’ ċerta oriġini razzjali jew etnika jew orjentazzjoni sesswali. Is-sistemi tal-AI użati għall-monitoraġġ tal-prestazzjoni u tal-imġiba ta’ dawn il-persuni jistgħu jħallu impatt ukoll fuq id-drittijiet tagħhom għal protezzjoni tad-data u privatezza.

(37)Qasam ieħor li fih l-użu tas-sistemi tal-AI jixirqilhom kunsiderazzjoni speċjali hu l-aċċess għal ċerti servizzi u benefiċċji privati u pubbliċi essenzjali u t-tgawdija ta’ dawn is-servizzi u l-benefiċċji meħtieġa biex in-nies jipparteċipaw bis-sħiħ fis-soċjetà jew biex itejbu l-istandard tal-għajxien tagħhom. B’mod partikolari, is-sistemi tal-AI użati bħala sistema ta’ evalwazzjoni ta’ kreditu jew għall-evalwazzjoni tal-affidabbiltà kreditizja ta’ xi persuni fiżiċi jenħtieġ jiġu kklassifikati li għandhom riskju kbir għax dawn jiddeterminaw l-aċċess ta’ dawk il-persuni għal riżorsi finanzjarji jew għal servizzi essenzjali bħal akkomodazzjoni, elettriku, u servizzi tat-telekomunikazzjoni. Is-sistemi tal-AI użati għal dan il-għan jistgħu jikkawżaw diskriminazzjoni ta’ persuni jew ta’ gruppi u jkattru mudelli storiċi ta’ diskriminazzjoni, pereżempju bbażati fuq l-oriġini razzjali jew etnika, diżabbiltà, l-età, l-orjentazzjoni sesswali, jew joħolqu forom ġodda ta’ impatti diskriminatorji. Meta jitqiesu l-iskala limitata ħafna tal-impatt u l-alternattivi disponibbli fis-suq, jixraq li s-sistemi tal-AI jiġu eżentati għall-finijiet ta’ valutazzjoni tal-affidabbiltà kreditizja u ta’ evalwazzjoni ta’ kreditu meta jitqiegħdu fis-servizz minn fornituri fuq skala żgħira għall-użu tagħhom stess. Il-persuni fiżiċi li japplikaw għal jew li jirċievu benefiċċji u servizzi ta’ assistenza pubblika mill-awtoritajiet pubbliċi, tipikament ikunu dipendenti fuq dawk il-benefiċċji u s-servizzi u f’pożizzjoni vulnerabbli fir-rigward tal-awtoritajiet responsabbli. Jekk is-sistemi tal-AI jintużaw biex jiġi determinat jekk dawn il-benefiċċji u s-servizzi jenħtieġx jiċċaħħdu, jitnaqqsu, jitneħħew jew jittieħdu lura mill-awtoritajiet, dawn jistgħu jħallu impatt sinifikanti fuq l-għajxien tal-persuni u jistgħu jiksru d-drittijiet fundamentali tagħhom, bħad-dritt għal protezzjoni soċjali, ta’ nondiskriminazzjoni, id-dinjità umana jew għal rimedju effettiv. Għalhekk, jenħtieġ li dawk is-sistemi jiġu kklassifikati li għandhom riskju kbir. Madankollu, jenħtieġ li dan ir-Regolament ma jfixkilx l-iżvilupp u l-użu ta’ approċċi innovattivi fl-amministrazzjoni pubblika, li jkunu jistgħu jibbenefikaw minn użu aktar mifrux ta’ sistemi tal-AI konformi u sikuri, diment li dawk is-sistemi ma jkunux jinvolvu riskju kbir għall-persuni ġuridiċi u fiżiċi. Fl-aħħar nett, jenħtieġ li anki s-sistemi tal-AI użati biex tintbagħat jew tiġi stabbilita prijorità fid-dispaċċ ta’ servizzi tal-ewwel rispons ta’ emerġenza jiġu kklassifikati li għandhom riskju kbir għax dawn jieħdu deċiżjonijiet f’sitwazzjonijiet kritiċi ħafna għall-ħajja u għas-saħħa tal-persuni u għall-proprjetà tagħhom.

(38)L-azzjonijiet tal-awtoritajiet tal-infurzar tal-liġi li jinvolvu ċerti użi tas-sistemi tal-AI huma kkaratterizzati minn grad sinifikanti ta’ żbilanċ tal-poter u jistgħu jwasslu għal sorveljanza, għal arrest jew għal ċaħda tal-libertà ta’ persuna fiżika u għal impatti negattivi oħra fuq id-drittijiet fundamentali mħarsa mill-Karta. B’mod partikolari, jekk is-sistema tal-AI ma tkunx imħarrġa b’data ta’ kwalità għolja, ma tkunx tissodisfa rekwiżiti adegwati mil-lat ta’ eżattezza jew robustezza tagħha, jew ma tkunx imfassla u ttestjata kif xieraq qabel ma titqiegħed fis-suq jew titqiegħed fis-servizz b’xi mod ieħor, din tista’ tindividwa persuni b’mod diskriminatorju jew b’mod skorrett jew inġust. Barra minn hekk, l-eżerċitar ta’ drittijiet fundamentali proċedurali importanti, bħad-dritt għal rimedju effettiv u għal proċess ġust kif ukoll id-dritt għal difiża u l-preżunzjoni tal-innoċenza, jista’ jitfixkel, b’mod partikolari, meta dawn is-sistemi tal-AI ma jkunux trasparenti, spjegabbli u dokumentati biżżejjed. Għalhekk, dawn is-sistemi tal-AI maħsubin biex jintużaw fil-kuntest tal-infurzar tal-liġi jixraq jiġu kklassifikati li għandhom riskju kbir, meta l-eżattezza, l-affidabbiltà u t-trasparenza jkunu partikolarment importanti biex jiġu evitati impatti negattivi, tinżamm il-fiduċja pubblika u jiġu żgurati l-akkontabbiltà u rimedju effettiv. Fid-dawl tan-natura tal-attivitajiet inkwistjoni u tar-riskji relatati magħhom, jenħtieġ li dawk is-sistemi tal-AI b’riskju kbir jinkludu b’mod partikolari s-sistemi tal-AI maħsubin biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi għal valutazzjonijiet tar-riskju individwali, għal poligrafi u għal għodod simili jew biex jiġi identifikat l-istat emozzjonali ta’ persuna fiżika, biex jiġu identifikati “deep fakes”, għall-evalwazzjoni tal-affidabbiltà tal-provi fi proċedimenti kriminali, għal previżjoni ta’ okkorrenza jew riokkorrenza ta’ reat kriminali attwali jew potenzjali abbażi ta’ profilar ta’ persuni fiżiċi, jew għall-valutazzjoni tal-aspetti u tal-karatteristiċi tal-personalità jew tal-imġiba kriminali fil-passat ta’ persuni fiżiċi jew ta’ gruppi, għall-profilar waqt is-sejbien, l-investigazzjoni jew il-prosekuzzjoni ta’ reati kriminali, kif ukoll għall-analitika tal-kriminalità fir-rigward ta’ persuni fiżiċi. Jenħtieġ li s-sistemi tal-AI maħsubin speċifikament biex jintużaw għal proċedimenti amministrattivi mill-awtoritajiet tat-taxxa u tad-dwana ma jitqisux bħala sistemi tal-AI b’riskju kbir użati mill-awtoritajiet tal-infurzar tal-liġi għall-finijiet ta’ prevenzjoni, ta’ sejbien, ta’ investigazzjoni u ta’ prosekuzzjoni ta’ reati kriminali. 

(39)Is-sistemi tal-AI użati fil-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll tal-fruntieri jaffettwaw lil persuni li spiss ikunu f’pożizzjoni partikolarment vulnerabbli u li jiddependu fuq l-eżitu tal-azzjonijiet tal-awtoritajiet pubbliċi kompetenti. Għalhekk, l-eżattezza, in-natura nondiskriminatorja u t-trasparenza tas-sistemi tal-AI użati f’dawk il-kuntesti huma partikolarment importanti biex ikun żgurat ir-rispett tad-drittijiet fundamentali tal-persuni affettwati, b’mod partikolari d-drittijiet tagħhom ta’ moviment liberu, ta’ nondiskriminazzjoni, ta’ protezzjoni tal-ħajja privata u ta’ data personali, ta’ protezzjoni internazzjonali u ta’ amministrazzjoni tajba. Għalhekk jixraq jiġu kklassifikati li għandhom riskju kbir, dawk is-sistemi maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti inkarigati b’kompiti fl-oqsma tal-migrazzjoni, tal-ażil u tal-ġestjoni tal-kontroll fil-fruntieri bħal poligrafi u għodod simili jew biex jidentifikaw l-istat emozzjonali ta’ persuna fiżika; għall-valutazzjoni ta’ ċerti riskji ppreżentati minn persuni fiżiċi li jidħlu fit-territorju ta’ Stat Membru jew li japplikaw għal viża jew għal ażil;għall-verifika tal-awtentiċità tad-dokumenti rilevanti ta’ persuni fiżiċi; għall-assistenza lill-awtoritajiet pubbliċi kompetenti għall-eżaminar tal-applikazzjonijiet għal ażil, għal viża u għal permessi ta’ residenza u tal-ilmenti assoċjati fir-rigward tal-objettiv li tiġi stabbilita l-eliġibbiltà ta’ persuni fiżiċi li japplikaw għal status. Jenħtieġ li s-sistemi tal-AI fil-qasam tal-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll fil-fruntieri koperti b’dan ir-Regolament ikunu konformi mar-rekwiżiti proċedurali rilevanti stabbiliti mid-Direttiva 2013/32/UE tal-Parlament Ewropew u tal-Kunsill 49 , mir-Regolament (KE) Nru 810/2009 tal-Parlament Ewropew u tal-Kunsill 50 u minn leġiżlazzjoni rilevanti oħra.

(40)Jenħtieġ li ċerti sistemi tal-AI maħsubin għall-amministrazzjoni tal-ġustizzja u għall-proċessi demokratiċi jiġu kklassifikati li għandhom riskju kbir, meta jitqies l-impatt potenzjalment sinifikanti tagħhom fuq id-demokrazija, fuq l-istat tad-dritt, fuq il-libertajiet individwali u fuq id-dritt għal rimedju effettiv u għal proċess imparzjali. B’mod partikolari, biex jiġu indirizzati r-riskji ta’ preġudizzji, ta’ erruri u ta’ opaċità potenzjali, jixraq li s-sistemi maħsubin biex jgħinu lill-awtoritajiet ġudizzjarji fir-riċerka u fl-interpretazzjoni tal-fatti u tal-liġi u fl-applikazzjoni tal-liġi għal sett konkret ta’ fatti, jikkwalifikaw bħala sistemi tal-AI b’riskju kbir. Madankollu, jenħtieġ li din il-kwalifika ma testendix għal sistemi tal-AI maħsuba għal attivitajiet amministrattivi purament anċillari li ma jaffettwawx l-amministrazzjoni attwali tal-ġustizzja f’każijiet individwali, bħall-anonimizzazzjoni jew il-psewdonimizzazzjoni ta’ deċiżjonijiet ġudizzjarji, ta’ dokumenti jew ta’ data, il-komunikazzjoni bejn il-persunal, il-kompiti amministrattivi jew l-allokazzjoni ta’ riżorsi.

(41)Jenħtieġ li l-fatt li sistema tal-AI tiġi kklassifikata li għandha riskju kbir skont dan ir-Regolament ma jiġix interpretat bħala indikatur li l-użu tas-sistema jkun legali biss skont atti oħra tal-liġi tal-Unjoni jew skont il-liġi nazzjonali kompatibbli mal-liġi tal-Unjoni, bħal dwar il-protezzjoni tad-data personali, dwar l-użu tal-poligrafi u ta’ għodod simili jew ta’ sistemi oħra biex jiġi identifikat l-istat emozzjonali ta’ persuni fiżiċi. Jenħtieġ li kull użu bħal dan ikompli għaddej biss meta jikkonforma mar-rekwiżiti applikabbli li jirriżultaw mill-Karta u mill-atti applikabbli tal-liġi sekondarja tal-Unjoni u tal-liġi nazzjonali. Jenħtieġ li dan ir-Regolament ma jinftehemx li jipprovdi l-bażi legali għall-ipproċessar tad-data personali, inkluż kategoriji speċjali ta’ data personali, meta rilevanti.

(42)Biex jittaffew ir-riskji tas-sistemi tal-AI b’riskju kbir imqiegħda fis-suq tal-Unjoni jew imqiegħda fis-servizz b’xi mod ieħor għall-utenti u l-persuni affettwati, jenħtieġ ikunu japplikaw ċerti rekwiżiti obbligatorji, filwaqt li jitqies l-għan maħsub tal-użu tas-sistema u skont is-sistema ta’ ġestjoni tar-riskju li jrid jistabbilixxi l-fornitur.

(43)Jenħtieġ li r-rekwiżiti applikabbli għas-sistemi tal-AI b’riskju kbir fir-rigward tal-kwalità tas-settijiet tad-data użati, id-dokumentazzjoni teknika u ż-żamma tar-rekords, it-trasparenza u l-għoti tal-informazzjoni lill-utenti, is-sorveljanza umana, u r-robustezza, l-eżattezza u ċ-ċibersigurtà. Dawk ir-rekwiżiti huma meħtieġa biex itaffu b’mod effettiv ir-riskji għas-saħħa u s-sikurezza u għad-drittijiet fundamentali, kif applikabbli fid-dawl tal-għan maħsub tas-sistema, u l-ebda miżura oħra anqas restrittiva għall-kummerċ ma tkun raġonevolment disponibbli, u b’hekk jiġu evitati restrizzjonijiet mhux ġustifikati għall-kummerċ.

(44)Il-kwalità għolja tad-data hi essenzjali għall-prestazzjoni ta’ ħafna sistemi tal-AI, speċjalment meta jintużaw tekniki li jinvolvu t-taħriġ tal-mudelli, biex ikun żgurat li s-sistema tal-AI b’riskju kbir taħdem kif suppost u b’mod sikur u ma ssirx is-sors ta’ diskriminazzjoni pprojbita mil-liġi tal-Unjoni. Settijiet tad-data għal taħriġ, validazzjoni u ttestjar ta’ kwalità għolja jeħtieġu l-implimentazzjoni ta’ prattiki xierqa ta’ governanza u ġestjoni tad-data. Jenħtieġ li s-settijiet tad-data għal taħriġ, validazzjoni u ttestjar ikunu rilevanti biżżejjed, rappreżentattivi u mingħajr erruri u kompluti fid-dawl tal-għan maħsub tas-sistema. Jenħtieġ li jkollhom ukoll il-proprjetajiet statistiċi xierqa, inkluż fir-rigward tal-persuni jew tal-gruppi ta’ persuni li fuqhom tkun maħsuba li tintuża s-sistema tal-AI b’riskju kbir. B’mod partikolari, jenħtieġ li s-settijiet tad-data għal taħriġ, validazzjoni u ttestjar ikunu jqisu, sa fejn ikun meħtieġ fid-dawl tal-għan maħsub tagħhom, il-karatteristiċi jew l-elementi partikolari għall-ambjent jew għall-kuntest ġeografiku, komportamentali jew funzjonali speċifiku li fih tkun maħsuba li tintuża s-sistema tal-AI. Biex jitħares id-dritt ta’ ħaddieħor minn diskriminazzjoni li tista’ tirriżulta mill-preġudizzju fis-sistemi tal-AI, jenħtieġ li l-fornituri jkunu jistgħu jipproċessaw ukoll kategoriji speċjali ta’ data personali, bħala kwistjoni ta’ interess pubbliku sostanzjali, biex ikunu żgurati l-monitoraġġ, id-detezzjoni u l-korrezzjoni tal-preġudizzji fir-rigward tas-sistemi tal-AI b’riskju kbir.

(45)Għall-iżvilupp ta’ sistemi tal-AI b’riskju kbir, jenħtieġ li ċerti atturi, bħal fornituri, korpi notifikati u entitajiet rilevanti oħra, bħaċ-ċentri tal-innovazzjoni diġitali, il-faċilitajiet tal-esperimentazzjoni u ttestjar, u r-riċerkaturi, ikunu jistgħu jaċċessaw u jużaw settijiet tad-data ta’ kwalità għolja fl-oqsma tal-attivitajiet rispettivi tagħhom relatati ma’ dan ir-Regolament. L-ispazji komuni Ewropej tad-data stabbiliti mill-Kummissjoni u l-faċilitazzjoni tal-kondiviżjoni tad-data bejn in-negozji u mal-gvern fl-interess pubbliku se jkunu strumentali biex jipprovdu aċċess affidabbli, responsabbli u nondiskriminatorju għal data ta’ kwalità għolja għal taħriġ, validazzjoni u ttestjar tas-sistemi tal-AI. Pereżempju, fil-qasam tas-saħħa, l-ispazju Ewropew tad-data dwar is-saħħa se jiffaċilita aċċess nondiskriminatorju għal data dwar is-saħħa u t-taħriġ ta’ algoritmi tal-intelliġenza artifiċjali abbażi ta’ dawk is-settijiet tad-data, b’mod li jiżgura l-privatezza, sigur, fil-ħin, trasparenti u affidabbli, u b’governanza istituzzjonali xierqa. L-awtoritajiet kompetenti rilevanti, inkluż dawk settorjali, li jipprovdu jew jappoġġaw l-aċċess għad-data, jistgħu jappoġġaw ukoll il-forniment tad-data ta’ kwalità għolja għal taħriġ, validazzjoni u ttestjar tas-sistemi tal-AI.

(46)Hu essenzjali li jkun hemm informazzjoni dwar kif ġew żviluppati s-sistemi tal-AI b’riskju kbir u dwar il-prestazzjoni tagħhom tul iċ-ċiklu tal-ħajja tagħhom biex tiġi verifikata l-konformità mar-rekwiżiti skont dan ir-Regolament. Għal dan il-għan, hemm bżonn jinżammu rekords, u jkun hemm disponibbiltà ta’ dokumentazzjoni teknika bl-informazzjoni meħtieġa biex tiġi vvalutata l-konformità tas-sistema tal-AI mar-rekwiżiti rilevanti. Jenħtieġ li din l-informazzjoni tkun tinkludi l-karatteristiċi ġenerali, il-kapaċitajiet u l-limitazzjonijiet tas-sistema, tal-algoritmi, tad-data, tat-taħriġ, tal-ittestjar u tal-proċessi ta’ validazzjoni użati kif ukoll dokumentazzjoni dwar is-sistema rilevanti tal-ġestjoni tar-riskji. Jenħtieġ li d-dokumentazzjoni teknika tinżamm aġġornata.

(47)Biex tiġi indirizzata l-opaċità li tista’ tagħmel ċerti sistemi tal-AI inkomprensibbli għal persuni fiżiċi jew kumplessa wisq għalihom, jenħtieġ jintalab ċertu grad ta’ trasparenza fejn jidħlu s-sistemi tal-AI b’riskju kbir. Jenħtieġ li l-utenti jkunu jistgħu jinterpretaw l-output tas-sistema u jużawh kif xieraq. Għalhekk, jenħtieġ li mas-sistemi tal-AI b’riskju kbir jinhemżu dokumentazzjoni u struzzjonijiet rilevanti tal-użu b’informazzjoni konċiża u ċara, inkluż fir-rigward tar-riskji possibbli għad-drittijiet fundamentali u ta’ diskriminazzjoni, meta xieraq.

(48)Jenħtieġ li s-sistemi tal-AI b’riskju kbir jitfasslu u jiġu żviluppati b’tali mod li l-persuni fiżiċi jkunu jistgħu jissorveljaw il-funzjonament tagħhom. Għal dan il-għan, jenħtieġ li l-fornitur tas-sistema jidentifika miżuri xierqa ta’ sorveljanza umana qabel ma titqiegħed fis-suq jew fis-servizz. B’mod partikolari, meta xieraq, jenħtieġ li dawn il-miżuri jkunu jiżguraw li s-sistema tkun soġġetta għal restrizzjonijiet operazzjonali inkorporati li ma jistgħux jitwarrbu mis-sistema nnifisha u li tkun risponsiva għall-operatur uman, u li l-persuni fiżiċi li lilhom tkun ġiet assenjata sorveljanza umana jkollhom il-kompetenza, it-taħriġ u l-awtorità meħtieġa biex jaqdu dak ir-rwol.

(49)Jenħtieġ li s-sistemi tal-AI b’riskju kbir jaħdmu b’mod konsistenti tul iċ-ċiklu tal-ħajja tagħhom u jissodisfaw livell xieraq ta’ eżattezza, robustezza u ċibersigurtà f’konformità mal-aħħar avvanzi rikonoxxuti b’mod ġenerali. Jenħtieġ li l-livell ta’ eżattezza u l-metrika tal-eżattezza jiġu kkomunikati lill-utenti.

(50)Ir-robustezza teknika hi rekwiżit ewlieni għas-sistemi tal-AI b’riskju kbir. Jenħtieġ ikunu reżiljenti kontra r-riskji konnessi mal-limitazzjonijiet tas-sistema (eż. erruri, ħsarat, inkonsistenzi, sitwazzjonijiet mhux mistennija) kif ukoll kontra azzjonijiet malizzjużi li jistgħu jikkompromettu s-sigurtà tas-sistema tal-AI u jikkawżaw imġiba dannuża jew mhux mixtieqa. In-nuqqas ta’ protezzjoni kontra dawn ir-riskji jista’ jwassal għal impatti fuq is-sikurezza jew jaffettwa ħażin id-drittijiet fundamentali, pereżempju minħabba deċiżjonijiet żbaljati jew outputs ħżiena jew preġudikati ġġenerati mis-sistema tal-AI.

(51)Iċ-ċibersigurtà taqdi rwol kruċjali biex ikunu żgurati sistemi tal-AI reżiljenti kontra tentattivi biex jinbidlu l-użu, l-imġiba jew il-prestazzjoni tal-proprjetajiet tas-sigurtà tagħhom jew li dawn il-proprjetajiet jiġu kompromessi minn partijiet terzi malizzjużi li jisfruttaw il-vulnerabbiltajiet tas-sistema. Iċ-ċiberattakki kontra s-sistemi tal-AI jistgħu jingranaw assi speċifiċi għall-AI, bħal settijiet tad-data għal taħriġ (eż. avvelenament tad-data) jew mudelli mħarrġin (eż. attakki avversarjali), jew jisfruttaw vulnerabbiltajiet fl-assi diġitali tas-sistema tal-AI jew fl-infrastruttura sottostanti tal-ICT. Għalhekk, biex ikun żgurat livell taċ-ċibersigurtà xieraq għar-riskji, il-fornituri tas-sistemi tal-AI b’riskju kbir jenħtieġ jieħdu l-miżuri xierqa filwaqt li jqisu wkoll kif xieraq l-infrastruttura sottostanti tal-ICT.

(52)Bħala parti mil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, ir-regoli applikabbli għat-tqegħid fis-suq, għat-tqegħid fis-servizz u għall-użu tas-sistemi tal-AI b’riskju kbir jenħtieġ jiġu stabbiliti b’mod konsistenti mar-Regolament (KE) Nru 765/2008 tal-Parlament Ewropew u tal-Kunsill 51 li jistabbilixxi r-rekwiżiti għall-akkreditament u s-sorveljanza tas-suq tal-prodotti, mad-Deċiżjoni Nru 768/2008/KE tal-Parlament Ewropew u tal-Kunsill 52 dwar qafas komuni għall-kummerċjalizzazzjoni tal-prodotti u mar-Regolament (UE) 2019/1020 tal-Parlament Ewropew u tal-Kunsill 53 dwar is-sorveljanza tas-suq u l-konformità tal-prodotti (il-“Qafas Leġiżlattiv il-Ġdid għall-kummerċjalizzazzjoni tal-prodotti”).

(53)Jixraq li persuna fiżika jew ġuridika speċifika, definita bħala l-fornitur, tieħu r-responsabbiltà għat-tqegħid fis-suq jew għat-tqegħid fis-servizz ta’ sistema tal-AI b’riskju kbir, irrispettivament minn jekk dik il-persuna fiżika jew ġuridika tkunx il-persuna li ddisinjat jew żviluppat is-sistema.

(54)Jenħtieġ li l-fornitur jistabbilixxi sistema soda għall-ġestjoni tal-kwalità, jiżgura t-twettiq tal-proċedura meħtieġa tal-valutazzjoni tal-konformità, ifassal id-dokumentazzjoni rilevanti u jistabbilixxi sistema soda ta’ sorveljanza ta’ wara t-tqegħid fis-suq. L-awtoritajiet pubbliċi li jqiegħdu fis-servizz sistemi tal-AI b’riskju kbir għall-użu tagħhom stess jistgħu jadottaw u jimplimentaw ir-regoli għas-sistema tal-ġestjoni tal-kwalità bħala parti mis-sistema tal-ġestjoni tal-kwalità adottata fil-livell nazzjonali jew reġjonali, kif xieraq, filwaqt li jqisu l-ispeċifiċitajiet tas-settur u l-kompetenzi u l-organizzazzjoni tal-awtorità pubblika inkwistjoni.

(55)Meta sistema tal-AI b’riskju kbir li tkun komponent tas-sikurezza ta’ prodott li jkun kopert mil-leġiżlazzjoni settorjali tal-Qafas Leġiżlattiv il-Ġdid rilevanti, ma titqegħedx fis-suq jew titqegħedx fis-servizz indipendentement mill-prodott, il-manifattur tal-prodott finali kif definit skont il-leġiżlazzjoni rilevanti tal-Qafas Leġiżlattiv il-Ġdid jenħtieġ jikkonforma mal-obbligi tal-fornitur stabbilit f’dan ir-Regolament u b’mod partikolari jiżgura li s-sistema tal-AI inkorporata fil-prodott finali tikkonforma mar-rekwiżiti ta’ dan ir-Regolament.

(56)Biex ikun jista’ jiġi infurzat dan ir-Regolament u jinħolqu kundizzjonijiet ekwi għall-operaturi, u filwaqt li jitqiesu l-forom differenti ta’ tqegħid għad-dispożizzjoni tal-prodotti diġitali, hu importanti li jkun żgurat li, fiċ-ċirkostanzi kollha, persuna stabbilita fl-Unjoni tkun tista’ tipprovdi l-informazzjoni kollha meħtieġa lill-awtoritajiet dwar il-konformità tas-sistema tal-AI. Għalhekk, qabel ma jagħmlu s-sistemi tal-AI tagħhom disponibbli fl-Unjoni, meta importatur ma jkunx jista’ jiġi identifikat, il-fornituri stabbiliti barra mill-Unjoni għandhom, b’mandat bil-miktub, jaħtru rappreżentant awtorizzat stabbilit fl-Unjoni.

(57)F’konformità mal-prinċipji tal-Qafas Leġiżlattiv il-Ġdid, jenħtieġ jiġu stabbiliti obbligi speċifiċi għall-operaturi ekonomiċi rilevanti, bħall-importaturi u d-distributuri, biex tkun żgurata ċ-ċertezza legali u tiġi ffaċilitata l-konformità regolatorja minn dawk l-operaturi rilevanti.

(58)Minħabba n-natura tas-sistemi tal-AI u r-riskji għas-sikurezza u għad-drittijiet fundamentali assoċjati possibbilment mal-użu tagħhom, inkluż fir-rigward tal-ħtieġa li jkun żgurat monitoraġġ xieraq tal-prestazzjoni tas-sistema tal-AI f’ambjent tal-ħajja reali, jixraq jiġu stabbiliti responsabbiltajiet speċifiċi għall-utenti. B’mod partikolari, l-utenti jenħtieġ jużaw sistemi tal-AI b’riskju kbir f’konformità mal-istruzzjonijiet tal-użu u jenħtieġ jiġu previsti ċerti obbligi oħra fir-rigward tal-monitoraġġ tal-funzjonament tas-sistemi tal-AI u fir-rigward taż-żamma tar-rekords, kif xieraq.

(59)Jixraq jiġi previst li l-utent tas-sistema tal-AI jenħtieġ ikun il-persuna fiżika jew ġuridika, awtorità pubblika, aġenzija jew korp ieħor li fl-awtorità tiegħu titħaddem is-sistema tal-AI għajr meta l-użu jsir waqt attività personali mhux professjonali.

(60)Fid-dawl tal-kumplessità tal-katina tal-valur tal-intelliġenza artifiċjali, partijiet terzi rilevanti, b’mod partikolari dawk involuti fil-bejgħ u fil-forniment ta’ software, għodod u komponenti tas-software, mudelli mħarrġa minn qabel u data, jew il-fornituri tas-servizzi tan-network, jenħtieġ jikkooperaw, kif xieraq, mal-fornituri u l-utenti biex jiffaċilitaw il-konformità tagħhom mal-obbligi skont dan ir-Regolament u mal-awtoritajiet kompetenti stabbiliti skont dan ir-Regolament.

(61)Jenħtieġ li l-istandardizzazzjoni taqdi rwol ewlieni biex tipprovdi soluzzjonijiet tekniċi lill-fornituri ħalli tkun żgurata l-konformità ma’ dan ir-Regolament. Jenħtieġ li l-konformità mal-istandards armonizzati kif definiti fir-Regolament (UE) Nru 1025/2012 tal-Parlament Ewropew u tal-Kunsill 54 tkun mezz biex il-fornituri juru l-konformità mar-rekwiżiti ta’ dan ir-Regolament. Madankollu, il-Kummissjoni tista’ tadotta speċifikazzjonijiet tekniċi komuni f’oqsma fejn ma jeżistux standards armonizzati jew fejn dawn ma jkunux biżżejjed.

(62)Biex ikun żgurat livell għoli ta’ affidabbiltà tas-sistemi tal-AI b’riskju kbir, jenħtieġ li dawk is-sistemi jkunu soġġetti għal valutazzjoni tal-konformità qabel ma jitqiegħdu fis-suq jew fis-servizz.

(63)Jixraq li, biex jitnaqqas kemm jista’ jkun il-piż fuq l-operaturi u tkun evitata duplikazzjoni possibbli, għas-sistemi tal-AI b’riskju kbir relatati ma’ prodotti koperti bil-leġiżlazzjoni eżistenti tal-Unjoni dwar l-armonizzazzjoni skont l-approċċ tal-Qafas Leġiżlattiv il-Ġdid, jenħtieġ li l-konformità ta’ dawk is-sistemi tal-AI mar-rekwiżiti ta’ dan ir-Regolament tiġi vvalutata bħala parti mill-valutazzjoni tal-konformità diġà prevista skont dik il-leġiżlazzjoni. Għalhekk, l-applikabbiltà tar-rekwiżiti ta’ dan ir-Regolament jenħtieġ ma taffettwax il-loġika, il-metodoloġija jew l-istruttura ġenerali speċifika tal-valutazzjoni tal-konformità skont il-leġiżlazzjoni speċifika rilevanti tal-Qafas Leġiżlattiv il-Ġdid. Dan l-approċċ hu rifless għalkollox fl-interazzjoni bejn dan ir-Regolament [u r-Regolament dwar il-Makkinarju]. Filwaqt li r-riskji għas-sikurezza tas-sistemi tal-AI li jiżguraw il-funzjonijiet tas-sikurezza fil-makkinarju huma indirizzati bir-rekwiżiti ta’ dan ir-Regolament, ċerti rekwiżiti speċifiċi [fir-Regolament dwar il-Makkinarju] se jiżguraw l-integrazzjoni sikura tas-sistema tal-AI fil-makkinarju ġenerali, biex ma titqegħedx f’riskju s-sikurezza tal-makkinarju kollu kemm hu. [Ir-Regolament dwar il-Makkinarju] japplika l-istess definizzjoni ta’ sistema tal-AI bħal dan ir-Regolament.

(64)Minħabba l-esperjenza aktar estensiva ta’ ċertifikaturi professjonali ta’ qabel it-tqegħid fis-suq fil-qasam tas-sikurezza tal-prodotti u n-natura differenti tar-riskji involuti, jixraq li l-kamp ta’ applikazzjoni tal-valutazzjoni tal-konformità minn parti terza jiġi limitat, tal-anqas f’fażi inizjali tal-applikazzjoni ta’ dan ir-Regolament, għas-sistemi tal-AI b’riskju kbir għajr dawk relatati mal-prodotti. Għalhekk, l-valutazzjoni tal-konformità ta’ tali sistemi jenħtieġ issir bħala regola ġenerali mill-fornitur fir-responsabbiltà tiegħu stess, għajr għas-sistemi tal-AI maħsuba biex jintużaw għall-identifikazzjoni bijometrika remota ta’ persuni, li għalihom jenħtieġ ikun previst l-involviment ta’ korp notifikat fil-valutazzjoni tal-konformità, sa fejn dawn ma jkunux ipprojbiti.

(65)Biex issir valutazzjoni tal-konformità minn parti terza għas-sistemi tal-AI maħsuba biex jintużaw għall-identifikazzjoni bijometrika remota ta’ persuni, l-awtoritajiet kompetenti nazzjonali jenħtieġ jaħtru korpi notifikati skont dan ir-Regolament, diment li dawn ikunu konformi ma’ sett ta’ rekwiżiti, b’mod partikolari dwar l-indipendenza, il-kompetenza u n-nuqqas ta’ kunflitti ta’ interess.

(66)F’konformità mal-kunċett stabbilit b’mod komuni ta’ modifika sostanzjali għall-prodotti regolati bil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jixraq li sistema tal-AI ssirilha valutazzjoni tal-konformità ġdida kull meta jsir xi tibdil li jista’ jaffettwa l-konformità tas-sistema ma’ dan ir-Regolament jew meta jinbidel l-għan maħsub tas-sistema. Barra minn hekk, fir-rigward tas-sistemi tal-AI li jkomplu “jitgħallmu” wara t-tqegħid fis-suq jew fis-servizz (jiġifieri jadattaw awtomatikament kif jitwettqu l-funzjonijiet), jeħtieġ jiġu pprovduti regoli li jistabbilixxu li t-tibdiliet fl-algoritmu u fil-prestazzjoni tiegħu li jkunu ġew determinati minn qabel mill-fornitur u vvalutati fil-mument tal-valutazzjoni tal-konformità, jenħtieġ ma jikkostitwixxux modifika sostanzjali.

(67)Jenħtieġ li s-sistemi tal-AI b’riskju kbir jkollhom il-markatura CE biex jindikaw il-konformità tagħhom ma’ dan ir-Regolament b’tali mod li jkunu jistgħu jiċċaqilqu liberament fis-suq intern. Jenħtieġ li l-Istati Membri ma joħolqux xkiel mhux ġustifikat għat-tqegħid fis-suq jew fis-servizz ta’ sistemi tal-AI b’riskju kbir li jikkonformaw mar-rekwiżiti stabbiliti f’dan ir-Regolament u jkollhom il-markatura CE.

(68)F’ċerti kundizzjonijiet, id-disponibbiltà rapida ta’ teknoloġiji innovattivi tista’ tkun kruċjali għas-saħħa u s-sikurezza tal-persuni u għas-soċjetà kollha kemm hi. Għalhekk jixraq li, għal raġunijiet eċċezzjonali ta’ sigurtà pubblika jew ta’ protezzjoni tal-ħajja u tas-saħħa tal-persuni fiżiċi u għall-protezzjoni tal-proprjetà industrijali u kummerċjali, l-Istati Membri jkunu jistgħu jawtorizzaw it-tqegħid fis-suq jew it-tqegħid fis-servizz ta’ sistemi tal-AI li ma tkun saritilhom valutazzjoni tal-konformità.

(69)Biex tiġi ffaċilitata l-ħidma tal-Kummissjoni u tal-Istati Membri fil-qasam tal-intelliġenza artifiċjali u biex tiżdied it-trasparenza lejn il-pubbliku, il-fornituri tas-sistemi tal-AI b’riskju kbir għajr dawk relatati ma’ prodotti li jaqgħu fil-kamp ta’ applikazzjoni tal-leġiżlazzjoni eżistenti rilevanti tal-Unjoni dwar l-armonizzazzjoni, jenħtieġ ikunu meħtieġa jirreġistraw is-sistema tal-AI b’riskju kbir tagħhom f’bażi tad-data tal-UE, li trid tiġi stabbilita u titmexxa mill-Kummissjoni. Jenħtieġ li l-Kummissjoni tkun il-kontrollur ta’ dik il-bażi tad-data f’konformità mar-Regolament (UE) 2018/1725 tal-Parlament Ewropew u tal-Kunsill 55 . Biex tiġi żgurata l-funzjonalità sħiħa tal-bażi tad-data, meta tintuża, il-proċedura għall-istabbiliment tal-bażi tad-data jenħtieġ tinkludi l-elaborazzjoni ta’ speċifikazzjonijiet funzjonali mill-Kummissjoni u rapport tal-awditjar indipendenti.

(70)Ċerti sistemi tal-AI maħsuba biex jinteraġixxu ma’ persuni fiżiċi jew biex jiġġeneraw xi kontenut, jistgħu joħolqu riskji speċifiċi ta’ impersonalizzazzjoni jew qerq irrispettivament minn jekk dawn jikkwalifikawx li għandhom riskju kbir jew le. Għalhekk, f’ċerti ċirkostanzi, jenħtieġ li l-użu ta’ dawn is-sistemi jkun soġġett għal obbligi speċifiċi tat-trasparenza mingħajr preġudizzju għar-rekwiżiti u l-obbligi tas-sistemi tal-AI b’riskju kbir. B’mod partikolari, il-persuni fiżiċi jenħtieġ jiġu notifikati li qed jinteraġixxu ma’ sistema tal-AI, sakemm dan ma jkunx ovvju miċ-ċirkostanzi u mill-kuntest tal-użu. Barra minn hekk, il-persuni fiżiċi jenħtieġ jiġu notifikati meta jkunu esposti għal sistema ta’ rikonoxximent tal-emozzjonijiet jew għal sistema ta’ kategorizzazzjoni bijometrika. Jenħtieġ li dawn l-informazzjoni u n-notifiki jiġu pprovduti b’formati aċċessibbli għall-persuni b’diżabbiltà. Barra minn hekk, l-utenti li jużaw sistema tal-AI biex jiġġeneraw jew jimmanipulaw kontenut ta’ immaġni, awdjo jew vidjo li sostanzjalment jixbah lil persuni, postijiet jew avvenimenti eżistenti b’tali mod li jkunu jidhru b’mod falz daqslikieku persuna awtentika, jenħtieġ jiżvelaw li l-kontenut inħoloq jew ġie mmanipulat b’mod artifiċjali billi jittikkettaw l-output tal-intelliġenza artifiċjali kif xieraq u jiżvelaw l-oriġini artifiċjali tiegħu.

(71)L-intelliġenza artifiċjali hi familja ta’ teknoloġiji li qed tiżviluppa malajr li teħtieġ forom ġodda ta’ sorveljanza regolatorja u spazju sikur għall-esperimentazzjoni, filwaqt li jkunu żgurati innovazzjoni u integrazzjoni responsabbli ta’ salvagwardji xierqa u miżuri ta’ mitigazzjoni tar-riskju. Biex jiżguraw qafas legali favorevoli għall-innovazzjoni, validu għall-futur u reżiljenti għat-tfixkil, l-awtoritajiet nazzjonali kompetenti ta’ Stat Membru wieħed jew aktar jenħtieġ jitħeġġu jistabbilixxu sandboxes regolatorji tal-intelliġenza artifiċjali biex jiffaċilitaw l-iżvilupp u l-ittestjar ta’ sistemi innovattivi tal-AI b’sorveljanza regolatorja stretta qabel ma dawn is-sistemi jitqiegħdu fis-suq jew jitqiegħdu fis-servizz b’xi mod ieħor.

(72)Jenħtieġ li l-objettivi tas-sandboxes regolatorji jkunu li titrawwem l-innovazzjoni fl-AI billi jiġi stabbilit ambjent ikkontrollat ta’ esperimentazzjoni u ttestjar fil-fażi tal-iżvilupp u ta’ qabel il-kummerċjalizzazzjoni biex tkun żgurata l-konformità tas-sistemi innovattivi tal-AI ma’ dan ir-Regolament u ma’ leġiżlazzjoni rilevanti oħra tal-Unjoni u tal-Istati Membri; biex jissaħħu ċ-ċertezza legali għall-innovaturi u s-sorveljanza u l-fehim mill-awtoritajiet kompetenti tal-opportunitajiet, tar-riskji emerġenti u tal-impatti tal-użu tal-AI, u biex jitħaffef l-aċċess għas-swieq, inkluż billi jitneħħew l-ostakli għall-intrapriżi żgħar u medji (SMEs) u għan-negozji ġodda. Biex ikunu żgurati implimentazzjoni uniformi madwar l-Unjoni u l-ekonomiji ta’ skala, jixraq jiġu stabbiliti regoli komuni għall-implimentazzjoni tas-sandboxes regolatorji u qafas għall-kooperazzjoni bejn l-awtoritajiet rilevanti involuti fis-superviżjoni tas-sandboxes. Jenħtieġ li dan ir-Regolament jipprovdi l-bażi ġuridika għall-użu tad-data personali miġbura għal finijiet oħra għall-iżvilupp ta’ ċerti sistemi tal-AI fl-interess pubbliku fi ħdan is-sandbox regolatorja tal-AI, f’konformità mal-Artikolu 6(4) tar-Regolament (UE) 2016/679, u mal-Artikolu 6 tar-Regolament (UE) 2018/1725, u mingħajr preġudizzju għall-Artikolu 4(2) tad-Direttiva (UE) 2016/680. Jenħtieġ li l-parteċipanti fis-sandbox jiżguraw salvagwardji xierqa u jikkooperaw mal-awtoritajiet kompetenti, inkluż billi jimxu mal-gwida tagħhom u jaġixxu malajr u bona fide biex itaffu kull riskju kbir għas-sikurezza u għad-drittijiet fundamentali li jista’ jinqala’ waqt l-iżvilupp u l-esperimentazzjoni fis-sandbox. Jenħtieġ li meta l-awtoritajiet kompetenti jkunu qed jiddeċiedu jekk jimponux multa amministrattiva skont l-Artikolu 83(2) tar-Regolament 2016/679 u l-Artikolu 57 tad-Direttiva 2016/680, titqies l-imġiba tal-parteċipanti fis-sandbox.

(73)Biex tiġi promossa u protetta l-innovazzjoni, hu importanti li jitqiesu b’mod partikolari l-interessi tal-fornituri fuq skala żgħira u tal-utenti tas-sistemi tal-AI. Għal dan l-objettiv, jenħtieġ li l-Istati Membri jiżviluppaw inizjattivi mmirati lejn dawk l-operaturi, inkluż dwar is-sensibilizzazzjoni u l-komunikazzjoni tal-informazzjoni. Barra minn hekk, meta l-Korpi Notifikati jistabbilixxu tariffi għall-valutazzjoni tal-konformità, jenħtieġ jitqiesu l-interessi u l-ħtiġijiet speċifiċi tal-fornituri fuq skala żgħira. Il-kostijiet tat-traduzzjoni relatata mad-dokumentazzjoni obbligatorja u mal-komunikazzjoni mal-awtoritajiet jistgħu jikkostitwixxu kost sinifikanti għall-fornituri u għal operaturi oħrajn, b’mod partikolari għal dawk fuq skala iżgħar. Jenħtieġ li, possibbilment, l-Istati Membri jiżguraw li waħda mil-lingwi determinati u aċċettati minnhom għad-dokumentazzjoni tal-fornituri rilevanti u għall-komunikazzjoni mal-operaturi tkun waħda li tinftiehem b’mod wiesa’ mill-akbar ammont ta’ utenti transkfruntieri possibbli.

(74)Biex jitnaqqsu kemm jista’ jkun ir-riskji għall-implimentazzjoni li jirriżultaw minn nuqqas ta’ għarfien u għarfien espert fis-suq kif ukoll biex tiġi ffaċilitata l-konformità tal-fornituri u tal-korpi notifikati mal-obbligi tagħhom skont dan ir-Regolament, il-pjattaforma tal-AI ondemand, iċ-Ċentri Ewropej tal-Innovazzjoni Diġitali u l-Faċilitajiet tal-Ittestjar u l-Esperimentazzjoni stabbiliti mill-Kummissjoni u mill-Istati Membri fil-livell nazzjonali jew tal-UE jenħtieġ li possibbilment jikkontribwixxu għall-implimentazzjoni ta’ dan ir-Regolament. Bħala parti mill-missjoni u l-oqsma ta’ kompetenza rispettivi tagħhom, dawn jistgħu jipprovdu appoġġ tekniku u xjentifiku b’mod partikolari lill-fornituri u lill-korpi notifikati.

(75)Jixraq li l-Kummissjoni tiffaċilita, sa fejn ikun possibbli, l-aċċess għall-Faċilitajiet tal-Ittestjar u tal-Esperimentazzjoni għall-korpi, għall-gruppi jew għal-laboratorji stabbiliti jew akkreditati skont xi leġiżlazzjoni rilevanti tal-Unjoni dwar l-armonizzazzjoni u li jissodisfaw kompiti fil-kuntest tal-valutazzjoni tal-konformità ta’ prodotti jew ta’ apparati koperti b’dik il-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni. Dan hu partikolarment il-każ għall-gruppi ta’ esperti, għal-laboratorji esperti u għal-laboratorji ta’ referenza fil-qasam tal-apparati mediċi skont ir-Regolament (UE) 2017/745 u r-Regolament (UE) 2017/746.

(76)Biex tiġi ffaċilitata implimentazzjoni bla xkiel, effettiva u armonizzata ta’ dan ir-Regolament, jenħtieġ jiġi stabbilit Bord Ewropew għall-Intelliġenza Artifiċjali. Jenħtieġ li l-Bord ikun responsabbli għal għadd ta’ kompiti konsultattivi, inkluż il-ħruġ ta’ opinjonijiet, rakkomandazzjonijiet, pariri jew gwida dwar kwistjonijiet relatati mal-implimentazzjoni ta’ dan ir-Regolament, inkluż dwar speċifikazzjonijiet tekniċi jew standards eżistenti rigward ir-rekwiżiti stabbiliti f’dan ir-Regolament u l-għoti ta’ pariri u ta’ assistenza lill-Kummissjoni dwar kwistjonijiet speċifiċi relatati mal-intelliġenza artifiċjali.

(77)L-Istati Membri jaqdu rwol ewlieni fl-applikazzjoni u fl-infurzar ta’ dan ir-Regolament. F’dan ir-rigward, jenħtieġ li kull Stat Membru jaħtar awtorità nazzjonali kompetenti waħda jew aktar għall-fini tas-superviżjoni tal-applikazzjoni u tal-implimentazzjoni ta’ dan ir-Regolament. Biex tiżdied l-effiċjenza tal-organizzazzjoni fuq in-naħa tal-Istati Membri u biex jiġi stabbilit punt ta’ kuntatt uffiċjali għall-pubbliku u għal kontropartijiet oħrajn fil-livelli tal-Istati Membri u tal-Unjoni, jenħtieġ li f’kull Stat Membru tinħatar awtorità nazzjonali waħda bħala awtorità superviżorja nazzjonali.

(78)Biex ikun żgurat li l-fornituri tas-sistemi tal-AI b’riskju kbir jkunu jistgħu jqisu l-esperjenza bl-użu tas-sistemi tal-AI b’riskju kbir għat-titjib tas-sistemi tagħhom u tal-proċess tad-disinn u l-iżvilupp, jew ikunu jistgħu jieħdu xi azzjoni korrettiva possibbli fil-ħin, jenħtieġ li l-fornituri kollha jkollhom fis-seħħ sistema tas-sorveljanza ta’ wara t-tqegħid fis-suq. Din is-sistema hi kruċjali wkoll biex ikun żgurat li r-riskji possibbli li jirriżultaw mis-sistemi tal-AI li jkomplu “jitgħallmu” wara li jitqiegħdu fis-suq jew jitqiegħdu fis-servizz ikunu jistgħu jiġu indirizzati b’mod aktar effiċjenti u fil-ħin. F’dan il-kuntest, jenħtieġ li l-fornituri jkunu meħtieġa wkoll li jkollhom sistema fis-seħħ biex jirrapportaw lill-awtoritajiet rilevanti kull inċident serju jew ksur tal-liġi nazzjonali u tal-Unjoni li tipproteġi d-drittijiet fundamentali, li jirriżultawmill-użu tas-sistemi tal-AI tagħhom.

(79)Biex ikun żgurat infurzar xieraq u effettiv tar-rekwiżiti u l-obbligi stabbiliti b’dan ir-Regolament, bħal leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jenħtieġ li s-sistema tas-sorveljanza tas-suq u tal-konformità tal-prodotti stabbilita bir-Regolament (UE) 2019/1020 tapplika fl-intier tagħha. Meta jkun meħtieġ għall-mandat tagħhom, l-awtoritajiet jew il-korpi pubbliċi nazzjonali, li jissorveljaw l-applikazzjoni tal-liġi tal-Unjoni li tipproteġi d-drittijiet fundamentali, inkluż il-korpi tal-ugwaljanza, jenħtieġ ikollhom ukoll aċċess għal kull dokumentazzjoni maħluqa skont dan ir-Regolament.

(80)Il-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji tinkludi regoli u rekwiżiti interni dwar il-governanza u l-ġestjoni tar-riskju li huma applikabbli għall-istituzzjonijiet finanzjarji regolati waqt il-forniment ta’ dawk is-servizzi, inkluż meta jużaw is-sistemi tal-AI. Biex ikunu żgurati applikazzjoni u infurzar koerenti tal-obbligi skont dan ir-Regolament u tar-regoli u r-rekwiżiti rilevanti tal-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji, jenħtieġ li l-awtoritajiet responsabbli għas-superviżjoni u l-infurzar tal-leġiżlazzjoni dwar is-servizzi finanzjarji, inkluż meta applikabbli l-Bank Ċentrali Ewropew, jinħatru bħala awtoritajiet kompetenti għall-finijiet tas-superviżjoni tal-implimentazzjoni ta’ dan ir-Regolament, inkluż għal attivitajiet ta’ sorveljanza tas-suq, fir-rigward tas-sistemi tal-AI pprovduti jew użati minn istituzzjonijiet finanzjarji regolati u sorveljati. Biex tkompli tissaħħaħ il-konsistenza bejn dan ir-Regolament u r-regoli applikabbli għall-istituzzjonijiet ta’ kreditu regolati skont id-Direttiva 2013/36/UE tal-Parlament Ewropew u tal-Kunsill 56 , jixraq ukoll li l-proċedura tal-valutazzjoni tal-konformità u wħud mill-obbligi proċedurali tal-fornituri fir-rigward tal-ġestjoni tar-riskju, tas-sorveljanza ta’ wara t-tqegħid fis-suq u tad-dokumentazzjoni, jiġu integrati fl-obbligi u l-proċeduri eżistenti skont id-Direttiva 2013/36/UE. Biex ikun evitat it-trikkib, jenħtieġ jiġu previsti wkoll derogi limitati fir-rigward tas-sistema tal-ġestjoni tal-kwalità tal-fornituri u l-obbligu tal-monitoraġġ impost fuq l-utenti tas-sistemi tal-AI b’riskju kbir sa fejn dawn ikunu japplikaw għall-istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE.

(81)L-iżvilupp tas-sistemi tal-AI, għajr is-sistemi tal-AI b’riskju kbir f’konformità mar-rekwiżiti ta’ dan ir-Regolament, jista’ jwassal għal adozzjoni akbar tal-intelliġenza artifiċjali affidabbli fl-Unjoni. Jenħtieġ li l-fornituri tas-sistemi tal-AI li m’għandhomx riskju kbir jitħeġġu joħolqu kodiċijiet tal-kondotta maħsuba biex irawmu l-applikazzjoni volontarja tar-rekwiżiti obbligatorji applikabbli għas-sistemi tal-AI b’riskju kbir. Jenħtieġ li l-fornituri jitħeġġu wkoll japplikaw rekwiżiti addizzjonali b’mod volontarju, li jkunu relatati, pereżempju, mas-sostenibbiltà ambjentali, mal-aċċessibbiltà għal persuni b’diżabbiltà, mal-parteċipazzjoni tal-partijiet ikkonċernati fit-tfassil u fl-iżvilupp tas-sistemi tal-AI, u mad-diversità tat-timijiet tal-iżvilupp. Il-Kummissjoni tista’ toħloq inizjattivi, inkluż ta’ natura settorjali, biex tiffaċilita t-tnaqqis tax-xkiel tekniku li jfixkel l-iskambju transfruntier tad-data għall-iżvilupp tal-AI, inkluż dwar l-infrastruttura tal-aċċess għad-data, u l-interoperabbiltà semantika u teknika ta’ tipi differenti ta’ data.

(82)Hu importanti li s-sistemi tal-AI relatati ma’ prodotti li m’għandhomx riskju kbir f’konformità ma’ dan ir-Regolament u, għalhekk, mhumiex meħtieġa jikkonformaw mar-rekwiżiti stabbiliti hawnhekk, xorta waħda jkunu sikuri meta jitqiegħdu fis-suq jew fis-servizz. Biex tikkontribwixxi għal dan l-objettiv, id-Direttiva 2001/95/KE tal-Parlament Ewropew u tal-Kunsill 57 tapplika bħala lqugħ tas-sikurezza.

(83)Biex tkun żgurata kooperazzjoni fiduċjuża u kostruttiva tal-awtoritajiet kompetenti fil-livell tal-Unjoni u nazzjonali, jenħtieġ li l-partijiet kollha involuti fl-applikazzjoni ta’ dan ir-Regolament jirrispettaw il-kunfidenzjalità tal-informazzjoni u tad-data miksuba fit-twettiq tal-kompiti tagħhom.

(84)Jenħtieġ li l-Istati Membri jieħdu l-miżuri meħtieġa kollha biex jiżguraw l-implimentazzjoni tad-dispożizzjonijiet ta’ dan ir-Regolament, inkluż billi jiġu stabbiliti penali effettivi, proporzjonati u dissważivi għall-ksur tagħhom. Għal ċertu ksur speċifiku, jenħtieġ li l-Istati Membri jqisu l-marġini u l-kriterji stabbiliti f’dan ir-Regolament. Il-Kontrollur Ewropew għall-Protezzjoni tad-Data jenħtieġ ikollu s-setgħa li jimponi multi fuq l-istituzzjonijiet, l-aġenziji u l-korpi tal-Unjoni li huma fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament.

(85)Biex ikun żgurat li l-qafas regolatorju jista’ jiġi adattat meta meħtieġ, is-setgħa li jiġu adottati atti f’konformità mal-Artikolu 290 tat-TFUE jenħtieġ tiġi delegata lill-Kummissjoni biex temenda t-tekniki u l-approċċi msemmija fl-Anness I għad-definizzjoni tas-sistemi tal-AI, il-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness II, is-sistemi tal-AI b’riskju kbir elenkati fl-Anness III, id-dispożizzjonijiet dwar id-dokumentazzjoni teknika elenkati fl-Anness IV, il-kontenut tad-dikjarazzjoni ta’ konformità tal-UE fl-Anness V, id-dispożizzjonijiet dwar il-proċeduri tal-valutazzjoni tal-konformità fl-Annessi VI u VII, u d-dispożizzjonijiet li jistabbilixxu s-sistemi tal-AI b’riskju kbir li għalihom jenħtieġ tapplika l-proċedura tal-valutazzjoni tal-konformità bbażata fuq il-valutazzjoni tas-sistema tal-ġestjoni tal-kwalità u fuq il-valutazzjoni tad-dokumentazzjoni teknika. Hu importanti b’mod partikolari li tul il-ħidma preparatorja tagħha, il-Kummissjoni twettaq konsultazzjonijiet xierqa, anke fil-livell ta’ esperti, u li dawk il-konsultazzjonijiet isiru f’konformità mal-prinċipji stabbiliti fil-Ftehim Interistituzzjonali tat-13 ta’ April 2016 dwar it-Tfassil Aħjar tal-Liġijiet 58 . B’mod partikolari, biex tiġi żgurata parteċipazzjoni ugwali fit-tħejjija tal-atti delegati, il-Parlament Ewropew u l-Kunsill jirċievu d-dokumenti kollha fl-istess ħin li jirċivuhom l-esperti tal-Istati Membri, u l-esperti tagħhom sistematikament ikollhom aċċess għal-laqgħat tal-gruppi ta’ esperti tal-Kummissjoni li jittrattaw it-tħejjija ta’ atti delegati.

(86)Biex ikunu żgurati kundizzjonijiet uniformi għall-implimentazzjoni ta’ dan ir-Regolament, il-Kummissjoni jenħtieġ tingħata setgħat ta’ implimentazzjoni. Jenħtieġ li dawk is-setgħat ikunu eżerċitati f’konformità mar-Regolament (UE) Nru 182/2011 tal-Parlament Ewropew u tal-Kunsill 59 .

(87)Billi l-objettivi ta’ dan ir-Regolament ma jistgħux jinkisbu b’mod suffiċjenti mill-Istati Membri waħedhom iżda, minħabba l-iskala jew l-effetti tal-azzjoni, jistgħu jinkisbu aħjar fil-livell tal-Unjoni, l-Unjoni tista’ tadotta miżuri f’konformità mal-prinċipju tas-sussidjarjetà kif stabbilit fl-Artikolu 5 tat-TUE. F’konformità mal-prinċipju tal-proporzjonalità, kif stipulat f’dak l-Artikolu, dan ir-Regolament ma jmurx lil hinn minn dak meħtieġ biex jilħaq dak l-objettiv.

(88)Jenħtieġ li dan ir-Regolament japplika minn … [daħħal id-data stabbilita fl-Artikolu 85]. Madankollu, l-infrastruttura relatata mal-governanza u mas-sistema tal-valutazzjoni tal-konformità jenħtieġ tkun operattiva qabel dik id-data, u għalhekk jenħtieġ li d-dispożizzjonijiet dwar il-korpi notifikati u l-istruttura ta’ governanza japplikaw minn … [daħħal id-data – tliet xhur wara d-dħul fis-seħħ ta’ dan ir-Regolament]. Barra minn hekk, jenħtieġ li l-Istati Membri jistabbilixxu u jinnotifikaw lill-Kummissjoni r-regoli dwar il-penali, inkluż il-multi amministrattivi, u jiżguraw li dawn jiġu implimentati kif xieraq u b’mod effettiv sad-data tal-applikazzjoni ta’ dan ir-Regolament. Għalhekk, jenħtieġ li d-dispożizzjonijiet dwar il-penali japplikaw minn [daħħal id-data – tnax-il xahar wara d-dħul fis-seħħ ta’ dan ir-Regolament].

(89)Il-Kontrollur Ewropew għall-Protezzjoni tad-Data u l-Bord Ewropew għall-Protezzjoni tad-Data ġew ikkonsultati f’konformità mal-Artikolu 42(2) tar-Regolament (UE) 2018/1725 u taw l-opinjoni l-opinjoni tagħhom nhar […]”.

ADOTTAW DAN IR-REGOLAMENT:

TITOLU I

DISPOŻIZZJONIJIET ĠENERALI

Artikolu 1
Suġġett

Dan ir-Regolament jistabbilixxi:

(a)regoli armonizzati għat-tqegħid fis-suq, għat-tqegħid fis-servizz u għall-użu ta’ sistemi tal-intelliġenza artifiċjali (“sistemi tal-AI”) fl-Unjoni;

(a)projbizzjonijiet ta’ ċerti prattiki tal-intelliġenza artifiċjali;

(b)rekwiżiti speċifiċi għas-sistemi tal-AI b’riskju kbir u obbligi għall-operaturi ta’ dawn is-sistemi;

(c)regoli armonizzati tat-trasparenza għas-sistemi tal-AI maħsuba biex jinteraġixxu ma’ persuni fiżiċi, ma’ sistemi ta’ rikonoxximent tal-emozzjonijiet u ma’ sistemi ta’ kategorizzazzjoni bijometrika, u ma’ sistemi tal-AI użati biex jiġġeneraw jew jimmanipulaw kontenut ta’ immaġni, awdjo jew vidjo;

(d)regoli dwar il-monitoraġġ u s-sorveljanza tas-suq.

Artikolu 2
Kamp ta’ applikazzjoni

1.Dan ir-Regolament japplika għal:

(a)il-fornituri li jqiegħdu sistemi tal-AI fis-suq jew fis-servizz fl-Unjoni, irrispettivament minn jekk dawk il-fornituri jkunux stabbiliti fl-Unjoni jew f’xi pajjiż terz;

(b)l-utenti tas-sistemi tal-AI li jinsabu fl-Unjoni;

(c)il-fornituri u l-utenti tas-sistemi tal-AI li jinsabu f’xi pajjiż terz, meta l-output prodott mis-sistema jintuża fl-Unjoni;

2.Għas-sistemi tal-AI b’riskju kbir li huma komponenti tas-sikurezza ta’ prodotti jew ta’ sistemi, jew li huma stess huma prodotti jew sistemi, li huma fil-kamp ta’ applikazzjoni tal-atti li ġejjin, għandu japplika biss l-Artikolu 84 ta’ dan ir-Regolament:

(a)ir-Regolament (KE) Nru 300/2008;

(b)ir-Regolament (UE) Nru 167/2013;

(c)ir-Regolament (UE) Nru 168/2013;

(d)id-Direttiva 2014/90/UE;

(e)id-Direttiva (UE) 2016/797;

(f)ir-Regolament (UE) 2018/858;

(g)ir-Regolament (UE) 2018/1139;

(h)ir-Regolament (UE) 2019/2144.

3.Dan ir-Regolament m’għandux japplika għas-sistemi tal-AI żviluppati jew użati esklussivament għal finijiet militari.

4.Dan ir-Regolament m’għandux japplika għall-awtoritajiet pubbliċi f’pajjiż terz u lanqas għall-organizzazzjonijiet internazzjonali li huma fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament skont il-paragrafu 1, meta dawk l-awtoritajiet jew l-organizzazzjonijiet jużaw sistemi tal-AI fil-qafas ta’ ftehimiet internazzjonali għall-infurzar tal-liġi u tal-kooperazzjoni ġudizzjarja mal-Unjoni jew ma’ Stat Membru wieħed jew aktar.

5.Dan ir-Regolament m’għandux jaffettwa l-applikazzjoni tad-dispożizzjonijiet dwar ir-responsabbiltà tal-fornituri intermedjarji tas-servizzi stabbiliti fil-Kapitolu II, it-Taqsima IV tad-Direttiva 2000/31/KE tal-Parlament Ewropew u tal-Kunsill 60 [li trid tiġi sostitwita bid-dispożizzjonijiet korrispondenti tal-Att dwar is-Servizzi Diġitali].

Artikolu 3
Definizzjonijiet

Għall-fini ta’ dan ir-Regolament, japplikaw id-definizzjonijiet li ġejjin:

(1)“sistema tal-intelliġenza artifiċjali” (sistema tal-AI) tfisser software li jiġi żviluppat b’teknika u b’approċċ wieħed jew aktar minn fost dawk elenkati fl-Anness I u li jista’, għal sett partikolari ta’ objettivi definiti mill-bniedem, jiġġenera outputs bħal kontenut, previżjonijiet, rakkomandazzjonijiet, jew deċiżjonijiet li jinfluwenzaw l-ambjenti li jinteraġixxu magħhom;

(2)“fornitur” tfisser persuna fiżika jew ġuridika, awtorità pubblika, aġenzija jew korp ieħor li jiżviluppa sistema tal-AI jew li jkollu sistema tal-AI żviluppata biex titqiegħed fis-suq jew titqiegħed fis-servizz b’ismu jew bit-trademark tiegħu stess, sew jekk bi ħlas u sew jekk mingħajr ħlas;

(3)“fornitur fuq skala żgħira” tfisser fornitur li hu intrapriża mikro jew żgħira skont it-tifsira tar-Rakkomandazzjoni tal-Kummissjoni 2003/361/KE 61 ;

(4)“utent” tfisser kwalunkwe persuna fiżika jew ġuridika, awtorità pubblika, aġenzija jew korp ieħor li juża sistema tal-AI fl-awtorità tiegħu, għajr meta s-sistema tal-AI tintuża waqt attività personali mhux professjonali;

(5)“rappreżentant awtorizzat” tfisser kwalunkwe persuna fiżika jew ġuridika stabbilita fl-Unjoni li tkun irċeviet mandat bil-miktub mingħand fornitur ta’ sistema tal-AI biex, rispettivament, teżegwixxi u twettaq f’isimha l-obbligi u l-proċeduri stabbiliti b’dan ir-Regolament;

(6)“importatur” tfisser kwalunkwe persuna fiżika jew ġuridika stabbilita fl-Unjoni li tqiegħed sistema tal-AI fis-suq jew tqiegħed fis-servizz li jkollha l-isem jew it-trademark ta’ persuna fiżika jew ġuridika stabbilita barra mill-Unjoni;

(7)“distributur” tfisser kwalunkwe persuna fiżika jew ġuridika fil-katina tal-provvista, għajr il-fornitur jew l-importatur, li tagħmel sistema tal-AI disponibbli fis-suq tal-Unjoni mingħajr ma taffettwa l-proprjetajiet tagħha;

(8)“operatur” tfisser il-fornitur, l-utent, ir-rappreżentant awtorizzat, l-importatur u d-distributur;

(9)“tqegħid fis-suq” tfisser l-ewwel darba li sistema tal-AI ssir disponibbli fis-suq tal-Unjoni;

(10)“tqegħid għad-dispożizzjoni fis-suq” tfisser kwalunkwe forniment ta’ sistema tal-AI għad-distribuzzjoni jew għall-użu fis-suq tal-Unjoni waqt attività kummerċjali, sew jekk bi ħlas u sew jekk mingħajr ħlas;

(11)“tqegħid fis-servizz” tfisser il-forniment ta’ sistema tal-AI għall-ewwel użu direttament lill-utent jew għall-użu proprju fis-suq tal-Unjoni għall-għan maħsub tagħha;

(12)“għan maħsub” tfisser l-użu li għalih sistema tal-AI tkun maħsuba mill-fornitur, inkluż il-kuntest speċifiku u l-kundizzjonijiet tal-użu, kif speċifikati fl-informazzjoni pprovduta mill-fornitur fl-istruzzjonijiet għall-użu, fil-materjali u fid-dikjarazzjonijiet promozzjonali jew tal-bejgħ, kif ukoll fid-dokumentazzjoni teknika;

(13)“użu ħażin raġonevolment prevedibbli” tfisser l-użu ta’ sistema tal-AI b’mod li ma jkunx konformi mal-għan maħsub tagħha, iżda li jista’ jirriżulta minn imġiba umana jew interazzjoni ma’ sistemi oħra raġonevolment prevedibbli;

(14)“komponent tas-sikurezza ta’ prodott jew ta’ sistema” tfisser komponent ta’ prodott jew ta’ sistema li jaqdi funzjoni tas-sikurezza għal dak il-prodott jew għal dik is-sistema jew li l-falliment jew il-funzjonament ħażin tiegħu jipperikola s-saħħa u s-sikurezza tal-persuni jew tal-proprjetà;

(15)“struzzjonijiet għall-użu” tfisser l-informazzjoni pprovduta mill-fornitur biex jinforma lill-utent b’mod partikolari dwar l-għan maħsub u l-użu xieraq ta’ sistema tal-AI, inkluż l-issettjar ġeografiku, komportamentali jew funzjonali speċifiku, li s-sistema tal-AI b’riskju kbir hija maħsuba li tintuża skontu;

(16)“ġbir lura ta’ sistema tal-AI” tfisser kwalunkwe miżura mmirata lejn il-kisba tar-ritorn lill-fornitur ta’ sistema tal-AI magħmula disponibbli għall-utenti;

(17)“tneħħija ta’ sistema tal-AI” tfisser kwalunkwe miżura mmirata biex tipprevjeni li sistema tal-AI tiġi mqassma, murija jew offruta;

(18)“prestazzjoni ta’ sistema tal-AI” tfisser il-kapaċità ta’ sistema tal-AI li tilħaq l-għan maħsub tagħha;

(19)“awtorità tan-notifika” tfisser l-awtorità nazzjonali responsabbli għall-istabbiliment u t-twettiq tal-proċeduri meħtieġa għall-valutazzjoni, id-deżinjazzjoni u n-notifika tal-korpi tal-valutazzjoni tal-konformità u għall-monitoraġġ tagħhom;

(20)“valutazzjoni tal-konformità” tfisser il-proċess ta’ verifika dwar jekk ġewx issodisfati r-rekwiżiti stabbiliti fit-Titolu III, il-Kapitolu 2 ta’ dan ir-Regolament relatati ma’ sistema tal-AI;

(21)“korp tal-valutazzjoni tal-konformità” tfisser korp li jwettaq attivitajiet tal-valutazzjoni tal-konformità ta’ parti terza, inkluż l-ittestjar, iċ-ċertifikazzjoni u l-ispezzjoni;

(22)“korp notifikat” tfisser korp tal-valutazzjoni tal-konformità maħtur f’konformità ma’ dan ir-Regolament u ma’ leġiżlazzjoni rilevanti oħra tal-Unjoni dwar l-armonizzazzjoni;

(23)“modifika sostanzjali” tfisser tibdil fis-sistema tal-AI wara t-tqegħid tagħha fis-suq jew fis-servizz li jaffettwa l-konformità tas-sistema tal-AI mar-rekwiżiti stabbiliti fit-Titolu III, il-Kapitolu 2 ta’ dan ir-Regolament jew jirriżulta f’modifika fl-għan maħsub li għalih tkun ġiet ivvalutata s-sistema tal-AI;

(24)“markatura CE ta’ konformità” (markatura CE) tfisser marka li permezz tagħha fornitur jindika li sistema tal-AI hi konformi mar-rekwiżiti stabbiliti fit-Titolu III, il-Kapitolu 2 ta’ dan ir-Regolament u ma’ leġiżlazzjoni applikabbli oħra tal-Unjoni li tarmonizza l-kundizzjonijiet għat-tqegħid fis-suq ta’ prodotti (“leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni”) li tipprovdi għat-twaħħil tagħha;

(25)“sorveljanza ta’ wara t-tqegħid fis-suq” tfisser l-attivitajiet kollha mwettqa mill-fornituri tas-sistemi tal-AI biex jiġbru u jirrieżaminaw b’mod proattiv l-esperjenza miksuba mill-użu tas-sistemi tal-AI li jqiegħdu fis-suq jew fis-servizz bl-għan li jidentifikaw xi ħtieġa li japplikaw minnufih azzjoni korrettiva jew preventiva meħtieġa;

(26)“awtorità tas-sorveljanza tas-suq” tfisser l-awtorità nazzjonali li twettaq l-attivitajiet u li tieħu l-miżuri skont ir-Regolament (UE) 2019/1020;

(27)“standard armonizzat” tfisser standard armonizzat kif definit fl-Artikolu 2(1)(c) tar-Regolament (UE) Nru 1025/2012;

(28)“speċifikazzjonijiet komuni” tfisser dokument, għajr standard, li jkun fih soluzzjonijiet tekniċi li jipprovdu mezz biex jikkonformaw ma’ ċerti rekwiżiti u obbligi stabbiliti skont dan ir-Regolament;

(29)“data għal taħriġ” tfisser data użata għat-taħriġ ta’ sistema tal-AI bl-attrezzar tal-parametri tagħha li jistgħu jiġu mgħallma, inkluż il-ponderazzjonijiet ta’ network newrali;

(30)“data għal validazzjoni” tfisser data użata għal evalwazzjoni tas-sistema mħarrġa tal-AI u għall-irfinar tal-parametri tagħha li ma jistgħux jiġu mgħallma u tal-proċess tat-tagħlim tagħha, fost affarijiet oħra, biex jiġi evitat attrezzar żejjed; billi s-sett tad-data għal validazzjoni jista’ jkun sett tad-data separat jew parti mis-sett tad-data għal taħriġ, jew bħala qasma fissa jew varjabbli;

(31)“data għal ittestjar” tfisser data użata għal evalwazzjoni indipendenti tas-sistema mħarrġa u validata tal-AI biex tiġi kkonfermata l-prestazzjoni mistennija ta’ dik is-sistema qabel ma din titqiegħed fis-suq jew fis-servizz;

(32)“data tal-input” tfisser data pprovduta lil sistema tal-AI jew akkwistata direttament minnha li, abbażi tagħha, is-sistema tipproduċi output;

(33)“data bijometrika” tfisser data personali li tirriżulta mill-ipproċessar tekniku speċifiku relatat mal-karatteristiċi fiżiċi, fiżjoloġiċi jew komportamentali ta’ persuna fiżika, li tippermetti jew tikkonferma l-identifikazzjoni unika ta’ dik il-persuna fiżika, bħal immaġnijiet tal-wiċċ jew data dattiloskopika;

(34)“sistema tar-rikonoxximent tal-emozzjonijiet” tfisser sistema tal-AI għall-fini tal-identifikazzjoni jew tal-fehim tal-emozzjonijiet jew tal-intenzjonijiet ta’ persuni fiżiċi abbażi tad-data bijometrika tagħhom;

(35)“sistema tal-kategorizzazzjoni bijometrika” tfisser sistema tal-AI għall-fini ta’ assenjazzjoni ta’ persuni fiżiċi għal kategoriji speċifiċi, bħall-ġeneru, l-età, il-kulur tax-xagħar, il-kulur tal-għajnejn, tattoos, l-oriġini etnika jew l-orjentazzjoni sesswali jew politika, abbażi tad-data bijometrika tagħhom;

(36)“sistema tal-identifikazzjoni bijometrika remota” tfisser sistema tal-AI għall-fini tal-identifikazzjoni remota ta’ persuni fiżiċi bi tqabbil tad-data bijometrika ta’ persuna mad-data bijometrika li tinsab f’bażi tad-data ta’ referenza, u mingħajr għarfien minn qabel tal-utent tas-sistema tal-AI dwar jekk il-persuna hix se tkun preżenti u tistax tiġi identifikata;

(37)“sistema tal-identifikazzjoni bijometrika remota “fil-ħin reali”” tfisser sistema tal-identifikazzjoni bijometrika remota li biha l-qbid, it-tqabbil u l-identifikazzjoni tad-data bijometrika kollha jsiru mingħajr dewmien sinifikanti. Dan ma jinkludix biss identifikazzjoni immedjata iżda anki dewmien qasir limitat ħalli tkun evitata ċ-ċirkumvenzjoni.

(38)“sistema tal-identifikazzjoni bijometrika remota “f’ħin aktar tard”” tfisser sistema tal-identifikazzjoni bijometrika remota li mhix sistema tal-identifikazzjoni bijometrika remota “fil-ħin reali”;

(39)“spazju aċċessibbli għall-pubbliku” tfisser kwalunkwe post fiżiku aċċessibbli għall-pubbliku, irrispettivament minn jekk jistgħux japplikaw ċerti kundizzjonijiet għall-aċċess;

(40)“awtorità tal-infurzar tal-liġi” tfisser:

(a)kwalunkwe awtorità pubblika kompetenti għall-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta’ reati kriminali jew għall-eżekuzzjoni ta’ pieni kriminali, inkluż is-salvagwardja kontra u l-prevenzjoni ta’ theddidiet għas-sigurtà pubblika; jew

(b)kwalunkwe korp jew entità oħra fdata bil-liġi ta’ Stat Membru biex teżerċita awtorità pubblika u setgħat pubbliċi għall-finijiet ta’ prevenzjoni, investigazzjoni, sejbien jew prosekuzzjoni ta’ reati kriminali jew tal-eżekuzzjoni ta’ pieni kriminali, inkluż is-salvagwardja kontra u l-prevenzjoni ta’ theddidiet għas-sigurtà pubblika;

(41)“infurzar tal-liġi” tfisser attivitajiet imwettqa mill-awtoritajiet tal-infurzar tal-liġi għall-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta’ reati kriminali jew għall-eżekuzzjoni ta’ pieni kriminali, inkluż is-salvagwardja kontra u l-prevenzjoni ta’ theddidiet għas-sigurtà pubblika;

(42)“awtorità superviżorja nazzjonali” tfisser l-awtorità li lilha Stat Membru jassenja r-responsabbiltà li timplimenta u tapplika dan ir-Regolament, tikkoordina l-attivitajiet fdati lil dak l-Istat Membru, taġixxi bħala l-punt uniku ta’ kuntatt għall-Kummissjoni, u tirrappreżenta l-Istat Membru fil-Bord Ewropew għall-Intelliġenza Artifiċjali;

(43)“awtorità nazzjonali kompetenti” tfisser l-awtorità superviżorja nazzjonali, l-awtorità tan-notifika u l-awtorità tas-sorveljanza tas-suq;

(44)“inċident serju” tfisser kull inċident li direttament jew indirettament wassal, seta’ wassal jew jista’ jwassal għal wieħed jew waħda minn dawn:

(a)il-mewt ta’ persuna jew dannu serju għas-saħħa ta’ persuna, għall-proprjetà jew għall-ambjent,

(b)tfixkil serju u irriversibbli fil-ġestjoni u t-tħaddim ta’ infrastruttura kritika.

Artikolu 4
Emendi għall-Anness I

Il-Kummissjoni hija mogħtija s-setgħa li tadotta atti delegati f’konformità mal-Artikolu 73 biex temenda l-lista ta’ tekniki u ta’ approċċi elenkati fl-Anness I, biex taġġorna dik il-lista skont l-iżviluppi teknoloġiċi u tas-suq abbażi ta’ karatteristiċi simili għat-tekniki u l-approċċi elenkati fiha.

TITOLU II

PRATTIKI TAL-INTELLIĠENZA ARTIFIĊJALI PPROJBITI

Artikolu 5

1.Il-prattiki tal-intelliġenza artifiċjali li ġejjin għandhom ikunu pprojbiti:

(a)it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistema tal-AI li tuża tekniki subliminali lil hinn mill-konxju ta’ persuna biex materjalment tfixkel l-imġiba ta’ persuna b’mod li tikkawża jew li aktarx tikkawża dannu fiżiku jew psikoloġiku lil dik il-persuna jew lil persuna oħra;

(b)it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistema tal-AI li tisfrutta xi waħda mill-vulnerabbiltajiet ta’ grupp speċifiku ta’ persuni minħabba l-età, diżabbiltà fiżika jew mentali tagħhom, biex tfixkel materjalment l-imġiba ta’ persuna li tappartjeni għal dak il-grupp b’mod li tikkawża jew li aktarx tikkawża dannu fiżiku jew psikoloġiku lil dik il-persuna jew lil persuna oħra;

(c)it-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ sistemi tal-AI mill-awtoritajiet pubbliċi jew f’isimhom għall-evalwazzjoni jew għall-klassifikazzjoni tal-affidabbiltà ta’ persuni fiżiċi f’ċertu perjodu ta’ żmien abbażi tal-imġiba soċjali tagħhom jew tal-karatteristiċi personali jew tal-personalità magħrufa jew previsti, bil-punteġġ soċjali li jwassal għal wieħed minn dawn li ġejjin jew għat-tnejn li huma:

(i)trattament detrimentali jew mhux favorevoli ta’ ċerti persuni fiżiċi jew ta’ gruppi sħaħ tagħhom f’kuntesti soċjali li mhumiex relatati mal-kuntesti li fihom id-data kienet oriġinarjament iġġenerata jew inġabret;

(ii)trattament detrimentali jew mhux favorevoli ta’ ċerti persuni fiżiċi jew ta’ gruppi sħaħ tagħhom li ma jkunx ġustifikat jew li jkun sproporzjonat għall-imġiba soċjali tagħhom jew għall-gravità tagħha;

(d)l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi, sakemm u sa fejn tali użu jkun strettament meħtieġ għal wieħed mill-objettivi li ġejjin:

(i)it-tfittxija mmirata għal vittmi potenzjali speċifiċi ta’ reati, inkluż tfal neqsin;

(ii)il-prevenzjoni ta’ theddida speċifika, sostanzjali u imminenti għall-ħajja jew għas-sikurezza fiżika ta’ persuni fiżiċi jew ta’ attakk terroristiku;

(iii)is-sejbien, il-lokalizzazzjoni, l-identifikazzjoni jew il-prosekuzzjoni ta’ awtur jew ta’ persuna suspettata ta’ reat kriminal msemmi fl-Artikolu 2(2) tad-Deċiżjoni Qafas tal-Kunsill 2002/584/JHA 62 u punibbli fl-Istat Membru kkonċernat b’piena li ċċaħħad il-libertà jew b’ordni ta’ detenzjoni għal perjodu massimu ta’ mill-inqas tliet snin, kif determinat bil-liġi ta’ dak l-Istat Membru.

2.L-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi għal xi wieħed mill-objettivi msemmija fil-punt (d) tal-paragrafu 1 għandu jqis l-elementi li ġejjin:

(a)in-natura tas-sitwazzjoni li twassal għall-użu possibbli, b’mod partikolari s-serjetà, il-probabbiltà u l-iskala tad-dannu kkawżat meta ma tintużax is-sistema;

(b)il-konsegwenzi tal-użu tas-sistema għad-drittijiet u l-libertajiet tal-persuni kollha kkonċernati, b’mod partikolari s-serjetà, il-probabbiltà u l-iskala ta’ dawk il-konsegwenzi.

Barra minn hekk, l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi għal xi wieħed mill-objettivi msemmija fil-punt (d) tal-paragrafu 1 għandu jikkonforma mas-salvagwardji u l-kundizzjonijiet meħtieġa u proporzjonati fir-rigward tal-użu, b’mod partikolari fir-rigward tal-limitazzjonijiet temporali, ġeografiċi u personali.

3.Fir-rigward tal-punt (d) tal-paragrafu 1 u tal-paragrafu 2, kull użu individwali ta’ sistema tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi għandu jkun soġġett għal awtorizzazzjoni minn qabel mogħtija minn awtorità ġudizzjarja jew awtorità amministrattiva indipendenti tal-Istat Membru li fih għandu jsir l-użu, maħruġa wara talba motivata u f’konformità mar-regoli dettaljati tal-liġi nazzjonali msemmija fil-paragrafu 4. Madankollu, f’każ ta’ urġenza ġustifikata kif xieraq, l-użu tas-sistema jista’ jinbeda mingħajr awtorizzazzjoni u l-awtorizzazzjoni tista’ tintalab tul jew wara l-użu.

L-awtorità ġudizzjarja jew amministrattiva kompetenti għandha tagħti l-awtorizzazzjoni biss meta tkun sodisfatta, abbażi ta’ evidenza oġġettiva jew indikazzjonijiet ċari ppreżentati lilha, li l-użu tas-sistema tal-identifikazzjoni bijometrika remota “fil-ħin reali” inkwistjoni hu meħtieġ u proporzjonat biex jintlaħaq wieħed mill-objettivi speċifikati fil-punt (d) tal-paragrafu 1, kif identifikat fit-talba. Meta tiddeċiedi dwar it-talba, l-awtorità ġudizzjarja jew amministrattiva kompetenti għandha tqis l-elementi msemmijin fil-paragrafu 2.

4.Stat Membru jista’ jiddeċiedi li jipprevedi l-possibbiltà li jawtorizza għalkollox jew parzjalment l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi skont il-limiti u l-kundizzjonijiet elenkati fil-punt (d) tal-paragrafu 1 u fil-paragrafi 2 u 3. Fil-liġi nazzjonali tiegħu, dak l-Istat Membru għandu jistabbilixxi r-regoli dettaljati meħtieġa għat-talba, il-ħruġ u l-eżerċitar tal-awtorizzazzjonijiet imsemmija fil-paragrafu 3, kif ukoll għas-superviżjoni relatata magħhom. Dawk ir-regoli għandhom jispeċifikaw ukoll b’rabta ma’ liema objettivi elenkati fil-punt (d) tal-paragrafu 1, inkluż liema reati kriminali msemmija fil-punt (iii) tiegħu, l-awtoritajiet kompetenti jistgħu jkunu awtorizzati jużaw dawk is-sistemi għall-finijiet ta’ infurzar tal-liġi.

TITOLU III

SISTEMI TAL-INTELLIĠENZA ARTIFIĊJALI B’RISKJU KBIR

Kapitolu 1

KLASSIFIKAZZJONI TAS-SISTEMI TAL-INTELLIĠENZA ARTIFIĊJALI B’RISKJU KBIR

Artikolu 6
Regoli ta’ klassifikazzjoni għas-sistemi tal-intelliġenza artifiċjali b’riskju kbir

1.Irrispettivament minn jekk sistema tal-AI titqegħedx fis-suq jew fis-servizz b’mod indipendenti mill-prodotti msemmijin fil-punti (a) u (b), dik is-sistema tal-AI għandha titqies li għandha riskju kbir jekk tkun tissodisfa ż-żewġ kundizzjonijiet li ġejjin:

(a)is-sistema tal-AI tkun maħsuba biex tintuża bħala komponent tas-sikurezza ta’ prodott, jew hi stess tkun prodott, kopert bil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness II;

(b)il-prodott li l-komponent tas-sikurezza tiegħu jkun is-sistema tal-AI, jew is-sistema tal-AI stess bħala prodott, jeħtieġ issirlu valutazzjoni tal-konformità minn parti terza biex dak il-prodott ikun jista’ jitqiegħed fis-suq jew fis-servizz skont il-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness II.

2.Minbarra s-sistemi tal-AI b’riskju kbir msemmija fil-paragrafu 1, anki s-sistemi tal-AI imsemmija fl-Anness III għandhom jitqiesu li għandhom riskju kbir.

Artikolu 7
Emendi għall-Anness III

1.Il-Kummissjoni hi mogħtija s-setgħa li tadotta atti delegati f’konformità mal-Artikolu 73 biex taġġorna l-lista fl-Anness III billi żżid sistemi tal-AI b’riskju kbir meta jissodisfaw iż-żewġ kundizzjonijiet li ġejjin:

(a)is-sistemi tal-AI jkunu maħsuba biex jintużaw f’xi waħda miż-żoni elenkati fil-punti 1 sa 8 tal-Anness III;

(b)is-sistemi tal-AI joħolqu riskju ta’ dannu għas-saħħa u s-sikurezza, jew riskju ta’ impatt negattiv fuq id-drittijiet fundamentali, jiġifieri, fir-rigward tas-severità u tal-probabbiltà ta’ okkorrenza tiegħu, ekwivalenti għal jew akbar mir-riskju ta’ dannu jew ta’ impatt negattiv irrappreżentat mis-sistemi tal-AI b’riskju kbir diġà msemmijin fl-Anness III.

2.Meta tivvaluta, għall-finijiet tal-paragrafu 1, jekk sistema tal-AI toħloqx riskju ta’ dannu għas-saħħa u s-sikurezza jew riskju ta’ impatt negattiv fuq id-drittijiet fundamentali ekwivalenti għal jew akbar mir-riskju ta’ dannu kkawżat mis-sistemi tal-AI b’riskju kbir diġà msemmija fl-Anness III, il-Kummissjoni għandha tqis il-kriterji li ġejjin:

(a)l-għan maħsub tas-sistema tal-AI;

(b)il-punt sa fejn intużat jew aktarx tintuża sistema tal-AI;

(c)il-punt sa fejn l-użu tas-sistema tal-AI diġà kkawża dannu għas-saħħa u s-sikurezza jew impatt negattiv fuq id-drittijiet fundamentali jew wassal għal tħassib sinifikanti fir-rigward tal-materjalizzazzjoni ta’ dan id-dannu jew l-impatt negattiv, kif juru xi rapporti jew allegazzjonijiet dokumentati ppreżentati lill-awtoritajiet nazzjonali kompetenti;

(d)il-firxa potenzjali ta’ dan id-dannu jew l-impatt negattiv, b’mod partikolari f’termini ta’ intensità u kapaċità li jaffettwa l-pluralità ta’ persuni;

(e)il-punt sa fejn il-persuni potenzjalment vittmi tad-dannu jew affettwati b’mod negattiv ikunu dipendenti fuq l-eżitu prodott b’sistema tal-AI, b’mod partikolari meta għal raġunijiet prattiċi jew legali ma jkunx raġonevolment possibbli li wieħed jirrikorri għal esklużjoni fakultattiva minn dak l-eżitu;

(f)il-punt sa fejn il-persuni potenzjalment vittmi tad-dannu jew affettwati b’mod negattiv ikunu f’pożizzjoni vulnerabbli fir-rigward tal-utent ta’ sistema tal-AI, b’mod partikolari minħabba żbilanċ fis-setgħa, fl-għarfien, fiċ-ċirkostanzi ekonomiċi jew soċjali, jew fl-età;

(g)il-punt sa fejn l-eżitu prodott b’sistema tal-AI ikun riversibbli faċilment, meta l-eżiti li jħallu impatt fuq is-saħħa jew is-sikurezza tal-persuni m’għandhomx jitqiesu bħala riversibbli faċilment;

(h)il-punt sa fejn il-leġiżlazzjoni eżistenti tal-Unjoni tipprevedi:

(i)miżuri effettivi ta’ rimedju fir-rigward tar-riskji maħluqa minn sistema tal-AI, għajr talbiet għad-danni;

(ii)miżuri effettivi għal prevenzjoni jew tnaqqis sostanzjali ta’ dawk ir-riskji.

Kapitolu 2

rekwiżiti għal sistemi tal-AI b’riskju kbir

Artikolu 8
Konformità mar-rekwiżiti

1.Is-sistemi tal-AI b’riskju kbir għandhom jikkonformaw mar-rekwiżiti stabbiliti f’dan il-Kapitolu.

2.L-għan maħsub tas-sistema tal-AI b’riskju kbir u s-sistema tal-ġestjoni tar-riskju msemmija fl-Artikolu 9 għandhom jitqiesu meta tiġi żgurata l-konformità ma’ dawk ir-rekwiżiti.

Artikolu 9
Sistema tal-ġestjoni tar-riskju

1.Għandha tiġi stabbilita, implimentata, dokumentata u miżmuma sistema tal-ġestjoni tar-riskju fir-rigward tas-sistemi tal-AI b’riskju kbir.

2.Is-sistema tal-ġestjoni tar-riskju għandha tikkonsisti fi proċess iterattiv kontinwu tul iċ-ċiklu tal-ħajja kollu ta’ sistema tal-AI b’riskju kbir, li teħtieġ aġġornament sistematiku regolari. Għandu jkun fiha l-passi li ġejjin:

(a)l-identifikazzjoni u l-analiżi tar-riskji magħrufa u prevedibbli assoċjati ma’ kull sistema tal-AI b’riskju kbir;

(b)l-istima u l-evalwazzjoni tar-riskji li jistgħu jitfaċċaw meta tintuża s-sistema tal-AI b’riskju kbir f’konformità mal-għan maħsub tagħha u f’kundizzjonijiet ta’ użu ħażin raġonevolment prevedibbli;

(c)l-evalwazzjoni ta’ riskji possibbli oħrajn li jinħolqu abbażi tal-analiżi tad-data miġbura mis-sistema ta’ sorveljanza ta’ wara t-tqegħid fis-suq imsemmija fl-Artikolu 61;

(d)l-adozzjoni ta’ miżuri xierqa tal-ġestjoni tar-riskju f’konformità mad-dispożizzjonijiet tal-paragrafi li ġejjin.

3.Il-miżuri tal-ġestjoni tar-riskju msemmija fil-punt (d) tal-paragrafu 2 għandhom iqisu kif xieraq l-effetti u l-interazzjonijiet possibbli li jirriżultaw mill-applikazzjoni kkombinata tar-rekwiżiti stabbiliti f’dan il-Kapitolu 2. Dawn għandhom iqisu l-aħħar avvanzi rikonoxxuti b’mod ġenerali, inkluż kif rifless fl-istandards armonizzati jew fl-ispeċifikazzjonijiet komuni rilevanti.

4.Il-miżuri tal-ġestjoni tar-riskju msemmija fil-punt (d) tal-paragrafu 2 għandhom ikunu tali li kull riskju residwu assoċjat ma’ kull periklu u kull riskju residwu ġenerali tas-sistemi tal-AI b’riskju kbir jitqies aċċettabbli, diment li s-sistema tal-AI b’riskju kbir tintuża f’konformità mal-għan maħsub tagħha jew b’kundizzjonijiet ta’ użu ħażin raġonevolment prevedibbli. Dawk ir-riskji residwi għandhom jiġu kkomunikati lill-utent.

Fl-identifikazzjoni tal-aktar miżuri xierqa tal-ġestjoni tar-riskju, għandu jkun żgurat li:

(a)l-eliminazzjoni jew it-tnaqqis tar-riskji kemm jista’ jkun permezz ta’ disinn u ta’ żvilupp adegwati;

(b)meta xieraq, l-implimentazzjoni ta’ miżuri adegwati ta’ mitigazzjoni u ta’ kontroll fir-rigward ta’ riskji li ma jistgħux jiġu eliminati;

(c)l-għoti ta’ informazzjoni adegwata skont l-Artikolu 13, b’mod partikolari rigward ir-riskji msemmija fil-punt (b) tal-paragrafu 2 ta’ dan l-Artikolu, u meta xieraq, taħriġ lill-utenti.

Fl-eliminazzjoni jew fit-tnaqqis tar-riskji relatati mal-użu tas-sistema tal-AI b’riskju kbir, għandha tingħata kunsiderazzjoni dovuta lill-għarfien tekniku, lill-esperjenza, lill-edukazzjoni, lit-taħriġ li għandu jkun mistenni mill-utent u mill-ambjent li fih tkun maħsuba li tintuża s-sistema.

5.Is-sistemi tal-AI b’riskju kbir għandhom jiġu ttestjati għall-finijiet ta’ identifikazzjoni tal-aktar miżuri xierqa tal-ġestjoni tar-riskju. L-ittestjar għandu jiżgura li s-sistemi tal-AI b’riskju kbir jaħdmu b’mod konsistenti għall-għan maħsub tagħhom u jkunu konformi mar-rekwiżiti stabbiliti f’dan il-Kapitolu.

6.Il-proċeduri tal-ittestjar għandhom ikunu xierqa biex jintlaħaq l-għan maħsub tas-sistema tal-AI u m’għandhomx għalfejn imorru lil hinn minn dak meħtieġ biex jilħqu dak l-għan.

7.L-ittestjar tas-sistemi tal-AI b’riskju kbir għandu jitwettaq, kif xieraq, fi kwalunkwe ħin matul il-proċess ta’ żvilupp, u, fi kwalunkwe każ, qabel it-tqegħid fis-suq jew it-tqegħid fis-servizz. L-ittestjar għandu jsir skont metrika ddefinita b’mod preliminari u limiti probabilistiċi li huma adattati għall-għan maħsub tas-sistema tal-AI b’riskju kbir.

8.Meta tiġi implimentata s-sistema tal-ġestjoni tar-riskju deskritta fil-paragrafi 1 sa 7, għandha tingħata kunsiderazzjoni speċifika dwar jekk is-sistema tal-AI b’riskju kbir hix probabbli tiġi aċċessata minn tfal jew tħallix impatt fuqhom.

9.Għall-istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE, l-aspetti deskritti fil-paragrafi 1 sa 8 għandhom ikunu parti mill-proċeduri tal-ġestjoni tar-riskju stabbiliti minn dawk l-istituzzjonijiet skont l-Artikolu 74 ta’ dik id-Direttiva.

Artikolu 10
Data u governanza tad-data

1.Sistemi tal-AI b’riskju kbir li jagħmlu użu minn tekniki li jinvolvu t-taħriġ ta’ mudelli b’data għandhom jiġu żviluppati abbażi ta’ settijiet tad-data għal taħriġ, validazzjoni u ttestjar li jissodisfaw il-kriterji tal-kwalità msemmijin fil-paragrafi 2 sa 5.

2.Is-settijiet tad-data għal taħriġ, validazzjoni u ttestjar għandhom ikunu soġġetti għal prattiki xierqa ta’ governanza u ġestjoni tad-data. Dawk il-prattiki għandhom jikkonċernaw b’mod partikolari,

(a)l-għażliet rilevanti tad-disinn;

(b)il-ġbir ta’ data;

(c)operazzjonijiet rilevanti ta’ pproċessar ta’ tħejjija tad-data, bħall-annotazzjoni, it-tikkettar, it-tindif, l-arrikkiment u l-aggregazzjoni;

(d)il-formulazzjoni tas-suppożizzjonijiet rilevanti, b’mod partikolari fir-rigward tal-informazzjoni li d-data suppost tkejjel u tirrappreżenta;

(e)valutazzjoni minn qabel tad-disponibbiltà, tal-kwantità u tal-adegwatezza tas-settijiet ta’ data li huma meħtieġa;

(f)l-eżaminazzjoni fid-dawl tal-preġudizzji possibbli;

(g)l-identifikazzjoni ta’ kull lakuna jew nuqqas possibbli fid-data, u kif dawk il-lakuni u n-nuqqasijiet jistgħu jiġu indirizzati.

3.Is-settijiet ta’ data għal taħriġ, validazzjoni u ttestjar għandhom ikunu rilevanti, rappreżentattivi, mingħajr erruri u kompluti. Għandu jkollhom ukoll il-proprjetajiet statistiċi xierqa, inkluż, meta xieraq, rigward il-persuni jew il-gruppi ta’ persuni li fuqhom tkun maħsuba li tintuża s-sistema tal-AI b’riskju kbir. Dawn il-karatteristiċi tas-settijiet ta’ data jistgħu jiġu ssodisfati fil-livell ta’ settijiet tad-data individwali jew ta’ taħlita tagħhom.

4.Is-settijiet tad-data għal taħriġ, validazzjoni u ttestjar għandhom iqisu, sa fejn ikun meħtieġ mill-għan maħsub tagħhom, il-karatteristiċi jew l-elementi li jkunu partikolari għall-ambjent jew għall-kuntest ġeografiku, komportamentali jew funzjonali speċifiku li fih tkun maħsuba li tintuża s-sistema tal-AI b’riskju kbir.

5.Sa fejn ikun strettament meħtieġ biex ikunu żgurati l-monitoraġġ, id-detezzjoni u t-tiswija tal-preġudizzju fir-rigward tas-sistemi tal-AI b’riskju kbir, il-fornituri ta’ dawn is-sistemi jistgħu jipproċessaw kategoriji speċjali ta’ data personali msemmija fl-Artikolu 9(1) tar-Regolament (UE) 2016/679, fl-Artikolu 10 tad-Direttiva (UE) 2016/680 u fl-Artikolu 10(1) tar-Regolament (UE) 2018/1725, soġġetti għal salvagwardji xierqa għad-drittijiet u l-libertajiet fundamentali tal-persuni fiżiċi, inkluż limitazzjonijiet tekniċi dwar l-użu mill-ġdid u l-użu ta’ miżuri mill-aktar avvanzati għal sigurtà u preservazzjoni tal-privatezza, bħal psewdonimizzazzjoni, jew kriptaġġ meta l-anonimizzazzjoni tkun tista’ taffettwa b’mod sinifikanti l-għan fil-mira.

6.Għandhom japplikaw prattiki xierqa ta’ governanza u ġestjoni tad-data għall-iżvilupp ta’ sistemi tal-AI b’riskju kbir għajr dawk li jużaw tekniki li jinvolvu t-taħriġ ta’ mudelli biex jiżguraw li dawk is-sistemi tal-AI b’riskju kbir jikkonformaw mal-paragrafu 2.

Artikolu 11
Dokumentazzjoni teknika

1.Id-dokumentazzjoni teknika ta’ sistema tal-AI b’riskju kbir għandha titfassal qabel ma dik is-sistema titqiegħed fis-suq jew titqiegħed fis-servizz u għandha tinżamm aġġornata.

Id-dokumentazzjoni teknika għandha titfassal b’mod li turi li s-sistema tal-AI b’riskju kbir tikkonforma mar-rekwiżiti stabbiliti f’dan il-Kapitolu u tipprovdi l-informazzjoni meħtieġa kollha lill-awtoritajiet kompetenti nazzjonali u lill-korpi notifikati biex jivvalutaw il-konformità tas-sistema tal-AI ma’ dawk ir-rekwiżiti. Bħala minimu, għandu jkun fiha l-elementi stabbiliti fl-Anness IV.

2.Meta sistema tal-AI b’riskju kbir relatata ma’ prodott, li għalih japplikaw l-atti legali elenkati fl-Anness II, it-Taqsima A, titqiegħed fis-suq jew titqiegħed fis-servizz, għandha titfassal dokumentazzjoni teknika waħda bl-informazzjoni kollha stabbilita fl-Anness IV u bl-informazzjoni meħtieġa skont dawk l-atti legali.

3.Il-Kummissjoni għandha s-setgħa li tadotta atti delegati f’konformità mal-Artikolu 73 biex temenda l-Anness IV meta meħtieġ biex tiżgura li, fid-dawl tal-progress tekniku, id-dokumentazzjoni teknika tipprovdi l-informazzjoni kollha meħtieġa għal valutazzjoni tal-konformità tas-sistema mar-rekwiżiti stabbiliti f’dan il-Kapitolu.

Artikolu 12
Żamma tar-rekords

1.Is-sistemi tal-AI b’riskju kbir għandhom jitfasslu u jiġu żviluppati b’kapaċitajiet li jippermettu r-reġistrazzjoni awtomatika tal-avvenimenti (“logs”) waqt it-tħaddim tas-sistemi tal-AI b’riskju kbir. Dawk il-kapaċitajiet tal-illoggjar għandhom jikkonformaw ma’ standards rikonoxxuti jew speċifikazzjonijiet komuni.

2.Il-kapaċitajiet tal-illoggjar għandhom jiżguraw livell ta’ traċċabbiltà tal-funzjonament tas-sistema tal-AI tul iċ-ċiklu tal-ħajja tagħha li jkun xieraq għall-għan maħsub tas-sistema.

3.B’mod partikolari, il-kapaċitajiet tal-illoggjar għandhom jippermettu l-monitoraġġ tat-tħaddim tas-sistema tal-AI b’riskju kbir fir-rigward tal-okkorrenza ta’ sitwazzjonijiet li jistgħu jwasslu biex is-sistema tal-AI tippreżenta riskju skont it-tifsira tal-Artikolu 65(1) jew iwasslu għal modifika sostanzjali, u jiffaċilitaw is-sorveljanza ta’ wara t-tqegħid fis-suq imsemmija fl-Artikolu 61.

4.Għas-sistemi tal-AI b’riskju kbir imsemmija fil-punt (a) tal-paragrafu 1 tal-Anness III, il-kapaċitajiet tal-illoggjar għandhom jipprovdu, bħala minimu:

(a)ir-reġistrazzjoni tal-perjodu ta’ kull użu tas-sistema (id-data u l-ħin tal-bidu u d-data u l-ħin tat-tmiem ta’ kull użu);

(b)il-bażi tad-data ta’ referenza li magħha tiġi vverifikata d-data tal-input mis-sistema;

(c)id-data tal-input li magħha t-tfittxija wasslet għal konkordanza;

(d)l-identifikazzjoni tal-persuni fiżiċi involuti fil-verifika tar-riżultati, kif imsemmija fl-Artikolu 14(5).

Artikolu 13
Trasparenza u għoti tal-informazzjoni lill-utenti

1.Is-sistemi tal-AI b’riskju kbir għandhom jiġu disinjati u żviluppati b’tali mod li jkun żgurat li t-tħaddim tagħhom ikun trasparenti biżżejjed biex l-utenti jkunu jistgħu jinterpretaw l-output tas-sistema u jużawh kif xieraq. Għandhom jiġu żgurati tip u grad xierqa ta’ trasparenza, biex tinkiseb konformità mal-obbligi rilevanti tal-utent u tal-fornitur stabbiliti fil-Kapitolu 3 ta’ dan it-Titolu.

2.Mas-sistemi tal-AI b’riskju kbir għandhom jingħataw struzzjonijiet għall-użu b’format diġitali xieraq jew b’xi format ieħor li jinkludu informazzjoni konċiża, kompluta, korretta u ċara li tkun rilevanti, aċċessibbli u li tinftiehem mill-utenti.

3.L-informazzjoni msemmija fil-paragrafu 2 għandha tispeċifika:

(a)l-identità u d-dettalji ta’ kuntatt tal-fornitur u, meta applikabbli, tar-rappreżentant awtorizzat tiegħu;

(b)il-karatteristiċi, il-kapaċitajiet u l-limitazzjonijiet tal-prestazzjoni tas-sistema tal-AI b’riskju kbir, inkluż:

(i)l-għan maħsub tagħha;

(ii)il-livell ta’ eżattezza, robustezza u ċibersigurtà msemmi fl-Artikolu 15 li abbażi tiegħu tkun ġiet ittestjata u vvalidata s-sistema tal-AI b’riskju kbir u li jista’ jkun mistenni; u kull ċirkostanza magħrufa u prevedibbli li tista’ tħalli impatt fuq dak il-livell mistenni ta’ eżattezza, robustezza u ċibersigurtà;

(iii)kwalunkwe ċirkostanza magħrufa jew prevedibbli, relatata mal-użu tas-sistema tal-AI b’riskju kbir f’konformità mal-għan maħsub tagħha jew f’kundizzjonijiet ta’ użu ħażin raġonevolment prevedibbli, li tista’ twassal għal riskji għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali;

(iv)il-prestazzjoni tagħha b’rabta mal-persuni jew il-gruppi ta’ persuni li fuqhom hi maħsuba li tintuża s-sistema;

(v)meta jkun xieraq, l-ispeċifikazzjonijiet għad-data tal-input, jew kull informazzjoni rilevanti oħra f’termini tas-settijiet tad-data għal taħriġ, validazzjoni u ttestjar użati, filwaqt li jitqies l-għan maħsub tas-sistema tal-AI.

(c)it-tibdiliet fis-sistema tal-AI b’riskju kbir u fil-prestazzjoni tagħha li jkunu ġew determinati minn qabel mill-fornitur waqt il-valutazzjoni inizjali tal-konformità, jekk ikun hemm;

(d)il-miżuri tas-sorveljanza umana msemmija fl-Artikolu 14, inkluż il-miżuri tekniċi stabbiliti biex jiffaċilitaw l-interpretazzjoni tal-outputs tas-sistemi tal-AI mill-utenti;

(e)il-ħajja mistennija tas-sistema tal-AI b’riskju kbir u kull miżura ta’ manutenzjoni u kura meħtieġa biex ikun żgurat il-funzjonament xieraq ta’ dik is-sistema tal-AI, inkluż fir-rigward tal-aġġornamenti tas-software.

Artikolu 14
Sorveljanza umana

1.Is-sistemi tal-AI b’riskju kbir għandhom jitfasslu u jiġu żviluppati b’tali mod, inkluż b’għodod xierqa ta’ interfaċċja bejn il-bniedem u l-magna, li jistgħu jiġu ssorveljati b’mod effettiv minn persuni fiżiċi watq il-perjodu tal-użu tas-sistema tal-AI.

2.Is-sorveljanza umana għandu jkollha l-għan li tipprevjeni jew tnaqqas kemm jista’ jkun ir-riskji għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali li jistgħu jinħolqu waqt l-użu tas-sistema tal-AI b’riskju kbir f’konformità mal-għan maħsub tagħha jew f’kundizzjonijiet ta’ użu ħażin raġonevolment prevedibbli, b’mod partikolari meta dawn ir-riskji jissoktaw minkejja l-applikazzjoni ta’ rekwiżiti oħra stabbiliti f’dan il-Kapitolu.

3.Is-sorveljanza umana għandha tiġi żgurata bil-miżuri kollha li ġejjin, jew b’miżura waħda minnhom:

(a)identifikata u mibnija, meta teknikament fattibbli, fis-sistema tal-AI b’riskju kbir mill-fornitur qabel ma titqiegħed fis-suq jew titqiegħed fis-servizz;

(b)identifikata mill-fornitur qabel ma jqiegħed is-sistema tal-AI b’riskju kbir fis-suq jew fis-servizz u li huma xierqa biex jiġu implimentati mill-utent.

4.Il-miżuri msemmijin fil-paragrafu 3 għandhom jippermettu lill-individwi li lilhom tiġi assenjata s-sorveljanza umana jagħmlu dan li ġej, kif xieraq għaċ-ċirkostanzi:

(a)jifhmu bis-sħiħ il-kapaċitajiet u l-limitazzjonijiet tas-sistema tal-AI b’riskju kbir u jkunu jistgħu jimmonitorjaw kif xieraq it-tħaddim tagħha, biex ikunu jistgħu jiġu identifikati u indirizzati sinjali ta’ anomaliji, diżfunzjonijiet u prestazzjoni mhux mistennija mill-aktar fis possibbli;

(b)jibqgħu konxji tat-tendenza possibbli li wieħed jibbaża awtomatikament jew jibbaża żżejjed fuq l-output prodott minn sistema tal-AI b’riskju kbir (“preġudizzju fl-awtomatizzazzjoni”), b’mod partikolari għas-sistemi tal-AI b’riskju kbir użati biex jagħtu informazzjoni jew rakkomandazzjonijiet għal deċiżjonijiet li jridu jieħdu persuni fiżiċi;

(c)ikunu jistgħu jinterpretaw b’mod korrett l-output tas-sistema AI b’riskju kbir, filwaqt li jqisu b’mod partikolari l-karatteristiċi tas-sistema u l-għodod u l-metodi ta’ interpretazzjoni disponibbli;

(d)ikunu jistgħu jiddeċiedu, f’xi sitwazzjoni partikolari, li ma jużawx is-sistema tal-AI b’riskju kbir jew jinjoraw, iwarrbu jew ireġġgħu lura l-output tas-sistema tal-AI b’riskju kbir;

(e)ikunu jistgħu jintervjenu fuq it-tħaddim tas-sistema tal-AI b’riskju kbir jew jinterrompu s-sistema b’buttuna ta’ “waqfien” jew bi proċedura simili.

5.Għas-sistemi tal-AI b’riskju kbir imsemmija fil-punt 1(a) tal-Anness III, il-miżuri msemmija fil-paragrafu 3 għandhom ikunu tali li jiżguraw li, barra minn hekk, ma tittieħed l-ebda azzjoni jew deċiżjoni mill-utent abbażi tal-identifikazzjoni li tirriżulta mis-sistema sakemm din ma tkunx ġiet ivverifikata u kkonfermata minn tal-anqas żewġ persuni fiżiċi.

Artikolu 15
Eżattezza, robustezza u ċibersigurtà

1.Is-sistemi tal-AI b’riskju kbir għandhom jitfasslu u jiġu żviluppati b’tali mod li jiksbu, fid-dawl tal-għan maħsub tagħhom, livell xieraq ta’ eżattezza, robustezza u ċibersigurtà, u jaħdmu b’mod konsistenti f’dawk l-aspetti tul iċ-ċiklu tal-ħajja tagħhom.

2.Il-livelli ta’ eżattezza u l-metrika tal-eżattezza rilevanti tas-sistemi tal-AI b’riskju kbir għandhom jiġu ddikjarati fl-istruzzjonijiet tal-użu mogħtija.

3.Is-sistemi tal-AI b’riskju kbir għandhom ikunu reżiljenti fir-rigward ta’ erruri, ħsarat jew inkonsistenzi li jistgħu jseħħu fis-sistema jew fl-ambjent li fih topera s-sistema, b’mod partikolari minħabba l-interazzjoni tagħhom ma’ persuni fiżiċi jew sistemi oħra.

4.Ir-robustezza tas-sistemi tal-AI b’riskju kbir tista’ tinkiseb b’soluzzjonijiet tekniċi ta’ ridondanza, li jistgħu jinkludu pjanijiet ta’ backup jew ta’ fail-safe.

5.Is-sistemi tal-AI b’riskju kbir li jkomplu jitgħallmu wara li jitqiegħdu fis-suq jew jitqiegħdu fis-servizz għandhom jiġu żviluppati b’tali mod li jkun żgurat li l-outputs possibbilment ippreġudikati minħabba l-outputs użati bħala input għal operazzjonijiet futuri (“feedback loops”) jiġu indirizzati kif xieraq b’miżuri ta’ mitigazzjoni xierqa.

6.Is-sistemi tal-AI b’riskju kbir għandhom ikunu reżiljenti fir-rigward ta’ tentattivi minn partijiet terzi mhux awtorizzati biex ibiddlu l-użu jew il-prestazzjoni tagħhom billi jisfruttaw il-vulnerabbiltajiet tas-sistema.

Is-soluzzjonijiet tekniċi mmirati biex jiżguraw iċ-ċibersigurtà tas-sistemi tal-AI b’riskju kbir għandhom ikunu xierqa għaċ-ċirkostanzi rilevanti u għar-riskji.

Is-soluzzjonijiet tekniċi biex jiġu indirizzati vulnerabbiltajiet speċifiċi għall-AI għandhom jinkludu, meta xieraq, miżuri għall-prevenzjoni u l-kontroll ta’ attakki li jippruvaw jimmanipulaw is-sett tad-data għal taħriġ (“avvelenament tad-data”), l-inputs imfasslin biex jġiegħlu lill-mudell jiżbalja (“eżempji avversarjali”), jew difetti fil-mudell.

Kapitolu 3

OBBLIGI TAL-FORNITURI U TAL-UTENTI TAS-SISTEMI TAL-INTELLIĠENZA ARTIFIĊJALI B’RISKJU KBIR u partijiet oħrajn

Artikolu 16
Obbligi tal-fornituri tas-sistemi tal-AI b’riskju kbir

Il-fornituri tas-sistemi tal-AI b’riskju kbir għandhom:

(a)jiżguraw li s-sistemi tal-AI b’riskju kbir tagħhom ikunu konformi mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu;

(b)ikollhom fis-seħħ sistema tal-ġestjoni tal-kwalità li tikkonforma mal-Artikolu 17;

(c)ifasslu d-dokumentazzjoni teknika tas-sistema tal-AI b’riskju kbir;

(d)meta jkunu fil-kontroll tagħhom, iżommu l-logs iġġenerati awtomatikament mis-sistemi tal-AI b’riskju kbir tagħhom;

(e)jiżguraw li s-sistema tal-AI b’riskju kbir tgħaddi mill-proċedura rilevanti tal-valutazzjoni tal-konformità, qabel ma titqiegħed fis-suq jew fis-servizz;

(f)jikkonformaw mal-obbligi tar-reġistrazzjoni msemmija fl-Artikolu 51;

(g)jieħdu l-azzjonijiet korrettivi meħtieġa, jekk is-sistema tal-AI b’riskju kbir ma tkunx konformi mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu;

(h)jinformaw lill-awtoritajiet nazzjonali kompetenti tal-Istati Membri li fihom huma jkunu qiegħdu s-sistema tal-AI għad-dispożizzjoni jew fis-servizz u, meta applikabbli, lill-korp notifikat dwar in-nuqqas ta’ konformità u dwar kull azzjoni korrettiva meħuda;

(i)iwaħħlu l-markatura CE mas-sistemi tal-AI b’riskju kbir tagħhom biex jindikaw il-konformità ma’ dan ir-Regolament f’konformità mal-Artikolu 49;

(j)meta jintalbu mill-awtorità nazzjonali kompetenti, juru l-konformità tas-sistema tal-AI b’riskju kbir mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu.

Artikolu 17
Sistema tal-ġestjoni tal-kwalità

1.Il-fornituri tas-sistemi tal-AI b’riskju kbir għandhom jistabbilixxu sistema tal-ġestjoni tal-kwalità li tiżgura l-konformità ma’ dan ir-Regolament. Dik is-sistema għandha tiġi dokumentata b’mod sistematiku u ordnat fil-forma ta’ politiki, proċeduri u struzzjonijiet bil-miktub, u għandha tinkludi tal-anqas l-aspetti li ġejjin:

(a)strateġija għall-konformità regolatorja, inkluż il-konformità mal-proċeduri ta’ valutazzjoni u mal-proċeduri għall-ġestjoni tal-modifiki fis-sistema tal-AI b’riskju kbir;

(b)it-tekniki, il-proċeduri u l-azzjonijiet sistematiċi li għandhom jintużaw għad-disinn, il-kontroll tad-disinn u l-verifika tad-disinn tas-sistema tal-AI b’riskju kbir;

(c)it-tekniki, il-proċeduri u l-azzjonijiet sistematiċi li jridu jintużaw għall-iżvilupp, il-kontroll tal-kwalità u l-garanzija tal-kwalità tas-sistema tal-AI b’riskju kbir;

(d)il-proċeduri ta’ eżaminazzjoni, ittestjar u validazzjoni li jridu jsiru qabel, waqt u wara l-iżvilupp tas-sistema tal-AI b’riskju kbir, u l-frekwenza li biha jridu jsiru;

(e)l-ispeċifikazzjonijiet tekniċi, inkluż l-istandards, li jridu jiġu applikati u, meta l-istandards armonizzati rilevanti ma jiġux applikati għalkollox, il-mezzi li jridu jintużaw biex ikun żgurat li s-sistema tal-AI b’riskju kbir tikkonforma mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu;

(f)sistemi u proċeduri għall-ġestjoni tad-data, inkluż il-ġbir tad-data, l-analiżi tad-data, it-tikkettar tad-data, il-ħżin tad-data, il-filtrazzjoni tad-data, l-estrazzjoni tad-data, l-aggregazzjoni tad-data, iż-żamma tad-data u kwalunkwe operazzjoni oħra rigward id-data li titwettaq qabel u għall-finijiet tat-tqegħid fis-suq jew fis-servizz ta’ sistemi tal-AI b’riskju kbir;

(g)is-sistema tal-ġestjoni tar-riskju msemmija fl-Artikolu 9;

(h)l-istabbiliment, l-implimentazzjoni u l-manutenzjoni ta’ sistema tas-sorveljanza ta’ wara t-tqegħid fis-suq, f’konformità mal-Artikolu 61;

(i)il-proċeduri relatati mar-rapportar ta’ inċidenti serji u funzjonament ħażin f’konformità mal-Artikolu 62;

(j)it-trattament tal-komunikazzjoni mal-awtoritajiet nazzjonali kompetenti, mal-awtoritajiet kompetenti, inkluż dawk settorjali, l-għoti jew l-appoġġ tal-aċċess għad-data, mal-korpi notifikati, ma’ operaturi oħra, ma’ klijenti jew ma’ partijiet interessati oħra;

(k)is-sistemi u l-proċeduri għaż-żamma tar-rekords tad-dokumentazzjoni u tal-informazzjoni rilevanti kollha;

(l)il-ġestjoni tar-riżorsi, li tinkludi miżuri relatati mas-sigurtà tal-provvista;

(m)qafas ta’ responsabbiltà li jistabbilixxi r-responsabbiltajiet tal-maniġment u ta’ persunal ieħor fir-rigward tal-aspetti kollha elenkati f’dan il-paragrafu.

2.L-implimentazzjoni tal-aspetti msemmijin fil-paragrafu 1 għandha tkun proporzjonata għad-daqs tal-organizzazzjoni tal-fornitur.

3.Għall-fornituri li huma istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE, l-obbligu li tiġi stabbilita sistema ta’ ġestjoni tal-kwalità għandu jitqies issodisfat billi jiġu konformi mar-regoli dwar l-arranġamenti, il-proċessi u l-mekkaniżmi ta’ governanza interna skont l-Artikolu 74 ta’ dik id-Direttiva. F’dak il-kuntest, għandu jitqies kwalunkwe standard armonizzat imsemmi fl-Artikolu 40 ta’ dan ir-Regolament.

Artikolu 18
Obbligu li titfassal dokumentazzjoni teknika

1.Il-fornituri ta’ sistemi tal-AI b’riskju kbir għandhom ifasslu d-dokumentazzjoni teknika msemmija fl-Artikolu 11 f’konformità mal-Anness IV.

2.Il-fornituri li huma istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE għandhom iżommu d-dokumentazzjoni teknika bħala parti mid-dokumentazzjoni dwar il-governanza interna, l-arranġamenti, il-proċessi u l-mekkaniżmi skont l-Artikolu 74 ta’ dik id-Direttiva.

Artikolu 19
Valutazzjoni tal-konformità

1.Il-fornituri ta’ sistemi tal-AI b’riskju kbir għandhom jiżguraw li s-sistemi tagħhom jgħaddu mill-proċedura rilevanti tal-valutazzjoni tal-konformità f’konformità mal-Artikolu 43, qabel ma jitqiegħdu fis-suq jew fis-servizz. Meta tkun intweriet il-konformità tas-sistemi tal-AI mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu wara dik il-valutazzjoni tal-konformità, il-fornituri għandhom ifasslu dikjarazzjoni ta’ konformità tal-UE, f’konformità mal-Artikolu 48 u jwaħħlu l-markatura tal-konformità CE, f’konformità mal-Artikolu 49.

2.Għal sistemi tal-AI b’riskju kbir msemmijin fil-punt 5(b) tal-Anness III li jitqiegħdu fis-suq jew jitqiegħdu fis-servizz minn fornituri li huma istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE, il-valutazzjoni tal-konformità għandha titwettaq bħala parti mill-proċedura msemmija fl-Artikoli 97 sa 101 ta’ dik id-Direttiva.

Artikolu 20
Logs iġġenerati awtomatikament

1.Il-fornituri tas-sistemi tal-AI b’riskju kbir għandhom iżommu l-logs iġġenerati awtomatikament mis-sistemi tal-AI b’riskju kbir tagħhom, sa fejn dawn il-logs ikunu fil-kontroll tagħhom skont arranġament kuntrattwali mal-utent jew b’xi mod ieħor bil-liġi. Il-logs għandhom jinżammu għal perjodu li jkun xieraq fid-dawl tal-għan maħsub tas-sistema tal-AI b’riskju kbir u tal-obbligi legali applikabbli skont il-liġi tal-Unjoni jew nazzjonali.

2.Il-fornituri li huma istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE għandhom iżommu l-logs iġġenerati awtomatikament mis-sistemi tal-AI b’riskju kbir tagħhom bħala parti mid-dokumentazzjoni skont l-Artikoli 74 ta’ dik id-Direttiva.

Artikolu 21
Azzjonijiet korrettivi

Il-fornituri tas-sistemi tal-AI b’riskju kbir li jqisu jew li jkollhom raġuni biex iqisu li sistema tal-AI b’riskju kbir li jkunu qiegħdu fis-suq jew li jkunu qiegħdu fis-servizz ma tkunx konformi ma’ dan ir-Regolament, għandhom jieħdu l-azzjonijiet korrettivi meħtieġa minnufih biex dik is-sistema tinġieb konformi, titneħħa jew tinġabar lura, skont kif ikun xieraq. Dawn għandhom jinformaw lid-distributuri tas-sistema tal-AI b’riskju kbir inkwistjoni u, meta applikabbli, lir-rappreżentant awtorizzat u lill-importaturi kif xieraq.

Artikolu 22
Dmir ta’ informazzjoni

Meta s-sistema tal-AI b’riskju kbir tippreżenta riskju skont it-tifsira tal-Artikolu 65(1) u dak ir-riskju jkun magħruf mill-fornitur tas-sistema, dak il-fornitur għandu jinforma minnufih lill-awtoritajiet nazzjonali kompetenti tal-Istati Membri li fihom ikun għamel is-sistema disponibbli u, meta applikabbli, lill-korp notifikat li jkun ħareġ ċertifikat għas-sistema tal-AI b’riskju kbir, b’mod partikolari dwar in-nuqqas ta’ konformità u dwar kull azzjoni korrettiva meħuda.

Artikolu 23
Kooperazzjoni mal-awtoritajiet kompetenti

Il-fornituri ta’ sistemi tal-AI b’riskju kbir għandhom, fuq talba minn awtorità nazzjonali kompetenti, jipprovdu lil dik l-awtorità bl-informazzjoni u bid-dokumentazzjoni kollha meħtieġa biex turi l-konformità tas-sistema tal-AI b’riskju kbir mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, f’lingwa uffiċjali tal-Unjoni ddeterminata mill-Istat Membru kkonċernat. B’talba motivata minn awtorità nazzjonali kompetenti, il-fornituri għandhom jagħtu wkoll lil dik l-awtorità aċċess għal-logs iġġenerati awtomatikament mis-sistema tal-AI b’riskju kbir, sa fejn dawn il-logs ikunu fil-kontroll tagħhom skont arranġament kuntrattwali mal-utent jew b’xi mod ieħor bil-liġi.

Artikolu 24
Obbligi tal-manifatturi tal-prodotti

Meta sistema tal-AI b’riskju kbir relatata ma’ prodotti li għalihom japplikaw l-atti legali elenkati fl-Anness II, it-taqsima A, titqiegħed fis-suq jew titqiegħed fis-servizz flimkien mal-prodott manifatturat f’konformità ma’ dawk l-atti legali u bl-isem tal-manifattur tal-prodott, il-manifattur tal-prodott għandu jieħu r-responsabbiltà tal-konformità tas-sistema tal-AI ma’ dan ir-Regolament u, sa fejn tkun ikkonċernata s-sistema tal-AI, għandu jkollu l-istess obbligi imposti minn dan ir-Regolament fuq il-fornitur.

Artikolu 25
Rappreżentanti awtorizzati

1.Qabel ma jagħmlu s-sistemi tagħhom disponibbli fis-suq tal-Unjoni, meta importatur ma jkunx jista’ jiġi identifikat, il-fornituri stabbiliti barra mill-Unjoni għandhom, b’mandat bil-miktub, jaħtru rappreżentant awtorizzat li jkun stabbilit fl-Unjoni.

2.Ir-rappreżentant awtorizzat għandu jwettaq il-kompiti speċifikati fil-mandat li jirċievi mingħand il-fornitur. Il-mandat għandu jagħti s-setgħa lir-rappreżentant awtorizzat biex iwettaq il-kompiti li ġejjin:

(a)iżomm kopja tad-dikjarazzjoni tal-konformità tal-UE u tad-dokumentazzjoni teknika għad-dispożizzjoni tal-awtoritajiet nazzjonali kompetenti u tal-awtoritajiet nazzjonali msemmijin fl-Artikolu 63(7);

(b)jipprovdi lil awtorità nazzjonali kompetenti, fuq talba motivata, bl-informazzjoni u bid-dokumentazzjoni kollha meħtieġa biex turi l-konformità ta’ sistema tal-AI b’riskju kbir mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, inkluż l-aċċess għal-logs iġġenerati awtomatikament mis-sistema tal-AI b’riskju kbir sal-punt li tali logs ikunu fil-kontroll tal-fornitur skont arranġament kuntrattwali mal-utent jew b’xi mod ieħor bil-liġi;

(c)jikkoopera mal-awtoritajiet nazzjonali kompetenti, b’talba motivata, dwar kull azzjoni li dawn tal-aħħar jieħdu fir-rigward tas-sistema tal-AI b’riskju kbir.

Artikolu 26
Obbligi tal-importaturi

1.Qabel ma jqiegħdu sistema tal-AI b’riskju kbir fis-suq, l-importaturi tat-tali sistema għandhom jiżguraw li:

(a)il-proċedura xierqa tal-valutazzjoni tal-konformità twettqet mill-fornitur ta’ dik is-sistema tal-AI

(b)il-fornitur ikun fassal id-dokumentazzjoni teknika f’konformità mal-Anness IV;

(c)is-sistema jkollha l-markatura tal-konformità meħtieġa u tkun akkumpanjata mid-dokumentazzjoni u mill-istruzzjonijiet tal-użu meħtieġa.

2.Meta importatur iqis jew ikollu raġuni biex iqis li sistema tal-AI b’riskju kbir ma tkunx konformi ma’ dan ir-Regolament, dan m’għandux iqiegħed dik is-sistema fis-suq sakemm dik is-sistema tal-AI tkun inġiebet f’konformità. Meta s-sistema tal-AI b’riskju kbir tippreżenta riskju skont it-tifsira tal-Artikolu 65(1), l-importatur għandu jinforma lill-fornitur tas-sistema tal-AI u lill-awtoritajiet ta’ sorveljanza tas-suq dwar dan.

3.L-importaturi għandhom iniżżlu isimhom, l-isem kummerċjali rreġistrat jew it-trademark irreġistrata tagħhom, u l-indirizz li fuqu jistgħu jiġu kkuntattjati fuq is-sistema tal-AI b’riskju kbir jew, meta dan ma jkunx possibbli, fuq l-imballaġġ tagħha jew fid-dokumentazzjoni li takkumpanjaha, kif ikun applikabbli.

4.L-importaturi għandhom jiżguraw li, filwaqt li sistema tal-AI b’riskju kbir tkun fir-responsabbiltà tagħhom, meta applikabbli, il-kundizzjonijiet tal-ħżin jew tat-trasport ma jipperikolawx il-konformità tagħha mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu.

5.L-importaturi għandhom jipprovdu lill-awtoritajiet nazzjonali kompetenti, b’talba motivata, bl-informazzjoni u bid-dokumentazzjoni kollha neċessarji biex juru l-konformità ta’ sistema tal-AI b’riskju kbir mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu b’lingwa li tista’ tinftiehem faċilment minn dik l-awtorità nazzjonali kompetenti, inkluż l-aċċess għal-logs iġġenerati awtomatikament mis-sistema tal-AI b’riskju kbir sal-punt li dawn il-logs ikunu fil-kontroll tal-fornitur skont arranġament kuntrattwali mal-utent jew b’xi mod ieħor bil-liġi. Dawn għandhom jikkooperaw ukoll ma’ dawk l-awtoritajiet fi kwalunkwe azzjoni li tieħu l-awtorità nazzjonali kompetenti fir-rigward ta’ dik is-sistema.

Artikolu 27
Obbligi tad-distributuri

1.Qabel ma jagħmlu sistema tal-AI b’riskju kbir disponibbli fis-suq, id-distributuri għandhom jivverifikaw li s-sistema tal-AI b’riskju kbir jkollha l-markatura tal-konformità CE meħtieġa, li tkun akkumpanjata mid-dokumentazzjoni u mill-istruzzjoni tal-użu meħtieġa, u li l-fornitur u l-importatur tas-sistema, kif applikabbli, ikunu ssodisfaw l-obbligi stabbiliti f’dan ir-Regolament.

2.Meta distributur iqis jew ikollu raġuni biex iqis li sistema tal-AI b’riskju kbir ma tkunx konformi mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, dan m’għandux jagħmel is-sistema tal-AI b’riskju kbir disponibbli fis-suq sakemm dik is-sistema tkun inġiebet f’konformità ma’ dawk ir-rekwiżiti. Barra minn hekk, meta s-sistema tippreżenta riskju skont it-tifsira tal-Artikolu 65(1), id-distributur għandu jinforma lill-fornitur jew lill-importatur tas-sistema, kif ikun applikabbli, għal dak l-għan.

3.Id-distributuri għandhom jiżguraw li, filwaqt li sistema tal-AI b’riskju kbir tkun fir-responsabbiltà tagħhom, meta applikabbli, il-kundizzjonijiet tal-ħżin jew tat-trasport ma jipperikolawx il-konformità tas-sistema mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu.

4.Distributur li jqis jew li jkollu raġuni biex iqis li sistema tal-AI b’riskju kbir li jkun għamel disponibbli fis-suq ma tkunx konformi mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, dan għandu jieħu l-azzjonijiet korrettivi meħtieġa biex iġib dik is-sistema konformi ma’ dawk ir-rekwiżiti, ineħħiha jew jiġborha lura, jew għandu jiżgura li l-fornitur, l-importatur jew xi operatur rilevanti, skont kif xieraq, jieħu dawk l-azzjonijiet korrettivi. Meta s-sistema tal-AI b’riskju kbir tippreżenta riskju skont it-tifsira tal-Artikolu 65(1), id-distributur għandu jinforma minnufih lill-awtoritajiet nazzjonali kompetenti tal-Istati Membri li fihom ikun għamel il-prodott disponibbli għal dak l-għan, billi jagħti d-dettalji, b’mod partikolari, dwar in-nuqqas ta’ konformità u kwalunkwe azzjoni korrettiva meħuda.

5.Fuq talba motivata minn awtorità nazzjonali kompetenti, id-distributuri ta’ sistemi tal-AI b’riskju kbir għandhom jipprovdu lil dik l-awtorità bl-informazzjoni u bid-dokumentazzjoni kollha neċessarja biex juru l-konformità ta’ sistema b’riskju kbir mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu. Id-distributuri għandhom jikkooperaw ukoll ma’ dik l-awtorità nazzjonali kompetenti dwar kwalunkwe azzjoni meħuda minn dik l-awtorità.

Artikolu 28
Obbligi tad-distributuri, tal-importaturi, tal-utenti jew ta’ xi parti terza oħra

1.Distributuri, importaturi, utenti jew partijiet terzi oħra għandhom jitqiesu bħala fornitur għall-finijiet ta’ dan ir-Regolament u għandhom ikunu soġġetti għall-obbligi tal-fornitur skont l-Artikolu 16, f’xi ċirkostanza minn dawn:

(a)iqiegħdu fis-suq jew idaħħlu fis-servizz sistema tal-AI b’riskju kbir b’isimhom jew bit-trademark tagħhom;

(b)jimmodifikaw l-għan maħsub ta’ sistema tal-AI b’riskju kbir li diġà tkun tqiegħdet fis-suq jew fis-servizz;

(c)jagħmlu modifika sostanzjali fis-sistema tal-AI b’riskju kbir.

2.Meta jseħħu ċ-ċirkostanzi msemmijin fil-punt (b) jew (c) tal-paragrafu 1, il-fornitur li inizjalment ikun qiegħed is-sistema tal-AI b’riskju kbir fis-suq jew qegħedha fis-servizz m’għandux jibqa’ jitqies bħala fornitur għall-finijiet ta’ dan ir-Regolament.

Artikolu 29
Obbligi tal-utenti ta’ sistemi tal-AI b’riskju kbir

1.L-utenti tas-sistemi tal-AI b’riskju kbir għandhom jużaw dawn is-sistemi f’konformità mal-istruzzjonijiet tal-użu li jakkumpanjaw is-sistemi, skont il-paragrafi 2 u 5.

2.L-obbligi fil-paragrafu 1 huma mingħajr preġudizzju għal obbligi oħra tal-utenti skont il-liġi tal-Unjoni jew nazzjonali u għad-diskrezzjoni tal-utent fl-organizzazzjoni tar-riżorsi u tal-attivitajiet proprji tiegħu għall-fini tal-implimentazzjoni tal-miżuri tas-sorveljanza umana indikati mill-fornitur.

3.Mingħajr preġudizzju għall-paragrafu 1, sa fejn l-utent jeżerċita kontroll fuq id-data tal-input, dak l-utent għandu jiżgura li d-data tal-input tkun rilevanti fid-dawl tal-għan maħsub tas-sistema tal-AI b’riskju kbir.

4.L-utenti għandhom jimmonitorjaw it-tħaddim tas-sistema tal-AI b’riskju kbir abbażi tal-istruzzjonijiet tal-użu. Meta jkollhom raġunijiet biex iqisu li l-użu f’konformità mal-istruzzjonijiet tal-użu jista’ jwassal biex is-sistema tal-AI tippreżenta riskju skont it-tifsira tal-Artikolu 65(1), huma għandhom jinformaw lill-fornitur jew lid-distributur u jissospendu l-użu tas-sistema. Għandhom jinformaw ukoll lill-fornitur jew lid-distributur meta jkunu identifikaw xi inċident serju jew funzjonament ħażin skont it-tifsira tal-Artikolu 62 u jwaqqfu l-użu tas-sistema tal-AI. F’każ li l-utent ma jkunx jista’ jikkuntattja lill-fornitur, l-Artikolu 62 għandu japplika mutatis mutandis.

5.Għall-fornituri li huma istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE, l-obbligu ta’ monitoraġġ stabbilit fl-ewwel subparagrafu għandu jitqies issodisfat billi jiġu konformi mar-regoli dwar l-arranġamenti, il-proċessi u l-mekkaniżmi ta’ governanza interna skont l-Artikolu 74 ta’ dik id-Direttiva.

6.L-utenti ta’ sistemi tal-AI b’riskju kbir għandhom iżommu l-logs iġġenerati awtomatikament minn dik is-sistemi tal-AI b’riskju kbir, sa fejn dawn il-logs ikunu fil-kontroll tagħhom. Il-logs għandhom jinżammu għal perjodu li jkun xieraq fid-dawl tal-għan maħsub tas-sistema tal-AI b’riskju kbir u tal-obbligi legali applikabbli skont il-liġi tal-Unjoni jew nazzjonali.

L-utenti li huma istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE għandhom iżommu l-logs bħala parti mid-dokumentazzjoni dwar il-governanza interna, l-arranġamenti, il-proċessi u l-mekkaniżmi skont l-Artikolu 74 ta’ dik id-Direttiva.

7.L-utenti ta’ sistemi tal-AI b’riskju kbir għandhom jużaw l-informazzjoni pprovduta skont l-Artikolu 13 biex jikkonformaw mal-obbligu tagħhom li jwettqu valutazzjoni tal-impatt fuq il-protezzjoni tad-data skont l-Artikolu 35 tar-Regolament (UE) 2016/679 jew l-Artikolu 27 tad-Direttiva (UE) 2016/680, meta applikabbli.

Kapitolu 4

AWTORITAJIET TAN-NOTIFIKA U KORPI NOTIFIKATI

Artikolu 30
Awtoritajiet tan-notifika

1.Kull Stat Membru għandu jiddeżinja jew jistabbilixxi awtorità tan-notifika responsabbli għall-istabbiliment u għat-twettiq tal-proċeduri meħtieġa għall-valutazzjoni, għad-deżinjazzjoni u għan-notifika tal-korpi tal-valutazzjoni tal-konformità u għall-monitoraġġ tagħhom.

2.L-Istati Membri jistgħu jiddeżinjaw korp nazzjonali ta’ akkreditament imsemmi fir-Regolament (KE) Nru 765/2008 bħala awtorità tan-notifika.

3.L-awtoritajiet tan-notifika għandhom ikunu stabbiliti, organizzati u mħaddmin b’tali mod li ma jinħoloq l-ebda kunflitt ta’ interess mal-korpi tal-valutazzjoni tal-konformità u l-oġġettività u l-imparzjalità tal-attivitajiet tagħhom għandhom ikunu ssalvagwardjati.

4.L-awtoritajiet tan-notifika għandhom ikunu organizzati b’tali mod li kull deċiżjoni relatata man-notifika tal-korpi tal-valutazzjoni tal-konformità tittieħed minn persuna kompetenti differenti minn dawk li jkunu għamlu l-valutazzjoni ta’ dak il-korpi.

5.L-awtoritajiet tan-notifika m’għandhomx joffru jew jipprovdu xi attività li jwettqu l-korpi tal-valutazzjoni tal-konformità jew xi servizz ta’ konsulenza fuq bażi kummerċjali jew kompetittiva.

6.L-awtoritajiet tan-notifika għandhom jissalvagwardjaw il-kunfidenzjalità tal-informazzjoni li jiksbu.

7.L-awtoritajiet tan-notifika għandu jkollhom numru biżżejjed ta’ persunal kompetenti għad-dispożizzjoni tagħhom biex jagħmlu x-xogħol tagħhom sewwa.

8.L-awtoritajiet tan-notifika għandhom jiżguraw li l-valutazzjonijiet tal-konformità jsiru b’mod proporzjonat, filwaqt li jevitaw il-piżijiet bla bżonn għall-fornituri, u li l-korpi notifikati jwettqu l-attivitajiet tagħhom filwaqt li jqisu d-daqs tal-impriża, is-settur li topera fih, l-istruttura tagħha u l-grad ta’ kumplessità tas-sistema tal-AI inkwistjoni.

Artikolu 31
Applikazzjoni ta’ korp tal-valutazzjoni tal-konformità għan-notifika

1.Il-korpi tal-valutazzjoni tal-konformità għandhom jissottomettu applikazzjoni għal notifika lill-awtorità tan-notifika tal-Istat Membru li fih ikunu stabbiliti.

2.Mal-applikazzjoni għal notifika għandha tingħata deskrizzjoni tal-attivitajiet tal-valutazzjoni tal-konformità, il-modulu/i tal-valutazzjoni tal-konformità u t-teknoloġiji tal-intelliġenza artifiċjali li għalihom il-korp tal-valutazzjoni tal-konformità jafferma li huwa kompetenti, u minn ċertifikat ta’ akkreditament, jekk ikun hemm, maħruġ minn korp nazzjonali ta’ akkreditament li jafferma li l-korp tal-valutazzjoni tal-konformità jissodisfa r-rekwiżiti stabbiliti fl-Artikolu 33. Għandu jiżdied kull dokument validu relatat mad-deżinjazzjonijiet eżistenti tal-korp notifikat applikanti skont kwalunkwe leġiżlazzjoni oħra tal-Unjoni dwar l-armonizzazzjoni.

3.Jekk il-korp tal-valutazzjoni tal-konformità kkonċernat ma jkunx jista’ jipprovdi ċertifikat ta’ akkreditament, huwa għandu jinnotifika lill-awtorità tan-notifika bil-prova dokumentarja kollha meħtieġa għall-verifika, għar-rikonoxximent u għall-monitoraġġ regolari tal-konformità tiegħu mar-rekwiżiti stabbiliti fl-Artikolu 33. Għall-korpi notifikati li jiġu ddeżinjati skont xi leġiżlazzjoni oħra tal-Unjoni dwar l-armonizzazzjoni, id-dokumenti u ċ-ċertifikati kollha marbuta ma’ dawk id-deżinjazzjonijiet jistgħu jintużaw biex jappoġġaw il-proċedura tad-deżinjazzjoni tagħhom skont dan ir-Regolament, skont kif ikun xieraq.

Artikolu 32
Proċedura ta’ notifika

1.L-awtoritajiet tan-notifika jistgħu jinnotifikaw biss lill-korpi tal-valutazzjoni tal-konformità li jkunu ssodisfaw ir-rekwiżiti stabbiliti fl-Artikolu 33.

2.L-awtoritajiet tan-notifika għandhom jinnotifikaw lill-Kummissjoni u lill-Istati Membri l-oħrajn permezz tal-għodda ta’ notifika elettronika żviluppata u mmexxija mill-Kummissjoni.

3.In-notifika għandha tinkludi d-dettalji kollha dwar l-attivitajiet tal-valutazzjoni tal-konformità, il-modulu jew il-moduli tal-valutazzjoni tal-konformità u t-teknoloġiji tal-intelliġenza artifiċjali kkonċernati.

4.Il-korp tal-valutazzjoni tal-konformità kkonċernat jista’ jwettaq l-attivitajiet ta’ korp notifikat biss jekk ma ssir l-ebda oġġezzjoni mill-Kummissjoni jew mill-Istati Membri l-oħra fi żmien xahar mid-data tan-notifika.

5.L-awtoritajiet tan-notifika għandhom jinnotifikaw lill-Kummissjoni u lill-Istati Membri l-oħrajn dwar kull tibdil rilevanti sussegwenti fin-notifika.

Artikolu 33
Korpi notifikati

1.Il-korpi notifikati għandhom jivverifikaw il-konformità tas-sistema tal-AI b’riskju kbir f’konformità mal-proċeduri tal-valutazzjoni tal-konformità msemmijin fl-Artikolu 43.

2.Il-korpi notifikati għandhom jissodisfaw ir-rekwiżiti organizzazzjonali, tal-ġestjoni tal-kwalità, tar-riżorsi u tal-proċessi li huma meħtieġa biex iwettqu l-kompiti tagħhom.

3.L-istruttura organizzazzjonali, l-allokazzjoni tar-responsabbiltajiet, il-linji ġerarkiċi u l-operat tal-korpi notifikati għandhom ikunu b’tali mod li jiżguraw li jkun hemm fiduċja fil-prestazzjoni tal-korpi notifikati u fir-riżultati tal-attivitajiet tal-valutazzjoni tal-konformità li jwettqu.

4.Il-korpi notifikati għandhom ikunu indipendenti mill-fornitur tas-sistema tal-AI b’riskju kbir li fir-rigward tagħha jsiru attivitajiet tal-valutazzjoni tal-konformità. Il-korpi notifikati għandhom ikunu indipendenti wkoll minn kull operatur ieħor li jkollu interess ekonomiku fis-sistema tal-AI b’riskju kbir li tiġi vvalutata, kif ukoll minn kull kompetitur tal-fornitur.

5.Il-korpi notifikati għandhom ikunu organizzati u jitmexxew b’tali mod li jkunu ssalvagwardjati l-indipendenza, l-oġġettività u l-imparzjalità tal-attivitajiet tagħhom. Il-korpi notifikati għandhom jiddokumentaw u jimplimentaw struttura u proċeduri biex jissalvagwardjaw l-imparzjalità u biex jippromwovu u japplikaw il-prinċipji ta’ imparzjalità fl-organizzazzjoni, fost il-persunal u fl-attivitajiet ta’ valutazzjoni tagħhom.

6.Il-korpi notifikati għandu jkollhom fis-seħħ proċeduri dokumentati li jiżguraw li l-persunal, il-kumitati, is-sussidjarji, is-sottokuntratturi tagħhom, u kwalunkwe korp assoċjat jew persunal ta’ korpi esterni jirrispettaw il-kunfidenzjalità tal-informazzjoni li tiġi fil-pussess tagħhom waqt it-twettiq tal-attivitajiet tal-valutazzjoni tal-konformità, għajr meta l-iżvelar ikun meħtieġ bil-liġi. Il-persunal tal-korpi notifikati għandu jkun marbut li josserva s-segretezza professjonali fir-rigward tal-informazzjoni kollha miksuba waqt li jkun qed iwettaq il-kompiti tiegħu skont dan ir-Regolament, għajr fir-rigward tal-awtoritajiet tan-notifika tal-Istat Membru li fih ikunu qed isiru l-attivitajiet tiegħu.

7.Il-korpi notifikati għandu jkollhom proċeduri għat-twettiq ta’ attivitajiet li jqisu b’mod dovut id-daqs tal-impriża, is-settur li fih topera, l-istruttura tagħha u l-grad ta’ kumplessità tas-sistema tal-AI inkwistjoni.

8.Il-korpi notifikati għandhom jieħdu assigurazzjoni tar-responsabbiltà xierqa għall-attivitajiet tal-valutazzjoni tal-konformità tagħhom, sakemm ir-responsabbiltà ma tkunx preżunta mill-Istat Membru kkonċernat f’konformità mal-liġi nazzjonali jew sakemm dak l-Istat Membru ma jkunx responsabbli direttament għall-valutazzjoni tal-konformità.

9.Il-korpi notifikati għandhom ikunu kapaċi jwettqu l-kompiti kollha li jaqgħu fir-responsabbiltà tagħhom skont dan ir-Regolament bl-ogħla grad ta’ integrità professjonali u bil-kompetenza meħtieġa fil-qasam speċifiku, sew jekk dawk il-kompiti jitwettqu mill-korpi notifikati nnifishom jew f’isimhom u fir-responsabbiltà tagħhom.

10.Il-korpi notifikati għandu jkollhom kompetenzi interni suffiċjenti biex ikunu jistgħu jevalwaw b’mod effettiv il-kompiti mwettqa minn partijiet esterni f’isimhom. Għal dak il-għan, f’kull ħin u għal kull proċedura tal-valutazzjoni tal-konformità u għal kull tip ta’ sistema tal-AI b’riskju kbir li fir-rigward tagħha jkun ġie ddiżinjat, il-korp notifikat għandu jkollu disponibbiltà permanenti ta’ biżżejjed persunal amministrattiv, tekniku u xjentifiku li għandu esperjenza u għarfien relatati mat-teknoloġiji rilevanti tal-intelliġenza artifiċjali, mad-data u mal-computing tad-data u mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu.

11.Il-korpi notifikati għandhom jipparteċipaw f’attivitajiet ta’ koordinazzjoni kif imsemmi fl-Artikolu 38. Dawn għandhom jieħdu sehem ukoll direttament jew ikunu rrappreżentati f’organizzazzjonijiet Ewropej tal-istandardizzazzjoni, jew jiżguraw li jkunu konxji u aġġornati fir-rigward tal-istandards rilevanti.

12.Il-korpi notifikati għandhom iqiegħdu għad-dispożizzjoni u meta jintalbu, jippreżentaw id-dokumentazzjoni rilevanti kollha, inkluż id-dokumentazzjoni tal-fornituri, lill-awtorità tan-notifika msemmija fl-Artikolu 30 biex din tkun tista’ twettaq l-attivitajiet tagħha ta’ valutazzjoni, ta’ deżinjazzjoni, ta’ notifika, ta’ monitoraġġ u ta’ sorveljanza u biex jiffaċilitaw il-valutazzjoni deskritta f’dan il-Kapitolu.

Artikolu 34
Sussidjarji ta’ korpi notifikati u sottokuntrattar minnhom

1.Meta korp notifikat jissottokuntratta kompiti speċifiċi marbutin mal-valutazzjoni tal-konformità jew jirrikorri għal sussidjarja, huwa għandu jiżgura li s-sottokuntrattur jew is-sussidjarja tissodisfa r-rekwiżiti stabbiliti fl-Artikolu 33 u għandu jinforma b’dan lill-awtorità tan-notifika.

2.Il-korpi notifikati għandhom jerfgħu r-responsabbiltà kollha tal-kompiti li jkunu twettqu mis-sottokuntratturi jew mis-sussidjarji kull meta dawn ikunu stabbiliti.

3.L-attivitajiet jistgħu jingħataw b’sottokuntratt jew jitwettqu minn sussidjarju biss meta jkun hemm il-qbil tal-fornitur.

4.Korpi notifikati għandhom iżommu għad-dispożizzjoni tal-awtorità tan-notifika, id-dokumenti rilevanti dwar il-valutazzjoni tal-kwalifiki tas-sottokuntrattur jew tas-sussidjarju u tax-xogħol li jkun sar minnhom skont dan ir-Regolament.

Artikolu 35
Numri tal-identifikazzjoni u listi tal-korpi notifikati deżinjati skont dan ir-Regolament

1.Il-Kummissjoni għandha tassenja numru tal-identifikazzjoni lill-korpi notifikati. Għandha tassenja numru wieħed, anki meta korp ikun notifikat skont diversi atti tal-Unjoni.

2.Il-Kummissjoni għandha tqiegħed il-lista tal-korpi notifikati skont dan ir-Regolament għad-dispożizzjoni tal-pubbliku, inkluż in-numri tal-identifikazzjoni assenjati lilhom u l-attivitajiet li għalihom ikunu ġew notifikati. Il-Kummissjoni għandha tiżgura li l-lista tinżamm aġġornata.

Artikolu 36
Tibdil fin-notifiki

1.Meta awtorità tan-notifika jkollha suspetti jew tkun ġiet informata li korp notifikat m’għadux jissodisfa r-rekwiżiti stabbiliti fl-Artikolu 33, jew li qed jonqos milli jissodisfa l-obbligi tiegħu, dik l-awtorità għandha mingħajr dewmien tinvestiga l-kwistjoni bl-akbar diliġenza possibbli. F’dak il-kuntest, hija għandha tinforma lill-korp notifikat ikkonċernat dwar l-oġġezzjonijiet imqajmin u tagħtih il-possibbiltà li jaqsam il-fehmiet tiegħu. Jekk l-awtorità tan-notifika tasal għall-konklużjoni li l-investigazzjoni tal-korp notifikat m’għadhiex tissodisfa r-rekwiżiti stabbiliti fl-Artikolu 33 jew li qed tonqos milli tissodisfa l-obbligi tagħha, din għandha tillimita, tissospendi jew tirtira n-notifika, kif xieraq, skont is-serjetà tan-nuqqas. Din għandha minnufih tinforma lill-Kummissjoni u lill-Istati Membri l-oħrajn dwar dan.

2.Fil-każ ta’ restrizzjoni, sospensjoni jew irtirar ta’ notifika, jew meta l-korp notifikat ikun waqqaf l-attività tiegħu, l-awtorità tan-notifika għandha tieħu passi xierqa biex tiżgura li l-fajls ta’ dak il-korp notifikat jittieħdu fil-kontroll ta’ korp notifikat ieħor jew jinżammu disponibbli għall-awtoritajiet tan-notifika responsabbli meta dawn jitolbu dan.

Artikolu 37
Oġġezzjoni għall-kompetenza tal-korpi notifikati

1.Meta meħtieġ, il-Kummissjoni għandha tinvestiga l-każijiet kollha meta jkun hemm raġunijiet biex jiġi kkontestat jekk korp notifikat jikkonformax mar-rekwiżiti stabbiliti fl-Artikolu 33.

2.L-Awtorità tan-notifika għandha tipprovdi lill-Kummissjoni, meta tintalab, l-informazzjoni rilevanti kollha dwar in-notifika tal-korp notifikat ikkonċernat.

3.Il-Kummissjoni għandha tiżgura li l-informazzjoni kunfidenzjali kollha miksuba matul l-investigazzjonijiet tagħha skont dan l-Artikolu tiġi ttrattata b’mod kunfidenzjali.

4.Meta l-Kummissjoni taċċerta ruħha li korp notifikat ma jissodisfax, jew ma jkunx għadu jissodisfa, ir-rekwiżiti stabbiliti fl-Artikolu 33, hija għandha tadotta deċiżjoni motivata li titlob lill-Istat Membru tan-notifika biex jieħu l-miżuri korrettivi meħtieġa, inkluż l-irtirar tan-notifika jekk dan ikun meħtieġ. Dak l-att ta’ implimentazzjoni għandu jiġi adottat f’konformità mal-proċedura ta’ eżami msemmija fl-Artikolu 74(2).

Artikolu 38
Koordinazzjoni tal-korpi notifikati

1.Il-Kummissjoni għandha tiżgura li, fir-rigward tal-oqsma koperti minn dan ir-Regolament, jiġu stabbiliti koordinazzjoni u kooperazzjoni xierqa bejn il-korpi notifikati attivi fil-proċeduri tal-valutazzjoni tal-konformità tas-sistemi tal-AI skont dan ir-Regolament u li dawn jitħaddmu kif xieraq fil-forma ta’ grupp settorjali ta’ korpi notifikati.

2.L-Istati Membri għandhom jiżguraw li l-korpi notifikati minnhom jieħdu sehem fil-ħidma ta’ dak il-grupp b’mod dirett jew permezz ta’ rappreżentanti deżinjati.

Artikolu 39
Korpi tal-valutazzjoni tal-konformità minn pajjiżi terzi

Il-korpi tal-valutazzjoni tal-konformità, stabbiliti skont il-liġi ta’ pajjiż terz li miegħu l-Unjoni tkun ikkonkludiet ftehim, jistgħu jiġu awtorizzati biex iwettqu l-attivitajiet tal-Korpi notifikati skont dan ir-Regolament.

Kapitolu 5

STANDARDS, VALUTAZZJONI TAL-KONFORMITÀ, ĊERTIFIKATI, REĠISTRAZZJONI

Artikolu 40
Standards armonizzati

Is-sistemi tal-AI b’riskju kbir li jkunu konformi ma’ standards armonizzati jew ma’ partijiet minnhom, li r-referenzi tagħhom ikunu ġew ippubblikati f’Il-Ġurnal Uffiċjali tal-Unjoni Ewropea, għandhom ikunu preżunti li jkunu konformi mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, sa fejn dawk l-istandards ikopru dawk ir-rekwiżiti.

Artikolu 41
Speċifikazzjonijiet komuni

1.Meta ma jeżistux standards armonizzati msemmijin fl-Artikolu 40 jew meta l-Kummissjoni tqis li l-istandards armonizzati rilevanti ma jkunux biżżejjed jew li jkun hemm bżonn li jiġi indirizzat tħassib speċifiku dwar is-sikurezza jew id-drittijiet fundamentali, il-Kummissjoni, permezz ta’ atti ta’ implimentazzjoni, tista’ tadotta speċifikazzjonijiet komuni fir-rigward tar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu. Dawk l-atti ta’ implimentazzjoni għandhom jiġu adottati f’konformità mal-proċedura ta’ eżami msemmija fl-Artikolu 74(2).

2.Il-Kummissjoni, meta tħejji l-ispeċifikazzjonijiet komuni msemmijin fil-paragrafu 1, għandha tiġbor il-fehmiet tal-korpi jew tal-gruppi ta’ esperti rilevanti stabbiliti skont id-dritt settorjali rilevanti tal-Unjoni.

3.Is-sistemi tal-AI b’riskju kbir li jkunu konformi mal-ispeċifikazzjonijiet komuni msemmijin fil-paragrafu 1 għandhom jiġu preżunti li huma konformi mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, sa fejn dawk l-ispeċifikazzjonijiet komuni jkopru dawk ir-rekwiżiti.

4.Meta l-fornituri ma jikkonformawx mal-ispeċifikazzjonijiet komuni msemmijin fil-paragrafu 1, huma għandhom jiġġustifikaw kif xieraq li jkunu adottaw soluzzjonijiet tekniċi li jkunu tal-anqas ekwivalenti għalihom.

Artikolu 42
Preżunzjoni tal-konformità ma’ ċerti rekwiżiti

1.B’kont meħud tal-għan maħsub tagħhom, is-sistemi tal-AI b’riskju kbir li jkunu ġew imħarrġa u ttestjati fuq data li tikkonċerna l-issettjar ġeografiku, komportamentali u funzjonali speċifiku li fih ikunu maħsubin li jintużaw għandhom jiġu preżunti li huma f’konformità mar-rekwiżit stabbilit fl-Artikolu 10(4).

2.Sistemi tal-AI b’riskju kbir li jkunu ġew iċċertifikati jew li għalihom tkun inħarġet dikjarazzjoni ta’ konformità bi skema taċ-ċibersigurtà skont ir-Regolament (UE) 2019/881 tal-Parlament Ewropew u tal-Kunsill 63 u li r-referenzi tagħhom ikunu ġew ippubblikati f’Il-Ġurnal Uffiċjali tal-Unjoni Ewropea għandhom ikunu preżunti li jkunu f’konformità mar-rekwiżiti dwar iċ-ċibersigurtà stabbiliti fl-Artikolu 15 ta’ dan ir-Regolament sa fejn iċ-ċertifikat taċ-ċibersigurtà jew id-dikjarazzjoni ta’ konformità jew partijiet minnha jkopru dawk ir-rekwiżiti.

Artikolu 43
Valutazzjoni tal-konformità

1.Għas-sistemi tal-AI b’riskju kbir elenkati fil-punt 1 tal-Anness III, jekk meta kien qed juri l-konformità ta’ sistema tal-AI b’riskju kbir mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, il-fornitur applika standards armonizzati msemmija fl-Artikolu 40 jew, meta applikabbli, l-ispeċifikazzjonijiet komuni msemmija fl-Artikolu 41, il-fornitur għandu jsegwi waħda mill-proċeduri li ġejjin:

(a)il-proċedura tal-valutazzjoni tal-konformità bbażata fuq il-kontroll intern kif imsemmi fl-Anness VI;

(b)il-proċedura tal-valutazzjoni tal-konformità bbażata fuq il-valutazzjoni tas-sistema tal-ġestjoni tal-kwalità u fuq il-valutazzjoni tad-dokumentazzjoni teknika, bl-involviment ta’ korp notifikat, imsemmija fl-Anness VII.

Jekk, meta kien qed juri l-konformità ta’ sistema tal-AI b’riskju kbir mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, il-fornitur ma applikax jew applika biss parzjalment l-istandards armonizzati msemmijin fl-Artikolu 40 jew, meta dawn l-istandards armonizzati ma jkunux jeżistu u l-ispeċifikazzjonijiet komuni msemmijin fl-Artikolu 41 ma jkunux disponibbli, il-fornitur għandu jsegwi l-proċedura tal-valutazzjoni tal-konformità stabbilita fl-Anness VII.

Għall-fini tal-proċedura tal-valutazzjoni tal-konformità msemmija fl-Anness VII, il-fornitur jista’ jagħżel xi wieħed mill-korpi notifikati. Madankollu, meta s-sistema tkun maħsuba biex titqiegħed fis-servizz mill-awtoritajiet tal-infurzar tal-liġi, tal-immigrazzjoni jew tal-ażil kif ukoll mill-istituzzjonijiet, mill-korpi jew mill-aġenziji tal-UE, l-awtorità ta’ sorveljanza tas-suq imsemmija fl-Artikolu 63(5) jew (6), kif applikabbli, għandha taġixxi bħala korp notifikat.

2.Għas-sistemi tal-AI b’riskju kbir msemmija fil-punti 2 sa 8 tal-Anness III, il-fornituri għandhom isegwu l-proċedura tal-valutazzjoni tal-konformità bbażata fuq il-kontroll intern kif imsemmi fl-Anness VI, li ma tipprevedix l-involviment ta’ korp notifikat. Għal sistemi tal-AI b’riskju kbir msemmijin fil-punt 5(b) tal-Anness III mqiegħda fis-suq jew imqiegħda fis-servizz minn istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE, il-valutazzjoni tal-konformità għandha titwettaq bħala parti mill-proċedura msemmija fl-Artikoli 97 sa 101 ta’ dik id-Direttiva.

3.Għal sistemi tal-AI b’riskju kbir, li għalihom japplikaw l-atti legali elenkati fit-taqsima A tal-Anness II, il-fornitur għandu jsegwi l-valutazzjoni tal-konformità rilevanti kif meħtieġ skont dawk l-atti legali. Ir-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu għandhom japplikaw għal dawk is-sistemi tal-AI b’riskju kbir u għandhom ikunu parti minn dik il-valutazzjoni. Għandhom japplikaw ukoll il-punti 4.3., 4.4., 4.5. u l-ħames paragrafu tal-punt 4.6 tal-Anness VII.

Għall-fini ta’ dik il-valutazzjoni, il-korpi notifikati li jkunu ġew notifikati skont dawk l-atti legali għandhom ikunu intitolati li jikkontrollaw il-konformità tas-sistemi tal-AI b’riskju kbir mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, dment li l-konformità ta’ dawk il-korpi notifikati mar-rekwiżiti stabbiliti fl-Artikolu 33(4), (9) u (10) tkun ġiet ivvalutata fil-kuntest tal-proċedura ta’ notifika skont dawk l-atti legali.

Meta l-atti legali elenkati fit-taqsima A tal-Anness II jippermettu li l-manifattur tal-prodott ma jipparteċipax f’valutazzjoni tal-konformità minn parti terza, diment li dak il-manifattur ikun applika l-istandards armonizzati kollha li jkopru r-rekwiżiti rilevanti kollha, dak il-manifattur jista’ juża dik l-għażla biss jekk ikun applika wkoll standards armonizzati jew, meta applikabbli, l-ispeċifikazzjonijiet komuni msemmijin fl-Artikolu 41, li jkopru r-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu.

4.Is-sistemi tal-AI b’riskju kbir għandhom jgħaddu minn proċedura ġdida tal-valutazzjoni tal-konformità kull meta jiġu mmodifikati b’mod sostanzjali, irrispettivament minn jekk is-sistema modifikata tkunx maħsuba li tkompli titqassam jew tkompli tintuża mill-utent attwali.

Għas-sistemi tal-AI b’riskju kbir li jkomplu jitgħallmu wara li jitqiegħdu fis-suq jew fis-servizz, it-tibdiliet fis-sistema tal-AI b’riskju kbir u fil-prestazzjoni tagħha li jkunu ġew determinati minn qabel mill-fornitur waqt il-valutazzjoni inizjali tal-konformità u li jkunu parti mill-informazzjoni li tinsab fid-dokumentazzjoni teknika msemmija fil-punt 2(f) tal-Anness IV, m’għandhomx jikkostitwixxu modifika sostanzjali.

5.Il-Kummissjoni għandha s-setgħa li tadotta atti delegati f’konformità mal-Artikolu 73 għall-fini tal-aġġornament tal-Annessi VI u tal-Anness VII biex tintroduċi elementi tal-proċeduri tal-valutazzjoni tal-konformità li jsiru neċessarji fid-dawl tal-progress tekniku.

6.Il-Kummissjoni għandha s-setgħa li tadotta atti delegati biex temenda l-paragrafi 1 u 2 bl-għan li s-sistemi tal-AI b’riskju kbir msemmijin fil-punti 2 sa 8 tal-Anness III jiġu soġġetti għall-proċedura tal-valutazzjoni tal-konformità msemmijin fl-Anness VII jew għal partijiet minnha. Il-Kummissjoni għandha tadotta tali atti delegati filwaqt li tqis l-effettività tal-proċedura tal-valutazzjoni tal-konformità abbażi ta’ kontroll intern imsemmi fl-Anness VI fil-prevenzjoni jew fil-minimizzazzjoni tar-riskji għas-saħħa u s-sikurezza u fil-ħarsien tad-drittijiet fundamentali ppreżentati minn tali sistemi kif ukoll id-disponibbiltà ta’ kapaċitajiet u ta’ riżorsi adegwati fost il-korpi notifikati.

Artikolu 44
Ċertifikati

1.Iċ-ċertifikati maħruġin mill-korpi notifikati f’konformità mal-Annessi VII, X u XI għandhom jitfasslu b’lingwa uffiċjali tal-Unjoni determinata mill-Istat Membru meta jkun stabbilit il-korp notifikat jew inkella b’lingwa uffiċjali tal-Unjoni aċċettabbli b’xi mod ieħor għall-korp notifikat.

2.Iċ-ċertifikati għandhom ikunu validi għall-perjodu indikat minnhom, li m’għandux jaqbeż il-ħames snin. Wara applikazzjoni mill-fornitur, il-validità taċ-ċertifikat tista’ tiġi estiża għal perjodi ulterjuri, li kull wieħed minnhom ma jistax jaqbeż il-ħames snin, fuq bażi ta’ rivalutazzjoni f’konformità mal-proċeduri tal-valutazzjoni tal-konformità applikabbli.

3.Meta korp notifikat isib li sistema tal-AI m’għadhiex tissodisfa r-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu, waqt li jikkunsidra l-prinċipju tal-proporzjonalità, dan għandu jissospendi jew jirtira ċ-ċertifikat maħruġ jew jimponi restrizzjonijiet fuqha, sakemm ma tkunx żgurata l-konformità mat-tali rekwiżiti b’azzjoni korrettiva xierqa meħuda mill-fornitur tas-sistema sa data tal-iskadenza xierqa stabbilita mill-korp notifikat. Il-korp notifikat għandu jagħti r-raġunijiet għad-deċiżjoni tiegħu.

Artikolu 45
Appell kontra deċiżjonijiet ta’ korpi notifikati

L-Istati Membri għandhom jiżguraw li proċedura ta’ appell kontra d-deċiżjonijiet tal-korpi notifikati tkun disponibbli għall-partijiet li jkollhom interess leġittimu f’dik id-deċiżjoni.

Artikolu 46
Obbligi tal-informazzjoni tal-korpi notifikati

1.Il-korpi notifikati għandhom jinformaw lill-awtorità tan-notifika dwar dawn li ġejjin:

(a)kwalunkwe ċertifikat tal-valutazzjoni tad-dokumentazzjoni teknika tal-Unjoni, kwalunkwe suppliment għal dawk iċ-ċertifikati, approvazzjonijiet tas-sistema tal-ġestjoni tal-kwalità maħruġin f’konformità mar-rekwiżiti tal-Anness VII;

(b)kwalunkwe rifjut, restrizzjoni, sospensjoni jew irtirar ta’ ċertifikat tal-valutazzjoni tad-dokumentazzjoni teknika tal-Unjoni jew approvazzjoni tas-sistema tal-ġestjoni tal-kwalità maħruġa f’konformità mar-rekwiżiti tal-Anness VII;

(c)kull ċirkostanza li jkollha effett fuq l-ambitu jew fuq il-kundizzjonijiet għan-notifika;

(d)kwalunkwe talba għal informazzjoni li huma jkunu rċivew mingħand awtoritajiet tas-sorveljanza tas-suq rigward attivitajiet tal-valutazzjoni tal-konformità;

(e)meta mitluba, l-attivitajiet tal-valutazzjoni tal-konformità li twettqu fil-ambitu tan-notifika tagħhom u kwalunkwe attività oħra mwettqa, inklużi attivitajiet transfruntieri u sottokuntrattar.

2.Kull korp notifikat għandu jinforma lill-korpi notifikati l-oħra dwar:

(a)approvazzjonijiet tas-sistema tal-ġestjoni tal-kwalità li jkun irrifjuta, issospenda jew irtira, u, meta jintalab, dwar l-approvazzjonijiet tas-sistema tal-kwalità li jkun ħareġ;

(b)ċertifikati ta’ valutazzjoni tad-dokumentazzjoni teknika tal-UE jew kwalunkwe suppliment għalihom li jkun irrifjuta, irtira, issospenda jew b’xi mod ieħor irrestrinġa, u, fuq talba, ċertifikati u/jew supplimenti tagħhom li jkun ħareġ.

3.Korp notifikat għandu jipprovdi lill-korpi notifikati l-oħra li jwettqu attivitajiet simili tal-valutazzjoni tal-konformità li jkopru l-istess teknoloġiji tal-intelliġenza artifiċjali bl-informazzjoni rilevanti dwar kwistjonijiet relatati mar-riżultati negattivi u, fuq talba, pożittivi tal-valutazzjoni tal-konformità.

Artikolu 47
Deroga mill-proċedura tal-valutazzjoni tal-konformità

1.B’deroga mill-Artikolu 43, kwalunkwe awtorità tas-sorveljanza tas-suq tista’ tawtorizza t-tqegħid fis-suq jew it-tqegħid fis-servizz ta’ sistemi tal-AI speċifiċi b’riskju kbir fit-territorju tal-Istat Membru kkonċernat, għal raġunijiet eċċezzjonali ta’ sigurtà pubblika jew għall-protezzjoni tal-ħajja u tas-saħħa tal-persuni, għall-ħarsien tal-ambjent u għall-protezzjoni ta’ assi industrijali u infrastrutturali ewlenin. Dik l-awtorizzazzjoni għandha tkun għal perjodu taż-żmien limitat, filwaqt li jkunu qed jitwettqu l-proċeduri meħtieġa tal-valutazzjoni tal-konformità, u għandha tintemm ladarba jkunu tlestew dawk il-proċeduri. It-tlestija ta’ dawk il-proċeduri għandha ssir mingħajr dewmien żejjed.

2.L-awtorizzazzjoni msemmija fil-paragrafu 1 għandha tinħareġ biss jekk l-awtorità tas-sorveljanza tas-suq tikkonkludi li s-sistema tal-AI b’riskju kbir tikkonforma mar-rekwiżiti tal-Kapitolu 2 ta’ dan it-Titolu. L-awtorità tas-sorveljanza tas-suq għandha tinforma lill-Kummissjoni u lill-Istati Membri l-oħrajn dwar kwalunkwe awtorizzazzjoni maħruġa skont il-paragrafu 1.

3.Jekk, fi żmien 15-il jum tal-kalendarju minn meta tasal l-informazzjoni msemmija fil-paragrafu 2, ma tkun saret l-ebda oġġezzjoni minn xi Stat Membru jew mill-Kummissjoni rigward awtorizzazzjoni maħruġa minn awtorità tas-sorveljanza tas-suq ta’ Stat Membru f’konformità mal-paragrafu 1, dik l-awtorizzazzjoni għandha titqies iġġustifikata.

4.Meta, fi żmien 15-il jum tal-kalendarju minn meta tasal in-notifika msemmija fil-paragrafu 2, jitqajmu oġġezzjonijiet minn Stat Membru kontra awtorizzazzjoni maħruġa minn awtorità tas-sorveljanza tas-suq ta’ Stat Membru ieħor, jew meta l-Kummissjoni tqis li l-awtorizzazzjoni tmur kontra l-liġi tal-Unjoni jew il-konklużjoni tal-Istati Membri fir-rigward tal-konformità tas-sistema kif imsemmija fil-paragrafu 2 tkun bla bażi valida, il-Kummissjoni għandha, mingħajr dewmien, tidħol f’konsultazzjoni mal-Istat Membru rilevanti; l-operatur(i) kkonċernat(i) għandu/għandhom jiġi/u kkonsultat(i) u jkollu/ikollhom il-possibbiltà li jippreżenta(w) il-fehmiet tiegħu/tagħhom. Fid-dawl ta’ dan, il-Kummissjoni għandha tiddeċiedi jekk l-awtorizzazzjoni hix iġġustifikata jew le. Il-Kummissjoni għandha tindirizza d-deċiżjoni tagħha lill-Istat Membru kkonċernat u lill-operatur ekonomiku jew lill-operaturi ekonomiċi relevanti.

5.Jekk l-awtorizzazzjoni titqies mhux iġġustifikata, din għandha tiġi rtirata mill-awtorità tas-sorveljanza tas-suq tal-Istat Membru kkonċernat.

6.B’deroga mill-paragrafi 1 sa 5, għas-sistemi tal-AI b’riskju kbir maħsubin biex jintużaw bħala komponenti tas-sikurezza tal-apparati, jew li huma stess huma apparati, koperti bir-Regolament (UE) 2017/745 u bir-Regolament (UE) 2017/746, l-Artikolu 59 tar-Regolament (UE) 2017/745 u l-Artikolu 54 tar-Regolament (UE) 2017/746 għandhom japplikaw ukoll fir-rigward tad-deroga mill-valutazzjoni tal-konformità tal-konformità mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu.

Artikolu 48
Dikjarazzjoni tal-konformità tal-UE

1.Il-manifattur għandu jfassal dikjarazzjoni tal-konformità bil-miktub għal kull sistema tal-AI u jżommha għad-dispożizzjoni tal-awtoritajiet nazzjonali kompetenti għal 10 snin wara li s-sistema tal-AI tkun tqiegħdet fis-suq jew tqiegħdet fis-servizz. Id-dikjarazzjoni ta’ konformità tal-UE għandha tidentifika s-sistema tal-AI li għaliha tkun tħejjiet. Fuq talba, għandha tiġi pprovduta kopja tad-dikjarazzjoni tal-konformità tal-UE lill-awtoritajiet nazzjonali kompetenti rilevanti.

2.Id-dikjarazzjoni ta’ konformità tal-UE għandha tiddikjara li s-sistema tal-AI b’riskju kbir inkwistjoni tissodisfa r-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu. Id-dikjarazzjoni ta’ konformità tal-UE għandu jkun fiha l-informazzjoni stabbilita fl-Anness V u għandha tiġi tradotta f’lingwa jew fil-lingwi uffiċjali tal-Unjoni mitlubin mill-Istat(i) Membru/i li fih titqiegħed għad-dispożizzjoni s-sistema tal-AI b’riskju kbir.

3.Meta s-sistemi tal-AI b’riskju kbir jkunu soġġetti għal leġiżlazzjoni oħra tal-Unjoni dwar l-armonizzazzjoni li tkun teħtieġ ukoll dikjarazzjoni ta’ konformità tal-UE, għandha titfassal dikjarazzjoni ta’ konformità unika tal-UE fir-rigward tal-leġiżlazzjonijiet kollha tal-Unjoni applikabbli għas-sistema tal-AI b’riskju kbir. Id-dikjarazzjoni għandu jkun fiha l-informazzjoni kollha meħtieġa għall-identifikazzjoni tal-leġislazzjoni tal-Unjoni dwar l-armonizzazzjoni li magħha tkun marbuta d-dikjarazzjoni.

4.Billi jfassal id-dikjarazzjoni ta’ konformità tal-UE, il-fornitur għandu jassumi r-responsabbiltà għall-konformità mar-rekwiżiti stabbiliti fil-Kapitolu 2 ta’ dan it-Titolu. Il-fornitur għandu jżomm id-dikjarazzjoni ta’ konformità tal-UE aġġornata kif xieraq.

5.Il-Kummissjoni għandha tingħata s-setgħa li tadotta atti delegati f’konformità mal-Artikolu 73 għall-fini li taġġorna l-kontenut tad-dikjarazzjoni ta’ konformità tal-UE stabbilita fl-Anness V biex tintroduċi elementi li jsiru meħtieġa fid-dawl tal-progress tekniku.

Artikolu 49
Markatura tal-konformità CE

1.Il-markatura CE għandha titwaħħal b’mod viżibbli, leġibbli u li ma jitħassarx għal sistemi tal-AI b’riskju kbir. Meta dan ma jkunx possibbli jew ma jkunx jaqbel li jsir minħabba n-natura tas-sistema tal-AI b’riskju kbir, din għandha titwaħħal mal-imballaġġ u mad-dokumentazzjoni li takkumpanjaha, skont kif ikun xieraq.

2.Il-markatura CE msemmija fil-paragrafu 1 ta’ tdan l-Artikolu għandha tkun soġġetta għall-prinċipji ġenerali stabbiliti fl-Artikolu 30 tar-Regolament (KE) Nru 765/2008.

3.Meta applikabbli, il-markatura CE għandha tiġi segwita bin-numru tal-identifikazzjoni tal-korp notifikat responsabbli għall-proċeduri tal-valutazzjoni tal-konformità stabbiliti fl-Artikolu 43. In-numru tal-identifikazzjoni għandu jkun indikat ukoll f’kull materjal promozzjonali li jsemmi li s-sistema tal-AI b’riskju kbir tissodisfa r-rekwiżiti għall-markatura CE.

Artikolu 50
Żamma tad-dokumenti

Il-fornitur għandu, għal perjodu li jintemm 10 snin wara li s-sistema tal-AI tkun tqiegħdet fis-suq jew tqiegħdet fis-servizz, iżomm għad-dispożizzjoni tal-awtoritajiet nazzjonali kompetenti:

(a)id-dokumentazzjoni teknika msemmija fl-Artikolu 11;

(b)id-dokumentazzjoni dwar is-sistema tal-ġestjoni tal-kwalità msemmija fl-Artikolu 17;

(c)id-dokumentazzjoni dwar it-tibdiliet approvati mill-korpi notifikati meta applikabbli;

(d)id-deċiżjonijiet u dokumenti oħrajn maħruġin mill-korpi notifikati meta applikabbli;

(e)id-dikjarazzjoni ta’ konformità tal-UE msemmija fl-Artikolu 48.

Artikolu 51
Reġistrazzjoni

Qabel ma jqiegħed fis-suq jew fis-servizz sistema tal-AI b’riskju kbir msemmija fl-Artikolu 6(2), il-fornitur jew, meta applikabbli, ir-rappreżentant awtorizzat għandu jirreġistra dik is-sistema fil-bażi tad-data tal-UE msemmija fl-Artikolu 60.

TITOLU IV

OBBLIGI TA’ TRASPARENZA GĦAL ĊERTI SISTEMI TAL-AI

Artikolu 52
Obbligi ta’ trasparenza għal ċerti sistemi tal-AI

1.Il-fornituri għandhom jiżguraw li s-sistemi tal-AI maħsubin biex jinteraġixxu ma’ persuni fiżiċi jkunu ddisinjati u żviluppati b’tali mod li l-persuni fiżiċi jiġu informati li qed jinteraġixxu ma’ sistema tal-AI, sakemm dan ma jkunx ovvju miċ-ċirkostanzi u mill-kuntest tal-użu. Dan l-obbligu m’għandux japplika għas-sistemi tal-AI awtorizzati bil-liġi biex jidentifikaw, jipprevjenu, jinvestigaw u jipprosegwixxu reati kriminali, sakemm dawk is-sistemi ma jkunux disponibbli għall-pubbliku biex jirrapporta reat kriminali.

2.L-utenti ta’ sistema ta’ rikonoxximent tal-emozzjonijiet jew ta’ sistema ta’ kategorizzazzjoni bijometrika għandhom jinformaw dwar it-tħaddim tas-sistema lill-persuni fiżiċi esposti għaliha. Dan l-obbligu m’għandux japplika għas-sistemi tal-AI użati għal kategorizzazzjoni bijometrika, li huma permessi bil-liġi li jidentifikaw, jipprevjenu u jinvestigaw reati kriminali.

3.L-utenti ta’ sistema tal-AI li tiġġenera jew timmanipula kontenut ta’ immaġni, ta’ awdjo jew ta’ vidjo li sostanzjalment jixbah persuni, oġġetti, postijiet jew entitajiet jew avvenimenti eżistenti u li juri b’mod falz lil persuna li jkun awtentiku jew veritier (“deep fake”), għandhom jiżvelaw li l-kontenut ikun ġie ġġenerat jew immanipulat b’mod artifiċjali.

Madankollu, l-ewwel subparagrafu m’għandux japplika meta l-użu jkun awtorizzat bil-liġi għas-sejbien, għall-prevenzjoni, għall-investigazzjoni u għall-prosekuzzjoni ta’ reati kriminali jew ikun meħtieġ għall-eżerċizzju tad-dritt għal-libertà tal-espressjoni u tad-dritt għal-libertà tal-arti u tax-xjenzi ggarantiti fil-Karta tad-Drittijiet Fundamentali tal-UE, u soġġett għal salvagwardji xierqa għad-drittijiet u għal-libertajiet ta’ partijiet terzi.

4.Il-paragrafi 1, 2 u 3 m’għandhomx jaffettwaw ir-rekwiżiti u l-obbligi stabbiliti fit-Titolu III ta’ dan ir-Regolament.

titolu v

MIŻURI LI JAPPOĠĠAW L-INNOVAZZJONI

Artikolu 53
Sandboxes regolatorji tal-AI

1.Is-sandboxes regolatorji tal-AI stabbiliti mill-awtoritajiet kompetenti ta’ Stat Membru wieħed jew aktar jew mill-Kontrollur Ewropew għall-Protezzjoni tad-Data għandhom jipprovdu ambjent ikkontrollat li jiffaċilita l-iżvilupp, l-ittestjar u l-validazzjoni ta’ sistemi innovattivi tal-AI għal żmien limitat qabel it-tqegħid tagħhom fis-suq jew fis-servizz skont pjan speċifiku. Dan għandu jsir bis-superviżjoni u l-gwida diretti tal-awtoritajiet kompetenti biex tkun żgurata l-konformità mar-rekwiżiti ta’ dan ir-Regolament u, meta rilevanti, ma’ leġiżlazzjoni oħra tal-Unjoni u tal-Istati Membri sorveljata fis-sandbox.

2.L-Istati Membri għandhom jiżguraw li sa fejn is-sistemi innovattivi tal-AI jinvolvu l-ipproċessar ta’ data personali jew inkella jaqgħu fil-mandat superviżorju ta’ awtoritajiet nazzjonali jew awtoritajiet kompetenti oħra li jipprovdu jew jappoġġaw l-aċċess għad-data, l-awtoritajiet nazzjonali tal-protezzjoni tad-data u dawk l-awtoritajiet nazzjonali l-oħra jkunu assoċjati mat-tħaddim tas-sandboxes regolatorji tal-AI.

3.Is-sandboxes regolatorji tal-AI m’għandhomx jaffettwaw is-setgħat superviżorji u korrettivi tal-awtoritajiet kompetenti. Kwalunkwe riskju sinifikanti għas-saħħa u għas-sikurezza u għad-drittijiet fundamentali identifikati matul l-iżvilupp u l-ittestjar ta’ tali sistemi għandu jirriżulta f’mitigazzjoni immedjata u, fin-nuqqas ta’ din, fis-sospensjoni tal-proċess tal-iżvilupp u tal-ittestjar sakemm isseħħ tali mitigazzjoni.

4.Il-parteċipanti fis-sandboxes regolatorji tal-AI għandhom jibqgħu responsabbli skont il-leġiżlazzjoni dwar ir-responsabbiltà applikabbli tal-Unjoni u tal-Istati Membri għal kwalunkwe ħsara kkawżata lil partijiet terzi bħala riżultat tal-esperimentazzjoni li sseħħ fis-sandbox.

5.L-awtoritajiet kompetenti tal-Istati Membri li jkunu stabbilixxew sandboxes regolatorji tal-AI għandhom jikkoordinaw l-attivitajiet tagħhom u jikkooperaw fi ħdan il-qafas tal-Bord Ewropew għall-Intelliġenza Artifiċjali. Dawn għandhom jippreżentaw rapporti annwali lill-Bord u lill-Kummissjoni dwar ir-riżultati mill-implimentazzjoni ta’ dik l-iskema, inkluż prattiki tajbin, tagħlimiet meħudin u rakkomandazzjonijiet dwar il-konfigurazzjoni tagħhom u, meta rilevanti, dwar l-applikazzjoni ta’ dan ir-Regolament u ta’ leġiżlazzjoni oħra tal-Unjoni sorveljata fis-sandbox.

6.Il-modalitajiet u l-kundizzjonijiet tat-tħaddim tas-sandboxes regolatorji tal-AI, inklużi l-kriterji ta’ eliġibbiltà u l-proċedura għall-applikazzjoni, għall-għażla, għall-parteċipazzjoni u għall-ħruġ mis-sandbox, u d-drittijiet u l-obbligi tal-parteċipanti għandhom ikunu stabbiliti f’atti ta’ implimentazzjoni. Dawk l-atti ta’ implimentazzjoni għandhom jiġu adottati f’konformità mal-proċedura ta’ eżami msemmija fl-Artikolu 74(2).

Artikolu 54
Proċessar ulterjuri ta’ data personali għall-iżvilupp ta’ ċerti sistemi tal-AI fl-interess pubbliku fis-sandbox regolatorja tal-AI

1.Fis-sandbox regolatorja tal-AI, id-data personali miġbura legalment għal finijiet oħrajn għandha tiġi pproċessata għall-finijiet tal-iżvilupp u tal-ittestjar ta’ ċerti sistemi innovattivi tal-AI fis-sandbox bil-kundizzjonijiet li ġejjin:

(a)is-sistemi innovattivi tal-AI għandhom jiġu żviluppati għas-salvagwardja tal-interess pubbliku sostanzjali f’wieħed jew aktar mill-oqsma li ġejjin:

(i)il-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta’ reati kriminali jew l-eżekuzzjoni ta’ pieni kriminali, inkluż is-salvagwardji kontra u l-prevenzjoni ta’ theddidiet għas-sigurtà pubblika, fil-kontroll u r-responsabbiltà tal-awtoritajiet kompetenti. L-ipproċessar għandu jkun ibbażat fuq id-dritt tal-Istat Membru jew tal-Unjoni;

(ii)is-sikurezza pubblika u s-saħħa pubblika, inklużi l-prevenzjoni, il-kontroll u t-trattament tal-mard;

(iii)livell għoli ta’ protezzjoni u titjib tal-kwalità tal-ambjent;

(b)id-data pproċessata tkun meħtieġa għall-konformità ma’ wieħed jew aktar mir-rekwiżiti msemmijin fit-Titolu III, il-Kapitolu 2, meta dawk ir-rekwiżiti ma jkunux jistgħu jiġu ssodisfati b’mod effettiv billi tiġi pproċessata data anonimizzata, sintetika jew mhux personali oħra;

(c)ikun hemm mekkaniżmi effettivi ta’ monitoraġġ biex jiġi identifikat jekk jistax jinħoloq xi riskju kbir għad-drittijiet fundamentali tas-suġġetti tad-data waqt l-esperimentazzjoni fis-sandbox, u mekkaniżmu ta’ rispons biex jittaffew minnufih dawk ir-riskji u, meta meħtieġ, jitwaqqaf l-ipproċessar;

(d)kwalunkwe data personali li għandha tiġi pproċessata fil-kuntest tas-sandbox tkun f’ambjent ta’ pproċessar tad-data funzjonalment separat, iżolat u protett fil-kontroll tal-parteċipanti u persuni awtorizzati biss ikollhom aċċess għal dik id-data;

(e)kwalunkwe data personali pproċessata ma tiġix trażmessa, ittrasferita jew aċċessata b’mod ieħor minn partijiet oħrajn;

(f)kwalunkwe pproċessar ta’ data personali fil-kuntest tas-sandbox m’għandux iwassal għal miżuri jew għal deċiżjonijiet li jaffettwaw lis-suġġetti tad-data;

(g)kwalunkwe data personali pproċessata fil-kuntest tas-sandbox titħassar ladarba l-parteċipazzjoni fis-sandbox tkun intemmet jew id-data personali tkun laħqet it-tmiem tal-perjodu ta’ żamma tagħha;

(h)il-logs tal-ipproċessar tad-data personali fil-kuntest tas-sandbox jinżammu għad-durata tal-parteċipazzjoni fis-sandbox u għal sena (1) wara t-terminazzjoni tagħha, għall-finijiet uniċi ta’ u biss sakemm tkun meħtieġa biex jiġu ssodisfati l-obbligi ta’ responsabbiltà u ta’ dokumentazzjoni skont dan l-Artikolu jew leġiżlazzjoni oħra tal-Unjoni jew tal-Istati Membri tal-applikazzjoni;

(i)deskrizzjoni sħiħa u dettaljata tal-proċess u tar-raġunament wara t-taħriġ, l-ittestjar u l-validazzjoni tas-sistema tal-AI jinżammu flimkien mar-riżultati tal-ittestjar bħala parti mid-dokumentazzjoni teknika fl-Anness IV;

(j)sommarju qasir tal-proġett tal-AI żviluppat fis-sandbox, tal-objettivi tiegħu u tar-riżultati mistennijin ippubblikata fuq is-sit web tal-awtoritajiet kompetenti.

2.Il-paragrafu 1 huwa mingħajr preġudizzju għal-leġiżlazzjoni tal-Unjoni jew tal-Istati Membri li teskludi l-ipproċessar għal skopijiet oħra għajr għal dawk imsemmijin b’mod espliċitu f’dik il-leġiżlazzjoni.

Artikolu 55
Miżuri għall-fornituri u għall-utenti fuq skala żgħira

1.L-Istati Membri għandhom iwettqu l-azzjonijiet li ġejjin:

(a)jipprovdu lill-fornituri fuq skala żgħira u lin-negozji ġodda b’aċċess prijoritarju għas-sandboxes regolatorji tal-AI sal-punt li jissodisfaw il-kundizzjonijiet ta’ eliġibbiltà;

(b)jorganizzaw attivitajiet speċifiċi ta’ sensibilizzazzjoni dwar l-applikazzjoni ta’ dan ir-Regolament imfasslin għall-ħtiġijiet tal-fornituri u tal-utenti fuq skala żgħira;

(c)meta xieraq, jistabbilixxu mezz iddedikat għall-komunikazzjoni ma’ fornituri u ma’ utenti fuq skala żgħira u ma’ innovaturi oħrajn biex jipprovdu gwida u jwieġbu għal domandi dwar l-implimentazzjoni ta’ dan ir-Regolament.

2.L-interessi u l-ħtiġijiet speċifiċi tal-fornituri fuq skala żgħira għandhom jitqiesu meta jiġu stabbiliti t-tariffi għall-valutazzjoni tal-konformità skont l-Artikolu 43, u jitnaqqsu dawk it-tariffi b’mod proporzjonat għad-daqs tagħhom u għad-daqs tas-suq.

TITOLU VI

GOVERNANZA

Kapitolu 1

Bord Ewropew għall-Intelliġenza Artifiċjali

Artikolu 56
Twaqqif tal-Bord Ewropew għall-Intelliġenza Artifiċjali

1.Huwa stabbilit “Bord Ewropew għall-Intelliġenza Artifiċjali” (il-“Bord”).

2.Il-Bord għandu jipprovdi pariri u assistenza lill-Kummissjoni biex:

(a)jikkontribwixxi għall-kooperazzjoni effettiva tal-awtoritajiet superviżorji nazzjonali u tal-Kummissjoni fir-rigward ta’ materji koperti minn dan ir-Regolament;

(b)jikkoordina u jikkontribwixxi għall-gwida u għall-analiżi mill-Kummissjoni u mill-awtoritajiet superviżorji nazzjonali u minn awtoritajiet kompetenti oħrajn dwar kwistjonijiet emerġenti fis-suq intern rigward materji koperti minn dan ir-Regolament;

(c)jassisti lill-awtoritajiet superviżorji nazzjonali u lill-Kummissjoni fl-iżgurar tal-applikazzjoni konsistenti ta’ dan ir-Regolament.

Artikolu 57
Struttura tal-Bord

1.Il-Bord għandu jkun magħmul mill-awtoritajiet superviżorji nazzjonali, li għandhom ikunu rrappreżentati mill-kap jew minn uffiċjal ta’ livell għoli ekwivalenti ta’ dik l-awtorità, u mill-Kontrollur Ewropew għall-Protezzjoni tad-Data. Awtoritajiet nazzjonali oħrajn jistgħu jiġu mistiedna għal-laqgħat, meta l-kwistjonijiet diskussi jkunu rilevanti għalihom.

2.Il-Bord għandu jadotta r-regoli ta’ proċedura tiegħu stess b’maġġoranza sempliċi tal-membri tiegħu, wara l-kunsens tal-Kummissjoni. Ir-regoli ta’ proċedura għandhom jinkludu wkoll l-aspetti operazzjonali relatati mal-eżekuzzjoni tal-kompiti tal-Bord kif elenkati fl-Artikolu 58. Il-Bord jista’ jistabbilixxi sottogruppi kif xieraq għall-fini tal-eżaminazzjoni ta’ mistoqsijiet speċifiċi.

3.Il-Kummissjoni għandha tippresjedi fuq il-Bord. Il-Kummissjoni għandha ssejjaħ il-laqgħat u tħejji l-aġenda f’konformità mal-kompiti tal-Bord skont dan ir-Regolament u mar-regoli ta’ proċedura tiegħu. Il-Kummissjoni għandha tipprovdi appoġġ amministrattiv u analitiku għall-attivitajiet tal-Bord skont dan ir-Regolament.

4.Il-Bord jista’ jistieden esperti esterni u osservaturi biex jattendu l-laqgħat tiegħu u jista’ jorganizza skambji ma’ partijiet terzi interessati biex jinforma l-attivitajiet tiegħu sa livell xieraq. Għal dak l-għan, il-Kummissjoni tista’ tiffaċilita l-iskambji bejn il-Bord u korpi, uffiċċji, aġenziji u gruppi konsultattivi oħrajn tal-Unjoni.

Artikolu 58
Kompiti tal-Bord

Meta jipprovdi pariri u assistenza lill-Kummissjoni fil-kuntest tal-Artikolu 56(2), il-Bord għandu b’mod partikolari:

(a)jiġbor u jaqsam l-għarfien espert u l-aħjar prattiki fost l-Istati Membri;

(b)jikkontribwixxi għal prattiki amministrattivi uniformi fl-Istati Membri, inkluż għall-funzjonament ta’ sandboxes regolatorji msemmijin fl-Artikolu 53;

(c)joħroġ opinjonijiet, rakkomandazzjonijiet jew kontributi bil-miktub dwar kwistjonijiet relatati mal-implimentazzjoni ta’ dan ir-Regolament, b’mod partikolari

(i)dwar l-ispeċifikazzjonijiet tekniċi jew l-istandards eżistenti rigward ir-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III,

(ii)dwar l-użu ta’ standards armonizzati jew ta’ speċifikazzjonijiet komuni msemmijin fl-Artikoli 40 u 41,

(iii)dwar it-tħejjija ta’ dokumenti ta’ gwida, inklużi l-linji gwida dwar l-istabbiliment ta’ multi amministrattivi msemmijin fl-Artikolu 71.

KAPITOLU 2

awtoritajiet nazzjonali kompetenti

Artikolu 59
Deżinjazzjoni tal-awtoritajiet nazzjonali kompetenti

1.L-awtoritajiet nazzjonali kompetenti għandhom jiġu stabbiliti jew iddiżinjati minn kull Stat Membru għall-fini li jiġu żgurati l-applikazzjoni u l-implimentazzjoni ta’ dan ir-Regolament. Awtoritajiet nazzjonali kompetenti għandhom ikunu organizzati b’mod li jkunu ssalvagwardjati l-oġġettività u l-imparzjalità tal-attivitajiet u tal-kompiti tagħhom.

2.Kull Stat Membru għandu jiddeżinja awtorità superviżorja nazzjonali fost l-awtoritajiet nazzjonali kompetenti. L-awtorità superviżorja nazzjonali għandha taġixxi bħala awtorità tan-notifika u awtorità tas-sorveljanza tas-suq sakemm Stat Membru ma jkollux raġunijiet organizzazzjonali u amministrattivi biex jiddeżinja aktar minn awtorità waħda.

3.L-Istati Membri għandhom jinfurmaw lill-Kummissjoni bid-deżinjazzjoni jew bid-deżinjazzjonijiet tagħhom u, meta applikabbli, bir-raġunijiet għad-deżinjazzjoni ta’ aktar minn awtorità waħda.

4.L-Istati Membri għandhom jiżguraw li l-awtoritajiet nazzjonali kompetenti jiġu pprovduti b’riżorsi finanzjarji u umani adegwati biex iwettqu l-kompiti tagħhom skont dan ir-Regolament. B’mod partikolari, l-awtoritajiet nazzjonali kompetenti għandu jkollhom numru suffiċjenti ta’ persunal disponibbli b’mod permanenti li l-kompetenzi u l-għarfien espert tiegħu għandhom jinkludu fehim fil-fond tat-teknoloġiji tal-intelliġenza artifiċjali, tad-data u tal-computing tad-data, tad-drittijiet fundamentali, tar-riskji għas-saħħa u għas-sikurezza u għarfien tal-istandards u tar-rekwiżiti legali eżistenti.

5.L-Istati Membri għandhom jirrapportaw lill-Kummissjoni fuq bażi annwali dwar l-istatus tar-riżorsi finanzjarji u umani tal-awtoritajiet nazzjonali kompetenti b’valutazzjoni tal-adegwatezza tagħhom. Il-Kummissjoni għandha tibgħat dik l-informazzjoni lill-Bord għad-diskussjoni u għar-rakkomandazzjonijiet possibbli.

6.Il-Kummissjoni għandha tiffaċilita l-iskambju tal-esperjenza bejn l-awtoritajiet nazzjonali kompetenti.

7.L-awtoritajiet nazzjonali kompetenti jistgħu jipprovdu gwida u pariri dwar l-implimentazzjoni ta’ dan ir-Regolament, inkluż lill-fornituri fuq skala żgħira. Kull meta l-awtoritajiet nazzjonali kompetenti jkollhom l-intenzjoni li jipprovdu gwida u pariri fir-rigward ta’ sistema tal-AI f’oqsma koperti minn leġiżlazzjoni oħra tal-Unjoni, l-awtoritajiet nazzjonali kompetenti skont dik il-leġiżlazzjoni tal-Unjoni għandhom jiġu kkonsultati, kif xieraq. L-Istati Membri jistgħu jistabbilixxu wkoll punt ta’ kuntatt ċentrali wieħed għall-komunikazzjoni mal-operaturi.

8.Meta l-istituzzjonijiet, l-aġenziji u l-korpi tal-Unjoni jaqgħu fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament, il-Kontrollur Ewropew għall-Protezzjoni tad-Data għandu jaġixxi bħala l-awtorità kompetenti għas-superviżjoni tagħhom.

titolu vii

BAŻI TAD-DATA TAL-UE GĦAS-SISTEMI AWTONOMI TAL-INTELLIĠENZA ARTIFIĊJALI B’RISKJU KBIR

Artikolu 60
Bażi tad-data tal-UE għas-sistemi awtonomi tal-AI b’riskju kbir

1.F’kollaborazzjoni mal-Istati Membri, il-Kummissjoni għandha tistabbilixxi u żżomm bażi tad-data tal-UE li jkun fiha l-informazzjoni msemmija fil-paragrafu 2 dwar is-sistemi tal-AI b’riskju kbir msemmijin fl-Artikolu 6(2) li huma rreġistrati f’konformità mal-Artikolu 51.

2.Id-data elenkata fl-Anness VIII għandha tiddaħħal fil-bażi tad-data tal-UE mill-fornituri. Il-Kummissjoni għandha tipprovdilhom appoġġ tekniku u loġistiku.

3.L-informazzjoni li tinsab fil-bażi tad-data tal-UE għandha tkun aċċessibbli għall-pubbliku.

4.Il-bażi tad-data tal-UE għandu jkun fiha data personali biss sa fejn tkun meħtieġa għall-ġbir u għall-ipproċessar ta’ informazzjoni f’konformità ma’ dan ir-Regolament. Dik l-informazzjoni għandha tinkludi l-ismijiet u d-dettalji ta’ kuntatt tal-persuni fiżiċi li huma responsabbli għar-reġistrazzjoni tas-sistema u li għandhom l-awtorità legali biex jirrappreżentaw lill-fornitur.

5.Il-Kummissjoni għandha tkun il-kontrollur tal-bażi tad-data tal-UE. Għandha tiżgura wkoll appoġġ tekniku u amministrattiv adegwat lill-fornituri.

TITOLU VIII

SORVELJANZA TA’ WARA T-TQEGĦID FIS-SUQ, KONDIVIŻJONI TAL-INFORMAZZJONI, SORVELJANZA TAS-SUQ

Kapitolu 1

Sorveljanza ta’ wara t-tqegħid fis-suq

Artikolu 61
Is-sorveljanza ta’ wara t-tqegħid fis-suq mill-fornituri u l-pjan ta’ sorveljanza ta’ wara t-tqegħid fis-suq għal sistemi tal-AI b’riskju kbir

1.Il-fornituri għandhom jistabbilixxu u jiddokumentaw sistema ta’ monitoraġġ ta’ wara t-tqegħid fis-suq b’mod li jkun proporzjonat għan-natura tat-teknoloġiji tal-intelliġenza artifiċjali u għar-riskji tas-sistema tal-AI b’riskju kbir.

2.Is-sistema ta’ sorveljanza ta’ wara t-tqegħid fis-suq għandha tiġbor, tiddokumenta u tanalizza b’mod attiv u sistematiku d-data rilevanti pprovduta mill-utenti jew miġbura permezz ta’ sorsi oħrajn dwar il-prestazzjoni tas-sistemi tal-AI b’riskju kbir matul il-ħajja tagħhom, u tippermetti lill-fornitur jevalwa l-konformità kontinwa tas-sistemi tal-AI mar-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III.

3.Is-sistema ta’ sorveljanza ta’ wara t-tqegħid fis-suq għandha tkun ibbażata fuq pjan ta’ sorveljanza ta’ wara t-tqegħid fis-suq. Il-pjan ta’ sorveljanza ta’ wara t-tqegħid fis-suq għandu jkun parti mid-dokumentazzjoni teknika msemmija fl-Anness IV. Il-Kummissjoni għandha tadotta att ta’ implimentazzjoni li jistipula dispożizzjonijiet dettaljati li jistabbilixxu mudell għall-pjan ta’ sorveljanza ta’ wara t-tqegħid fis-suq u l-lista ta’ elementi li għandhom jiġu inklużi fil-pjan.

4.Għal sistemi tal-AI b’riskju kbir koperti mill-atti legali msemmijin fl-Anness II, meta sistema u pjan ta’ sorveljanza ta’ wara t-tqegħid fis-suq ikunu diġà stabbiliti skont dik il-leġiżlazzjoni, l-elementi deskritti fil-paragrafi 1, 2 u 3 għandhom jiġu integrati f’dik is-sistema u f’dak il-pjan kif xieraq.

L-ewwel subparagrafu għandu japplika wkoll għas-sistemi tal-AI b’riskju kbir msemmijin fil-punt 5(b) tal-Anness III imqegħdin fis-suq jew fis-servizz minn istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE.

Kapitolu 2

Kondiviżjoni tal-informazzjoni dwar inċidenti u funzjonament ħażin

Artikolu 62
Rapportar ta’ inċidenti serji u funzjonament ħażin

1.Il-fornituri tas-sistemi tal-AI b’riskju kbir mqiegħda fis-suq tal-Unjoni għandhom jirrapportaw kull inċident serju jew funzjonament ħażin relatati ma’ dawk is-sistemi li jikkostitwixxu ksur tal-obbligi skont il-liġi tal-Unjoni maħsubin biex iħarsu d-drittijiet fundamentali, lill-awtoritajiet tas-sorveljanza tas-suq tal-Istati Membri fejn ikun seħħ dak l-inċident jew il-ksur.

Din in-notifika għandha ssir minnufih wara li l-fornitur ikun stabbilixxa rabta kawżali bejn is-sistema tal-AI u l-inċident jew il-funzjonament ħażin jew il-probabbiltà raġonevoli ta’ rabta bħal din, u fi kwalunkwe każ sa mhux aktar tard minn 15-il jum wara li l-fornituri jsiru jafu bl-inċident serju jew bil-funzjonament ħażin.

2.Malli tirċievi notifika relatata ma’ ksur tal-obbligi skont il-liġi tal-Unjoni maħsuba biex jipproteġu d-drittijiet fundamentali, l-awtorità tas-sorveljanza tas-suq għandha tinforma lill-awtoritajiet jew lill-korpi pubbliċi nazzjonali msemmijin fl-Artikolu 64(3). Il-Kummissjoni għandha tiżviluppa gwida ddedikata biex tiffaċilita l-konformità mal-obbligi stabbiliti fil-paragrafu 1. Dik il-gwida għandha tinħareġ mhux aktar tard minn 12-il xahar wara d-dħul fis-seħħ ta’ dan ir-Regolament.

3.Għas-sistemi tal-AI b’riskju kbir msemmija fil-punt 5(b) tal-Anness III u mqiegħda fis-suq jew imqiegħda fis-servizz minn fornituri li huma istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE, u għas-sistemi tal-AI b’riskju kbir li huma komponenti tas-sikurezza ta’ apparati, jew li huma stess huma apparati, koperti bir-Regolament (UE) 2017/745 u bir-Regolament (UE) 2017/746, in-notifika ta’ inċidenti serji jew ta’ funzjonament ħażin għandha tkun limitata għal dak li jikkostitwixxi ksur tal-obbligi skont il-liġi tal-Unjoni maħsuba biex tħares id-drittijiet fundamentali.

Kapitolu 3

Infurzar

Artikolu 63
Sorveljanza tas-suq u kontroll tas-sistemi tal-AI fis-suq tal-Unjoni

1.Ir-Regolament (UE) 2019/1020 għandu japplika għas-sistemi tal-AI koperti minn dan ir-Regolament. Madankollu, għall-fini ta’ infurzar effettiv ta’ dan ir-Regolament:

(a)kwalunkwe referenza għal operatur ekonomiku skont ir-Regolament (UE) 2019/1020 għandha tinftiehem bħala li tinkludi lill-operaturi kollha identifikati fil-Kapitolu 3 tat-Titolu III ta’ dan ir-Regolament;

(b)kwalunkwe referenza għal prodott skont ir-Regolament (UE) 2019/1020 għandha tinftiehem bħala li tinkludi s-sistemi kollha tal-AI li jaqgħu fi ħdan il-kamp ta’ applikazzjoni ta’ dan ir-Regolament.

2.L-awtorità superviżorja nazzjonali għandha tirrapporta lill-Kummissjoni fuq bażi regolari l-eżiti tal-attivitajiet rilevanti ta’ sorveljanza tas-suq. L-awtorità superviżorja nazzjonali għandha tirrapporta, mingħajr dewmien, lill-Kummissjoni u lill-awtoritajiet nazzjonali rilevanti tal-kompetizzjoni kwalunkwe informazzjoni identifikata matul l-attivitajiet ta’ sorveljanza tas-suq li tista’ tkun ta’ interess potenzjali għall-applikazzjoni tal-liġi tal-Unjoni dwar ir-regoli tal-kompetizzjoni.

3.Għal sistemi tal-AI b’riskju kbir, relatati ma’ prodotti li għalihom japplikaw l-atti legali elenkati fit-taqsima A tal-Anness II, l-awtorità tas-sorveljanza tas-suq għall-finijiet ta’ dan ir-Regolament għandha tkun l-awtorità responsabbli għall-attivitajiet tas-sorveljanza tas-suq iddeżinjata skont dawk l-atti legali.

4.Għas-sistemi tal-AI imqegħdin fis-suq, imqegħdin fis-servizz jew użati minn istituzzjonijiet finanzjarji regolati bil-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji, l-awtorità tas-sorveljanza tas-suq għall-finijiet ta’ dan ir-Regolament għandha tkun l-awtorità rilevanti responsabbli għas-superviżjoni finanzjarja ta’ dawk l-istituzzjonijiet skont dik il-leġiżlazzjoni.

5.Għas-sistemi tal-AI elenkati fil-punt 1(a) sa fejn is-sistemi jintużaw għall-finijiet ta’ infurzar tal-liġi, fil-punti 6 u 7 tal-Anness III, l-Istati Membri għandhom jiddeżinjaw bħala awtoritajiet tas-sorveljanza tas-suq għall-finijiet ta’ dan ir-Regolament jew l-awtoritajiet superviżorji kompetenti tal-protezzjoni tad-data skont id-Direttiva (UE) 2016/680, jew ir-Regolament 2016/679 jew l-awtoritajiet nazzjonali kompetenti li jissorveljaw l-attivitajiet tal-awtoritajiet tal-infurzar tal-liġi, tal-immigrazzjoni jew tal-ażil li jqiegħdu fis-servizz jew li jużaw dawk is-sistemi.

6.Meta l-istituzzjonijiet, l-aġenziji u l-korpi tal-Unjoni jaqgħu fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament, il-Kontrollur Ewropew għall-Protezzjoni tad-Data għandu jaġixxi bħala l-awtorità tas-sorveljanza tas-suq tagħhom.

7.L-Istati Membri għandhom jiffaċilitaw il-koordinazzjoni bejn l-awtoritajiet tas-sorveljanza tas-suq iddeżinjati skont dan ir-Regolament u awtoritajiet jew korpi nazzjonali rilevanti oħrajn li jissorveljaw l-applikazzjoni tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness II jew ta’ leġiżlazzjoni oħra tal-Unjoni li tista’ tkun rilevanti għas-sistemi tal-AI b’riskju kbir msemmijin fl-Anness III.

Artikolu 64
Aċċess għad-data u għad-dokumentazzjoni

1.L-aċċess għad-data u għad-dokumentazzjoni fil-kuntest tal-attivitajiet tagħhom, l-awtoritajiet tas-sorveljanza tas-suq għandhom jingħataw aċċess sħiħ għas-settijiet tad-data għal taħriġ, validazzjoni u ttestjar użati mill-fornitur, inkluż b’interfaċċi għall-ipprogrammar tal-applikazzjonijiet (“API”) jew b’mezzi u għodod tekniċi xierqa oħra li jippermettu aċċess remot.

2.Meta jkun meħtieġ biex tiġi vvalutata l-konformità tas-sistema tal-AI b’riskju kbir mar-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III, u fuq talba motivata, l-awtoritajiet tas-sorveljanza tas-suq għandhom jingħataw aċċess għall-kodiċi sors tas-sistema tal-AI.

3.L-awtoritajiet jew il-korpi pubbliċi nazzjonali li jissorveljaw jew jinfurzaw ir-rispett tal-obbligi skont il-liġi tal-Unjoni u li jipproteġu d-drittijiet fundamentali fir-rigward tal-użu ta’ sistemi tal-AI b’riskju kbir msemmijin fl-Anness III għandu jkollhom is-setgħa li jitolbu u jaċċessaw kwalunkwe dokumentazzjoni maħluqa jew miżmuma skont dan ir-Regolament meta l-aċċess għal dik id-dokumentazzjoni jkun meħtieġ għall-eżekuzzjoni tal-kompetenzi skont il-mandat tagħhom fil-limiti tal-ġurisdizzjoni tagħhom. L-awtorità jew il-korp pubbliku rilevanti għandu jinforma lill-awtorità tas-sorveljanza tas-suq tal-Istat Membru kkonċernat dwar kwalunkwe talba bħal din.

4.Sa 3 xhur wara d-dħul fis-seħħ ta’ dan ir-Regolament, kull Stat Membru għandu jidentifika l-awtoritajiet jew il-korpi pubbliċi msemmijin fil-paragrafu 3 u jagħmel lista disponibbli għall-pubbliku fuq is-sit web tal-awtorità superviżorja nazzjonali. L-Istati Membri għandhom jinnotifikaw il-lista lill-Kummissjoni u lill-Istati Membri l-oħrajn kollha u jżommu l-lista aġġornata.

5.Meta d-dokumentazzjoni msemmija fil-paragrafu 3 ma tkunx biżżejjed biex jiġi aċċertat jekk ikunx seħħ ksur tal-obbligi skont il-liġi tal-Unjoni maħsuba biex jipproteġu d-drittijiet fundamentali, l-awtorità jew il-korp pubbliku msemmi fil-paragrafu 3 jista’ jagħmel talba motivata lill-awtorità tas-sorveljanza tas-suq biex torganizza l-ittestjar tas-sistema tal-AI b’riskju kbir permezz ta’ mezzi tekniċi. L-awtorità tas-sorveljanza tas-suq għandha torganizza l-ittestjar bl-involviment mill-qrib tal-awtorità jew tal-korp pubbliku rikjedenti fi ħdan perjodu ta’ żmien raġonevoli wara t-talba.

6.Kwalunkwe informazzjoni u dokumentazzjoni miksubin mill-awtoritajiet jew mill-korpi pubbliċi nazzjonali msemmijin fil-paragrafu 3 skont id-dispożizzjonijiet ta’ dan l-Artikolu għandhom jiġu ttrattati f’konformità mal-obbligi ta’ kunfidenzjalità stabbiliti fl-Artikolu 70.

Artikolu 65
Proċedura dwar kif għandhom jiġu ttrattati sistemi tal-AI li jippreżentaw riskju f’livell nazzjonali

1.Is-sistemi tal-AI li jippreżentaw riskju għandhom jinftiehmu bħala prodott li jippreżenta riskju ddefinit fil-punt 19 tal-Artikolu 3 tar-Regolament (UE) 2019/1020 sa fejn ikunu kkonċernati riskji għas-saħħa jew għas-sikurezza jew għall-protezzjoni tad-drittijiet fundamentali tal-persuni.

2.Meta l-awtorità tas-sorveljanza tas-suq ta’ Stat Membru jkollha raġunijiet suffiċjenti biex tikkunsidra li sistema tal-AI tippreżenta riskju kif imsemmi fil-paragrafu 1, hija għandha twettaq valutazzjoni tas-sistema tal-AI ikkonċernata fir-rigward tal-konformità tagħha mar-rekwiżiti u mal-obbligi kollha stabbiliti f’dan ir-Regolament. Meta jkunu preżenti riskji għall-protezzjoni tad-drittijiet fundamentali, l-awtorità tas-sorveljanza tas-suq għandha tinforma wkoll lill-awtoritajiet jew lill-korpi pubbliċi nazzjonali rilevanti msemmijin fl-Artikolu 64(3). L-operaturi rilevanti għandhom jikkooperaw kif meħtieġ mal-awtoritajiet tas-sorveljanza tas-suq u mal-awtoritajiet jew mal-korpi pubbliċi nazzjonali l-oħrajn imsemmijin fl-Artikolu 64(3).

Meta, waqt li tkun qed issir dik l-evalwazzjoni, l-awtorità tas-sorveljanza tas-suq issib li s-sistema tal-AI ma tkunx konformi mar-rekwiżiti u mal-obbligi stipulati f’dan ir-Regolament, din għandha mingħajr dewmien teżiġi li l-operatur rilevanti jieħu kull azzjoni korrettiva xierqa biex iġib is-sistema tal-AI konformi, ineħħi s-sistema tal-AI mis-suq, jew jiġbor lura fi żmien raġonevoli, b’mod proporzjonat għan-natura tar-riskju, skont kif jistabbilixxi.

L-awtorità tas-sorveljanza tas-suq għandha tinforma lill-korp notifikat rilevanti kif meħtieġ. L-Artikolu 18 tar-Regolament (UE) 2019/1020 għandu japplika għall-miżuri msemmijin fit-tieni subparagrafu.

3.Meta l-awtorità tas-sorveljanza tas-suq tqis li n-nuqqas ta’ konformità ma jkunx ristrett biss għat-territorju nazzjonali tagħha, din għandha tgħarraf lill-Kummissjoni u lill-Istati Membri l-oħrajn dwar ir-riżultati tal-evalwazzjoni u dwar l-azzjonijiet li hija tkun eżiġiet li jittieħdu mill-operatur.

4.L-operatur għandu jiżgura li tittieħed kull azzjoni korrettiva xierqa fir-rigward tas-sistemi tal-AI ikkonċernati li huwa jkun għamel disponibbli fis-suq fl-Unjoni kollha.

5.Meta l-operatur ta’ sistema tal-AI ma jiħux azzjoni korrettiva adegwata fiż-żmien imsemmi fil-paragrafu 2, l-awtorità tas-sorveljanza tas-suq għandha tieħu l-miżuri proviżorji xierqa kollha biex tipprojbixxi jew tirrestrinġi li s-sistema tal-AI issir disponibbli fis-suq nazzjonali tagħha, tneħħiha mis-suq jew tiġborha lura. L-awtorità għandha tinforma lill-Kummissjoni u lill-Istati Membri l-oħrajn, mingħajr dewmien, dwar dawk il-miżuri.

6.L-informazzjoni msemmija fil-paragrafu 5 għandha tinkludi d-dettalji disponibbli kollha, partikolarment id-data neċessarja għall-identifikazzjoni tas-sistema tal-AI mhux konformi, l-oriġini tas-sistema tal-AI, in-natura tal-allegat nuqqas ta’ konformità u tar-riskju involut, in-natura u d-durata tal-miżuri nazzjonali meħudin u l-argumenti mressqin mill-operatur rilevanti. B’mod partikolari, l-awtoritajiet tas-sorveljanza tas-suq għandhom jindikaw jekk in-nuqqas ta’ konformità jkunx dovut għal xi waħda mir-raġunijiet li ġejjin:

(a)nuqqas tas-sistema tal-AI li tissodisfa r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III;

(b)nuqqasijiet fl-istandards armonizzati jew fl-ispeċifikazzjonijiet komuni msemmijin fl-Artikoli 40 u 41 li jagħtu preżunzjoni ta’ konformità.

7.L-awtoritajiet tas-sorveljanza tas-suq tal-Istati Membri li ma jkunux l-awtorità tas-sorveljanza tas-suq tal-Istat Membru l tniedi l-proċedura għandhom minnufih jinformaw lill-Kummissjoni u lill-Istati Membri l-oħra dwar kull miżura adottata u dwar kull informazzjoni addizzjonali għad-dispożizzjoni tagħhom relatata man-nuqqas ta’ konformità tas-sistema tal-AI ikkonċernata, u, f’każ ta’ nuqqas ta’ qbil mal-miżura nazzjonali notifikata, dwar l-oġġezzjonijiet tagħhom.

8.Jekk, fi żmien tliet xhur minn meta tasal l-informazzjoni msemmija fil-paragrafu 5, ma tkun saret l-ebda oġġezzjoni minn xi Stat Membru jew mill-Kummissjoni fir-rigward ta’ miżura proviżorja meħuda minn Stat Membru, dik il-miżura għandha titqies iġġustifikata. Dan huwa mingħajr preġudizzju għad-drittijiet proċedurali tal-operatur ikkonċernat f’konformità mal-Artikolu 18 tar-Regolament (UE) 2019/1020.

9.L-awtoritajiet tas-sorveljanza tas-suq tal-Istati Membri kollha għandhom jiżguraw li jittieħdu l-miżuri restrittivi xierqa fir-rigward tal-prodott ikkonċernat, bħalma huwa l-irtirar tal-prodott mis-suq tagħhom, mingħajr dewmien.

Artikolu 66
Proċedura ta’ salvagwardja tal-Unjoni

1.Meta, fi żmien tliet xhur mill-wasla tan-notifika msemmija fl-Artikolu 65(5), jitqajmu oġġezzjonijiet minn Stat Membru kontra miżura meħuda minn Stat Membru ieħor, jew meta l-Kummissjoni tqis li l-miżura tmur kontra l-liġi tal-Unjoni, il-Kummissjoni għandha tikkonsulta mingħajr dewmien mal-operatur jew mal-operaturi rilevanti tal-Istati Membri u għandha tevalwa l-miżura nazzjonali. Abbażi tar-riżultati ta’ dik l-evalwazzjoni, il-Kummissjoni għandha tiddeċiedi jekk il-miżura nazzjonali hix ġustifikata jew le fi żmien 9 xhur min-notifika msemmija fl-Artikolu 65(5) u tinnotifika t-tali deċiżjoni lill-Istat Membru kkonċernat.

2.Jekk il-miżura nazzjonali titqies ġustifikata, l-Istati Membri kollha għandhom jieħdu l-miżuri neċessarji biex jiżguraw li s-sistema tal-AI mhux konformi tiġi rtirata mis-suq tagħhom, u għandhom jinformaw lill-Kummissjoni kif xieraq. Jekk il-miżura nazzjonali titqies li ma tkunx ġustifikata, l-Istat Membru kkonċernat għandu jirtira l-miżura.

3.Meta l-miżura nazzjonali titqies ġustifikata u n-nuqqas ta’ konformità tas-sistema tal-AI jkun attribwit għal nuqqasijiet fl-istandards armonizzati jew fl-ispeċifikazzjonijiet komuni msemmijin fl-Artikoli 40 u 41 ta’ dan ir-Regolament, il-Kummissjoni għandha tapplika l-proċedura prevista fl-Artikolu 11 tar-Regolament (UE) Nru 1025/2012.

Artikolu 67
Sistemi tal-AI konformi li jippreżentaw riskju

1.Meta, wara evalwazzjoni skont l-Artikolu 65, l-awtorità tas-sorveljanza tas-suq ta’ Stat Membru ssib li għalkemm sistema tal-AI hi konformi ma’ dan ir-Regolament, din tippreżenta riskju għas-saħħa jew s-sikurezza tal-persuni, għal konformità mal-obbligi skont il-liġi tal-Unjoni jew nazzjonali maħsuba biex jipproteġu d-drittijiet fundamentali jew aspetti oħra ta’ protezzjoni tal-interess pubbliku, din għandha titlob li l-operatur rilevanti jieħu l-miżuri xierqa kollha biex jiżgura li s-sistema tal-AI ikkonċernata, meta titqiegħed fis-suq jew titqiegħed fis-servizz, ma tibqax tippreżenta dak ir-riskju, tneħħi s-sistema tal-AI mis-suq jew tiġborha lura fi żmien raġonevoli, b’mod proporzjonat għan-natura tar-riskju, skont kif jistabbilixxi.

2.Il-fornitur jew operaturi rilevanti oħrajn għandhom jiżguraw li tittieħed azzjoni korrettiva fir-rigward tas-sistemi tal-AI kollha kkonċernati li huma jkunu qiegħdu disponibbli fis-suq fl-Unjoni kollha fl-iskeda ta’ żmien stipulata mill-awtorità tas-sorveljanza tas-suq tal-Istat Membru msemmija fil-paragrafu 1.

3.L-Istat Membru għandu jgħarraf minnufih lill-Kummissjoni u lill-Istati Membri l-oħrajn. Dik l-informazzjoni għandha tinkludi d-dettalji kollha disponibbli, b’mod partikolari d-data neċessraja għall-identifikazzjoni tas-sistema tal-AI ikkonċernata, tal-oriġini u tal-katina tal-provvista tas-sistema tal-AI, tan-natura tar-riskju involut u tan-natura u tad-durata tal-miżuri nazzjonali meħudin.

4.Il-Kummissjoni għandha, mingħajr dewmien, tikkonsulta mal-Istati Membri u mal-operatur rilevanti u għandha tevalwa l-miżuri nazzjonali meħudin. Abbażi tar-riżultati ta’ dik l-evalwazzjoni, il-Kummissjoni għandha tiddeċiedi jekk il-miżura tkunx iġġustifikata jew le, u meta jkun meħtieġ, tipproponi miżuri xierqa.

5.Il-Kummissjoni għandha tindirizza d-deċiżjoni tagħha lill-Istati Membri.

Artikolu 68
Nuqqas ta’ konformità formali

1.Meta awtorità tas-sorveljanza tas-suq ta’ Stat Membru tasal għal xi waħda mis-sejbiet li ġejjin, hija għandha tirrikjedi li l-fornitur rilevanti jtemm in-nuqqas fir-rigward ta’ konformità kkonċernat:

(a)il-markatura tal-konformità tkun twaħħlet bi ksur tal-Artikolu 49;

(b)il-markatura tal-konformità ma tkunx twaħħlet;

(c)id-dikjarazzjoni tal-konformità tal-UE ma tkunx saret;

(d)id-dikjarazzjoni tal-konformità tal-UE ma tkunx saret kif suppost;

(e)in-numru tal-identifikazzjoni tal-korp notifikat, li hu involut fil-proċedura tal-valutazzjoni tal-konformità, meta applikabbli, ma jkunx twaħħal;

2.Meta n-nuqqas ta’ konformità msemmi fil-paragrafu 1 jissokta, l-Istat Membru kkonċernat għandu jieħu l-miżuri kollha xierqa biex jirrestrinġi jew jipprojbixxi t-tqegħid għad-dispożizzjoni fis-suq tas-sistema tal-AI b’riskju kbir jew jiżgura li din tinġabar lura jew titneħħa mis-suq.

TITOLU IX

KODIĊIJIET TAL-KONDOTTA

Artikolu 69
Kodiċijiet tal-kondotta

1.Il-Kummissjoni u l-Istati Membri għandhom iħeġġu u jiffaċilitaw it-tfassil ta’ kodiċijiet tal-kondotta maħsuba biex irawmu l-applikazzjoni volontarja għal sistemi tal-AI għajr sistemi tal-AI b’riskju kbir tar-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III abbażi ta’ speċifikazzjonijiet u soluzzjonijiet tekniċi li huma mezzi xierqa biex tkun żgurata l-konformità ma’ tali rekwiżiti fid-dawl tal-għan maħsub tas-sistemi.

2.Il-Kummissjoni u l-Bord għandhom iħeġġu u jiffaċilitaw it-tfassil ta’ kodiċijiet tal-kondotta maħsubin biex irawmu l-applikazzjoni volontarja għas-sistemi tal-AI ta’ rekwiżiti relatati pereżempju mas-sostenibbiltà ambjentali, mal-aċċessibbiltà għal persuni b’diżabbiltà, mal-parteċipazzjoni tal-partijiet ikkonċernati fit-tfassil u fl-iżvilupp tas-sistemi tal-AI u mad-diversità tat-timijiet tal-iżvilupp abbażi ta’ objettivi ċari u ta’ indikaturi ewlenin tal-prestazzjoni biex titkejjel il-kisba ta’ dawk l-objettivi.

3.Il-kodiċijiet tal-kondotta jistgħu jitfasslu minn fornituri individwali ta’ sistemi tal-AI jew minn organizzazzjonijiet li jirrappreżentawhom jew mit-tnejn li huma, inkluż bl-involviment tal-utenti u ta’ kwalunkwe parti kkonċernata u tal-organizzazzjonijiet rappreżentattivi tagħhom. Il-kodiċijiet tal-kondotta jistgħu jkopru sistema waħda jew aktar tal-AI filwaqt li titqies is-similarità tal-għan maħsub tas-sistemi rilevanti.

4.Il-Kummissjoni u l-Bord għandhom iqisu l-interessi u l-ħtiġijiet speċifiċi tal-fornituri fuq skala żgħira u tan-negozji ġodda meta jħeġġu u jiffaċilitaw it-tfassil ta’ kodiċijiet tal-kondotta.

TITOLU X

KUNFIDENZJALITÀ U PENALI

Artikolu 70
Kunfidenzjalità

1.L-awtoritajiet nazzjonali kompetenti u l-korpi notifikati involuti fl-applikazzjoni ta’ dan ir-Regolament għandhom jirrispettaw il-kunfidenzjalità tal-informazzjoni u tad-data miksuba fit-twettiq tal-kompiti u tal-attivitajiet tagħhom b’tali mod li jipproteġu, b’mod partikolari:

(a)id-drittijiet tal-proprjetà intellettwali, u l-informazzjoni kummerċjali kunfidenzjali jew is-sigrieti kummerċjali ta’ persuna fiżika jew ġuridika, inkluż il-kodiċi sors, għajr il-każijiet imsemmijin fl-Artikolu 5 tad-Direttiva 2016/943 dwar il-protezzjoni ta’ konoxxenza u ta’ informazzjoni kummerċjali kunfidenzjali (sigrieti kummerċjali) kontra l-ksib, l-użu u l-iżvelar illegali tagħhom.

(b)l-implimentazzjoni effettiva ta’ dan ir-Regolament, partikolarment għall-fini ta’ spezzjonijiet, ta’ investigazzjonijiet jew ta’ awditi; (c) interessi tas-sigurtà pubblika u nazzjonali;

(c)l-integrità tal-proċedimenti kriminali jew amministrattivi.

2.Mingħajr preġudizzju għall-paragrafu 1, l-informazzjoni skambjata fuq bażi kunfidenzjali bejn l-awtoritajiet nazzjonali kompetenti u bejn l-awtoritajiet nazzjonali kompetenti u l-Kummissjoni m’għandhiex tiġi żvelata mingħajr il-konsultazzjoni minn qabel tal-awtorità nazzjonali kompetenti tal-oriġini u tal-utent meta s-sistemi tal-AI b’riskju kbir msemmijin fil-punti 1, 6 u 7 tal-Anness III jintużaw mill-awtoritajiet tal-infurzar tal-liġi, tal-immigrazzjoni jew tal-ażil, meta tali żvelar ikun jipperikola l-interessi tas-sigurtà pubblika u nazzjonali.

Meta l-awtoritajiet tal-infurzar tal-liġi, tal-immigrazzjoni jew tal-ażil ikunu fornituri ta’ sistemi tal-AI b’riskju kbir msemmijin fil-punti 1, 6 u 7 tal-Anness III, id-dokumentazzjoni teknika msemmija fl-Anness IV għandha tibqa’ fil-bini ta’ dawk l-awtoritajiet. Dawk l-awtoritajiet għandhom jiżguraw li l-awtoritajiet tas-sorveljanza tas-suq imsemmijin fl-Artikolu 63(5) u (6), kif applikabbli, ikunu jistgħu, fuq talba, jaċċessaw minnufih id-dokumentazzjoni jew jiksbu kopja tagħha. Huwa biss il-persunal tal-awtorità tas-sorveljanza tas-suq li jkollu l-livell xieraq ta’ awtorizzazzjoni tas-sigurtà li għandu jitħalla jaċċessa dik id-dokumentazzjoni jew kwalunkwe kopja tagħha.

3.Il-paragrafi 1 u 2 m’għandhomx jaffettwaw id-drittijiet u l-obbligi tal-Kummissjoni, tal-Istati Membri u tal-korpi notifikati fir-rigward tal-iskambju tal-informazzjoni u d-disseminazzjoni tat-twissijiet, u lanqas l-obbligi tal-persuni kkonċernati li jipprovdu informazzjoni skont il-liġi kriminali tal-Istati Membri.

4.Il-Kummissjoni u l-Istati Membri jistgħu jiskambjaw, meta meħtieġ, informazzjoni kunfidenzjali mal-awtoritajiet regolatorji ta’ pajjiżi terzi li magħhom ikunu kkonkludew arranġamenti bilaterali jew multilaterali dwar il-kunfidenzjalità li jiggarantixxu livell adegwat ta’ kunfidenzjalità.

Artikolu 71
Penali

1.F’konformità mat-termini u mal-kundizzjonijiet stabbiliti f’dan ir-Regolament, l-Istati Membri għandhom jistabbilixxu r-regoli dwar il-penali, inklużi l-multi amministrattivi, applikabbli għall-ksur ta’ dan ir-Regolament u għandhom jieħdu l-miżuri kollha meħtieġa biex jiżguraw li dawn jiġu implimentati kif xieraq u b’mod effettiv. Il-penali previsti għandhom ikunu effettivi, proporzjonati, u dissważivi. Għandhom iqisu b’mod partikolari l-interessi tal-fornituri fuq skala żgħira u tan-negozji ġodda u l-vijabbiltà ekonomika tagħhom.

2.L-Istati Membri għandhom jinnotifikaw lill-Kummissjoni dwar dawk ir-regoli u dawk il-miżuri u għandhom jinnotifikawha, mingħajr dewmien, dwar kwalunkwe emenda sussegwenti li taffettwahom.

3.Il-ksur li ġej għandu jkun soġġett għal multi amministrattivi sa EUR 30 000 000 jew, jekk l-awtur ikun kumpanija, sa 6 % tal-fatturat annwali globali totali tagħha għas-sena finanzjarja preċedenti, skont liema jkun l-ogħla:

(a)nuqqas ta’ konformità mal-projbizzjoni tal-prattiki tal-intelliġenza artifiċjali msemmijin fl-Artikolu 5;

(b)nuqqas ta’ konformità tas-sistema tal-AI mar-rekwiżiti stabbiliti fl-Artikolu 10.

4.In-nuqqas ta’ konformità tas-sistema tal-AI ma’ kwalunkwe rekwiżit jew obbligu skont dan ir-Regolament, għajr dawk stabbiliti fl-Artikoli 5 u 10, għandu jkun soġġett għal multi amministrattivi sa EUR 20 000 000 jew, jekk l-awtur ikun kumpanija, sa 4 % tal-fatturat annwali globali totali tagħha għas-sena finanzjarja preċedenti, skont liema jkun l-ogħla.

5.Il-forniment ta’ informazzjoni skorretta, mhux kompluta jew qarrieqa lill-korpi notifikati u lill-awtoritajiet nazzjonali kompetenti bi tweġiba għal talba għandu jkun soġġett għal multi amministrattivi sa EUR 10 000 000 jew, jekk l-awtur ikun kumpanija, sa 2 % tal-fatturat annwali dinji totali tagħha għas-sena finanzjarja preċedenti, skont liema jkun l-iżjed.

6.Meta tittieħed deċiżjoni dwar l-ammont tal-multa amministrattiva f’kull każ individwali, għandhom jitqiesu ċ-ċirkostanzi rilevanti kollha tas-sitwazzjoni speċifika u għandha tingħata attenzjoni xierqa lil dawn li ġejjin:

(a)in-natura, il-gravità u d-durata tal-ksur u l-konsegwenzi tiegħu;

(b)jekk ikunux diġà ġew applikati multi amministrattivi minn awtoritajiet oħrajn tas-sorveljanza tas-suq fuq l-istess operatur għall-istess ksur.

(c)id-daqs u s-sehem mis-suq tal-operatur li jwettaq il-ksur;

7.Kull Stat Membru għandu jistabbilixxi regoli dwar jekk jistgħux jiġu imposti multi amministrattivi fuq l-awtoritajiet u fuq il-korpi pubbliċi stabbiliti f’dak l-Istat Membru u, jekk jistgħu, sa liema punt.

8.Skont l-ordinament ġuridiku tal-Istati Membri, ir-regoli dwar il-multi amministrattivi jistgħu jiġu applikati b’tali mod li l-multi jiġu imposti mill-qrati nazzjonali kompetenti ta’ korpi oħra kif applikabbli f’dawk l-Istati Membri. L-applikazzjoni ta’ tali regoli f’dawk l-Istati Membri għandu jkollha effett ekwivalenti.

Artikolu 72
Multi amministrattivi fuq l-istituzzjonijiet, fuq l-aġenziji u fuq il-korpi tal-Unjoni

1.Il-Kontrollur Ewropew għall-Protezzjoni tad-Data jista’ jimponi multi fuq l-istituzzjonijiet, fuq l-aġenziji u fuq il-korpi tal-Unjoni li jaqgħu fi ħdan il-kamp ta’ applikazzjoni ta’ dan ir-Regolament. Meta tittieħed deċiżjoni dwar jekk tiġix imposta multa amministrattiva u tittieħed deċiżjoni dwar l-ammont tal-multa amministrattiva f’kull każ individwali, għandhom jitqiesu ċ-ċirkostanzi rilevanti kollha tas-sitwazzjoni speċifika u għandha tingħata attenzjoni xierqa lil dawn li ġejjin:

(a)in-natura, il-gravità u d-durata tal-ksur u l-konsegwenzi tiegħu;

(b)il-kooperazzjoni mal-Kontrollur Ewropew għall-Protezzjoni tad-Data biex jiġi rrimedjat il-ksur u jittaffew l-effetti avversi possibbli tal-ksur, inkluża l-konformità ma’ kwalunkwe waħda mill-miżuri li qabel kienu ordnati mill-Kontrollur Ewropew għall-Protezzjoni tad-Data kontra l-istituzzjoni jew l-aġenzija jew il-korp tal-Unjoni kkonċernati fir-rigward tal-istess suġġett;

(c)kwalunkwe ksur preċedenti simili mill-istituzzjoni, mill-aġenzija jew mill-korp tal-Unjoni;

2.Il-ksur li ġej għandu jkun soġġett għal multi amministrattivi sa EUR 500 000:

(a)nuqqas ta’ konformità mal-projbizzjoni tal-prattiki tal-intelliġenza artifiċjali msemmijin fl-Artikolu 5;

(b)nuqqas ta’ konformità tas-sistema tal-AI mar-rekwiżiti stabbiliti fl-Artikolu 10.

3.In-nuqqas ta’ konformità tas-sistema tal-AI ma’ kwalunkwe rekwiżit jew obbligu skont dan ir-Regolament, għajr dawk stabbiliti fl-Artikoli 5 u 10, għandu jkun soġġett għal multi amministrattivi sa EUR 250 000.

4.Qabel ma jieħu deċiżjonijiet skont dan l-Artikolu, il-Kontrollur Ewropew għall-Protezzjoni tad-Data għandu jagħti lill-istituzzjoni, lill-aġenzija jew lill-korp tal-Unjoni li huwa soġġett għall-proċedimenti mwettqin mill-Kontrollur Ewropew għall-Protezzjoni tad-Data l-opportunità li jinstema’ fuq il-kwistjoni rigward il-ksur possibbli. Il-Kontrollur Ewropew għall-Protezzjoni tad-Data għandu jibbaża d-deċiżjonijiet tiegħu biss fuq l-oġġezzjonijiet li fuqhom setgħu jikkummentaw il-partijiet ikkonċernati. L-ilmenti, jekk ikun hemm, għandhom ikunu marbutin mill-viċin mal-proċeduri.

5.Id-drittijiet tad-difiża tal-partijiet ikkonċernati għandhom ikunu rispettati kompletament fil-proċedimenti. Dawn għandhom ikunu intitolati għal aċċess għall-fajl tal-Kontrollur Ewropew għall-Protezzjoni tad-Data, soġġetti għall-interess leġittimu tal-individwi jew tal-impriżi fil-protezzjoni tad-data personali jew tas-sigrieti kummerċjali tagħhom.

6.Il-fondi miġburin bl-impożizzjoni ta’ multi f’dan l-Artikolu għandhom jiddaħħlu fil-baġit ġenerali tal-Unjoni.

TITOLU XI

DELEGA TAS-SETGĦAT U PROĊEDURA TA’ KUMITAT

Artikolu 73
Eżerċizzju tad-delega

1.Il-Kummissjoni għandha tingħata s-setgħa li tadotta att delegat soġġett għall-kundizzjonijiet stipulati f’dan l-Artikolu.

2.Is-setgħa li tadotta atti delegati msemmija fl-Artikolu 4, fl-Artikolu 7(1), fl-Artikolu 11(3), fl-Artikolu 43(5) u (6) u fl-Artikolu 48(5) għandha tingħata lill-Kummissjoni għal perjodu indeterminat minn [id-dħul fis-seħħ ta’ dan ir-Regolament].

3.Id-delega tas-setgħa msemmija fl-Artikolu 4, fl-Artikolu 7(1), fl-Artikolu 11(3), fl-Artikolu 43(5) u (6) u fl-Artikolu 48(5) tista’ tiġi rrevokata fi kwalunkwe mument mill-Parlament Ewropew jew mill-Kunsill. Deċiżjoni ta’ revoka għandha ttemm id-delega ta’ setgħa speċifikata f’dik id-deċiżjoni. Din għandha tidħol fis-seħħ fil-jum ta’ wara dak tal-pubblikazzjoni tagħha f’Il-Ġurnal Uffiċjali tal-Unjoni Ewropea jew f’data aktar tard speċifikata fiha. M’għandhiex taffettwa l-validità ta’ kwalunkwe att delegat li diġà jkun fis-seħħ.

4.Hekk kif tadotta att delegat, il-Kummissjoni għandha tinnotifikah simultanjament lill-Parlament Ewropew u lill-Kunsill.

5.Att delegat adottat skont l-Artikolu 4, l-Artikolu 7(1), l-Artikolu 11(3), l-Artikolu 43(5) u (6) u l-Artikolu 48(5) għandu jidħol fis-seħħ biss jekk ma tiġix espressa oġġezzjoni la mill-Parlament Ewropew u lanqas mill-Kunsill fi żmien perjodu ta’ tliet xhur min-notifika ta’ dak l-att lill-Parlament Ewropew u lill-Kunsill jew jekk, qabel ma jiskadi dak il-perjodu, il-Parlament Ewropew u l-Kunsill it-tnejn ikunu informaw lill-Kummissjoni li mhumiex se joġġezzjonaw. Dak il-perjodu għandu jiġi estiż bi tliet xhur fuq l-inizjattiva tal-Parlament Ewropew jew tal-Kunsill.

Artikolu 74
Proċedura ta’ kumitat

1.Il-Kummissjoni għandha tkun megħjuna minn kumitat. Dak il-kumitat għandu jkun kumitat skont it-tifsira tar-Regolament (UE) Nru 182/2011.

2.Meta ssir referenza għal dan il-paragrafu, għandu japplika l-Artikolu 5 tar-Regolament (UE) Nru 182/2011.

TITOLU XII

DISPOŻIZZJONIJIET FINALI

Artikolu 75
Emenda għar-Regolament (KE) Nru 300/2008

Fl-Artikolu 4(3) tar-Regolament (KE) Nru 300/2008, jiżdied is-subparagrafu li ġej:

“Meta jiġu adottati miżuri dettaljati relatati mal-ispeċifikazzjonijiet u mal-proċeduri tekniċi għall-approvazzjoni u għall-użu ta’ tagħmir tas-sigurtà li jikkonċerna sistemi tal-Intelliġenza Artifiċjali skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] tal-Parlament Ewropew u tal-Kunsill*, għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fit-Titolu III tal-Kapitolu 2 ta' dak ir-Regolament.”

__________

* Ir-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] (ĠU …).”

Artikolu 76
Emenda għar-Regolament (UE) Nru 167/2013

Fl-Artikolu 17(5) tar-Regolament (UE) Nru 167/2013, jiżdied is-subparagrafu li ġej:

“Meta jiġu adottati atti delegati skont l-ewwel subparagrafu dwar sistemi tal-intelliġenza artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] tal-Parlament Ewropew u tal-Kunsill*, għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.

__________

* Ir-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] (ĠU …).”

Artikolu 77
Emenda għar-Regolament (UE) Nru 168/2013

Fl-Artikolu 22(5) tar-Regolament (UE) Nru 168/2013, jiżdied is-subparagrafu li ġej:

“Meta jiġu adottati atti delegati skont l-ewwel subparagrafu dwar sistemi tal-Intelliġenza Artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX dwar [l-Intelliġenza Artifiċjali] tal-Parlament Ewropew u tal-Kunsill*, għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.

__________

* Ir-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] (ĠU …).”

Artikolu 78
Emenda għad-Direttiva 2014/90/UE

Fl-Artikolu 8 tad-Direttiva 2014/90/UE, jiżdied il-paragrafu li ġej:

“4. Għal sistemi tal-Intelliġenza Artifiċjali li huma komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] tal-Parlament Ewropew u tal-Kunsill*, meta jitwettqu l-attivitajiet tiegħu skont il-paragrafu 1 u meta jiġu adottati speċifikazzjonijiet tekniċi u standards tal-ittestjar f’konformità mal-paragrafi 2 u 3, il-Kummissjoni għandha tqis ir-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.

__________

* Ir-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] (ĠU …).”.

Artikolu 79
Emenda għad-Direttiva (UE) 2016/797

Fl-Artikolu 5 tad-Direttiva (UE) 2016/797, jiżdied il-paragrafu li ġej:

“12. “Meta jiġu adottati atti delegati skont il-paragrafu 1 u atti ta’ implimentazzjoni skont il-paragrafu 11 dwar sistemi tal-Intelliġenza Artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] tal-Parlament Ewropew u tal-Kunsill*, għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.

__________

* Ir-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] (ĠU …).”.

Artikolu 80
Emenda għar-Regolament (UE) 2018/858

Fl-Artikolu 5 tar-Regolament (UE) 2018/858 jiżdied il-paragrafu li ġej:

“4. Meta jiġu adottati atti delegati skont il-paragrafu 3 dwar sistemi tal-Intelliġenza Artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] tal-Parlament Ewropew u tal-Kunsill *, għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.

__________

* Ir-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] (ĠU …).”.

Artikolu 81
Emenda għar-Regolament (UE) 2018/1139

Ir-Regolament (UE) 2018/1139 huwa emendat kif ġej:

(1) Fl-Artikolu 17, jiżdied il-paragrafu li ġej:

“3. Mingħajr preġudizzju għall-paragrafu 2, meta jiġu adottati atti ta’ implimentazzjoni skont il-paragrafu 1 dwar sistemi tal-Intelliġenza Artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] tal-Parlament Ewropew u tal-Kunsill*, għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.

__________

* Ir-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] (ĠU …).”

(2) Fl-Artikolu 19, jiżdied il-paragrafu li ġej:

“4. Meta jiġu adottati atti delegati skont il-paragrafi 1 u 2 dwar sistemi tal-Intelliġenza Artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali], għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.”

(3) Fl-Artikolu 43, jiżdied il-paragrafu li ġej:

“4. Meta jiġu adottati atti ta’ implimentazzjoni skont il-paragrafu 1 dwar sistemi tal-Intelliġenza Artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali], għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.”

(4) Fl-Artikolu 47, jiżdied il-paragrafu li ġej:

“3. Meta jiġu adottati atti delegati skont il-paragrafi 1 u 2 dwar sistemi tal-Intelliġenza Artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali], għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.”

(5) Fl-Artikolu 57, jiżdied il-paragrafu li ġej:

Meta jiġu adottati dawk l-atti ta’ implimentazzjoni dwar sistemi tal-Intelliġenza Artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali], għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.”

(6) Fl-Artikolu 58, jiżdied il-paragrafu li ġej:

“3. Meta jiġu adottati atti delegati skont il-paragrafi 1 u 2 dwar sistemi tal-Intelliġenza Artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali], għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.”.

Artikolu 82
Emenda għar-Regolament (UE) 2019/2144

Fl-Artikolu 11 tar-Regolament (UE) 2019/2144 jiżdied il-paragrafu li ġej:

“3. Meta jiġu adottati atti ta’ implimentazzjoni skont il-paragrafu 2 dwar sistemi tal-intelliġenza artifiċjali li jkunu komponenti tas-sikurezza skont it-tifsira tar-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] tal-Parlament Ewropew u tal-Kunsill*, għandhom jiġu kkunsidrati r-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III ta’ dak ir-Regolament.

__________

* Ir-Regolament (UE) SSS/XX [dwar l-Intelliġenza Artifiċjali] (ĠU …).”.

Artikolu 83
Sistemi tal-AI li diġà mqegħdin fis-suq jew imqegħdin fis-servizz

1.Dan ir-Regolament m’għandux japplika għas-sistemi tal-AI li huma komponenti tas-sistemi tal-IT fuq skala kbira stabbiliti bl-atti legali elenkati fl-Anness IX li tqiegħdu fis-suq jew tqiegħdu fis-servizz qabel [12-il xahar wara d-data tal-applikazzjoni ta’ dan ir-Regolament imsemmija fl-Artikolu 85(2)], sakemm is-sostituzzjoni jew l-emenda ta’ dawk l-atti legali ma twassalx għal tibdil sinifikanti fid-disinn jew fl-għan maħsub tas-sistema tal-AI jew tas-sistemi tal-AI ikkonċernati.

Ir-rekwiżiti stabbiliti f’dan ir-Regolament għandhom jitqiesu, meta applikabbli, fl-evalwazzjoni ta’ kull sistema tal-IT fuq skala kbira stabbilita bl-atti legali elenkati fl-Anness IX li għandha titwettaq kif previst f’dawk l-atti rispettivi.

2.Dan ir-Regolament għandu japplika għas-sistemi tal-AI b’riskju kbir, minbarra dawk imsemmijin fil-paragrafu 1, li tqiegħdu fis-suq jew tqiegħdu fis-servizz qabel [id-data tal-applikazzjoni ta’ dan ir-Regolament imsemmija fl-Artikolu 85(2)], biss jekk, minn dik id-data, dawk is-sistemi jkunu soġġetti għal tibdiliet sinifikanti fid-disinn jew fl-għan maħsub tagħhom.

Artikolu 84
Evalwazzjoni u rieżami

1.Il-Kummissjoni għandha tivvaluta l-ħtieġa għal emenda tal-lista fl-Anness III darba fis-sena wara d-dħul fis-seħħ ta’ dan ir-Regolament.

2.Sa [tliet snin wara d-data tal-applikazzjoni ta’ dan ir-Regolament imsemmija fl-Artikolu 85(2)] u kull erba’ snin wara dan, il-Kummissjoni għandha tippreżenta rapport dwar l-evalwazzjoni u r-rieżami ta’ dan ir-Regolament lill-Parlament Ewropew u lill-Kunsill. Ir-rapporti għandhom isiru pubbliċi.

3.Ir-rapporti msemmijin fil-paragrafu 2 għandhom jagħtu attenzjoni speċifika lil dawn li ġejjin:

(a)l-istatus tar-riżorsi finanzjarji u umani tal-awtoritajiet nazzjonali kompetenti biex iwettqu b’mod effettiv il-kompiti assenjati lilhom skont dan ir-Regolament;

(b)l-istat tal-penali, u b’mod partikolari l-multi amministrattivi kif imsemmijin fl-Artikolu 71(1), applikati mill-Istati Membri għall-ksur tad-dispożizzjonijiet ta’ dan ir-Regolament.

4.Fi żmien [tliet snin wara d-data tal-applikazzjoni ta’ dan ir-Regolament imsemmija fl-Artikolu 85(2)] u kull erba’ snin wara din, il-Kummissjoni għandha tevalwa l-impatt u l-effettività tal-kodiċijiet tal-kondotta biex trawwem l-applikazzjoni tar-rekwiżiti stabbiliti fil-Kapitolu 2 tat-Titolu III u possibbilment ta’ rekwiżiti addizzjonali oħra għas-sistemi tal-AI għajr is-sistemi tal-AI b’riskju kbir.

5.Għall-fini tal-paragrafi 1 sa 4, il-Bord, l-Istati Membri u l-awtoritajiet nazzjonali kompetenti għandhom jipprovdu lill-Kummissjoni b’informazzjoni dwar it-talba tagħha.

6.Fit-twettiq tal-evalwazzjonijiet u tar-rieżamijiet imsemmijin fil-paragrafi 1 sa 4, il-Kummissjoni għandha tqis il-pożizzjonijiet u l-konklużjonijiet tal-Bord, tal-Parlament Ewropew, tal-Kunsill, u ta’ korpi jew ta’ sorsi rilevanti oħrajn.

7.Jekk ikun meħtieġ, il-Kummissjoni għandha tissottometti proposti xierqa biex jiġi emendat dan ir-Regolament, b’mod partikolari billi tieħu kont tal-iżviluppi fit-teknoloġija u fid-dawl tal-istat tal-progress fis-soċjetà tal-informazzjoni.

Artikolu 85
Dħul fis-seħħ u applikazzjoni

1.Dan ir-Regolament għandu jidħol fis-seħħ fl-għoxrin jum wara dak tal-pubblikazzjoni tiegħu f’Il-Ġurnal Uffiċjali tal-Unjoni Ewropea.

2.Dan ir-Regolament għandu japplika minn [24 xahar wara d-dħul fis-seħħ tar-Regolament].

3.B’deroga mill-paragrafu 2:

(a)il-Kapitolu 4 tat-Titolu III u t-Titolu VI għandhom japplikaw minn [tliet xhur wara d-dħul fis-seħħ ta’ dan ir-Regolament];

(b)L-Artikolu 71 għandu japplika minn [tnax-il xahar wara d-dħul fis-seħħ ta’ dan ir-Regolament].

Dan ir-Regolament għandu jorbot fl-intier tiegħu u japplika direttament fl-Istati Membri kollha.

Magħmul fi Brussell,

DIKJARAZZJONI FINANZJARJA LEĠIŻLATTIVA

1.QAFAS TAL-PROPOSTA/TAL-INIZJATTIVA

1.1. Titolu tal-proposta/tal-inizjattiva

1.2. Qasam/oqsma ta’ politika kkonċernat(i)

1.3. Il-proposta/l-inizjattiva tirrigwardja:

1.4. Objettiv(i)

1.4.1. Objettiv(i) ġenerali

1.4.2. Objettiv(i) speċifiku/ċi

1.4.3. Riżultat(i) mistenni(ja) u impatt

1.4.4. Indikaturi tal-prestazzjoni

1.5. Raġunijiet għall-proposta/għall-inizjattiva

1.5.1. Rekwiżit jew rekwiżiti li jridu jiġu ssodisfati fuq terminu qasir jew twil, inkluża skeda ta’ żmien dettaljata għat-tnedija tal-implimentazzjoni tal-inizjattiva

1.5.2. Valur miżjud tal-involviment tal-Unjoni (dan jista’ jirriżulta minn fatturi differenti, eż. titjib fil-koordinazzjoni, ċertezza tad-dritt, effettività akbar jew komplementarjetajiet). Għall-finijiet ta’ dan il-punt, “valur miżjud tal-involviment tal-Unjoni” huwa l-valur li jirriżulta mill-intervent tal-Unjoni li huwa addizzjonali għall-valur li altrimenti kien jinħoloq mill-Istati Membri waħidhom

1.5.3. Lezzjonijiet meħudin minn esperjenzi simili fl-imgħoddi

1.5.4. Kompatibbiltà mal-Qafas Finanzjarju Pluriennali u sinerġiji possibbli ma’ strumenti xierqa oħrajn

1.5.5 Valutazzjoni tal-għażliet differenti ta’ finanzjament disponibbli, inkluż l-ambitu għar-riallokazzjoni

1.6. Durata u impatt finanzjarju tal-proposta/tal-inizjattiva

1.7. Mod(i) ta’ ġestjoni ppjanat(i)

2.MIŻURI TA’ ĠESTJONI

2.1. Regoli ta’ monitoraġġ u ta’ rapportar

2.2. Sistema ta’ ġestjoni u ta’ kontroll

2.2.1. Ġustifikazzjoni tal-mod(i) ta’ ġestjoni, tal-mekkaniżmu/i għall-implimentazzjoni tal-finanzjament, tal-modalitajiet ta’ pagament u tal-istrateġija ta’ kontroll proposta

2.2.2. Informazzjoni dwar ir-riskji identifikati u s-sistema/i ta’ kontroll intern stabbilita/i għall-mitigazzjoni tagħhom

2.2.3. Stima u ġustifikazzjoni tal-kosteffettività tal-kontrolli (proporzjon tal-“kostijiet tal-kontroll ÷ il-valur tal-fondi relatati ġestiti”) u valutazzjoni tal-livelli mistennija tar-riskju ta’ errur (mal-ħlas u fl-għeluq)

2.3.Miżuri għall-prevenzjoni ta’ frodi u ta’ irregolaritajiet

3.IMPATT FINANZJARJU STMAT TAL-PROPOSTA/TAL-INIZJATTIVA

3.1.Intestatura/i tal-qafas finanzjarju pluriennali u tal-linja/i baġitarja/i tan-nefqa affettwati

3.2.Impatt finanzjarju stmat tal-proposta fuq l-approprjazzjonijiet 

3.2.1.Sommarju tal-impatt stmat fuq l-approprjazzjonijiet operazzjonali

3.2.2.Output stmat iffinanzjat b’approprjazzjonijiet operazzjonali

3.2.3. Sommarju tal-impatt stmat fuq l-approprjazzjonijiet amministrattivi

3.2.4.Kompatibbiltà mal-qafas finanzjarju pluriennali attwali

3.2.5.Kontribuzzjonijiet ta’ partijiet terzi

3.3.Impatt stmat fuq id-dħul

DIKJARAZZJONI FINANZJARJA LEĠIŻLATTIVA

1.QAFAS TAL-PROPOSTA/TAL-INIZJATTIVA

1.1.Titolu tal-proposta/tal-inizjattiva

1.2.Qasam/oqsma ta’ politika kkonċernat(i)

1.3.Il-proposta/l-inizjattiva tirrigwardja:

X azzjoni ġdida 

◻ azzjoni ġdida segwita minn proġett pilota/azzjoni preparatorja 64  

◻ l-estensjoni ta’ azzjoni eżistenti 

◻ azzjoni diretta mill-ġdid lejn azzjoni ġdida 

1.4.Objettiv(i)

1.4.1.Objettiv(i) ġenerali

1.4.2.Objettiv(i) speċifiku/ċi

1.4.3.Riżultat(i) mistenni(ja) u impatt

Speċifika l-effetti li l-proposta/l-inizjattiva jenħtieġ li jkollha fuq il-benefiċjarji/il-gruppi fil-mira.

1.4.4.Indikaturi tal-prestazzjoni

Speċifika l-indikaturi għall-monitoraġġ tal-implimentazzjoni tal-proposta/tal-inizjattiva.

1.5.Raġunijiet għall-proposta/għall-inizjattiva

1.5.1.Rekwiżit jew rekwiżiti li jridu jiġu ssodisfati fuq terminu qasir jew twil, inkluża skeda ta’ żmien dettaljata għat-tnedija tal-implimentazzjoni tal-inizjattiva

1.5.2.Valur miżjud tal-involviment tal-Unjoni (dan jista’ jirriżulta minn fatturi differenti, eż. titjib fil-koordinazzjoni, ċertezza tad-dritt, effettività akbar jew komplementarjetajiet). Għall-finijiet ta’ dan il-punt, “valur miżjud tal-involviment tal-Unjoni” huwa l-valur li jirriżulta mill-intervent tal-Unjoni li huwa addizzjonali għall-valur li altrimenti kien jinħoloq mill-Istati Membri waħidhom.

1.5.3.Lezzjonijiet meħudin minn esperjenzi simili fl-imgħoddi

1.5.4.Kompatibbiltà mal-Qafas Finanzjarju Pluriennali u sinerġiji possibbli ma’ strumenti xierqa oħrajn

1.5.5.Valutazzjoni tal-għażliet differenti ta’ finanzjament disponibbli, inkluż l-ambitu għar-riallokazzjoni

1.6.Durata u impatt finanzjarju tal-proposta/tal-inizjattiva

◻ durata limitata

–◻    fis-seħħ minn [JJ/XX]SSSS sa [JJ/XX]SSSS

–◻    Impatt finanzjarju minn SSSS sa SSSS għall-approprjazzjonijiet ta’ impenn u minn SSSS sa SSSS għall-approprjazzjonijiet ta’ pagament.

X durata mhux limitata

–Implimentazzjoni b’perjodu ta’ tnedija minn sena/sentejn (għad trid tiġi kkonfermata),

–segwita b’operazzjoni fuq skala sħiħa.

1.7.Mod(i) ta’ ġestjoni ppjanat(i) 65  

X Ġestjoni diretta mill-Kummissjoni

–◻ mis-servizzi tagħha, inkluż mill-persunal tagħha fid-delegazzjonijiet tal-Unjoni;

–◻    mill-aġenziji eżekuttivi

◻ Ġestjoni konġunta mal-Istati Membri

◻ Ġestjoni indiretta billi jiġu fdati kompiti ta’ implimentazzjoni tal-baġit lil:

–◻ pajjiżi terzi jew korpi li jkunu ddeżinjaw;

–◻ organizzazzjonijiet internazzjonali u aġenziji tagħhom (iridu jiġu speċifikati);

–◻ il-BEI u l-Fond Ewropew tal-Investiment;

–◻ korpi li jissemmew fl-Artikoli 70 u 71 tar-Regolament Finanzjarju;

–◻ korpi regolati bil-liġi pubblika;

–◻ korpi regolati bil-liġi privata b’missjoni ta’ servizz pubbliku sa fejn dawn jipprovdu garanziji finanzjarji adegwati;

–◻ korpi regolati bil-liġi privata ta’ Stat Membru li huma fdati bl-implimentazzjoni ta’ sħubija pubblika-privata u li jipprovdu garanziji finanzjarji adegwati;

–◻ persuni inkarigati bl-implimentazzjoni ta’ azzjonijiet speċifiċi fil-PESK skont it-Titolu V tat-TUE, u identifikati fl-att bażiku rilevanti.

–Jekk jiġi indikat iżjed minn mod ta’ ġestjoni wieħed, jekk jogħġbok ipprovdi d-dettalji fit-taqsima "Kummenti".

Kummenti

2.MIŻURI TA’ ĠESTJONI

2.1.Regoli ta’ monitoraġġ u ta’ rapportar

Speċifika l-frekwenza u l-kundizzjonijiet.

2.2.Sistema/i ta’ ġestjoni u ta’ kontroll

2.2.1.Ġustifikazzjoni tal-mod(i) ta’ ġestjoni, tal-mekkaniżmu/i għall-implimentazzjoni tal-finanzjament, tal-modalitajiet ta’ pagament u tal-istrateġija ta’ kontroll proposta

2.2.2.Informazzjoni dwar ir-riskji identifikati u s-sistema/i ta’ kontroll intern stabbilita/i għall-mitigazzjoni tagħhom

2.2.3.Stima u ġustifikazzjoni tal-kosteffettività tal-kontrolli (proporzjon tal-“kostijiet tal-kontroll ÷ il-valur tal-fondi relatati ġestiti”) u valutazzjoni tal-livelli mistennija tar-riskju ta’ errur (mal-ħlas u fl-għeluq)

2.3.Miżuri għall-prevenzjoni ta’ frodi u ta’ irregolaritajiet

Speċifika l-miżuri ta’ prevenzjoni u ta’ protezzjoni eżistenti jew previsti, eż. mill-Istrateġija Kontra l-Frodi.

3.IMPATT FINANZJARJU STMAT TAL-PROPOSTA/TAL-INIZJATTIVA

3.1.Intestatura/i tal-qafas finanzjarju pluriennali u tal-linja/i baġitarja/i tan-nefqa affettwati

·Linji baġitarji eżistenti

Fl-ordni tal-intestaturi tal-qafas finanzjarju pluriennali u tal-linji baġitarji.

3.2.Impatt finanzjarju stmat tal-proposta fuq l-approprjazzjonijiet

3.2.1.Sommarju tal-impatt stmat fuq in-nefqa fuq l-approprjazzjonijiet operazzjonali

–◻    Il-proposta/l-inizjattiva ma teħtiġx l-użu ta’ approprjazzjonijiet operazzjonali

–X    Il-proposta/l-inizjattiva teħtieġ l-użu ta’ approprjazzjonijiet operazzjonali, kif spjegat hawn taħt:

Miljuni ta’ EUR (sa tliet pożizzjonijiet deċimali)

Jekk il-proposta/l-inizjattiva tolqot aktar minn intestatura operazzjonali waħda, irrepeti t-taqsima ta’ hawn fuq:

Jenħtieġ li din it-Taqsima timtela permezz tad-“data baġitarja ta’ natura amministrattiva” li qabel trid tiddaħħal fl- Anness tad-Dikjarazzjoni Finanzjarja Leġiżlattiva (l-Anness V tar-regoli interni), li jittella’ f’DECIDE għal finijiet ta’ konsultazzjonijiet bejn is-servizzi.

Miljuni ta’ EUR (sa tliet pożizzjonijiet deċimali)

Miljuni ta’ EUR (sa tliet pożizzjonijiet deċimali)

3.2.2.Output stmat iffinanzjat b’approprjazzjonijiet operazzjonali

Approprjazzjonijiet ta’ impenn f’miljuni ta’ EUR (aġġustati ’l fuq għal tliet pożizzjonijiet deċimali)

3.2.3.Sommarju tal-impatt stmat fuq l-approprjazzjonijiet amministrattivi 

–◻    Il-proposta/l-inizjattiva ma teħtiġx l-użu ta’ approprjazzjonijiet ta’ natura amministrattiva

–X    Il-proposta/l-inizjattiva teħtieġ l-użu ta’ approprjazzjonijiet ta’ natura amministrattiva, kif spjegat hawn taħt:

Miljuni ta’ EUR (sa tliet pożizzjonijiet deċimali)

INTESTATURA 7  tal-qafas finanzjarju pluriennali
Riżorsi umani		1,520	1,520	1,520	1,520	1,520	1,520	7,600
Nefqa amministrattiva oħra		0,010	0,010	0,010	0,010	0,010	0,010	0,050
Subtotal tal-INTESTATURA 7  tal-qafas finanzjarju pluriennali		1,530	1,530	1,530	1,530	1,530	1,530	7,650

Barra mill-INTESTATURA 7 76   of the multiannual financial framework
Riżorsi umani
Nefqa oħra ta’ natura amministrattiva		0,240	0,240	0,240	0,240	0,240	0,240	1,20
Subtotal barra mill-INTESTATURA 7  tal-qafas finanzjarju pluriennali		0,240	0,240	0,240	0,240	0,240	0,240	1,20

TOTAL

1,770

1,770

1,770

1,770

1,770

1,770

8,850

L-approprjazzjonijiet meħtieġa għar-riżorsi umani u għal nefqa oħra ta’ natura amministrattiva se jiġu koperti mill-approprjazzjonijiet tad-DĠ li diġà jkunu assenjati għall-ġestjoni tal-azzjoni u/jew li diġà jkunu ġew riassenjati fid-DĠ, flimkien, jekk ikun meħtieġ, ma’ kwalunkwe allokazzjoni addizzjonali li tista’ tingħata lid-DĠ tal-ġestjoni skont il-proċedura annwali ta’ allokazzjoni u fid-dawl tal-limitazzjonijiet baġitarji.

3.2.3.1.Rekwiżiti stmati ta’ riżorsi umani

–◻    Il-proposta/l-inizjattiva ma teħtiġx l-użu ta’ riżorsi umani.

–X    Il-proposta/l-inizjattiva teħtieġ l-użu ta’ riżorsi umani, kif spjegat hawn taħt:

L-istima trid tiġi espressa f’unitajiet ekwivalenti għall-full-time

XX huwa l-qasam ta’ politika jew it-titolu baġitarju kkonċernat.

Ir-riżorsi umani meħtieġa se jiġu koperti mill-persunal tad-DĠ li diġà jkun assenjat għall-ġestjoni tal-azzjoni u/jew li diġà jkun ġie riassenjat fid-DĠ, flimkien, jekk ikun meħtieġ, ma’ kwalunkwe allokazzjoni addizzjonali li tista’ tingħata lid-DĠ tal-ġestjoni skont il-proċedura annwali ta’ allokazzjoni u fid-dawl tal-limitazzjonijiet baġitarji.

L-EDPS huwa mistenni jipprovdi nofs ir-riżorsi meħtieġa.

Deskrizzjoni tal-kompiti li jridu jitwettqu:

3.2.4.Kompatibbiltà mal-qafas finanzjarju pluriennali attwali

Il-proposta/l-inizjattiva:

–X    tista’ tiġi ffinanzjata kompletament permezz ta’ riallokazzjoni fl-intestatura rilevanti tal-Qafas Finanzjarju Pluriennali (QFP).

–◻    teħtieġ l-użu tal-marġni mhux allokat taħt l-intestatura rilevanti tal-QFP u/jew l-użu tal-istrumenti speċjali kif iddefiniti fir-Regolament dwar il-QFP.

–◻    teħtieġ reviżjoni tal-QFP.

3.2.5.Kontribuzzjonijiet ta’ partijiet terzi

Il-proposta/l-inizjattiva:

–X    ma tipprevedix il-kofinanzjament minn partijiet terzi

–◻ tipprevedi l-kofinanzjament minn partijiet terzi li qed jiġi stmat hawn taħt:

Approprjazzjonijiet f’miljuni ta’ EUR (aġġustati ’l fuq għal tliet pożizzjonijiet deċimali)

3.3.Impatt stmat fuq id-dħul

–◻    Il-proposta/l-inizjattiva għandha l-impatt finanzjarju li ġej:

–◻    Il-proposta/l-inizjattiva għandha l-impatt finanzjarju li ġej:

–◻    fuq dħul ieħor

–◻    fuq dħul ieħor

–Jekk jogħġbok indika jekk id-dħul huwa assenjat għal-linji tan-nefqa ◻

Miljuni ta’ EUR (sa tliet pożizzjonijiet deċimali)

Għad-dħul assenjat, speċifika l-linja/i baġitarja/i tan-nefqa affettwata/i.

Rimarki oħra (eż. il-metodu/il-formula użati għall-kalkolu tal-impatt fuq id-dħul jew kwalunkwe informazzjoni oħra).

(1)     https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_mt.pdf

(2)    Il-Kummissjoni Ewropea, White Paper dwar l-Intelliġenza Artifiċjali – Approċċ Ewropew għall-eċċellenza u għall-fiduċja, COM(2020) 65 final, 2020.

(3)    Il-Kunsill Ewropew, Laqgħa Speċjali tal-Kunsill Ewropew (l-1 u t-2 ta’ Ottubru 2020) – Konklużjonijiet , EUCO 13/20, 2020, p. 6.

(4)    Ir-Riżoluzzjoni tal-Parlament Ewropew tal-20 ta’ Ottubru 2020 b’rakkomandazzjonijiet għall-Kummissjoni dwar qafas tal-aspetti etiċi tal-intelliġenza artifiċjali, ir-robotika u t-teknoloġiji relatati, 2020/2012(INL).

(5)    Il-Kunsill Ewropew, Laqgħa tal-Kunsill Ewropew (id-19 ta’ Ottubru 2017) – Konklużjoni EUCO 14/17, 2017, p. 8.

(6)    Il-Kunsill tal-Unjoni Ewropea, Intelliġenza Artifiċjali b) Konklużjonijiet dwar il-pjan ikkoordinat dwar l-intelliġenza artifiċjali – Adozzjoni  6177/19, 2019.

(7)    Il-Kunsill Ewropew, Laqgħa Speċjali tal-Kunsill Ewropew (l-1 u t-2 ta’ Ottubru 2020) – Konklużjonijiet EUCO 13/20, 2020.

(8)    Il-Kunsill tal-Unjoni Ewropea, Konklużjonijiet tal-Presidenza – Il-Karta tad-Drittijiet Fundamentali fil-kuntest tal-Intelliġenza Artifiċjali u l-Bidla Diġitali , 11481/20, 2020.

(9)    Ir-Riżoluzzjoni tal-Parlament Ewropew tal-20 ta’ Ottubru 2020 dwar qafas tal-aspetti etiċi tal-intelliġenza artifiċjali, ir-robotika u teknoloġiji relatati, 2020/2012(INL) .

(10)    Ir-Riżoluzzjoni tal-Parlament Ewropew tal-20 ta’ Ottubru 2020 dwar reġim ta’ responsabbiltà ċivili għall-intelliġenza artifiċjali, 2020/2014(INL).

(11)    Ir-Riżoluzzjoni tal-Parlament Ewropew tal-20 ta’ Ottubru 2020 dwar drittijiet tal-proprjetà intellettwali għall-iżvilupp ta’ teknoloġiji tal-intelliġenza artifiċjali, 2020/2015(INI).

(12)    Abbozz ta’ Rapport tal-Parlament Ewropew, Artificial intelligence in criminal law and its use by the police and judicial authorities in criminal matters, 2020/2016(INI) .

(13)    Abbozz ta’ Rapport tal-Parlament Ewropew, Artificial intelligence in education, culture and the audiovisual sector, 2020/2017(INI) . F’dak ir-rigward, il-Kummissjoni adottat il-Pjan ta’ Azzjoni dwar l-Edukazzjoni Diġitali 2021-2027: Tfassil mill-ġdid tal-edukazzjoni u t-taħriġ għall-era diġitali, li tipprevedi l-iżvilupp ta’ linji gwida etiċi fl-AI u fl-Użu tad- data fl-edukazzjoni – Il-Komunikazzjoni tal-Kummissjoni COM(2020) 624 final.

(14)    Id-Direttiva 2013/36/UE tal-Parlament Ewropew u tal-Kunsill tas-26 ta’ Ġunju 2013 dwar l-aċċess għall-attività tal-istituzzjonijiet ta’ kreditu u s-superviżjoni prudenzjali tal-istituzzjonijiet ta’ kreditu u tad-ditti tal-investiment, li temenda d-Direttiva 2002/87/KE u li tħassar id-Direttivi 2006/48/KE u 2006/49/KE (ĠU L 176, 27.6.2013, p. 338-436).

(15)    Id-Direttiva 2000/31/KE tal-Parlament Ewropew u tal-Kunsill tat-8 ta’ Ġunju 2000 dwar ċerti aspetti legali tas-servizzi minn soċjetà ta’ l-informazzjoni, partikolarment il-kummerċ elettroniku, fis-Suq Intern (Direttiva dwar il-kummerċ elettroniku) (ĠU L 178, 17.7.2000, p. 1-16).

(16)    Ara l-Proposta għal Regolament tal-Parlament Ewropew u tal-Kunsill dwar Suq Intern għas-Servizzi Diġitali (l-Att dwar is-Servizzi Diġitali) u li jemenda d-Direttiva 2000/31/KE (COM/2020/825 final).

(17)    Il-Komunikazzjoni tal-Kummissjoni, Insawru l-futur diġitali tal-Ewropa, COM/2020/67 final.

(18)     Il-Kumpass Diġitali għall-2030: il-mod Ewropew għad-Deċennju Diġitali .

(19)    Il-Proposta għal Regolament dwar il-governanza Ewropea tad-data (Att dwar il-Governanza tad-Data) COM/2020/767 .

(20)    Id-Direttiva (UE) 2019/1024 tal-Parlament Ewropew u tal-Kunsill tal-20 ta’ Ġunju 2019 dwar id-data miftuħa u l-użu mill-ġdid tal-informazzjoni tas-settur pubbliku, PE/28/2019/REV/1, ĠU L 172, 26.6.2019, p. 56-83.

(21)     Il-Komunikazzjoni tal-Kummissjoni, Strateġija Ewropea għad- data (COM/2020/66 final).

(22)     Ara r-riżultati kollha tal-konsultazzjoni hawnhekk.

(23)    Il-Kummissjoni Ewropea, Nibnu l-Fiduċja f’Intelliġenza Artifiċjali ċċentrata fuq il-Bniedem (COM(2019) 168).

(24)    HLEG, Linji Gwida dwar l-Etika għal AI Affidabbli , 2019.

(25)    HLEG, Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self-assessment , 2020.

(26)    L-Alleanza dwar l-AI hi forum b’diversi partijiet ikkonċernati li tnieda f’Ġunju tal-2018, l-Alleanza dwar l-AI https://ec.europa.eu/digital-single-market/en/european-ai-alliance

(27)    Il-Kummissjoni Ewropea, Inception Impact Assessment For a Proposal for a legal act of the European Parliament and the Council laying down requirements for Artificial Intelligence .  

(28)    Għal dettalji dwar il-konsultazzjonijiet kollha li saru, ara l-Anness 2 tal-valutazzjoni tal-impatt.

(29)    Il-Grupp ta’ Esperti ta’ Livell Għoli dwar l-Intelliġenza Artifiċjali, Linji Gwida dwar l-Etika għal AI Affidabbli , 2019.

(30)    Dawn ġew approvathom ukoll il-Kummissjoni fil-Komunikazzjoni tagħha tal-2019 dwar approċċ għall-AI bil-bniedem fiċ-ċentru.

(31)    ĠU C […], […], p. […].

(32)    ĠU C […], […], p. […].

(33)    Il-Kunsill Ewropew, Laqgħa Speċjali tal-Kunsill Ewropew (l-1 u t-2 ta’ Ottubru 2020) – Konklużjonijiet (EUCO 13/20, 2020, p. 6).

(34)    Ir-Riżoluzzjoni tal-Parlament Ewropew tal-20 ta’ Ottubru 2020 b’rakkomandazzjonijiet għall-Kummissjoni dwar qafas tal-aspetti etiċi tal-intelliġenza artifiċjali, ir-robotika u teknoloġiji relatati (2020/2012(INL)).

(35)    Ir-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill tas-27 ta’ April 2016 dwar il-protezzjoni tal-persuni fiżiċi fir-rigward tal-ipproċessar ta’ data personali u dwar il-moviment liberu ta’ tali data, u li jħassar id-Direttiva 95/46/KE (Regolament Ġenerali dwar il-Protezzjoni tad-Data) (ĠU L 119, 4.5.2016, p. 1).

(36)    Ir-Regolament (UE) 2018/1725 tal-Parlament Ewropew u tal-Kunsill tat-23 ta’ Ottubru 2018 dwar il-protezzjoni ta’ persuni fiżiċi fir-rigward tal-ipproċessar ta’ data personali mill-istituzzjonijiet, korpi, uffiċċji u aġenziji tal-Unjoni u dwar il-moviment liberu ta’ tali data, u li jħassar ir-Regolament (KE) Nru 45/2001 u d-Deċiżjoni Nru 1247/2002/KE (ĠU L 295, 21.11.2018, p. 39)

(37)    Id-Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill tas-27 ta’ April 2016 dwar il-protezzjoni ta’ persuni fiżiċi fir-rigward tal-ipproċessar ta’ data personali mill-awtoritajiet kompetenti għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta’ reati kriminali jew l-eżekuzzjoni ta’ pieni kriminali, u dwar il-moviment liberu ta’ tali data, u li tħassar id-Deċiżjoni Qafas tal-Kunsill 2008/977/ĠAI (id-Direttiva dwar l-Infurzar tal-Liġi) (ĠU L 119, 4.5.2016, p. 89).

(38)    Id-Deċiżjoni Kwadru tal-Kunsill 2002/584/ĠAI tat-13 ta’ Ġunju 2002 fuq il-mandat ta’ arrest Ewropew u l-proċeduri ta’ ċediment bejn l-Istati Membri (ĠU L 190, 18.7.2002, p. 1).

(39)    Ir-Regolament (KE) Nru 300/2008 tal-Parlament Ewropew u tal-Kunsill tal-11 ta’ Marzu 2008 dwar regoli komuni fil-qasam tas-sigurtà tal-avjazzjoni ċivili u li jħassar ir-Regolament (KE) Nru 2320/2002 (ĠU L 97, 9.4.2008, p. 72).

(40)    Ir-Regolament (UE) Nru 167/2013 tal-Parlament Ewropew u tal-Kunsill tal-5 ta’ Frar 2013 dwar l-approvazzjoni u s-sorveljanza tas-suq ta’ vetturi għall-agrikoltura u għall-forestrija (ĠU L 60, 2.3.2013, p. 1).

(41)    Ir-Regolament (UE) Nru 168/2013 tal-Parlament Ewropew u tal-Kunsill tal-15 ta’ Jannar 2013 dwar l-approvazzjoni u s-sorveljanza tas-suq ta’ vetturi b’żewġ jew tliet roti u kwadriċikli (ĠU L 60, 2.3.2013, p. 52).

(42)    Id-Direttiva 2014/90/UE tal-Parlament Ewropew u tal-Kunsill tat-23 ta’ Lulju 2014 dwar tagħmir tal-baħar u li tħassar id-Direttiva tal-Kunsill 96/98/KE (ĠU L 257, 28.8.2014, p. 146).

(43)    Id-Direttiva (UE) 2016/797 tal-Parlament Ewropew u tal-Kunsill tal-11 ta’ Mejju 2016 dwar l-interoperabbiltà tas-sistema ferrovjarja fl-Unjoni Ewropea (ĠU L 138, 26.5.2016, p. 44).

(44)    Ir-Regolament (UE) 2018/858 tal-Parlament Ewropew u tal-Kunsill tat-30 ta’ Mejju 2018 dwar l-approvazzjoni u s-sorveljanza tas-suq ta’ vetturi bil-mutur u t-trejlers tagħhom, u ta’ sistemi, komponenti u unitajiet tekniċi separati maħsuba għal tali vetturi, li jemenda r-Regolamenti (KE) Nru 715/2007 u (KE) Nru 595/2009 u li jħassar id-Direttiva 2007/46/KE (ĠU L 151, 14.6.2018, p. 1).

(45)    Ir-Regolament (UE) 2018/1139 tal-Parlament Ewropew u tal-Kunsill tal-4 ta’ Lulju 2018 dwar regoli komuni fil-qasam tal-avjazzjoni ċivili u li jistabbilixxi Aġenzija tas-Sikurezza tal-Avjazzjoni tal-Unjoni Ewropea, u li jemenda r-Regolamenti (KE) Nru 2111/2005, (KE) Nru 1008/2008, (UE) Nru 996/2010, (UE) Nru 376/2014 u d-Direttivi 2014/30/UE u 2014/53/UE tal-Parlament Ewropew u tal-Kunsill, u li jħassar ir-Regolamenti (KE) Nru 552/2004 u (KE) Nru 216/2008 tal-Parlament Ewropew u tal-Kunsill u r-Regolament tal-Kunsill (KEE) Nru 3922/91 (ĠU L 212, 22.8.2018, p. 1).

(46)    Ir-Regolament (UE) 2019/2144 tal-Parlament Ewropew u tal-Kunsill tas-27 ta’ Novembru 2019 dwar rekwiżiti tal-approvazzjoni tat-tip għall-vetturi bil-mutur u t-trejlers tagħhom, kif ukoll għas-sistemi, għall-komponenti u għall-unitajiet tekniċi separati maħsubin għat-tali vetturi, fir-rigward tas-sikurezza ġenerali tagħhom u tal-protezzjoni tal-okkupanti tal-vetturi u l-utenti vulnerabbli tat-triq, li jemenda r-Regolament (UE) 2018/858 tal-Parlament Ewropew u tal-Kunsill u li jħassar ir-Regolamenti (KE) Nru 78/2009, (KE) Nru 79/2009 u (KE) Nru 661/2009 tal-Parlament Ewropew u tal-Kunsill u tar-Regolamenti tal-Kummissjoni (KE) Nru 631/2009, (UE) Nru 406/2010, (UE) Nru 672/2010, (UE) Nru 1003/2010, (UE) Nru 1005/2010, (UE) Nru 1008/2010, (UE) Nru 1009/2010, (UE) Nru 19/2011, (UE) Nru 109/2011, (UE) Nru 458/2011, (UE) Nru 65/2012, (UE) Nru 130/2012, (UE) Nru 347/2012, (UE) Nru 351/2012, (UE) Nru 1230/2012 u (UE) 2015/166 (ĠU L 325, 16.12.2019, p. 1).

(47)    Ir-Regolament (UE) 2017/745 tal-Parlament Ewropew u tal-Kunsill tal-5 ta’ April 2017 dwar apparati mediċi, li jemenda d-Direttiva 2001/83/KE, ir-Regolament (KE) Nru 178/2002 u r-Regolament (KE) Nru 1223/2009 u li jħassar id-Direttivi tal-Kunsill 90/385/KEE u 93/42/KEE (ĠU L 117, 5.5.2017, p. 1).

(48)    Ir-Regolament (UE) 2017/746 tal-Parlament Ewropew u tal-Kunsill tal-5 ta’ April 2017 dwar apparati mediċi dijanjostiċi in vitro u li jħassar id-Direttiva 98/79/KE u d-Deċiżjoni tal-Kummissjoni 2010/227/UE (ĠU L 117, 5.5.2017, p. 176).

(49)    Id-Direttiva 2013/32/UE tal-Parlament Ewropew u tal-Kunsill tas-26 ta’ Ġunju 2013 dwar proċeduri komuni għall-għoti u l-irtirar tal-protezzjoni internazzjonali (ĠU L 180, 29.6.2013, p. 60).

(50)    Ir-Regolament (KE) Nru 810/2009 tal-Parlament Ewropew u tal-Kunsill tat-13 ta’ Lulju 2009 li jistabbilixxi Kodiċi Komunitarju dwar il-Viżi (Kodiċi dwar il-Viżi) (ĠU L 243, 15.9.2009, p. 1).

(51)    Ir-Regolament (KE) Nru 765/2008 tal-Parlament Ewropew u tal-Kunsill tad-9 ta’ Lulju 2008 li jistabbilixxi r-rekwiżiti għall-akkreditament u għas-sorveljanza tas-suq relatati mal-kummerċjalizzazzjoni ta’ prodotti, u li jħassar ir-Regolament tal-Kunsill (KEE) Nru 339/93 (ĠU L 218, 13.8.2008, p. 30).

(52)    Id-Deċiżjoni Nru 768/2008/KE tal-Parlament Ewropew u tal-Kunsill tad-9 ta’ Lulju 2008 dwar qafas komuni għall-kummerċjalizzazzjoni ta’ prodotti u li tħassar id-Deċiżjoni 93/465/KEE (ĠU L 218, 13.8.2008, p. 82).

(53)    Ir-Regolament (UE) 2019/1020 tal-Parlament Ewropew u tal-Kunsill tal-20 ta’ Ġunju 2019 dwar is-sorveljanza tas-suq u l-konformità tal-prodotti u li jemenda d-Direttiva 2004/42/KE u r-Regolamenti (KE) Nru 765/2008 u (UE) Nru 305/2011 (Test b’rilevanza għaż-ŻEE) (ĠU L 169, 25.6.2019, p. 1-44).

(54)    Ir-Regolament (UE) Nru 1025/2012 tal-Parlament Ewropew u tal-Kunsill tal-25 ta’ Ottubru 2012 dwar l-Istandardizzazzjoni Ewropea, li jemenda d-Direttivi tal-Kunsill 89/686/KEE u 93/15/KEE u d-Direttivi 94/9/KE, 94/25/KE, 95/16/KE, 97/23/KE, 98/34/KE, 2004/22/KE, 2007/23/KE, 2009/23/KE u 2009/105/KE tal-Parlament Ewropew u tal-Kunsill u li jħassar id-Deċiżjoni tal-Kunsill 87/95/KEE u d-Deċiżjoni Nru 1673/2006/KE tal-Parlament Ewropew u tal-Kunsill (ĠU L 316, 14.11.2012, p. 12).

(55)    Ir-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill tas-27 ta’ April 2016 dwar il-protezzjoni tal-persuni fiżiċi fir-rigward tal-ipproċessar ta’ data personali u dwar il-moviment liberu ta’ tali data, u li jħassar id-Direttiva 95/46/KE (Regolament Ġenerali dwar il-Protezzjoni tad-Data) (ĠU L 119, 4.5.2016, p. 1).

(56)    Id-Direttiva 2013/36/UE tal-Parlament Ewropew u tal-Kunsill tas-26 ta’ Ġunju 2013 dwar l-aċċess għall-attività tal-istituzzjonijiet ta’ kreditu u s-superviżjoni prudenzjali tal-istituzzjonijiet ta’ kreditu u tad-ditti tal-investiment, li temenda d-Direttiva 2002/87/KE u li tħassar id-Direttivi 2006/48/KE u 2006/49/KE (ĠU L 176, 27.6.2013, p. 338).

(57)    Id-Direttiva 2001/95/KE tal-Parlament Ewropew u tal-Kunsill tat-3 ta’ Diċembru 2001 dwar is-sigurtà ġenerali tal-prodotti (ĠU L 11, 15.1.2002, p. 4).

(58)    ĠU L 123, 12.5.2016, p. 1.

(59)    Ir-Regolament (UE) Nru 182/2011 tal-Parlament Ewropew u tal-Kunsill tas-16 ta’ Frar 2011 li jistabbilixxi r-regoli u l-prinċipji ġenerali dwar il-modalitajiet ta’ kontroll mill-Istati Membri tal-eżerċizzju mill-Kummissjoni tas-setgħat ta’ implimentazzjoni (ĠU L 55, 28.2.2011, p.13).

(60)    Id-Direttiva (KE) 2000/31 tal-Parlament Ewropew u tal-Kunsill tat-8 ta’ Ġunju 2000 dwar ċerti aspetti legali tas-servizzi minn soċjetà ta’ l-informazzjoni, partikolarment il-kummerċ elettroniku, fis-Suq Intern (“Direttiva dwar il-kummerċ elettroniku”) (ĠU L 178, 17.7.2000, p. 1).

(61)    Ir-Rakkomandazzjoni tal-Kummissjoni tas-6 ta’ Mejju 2003 dwar id-definizzjoni ta’ intrapriżi mikro, żgħar u ta’ daqs medju (ĠU L 124, 20.5.2003, p. 36).

(62)    Id-Deċiżjoni Kwadru tal-Kunsill 2002/584/JHA tat-13 ta’ Ġunju 2002 fuq il-mandat ta’ arrest Ewropew u l-proċeduri ta’ ċediment bejn l-Istati Membri (ĠU L 190, 18.7.2002, p. 1).

(63)    Ir-Regolament (UE) 2019/881 tal-Parlament Ewropew u tal-Kunsill tas-17 ta’ April 2019 dwar l-ENISA (l-Aġenzija tal-Unjoni Ewropea għaċ-Ċibersigurtà) u dwar iċ-ċertifikazzjoni taċ-ċibersigurtà tat-teknoloġija tal-informazzjoni u tal-komunikazzjoni u li jħassar ir-Regolament (UE) Nru 526/2013 (l-Att dwar iċ-Ċibersigurtà) (ĠU L 151, 7.6.2019, p. 1).

(64)    Kif imsemmi fl-Artikolu 54(2)(a) jew (b) tar-Regolament Finanzjarju    

(65)    Id-dettalji tal-modi ta’ ġestjoni u r-referenzi għar-Regolament Finanzjarju jinstabu fuq is-sit BudgWeb: http://www.cc.cec/budg/man/budgmanag/budgmanag_en.html

(66)    Diff. = Approprjazzjonijiet differenzjati / Mhux diff. = Approprjazzjonijiet mhux differenzjati.

(67)    L-EFTA: Assoċjazzjoni Ewropea tal-Kummerċ Ħieles.

(68)    Pajjiżi kandidati u, meta applikabbli, pajjiżi kandidati potenzjali mill-Balkani tal-Punent.

(69)    Indikattiva u dipendenti fuq id-disponibbiltà tal-baġit.

(70)    Skont in-nomenklatura baġitarja uffiċjali.

(71)    Assistenza teknika u/jew amministrattiva u nefqa li tappoġġa l-implimentazzjoni ta’ programmi u/jew ta’ azzjonijiet tal-UE (li qabel kienu l-linji “BA”), riċerka indiretta, riċerka diretta.

(72)    Iċ-ċifri kollha f’din il-kolonna huma indikattivi u soġġetti għall-kontinwazzjoni tal-programmi u għad-disponibbiltà tal-approprjazzjonijiet

(73)    Iċ-ċifri kollha f’din il-kolonna huma indikattivi u soġġetti għall-kontinwazzjoni tal-programmi u għad-disponibbiltà tal-approprjazzjonijiet

(74)    Kif deskritt fil-punt 1.4.2. “Objettiv(i) speċifiku/speċifiċi …”

(75)    Iċ-ċifri kollha f’din il-kolonna huma indikattivi u soġġetti għall-kontinwazzjoni tal-programmi u għad-disponibbiltà tal-approprjazzjonijiet.

(76)    Assistenza teknika u/jew amministrattiva u nefqa li tappoġġa l-implimentazzjoni ta’ programmi u/jew ta’ azzjonijiet tal-UE (li qabel kienu l-linji “BA”), riċerka indiretta, riċerka diretta.

(77)    Iċ-ċifri kollha f’din il-kolonna huma indikattivi u soġġetti għall-kontinwazzjoni tal-programmi u għad-disponibbiltà tal-approprjazzjonijiet.

(78)    AC = Persunal bil-Kuntratt; AL = Persunal Lokali; END = Espert Nazzjonali Sekondat; INT = persunal tal-aġenziji; JPD = Professjonisti Subalterni fid-Delegazzjonijiet.

(79)    Sottolimitu għall-persunal estern kopert minn approprjazzjonijiet operazzjonali (li qabel kienu l-linji “BA”).

(80)    Is-Sena N hija s-sena li fiha tibda l-implimentazzjoni tal-proposta/tal-inizjattiva. Jekk jogħġbok issostitwixxi “N” bl-ewwel sena ta’ implimentazzjoni prevista (pereżempju: 2021). Agħmel l-istess għas-snin ta’ wara.

(81)    Fir-rigward tar-riżorsi proprji tradizzjonali (dazji doganali, imposti fuq iz-zokkor), l-ammonti indikati jridu jkunu ammonti netti, jiġifieri ammonti gross wara tnaqqis ta’ 20 % għall-kostijiet tal-ġbir.

IL-KUMMISSJONI EWROPEA

Brussell, 21.4.2021

COM(2021) 206 final

ANNESSI

tal-

Proposta għal Regolament tal-Parlament Ewropew u tal-Kunsill

LI JISTABBILIXXI REGOLI ARMONIZZATI DWAR L-INTELLIĠENZA ARTIFIĊJALI (L-ATT DWAR L-INTELLIĠENZA ARTIFIĊJALI) U LI JEMENDA ĊERTI ATTI LEĠIŻLATTIVI TAL-UNJONI

{SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}

ANNESS I
TEKNIKI U APPROĊĊI TAL-INTELLIĠENZA ARTIFIĊJALI
Imsemmija fl-Artikolu 3, il-punt 1

(a)L-approċċi tat-tagħlim awtomatiku, inkluż tagħlim sorveljat, mhux sorveljat u rinforzat, bl-użu ta’ varjetà wiesgħa ta’ metodi, inkluż it-tagħlim profond;

(b)Approċċi bbażati fuq il-loġika u l-għarfien, inkluż ir-rappreżentazzjoni tal-għarfien, l-ipprogrammar induttiv (tal-loġika), il-bażijiet tal-għarfien, l-inferenza u l-magni deduttivi, ir-raġunament (simboliku) u s-sistemi tal-esperti;

(c)Approċċi statistiċi, stima Bayesjana, metodi ta’ tiftix u ottimizzazzjoni.

ANNESS II
LISTA TA’ LEĠIŻLAZZJONI TA’ ARMONIZZAZZJONI TAL-UNJONI
Taqsima A – Lista ta’ leġiżlazzjoni ta’ armonizzazzjoni tal-Unjoni bbażata fuq il-Qafas Leġiżlattiv Ġdid

1.Id-Direttiva 2006/42/KE tal-Parlament Ewropew u tal-Kunsill tas-17 ta’ Mejju 2006 dwar il-makkinarju, u li temenda d-Direttiva 95/16/KE (ĠU L 157, 9.6.2006, p. 24) [kif imħassra mir-Regolament dwar il-Makkinarju];

2.Id-Direttiva 2009/48/KE tal-Parlament Ewropew u tal-Kunsill tat-18 ta’ Ġunju 2009 dwar is-sikurezza tal-ġugarelli (ĠU L 170, 30.6.2009, p. 1);

3.Id-Direttiva 2013/53/UE tal-Parlament Ewropew u tal-Kunsill tal-20 ta’ Novembru 2013 dwar id-dgħajjes li jintużaw għar-rikreazzjoni u l-inġenji tal-ilma personali u li tħassar id-Direttiva 94/25/KE (ĠU L 354, 28.12.2013, p. 90);

4.Id-Direttiva 2014/33/UE tal-Parlament Ewropew u tal-Kunsill tas-26 ta’ Frar 2014 dwar l-armonizzazzjoni tal-liġijiet tal-Istati Membri relattivament għal liftijiet u komponenti ta’ sikurezza għal-liftijiet (ĠU L 96, 29.3.2014, p. 251);

5.Id-Direttiva 2014/34/UE tal-Parlament Ewropew u tal-Kunsill tas-26 ta’ Frar 2014 dwar l-armonizzazzjoni tal-liġijiet tal-Istati Membri relattivament għal tagħmir u sistemi ta’ protezzjoni maħsuba għall-użu f’atmosferi potenzjalment splussivi (ĠU L 96, 29.3.2014, p. 309);

6.Id-Direttiva 2014/53/UE tal-Parlament Ewropew u tal-Kunsill tas-16 ta’ April 2014 dwar l-armonizzazzjoni tal-liġijiet tal-Istati Membri marbuta mat-tqegħid fis-suq ta’ tagħmir tar-radju u li tħassar id-Direttiva 1999/5/KE (ĠU L 153, 22.5.2014, p. 62);

7.Id-Direttiva 2014/68/UE tal-Parlament Ewropew u tal-Kunsill tal-15 ta’ Mejju 2014 dwar l-armonizzazzjoni tal-liġijiet tal-Istati Membri relatati mat-tqegħid fis-suq ta’ apparat ta’ pressjoni (ĠU L 189, 27.6.2014, p. 164);

8.Ir-Regolament (UE) 2016/424 tal-Parlament Ewropew u tal-Kunsill tad-9 ta’ Marzu 2016 dwar l-installazzjonijiet tal-funikular u li jħassar id-Direttiva 2000/9/KE (ĠU L 81, 31.3.2016, p. 1);

9.Ir-Regolament (UE) 2016/425 tal-Parlament Ewropew u tal-Kunsill tad-9 ta’ Marzu 2016 dwar tagħmir ta’ protezzjoni personali u li jħassar id-Direttiva tal-Kunsill 89/686/KEE (ĠU L 81, 31.3.2016, p. 51);

10.Ir-Regolament (UE) 2016/426 tal-Parlament Ewropew u tal-Kunsill tad-9 ta’ Marzu 2016 dwar tagħmir li jaħraq karburanti gassużi u li jħassar id-Direttiva 2009/142/KE (ĠU L 81, 31.3.2016, p. 99);

11.Ir-Regolament (UE) 2017/745 tal-Parlament Ewropew u tal-Kunsill tal-5 ta' April 2017 dwar apparati mediċi, li jemenda d-Direttiva 2001/83/KE, ir-Regolament (KE) Nru 178/2002 u r-Regolament (KE) Nru 1223/2009 u li jħassar id-Direttivi tal-Kunsill 90/385/KEE u 93/42/KEE (ĠU L 117, 5.5.2017, p. 1);

12.Ir-Regolament (UE) 2017/746 tal-Parlament Ewropew u tal-Kunsill tal-5 ta’ April 2017 dwar apparati mediċi dijanjostiċi in vitro u li jħassar id-Direttiva 98/79/KE u d-Deċiżjoni tal-Kummissjoni 2010/227/UE (ĠU L 117, 5.5.2017, p. 176).

Taqsima B. Lista ta’ leġiżlazzjoni oħra ta’ armonizzazzjoni tal-Unjoni

1.Ir-Regolament (KE) Nru 300/2008 tal-Parlament Ewropew u tal-Kunsill tal-11 ta' Marzu 2008 dwar regoli komuni fil-qasam tas-sigurtà tal-avjazzjoni ċivili u li jħassar ir-Regolament (KE) Nru 2320/2002 (ĠU L 97, 9.4.2008, p. 72);

2.Ir-Regolament (UE) Nru 168/2013 tal-Parlament Ewropew u tal-Kunsill tal-15 ta’ Jannar 2013 dwar l-approvazzjoni u s-sorveljanza tas-suq ta’ vetturi b’żewġ jew tliet roti u kwadriċikli (ĠU L 60, 2.3.2013, p. 52);

3.Ir-Regolament (UE) Nru 167/2013 tal-Parlament Ewropew u tal-Kunsill tal-5 ta’ Frar 2013 dwar l-approvazzjoni u s-sorveljanza tas-suq ta' vetturi għall-agrikoltura u għall-forestrija (ĠU L 60, 2.3.2013, p. 1);

4.Id-Direttiva 2014/90/UE tal-Parlament Ewropew u tal-Kunsill tat-23 ta’ Lulju 2014 dwar tagħmir tal-baħar u li tħassar id-Direttiva tal-Kunsill 96/98/KE (ĠU L 257, 28.8.2014, p. 146);

5.Id-Direttiva (UE) 2016/797 tal-Parlament Ewropew u tal-Kunsill tal-11 ta’ Mejju 2016 dwar l-interoperabbiltà tas-sistema ferrovjarja fl-Unjoni Ewropea (ĠU L 138, 26.5.2016, p. 44).

6.Ir-Regolament (UE) 2018/858 tal-Parlament Ewropew u tal-Kunsill tat-30 ta’ Mejju 2018 dwar l-approvazzjoni u s-sorveljanza tas-suq ta’ vetturi bil-mutur u t-trejlers tagħhom, u ta’ sistemi, komponenti u unitajiet tekniċi separati maħsuba għal tali vetturi, li jemenda r-Regolamenti (KE) Nru 715/2007 u (KE) Nru 595/2009 u li jħassar id-Direttiva 2007/46/KE (ĠU L 151, 14.6.2018, p. 1). 3. Ir-Regolament (UE) 2019/2144 tal-Parlament Ewropew u tal-Kunsill tas-27 ta’ Novembru 2019 dwar rekwiżiti tal-approvazzjoni tat-tip għall-vetturi bil-mutur u t-trejlers tagħhom, kif ukoll sistemi, komponenti u unitajiet tekniċi separati maħsubin għat-tali vetturi, fir-rigward tas-sikurezza ġenerali tagħhom u tal-protezzjoni tal-okkupanti tal-vetturi u l-utenti vulnerabbli tat-triq, li jemenda r-Regolament (UE) 2018/858 tal-Parlament Ewropew u tal-Kunsill u li jħassar ir-Regolamenti (KE) Nru 78/2009, (KE) Nru 79/2009 u (KE) Nru 661/2009 tal-Parlament Ewropew u tal-Kunsill u tar-Regolamenti tal-Kummissjoni (KE) Nru 631/2009, (UE) Nru 406/2010, (UE) Nru 672/2010, (UE) Nru 1003/2010, (UE) Nru 1005/2010, (UE) Nru 1008/2010, (UE) Nru 1009/2010, (UE) Nru 19/2011, (UE) Nru 109/2011, (UE) Nru 458/2011, (UE) Nru 65/2012, (UE) Nru 130/2012, (UE) Nru 347/2012, (UE) Nru 351/2012, (UE) Nru 1230/2012 u (UE) 2015/166 (ĠU L 325, 16.12.2019, p. 1);

7.Ir-Regolament (UE) 2018/1139 tal-Parlament Ewropew u tal-Kunsill tal-4 ta’ Lulju 2018 dwar regoli komuni fil-qasam tal-avjazzjoni ċivili u li jistabbilixxi Aġenzija tas-Sikurezza tal-Avjazzjoni tal-Unjoni Ewropea, u li jemenda r-Regolamenti (KE) Nru 2111/2005, (KE) Nru 1008/2008, (UE) Nru 996/2010, (UE) Nru 376/2014 u d-Direttivi 2014/30/UE u 2014/53/UE tal-Parlament Ewropew u tal-Kunsill, u li jħassar ir-Regolamenti (KE) Nru 552/2004 u (KE) Nru 216/2008 tal-Parlament Ewropew u tal-Kunsill u r-Regolament tal-Kunsill (KEE) Nru 3922/91 (ĠU L 212, 22.8.2018, p. 1), sa fejn jirrigwarda d-disinn, il-produzzjoni u t-tqegħid fis-suq tal-inġenji tal-ajru msemmija fil-punti (a) u (b) tal-Artikolu 2(1) tiegħu, f’dak li jikkonċerna l-inġenji tal-ajru mingħajr bdot abbord u l-magni, l-iskrejjen, il-parts u t-tagħmir tagħhom għall-kontroll mill-bogħod.

ANNESS III
SISTEMI TAL-INTELLIĠENZA ARTIFIĊJALI B’RISKJU KBIR IMSEMMIJA FL-ARTIKOLU 6(2)

Is-sistemi tal-AI b’riskju kbir skont l-Artikolu 6(2) huma sistemi tal-AI elenkati f’xi wieħed minn dawn l-oqsma li ġejjin:

1.Identifikazzjoni bijometrika u kategorizzazzjoni ta’ persuni fiżiċi:

(a)Sistemi tal-AI maħsuba biex jintużaw għall-identifikazzjoni bijometrika remota ta’ persuni fiżiċi “fil-ħin reali” u “f’ħin aktar tard”;

2.Ġestjoni u tħaddim tal-infrastruttura kritika:

(a)Sistemi tal-AI maħsuba biex jintużaw bħala komponenti tas-sikurezza fil-ġestjoni u t-tħaddim tat-traffiku fit-toroq u l-provvista tal-ilma, il-gass, it-tisħin u l-elettriku.

3.Edukazzjoni u taħriġ vokazzjonali:

(a)Sistemi tal-AI maħsuba biex jintużaw biex jiddeterminaw l-aċċess jew l-assenjazzjoni ta’ persuni fiżiċi lil istituzzjonijiet edukattivi u tat-taħriġ vokazzjonali;

(b)Sistemi tal-AI maħsuba biex jintużaw biex issir valutazzjoni tal-istudenti f’istituzzjonijiet edukattivi u tat-taħriġ vokazzjonali u biex issir valutazzjoni tal-parteċipanti f’testijiet li s-soltu jkunu meħtieġa għal dħul fl-istituzzjonijiet edukattivi.

4.Impjiegi, ġestjoni tal-ħaddiema u aċċess għal impjiegi indipendenti:

(a)Sistemi tal-AI maħsuba biex jintużaw għar-reklutaġġ jew għall-għażla ta’ persuni fiżiċi, b’mod partikolari għar-reklamar ta’ postijiet tax-xogħol battala, għall-iskrinjar jew l-iffiltrar tal-applikazzjonijiet, għall-evalwazzjoni tal-kandidati waqt l-intervisti jew għat-testijiet;

(b)L-Intelliġenza Artifiċjali maħsuba biex tintuża għat-teħid ta’ deċiżjonijiet dwar il-promozzjoni u t-terminazzjoni ta’ relazzjonijiet kuntrattwali relatati max-xogħol, għall-allokazzjoni tal-kompiti u għall-monitoraġġ u l-evalwazzjoni tal-prestazzjoni u l-imġiba ta’ persuni f’dawn ir-relazzjonijiet.

5.Aċċess u tgawdija ta’ servizzi privati essenzjali u ta’ servizzi u benefiċċji pubbliċi:

(a)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet pubbliċi jew f’isem l-awtoritajiet pubbliċi biex jevalwaw l-eliġibbiltà ta’ persuni fiżiċi għal benefiċċji u servizzi ta’ assistenza pubblika, u biex jagħtu, inaqqsu, jirrevokaw, jew jitolbu lura dawn il-benefiċċji u s-servizzi;

(b)Sistemi tal-AI maħsuba biex jintużaw għal evalwazzjoni tal-affidabbiltà kreditizja ta’ persuni fiżiċi jew biex jiġi stabbilit il-punteġġ tal-kreditu tagħhom, għajr is-sistemi tal-AI imdaħħla fis-servizz minn fornituri fuq skala żgħira għall-użu tagħhom stess;

(c)Sistemi tal-AI maħsuba biex jintużaw għad-dispaċċ, jew biex tiġi stabbilita prijorità fid-dispaċċ ta’ servizzi tal-ewwel rispons ta’ emerġenza, inkluż minn ħaddiema tat-tifi tan-nar u tal-għajnuna medika.

6. Infurzar tal-liġi:

(a)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi biex isiru valutazzjonijiet tar-riskju individwali ta’ persuni fiżiċi ħalli jiġi vvalutat ir-riskju ta’ persuna fiżika li twettaq reat, jew reat mill-ġdid, jew ir-riskju għal vittmi potenzjali ta’ reati kriminali;

(b)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi bħala poligrafi u għodod simili jew biex jiġi identifikat l-istat emozzjonali ta’ persuna fiżika;

(c)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi għad-detezzjoni ta’ deep-fakes kif imsemmi fl-Artikolu 52(3);

(d)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi għall-evalwazzjoni tal-affidabbiltà tal-evidenza waqt investigazzjoni jew prosekuzzjoni ta’ reati kriminali;

(e)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi biex ibassru l-okkorrenza jew l-okkorrenza mill-ġdid ta’ reat kriminali effettiv jew potenzjali abbażi tat-tfassil ta’ profili ta’ persuni fiżiċi kif imsemmi fl-Artikolu 3(4) tad-Direttiva (UE) 2016/680 jew għal valutazzjoni ta’ karattri u karatteristiċi tal-personalità jew ta’ imġiba kriminali fil-passat ta’ persuni fiżiċi jew gruppi;

(f)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi għat-tfassil ta’ profili ta’ persuni fiżiċi kif imsemmi fl-Artikolu 3(4) tad-Direttiva (UE) 2016/680 waqt sejbien, investigazzjoni jew prosekuzzjoni ta’ reati kriminali;

(g)Sistemi tal-AI maħsuba biex jintużaw għall-analitika tal-kriminalità fir-rigward ta’ persuni fiżiċi, li jippermettu lill-awtoritajiet tal-infurzar tal-liġi jfittxu settijiet tad-data kbar relatati u mhux relatati kumplessi li jkunu disponibbli f’sorsi differenti tad-data jew b’formati tad-data differenti biex jidentifikaw xejriet mhux magħrufa jew jiskopru relazzjonijiet moħbija fid-data.

7.Ġestjoni tal-migrazzjoni, l-ażil u l-kontroll tal-fruntieri:

(a)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi bħala poligrafi u għodod simili jew biex jiġi identifikat l-istat emozzjonali ta’ persuna fiżika;

(b)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti biex jivvalutaw riskju, inkluż riskju għas-sigurtà, riskju ta’ immigrazzjoni irregolari, jew riskju għas-saħħa, maħluq minn persuna fiżika li jkun beħsiebha tidħol jew li tkun daħlet fit-territorju ta’ Stat Membru;

(c)Sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti għall-verifika tal-awtentiċità tad-dokumenti tal-ivvjaġġar u tad-dokumentazzjoni ta’ sostenn ta’ persuni fiżiċi, u għad-detezzjoni ta’ dokumenti mhux awtentiċi b’verifika tal-karatteristiċi tas-sigurtà tagħhom;

(d)Sistemi tal-AI maħsuba biex jassistu lill-awtoritajiet pubbliċi kompetenti għall-eżami ta’ applikazzjonijiet għall-ażil, viża u permessi ta’ residenza u l-ilmenti assoċjati fir-rigward tal-eliġibbiltà tal-persuni fiżiċi li japplikaw għal status.

8.Amministrazzjoni tal-ġustizzja u proċessi demokratiċi:

(a)Sistemi tal-AI maħsuba biex jassistu awtorità ġudizzjarja fir-riċerka u l-interpretazzjoni ta’ fatti u l-liġi u fl-applikazzjoni tal-liġi għal sett konkret ta’ fatti.

ANNESS IV
DOKUMENTAZZJONI TEKNIKA msemmija fil-punt 11(1)

Id-dokumentazzjoni teknika msemmija fl-Artikolu 11(1) għandu jkun fiha mill-inqas l-informazzjoni li ġejja, kif applikabbli għas-sistema rilevanti tal-AI:

1.Deskrizzjoni ġenerali tas-sistema tal-AI li tinkludi:

(a)l-għan maħsub tagħha, il-persuni li jiżviluppaw is-sistema, id-data u l-verżjoni tas-sistema;

(b)kif is-sistema tal-AI tinteraġixxi jew tista’ tintuża biex tinteraġixxi ma’ hardware jew software li mhux parti mis-sistema tal-AI nnifisha, meta applikabbli;

(c)il-verżjonijiet tas-software jew tal-firmware rilevanti u kwalunkwe rekwiżit relatat mal-aġġornament tal-verżjoni;

(d)id-deskrizzjoni tal-forom kollha li fihom is-sistema tal-AI titqiegħed fis-suq jew titqiegħed fis-servizz;

(e)id-deskrizzjoni tal-hardware li fuqu s-sistema tal-AI maħsuba li taħdem;

(f)meta s-sistema tal-AI tkun komponent ta’ prodotti, ritratti jew illustrazzjonijiet li juru karatteristiċi esterni, immarkar u t-tqassim intern ta’ dawk il-prodotti;

(g)l-istruzzjonijiet tal-użu għall-utenti u, meta applikabbli, l-istruzzjonijiet tal-installazzjoni;

2.Deskrizzjoni dettaljata tal-elementi tas-sistema tal-AI u tal-proċess għall-iżvilupp tagħha, inkluż:

(a)il-metodi u l-passi mwettqa għall-iżvilupp tas-sistema tal-AI inkluż, meta rilevanti, ir-rikors għal sistemi jew għodod imħarrġa minn qabel ipprovduti minn partijiet terzi u kif dawn intużaw, ġew integrati jew modifikati mill-fornitur;

(b)l-ispeċifikazzjonijiet tad-disinn tas-sistema, jiġifieri l-loġika ġenerali tas-sistema tal-AI u tal-algoritmi; l-għażliet ewlenin tad-disinn, inkluż ir-raġunijiet u s-suppożizzjonijiet magħmula, anke fir-rigward ta’ persuni jew gruppi ta’ persuni li fuqhom is-sistema maħsuba li tintuża; l-għażliet ewlenin tal-klassifikazzjoni; dak li s-sistema tfasslet biex tottimizza u r-rilevanza tal-parametri differenti; id-deċiżjonijiet dwar kwalunkwe kompromess possibbli li jkun sar rigward is-soluzzjonijiet tekniċi adottati għal konformità mar-rekwiżiti stabbiliti fit-Titolu III, il-Kapitolu 2;

(c)id-deskrizzjoni tal-arkitettura tas-sistema li tispjega kif il-komponenti tas-software jibnu fuq jew jikkontribwixxu għal xulxin u jintegraw fl-ipproċessar ġenerali; ir-riżorsi komputazzjonali użati għall-iżvilupp, it-taħriġ, l-ittestjar u l-validazzjoni tas-sistema tal-AI;

(d)meta rilevanti, ir-rekwiżiti tad-data mil-lat ta’ skedi tad-data li jiddeskrivu l-metodoloġiji u t-tekniki tat-taħriġ u s-settijiet tad-data tat-taħriġ użati, inkluż informazzjoni dwar il-provenjenza ta’ dawk is-settijiet tad-data, il-kamp ta’ applikazzjoni u l-karatteristiċi ewlenin tagħhom; kif inkisbet u ntgħażlet id-data; proċeduri tat-tikkettar (eż. għal tagħlim sorveljat), metodoloġiji għat-tindif tad-data (eż. detezzjoni ta’ anomaliji);

(e)valutazzjoni tal-miżuri ta’ sorveljanza umana meħtieġa f’konformità mal-Artikolu 14, inkluż valutazzjoni tal-miżuri tekniċi meħtieġa biex tiġi ffaċilitata l-interpretazzjoni tal-outputs tas-sistemi tal-AI mill-utenti, f’konformità mal-Artikolu 13(3)(d);

(f)meta applikabbli, deskrizzjoni dettaljata tal-bidliet predeterminati fis-sistema tal-AI u l-prestazzjoni tagħha, flimkien mal-informazzjoni rilevanti kollha relatata mas-soluzzjonijiet tekniċi adottati biex tkun żgurata l-konformità kontinwa tas-sistema tal-AI mar-rekwiżiti rilevanti stabbiliti fit-Titolu III, il-Kapitolu 2;

(g)il-proċeduri ta’ validazzjoni u ttestjar użati, inkluż informazzjoni dwar il-validazzjoni u d-data tal-ittestjar użati u l-karatteristiċi ewlenin tagħhom; il-metriċi użati biex jitkejlu l-eżattezza, ir-robustezza, iċ-ċibersigurtà u l-konformità ma’ rekwiżiti rilevanti oħra stabbiliti fit-Titolu III, il-Kapitolu 2, kif ukoll impatti potenzjalment diskriminatorji; ir-reġistri tat-testijiet u r-rapporti tat-testijiet kollha datati u ffirmati mill-persuni responsabbli, inkluż rigward il-bidliet predeterminati msemmija fil-punt (f).

3.Informazzjoni dettaljata dwar il-monitoraġġ, il-funzjonament u l-kontroll tas-sistema tal-AI, b’mod partikolari rigward: il-kapaċitajiet u l-limitazzjonijiet tagħha fil-prestazzjoni, inkluż il-gradi tal-eżattezza għal persuni jew gruppi ta’ persuni speċifiċi li għalihom ikun maħsub li tintuża s-sistema, u l-livell ġenerali mistenni ta’ eżattezza rigward l-iskop maħsub tagħha; l-eżiti mhux intenzjonati prevedibbli u s-sorsi tar-riskji għas-saħħa u s-sikurezza, għad-drittijiet fundamentali u għad-diskriminazzjoni fid-dawl tal-iskop maħsub tas-sistema tal-AI; il-miżuri ta’ sorveljanza umana meħtieġa f’konformità mal-Artikolu 14, inkluż il-miżuri tekniċi mdaħħla fis-seħħ biex tiġi ffaċilitata l-interpretazzjoni tal-outputs tas-sistemi tal-AI mill-utenti; speċifikazzjonijiet dwar id-data tal-input, kif xieraq;

4.Deskrizzjoni dettaljata tas-sistema tal-ġestjoni tar-riskju f’konformità mal-Artikolu 9;

5.Deskrizzjoni ta’ kwalunkwe bidla li ssir fis-sistema waqt iċ-ċiklu ta’ ħajjitha;

6.Lista tal-istandards armonizzati applikati għalkollox jew parzjalment li r-referenzi tagħhom ġew ippubblikati f’Il-Ġurnal Uffiċjali tal-Unjoni Ewropea; meta ma jkunux ġew applikati standards armonizzati bħal dawn, deskrizzjoni dettaljata tas-soluzzjonijiet adottati biex jiġu ssodisfati r-rekwiżiti stabbiliti fit-Titolu III, il-Kapitolu 2, inkluż lista ta’ standards u speċifikazzjonijiet tekniċi rilevanti oħra applikati;

7.Kopja tad-dikjarazzjoni ta’ konformità tal-UE;

8.Deskrizzjoni dettaljata tas-sistema fis-seħħ biex tevalwa l-prestazzjoni tas-sistema tal-AI fil-fażi ta’ wara t-tqegħid fis-suq f’konformità mal-Artikolu 61, inkluż il-pjan ta’ monitoraġġ ta’ wara t-tqegħid fis-suq imsemmi fl-Artikolu 61(3).

ANNESS V
DIKJARAZZJONI TA’ KONFORMITÀ TAL-UE

Id-dikjarazzjoni ta’ konformità tal-UE msemmija fl-Artikolu 48 għandu jkun fiha l-informazzjoni kollha li ġejja:

1.L-isem u t-tip tas-sistema tal-AI u kwalunkwe referenza mhux ambigwa addizzjonali li tippermetti l-identifikazzjoni u t-traċċabbiltà tas-sistema tal-AI;

2.L-isem u l-indirizz tal-fornitur jew, meta applikabbli, tar-rappreżentant awtorizzat tiegħu;

3.Stqarrija li d-dikjarazzjoni ta’ konformità tal-UE qed tinħareġ bir-responsabbiltà unika tal-fornitur;