EURÓPAI BIZOTTSÁG

Brüsszel, 2021.4.21.

COM(2021) 206 final

2021/0106(COD)

Javaslat

AZ EURÓPAI PARLAMENT ÉS A TANÁCS RENDELETE

A MESTERSÉGES INTELLIGENCIÁRA VONATKOZÓ HARMONIZÁLT SZABÁLYOK (A MESTERSÉGES INTELLIGENCIÁRÓL SZÓLÓ JOGSZABÁLY) MEGÁLLAPÍTÁSÁRÓL ÉS EGYES UNIÓS JOGALKOTÁSI AKTUSOK MÓDOSÍTÁSÁRÓL

{SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}

INDOKOLÁS

1.A JAVASLAT HÁTTERE

1.1.A javaslat indokai és céljai

Ez az indokolás a mesterséges intelligenciára vonatkozó harmonizált szabályok (a mesterséges intelligenciáról szóló jogszabály) megállapításáról szóló rendeletre irányuló javaslatot kíséri. A mesterséges intelligencia (MI) olyan gyorsan fejlődő technológiacsalád, amely széles körű gazdasági és társadalmi előnyökhöz vezethet az iparágak és a társadalmi tevékenységek teljes spektrumában. Az előrejelzések javításával, a műveletek és az erőforrások elosztásának optimalizálásával, valamint a szolgáltatásnyújtás személyre szabásával a mesterséges intelligencia használata elősegítheti a társadalmi és környezeti szempontból előnyös eredményeket, és kulcsfontosságú versenyelőnyt biztosíthat a vállalkozások és az európai gazdaság számára. Ilyen intézkedésekre különösen a nagy hatású ágazatokban van szükség, beleértve az éghajlatváltozást, a környezetvédelmet, az egészségügyet, a közszférát, a pénzügyet, a mobilitást, a belügyet és a mezőgazdaságot. Ugyanakkor ugyanazok az elemek és technikák, amelyek elősegítik a mesterséges intelligencia társadalmi-gazdasági előnyeit, új kockázatokkal vagy negatív következményekkel is járhatnak az egyének vagy a társadalom számára. A technológiai változás sebességére és a lehetséges kihívásokra való tekintettel az EU kiegyensúlyozott megközelítés mellett kötelezte el magát. Az Unió érdeke, hogy megőrizze az EU technológiai vezető szerepét, és biztosítsa, hogy az európaiak élvezhessék az uniós értékeknek, az alapvető jogoknak és az alapelveknek megfelelően kifejlesztett és működő új technológiák előnyeit.

Ez a javaslat eleget tesz Ursula von der Leyen elnök politikai kötelezettségvállalásának, mivel az elnök a 2019–2024 közötti időszakra szóló, az „Ambiciózusabb Unió” című, a Bizottság számára szóló politikai iránymutatásában 1 bejelentette, hogy a Bizottság jogszabályt fog előterjeszteni a mesterséges intelligencia emberi és etikai vonatkozásaival kapcsolatos összehangolt európai megközelítésre vonatkozóan. E bejelentést követően a Bizottság 2020. február 19-én közzétette a „Fehér könyv a mesterséges intelligenciáról: a kiválóság és a bizalom európai megközelítése” című dokumentumot 2 . A fehér könyv szakpolitikai alternatívákat határoz meg arra vonatkozóan, hogyan érhető el a mesterséges intelligencia elterjedésének előmozdítására és az ilyen technológiák bizonyos felhasználásához kapcsolódó kockázatok kezelésére irányuló kettős célkitűzés. E javaslat célja a bizalmi ökoszisztéma kialakítására vonatkozó második célkitűzés megvalósítása azáltal, hogy javaslatot tesz a megbízható mesterséges intelligenciára vonatkozó jogi keretre. A javaslat az uniós értékeken és az alapvető jogokon alapul, és arra irányul, hogy bizalmat ébresszen az egyénekben és más felhasználókban a mesterséges intelligencián alapuló megoldások alkalmazása iránt, ugyanakkor ösztönözze a vállalkozásokat az ilyen megoldások fejlesztésére. A mesterséges intelligenciának eszközként kell szolgálnia az emberek számára, és hasznos szerepet kell játszania a társadalomban azzal a végső céllal, hogy növelje az emberek jólétét. Az uniós piacon rendelkezésre álló vagy az Unióban az embereket más módon érintő mesterséges intelligenciára vonatkozó szabályoknak ezért emberközpontúaknak kell lenniük annak érdekében, hogy az emberek bízhassanak abban, hogy a technológia használatára biztonságosan és a jogszabályoknak megfelelő módon kerül sor, többek között az alapvető jogok tiszteletben tartásával. A fehér könyv közzétételét követően a Bizottság az érdekelt felek részvételével széles körű konzultációt indított, amely nagy érdeklődést váltott ki számos érdekelt fél körében, akik nagyrészt támogatták a mesterséges intelligencia növekvő használata által felvetett kihívások és aggályok kezelésére irányuló szabályozási beavatkozást.

A javaslat eleget tesz az Európai Parlament (EP) és az Európai Tanács kifejezett kéréseinek is, mivel azok több alkalommal is szorgalmazták a jogalkotási fellépést a mesterségesintelligencia-rendszerek (a továbbiakban: MI-rendszerek) olyan jól működő belső piacának biztosítása érdekében, ahol uniós szinten megfelelően foglalkoznak a mesterséges intelligencia előnyeivel és kockázataival egyaránt. A javaslat támogatja azt a célkitűzést, hogy az Unió globális vezető szerepet töltsön be a biztonságos, megbízható és etikus mesterséges intelligencia fejlesztésében, ahogy azt az Európai Tanács is megfogalmazta 3 , és az Európai Parlament kifejezett kérésének 4 megfelelően biztosítja az etikai alapelvek védelmét. 

2017-ben az Európai Tanács szorgalmazta „a sürgős fellépést az újonnan megjelenő tendenciák kezelése érdekében”, többek között „olyan kérdésekben, mint a mesterséges intelligencia [...] a magas szintű adatvédelem, digitális jogok és etikai normák biztosítása mellett” 5 . Az Európában készült mesterséges intelligencia fejlesztésének és használatának összehangolt tervére vonatkozó 2019. évi következtetéseiben 6 a Tanács hangsúlyozta továbbá annak fontosságát, hogy biztosítani kell az európai polgárok jogainak teljes körű tiszteletben tartását, és felszólított a meglévő vonatkozó jogszabályok felülvizsgálatára annak érdekében, hogy azok megfeleljenek a mesterséges intelligencia által teremtett új lehetőségeknek és kihívásoknak. Az Európai Tanács felszólított az olyan MI-alkalmazások egyértelmű meghatározására is, amelyeket nagy kockázatúnak kell tekinteni 7 .

A legutóbbi, 2020. október 21-i következtetések felszólítanak továbbá egyes MI-rendszerek átláthatatlanságának, összetettségének, elfogultságának, bizonyos fokú kiszámíthatatlanságának és részben autonóm magatartásának kezelésére az alapvető jogokkal való összeegyeztethetőségük biztosítása és a jogi szabályok végrehajtásának megkönnyítése érdekében 8 .

Az Európai Parlament is jelentős munkát végzett a mesterséges intelligencia területén. 2020 októberében számos állásfoglalást fogadott el a mesterséges intelligenciával kapcsolatban, többek között az etika 9 , a felelősség 10 és a szerzői jog 11 vonatkozásában. Ezeket 2021-ben további mesterséges intelligenciáról szóló állásfoglalások követték a büntetőügyek 12 , valamint az oktatás, a kultúra és az audiovizuális ágazat 13 tekintetében. A mesterséges intelligencia, a robotika és a kapcsolódó technológiák etikai szempontjainak keretéről szóló európai parlamenti állásfoglalás kifejezetten azt ajánlja a Bizottságnak, hogy tegyen jogalkotási javaslatot a mesterséges intelligencia által nyújtott lehetőségek és előnyök kiaknázása, továbbá az etikai alapelvek védelmének biztosítása érdekében. Az állásfoglalás tartalmazza a mesterséges intelligencia, a robotika és a kapcsolódó technológiák fejlesztésére, bevezetésére és használatára vonatkozó etikai elvekről szóló rendeletre irányuló jogalkotási javaslat szövegét. Az Ursula von der Leyen elnök politikai iránymutatásában foglalt, az Európai Parlament által az EUMSZ 225. cikke alapján elfogadott állásfoglalások tekintetében tett politikai kötelezettségvállalással összhangban ez a javaslat figyelembe veszi az Európai Parlament fent említett állásfoglalását, teljes mértékben tiszteletben tartva az arányosság, a szubszidiaritás és a jogalkotás minőségének javítására vonatkozó elveket.

Ebben a politikai összefüggésben a Bizottság előterjeszti a mesterséges intelligenciára vonatkozóan javasolt szabályozási keretet az alábbi konkrét célkitűzésekkel:

·annak biztosítása, hogy az Unióban forgalomba hozott és használt MI-rendszerek biztonságosak legyenek, és tiszteletben tartsák az alapvető jogokra és az uniós értékekre vonatkozó hatályos jogszabályokat;

·a jogbiztonság biztosítása a mesterséges intelligenciába történő beruházások és a mesterséges intelligenciát érintő innováció elősegítése érdekében;

·az irányításnak és az MI-rendszerek tekintetében az alapvető jogokra és biztonsági követelményekre vonatkozó hatályos jogszabályok hatékony érvényesítésének a javítása;

·a jogszerű, biztonságos és megbízható MI-alkalmazások tekintetében az egységes piac kialakításának elősegítése és a piac széttöredezettségének megelőzése.

E célkitűzések elérése érdekében ez a javaslat a mesterséges intelligencia kiegyensúlyozott és arányos horizontális szabályozási megközelítését mutatja be, amely a mesterséges intelligenciához kapcsolódó kockázatok és problémák kezeléséhez szükséges minimumkövetelményekre korlátozódik anélkül, hogy indokolatlanul korlátozná vagy akadályozná a technológiai fejlődést vagy más módon aránytalanul növelné az MI-megoldások forgalomba hozatalának költségeit. A javaslat erős és rugalmas jogi keretet hoz létre. Egyrészt átfogóak és időtállóak a választott alapvető szabályozási eszközök, köztük azok az elveken alapuló követelmények, amelyeknek az MI-rendszereknek meg kell felelniük. Másrészről arányos szabályozási rendszert vezet be, amely olyan jól meghatározott, kockázatalapú szabályozási megközelítésen alapul, amely nem vezet szükségtelen kereskedelmi korlátozásokhoz, és így a jogi beavatkozás azokra a konkrét helyzetekre korlátozódik, amikor indokoltan aggodalomra okot adó eset áll fenn, vagy ha ez az aggodalom a közeljövőben észszerűen előre látható. A jogi keret ugyanakkor olyan rugalmas mechanizmusokat is tartalmaz, amelyek lehetővé teszik, hogy a technológia fejlődésével és az aggodalomra okot adó új helyzetek megjelenésével dinamikusan módosítani lehessen ezt a keretet.

A javaslat arányos, kockázatalapú megközelítést követ, amikor harmonizált szabályokat állapít meg az MI-rendszerek Unión belüli fejlesztésére, forgalomba hozatalára és használatára vonatkozóan. A mesterséges intelligencia egységes, időtálló meghatározását javasolja. Egyes, a mesterséges intelligenciával kapcsolatos különösen káros gyakorlatok tiltottak, mivel ellentétesek az uniós értékekkel, ugyanakkor a javaslat a távoli biometrikus azonosító rendszerek bizonyos bűnüldözési célú felhasználásai tekintetében konkrét korlátozásokat és biztosítékokat javasol. A javaslat megbízható kockázati módszertant határoz meg az olyan „nagy kockázatú” MI-rendszerek meghatározására, amelyek jelentős kockázatot jelentenek az emberek egészségére és biztonságára vagy alapvető jogaira nézve. Ezeknek az MI-rendszereknek meg kell felelniük a megbízható mesterséges intelligenciára vonatkozó kötelező horizontális követelményeknek, és megfelelőségértékelési eljárások tárgyát kell képezniük, mielőtt forgalomba hoznák őket az uniós piacon. Kiszámítható, arányos és egyértelmű kötelezettségeket rónak az ilyen rendszerek szolgáltatóira és felhasználóira annak érdekében, hogy az MI-rendszerek teljes életciklusa során biztosítsák a biztonságot és az alapvető jogok védelmét biztosító meglévő jogszabályok tiszteletben tartását. A javaslat egyes MI-rendszerek esetében csak minimális átláthatósági kötelezettségeket javasol, különösen a csevegőrobotok vagy deepfake-ek használata esetében.

A javasolt szabályok érvényesítésére egyrészt a már meglévő struktúrákra épülő tagállami szintű irányítási rendszer, másrészt a Mesterséges Intelligenciával Foglalkozó Európai Testület létrehozásával megvalósuló uniós szintű együttműködési mechanizmus révén fog sor kerülni. A javaslat további intézkedéseket is javasol az innováció támogatására, különösen a mesterséges intelligenciával kapcsolatos szabályozási tesztkörnyezetek, továbbá a szabályozási terhek csökkentésére, valamint a kis- és középvállalkozások (a továbbiakban: kkv-k) és az induló innovatív vállalkozások támogatására irányuló egyéb intézkedések révén.

1.2.Összhang a szabályozási terület jelenlegi rendelkezéseivel

A javaslat horizontális jellege miatt teljes összhangra van szükség az olyan ágazatokra alkalmazandó hatályos uniós jogszabályokkal, amelyekben már alkalmaznak vagy a közeljövőben valószínűleg alkalmazni fognak nagy kockázatú MI-rendszereket.

Biztosított továbbá az összhang az Európai Unió Alapjogi Chartájával, illetve az adatvédelemre, a fogyasztóvédelemre, a megkülönböztetésmentességre és a nemek közötti egyenlőségre vonatkozóan meglévő másodlagos uniós jogszabályokkal. A javaslat nem sérti és kiegészíti az általános adatvédelmi rendeletet ((EU) 2016/679 rendelet) és a bűnüldözésben érvényesítendő adatvédelemről szóló irányelvet ((EU) 2016/680 irányelv) egyes nagy kockázatú MI-rendszerek tervezésére, fejlesztésére és használatára vonatkozó harmonizált szabályokkal, valamint a távoli biometrikus azonosító rendszerek bizonyos felhasználási módjaira vonatkozó korlátozásokkal. A javaslat kiegészíti továbbá a megkülönböztetésmentességre vonatkozó hatályos uniós jogot olyan konkrét követelményekkel, amelyek célja az algoritmikus megkülönböztetés kockázatának minimalizálása, különösen az MI-rendszerek fejlesztéséhez használt adatkészletek kialakítása és minősége tekintetében, kiegészítve a tesztelésre, a kockázatkezelésre, a dokumentációra és az emberi felügyeletre vonatkozó kötelezettségekkel az MI-rendszerek teljes életciklusa során. A javaslat nem érinti az uniós versenyjog alkalmazását.

Az olyan nagy kockázatú MI-rendszerek vonatkozásában, amelyek termékek biztonsági alkatrészeit képezik, ez a javaslat a következetesség biztosítása, a duplikáció elkerülése és a további terhek minimalizálása érdekében be fog épülni a meglévő ágazati biztonsági jogszabályokba. Mindenekelőtt az új jogszabályi keret hatálya alá tartozó termékekkel (például gépekkel, orvostechnikai eszközökkel, játékokkal) kapcsolatos nagy kockázatú MI-rendszerek vonatkozásában sor fog kerülni az ebben a javaslatban az MI-rendszerekre vonatkozóan meghatározott követelmények ellenőrzésére az új jogszabályi keret értelmében vett meglévő megfelelőségértékelési eljárások részeként. A követelmények kapcsolatát illetően, az MI-rendszerekre jellemző biztonsági kockázatoknak az ebben a javaslatban szereplő követelmények hatálya alá kell tartozniuk, az új jogszabályi keret célja viszont a végtermékek általános biztonságának biztosítása, ezért konkrét követelményeket tartalmazhat az MI-rendszerek végtermékekbe történő biztonságos integrálására vonatkozóan. A gépekről szóló rendeletre irányuló javaslat, amelynek elfogadására e javaslattal egy napon kerül sor, teljes mértékben tükrözi ezt a megközelítést. A régi megközelítés szerinti vonatkozó jogszabályok hatálya alá tartozó termékekkel (például légi közlekedés, autók) kapcsolatos nagy kockázatú MI-rendszerek tekintetében ez a javaslat nem lenne közvetlenül alkalmazandó. Az ebben a javaslatban meghatározott, a nagy kockázatú MI-rendszerekre vonatkozó előzetes alapvető követelményeket azonban figyelembe kell venni az említett jogi aktusok szerinti releváns végrehajtási vagy felhatalmazáson alapuló jogi aktusok elfogadásakor.

Ami a szabályozott hitelintézetek által biztosított vagy használt MI-rendszereket illeti, a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok felügyeletéért felelős hatóságokat kell kijelölni az e javaslatban foglalt követelmények felügyeletére illetékes hatóságként az e javaslatban foglalt kötelezettségek és a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok következetes végrehajtásának biztosítása érdekében, amennyiben az MI-rendszereket a hitelintézetek belső irányítási rendszerével kapcsolatban bizonyos mértékben implicit módon szabályozzák. A következetesség további fokozása érdekében a megfelelőségértékelési eljárás és a szolgáltatók e javaslat szerinti egyes eljárási kötelezettségei beépülnek a hitelintézetek tevékenységéről és a prudenciális felügyeletről szóló 2013/36/EU irányelv 14 szerinti eljárásokba.

Ez a javaslat összhangban van továbbá a szolgáltatásokra – beleértve az elektronikus kereskedelemről szóló 2000/31/EK irányelv 15 és a digitális szolgáltatásokról szóló jogszabályra vonatkozó közelmúltbeli bizottsági javaslat 16 által szabályozott közvetítői szolgáltatásokat – vonatkozó hatályos uniós jogszabályokkal.

Az olyan MI-rendszerek tekintetében, amelyek a szabadságon, a biztonságon és a jog érvényesülésén alapuló térségben a nagy méretű IT-rendszerek üzemeltetési igazgatását végző európai uniós ügynökség (eu-LISA) által igazgatott nagy méretű IT-rendszerek alkotóelemei, a javaslat nem alkalmazandó azokra az MI-rendszerekre, amelyeket e rendelet alkalmazásának kezdőnapjától számított egy éven belül hoztak forgalomba vagy helyeztek üzembe, kivéve, ha e jogi aktusok cseréje vagy módosítása jelentősen módosítja az érintett MI-rendszer vagy MI-rendszerek tervezését vagy rendeltetését.

1.3.Összhang az Unió egyéb szakpolitikáival

A javaslat egy szélesebb körű, átfogó intézkedéscsomag része, amely a mesterséges intelligenciáról szóló fehér könyvben vizsgáltak szerint kezeli a mesterséges intelligencia fejlesztése és használata által okozott problémákat. Biztosított tehát az összhang és a kiegészítő jelleg egyrészt a Bizottság egyéb folyamatban lévő vagy tervezett kezdeményezéseivel, amelyek szintén e problémák kezelésére irányulnak, beleértve a termékekre vonatkozó ágazati jogszabályok (például a gépekről szóló irányelv és az általános termékbiztonsági irányelv) felülvizsgálatát, másrészt az új technológiákhoz, többek között az MI-rendszerekhez kapcsolódó felelősségi kérdésekkel foglalkozó kezdeményezésekkel. Ezek a kezdeményezések ezen a javaslaton fognak alapulni, és kiegészítik azt annak érdekében, hogy jogi egyértelműséget teremtsenek, és előmozdítsák a mesterséges intelligenciába vetett bizalom európai ökoszisztémájának kialakulását.

A javaslat összhangban áll a Bizottság általános digitális stratégiájával is, mivel hozzájárul az embereket szolgáló technológia előmozdításához, amely az „Európa digitális jövőjének megtervezése” című közleményben 17 megfogalmazott szakpolitikai iránymutatás és célkitűzések három fő pillérjének egyike. Koherens, hatékony és arányos keretet hoz létre annak biztosítására, hogy a mesterséges intelligencia olyan módon fejlődjön, amely tiszteletben tartja az emberek jogait, elnyeri a bizalmukat, alkalmassá téve Európát a digitális korra, és a következő tíz évet digitális évtizeddé 18 teszi.

Emellett a mesterséges intelligencián alapuló innováció előmozdítása szorosan kapcsolódik az adatkormányzási rendelethez 19 , a nyílt hozzáférésű adatokról szóló irányelvhez 20 és az uniós adatstratégia 21 egyéb kezdeményezéseihez, amelyek megbízható mechanizmusokat és szolgáltatásokat fognak létrehozni a kiváló minőségű, adatvezérelt MI-modellek fejlesztéséhez szükséges adatok újrafelhasználása, megosztása és összevonása érdekében.

A javaslat emellett jelentősen megerősíti az Unió szerepét a globális normák és szabványok kialakításában, valamint az uniós értékekkel és érdekekkel összhangban lévő megbízható mesterséges intelligencia előmozdításában. Erőteljes alapot biztosít az Unió számára ahhoz, hogy szorosabban együttműködjön külső partnereivel, többek között harmadik országokkal, illetve nagyobb mértékben vegyen részt nemzetközi fórumokon a mesterséges intelligenciával kapcsolatos kérdésekben.

2.JOGALAP, SZUBSZIDIARITÁS ÉS ARÁNYOSSÁG

2.1.Jogalap

A javaslat jogalapja elsősorban az Európai Unió működéséről szóló szerződés (EUMSZ) 114. cikke, amely rendelkezik a belső piac létrehozását és működését biztosító intézkedések elfogadásáról.

Ez a javaslat az EU digitális egységes piaci stratégiájának központi eleme. E javaslat elsődleges célja a belső piac megfelelő működésének biztosítása, különösen az MI-technológiákat felhasználó vagy az önálló MI-rendszerként nyújtott termékek és szolgáltatások fejlesztésére, uniós forgalomba hozatalára és használatára vonatkozó harmonizált szabályok megállapításával. Néhány tagállam már nemzeti szabályokat mérlegel annak biztosítására, hogy a mesterséges intelligencia biztonságos legyen, és az alapvető jogokra vonatkozó kötelezettségekkel összhangban kerüljön sor a fejlesztésére és használatára. Ez valószínűleg az alábbi két fő problémához fog vezetni: i. a belső piac széttöredezettsége alapvető elemek tekintetében, különösen az MI-termékekre és -szolgáltatásokra vonatkozó követelmények, a forgalmazásuk, használatuk, a hatóságok felelőssége és a hatóságok általi felügyelet vonatkozásában, valamint ii. az MI-rendszerek szolgáltatói és felhasználói számára a jogbiztonság jelentős csökkenése azzal kapcsolatban, hogyan alkalmazandók a meglévő és új szabályok ezekre a rendszerekre az Unióban. Tekintettel a termékek és szolgáltatások határokon átnyúló széles körére, ez a két probléma uniós harmonizációs jogszabályok révén oldható meg a legjobban.

A javaslat olyan közös kötelező követelményeket határoz meg egyes MI-rendszerek forgalomba hozatal előtti tervezésére és fejlesztésére vonatkozóan, amelyek harmonizált műszaki szabványok révén működőképesebbek lesznek. A javaslat az MI-rendszerek forgalomba hozatala utáni helyzetet is kezeli, mivel harmonizálja az utólagos ellenőrzések elvégzésének módját.

Figyelembe véve továbbá, hogy ez a javaslat a személyes adatok kezelése vonatkozásában az egyének védelmére vonatkozóan bizonyos konkrét szabályokat tartalmaz, nevezetesen korlátozza az MI-rendszerek használatát a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból történő „valós idejű” távoli biometrikus azonosítás terén, helyénvaló e rendeletet – az említett különös szabályokat illetően – az EUMSZ 16. cikkére alapozni.

2.2.Szubszidiaritás (nem kizárólagos hatáskör esetén)

A mesterséges intelligencia gyakran nagy és változatos adatkészletekre támaszkodik, és beépülhet bármely, a belső piacon szabadon forgalmazott termékbe vagy szolgáltatásba, így e javaslat célkitűzéseit a tagállamok nem tudják egyedül hatékonyan megvalósítani. Emellett a potenciálisan eltérő nemzeti szabályok kialakulóban lévő mozaikja akadályozza az MI-rendszerekhez kapcsolódó termékek és szolgáltatások zökkenőmentes áramlását az EU-ban, és nem fogja tudni hatékonyan biztosítani az alapvető jogok és az uniós értékek biztonságát és védelmét a különböző tagállamokban. A problémák kezelésére irányuló nemzeti megközelítések csak további jogbizonytalansághoz és akadályokhoz vezetnek, és lassítani fogják a mesterséges intelligencia piaci elterjedését.

E javaslat célkitűzései uniós szinten jobban megvalósíthatók annak érdekében, hogy elkerülhető legyen az egységes piac további, potenciálisan egymásnak ellentmondó nemzeti keretekre való felaprózódása, amely megakadályozná a mesterséges intelligencián alapuló áruk és szolgáltatások szabad mozgását. A megbízható mesterséges intelligenciára vonatkozó szilárd európai szabályozási keret emellett egyenlő versenyfeltételeket fog teremteni, és biztosítani fogja minden ember védelmét, miközben megerősíti Európa versenyképességét és ipari bázisát a mesterséges intelligencia terén. Csak az uniós szintű közös fellépés képes megvédeni az Unió digitális szuverenitását is, illetve kihasználni a globális szabályok és szabványok alakítása érdekében az uniós eszközöket és szabályozási hatásköröket.

2.3.Arányosság

A javaslat meglévő jogi keretekre épül, és arányos és szükséges a célkitűzései eléréséhez, mivel kockázatalapú megközelítést követ, és csak akkor jelent szabályozási terhet, ha az MI-rendszerek valószínűleg nagy kockázatot jelentenek az alapvető jogok vagy a biztonság szempontjából. Más, nem nagy kockázatú MI-rendszerek esetében csak nagyon korlátozott átláthatósági kötelezettségek vannak érvényben, például az MI-rendszerek emberekkel való érintkezés során történő használatának jelzésére szolgáló tájékoztatás tekintetében. A nagy kockázatú MI-rendszerek esetében a kiváló minőségű adatokra, a dokumentációra és nyomonkövethetőségre, átláthatóságra, emberi felügyeletre, pontosságra és megbízhatóságra vonatkozó követelmények szigorúan szükségesek a mesterséges intelligencia által jelentett, az alapvető jogokat és a biztonságot fenyegető olyan kockázatok csökkentéséhez, amelyekre más meglévő jogi keretek nem terjednek ki. A harmonizált szabványok, valamint a támogató iránymutatási és megfelelési eszközök segíteni fogják a szolgáltatókat és a felhasználókat a javaslatban meghatározott követelményeknek való megfelelésben, és minimálisra csökkentik a költségeiket. Az üzemeltetők részéről felmerülő költségek arányosak az elért célkitűzésekkel, valamint azokkal a gazdasági és hírnévvel kapcsolatos előnyökkel, amelyeket az üzemeltetők e javaslattól várhatnak.

2.4.A jogi eszköz típusának megválasztása

A rendelet mint jogi eszköz választását az indokolja, hogy az új szabályokat – például a mesterséges intelligencia fogalommeghatározását, a mesterséges intelligencián alapuló egyes káros gyakorlatok tilalmát és az egyes MI-rendszerek osztályozását – egységesen kell alkalmazni. A rendelet közvetlen alkalmazhatósága az EUMSZ 288. cikkével összhangban csökkenteni fogja a jogi széttagoltságot, és megkönnyíti a jogszerű, biztonságos és megbízható MI-rendszerek egységes piacának kialakulását. Ezt különösen azáltal éri el, hogy harmonizált alapvető követelményeket vezet be a nagy kockázatúnak minősített MI-rendszerek tekintetében, valamint kötelezettségeket ró e rendszerek szolgáltatóira és felhasználóira, javítja az alapvető jogok védelmét, és jogbiztonságot nyújt az üzemeltetők és a fogyasztók számára egyaránt.

Ugyanakkor a rendelet rendelkezései nem túlzottan előíró jellegűek, és teret hagynak a különböző szintű tagállami intézkedéseknek olyan elemek esetében, amelyek nem veszélyeztetik a kezdeményezés célkitűzéseit, különösen a piacfelügyeleti rendszer belső szervezését és az innovációt előmozdító intézkedések elfogadását.

3.AZ UTÓLAGOS ÉRTÉKELÉSEK, AZ ÉRDEKELT FELEKKEL FOLYTATOTT KONZULTÁCIÓK ÉS A HATÁSVIZSGÁLATOK EREDMÉNYEI

3.1.Az érdekelt felekkel folytatott konzultáció

Ez a javaslat az összes főbb érdekelt féllel folytatott széles körű konzultáció eredménye, amelynek során a Bizottság alkalmazta az érdekelt felekkel folytatott konzultációra vonatkozó általános elveket és minimumszabályokat.

A mesterséges intelligenciáról szóló fehér könyv közzétételével együtt 2020. február 19-én nyilvános online konzultáció indult, amely 2020. június 14-ig tartott. A konzultáció a fehér könyvvel kapcsolatos vélemények összegyűjtésére irányult. A konzultáció valamennyi érdekelt felet megcélozta a köz- és a magánszektorban, beleértve a kormányokat, helyi önkormányzatokat, kereskedelmi és nem kereskedelmi szervezeteket, szociális partnereket, szakértőket, tudományos szakembereket és polgárokat. A beérkezett válaszok elemzését követően a Bizottság az összefoglaló eredményt és az egyes válaszokat közzétette a honlapján 22 .

Összesen 1 215 hozzászólás érkezett, ebből 352 vállalattól vagy vállalkozói szervezettől/szövetségtől, 406 magánszemélytől (e magánszemélyek 92 %-a az EU-ból származik), 152 tudományos/kutatóintézettől, 73 pedig hatóságoktól. A civil társadalom véleményét 160 válaszadó képviselte (köztük 9 fogyasztói szervezet, 129 nem kormányzati szervezet és 22 szakszervezet), 72 válaszadó pedig „egyébként” működött közre. A vállalkozások és az ipar 352 képviselőjéből 222 vállalat és üzleti képviselő volt, 41,5 %-uk pedig mikro-, kis- és középvállalkozás. A fennmaradó rész vállalkozói szövetség volt. Összességében véve az üzleti és ágazati válaszok 84 %-a az EU-27-ből érkezett. A kérdéstől függően a válaszadók közül 81–598 válaszadó élt a szabad szöveg lehetőségével, hogy észrevételeket tegyen. Több mint 450 állásfoglalás benyújtására került sor az uniós felmérés honlapján a kérdőívre adott válaszok mellett (több mint 400 állásfoglalás) vagy önálló hozzászólás (több mint 50 állásfoglalás) formájában.

Általánosságban elmondható, hogy az érdekelt felek között általános egyetértés uralkodik a fellépés szükségességével kapcsolatban. Az érdekelt felek nagy többsége egyetért azzal, hogy joghézagok állnak fenn vagy új jogszabályokra van szükség. Több érdekelt fél azonban figyelmeztette a Bizottságot, hogy kerülje az átfedéseket, az egymásnak ellentmondó kötelezettségeket és a túlszabályozást. Számos észrevétel hangsúlyozta a technológiasemleges és arányos szabályozási keret fontosságát.

Az érdekelt felek többsége a mesterséges intelligencia szűk, egyértelmű és pontos meghatározását kérte. Az érdekelt felek azt is kiemelték, hogy a mesterséges intelligencia fogalmának tisztázása mellett fontos a „kockázat”, a „nagy kockázatú”, az „alacsony kockázatú”, a „távoli biometrikus azonosítás” és a „kár” meghatározása is.

A válaszadók többsége kifejezetten támogatja a kockázatalapú megközelítést. A válaszadók a kockázatalapú keret alkalmazását jobb megoldásnak tekintették, mint a valamennyi MI-rendszert érintő általános szabályozást. A kockázatok és fenyegetések típusainak ágazati és eseti alapú megközelítésen kell alapulniuk. A kockázatokat a jogokra és a biztonságra gyakorolt hatás figyelembevételével kell kiszámítani.

A szabályozási tesztkörnyezetek nagyon hasznosak lehetnek a mesterséges intelligencia előmozdítása szempontjából, és bizonyos érdekelt felek, különösen a vállalkozói szövetségek üdvözlik őket.

A végrehajtási modellekkel kapcsolatos véleményüket megfogalmazó válaszadók több mint 50 %-a – különösen a vállalkozói szövetségek részéről – támogatta az előzetes kockázati önértékelés és az utólagos végrehajtás együttes alkalmazását a nagy kockázatú MI-rendszerek esetében.

3.2.Szakértői vélemények összegyűjtése és felhasználása

A javaslat két év elemzésén és az érdekelt felek – köztük tudományos szakemberek, vállalkozások, szociális partnerek, nem kormányzati szervezetek, tagállamok és polgárok – szoros bevonásán alapul. Az előkészítő munka 2018-ban kezdődött egy olyan, mesterséges intelligenciával foglalkozó magas szintű szakértői csoport felállításával, amely inkluzív és széles körű összetétellel rendelkezik, és 52 jól ismert szakértőjének az volt a feladata, hogy tanáccsal lássa el a Bizottságot a mesterséges intelligenciára vonatkozó bizottsági stratégia végrehajtásával kapcsolatban. 2019 áprilisában a Bizottság támogatta 23 a magas szintű szakértői csoport megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásában 24 meghatározott kulcsfontosságú követelményeket, amelyeket felülvizsgáltak az érdekelt felek több mint 500 beadványának figyelembevétele érdekében. A kulcsfontosságú követelmények azt a széles körű és közös megközelítést tükrözik – ahogy azt a számos európai és Európán kívüli magán- és állami szervezet által kidolgozott nagy számú etikai kódex és alapelv bizonyítja –, hogy a mesterséges intelligencia fejlesztését és használatát bizonyos alapvető értékközpontú elveknek kell vezérelniük. A megbízható mesterséges intelligencia értékelési listája (ALTAI) 25 alkalmazni kezdte ezeket a követelményeket egy több mint 350 szervezet részévételével zajló kísérleti folyamatban.

Emellett a mesterséges intelligencia technológiai és társadalmi következményeinek megvitatása céljából mintegy 4000 érdekelt fél fórumaként létrejött a mesterséges intelligenciával foglalkozó szövetség 26 , amely éves közgyűlést tart.

3.3.Hatásvizsgálat

A Bizottság a jogalkotás minőségének javítására irányuló politikájával összhangban elvégezte a javaslat hatásvizsgálatát, amelyet a Bizottság Szabályozói Ellenőrzési Testülete megvizsgált. A Szabályozói Ellenőrzési Testülettel való, 2020. december 16-i találkozó elutasító véleménnyel zárult. A hatásvizsgálatnak az észrevételek figyelembevétele érdekében történő alapos felülvizsgálatát és a hatásvizsgálat újbóli benyújtását követően a Szabályozói Ellenőrzési Testület 2021. március 21-én kedvező véleményt adott. A Szabályozói Ellenőrzési Testület véleményeit, az ajánlásokat és azok figyelembevételének ismertetését a hatásvizsgálat 1. melléklete tartalmazza.

A Bizottság különböző szakpolitikai alternatívákat vizsgált meg a javaslat általános célkitűzésének elérése, vagyis annak tekintetében, hogy a megbízható mesterséges intelligencia Unión belüli fejlesztéséhez és használatához szükséges feltételek megteremtése révén biztosítsa az egységes piac megfelelő működését.

Négy, különböző szintű szabályozási beavatkozással járó szakpolitikai alternatíva vizsgálatára került sor:

·1. alternatíva: önkéntes címkézési rendszert létrehozó uniós jogalkotási eszköz;

·2. alternatíva: ágazati, „ad hoc” megközelítés;

·3. alternatíva: arányos és kockázatalapú megközelítést követő horizontális uniós jogalkotási eszköz;

·3+. alternatíva: arányos és kockázatalapú megközelítést követő horizontális uniós jogalkotási eszköz + a nem nagy kockázatú MI-rendszerekre vonatkozó magatartási kódexek;

·4. alternatíva: horizontális uniós jogalkotási eszköz, amely kötelező követelményeket állapít meg valamennyi MI-rendszer vonatkozásában, függetlenül az általuk jelentett kockázattól.

A Bizottság bevált módszertanának megfelelően minden egyes szakpolitikai alternatíva értékelésére a gazdasági és társadalmi hatások alapján került sor, különös tekintettel az alapvető jogokra gyakorolt hatásokra. Az előnyben részesített alternatíva a 3+. alternatíva – a kizárólag a nagy kockázatú MI-rendszerekre vonatkozó szabályozási keret – , amely lehetővé teszi a nem nagy kockázatú MI-rendszerek valamennyi szolgáltatója számára, hogy magatartási kódexet kövessen. A követelmények az adatokra, a dokumentációra és nyomonkövethetőségre, az információszolgáltatásra és átláthatóságra, az emberi felügyeletre, valamint a megbízhatóságra és pontosságra vonatkoznak, és a nagy kockázatú MI-rendszerek esetében kötelezőek lesznek. Azok a vállalatok, amelyek más MI-rendszerekre vonatkozóan magatartási kódexeket vezetnének be, ezt önkéntes alapon tennék.

Az előnyben részesített alternatíva megfelelőnek minősült a javaslat célkitűzéseinek leghatékonyabb kezelésére. Az előnyben részesített alternatíva korlátozott, de hatékony intézkedéseket ír elő a mesterséges intelligencia fejlesztői és felhasználói számára, ezáltal korlátozza az alapvető jogok megsértésének kockázatát és az emberek biztonságát fenyegető kockázatokat, és előmozdítja a hatékony felügyeletet és végrehajtást azáltal, hogy a követelmények csak azokra a rendszerekre vonatkoznak, amelyek esetében nagy a kockázata az ilyen jogsértések előfordulásának. Ennek eredményeképpen ez az alternatíva minimalizálja a megfelelési költségeket, elkerülve ezáltal azt, hogy a magasabb árak és a megfelelési költségek szükségtelenül lelassítsák a felhasználást. A kkv-kat érintő esetleges hátrányok kezelése érdekében ez az alternatíva számos rendelkezést tartalmaz a megfelelésük támogatása és költségeik csökkentése érdekében, ideértve a szabályozási tesztkörnyezetek létrehozását, illetve a megfelelőségértékeléssel kapcsolatos díjak megállapításakor a kkv-k érdekeinek figyelembevételére vonatkozó kötelezettséget.

Az előnyben részesített alternatíva növelni fogja az emberek mesterséges intelligenciába vetett bizalmát, a vállalkozások számára nő a jogbiztonság, és a tagállamok nem látnak okot olyan egyoldalú fellépésre, amely az egységes piac széttöredezettségéhez vezethetne. A nagyobb bizalomnak köszönhető nagyobb kereslet, a jogbiztonság miatt rendelkezésre álló több ajánlat, valamint az MI-rendszerek határokon átnyúló mozgása előtt álló akadályok hiánya hatására valószínűleg virágozni fog a mesterséges intelligencia egységes piaca. Az Európai Unió folytatni fogja a mesterséges intelligencián alapuló technológiákat vagy az önálló MI-rendszereket magában foglaló innovatív szolgáltatásokból és termékekből álló, gyorsan növekvő MI-ökoszisztéma kifejlesztését, ami növeli a digitális önállóságot.

Azoknak a vállalkozásoknak vagy hatóságoknak, amelyek olyan MI-alkalmazásokat fejlesztenek ki vagy használnak, amelyek nagy kockázatot jelentenek a polgárok biztonságára vagy alapvető jogaira nézve, konkrét követelményeknek és kötelezettségeknek kellene megfelelniük. Az e követelményeknek való megfelelés 2025-ig körülbelül 6000–7000 EUR költséget jelentene egy átlagos nagy kockázatú, mintegy 170 000 EUR értékű MI-rendszer vonatkozásában. A mesterséges intelligencia felhasználói számára – adott esetben – a felhasználási esettől függően felmerülne az emberi felügyelet biztosítására fordított idő éves költsége is. Ennek éves becsült költsége körülbelül 5000–8000 EUR. A nagy kockázatú mesterséges intelligencia beszállítói esetében az ellenőrzési költségek további 3000–7500 EUR nagyságú összeget jelenthetnek. A nem nagy kockázatúnak minősülő MI-alkalmazásokat kifejlesztő vagy használó vállalkozásokra vagy hatóságokra csak minimális tájékoztatási kötelezettségek vonatkoznának. A megfelelő követelmények alkalmazása és az MI-rendszereik megbízhatóságának biztosítása érdekében azonban dönthetnek úgy, hogy csatlakoznak másokhoz, és közösen magatartási kódexet fogadnak el. Ilyen esetben a költségek legfeljebb olyan magasak lennének, mint a nagy kockázatú MI-rendszerek esetében, de minden valószínűség szerint alacsonyabbak lennének.

A szakpolitikai alternatívák által az érdekelt felek különböző kategóriáira (gazdasági szereplők/vállalkozások, megfelelőségértékelő szervezetek, szabványügyi testületek és egyéb közjogi szervek, egyének/polgárok, kutatók) gyakorolt hatásokat az e javaslatot támogató hatásvizsgálat 3. melléklete ismerteti részletesen.

3.4.Célravezető szabályozás és egyszerűsítés

Ez a javaslat olyan kötelezettséget állapít meg, amely a nagy kockázatú MI-rendszerek szolgáltatóira és felhasználóira vonatkozik. Az ilyen rendszereket kifejlesztő és az uniós piacon forgalomba hozó szolgáltatók számára ez jogbiztonságot teremt, és biztosítja, hogy a mesterséges intelligenciához kapcsolódó szolgáltatások és termékek határokon átnyúló nyújtása ne ütközzön akadályokba. A mesterséges intelligenciát használó vállalatok számára növelni fogja az ügyfeleik közötti bizalmat. A nemzeti közigazgatások számára növelni fogja a mesterséges intelligencia használatába vetett közbizalmat, és erősíteni fogja a végrehajtási mechanizmusokat (európai koordinációs mechanizmus bevezetésével, megfelelő kapacitások biztosításával, valamint az MI-rendszerek ellenőrzésének elősegítésével a dokumentációra, a nyomonkövethetőségre és az átláthatóságra vonatkozó új követelmények mellett). A keret emellett innovációt támogató konkrét intézkedéseket irányoz elő, ideértve a szabályozási tesztkörnyezeteket, illetve a nagy kockázatú MI-rendszerek kis méretű felhasználóit és szolgáltatóit az új szabályoknak való megfelelésben támogató egyedi intézkedéseket.

A javaslat továbbá kifejezetten törekszik arra, hogy megerősítse Európa versenyképességét és ipari bázisát a mesterséges intelligencia terén. Biztosított a teljes összhang az MI-rendszerekre alkalmazandó meglévő uniós ágazati jogszabályokkal (például a termékekre és szolgáltatásokra vonatkozóan), ami még egyértelműbbé teszi a helyzetet, és egyszerűsíti az új szabályok végrehajtását.

3.5.Alapvető jogok

A sajátos jellemzőkkel (például átláthatatlanság, összetettség, adatoktól való függés, autonóm magatartás) rendelkező mesterséges intelligencia használata hátrányosan érinthet számos, az Európai Unió Alapjogi Chartájában (a továbbiakban: Charta) rögzített alapvető jogot. Ez a javaslat biztosítani kívánja ezen alapvető jogok magas szintű védelmét, és egyértelműen meghatározott kockázatalapú megközelítéssel kezelni kívánja a kockázatok különböző forrásait. A megbízható mesterséges intelligenciára vonatkozó követelményekkel és az értéklánc valamennyi résztvevőjére vonatkozó arányos kötelezettségekkel a javaslat megerősíti és előmozdítja a Charta által védett jogok védelmét: az emberi méltósághoz való jogot (1. cikk), a magánélet tiszteletben tartását és a személyes adatok védelmét (7. és 8. cikk), a megkülönböztetésmentességet (21. cikk), valamint a nők és férfiak közötti egyenlőséget (23. cikk). Célja a véleménynyilvánítás szabadságához (11. cikk) és a gyülekezés szabadságához (12. cikk) való jog biztosítása, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog, a védelemhez való jog és az ártatlanság vélelme védelmének biztosítása (47. és 48. cikk), valamint a megfelelő ügyintézés általános elve. Továbbá, amint egyes területeken alkalmazandó, a javaslat pozitívan fogja befolyásolni számos különleges csoport jogait, például a munkavállalók tisztességes és igazságos munkafeltételekhez való jogát (31. cikk), a magas szintű fogyasztóvédelmet (28. cikk), a gyermekek jogait (24. cikk) és a fogyatékossággal élő személyek integrációját (26. cikk). A magas szintű környezetvédelemhez és a környezet minőségének javításához való jog (37. cikk) szintén releváns, többek között az emberek egészsége és biztonsága tekintetében. Az előzetes tesztelésre, a kockázatkezelésre és az emberi felügyeletre vonatkozó kötelezettségek is elő fogják segíteni egyéb alapvető jogok tiszteletben tartását azáltal, hogy minimálisra csökkentik a mesterséges intelligencián alapuló téves vagy elfogult döntések kockázatát olyan kritikus területeken, mint az oktatás és képzés, foglalkoztatás, fontos szolgáltatások, bűnüldözés és igazságszolgáltatás. Abban az esetben, ha továbbra is sor kerül az alapvető jogok megsértésére, az MI-rendszerek átláthatóságának és nyomon követhetőségének biztosítása, valamint a szigorú utólagos ellenőrzés lehetővé teszi a hatékony jogorvoslatot az érintett személyek számára.

Ez a javaslat bizonyos korlátozásokat vezet be a vállalkozás szabadságára (16. cikk), valamint a művészet és a tudomány szabadságára (13. cikk) vonatkozóan annak biztosítása érdekében, hogy a nagy kockázatú MI-technológiák kifejlesztése és használata során érvényesüljenek a közérdeken alapuló kényszerítő indokok, például az egészség, a biztonság, a fogyasztóvédelem és az egyéb alapvető jogok védelme („felelős innováció”). Ezek a korlátozások arányosak, és a súlyos biztonsági kockázatok és az alapvető jogok valószínű megsértésének megelőzéséhez és enyhítéséhez szükséges minimumra korlátozódnak.

4.KÖLTSÉGVETÉSI VONZATOK

A tagállamoknak ki kell jelölniük a jogszabályi követelmények végrehajtásáért felelős felügyeleti hatóságokat. Felügyeleti funkciójuk a meglévő megállapodásokon alapulhatna, például a megfelelőségértékelő szervezetek vagy a piacfelügyelet vonatkozásában, de megfelelő technológiai szakértelmet, valamint emberi és pénzügyi erőforrást igényelne. Az egyes tagállamokban már meglévő struktúráktól függően ez tagállamonként 1–25 teljes munkaidős egyenértéket jelenthet.

5.EGYÉB ELEMEK

5.1.Végrehajtási tervek, valamint a nyomon követés, az értékelés és a jelentéstétel szabályai

A megbízható nyomonkövetési és értékelési mechanizmus elengedhetetlen annak biztosításához, hogy a javaslat hatékonyan elérje konkrét célkitűzéseit. A javaslat hatásainak nyomon követése a Bizottság feladata. A Bizottság olyan rendszert fog létrehozni, amelynek keretében az önálló, nagy kockázatú MI-alkalmazások bekerülnek egy nyilvános uniós adatbázisban. A nyilvántartásba vétel lehetővé teszi továbbá az illetékes hatóságok, a felhasználók és más érdekelt személyek számára egyrészt annak ellenőrzését, hogy a nagy kockázatú MI-rendszerek megfelelnek-e a javaslatban meghatározott követelményeknek, másrészt azt, hogy fokozott felügyeletet gyakorolhassanak az alapvető jogokra nagy kockázatot jelentő MI-rendszerek felett. Az adatbázis feltöltése érdekében az MI-szolgáltatók kötelesek lesznek érdemi információkat szolgáltatni rendszereikről és az e rendszerekkel kapcsolatban végzett megfelelőségértékelésről.

Ezen túlmenően az MI-szolgáltatók kötelesek lesznek tájékoztatni az illetékes nemzeti hatóságokat az alapvető jogokkal kapcsolatos kötelezettségek megsértésének minősülő súlyos incidensekről vagy hibás működésről – amint tudomást szereznek azokról –, valamint az MI-rendszerek visszahívásáról vagy piacról történő kivonásáról. Az illetékes nemzeti hatóságok ezt követően kivizsgálják a váratlan eseményeket vagy a hibás működést, majd összegyűjtik és a megfelelő metaadatokkal együtt rendszeresen továbbítják a Bizottságnak az összes szükséges információt. A Bizottság ezeket a váratlan eseményekre vonatkozó információkat kiegészíti a mesterséges intelligencia teljes piacának átfogó elemzésével.

A Bizottság öt évvel a keret hatálybalépésének kezdő időpontját követően jelentést tesz közzé, amelyben értékeli és felülvizsgálja a mesterséges intelligenciára vonatkozóan javasolt keretet.

5.2.A javaslat egyes rendelkezéseinek részletes magyarázata

5.2.1.HATÁLY ÉS FOGALOMMEGHATÁROZÁSOK (I. CÍM)

Az I. cím meghatározza a rendelet tárgyát és az MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára vonatkozó új szabályok hatályát. Megadja továbbá az eszköz egészében használt fogalommeghatározásokat. A jogi keretben az MI-rendszer fogalommeghatározása a lehető legnagyobb mértékben technológiasemleges és időtálló kíván lenni, figyelembe véve a mesterséges intelligenciával kapcsolatban gyorsan bekövetkező technológiai és piaci fejleményeket. A szükséges jogbiztonság biztosítása érdekében az I. címet kiegészíti az I. melléklet, amely tartalmazza a mesterséges intelligencia fejlesztésére vonatkozó megközelítések és technikák részletes listáját, amelyet a Bizottságnak az új technológiai fejleményekhez kell igazítania. Az egyenlő versenyfeltételek biztosítása érdekében a mesterséges intelligenciával kapcsolatos értéklánc kulcsfontosságú résztvevői is egyértelműen meghatározásra kerülnek, például az MI-rendszerek szolgáltatói és felhasználói, beleértve mind az állami, mind a magánszereplőket.

5.2.2.TILTOTT MI-GYAKORLATOK (II. CÍM)

A II. cím összeállítja a tiltott mesterséges intelligencia jegyzékét. A rendelet kockázatalapú megközelítést alkalmaz, különbséget téve a mesterséges intelligencia azon felhasználásai között, amelyek i. elfogadhatatlan kockázattal, ii. nagy kockázattal, illetve iii. alacsony vagy minimális kockázattal járnak. A tiltott gyakorlatok II. címben szereplő jegyzéke magában foglalja mindazokat az MI-rendszereket, amelyek használata elfogadhatatlannak minősül, mert ellentmond az uniós értékeknek, például az alapvető jogok megsértése miatt. A tilalmak azokra a gyakorlatokra vonatkoznak, amelyek képesek öntudatlanul, szubliminális technikák alkalmazásával nagymértékben manipulálni a személyeket, vagy kihasználni bizonyos veszélyeztetett csoportok, például a gyermekek vagy a fogyatékossággal élő személyek sebezhetőségét, hogy oly módon torzítsák magatartásukat, amely számukra vagy más személy számára valószínűsíthetően pszichológiai vagy fizikai károsodást okoz. A felnőtteket érintő egyéb olyan manipulatív vagy kizsákmányoló gyakorlatok, amelyeket az MI-rendszerek elősegíthetnek, az adatvédelemre, fogyasztóvédelemre és digitális szolgáltatásokra vonatkozó hatályos jogszabályok hatálya alá tartozhatnak, amelyek garantálják, hogy a természetes személyek megfelelő tájékoztatásban részesüljenek, és szabadon dönthessenek arról, hogy nem kívánnak profilalkotás vagy más olyan gyakorlat tárgya lenni, amely befolyásolhatja magatartásukat. A javaslat tiltja továbbá a hatóságok által végzett, mesterséges intelligencián alapuló, általános célú társadalmi pontozást. Végezetül, a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken történő, bűnüldözési célú használata szintén tilos, eltekintve bizonyos korlátozott kivételektől.

5.2.3.NAGY KOCKÁZATÚ MI-RENDSZEREK (III. CÍM)

A III. cím szabályokat tartalmaz az olyan MI-rendszerekre vonatkozóan, amelyek nagy kockázatot jelentenek a természetes személyek egészségére és biztonságára vagy alapvető jogaira nézve. A kockázatalapú megközelítéssel összhangban ezek a nagy kockázatú MI-rendszerek bizonyos kötelező követelményeknek való megfelelés és előzetes megfelelőségértékelés mellett hozhatók forgalomba az európai piacon. Az MI-rendszerek nagy kockázatúként való besorolása az MI-rendszer rendeltetésén alapul, összhangban a meglévő termékbiztonsági jogszabályokkal. Ezért a nagy kockázatúként való besorolás nemcsak az MI-rendszer által ellátott funkciótól függ, hanem attól is, hogy a rendszert milyen konkrét célra és módokon használják.

A III. cím 1. fejezete meghatározza az osztályozási szabályokat, és a nagy kockázatú MI-rendszerek két fő kategóriáját határozza meg:

·olyan MI-rendszerek, amelyeket harmadik fél által végzett előzetes megfelelőségértékelés hatálya alá tartozó termékek biztonsági alkatrészeként kívánnak használni;

·egyéb, főként alapjogi vonatkozású, önálló MI-rendszerek, amelyeket a III. melléklet kifejezetten felsorol.

A nagy kockázatú MI-rendszerek III. mellékletben található felsorolásában korlátozott számban olyan MI-rendszerek szerepelnek, amelyeknek kockázatai már jelentkeztek vagy a közeljövőben valószínűsíthetően jelentkeznek. Annak biztosítása érdekében, hogy a rendeletet hozzá lehessen igazítani a mesterséges intelligencia új felhasználási módjaihoz és alkalmazásaihoz, a Bizottság kritériumok és kockázatértékelési módszertan alkalmazásával kibővítheti az egyes előre meghatározott területeken használt nagy kockázatú MI-rendszerek listáját.

A 2. fejezet meghatározza a nagy kockázatú MI-rendszerekre vonatkozó jogszabályi követelményeket az adatok és adatkormányzás, dokumentálás és nyilvántartás, átláthatóság és felhasználói tájékoztatás, emberi felügyelet, megbízhatóság, pontosság és biztonság tekintetében. A javasolt minimumkövetelmények számos gondos üzemeltető számára már most is a legkorszerűbbek, és a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport etikai iránymutatásából 29 eredő kétéves előkészítő munka eredményeként születtek meg, majd több mint 350 szervezet tesztelte őket 30 . Nagymértékben összhangban vannak más nemzetközi ajánlásokkal és elvekkel is, ami biztosítja, hogy a mesterséges intelligenciára vonatkozóan javasolt keret összeegyeztethető legyen az EU nemzetközi kereskedelmi partnerei által elfogadott keretekkel. Az e követelményeknek való megfelelést biztosító pontos műszaki megoldások szabványok vagy egyéb műszaki előírások révén biztosíthatók, vagy az MI-rendszer szolgáltatójának belátása szerint az általános mérnöki vagy tudományos ismereteknek megfelelően más módon fejleszthetők ki. Ez a rugalmasság különösen fontos, mivel lehetővé teszi az MI-rendszerek szolgáltatói számára, hogy megválasszák a követelmények teljesítésének módját, figyelembe véve az e téren bekövetkező legújabb fejleményeket, illetve a technológiai és tudományos fejlődést.

A 3. fejezet egyértelmű horizontális kötelezettségeket ír elő a nagy kockázatú MI-rendszerek szolgáltatói számára. Emellett arányos kötelezettségeket ró a felhasználókra és más résztvevőkre a mesterséges intelligencia értékláncában (például az importőrökre, forgalmazókra, meghatalmazott képviselőkre).

A 4. fejezet meghatározza azt a keretet, amelynek alapján a bejelentett szervezeteket független harmadik félként be kell vonni a megfelelőségértékelési eljárásokba, az 5. fejezet pedig részletesen ismerteti a nagy kockázatú MI-rendszerek egyes típusai esetében követendő megfelelőségértékelési eljárásokat. A megfelelőségértékelési megközelítés célja, hogy minimálisra csökkentse a gazdasági szereplőkre és a bejelentett szervezetekre nehezedő terheket, és ezek kapacitásait idővel fokozatosan növelni kell. Az új jogszabályi keretben szabályozott termékek (például gépek, játékok, orvostechnikai eszközök stb.) biztonsági alkatrészeként szolgáló MI-rendszerekre ugyanazok az előzetes és utólagos megfelelési és végrehajtási mechanizmusok vonatkoznak, mint azokra a termékekre, amelyek részét képezik. A legfontosabb különbség az, hogy az előzetes és utólagos mechanizmusok nemcsak az ágazati jogszabályokban meghatározott követelményeknek, hanem az e rendeletben megállapított követelményeknek való megfelelést is biztosítják.

A III. mellékletben említett önálló, nagy kockázatú MI-rendszerek tekintetében új megfelelési és végrehajtási rendszer jön létre. Ez az új jogszabályi keret modelljét követi, amelyet a szolgáltatók belső ellenőrzési vizsgálatok révén hajtanak végre, kivéve a távoli biometrikus azonosító rendszereket, amelyek harmadik fél által végzett megfelelőségértékelés tárgyát képeznék. A belső ellenőrzéseken alapuló, átfogó és előzetes megfelelőségértékelés, valamint a szigorú utólagos végrehajtás hatékony és észszerű megoldást jelenthet e rendszerek esetében, tekintettel a szabályozási beavatkozás korai szakaszára, illetve arra, hogy az MI-ágazat rendkívül innovatív, és az ellenőrzéshez szükséges szakértelem még csak most halmozódik fel. Az „önálló”, nagy kockázatú MI-rendszerek belső ellenőrzések révén történő értékeléséhez a rendelet valamennyi követelményének való teljes körű, hatékony és megfelelően dokumentált előzetes megfelelésre, valamint megbízható minőségirányítási és kockázatkezelési rendszereknek való megfelelésre, továbbá forgalomba hozatal utáni nyomon követésre lenne szükség. Miután a szolgáltató elvégezte a vonatkozó megfelelőségértékelést, az önálló, nagy kockázatú MI-rendszereket nyilvántartásba kell vetetnie egy olyan uniós adatbázisban, amelyet a Bizottság kezel a nyilvános átláthatóság és felügyelet fokozása, valamint az illetékes hatóságok általi utólagos felügyelet megerősítése érdekében. Ezzel szemben a meglévő termékbiztonsági jogszabályokkal való összhang érdekében a termékek biztonsági alkatrészének minősülő MI-rendszerek megfelelőségértékelését a vonatkozó ágazati termékbiztonsági jogszabályok alapján már létrehozott, harmadik fél által végzett megfelelőségértékelési eljárásokkal összhangban kell elvégezni. Az MI-rendszerek jelentős módosítása esetében (és különösen olyan változások esetében, amelyek túlmutatnak a szolgáltató által a műszaki dokumentációban előre meghatározott és az előzetes megfelelőségértékelés időpontjában ellenőrzött módosításokon) szükség lesz a megfelelőség új előzetes újraértékelésére.

5.2.4.EGYES MI-RENDSZEREKRE VONATKOZÓ ÁTLÁTHATÓSÁGI KÖTELEZETTSÉGEK (IV. CÍM)

A IV. cím egyes MI-rendszerekre vonatkozik az általuk jelentett manipulációs kockázatok figyelembevétele érdekében. Az átláthatósági kötelezettségek olyan rendszerekre vonatkoznak, amelyek i. emberekkel érintkeznek, ii. az érzelmek észlelésére vagy a biometrikus adatokon alapuló (szociális) kategóriákkal való kapcsolat meghatározására szolgálnak, vagy iii. tartalmakat hoznak létre vagy manipulálnak („deepfake”). Ha a személyek MI-rendszerrel érintkeznek, vagy érzéseiket vagy jellemzőiket automatizált eszközökkel ismerik fel, az embereket tájékoztatni kell erről. Ha az MI-rendszert olyan képek, audio- vagy videotartalmak létrehozására vagy manipulálására használják, amelyek érzékelhetően hasonlítanak hiteles tartalmakra, kötelezővé kell tenni annak közlését, hogy a tartalom automatizált módon jött létre, eltekintve a jogszerű célokat szolgáló kivételektől (bűnüldözés, véleménynyilvánítás szabadsága). Ez lehetővé teszi a személyek számára, hogy megalapozott döntéseket hozzanak, vagy visszalépjenek adott helyzetből.

5.2.5.AZ INNOVÁCIÓT TÁMOGATÓ INTÉZKEDÉSEK (V. CÍM)

Az V. cím hozzájárul az innovációbarát, időtálló és a fennakadásokkal szemben ellenálló jogi keret létrehozására irányuló célkitűzéshez. Ennek érdekében arra ösztönzi az illetékes nemzeti hatóságokat, hogy szabályozási tesztkörnyezeteket hozzanak létre, és meghatározza az irányítás, a felügyelet és a felelősség alapvető keretét. A mesterséges intelligenciával kapcsolatos szabályozási tesztkörnyezetek az illetékes hatóságokkal egyeztetett tesztelési terv alapján korlátozott időre szóló, ellenőrzött környezetet hoznak létre az innovatív technológiák tesztelésére. Az V. cím emellett olyan intézkedéseket tartalmaz, amelyek a kkv-kra és az induló innovatív vállalkozásokra nehezedő szabályozási terhek csökkentésére irányulnak.

5.2.6.IRÁNYÍTÁS ÉS VÉGREHAJTÁS (VI., VII. ÉS VIII. CÍM)

A VI. cím uniós és nemzeti szintű irányítási rendszereket hoz létre. Uniós szinten a javaslat létrehozza a Mesterséges Intelligenciával Foglalkozó Európai Testületet (a továbbiakban: Testület), amely a tagállamok és a Bizottság képviselőiből áll. A Testület elősegíti e rendelet zökkenőmentes, hatékony és összehangolt végrehajtását azáltal, hogy hozzájárul a nemzeti felügyeleti hatóságok és a Bizottság közötti hatékony együttműködéshez, valamint tanácsadást és szakértelmet nyújt a Bizottságnak. Emellett összegyűjti és megosztja a tagállamok között a bevált gyakorlatokat.

Nemzeti szinten a tagállamoknak ki kell jelölniük egy vagy több illetékes nemzeti hatóságot, köztük a nemzeti felügyeleti hatóságot a rendelet alkalmazásának és végrehajtásának felügyelete céljából. Az európai adatvédelmi biztos jár el az uniós intézmények, ügynökségek és szervek felügyeletéért felelős illetékes hatóságként, amennyiben azok e rendelet hatálya alá tartoznak.

A VII. cím célja, hogy megkönnyítse a Bizottság és a nemzeti hatóságok nyomonkövetési munkáját azáltal, hogy létrehozza a főként alapjogi vonatkozású, önálló, nagy kockázatú MI-rendszerek uniós adatbázisát. Az adatbázist a Bizottság üzemelteti, a betáplált adatokat pedig az MI-rendszerek szolgáltatói bocsátják rendelkezésre, akiknek nyilvántartásba kell vetetniük rendszereiket, mielőtt forgalomba hozzák vagy más módon üzembe helyezik őket.

A VIII. cím az MI-rendszerek szolgáltatóira vonatkozó nyomonkövetési és jelentéstételi kötelezettségeket határozza meg a mesterséges intelligenciával kapcsolatos váratlan események és hibás működés forgalomba hozatal utáni nyomon követése, jelentése és kivizsgálása tekintetében. A piacfelügyeleti hatóságok ellenőriznék a piacot is, és valamennyi, már forgalomba hozott nagy kockázatú MI-rendszer esetében megvizsgálnák a kötelezettségeknek és követelményeknek való megfelelést. A piacfelügyeleti hatóságok a piacfelügyeletről szóló (EU) 2019/1020 rendelet értelmében vett minden hatáskörrel rendelkeznének. Az utólagos végrehajtásnak biztosítania kell, hogy az MI-rendszerek forgalomba hozatalát követően a hatóságok rendelkezzenek az abban az esetben történő beavatkozáshoz szükséges hatáskörrel és erőforrásokkal, ha az MI-rendszerek váratlan kockázatokhoz vezetnének, ami gyors fellépést tesz szükségessé. Nyomon fogják követni azt is, hogy az üzemeltetők teljesítik-e a rendelet értelmében vett vonatkozó kötelezettségeiket. A javaslat nem irányozza elő további tagállami szintű szervek vagy hatóságok automatikus létrehozását. A tagállamok ezért meglévő ágazati hatóságokat jelölhetnek ki (és támaszkodhatnak azok szakértelmére), amelyeket a rendelet rendelkezéseinek nyomon követésére és végrehajtására vonatkozó hatáskörrel is felruháznának.

Mindez nem érinti az alapvető jogokkal kapcsolatos kötelezettségek utólagos érvényesítésére vonatkozó jelenlegi rendszert és hatáskörmegosztást a tagállamokban. Amennyiben a megbízatásuk miatt szükséges, a meglévő felügyeleti és végrehajtó hatóságok hatáskörrel fognak rendelkezni arra is, hogy bekérjék az e rendelet alapján megőrzött valamennyi dokumentációt, illetve hozzáférjenek azokhoz, és szükség esetén felkérjék a piacfelügyeleti hatóságokat, hogy műszaki eszközökkel szervezzék meg a nagy kockázatú MI-rendszerek tesztelését.

5.2.7.MAGATARTÁSI KÓDEXEK (IX. CÍM)

A IX. cím létrehozza a magatartási kódexek létrehozásának keretét, ami arra kívánja ösztönözni a nem nagy kockázatú MI-rendszerek szolgáltatóit, hogy önkéntes alapon alkalmazzák a nagy kockázatú MI-rendszerekre vonatkozó kötelező követelményeket (a III. címben meghatározottak szerint). A nem nagy kockázatú MI-rendszerek szolgáltatói maguk dolgozhatják ki és alkalmazhatják a magatartási kódexeket. Ezek a kódexek önkéntes kötelezettségvállalásokat is tartalmazhatnak például a környezeti fenntarthatósággal, a fogyatékossággal élő személyek esetében az akadálymentességgel, az érdekelt feleknek az MI-rendszerek tervezésében és fejlesztésében való részvételével, valamint a fejlesztési csoportok sokszínűségével kapcsolatban.

5.2.8.ZÁRÓ RENDELKEZÉSEK (X., XI. ÉS XII. CÍM)

A X. cím hangsúlyozza, hogy valamennyi fél köteles tiszteletben tartani az információk és adatok titkosságát, és meghatározza a rendelet végrehajtása során szerzett információk cseréjére vonatkozó szabályokat. A X. cím emellett olyan intézkedéseket tartalmaz, amelyek a rendelkezések megsértése esetében hatékony, arányos és visszatartó erejű szankciókkal biztosítják a rendelet hatékony végrehajtását.

A XI. cím meghatározza a felhatalmazási és végrehajtási hatáskörök gyakorlására vonatkozó szabályokat. A javaslat felhatalmazza a Bizottságot arra, hogy adott esetben végrehajtási aktusokat fogadjon el a rendelet vagy a felhatalmazáson alapuló jogi aktusok egységes alkalmazásának biztosítása érdekében az I–VII. mellékletben szereplő jegyzékek naprakésszé tétele vagy kiegészítése céljából.

A XII. cím arra kötelezi a Bizottságot, hogy rendszeresen értékelje a III. melléklet aktualizálásának szükségességét, és rendszeres jelentéseket készítsen a rendelet értékeléséről és felülvizsgálatáról. Továbbá záró rendelkezéseket állapít meg, beleértve a rendelet alkalmazhatóságának kezdő időpontjára vonatkozó differenciált átmeneti időszakot, hogy valamennyi érintett fél számára megkönnyítse a zökkenőmentes végrehajtást.

2021/0106 (COD)

Javaslat

AZ EURÓPAI PARLAMENT ÉS A TANÁCS RENDELETE

A MESTERSÉGES INTELLIGENCIÁRA VONATKOZÓ HARMONIZÁLT SZABÁLYOK (A MESTERSÉGES INTELLIGENCIÁRÓL SZÓLÓ JOGSZABÁLY) MEGÁLLAPÍTÁSÁRÓL ÉS EGYES UNIÓS JOGALKOTÁSI AKTUSOK MÓDOSÍTÁSÁRÓL

AZ EURÓPAI PARLAMENT ÉS AZ EURÓPAI UNIÓ TANÁCSA,

tekintettel az Európai Unió működéséről szóló szerződésre és különösen annak 16. és 114. cikkére,

tekintettel az Európai Bizottság javaslatára,

a jogalkotási aktus tervezetének a nemzeti parlamenteknek való megküldését követően,

tekintettel az Európai Gazdasági és Szociális Bizottság véleményére 31 ,

tekintettel a Régiók Bizottságának véleményére 32 ,

rendes jogalkotási eljárás keretében,

mivel:

(1)E rendelet célja a belső piac működésének javítása azáltal, hogy egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalmazására és használatára vonatkozóan. Ez a rendelet számos közérdeken alapuló kényszerítő indok miatt született meg, amilyen például az egészség, a biztonság és az alapvető jogok magas szintű védelme, és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be az MI-rendszerek fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt.

(2)A mesterségesintelligencia-rendszerek (a továbbiakban: MI-rendszerek) a gazdaság és a társadalom számos ágazatában könnyen alkalmazhatók, többek között a határokon átnyúlóan is, és az egész Unióban forgalomban lehetnek. Egyes tagállamok már megvizsgálták olyan nemzeti szabályok elfogadását, amelyek biztosítják a mesterséges intelligencia biztonságosságát, valamint az alapvető jogokra vonatkozó kötelezettségekkel összhangban történő fejlesztését és használatát. Az eltérő nemzeti szabályok a belső piac széttagoltságához vezethetnek, és csökkenthetik az MI-rendszereket fejlesztő vagy használó üzemeltetők jogbiztonságát. Ezért az egész Unióban következetes és magas szintű védelmet kell biztosítani, ugyanakkor meg kell előzni az MI-rendszerek, valamint a kapcsolódó termékek és szolgáltatások belső piacon belüli szabad mozgását akadályozó különbségeket, és ennek érdekében az üzemeltetők számára egységes kötelezettségeket kell megállapítani, és az Európai Unió működéséről szóló szerződés (EUMSZ) 114. cikke alapján garantálni kell a közérdeken alapuló kényszerítő indokok és a személyek jogainak egységes védelmét a belső piacon. Amennyiben e rendelet különös szabályokat tartalmaz az egyéneknek a személyes adatok kezelése tekintetében való védelméről, az MI-rendszereknek a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, „valós idejű” távoli biometrikus azonosításra történő használatát érintő korlátozásokkal kapcsolatban, helyénvaló e rendeletet az említett különös szabályok tekintetében az EUMSZ 16. cikkére alapozni. E különös szabályokra és az EUMSZ 16. cikkének alkalmazására tekintettel helyénvaló konzultálni az Európai Adatvédelmi Testülettel.

(3)A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amely az ágazatok és a társadalmi tevékenységek teljes spektrumában gazdasági és társadalmi előnyök széles skálájához járulhat hozzá. Az előrejelzések javításával, a műveleteknek és az erőforrások elosztásának optimalizálásával, valamint az egyének és a szervezetek rendelkezésére álló digitális megoldások személyre szabásával a mesterséges intelligencia használata kulcsfontosságú versenyelőnyt biztosíthat a vállalkozások számára, és társadalmi és környezeti szempontból kedvező eredményeket hozhat, például az egészségügy, a mezőgazdaság, az oktatás és képzés, az infrastruktúra-irányítás, az energia, a közlekedés és a logisztika, a közszolgáltatások, a biztonság, az igazságszolgáltatás, az erőforrás- és energiahatékonyság, valamint az éghajlatváltozás mérséklése és az ahhoz való alkalmazkodás terén.

(4)Ugyanakkor a mesterséges intelligencia – a konkrét alkalmazás és használat körülményeitől függően – kockázatokkal is járhat, és sértheti a közérdeket és az uniós jog által védett jogokat. Az ilyen kár lehet vagyoni vagy nem vagyoni kár.

(5)Ezért a mesterséges intelligencia belső piacon történő fejlesztésének, használatának és elterjedésének elősegítése érdekében szükség van a mesterséges intelligenciára vonatkozó harmonizált szabályokat meghatározó uniós jogi keretre, amely ugyanakkor garantálja a uniós jog által elismert és oltalmazott közérdek – például az egészség és a biztonság –, valamint az alapvető jogok magas szintű védelmét. E célkitűzés elérése érdekében szabályokat kell megállapítani bizonyos MI-rendszerek forgalomba hozatalára és üzembe helyezésére vonatkozóan, ezáltal biztosítva a belső piac zavartalan működését, és lehetővé téve, hogy e rendszerek élvezhessék az áruk és szolgáltatások szabad mozgásának elvéből származó előnyöket. E szabályok megállapításával e rendelet támogatja azt a célkitűzést, hogy az Unió globális vezető szerepet töltsön be a biztonságos, megbízható és etikus mesterséges intelligencia fejlesztésében, amint azt az Európai Tanács megállapította 33 , és biztosítja az etikai elvek védelmét, amint azt az Európai Parlament kifejezetten kérte 34 .

(6)A jogbiztonság biztosítása végett egyértelműen meg kell határozni az MI-rendszer fogalmát, ugyanakkor rugalmasságot kell biztosítani a jövőbeli technológiai fejlődéshez való alkalmazkodás érdekében. A fogalommeghatározásnak a szoftver alapvető működési jellemzőin kell alapulnia, különösen azon a képességen, hogy ember által meghatározott célkitűzések egy adott sorozata tekintetében olyan kimeneteket tud generálni, mint például tartalom, előrejelzések, ajánlások vagy döntések, amelyek befolyásolják azt a környezetet, amellyel a rendszer kölcsönhatásban van, legyen szó akár fizikai, akár digitális dimenzióról. Az MI-rendszereket meg lehet úgy tervezni, hogy különböző szintű autonómiával működjenek, és önállóan vagy egy termék alkatrészeként is használhatók legyenek, függetlenül attól, hogy a rendszert fizikailag integrálták-e a termékbe (beágyazott), vagy hogy anélkül szolgálja-e a termék funkcionalitását, hogy abba beépítenék (nem beágyazott). Az MI-rendszer fogalommeghatározását ki kell egészíteni a fejlesztéséhez használt konkrét technikák és megközelítések listájával, amelyet a piaci és technológiai fejlődés fényében naprakészen kell tartani azáltal, hogy a Bizottság felhatalmazáson alapuló jogi aktusokat fogad el a lista módosítása céljából.

(7)A biometrikus adatok e rendeletben használt fogalma összhangban van a biometrikus adatoknak az (EU) 2016/679 európai parlamenti és tanácsi rendelet 35 4. cikkének 14. pontjában, az (EU) 2018/1725 európai parlamenti és tanácsi rendelet 36 3. cikkének 18. pontjában és az (EU) 2016/680 európai parlamenti és tanácsi irányelv 37 3. cikkének 13. pontjában meghatározott fogalmával, és azzal összhangban kell értelmezni.

(8)A távoli biometrikus azonosító rendszer e rendeletben használt fogalmát funkcionális értelemben kell meghatározni, olyan MI-rendszerként, amelynek célja természetes személyek távolról történő azonosítása a személy biometrikus adatainak egy referencia-adatbázisban szereplő biometrikus adatokkal való összevetése révén, anélkül, hogy előzetesen tudomása lenne arról, hogy a célszemély jelen lesz-e és azonosítható-e, függetlenül az alkalmazott konkrét technológiától, folyamatoktól vagy a biometrikus adatok típusától. Figyelembe véve eltérő jellemzőiket és használati módjaikat, valamint a különböző kockázatokat, különbséget kell tenni a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszerek között. A „valós idejű” rendszerek esetében a biometrikus adatok rögzítése, összehasonlítása és azonosítása azonnal, majdnem azonnal vagy mindenesetre jelentős késleltetés nélkül történik. E tekintetben nem engedhető meg, hogy a szóban forgó MI-rendszerek „valós idejű” használatára vonatkozó kisebb késleltetésekre legyen lehetőség, és ezáltal az e rendeletben foglalt szabályokat bárki megkerülje. A „valós idejű” rendszerek olyan „élő” vagy megközelítőleg „élő” anyagot, például videofelvételt használnak, amelyet kamera vagy hasonló funkciójú más eszköz generál. A „nem valós idejű” rendszerek esetében ezzel szemben a biometrikus adatokat már rögzítették, és az összevetésre és az azonosításra csak jelentős késleltetéssel kerül sor. Olyan anyagokról van szó, mint például a zártláncú televíziós kamerák vagy magánkészülékek által előállított képek vagy videofelvételek, amelyek a rendszer érintett természetes személyek tekintetében történő használata előtt keletkeztek.

(9)E rendelet alkalmazásában a nyilvánosság számára hozzáférhető hely fogalma alatt bármely, a nyilvánosság számára hozzáférhető fizikai területet kell érteni, függetlenül attól, hogy a szóban forgó hely magán- vagy állami tulajdonban van-e. Ezért a fogalom nem terjed ki a magánjellegű helyekre, amelyek általában szabadon nem hozzáférhetők harmadik felek, köztük a bűnüldöző hatóságok számára, kivéve, ha ezeket a feleket kifejezetten meghívták vagy felhatalmazták; ilyenek például az otthonok, a magánklubok, az irodák, a raktárak és a gyárak. Az online terek sem tartoznak ide, mivel nem fizikai területek. Ugyanakkor önmagában az a tény, hogy egy adott helyhez való hozzáférés bizonyos feltételekhez – például belépőjegyekhez vagy életkori korlátozásokhoz – köthető, nem jelenti azt, hogy a hely e rendelet értelmében a nyilvánosság számára nem hozzáférhető. Következésképpen az olyan nyilvános helyeken kívül, mint az utcák, a kormányzati épületek releváns részei és a közlekedési infrastruktúra többsége, az olyan helyek, mint a mozik, a színházak, az üzletek és a bevásárlóközpontok általában szintén a nyilvánosság számára hozzáférhetők. Azt azonban, hogy egy adott hely hozzáférhető-e a nyilvánosság számára, eseti alapon kell meghatározni, figyelembe véve a szóban forgó egyedi helyzet sajátosságait.

(10)Az egyenlő versenyfeltételek biztosítása, valamint az egyének jogainak és szabadságainak Unió-szerte történő hatékony védelme érdekében az e rendeletben megállapított szabályokat megkülönböztetésmentes módon kell alkalmazni az MI-rendszerek szolgáltatóira, függetlenül attól, hogy az Unióban vagy harmadik országban letelepedett szolgáltatók-e, valamint az MI-rendszerek Unióban letelepedett felhasználóira.

(11)Digitális jellegükre tekintettel egyes MI-rendszereknek akkor is e rendelet hatálya alá kell tartozniuk, ha azokat nem hozzák forgalomba, nem helyezik üzembe és nem használják az Unióban. Ez a helyzet például egy olyan, az Unióban letelepedett üzemeltető esetében, amely bizonyos szolgáltatásokra egy Unión kívül letelepedett üzemeltetővel köt szerződést egy MI-rendszer által végzendő olyan tevékenységgel kapcsolatban, amely nagy kockázatúnak minősülne, és amelynek hatása az Unióban tartózkodó természetes személyeket is érintené. Ilyen körülmények között az Unión kívüli üzemeltető által használt MI-rendszer az Unióban jogszerűen gyűjtött és az Unióból továbbított adatokat kezelhet, és a szóban forgó MI-rendszer által az említett adatkezelés nyomán előállított adatokat az Unióban működő, vele szerződést kötött üzemeltető rendelkezésére bocsáthatja, anélkül, hogy az említett MI-rendszert forgalomba hoznák, üzembe helyeznék vagy használnák az Unióban. E rendelet kijátszásának megelőzése és az Unióban tartózkodó természetes személyek hatékony védelmének biztosítása érdekében ezt a rendeletet MI-rendszerek harmadik országban letelepedett szolgáltatóira és felhasználóira is alkalmazni kell, amennyiben az e rendszerek által előállított kimeneteket az Unióban használják. Mindazonáltal a meglévő megállapodások és az azon külföldi partnerekkel való együttműködés iránti különleges igény figyelembevétele érdekében, amelyekkel információ- és bizonyítékcserére kerül sor, e rendelet nem alkalmazandó a harmadik országok hatóságaira és nemzetközi szervezetekre, amennyiben azok az Unióval vagy annak tagállamaival folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó – nemzeti vagy európai szinten kötött – nemzetközi megállapodások keretében járnak el. E megállapodások kétoldalúan jöttek létre a tagállamok és harmadik országok között, vagy az Európai Unió, az Europol és más uniós ügynökségek, valamint harmadik országok és nemzetközi szervezetek között.

(12)Ezt a rendeletet az uniós intézményekre, hivatalokra, szervekre és ügynökségekre is alkalmazni kell, amennyiben azok MI-rendszer szolgáltatójaként vagy felhasználójaként járnak el. A kizárólag katonai célokra fejlesztett vagy használt MI-rendszereket ki kell zárni e rendelet hatálya alól, amennyiben e használat az Európai Unióról szóló szerződés (EUSZ) V. címében szabályozott közös kül- és biztonságpolitika kizárólagos hatáskörébe tartozik. Ez a rendelet nem érinti a [digitális szolgáltatásokról szóló jogszabály által módosított] 2000/31/EK európai parlamenti és tanácsi irányelvben foglalt, a közvetítő szolgáltatók felelősségére vonatkozó rendelkezéseket.

(13)A közérdek következetes és magas szintű védelmének az egészség, a biztonság és az alapvető jogok tekintetében történő biztosítása érdekében egységes normatív előírásokat kell megállapítani valamennyi nagy kockázatú MI-rendszerre vonatkozóan. Ezeknek az előírásoknak összhangban kell lenniük az Európai Unió Alapjogi Chartájával (a továbbiakban: a Charta), megkülönböztetéstől mentesnek kell lenniük, és meg kell felelniük az Unió nemzetközi kereskedelmi kötelezettségvállalásainak.

(14)Az MI-rendszerekre vonatkozó, kötelező erejű szabályok arányos és hatékony rendszerének bevezetése érdekében egyértelműen meghatározott, kockázatalapú megközelítést kell alkalmazni. E megközelítés keretében az ilyen szabályok típusát és tartalmát hozzá kell igazítani az MI-rendszerek által keltett kockázatok intenzitásához és nagyságrendjéhez. Ezért meg kell tiltani bizonyos mesterségesintelligencia-gyakorlatokat, követelményeket kell megállapítani a nagy kockázatú MI-rendszerekre vonatkozóan és kötelezettségeket az érintett üzemeltetők számára, valamint átláthatósági kötelezettségeket bizonyos MI-rendszereket érintően.

(15)A mesterséges intelligenciának számos hasznos felhasználási módja van, azonban ezzel a technológiával vissza is lehet élni, emellett új és hatékony eszközöket biztosíthat a manipulatív, kizsákmányoló és társadalmi ellenőrzési gyakorlatokhoz. Az ilyen gyakorlatok különösen károsak, és meg kell tiltani őket, mivel ellentétesek az emberi méltóság tiszteletben tartása, a szabadság, az egyenlőség, a demokrácia és a jogállamiság uniós értékeivel, valamint az uniós alapvető jogokkal, ideértve a megkülönböztetésmentességhez való jogot, az adatvédelmet és a magánélet tiszteletben tartásához való jogot, valamint a gyermekek jogait.

(16)Meg kell tiltani azon MI-rendszerek forgalomba hozatalát, üzembe helyezését vagy használatát, amelyek célja az emberi magatartás oly módon való befolyásolása, hogy az nagy valószínűséggel testi vagy lelki kárt okoz. Az ilyen MI-rendszerek az egyének számára tudatosan nem érzékelhető módszereket alkalmaznak, vagy kihasználják a gyermekek, valamint életkoruk, illetve csökkent testi vagy mentális képességeik miatt bizonyos felnőttek sebezhetőségét. Ezt azzal a szándékkal teszik, hogy jelentősen torzítsák egy személy magatartását, oly módon, amely kárt okoz vagy okozhat az adott személynek vagy más személynek. A szándék nem vélelmezhető, ha az emberi magatartás torzulása az MI-rendszerhez képest külső, a szolgáltatón vagy a felhasználón kívül álló tényezőkből ered. A tilalom nem nyomhatja el az ilyen MI-rendszerekhez kapcsolódó törvényes célú kutatást, amennyiben az ilyen kutatás nem jár azzal, hogy az MI-rendszer úgy kerül alkalmazásra az ember és a gép közötti kapcsolatokban, hogy kárt okozzon természetes személyeknek, és amennyiben az ilyen kutatás a tudományos kutatás elismert etikai normáival összhangban történik.

(17)Azok az MI-rendszerek, amelyek lehetőséget biztosítanak természetes személyek hatóságok általi vagy nevükben történő, általános célú közösségi pontozására, diszkriminációhoz és bizonyos csoportok kirekesztéséhez vezethetnek. Az ilyen rendszerek sérthetik a méltósághoz és a megkülönböztetésmentességhez való jogot, valamint az egyenlőség és az igazságosság értékeit. Az ilyen MI-rendszerek a természetes személyek megbízhatóságát bizonyos összetett körülmények között, közösségben tanúsított magatartásuk, illetve ismert vagy előre jelzett személyes tulajdonságaik vagy személyiségjegyeik alapján értékelik vagy osztályozzák. Az ilyen MI-rendszerek által adott közösségi pontszám a természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmódhoz vezethet olyan társadalmi kontextusban, amely nem függ össze azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt, vagy olyan hátrányos bánásmódot okozhat, amely az adott személyek közösségi magatartásának súlyosságához képest aránytalan vagy indokolatlan. Az ilyen MI-rendszereket ezért be kell tiltani.

(18)Az MI-rendszereknek természetes személyek „valós idejű” távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata különösen betolakodik az érintett személyek jogaiba és szabadságába, mivel hatással lehet a lakosság nagy részének magánéletére, az állandó megfigyelés érzetét keltheti, és közvetve visszatarthat a gyülekezési szabadság és más alapvető jogok gyakorlásától. Ezenkívül a hatás azonnali jellege és az ilyen „valós időben” működő rendszerek használatával kapcsolatos további ellenőrzések vagy korrekciók korlátozott lehetőségei fokozott kockázatot jelentenek a bűnüldözési tevékenységek által érintett személyek jogaira és szabadságaira nézve.

(19)E rendszerek bűnüldözési célú használatát ezért meg kell tiltani, kivéve három, kimerítő jelleggel felsorolt és szűken meghatározott helyzetet, amelyekben a használat feltétlenül szükséges egy olyan jelentős közérdek érvényesítéséhez, amelynek fontossága meghaladja a kockázatokat. Az ilyen helyzetek közé tartozik a bűncselekmények potenciális áldozatainak, köztük az eltűnt gyermekeknek a felkutatása; a természetes személyek életét vagy fizikai biztonságát fenyegető bizonyos veszélyek vagy a terrortámadás veszélye; valamint a 2002/584/IB tanácsi kerethatározatban 38 említett bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítése, lokalizálása, azonosítása vagy büntetőeljárás alá vonása, amennyiben e bűncselekmények esetében az érintett tagállam joga szerint e tagállamban a büntetési tétel felső határa legalább háromévi szabadságvesztés vagy szabadságelvonással járó intézkedés. A szabadságvesztés vagy szabadságelvonással járó intézkedés nemzeti joggal összhangban álló e küszöbértéke hozzájárul annak biztosításához, hogy a bűncselekmény kellően súlyos legyen ahhoz, hogy potenciálisan indokolhassa a „valós idejű” távoli biometrikus azonosító rendszerek használatát. Ezenfelül a 2002/584/IB tanácsi kerethatározatban felsorolt 32 bűncselekmény közül néhány a gyakorlatban valószínűleg relevánsabb lesz, mint mások, azaz a „valós idejű” távoli biometrikus azonosítás alkalmazása előreláthatóan rendkívül eltérő mértékben lesz szükséges és arányos eszköz a felsorolt különböző bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítésére, lokalizálására, azonosítására vagy büntetőeljárás alá vonására irányuló gyakorlati lépések tekintetében, és az alkalmazást befolyásolják majd a kár súlyosságának, valószínűségének és mértékének valószínűsíthető különbségei vagy az esetleges negatív következmények.

(20)Annak érdekében, hogy e rendszerek használata felelős és arányos módon történjen, azt is fontos megállapítani, hogy e három kimerítő jelleggel felsorolt és szűken meghatározott helyzetben figyelembe kell venni bizonyos tényezőket, különösen a kérelem alapjául szolgáló helyzet jellegét és a használat valamennyi érintett személy jogaira és szabadságaira gyakorolt következményeit, valamint a használathoz előírt biztosítékokat és feltételeket. Ezen túlmenően a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatára megfelelő időbeli és térbeli korlátozásoknak kell vonatkozniuk, különös tekintettel a fenyegetésekkel, az áldozatokkkal vagy az elkövetőkkel kapcsolatos bizonyítékokra vagy jelzésekre. A személyek referencia-adatbázisának minden egyes használatkor a fent említett három helyzet mindegyikében megfelelőnek kell lennie.

(21)A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatához minden esetben valamely tagállam igazságügyi hatóságának vagy független közigazgatási hatóságának kifejezett és egyedi engedélye szükséges. Az ilyen engedélyt főszabályként a használat előtt kell megszerezni, kivéve a kellően indokolt sürgős eseteket, azaz azokat a helyzeteket, amikor a szóban forgó rendszerek használatának szükségessége ténylegesen és objektíve lehetetlenné teszi az engedély megszerzését a használat megkezdése előtt. Az ilyen sürgős helyzetekben a használatot a feltétlenül szükséges minimumra kell korlátozni, és arra a nemzeti jogban megállapított és maga a bűnüldöző hatóság által az egyes sürgős esetek kapcsán meghatározott megfelelő biztosítékokat és feltételeket kell alkalmazni. Ezen túlmenően a bűnüldöző hatóságnak ilyen helyzetekben a lehető leghamarabb meg kell próbálnia megszerezni az engedélyt, ugyanakkor meg kell indokolnia, hogy miért nem volt lehetősége arra, hogy az engedélyt korábban megkérje.

(22)Helyénvaló továbbá – az e rendeletben meghatározott kimerítő keretek között – előírni, hogy az ilyen használat egy tagállam területén e rendelettel összhangban csak akkor és annyiban legyen lehetséges, ha és amennyiben az érintett tagállam úgy határozott, hogy nemzeti jogának részletes szabályaiban kifejezetten rendelkezik az ilyen használat engedélyezésének lehetőségéről. Következésképpen a tagállamok e rendelet értelmében továbbra is szabadon dönthetnek arról, hogy egyáltalán nem, vagy csak az e rendeletben meghatározott engedélyezett használat indoklására alkalmas egyes célkitűzések tekintetében rendelkeznek ilyen lehetőségről.

(23)Az MI-rendszerek természetes személyek „valós idejű” távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata szükségszerűen magában foglalja biometrikus adatok feldolgozását. E rendelet azon, az EUMSZ 16. cikkén alapuló szabályait, amelyek – bizonyos kivételekre is figyelemmel – tiltják az ilyen használatot, lex specialisként kell alkalmazni az (EU) 2016/680 irányelv 10. cikkében foglalt, a biometrikus adatok kezelésére vonatkozó szabályok tekintetében, ennélfogva ezek kimerítően szabályozzák az ilyen használatot és az érintett biometrikus adatok kezelését. Ezért az ilyen használat és adatkezelés csak annyiban lehetséges, amennyiben összeegyeztethető az e rendeletben meghatározott kerettel, és nincs lehetőség arra, hogy e kereten kívül az illetékes hatóságok – amennyiben bűnüldözési célból járnak el – az (EU) 2016/680 irányelv 10. cikkében felsorolt okokból használják az ilyen rendszereket és kezeljék a kapcsolódó adatokat. Ebben az összefüggésben e rendeletnek nem célja, hogy jogalapot biztosítson a személyes adatoknak az (EU) 2016/680 irányelv 8. cikke szerinti kezeléséhez. A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési céloktól eltérő célokra történő, többek között az illetékes hatóságok általi használatára azonban nem terjedhet ki az e rendeletben meghatározott, a bűnüldözési célú használatra vonatkozó különös keret. Az ilyen, nem bűnüldözési célú használat ezért nem köthető az e rendelet szerinti, engedéllyel kapcsolatos követelményhez és a nemzeti jog azon hatályos, részletes szabályaihoz, amelyek e követelményt alkalmazzák.

(24)A biometrikus adatok és az MI-rendszerek biometrikus azonosítás céljából történő használatával érintett egyéb személyes adatok kezelésének – a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési célból történő, e rendeletben szabályozott használatával összefüggő adatkezelés kivételével –, ideértve azt az esetet is, amikor ezeket a rendszereket az illetékes hatóságok nyilvánosság számára hozzáférhető helyen, a bűnüldözéstől eltérő célokra használják, továbbra is meg kell felelnie az (EU) 2016/679 rendelet 9. cikkének (1) bekezdéséből, az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdéséből és adott esetben az (EU) 2016/680 irányelv 10. cikkéből eredő valamennyi követelménynek.

(25)Az EUSZ-hez és az EUMSZ-hez csatolt, az Egyesült Királyságnak és Írországnak a szabadságon, a biztonságon és a jog érvényesülésén alapuló térség tekintetében fennálló helyzetéről szóló 21. jegyzőkönyv 6a. cikkével összhangban Írországot nem kötelezik az e rendelet 5. cikke (1) bekezdésének d) pontjában, (2) és (3) bekezdésében meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak, amennyiben Írországot nem kötelezik a büntetőügyekben folytatott igazságügyi együttműködés vagy a rendőrségi együttműködés formáira vonatkozó olyan szabályok, amelyek megkívánják az EUMSZ 16. cikke alapján meghatározott rendelkezések betartását.

(26)Az EUSZ-hez és az EUMSZ-hez csatolt, Dánia helyzetéről szóló 22. jegyzőkönyv 2. és 2a. cikkével összhangban Dániára nézve nem kötelezőek és nem alkalmazandóak az e rendelet 5. cikke (1) bekezdésének d) pontjában, valamint (2) és (3) bekezdésében meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak.

(27)A nagy kockázatú MI-rendszerek csak akkor hozhatók forgalomba vagy helyezhetők üzembe, ha megfelelnek bizonyos kötelező követelményeknek. E követelményeknek biztosítaniuk kell, hogy azon nagy kockázatú MI-rendszerek, amelyek az Unióban rendelkezésre állnak vagy amelyek kimenetét más módon felhasználják az Unióban, ne jelentsenek elfogadhatatlan kockázatot az uniós jog által elismert és védett fontos uniós közérdekekre nézve. A nagy kockázatúként azonosított MI-rendszereket azokra a rendszerekre kell korlátozni, amelyek jelentős káros hatást gyakorolnak az Unióban élő személyek egészségére, biztonságára és alapvető jogaira, és ez a korlátozás minimalizálja a nemzetközi kereskedelem bármely esetleges korlátozását, ha van ilyen.

(28)Az MI-rendszerek káros hatással lehetnek az emberek egészségére és biztonságára, különösen akkor, ha ezek a rendszerek termékek alkatrészeiként működnek. Az uniós harmonizációs jogszabályok azon célkitűzéseivel összhangban, amelyek a termékek belső piacon való szabad mozgásának megkönnyítésében, valamint annak garantálásában állnak, hogy csak biztonságos és más tekintetben megfelelő termékek kerüljenek a piacra, fontos, hogy a termék egésze által a digitális alkatrészei, többek között az MI-rendszerek miatt esetlegesen előidézett biztonsági kockázatok megfelelően meg lehessen előzni és csökkenteni. Például az – akár gyártással, akár személyes segítségnyújtással és gondozással összefüggésben használt – egyre önállóbb robotoknak képeseknek kell lenniük arra, hogy biztonságosan működjenek és funkcióikat összetett környezetben lássák el. Hasonlóképpen az egészségügyi ágazatban, ahol az élet és az egészség tekintetében különösen nagy a tét, az egyre kifinomultabb diagnosztikai rendszereknek és az emberi döntéseket támogató rendszereknek megbízhatónak és pontosnak kell lenniük. A Charta által védett alapvető jogokra az MI-rendszer által gyakorolt kedvezőtlen hatás mértéke különösen fontos egy adott MI-rendszer nagy kockázatúként való besorolásakor. E jogok közé tartozik az emberi méltósághoz való jog, a magán- és családi élet tiszteletben tartása, a személyes adatok védelme, a véleménynyilvánítás és a tájékozódás szabadsága, a gyülekezés és az egyesülés szabadsága, a megkülönböztetésmentesség, a fogyasztóvédelem, a munkavállalók jogai, a fogyatékossággal élő személyek jogai, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog, a védelemhez való jog és az ártatlanság vélelme, valamint a megfelelő ügyintézéshez való jog. E jogok mellett fontos kiemelni, hogy a gyermekek az Európai Unió Alapjogi Chartájának 24. cikkében és az Egyesült Nemzetek Szervezetének a gyermekek jogairól szóló egyezményében foglalt (a gyermek jogairól szóló ENSZ-egyezmény digitális környezetre vonatkozó 25. sz. általános észrevételében részletesebben kifejtett) különös jogokkal rendelkeznek; mindkét okmány előírja a gyermekek sebezhetőségének figyelembevételét, valamint a jóllétükhöz szükséges védelem és gondoskodás biztosítását. Az MI-rendszerek által – többek között a személyek egészségével és biztonságával összefüggésben – okozott károk súlyosságának értékelésekor a magas szintű környezetvédelemhez való, a Chartában rögzített és az uniós szakpolitikákban érvényesített alapvető jogot is figyelembe kell venni.

(29)Azon nagy kockázatú MI-rendszerek tekintetében, amelyek a 300/2008/EK európai parlamenti és tanácsi rendelet 39 , a 167/2013/EU európai parlamenti és tanácsi rendelet 40 , a 168/2013/EU európai parlamenti és tanácsi rendelet 41 , a 2014/90/EU európai parlamenti és tanácsi irányelv 42 , az (EU) 2016/797 európai parlamenti és tanácsi irányelv 43 , az (EU) 2018/858 európai parlamenti és tanácsi rendelet 44 , az (EU) 2018/1139 európai parlamenti és tanácsi rendelet 45 , valamint az (EU) 2019/2144 európai parlamenti és tanácsi rendelet 46 hatálya alá tartozó termékek vagy rendszerek biztonsági alkatrészei, vagy amelyek maguk is ilyen termékek vagy rendszerek, helyénvaló e jogi aktusokat módosítani annak érdekében, hogy a Bizottság – az egyes ágazatok műszaki és szabályozási sajátoságai alapján, és anélkül, hogy beavatkozna az ott létrehozott meglévő irányítási, megfelelőségértékelési és végrehajtási mechanizmusokba és hatóságokba – figyelembe vegye a nagy kockázatú MI-rendszerekre az e rendeletben megállapított kötelező követelményeket, amikor ezen aktusok alapján a jövőben releváns, felhatalmazáson alapuló vagy végrehajtási jogi aktusokat fogad el.

(30)Az olyan MI-rendszereket, amelyek bizonyos uniós harmonizációs jogszabályok hatálya alá tartozó termékek biztonsági alkatrészei, vagy amelyek maguk ilyen jogszabályok hatálya alá tartozó termékek, helyénvaló e rendelet értelmében nagy kockázatúnak minősíteni, ha a szóban forgó terméket a vonatkozó uniós harmonizációs jogszabály értelmében valamely harmadik félnek minősülő megfelelőségértékelő szervezet által lefolytatott megfelelőségértékelési eljárás alá vonják. Ilyen termékek különösen a gépek, a játékok, a felvonók, a robbanásveszélyes légkörben való használatra szánt felszerelések és a védelmi rendszerek, a rádióberendezések, a nyomástartó berendezések, a kedvtelési célú vízi járművek berendezései, a kötélpálya-létesítmények, a gázüzemű berendezések, az orvostechnikai eszközök és az in vitro diagnosztikai orvostechnikai eszközök.

(31)Az MI-rendszerek e rendelet szerint nagy kockázatú rendszerként való besorolása nem feltétlenül jelenti azt, hogy az a termék, amelynek biztonsági alkatrésze az MI-rendszer, vagy maga az MI-rendszer mint termék, a termékre alkalmazandó vonatkozó uniós harmonizációs jogszabályokban megállapított kritériumok alapján „nagy kockázatúnak” minősül. Ez különösen igaz az (EU) 2017/745 európai parlamenti és tanácsi rendeletre 47 és az (EU) 2017/746 európai parlamenti és tanácsi rendeletre 48 , amelyek a közepes kockázatú és a nagy kockázatú termékek tekintetében írnak elő harmadik fél általi megfelelőségértékelést.

(32)Az önálló MI-rendszereket, vagyis azon nagy kockázatú MI-rendszereket, amelyek nem termékek biztonsági alkatrészei vagy maguk is termékek, helyénvaló nagy kockázatúnak minősíteni, ha rendeltetésük alapján nagy kockázatot jelentenek a személyek egészségére és biztonságára vagy alapvető jogaira nézve, figyelembe véve a lehetséges kár súlyosságát és előfordulásának valószínűségét, és ha azokat számos, a rendeletben megadott, kifejezetten előre meghatározott területen használják. E rendszerek azonosítása ugyanazon módszertanon és kritériumokon alapul, amelyeket a nagy kockázatú MI-rendszerek listájának jövőbeli módosításaira is előirányoztak.

(33)A természetes személyek távoli biometrikus azonosítására szolgáló MI-rendszerek technikai pontatlansága torzított eredményekhez vezethet, és diszkriminatív hatásokat eredményezhet. Ez különösen releváns az életkor, az etnikai hovatartozás, a nem vagy a fogyatékosságok tekintetében. Ezért a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszereket nagy kockázatúnak kell minősíteni. Tekintettel az általuk jelentett kockázatokra, a távoli biometrikus azonosító rendszerek mindkét típusára a naplózási képességekkel és az emberi felügyelettel kapcsolatos különös követelményeknek kell vonatkozniuk.

(34)Ami a kritikus infrastruktúrák irányítását és üzemeltetését illeti, a közúti forgalom irányításában és üzemeltetésében, valamint a víz-, gáz-, fűtés- és villamosenergia-ellátásban biztonsági alkatrészeként használni kívánt MI-rendszereket indokolt nagy kockázatúnak minősíteni, mivel meghibásodásuk vagy hibás működésük nagymértékben veszélyeztetheti az emberek életét és egészségét, és érzékelhető zavarokhoz vezethet a társadalmi és gazdasági tevékenységek szokásos végzésében.

(35)Az oktatásban vagy szakképzésben használt MI-rendszereket, különösen a személyek oktatási és szakképzési intézményekbe való bejutásának meghatározására vagy ilyen intézményekhez való hozzárendelésére, illetve az oktatásuk részeként vagy előfeltételeként vizsgáztatott személyek értékelésére használt MI-rendszereket nagy kockázatúnak kell tekinteni, mivel meghatározhatják az adott személy életének oktatási és szakmai pályáját, és ezáltal hatással lehetnek megélhetésük biztosítására való képességükre. Helytelen tervezés és használat esetén az ilyen rendszerek sérthetik az oktatáshoz és képzéshez való jogot, valamint a megkülönböztetésmentességhez való jogot, és állandósíthatják a megkülönböztetés korábban meglévő mintázatait.

(36)Nagy kockázatúnak kell tekinteni azokat az MI-rendszereket is, amelyeket a foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés, különösen személyek felvétele és kiválasztása, az előléptetéssel és felmentéssel kapcsolatos döntések meghozatala, valamint a munkával kapcsolatos szerződéses jogviszonyban lévő személyek részére történő feladatkiosztás, továbbá az ilyen személyek nyomon követése vagy értékelése során használnak, mivel ezek a rendszerek érzékelhetően befolyásolhatják e személyek jövőbeli karrierlehetőségeit és megélhetését. A vonatkozó, munkával kapcsolatos szerződéses jogviszonyoknak magukban kell foglalniuk a munkavállalókat és a Bizottság 2021. évi munkaprogramjában említettek szerint a platformokon keresztül szolgáltatásokat nyújtó személyeket. Az ilyen személyek főszabályként nem tekintendők e rendelet értelmében vett felhasználóknak. Az ilyen rendszerek a munkaerő-felvételi folyamat egészében, valamint a munkával kapcsolatos szerződéses jogviszonyokban részt vevő személyek értékelése, előléptetése vagy megtartása során állandósíthatják a megkülönböztetés régóta fennálló mintázatait, például a nőkkel, bizonyos korcsoportokkal, a fogyatékossággal élő személyekkel, illetve bizonyos faji vagy etnikai származású, vagy szexuális irányultságú személyekkel szemben. Az e személyek teljesítményének és magatartásának nyomon követésére használt MI-rendszerek hatással lehetnek a személyek adatvédelemhez és a magánélethez való jogaira is.

(37)Egy másik olyan terület, ahol az MI-rendszerek használata különös figyelmet érdemel, az egyes olyan alapvető magán- és közszolgáltatások és ellátások elérhetősége és igénybevétele, amelyek ahhoz szükségesek, hogy az emberek teljes mértékben részt vehessenek a társadalomban vagy javítsák életszínvonalukat. Különösen a természetes személyek hitelpontszámának vagy hitelképességének értékelésére használt MI-rendszereket kell nagy kockázatú MI-rendszereknek minősíteni, mivel ezek határozzák meg e személyek pénzügyi erőforrásokhoz vagy olyan alapvető szolgáltatásokhoz való hozzáférését, mint a lakhatás, a villamos energia és a távközlési szolgáltatások. Az e célra használt MI-rendszerek személyek vagy csoportok hátrányos megkülönböztetéséhez vezethetnek, és állandósíthatják a – például faji vagy etnikai származáson, fogyatékosságon, életkoron vagy szexuális irányultságon alapuló – megkülönböztetés korábbról eredő mintázatait, vagy a diszkriminatív hatások új formáit teremthetik meg. Figyelembe véve a hatás igen korlátozott mértékét és a piacon rendelkezésre álló alternatívákat, helyénvaló mentességet biztosítani a pontozásos hitelbírálat és a hitelképességi vizsgálat céljára használt olyan MI-rendszerek számára, amelyeket kis szolgáltatók saját maguk számára helyeznek üzembe. Azok a természetes személyek, akik állami támogatásért és szolgáltatásokért folyamodnak a hatóságokhoz, vagy akik a hatóságoktól ilyenben részesülnek, jellemzően ezen ellátásoktól és szolgáltatásoktól függenek, és az illetékes hatóságoknak kiszolgáltatott helyzetben vannak. Ha a hatóságok MI-rendszerek igénybevételével határozzák meg, hogy megtagadják, csökkentsék, visszavonják vagy visszaigényeljék-e ezeket az ellátásokat és szolgáltatásokat, e rendszerek jelentős hatást gyakorolhatnak a személyek megélhetésére, és sérthetik alapvető jogaikat, például a szociális védelemhez, a megkülönböztetésmentességhez, az emberi méltósághoz vagy a hatékony jogorvoslathoz való jogot. Ezeket a rendszereket ezért nagy kockázatúnak kell minősíteni. Mindazonáltal ez a rendelet nem akadályozhatja az innovatív megközelítések fejlesztését és alkalmazását a közigazgatásban, amely számára előnyös lenne az előírásoknak megfelelő és biztonságos MI-rendszerek szélesebb körű használata, feltéve, hogy ezek a rendszerek nem jelentenek nagy kockázatot a természetes és jogi személyekre nézve. Végezetül, a vészhelyzeti első reagálási szolgáltatások irányítására vagy irányításuk során a prioritás megállapítására használt MI-rendszereket szintén nagy kockázatúnak kell tekinteni, mivel nagyon kritikus helyzetekben hoznak döntéseket az emberek élete és egészsége, valamint tulajdona szempontjából.

(38)A bűnüldöző hatóságok MI-rendszerek bizonyos használatával járó fellépéseit az erőviszonyok jelentős mértékű kiegyensúlyozatlansága jellemzi, és egy természetes személy megfigyeléséhez, letartóztatásához vagy szabadságának elvonásához, valamint a Chartában garantált alapvető jogokra gyakorolt egyéb kedvezőtlen hatásokhoz vezethetnek. Különösen akkor, ha az MI-rendszert nem tanítják jó minőségű adatokkal, nem felel meg a pontossága vagy stabilitása tekintetében támasztott megfelelő követelményeknek, vagy a forgalomba hozatalt vagy a más módon történő üzembe helyezést megelőzően nem megfelelően tervezték és tesztelték, akkor e rendszer diszkriminatív vagy más tekintetben tisztességtelen vagy igazságtalan módon válaszhat ki embereket. Akadályozhatja továbbá a fontos alapvető eljárási jogoknak – például a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jognak, valamint a védelemhez való jognak és az ártatlanság vélelmének – az érvényre juttatását, különösen akkor, ha az ilyen MI-rendszerek nem eléggé átláthatók, megmagyarázhatók és dokumentálhatók. Ezért helyénvaló nagy kockázatúnak minősíteni számos olyan, a bűnüldözéssel összefüggésben használni kívánt MI-rendszert, amelyek pontossága, megbízhatósága és átláthatósága különösen fontos a kedvezőtlen hatások elkerülése, a közvélemény bizalmának megőrzése, valamint az elszámoltathatóság és a hatékony jogorvoslat biztosítása szempontjából. Tekintettel a szóban forgó tevékenységek jellegére és az azokkal kapcsolatos kockázatokra, e nagy kockázatú MI-rendszereknek magukban kell foglalniuk különösen azokat az MI-rendszereket, amelyeket a bűnüldöző hatóságok egyedi kockázatértékelések, poligráfok és hasonló eszközök céljára vagy a természetes személyek érzelmi állapotának felderítésére, a deepfake videók felderítésére, büntetőeljárásokban a bizonyítékok megbízhatóságának értékelésére, a tényleges vagy potenciális bűncselekmények elkövetésének vagy megismétlődésének természetes személyek bűnözői profilalkotásán, illetve a személyiségjegyek, tulajdonságok, valamint természetes személyek vagy csoportok múltbeli bűnöző magatartásának értékelésén alapuló előrejelzésére, a bűncselekmények felderítése, nyomozása vagy büntetőeljárás alá vonása során alkalmazott profilalkotásra, továbbá természetes személyek tekintetében bűnelemzésre terveznek használni. Azok az MI-rendszerek, amelyeket kifejezetten az adó- és vámhatóságok által közigazgatási eljárások céljára kívánnak használni, nem tekintendők a bűnüldöző hatóságok által bűncselekmények megelőzése, felderítése, nyomozása és büntetőeljárás alá vonása céljából használt nagy kockázatú MI-rendszereknek. 

(39)A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan embereket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, nevezetesen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért helyénvaló nagy kockázatúnak minősíteni a migrációkezelés, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok által poligráfként és hasonló eszközként, vagy az olyan célokra használni kívánt MI-rendszereket, mint a természetes személyek érzelmi állapotának felderítése; a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése; a természetes személyek vonatkozó okmányai hitelességének ellenőrzése; az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek, valamint a kapcsolódó panaszok elbírálásában a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében. Az e rendelet hatálya alá tartozó, a migrációkezelés, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 2013/32/EU európai parlamenti és tanácsi irányelvben 49 , a 810/2009/EK európai parlamenti és tanácsi rendeletben 50 és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek.

(40)Az igazságszolgáltatásra és a demokratikus folyamatok irányítására szánt egyes MI-rendszereket nagy kockázatúnak kell tekinteni, figyelembe véve a demokráciára, a jogállamiságra, az egyéni szabadságokra, valamint a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jogra gyakorolt potenciálisan jelentős hatásukat. Különösen az esetleges torzítások, hibák és átláthatatlanság kockázatának kezelése érdekében indokolt nagy kockázatúnak minősíteni azokat az MI-rendszereket, amelyek célja, hogy segítsék az igazságügyi hatóságokat a ténybeli és a jogi elemek kutatásában és értelmezésében, valamint a jog konkrét tényekre történő alkalmazásában. Ez a minősítés azonban nem terjedhet ki azokra az MI-rendszerekre, amelyeket olyan, tisztán járulékos adminisztratív tevékenységekre szánnak, amelyek az egyedi esetekben nem befolyásolják a tényleges igazságszolgáltatást; ilyen tevékenységek például a bírósági határozatok, dokumentumok vagy adatok anonimizálása vagy álnevesítése, a személyzet közötti kommunikáció, az adminisztratív feladatok vagy a források elosztása.

(41)Az, hogy egy MI-rendszer e rendelet értelmében nagy kockázatúnak minősül, nem értelmezhető úgy, mint ami azt jelzi, hogy a rendszer használata szükségképpen jogszerű az uniós jog más jogi aktusai vagy az uniós joggal összeegyeztethető nemzeti jogszabályok alapján, például a személyes adatok védelmére, illetve a poligráfok és hasonló eszközök használatára vagy a természetes személyek érzelmi állapotának felderítését szolgáló rendszerek használatára vonatkozó jogi aktusok és jogszabályok alapján. Az ilyen használatra továbbra is kizárólag a Chartából, valamint a másodlagos uniós jog alkalmazandó jogi aktusaiból és a nemzeti jogból eredő hatályos követelményekkel összhangban kerülhet sor. Ez a rendelet nem értelmezhető úgy, mint amely jogalapot teremt a személyes adatok kezelésére, ideértve adott esetben a személyes adatok különleges kategóriáit is.

(42)Az uniós piacon forgalomba hozott vagy más módon üzembe helyezett, nagy kockázatú MI-rendszerek felhasználók és érintett személyek tekintetében jelentkező kockázatainak csökkentése érdekében bizonyos kötelező követelményeket kell alkalmazni, figyelembe véve a rendszer rendeltetését és a szolgáltató által létrehozandó kockázatkezelési rendszert.

(43)A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a használt adatkészletek minősége, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és a felhasználóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Ezek a követelmények szükségesek az egészséget, a biztonságot és az alapvető jogokat érintő kockázatok hatékony csökkentéséhez, ha a rendszer rendeltetésének fényében ez indokolt, és észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, és elkerülhetők a kereskedelem indokolatlan korlátozásai.

(44)A kiváló adatminőség alapvető fontosságú számos MI-rendszer teljesítményéhez, különösen a modellek tanítását magában foglaló technikák alkalmazása esetén, annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszer rendeltetésszerűen és biztonságosan működjön, és ne váljon az uniós jog által tiltott megkülönböztetés forrásává. A kiváló minőségű tanulóadat-, érvényesítésiadat- és tesztadat-készletekhez megfelelő adatkormányzási és adatgazdálkodási gyakorlatokra van szükség. A tanulóadat-, érvényesítésiadat- és tesztadat-készleteknek kellően relevánsnak, reprezentatívnak és hibáktól mentesnek és teljesnek kell lenniük, tekintettel a rendszer rendeltetésére. Ezen adatkészleteknek rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre a nagy kockázatú MI-rendszert használni kívánják. A tanulóadat-, érvényesítésiadat- és tesztadat-készleteknek különösen – a rendeltetésüktől függően szükséges mértékben – figyelembe kell venniük azokat a jellemzőket, tulajdonságokat vagy elemeket, amelyek azon sajátos földrajzi, magatartási vagy funkcionális környezethez vagy kontextushoz kapcsolódnak, amelyben az MI-rendszert használni kívánják. Annak érdekében, hogy megvédjék mások jogát az MI-rendszerek torzulásából eredő megkülönböztetéssel szemben, a szolgáltatóknak képesnek kell lenniük arra, hogy a személyes adatok különleges kategóriáit is kezeljék, jelentős közérdekből, a nagy kockázatú MI-rendszerekkel kapcsolatos torzítás nyomon követésének, észlelésének és korrekciójának biztosítása érdekében.

(45)A nagy kockázatú MI-rendszerek fejlesztése tekintetében bizonyos szereplőknek, például a szolgáltatóknak, a bejelentett szervezeteknek és más érintett jogalanyoknak, például a digitális innovációs központoknak, a tesztelési–kísérleti létesítményeknek és a kutatóknak lehetőséget kell biztosítani, hogy az e rendelethez kapcsolódó tevékenységi területükön belül hozzáférjenek a kiváló minőségű adatkészletekhez és használják őket. A Bizottság által létrehozott közös európai adatterek, valamint a vállalkozások közötti és a kormányzat felé irányuló, közérdekből történő adatmegosztás megkönnyítése alapvető fontosságúak lesznek ahhoz, hogy megbízható, elszámoltatható és megkülönböztetésmentes hozzáférést lehessen biztosítani az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatokhoz. Az egészségügy terén például az európai egészségügyi adattér megkönnyíti az egészségügyi adatokhoz való megkülönböztetésmentes hozzáférést és a mesterségesintelligencia-algoritmusok ezen adatkészletekre való tanítását a magánéletet védő, biztonságos, időszerű, átlátható és megbízható módon, valamint megfelelő intézményi irányítás mellett. Az adatokhoz való hozzáférést biztosító vagy támogató érintett illetékes hatóságok, beleértve az ágazati hatóságokat is, támogathatják az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatok szolgáltatását is.

(46)Az e rendelet szerinti követelményeknek való megfelelés ellenőrzéséhez elengedhetetlen az arra vonatkozó információszerzés, hogy hogyan fejlesztették ki a nagy kockázatú MI-rendszereket, és hogyan működnek teljes életciklusuk során. Ehhez nyilvántartást kell vezetni, és olyan műszaki dokumentációnak kell rendelkezésre állnia, amely tartalmazza az annak értékeléséhez szükséges információkat, hogy az MI-rendszer megfelel-e a vonatkozó követelményeknek. Ezeknek az információknak ki kell terjedniük a rendszer általános jellemzőire, képességeire és korlátaira, algoritmusaira, adataira, tanulási, tesztelési és érvényesítési folyamataira, valamint a vonatkozó kockázatkezelési rendszerrel kapcsolatos dokumentációra. A műszaki dokumentációt naprakészen kell tartani.

(47)Annak az átláthatatlanságnak a kezelése érdekében, amely miatt egyes MI-rendszerek a természetes személyek számára érthetetlenek vagy túlságosan összetettek lehetnek, bizonyos fokú átláthatóságot kell előírni a nagy kockázatú MI-rendszerek tekintetében. A felhasználóknak képesnek kell lenniük arra, hogy értelmezzék és megfelelően használják a rendszer kimenetét. A nagy kockázatú MI-rendszereket ezért megfelelő dokumentációnak és használati utasításoknak kell kísérniük, és azoknak tömör és egyértelmű információkat kell tartalmazniuk, többek között adott esetben az alapvető jogokat és a megkülönböztetést érintő lehetséges kockázatokról.

(48)A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy a természetes személyek felügyelhessék működésüket. E célból a rendszer szolgáltatójának a forgalomba hozatalt vagy üzembe helyezést megelőzően megfelelő emberi felügyeleti intézkedéseket kell meghatároznia. Az ilyen intézkedéseknek adott esetben garantálniuk kell különösen azt, hogy a rendszer olyan beépített működési korlátokkal rendelkezzen, amelyeket maga a rendszer nem tud felülbírálni, és reagáljon az emberi üzemeltetőre, valamint hogy az emberi felügyeletet ellátó természetes személyek rendelkezzenek az e feladat ellátásához szükséges szakértelemmel, képzéssel és felhatalmazással.

(49)A nagy kockázatú MI-rendszereknek életciklusuk során következetesen kell működniük, és a technika általánosan elfogadott, mindenkori állásával összhangban megfelelő szintű pontosságot, stabilitást és kiberbiztonságot kell garantálniuk. A pontosság szintjét és a pontossági mérőszámokat közölni kell a felhasználókkal.

(50)A műszaki stabilitás kulcsfontosságú követelmény a nagy kockázatú MI-rendszerek esetében. E rendszereknek reziliensnek kell lenniük a rendszer korlátaihoz kapcsolódó kockázatokkal (pl. hibák, meghibásodások, következetlenségek, váratlan helyzetek), valamint azokkal a rosszindulatú cselekményekkel szemben, amelyek veszélyeztethetik az MI-rendszer biztonságát és káros vagy egyéb nem kívánatos magatartáshoz vezethetnek. Az e kockázatokkal szembeni védelem hiánya biztonsági hatásokkal járhat, vagy negatívan érintheti az alapvető jogokat, például téves döntések vagy az MI-rendszer által generált hibás vagy torzított kimenetek miatt.

(51)A kiberbiztonság döntő szerepet játszik annak biztosításában, hogy az MI-rendszerek reziliensek legyenek a rendszer sebezhetőségét kihasználó, rosszhiszemű harmadik feleknek a használatuk, viselkedésük, teljesítményük megváltoztatására vagy biztonsági tulajdonságaik veszélyeztetésére irányuló kísérleteivel szemben. Az MI-rendszerek elleni kibertámadások befolyásolhatnak mesterségesintelligencia-specifikus eszközöket, például tanulóadat-készleteket (pl. adatmérgezés) vagy tanított modelleket (pl. ellenséges támadások), vagy kihasználhatják az MI-rendszer digitális eszközeinek vagy az alapul szolgáló IKT-infrastruktúrának a sebezhetőségét. A kockázatoknak megfelelő kiberbiztonsági szint biztosítása érdekében ezért a nagy kockázatú MI-rendszerek szolgáltatóinak megfelelő intézkedéseket kell hozniuk, adott esetben figyelembe véve az alapul szolgáló IKT-infrastruktúrát is.

(52)Az uniós harmonizációs jogszabályok részeként a nagy kockázatú MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára alkalmazandó szabályokat a termékek akkreditálására és piacfelügyeletére vonatkozó előírások megállapításáról szóló 765/2008/EK európai parlamenti és tanácsi rendelettel 51 , a termékek forgalomba hozatalának közös keretrendszeréről szóló 768/2008/EK európai parlamenti és tanácsi határozattal 52 és a piacfelügyeletről és a termékek megfelelőségéről szóló (EU) 2019/1020 európai parlamenti és tanácsi rendelettel 53 (a továbbiakban: a termékek forgalomba hozatalára vonatkozó új jogszabályi keret) összhangban kell megállapítani.

(53)Helyénvaló, hogy egy konkrét, szolgáltatóként meghatározott természetes vagy jogi személy felelősséget vállaljon a nagy kockázatú MI-rendszer forgalomba hozataláért vagy üzembe helyezéséért, függetlenül attól, hogy ez a természetes vagy jogi személy az a személy-e, aki a rendszert megtervezte vagy fejlesztette.

(54)A szolgáltatónak megbízható minőségirányítási rendszert kell létrehoznia, biztosítania kell az előírt megfelelőségértékelési eljárás elvégzését, el kell készítenie a vonatkozó dokumentációt, és létre kell hoznia egy stabil, forgalomba hozatal utáni nyomonkövetési rendszert. A nagy kockázatú MI-rendszereket saját használatra üzembe helyező hatóságok a minőségirányítási rendszerre vonatkozó szabályokat elfogadhatják és végrehajthatják a nemzeti vagy adott esetben regionális szinten elfogadott minőségirányítási rendszer részeként, figyelembe véve az ágazat sajátosságait, valamint a szóban forgó hatóság hatásköreit és szervezetét.

(55)Amennyiben egy olyan nagy kockázatú MI-rendszer, amely a vonatkozó új jogszabályi keretbe tartozó ágazati jogszabály hatálya alatt álló termék biztonsági alkatrésze, nem kerül a terméktől függetlenül forgalomba hozatalra vagy üzembe helyezésre, a végtermék új jogszabályi keretbe tartozó, vonatkozó jogszabályban meghatározott gyártójának teljesítenie kell a szolgáltató e rendeletben meghatározott kötelezettségeit, és különösen biztosítania kell, hogy a végtermékbe beágyazott MI-rendszer megfeleljen e rendelet követelményeinek.

(56)E rendelet végrehajtásának lehetővé tétele és az üzemeltetők számára egyenlő versenyfeltételek megteremtése érdekében, valamint figyelembe véve a digitális termékek rendelkezésre bocsátásának különböző formáit, fontos annak biztosítása, hogy az Unióban letelepedett személyek minden körülmények között megadhassák a hatóságoknak az MI-rendszerek megfelelőségével kapcsolatos összes szükséges információt. Ezért MI-rendszereiknek az Unióban való rendelkezésre bocsátását megelőzően, amennyiben az importőr nem azonosítható, az Unión kívül letelepedett szolgáltatók írásbeli meghatalmazással ki kell nevezzenek egy, az Unióban letelepedett meghatalmazott képviselőt.

(57)Az új jogszabályi keret elveivel összhangban egyedi kötelezettségeket kell megállapítani az érintett gazdasági szereplők, például az importőrök és a forgalmazók számára a jogbiztonság garantálása és a jogszabályi rendelkezések érintett gazdasági szereplők általi tiszteletben tartásának megkönnyítése érdekében.

(58)Tekintettel az MI-rendszerek jellegére, valamint az esetlegesen a használatukkal összefüggésben a biztonságot és az alapvető jogokat érintően felmerülő kockázatokra, ideértve azt is, hogy biztosítani kell az MI-rendszer teljesítményének valós körülmények között történő, megfelelő nyomon követését, helyénvaló konkrét kötelezettségeket meghatározni a felhasználók számára. Különösen fontos, hogy a felhasználók a használati utasításokkal összhangban használják a nagy kockázatú MI-rendszereket, és bizonyos egyéb kötelezettségeket is elő kell írni az MI-rendszerek működésének nyomon követésére és adott esetben a nyilvántartás vezetésére vonatkozóan.

(59)Helyénvaló előirányozni, hogy az MI-rendszer felhasználója az a természetes vagy jogi személy, hatóság, ügynökség vagy más szerv legyen, amelynek felügyelete alatt az MI-rendszert működtetik, kivéve, ha a használatra személyes, nem szakmai jellegű tevékenység keretében kerül sor.

(60)Az MI-értéklánc összetettségére tekintettel az érintett harmadik feleknek, különösen a szoftverek, szoftvereszközök és -összetevők, előtanított modellek és adatok értékesítésében és beszállításában részt vevő harmadik feleknek, illetve a hálózati szolgáltatóknak adott esetben együtt kell működniük egyrészt a szolgáltatókkal és a felhasználókkal annak érdekében, hogy lehetővé tegyék számukra az e rendelet szerinti kötelezettségeknek való megfelelést, másrészt az e rendelet alapján létrehozott illetékes hatóságokkal.

(61)A szabványosításnak kulcsszerepet kell játszania abban, hogy az e rendeletnek való megfelelés biztosítására megfelelő műszaki megoldások álljanak a szolgáltatók rendelkezésére. A szolgáltatók az 1025/2012/EU európai parlamenti és tanácsi rendeletben 54 meghatározott harmonizált szabványoknak való megfelelés révén bizonyíthatják az e rendelet követelményeinek való megfelelést. A Bizottság azonban egységes műszaki előírásokat fogadhatna el azokon a területeken, ahol nincsenek harmonizált szabványok, vagy ahol azok nem elégségesek.

(62)A nagy kockázatú MI-rendszerek magas szintű megbízhatóságának biztosítása érdekében ezeket a rendszereket forgalomba hozataluk vagy üzembe helyezésük előtt megfelelőségértékelésnek kell alávetni.

(63)Az üzemeltetők terheinek minimalizálása és az esetleges párhuzamosságok elkerülése érdekében helyénvaló, hogy azon nagy kockázatú MI-rendszerek esetében, amelyek az új jogszabályi kereten alapuló megközelítés bevezetését követően meglévő uniós harmonizációs jogszabályok hatálya alá tartozó termékekhez kapcsolódnak, az említett MI-rendszerek e rendelet követelményeinek való megfelelése az említett jogszabályokban már előírt megfelelőségértékelés részeként kerüljön értékelésre. E rendelet követelményeinek alkalmazhatósága ezért nem érintheti a vonatkozó új jogszabályi keretbe tartozó jogszabályok szerinti megfelelőségértékelés konkrét logikáját, módszertanát vagy általános szerkezetét. Ez a megközelítés teljes mértékben tükröződik az e rendelet és a [gépekről szóló rendelet] közötti kölcsönhatásban. Míg a gépek biztonsági funkcióit biztosító MI-rendszerek biztonsági kockázataival e rendelet követelményei foglalkoznak, a [gépekről szóló rendelet] egyes különös követelményei garantálni fogják az MI-rendszernek az egész gépbe történő biztonságos integrálását, hogy az ne veszélyeztesse a gép egészének biztonságát. A [gépekről szóló rendelet] ugyanazt a meghatározást alkalmazza az MI-rendszerre, mint e rendelet.

(64)Tekintettel a forgalomba hozatal előtti tanúsítást végző szakemberek által a termékbiztonság területén szerzett kiterjedtebb tapasztalatra és a felmerülő kockázatok eltérő jellegére, helyénvaló – legalább e rendelet alkalmazásának kezdeti szakaszában – korlátozni a harmadik fél által végzett megfelelőségértékelés alkalmazási körét a nem termékekhez kapcsolódó nagy kockázatú MI-rendszerek esetében. Ezért az ilyen rendszerek megfelelőségértékelését főszabályként a szolgáltatónak kell elvégeznie saját felelősségére, kivéve a személyek távoli biometrikus azonosítására használni tervezett MI-rendszereket, amelyek esetében elő kell írni, hogy egy bejelentett szervezet vegyen részt a megfelelőségértékelésben, amennyiben e rendszerek nem tiltottak.

(65)A személyek távoli biometrikus azonosítására használni tervezett MI-rendszerek harmadik fél általi megfelelőségértékelésének elvégzése érdekében a nemzeti illetékes hatóságoknak e rendelet alapján ki kell jelölniük bejelentett szervezeteket, feltéve hogy azok megfelelnek bizonyos, nevezetesen a függetlenségre, a szakértelemre és az összeférhetetlenség hiányára vonatkozó követelményeknek.

(66)Az uniós harmonizációs jogszabályok által szabályozott termékek jelentős módosításának általánosan elfogadott fogalmával összhangban helyénvaló, hogy az MI-rendszereket új megfelelőségértékelésnek vessék alá, valahányszor olyan változás következik be, amely befolyásolhatja a rendszer e rendeletnek való megfelelését, vagy amikor a rendszer rendeltetése megváltozik. Ezen túlmenően azon MI-rendszerek tekintetében, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően is „tanulnak” (azaz automatikusan kiigazítják a funkciók ellátását), szabályokat kell előírni, amelyek megállapítják, hogy az algoritmusnak és a teljesítményének a szolgáltató által előre meghatározott és a megfelelőségértékelés időpontjában értékelt módosítása nem minősül jelentős módosításnak.

(67)A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A tagállamok nem akadályozhatják indokolatlanul az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek és CE-jelöléssel vannak ellátva.

(68)Bizonyos körülmények között az innovatív technológiák gyors rendelkezésre állása döntő fontosságú lehet a személyek egészsége és biztonsága, valamint a társadalom egésze szempontjából. Ezért helyénvaló, hogy a közbiztonsághoz, a természetes személyek életének és egészségének védelméhez, valamint az ipari és kereskedelmi tulajdon védelméhez kapcsolódó kivételes okokból a tagállamok engedélyezhessék olyan MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyeket nem vontak megfelelőségértékelés alá.

(69)A Bizottság és a tagállamok által a mesterséges intelligencia területén végzett munka megkönnyítése, valamint a nyilvánosság számára biztosított átláthatóság növelése érdekében az olyan nagy kockázatú MI-rendszerek szolgáltatói számára, amelyek nem kapcsolódnak a vonatkozó meglévő uniós harmonizációs jogszabályok hatálya alá tartozó termékekhez, elő kell írni, hogy nagy kockázatú MI-rendszereiket regisztrálják egy uniós adatbázisban, amelyet a Bizottságnak kell létrehoznia és kezelnie. Az (EU) 2018/1725 európai parlamenti és tanácsi rendelettel 55 összhangban a Bizottság kell legyen ezen adatbázis adatkezelője. Az adatbázis teljes körű működőképességének biztosítása érdekében a telepítéskor az adatbázis beállítására irányuló eljárásnak része kell legyen a működési előírások Bizottság általi kidolgozása és egy független ellenőrzési jelentés is.

(70)Bizonyos MI-rendszerek, amelyek rendeltetése a természetes személyekkel való interakció vagy tartalom létrehozása, különleges kockázatot jelenthetnek a hasonmássággal való visszaélés vagy a megtévesztés szempontjából, függetlenül attól, hogy nagy kockázatúnak minősülnek-e vagy sem. Bizonyos körülmények között e rendszerek használatára egyedi átláthatósági kötelezettségeket kell alkalmazni, a nagy kockázatú MI-rendszerekre vonatkozó követelmények és kötelezettségek sérelme nélkül. Különösen, a természetes személyeket figyelmeztetni kell, hogy MI-rendszerrel lépnek kapcsolatba, kivéve, ha ez a körülmények és a használat kontextusa alapján nyilvánvaló. Ezenkívül a természetes személyeket figyelmeztetni kell, ha érzelemfelismerő rendszerrel vagy biometrikus kategorizálási rendszerrel kerülnek kapcsolatba. Ezeket az információkat és figyelmeztetéseket a fogyatékossággal élő személyek számára hozzáférhető formátumban kell biztosítani. Ezenfelül azoknak a felhasználóknak, akik MI-rendszert használnak arra, hogy meglévő személyekre, helyekre vagy eseményekre észrevehetően hasonlító, és egy személy számára hamisan hitelesnek tűnő kép, audio- vagy videotartalmat állítsanak elő vagy manipuláljanak, az MI-kimenet ennek megfelelő címkézésével és mesterséges eredetének nyilvánosságra hozatalával kell nyilvánvalóan jelezniük, hogy az adott tartalom mesterségesen került létrehozásra vagy manipulálásra.

(71)A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amelynek tekintetében a szabályozási felügyelet új formáira és biztonságos kísérletezési térre van szükség, a felelősségteljes innovációnak, valamint a megfelelő biztosítékok és kockázatcsökkentő intézkedések integrálásának egyidejű biztosítása mellett. Az innovációbarát, időtálló és a zavarokkal szemben reziliens jogi keret biztosítása érdekében egy vagy több tagállam nemzeti illetékes hatóságait ösztönözni kell arra, hogy hozzanak létre mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezeteket annak érdekében, hogy megkönnyítsék az innovatív MI-rendszerek szigorú szabályozási felügyelet melletti fejlesztését és tesztelését e rendszerek forgalomba hozatala vagy más módon történő üzembe helyezése előtt.

(72)A szabályozói tesztkörnyezetek célja a mesterséges intelligenciával kapcsolatos innováció előmozdítása egy ellenőrzött kísérleti és tesztelési környezet létrehozásával a fejlesztési és forgalomba hozatalt megelőző szakaszban, annak biztosítása érdekében, hogy az innovatív MI-rendszerek megfeleljenek ennek a rendeletnek és más vonatkozó uniós és tagállami jogszabályoknak; céljuk ezenfelül a jogbiztonság növelése az innovátorok számára, az illetékes hatóságok felügyeletének fokozása, valamint hogy az illetékes hatóságok jobban értsék a mesterséges intelligencia használatának lehetőségeit, felmerülő kockázatait és hatásait, továbbá a piacra jutás felgyorsítása, többek között a kis- és középvállalkozások (kkv-k) és az induló innovatív vállalkozások előtt álló akadályok felszámolása révén. Az Unió-szerte egységes végrehajtás és a méretgazdaságosság biztosítása érdekében helyénvaló közös szabályokat megállapítani a szabályozói tesztkörnyezetek végrehajtására vonatkozóan, valamint meghatározni a tesztkörnyezetek felügyeletében részt vevő érintett hatóságok közötti együttműködés keretét. Az (EU) 2016/679 rendelet 6. cikkének (4) bekezdésével és az (EU) 2018/1725 rendelet 6. cikkével összhangban, valamint az (EU) 2016/680 irányelv 4. cikke (2) bekezdésének sérelme nélkül, e rendeletnek jogalapot kell biztosítania az eltérő célból gyűjtött személyes adatok felhasználásához bizonyos MI-rendszerek közérdekű, MI szabályozási tesztkörnyezetben történő fejlesztése érdekében. A tesztkörnyezet résztvevőinek megfelelő biztosítékokat kell garantálniuk, és együtt kell működniük az illetékes hatóságokkal, többek között azáltal, hogy követik iránymutatásukat, valamint gyorsan és jóhiszeműen járnak el annak érdekében, hogy csökkentsék a biztonsággal és az alapvető jogokkal kapcsolatos, a tesztkörnyezetben történő fejlesztés és kísérletezés során esetlegesen felmerülő jelentős kockázatot. A tesztkörnyezet résztvevőinek magatartását figyelembe kell venni, amikor az illetékes hatóságok az (EU) 2016/679 rendelet 83. cikkének (2) bekezdése és az (EU) 2016/680 irányelv 57. cikke szerinti közigazgatási bírság kiszabásáról döntenek.

(73)Az innováció előmozdítása és védelme érdekében különös figyelmet kell fordítani az MI-rendszerek kis szolgáltatóinak és felhasználóinak érdekeire. E célból a tagállamoknak az említett üzemeltetőket célzó kezdeményezéseket kell kidolgozniuk, többek között a figyelemfelkeltésre és a tájékoztatásra vonatkozóan. Ezenkívül a megfelelőségértékelési díjak bejelentett szervezetek általi megállapításakor is figyelembe kell venni a kis szolgáltatók sajátos érdekeit és igényeit. A kötelező dokumentációhoz és a hatóságokkal folytatott kommunikációhoz kapcsolódó fordítási költségek jelentősek lehetnek a szolgáltatók és más üzemeltetők, különösen a kisebb szolgáltatók és üzemeltetők számára. A tagállamoknak lehetőség szerint biztosítaniuk kell, hogy az érintett szolgáltatók dokumentációja és az üzemeltetőkkel folytatott kommunikáció tekintetében általuk meghatározott és elfogadott nyelvek egyike olyan nyelv legyen, amelyet a lehető legtöbb, határon átnyúló tevékenységet folytató felhasználó széles körben ért.

(74)A piaci ismeretek és szakértelem hiányából eredő végrehajtási kockázatok minimalizálása, valamint annak elősegítése érdekében, hogy a szolgáltatók és a bejelentett szervezetek teljesítsék az e rendelet szerinti kötelezettségeiket, az igényalapú MI-platformnak, az európai digitális innovációs központoknak, valamint a Bizottság és a tagállamok által nemzeti vagy uniós szinten létrehozott tesztelési és kísérleti létesítményeknek lehetőség szerint hozzá kell járulniuk e rendelet végrehajtásához. Megbízatásuk és hatáskörük keretein belül különösen technikai és tudományos támogatást nyújthatnak a szolgáltatóknak és a bejelentett szervezeteknek.

(75)Helyénvaló, hogy a Bizottság a lehető legnagyobb mértékben megkönnyítse a vizsgálati és kísérleti létesítményekhez való hozzáférést a vonatkozó uniós harmonizációs jogszabályok bármelyike alapján létrehozott vagy akkreditált olyan szervek, csoportok vagy laboratóriumok számára, amelyek az említett uniós harmonizációs jogszabályok hatálya alá tartozó termékek vagy eszközök megfelelőségértékelésével kapcsolatos feladatokat látnak el. Ez különösen igaz az orvostechnikai eszközök területén működő, az (EU) 2017/745 rendelet és az (EU) 2017/746 rendelet szerinti szakértői testületekre, szakértői laboratóriumokra és referencialaboratóriumokra.

(76)E rendelet zökkenőmentes, hatékony és összehangolt végrehajtásának elősegítése érdekében létre kell hozni a Mesterséges Intelligenciával Foglalkozó Európai Testületet. A Testület felelősségi körébe kell utalni számos tanácsadói feladatot, többek között vélemények, ajánlások, tanácsok vagy iránymutatások kiadását az e rendelet végrehajtásával kapcsolatos kérdésekben, köztük az e rendeletben megállapított követelményekkel kapcsolatos műszaki előírásokat vagy meglévő szabványokat illetően, valamint a Bizottságnak a mesterséges intelligenciával kapcsolatos konkrét kérdésekben nyújtott tanácsadást és segítséget.

(77)A tagállamok kulcsszerepet játszanak e rendelet alkalmazásában és végrehajtásában. E tekintetben minden tagállamnak ki kell jelölnie egy vagy több nemzeti illetékes hatóságot e rendelet alkalmazásának és végrehajtásának felügyelete céljából. A tagállamoknál a szervezeti hatékonyság növelése, valamint annak érdekében, hogy hivatalos kapcsolattartó pontot lehessen kijelölni a nyilvánosság és más, tagállami és uniós szintű partnerhatóságok felé, minden tagállamban ki kell jelölni egy nemzeti hatóságot nemzeti felügyeleti hatóságnak.

(78)Annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszerek szolgáltatói figyelembe vehessék a nagy kockázatú MI-rendszerek használatával kapcsolatos tapasztalatokat rendszereik javítása, valamint a tervezési és fejlesztési folyamat során, vagy időben meghozhassanak bármely lehetséges korrekciós intézkedést, valamennyi szolgáltatónak rendelkeznie kell egy forgalomba hozatal utáni nyomonkövetési rendszerrel. Ez a rendszer annak biztosítása szempontjából is kulcsfontosságú, hogy hatékonyabban és időben lehessen kezelni az olyan MI-rendszerekből eredő lehetséges kockázatokat, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően továbbra is „tanulnak”. Ebben az összefüggésben a szolgáltatók számára elő kell írni, hogy rendelkezzenek olyan rendszerrel, amely jelentést tesz az illetékes hatóságoknak az MI-rendszereik használatából eredő súlyos váratlan eseményekről, illetve az alapvető jogokat védő nemzeti és uniós jogszabályokkal szembeni jogsértésekről.

(79)Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. Amennyiben a megbízatásuk miatt szükséges, az alapvető jogokat védő uniós jog alkalmazását felügyelő nemzeti hatóságoknak vagy szerveknek, beleértve az egyenlőséggel foglalkozó szerveket is, hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz.

(80)A pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok tartalmaznak olyan belső irányítási és kockázatkezelési szabályokat és követelményeket, amelyeket az említett szolgáltatások nyújtása során alkalmazni kell a szabályozott pénzügyi intézményekre, többek között akkor is, ha MI-rendszereket használnak. Az e rendelet szerinti kötelezettségek és a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok releváns szabályai és követelményei koherens alkalmazásának és érvényesítésének biztosítása érdekében a pénzügyi szolgáltatásokra vonatkozó jogszabályok felügyeletéért és végrehajtásáért felelős hatóságokat — beleértve adott esetben az Európai Központi Bankot is – illetékes hatóságnak kell kijelölni e rendelet végrehajtásának felügyelete céljából, ideértve a piacfelügyeleti tevékenységeket is, a szabályozott és felügyelt pénzügyi intézmények által biztosított vagy használt MI-rendszerek tekintetében. A 2013/36/EU európai parlamenti és tanácsi irányelv 56 szerint szabályozott hitelintézetekre alkalmazandó szabályok és az e rendelet közötti összhang további növelése érdekében helyénvaló a megfelelőségértékelési eljárást és a szolgáltatók kockázatkezeléssel, forgalomba hozatal utáni nyomon követéssel és dokumentációval kapcsolatos egyes eljárási kötelezettségeit belefoglalni a 2013/36/EU irányelv szerinti meglévő kötelezettségekbe és eljárásokba. Az átfedések elkerülése érdekében korlátozott eltéréseket kell előirányozni a szolgáltatók minőségirányítási rendszerével és a nagy kockázatú MI-rendszerek felhasználóira rótt nyomonkövetési kötelezettséggel kapcsolatban is, amennyiben ezeket a 2013/36/EU irányelv által szabályozott hitelintézetekre alkalmazni kell.

(81)A nagy kockázatú MI-rendszerektől eltérő MI-rendszerek e rendelet követelményeivel összhangban történő fejlesztése a megbízható mesterséges intelligencia szélesebb körű elterjedéséhez vezethet az Unióban. A nem nagy kockázatú MI-rendszerek szolgáltatóit ösztönözni kell olyan magatartási kódexek létrehozására, amelyek elősegítik a nagy kockázatú MI-rendszerekre vonatkozó kötelező követelmények önkéntes alkalmazását. A szolgáltatókat ösztönözni kell arra is, hogy önkéntes alapon alkalmazzanak további követelményeket, például a környezeti fenntarthatóság, a fogyatékossággal élő személyek számára biztosított akadálymentesség, az érdekelt feleknek az MI-rendszerek tervezésében és fejlesztésében való részvétele, valamint a fejlesztési csoportok sokszínűsége terén. A Bizottság – azon technikai akadályok csökkentésének megkönnyítése érdekében, amelyek gátolják a mesterséges intelligencia fejlesztésére irányuló, határokon átnyúló adatcserét – többek között ágazati jellegű kezdeményezéseket dolgozhat ki, például az adathozzáférési infrastruktúrára, valamint a különböző típusú adatok szemantikai és műszaki interoperabilitására vonatkozóan.

(82)Fontos, hogy azok a termékekhez kapcsolódó MI-rendszerek, amelyek e rendelet értelmében nem nagy kockázatúak, és ezért nem kötelesek megfelelni az e rendeletben meghatározott követelményeknek, mégis biztonságosak legyenek a forgalomba hozatalkor vagy az üzembe helyezéskor. E cél elérése érdekében a 2001/95/EK európai parlamenti és tanácsi irányelvet 57 biztonsági hálóként kellene alkalmazni.

(83)Az illetékes hatóságok uniós és nemzeti szintű megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét.

(84)A tagállamoknak minden szükséges intézkedést meg kell tenniük az e rendeletben foglalt rendelkezések végrehajtásának biztosítása érdekében, többek között azáltal, hogy hatékony, arányos és visszatartó erejű szankciókat állapítanak meg e rendelkezések megsértésének esetére. Egyes konkrét jogsértések esetében a tagállamoknak figyelembe kell venniük az e rendeletben meghatározott mozgástereket és kritériumokat. Az európai adatvédelmi biztosnak hatáskörrel kell rendelkeznie arra, hogy pénzbírságot szabjon ki az e rendelet hatálya alá tartozó uniós intézményekre, ügynökségekre és szervekre.

(85)Annak érdekében, hogy a szabályozási keret szükség esetén kiigazítható legyen, a Bizottságot fel kell hatalmazni arra, hogy az EUMSZ 290. cikkének megfelelően jogi aktusokat fogadjon el abból a célból, hogy módosítsa az I. mellékletben az MI-rendszerek meghatározása tekintetében említett technikákat és megközelítéseket, a II. mellékletben felsorolt uniós harmonizációs jogszabályokat, a III. mellékletben felsorolt nagy kockázatú MI-rendszereket, a IV. mellékletben felsorolt, a műszaki dokumentációra vonatkozó rendelkezéseket, az V. mellékletben szereplő EU-megfelelőségi nyilatkozat tartalmát, a VI. és VII. melléklet szerinti megfelelőségértékelési eljárásokra vonatkozó rendelkezéseket, valamint azokat a rendelkezéseket, amelyek megállapítják, hogy mely nagy kockázatú MI-rendszerekre kell minőségirányítási rendszerek értékelésén és a műszaki dokumentáció értékelésén alapuló megfelelőségértékelési eljárást alkalmazni. Különösen fontos, hogy a Bizottság az előkészítő munkája során megfelelő konzultációkat folytasson, többek között szakértői szinten is, és hogy e konzultációkra a jogalkotás minőségének javításáról szóló, 2016. április 13-i intézményközi megállapodásnak 58 megfelelően kerüljön sor. A felhatalmazáson alapuló jogi aktusok előkészítésében való egyenlő részvétel biztosítása érdekében az Európai Parlament és a Tanács a tagállamok szakértőivel egyidejűleg kézhez kap minden dokumentumot, és szakértőik rendszeresen részt vehetnek a Bizottság felhatalmazáson alapuló jogi aktusok előkészítésével foglalkozó szakértői csoportjainak ülésein.

(86)Annak érdekében, hogy az e rendelet végrehajtását biztosító feltételek egységesek legyenek, végrehajtási hatáskörrel kell felruházni a Bizottságot. Ezt a végrehajtási hatáskört a 182/2011/EU európai parlamenti és tanácsi rendeletnek 59 megfelelően kell gyakorolni.

(87)Mivel e rendelet célját a tagállamok nem tudják kielégítően megvalósítani, az Unió szintjén azonban az intézkedés terjedelme és hatása miatt e célok jobban megvalósíthatók, az Unió intézkedéseket hozhat az EUSZ 5. cikkében foglalt szubszidiaritás elvének megfelelően. Az említett cikkben foglalt arányosság elvének megfelelően ez a rendelet nem lépi túl az említett cél eléréséhez szükséges mértéket.

(88)Ezt a rendeletet... [Kiadóhivatal – kérjük, illesszék be a 85. cikkben megállapított dátumot]-tól/-től kell alkalmazni. Az irányítással és a megfelelőségértékelési rendszerrel kapcsolatos infrastruktúrának azonban ezen időpont előtt működőképesnek kell lennie, ezért a bejelentett szervezetekre és az irányítási struktúrára vonatkozó rendelkezéseket... [Kiadóhivatal – kérjük, illesszék be a dátumot – három hónappal e rendelet hatálybalépését követően]-tól/-től kell alkalmazni. Emellett a tagállamoknak meg kell állapítaniuk a szankciókra, többek között a közigazgatási bírságokra vonatkozó szabályokat, és azokról értesíteniük kell a Bizottságot, és biztosítaniuk kell, hogy azokat e rendelet alkalmazásának kezdőnapjáig megfelelően és hatékonyan végrehajtsák. Ezért a szankciókra vonatkozó rendelkezéseket [Kiadóhivatal – kérjük, illesszék be a dátumot – tizenkét hónappal e rendelet hatálybalépését követően]-tól/-től kell alkalmazni.

(89)Az (EU) 2018/1725 rendelet 42. cikkének (2) bekezdésével összhangban konzultációra került sor az európai adatvédelmi biztossal és az Európai Adatvédelmi Testülettel, aki/amely [...]-án/-én nyilvánított véleményt,

ELFOGADTA EZT A RENDELETET:

I. CÍM

ÁLTALÁNOS RENDELKEZÉSEK

1. cikk
Tárgy

Ez a rendelet a következőket határozza meg:

a)a mesterségesintelligencia-rendszerek (a továbbiakban: MI-rendszerek) Unión belüli forgalomba hozatalára, üzembe helyezésére és használatára vonatkozó harmonizált szabályok;

b)egyes mesterségesintelligencia-gyakorlatokra vonatkozó tilalmak;

c)a nagy kockázatú MI-rendszerekre vonatkozó különös követelmények és az ilyen rendszerek üzemeltetőire vonatkozó kötelezettségek;

d)harmonizált átláthatósági szabályok a természetes személyekkel való interakcióra szánt MI-rendszerek, az érzelemfelismerő rendszerek és a biometrikus kategorizálási rendszerek, valamint a kép-, audio- vagy videotartalom előállítására vagy manipulálására használt MI-rendszerek tekintetében;

e)a piaci nyomon követésre és a piacfelügyeletre vonatkozó szabályok.

2. cikk
Hatály

(1)Ez a rendelet a következőkre vonatkozik:

a)az MI-rendszereket az Unióban forgalomba hozó vagy üzembe helyező szolgáltatók, függetlenül attól, hogy ezek a szolgáltatók letelepedési helye az Unióban vagy harmadik országban található-e;

b)az MI-rendszerek Unión belüli felhasználói;

c)az MI-rendszerek harmadik országban található szolgáltatói és felhasználói, ha a rendszer által előállított kimenetet az Unióban használják.

(2)Az olyan nagy kockázatú MI-rendszerek esetében, amelyek a következő jogi aktusok hatálya alá tartozó termékek vagy rendszerek biztonsági alkatrészei, vagy amelyek önmagukban a következő jogi aktusok hatálya alá tartozó termékek vagy rendszerek, kizárólag e rendelet 84. cikkét kell alkalmazni:

a)300/2008/EK rendelet;

b)167/2013/EU rendelet;

c)168/2013/EU rendelet;

d)2014/90/EU irányelv;

e)(EU) 2016/797 irányelv;

f)(EU) 2018/858 rendelet;

g)(EU) 2018/1139 rendelet;

h)(EU) 2019/2144 rendelet.

(3)Ez a rendelet nem alkalmazandó a kizárólag katonai célokra fejlesztett vagy használt MI-rendszerekre.

(4)Ez a rendelet nem alkalmazandó harmadik országoknak az (1) bekezdés alapján e rendelet hatálya alá tartozó hatóságaira és az (1) bekezdés alapján e rendelet hatálya alá tartozó nemzetközi szervezetekre, amennyiben ezek a hatóságok vagy szervezetek az Unióval, illetve egy vagy több tagállammal folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó nemzetközi megállapodások keretében használnak MI-rendszereket.

(5)Ez a rendelet nem érinti a 2000/31/EK európai parlamenti és tanácsi irányelv 60 II. fejezetének IV. szakaszában foglalt, a közvetítő szolgáltatók felelősségére vonatkozó [a digitális szolgáltatásokról szóló jogszabály megfelelő rendelkezései által felváltandó] rendelkezések alkalmazását.

3. cikk
Fogalommeghatározások

E rendelet alkalmazásában:

1.„mesterségesintelligencia-rendszer (MI-rendszer)”: olyan szoftver, amelyet az I. mellékletben felsorolt technikák és megközelítések közül egy vagy több alkalmazásával fejlesztettek, és amely az ember által meghatározott célkitűzések adott csoportja tekintetében olyan kimeneteket, például tartalmat, előrejelzéseket, ajánlásokat vagy döntéseket képes generálni, amelyek befolyásolják azt a környezetet, amellyel kölcsönhatásba lépnek;

2.„szolgáltató”: olyan természetes vagy jogi személy, hatóság, ügynökség vagy egyéb szerv, aki vagy amely MI-rendszert fejleszt vagy fejleszttet, hogy azt saját neve vagy védjegye alatt – akár fizetés ellenében, akár ingyenesen – forgalomba hozza vagy üzembe helyezze;

3.„kis szolgáltató”: a 2003/361/EK bizottsági ajánlás 61 értelmében mikro- vagy kisvállalkozásnak minősülő szolgáltató;

4.„felhasználó”: bármely olyan természetes vagy jogi személy, hatóság, ügynökség vagy egyéb szerv, aki vagy amely a felügyelete alá tartozó MI-rendszert használja, kivéve, ha az MI-rendszert személyes, nem szakmai jellegű tevékenység során használja;

5.„meghatalmazott képviselő”: az Unióban letelepedett természetes vagy jogi személy, aki vagy amely egy MI-rendszer szolgáltatójától írásbeli meghatalmazást kapott az e rendeletben meghatározott kötelezettségek és eljárások szolgáltató nevében történő teljesítésére, illetve lefolytatására;

6.„importőr”: az Unióban letelepedett természetes vagy jogi személy, aki vagy amely az Unión kívül letelepedett természetes vagy jogi személy nevével vagy védjegyével ellátott MI-rendszert hoz forgalomba vagy helyez üzembe;

7.„forgalmazó”: az a szolgáltatótól vagy importőrtől eltérő természetes vagy jogi személy az ellátási láncban, aki vagy amely az uniós piacon MI-rendszert forgalmaz anélkül, hogy befolyásolná a rendszer jellemzőit;

8.„üzemeltető”: a szolgáltató, a felhasználó, a meghatalmazott képviselő, az importőr és a forgalmazó;

9.„forgalomba hozatal”: valamely MI-rendszer első alkalommal történő forgalmazása az uniós piacon;

10.„forgalmazás”: az uniós piacon egy MI-rendszer kereskedelmi tevékenység keretében történő rendelkezésre bocsátása értékesítés vagy használat céljából, akár ellenérték fejében, akár ingyenesen;

11.„üzembe helyezés”: valamely MI-rendszer első használatra történő rendelkezésre bocsátása közvetlenül a felhasználó számára vagy saját használatra az uniós piacon, a rendeltetésének megfelelően;

12.„rendeltetés”: az MI-rendszer szolgáltató általi tervezett használata, beleértve a konkrét használati körülményeket és feltételeket, a szolgáltató által a használati utasításban, promóciós vagy értékesítési anyagokban és nyilatkozatokban, valamint a műszaki dokumentációban meghatározott információk szerint;

13.„észszerűen előrelátható rendellenes használat”: valamely MI-rendszer olyan módon történő használata, amely nem felel meg a rendeltetésének, de amely észszerűen előrelátható emberi magatartásból vagy más rendszerekkel való kölcsönhatásból eredhet;

14.„termék vagy rendszer biztonsági alkatrésze”: egy termék vagy rendszer olyan alkatrésze, amely az adott termék vagy rendszer tekintetében biztonsági funkciót tölt be, vagy amelynek meghibásodása vagy hibás működése veszélynek teszi ki a személyek egészségét és biztonságát vagy a vagyontárgyakat;

15.„használati utasítás”: a szolgáltató által átadott információ, amely tájékoztatja a felhasználót különösen az MI-rendszer rendeltetéséről és megfelelő használatáról, beleértve azt a konkrét földrajzi, magatartási vagy funkcionális környezetet, amelyen belül a nagy kockázatú MI-rendszert használni kívánják;

16.„MI-rendszer visszahívása”: minden olyan intézkedés, amelynek célja a felhasználók rendelkezésére bocsátott MI-rendszer szolgáltatónak való visszaadása;

17.„MI-rendszer kivonása”: minden olyan intézkedés, amelynek célja valamely MI-rendszer forgalmazásának, bemutatásának és felajánlásának megakadályozása;

18.„MI-rendszer teljesítménye”: valamely MI-rendszer azon képessége, hogy betöltse rendeltetését;

19.„bejelentő hatóság”: a megfelelőségértékelő szervezetek értékeléséhez, kijelöléséhez és bejelentéséhez, valamint nyomon követéséhez szükséges eljárások kialakításáért és lefolytatásáért felelős nemzeti hatóság;

20.„megfelelőségértékelés”: az annak ellenőrzésére szolgáló eljárás, hogy egy adott MI-rendszer vonatkozásában teljesülnek-e az e rendelet III. címének 2. fejezetében meghatározott követelmények;

21.„megfelelőségértékelő szervezet”: olyan szervezet és egyben harmadik fél, amely megfelelőségértékelési tevékenységeket végez, ideértve a tesztelést, a tanúsítást és az ellenőrzést is;

22.„bejelentett szervezet”: az e rendelettel és más vonatkozó uniós harmonizációs jogszabályokkal összhangban kijelölt megfelelőségértékelő szervezet;

23.„jelentős módosítás”: az MI-rendszer forgalomba hozatalát vagy üzembe helyezését követő olyan változtatás, amely befolyásolja az MI-rendszer e rendelet III. címének 2. fejezetében meghatározott követelményeknek való megfelelését, vagy amely az MI-rendszer értékelésének tárgyát képező rendeltetés módosulását eredményezi;

24.„CE megfelelőségi jelölés (CE-jelölés)”: olyan jelölés, amellyel a szolgáltató jelzi, hogy az MI-rendszer megfelel az e rendelet III. címének 2. fejezetében meghatározott követelményeknek, valamint a termékek forgalmazásának feltételeit harmonizáló azon egyéb alkalmazandó uniós jogszabályoknak (a továbbiakban: uniós harmonizációs jogszabályok), amelyek előírják e jelölés feltüntetését;

25.„forgalomba hozatal utáni nyomon követés”: az MI-rendszerek szolgáltatói által végzett minden olyan tevékenység, amelynek célja az általuk forgalomba hozott vagy üzembe helyezett MI-rendszerek használata során szerzett tapasztalatok proaktív gyűjtése és felülvizsgálata annak megállapítása céljából, hogy kell-e haladéktalanul valamilyen korrekciós vagy megelőző intézkedést alkalmazni;

26.„piacfelügyeleti hatóság”: az (EU) 2019/1020 rendelet szerinti tevékenységeket végző és intézkedéseket hozó nemzeti hatóság;

27.„harmonizált szabvány”: az 1025/2012/EU rendelet 2. cikke 1. pontjának c) alpontjában meghatározott európai szabvány;

28.„egységes előírások”: szabványtól eltérő, olyan műszaki megoldásokat tartalmazó dokumentum, amely eszközt biztosít az e rendelet alapján megállapított bizonyos követelményeknek és kötelezettségeknek való megfeleléshez;

29.„tanulóadatok”: olyan adatok, amelyeket egy MI-rendszernek a tanítható paraméterek – többek között a neurális hálózat súlyai – illesztése révén történő tanítására használnak;

30.„érvényesítési adatok”: a betanított MI-rendszer értékelésére, valamint nem tanítható paramétereinek és tanulási folyamatának beállítására használt adatok, többek között a túlillesztés megelőzése érdekében; mivel az érvényesítésiadat-készlet lehet különálló adatkészlet vagy a tanulóadat-készlet része, akár fix, akár változó felosztás formájában;

31.„tesztadatok”: a betanított és érvényesített MI-rendszer független értékeléséhez használt adatok, amelyek célja a rendszer várható teljesítményének a forgalomba hozatala vagy üzembe helyezése előtti megerősítése;

32.„bemeneti adatok”: valamely MI-rendszer számára szolgáltatott vagy általa közvetlenül megszerzett adatok, amelyek alapján a rendszer kimenetet állít elő;

33.„biometrikus adatok”: egy természetes személy fizikai, fiziológiai vagy viselkedési jellemzőire vonatkozó olyan, sajátos technikai adatkezeléssel nyert személyes adatok, amely lehetővé teszik vagy megerősítik a természetes személy egyedi azonosítását, ilyen például az arckép vagy a daktiloszkópiai adat;

34.„érzelemfelismerő rendszer”: olyan MI-rendszer, amely természetes személyek biometrikus adatai alapján azonosítja vagy levezeti a természetes személyek érzelmeit vagy szándékait;

35.„biometrikus kategorizálási rendszer”: olyan MI-rendszer, amely a természetes személyeket biometrikus adataik alapján meghatározott kategóriákba (például nem, kor, hajszín, szemszín, tetoválás, etnikai származás, szexuális vagy politikai irányultság) sorolja;

36.„távoli biometrikus azonosító rendszer”: olyan MI-rendszer, amely a természetes személyeket távolból azonosítja valamely személy biometrikus adatainak a referencia-adatbázisban szereplő biometrikus adatokkal való összehasonlítása révén, és anélkül, hogy az MI-rendszer felhasználójának előzetes tudomása lenne arról, hogy az adott személy jelen lesz-e és azonosítható-e;

37.„»valós idejű« távoli biometrikus azonosító rendszer”: olyan távoli biometrikus azonosító rendszer, amelyben a biometrikus adatok rögzítése, az összehasonlítás és az azonosítása jelentős késleltetés nélkül történik. Ez nemcsak az azonnali azonosítást foglalja magában, hanem az intézkedések kijátszásának elkerülése érdekében a korlátozott rövid késleltetéseket is;

38.„»nem valós idejű« távoli biometrikus azonosító rendszer”: a „valós idejű” távoli biometrikus azonosító rendszertől eltérő távoli biometrikus azonosító rendszer;

39.„nyilvánosság számára hozzáférhető hely”: bármely, a nyilvánosság számára hozzáférhető fizikai terület, függetlenül attól, hogy esetleg alkalmazandók-e bizonyos hozzáférési feltételek;

40.„bűnüldöző hatóság”:

a)olyan közhatalmi szerv, amely a bűncselekmények megelőzését, nyomozását, felderítését vagy büntetőeljárás alá vonását, illetve büntetőjogi szankciók végrehajtását illetően eljárni jogosult, beleértve a közbiztonságot fenyegető veszélyekkel szembeni védelmet és e veszélyek megelőzését; vagy

b)bármely egyéb, olyan szerv vagy más jogalany, amely a tagállami jog alapján közfeladatokat lát el és közhatalmi jogosítványokat gyakorol a bűncselekmények megelőzése, nyomozása, felderítése vagy büntetőeljárás alá vonása, illetve büntetőjogi szankciók végrehajtása céljából, beleértve a közbiztonságot fenyegető veszélyekkel szembeni védelmet és e veszélyek megelőzését;

41.„bűnüldözés”: a bűnüldöző hatóságok által a bűncselekmények megelőzését, nyomozását, felderítését, büntetőeljárás alá vonását vagy büntetőjogi szankciók végrehajtását illetően folytatott tevékenységek, beleértve a közbiztonságot fenyegető veszélyekkel szembeni védelmet és e veszélyek megelőzését is;

42.„nemzeti felügyeleti hatóság”: az a hatóság, amelyre egy tagállam ráruházza az e rendelet végrehajtásának és alkalmazásának, az adott tagállamra bízott tevékenységek összehangolásának, a Bizottság egyedüli kapcsolattartó pontjaként való eljárásnak, valamint a tagállam Mesterséges Intelligenciával Foglalkozó Európai Testületben való képviseletének hatáskörét;

43.„nemzeti illetékes hatóság”: a nemzeti felügyeleti hatóság, a bejelentő hatóság és a piacfelügyeleti hatóság;

44.„súlyos váratlan esemény”: minden olyan váratlan esemény, amely közvetetten vagy közvetlenül a következőkhöz vezet, vezethetett volna vagy vezethet:

a)valamely személy halála, vagy egészségének, vagyonának vagy a környezetnek a súlyos károsodása,

b)kritikus infrastruktúra irányításának és üzemeltetésének súlyos és visszafordíthatatlan zavara.

4. cikk
Az I. melléklet módosításai

A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy módosítsa az I. mellékletben felsorolt technikák és megközelítések listáját annak érdekében, hogy a listát aktualizálja a piaci és technológiai fejlemények fényében, az ott felsorolt technikákhoz és megközelítésekhez hasonló jellemzők alapján.

II. CÍM

TILTOTT MESTERSÉGESINTELLIGENCIA-GYAKORLATOK

5. cikk

(1)Tilosak a következő mesterségesintelligencia-gyakorlatok:

a)olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek szubliminális technikákat alkalmaznak az adott személy tudatán kívül annak érdekében, hogy lényegesen torzítsák egy személy magatartását oly módon, amely e személynek vagy más személynek testi vagy lelki károsodást okoz vagy okozhat;

b)olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek a személyek egy meghatározott csoportjának életkor, testi vagy szellemi fogyatékosság miatt fennálló valamilyen sebezhetőségét kihasználják annak érdekében, hogy torzítsák az adott csoporthoz tartozó személy magatartását oly módon, amely e személynek vagy más személynek testi vagy lelki károsodást okoz vagy okozhat;

c)MI-rendszerek hatóságok általi vagy nevükben történő forgalomba hozatala, üzembe helyezése vagy használata természetes személyek megbízhatóságának értékelésére vagy osztályozására egy bizonyos időszakon keresztül, közösségi magatartásuk, illetve ismert vagy előre jelzett személyes vagy személyiségi tulajdonságok alapján, oly módon, hogy a közösségi pontszám a következő helyzetek egyikéhez vagy mindkettőhöz vezet:

i.bizonyos természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmód olyan szociális kontextusban, amely nem függ össze azzal a kontextussal, amelyben az adatokat eredetileg létrehozták vagy gyűjtötték;

ii.egyes természetes személyekkel vagy azok egész csoportjával szembeni olyan hátrányos vagy kedvezőtlen bánásmód, amely indokolatlan vagy aránytalan közösségi magatartásukhoz vagy annak súlyosságához képest.

d)„valós idejű” távoli biometrikus azonosító rendszerek használata a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból, kivéve, ha és amennyiben az ilyen használat az alábbi célok egyikéhez feltétlenül szükséges:

i.a bűncselekmények konkrét potenciális áldozatainak célzott felkutatása, ideértve az eltűnt gyermekeket is;

ii.természetes személyek életét vagy fizikai biztonságát fenyegető konkrét, jelentős és közvetlen veszély, illetve terrortámadás megelőzése;

iii.a 2002/584/IB tanácsi kerethatározat 62 2. cikkének (2) bekezdésében említett bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítése, lokalizálása, azonosítása vagy büntetőeljárás alá vonása, amennyiben e bűncselekmények esetében az érintett tagállam joga szerint e tagállamban a büntetési tétel felső határa legalább háromévi szabadságvesztés vagy szabadságelvonással járó intézkedés.

(2)A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, az (1) bekezdés d) pontjában említett célok bármelyike tekintetében történő használata során figyelembe kell venni a következőket:

a)a lehetséges használatot eredményező helyzet jellege, különösen a rendszer használatának hiányában okozott kár súlyossága, valószínűsége és mértéke;

b)a rendszer használatának valamennyi érintett személy jogaira és szabadságaira gyakorolt következményei, különösen e következmények súlyossága, valószínűsége és mértéke.

Emellett a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, az (1) bekezdés d) pontjában említett célok bármelyike tekintetében történő használatának meg kell felelnie a használattal kapcsolatos szükséges és arányos biztosítékoknak és feltételeknek, különösen az időbeli, földrajzi és személyi korlátozások tekintetében.

(3)Ami az (1) bekezdés d) pontját és a (2) bekezdést illeti, a „valós idejű” távoli biometrikus azonosító rendszer nyilvánosság számára hozzáférhető helyeken, bűnüldözési célokra történő minden egyes használata a használat helye szerinti tagállam igazságügyi hatósága vagy független közigazgatási hatósága által kiadott előzetes engedélyhez kötött, amelyet indokolt megkeresésre, a (4) bekezdésben említett nemzeti jogszabályok részletes szabályaival összhangban bocsátanak ki. Kellően indokolt sürgős helyzetben azonban a rendszer használata engedély nélkül is megkezdhető, és az engedélyt elegendő a használat alatt vagy után megkérni.

Az illetékes igazságügyi vagy közigazgatási hatóság csak akkor adja meg az engedélyt, ha az elé terjesztett objektív bizonyítékok vagy egyértelmű jelzések alapján meggyőződött arról, hogy a szóban forgó „valós idejű” távoli biometrikus azonosító rendszer használata az (1) bekezdés d) pontjában meghatározott, a megkeresésben megjelölt célok valamelyikének eléréséhez szükséges és azzal arányos. A megkeresésről való döntés során az illetékes igazságügyi vagy közigazgatási hatóság figyelembe veszi a (2) bekezdésben említett tényezőket.

(4)A tagállamok dönthetnek úgy, hogy az (1) bekezdés d) pontjában, valamint a (2) és (3) bekezdésben felsorolt korlátokon belül és feltételek mellett lehetővé teszik a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatának teljes vagy részleges engedélyezését. Az említett tagállam nemzeti jogában meghatározza a (3) bekezdésben említett engedélyek kérelmezésére, kiadására és felhasználására, valamint az azokkal kapcsolatos felügyeletre vonatkozó szükséges részletes szabályokat. Ezekben a szabályokban azt is meg kell határozni, hogy az (1) bekezdés d) pontjában felsorolt célok közül melyek tekintetében, és az (1) bekezdés d) pontjának iii. alpontjában említett bűncselekmények közül melyek tekintetében engedélyezhető az illetékes hatóságok számára az említett rendszerek bűnüldözési célú használata.

III. CÍM

NAGY KOCKÁZATÚ MI-RENDSZEREK

1. fejezet

MI-RENDSZEREK NAGY KOCKÁZATÚKÉNT VALÓ BESOROLÁSA

6. cikk
A nagy kockázatú MI-rendszerekre vonatkozó besorolási szabályok

(1)Tekintet nélkül arra, hogy egy MI-rendszert az a) és b) pontban említett termékektől függetlenül hoznak forgalomba vagy helyeznek üzembe, az említett MI-rendszer nagy kockázatúnak minősül, ha mindkét alábbi feltétel teljesül:

a)az MI-rendszert a II. mellékletben felsorolt uniós harmonizációs jogszabályok hatálya alá tartozó termék biztonsági alkatrészeként vagy önmagában ilyen termékként kívánják használni;

b)azon terméket, amelynek biztonsági alkatrésze az MI-rendszer, vagy magát az MI-rendszert mint terméket a II. mellékletben felsorolt uniós harmonizációs jogszabályok értelmében a termék forgalomba hozatala vagy üzembe helyezése céljából harmadik fél által végzett megfelelőségértékelésnek kell alávetni.

(2)Az (1) bekezdésben említett nagy kockázatú MI-rendszerek mellett a III. mellékletben említett MI-rendszereket is nagy kockázatúnak kell tekinteni.

7. cikk
A III. melléklet módosításai

(1)A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy aktualizálja a III. mellékletben szereplő listát nagy kockázatú MI-rendszerek hozzáadásával, amennyiben mindkét alábbi feltétel teljesül:

a)az MI-rendszereket a III. melléklet 1–8. pontjában felsorolt területek valamelyikén kívánják használni;

b)az MI-rendszerek az egészségben és a biztonságban okozott kár vagy az alapvető jogokat érő kedvezőtlen hatás tekintetében olyan kockázattal járnak, amely – súlyosságát és előfordulásának valószínűségét tekintve – megegyezik a III. mellékletben már említett nagy kockázatú MI-rendszerek által okozott kár vagy kedvezőtlen hatás kockázatával vagy annál nagyobb.

(2)Az (1) bekezdés alkalmazásában annak értékelésekor, hogy egy MI-rendszer által az egészségben és biztonságban okozott kár kockázata vagy az általa az alapvető jogokra gyakorolt kedvezőtlen hatás kockázata a III. mellékletben már említett, nagy kockázatú MI-rendszerek által okozott kár kockázatával megegyező vagy annál nagyobb-e, a Bizottság a következő kritériumokat veszi figyelembe:

a)az MI-rendszer rendeltetése;

b)az MI-rendszer tényleges vagy valószínűsíthető használatának mértéke;

c)az, hogy egy MI-rendszer használata milyen mértékben okozott már kárt az egészségben és a biztonságban, vagy milyen kedvezőtlen hatást gyakorolt az alapvető jogokra, vagy milyen jelentős aggodalomra adott okot az ilyen kár vagy kedvezőtlen hatás bekövetkezésével kapcsolatban, amint azt a nemzeti illetékes hatóságokhoz benyújtott jelentések vagy dokumentált állítások bizonyítják;

d)az ilyen kár vagy kedvezőtlen hatás lehetséges mértéke, különösen annak intenzitása tekintetében és azt illetően, hogy érinthet-e több személyt;

e)az, hogy a potenciálisan károsult vagy kedvezőtlen hatásnak kitett személyek milyen mértékben függnek az MI-rendszerrel elért kimenettől, különösen azért, mert gyakorlati vagy jogi okokból észszerűen nem lehet a kimeneten kívül maradni;

f)az, hogy a potenciálisan károsult vagy kedvezőtlen hatásnak kitett személyek milyen mértékben vannak kiszolgáltatott helyzetben az MI-rendszer felhasználójával szemben, különösen az erőviszonyok, a tudás, a gazdasági vagy társadalmi körülmények vagy az életkor kiegyensúlyozatlansága miatt;

g)az MI-rendszerrel létrehozott kimenet mennyire könnyen visszafordítható, amely esetben a személyek egészségére vagy biztonságára hatást gyakorló kimenetek nem tekinthetők könnyen visszafordíthatónak;

h)a hatályos uniós jogszabályok milyen mértékben rendelkeznek a következőkről:

i.hatékony jogorvoslati intézkedések az MI-rendszerek jelentette kockázatokkal kapcsolatban, a kártérítési keresetek kizárásával;

ii.hatékony intézkedések e kockázatok megelőzésére vagy jelentős minimalizálására.

2. fejezet

A nagy kockázatú MI-rendszerekre vonatkozó követelmények

8. cikk
A követelményeknek való megfelelés

(1)A nagy kockázatú MI-rendszereknek meg kell felelniük az e fejezetben meghatározott követelményeknek.

(2)Az említett követelményeknek való megfelelés biztosítása során figyelembe kell venni a nagy kockázatú MI-rendszer rendeltetését és a 9. cikkben említett kockázatkezelési rendszert.

9. cikk
Kockázatkezelési rendszer

(1)A nagy kockázatú MI-rendszerek tekintetében kockázatkezelési rendszert kell létrehozni, bevezetni, dokumentálni és fenntartani.

(2)A kockázatkezelési rendszer olyan megszakítás nélkül végzett iteratív folyamat, amely a nagy kockázatú MI-rendszer egész életciklusát végigkíséri, és amelyhez az adatok rendszeres és szisztematikus aktualizálására van szükség. A folyamatnak a következő lépéseket kell tartalmaznia:

a)az egyes nagy kockázatú MI-rendszerekhez kapcsolódó ismert és előre látható kockázatok azonosítása és elemzése;

b)a nagy kockázatú MI-rendszer rendeltetésszerű használata, valamint észszerűen előre látható rendellenes használata esetén felmerülő kockázatok becslése és értékelése;

c)egyéb esetlegesen felmerülő kockázatok értékelése a 61. cikkben említett forgalomba hozatal utáni nyomonkövetési rendszerből gyűjtött adatok elemzése alapján;

d)megfelelő kockázatkezelési intézkedések elfogadása a következő bekezdésekben foglalt rendelkezésekkel összhangban.

(3)A (2) bekezdés d) pontjában említett kockázatkezelési intézkedéseknek kellően figyelembe kell venniük az e 2. fejezetben meghatározott követelmények együttes alkalmazásából eredő hatásokat és lehetséges kölcsönhatásokat. Figyelembe kell venniük a technika általánosan elismert állását, többek között amint az a vonatkozó harmonizált szabványokban vagy egységes előírásokban megjelenik.

(4)A (2) bekezdés d) pontjában említett kockázatkezelési intézkedéseket úgy kell kialakítani, hogy az egyes veszélyekhez kapcsolódó minden fennmaradó kockázatot, valamint a nagy kockázatú MI-rendszerek teljes fennmaradó kockázatát elfogadhatónak ítéljék, feltéve, hogy a nagy kockázatú MI-rendszert rendeltetésszerűen vagy észszerűen előre láthatóan rendellenesen használják. Ezeket a fennmaradó kockázatokat közölni kell a felhasználóval.

A legmegfelelőbb kockázatkezelési intézkedések meghatározásakor a következőket kell biztosítani:

a)a kockázatok megszüntetése vagy csökkentése, amennyire lehetséges, megfelelő tervezés és fejlesztés révén;

b)adott esetben a nem megszüntethető kockázatokkal kapcsolatos megfelelő kockázatcsökkentő és ellenőrző intézkedések végrehajtása;

c)a 13. cikk szerinti megfelelő tájékoztatás nyújtása, különösen az e cikk (2) bekezdésének b) pontjában említett kockázatokra vonatkozóan, valamint adott esetben a felhasználók képzése.

A nagy kockázatú MI-rendszer használatával kapcsolatos kockázatok megszüntetése vagy csökkentése során kellő figyelmet kell fordítani a felhasználó által elvárt műszaki ismeretekre, tapasztalatokra, oktatásra és képzésre, valamint arra a környezetre, amelyben a rendszert használni kívánják.

(5)A nagy kockázatú MI-rendszereket tesztelni kell a legmegfelelőbb kockázatkezelési intézkedések azonosítása céljából. A tesztelés biztosítja, hogy a nagy kockázatú MI-rendszerek következetesen működjenek a rendeltetésüknek megfelelően, és megfeleljenek az e fejezetben meghatározott követelményeknek.

(6)A tesztelési eljárásoknak alkalmasnak kell lenniük az MI-rendszer rendeltetésének teljesítésére, és nem kell túllépniük az e cél eléréséhez szükséges mértéket.

(7)A nagy kockázatú MI-rendszerek tesztelését adott esetben a fejlesztési folyamat során bármikor, de mindenképpen a forgalomba hozatalt vagy az üzembe helyezést megelőzően kell elvégezni. A tesztelést a nagy kockázatú MI-rendszer rendeltetésének megfelelő, előre meghatározott mérőszámok és valószínűségi küszöbértékek alapján kell lefolytatni.

(8)Az (1)–(7) bekezdésben ismertetett kockázatkezelési rendszer végrehajtása során különös figyelmet kell fordítani arra, hogy a nagy kockázatú MI-rendszerhez a gyermekek valószínűleg hozzáférnek-e, vagy az hatással lesz-e rájuk.

(9)A 2013/36/EU irányelv által szabályozott hitelintézetek esetében az (1)–(8) bekezdésben leírt szempontok az ezen intézmények által az említett irányelv 74. cikke alapján létrehozott kockázatkezelési eljárások részét képezik.

10. cikk
Adatok és adatkormányzás

(1)A modellek adatokkal való tanítását magukban foglaló technikákat használó nagy kockázatú MI-rendszereket a (2)–(5) bekezdésben említett minőségi kritériumoknak megfelelő tanulóadat-, érvényesítésiadat- és tesztadatkészletek alapján kell fejleszteni.

(2)A tanulóadat-, érvényesítésiadat- és tesztadatkészleteket megfelelő adatkormányzási és adatgazdálkodási gyakorlatoknak kell alávetni. Ezek a gyakorlatok különösen a következőket érintik:

a)a vonatkozó tervezési döntések;

b)adatgyűjtés;

c)releváns adat-előkészítési műveletek, mint például annotáció, címkézés, tisztítás, gazdagítás és összesítés;

d)a vonatkozó feltételezések megfogalmazása, különös tekintettel azokra az információkra, amelyeket az adatoknak mérniük kell és meg kell jeleníteniük;

e)a szükséges adatkészletek elérhetőségének, mennyiségének és alkalmasságának előzetes értékelése;

f)az esetleges torzítások vizsgálata;

g)az esetleges adathiányok vagy hiányosságok azonosítása, valamint e hiányok és hiányosságok kezelésének módja.

(3)A tanulóadat-, érvényesítésiadat- és tesztadatkészleteknek relevánsnak, reprezentatívnak, hibáktól mentesnek és teljesnek kell lenniük. Rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között adott esetben azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre a nagy kockázatú MI-rendszert használni kívánják. Az adatkészletek e jellemzői teljesíthetők az egyes adatkészleteknek vagy azok kombinációjának a szintjén.

(4)A tanulóadat-, érvényesítésiadat- és tesztadatkészletek – a rendeltetéstől függően szükséges mértékben – figyelembe veszik azokat a jellemzőket vagy elemeket, amelyek azon sajátos földrajzi, magatartási vagy funkcionális környezethez kapcsolódnak, amelyben a nagy kockázatú MI-rendszert használni kívánják.

(5)Amennyiben ez a nagy kockázatú MI-rendszerekkel kapcsolatosan a torzítás nyomon követésének, észlelésének és korrekciójának biztosításához feltétlenül szükséges, az ilyen rendszerek szolgáltatói kezelhetik a személyes adatoknak az (EU) 2016/679 rendelet 9. cikkének (1) bekezdésében, az (EU) 2016/680 irányelv 10. cikkében és az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdésében említett különleges kategóriáit, a természetes személyek alapvető jogaira és szabadságaira vonatkozó megfelelő biztosítékokra is figyelemmel, ideértve a legkorszerűbb biztonsági és magánéletvédelmi intézkedések – köztük az álnevesítés, vagy ha az anonimizálás jelentősen befolyásolja a kitűzött célt, a titkosítás – további felhasználására és használatára vonatkozó technikai korlátokat is.

(6)A modellek adatokkal való tanítását magukban foglaló technikákat használó nagy kockázatú MI-rendszereken kívüli nagy kockázatú MI-rendszerek fejlesztésére megfelelő adatkormányzási és adatgazdálkodási gyakorlatokat kell alkalmazni annak biztosítása érdekében, hogy e nagy kockázatú MI-rendszerek megfeleljenek a (2) bekezdésnek.

11. cikk
Műszaki dokumentáció

(1)A nagy kockázatú MI-rendszerek műszaki dokumentációját a rendszer forgalomba hozatala vagy üzembe helyezése előtt kell elkészíteni, és naprakészen kell tartani.

A műszaki dokumentációt úgy kell összeállítani, hogy bizonyítsa, a nagy kockázatú MI-rendszer megfelel az e fejezetben meghatározott követelményeknek, és hogy a nemzeti illetékes hatóságok és a bejelentett szervezetek minden szükséges információhoz hozzájussanak belőle annak értékeléséhez, hogy az MI-rendszer megfelel-e az említett követelményeknek. A műszaki dokumentációnak legalább a IV. mellékletben meghatározott elemeket tartalmaznia kell.

(2)Olyan termékhez kapcsolódó nagy kockázatú MI-rendszer forgalombahozatala vagy üzembe helyezése esetén, amelyre a II. melléklet A. szakaszában felsorolt jogi aktusok vonatkoznak, egyetlen műszaki dokumentációt kell készíteni, amely tartalmazza a IV. mellékletben meghatározott összes információt, valamint az említett jogi aktusokban előírt információkat.

(3)A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy szükség esetén módosítsa a IV. mellékletet annak biztosítása érdekében, hogy a műszaki dokumentáció a műszaki fejlődés fényében minden szükséges információt tartalmazzon annak értékeléséhez, hogy a rendszer megfelel-e az e fejezetben meghatározott követelményeknek.

12. cikk
Nyilvántartás

(1)A nagy kockázatú MI-rendszereket olyan képességekkel kell megtervezni és fejleszteni, amelyek lehetővé teszik az események automatikus rögzítését („naplózás”) a nagy kockázatú MI-rendszerek működése közben. Ezeknek a naplózási képességeknek meg kell felelniük az elismert szabványoknak vagy az egységes előírásoknak.

(2)A naplózási képességeknek az MI-rendszer teljes életciklusa során biztosítaniuk kell az MI-rendszer működésének a rendszer rendeltetésének megfelelő szintű nyomonkövethetőségét.

(3)A naplózási képességeknek különösen lehetővé kell tenniük a nagy kockázatú MI-rendszer működésének nyomon követését olyan helyzetek előfordulása tekintetében, amelyek eredményeként az MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, vagy amelyek jelentős módosításhoz vezetnek; e képességek továbbá megkönnyítik a 61. cikkben említett, forgalomba hozatal utáni nyomon követést.

(4)A III. melléklet (1) bekezdésének a) pontjában említett nagy kockázatú MI-rendszerek esetében a naplózási képességnek legalább a következőket kell biztosítania:

a)a rendszer minden egyes használati időszakának rögzítése (az egyes használatok kezdő dátuma és időpontja, valamint záró dátuma és időpontja);

b)az a referencia-adatbázis, amelyhez viszonyítva a rendszer ellenőrizte a bemeneti adatokat;

c)azok a bemeneti adatok, amelyek esetében a keresés egyezést eredményezett;

d)a 14. cikk (5) bekezdésében említettek szerint az eredmények ellenőrzésében részt vevő természetes személyek azonosítása.

13. cikk
Átláthatóság és a felhasználók tájékoztatása

(1)A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy működésük kellően átlátható legyen ahhoz, hogy a felhasználók értelmezhessék a rendszer kimenetét és megfelelően használhassák azt. A felhasználó és a szolgáltató e cím 3. fejezetében meghatározott vonatkozó kötelezettségeinek való megfelelés érdekében megfelelő típusú és mértékű átláthatóságot kell biztosítani.

(2)A nagy kockázatú MI-rendszerekhez megfelelő digitális formátumú vagy egyéb használati utasítást kell mellékelni, amely tömör, teljes körű, pontos és egyértelmű, a felhasználók számára releváns, hozzáférhető és érthető információkat tartalmaz.

(3)A (2) bekezdésben említett információk a következőket határozzák meg:

a)a szolgáltatónak és – ha van ilyen – a meghatalmazott képviselőjének a kiléte és elérhetőségei;

b)a nagy kockázatú MI-rendszer jellemzői, képességei és teljesítményének korlátai, beleértve a következőket:

i.a rendszer rendeltetése;

ii.a 15. cikkben említett pontosság, stabilitás és kiberbiztonság azon várható szintje, amelyhez viszonyítva a nagy kockázatú MI-rendszert tesztelték és érvényesítették, valamint minden olyan ismert és előre látható körülmény, amely befolyásolhatja a pontosság, a stabilitás és a kiberbiztonság várható szintjét;

iii.bármely ismert vagy előre látható, a nagy kockázatú MI-rendszer rendeltetésszerű használatával vagy az észszerűen előrelátható rendellenes használatával összefüggő körülmény, amely kockázatot jelenthet az egészségre és a biztonságra vagy az alapvető jogokra nézve;

iv.a rendszer teljesítménye azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre a rendszert használni kívánják;

v.adott esetben a bemeneti adatokra vonatkozó előírások vagy az alkalmazott tanulóadat-, érvényesítésiadat- és tesztadatkészletekre vonatkozó egyéb releváns információk, figyelembe véve az MI-rendszer rendeltetését;

c)a nagy kockázatú MI-rendszert és annak teljesítményét érintő, a szolgáltató által az első megfelelőségértékelés időpontjában előre meghatározott változások, ha vannak ilyenek;

d)a 14. cikkben említett emberi felügyeleti intézkedések, beleértve az MI-rendszerek kimeneteinek felhasználók általi értelmezését megkönnyítő technikai intézkedéseket;

e)a nagy kockázatú MI-rendszer várható élettartama, valamint az említett MI-rendszer megfelelő működésének biztosításához szükséges karbantartási és gondozási intézkedések, többek között a szoftverfrissítések tekintetében.

14. cikk
Emberi felügyelet

(1)A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni – többek között megfelelő ember–gép interfész eszközökkel –, hogy azokat az MI-rendszer használatának időtartama alatt természetes személyek hatékonyan felügyelhessék.

(2)Az emberi felügyelet célja az egészséget, a biztonságot vagy az alapvető jogokat érintő azon kockázatok megelőzése vagy minimálisra csökkentése, amelyek a nagy kockázatú MI-rendszer rendeltetésszerű használata vagy észszerűen előrelátható rendellenes használata esetén merülhetnek fel, különösen, ha ezek a kockázatok az e fejezetben meghatározott egyéb követelmények alkalmazása ellenére tartósan fennállnak.

(3)Az emberi felügyeletet az alábbi intézkedések egyikével vagy mindegyikével kell biztosítani:

a)a szolgáltató által a forgalomba hozatalt vagy üzembe helyezést megelőzően azonosított és – amennyiben műszakilag megvalósítható – a nagy kockázatú MI-rendszerbe beépített intézkedések;

b)a szolgáltató által a nagy kockázatú MI-rendszer forgalomba hozatala vagy üzembe helyezése előtt azonosított, és a felhasználó általi alkalmazásra megfelelő intézkedések.

(4)A (3) bekezdésben említett intézkedéseknek lehetővé kell tenniük az emberi felügyeletet ellátó személyek számára, hogy a körülményeknek megfelelően:

a)teljes mértékben megértsék a nagy kockázatú MI-rendszer kapacitásait és korlátait, és képesek legyenek megfelelően nyomon követni annak működését annak érdekében, hogy a rendellenességek, zavarok és váratlan teljesítmény jeleit a lehető leghamarabb fel lehessen tárni és kezelni lehessen;

b)tudatában legyenek annak, hogy előfordulhat, hogy automatikusan vagy túlzott mértékben támaszkodnak egy nagy kockázatú MI-rendszer által előállított kimenetre („automatizálási torzítás”), különösen azon nagy kockázatú MI-rendszerek esetében, amelyek információval vagy ajánlásokkal szolgálnak a természetes személyek által meghozandó döntésekhez;

c)képesek legyenek a nagy kockázatú MI-rendszer kimenetének helyes értelmezésére, figyelembe véve különösen a rendszer jellemzőit, valamint a rendelkezésre álló értelmezési eszközöket és módszereket;

d)képesek legyenek arra, hogy bármely konkrét helyzetben úgy döntsenek, hogy nem használják a nagy kockázatú MI-rendszert vagy más módon figyelmen kívül hagyják, felülírják vagy visszafordítják a nagy kockázatú MI-rendszer kimenetét;

e)képesek legyenek beavatkozni a nagy kockázatú MI-rendszer működésébe, vagy megszakítani a rendszert egy „stop” gomb vagy hasonló eljárás segítségével.

(5)A III. melléklet 1.a) pontjában említett nagy kockázatú MI-rendszerek esetében a (3) bekezdésben említett intézkedések biztosítják ezenfelül, hogy a felhasználó a rendszerből származó azonosítás alapján ne hozzon intézkedést vagy döntést, kivéve, ha ezt legalább két természetes személy ellenőrizte és megerősítette.

15. cikk
Pontosság, stabilitás és kiberbiztonság

(1)A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy rendeltetésük fényében megfelelő szintű pontosságot, stabilitást és kiberbiztonságot érjenek el, és teljes életciklusuk során ezek tekintetében következetesen teljesítsenek.

(2)A nagy kockázatú MI-rendszerek pontossági szintjeit és vonatkozó pontossági mérőszámait a mellékelt használati utasításban kell feltüntetni.

(3)A nagy kockázatú MI-rendszereknek reziliensnek kell lenniük azon hibák, meghibásodások vagy következetlenségek tekintetében, amelyek a rendszeren vagy a rendszer működési környezetén belül előfordulhatnak, különösen a természetes személyekkel vagy más rendszerekkel való kölcsönhatásuk miatt.

A nagy kockázatú MI-rendszerek stabilitása elérhető műszaki redundanciamegoldásokkal, amelyek magukban foglalhatnak biztonsági vagy vészüzemi terveket is.

Azokat a nagy kockázatú MI-rendszereket, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően is tanulnak, úgy kell fejleszteni, hogy a jövőbeli műveletek bemeneteként használt kimenetek („visszacsatolási hurkok”) miatt esetleg torzított kimeneteket kielégítően kezeljék megfelelő kockázatcsökkentő intézkedésekkel.

(4)A nagy kockázatú MI-rendszereknek reziliensnek kell lenniük a jogosulatlan harmadik felek arra irányuló kísérleteivel szemben, hogy a rendszer sebezhetőségének kiaknázása révén megváltoztassák a rendszer használatát vagy teljesítményét.

A nagy kockázatú MI-rendszerek kiberbiztonságának biztosítását célzó műszaki megoldásoknak meg kell felelniük a vonatkozó körülményeknek és a kockázatoknak.

Az MI-specifikus sebezhetőségek kezelésére szolgáló műszaki megoldásoknak adott esetben magukban kell foglalniuk a tanulóadat-készlet manipulálását megkísérlő támadásoknak („adatmérgezés”), a modell hibájának előidézésére szolgáló bemeneteknek („ellenséges példák”) vagy a modellhibáknak a megelőzésére és ellenőrzésére irányuló intézkedéseket.

3. fejezet

A NAGY KOCKÁZATÚ MI-RENDSZEREK SZOLGÁLTATÓIRA ÉS FELHASZNÁLÓIRA, valamint más felekre vonatkozó KÖTELEZETTSÉGEK

16. cikk
A nagy kockázatú MI-rendszerek szolgáltatóinak kötelezettségei

A nagy kockázatú MI-rendszerek szolgáltatói:

a)biztosítják, hogy nagy kockázatú MI-rendszereik megfeleljenek az e cím 2. fejezetében meghatározott követelményeknek;

b)a 17. cikknek megfelelő minőségirányítási rendszerrel rendelkeznek;

c)elkészítik a nagy kockázatú MI-rendszer műszaki dokumentációját;

d)megőrzik a nagy kockázatú MI-rendszereik által automatikusan generált naplókat, ha azok az ellenőrzésük alatt állnak;

e)biztosítják, hogy a nagy kockázatú MI-rendszert forgalomba hozatala vagy üzembe helyezése előtt alávessék a vonatkozó megfelelőségértékelési eljárásnak;

f)eleget tesznek az 51. cikkben említett nyilvántartásbavételi kötelezettségeknek;

g)megteszik a szükséges korrekciós intézkedéseket, ha a nagy kockázatú MI-rendszer nem felel meg az e cím 2. fejezetében meghatározott követelményeknek;

h)tájékoztatják azon tagállamok nemzeti illetékes hatóságait, amelyekben az MI-rendszert rendelkezésre bocsátották vagy üzembe helyezték, valamint adott esetben a bejelentett szervezetet a meg nem felelésről és a meghozott korrekciós intézkedésekről;

i)feltüntetik a CE-jelölést a nagy kockázatú MI-rendszereiken, hogy jelezzék az e rendeletnek való megfelelést a 49. cikkel összhangban;

j)a nemzeti illetékes hatóság kérésére igazolják, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek.

17. cikk
Minőségirányítási rendszer

(1)A nagy kockázatú MI-rendszerek szolgáltatói minőségirányítási rendszert vezetnek be, amely biztosítja az e rendeletnek való megfelelést. Ezt a rendszert írásbeli szabályzatok, eljárások és utasítások formájában szisztematikus és rendezett módon dokumentálni kell, és annak legalább a következő szempontokra kell kiterjednie:

a)a jogszabályi rendelkezések tiszteletben tartását célzó stratégia, beleértve a megfelelőségértékelési eljárásoknak, valamint a nagy kockázatú MI-rendszer módosításának kezelését célzó eljárásoknak való megfelelést is;

b)a nagy kockázatú MI-rendszer tervezéséhez, tervezés-ellenőrzéséhez és tervezés-igazolásához alkalmazandó technikák, eljárások és módszeres intézkedések;

c)a nagy kockázatú MI-rendszer fejlesztésére, minőség-ellenőrzésére és minőségbiztosítására alkalmazandó technikák, eljárások és módszeres intézkedések;

d)a nagy kockázatú MI-rendszer fejlesztése előtt, alatt és után végrehajtandó vizsgálati, tesztelési és érvényesítési eljárások, valamint azok elvégzésének gyakorisága;

e)az alkalmazandó műszaki előírások, beleértve a szabványokat, valamint – amennyiben a vonatkozó harmonizált szabványokat nem alkalmazzák teljes mértékben – az annak biztosítására szolgáló eszközök, hogy a nagy kockázatú MI-rendszer megfeleljen az e cím 2. fejezetében meghatározott követelményeknek;

f)adatgazdálkodási rendszerek és eljárások, beleértve az adatgyűjtést, az adatelemzést, az adatcímkézést, az adattárolást, az adatszűrést, az adatbányászatot, az adatösszesítést, az adatmegőrzést és a nagy kockázatú MI-rendszerek forgalomba hozatala vagy üzembe helyezése előtt és céljából végzett, bármely más, adatokkal kapcsolatos műveletet;

g)a 9. cikkben említett kockázatkezelési rendszer;

h)a forgalomba hozatal utáni nyomonkövetési rendszer kidolgozása, végrehajtása és fenntartása a 61. cikknek megfelelően;

i)a súlyos váratlan események és a hibás működés 62. cikk szerinti bejelentésével kapcsolatos eljárások;

j)az adatokhoz való hozzáférést biztosító vagy támogató nemzeti illetékes hatóságokkal, illetékes hatóságokkal, többek között ágazati hatóságokkal, a bejelentett szervezetekkel, más üzemeltetőkkel, ügyfelekkel vagy más érdekelt felekkel folytatott kommunikáció kezelése;

k)az összes vonatkozó dokumentáció és információ nyilvántartására szolgáló rendszerek és eljárások;

l)erőforrás-gazdálkodás, beleértve az ellátás biztonságával kapcsolatos intézkedéseket;

m)elszámoltathatósági keret, amely meghatározza a vezetőség és az egyéb alkalmazottak felelősségi körét az e bekezdésben felsorolt valamennyi szempont tekintetében.

(2)Az (1) bekezdésben említett szempontok megvalósításának arányosnak kell lennie a szolgáltató szervezetének méretével.

(3)A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő szolgáltatók esetében a minőségirányítási rendszer bevezetésére vonatkozó kötelezettséget teljesítettnek kell tekinteni az említett irányelv 74. cikke szerinti belső irányítási rendszerekre, eljárásokra és mechanizmusokra vonatkozó szabályoknak való megfeleléssel. Ebben az összefüggésben figyelembe kell venni az e rendelet 40. cikkében említett harmonizált szabványokat.

18. cikk
A műszaki dokumentáció elkészítésére vonatkozó kötelezettség

(1)A nagy kockázatú MI-rendszerek szolgáltatói a IV. melléklettel összhangban elkészítik a 11. cikkben említett műszaki dokumentációt.

(2)A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő szolgáltatók az említett irányelv 74. cikke szerinti belső irányításra, rendszerekre, eljárásokra és mechanizmusokra vonatkozó dokumentáció részeként őrzik meg a műszaki dokumentációt.

19. cikk
Megfelelőségértékelés

(1)A nagy kockázatú MI-rendszerek szolgáltatói biztosítják, hogy rendszereiket forgalomba hozataluk vagy üzembe helyezésük előtt alávessék a 43. cikk szerinti megfelelőségértékelési eljárásnak. Amennyiben az említett megfelelőségértékelés után bizonyítást nyer, hogy az MI-rendszerek megfelelnek az e cím 2. fejezetében meghatározott követelményeknek, a szolgáltatók a 48. cikkel összhangban EU-megfelelőségi nyilatkozatot állítanak ki, és a 49. cikkel összhangban feltüntetik a CE megfelelőségi jelölést.

(2)A III. melléklet 5. b) pontjában említett nagy kockázatú MI-rendszerek esetében, amelyeket a 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő szolgáltatók hoznak forgalomba vagy helyeznek üzembe, a megfelelőségértékelést az említett irányelv 97–101. cikkében említett eljárás részeként kell elvégezni.

20. cikk
Automatikusan generált naplók

(1)A nagy kockázatú MI-rendszerek szolgáltatói megőrzik a nagy kockázatú MI-rendszereik által automatikusan generált naplókat, amennyiben az ilyen naplók a felhasználóval kötött szerződéses megállapodás vagy jogszabály alapján egyébként az ellenőrzésük alatt állnak. A naplókat a nagy kockázatú MI-rendszer rendeltetésének és az uniós vagy nemzeti jog szerinti alkalmazandó jogi kötelezettségeknek megfelelő ideig meg kell őrizni.

(2)A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő szolgáltatók a nagy kockázatú MI-rendszereik által automatikusan generált naplókat az említett irányelv 74. cikke szerinti dokumentáció részeként őrzik meg.

21. cikk
Korrekciós intézkedések

A nagy kockázatú MI-rendszerek azon szolgáltatói, amelyek úgy ítélik meg, illetve amelyek okkal feltételezik, hogy az általuk forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszer nem felel meg ennek a rendeletnek, azonnal meghozzák a szükséges korrekciós intézkedéseket a szóban forgó rendszer megfelelőségének biztosítására, adott esetben kivonására vagy visszahívására. Minderről tájékoztatják a szóban forgó nagy kockázatú MI-rendszer forgalmazóját és adott esetben a meghatalmazott képviselőket és az importőröket.

22. cikk
Tájékoztatási kötelezettség

Amennyiben a nagy kockázatú MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, és ezt a kockázatot a rendszer szolgáltatója ismeri, a szolgáltató haladéktalanul tájékoztatja – különösen a meg nem felelésről és a meghozott korrekciós intézkedésekről – azon tagállamok nemzeti illetékes hatóságait, amelyekben a rendszert rendelkezésre bocsátotta, valamint adott esetben azt a bejelentett szervezetet, amely a nagy kockázatú MI-rendszerre tanúsítványt adott ki.

23. cikk
Együttműködés az illetékes hatóságokkal

A nagy kockázatú MI-rendszerek szolgáltatói valamely nemzeti illetékes hatóság kérésére az Unió valamely, az érintett tagállam által meghatározott hivatalos nyelvén átadják a nagy kockázatú MI-rendszer e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolásához szükséges összes információt és dokumentációt az említett hatóságnak. A nemzeti illetékes hatóság indokolt kérésére a szolgáltatók hozzáférést biztosítanak az említett hatóság számára a nagy kockázatú MI-rendszer által automatikusan generált naplókhoz is, amennyiben ezek a naplók a felhasználóval kötött szerződéses megállapodás vagy jogszabály alapján egyébként az ellenőrzésük alatt állnak.

24. cikk
A termékgyártók kötelezettségei

Amennyiben a II. melléklet A. szakaszában felsorolt jogi aktusok hatálya alá tartozó termékekhez kapcsolódó nagy kockázatú MI-rendszert olyan termékkel együtt hozzák forgalomba vagy helyezik üzembe, amelyeket az említett jogi aktusokkal összhangban és a termék gyártójának neve alatt állítottak elő, a termék gyártója felelősséget vállal az MI-rendszer e rendeletnek való megfeleléséért, és az MI-rendszer tekintetében vonatkoznak rá az e rendeletben a szolgáltatóra rótt kötelezettségek.

25. cikk
Meghatalmazott képviselők

(1)Az MI-rendszereiknek az Unióban való forgalmazását megelőzően, amennyiben nem azonosítható importőr, az Unión kívül letelepedett szolgáltatók írásbeli meghatalmazással kineveznek egy, az Unióban letelepedett meghatalmazott képviselőt.

(2)A meghatalmazott képviselők a szolgáltatótól kapott meghatalmazásban meghatározott feladatokat látják el. A meghatalmazott képviselő meghatalmazása értelmében a következő feladatok elvégzésére jogosult:

a)az EU-megfelelőségi nyilatkozat és a műszaki dokumentáció egy példányát megőrzi a nemzeti illetékes hatóságok és a 63. cikk (7) bekezdésében említett nemzeti hatóságok számára;

b)indokolt kérésre a nemzeti illetékes hatóság rendelkezésére bocsát minden annak igazolásához szükséges információt és dokumentációt, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek, ideértve a nagy kockázatú MI-rendszer által automatikusan generált naplókhoz való hozzáférést is, amennyiben az ilyen naplók a felhasználóval kötött szerződéses megállapodás vagy jogszabály alapján egyébként a szolgáltató ellenőrzése alatt állnak;

c)indokolt kérésre együttműködik a nemzeti illetékes hatóságokkal a nagy kockázatú MI-rendszerrel kapcsolatban e hatóságok által tett bármely intézkedés tekintetében.

26. cikk
Az importőrök kötelezettségei

(1)Egy nagy kockázatú MI-rendszer forgalomba hozatala előtt az ilyen rendszer importőrei gondoskodnak arról, hogy:

a)az említett MI-rendszer szolgáltatója elvégezte a megfelelő megfelelőségértékelési eljárást;

b)a szolgáltató elkészítette a műszaki dokumentációt a IV. mellékletnek megfelelően;

c)a rendszeren fel legyen tüntetve az előírt megfelelőségi jelölés, és mellékeljék hozzá az előírt dokumentációt és használati utasítást.

(2)Amennyiben az importőr úgy ítéli meg, vagy okkal feltételezi, hogy egy nagy kockázatú MI-rendszer nem felel meg e rendeletnek, addig nem hozza forgalomba a szóban forgó rendszert, amíg annak megfelelőségéről nem gondoskodtak. Amennyiben a nagy kockázatú MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, az importőr erről tájékoztatja az MI-rendszer szolgáltatóját és a piacfelügyeleti hatóságokat.

(3)Az importőrök feltüntetik a nagy kockázatú MI-rendszeren, vagy ha ez nem lehetséges, annak csomagolásán vagy adott esetben a kísérő dokumentációján a nevüket, bejegyzett kereskedelmi nevüket vagy bejegyzett védjegyüket és azt a címüket, amelyen velük kapcsolatba lehet lépni.

(4)Az importőrök biztosítják, hogy mindaddig, amíg a nagy kockázatú MI-rendszerért ők felelnek, a tárolási vagy szállítási feltételek ne veszélyeztessék a rendszer e cím 2. fejezetében meghatározott követelményeknek való megfelelőségét.

(5)Az importőrök indokolt kérésre a nemzeti illetékes hatóság által könnyen érthető nyelven a hatóság rendelkezésére bocsátanak minden annak igazolásához szükséges információt és dokumentációt, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek, ideértve a nagy kockázatú MI-rendszer által automatikusan generált naplókhoz való hozzáférést is, amennyiben az ilyen naplók a felhasználóval kötött szerződéses megállapodás vagy jogszabály alapján egyébként a szolgáltató ellenőrzése alatt állnak. Az importőrök együttműködnek az említett hatóságokkal a nemzeti illetékes hatóságok által az adott rendszerrel kapcsolatban tett intézkedések tekintetében is.

27. cikk
A forgalmazók kötelezettségei

(1)A nagy kockázatú MI-rendszer forgalmazását megelőzően a forgalmazók ellenőrzik, hogy a nagy kockázatú MI-rendszeren fel van-e tüntetve az előírt CE megfelelőségi jelölés, mellékelték-e hozzá az előírt dokumentációt és használati utasítást, valamint hogy a rendszer szolgáltatója és – adott esetben – importőre teljesítette-e az e rendeletben meghatározott kötelezettségeket.

(2)Amennyiben a forgalmazó úgy ítéli meg, vagy okkal feltételezi, hogy egy nagy kockázatú MI-rendszer nem felel meg az e cím 2. fejezetében meghatározott követelményeknek, addig nem forgalmazhatja a nagy kockázatú MI-rendszert, amíg a rendszert nem hozzák összhangba az említett követelményekkel. Továbbá, amennyiben a rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, a forgalmazó erről tájékoztatja a rendszer szolgáltatóját vagy adott esetben importőrét.

(3)A forgalmazók biztosítják, hogy mindaddig, amíg a nagy kockázatú MI-rendszerért ők felelnek, a tárolási vagy szállítási feltételek ne veszélyeztessék a rendszer e cím 2. fejezetében meghatározott követelményeknek való megfelelőségét.

(4)Az a forgalmazó, amely úgy ítéli meg, vagy okkal feltételezi, hogy az általa forgalmazott nagy kockázatú MI-rendszer nem felel meg az e cím 2. fejezetében meghatározott követelményeknek, megteszi a szükséges korrekciós intézkedéseket annak érdekében, hogy gondoskodjon a rendszer említett követelményeknek való megfelelőségéről, illetve hogy kivonja vagy visszahívja a rendszert, vagy biztosítja, hogy a szolgáltató, az importőr vagy adott esetben bármely érintett üzemeltető megtegye a korrekciós intézkedéseket. Amennyiben a nagy kockázatú MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, a forgalmazó erről haladéktalanul tájékoztatja azon tagállamok nemzeti illetékes hatóságait, amelyekben a terméket rendelkezésre bocsátotta, részletezve különösen a meg nem felelést és a meghozott korrekciós intézkedéseket.

(5)Valamely nemzeti illetékes hatóság indokolt kérésére a nagy kockázatú MI-rendszerek forgalmazói az említett hatóság rendelkezésére bocsátják a nagy kockázatú rendszerek e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolásához szükséges összes információt és dokumentációt. A forgalmazók együttműködnek az említett nemzeti illetékes hatósággal is az említett hatóság által tett bármely intézkedés tekintetében.

28. cikk
A forgalmazók, importőrök, felhasználók vagy bármely más harmadik fél kötelezettségei

(1)E rendelet alkalmazásában minden forgalmazót, importőrt, felhasználót vagy egyéb harmadik felet szolgáltatónak kell tekinteni, és a szolgáltató 16. cikk szerinti kötelezettségei vonatkoznak rájuk az alábbi körülmények bármelyikének fennállása esetén:

a)saját nevük vagy védjegyük alatt nagy kockázatú MI-rendszert hoznak forgalomba vagy helyeznek üzembe;

b)módosítják egy már forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszer rendeltetését;

c)jelentősen módosítják a nagy kockázatú MI-rendszert.

(2)Amennyiben az (1) bekezdés b) vagy c) pontjában említett körülmények fennállnak, e rendelet alkalmazásában a nagy kockázatú MI-rendszert eredetileg forgalomba hozó vagy üzembe helyező szolgáltató többé nem tekinthető szolgáltatónak.

29. cikk
A nagy kockázatú MI-rendszerek felhasználóinak kötelezettségei

(1)A nagy kockázatú MI-rendszerek felhasználói ezeket a rendszereket a (2) és (5) bekezdés szerint, a rendszerekhez mellékelt használati utasításoknak megfelelően használják.

(2)Az (1) bekezdésben foglalt kötelezettségek nem érintik az uniós vagy nemzeti jog szerinti egyéb felhasználói kötelezettségeket, valamint a felhasználó arra vonatkozó mérlegelési jogkörét, hogy a szolgáltató által megjelölt emberi felügyeleti intézkedések végrehajtása céljából megszervezze saját erőforrásait és tevékenységeit.

(3)Az (1) bekezdés sérelme nélkül, amennyiben a felhasználó ellenőrzést gyakorol a bemeneti adatok felett, e felhasználó biztosítja, hogy a bemeneti adatok relevánsak legyenek a nagy kockázatú MI-rendszer rendeltetése szempontjából.

(4)A felhasználók a használati utasítások alapján nyomon követik a nagy kockázatú MI-rendszer működését. Amennyiben okkal feltételezik, hogy a használati utasításnak megfelelő használat azt eredményezheti, hogy az MI-rendszer a 65. cikk (1) bekezdése értelmében kockázatot jelent, erről tájékoztatják a szolgáltatót vagy a forgalmazót, és felfüggesztik a rendszer használatát. A szolgáltatót vagy a forgalmazót akkor is tájékoztatják, ha a 62. cikk értelmében vett súlyos váratlan eseményt vagy hibás működést észlelnek, és megszakítják az MI-rendszer használatát. Amennyiben a felhasználó nem tudja elérni a szolgáltatót, a 62. cikket kell értelemszerűen alkalmazni.

A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő felhasználók esetében az első albekezdésben meghatározott nyomonkövetési kötelezettséget teljesítettnek kell tekinteni az említett irányelv 74. cikke szerinti belső irányítási rendszerekre, eljárásokra és mechanizmusokra vonatkozó szabályoknak való megfeleléssel.

(5)A nagy kockázatú MI-rendszerek felhasználói megőrzik az adott nagy kockázatú MI-rendszer által automatikusan generált naplókat, amennyiben az ilyen naplók ellenőrzésük alatt állnak. A naplókat a nagy kockázatú MI-rendszer rendeltetésének és az uniós vagy nemzeti jog szerinti alkalmazandó jogi kötelezettségeknek megfelelő ideig meg kell őrizni.

A 2013/36/EU irányelv által szabályozott hitelintézetnek minősülő felhasználók az említett irányelv 74. cikke szerinti belső irányítási rendszerekre, eljárásokra és mechanizmusokra vonatkozó dokumentáció részeként őrzik meg a naplókat.

(6)A nagy kockázatú MI-rendszerek felhasználói a 13. cikk szerint megadott információkat arra használják fel, hogy eleget tegyenek az (EU) 2016/679 rendelet 35. cikke vagy adott esetben az (EU) 2016/680 irányelv 27. cikke szerinti, adatvédelmi hatásvizsgálat elvégzésére vonatkozó kötelezettségüknek.

4. fejezet

BEJELENTŐ HATÓSÁGOK ÉS BEJELENTETT SZERVEZETEK

30. cikk
Bejelentő hatóságok

(1)Minden tagállam kijelöl vagy létrehoz egy bejelentő hatóságot, amely a megfelelőségértékelő szervezetek értékeléséhez, kijelöléséhez és bejelentéséhez, valamint nyomon követéséhez szükséges eljárások kialakításáért és végrehajtásáért felel.

(2)A tagállamok bejelentő hatóságként kijelölhetnek egy, a 765/2008/EK rendeletben említett nemzeti akkreditáló testületet.

(3)A bejelentő hatóságokat úgy kell létrehozni, megszervezni és működtetni, hogy ne merülhessen fel összeférhetetlenség a megfelelőségértékelő szervezetekkel, továbbá tevékenységük objektivitása és pártatlansága is megmaradjon.

(4)A bejelentő hatóságot úgy kell megszervezni, hogy a megfelelőségértékelő szervezet bejelentésével kapcsolatos döntéseket az e szervezetek értékelését végzőktől eltérő illetékes személy hozza meg.

(5)A bejelentő hatóságok kereskedelmi vagy piaci alapon nem kínálhatnak vagy végezhetnek olyan tevékenységet, amelyet a megfelelőségértékelő szervezetek végeznek, illetve nem nyújthatnak szaktanácsadási szolgáltatást.

(6)A bejelentő hatóságok megőrzik a kapott információ bizalmas jellegét.

(7)A bejelentő hatóságok kellő létszámú hozzáértő személyzettel rendelkeznek ahhoz, hogy megfelelően elláthassák feladataikat.

(8)A bejelentő hatóságok gondoskodnak arról, hogy a megfelelőségértékeléseket arányos módon végezzék, elkerülve a szolgáltatókra háruló szükségtelen terheket, és hogy a bejelentett szervezetek a vállalkozás méretét, azt az ágazatot, amelyben a vállalkozás működik, valamint a szóban forgó MI-rendszer összetettségének mértékét megfelelően figyelembe véve lássák el tevékenységüket.

31. cikk
A megfelelőségértékelő szervezet bejelentés iránti kérelme

(1)A megfelelőségértékelő szervezet bejelentés iránti kérelmet nyújt be a székhelye szerinti tagállam bejelentő hatóságához.

(2)A bejelentés iránti kérelemhez csatolja azon megfelelőségértékelési tevékenység, megfelelőségértékelési modul vagy modulok és mesterségesintelligencia-technológiák leírását, amelyek tekintetében a megfelelőségértékelő szervezet szakmailag alkalmasnak tekinti magát, továbbá – amennyiben van ilyen – a nemzeti akkreditáló testület által kiállított akkreditációs tanúsítványt, amely tanúsítja, hogy a megfelelőségértékelő szervezet teljesíti a 33. cikkben rögzített követelményeket. Csatolni kell minden olyan érvényes dokumentumot, amely a kérelmező bejelentett szervezet bármely egyéb uniós harmonizációs jogszabály szerinti, meglévő kijelölésére vonatkozik.

(3)Amennyiben a megfelelőségértékelő szervezet nem nyújt be akkreditálási tanúsítványt, be kell nyújtania a bejelentő hatóságnak az annak ellenőrzéséhez, elismeréséhez és rendszeres figyelemmel kíséréséhez szükséges összes igazoló okmányt, hogy teljesíti a 33. cikkben rögzített követelményeket. Bármely egyéb uniós harmonizációs jogszabály alapján kijelölt bejelentett szervezetek esetében a szóban forgó kijelöléshez kapcsolódó valamennyi dokumentum és tanúsítvány felhasználható adott esetben az e rendelet szerinti kijelölésükkel összefüggő eljárás alátámasztására.

32. cikk
Bejelentési eljárás

(1)A bejelentő hatóságok csak olyan megfelelőségértékelő szervezetet jelenthetnek be, amely teljesíti a 33. cikkben rögzített követelményeket.

(2)A bejelentő hatóságok a Bizottság által kifejlesztett és kezelt elektronikus bejelentési eszközön keresztül értesítik a Bizottságot és a többi tagállamot.

(3)A bejelentés részletes információkat tartalmaz a megfelelőségértékelési tevékenységekről, a megfelelőségértékelési modulról vagy modulokról, valamint az érintett mesterségesintelligencia-technológiákról.

(4)Az érintett megfelelőségértékelő szervezet csak akkor láthatja el egy bejelentett szervezet tevékenységeit, ha a Bizottság és a többi tagállam a bejelentést követő egy hónapon belül nem emelt kifogást.

(5)A bejelentő hatóság értesíti a Bizottságot és a többi tagállamot a bejelentés minden későbbi releváns változásáról.

33. cikk
Bejelentett szervezetek

(1)A bejelentett szervezetek a 43. cikkben említett megfelelőségértékelési eljárásokkal összhangban ellenőrzik a nagy kockázatú MI-rendszerek megfelelőségét.

(2)A bejelentett szervezetek eleget tesznek azoknak a szervezeti, minőségirányítási, erőforrásokra vonatkozó és eljárási követelményeknek, amelyek a feladataik ellátásához szükségesek.

(3)A bejelentett szervezetek szervezeti felépítésének, a szervezeten belül a felelősségi körök kijelölésének, a jelentési útvonalaknak és a bejelentett szervezetek működésének olyannak kell lennie, hogy az biztosítsa a bejelentett szervezet által végzett megfelelőségértékelési tevékenységek elvégzése és e tevékenységek eredményei iránti bizalmat.

(4)A bejelentett szervezetek függetlenek attól a nagy kockázatú MI-rendszer szolgáltatójától, amellyel kapcsolatban megfelelőségértékelési tevékenységeket végeznek. A bejelentett szervezetek továbbá függetlenek az értékelés tárgyát képező nagy kockázatú MI-rendszerben gazdasági érdekeltséggel rendelkező egyéb üzemeltetőtől, valamint a szolgáltató versenytársaitól is.

(5)A bejelentett szervezetet úgy kell megszervezni és működtetni, hogy biztosíthassa tevékenységeinek függetlenségét, objektivitását és pártatlanságát. A bejelentett szervezetek olyan struktúrát és eljárásokat dokumentálnak és alkalmaznak, amelyek biztosítják a pártatlanság megőrzését, valamint a pártatlanság elveinek a szervezetük, a személyzetük és az értékelési tevékenységeik egészében való előmozdítását és alkalmazását.

(6)A bejelentett szervezetek dokumentált eljárásokkal rendelkeznek, amelyek biztosítják, hogy a személyzetük, a bizottságaik, a leányvállalataik, az alvállalkozóik és bármely velük kapcsolatban álló szervezet vagy külső szervezetek munkavállalói tiszteletben tartsák azon információk bizalmasságát, amelyek a megfelelőségértékelési tevékenységek végzése során a birtokukba kerülnek, kivéve ha azok közzétételét jogszabály írja elő. A bejelentett szervezetek személyzete betartja a szakmai titoktartás követelményeit minden olyan információ tekintetében, amely az e rendeletben foglalt feladataik végrehajtása során jutott birtokába, kivéve annak a tagállamnak a bejelentő hatóságaival szemben, ahol a bejelentett szervezetek tevékenységüket végzik.

(7)A bejelentett szervezetek olyan eljárásokkal rendelkeznek, amelyek segítségével tevékenységük során kellően figyelembe tudják venni az adott vállalkozás méretét, azon ágazatot, amelyben a vállalkozás működik, a vállalkozás szerkezetét és a szóban forgó MI-rendszer összetettségi fokát.

(8)A bejelentett szervezetek megfelelőségértékelési tevékenységeikre megfelelő felelősségbiztosítást kötnek, kivéve ha a felelősséget a nemzeti jognak megfelelően az érintett tagállam vállalja, vagy ha a tagállam közvetlenül felelős a megfelelőségértékelésért.

(9)A bejelentett szervezetek képesek az e rendelet értelmében hozzájuk tartozó összes feladatnak a legmagasabb szintű szakmai feddhetetlenséggel és az adott területtel kapcsolatban szükséges szakértelemmel történő elvégzésére, függetlenül attól, hogy ezeket a feladatokat a bejelentett szervezetek maguk végzik-e, vagy valaki más az ő nevükben és felelősségi körükben eljárva.

(10)A bejelentett szervezetek elegendő belső szakértelemmel rendelkeznek ahhoz, hogy hatékonyan értékelni tudják a külső felek által a bejelentett szervezetek nevében elvégzett feladatokat. E célból a bejelentett szervezet mindenkor és minden egyes megfelelőségértékelési eljárás és minden olyan nagy kockázatú MI-rendszertípus esetében, amelyre e szervezeteket kijelölték, állandó jelleggel elegendő számú adminisztratív, műszaki és tudományos munkatárssal rendelkezik, amely munkatársak a vonatkozó mesterségesintelligencia-technológiákkal, adatokkal és adatkezeléssel, valamint az e cím 2. fejezetében meghatározott követelményekkel kapcsolatos tapasztalattal és ismeretekkel rendelkeznek.

(11)A bejelentett szervezetek részt vesznek a 38. cikkben említett koordinációs tevékenységekben. Emellett közvetlenül részt vesznek vagy képviseltetik magukat az európai szabványügyi szervezetekben, vagy gondoskodnak arról, hogy tisztában legyenek a vonatkozó szabványokkal, és naprakész tudással rendelkezzenek ezekkel kapcsolatban.

(12)A bejelentett szervezetek a 30. cikkben említett bejelentő hatóság számára – a hatóság értékelési, kijelölési, bejelentési, nyomonkövetési és felügyeleti tevékenységei elvégzésének lehetővé tétele céljából, valamint az e fejezetben leírt értékelés elősegítése érdekében – rendelkezésre bocsátanak, és kérésre benyújtanak valamennyi releváns dokumentumot, így többek között a szolgáltató által összeállított dokumentációt.

34. cikk
A bejelentett szervezetek leányvállalatai és alvállalkozói

(1)Ha a bejelentett szervezet bizonyos megfelelőségértékelési feladatokat alvállalkozásba ad, vagy leányvállalatot bíz meg elvégzésükkel, biztosítja, hogy az alvállalkozó vagy leányvállalat megfeleljen a 33. cikkben meghatározott követelményeknek, és ennek megfelelően tájékoztatja erről a bejelentő hatóságot.

(2)A bejelentett szervezetek teljes felelősséget vállalnak az alvállalkozók vagy leányvállalatok által elvégzett feladatokért, függetlenül azok letelepedési helyétől.

(3)A tevékenységeket csak a szolgáltató beleegyezésével lehet alvállalkozásba adni vagy leányvállalattal elvégeztetni.

(4)A bejelentett szervezetek a bejelentő hatóság számára elérhetővé teszik az alvállalkozó vagy a leányvállalat szakmai felkészültségének és az általuk az e rendelet alapján elvégzett munkának az értékelésére vonatkozó megfelelő dokumentumokat.

35. cikk
Az e rendelet értelmében kijelölt bejelentett szervezetek azonosító száma és jegyzékei

(1)A Bizottság a bejelentett szervezeteket azonosító számmal látja el. A Bizottság egyetlen azonosító számot ad ki akkor is, ha a szervezetet több uniós jogi aktus alapján is bejelentik.

(2)A Bizottság nyilvánosan hozzáférhetővé teszi az e rendelet szerint bejelentett szervezetek jegyzékét, beleértve a hozzájuk rendelt azonosító számokat és azokat a tevékenységeket is, amelyekre e szervezeteket bejelentették. A Bizottság biztosítja, hogy a jegyzéket folyamatosan naprakészen tartsák.

36. cikk
A bejelentés változásai

(1)Amennyiben a bejelentő hatóság azt gyanítja, vagy arról értesül, hogy a bejelentett szervezet már nem felel meg a 33. cikkben meghatározott követelményeknek, vagy elmulasztja teljesíteni kötelezettségeit, a bejelentő hatóság a lehető legnagyobb gondossággal kivizsgálja az ügyet. Ezzel összefüggésben tájékoztatja az érintett bejelentett szervezetet a felmerült kifogásokról, és lehetőséget biztosít számára álláspontjának ismertetésére. Ha a bejelentő hatóság arra a következtetésre jut, hogy a vizsgált bejelentett szervezet már nem felel meg a 33. cikkben meghatározott követelményeknek, vagy elmulasztja teljesíteni kötelezettségeit, a mulasztás súlyosságától függően korlátozhatja, felfüggesztheti vagy visszavonhatja a bejelentést. A bejelentő hatóság erről haladéktalanul tájékoztatja a Bizottságot és a többi tagállamot is.

(2)A bejelentés korlátozása, felfüggesztése vagy visszavonása, illetve a bejelentett szervezet tevékenységének megszűnése esetén a bejelentő hatóság megteszi a szükséges lépéseket annak biztosítása érdekében, hogy egy másik bejelentett szervezet átvegye a szóban forgó bejelentett szervezet dokumentációját, vagy hogy az megőrzésre kerüljön annak érdekében, hogy az illetékes bejelentő hatóságok kérésre hozzáférhessenek ahhoz.

37. cikk
A bejelentett szervezetek alkalmasságának vitatása

(1)A Bizottság szükség esetén kivizsgál minden olyan esetet, amikor okkal kérdőjelezhető meg, hogy a bejelentett szervezet megfelel-e a 33. cikkben meghatározott követelményeknek.

(2)A bejelentő hatóság– kérésre – a Bizottság rendelkezésére bocsát minden, az érintett bejelentett szervezet kijelölésével összefüggő információt.

(3)A Bizottság gondoskodik arról, hogy az e cikk értelmében általa lefolytatott vizsgálatok során a birtokába jutott valamennyi bizalmas információt bizalmasan kezelje.

(4)Ha a Bizottság megbizonyosodott arról, hogy egy bejelentett szervezet nem vagy már nem tesz eleget a 33. cikkben megállapított követelményeknek, indokolással ellátott határozatot fogad el, amelyben felszólítja a bejelentő tagállamot a szükséges korrekciós intézkedések megtételére, ideértve szükség esetén a bejelentés visszavonását is. Ezt a végrehajtási jogi aktust a 74. cikk (2) bekezdésében említett vizsgálóbizottsági eljárás keretében kell elfogadni.

38. cikk
A bejelentett szervezetek közötti koordináció

(1)A Bizottság gondoskodik arról, hogy az e rendelet hatálya alá tartozó területek tekintetében az MI-rendszerek e rendelet szerinti megfelelőségértékelési eljárásaiban részt vevő bejelentett szervezetek között megfelelő koordináció és együttműködés jöjjön létre, és a bejelentett szervezetek ágazati csoportja formájában megfelelően működjön.

(2)A tagállamok biztosítják, hogy az általuk bejelentett szervezetek közvetlenül vagy kijelölt képviselőkön keresztül részt vegyenek a csoport munkájában.

39. cikk
Harmadik országok megfelelőségértékelő szervezetei

Az olyan harmadik ország joga szerint létrehozott megfelelőségértékelő szervezetek, amellyel az Unió megállapodást kötött, felhatalmazhatók a bejelentett szervezetek e rendelet szerinti tevékenységeinek elvégzésére.

5. fejezet

SZABVÁNYOK, MEGFELELŐSÉGÉRTÉKELÉS, TANÚSÍTVÁNYOK, REGISZTRÁCIÓ

40. cikk
Harmonizált szabványok

Azokról a nagy kockázatú MI-rendszerekről, amelyek megfelelnek az olyan harmonizált szabványoknak, illetve azok egyes részeinek, amelyek hivatkozásait közzétették az Európai Unió Hivatalos Lapjában, azt kell feltételezni, hogy megfelelnek az e cím 2. fejezetében megállapított követelményeknek, amennyiben az említett szabványok e követelményekre is kiterjednek.

41. cikk
Egységes előírások

(1)Amennyiben a 40. cikkben említett harmonizált szabványok nem léteznek, vagy ha a Bizottság úgy ítéli meg, hogy a vonatkozó harmonizált szabványok nem elégségesek, vagy konkrét biztonsági vagy alapjogi aggályok megoldására van szükség, a Bizottság végrehajtási jogi aktusok útján egységes előírásokat fogadhat el az e cím 2. fejezetében meghatározott követelményekre vonatkozóan. Ezeket a végrehajtási jogi aktusokat a 74. cikk (2) bekezdésében említett vizsgálóbizottsági eljárás keretében kell elfogadni.

(2)Az (1) bekezdésben említett egységes előírások kidolgozása során a Bizottság összegyűjti a vonatkozó uniós ágazati jog alapján létrehozott érintett szervek vagy szakértői csoportok véleményét.

(3)Azokról a nagy kockázatú MI-rendszerekről, amelyek megfelelnek az (1) bekezdésben említett egységes előírásoknak, azt kell vélelmezni, hogy megfelelnek az e cím 2. fejezetében meghatározott követelményeknek, amennyiben ezek az egységes előírások az említett követelményekre is kiterjednek.

(4)Amennyiben a szolgáltatók nem felelnek meg az (1) bekezdésben említett egységes előírásoknak, megfelelően igazolniuk kell, hogy legalább azokkal egyenértékű műszaki megoldásokat fogadtak el.

42. cikk
A bizonyos követelményeknek való megfelelés vélelme

(1)Rendeltetésük figyelembevételével vélelmezni kell, hogy azok a nagy kockázatú MI-rendszerek, amelyeket azon konkrét földrajzi, viselkedési és funkcionális környezetre vonatkozó adatok alapján tanítottak be és teszteltek, amely környezeten belül használni kívánják őket, megfelelnek a 10. cikk (4) bekezdésében meghatározott követelménynek.

(2)Azokról a nagy kockázatú MI-rendszerekről, amelyek tanúsítvánnyal rendelkeznek, vagy amelyekre az (EU) 2019/881 európai parlamenti és tanácsi rendelet 63 alapján valamely kiberbiztonsági rendszer megfelelőségi nyilatkozatot adott ki, és amelyek hivatkozásait közzétették az Európai Unió Hivatalos Lapjában, azt kell vélelmezni, hogy megfelelnek az e rendelet 15. cikkében meghatározott kiberbiztonsági követelményeknek, amennyiben a kiberbiztonsági tanúsítvány vagy megfelelőségi nyilatkozat vagy annak részei e követelményekre is kiterjednek.

43. cikk
Megfelelőségértékelés

(1)A III. melléklet 1. pontjában felsorolt nagy kockázatú MI-rendszerek esetében, amennyiben valamely nagy kockázatú MI-rendszernek az e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolása során a szolgáltató a 40. cikkben említett harmonizált szabványokat, vagy adott esetben a 41. cikkben említett egységes előírásokat alkalmazta, a szolgáltató a következő eljárások egyikét követi:

a)a VI. mellékletben említett, belső ellenőrzésen alapuló megfelelőségértékelési eljárás;

b)a VII. mellékletben említett, a minőségirányítási rendszer értékelésén és a műszaki dokumentáció értékelésén alapuló, valamely bejelentett szervezet bevonásával zajló megfelelőségértékelési eljárás.

Amennyiben valamely nagy kockázatú MI-rendszernek az e cím 2. fejezetében meghatározott követelményeknek való megfelelésének igazolása során a szolgáltató nem vagy csak részben alkalmazta a 40. cikkben említett harmonizált szabványokat, vagy ha ilyen harmonizált szabványok nem léteznek és a 41. cikkben említett egységes előírások nem állnak rendelkezésre, a szolgáltató a VII. mellékletben meghatározott megfelelőségértékelési eljárást követi.

A VII. mellékletben említett megfelelőségértékelési eljárás céljából a szolgáltató a bejelentett szervezetek bármelyikét választhatja. Ha azonban a rendszert bűnüldöző, bevándorlási vagy menekültügyi hatóságok, valamint uniós intézmények, szervek vagy ügynökségek kívánják üzembe helyezni, a 63. cikk (5) vagy (6) bekezdésében említett piacfelügyeleti hatóság jár el bejelentett szervezetként.

(2)A III. melléklet 2–8. pontjában említett nagy kockázatú MI-rendszerek esetében a szolgáltatók a VI. mellékletben említett belső ellenőrzésen alapuló megfelelőségértékelési eljárást követik, amely nem rendelkezik bejelentett szervezet bevonásáról. A III. melléklet 5. b) pontjában említett, a 2013/36/EU irányelv által szabályozott hitelintézetek által forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszerek esetében a megfelelőségértékelést az említett irányelv 97–101. cikkében említett eljárás részeként kell elvégezni.

(3)A II. melléklet A. szakaszában felsorolt jogi aktusok hatálya alá tartozó nagy kockázatú MI-rendszerek esetében a szolgáltató az említett jogi aktusokban előírt megfelelőségértékelést követi. Az e cím 2. fejezetében meghatározott követelmények az említett nagy kockázatú MI-rendszerekre vonatkoznak, és az említett értékelés részét képezik. A VII. melléklet 4.3., 4.4., 4.5. pontja és 4.6. pontjának ötödik bekezdése szintén alkalmazandó.

Az értékelés céljából az említett jogi aktusok alapján bejelentett szervezeteket fel kell jogosítani annak ellenőrzésére, hogy a nagy kockázatú MI-rendszerek megfelelnek-e az e cím 2. fejezetében meghatározott követelményeknek, feltéve, hogy az említett bejelentett szervezeteknek a 33. cikk (4), (9) és (10) bekezdésében meghatározott követelményeknek való megfelelését az említett jogi aktusok szerinti bejelentési eljárás keretében értékelték.

Amennyiben a II. melléklet A. szakaszában felsorolt jogi aktusok lehetővé teszik a termék gyártója számára, hogy kimaradjon egy harmadik fél által végzett megfelelőségértékelésből, feltéve, hogy a gyártó az összes vonatkozó követelményre kiterjedő valamennyi harmonizált szabványt alkalmazta, az említett gyártó csak akkor élhet ezzel a lehetőséggel, ha harmonizált szabványokat vagy adott esetben a 41. cikkben említett, az e cím 2. fejezetében meghatározott követelményekre kiterjedő egységes előírásokat is alkalmazott.

(4)A nagy kockázatú MI-rendszereket új megfelelőségértékelési eljárásnak kell alávetni akkor, amikor lényeges módosításon mennek keresztül, függetlenül attól, hogy a módosított rendszert további forgalmazásra szánják-e vagy a jelenlegi felhasználó fogja azt továbbra is használni.

Azon nagy kockázatú MI-rendszerek esetében, amelyek betanítása a forgalomba hozatalt vagy üzembe helyezést követően is zajlik, a nagy kockázatú MI-rendszernek és teljesítményének a szolgáltató által az első megfelelőségértékelés időpontjában előre meghatározott és a IV. melléklet 2. f) pontjában említett műszaki dokumentációban szereplő információk részét képező módosítása nem minősül lényeges módosításnak.

(5)A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el abból a célból, hogy naprakésszé tegye a VI. és a VII. mellékletet a megfelelőségértékelési eljárások azon elemeinek bevezetése érdekében, amelyek a műszaki fejlődéstől függően válnak szükségessé.

(6)A Bizottság felhatalmazást kap arra, hogy felhatalmazáson alapuló jogi aktusokat fogadjon el az (1) és (2) bekezdés módosítása céljából annak érdekében, hogy a III. melléklet 2–8. pontjában említett nagy kockázatú MI-rendszereket a VII. mellékletben említett megfelelőségértékelési eljárás vagy az eljárás egyes részeinek hatálya alá vonja. A Bizottság ilyen felhatalmazáson alapuló jogi aktusokat oly módon fogad el, hogy figyelembe veszi a VI. mellékletben említett belső ellenőrzésen alapuló megfelelőségértékelési eljárás hatékonyságát az ilyen rendszerek által az egészséget és a biztonságot érintő kockázatok megelőzése vagy minimálisra csökkentése, valamint az alapvető jogok védelme tekintetében, továbbá a megfelelő kapacitások és erőforrások bejelentett szervezetek körében történő rendelkezésre állását.

44. cikk
Tanúsítványok

(1)A bejelentett szervezetek által a VII. melléklet szerint kiadott tanúsítványokat az Unió azon hivatalos nyelvén kell kiadni, amelyet a bejelentett szervezet letelepedési helye szerinti tagállam meghatároz, vagy az Uniónak a bejelentett szervezet számára egyébként elfogadható hivatalos nyelvén.

(2)A tanúsítványok érvényessége a bennük feltüntetett időtartamra szól, amely nem haladhatja meg az öt évet. A szolgáltató kérelmére a tanúsítvány érvényessége további, egyenként öt évet meg nem haladó időszakokra meghosszabbítható, az alkalmazandó megfelelőségértékelési eljárásokkal összhangban elvégzett felülvizsgálat alapján.

(3)Amennyiben egy bejelentett szervezet megállapítja, hogy az MI-rendszer már nem tesz eleget az e cím 2. fejezetében foglalt követelményeknek, az arányosság elvét figyelembe véve felfüggeszti vagy visszavonja a kiadott tanúsítványt, vagy korlátozásokat vezet be a tanúsítványra vonatkozóan, kivéve, ha a rendszer szolgáltatója a bejelentett szervezet által meghatározott megfelelő határidőn belül megfelelő korrekciós intézkedéssel biztosítja az említett követelményeknek való megfelelést. A bejelentett szervezet megindokolja döntését.

45. cikk
Fellebbezés a bejelentett szervezetek határozataival szemben

A tagállamok biztosítják, hogy a bejelentett szervezetek határozataival szembeni fellebbezési eljárás álljon azon felek rendelkezésére, amelyeknek a szóban forgó határozathoz jogos érdeke fűződik.

46. cikk
A bejelentett szervezetek tájékoztatási kötelezettségei

(1)A bejelentett szervezetek tájékoztatják a bejelentő hatóságot a következőkről:

a)a VII. melléklet követelményeivel összhangban kiállított, a műszaki dokumentáció értékelésére vonatkozó uniós tanúsítványok, azok kiegészítései, minőségirányítási rendszerre vonatkozó jóváhagyások;

b)a VII. melléklet követelményeivel összhangban kiállított, a műszaki dokumentáció értékelésére vonatkozó uniós tanúsítvány vagy a minőségirányítási rendszerre vonatkozó jóváhagyás elutasítása, korlátozása, felfüggesztése vagy visszavonása;

c)azok a körülmények, amelyek érinthetik a bejelentés hatályát vagy feltételeit;

d)a piacfelügyeleti hatóságoktól a megfelelőségértékelési tevékenységek kapcsán hozzájuk beérkezett valamennyi tájékoztatási kérelem;

e)kérésre a bejelentésük hatálya alá tartozó megfelelőségértékelési tevékenységek, valamint minden más elvégzett tevékenység, többek között a határon átnyúló tevékenységek és a tevékenységek alvállalkozásba adása.

(2)Minden bejelentett szervezet tájékoztatja a többi bejelentett szervezetet a következőkről:

a)minőségirányítási rendszereknek a bejelentett szervezet által elutasított, felfüggesztett vagy visszavont jóváhagyásai, valamint kérésre a minőségbiztosítási rendszerek bejelentett szervezet által kiadott jóváhagyásai;

b)a bejelentett szervezet által elutasított, visszavont, felfüggesztett vagy más módon korlátozott, a műszaki dokumentáció értékelésére vonatkozó EU-tanúsítványok vagy azok kiegészítései, valamint – kérésre – az általa kiadott tanúsítványok és/vagy kiegészítések.

(3)Minden egyes bejelentett szervezet megfelelően tájékoztatja az ugyanazokra a mesterségesintelligencia-technológiákra vonatkozó, hasonló megfelelőségértékelési tevékenységeket végző más bejelentett szervezeteket a negatív és – kérésre – a pozitív megfelelőségértékelési eredményekről.

47. cikk
A megfelelőségértékelési eljárástól való eltérés

(1)A 43. cikktől eltérve bármely piacfelügyeleti hatóság engedélyezheti egyes nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését az érintett tagállam területén, a közbiztonság vagy a személyek életének és egészségének védelmét, a környezetvédelmet, valamint a kulcsfontosságú ipari és infrastrukturális eszközök védelmét szolgáló kivételes okokból. Az engedély korlátozott időtartamra szól, amíg a szükséges megfelelőségértékelési eljárásokat végrehajtják, és az említett eljárások befejezését követően megszűnik. Ezen eljárások lefolytatását indokolatlan késedelem nélkül meg kell kezdeni.

(2)Az (1) bekezdésben említett engedély csak akkor adható ki, ha a piacfelügyeleti hatóság arra a következtetésre jut, hogy a nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében foglalt követelményeknek. A piacfelügyeleti hatóság tájékoztatja a Bizottságot és a többi tagállamot az (1) bekezdés alapján kiadott bármely engedélyről.

(3)Amennyiben a (2) bekezdésben említett tájékoztatás kézhezvételétől számított 15 naptári napon belül egyik tagállam és a Bizottság sem emel kifogást a valamely tagállam piacfelügyeleti hatósága által az (1) bekezdéssel összhangban kiadott engedéllyel szemben, az engedély indokoltnak tekintendő.

(4)Amennyiben a (2) bekezdésben említett értesítés kézhezvételétől számított 15 naptári napon belül valamely tagállam kifogást emel egy másik tagállam piacfelügyeleti hatósága által kiadott engedély ellen, vagy ha a Bizottság úgy ítéli meg, hogy az engedély ellentétes az uniós joggal, vagy hogy a tagállamoknak a (2) bekezdésben említett, a rendszer megfelelőségére vonatkozó következtetése megalapozatlan, a Bizottság haladéktalanul egyeztetést kezdeményez az érintett tagállammal; az érintett üzemeltetővel/üzemeltetőkkel egyeztetni kell, és lehetőséget kell biztosítani számukra, hogy kifejtsék álláspontjukat. Mindezek birtokában a Bizottság dönt arról, hogy az engedély indokolt vagy sem. A Bizottság döntését az érintett tagállamnak, valamint az érintett üzemeltetőnek vagy üzemeltetőknek címezi.

(5)Ha az engedélyt indokolatlannak ítéli, az engedélyt az érintett tagállam piacfelügyeleti hatósága visszavonja.

(6)Az (1)–(5) bekezdéstől eltérve az – (EU) 2017/745 rendelet és az (EU) 2017/746 rendelet hatálya alá tartozó – eszközök biztonsági alkatrészeként való használatra szánt vagy önmagukban eszköznek minősülő nagy kockázatú MI-rendszerek esetében az (EU) 2017/745 rendelet 59. cikkét és az (EU) 2017/746 rendelet 54. cikkét az e cím 2. fejezetében meghatározott követelményeknek való megfelelés értékelésétől való eltérésre is alkalmazni kell.

48. cikk
EU-megfelelőségi nyilatkozat

(1)A szolgáltató minden egyes MI-rendszerre vonatkozóan írásos EU-megfelelőségi nyilatkozatot készít, és azt az MI-rendszer forgalomba hozatala vagy üzembe helyezése után 10 évig a nemzeti illetékes hatóság számára elérhetővé teszi. Az EU-megfelelőségi nyilatkozat megnevezi azt az MI-rendszert, amelyre vonatkozóan a nyilatkozatot kiállították. Az EU-megfelelőségi nyilatkozat egy példányát kérésre az érintett nemzeti illetékes hatóságok rendelkezésére kell bocsátani.

(2)Az EU-megfelelőségi nyilatkozatban fel kell tüntetni, hogy a szóban forgó nagy kockázatú MI-rendszer megfelel az e cím 2. fejezetében meghatározott követelményeknek. Az EU-megfelelőségi nyilatkozat tartalmazza az V. mellékletben szereplő információkat. A nyilatkozatot le kell fordítani az Unió azon hivatalos nyelvére vagy nyelveire, amelye(ke)t a nagy kockázatú MI-rendszer forgalmazásának helye szerinti tagállam(ok) előír(nak).

(3)Amennyiben a nagy kockázatú MI-rendszerek más uniós harmonizációs jogszabályok hatálya alá tartoznak, amelyek szintén EU-megfelelőségi nyilatkozatot írnak elő, a nagy kockázatú MI-rendszerre alkalmazandó valamennyi uniós jogszabály tekintetében egyetlen EU-megfelelőségi nyilatkozatot kell kiállítani. A nyilatkozat tartalmaz minden olyan információt, amelyre szükség van annak az uniós harmonizációs jogszabálynak az azonosításához, amelynek tekintetében a nyilatkozatot tették.

(4)Az EU-megfelelőségi nyilatkozat kiállításával a szolgáltató felelősséget vállal az e cím 2. fejezetében meghatározott követelmények teljesítéséért. A szolgáltató szükség szerint naprakészen tartja az EU-megfelelőségi nyilatkozatot.

(5)A Bizottság felhatalmazást kap arra, hogy a 73. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el az V. mellékletben meghatározott EU-megfelelőségi nyilatkozat tartalmának naprakésszé tétele céljából, hogy a műszaki fejlődés fényében szükségessé váló elemeket be tudja illeszteni.

49. cikk
CE megfelelőségi jelölés

(1)A CE-jelölést a nagy kockázatú MI-rendszerek esetében jól láthatóan, olvashatóan és eltávolíthatatlan módon kell elhelyezni. Amennyiben a nagy kockázatú MI-rendszer jellege miatt ez nem lehetséges vagy nem indokolt, a jelölést a csomagoláson vagy adott esetben a kísérő dokumentáción kell feltüntetni.

(2)Az e cikk (1) bekezdésében említett CE-jelölésre a 765/2008/EK rendelet 30. cikkében meghatározott általános elvek vonatkoznak.

(3)A CE-jelölés mellett adott esetben fel kell tüntetni az 43. cikkben előírt megfelelőségértékelési eljárásokért felelős bejelentett szervezet azonosító számát. Az azonosító számot fel kell tüntetni minden olyan promóciós anyagon is, amely megemlíti, hogy a nagy kockázatú MI-rendszer eleget tesz a CE-jelölésre vonatkozó követelményeknek.

50. cikk
Dokumentumok megőrzése

A szolgáltató az MI-rendszer forgalomba hozatala vagy üzembe helyezése után 10 évig a nemzeti illetékes hatóságok számára elérhetővé teszi a következőket:

a)a 11. cikkben említett műszaki dokumentáció;

b)a 17. cikkben említett minőségirányítási rendszerre vonatkozó dokumentáció;

c)adott esetben a bejelentett szervezetek által jóváhagyott változtatások dokumentációja;

d)adott esetben a bejelentett szervezetek által kiadott határozatok és egyéb dokumentumok;

e)a 48. cikkben említett EU-megfelelőségi nyilatkozat.

51. cikk
Regisztráció

A 6. cikk (2) bekezdésében említett, nagy kockázatú MI-rendszer forgalomba hozatala vagy üzembe helyezése előtt a szolgáltató vagy adott esetben a meghatalmazott képviselő a szóban forgó rendszert regisztrálja a 60. cikkben említett uniós adatbázisban.

IV. CÍM

BIZONYOS MI-RENDSZEREKRE VONATKOZÓ ÁTLÁTHATÓSÁGI KÖTELEZETTSÉGEK

52. cikk
Bizonyos MI-rendszerekre vonatkozó átláthatósági kötelezettségek

(1)A szolgáltatók biztosítják, hogy a természetes személyekkel való interakcióra szánt MI-rendszereket úgy tervezzék meg és fejlesszék ki, hogy a természetes személyek tájékoztatást kapjanak arról, hogy valamely MI-rendszerrel állnak kapcsolatban, kivéve, ha ez a körülmények és a használat kontextusa alapján nyilvánvaló. Ez a kötelezettség nem vonatkozik a törvény által a bűncselekmények felderítésére, megelőzésére, kivizsgálására és eljárás indítására engedélyezett MI-rendszerekre, kivéve, ha ezek a rendszerek bűncselekmények bejelentése céljából a nyilvánosság számára is elérhetők.

(2)Az érzelemfelismerő rendszer vagy a biometrikus kategorizálási rendszer felhasználói tájékoztatják a rendszer működéséről azokat a természetes személyeket, akik a rendszerrel kapcsolatba kerülnek. Ez a kötelezettség nem vonatkozik a biometrikus kategorizálásra használt olyan MI-rendszerekre, amelyek a jogszabályok értelmében bűncselekmények felderítése, megelőzése és kivizsgálása céljából kerültek engedélyezésre.

(3)Azon MI-rendszerek felhasználói, amelyek olyan, meglévő személyekre, tárgyakra, helyekre vagy más szervezetekre vagy eseményekre érzékelhetően hasonlító képet, audio- vagy videotartalmat generálnak vagy manipulálnak, amely egy személy számára megtévesztő módon eredetinek vagy valóságosnak tűnhet („deepfake”), közlik, hogy a tartalmat mesterségesen hozták létre vagy manipulálták.

Az első albekezdés azonban nem alkalmazandó abban az esetben, ha a felhasználást törvény engedélyezi bűncselekmények felderítése, megelőzése, kivizsgálása és eljárás indításának céljából, vagy ha az az Európai Unió Alapjogi Chartájában biztosított, a véleménynyilvánítás szabadságához, továbbá a művészet és tudomány szabadságához való jog gyakorlásához szükséges, és a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok hatálya alá tartozik.

(4)Az (1), (2) és (3) bekezdés nem érinti az e rendelet III. címében meghatározott követelményeket és kötelezettségeket.

V. CÍM

AZ INNOVÁCIÓT TÁMOGATÓ INTÉZKEDÉSEK

53. cikk
MI szabályozói tesztkörnyezetek

(1)Az egy vagy több tagállam illetékes hatósága vagy az európai adatvédelmi biztos által létrehozott, mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezet olyan ellenőrzött környezetet biztosít, amely korlátozott ideig megkönnyíti az innovatív MI-rendszerek fejlesztését, tesztelését és validálását azok egy konkrét terv alapján történő forgalomba hozatala vagy üzembe helyezése előtt. Erre az illetékes hatóságok közvetlen felügyelete és irányítása mellett kerül sor annak érdekében, hogy biztosítsák az e rendeletben és adott esetben a tesztkörnyezetben felügyelt egyéb uniós és tagállami jogszabályokban foglalt követelményeknek való megfelelést.

(2)A tagállamok biztosítják, hogy amennyiben az innovatív MI-rendszerek személyes adatok kezelésével járnak, vagy egyébként az adatokhoz való hozzáférést biztosító vagy támogató más nemzeti hatóságok vagy illetékes hatóságok felügyeleti hatáskörébe tartoznak, a nemzeti adatvédelmi hatóságok és más nemzeti hatóságok részt vegyenek a mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezet működtetésében.

(3)A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetek nem érintik az illetékes hatóságok felügyeleti és korrekciós hatásköreit. Amennyiben az ilyen rendszerek fejlesztése és tesztelése során az egészséget és a biztonságot, valamint az alapvető jogokat érintő jelentős kockázatok merülnek fel, azokat azonnal csökkenteni kell, illetve ennek hiányában a fejlesztési és tesztelési folyamatot mindaddig fel kell felfüggeszteni, amíg az említett kockázatcsökkentésre sor nem kerül.

(4)A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetben részt vevők a felelősségvállalásra alkalmazandó uniós és tagállami jogszabályok értelmében továbbra is felelősséggel tartoznak a tesztkörnyezetben végzett kísérlet következtében harmadik feleknek okozott károkért.

(5)A tagállamok azon illetékes hatóságai, amelyek mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezeteket hoztak létre, összehangolják tevékenységeiket, és együttműködnek a Mesterséges Intelligenciával Foglalkozó Európai Testület keretében. A hatóságok éves jelentéseket nyújtanak be a Testületnek és a Bizottságnak a rendszer végrehajtásának eredményeiről, ezen belül a bevált gyakorlatokról, a levont tanulságokról és a létrehozásukra vonatkozó ajánlásokról, valamint adott esetben az e rendelet és a tesztkörnyezetben felügyelt egyéb uniós jogszabályok alkalmazásáról.

(6)A mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetek működésének módozatait és feltételeit, beleértve a kiválasztási kritériumokat és az alkalmazás, a kiválasztás, a részvétel és a tesztkörnyezetből való kilépés eljárását, valamint a résztvevők jogait és kötelezettségeit végrehajtási jogi aktusokban kell meghatározni. Ezeket a végrehajtási jogi aktusokat a 74. cikk (2) bekezdésében említett vizsgálóbizottsági eljárás keretében kell elfogadni.

54. cikk
Személyes adatok további kezelése bizonyos közérdekű MI-rendszerek fejlesztése céljából a mesterséges intelligenciára vonatkozó szabályozói tesztkörnyezetben

(1)A mesterséges intelligenciára vonatkozó szabályozói tesztkörnyezetben a más célból jogszerűen gyűjtött személyes adatokat bizonyos innovatív MI-rendszerek kifejlesztése és tesztelése céljából a következő feltételek mellett lehet kezelni:

a)az innovatív MI-rendszereket a jelentős közérdek védelme céljából kell fejleszteni az alábbi egy vagy több területen:

i.bűncselekmények megelőzése, nyomozása, felderítése vagy eljárás lefolytatása, illetve büntetőjogi szankciók végrehajtása, beleértve a közbiztonságot fenyegető veszélyekkel szembeni védelmet és e veszélyek megelőzését, az illetékes hatóságok ellenőrzése és felelőssége körében. Az adatkezelés tagállami vagy uniós jog alapján történik;

ii.közbiztonság és közegészségügy, beleértve a betegségmegelőzést, betegségfelügyeletet és -kezelést;

iii.a környezet minőségének magas szintű védelme és javítása;

b)a kezelt adatok a III. cím 2. fejezetében említett egy vagy több követelménynek való megfeleléshez szükségesek, amennyiben e követelmények ténylegesen nem teljesíthetők anonimizált, szintetikus vagy egyéb nem személyes adatok kezelésével;

c)hatékony nyomonkövetési mechanizmusok állnak rendelkezésre annak megállapítására, hogy a tesztkörnyezettel kapcsolatos kísérletek során felmerülhetnek-e az érintettek alapvető jogait fenyegető jelentős kockázatok, valamint egy olyan reagálási mechanizmus, amely e kockázatok azonnali csökkentésére és szükség esetén az adatkezelés leállítására szolgál;

d)a tesztkörnyezettel összefüggésben kezelendő személyes adatok funkcionálisan különálló, elszigetelt és védett, a résztvevők ellenőrzése alatt álló adatkezelő környezetben vannak, és csak az arra jogosult személyek férnek hozzá ezekhez az adatokhoz;

e)a kezelt személyes adatok nem továbbíthatók, nem ruházhatók át, és nem tehetők harmadik felek által egyéb módon hozzáférhetővé;

f)a személyes adatoknak a tesztkörnyezettel összefüggésben végzett kezelése nem vezethet az érintettekre vonatkozó intézkedésekhez vagy határozatokhoz;

g)a tesztkörnyezettel összefüggésben kezelt valamennyi személyes adatot törölni kell, miután a tesztkörnyezetben való részvétel véget ért, vagy a személyes adatok megőrzési időszaka lejárt;

h)a tesztkörnyezettel összefüggésben végzett személyesadat-kezelés naplóit a tesztkörnyezetben való részvétel időtartama alatt és annak megszűnését követő 1 évig kell megőrizni, kizárólag az e cikk vagy más alkalmazandó uniós vagy tagállami jogszabályok szerinti elszámoltathatósági és dokumentációs kötelezettségek teljesítése céljából és csak a szükséges időtartamig;

i)a folyamat teljes körű és részletes leírását, valamint az MI-rendszer betanításának, tesztelésének és validálásának indokolását a IV. mellékletben szereplő műszaki dokumentáció részeként, a tesztelés eredményeivel együtt kell megőrizni;

j)a tesztkörnyezetben fejlesztett MI-projekt rövid összefoglalása, célkitűzéseinek és várt eredményeinek közzététele az illetékes hatóságok honlapján.

(2)Az (1) bekezdés nem érinti azokat az uniós vagy tagállami jogszabályokat, amelyek kizárják az ezekben a jogszabályokban kifejezetten említett céloktól eltérő célból végzett adatkezelést.

55. cikk
Kis méretű szolgáltatókra és felhasználókra vonatkozó intézkedések

(1)A tagállamok a következő intézkedéseket hajtják végre:

a)a kis méretű szolgáltatók és induló vállalkozások számára elsőbbségi hozzáférést biztosítanak a mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetekhez, amennyiben azok teljesítik a kiválasztási feltételeket;

b)e rendelet alkalmazásával kapcsolatos, a kis méretű szolgáltatók és felhasználók igényeihez igazított külön figyelemfelkeltő tevékenységeket szerveznek;

c)adott esetben külön kommunikációs csatornát hoznak létre a kis méretű szolgáltatókkal, a felhasználókkal és más innovátorokkal folytatandó kommunikációra, hogy iránymutatást nyújtsanak részükre, és megválaszolják az e rendelet végrehajtásával kapcsolatos kérdéseket.

(2)A 43. cikk szerinti megfelelőségértékelési díjak megállapításakor figyelembe kell venni a kis méretű szolgáltatók sajátos érdekeit és igényeit, e díjakat méretükkel és piacuk méretével arányosan kell csökkenteni.

VI. CÍM

IRÁNYÍTÁS

1. fejezet

Mesterséges Intelligenciával Foglalkozó Európai Testület

56. cikk
A Mesterséges Intelligenciával Foglalkozó Európai Testület létrehozása

(1)Létrejön a „Mesterséges Intelligenciával Foglalkozó Európai Testület” (a továbbiakban: a Testület).

(2)A Testület tanácsot és segítséget nyújt a Bizottságnak a következők céljából:

a)hozzájárulás a nemzeti felügyeleti hatóságok és a Bizottság által az e rendelet hatálya alá tartozó kérdésekben folytatott hatékony együttműködéshez;

b)a Bizottság és a nemzeti felügyeleti hatóságok, továbbá az egyéb illetékes hatóságok által a belső piacon felmerülő, az e rendelet hatálya alá tartozó témákban végzett iránymutatás és elemzés koordinálása, illetve az ilyen iránymutatáshoz és elemzéshez való hozzájárulás;

c)a nemzeti felügyeleti hatóságok és a Bizottság támogatása e rendelet következetes alkalmazásának biztosításában.

57. cikk
A Testület felépítése

(1)A Testület tagjai a nemzeti felügyeleti hatóságok, amelyeket e hatóságok vezetője vagy annak megfelelő magas rangú tisztviselője képvisel, valamint az európai adatvédelmi biztos. Más nemzeti hatóságok is meghívhatók az ülésekre, ha a megvitatott kérdések relevánsak számukra.

(2)A Testület a tagok egyszerű többségével és a Bizottság hozzájárulásával elfogadja az eljárási szabályzatát. Az eljárási szabályzat tartalmazza a Testület 58. cikkben felsorolt feladatainak végrehajtásához kapcsolódó operatív szempontokat is. A Testület adott esetben, konkrét kérdések megvizsgálása céljából alcsoportokat hozhat létre.

(3)A Testület elnöki tisztét a Bizottság tölti be. A Bizottság hívja össze az üléseket és készíti el a napirendet a Testület e rendelet értelmében vett feladatainak és az eljárási szabályzatának megfelelően. A Bizottság igazgatási és elemzési támogatást nyújt a Testület e rendelet értelmében vett tevékenységeihez.

(4)A Testület külső szakértőket és megfigyelőket hívhat meg az ülésein való részvételre, és a tevékenységeihez szükséges, megfelelő mértékű tájékoztatás céljából eszmecserét folytathat az érdekelt harmadik felekkel. E célból a Bizottság elősegítheti a Testület és más uniós szervek, hivatalok, ügynökségek és tanácsadó csoportok közötti információcserét.

58. cikk
A Testület feladatai

A Bizottság számára az 56. cikk (2) bekezdésével összefüggésben nyújtott tanácsadás és segítségnyújtás során a Testület különösen:

a)összegyűjti és megosztja a tagállamok között a szaktudást és a bevált gyakorlatokat;

b)hozzájárul a tagállamok egységes közigazgatási gyakorlataihoz, többek között az 53. cikkben említett szabályozói tesztkörnyezetek működéséhez;

c)véleményeket, ajánlásokat vagy írásbeli észrevételeket ad ki az e rendelet végrehajtásával kapcsolatos ügyekben, különösen:

i.a III. cím 2. fejezetében meghatározott követelményekre vonatkozó műszaki előírásokról vagy meglévő szabványokról,

ii.a 40. és 41. cikkben említett harmonizált szabványok vagy egységes előírások használatáról,

iii.iránymutatásokat tartalmazó dokumentáció elkészítéséről, a 71. cikkben említett, a közigazgatási bírságok megállapítására vonatkozó iránymutatásokat is beleértve.

2. FEJEZET

Nemzeti illetékes hatóságok

59. cikk
Nemzeti illetékes hatóságok kijelölése

(1)Az egyes tagállamok e rendelet alkalmazásának és végrehajtásának biztosítása céljából nemzeti illetékes hatóságokat hoznak létre vagy jelölnek ki. A nemzeti illetékes hatóságokat úgy kell megszervezni és működtetni, hogy biztosított legyen tevékenységeik objektivitása és pártatlansága.

(2)A nemzeti illetékes hatóságok közül minden tagállam kijelöl egy nemzeti felügyeleti hatóságot. A nemzeti felügyeleti hatóság bejelentő hatóságként és piacfelügyeleti hatóságként jár el, kivéve, ha a tagállamnak szervezeti és közigazgatási okai vannak egynél több hatóság kijelölésére.

(3)A tagállamok tájékoztatják a Bizottságot az említett hatóság vagy hatóságok kijelöléséről, valamint adott esetben az egynél több hatóság kijelölésének indokairól.

(4)A tagállamok biztosítják, hogy a nemzeti illetékes hatóságok megfelelő pénzügyi és emberi erőforrásokkal rendelkezzenek az e rendelet szerinti feladataik ellátásához. A nemzeti illetékes hatóságoknak különösen elegendő létszámú állandó személyzettel kell rendelkezniük, amelynek kompetenciája és szakértelme a mesterségesintelligencia-technológiákra, az adatokra és az adatfeldolgozásra, az alapvető jogokra, az egészségügyi és biztonsági kockázatokra, valamint a meglévő szabványok és jogi követelmények alapos ismeretére is kiterjed.

(5)A tagállamok évente jelentést tesznek a Bizottságnak a nemzeti illetékes hatóságok pénzügyi és emberi erőforrásainak helyzetéről, és értékelik azok megfelelőségét. A Bizottság ezeket az információkat megvitatás és esetleges ajánlások céljából továbbítja a Testületnek.

(6)A Bizottság elősegíti a nemzeti illetékes hatóságok közötti együttműködést.

(7)A nemzeti illetékes hatóságok – többek között a kis méretű szolgáltatók részére – iránymutatást és tanácsot adhatnak e rendelet végrehajtásához. Amennyiben a nemzeti illetékes hatóságok más uniós jogszabályok hatálya alá tartozó területeken kívánnak iránymutatást és tanácsot adni valamely MI-rendszerrel kapcsolatban, adott esetben konzultálniuk kell az említett uniós jogszabályok szerinti illetékes nemzeti hatóságokkal. A tagállamok az üzemeltetőkkel való kommunikáció céljából egy központi kapcsolattartó pontot is létrehozhatnak.

(8)Amennyiben az uniós intézmények, ügynökségek és szervek e rendelet hatálya alá tartoznak, a felügyeletük tekintetében az európai adatvédelmi biztos jár el illetékes hatóságként.

VII. CÍM

AZ ÖNÁLLÓ, NAGY KOCKÁZATÚ MI-RENDSZEREK UNIÓS ADATBÁZISA

60. cikk
Az önálló, nagy kockázatú MI-rendszerek uniós adatbázisa

(1)A Bizottság a tagállamokkal együttműködve uniós adatbázist hoz létre és tart fenn, amely a (2) bekezdésben említett információkat tartalmazza az 51. cikknek megfelelően regisztrált, a 6. cikk (2) bekezdésében említett nagy kockázatú MI-rendszerekre vonatkozóan.

(2)A VIII. mellékletben felsorolt adatokat a szolgáltatók viszik be az uniós adatbázisba. A Bizottság technikai és logisztikai támogatást nyújt számukra.

(3)Az uniós adatbázisban szereplő információkat a nyilvánosság számára hozzáférhetővé kell tenni.

(4)Az uniós adatbázis csak annyiban tartalmaz személyes adatokat, amennyiben az az e rendelettel összhangban történő információgyűjtéshez és -kezeléshez szükséges. Ezeknek az információknak tartalmazniuk kell a rendszer regisztrálásáért felelős és a szolgáltató képviseletére jogosult természetes személyek nevét és elérhetőségét.

(5)Az uniós adatbázist a Bizottság felügyeli. A Bizottság biztosítja továbbá a szolgáltatók számára a megfelelő technikai és adminisztratív támogatást.

VIII. CÍM

FORGALOMBA HOZATAL UTÁNI NYOMON KÖVETÉS, INFORMÁCIÓMEGOSZTÁS, PIACFELÜGYELET

1. fejezet

Forgalomba hozatal utáni nyomon követés

61. cikk
A szolgáltató által végzett, forgalomba hozatal utáni nyomon követés és a nagy kockázatú MI-rendszerekre vonatkozó, forgalomba hozatal utáni nyomonkövetési terv

(1)A szolgáltatók a mesterségesintelligencia-technológiák jellegével és a nagy kockázatú MI-rendszer kockázataival arányos módon forgalomba hozatal utáni nyomonkövetési rendszert hoznak létre és dokumentálnak.

(2)A forgalomba hozatal utáni nyomonkövetési rendszer aktívan és módszeresen gyűjti, dokumentálja és elemzi a felhasználók által szolgáltatott vagy más forrásokból gyűjtött, a nagy kockázatú MI-rendszerek teljes élettartama során a teljesítményükre vonatkozó releváns adatokat, és lehetővé teszi a szolgáltató számára annak értékelését, hogy az MI-rendszerek folyamatosan megfelelnek-e a III. cím 2. fejezetében meghatározott követelményeknek.

(3)A forgalomba hozatal utáni nyomonkövetési rendszer egy forgalomba hozatal utáni nyomon követési terven alapul. A forgalomba hozatal utáni nyomonkövetési terv a IV. mellékletben említett műszaki dokumentáció részét képezi. A Bizottság végrehajtási jogi aktust fogad el, amelyben meghatározza a forgalomba hozatal utáni nyomon követési terv mintáját és a tervben feltüntetendő elemek jegyzékét meghatározó részletes rendelkezéseket.

(4)A II. mellékletben említett jogi aktusok hatálya alá tartozó nagy kockázatú MI-rendszerek esetében, amennyiben az említett jogszabályok alapján már létrehoztak egy forgalomba hozatal utáni nyomonkövetési rendszert és tervet, az (1), (2) és (3) bekezdésben leírt elemeket adott esetben be kell építeni ebbe a rendszerbe és tervbe.

Az első albekezdés a III. melléklet 5. b) pontjában említett, a 2013/36/EU irányelv által szabályozott hitelintézetek által forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszerekre is vonatkozik.

2. fejezet

A váratlan eseményekre és a működési hibákra vonatkozó információk megosztása

62. cikk
A súlyos váratlan események és működési hibák bejelentése

(1)Az uniós piacon forgalomba hozott nagy kockázatú MI-rendszerek szolgáltatói az említett rendszerek minden olyan súlyos váratlan eseményét vagy működési hibáját jelentik, amely az alapvető jogok védelmét célzó uniós jogi kötelezettségek megszegésével járnak, azon tagállamok piacfelügyeleti hatóságainak, amelyekben a váratlan esemény vagy jogsértés megtörtént.

Ezt az értesítést haladéktalanul meg kell tenni azt követően, hogy a szolgáltató megállapította az MI-rendszer és a váratlan esemény vagy működési hiba közötti ok-okozati összefüggést vagy az ilyen összefüggés észszerű valószínűségét, de legkésőbb 15 nappal azt követően, hogy a szolgáltató tudomást szerzett a súlyos váratlan eseményről vagy működési hibáról.

(2)Az alapvető jogok védelmét célzó uniós jogi kötelezettségek megsértésével kapcsolatos értesítés kézhezvételét követően a piacfelügyeleti hatóság tájékoztatja a 64. cikk (3) bekezdésében említett nemzeti hatóságokat vagy szerveket. A Bizottság célzott iránymutatást dolgoz ki az (1) bekezdésben meghatározott kötelezettségeknek való megfelelés megkönnyítése érdekében. Ezt az iránymutatást legkésőbb 12 hónappal e rendelet hatálybalépését követően kell kiadni.

(3)A III. melléklet 5. b) pontjában említett, a 2013/36/EU irányelv által szabályozott hitelintézetek által forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszerek esetében, valamint az (EU) 2017/745 rendelet és az (EU) 2017/746 rendelet hatálya alá tartozó eszközök biztonsági alkatrészének vagy önmagukban eszköznek minősülő nagy kockázatú MI-rendszerek esetében a súlyos váratlan események vagy működési hiba bejelentése azokra a váratlan eseményekre vagy működési hibákra korlátozódik, amelyek az alapvető jogok védelmét célzó uniós jogi kötelezettségek megszegésének minősülnek.

3. fejezet

Jogérvényesítés

63. cikk
Az MI-rendszerek piacfelügyelete és piaci ellenőrzése az uniós piacon

(1)Az (EU) 2019/1020 rendelet az e rendelet hatálya alá tartozó MI-rendszerekre is alkalmazandó. E rendelet hatékony végrehajtása érdekében azonban:

a)az (EU) 2019/1020 rendelet szerinti gazdasági szereplőre történő bármely hivatkozást úgy kell értelmezni, hogy az magában foglalja az e rendelet III. címének 3. fejezetében meghatározott valamennyi üzemeltetőt;

b)az (EU) 2019/1020 rendelet szerinti termékre történő bármely hivatkozást úgy kell értelmezni, hogy az magában foglalja az e rendelet hatálya alá tartozó valamennyi MI-rendszert.

(2)A nemzeti felügyeleti hatóság rendszeresen jelentést tesz a Bizottságnak a vonatkozó piacfelügyeleti tevékenységek eredményeiről. A nemzeti felügyeleti hatóság haladéktalanul jelentést tesz a Bizottságnak és az érintett nemzeti versenyhatóságoknak a piacfelügyeleti tevékenységek során azonosított minden olyan információról, amely a versenyszabályokra vonatkozó uniós jog alkalmazása szempontjából potenciálisan érdekes lehet.

(3)A II. melléklet A. szakaszában felsorolt jogi aktusok hatálya alá tartozó termékekhez kapcsolódó nagy kockázatú MI-rendszerek esetében e rendelet alkalmazásában a piacfelügyeleti hatóság az említett jogi aktusok értelmében kijelölt piacfelügyeleti hatóság.

(4)A pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok által szabályozott pénzügyi intézmények által forgalomba hozott, üzembe helyezett vagy használt MI-rendszerek esetében e rendelet alkalmazásában a piacfelügyeleti hatóság az említett intézmények pénzügyi felügyeletéért az említett jogszabályok értelmében felelős érintett hatóság.

(5)Az 1. pont a) alpontjában felsorolt MI-rendszerek esetében – amennyiben e rendszereket bűnüldözési célokra használják (a III. melléklet 6. és 7. pontja) – a tagállamok e rendelet alkalmazásában piacfelügyeleti hatóságként kijelölik vagy az (EU) 2016/680 irányelv vagy az (EU) 2016/679 rendelet szerinti illetékes adatvédelmi felügyeleti hatóságokat, vagy az e rendszereket üzembe helyező vagy használó bűnüldöző, bevándorlási vagy menekültügyi hatóságok tevékenységét felügyelő nemzeti illetékes hatóságokat.

(6)Amennyiben az uniós intézmények, ügynökségek és szervek e rendelet hatálya alá tartoznak, az európai adatvédelmi biztos jár el piacfelügyeleti hatóságként.

(7)A tagállamok elősegítik az e rendelet alapján kijelölt piacfelügyeleti hatóságok, valamint a II. mellékletben felsorolt uniós harmonizációs jogszabályok vagy a III. mellékletben említett nagy kockázatú MI-rendszerek szempontjából releváns egyéb uniós jogszabályok alkalmazását felügyelő egyéb releváns nemzeti hatóságok vagy szervek közötti koordinációt.

64. cikk
Az adatokhoz és dokumentumokhoz való hozzáférés

(1)A tevékenységeik során az adatokhoz és dokumentumokhoz való hozzáférést illetően a piacfelügyeleti hatóságok teljes körű hozzáférést kapnak a szolgáltató által használt betanítási, validálási és tesztelési adatkészletekhez, többek között felhasználói program interfészeken (API) vagy a távoli hozzáférést lehetővé tevő egyéb megfelelő technikai megoldásokon és eszközökön keresztül.

(2)Amennyiben a nagy kockázatú MI-rendszer esetében a III. cím 2. fejezetében meghatározott követelményeknek való megfelelés értékeléséhez szükséges, továbbá indokolással ellátott kérésre a piacfelügyeleti hatóságok számára hozzáférést kell biztosítani az MI-rendszer forráskódjához.

(3)Azok a nemzeti hatóságok vagy szervek, amelyek felügyelik vagy érvényesítik a III. mellékletben említett, nagy kockázatú MI-rendszerek használatával kapcsolatos, az alapvető jogok védelmét célzó uniós jogi kötelezettségek betartását, jogosultak kérelmezni az e rendelet alapján létrehozott vagy vezetett dokumentumokat és hozzáférni azokhoz, amennyiben az adott dokumentációhoz való hozzáférés a megbízatásuk szerinti hatáskörök gyakorlásához szükséges a joghatóságuk keretein belül. Az érintett hatóság vagy szerv minden ilyen kérelemről tájékoztatja az érintett tagállam piacfelügyeleti hatóságát.

(4)Az e rendelet hatálybalépését követő 3 hónapon belül minden tagállam azonosítja a (3) bekezdésben említett hatóságokat vagy szerveket, és a nemzeti felügyeleti hatóság honlapján nyilvánosan hozzáférhetővé teszi a jegyzéket. A tagállamok értesítik a Bizottságot és az összes többi tagállamot a jegyzékről, és a jegyzéket naprakészen tartják.

(5)Amennyiben a (3) bekezdésben említett dokumentáció nem elegendő annak megállapításához, hogy sor került-e az alapvető jogok védelmét célzó uniós jogi kötelezettségek megszegésére, a (3) bekezdésben említett hatóság vagy szerv indokolással ellátott kérelmet intézhet a piacfelügyeleti hatósághoz a nagy kockázatú MI-rendszer műszaki eszközökkel történő tesztelésének megszervezésére. A piacfelügyeleti hatóság a kérelmet követően észszerű időn belül megszervezi a tesztelést a kérelmező hatóság vagy szerv szoros bevonásával.

(6)A (3) bekezdésben említett nemzeti hatóságok vagy szervek által e cikk rendelkezései alapján megszerzett információkat és dokumentumokat a 70. cikkben meghatározott titoktartási kötelezettségeknek megfelelően kell kezelni.

65. cikk
A kockázatot jelentő MI-rendszerek kezelésére vonatkozó nemzeti szintű eljárások

(1)A kockázatot jelentő MI-rendszerek az (EU) 2019/1020 rendelet 3. cikkének 19. pontjában meghatározott kockázatot jelentő terméknek minősülnek, amennyiben a személyek egészségét vagy biztonságát vagy alapvető jogainak védelmét érintő kockázatokról van szó.

(2)Amennyiben egy tagállam piacfelügyeleti hatóságának elegendő oka van úgy tekinteni, hogy egy MI-rendszer az (1) bekezdésben említettek alapján kockázatot jelent, elvégzi az érintett MI-rendszer értékelését az e rendeletben meghatározott valamennyi követelménynek és kötelezettségnek való megfelelése tekintetében. Amennyiben az alapvető jogok védelmét veszélyeztető kockázatok állnak fenn, a piacfelügyeleti hatóság a 64. cikk (3) bekezdésében említett érintett nemzeti hatóságokat vagy szerveket is tájékoztatja. Az érintett üzemeltetők szükség szerint együttműködnek a piacfelügyeleti hatóságokkal és a 64. cikk (3) bekezdésében említett egyéb nemzeti hatóságokkal vagy szervekkel.

Amennyiben az értékelés során a piacfelügyeleti hatóság megállapítja, hogy az MI-rendszer nem felel meg az ebben a rendeletben megállapított követelményeknek és kötelezettségeknek, akkor haladéktalanul felszólítja az érintett üzemeltetőt, hogy – az előírásoktól függően és a kockázat jellegével arányos észszerű időn belül – vagy tegye meg az ahhoz szükséges valamennyi megfelelő korrekciós intézkedést, hogy az MI-rendszer megfeleljen az említett követelményeknek, vagy vonja ki az MI-rendszert a forgalomból vagy hívja vissza az MI-rendszert.

A piacfelügyeleti hatóság ennek megfelelően tájékoztatja az érintett bejelentett szervezetet. A második albekezdésben említett intézkedésekre az (EU) 2019/1020 rendelet 18. cikke alkalmazandó.

(3)Amennyiben a piacfelügyeleti hatóság úgy ítéli meg, hogy a meg nem felelés nem korlátozódik az ország területére, tájékoztatja a Bizottságot és a többi tagállamot az értékelés eredményeiről és azokról az intézkedésekről, amelyek meghozatalára az üzemeltetőt felszólította.

(4)Az üzemeltető gondoskodik arról, hogy az Unióban általa forgalmazott összes érintett MI-rendszer tekintetében minden megfelelő korrekciós intézkedést meghozzon.

(5)Amennyiben az MI-rendszer üzemeltetője nem teszi meg a megfelelő korrekciós intézkedéseket a (2) bekezdésben említett időszakon belül, a piacfelügyeleti hatóság meghozza az összes megfelelő átmeneti intézkedést az MI-rendszer nemzeti piacon történő forgalmazásának megtiltása vagy korlátozása, illetve forgalomból való kivonása vagy visszahívása érdekében. Ezekről az intézkedésekről a hatóság haladéktalanul tájékoztatja a Bizottságot és a többi tagállamot.

(6)Az (5) bekezdésben meghatározott tájékoztatás tartalmazza az összes rendelkezésre álló adatot, különösen a nem megfelelő MI-rendszer azonosításához szükséges adatokat, az MI-rendszer származási helyét, a megfelelés feltételezett hiányának és a felmerülő kockázatnak a jellegét, a meghozott nemzeti intézkedések jellegét és időtartamát, valamint az érintett üzemeltető által felhozott érveket. A piacfelügyeleti hatóságok külön jelzik, hogy a meg nem felelés az alábbi okok közül egy vagy több miatt következett-e be:

a)az MI-rendszer nem felel meg a III. cím 2. fejezetében meghatározott követelményeknek;

b)a megfelelőség vélelmezését megalapozó, a 40. és a 41. cikkben említett harmonizált szabványok vagy egységes előírások hiányosságai.

(7)Az eljárást kezdeményező tagállam piacfelügyeleti hatóságától eltérő tagállamok piacfelügyeleti hatóságai haladéktalanul tájékoztatják a Bizottságot és a többi tagállamot az elfogadott intézkedésekről és azokról a birtokukban lévő további információkról, amelyek az érintett MI-rendszer megfelelésének hiányáról tanúskodnak, valamint – amennyiben nem értenek egyet a bejelentett tagállami intézkedéssel – a kifogásaikról.

(8)Amennyiben az (5) bekezdésben említett tájékoztatás kézhezvételétől számított három hónapon belül egyik tagállam és a Bizottság sem emel kifogást a valamely tagállam által hozott ideiglenes intézkedéssel szemben, az intézkedést indokoltnak kell tekinteni. Ez nem érinti az érintett üzemeltetőnek az (EU) 2019/1020 rendelet 18. cikke szerinti eljárási jogait.

(9)Minden tagállam piacfelügyeleti hatóságai biztosítják, hogy az érintett termékkel kapcsolatban haladéktalanul megfelelő korlátozó intézkedésekre kerüljön sor, ideértve a termék forgalomból való kivonását is.

66. cikk
Uniós védintézkedési eljárás

(1)Amennyiben valamely tagállam a 65. cikk (5) bekezdésében említett értesítés kézhezvételét követő három hónapon belül kifogást emel valamely más tagállam által elfogadott intézkedéssel szemben, illetve ha a Bizottság úgy ítéli meg, hogy az intézkedés ellentétes az uniós joggal, a Bizottság haladéktalanul egyeztetést kezdeményez az érintett tagállammal és az üzemeltetővel vagy üzemeltetőkkel, és értékeli a nemzeti intézkedést. Az értékelés eredményei alapján a Bizottság a 65. cikk (5) bekezdésében említett értesítéstől számított 9 hónapon belül határoz arról, hogy a nemzeti intézkedés indokolt-e, és erről értesíti az érintett tagállamot.

(2)Amennyiben a nemzeti intézkedést indokoltnak ítélik meg, valamennyi tagállam megteszi a szükséges intézkedéseket annak biztosítása érdekében, hogy a nem megfelelő MI-rendszert kivonják a piacáról, és erről tájékoztatja a Bizottságot. Ha a nemzeti intézkedést indokolatlannak ítélik, az érintett tagállam visszavonja az intézkedést.

(3)Amennyiben a nemzeti intézkedést indokoltnak ítélik meg, és az MI-rendszer meg nem felelése az e rendelet 40. és 41. cikkében említett harmonizált szabványok vagy egységes előírások hiányosságainak a következménye, a Bizottság az 1025/2012/EU rendelet 11. cikkében előírt eljárást alkalmazza.

67. cikk
Kockázatot jelentő megfelelő MI-rendszerek

(1)Amennyiben egy tagállam piacfelügyeleti hatósága a 65. cikk szerinti értékelés elvégzését követően megállapítja, hogy bár az adott MI-rendszer megfelel ennek a rendeletnek, mégis kockázatot jelent a személyek egészségére vagy biztonságára, az alapvető jogok védelmét célzó uniós vagy nemzeti jog szerinti kötelezettségeknek való megfelelésre vagy a közérdek védelmének egyéb szempontjaira, akkor – a kockázat jellegétől függően – felszólítja az érintett üzemeltetőt, hogy vagy tegyen meg minden megfelelő intézkedést annak biztosítására, hogy az érintett MI-rendszer a forgalomba hozatalkor vagy üzembe helyezéskor már ne jelentsen kockázatot, vagy vonja ki a forgalomból az MI-rendszert vagy észszerű időn belüli vonja vissza azt, az előírásoknak megfelelően.

(2)A szolgáltató vagy más érintett üzemeltetők gondoskodnak arról, hogy az (1) bekezdésben említett tagállam piacfelügyeleti hatósága által előírt határidőn belül korrekciós intézkedéseket hozzanak valamennyi érintett, az Unió egész területén forgalmazott MI-rendszer tekintetében.

(3)A tagállam haladéktalanul tájékoztatja a Bizottságot és a többi tagállamot. A tájékoztatás tartalmazza az összes rendelkezésre álló adatot, különösen az érintett MI-rendszer azonosításához szükséges adatokat, az MI-rendszer származását és ellátási láncát, a felmerülő kockázat jellegét, valamint a meghozott nemzeti intézkedések jellegét és időtartamát.

(4)A Bizottság haladéktalanul konzultációt kezd a tagállamokkal és az érintett üzemeltetővel, és értékeli a meghozott nemzeti intézkedéseket. Az értékelés eredményei alapján a Bizottság határozatot hoz arról, hogy az intézkedés indokolt-e, és szükség esetén megfelelő intézkedésekre tesz javaslatot.

(5)A Bizottság határozatának címzettjei a tagállamok.

68. cikk
A formai megfelelés hiánya

(1)Amennyiben egy tagállam piacfelügyeleti hatósága a következő megállapítások egyikére jut, felszólítja az érintett szolgáltatót, hogy vessen véget az adott meg nem felelésnek:

a)a megfelelőségi jelölést a 49. cikket megsértő módon helyezték el;

b)a megfelelőségi jelölést nem helyezték el;

c)az EU-megfelelőségi nyilatkozatot nem készítették el;

d)az EU-megfelelőségi nyilatkozatot helytelenül készítették el;

e)nem tüntették fel az adott esetben a megfelelőségértékelési eljárásban részt vevő bejelentett szervezet azonosító számát;

(2)Amennyiben az (1) bekezdésben említett meg nem felelés továbbra is fennáll, az érintett tagállam minden megfelelő intézkedést megtesz a nagy kockázatú MI-rendszer forgalmazásának korlátozása vagy betiltása céljából, vagy gondoskodik annak visszahívásáról vagy piaci forgalomból történő kivonásáról.

IX. CÍM

MAGATARTÁSI KÓDEXEK

69. cikk
Magatartási kódexek

(1)A Bizottság és a tagállamok ösztönzik és elősegítik olyan magatartási kódexek kidolgozását, amelyek célja, hogy előmozdítsák a III. cím 2. fejezetében meghatározott követelményeknek a nagy kockázatú MI-rendszerektől eltérő MI-rendszerekre történő önkéntes alkalmazását olyan műszaki előírások és megoldások alapján, amelyek a rendszerek rendeltetése ismeretében megfelelő eszközt jelentenek az e követelményeknek való megfelelés biztosítására.

(2)A Bizottság és a Testület ösztönzi és elősegíti olyan magatartási kódexek kidolgozását, amelyek célja például a környezeti fenntarthatósággal, a fogyatékossággal élő személyek hozzáférésével, az érdekelt feleknek az MI-rendszerek tervezésében és fejlesztésében való részvételével, valamint a fejlesztői csapatok sokszínűségével kapcsolatos követelmények MI-rendszerekre való önkéntes alkalmazásának előmozdítása, egyértelmű célkitűzések és az említett célkitűzések elérésének mérésére szolgáló fő teljesítménymutatók alapján.

(3)Magatartási kódexeket készíthetnek az MI-rendszerek egyes szolgáltatói vagy az azokat képviselő szervezetek vagy mindkettő, többek között a felhasználók és az érdekelt felek, valamint képviseleti szervezeteik bevonásával. A magatartási kódexek vonatkozhatnak egy vagy több MI-rendszerre, figyelembe véve az adott rendszerek rendeltetésének hasonlóságát.

(4)A magatartási kódexek kidolgozásának ösztönzése és megkönnyítése keretében a Bizottság és a Testület figyelembe veszi a kis méretű szolgáltatók és induló vállalkozások sajátos érdekeit és igényeit.

X. CÍM

TITOKTARTÁS ÉS SZANKCIÓK

70. cikk
Titoktartás

(1)Az e rendelet alkalmazásában érintett nemzeti illetékes hatóságok és bejelentett szervezetek tiszteletben tartják a feladataik és tevékenységeik végzése során szerzett információk és adatok bizalmas jellegét, hogy védjék különösen a következőket:

a)a nem nyilvános know-how és üzleti információk (üzleti titkok) jogosulatlan megszerzésével, felhasználásával és felfedésével szembeni védelemről szóló (EU) 2016/943 irányelv 5. cikkében említett esetek kivételével a szellemitulajdon-jogok, valamint valamely természetes vagy jogi személy bizalmas üzleti információi vagy üzleti titkai, a forráskódot is beleértve;

b)e rendelet hatékony végrehajtása, különösen az ellenőrzések, a vizsgálatok és az auditok tekintetében; c) köz- és nemzetbiztonsági érdekek;

c)a büntetőjogi vagy közigazgatási eljárások integritása.

(2)Az (1) bekezdés sérelme nélkül a nemzeti illetékes hatóságok között, valamint a nemzeti illetékes hatóságok és a Bizottság között bizalmas alapon megosztott információk nem hozhatók nyilvánosságra a kibocsátó nemzeti illetékes hatósággal és a felhasználóval folytatott előzetes egyeztetés nélkül, amennyiben a III. melléklet 1., 6. és 7. pontjában említett nagy kockázatú MI-rendszereket a bűnüldöző, bevándorlási vagy menekültügyi hatóságok használják, ha az ilyen adatközlés veszélyeztetné a közbiztonsági és nemzetbiztonsági érdekeket.

Amennyiben a bűnüldöző, bevándorlási vagy menekültügyi hatóságok a III. melléklet 1., 6. és 7. pontjában említett nagy kockázatú MI-rendszereket szolgáltatnak, a IV. mellékletben említett műszaki dokumentációnak e hatóságok telephelyén kell maradnia. E hatóságok biztosítják, hogy a 63. cikk (5) és (6) bekezdésében említett piacfelügyeleti hatóságok kérésre azonnal hozzá tudjanak férni a dokumentációhoz, vagy megkaphassák annak egy példányát. Csak a piacfelügyeleti hatóság megfelelő szintű biztonsági tanúsítvánnyal rendelkező munkatársai férhetnek hozzá az említett dokumentációhoz vagy annak bármely példányához.

(3)Az (1) és a (2) bekezdés nem érinti a Bizottságnak, a tagállamoknak és a bejelentett szervezeteknek az információcserére és a figyelmeztetések terjesztésére vonatkozó jogait és kötelezettségeit, sem pedig az érintett feleknek a tagállami büntetőjog alapján fennálló információszolgáltatási kötelezettségét.

(4)A Bizottság és a tagállamok szükség esetén megoszthatnak bizalmas információkat azon harmadik országok szabályozó hatóságaival, amelyekkel a bizalmas kezelésre vonatkozó, megfelelő mértékű titoktartást biztosító kétoldalú vagy többoldalú megállapodást kötöttek.

71. cikk
Szankciók

(1)Az e rendeletben meghatározott feltételekkel összhangban a tagállamok megállapítják az e rendelet megsértése esetén alkalmazandó szankciókra vonatkozó szabályokat, beleértve a közigazgatási bírságokat is, és megtesznek minden szükséges intézkedést azok megfelelő és hatékony végrehajtásának biztosítása érdekében. Az előírt szankcióknak hatékonynak, arányosnak és visszatartó erejűnek kell lenniük. Különös figyelmet kell fordítaniuk a kis méretű szolgáltatók és induló vállalkozások érdekeire, valamint gazdasági életképességükre.

(2)A tagállamok e szabályokról és intézkedésekről tájékoztatják a Bizottságot, és haladéktalanul értesítik az ezeket érintő minden későbbi módosításról.

(3)A következő jogsértések legfeljebb 30 000 000 EUR összegű közigazgatási bírsággal, illetve vállalkozások esetében az előző pénzügyi év teljes éves világpiaci forgalmának legfeljebb 6 %-át kitevő összeggel sújthatók; a kettő közül a magasabb összeget kell kiszabni:

a)a mesterséges intelligenciával kapcsolatos gyakorlatok 5. cikkben említett tilalmának be nem tartása;

b)az MI-rendszer nem felel meg a 10. cikkben meghatározott követelményeknek.

(4)Amennyiben az MI-rendszer nem felel meg az e rendelet szerinti – az 5. és 10. cikkben meghatározottaktól eltérő – követelményeknek vagy kötelezettségeknek, legfeljebb 20 000 000 EUR összegű közigazgatási bírsággal, illetve vállalkozások esetében az előző pénzügyi év teljes éves világpiaci forgalmának legfeljebb 4 %-át kitevő összeggel sújtható; a kettő közül a magasabb összeget kell kiszabni.

(5)Ha a bejelentett szervezetek és nemzeti illetékes hatóságok kérésére válaszul az érintettek helytelen, hiányos vagy félrevezető információt szolgáltatnak, az legfeljebb 10 000 000 EUR összegű közigazgatási bírsággal, illetve vállalkozások esetében az előző pénzügyi év teljes éves világpiaci forgalmának legfeljebb 2 %-át kitevő összeggel sújtható; a kettő közül a magasabb összeget kell kiszabni.

(6)A közigazgatási bírság összegének meghatározásakor minden egyes esetben figyelembe kell venni az adott helyzetre vonatkozó valamennyi lényeges körülményt, és kellő figyelmet kell fordítani a következőkre:

a)a jogsértés és a jogsértés következményeinek jellege, súlyossága és időtartama;

b)ugyanazon jogsértés miatt más piacfelügyeleti hatóságok alkalmaztak-e már közigazgatási bírságokat ugyanazon üzemeltetővel szemben;

c)a jogsértést elkövető üzemeltető mérete és piaci részesedése;

(7)Minden tagállam szabályokat állapít meg arra vonatkozóan, hogy kiszabhatók-e közigazgatási bírságok az adott tagállamban letelepedett hatóságokra és szervekre, és ha igen, milyen mértékűek legyenek.

(8)A tagállamok jogrendszerétől függően a közigazgatási bírságokra vonatkozó szabályokat oly módon lehet alkalmazni, hogy a bírságokat adott esetben az érintett tagállamokban az illetékes nemzeti bíróságok vagy más szervek szabják ki. Az ilyen szabályok alkalmazásának ezekben a tagállamokban azonos hatással kell járniuk.

72. cikk
Az uniós intézményekre, ügynökségekre és szervekre kivetett közigazgatási bírságok

(1)Az európai adatvédelmi biztos közigazgatási bírságot szabhat ki az e rendelet hatálya alá tartozó uniós intézményekre, ügynökségekre és szervekre. A közigazgatási bírság kiszabására vonatkozó döntés meghozatalakor és a bírság összegének meghatározásakor minden egyes esetben figyelembe kell venni az adott helyzetre vonatkozó valamennyi lényeges körülményt, és kellő figyelmet kell fordítani a következőkre:

a)a jogsértés és a jogsértés következményeinek jellege, súlyossága és időtartama;

b)együttműködés az európai adatvédelmi biztossal a jogsértés orvoslása és a jogsértés esetleges káros hatásainak enyhítése érdekében, beleértve az európai adatvédelmi biztos által az érintett uniós intézménnyel, ügynökséggel vagy szervvel szemben ugyanazon tárgyban korábban elrendelt bármely intézkedésnek való megfelelést;

c)az uniós intézmény, ügynökség vagy szerv által korábban elkövetett hasonló jogsértések;

(2)A következő jogsértésekre 500 000 EUR-ig terjedő közigazgatási bírság szabható ki:

a)a mesterséges intelligenciával kapcsolatos gyakorlatok 5. cikkben említett tilalmának be nem tartása;

b)az MI-rendszer nem felel meg a 10. cikkben meghatározott követelményeknek.

(3)Amennyiben az MI-rendszer nem felel meg az e rendelet szerinti – az 5. és 10. cikkben meghatározottaktól eltérő – követelményeknek vagy kötelezettségeknek, legfeljebb 250 000 EUR összegű közigazgatási bírság szabható ki.

(4)Az e cikk szerinti határozatok meghozatala előtt az európai adatvédelmi biztos biztosítja az európai adatvédelmi biztos által lefolytatott eljárás tárgyát képező uniós intézmény vagy szerv számára a lehetőséget, hogy kifejtse álláspontját az esetleges jogsértéssel összefüggésben. Az európai adatvédelmi biztos határozatait csak olyan elemekre és körülményekre alapozhatja, amelyekkel kapcsolatban az érintett felek megtehették észrevételeiket. Az esetleges panaszosokat szorosan be kell vonni az eljárásokba.

(5)Az érintett felek védekezéshez való jogát az eljárás során teljes mértékben tiszteletben kell tartani. Az érintett felek jogosultak arra, hogy hozzáférjenek az európai adatvédelmi biztos aktájához, figyelemmel az egyéneknek vagy vállalkozásoknak a személyes adataik vagy üzleti titkaik védeleméhez fűződő jogos érdekére.

(6)Az e cikk szerint kiszabott bírságok révén beszedett összegek az Unió általános költségvetésének bevételét képezik.

XI. CÍM

FELHATALMAZÁS ÉS BIZOTTSÁGI ELJÁRÁS

73. cikk
A felhatalmazás gyakorlása

(1)A felhatalmazáson alapuló jogi aktusok elfogadására vonatkozóan a Bizottság részére adott felhatalmazás feltételeit e cikk tartalmazza.

(2)A Bizottságnak a 4. cikk, a 7. cikk (1) bekezdése, a 11. cikk (3) bekezdése, a 43. cikk (5) és (6) bekezdése, valamint a 48. cikk (5) bekezdése szerinti felhatalmazása határozatlan időre szól [a rendelet hatálybalépésének napja]-tól/-től kezdődő hatállyal.

(3)Az Európai Parlament vagy a Tanács bármikor visszavonhatja a 4. cikk, a 7. cikk (1) bekezdése, a 11. cikk (3) bekezdése, a 43. cikk (5) és (6) bekezdése, valamint 48. cikk (5) bekezdése szerinti felhatalmazást. A visszavonásról szóló határozat megszünteti az abban meghatározott felhatalmazást. A rendelet az Európai Unió Hivatalos Lapjában való kihirdetését követő napon vagy a benne megjelölt későbbi időpontban lép hatályba. A rendelet nem érinti a már hatályban lévő, felhatalmazáson alapuló jogi aktusok érvényességét.

(4)A Bizottság a felhatalmazáson alapuló jogi aktus elfogadását követően haladéktalanul és egyidejűleg értesíti arról az Európai Parlamentet és a Tanácsot.

(5)A 4. cikk, a 7. cikk (1) bekezdése, a 11. cikk (3) bekezdése, a 43. cikk (5) és (6) bekezdése, továbbá a 48. cikk (5) bekezdése értelmében elfogadott, felhatalmazáson alapuló jogi aktus csak akkor lép hatályba, ha az értesítést követő három hónapon belül sem az Európai Parlament, sem a Tanács nem emelt kifogást a felhatalmazáson alapuló jogi aktus ellen, vagy ha az Európai Parlament és a Tanács az időtartam leteltét megelőzően egyaránt arról tájékoztatta a Bizottságot, hogy nem emel kifogást. Az Európai Parlament vagy a Tanács kezdeményezésére ez az időtartam három hónappal meghosszabbodik.

74. cikk
Bizottsági eljárásrend

(1)A Bizottságot egy bizottság segíti. Ez a bizottság a 182/2011/EU rendelet értelmében vett bizottságnak minősül.

(2)Az e bekezdésre történő hivatkozáskor a 182/2011/EU rendelet 5. cikkét kell alkalmazni.

XII. CÍM

ZÁRÓ RENDELKEZÉSEK

75. cikk
A 300/2008/EK rendelet módosítása

A 300/2008/EK rendelet 4. cikkének (3) bekezdése a következő albekezdéssel egészül ki:

„A [mesterséges intelligenciáról szóló] (EU) YYY/XX európai parlamenti és tanácsi rendelet* értelmében vett mesterségesintelligencia-rendszerekkel kapcsolatos biztonsági berendezések jóváhagyására és használatára vonatkozó műszaki előírásokkal és eljárásokkal kapcsolatos részletes intézkedések elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.”

__________

* (EU) YYY/XX rendelet [a mesterséges intelligenciáról] (HL ...).”

76. cikk
A 167/2013/EU rendelet módosításai

A 167/2013/EU rendelet 17. cikkének (5) bekezdése a következő albekezdéssel egészül ki:

„A [mesterséges intelligenciáról szóló] (EU) YYY/XX európai parlamenti és tanácsi rendelet* értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, az első albekezdés szerinti felhatalmazáson alapuló jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.

__________

* (EU) YYY/XX rendelet [a mesterséges intelligenciáról] (HL ...).”

77. cikk
A 168/2013/EU rendelet módosításai

A 168/2013/EU rendelet 22. cikkének (5) bekezdése a következő albekezdéssel egészül ki:

„A [mesterséges intelligenciáról szóló] (EU) YYY/XX európai parlamenti és tanácsi rendelet* értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, az első albekezdés szerinti felhatalmazáson alapuló jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.

__________

* (EU) YYY/XX rendelet [a mesterséges intelligenciáról] (HL ...).”

78. cikk
A 2014/90/EU irányelv módosítása

A 2014/90/EU irányelv 8. cikke a következő bekezdéssel egészül ki:

„(4) Azon mesterségesintelligencia-rendszerek esetében, amelyek a [mesterséges intelligenciáról szóló] (EU) YYY/XX európai parlamenti és tanácsi rendelet* értelmében biztonsági alkatrészeknek minősülnek, a Bizottság az (1) bekezdés szerinti tevékenysége végzésekor, valamint a (2) és (3) bekezdés szerinti műszaki és vizsgálati előírások elfogadásakor figyelembe veszi az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.

__________

* (EU) YYY/XX rendelet [a mesterséges intelligenciáról] (HL ...).”

79. cikk
Az (EU) 2016/797 irányelv módosítása

Az (EU) 2016/797 irányelv 5. cikke az alábbi bekezdéssel egészül ki:

„(12) A [mesterséges intelligenciáról szóló] (EU) YYY/XX európai parlamenti és tanácsi rendelet* értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, az (1) bekezdés szerinti felhatalmazáson alapuló jogi aktusok és a (11) bekezdés szerinti végrehajtási jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.

__________

* (EU) YYY/XX rendelet [a mesterséges intelligenciáról] (HL ...).”

80. cikk
Az (EU) 2018/858 rendelet módosítása

Az (EU) 2018/858 rendelet 5. cikke a következő bekezdéssel egészül ki:

„(4) „A [mesterséges intelligenciáról szóló] (EU) YYY/XX európai parlamenti és tanácsi rendelet* értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, a (3) bekezdés szerinti felhatalmazáson alapuló jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.

__________

* (EU) YYY/XX rendelet [a mesterséges intelligenciáról] (HL ...).”

81. cikk
Az (EU) 2018/1139 rendelet módosítása

Az (EU) 2018/1139 rendelet a következőképpen módosul:

(1) A 17. cikk a következő bekezdéssel egészül ki:

„(3) A (2) bekezdés sérelme nélkül [a mesterséges intelligenciáról szóló] (EU) YYY/XX európai parlamenti és tanácsi rendelet* értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, a (1) bekezdés szerinti végrehajtási jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.

__________

* (EU) YYY/XX rendelet [a mesterséges intelligenciáról] (HL ...).”

(2) A 19. cikk a következő bekezdéssel egészül ki:

„(4) A [mesterséges intelligenciáról szóló] (EU) YYY/XX rendelet értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, az (1) és a (2) bekezdés szerinti felhatalmazáson alapuló jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.”

(3) A 43. cikk a következő bekezdéssel egészül ki:

„(4) A [mesterséges intelligenciáról szóló] (EU) YYY/XX rendelet értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, az (1) bekezdés szerinti végrehajtási jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.”

(4) A 47. cikk a következő bekezdéssel egészül ki:

„(3) A [mesterséges intelligenciáról szóló] (EU) YYY/XX rendelet értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, az (1) és a (2) bekezdés szerinti felhatalmazáson alapuló jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.”

(5) A 57. cikk a következő bekezdéssel egészül ki:

A [mesterséges intelligenciáról szóló] (EU) YYY/XX rendelet értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, említett végrehajtási jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.”

(6) A 58. cikk a következő bekezdéssel egészül ki:

„(3) A [mesterséges intelligenciáról szóló] (EU) YYY/XX rendelet értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, az (1) és a (2) bekezdés szerinti felhatalmazáson alapuló jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.”

82. cikk
Az (EU) 2019/2144 rendelet módosítása

Az (EU) 2019/2144 rendelet 11. cikke a következő bekezdéssel egészül ki:

„(3) A [mesterséges intelligenciáról szóló] (EU) YYY/XX európai parlamenti és tanácsi rendelet* értelmében biztonsági alkatrészeknek minősülő mesterségesintelligencia-rendszerekre vonatkozó, a (2) bekezdés szerinti végrehajtási jogi aktusok elfogadásakor figyelembe kell venni az említett rendelet III. címének 2. fejezetében meghatározott követelményeket.

__________

* (EU) YYY/XX rendelet [a mesterséges intelligenciáról] (HL ...).”

83. cikk
Korábban már forgalomba hozott vagy üzembe helyezett MI-rendszerek

(1)Ez a rendelet nem alkalmazandó azokra a IX. mellékletben felsorolt jogi aktusokkal létrehozott nagyméretű informatikai rendszerek alkotóelemeit képező MI-rendszerekre, amelyeket [az alkalmazásnak az e rendelet 85. cikkének (2) bekezdésében említett kezdőnapját követő 12 hónap] előtt hoztak forgalomba vagy helyeztek üzembe, kivéve, ha e jogi aktusok felváltása vagy módosítása az érintett MI-rendszer vagy MI-rendszerek tervezésének vagy rendeltetésének jelentős megváltozását eredményezi.

Az e rendeletben meghatározott követelményeket adott esetben figyelembe kell venni minden egyes, a IX. mellékletben felsorolt jogi aktusokkal létrehozott nagyméretű informatikai rendszer értékelése során, amelyet az említett jogi aktusokban előírtak szerint kell elvégezni.

(2)Ez a rendelet csak akkor alkalmazandó azokra az (1) bekezdésben említettektől eltérő, nagy kockázatú MI-rendszerekre, amelyeket [e rendelet alkalmazásának a 85. cikk (2) bekezdésében említett kezdőnapja] előtt hoztak forgalomba vagy helyeztek üzembe, ha az említett időponttól kezdve a szóban forgó rendszerek kialakításukban vagy rendeltetésükben jelentős változásokon mennek keresztül.

84. cikk
Értékelés és felülvizsgálat

(1)A Bizottság e rendelet hatálybalépését követően évente egyszer megvizsgálja, hogy szükség van-e a III. mellékletben szereplő jegyzék módosítására.

(2)A Bizottság [e rendelet alkalmazásának a 85. cikk (2) bekezdésében említett kezdőnapját követő három évvel]-ig, majd azt követően négyévente jelentést nyújt be az Európai Parlamentnek és a Tanácsnak e rendelet értékeléséről és felülvizsgálatáról. A jelentéseket közzé kell tenni.

(3)A (2) bekezdésben említett jelentésekben különös figyelmet kell szentelni a következőknek:

a)a nemzeti illetékes hatóságok pénzügyi és emberi erőforrásainak státusza az e rendelet alapján rájuk ruházott feladatok hatékony ellátása érdekében;

b)a tagállamok által az e rendelet rendelkezéseinek megsértése esetén alkalmazott szankciók, különösen a 71. cikk (1) bekezdésében említett közigazgatási bírságok.

(4)A Bizottság [e rendelet alkalmazásának a 85. cikk (2) bekezdésében említett kezdőnapját követő három év]-ig és azt követően négyévente értékeli a magatartási kódexek hatását és hatékonyságát a III. cím 2. fejezetében meghatározott követelmények és esetleg a nagy kockázatú MI-rendszerektől eltérő MI-rendszerekre vonatkozó egyéb kiegészítő követelmények alkalmazásának előmozdítása érdekében.

(5)Az (1)–(4) bekezdés alkalmazásában a Testület, a tagállamok és a nemzeti illetékes hatóságok kérésre tájékoztatást nyújtanak a Bizottságnak.

(6)A Bizottság az (1)–(4) bekezdésben említett értékelések és felülvizsgálatok során figyelembe veszi a Testület, az Európai Parlament, a Tanács és az egyéb érintett szervek vagy források álláspontját és megállapításait.

(7)A Bizottság szükség esetén megfelelő javaslatokat nyújt be e rendelet módosítására, figyelembe véve különösen a technológia fejlődését és az információs társadalom fejlődési szintjét.

85. cikk
Hatálybalépés és alkalmazás

(1)Ez a rendelet az Európai Unió Hivatalos Lapjában való kihirdetését követő huszadik napon lép hatályba.

(2)Ezt a rendeletet [a rendelet hatálybalépésétől számított 24 hónap]-tól/-től kell alkalmazni.

(3)A (2) bekezdéstől eltérve:

a)A III. cím 4. fejezetét és a VI. címet [e rendelet hatálybalépésétől számított három hónap]-tól/-től kell alkalmazni;

b)a 71. cikket [e rendelet hatálybalépésétől számított tizenkét hónap]-tól/-től kell alkalmazni.

Ez a rendelet teljes egészében kötelező és közvetlenül alkalmazandó valamennyi tagállamban.

Kelt Brüsszelben, -án/-én.

PÉNZÜGYI KIMUTATÁS

1.A JAVASLAT/KEZDEMÉNYEZÉS FŐBB ADATAI

1.1. A javaslat/kezdeményezés címe

1.2. Az érintett szakpolitikai terület(ek)

1.3. A javaslat/kezdeményezés a következőre irányul:

1.4. Célkitűzés(ek)

1.4.1. Általános célkitűzés(ek)

1.4.2. Konkrét célkitűzés(ek)

1.4.3. Várható eredmény(ek) és hatás(ok)

1.4.4. Teljesítménymutatók

1.5. A javaslat/kezdeményezés indoklása

1.5.1. Rövid vagy hosszú távon kielégítendő szükséglet(ek) a kezdeményezés végrehajtásának részletes ütemtervével

1.5.2. Az Unió részvételéből származó hozzáadott érték (adódhat többek között a koordinációból eredő előnyökből, a jogbiztonságból, a fokozott hatékonyságból vagy a kiegészítő jellegből). E pontban „az Unió részvételéből származó hozzáadott érték” azt az uniós részvételből adódó értéket jelenti, amely többletként jelentkezik ahhoz az értékhez képest, amely a tagállamok egyedüli fellépése esetén jött volna létre.

1.5.3. Hasonló korábbi tapasztalatok tanulsága

1.5.4. A többéves pénzügyi kerettel való összeegyeztethetőség és egyéb megfelelő eszközökkel való lehetséges szinergiák

1.5.5.    A rendelkezésre álló különböző finanszírozási lehetőségek értékelése, ideértve az átcsoportosítási lehetőségeket is

1.6. A javaslat/kezdeményezés időtartama és pénzügyi hatása

1.7. Tervezett irányítási módszer(ek)

2.IRÁNYÍTÁSI INTÉZKEDÉSEK

2.1. A nyomon követésre és a jelentéstételre vonatkozó rendelkezések

2.2. Irányítási és kontrollrendszer

2.2.1. Az irányítási módszer(ek), a finanszírozás végrehajtási mechanizmusai, a kifizetési módok és a javasolt kontrollstratégia indokolása

2.2.2. A felismert kockázatokkal és a csökkentésükre létrehozott belső kontrollrendszerekkel kapcsolatos információk

2.2.3. A kontroll költséghatékonyságának becslése és indokolása (a „kontroll költségei ÷ a kezelt kapcsolódó források értéke” hányados) és a hibakockázat várható szintjeinek értékelése (kifizetéskor és záráskor)

2.3.A csalások és a szabálytalanságok megelőzésére vonatkozó intézkedések

3.A JAVASLAT/KEZDEMÉNYEZÉS BECSÜLT PÉNZÜGYI HATÁSA

3.1.A többéves pénzügyi keret érintett fejezete/fejezetei és a költségvetés érintett kiadási sora/sorai

3.2.A javaslat előirányzatokra gyakorolt becsült pénzügyi hatása 

3.2.1.Az operatív előirányzatokra gyakorolt becsült hatás összefoglalása

3.2.2.Operatív előirányzatokból finanszírozott becsült kimenet

3.2.3. Az igazgatási előirányzatokra gyakorolt becsült hatás összefoglalása

3.2.4.A jelenlegi többéves pénzügyi kerettel való összeegyeztethetőség

3.2.5.Harmadik felek részvétele a finanszírozásban

3.3.A bevételre gyakorolt becsült hatás

PÉNZÜGYI KIMUTATÁS

1.A JAVASLAT/KEZDEMÉNYEZÉS FŐBB ADATAI

1.1.A javaslat/kezdeményezés címe

1.2.Az érintett szakpolitikai terület(ek)

1.3.A javaslat/kezdeményezés a következőre irányul:

X új intézkedés 

◻ kísérleti projektet/előkészítő intézkedést követő új intézkedés 64  

◻ jelenlegi intézkedés meghosszabbítása 

◻ új intézkedésnek megfelelően módosított intézkedés 

1.4.Célkitűzés(ek)

1.4.1.Általános célkitűzés(ek)

1.4.2.Konkrét célkitűzés(ek)

1.4.3.Várható eredmény(ek) és hatás(ok)

Tüntesse fel, milyen hatásokat gyakorolhat a javaslat/kezdeményezés a kedvezményezettekre/célcsoportokra.

1.4.4.Teljesítménymutatók

Tüntesse fel a javaslat/kezdeményezés megvalósításának nyomon követését lehetővé tevő mutatókat.

1.5.A javaslat/kezdeményezés indoklása

1.5.1.Rövid vagy hosszú távon kielégítendő szükséglet(ek) a kezdeményezés végrehajtásának részletes ütemtervével

1.5.2.Az Unió részvételéből származó hozzáadott érték (adódhat többek között a koordinációból eredő előnyökből, a jogbiztonságból, a fokozott hatékonyságból vagy a kiegészítő jellegből). E pontban „az Unió részvételéből származó hozzáadott érték” azt az uniós részvételből adódó értéket jelenti, amely többletként jelentkezik ahhoz az értékhez képest, amely a tagállamok egyedüli fellépése esetén jött volna létre.

1.5.3.Hasonló korábbi tapasztalatok tanulsága

1.5.4.A többéves pénzügyi kerettel való összeegyeztethetőség és egyéb megfelelő eszközökkel való lehetséges szinergiák

1.5.5.A rendelkezésre álló különböző finanszírozási lehetőségek értékelése, ideértve az átcsoportosítási lehetőségeket is

1.6.A javaslat/kezdeményezés időtartama és pénzügyi hatása

◻ határozott időtartam

–◻    időtartam: ÉÉÉÉ [HH/NN]-tól/-től ÉÉÉÉ [HH/NN]-ig

–◻    pénzügyi hatás: ÉÉÉÉ-tól/-től ÉÉÉÉ-ig a kötelezettségvállalási előirányzatok esetében és ÉÉÉÉ-tól/-től ÉÉÉÉ-ig a kifizetési előirányzatok esetében

X határozatlan időtartam

–beindítási időszak: egy/két (megerősítendő) év,

–azt követően: rendes ütem.

1.7.Tervezett irányítási módszer(ek) 65  

X Bizottság általi közvetlen irányítás

–◻ a Bizottság szervezeti egységein keresztül, ideértve az uniós küldöttségek személyzetét;

–◻    végrehajtó ügynökségen keresztül

◻ Megosztott irányítás a tagállamokkal

◻ Közvetett irányítás a költségvetés végrehajtásával kapcsolatos feladatoknak a következőkre történő átruházásával:

–◻ harmadik országok vagy az általuk kijelölt szervek;

–◻ nemzetközi szervezetek és ügynökségeik (nevezze meg);

–◻ az EBB és az Európai Beruházási Alap;

–◻ a költségvetési rendelet 70. és 71. cikkében említett szervek;

–◻ közjogi szervek;

–◻ magánjog alapján működő, közfeladatot ellátó szervek, amennyiben megfelelő pénzügyi garanciákat nyújtanak;

–◻ valamely tagállam magánjoga alapján működő, köz- és magánszféra közötti partnerség végrehajtásával megbízott és megfelelő pénzügyi garanciákat nyújtó szervek;

–◻ az EUSZ V. címének értelmében a KKBP terén konkrét fellépések végrehajtásával megbízott, és a vonatkozó alap-jogiaktusban meghatározott személyek.

–Egynél több irányítási módszer feltüntetése esetén kérjük, adjon részletes felvilágosítást a „Megjegyzések” rovatban.

Megjegyzések

2.IRÁNYÍTÁSI INTÉZKEDÉSEK

2.1.A nyomon követésre és a jelentéstételre vonatkozó rendelkezések

Gyakoriság és feltételek

2.2.Irányítási és kontrollrendszer(ek)

2.2.1.Az irányítási módszer(ek), a finanszírozás végrehajtási mechanizmusai, a kifizetési módok és a javasolt kontrollstratégia indokolása

2.2.2.A felismert kockázatokkal és a csökkentésükre létrehozott belső kontrollrendszerekkel kapcsolatos információk

2.2.3.A kontroll költséghatékonyságának becslése és indokolása (a „kontroll költségei ÷ a kezelt kapcsolódó források értéke” hányados) és a hibakockázat várható szintjeinek értékelése (kifizetéskor és záráskor)

2.3.A csalások és a szabálytalanságok megelőzésére vonatkozó intézkedések

Tüntesse fel a meglévő vagy tervezett megelőző és védintézkedéseket, pl. a csalás elleni stratégiából.

3.A JAVASLAT/KEZDEMÉNYEZÉS BECSÜLT PÉNZÜGYI HATÁSA

3.1.A többéves pénzügyi keret érintett fejezete/fejezetei és a költségvetés érintett kiadási sora/sorai

·Jelenlegi költségvetési sorok

A többéves pénzügyi keret fejezetei, azon belül pedig a költségvetési sorok sorrendjében.

3.2.A javaslat előirányzatokra gyakorolt becsült pénzügyi hatása

3.2.1.Az operatív előirányzatokra gyakorolt becsült hatás összefoglalása

–◻    A javaslat/kezdeményezés nem vonja maga után operatív előirányzatok felhasználását

–X    A javaslat/kezdeményezés az alábbi operatív előirányzatok felhasználását vonja maga után:

millió EUR (három tizedesjegyig)

Ha a javaslat/kezdeményezés egynél több operatív fejezetet is érint, ismételje meg a fenti szakaszt:

Ezt a részt az igazgatási jellegű költségvetési adatok táblázatában kell kitölteni, melyet először a pénzügyi kimutatás mellékletébe (a belső szabályzat V. melléklete) kell bevezetni; a mellékletet a szolgálatközi konzultációhoz fel kell tölteni a DECIDE rendszerbe.

millió EUR (három tizedesjegyig)

millió EUR (három tizedesjegyig)

3.2.2.Operatív előirányzatokból finanszírozott becsült kimenet

Kötelezettségvállalási előirányzatok, millió EUR (három tizedesjegyig)

3.2.3.Az igazgatási előirányzatokra gyakorolt becsült hatás összefoglalása

–◻    A javaslat/kezdeményezés nem vonja maga után igazgatási jellegű előirányzatok felhasználását.

–X    A javaslat/kezdeményezés az alábbi igazgatási jellegű előirányzatok felhasználását vonja maga után:

millió EUR (három tizedesjegyig)

A humánerőforrással és más igazgatási jellegű kiadásokkal kapcsolatos előirányzat-igényeket az adott főigazgatóság rendelkezésére álló, az intézkedés irányításához rendelt előirányzatokkal és/vagy az adott főigazgatóságon belüli átcsoportosítással kell teljesíteni. A források adott esetben a költségvetési korlátok betartása mellett kiegészíthetők az éves elosztási eljárás keretében az irányító főigazgatósághoz rendelt további allokációkkal.

3.2.3.1.Becsült humánerőforrás-szükségletek

–◻    A javaslat/kezdeményezés nem igényel humánerőforrást.

–X    A javaslat/kezdeményezés az alábbi humánerőforrás-igénnyel jár:

A becsléseket teljes munkaidős egyenértékben kell kifejezni

XX az érintett szakpolitikai terület vagy költségvetési cím.

A humánerőforrás-igényeknek az adott főigazgatóság rendelkezésére álló, az intézkedés irányításához rendelt és/vagy az adott főigazgatóságon belül átcsoportosított személyzettel kell eleget tenni. A források adott esetben a meglévő költségvetési korlátok betartása mellett kiegészíthetők az éves elosztási eljárás keretében az irányító főigazgatósághoz rendelt további allokációkkal.

Az európai adatvédelmi biztos várhatóan a szükséges források felét biztosítja.

Az elvégzendő feladatok leírása:

3.2.4.A jelenlegi többéves pénzügyi kerettel való összeegyeztethetőség

A javaslat/kezdeményezés

–X    teljes mértékben finanszírozható a többéves pénzügyi keret érintett fejezetén belüli átcsoportosítás révén.

–◻    a többéves pénzügyi keret lekötetlen mozgásterének és/vagy a többéves pénzügyi keretről szóló rendeletben meghatározott különleges eszközök felhasználását teszi szükségessé.

–◻    a többéves pénzügyi keret módosítását teszi szükségessé.

3.2.5.Harmadik felek részvétele a finanszírozásban

A javaslat/kezdeményezés

–X    nem irányoz elő harmadik felek általi társfinanszírozást.

–◻ előirányoz harmadik felek általi társfinanszírozást az alábbi becslések szerint:

előirányzatok, millió EUR (három tizedesjegyig)

3.3.A bevételre gyakorolt becsült hatás

–◻    A javaslatnak/kezdeményezésnek van pénzügyi hatása – a bevételre gyakorolt hatása a következő:

–◻    A javaslatnak/kezdeményezésnek van pénzügyi hatása – a bevételre gyakorolt hatása a következő:

–◻    a javaslat az egyéb bevételekre gyakorol hatást

–◻    a javaslat az egyéb bevételekre gyakorol hatást

–kérjük adja meg, hogy a bevétel kiadási sorhoz van-e rendelve◻

millió EUR (három tizedesjegyig)

A címzett bevételek esetében tüntesse fel az érintett kiadáshoz tartozó költségvetési sor(oka)t.

Egyéb megjegyzések (pl. a bevételre gyakorolt hatás számítására használt módszer/képlet vagy egyéb más információ).

(1)     https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_en.pdf

(2)    Európai Bizottság, Fehér könyv a mesterséges intelligenciáról: a kiválóság és a bizalom európai megközelítése, COM(2020) 65 final, 2020.

(3)    Európai Tanács, Az Európai Tanács rendkívüli ülése (2020. október 1–2.) – Következtetések , EUCO 13/20, 2020, 6. o.

(4)    Az Európai Parlament 2020. október 20-i állásfoglalása a Bizottsághoz intézett ajánlásokkal a mesterséges intelligencia, a robotika és a kapcsolódó technológiák etikai szempontjainak keretéről (2020/2012(INL)).

(5)    Európai Tanács, Az Európai Tanács ülése (2017. október 19.) – Következtetés , EUCO 14/17, 2017, 8. o.

(6)    Az Európai Unió Tanácsa, Mesterséges intelligencia b) Következtetések a mesterséges intelligenciáról szóló összehangolt tervről – A következtetések elfogadása 6177/19, 2019.

(7)    Európai Tanács, Az Európai Tanács rendkívüli ülése (2020. október 1–2.) – Következtetések , EUCO 13/20, 2020.

(8)    Az Európai Unió Tanácsa, Az elnökség következtetései – Az Alapjogi Chartáról a mesterséges intelligencia és a digitális átalakulás összefüggésében , 11481/20, 2020.

(9)    Az Európai Parlament 2020. október 20-i állásfoglalása a mesterséges intelligencia, a robotika és a kapcsolódó technológiák etikai szempontjainak keretéről ( 2020/2012(INL) ).

(10)    Az Európai Parlament 2020. október 20-i állásfoglalása a mesterséges intelligenciára vonatkozó polgári jogi felelősségi rendszerrel kapcsolatban ( 2020/2014(INL) ).

(11)    Az Európai Parlament 2020. október 20-i állásfoglalása a mesterséges intelligencián alapuló technológiák fejlesztéséhez kapcsolódó szellemitulajdon-jogokról ( 2020/2015(INI) ).

(12)    Az Európai Parlament jelentéstervezete: Mesterséges intelligencia a büntetőjogban, és annak a rendőrség és az igazságügyi hatóságok általi felhasználása büntetőügyekben ( 2020/2016(INI) ).

(13)    Az Európai Parlament jelentéstervezete a mesterséges intelligencia alkalmazásáról az oktatásban, a kulturális és az audiovizuális ágazatban ( 2020/2017(INI ) . E tekintetben a Bizottság elfogadta a Digitális oktatási cselekvési terv 2021–2027 – Az oktatás és a képzés átalakítása a digitális kornak megfelelően: című közleményt (COM(2020) 624 final), amely etikai iránymutatások kidolgozását irányozza elő a mesterséges intelligencia és az adatok oktatásban való felhasználása terén.

(14)    Az Európai Parlament és a Tanács 2013/36/EU irányelve (2013. június 26.) a hitelintézetek tevékenységéhez való hozzáférésről és a hitelintézetek és befektetési vállalkozások prudenciális felügyeletéről, a 2002/87/EK irányelv módosításáról, a 2006/48/EK és a 2006/49/EK irányelv hatályon kívül helyezéséről (EGT-vonatkozású szöveg) (HL L 176., 2013.6.27., 338. o.).

(15)    Az Európai Parlament és a Tanács 2000/31/EK irányelve (2000. június 8.) belső piacon az információs társadalommal összefüggő szolgáltatások, különösen az elektronikus kereskedelem, egyes jogi vonatkozásairól („Elektronikus kereskedelemről szóló irányelv”) (HL L 178., 2000.7.17., 1. o.).

(16)    Lásd az alábbi dokumentumot: Javaslat Az Európai Parlament és a Tanács rendelete a digitális szolgáltatások egységes piacáról (digitális szolgáltatásokról szóló jogszabály) és a 2000/31/EK irányelv módosításáról (COM(2020) 825 final).

(17)    A Bizottság közleménye. Európa digitális jövőjének megtervezése (COM(2020) 67 final).

(18)     Digitális iránytű 2030-ig: a digitális évtized megvalósításának európai módja .

(19)    Rendeletjavaslat az európai adatkormányzásról (Adatkormányzási rendelet) ( COM(2020) 767 ) .

(20)    Az Európai Parlament és a Tanács (EU) 2019/1024 irányelve (2019. június 20.) a nyílt hozzáférésű adatokról és a közszféra információinak további felhasználásáról (PE/28/2019/REV/1)(HL L 172., 2019.6.26., 56. o.).

(21)     A Bizottság közleménye – Európai adatstratégia (COM(2020) 66 final).

(22)     A konzultáció eredményeit itt tekintheti meg.

(23)    Európai Bizottság, Az emberközpontú mesterséges intelligencia iránti bizalom kiépítése , (COM(2019) 168).

(24)    A mesterséges intelligenciával foglalkozó magas szintű szakértői csoport, Etikai iránymutatás a megbízható mesterséges intelligenciára vonatkozóan , 2019.

(25)    A mesterséges intelligenciával foglalkozó magas szintű szakértői csoport, A megbízható mesterséges intelligencia értékelési listája (ALTAI) az önértékeléshez , 2020.

(26)    A mesterséges intelligenciával foglalkozó szövetség több érdekelt felet tömörítő fórum, amely 2018 júniusában jött létre, https://ec.europa.eu/digital-single-market/en/european-ai-alliance

(27)    Európai Bizottság, Bevezető hatásvizsgálat: Az Európai Parlament és a Tanács mesterséges intelligenciára vonatkozó követelményeket megállapító jogi aktusára vonatkozó javaslat .  

(28)    A lefolytatott konzultációk részleteiért lásd a hatásvizsgálat 2. mellékletét.

(29)    A mesterséges intelligenciával foglalkozó magas szintű szakértői csoport, Etikai iránymutatás a megbízható mesterséges intelligenciára vonatkozóan , 2019.

(30)    Ezeket a Bizottság a mesterséges intelligencia emberközpontú megközelítéséről szóló, 2019. évi közleményében is támogatta.

(31)    HL C […]., […]., […]. o.

(32)    HL C […]., […]., […]. o.

(33)    Európai Tanács, Az Európai Tanács rendkívüli ülése (2020. október 1–2.) – Következtetések, EUCO 13/20, 2020, 6. o.

(34)    Az Európai Parlament 2020. október 20-i állásfoglalása a Bizottsághoz intézett ajánlásokkal a mesterséges intelligencia, a robotika és a kapcsolódó technológiák etikai szempontjainak keretéről, 2020/2012(INL).

(35)    Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK irányelv hatályon kívül helyezéséről (általános adatvédelmi rendelet) (HL L 119., 2016.5.4., 1. o.).

(36)    Az Európai Parlament és a Tanács (EU) 2018/1725 rendelete (2018. október 23.) a természetes személyeknek a személyes adatok uniós intézmények, szervek, hivatalok és ügynökségek általi kezelése tekintetében való védelméről és az ilyen adatok szabad áramlásáról, valamint a 45/2001/EK rendelet és az 1247/2002/EK határozat hatályon kívül helyezéséről (HL L 295., 2018.11.21., 39. o.).

(37)    Az Európai Parlament és a Tanács (EU) 2016/680 irányelve (2016. április 27.) a személyes adatoknak az illetékes hatóságok által a bűncselekmények megelőzése, nyomozása, felderítése, a vádeljárás lefolytatása vagy büntetőjogi szankciók végrehajtása céljából végzett kezelése tekintetében a természetes személyek védelméről és az ilyen adatok szabad áramlásáról, valamint a 2008/977/IB tanácsi kerethatározat hatályon kívül helyezéséről (a bűnüldözésben érvényesítendő adatvédelemről szóló irányelv) (HL L 119., 2016.5.4., 89. o.).

(38)    A Tanács 2002/584/IB kerethatározata (2002. június 13.) az európai elfogatóparancsról és a tagállamok közötti átadási eljárásokról (HL L 190., 2002.7.18., 1. o.).

(39)    Az Európai Parlament és a Tanács 300/2008/EK rendelete (2008. március 11.) a polgári légi közlekedés védelmének közös szabályairól és a 2320/2002/EK rendelet hatályon kívül helyezéséről (HL L 97., 2008.4.9., 72. o.).

(40)    Az Európai Parlament és a Tanács 167/2013/EU rendelete (2013. február 5.) a mezőgazdasági és erdészeti járművek jóváhagyásáról és piacfelügyeletéről (HL L 60., 2013.3.2., 1. o.).

(41)    Az Európai Parlament és a Tanács 168/2013/EU rendelete (2013. január 15.) a két- vagy háromkerekű járművek, valamint a négykerekű motorkerékpárok jóváhagyásáról és piacfelügyeletéről (HL L 60., 2013.3.2., 52. o.).

(42)    Az Európai Parlament és a Tanács 2014/90/EU irányelve (2014. július 23.) a tengerészeti felszerelésekről és a 96/98/EK tanácsi irányelv hatályon kívül helyezéséről (HL L 257., 2014.8.28., 146. o.).

(43)    Az Európai Parlament és a Tanács (EU) 2016/797 irányelve (2016. május 11.) a vasúti rendszer Európai Unión belüli kölcsönös átjárhatóságáról (HL L 138., 2016.5.26., 44. o.).

(44)    Az Európai Parlament és a Tanács (EU) 2018/858 rendelete (2018. május 30.) a gépjárművek és pótkocsijaik, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek jóváhagyásáról és piacfelügyeletéről, a 715/2007/EK és az 595/2009/EK rendelet módosításáról, valamint a 2007/46/EK irányelv hatályon kívül helyezéséről (HL L 151., 2018.6.14., 1. o.).

(45)    Az Európai Parlament és a Tanács (EU) 2018/1139 rendelete (2018. július 4.) a polgári légi közlekedés területén alkalmazandó közös szabályokról és az Európai Unió Repülésbiztonsági Ügynökségének létrehozásáról és a 2111/2005/EK, az 1008/2008/EK, a 996/2010/EU, a 376/2014/EU európai parlamenti és tanácsi rendelet és a 2014/30/EU és a 2014/53/EU európai parlamenti és tanácsi irányelv módosításáról, valamint az 552/2004/EK és a 216/2008/EK európai parlamenti és tanácsi rendelet és a 3922/91/EGK tanácsi rendelet hatályon kívül helyezéséről (HL L 212., 2018.8.22., 1. o.).

(46)    Az Európai Parlament és a Tanács (EU) 2019/2144 rendelete (2019. november 27.) a gépjárműveknek és pótkocsijaiknak, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek az általános biztonság, továbbá az utasok és a veszélyeztetett úthasználók védelme tekintetében történő típusjóváhagyásáról, az (EU) 2018/858 európai parlamenti és tanácsi rendelet módosításáról, valamint a 78/2009/EK, a 79/2009/EK és a 661/2009/EK európai parlamenti és tanácsi rendelet és a 631/2009/EK, a 406/2010/EU, a 672/2010/EU, az 1003/2010/EU, az 1005/2010/EU, az 1008/2010/EU, az 1009/2010/EU, a 19/2011/EU, a 109/2011/EU, a 458/2011/EU, a 65/2012/EU, a 130/2012/EU, a 347/2012/EU, a 351/2012/EU, az 1230/2012/EU és az (EU) 2015/166 bizottsági rendelet hatályon kívül helyezéséről (HL L 325, 2019.12.16., 1. o.).

(47)    Az Európai Parlament és a Tanács (EU) 2017/745 rendelete (2017. április 5.) az orvostechnikai eszközökről, a 2001/83/EK irányelv, a 178/2002/EK rendelet és az 1223/2009/EK rendelet módosításáról, valamint a 90/385/EGK és a 93/42/EGK tanácsi irányelv hatályon kívül helyezéséről (HL L 117., 2017.5.5., 1. o.).

(48)    Az Európai Parlament és a Tanács (EU) 2017/746 rendelete (2017. április 5.) az in vitro diagnosztikai orvostechnikai eszközökről, valamint a 98/79/EK irányelv és a 2010/227/EU bizottsági határozat hatályon kívül helyezéséről (HL L 117., 2017.5.5., 176. o.).

(49)    Az Európai Parlament és a Tanács 2013/32/EU irányelve (2013. június 26.) a nemzetközi védelem megadására és visszavonására vonatkozó közös eljárásokról (HL L 180., 2013.6.29., 60. o.).

(50)    Az Európai Parlament és a Tanács 810/2009/EK rendelete (2009. július 13.) a Közösségi Vízumkódex létrehozásáról (vízumkódex) (HL L 243., 2009.9.15., 1. o.).

(51)    Az Európai Parlament és a Tanács 765/2008/EK rendelete (2008. július 9.) a termékek forgalmazása tekintetében az akkreditálás és piacfelügyelet előírásainak megállapításáról és a 339/93/EGK rendelet hatályon kívül helyezéséről (HL L 218., 2008.8.13., 30. o.).

(52)    Az Európai Parlament és a Tanács 768/2008/EK határozata (2008. július 9.) a termékek forgalomba hozatalának közös keretrendszeréről, valamint a 93/465/EGK tanácsi határozat hatályon kívül helyezéséről (HL L 218., 2008.8.13., 82. o.).

(53)    Az Európai Parlament és a Tanács (EU) 2019/1020 rendelete (2019. június 20.) a piacfelügyeletről és a termékek megfelelőségéről, valamint a 2004/42/EK irányelv, továbbá a 765/2008/EK és a 305/2011/EU rendelet módosításáról (EGT-vonatkozású szöveg) (HL L 169., 2019.6.25., 1. o.).

(54)    Az Európai Parlament és a Tanács 1025/2012/EU rendelete (2012. október 25.) az európai szabványosításról, a 89/686/EGK és a 93/15/EGK tanácsi irányelv, a 94/9/EK, a 94/25/EK, a 95/16/EK, a 97/23/EK, a 98/34/EK, a 2004/22/EK, a 2007/23/EK, a 2009/23/EK és a 2009/105/EK európai parlamenti és tanácsi irányelv módosításáról, valamint a 87/95/EGK tanácsi határozat és az 1673/2006/EK európai parlamenti és tanácsi határozat hatályon kívül helyezéséről (HL L 316., 2012.11.14., 12. o.).

(55)    Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK irányelv hatályon kívül helyezéséről (általános adatvédelmi rendelet) (HL L 119., 2016.5.4., 1. o.).

(56)    Az Európai Parlament és a Tanács 2013/36/EU irányelve (2013. június 26.) a hitelintézetek tevékenységéhez való hozzáférésről és a hitelintézetek és befektetési vállalkozások prudenciális felügyeletéről, a 2002/87/EK irányelv módosításáról, a 2006/48/EK és a 2006/49/EK irányelv hatályon kívül helyezéséről (HL L 176., 2013.6.27., 338. o.).

(57)    Az Európai Parlament és a Tanács 2001/95/EK irányelve (2001. december 3.) az általános termékbiztonságról (HL L 11., 2002.1.15., 4. o.).

(58)    HL L 123., 2016.5.12., 1. o.

(59)    Az Európai Parlament és a Tanács 182/2011/EU rendelete (2011. február 16.) a Bizottság végrehajtási hatásköreinek gyakorlására vonatkozó tagállami ellenőrzési mechanizmusok szabályainak és általános elveinek megállapításáról (HL L 55., 2011.2.28., 13. o).

(60)    Az Európai Parlament és a Tanács 2000/31/EK irányelve (2000. június 8.) a belső piacon az információs társadalommal összefüggő szolgáltatások, különösen az elektronikus kereskedelem, egyes jogi vonatkozásairól („Elektronikus kereskedelemről szóló irányelv”) (HL L 178., 2000.7.17., 1. o.).

(61)    A Bizottság ajánlása (2003. május 6.) a mikro-, kis- és középvállalkozások meghatározásáról (HL L 124., 2003.5.20., 36. o.).

(62)    A Tanács 2002/584/IB kerethatározata (2002. június 13.) az európai elfogatóparancsról és a tagállamok közötti átadási eljárásokról (HL L 190., 2002.7.18., 1. o.).

(63)    Az Európai Parlament és a Tanács (EU) 2019/881 rendelete (2019. április 17.) az ENISA-ról (az Európai Uniós Kiberbiztonsági Ügynökségről) és az információs és kommunikációs technológiák kiberbiztonsági tanúsításáról, valamint az 526/2013/EU rendelet hatályon kívül helyezéséről (kiberbiztonsági jogszabály) (HL L 151., 2019.6.7., 1. o.).

(64)    A költségvetési rendelet 54. cikke (2) bekezdésének a) vagy b) pontja szerint.    

(65)    Az egyes irányítási módszerek ismertetése, valamint a költségvetési rendeletre való megfelelő hivatkozások megtalálhatók a BudgWeb oldalon: http://www.cc.cec/budg/man/budgmanag/budgmanag_en.html

(66)    Diff. = Differenciált előirányzatok / Nem diff. = Nem differenciált előirányzatok.

(67)    EFTA: Európai Szabadkereskedelmi Társulás.

(68)    Tagjelölt országok és adott esetben a nyugat-balkáni potenciális tagjelölt országok.

(69)    Indikatív, és a rendelkezésre álló költségvetéstől függ.

(70)    A hivatalos költségvetési nómenklatúra szerint.

(71)    Technikai és/vagy igazgatási segítségnyújtás, valamint uniós programok és/vagy intézkedések végrehajtásához biztosított támogatási kiadások (korábban: BA-tételek), közvetett kutatás, közvetlen kutatás.

(72)    Ebben az oszlopban minden adat tájékoztató jellegű, és a programok folytatásának, illetve az előirányzatok elérhetőségének függvénye.

(73)    Ebben az oszlopban minden adat tájékoztató jellegű, és a programok folytatásának, illetve az előirányzatok elérhetőségének függvénye.

(74)    Az 1.4.2. szakaszban („Konkrét célkitűzések…”) feltüntetett célkitűzés.

(75)    Ebben az oszlopban minden adat tájékoztató jellegű, és a programok folytatásának, illetve az előirányzatok elérhetőségének függvénye.

(76)    Technikai és/vagy igazgatási segítségnyújtás, valamint uniós programok és/vagy intézkedések végrehajtásához biztosított támogatási kiadások (korábban: BA-tételek), közvetett kutatás, közvetlen kutatás.

(77)    Ebben az oszlopban minden adat tájékoztató jellegű, és a programok folytatásának, illetve az előirányzatok elérhetőségének függvénye.

(78)    AC = szerződéses alkalmazott; AL = helyi alkalmazott; END = kirendelt nemzeti szakértő; INT = kölcsönmunkaerő (átmeneti alkalmazott); JPD = küldöttségi pályakezdő szakértő.

(79)    Az operatív előirányzatokból finanszírozott külső munkatársakra vonatkozó részleges felső határérték (korábban: BA-tételek).

(80)    Az N. év a javaslat/kezdeményezés végrehajtásának első éve. Az „N” helyére a végrehajtás várható első évét kell beírni (például: 2021). A következő évek esetében ugyanígy kell eljárni.

(81)    A tradicionális saját források (vámok, cukorilletékek) tekintetében nettó összeget kell megadni, amely a 20 %-kal (beszedési költségek) csökkentett bruttó összegnek felel meg.

EURÓPAI BIZOTTSÁG

Brüsszel, 2021.4.21.

COM(2021) 206 final

MELLÉKLETEK

a következőhöz:

Javaslat
az Európai Parlament és a Tanács rendelete

A MESTERSÉGES INTELLIGENCIÁRA VONATKOZÓ HARMONIZÁLT SZABÁLYOK (A MESTERSÉGES INTELLIGENCIÁRÓL SZÓLÓ JOGSZABÁLY) MEGÁLLAPÍTÁSÁRÓL ÉS EGYES UNIÓS JOGALKOTÁSI AKTUSOK MÓDOSÍTÁSÁRÓL

{SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}

I. MELLÉKLET
A MESTERSÉGES INTELLIGENCIÁVAL KAPCSOLATOS TECHNIKÁK ÉS MEGKÖZELÍTÉSEK
a 3. cikk 1. pontjának megfelelően

a)Gépi tanulási megközelítések, ideértve a felügyelt, a felügyelet nélküli és a megerősítő tanulást, a módszerek széles skálájának, többek között a mélytanulásnak az alkalmazásával;

b)Logikai és tudásalapú megközelítések, beleértve a tudás megjelenítését, az induktív (logikai) programozást, a tudásbázisokat, a következtetőmotorokat, a(z) (szimbolikus) érvelést és a szakértői rendszereket;

c)Statisztikai megközelítések, Bayes-féle becslés, keresési és optimalizálási módszerek.

II. MELLÉKLET
AZ UNIÓS HARMONIZÁCIÓS JOGSZABÁLYOK JEGYZÉKE
A. szakasz – Az uniós harmonizációs jogszabályok jegyzéke az új jogszabályi keret alapján

1.Az Európai Parlament és a Tanács 2006/42/EK irányelve (2006. május 17.) a gépekről és a 95/16/EK irányelv módosításáról (HL L 157., 2006.6.9., 24. o.) [a gépekről szóló rendelet szerint hatályon kívül helyezve];

2.Az Európai Parlament és a Tanács 2009/48/EK irányelve (2009. június 18.) a játékok biztonságáról (HL L 170., 2009.6.30., 1. o.);

3.Az Európai Parlament és a Tanács 2013/53/EU irányelve (2013. november 20.) a kedvtelési célú vízi járművekről és a motoros vízi sporteszközökről, valamint a 94/25/EK irányelv hatályon kívül helyezéséről (HL L 354., 2013.12.28., 90. o.);

4.Az Európai Parlament és a Tanács 2014/33/EU irányelve (2014. február 26.) a felvonókra és a felvonókhoz készült biztonsági berendezésekre vonatkozó tagállami jogszabályok harmonizációjáról (HL L 96., 2014.3.29., 251. o.);

5.Az Európai Parlament és a Tanács 2014/34/EU irányelve (2014. február 26.) a robbanásveszélyes légkörben való használatra szánt felszerelésekre és védelmi rendszerekre vonatkozó tagállami jogszabályok harmonizációjáról (HL L 96., 2014.3.29., 309. o.);

6.Az Európai Parlament és a Tanács 2014/53/EU irányelve (2014. április 16.) a rádióberendezések forgalmazására vonatkozó tagállami jogszabályok harmonizációjáról és az 1999/5/EK irányelv hatályon kívül helyezéséről (HL L 153., 2014.5.22., 62. o.);

7.Az Európai Parlament és a Tanács 2014/68/EU irányelve (2014. május 15.) a nyomástartó berendezések forgalmazására vonatkozó tagállami jogszabályok harmonizációjáról (HL L 189., 2014.6.27., 164. o.);

8.Az Európai Parlament és a Tanács (EU) 2016/424 rendelete (2016. március 9.) a kötélpálya-létesítményekről és a 2000/9/EK irányelv hatályon kívül helyezéséről (HL L 81., 2016.3.31., 1. o.);

9.Az Európai Parlament és a Tanács (EU) 2016/425 rendelete (2016. március 9.) az egyéni védőeszközökről és a 89/686/EGK tanácsi irányelv hatályon kívül helyezéséről (HL L 81., 2016.3.31., 51. o.);

10.Az Európai Parlament és a Tanács (EU) 2016/426 rendelete (2016. március 9.) a gáz halmazállapotú tüzelőanyag égetésével üzemelő berendezésekről és a 2009/142/EK irányelv hatályon kívül helyezéséről (HL L 81., 2016.3.31., 99. o.);

11.Az Európai Parlament és a Tanács (EU) 2017/745 rendelete (2017. április 5.) az orvostechnikai eszközökről, a 2001/83/EK irányelv, a 178/2002/EK rendelet és az 1223/2009/EK rendelet módosításáról, valamint a 90/385/EGK és a 93/42/EGK tanácsi irányelv hatályon kívül helyezéséről (HL L 117., 2017.5.5., 1. o.);

12.Az Európai Parlament és a Tanács (EU) 2017/746 rendelete (2017. április 5.) az in vitro diagnosztikai orvostechnikai eszközökről, valamint a 98/79/EK irányelv és a 2010/227/EU bizottsági határozat hatályon kívül helyezéséről (HL L 117., 2017.5.5., 176. o.).

B. szakasz – Egyéb uniós harmonizációs jogszabályok jegyzéke

1.Az Európai Parlament és a Tanács 300/2008/EK rendelete (2008. március 11.) a polgári légi közlekedés védelmének közös szabályairól és a 2320/2002/EK rendelet hatályon kívül helyezéséről (HL L 97., 2008.4.9., 72. o.);

2.Az Európai Parlament és a Tanács 168/2013/EU rendelete (2013. január 15.) a két- vagy háromkerekű járművek, valamint a négykerekű motorkerékpárok jóváhagyásáról és piacfelügyeletéről (HL L 60., 2013.3.2., 52. o.);

3.Az Európai Parlament és a Tanács 167/2013/EU rendelete (2013. február 5.) a mezőgazdasági és erdészeti járművek jóváhagyásáról és piacfelügyeletéről (HL L 60., 2013.3.2., 1. o.);

4.Az Európai Parlament és a Tanács 2014/90/EU irányelve (2014. július 23.) a tengerészeti felszerelésekről és a 96/98/EK tanácsi irányelv hatályon kívül helyezéséről (HL L 257., 2014.8.28., 146. o.);

5.Az Európai Parlament és a Tanács (EU) 2016/797 irányelve (2016. május 11.) a vasúti rendszer Európai Unión belüli kölcsönös átjárhatóságáról (HL L 138., 2016.5.26., 44. o.);

6.Az Európai Parlament és a Tanács (EU) 2018/858 rendelete (2018. május 30.) a gépjárművek és pótkocsijaik, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek jóváhagyásáról és piacfelügyeletéről, a 715/2007/EK és az 595/2009/EK rendelet módosításáról, valamint a 2007/46/EK irányelv hatályon kívül helyezéséről (HL L 151., 2018.6.14., 1. o.); 3. Az Európai Parlament és a Tanács (EU) 2019/2144 rendelete (2019. november 27.) a gépjárműveknek és pótkocsijaiknak, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek az általános biztonság, továbbá az utasok és a veszélyeztetett úthasználók védelme tekintetében történő típusjóváhagyásáról, az (EU) 2018/858 európai parlamenti és tanácsi rendelet módosításáról, valamint a 78/2009/EK, a 79/2009/EK és a 661/2009/EK európai parlamenti és tanácsi rendelet és a 631/2009/EK, a 406/2010/EU, a 672/2010/EU, az 1003/2010/EU, az 1005/2010/EU, az 1008/2010/EU, az 1009/2010/EU, a 19/2011/EU, a 109/2011/EU, a 458/2011/EU, a 65/2012/EU, a 130/2012/EU, a 347/2012/EU, a 351/2012/EU, az 1230/2012/EU és az (EU) 2015/166 bizottsági rendelet hatályon kívül helyezéséről (HL L 325., 2019.12.16., 1. o.).;

7.Az Európai Parlament és a Tanács (EU) 2018/1139 rendelete (2018. július 4.) a polgári légi közlekedés területén alkalmazandó közös szabályokról és az Európai Unió Repülésbiztonsági Ügynökségének létrehozásáról, valamint a 2111/2005/EK, az 1008/2008/EK, a 996/2010/EU, a 376/2014/EU európai parlamenti és tanácsi rendelet és a 2014/30/EU és a 2014/53/EU európai parlamenti és tanácsi irányelv módosításáról, valamint az 552/2004/EK és a 216/2008/EK európai parlamenti és tanácsi rendelet és a 3922/91/EGK tanácsi rendelet hatályon kívül helyezéséről (HL L 212., 2018.8.22., 1. o.) a pilóta nélküli légi járművek, valamint motorjaik, propellereik, részegységeik és a távirányításukra szolgáló berendezések 2. cikk (1) bekezdésének a) és b) pontjában említett tervezése, gyártása és forgalomba hozatala tekintetében.

III. MELLÉKLET
NAGY KOCKÁZATÚ MI-RENDSZEREK A 6. CIKK (2) BEKEZDÉSE ÉRTELMÉBEN

A 6. cikk (2) bekezdése szerinti nagy kockázatú MI-rendszerek az alábbi területek valamelyikén felsorolt MI-rendszerek:

1.Természetes személyek biometrikus azonosítása és kategorizálása:

a)természetes személyek „valós idejű” és „nem valós idejű” távoli biometrikus azonosítására szolgáló MI-rendszerek.

2.A kritikus infrastruktúra irányítása és működtetése:

a)a közúti forgalom irányításában és működtetésében, valamint a víz-, gáz-, fűtési és villamosenergia-szolgáltatás során biztonsági alkatrészként használt MI-rendszerek.

3.Oktatás és szakképzés:

a)a természetes személyek oktatási és szakképzési intézményekhez való hozzáférésének vagy hozzárendelésének meghatározására szolgáló MI-rendszerek;

b)az oktatási és szakképzési intézmények hallgatóinak értékelésére, valamint az oktatási intézményekbe való felvételhez általában szükséges tesztek résztvevőinek értékelésére szolgáló MI-rendszerek.

4.Foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés:

a)természetes személyek toborzására vagy kiválasztására, különösen az üres álláshelyek meghirdetésére, a pályázatok előszűrésére vagy szűrésére, valamint a jelöltek interjúk vagy tesztek során történő értékelésére szolgáló MI-rendszerek;

b)olyan MI-rendszerek, amelyeknek célja a munkával kapcsolatos szerződéses kapcsolatok előmozdítására és megszüntetésére vonatkozó döntések meghozatala, a feladatok kiosztása, valamint az ilyen kapcsolatokban részt vevő személyek teljesítményének és magatartásának nyomon követése és értékelése.

5.Az alapvető magánszolgáltatásokhoz, valamint a közszolgáltatásokhoz és előnyökhöz való hozzáférés és ezek igénybevétele:

a)olyan MI-rendszerek, amelyeket hatóságok vagy hatóságok nevében használnak a természetes személyek állami segítségnyújtási ellátásokra és szolgáltatásokra való jogosultságának értékelésére, valamint az ilyen ellátások és szolgáltatások nyújtására, csökkentésére, visszavonására vagy visszaigénylésére;

b)a természetes személyek hitelképességének értékelésére vagy hitelpontszámuk megállapítására szolgáló MI-rendszerek, kivéve a kis méretű szolgáltatók által saját használatra üzembe helyezett MI-rendszereket;

c)olyan MI-rendszerek, amelyeket a vészhelyzeti első reagálási szolgáltatások – többek között tűzoltók és orvosi segítségnyújtás – biztosítására vagy a kiküldésük elsőbbségének megállapítására használnak.

6. Bűnüldözés:

a)olyan MI-rendszerek, amelyeket a bűnüldöző hatóságok a természetes személyekre vonatkozó egyedi kockázatértékelések elvégzésére használnak annak értékelése céljából, hogy egy természetes személy milyen kockázatot jelenthet a bűncselekmény elkövetése vagy újbóli elkövetése, illetve a bűncselekmények esetleges áldozatává válás szempontjából;

b)a bűnüldöző hatóságok által poligráfként és hasonló eszközként való használatra vagy természetes személyek érzelmi állapotának észlelésére szolgáló MI-rendszerek;

c)a bűnüldöző hatóságok által az 52. cikk (3) bekezdése értelmében vett deepfake-ek felderítésére szolgáló MI-rendszerek;

d)a bűnüldöző hatóságok által a bűncselekményekkel kapcsolatos nyomozás vagy büntetőeljárás során a bizonyítékok megbízhatóságának értékelésére használt MI-rendszerek;

e)olyan MI-rendszerek, amelyeket a bűnüldöző hatóságok a természetes személyekre vonatkozó, az (EU) 2016/680 irányelv 3. cikkének (4) bekezdése szerinti profilalkotás alapján vagy természetes személyek vagy csoportok személyiségbeli jellemzőinek és tulajdonságainak vagy múltbeli bűnöző magatartásának értékelése alapján tényleges vagy potenciális bűncselekmények előfordulásának vagy megismétlődésének előrejelzésére használnak;

f)olyan MI-rendszerek, amelyeket a bűnüldöző hatóságok a természetes személyekre vonatkozó, az (EU) 2016/680 irányelv 3. cikkének (4) bekezdése szerinti profilalkotás céljára használnak a bűncselekmények felderítése, a nyomozás vagy a vádeljárás lefolytatása során;

g)a természetes személyek vonatkozásában a bűncselekmények elemzésére szolgáló olyan MI-rendszerek, amelyek lehetővé teszik a bűnüldöző hatóságok számára a különböző adatforrásokban vagy különböző adatformátumokban rendelkezésre álló, összetett és egymással nem összefüggő nagy adathalmazokban való keresést az adatokban megfigyelhető ismeretlen minták azonosítása vagy rejtett összefüggések feltárása érdekében.

7.Migráció, menekültügy és határellenőrzés:

a)olyan MI-rendszerek, amelyeket az illetékes hatóságok poligráfként és hasonló eszközként vagy a természetes személyek érzelmi állapotának észlelésére használnak;

b)olyan MI-rendszerek, amelyeket az illetékes hatóságok a valamely tagállam területére belépett vagy oda belépni szándékozó természetes személy által jelentett kockázat – beleértve a biztonsági kockázatot, az irreguláris bevándorlás kockázatát vagy az egészségügyi kockázatot – értékelésére használnak;

c)az illetékes hatóságok által a természetes személyek úti okmányai és támogató dokumentumai hitelességének ellenőrzésére, valamint a biztonsági jellemzőik ellenőrzése révén a nem eredeti okmányok felismerésére szolgáló MI-rendszerek;

d)olyan MI-rendszerek, amelyek célja, hogy segítséget nyújtsanak az illetékes hatóságoknak a menedékjog iránti kérelmek, a vízumkérelmek és a tartózkodási engedélyek iránti kérelmek, valamint a jogállást kérelmező természetes személyek jogosultságával kapcsolatos panaszok kivizsgálásához.

8.Igazságszolgáltatás és demokratikus folyamatok:

a)olyan MI-rendszerek, amelyek célja, hogy segítsék az igazságügyi hatóságokat a tények és a jog kutatásában és értelmezésében, valamint a jog konkrét tényállásra történő alkalmazásában.

IV. MELLÉKLET
MŰSZAKI DOKUMENTÁCIÓ a 11. cikk (1) bekezdésének megfelelően

A 11. cikk (1) bekezdésében említett műszaki dokumentációnak az adott MI-rendszerre vonatkozóan legalább az alábbi információkat kell tartalmaznia:

1.az MI-rendszer általános leírása, beleértve a következőket:

a)a rendszer rendeltetése, a rendszert fejlesztő személy(ek), a rendszer dátuma és verziója;

b)adott esetben annak ismertetése, hogy az MI-rendszer hogyan működik együtt olyan hardverrel vagy szoftverrel, amely nem része az MI-rendszernek, illetve hogyan használható fel az ezekkel való interakcióra;

c)a releváns szoftver vagy firmware verziója és a verzió frissítésével kapcsolatos követelmények;

d)az MI-rendszer valamennyi forgalombahozatali vagy üzembehelyezési formájának ismertetése;

e)annak a hardvernek a leírása, amelyen az MI-rendszert működtetni kívánják;

f)amennyiben az MI-rendszer termékek összetevője, e termékek külső jellemzőit, jelölését és belső elrendezését bemutató fényképek vagy illusztrációk;

g)használati utasítás a felhasználó számára, illetve adott esetben telepítési utasítások;

2.az MI-rendszer elemeinek és fejlesztési folyamatának részletes leírása, beleértve a következőket:

a)az MI-rendszer fejlesztése érdekében alkalmazott módszerek és az ennek érdekében tett lépések, beleértve adott esetben a harmadik felek által biztosított, előre betanított rendszerek vagy eszközök igénybevételét, valamint azt, hogy a szolgáltató hogyan használta, integrálta vagy módosította ezeket;

b)a rendszer tervezési előírásai, nevezetesen az MI-rendszer és az algoritmusok általános logikája; a legfontosabb tervezési döntések, beleértve az indokokat és feltételezéseket, többek között azon személyek vagy személyek csoportjai tekintetében is, akik vagy amelyek esetében a rendszert használni kívánják; a fő osztályozási döntések; a rendeltetését tekintve mit optimalizál a rendszer, valamint a különböző paraméterek relevanciája; a III. cím 2. fejezetében meghatározott követelményeknek való megfelelés érdekében alkalmazott műszaki megoldásokkal kapcsolatos, az esetleges kompromisszumokra vonatkozó döntések;

c)a rendszer architektúrájának leírása, ismertetve, hogy a szoftverösszetevők hogyan épülnek egymásra vagy egymásba, illetve hogyan integrálódnak a teljes folyamatba; az MI-rendszer fejlesztéséhez, tanításához, teszteléséhez és hitelesítéséhez használt számítási erőforrások;

d)adott esetben a tanulási módszereket és technikákat, valamint az alkalmazott tanulási adatkészleteket leíró adatlapokra vonatkozó adatszolgáltatási követelmények, beleértve az említett adatkészletek eredetére, hatályára és fő jellemzőire vonatkozó információkat; az adatok megszerzésének és kiválasztásának módja; címkézési eljárások (például felügyelt tanulás esetében), adattisztítási módszerek (például a kiugró értékek észlelése);

e)a 14. cikkel összhangban szükséges emberi felügyeleti intézkedések értékelése, beleértve az MI-rendszerekhez kapcsolódó kimenetek felhasználók általi értelmezésének megkönnyítéséhez szükséges műszaki intézkedések értékelését, a 13. cikk (3) bekezdésének d) pontjával összhangban;

f)adott esetben az MI-rendszer előre meghatározott változtatásainak és teljesítményének részletes leírása, az MI-rendszernek a III. cím 2. fejezetében meghatározott vonatkozó követelményeknek való folyamatos megfelelését biztosító műszaki megoldásokkal kapcsolatos valamennyi releváns információval együtt;

g)az alkalmazott validálási és tesztelési eljárások, beleértve a felhasznált validálási és tesztelési adatokra és azok fő jellemzőire vonatkozó információkat; a pontosság, a megbízhatóság, a kiberbiztonság és a III. cím 2. fejezetében meghatározott egyéb vonatkozó követelményeknek való megfelelés mérésére használt mérőszámok, valamint a potenciálisan diszkriminatív hatások; a felelős személyek által dátummal és aláírással ellátott vizsgálati naplók és vizsgálati jelentések, többek között az f) pontban említett előre meghatározott változtatásokra vonatkozóan.

3.az MI-rendszer nyomon követésére, működésére és ellenőrzésére vonatkozó részletes információk, különös tekintettel a következőkre: a képességei és teljesítménybeli korlátai, beleértve a pontosság fokát azon személyek vagy személyek csoportjai esetében, akik vagy amelyek esetében a rendszert használni kívánják, valamint a pontosság általános elvárt szintje a rendeltetéséhez viszonyítva; az előre látható nem kívánt eredmények, valamint az egészséggel és biztonsággal, az alapvető jogokkal és a megkülönböztetéssel kapcsolatos kockázatok forrásai az MI-rendszer rendeltetése tekintetében; a 14. cikkel összhangban szükséges emberi felügyeleti intézkedések, beleértve az MI-rendszerek kimeneteinek felhasználók általi értelmezését megkönnyítő technikai intézkedéseket; adott esetben a bemeneti adatokra vonatkozó előírások;

4.a kockázatkezelési rendszer részletes ismertetése a 9. cikkel összhangban;

5.a rendszer életciklusa során a rendszert érintő bármely változás leírása;

6.az olyan, részben vagy egészben alkalmazott harmonizált szabványok jegyzéke, amelyek hivatkozása megjelent az Európai Unió Hivatalos Lapjában; amennyiben nem került sor ilyen harmonizált szabványok alkalmazására, a III. cím 2. fejezetében meghatározott követelményeknek való megfelelés érdekében alkalmazott megoldások részletes leírása, beleértve az egyéb releváns szabványok és műszaki előírások jegyzékét;