Európai Uniógazdaságpolitikatechnikatudomány

Az Európai Bizottság szabályokat és intézkedéseket javasol, hogy Európa a megbízható mesterséges intelligencia (MI) globális központjává váljon

Szerző: 2021. április 26.No Comments

„A Bizottság a mai napon új szabályokat és intézkedéseket javasol annak érdekében, hogy Európa a megbízható mesterséges intelligencia (MI) globális központjává váljon. A mesterséges intelligenciára vonatkozó első jogi keret és a tagállamokkal összehangolt új terv együttesen garantálni fogja az emberek és a vállalkozások számára a biztonságot és az alapvető jogok érvényesülését, miközben Unió-szerte előmozdítja a mesterséges intelligencia térnyerését, a beruházásokat és az innovációt. A gépipari termékekre vonatkozó új szabályok oly módon egészítik ki ezt a megközelítést, hogy kiigazítják a biztonsági szabályokat annak érdekében, hogy a felhasználók nagyobb bizalommal viseltessenek a termékek új, sokoldalú generációja iránt.

A mesterséges intelligenciáról szóló új rendelet gondoskodni fog arról, hogy az európai emberek megbízzanak a mesterséges intelligencia kínálta lehetőségekben. A rendelet arányos és rugalmas szabályai kezelni fogják az MI-rendszerek által jelentett sajátos kockázatokat, és világszerte a legmagasabb szintű normákat fogják meghatározni. Az összehangolt terv felvázolja azokat a tagállami szintű szakpolitikai változtatásokat és beruházásokat, amelyek ahhoz szükségesek, hogy Európa vezető szerepet töltsön be az emberközpontú, fenntartható, biztonságos, inkluzív és megbízható mesterséges intelligencia fejlesztésében.

A megbízható mesterséges intelligencia európai megközelítése
Az új szabályokat a mesterséges intelligencia időtálló meghatározása alapján valamennyi tagállamban azonos módon, közvetlenül kell alkalmazni. A szabályok kockázatalapú megközelítésen alapulnak:

Elfogadhatatlan kockázat: Az olyan MI-rendszerek, amelyek egyértelműen veszélyeztetik az emberek biztonságát, megélhetését és jogait, be lesznek tiltva. Ide tartoznak az olyan MI-rendszerek vagy -alkalmazások, amelyek a felhasználók szabad akaratának megkerülése érdekében manipulálják az emberi viselkedést (pl. olyan játékok, amelyek hangasszisztens-szolgáltatások révén a kiskorúakat veszélyes viselkedésre ösztönzik) és olyan rendszerek, amelyek lehetővé teszik a kormányok általi „társadalmi pontozást”.

Magas kockázat: A magas kockázatúnak minősített MI-rendszerek közé tartoznak az alábbi területeken alkalmazott MI-technológiák:

  • a kritikus infrastruktúrák (pl. közlekedés) területén alkalmazott MI-technológiák, amelyek veszélyeztethetik a polgárok életét és egészségét;
  • az oktatás vagy szakképzés területén alkalmazott MI-technológiák, amelyek meghatározhatják az egyes személyek oktatáshoz és a szakmai képzéshez való hozzáférését (pl. vizsgák pontozása);
  • egyes termékek biztonsági berendezései (pl. a robotsebészetben alkalmazott mesterségesintelligencia-alkalmazások);
  • a foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés területén alkalmazott Mi-technológiák (pl. a munkaerő-felvételi eljárásokhoz használt önéletrajz-válogató szoftverek);
  • alapvető magán- és közszolgáltatások (pl. hitelbesorolás, amely alapján a polgárok nem kaphatnak kölcsönt);
  • a bűnüldözés területén egyes olyan tevékenységek, amelyek sérthetik az emberek alapvető jogait (pl. a bizonyítékok megbízhatóságának értékelése);
  • migrációkezelés, menekültügy és határellenőrzés (pl. az úti okmányok valódiságának ellenőrzése);
  • igazságszolgáltatás és demokratikus folyamatok (pl. a törvények konkrét tényállásra való alkalmazása).

A magas kockázatú MI-rendszerekre forgalomba hozataluk előtt szigorú kötelezettségek vonatkoznak majd:

  • megfelelő kockázatértékelési és -csökkentési rendszereknek kell rendelkezésre állniuk;
  • a kockázatok és a diszkriminatív eredmények minimalizálása érdekében a rendszer adatellátását biztosító adatkészleteknek kiváló minőségűeknek kell lenniük;
  • az eredmények nyomonkövethetőségének biztosítása érdekében a tevékenységeket naplózni kell;
  • részletes dokumentációnak kell rendelkezésre állnia, amely tartalmazza a rendszerrel és annak céljával kapcsolatban az összes olyan információt, amelyre a hatóságoknak szükségük van a rendszer megfelelőségének értékeléséhez;
  • a felhasználókat egyértelműen és megfelelően tájékoztatni kell;
  • megfelelő emberi felügyeleti intézkedésekre van szükség a kockázat minimalizálása érdekében;
  • a rendszert nagy fokú megbízhatóság, biztonság és pontosság kell, hogy jellemezze.

Ezen belül az összes távoli biometrikus azonosító rendszer magas kockázatúnak minősül és szigorú követelmények hatálya alá tartozik. A nyilvánosan hozzáférhető helyeken történő, valós idejű, bűnüldözési célú felhasználásuk főszabály szerint tilos. Ez alól néhány szigorúan meghatározott, korlátozott és szabályozott kivétel van (például amikor eltűnt gyermek felkutatásához, konkrét és közvetlen terrorfenyegetés megelőzéséhez, vagy egy egy súlyos bűncselekmény elkövetőjének vagy gyanúsítottjának felderítéséhez, felkutatásához, azonosításához vagy büntetőeljárás alá vonásához az MI feltétlenül szükséges). Az ilyen felhasználást bírói vagy más független szervnek kell engedélyeznie, és az időtartam, a földrajzi hatókör és a lekérdezett adatbázisok tekintetében bizonyos korlátozások vonatkoznak rá.

Korlátozott kockázat, azaz egyedi átláthatósági kötelezettség alá tartozó MI-rendszerek: Az ilyen MI-rendszerek, például a csevegőrobotok használatakor a felhasználóknak tisztában kell lenniük azzal, hogy egy géppel kommunikálnak, és ezen információ alapján dönthetnek arról, hogy folytatják vagy abbahagyják az adott tevékenységet.

Minimális kockázat: A jogszabályjavaslat lehetővé teszi az olyan alkalmazások szabad használatát, mint a mesterséges intelligencián alapuló videojátékok vagy a spamszűrők. A mesterségesintelligencia-rendszerek túlnyomó többsége ebbe a kategóriába tartozik. A rendelettervezet itt nem avatkozik be, mivel ezek a mesterségesintelligencia-rendszerek csak minimális kockázatot jelentenek a polgárok jogaira vagy biztonságára nézve.

Ami az irányítást illeti, a Bizottság azt javasolja, hogy az új szabályokat az illetékes nemzeti piacfelügyeleti hatóságok felügyeljék, a mesterséges intelligenciával foglalkozó európai testület létrehozása pedig meg fogja könnyíteni a szabályok végrehajtását, valamint ösztönözni fogja a mesterséges intelligenciára vonatkozó szabványok kidolgozását. Emellett a Bizottság a nem magas kockázatú mesterséges intelligenciára vonatkozóan önkéntes magatartási kódexek kidolgozását, a felelősségteljes innováció elősegítése érdekében pedig szabályozási tesztkörnyezetek kialakítását javasolja.

A kiválóságot középpontba helyező európai megközelítés a mesterséges intelligencia terén

A koordináció erősíteni fogja Európa vezető pozícióját az emberközpontú, fenntartható, biztonságos, inkluzív és megbízható mesterséges intelligencia terén. Ahhoz, hogy az EU világviszonylatban megőrizhesse versenyképességét, a Bizottság elkötelezett amellett, hogy valamennyi iparágban és valamennyi tagállamban előmozdítsa az innovációt a mesterségesintelligencia-technológia fejlesztése és használata terén.

A mesterséges intelligenciára vonatkozó összehangolt terv, amelyet először 2018-ban tettek közzé, és amelynek célja a mesterséges intelligencia fejlesztését és elterjesztését célzó fellépések és finanszírozási eszközök meghatározása volt, lehetővé tette a nemzeti stratégiák színes palettájának létrejöttét, valamint a köz- és magánszféra közötti partnerségek és a kutatási és innovációs hálózatok uniós finanszírozását. Az összehangolt terv átfogó aktualizálása keretében a Bizottság konkrét közös együttműködési fellépéseket javasol annak biztosítása érdekében, hogy minden erőfeszítés összhangban legyen a mesterséges intelligenciára vonatkozó európai stratégiával és az európai zöld megállapodással, ugyanakkor vegye figyelembe a koronavírus-világjárvány által támasztott új kihívásokat is. Az aktualizált terv felvázolja, hogyan lehet úgy felgyorsítani a mesterséges intelligenciába történő beruházásokat, hogy az hasznos legyen a helyreállítás szempontjából. Célja továbbá a nemzeti mesterségesintelligencia-stratégiák végrehajtásának ösztönzése, a széttagoltság megszüntetése és a globális kihívások kezelése.

Az aktualizált koordinált terv megvalósítása során a Digitális Európa és a Horizont Európa programok, valamint a 20%-os digitális kiadási célt előirányzó Helyreállítási és Rezilienciaépítési Eszköz és a kohéziós politikai programok keretében allokált forrásokat a következő célok érdekében fogják felhasználni:

  • a mesterséges intelligencia fejlesztéséhez és elterjedéséhez szükséges feltételek megteremtése a szakpolitikai ismeretek cseréje, az adatok megosztása és a kritikus számítástechnikai kapacitásokba való beruházások révén;
  • a mesterséges intelligencia terén a kiválóság előmozdítása „a laboratóriumtól a piacig”, egy köz- és magánszféra közötti partnerség létrehozásával, kutatási, fejlesztési és innovációs kapacitások kiépítésével és mozgósításával, valamint tesztelési és kísérleti létesítményeknek és digitális innovációs központoknak a kkv-k és közigazgatási szervek rendelkezésére bocsátásával;
  • annak biztosítása, hogy a mesterséges intelligencia az emberek javát szolgálja és a társadalom szolgálatában álljon. Ennek érdekében a megbízható mesterséges intelligencia fejlesztése és alkalmazása terén az élvonalban kell lenni, a digitális területeken a szakmai gyakorlatok, doktori hálózatok és posztdoktori ösztöndíjak révén támogatni kell a tehetségeket és a készségek elsajátítását, a bizalmat a mesterséges intelligenciára vonatkozó szakpolitikák alapelemévé kell tenni, és világszerte elő kell mozdítani a fenntartható és megbízható mesterséges intelligencia európai jövőképét;
  • stratégiai vezető szerep kialakítása a nagy hatású ágazatokban és technológiákban, ideértve a környezetvédelmet is, különös figyelmet fordítva a mesterséges intelligenciának a fenntartható termeléshez, valamint az olyan területekhez való hozzájárulására, mint az egészségügy (a határokon átnyúló információcsere kiterjesztésével), a közszféra, a mobilitás, a belügyek, a mezőgazdaság és a robotika.

A gépipari termékekkel kapcsolatos új európai megközelítés
A gépipari termékek a fogyasztói és professzionális termékek széles skáláját ölelik fel a robotoktól a fűnyírókon, a 3D nyomtatókon és az építőipari gépeken át az ipari gyártósorokig. A gépipari termékekről szóló irányelv, amelynek helyébe a gépipari termékekről szóló új rendelet lépett, a gépipari termékekre vonatkozóan egészségvédelmi és biztonsági követelményeket határozott meg. A gépipari termékekről szóló új rendelet biztosítani fogja, hogy a gépipari termékek új generációja garantálja a felhasználók és a fogyasztók biztonságát, és ösztönözze az innovációt. Míg a mesterséges intelligenciáról szóló rendelet az MI-rendszerek biztonsági kockázataival fog foglalkozni, a gépipari termékekről szóló rendelet az MI-rendszernek a gépekbe történő biztonságos integrálásáról gondoskodik majd. A vállalkozásoknak elég lesz egy megfelelőségértékelést elvégezniük.

Ezen túlmenően a gépipari termékekről szóló új rendelet reagál a piaci igényekre, és ennek részeként növeli a jelenlegi rendelkezések jogi egyértelműségét, a dokumentációk digitális formátumának lehetővé tételével és a kkv-k megfelelőségértékelési díjainak kiigazításával csökkenti a vállalatok adminisztratív terheit és költségeit, ugyanakkor biztosítja a termékekre vonatkozó uniós jogi kerettel való összhangot.

További lépések

Az Európai Parlamentnek és a tagállamoknak rendes jogalkotási eljárás keretében kell elfogadniuk a mesterséges intelligenciára és a gépipari termékekre vonatkozó európai megközelítésről szóló bizottsági javaslatokat. Elfogadásukat követően a rendeletek az EU egészében közvetlenül alkalmazandók lesznek. Ezzel párhuzamosan a Bizottság továbbra is együttműködik a tagállamokkal az összehangolt tervben bejelentett intézkedések végrehajtása érdekében.

Háttér-információk

A Bizottság EU-szerte évek óta segíti és erősíti a mesterséges intelligenciával kapcsolatos együttműködést annak érdekében, hogy fokozza az MI-technológiák versenyképességét és erősítse az európai értékeken alapuló bizalmat.

A mesterséges intelligenciára vonatkozó európai stratégia 2018-as közzétételét és az érdekeltekkel folytatott széles körű konzultációt követően a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport 2019-ben iránymutatásokat dolgozott ki a megbízható mesterséges intelligenciára vonatkozóan, 2020-ban pedig értékelési listát állított össze a megbízható mesterséges intelligenciát illetően. Ezzel párhuzamosan 2018 decemberében a tagállamokkal való közös kötelezettségvállalásként közzétették a mesterséges intelligenciára vonatkozó első összehangolt tervet.

A mesterséges intelligenciáról szóló fehér könyv, amelyet a Bizottság 2020-ban tett közzé, egyértelmű elképzelést vázolt fel a mesterséges intelligenciával kapcsolatban Európában, azt „a kiválóság és a bizalom ökoszisztémájának” nevezve, amely megteremti a terepet a mai javaslathoz. A mesterséges intelligenciáról szóló fehér könyvről folytatott nyilvános konzultációra a világ minden részéről érkeztek észrevételek. A fehér könyvet kísérő „Jelentés a mesterséges intelligencia, a dolgok internete és a robotika biztonsági és felelősségi vonatkozásairól” arra a következtetésre jutott, hogy a jelenlegi termékbiztonsági jogszabályok számos olyan hiányosságot tartalmaznak, amelyet kezelni kell, méghozzá a gépipari termékekről szóló irányelvben.

Bővebb információ
A mesterséges intelligenciára vonatkozó új szabályok – Kérdések és válaszok

A mesterséges intelligenciára vonatkozó új szabályok – Tájékoztató oldal

Közlemény a mesterséges intelligencia európai megközelítésének előmozdításáról

Rendelet a mesterséges intelligencia európai megközelítéséről

A mesterséges intelligenciára vonatkozó új összehangolt terv

Rendelet a gépipari termékekről

Európai uniós támogatásban részesülő MI-projektek

Forrás:
A digitális korra felkészült Európa: a Bizottság új szabályokat és intézkedéseket javasol a kiválóságra és a bizalomra épülő mesterséges intelligencia terén; Európai Bizottság; 2021. április 21.