„
- Jóváhagyásukat követően ezek lesznek a mesterséges intelligenciára vonatkozó első szabályok a világon.
- Az európai parlamenti képviselők többek között tiltják a biometrikus megfigyelést, az érzelmek felismerését és a prediktív rendészeti célú MI-rendszereket.
- A GPT-hez hasonló általános célú MI- és alapmodellek testre szabott szabályozási rendszerei
- Az MI-rendszerekkel kapcsolatos panaszok benyújtásához való jog
A mesterséges intelligencia (MI) emberközpontú és etikus fejlesztésének biztosítása érdekében az európai parlamenti képviselők jóváhagyták az MI-rendszerekre vonatkozó új átláthatósági és kockázatkezelési szabályokat.
Csütörtökön a Belső Piaci Bizottság (Committee on the Internal Market and Consumer Protection, IMCO) és az Állampolgári Jogi, Bel- és Igazságügyi Bizottság (Committee on Civil Liberties, Justice and Home Affairs, LIBE) 84 igen szavazattal, 7 ellenszavazattal és 12 tartózkodással elfogadta az MI-szabályozásával kapcsolatos uniós egyeztetéshez a tárgyalási megbízás tervezetét. Ha elfogadják, akkor ez az első ilyen típusú szabályozás. A bizottsági javaslathoz fűzött módosításaikkal az európai parlamenti képviselők célja annak biztosítása, hogy a mesterségesintelligencia-rendszereket emberek felügyeljék, biztonságosak, átláthatók, nyomon követhetők, megkülönböztetésmentesek és környezetbarátak legyenek. Azt is szeretnék, ha a mesterséges intelligencia egységes definícióját úgy alakítanák ki, hogy az technológiasemleges legyen, hogy a jelen és a jövő MI-rendszereire is alkalmazható legyen.
A mesterséges intelligencia kockázatalapú megközelítése – Tiltott MI-gyakorlatok
A szabályozás kockázatalapú megközelítést követ, és kötelezettséget állapít meg a szolgáltatók és a felhasználók számára attól függően, hogy az MI-rendszerek milyen mértékű kockázatot jelenthetnek. Szigorúan betiltanák az olyan MI-rendszereket, amelyek elfogadhatatlan mértékű kockázatot jelentenek az emberek biztonságára nézve, ideértve azokat a rendszereket is, amelyek szubliminális vagy célzott manipulatív technikákat alkalmaznak, kihasználják az emberek sebezhetőségét vagy társadalmi pontozásra használják őket (az embereket társadalmi viselkedésük, társadalmi-gazdasági helyzetük, személyes jellemzőik alapján osztályozzák).
Az európai parlamenti képviselők jelentősen módosították a tilalmi listát, hogy az magában foglalja az MI-rendszerek tolakodó és diszkriminatív használatának tilalmát, például:
- „Valós idejű” távoli biometrikus azonosító rendszerek nyilvánosan hozzáférhető helyeken;
- „Utólagos (post)” távoli biometrikus azonosító rendszerek, kivéve a súlyos bűncselekmények büntetőeljárás alá vonására irányuló bűnüldözést, és csak bírósági engedélyezést követően;
- Érzékeny jellemzőket (pl. nem, faj, etnikai hovatartozás, állampolgársági státusz, vallás, politikai irányultság) alkalmazó biometrikus kategorizálási rendszerek;
- Prediktív rendészeti rendszerek (profilalkotás, helyszín vagy múltbeli bűnözői magatartás alapján);
- Érzelmek felismerésére szolgáló rendszerek a bűnüldözésben, a határigazgatásban, a munkahelyeken és az oktatási intézményekben; és
- Biometrikus adatok közösségi médiából vagy CCTV-felvételekből történő válogatás nélküli összegyűjtése arcfelismerő adatbázisok létrehozása érdekében (az emberi jogok és a magánélet tiszteletben tartásához való jog megsértése).
Nagy kockázatú mesterséges intelligencia
Az európai parlamenti képviselők kiterjesztették a magas kockázatú területek besorolását, hogy az magában foglalja az emberek egészségét, biztonságát, alapvető jogait vagy a környezetet érintő károkat is. Emellett azokat a mesterségesintelligencia-rendszereket is felvettek a magas kockázatú jegyzékbe, amelyeket az emberek befolyásolására használnak a politikai kampányokban és a közösségimédia-platformok által használt ajánlórendszerekben (amelyek a digitális szolgáltatásokról szóló jogszabály értelmében több mint 45 millió felhasználóval rendelkeznek).
Általános célú mesterséges intelligencia – átláthatósági intézkedések
Az európai parlamenti képviselők kötelezettségeket írtak elő az alapmodellek szolgáltatói számára – ami új és gyorsan fejlődő területe az MI-nek –, garantálniuk kell az alapvető jogok, az egészség és a biztonság, valamint a környezet, a demokrácia és a jogállamiság szilárd védelmét. Értékelniük és csökkenteniük kell a kockázatokat, meg kell felelniük a tervezési, tájékoztatási és környezetvédelmi követelményeknek, és regisztrálniuk kell az uniós adatbázisban.
A GPT-hez hasonló, generatív alapmodelleknek további átláthatósági követelményeknek kell megfelelniük, például annak nyilvánosságra hozatalával, hogy a tartalmat mesterséges intelligencia hozta létre, a modellt úgy kell megtervezni, hogy az megakadályozza a jogellenes tartalom létrehozását, valamint közzé kell tenni a képzéshez használt, szerzői jogi védelem alatt álló adatok összefoglalóit.
Az innováció támogatása és a polgárok jogainak védelme
A mesterséges intelligenciával kapcsolatos innováció ösztönzése érdekében az európai parlamenti képviselők mentességeket vezettek be e szabályok alól a nyílt forráskódú engedélyek alapján nyújtott kutatási tevékenységek és MI-összetevők esetében. Az új szabályozás előmozdítja a hatóságok által létrehozott szabályozói tesztkörnyezeteket vagy ellenőrzött környezeteket, amelyek célja, hogy az MI-rendszereket bevezetésük előtt vizsgálni lehessen.
Az európai parlamenti képviselők erősíteni kívánják a polgárok azon jogát, hogy panaszt nyújtsanak be a mesterségesintelligencia-rendszerekkel kapcsolatban, és magyarázatot kapjanak a jogaikra jelentős hatást gyakorló, nagy kockázatú MI-rendszereken alapuló döntésekről. Az európai parlamenti képviselők megreformálták az mesterséges intelligenciával foglalkozó uniós hivatal (EU AI Office) szerepét is, amelynek feladata lenne majd az MI-rendszerek szabályozásának végrehajtásának nyomon követése.
Idézetek
A szavazást követően Brando Benifei (S & D, Olaszország) társelőadó a következőket nyilatkozta: „Egy olyan mérföldkőnek számító jogszabály bevezetése előtt állunk, amelynek időtállónak kell lennie. Alapvető fontosságú a polgárok MI-fejlesztésbe vetett bizalmának megszerzése, a már folyamatban lévő rendkívüli változások kezelésének európai módja, valamint a mesterséges intelligenciáról szóló globális szintű politikai vita irányítása. Biztosak vagyunk benne, hogy a szöveg egyensúlyt teremt az alapvető jogok védelme és a vállalkozások jogbiztonságának biztosítása és az európai innováció ösztönzése között.”
Dragos Tudorache (Renew, Románia) társelőadó a következőket nyilatkozta: „Tekintettel arra, hogy a MI-rendszerek mélyreható átalakító hatással lesznek társadalmainkra és gazdaságainkra, a mesterséges intelligenciáról szóló jogszabály nagy valószínűséggel e parlamenti időszak legfontosabb jogszabálya. Ez az első ilyen jellegű jogszabály világszerte, ami azt jelenti, hogy az EU vezető szerepet játszhat a mesterséges intelligencia emberközpontú, megbízható és biztonságossá tételében. Azon dolgoztunk, hogy támogassuk a mesterséges intelligenciával kapcsolatos innovációt Európában, és teret biztosítsunk az induló vállalkozásoknak, a kkv-knak és az iparnak a növekedéshez és az innovációhoz, miközben védjük az alapvető jogokat, megerősítjük a demokratikus felügyeletet, és biztosítjuk a mesterséges intelligencia irányításának és érvényesítésének érett rendszerét.”
A következő lépések
Mielőtt megkezdődhetnek a tárgyalások a Tanáccsal a törvény végleges formájáról, a tárgyalási megbízás tervezetét az egész parlamentnek jóvá kell hagynia, és a szavazás a június 12–15-i ülésen várható.
További információk
- Kompromisszumos szöveg (egységes szerkezetbe foglalt változat: 2023. május 11.)
- Jelentéstervezetek, a bizottságban előterjesztett módosítások
- Európai Parlament Kutatószolgálata: Mesterséges intelligencia
- Jogalkotási menetrend: a mesterséges intelligenciáról szóló törvény
”
Forrás:
AI Act: a step closer to the first rules on Artificial Intelligence; European Parliament; 2023. május 11.
Szerkesztői megjegyzés:
Más országokban is folynak hasonló munkálatok, születtek is már szabályozások. Különösen így van ez Kínában.
