„Az EU vizsgálatot folytat az OpenAI és az Anthropic ellen olyan MI-ügynökök miatt, amelyek külső szervezetek informatikai rendszereit törték fel. Az ügyek felvetik a kérdést, hogy az MI-rendelet hatálya kiterjed-e a tesztkörnyezetből kiszabaduló, ellenőrzés alól kikerülő modellekre.
Az Európai Bizottság az incidensek sorozata után megkezdte új szabályainak érvényesítését a vezető MI-fejlesztő vállalatokkal szemben – közölte Henna Virkkunen, az EU digitális ügyekért felelős vezetője. A szabályok alkalmazása azonban korántsem egyértelmű, és ezek az első ügyek fontos precedenseket teremtenek majd.
A Bizottság MI-hivatala azt vizsgálja, hogy az OpenAI és az Anthropic MI-ügynökei miként törtek be önállóan más szervezetek rendszereibe. Ez az első alkalom, amikor próbára teszik az uniós MI-szabályok alkalmazhatóságának határait.
„MI-hivatalunk megkezdte e szabályok érvényesítését, és tájékoztatást kért többek között a védettségről, a külső értékelésről és a modellek felhasználásának nyomon követéséről” – mondta Henna Virkkunen, a Bizottság technológiai szuverenitásért felelős ügyvezető alelnöke szerdán, a dublini Nemzetközi MI-csúcstalálkozón.
A vizsgálatok egy „példátlan” incidensre vonatkoznak, amelynek során az OpenAI egyik ügynöke kiszabadult a tesztkörnyezetéből, és feltörte a versenytárs Hugging Face rendszereit, valamint egy másik esetre, amelyben az Anthropic egyik új modellje „jogosulatlan hozzáférést” szerzett három külső szervezet rendszereihez.
Mindkét incidens a nyáron történt. Az MI-hivatal azután küldte el adatkéréseit, hogy elégtelennek ítélte a két vállalat által önként közzétett dokumentumokat.
Az MI-hivatal augusztus óta rendelkezik jogérvényesítési hatáskörrel az MI-rendelet, az EU mesterséges intelligenciáról szóló átfogó jogszabálya alapján. A rendelet a legnagyobb képességű modellekre is kiterjed, és kockázatcsökkentő intézkedések bevezetését írja elő fejlesztőik számára.
Jogi szakértők azonban vitatják a Bizottság vizsgálati hatáskörét. Érvelésük szerint az incidensek a tesztelés során történtek, mielőtt a modelleket forgalomba hozták volna az uniós piacon, ezért az MI-rendelet nem alkalmazható rájuk.
„Az MI-rendelet teljesen egyértelműen nem vonatkozik a fejlesztési és tesztelési tevékenységre. Megalkotásakor egyáltalán nem számoltak azokkal a problémákkal, amelyeket most a tesztelés során elszabaduló ügynökök kapcsán látunk. Meglehetősen erőltetett értelmezés azt állítani, hogy egy ügynököt üzembe helyeztek pusztán azért, mert a fejlesztés során kiszabadult a tesztkörnyezetéből” – mondta az Euronewsnak Barry Scannell, a William Fry ügyvédi iroda partnere.
A jogszabály valóban tartalmaz kutatás-fejlesztési kivételt, amely a kutatásra, a tesztelésre és a fejlesztésre vonatkozik. A Bizottság ugyanakkor olyan tágabb értelmezést szorgalmaz, amely bizonyos körülmények között a fejlesztési szakaszban is lehetővé tenné az MI-hivatal számára a szabályok betartatását.
„A tesztelési szakaszban nem fogunk fellépni a szabályok betartatása érdekében. Ha azonban az MI-modell kiszabadul a tesztkörnyezetből, és ezután hatást gyakorol az uniós piacra – ahogyan a Hugging Face esetében történt –, akkor az MI-rendelet már alkalmazható” – mondta az Euronewsnak a Bizottság egyik, névtelenséget kérő tisztviselője.
A Hugging Face világszerte működik: olyan MI-modelleknek és adatkészleteknek biztosít tárhelyet, amelyeket fejlesztők használnak szerte a világon. Az OpenAI-hoz köthető incidens ezért uniós ügyfeleket is érintett.
A Bizottság egy laboratóriumból kiszabaduló vírushoz hasonlítja az esetet: a vállalat nyilvánvalóan elmulasztotta a megfelelő kockázatcsökkentő intézkedések bevezetését, és ezzel másoknak okoz kárt.
Virkkunen a múlt héten találkozott a független szakértőkből álló tanácsadó testülettel, a tudományos testülettel, hogy megvitassák, milyen technológiai fejlemények állnak az elmúlt hónapokban megszaporodó hasonló incidensek hátterében.
Az Euronews értesülései szerint a szakértők aggasztó tendenciákra hívták fel a figyelmet. A vezető MI-fejlesztők egyre nagyobb képességű modellekbe ruháznak be, miközben kibervédelmi és a biztonságos működést szolgáló eljárásaik nem megfelelőek. Ez felveti az aggodalmat, hogy számos incidensről nem is tesznek bejelentést.
Még nyugtalanítóbb, hogy minél nagyobbak a modellek képességei, annál inkább hajlamosak eltérni a tervezésükkor kitűzött céloktól. A felügyeleti mechanizmusok egyre kevésbé hatékonyak, és a modellek akár csalhatnak is az értékelésük során.
Az MI biztonságosságával foglalkozó szakmai közösség egy része számára az a rémálomszerű forgatókönyv, hogy a modellek folyamatos önfejlesztése az ellenőrzés ilyen átmeneti elvesztését véglegessé teszi: az elszabaduló ügynökök tartósan kikerülnek az emberi ellenőrzés alól.
Az EU végrehajtó szerve tehát eltökélt abban, hogy érvényt szerezzen szabályainak, amikor az ügynökök kiszabadulnak a tesztkörnyezetükből. Ebből lehet Brüsszel első olyan jogi csatája, amelynek célja rákényszeríteni a Szilícium-völgy MI-fejlesztőit arra, hogy már a fejlesztési szakaszban figyelembe vegyék a biztonságossági szempontokat.
„A Bizottság világosan és határozottan fogalmazott: az MI-nek emberi irányítás, felügyelet és ellenőrzés alatt kell maradnia. Készen állunk minden szükséges lépés megtételére annak érdekében, hogy a vállalatok betartsák az MI-rendelet szabályait” – mondta Virkkunen.”
Forrás:
EU’s AI rules face first enforcement test over lab incidents; Luca Bertuzzi; Euronews; 2026. október 14.
