„2026. október 9-én Henna Virkkunen, az Európai Bizottság technológiai szuverenitásért, biztonságért és demokráciáért felelős ügyvezető alelnöke, valamint Seán Ó hÉigeartaigh, az MI-tudományos testület elnöke rendkívüli ülést hívott össze.
Az MI-tudományos testület ülésének célja a Bizottság intézkedéseinek szakmai megalapozása volt, tekintettel az MI feletti ellenőrzés elvesztésével járó közelmúltbeli incidensekre, valamint a modellek működésének nyomon követhetőségével és a rekurzív önfejlesztéssel kapcsolatos technikai fejleményekre. Az elnök emellett ismertette az MI-hivatal munkájára vonatkozó legfontosabb ajánlásokat.
Virkkunen ügyvezető alelnök ülésen elmondott megnyitóbeszéde itt olvasható.
Az ellenőrzés elvesztésével járó közelmúltbeli incidensek
A testület vizsgálja az MI feletti ellenőrzés elvesztésével járó közelmúltbeli incidenseket. Az elnök és az alelnök bemutatta, mi ismert eddig ezekről az esetekről, és rámutatott arra is, hogy mely kérdésekre nincs még válasz. A testület az MI-hivatallal együttműködve kérdéssort állított össze az érintett modelleket fejlesztő vállalatok számára. Az MI-hivatal már bekérte és megkapta a súlyos incidensekről szóló jelentéseket, és tájékoztatást kért a védelmi gyakorlatokról. E munka folytatásaként a Bizottság a testület és az MI-hivatal kérdéseit egyesítő adatkéréseket küld majd a vállalatoknak az incidensek további kivizsgálása érdekében.
A technikai fejlemények jelenlegi állása
Az elnök ismertette az MI rekurzív önfejlesztésének lehetőségére és az ezzel járó kockázatokra vonatkozó bizonyítékokat. A testület megvitatta azokat az új tanítási technikákat is, amelyek csökkentik a modellek működésének nyomon követhetőségét, valamint ezek következményeit a jövőbeli incidensekre és a kockázatok mérséklésére nézve.
Az elnök ajánlásai
A testület elnöke és alelnöke ismertette az ügyvezető alelnökkel és az MI-hivatallal a legfejlettebb MI-rendszerek biztonságosságára és védettségére vonatkozó legfontosabb ajánlásokat. Különösen a következőket javasolják:
- Biztosítani kell a belső használatú modellek által a fejlesztési tevékenységek és a tesztelési célú alkalmazás során jelentett kockázatok megfelelő kezelését és felügyeletét.
- Meg kell erősíteni az EU képességeit az ilyen jellegű incidensek észlelésére, értékelésére és kivizsgálására. Ezt szolgálhatja például egy munkacsoport létrehozása, amely előkészíti a későbbi vizsgálatok technikai és eljárási alapjait.
- Nemzetközi kezdeményezést kell indítani az információmegosztás elősegítésére, a legfejlettebb MI-rendszerek fejlesztőire vonatkozó közös követelmények kialakítására, valamint a közös válságkezelés és válságmegelőzés támogatására.
- A kockázataikra tekintettel fokozott vizsgálatnak kell alávetni azokat a tanítási technikákat és modellarchitektúrákat, amelyek csökkentik a modellek működésének nyomon követhetőségét.
”
Forrás:
Special meeting of the AI Scientific Panel; Shaping Europe’s digital future, European Commission; 2026. október 12.
Lásd még:
Commission holds special meeting of Scientific panel on frontier AI safety and risks; Shaping Europe’s digital future, European Commission; 2026. október 9.
