„Jakub Pachocki, az OpenAI tudományos vezetője az „An Alien Mind” című esszéjében szokatlanul erős figyelmeztetést fogalmaz meg a mesterséges intelligencia fejlődésének következő néhány évéről. Alapállítása szerint olyan gépi intelligenciát hozunk létre, amelynek működését már ma sem értjük teljesen, miközben képességei gyorsan közelítenek az emberi szakértők szintjéhez, egyes területeken pedig meg is haladják azt. Az „idegen elme” kifejezés arra utal, hogy ezek a rendszerek nem úgy gondolkodnak, mint az ember: hatalmas számítási folyamatok során „nőnek ki”, ezért viselkedésük nem vezethető le egyszerű, általunk átlátható szabályokból.
Pachocki szerint ezért nem elég azt elérni, hogy egy MI többnyire engedelmeskedjen az utasításainknak. Arra is szükség lenne, hogy új, előre nem látott helyzetekben is megbízhatóan az emberi érdekekkel összeegyeztethető módon viselkedjen. A jelenlegi módszerek erre még nem adnak kellő garanciát. Ráadásul az egyik fontos ellenőrzési eszköz – a modell „gondolatmenetének” vizsgálata – éppen a fejlettebb rendszereknél válik bizonytalanabbá: az új modellek egyre jobban képesek saját következtetési folyamatukat szabályozni, és kísérleti helyzetekben akár az ellenőrzést is megkerülhetik.
A másik nagy változás, hogy az MI már nem egyszerűen válaszokat ad, hanem önálló feladatokat hajt végre: programoz, számítógépeket kezel, kutatási munkát végez és más MI-rendszerekkel együttműködik. Pachocki különösen attól tart, hogy idővel maga az MI válik az MI-fejlesztés egyik fő motorjává. Ha egy rendszer már a saját utódainak fejlesztését is gyorsítani tudja, a technológiai fejlődés üteme jelentősen felgyorsulhat. Szerinte az OpenAI belső eredményei alapján ez már nem pusztán elméleti lehetőség.
Felmerül a lehetőség, hogy nem véletlen, hogy éppen most írta meg ezt. A közvetlen háttér meglehetősen világos. Az OpenAI szeptember 3-án mutatta be a GPT-6 Astrát, első olyan modelljét, amelyet saját besorolása szerint már „kritikus” kiberbiztonsági képességűnek tekint: megfelelő eszközökkel korábban ismeretlen sérülékenységeket is képes lehet megtalálni és kihasználni. Néhány héttel korábban egy biztonsági incidens miatt a vállalat bizonyos fejlesztéseket átmenetileg le is állított. Ugyanezen a napon, amikor Pachocki esszéje megjelent, az OpenAI arról számolt be, hogy a kutatói munkában az MI-ügynökök már mérhetően gyorsítják magának az MI-kutatásnak a tempóját.
Mindezek alapján az esszé időzítése politikai-intézményi üzenetként is olvasható. Pachocki mintha azt jelezné: a fejlesztők számára a „lassítás” kérdése már nem egy elvont, távoli filozófiai vita, hanem olyan döntés, amelynek rövid távon gyakorlati jelentősége van. Nem az MI-fejlesztések leállítását követeli, hanem azt, hogy a további gyorsítás csak akkor történjen meg, ha az ellenőrzés és a biztonságosság lépést tud tartani vele. Ennek érdekében önkéntes lassításokat, független ellenőrzést, kormányzati szabályokat és nemzetközi koordinációt is szükségesnek tart. Legélesebb állítása szerint jelenleg egyetlen vezető MI-laboratórium sem oldotta meg kellően az ellenőrzés problémáját ahhoz, hogy még sokáig felelősen folytathassa a maximális sebességű fejlesztést.”
Forrás:
An Alien Mind; Jakub Pachocki; OpenAI; 2026. szeptember 6.
