„Az NKE Kiberbiztonsági Kutatóintézete Mesterséges intelligencia: mit hoz a jövő? címmel rendezett szakmai fórumot május 14-én a John Lukacs Társalgóban.
A mesterséges intelligencia (MI) és a kiberbiztonság lassan olyanok lettek, mint a foci: mindenki ért hozzá, anélkül, hogy e témákról mélyebb ismerete lenne. Kevés szó esik ugyanakkor arról, hogy milyen szerep várhat a jövőben a mesterséges intelligenciára” – fogalmazott köszöntőjében Kovács László dandártábornok, az NKE tudományos rektorhelyettese, a Kiberbiztonsági Kutatóintézet vezetője. Ezért fontos, hogy ne csak a jelen, hanem a jövő problémáiba is betekintést adjon a mai alkalom. Az egyetemnek is dolga, hogy az MI használatával, szabályozásával, engedélyezésével foglalkozzon. A téma számos, a jövőre vonatkozó kérdést vet fel. Jelenleg „nagy a köd”, nem látszik, mit hoz a holnap, nem biztos az sem, hogy nyelvi modelleken alapul majd az MI továbbra is, s azt nem váltja fel a gépi- vagy a mélytanulás – mutatott rá Kovács László.
A harmadik legnagyobb GDP
A konferencia első előadását Weidinger Judit, a Microsoft Magyarország Kft. vezető ügyfélkapcsolati menedzsere tartotta A mesterséges intelligencia jövője – nagyvállalati perspektívából címmel, amelyben arról szólt, miképpen tudja a MI a digitális transzformációt szolgálni a védelmi szervezetekben. A jelent jellemezve elmondta: a tavaly berobbant ChatGPT három hónap alatt elérte a 100 millió felhasználót – ekkora közönséget a mobiltelefon 16 év, az internet 7, a közösségi oldalak 4,5 év alatt tudtak bevonzani.
8 milliárd dollár – ez az óriási összeg a világszintű kiberbűnözés gazdasági hatását jelzi, s ez a harmadik legnagyobb „GDP” az USA és Kína után. Évi 15 százalékos növekedési üteme pedig duplája annak, amelyet a leggyorsabban fejlődő ország, India el tud érni. A helyzetet az egyik oldalon az MI-t használó támadók, a másik oldalon pedig a jellemzően széttöredezett biztonsági rendszerek jellemzik. A támadóknak pedig csak egyszer kell, hogy igazuk legyen, a védelemnek azonban folyamatosan készenlétben kell lenniük. Teljes paradigmaváltásra van szükség – fogalmazott a szakértő. A jelzések feldolgozásának sebessége, a válaszok és azok pontossága határozza meg a védelem hatékonyságát; egyre jobb és jobb modellekre van szükség.
7953 mrd euró – ennyit költ az EU védelmi innovációra 2021-27 között, ez a második téma, amely fontos lesz a jövőben. A védelmi technológia a MI-n alapul majd, annak szerepe lesz a katonai kiképzésben, annak egészségügyi hatásainak alakításában, a szimulációra épített képességfejlesztésben. Például a repülőgéptervezésben és az operációban is fontos lesz e technológia; a karbantartásra szakosodott modellek előre jelzik majd, ha egy alkatrész meg fog hibásodni, és vissza is jelzik a K+F-nek, így a következő fejlesztésbe már ezt az információt is be tudják majd csatornázni, ezáltal is segítve a kapacitástervezést, humán erőforrás tervezést.
Fenyegetések
Ezt követően Mesterséges intelligencia a jövő katonai keresőműveleteiben című előadásában Magyar Sándor ezredes, az NKE HHK NBI Katonai Nemzetbiztonsági Tanszék vezetője a változó környezetről szólt, amelyeket növekvő számú elektronikus információs rendszerek, kikerülhetetlen smart rendszerek, a kibertérből érkező fenyegetések növekvő száma és komplexitása, valamint a kritikus infrastruktúrák ellen irányuló kibertér műveletek számának emelkedése jellemez. Ezek katonai vonatkozásai egyebek mellett a hibrid hadviselés – állami és nem állam szereplőkkel, háborús küszöb alatt, a szürke zónában zajló versennyel, amely tengeren, szárazföldön, a levegőben, a kozmikus térben és a kibertérben egyaránt zajlik. Szóba került még a kvantum számítástechnika is, amely nagy számítási kapacitással feltörhetetlen jelszókat tud generálni, a könnyebbeket pedig fel tudja törni. A MI fejlődésének jelenleg vannak erkölcsi és jogi gátlói, de ha a MI-t magát „ráengednénk”, hogy fejlessze a hatékonyságát, az átugraná a jelenleg még meglévő gátakat, ez azonban újabb gondokat vetne fel, vetette fel az előadó. Szólt még arról is, hogy most generatív MI létezik – azaz adatokkal tanítjuk, amelyek alapján válaszokat képes generálni –, de a következő fázis már az autonóm robotokról szól, amelyet aztán akár az agyba ültethető mesterséges intelligencia chip követ majd, amelynek segítségével mondjuk azonnal elsajátíthatjuk a repülőgépvezetést.
Digitális katona
A mesterséges intelligencia a jövő védelmi technológiáiban címmel Balogh Péter ezredes, a Védelmi Innovációs Kutatóintézet Reziliencia Központjának vezetője osztotta meg gondolatait. Elmondta: a Krím-félsziget 2014-es orosz megszállása óta az adaptációra való képesség felértékelődött, ekkor, ennek nyomán jött létre a kutatóintézet is az előrelátás és a befolyásolás növelése érdekében. Az innovációs teljesítmények összevetéséből az látszik, hogy Magyarország feltörekvő innovátorból feljött ugyan a mérsékelt innovátor kategóriába, de e téren a lemaradásunk még mindig tetemes. A kutatóintézet három fő területre fókuszál. A „digitális katona” kiképzése kognitív fejlesztést, egyedi fegyverrendszereket, és katonai digitális rendszereket jelent. Az autonóm rendszerek és a distruptive technológiák elemei közé pedig egyebek mellett az integrált fegyverrendszerek, az űrtechnológiai, a kiber-, valamint az adat és szenzor rendszerek tartoznak. A stratégia egyik fontos eleme a Nemzeti Védelmi Labor kialakítása, amely az ország több pontján elhelyezkedő nemzeti laborokkal történő együttműködést takarja; koordinálásuk célja a hatékonyság növelése, mert jelenleg például az uniós források pályázatai szempontjából lemaradásban vagyunk. A jövőt illetően elhangzott: a MI piaca évente várhatóan 33 százalékkal nő, a bővülést az USA és Ázsia stimulálja elsősorban, az EU némiképp lemaradt.
Manipuláció és deepfake
A mesterséges intelligencia felhasználása a kibertámadások során című előadásában Zala Mihály, az Ernst & Young Magyarország kibervédelmi üzletágának vezetője elsőként az adathalászatról és a bizalomra épülő manipulációról szólt, arról, mire használják az MI-t a bűnözők a megtévesztésen alapuló támadások során. Elhangzott: a deepfake technológia segítségével lehetségessé vált a képi és hanganyagok valós időben történő manipulációja, emberi mimikát, hangszínt is lehet már szimulálni. Szó volt arról is, hogy a világszerte 300 ezer főt foglalkoztató Ernst & Young saját MI platformot fejleszt. Ehhez az irányadó ötletet az adta, hogy a tanácsadói munka nyomán nagy adatbázis jött létre, amely – amennyiben azt az ügyfél és a munkát végző partner engedélyezi – jó és pénzügyi értelemben is hasznos alapot nyújt e tevékenységhez.
Üveges András százados, az NKE HHK NBI Katonai Nemzetbiztonsági Tanszékének tudományos segédmunkatársa a Mesterséges intelligencia és a biztonsági tér fenyegetései című előadásában az uniós szabályozásról és a MI kockázati csoportjairól beszélt. Ilyen például a munkahelyek kiszorítása, a nagy mennyiségű személyes adatok gyűjtése révén a magánélet megsértése vagy a környezetterhelés.
Ződi Zsolt, az NKE EJKK tudományos főmunkatársa Emberi jogok és az MI technológiák dichotómiái című előadásában az MI-rendelet témáját járta körül. Az MI jellegzetessége, hogy nem maga a termék a veszélyes, hanem az általa produkált kimenetek. A szabályozás célja az egészség, biztonság és a környezet (HSE) védelme, célja a kockázatok kizárása, a problémák megelőzése. Ami az emberi jogokat illeti, azok közül a diszkriminációmentesség, a szólásszabadság és a magánélethez fűződő jog érintettek az MI kapcsán. Ezek nem kvantifikálhatók – kontextusfüggők, értékeken alapszanak, érveléseket mozgatnak, általában utólag ítélhetők meg – mutatott rá Ződi Zsolt. Ráadásul a már felmerült esetekben jellemzően az előítéletes adatok miatt következett be a probléma – az elfogult adatokat az elfogult társadalom termelte. „Az MI rendszerek létrehozásakor a fejlesztők nagyon komoly bajban lesznek, amikor garantálniuk és dokumentálniuk kell az „elfogultságmentességet” – vélte.
A konferencián szó esett még a digitális különbségek hatásáról a 21. századi társadalmakra, az alapjogok védelméről a metaverzumban, valamint a dark web és a MI jövőjéről is.”
Forrás:
Feltörekvők és felforgatók – avagy milyen lesz a holnaputánunk?; Kovács Lilla; Ludovika Magazin; 2024. május 14.
