„…Amikor veszélyes az evolúció
Nem a megszokott aspektusból fog a mesterséges intelligenciáról beszélni az Infotér Konferencián Szathmáry Eörs, evolúcióbiológus, az MTA rendes tagja: azt vizsgálja, hogy milyen veszélyei lehetnek az evolúcióra képes mesterséges intelligencia megjelenésének.
Biológusként azt kutatja, hogyan jönnek létre új típusú evolúciós egységek, hogyan zajlanak le az evolúciós átmenetek, például a baktériumokból a valódi sejtmagvas sejtbe vagy az egysejtű organizmusokból a többsejtűekbe.
És hogy miért foglalkozik a mesterséges intelligenciával? „Már iskoláskoromban olvastam a mesterséges intelligenciáról, főleg a kiváló Stanislaw Lem látnoki műveiben, követtem a fejlődését, így nem ért meglepetésként a generatív MI megjelenése sem. Most viszont komolyan fennáll a lehetősége annak, hogy a biológiai evolúció mellett megjelenik az autonóm technológiai evolúció is. Ha az MI bizonyos fajtái képesek lesznek részben megváltozott másolatokat készíteni magukról (biológiai kifejezéssel szaporodni), akkor evolúcióképes egységekké válnak. Ahol pedig a darwini evolúció megjelenik, ott azonnal felüti a fejét az önérdek is, ez pedig az MI esetében bajt jelent”, mondja.
Az önérdek nem jelent öntudatot, csak a Richard Dawkins-i értelemben vett „önző génre” kell gondolni: csupán arról van szó, hogy az evolúcióra képes egységnek az az érdeke, hogy minél hatékonyabban elterjedjen. Ezt pedig annál is könnyebben megteheti, mert míg az egysejtűek esetében 20 percig is eltart az új egység létrejötte, az MI-rendszereknél ez ezredmásodpercekben mérhető. A másolatok mindegyik kicsit különbözik az elődjétől, és az fog fennmaradni, amelyik a legjobban alkalmazkodik a környezetéhez, amelyik a legjobb a túlélésért folytatott küzdelemben.
Az ilyen „elszabadult” evolúcióban nem a víz vagy az élelem jelenti az erőforrásokat, hanem a CPU és a tárhely, és az ilyen algoritmusok ezekért fognak versenyezni. Ha pedig ezért le kell állítani más programokat, szoftvereket, akkor megteszik, mert a saját önérdeküket fontosabbnak tartják az emberi érdekeknél. „Már ez is komoly veszélyt jelenthet, de képzeljük el, hogy ebben a versengő kibernetikus ökoszisztémában valamelyik algoritmus rájön arra, hogy maga is gondoskodhat az erőforrásokról, és átveszi a vezérlést egy hardvergyártó cég felett, hogy újabb processzorokat, memóriát és tárhelyet készíttessen magának, és azok el is jussanak az adatközpontokba. Kicsit távolabbra nézve pedig az sem elképzelhetetlen, hogy a robotok felett is átveszik az uralmat, és akkor már a nyersanyagokról és az energiaellátásról is gondoskodhatnak. Nem szabad elfelejteni, hogy az evolúció borzasztóan opportunista és rendkívül találékony – soha nem tudhatjuk, hogy milyen irányból jön a veszély”, vezeti le az MI evolúciójának veszélyeit Szathmáry Eörs.
Mit lehet tenni, hogy elkerüljük ezt az apokalipszist? Egyrészt, olyan mechanizmusokat kell építeni az MI-megoldásokba, amelyek megnehezítik, hogy szaporodóképes állapotba kerüljenek. Itt fontos megkülönböztetni a szaporodás képességét az öntanulástól – az utóbbi akkor jelent veszélyt, ha a tanulási mechanizmusok is evolválódnak. Másrészt nagy gondot kell fordítani a szabályozásra, és azt a kormányzatoknak és a civil szervezeteknek kell a kezükbe venniük, mert a nagy techcégekre nem lehet bízni. „Folyamatosan monitorozni kell a rendszereket, és ha megjelennek az evolúciós képesség korai jelei, azonnal be kell avatkozni”, figyelmeztet a kutató.”
Forrás:
Az ember a technológia mögött; Schopp Attila; IT Business; 2024. október. 4.
Az előadás 2024. október 16-án lesz, 16h15-kor. Helye: Infotér Kávéház, Lounge Sátor
Szathmáry Eörs, nemzetközi hírű evolúcióbiológus. A Magyar Tudományos Akadémia Fenntartható Fejlődés Elnöki Bizottság elnöke, az ELTE Természettudományi Kar Biológia Intézet Növényrendszertani, Ökológiai és Elméleti Biológiai tanszékének egyetemi tanára és az Ökológiai Kutatóközpont Evolúciótudományi Intézetének kutatóprofesszora
Moderátor: Szani Ferenc, oktatási szakértő, Informatika a Társadalomért Egyesület (INFOTÉR)
Lásd még:
INFOTÉR KONFERENCIA 15. ELSŐ NAP
Hasznos lehet még a témához:
„Egy szabályok és irányítás nélküli digitális „ősleves” önreprodukáló mesterséges életformák kialakulásához vezethet egy olyan kísérletben, amely utalhat arra, hogyan kezdődött a biológiai élet a Földön.”
Google creates self-replicating life from digital ‘primordial soup’; Matthew Sparkes; New Scientist; 2024. július 9.
