„Az MI egyik keresztapjának nevezik azt a Geoffrey Hintont, aki 2018-ban Turing-díjat kapott az MI-vonatkozású munkájáért, és nem mellesleg Mery Everest Boole és George Boole leszármazottja.
Most, a The New York Timesnak adott interjújában azonban kifejtette, hogy egy évtized után távozott a Google-től, hogy szabadon beszélhessen az MI emberiségre gyakorolt, hatalmas veszélyeiről.
Élete nagy részét MI-kutatással töltötte, de mindig is aggasztották a negatív következmények, amiket az emberiségre gyakorolhat a mesterséges intelligencia.
Elmondta, hogy nem azért hagyta ott a Google-t, hogy kritizálja a céget – azért hagyta ott, hogy az MI veszélyeiről beszélhessen anélkül, hogy ez érintené a Google-t. A Google ugyanis állítása szerint nagyon felelősségteljesen áll a kérdéshez.
Hinton a múltban is felemelte hangját az MI-projektek katonai alkalmazása ellen, tiltakozott a halálos, önjáró fegyverek ellen is. A Google-höz 2013-ban csatlakozott, amikor az felvásárolta a DNNresearch startupját. Munkája sokat hozzátett a Google képkeresőjének fejlődéséhez, többek között.
Tényleg ideje észhez térni
Hinton kijelentette: szinte lehetetlen meggátolni, hogy a rossz emberek rossz célokra használják ezeket a fejlesztéseket. Aggasztja őt, hogy az MI meggyőző hamis képeket és szövegeket generál, az emberek nem tudják majd a jövő világában, hogy mi az igazi.
Állítása szerint kevés ember hitte, hogy ez az egész tényleg okosabb lehet az embereknél, de valós veszély, hogy a technológia tényleg leváltja a dolgozókat és veszélyessé válik, amint új viselkedési mintákat tanul. Azt mondja, hogy a legtöbb ember butaságnak gondolta ezt, és ő maga is így volt ezzel. Úgy vélte, hogy talán majd 30-50 év múlva lesz ez aktuális kérdés, de már nem így gondolja.
Miközben a generatív MI és a kapcsolódó bejelentések annyira elszabadultak, hogy az EU és az USA nagy szigorral készül a terület szabályozására, addig felelősségteljes hozzáállást csak ritkán látni a cégek részéről. A Google az interjú kapcsán közölte, ők elkötelezettek emellett, és folyamatosan figyelik a kialakuló kockázatokat.
Dr. Carissa Veliz, az Oxfordi Egyetem docense, etikus MI-val foglalkozó szakembere szerint már annyira sok szakember szólal fel az MI veszélyei kapcsán, és annyira sok számítógéptudós jelenti ki, hogy megbánta élete munkáját, hogy ideje lenne észhez térjenek a törvényhozók.”
Forrás:
Az AI-keresztapa szerint hatalmas veszélybe került az emberiség; Harangi László; IT café; 2023. május 3.
A mesterséges intelligencia „keresztapja” komolyan tart az általa létrehozott technológiától; Pőcze Balázs; Rakéta.hu; 2023.május 3.
Geoffrey Hinton; Wikipédia
expert reaction to Geoffrey Hinton quits google over risks posed by AI; Science Media Centre; 2023. május 2.
A mayday call for artificial intelligence; Gary Grossman; VentureBeat; 2023. május 7.
Lásd még:
AI alignment; Wikipédia
