„Az Atlantic júniusi kiadásában Henry Kissinger, a veterán külpolitikus és külügyi stratéga a mesterséges intelligencia terjedésének lehetséges árnyoldalára hívja fel a figyelmet. A terjedelmes, példákat is soroló átfogó tanulmány apropóját egy öntanulásra képes, Go-játékot játszó gép adta, aminek megdöbbentő hatására Kissinger konzultációkba kezdett a terület szakértőivel, majd megfogalmazta aggódást kifejező konklúzióit.
Mint rámutat, a történelemben eddig a legnagyobb hatású technológiai vívmány a könyvnyomtatás volt, mint ami segített előtérbe kerülni az empirikus tudást, és így a Vallás Korát (nagy kezdőbetűs írásmód az eredetiben. Szerk.) az Értelem Kora váltotta fel, ahol az egyéni belátás és a tudományos ismeret helyettesítette a hitet, az emberi tudat legfontosabb ismérveként. Az Értelem Korából erednek mindazok a gondolatok és cselekedetek, amelyek a ma ismert világrendet is jellemzik. Ennek vethet véget az új, még inkább elsöprő erejű technológiai forradalom, ahol a gépeket vezérlő adatok és algoritmusok nincsenek etikai vagy filozófiai normák alá vetve.
Kissinger szerint az internet kora már sok tekintetben előre jelezte azokat a kérdéseket és kihívásokat, amelyeket a mesterséges intelligencia terjedése hoz magával. Az internet ugyanakkor bár megsokszorozta a hozzáférhető információkat, a mérlegelés szerepét nem vette át az embertől. Az egyre terjedő algoritmusok miatt azonban az egyének egyre inkább adatokká váltak, az adatok pedig uralkodni kezdtek. A keresőmotorok lehetővé tették a preferenciák előre meghatározását, és elérhetővé tette azokat az üzleti élet és a politika számára. A digitális világban a sebesség gyakran a megfontolás gátja lett, mély gondolatok helyett a radikális nézetekre ösztönöz, az értékeket pedig az egyéni megfontolás helyett a részcsoportok konszenzusa határozza meg. (Nyersebben fogalmazva a szerző helyett: a csordaszellemet erősíti.Szerk.)
A szerző felhívja rá a figyelmet, hogy a mesterséges intelligencia (MI) messze túlmutat az automatizáláson. Utóbbinál mi határozzuk meg a célokat, amelyek jól indokoltak kell, hogy legyenek, míg a mesterséges intelligencia a célokat is maga határozza meg. Stratégiai döntéseket hoz a jövőre nézve, amihez az adatokat részben kódolva kapja, részben saját maga gyűjt be. Miközben hatalmas hasznot hajt több alkalmazásban, három területen különösen aggasztó kérdéseket vet fel.
Az első az MI szándékolatlan hatása. Még ha nem is arról van szó, hogy a gép szembefordulna alkotójával, az emberi szándékot bőven félreértelmezheti. A másik az hatás, amellyel a cél elérése érdekében visszahathat az emberi gondolkodásra és az emberi értékekre, megváltoztatva azokat. Az MI ugyanis csak egy célt ismer: a győzelmet. Miközben az ember a győzelmen kívül sok más értéket is megfogalmazhat célként, ezek háttérbe szorulhatnak, ha lépést akar tartani az MI gyorsaságával. Harmadszor, az MI képes elérni a kitűzött célt, de nem képes rá magyarázatot adni. Márpedig az MI hamarosan képes lesz arra, hogy másképpen értékelje a helyzetet és másképpen optimalizáljon, mint ahogy az emberi ésszel várható lenne. Hogyan leszünk képesek megérteni, milyen szempontok alapján döntött az MI, ha az meghaladja felfogó képességünket? Kissinger rámutat, hogy az emberi történelem során minden kor igyekezett magyarázatot találni a körülöttünk lévő világra: a vallás, a tudomány, az ész, a történelem, az ideológia mind ezt a célt szolgálta. Mivé fog válni az emberi tudatosság, ha az MI meghaladja ezt a magyarázó erőt? (A szerző ugyan ezt nem írja, de a logikáját követve egyfajta „hit” övezheti majd az MI döntéseit is – felfogni ugyan nem tudjuk, de „biztosan” az volt a helyes döntés. Ez valóban a felvilágosodástól való visszakanyarodást jelentené.Szerk.)
Végül a szerző felhívja rá a figyelmet, hogy a mesterséges intelligencia kifejezés már önmagában is félrevezető. Ami az MI-t jellemzi, az nem az eddigi fogalmaink szerinti gondolkodás, hanem korábban példa nélküli mértékű memorizáló és számítási képesség. Mivel ezeken a területeken természetéből fakadóan behozhatatlan fölénye van, az MI várhatóan minden játszmát meg fog nyerni, amivel csak megbízzák. De nekünk, embereknek, a győzelem nem lehet az egyetlen célunk. Kissinger szerint az MI játékszabályainak elfogadásával éppen az a képességünk kerül veszélybe, amit az emberi megismerés lényegének tekintünk. Kissinger szerint a Felvilágosodás egy technológiai vívmánnyal, a könyvnyomtatással kezdődött. Most egy másik technológiai vívmány, a mesterséges intelligencia éppen ezzel ellentétes változást eredményezhet.”
Forrás:
How the Enlightenment Ends; Henry A. Kissinger; The Atlantic; 2018. június
