Találat: Mesterséges Intelligencia (MI) — igazodás az emberi célokhoz (alignment)

„...És Ray Kurzweil 20. század végi előrejelzéseivel összhangban most elérkeztünk a számítástechnika történetének ahhoz a pillanatához, amikor a gépi intelligencia olyan módokon kezdi meghaladni az emberi intelligenciát, amelyek alapvető változásokat idézhetnek elő. Az MI-t inkább növesztjük, mint megtervezzük (grown more than designed): mindenekelőtt annak az eredménye, hogy egy viszonylag egyszerű optimalizálási lépést újra és újra megismétlünk szinte felfoghatatlan mennyiségű számítási kapacitás felhasználásával. Ennek eredményeként rendkívül összetett rendszer jön létre, amely absztrakt fogalmakkal dolgozik, és képes az emberi viselkedés bizonyos vonásait szimulálni. Fel...

„Jakub Pachocki, az OpenAI tudományos vezetője az „An Alien Mind” című esszéjében szokatlanul erős figyelmeztetést fogalmaz meg a mesterséges intelligencia fejlődésének következő néhány évéről. Alapállítása szerint olyan gépi intelligenciát hozunk létre, amelynek működését már ma sem értjük teljesen, miközben képességei gyorsan közelítenek az emberi szakértők szintjéhez, egyes területeken pedig meg is haladják azt. Az „idegen elme” kifejezés arra utal, hogy ezek a rendszerek nem úgy gondolkodnak, mint az ember: hatalmas számítási folyamatok során „nőnek ki”, ezért viselkedésük nem vezethető le egyszerű, általunk...