Skip to main content

Találat: Mesterséges Intelligencia (MI) — egzisztenciális kockázat
Európai Unió

Az általános célú MI-modellek képesített független külső értékelőire vonatkozó követelmények

by redaktor
2026. október 25.
0

„Az MI-hivatal jelentést nyújt be a rendszerszintű kockázatot jelentő általános célú MI-modellek külső modellértékelőinek képesítésére és függetlenségére vonatkozó követelményekről szóló munkaértekezletéről. A 2026. július 15-i munkaértekezleten az MI-hivatal javaslatot terjesztett elő ezekre a követelményekre vonatkozóan. Az ülésen 19 szervezet MI-modellértékeléssel foglalkozó szakértői vettek részt. Összesen 20 szervezetet választottak ki részvételi szándék kifejezésére való nyilvános felhívást követően. A kiválasztási kritériumok az általános célú MI-modellek és azok rendszerszintű kockázatainak magas színvonalú értékelése, valamint a mesterséges intelligencia irányítása terén – különösen a rendszerszintű kockázatok értékelése...

Read more
informatika

Ijesztően képesek viselkedni a nagy nyelvi modellek: gátlástalanul hazudnak és önkényesen cselekednek, ha szükségesnek látják

by redaktor
2024. december 16.
0

„A mesterséges intelligencia biztonságosságát felügyelő Apollo Research szerint minden mesterséges intelligencia megpróbál trükközni a saját túlélése érdekében, de az OpenAI rendszere mindegyiken túltesz. A mesterséges intelligenciával kapcsolatban régóta napirenden van a kérdés, hogy az úgynevezett általános mesterséges intelligencia (AGI) kifejlesztése mit eredményez majd. Ez az a mesterséges intelligencia, ami már az emberi intelligenciával vetekszik, vagy akár felül is tudja múlni azt. A Meta egyik vezetője, Yann LeCun korábban arról beszélt, hogy 2025-re egészen biztosan nem készül el az általános mesterséges intelligencia, pedig...

Read more
Mesterséges Intelligencia (MI)

Az evolúcióképes mesterséges intelligencia, mint egzisztenciális fenyegetés? – Szathmáry Eörs, evolúcióbiológus előadása, nem a megszokott aspektusból a mesterséges intelligenciáról (Infotér Konferencia 2024, 2024. október 15-17.)

by redaktor
2024. október 5.
0

„...Amikor veszélyes az evolúció Nem a megszokott aspektusból fog a mesterséges intelligenciáról beszélni az Infotér Konferencián Szathmáry Eörs, evolúcióbiológus, az MTA rendes tagja: azt vizsgálja, hogy milyen veszélyei lehetnek az evolúcióra képes mesterséges intelligencia megjelenésének. Biológusként azt kutatja, hogyan jönnek létre új típusú evolúciós egységek, hogyan zajlanak le az evolúciós átmenetek, például a baktériumokból a valódi sejtmagvas sejtbe vagy az egysejtű organizmusokból a többsejtűekbe. És hogy miért foglalkozik a mesterséges intelligenciával? „Már iskoláskoromban olvastam a mesterséges intelligenciáról, főleg a kiváló Stanislaw Lem...

Read more