Skip to main content

Találat: Mesterséges Intelligencia (MI) — veszélyek és kockázatok

Hogyan szabályozhatunk valamit, amit nem is ismerünk? (A Collingridge-dilemma működés közben)

„A technológiaszabályozással foglalkozók körében régóta ismert a Collingridge-dilemma. Ennek az a lényege, hogy amikor egy technológia megszületik, de még nem terjed el, nincsen kellő tapasztalat a szabályozásához, nem ismerjük az összes kockázatot és veszélyt, amiket kezelnünk kellene. Amikor pedig kifejlődik, elterjed és már láthatók a kockázatai, akkor pedig már különböző okok miatt, főként azért, mert bizonyos folyamatokat nem lehet már visszafordítani, befolyásolni, nagyon nehéz felette kontrollt gyakorolni és hatékonyan szabályozni.  A közelmúlt technológiai változásai és a rájuk adott szabályozói válaszok remekül illusztrálják a...

Részletek

Áldás vagy átok? A Janus-arcú MI kormányzásának kérdései – 2023. július 31.

A Fehér Ház már tudatában van annak, hogyan teheti biztonságosabbá az MI-t Az Egyesült Államoknak már van ütemterve az MI-rendszerek telepítésére. A Biden által megígért végrehajtási utasításának csak át kell ültetnie ezeket az irányelveket a gyakorlatba. The White House Already Knows How to Make AI Safer; Suresh Venkatasubramanian; Wired; 2023. július 25. A generatív MI-vel kapcsolatban megfogalmazott szerzői jogi követeléseknek van egy alapvető hibájuk Az írók és művészek kártérítést kérnek az MI-cégektől, amelyek állításuk szerint szerzői joggal védett művek alapján képezték ki...

Részletek

Áldás vagy átok? A Janus-arcú MI kormányzásának kérdései – 2023. július 24.

#Szabályozás, országok Vezető amerikai MI-cégek önkéntes szabályozásban állapodtak meg az amerikai kormányzattal Hét vezető amerikai vállalat önkéntes szabályozásban állapodott meg az amerikai kormányzattal, megerősítik MI-rendszereik biztonságos és megbízható működését. Az érintett vállalatok: Amazon, Anthropic, Google, Inflection, Meta, Microsoft, OpenAI. FACT SHEET: Biden-⁠Harris Administration Secures Voluntary Commitments from Leading Artificial Intelligence Companies to Manage the Risks Posed by AI; The White House; 2023. július 21. Ensuring Safe, Secure, and Trustworthy AI (a kötelezettségvállalás, PDF) Moving AI governance forward; OpenAI; 2023. július 21. Top...

Részletek

Jakab Roland: muszáj szabályozni a mesterséges intelligenciát, mert veszélyes

„A veszélyeket kell nagyon körültekintően feltárni és a megfelelő szabályokat megalkotni – mondta a Mesterséges Intelligencia Koalíció elnöke. Fülsiketítők a mesterséges intelligencia veszélyei ügyében megkongatott vészharangok – mondta António Gutteres ENSZ-főtitkár. Szerinte a nemzetközi atomenergia szabályozásának mintájára szükség van egy mesterséges intelligenciára szakosodott hivatalra. Jakab Roland, a Mesterséges Intelligencia Koalíció elnöke is egyetért, az InfoRádióban azt mondta: mielőbb átfogó, nemzetközi szabályozást kell kialakítani. „Az elmúlt tíz évben a mesterséges intelligencia mint technológia olyan léptékű fejlődésnek indult, amit sokan egy új ipari forradalom...

Részletek

Kezelőjét is megsemmisítette volna az MI-vezérelte drón, hogy célt érjen

„...A balsikerű kísérlet – amelyről a légierő egy tisztje beszélt Londonban egy védelmi konferencián (melyről többek között itt található egy terjedelmesebb beszámoló) – olyan drónnal történt, amelyet föld-levegő rakétaállások azonosítására és megsemmisítésére terveztek, olvasható a The Registeren. A szimuláció során azt tesztelték, hogy a drón szoftvere képes-e felismerni a rakétaállást, majd megsemmisíteni azt, de csak az emberi operátor jóváhagyása után. A rendszerhez megerősítő tanulást használtak: ha jól semmisítette meg a célpontot, akkor azért jó pontokat kapott. Idővel azonban kezdett rájönni, hogy a...

Részletek

Miért szükséges a legfejlettebb MI-rendszerek fejlesztésének időleges megállítása?

„A mesterséges intelligencia makrogazdasági hatásai egyelőre vitatottak. A technooptimisták az MI termelékenységnövelő és pozitív makrogazdasági hatásairól értekeznek. Ugyanakkor egyes foglalkozásokat teljesen felforgathatnak a fejlesztések, például az egyszerűbb, jól programozható irodai típusú munkákat. Meglepő módon a tech szektorban jól ismert innovátorok is megosztottak a gyors bevezetés kérdésében. Az idei évben a mesterségesintelligencia(MI)-fejlesztésekről szóló hírek uralják a gazdasági sajtót. Megdöbbentő MI-alkalmazások láttak napvilágot, és bár a hírekben a ChatGPT kapta a főszerepet, rengeteg más fejlesztés működik, és kerül nap mint nap nyilvánosságra – gyakran...

Részletek

A mesterségesintelligencia-rendszerek határozott szabályozását sürgették az Egyesült Államok szenátusában

„A ChatGPT-t kifejlesztő cég vezérigazgatója szigorúbb szabályokat kért magára. Az amerikai szenátus előtt tanúskodott Christina Montgomery, az IBM alelnöke és adatvédelmi igazgatója, valamint Gary Marcus, a New York-i Egyetem volt professzora, az MI „hype” önjelölt kritikusa is. Meghallgatást tartott a mesterséges intelligencia témájában az amerikai szenátus igazságügyi bizottsága, mert az OpenAI által készített ChatGPT sikere aggodalmakat váltott ki egyes törvényhozókból a technológia jelentette kockázatokkal kapcsolatban. Az elmúlt hónapokban kiderült, hogy gyakorlatilag minden IT-cég a technológia valamilyenfajta implementálásán dolgozik a saját alkalmazásaiba, és...

Részletek

A világ legfejlettebb gazdaságait tömörítő G7-ek a mesterséges intelligencia szigorú szabályozására szólítottak fel

„A világ legfejlettebb gazdaságait tömörítő G7-ek a mesterséges intelligencia szigorú szabályozására szólítottak fel. A vezetők szerint az algoritmusok nagyszerűek, ám egyben veszélyt is jelentenek az emberekre és a társadalmakra. A G7-ek csúcstalálkozóján első alkalommal volt téma a mesterséges intelligencia (MI) terjedése. A technológia az utóbbi hónapokban robbanásszerűen fejlődött és vált elérhetővé széles tömegek számára, ami felvetette a megfelelő szabályozás kérdését. A világ legerősebb gazdaságait tömörítő csoportosulás aggasztónak tartja, hogy a tudomány gyorsabban fejlődik, mint a szabályozás. Az állami vezetők az emberek biztonsága...

Részletek

Az Egyesült Államok elnöke az etikus, felelősségteljes MI létrehozását igényli a fejlesztő cégektől

„Joe Biden az USA elnöke és alelnöke Kamala Harris vezetésével új intézkedéseket jelentett be az amerikai kormány a polgárok jogait és biztonságát védő felelős mesterséges intelligencia innováció előmozdítása érdekben. Az amerikai kormány által bejelentett intézkedések célja a felelős mesterséges intelligencia (MI) innováció jogi környezetének megteremtése, amely biztosítja a polgárok emberek jogait és biztonságát. Ezek a lépések illeszkednek az amerikai kormány azon törekvései közé, amelyekkel azt akarják elérni, hogy a technológia javítsa az amerikai emberek életét, és új utat biztosítson a szövetségi kormánynak...

Részletek

Geoffrey Hinton, az MI és a mélytanulás egyik „keresztapja”, távozott a Google-től, és az MI hatalmas veszélyeire figyelmezteti az emberiséget

„Az MI egyik keresztapjának nevezik azt a Geoffrey Hintont, aki 2018-ban Turing-díjat kapott az MI-vonatkozású munkájáért, és nem mellesleg Mery Everest Boole és George Boole leszármazottja. Most, a The New York Timesnak adott interjújában azonban kifejtette, hogy egy évtized után távozott a Google-től, hogy szabadon beszélhessen az MI emberiségre gyakorolt, hatalmas veszélyeiről. Élete nagy részét MI-kutatással töltötte, de mindig is aggasztották a negatív következmények, amiket az emberiségre gyakorolhat a mesterséges intelligencia. Elmondta, hogy nem azért hagyta ott a Google-t, hogy kritizálja a...

Részletek
Page 1 of 2 1 2