Skip to main content
Európai Uniószakirodalomtársadalomtechnikatudomány

Az Európai Adatvédelmi Biztos a megmagyarázható mesterséges intelligenciáról (Explainable Artificial Intelligence, XAI)

Szerző: 2023. november 20.No Comments

„…Mi a megmagyarázható mesterséges intelligencia?

A megmagyarázható mesterséges intelligencia (Explainable Artificial Intelligence, XAI) a mesterségesintelligencia-rendszerek azon képessége, hogy világos és érthető magyarázatot adjanak a cselekedeteikre és döntéseikre. Központi célja, hogy e rendszerek viselkedését az emberek számára is érthetővé tegye azáltal, hogy megvilágítja a döntéshozatali folyamataik mögöttes mechanizmusait.

A megmagyarázhatóság javítására tett számos erőfeszítés azonban gyakran olyan magyarázatokhoz vezet, amelyek elsősorban magukra a mesterséges intelligencia kutatóira szabottak, ahelyett, hogy hatékonyan kielégítenék a célzott felhasználók igényeit. Ezáltal az összetett döntési modellek kielégítő magyarázatának meghatározása az MI-szakértők kezébe kerül, akik részletesen ismerik ezeket a modelleket.

Ideális esetben az XAI-nak magában kell foglalnia a rendszer kompetenciáinak és megértéseinek magyarázatát, a múltbeli cselekvések, a folyamatban lévő folyamatok és a következő lépések magyarázatát, valamint a cselekvések alapjául szolgáló releváns információk nyilvánosságra hozatalát… ”

Forrás:
Explainable Artificial Intelligence; European Data Protection Supervisor, TechDispatch #2/2023; 2023. november 16.
Letöltés PDF-ben
Lásd még:
Explainable artificial intelligence (XAI); Wikipédia