„…Mi a megmagyarázható mesterséges intelligencia?
A megmagyarázható mesterséges intelligencia (Explainable Artificial Intelligence, XAI) a mesterségesintelligencia-rendszerek azon képessége, hogy világos és érthető magyarázatot adjanak a cselekedeteikre és döntéseikre. Központi célja, hogy e rendszerek viselkedését az emberek számára is érthetővé tegye azáltal, hogy megvilágítja a döntéshozatali folyamataik mögöttes mechanizmusait.
A megmagyarázhatóság javítására tett számos erőfeszítés azonban gyakran olyan magyarázatokhoz vezet, amelyek elsősorban magukra a mesterséges intelligencia kutatóira szabottak, ahelyett, hogy hatékonyan kielégítenék a célzott felhasználók igényeit. Ezáltal az összetett döntési modellek kielégítő magyarázatának meghatározása az MI-szakértők kezébe kerül, akik részletesen ismerik ezeket a modelleket.
Ideális esetben az XAI-nak magában kell foglalnia a rendszer kompetenciáinak és megértéseinek magyarázatát, a múltbeli cselekvések, a folyamatban lévő folyamatok és a következő lépések magyarázatát, valamint a cselekvések alapjául szolgáló releváns információk nyilvánosságra hozatalát… ”
Forrás:
Explainable Artificial Intelligence; European Data Protection Supervisor, TechDispatch #2/2023; 2023. november 16.
Letöltés PDF-ben
Lásd még:
Explainable artificial intelligence (XAI); Wikipédia
