gazdaságinformatikajogközigazgatás: külföldönművelődéspolitikaszakirodalomtársadalomtechnikatudomány

Etikai iránymutatás a megbízható mesterséges intelligenciára vonatkozóan – Európai Bizottság

Szerző: 2019. július 14.No Comments

„VEZETŐI ÖSSZEFOGLALÓ
(1) Az iránymutatás célja a megbízható mesterséges intelligencia előmozdítása. A megbízható mesterséges intelligencia három olyan elemből áll, amelyeknek a rendszer egész életciklusa alatt teljesülniük kell: a) jogszerűnek kell lennie, vagyis meg kell felelnie a hatályos törvényeknek és rendelkezéseknek, b) etikusnak kell lennie, vagyis biztosítani kell az etikai elveknek és értékeknek való megfelelését, valamint c) műszaki és társadalmi szempontból is stabilnak kell lennie, mivel az AI-rendszerek még jó szándék esetén, akaratlanul is okozhatnak kárt. Mindegyik elem szükséges, de a megbízható mesterséges intelligencia megvalósításához önmagában nem elegendő. Ideális esetben a három elem összehangoltan és egymást átfedve működik. Amennyiben a gyakorlatban ellentmondás mutatkozik ezen elemek között, a társadalomnak törekednie kell azok összehangolására.

(2) A jelen iránymutatás rögzíti a megbízható mesterséges intelligencia megvalósítását szolgáló keretet. E keret a megbízható mesterséges intelligencia első elemével (jogszerű mesterséges intelligencia) kifejezetten nem foglalkozik. Ehelyett az etikus és stabil mesterséges intelligencia (a második és harmadik elem) támogatására és biztosítására vonatkozóan nyújt útmutatást. A valamennyi érdekelt félnek szóló iránymutatás célja, hogy az etikai elvek felsorolásán kívül útmutatást adjon arra vonatkozóan, hogy a szóban forgó elvek a társadalmi és műszaki rendszerek keretében hogyan alkalmazhatók. Az útmutatás az absztrakció három szintjén történik: a legelvontabb I. fejezettől a legkonkrétabb III. fejezetig, végül az AI-rendszerek által felvetett lehetőségekre és kritikus aggályokra vonatkozó példák következnek.

I. Az I. fejezet az alapvető jogokon alapuló megközelítés alapján rögzíti az etikai elveket és az azokhoz kapcsolódó értékeket, amelyeket az AI-rendszerek kifejlesztése, elterjesztése és használata során tiszteletben kell tartani.

Az I. fejezetből származó fő iránymutatás:

  • Az AI-rendszereket úgy fejlessze ki, terjessze el és használja, hogy az megfeleljen a következő etikai elveknek: az emberek autonómiájának tiszteletben tartása, a kármegelőzés, a méltányosság és a megmagyarázhatóság. Az ezen elvek közötti esetleges ellentmondások tudomásulvétele és kezelése.
  • Különösen figyeljen oda a több veszélyeztetett csoportot, például gyermekeket, fogyatékossággal élő személyeket és történelmileg hátrányos helyzetű vagy kirekesztés veszélyének kitett más személyeket érintő helyzetekre, és az olyan helyzetekre, amelyekre az erő vagy az információ aszimmetriája jellemző, például a munkáltatók és munkavállalók, vagy a vállalkozások és fogyasztók viszonyára.
  • Vegye tudomásul és tartsa szem előtt, hogy az AI-rendszerek amellett, hogy alapvető előnyöket biztosítanak az egyének és a társadalom számára, bizonyos kockázatokat is felvethetnek és negatív hatást gyakorolhatnak, beleértve olyan hatásokat is, amelyek nehezen jelezhetők előre, határozhatók meg vagy mérhetők (például a demokráciára, a jogállamiságra és az igazságos tehermegosztásra vagy magára az emberi elmére gyakorolt hatások). Adott esetben alkalmazzon ezen kockázatok mérséklésére megfelelő, a kockázat nagyságával arányos intézkedéseket.

II. A II. fejezet az I. fejezetre építve útmutatást ad arról, hogy a megbízható mesterséges intelligencia hogyan valósítható meg, és e célból hét olyan követelményt sorol fel, amelyeket az AI-rendszereknek teljesítenie kell. E rendszerek megvalósításához műszaki és nem műszaki jellegű módszerek egyaránt alkalmazhatók.

A II. fejezetből származó fő iránymutatás:

  • Gondoskodjon arról, hogy az AI-rendszerek kifejlesztése, elterjesztése és használata teljesíti a megbízható mesterséges intelligencia követelményeit: 1. az emberi cselekvőképesség támogatása és emberi felügyelet; 2. műszaki stabilitás és biztonság; 3. adatvédelem és adatkezelés; 4. átláthatóság; 5. sokféleség, megkülönböztetésmentesség és méltányosság; 6. környezeti és társadalmi jólét, valamint 7. elszámoltathatóság.
  • E követelmények teljesítésének biztosítása céljából vegyen figyelembe műszaki és nem műszaki jellegű módszereket.
  • Támogassa a kutatást és az innovációt az AI-rendszerek értékelésének és a követelmények megvalósításának elősegítése érdekében; terjessze az eredményeket a szélesebb körű nyilvánosság elé és tegyen fel kérdéseket, valamint az új szakértői generációkat szisztematikusan képezze a mesterséges intelligencia etikáját illetően.
  • Világosan és proaktív módon tájékoztassa az érdekelt feleket az AI-rendszerek képességeiről és korlátairól, lehetővé téve ezzel a várakozások reális meghatározását, valamint a követelmények teljesítésének módjáról. Tegye egyértelművé, hogy AI-rendszerekről van szó.
  • Segítse elő az AI-rendszerek nyomon követhetőségét és ellenőrizhetőségét, különös tekintettel a kritikus kontextusokra és helyzetekre.
  • Az AI-rendszerbe annak egész életciklusában vonjon be érdekelt feleket. Támogassa a képzést és az oktatást, hogy valamennyi érdekelt fél ismerje a megbízható mesterséges intelligenciát és azzal kapcsolatban képzésben részesüljön.
  • Tartsa szem előtt, hogy a különböző elvek és követelmények között alapvető ellentmondások lehetnek. Folyamatosan azonosítsa, értékelje, dokumentálja és közölje ezeket a kompromisszumokat és azok megoldását.

III. A III. fejezetben a megbízható mesterséges intelligencia értékelésének olyan konkrét és nem kimerítő jellegű felsorolása szerepel, amely a II. fejezetben meghatározott követelmények alkalmazását szolgálja. Az értékelési listát az AI-rendszer konkrét használatához kell igazítani.

A III. fejezetből származó fő iránymutatás:

  • Végezzen megbízható mesterséges intelligencia értékelést, ha AI-rendszert fejleszt ki, terjeszt el vagy használ, és igazítsa azt a rendszer konkrét felhasználásához.
  • Tartsa szem előtt, hogy az említett értékelési lista soha nem lesz kimerítő jellegű. A megbízható mesterséges intelligencia biztosítása nem az egyes rovatok kipipálásából, hanem a követelmények folyamatos meghatározásából és teljesítéséből, a megoldások értékeléséből és az AI-rendszer életciklusa során az eredmények javításából, valamint az érdekelt felek e folyamatokba való bevonásából áll.

A dokumentum végső részének célja, hogy a keretben érintett egyes kérdéseket konkretizáljon azzal, hogy példákat hoz fel azokra a kedvező lehetőségekre, amelyekkel élni kell és az AI-rendszerek által felvetett olyan kritikus aggályokra, amelyeket alaposan meg kell vizsgálni.

Noha a jelen iránymutatás általánosságban a mesterséges intelligencia alkalmazását illetően kíván útmutatást adni azzal, hogy megteremti a megbízható mesterséges intelligencia megvalósításának horizontális alapját, a különböző helyzetek eltérő kihívásokat vetnek fel. Meg kell ezért vizsgálni, hogy az AI-rendszerek kontextusfüggőségére tekintettel a horizontális kereten felül van-e szükség iparági megközelítésre.

A jelen iránymutatásnak nem célja, hogy jelenlegi vagy jövőbeni szakpolitikát vagy szabályozást helyettesítsen, vagy hogy annak bevezetésétől visszatartson. Az iránymutatást olyan élő dokumentumnak kell tekinteni, amelyet időnként átdolgozni és frissíteni szükséges annak érdekében, hogy folyamatosan releváns legyen, mivel a technológia, társadalmi környezetünk és ismereteink fejlődnek. A jelen dokumentumot a „Megbízható mesterséges intelligencia Európának” vita kiindulópontjának kell tekinteni. Az iránymutatás az AI-rendszerek etikai keretével kapcsolatos kutatás, vizsgálat és vita elősegítését Európán túlmenően globális szinten is célozza…”

Forrás:
Etikai iránymutatás a megbízható mesterséges intelligenciára vonatkozóan; Európai Bizottság, Mesterséges intelligenciával foglalkozó magas szintű szakértői csoport; 2019. június 25. (PDF)
Háttér:
Ethics Guidelines for Trustworthy AI; European Commission, FUTURIUM; 2019. április 30. (A dokumentum a tagállamok nyelvein, konzultációs anyagok, további információk.)