„A RightsCon a digitális korszak emberi jogainak legnagyobb nemzetközi fóruma. A 2019-ben esedékes éves konferenciát június 11-14-én, 130 ország 2500 résztvevőjével rendezték meg Tuniszban. A közigazgatásban és közszolgáltatásokban használt, mesterséges intelligenciához kapcsolódó algoritmusok elszámoltathatóságát megvitató szekciót az Etalab, a francia miniszterelnöki hivatal felügyelete alatt álló munkacsoport vezette. Az Etalab felelős Franciaországban a nyílt adatokért és adatgazdálkodásért, a nyílt kormányzásért, valamint az ezek eszközeként szolgáló www.data.gouv.fr portál üzemeltetéséért.
Az Etalab korábban, ez év márciusában már megjelentette irányelveit arra nézve, hogy miképpen lehet a közigazgatásban használt algoritmusokat a közigazgatás átláthatóságának javítására felhasználni. Ezek az algoritmusok olyan célokra szolgálhatnak, mint hogy mennyi adót fizessen egy háztartás a lakás után, megállapítsa egy adott egyén jogosultságát szociális ellátásokra, vagy éppen a tanárok országon belüli mobilitását segítse. A dokumentum három részből áll. A tartalmi elemekben meghatározzák, hogy milyen algoritmusokat használ a közigazgatás, különbséget téve abban, hogy az algoritmus automatizált döntést hoz-e, vagy csak támogatja a döntés meghozatalát. Az etikai és felelősségi részben az algoritmusok átláthatóságával foglalkoznak, meghatározva a jelentési kötelezettségeket, kimutatva, hogy az algoritmusok mennyiben járulnak hozzá az igazságosabb és méltányosabb döntésekhez. A jogi keretekkel foglalkozó részben arra irányítják rá a figyelmet, hogy az adott algoritmusok mennyiben felelnek meg a releváns jogi szabályozásnak, különös tekintettel a „Digitális köztársaság törvénye” (Law for a Digital Republic) elnevezésű jogszabálynak, amit 2016-ban fogadott el a francia parlament. Ez a jogszabály három fő kötelezettséget határoz meg a közigazgatás számára az algoritmusok alkalmazása terén. Az egyik a használt algoritmus explicit megnevezése az érdekeltek felé. A második az általános információk nyújtása a fő folyamatok működési alapelveiről. A harmadik pedig a személyre szóló információk biztosítása az egyén számára a személyét érintő algoritmusról, annak működéséről és a folyamatban felhasznált információkról.
Visszatérve a RightsCon konferenciára, az Etalab ez alkalomból újabb dokumentumot jelentetett meg munkaanyagként („With great power comes great responsibility: keeping public sector algorithms accountable”), címében is kiemelve, hogy az algoritmusok használata hatalmat jelent, az ezzel járó felelősségnek pedig ezzel arányosnak kell lennie. A dokumentumban az algoritmusok történetében visszatekintve megállapítják, hogy nem új jelenségről van szó. A hetvenes években már megjelentek az automatizált közigazgatási folyamatok, a második szakaszban (a kilencvenes évektől) pedig már az algoritmusok összekapcsolása is megtörtént. A legújabb szakaszban (amit kb. 2015-től számolhatunk) már megjelenik a gépi tanulás és a mesterséges intelligencia, ami jelentős szintemelkedést jelent a korábbiakhoz képest. Az első két szakaszban, még ha összetettek is voltak az algoritmusok, azokat mindig előre meghatározottak voltak. A gépi tanulással azonban maguk az algoritmusok származtatnak szabályokat a megfigyelésekből, hatalmas adatbázisokból dolgozva.
Az algoritmusok alkalmazásában a közszféra és a vállalati szféra hasonló kihívásokkal néz szembe. Van azonban három olyan szempont, ami megkülönbözteti előbbit az utóbbitól. Először is, a közigazgatásban az algoritmusoknak a köz érdekét kell szolgálniuk, magán- vagy részérdek (pl. vállalati profitérdek) helyett. Másodszor, a közigazgatási algoritmusok jogszabályok alkalmazását jelenti, vagyis törvények határozzák meg a tartalmát. A harmadik nagyrészt következik ebből: a polgároknak nincs alternatív lehetősége, nem választhatnak egy nekik jobban tetsző algoritmust. Ez különösen nagy hangsúllyal veti fel az Emberi és Polgári Jogok Nyilatkozatának XV. cikkelyét, mely szerint „a társadalomnak joga van a közigazgatás minden tisztviselőjét számadásra vonni.” Az Etalab szerint ez vonatkozik arra is, ha a közigazgatás algoritmusokat használ, az elszámoltathatóságnak pedig az algoritmusokra is ki kell terjednie.
Az elszámoltathatóság és átláthatóság terén a már említett Digitális Köztársaság Törvénye jelentős előrelépést jelentett. Ez meghatározza az állami szervek részére, hogy a használt algoritmusok milyen normáknak kell, hogy megfeleljenek, a polgárokat pedig olyan új jogokkal ruházza fel, mint a kiterjesztett informálódáshoz való jog. A Nyílt Kormányzás Partnerségének nemzeti akcióterve (2018-20) szintén megerősíti az algoritmusok és a forráskódok átláthatóságának követelményét.
Az Etalab munkája során sokoldalú megközelítést alkalmaz. A „felülről lefelé” szemléletben az általános szabályokból és jogi kötelezettségekből vezeti le a konkrét megvalósításokat. Az „alulról felfelé” szemléletben esettanulmányok alapján fogalmazzák meg a kihívásokat és jó gyakorlatokat. De inspirációkat kapnak külső partnerektől is alternatív megoldásokra, valamint a jövőre nézve támogatást adnak új algoritmusokat fejlesztő munkacsoportoknak.
Az Etalab elsősorban arra fókuszál, hogy a kormányzati ügynökségek és állami szervek gyakorlata hogyan illeszkedik a törvényes elvárásokhoz. Ezek a kötelezettségek azonban akkor nyernek csak valódi értelmet, ha a polgárok valódi lehetőséget kapnak jogaik gyakorlására, és a megvalósított közigazgatási eljárások és közszolgáltatások valóban igazságosabb eredményre vezetnek. Ezeknek a kulcsfontosságú kérdéseknek a megválaszolására folyamatosan vizsgálni kell a jövőben is, hogy milyen külső szereplőket érdemes bevonni a közigazgatási algoritmusok elszámoltathatóságának biztosítására, a folyamat mely lépésénél, és milyen szerepet játsszanak ebben maguk a polgárok. Ehhez kérnek visszajelzéseket mind nemzeti, mind nemzetközi szintről, az érdekeltek széles körének bevonásával.”
Forrás:
How Etalab is working towards public sector algorithms accountability: a working paper for RightsCon 2019; Simon Chignard; Le blog d’Etalab; 2019. június 12.
“With great power comes great responsibility”: keeping public sector algorithms accountable; Simon Chignard, Soizic Penicaud; Etalab; 2019. június 11.
