„…A kutatásunk kulcsszava az alGOVritmus, amely olyan, a kormányzatok által használt automatizált döntési, kiválasztási mechanizmusokat takar, melyek eredménye az állampolgárokat valamilyen módon érinti. Különös hangsúlyt fektettünk azon algoritmusokra, amelyek közvetlenül érintik az egyén jóllétét. Olyan folyamatokról vagy szabályrendszerekről van szó, amelyek kalkulációkon, számítógépes műveleteken keresztül emberi mérlegelés nélkül hoznak eredményt.
A kutatás az ePaństwo Alapítvány (Lengyelország), a KohoVolit.eu (Csehország és Szlovákia), az IDFI (Grúzia), a K-Monitor (Magyarország) és a CRTA (Szerbia) munkatársai által 2018 novembere és 2019 áprilisa között gyűjtött adatokra és az általuk végzett elemzésekre támaszkodik…
A kutatás során a közigazgatás számos területen találtunk példát algoritmusok alkalmazására és automatizált döntéshozatalra, többek között a sebességkorlátozások betartásának ellenőrzésénél, bírák és tisztviselők kirendelésénél, ellenőrzések és felülvizsgálatok tárgyának kiválasztásánál, szociális juttatások elosztásánál, csalások felderítésénél vagy éppen közbeszerzések nyerteseinek a kiválasztásánál, de csak egyetlen példát találtunk mesterséges intelligencia vagy gépi tanulás alkalmazására ezen a területen. Érdekesség, hogy az általunk megkeresett intézmények között voltak, amelyek számára a példáink ellenére nem volt világos, hogy mit értünk algoritmus alatt, mások viszont kimerítő választ adtak. Ezekkel egy külön blogposztban fogunk foglalkozni.
A kutatásban részt vevő országok egyikében sem találtunk közigazgatási algoritmusokra vonatkozó szakpolitikai irányelveket vagy szabályozási koncepciót. Noha készültek a visegrádi országokban a mesterséges intelligencia használatának támogatására vonatkozó stratégiák, egyik állam sem alkotott még olyan szabályozást vagy akár etikai irányelvet, amely automatikus döntéshozatal átláthatóságát és ellenőrizhetőségét szavatolná.
Szintúgy nem találtunk olyan jogi szabályozást, amely átfogóan tárgyalná az állam kötelezettségeit és az állampolgárok jogait ezen a területen. Ahol találtunk algoritmusokra vonatkozó szabályokat, ott is egy-egy algoritmus valamely aspektusára vonatkozó szabályról van szó, mint például egyes eljárások bírókhoz való rendelésének esetében, vagy Magyarországon az általános közigazgatási rendtartásról szóló törvényben, kérelmek elbírálásának vonatkozásában.
…
Megállapítottuk, hogy az automatizált döntéshozatal céljából megalkotott szoftverek nem átláthatók, és az algoritmusokhoz vagy azok forráskódjához való hozzáférés csak a legritkább esetben lehetséges. Egyetlen vizsgált országban sem találtunk olyan intézményt, amely nyilvántartja, vagy felügyeli az adott országban működtetett automatizált döntéshozatali rendszereket.
…
Javaslatok
A kutatással szerettünk volna hozzájárulni a témában zajló szakmai vita élénküléséhez és ahhoz, hogy a közeljövőben megtörténjenek azok a szakpolitikai döntések, amelyek elengedhetetlenek ahhoz, hogy a szabályozási környezet kövesse az automatizált döntéshozatal és az algoritmusok területén lezajlott gyors változásokat. Alább következzen néhány olyan intézkedés, amely szerintünk jelentős előrelépést jelentene a közigazgatási algoritmusok szabályozásának területén.1) Algoritmusok használatára vonatkozó irányelvek megalkotása: Szülessenek meg az algoritmusokra vonatkozó alapvető irányelvek, amely reflektál arra, hogy az algoritmusok nem elszigetelten működnek, sokféle hatásuk lehet.
2) Kormányon belüli koordinációs testület felállítása: Fontosnak tartjuk, hogy a meglévő intézményrendszeren belül kijelöljék azt az intézményt, amely felelős az az automatizált döntéshozatalra vonatkozó koordinációs munkáért.
3) Az automatizált döntésekre vonatkozó egyértelmű és átfogó jogi környezet megteremtése: Meg kell teremteni az automatizált döntéshozatal jogi definícióját, figyelembe véve annak összetett természetét és sokrétű felhasználhatóságát. A jogi szabályozásnak ki kell terjednie az algoritmus forráskódjának átláthatóságára, illetve működésének leírására, beleértve a felhasznált adatok körét és a működést befolyásoló tényezők felsorolását.
4) Etikai iránymutatások: Az etikai iránymutatásoknak követniük kell a közigazgatásra vonatkozó általános elvárásokat, mint a diszkriminációmentesség, az egyén jogainak tiszteletben tartása, beleértve az azzal kapcsolatos tájékoztatáshoz való jogot, hogy mely adatokat milyen célból dolgoznak fel.
5) A civil társadalom és külső szakértők bevonása az algoritmusok megalkotásának teljes folyamatába: A közigazgatási algoritmusok megalkotása során, azok összetettsége miatt elengedhetetlen a multidiszciplináris megközelítés. A társadalmi szervezetek és a külső szakértők szerepe fontos továbbá az algoritmusok működésének ellenőrzése és monitorozása során is, annak értékelésében, hogy az algoritmusok megfelelően szolgálják-e az eredetileg kitűzött célokat.
6) Az algoritmusok hatásvizsgálatának bevezetése: Amennyiben az algoritmusok hatásvizsgálata az automatizált döntéshozatali megoldások megalkotásának kötelező része volna, világossá válna minden esetben, hogy mi a kormány vagy az adott szerv célja az algoritmus megalkotásával, később pedig értékelhető volna, hogy mennyiben érte el célját, mely társadalmi csoportokra van hatással.
7) Átláthatósági passzus alkalmazása szoftvercégekkel kötött szerződéseknél és a forráskódhoz való nyílt hozzáférés biztosítása: Csak a forráskódhoz való hozzáféréssel ellenőrizhető tényleges az algoritmus működése. Csak kivételes esetekben engedélyezhető azok zártan kezelése (pl. amikor nemzetbiztonsági érdekből indokolható).
8) Az algoritmusok működését magyarázó útmutatók kiadása: Az iránymutatásokra nemcsak az általános tájékoztatás miatt van szükség, hanem annak érdekében is, hogy az azzal dolgozó tisztségviselők is teljességgel megértsék a munkájukat támogató algoritmus működését, céljait és az esetleges kockázatokat.
9) Felülvizsgálati és jogorvoslati rendszer kidolgozása: Biztosítani kell, hogy a közigazgatási algoritmusok működésével kapcsolatos problémák vagy szabálytalanságok megoldására létezzenek alacsonyabb szintű felülvizsgálati és jogorvoslati rendszerek.Szükségesnek tartjuk az algoritmusok rendszeres „műszaki vizsgáztatását” is, amelyek során külső, független szakemberek vizsgálják az algoritmusok pontos és elfogulatlan működését. A vizsgálatok eredménye az szerv honlapján publikálandó.”
Forrás:
Te találkoztál már közigazgatási algoritmussal?; Merényi Miklós; K-Blog; 2019. május 29.
alGOVrithms. State of the Play. Report on Algorithms Usage in Government-Citizens Relations in Czechia, Georgia, Hungary, Poland, Serbia and Slovakia.; ePaństwo/Visegrádi Alap; 2019. május 20. (.pdf)
alGOVrithms. The Usage of Automated Decision Making. Policy Recommandations for Policy Makers; ePaństwo/Visegrádi Alap; 2019. május 20. (.pdf)
