„A koppenhágai egyetem oktatója és egy dán agytröszt igazgatója közös cikkükben osztották meg aggodalmait a Foreign Policy hasábjain arról, hogy a szociális ellátások terén a mesterséges intelligencia (MI) döntő helyzetbe hozása alapjaiban áshatja alá nem csak a jóléti államot, de a liberális demokráciát is. Mint írják, gyakran olvasni véleményeket arról, hogy hogyan ölik meg külső ellenségek vagy belülről a populisták a liberalizmust, de arról nem, hogy a liberális demokrácia akár szándékolatlan öngyilkosságot is követhet el azzal, hogy a szociális ellátásokban hozott döntéseket a választott vagy kinevezett, felelősséggel felruházott emberek átengedik az algoritmusoknak. Pro forma magát a döntést persze emberek fogják szentesíteni és aláírni, de mivel nem látják és nem értik magát a folyamatot, ahogy a betáplált adatokból kijön az eredmény (sőt, ma már az adatbevitel is automatizálódik), így se felelősségre vonni, se elszámoltatni nem lehet őket, és a fellebbezés is értelmezhetetlenné válik. Vagyis sérül a transzparencia és az elszámoltathatóság, ahogy a döntéshozói felelősség és az állampolgári kontroll is.
A szerzők emlékeztetnek rá, hogy a liberális kormányzati filozófia azon előfeltételezésen alapszik, hogy egyrészt a közhatalmat fel kell ruházni azzal a kényszerítő erővel, amivel a szabadságot és a társadalom virágzását szolgálja, másrészt a törvény erejével korlátozni kell a hatáskörét, rögzíteni a határait és biztosítani a diszkrécióját. Erre épülnek olyan liberális történelmi vívmányok, mint az emberi jogok vagy a jogállamiság, amelyek a skandináv jóléti államok alapszerkezetébe is beépültek. A hatalom jogi korlátok közé szorítását viszont nehéz összeegyeztetni azzal a forradalmi változással, amit a mesterséges intelligencia és a gépi tanulás alkalmazása jelent – különösen annak tükrében, hogy ezek a technológiák széleskörű jóléti eredményeket és javuló szociális hatékonyságot ígérnek az adatokhoz való korlátlan hozzáférés és a jogi szabályozás lazasága fejében. Ezek az előnyök valóban csábítóak – a megoldás módja azonban minden, csak nem liberális. A szerzők szerint a Nyugat egyre nagyobb mértékben sodródhat az algoritmusok uralma alá, amikor az emberek életének jelentős részét olyan digitális kódok fogják igazgatni, amelyek emberi szemmel és ésszel láthatatlanok, értelmezhetetlenek.
Dánia jelenleg első helyen áll a World Justice Project jogállamisági világ-ranglistáján, ami jól kormányzott jóléti államának elismerése. A szerzők szerint ugyanakkor nincsenek tisztában annak kockázatával, amit az MI-alkalmazások jelentenek a jóléti szolgáltatásokban. Példának említik a a Koppenhága vonzáskörzetéhez tartozó Gladsaxe önkormányzatának döntését, amellyel szép csendben, kísérleti jelleggel bevezettek egy olyan rendszert, amely algoritmusok révén azonosítja azokat a gyerekeket, akikkel kapcsolatban visszaélés gyanúja merülhet fel, lehetővé téve a hatóságoknak, hogy a megjelölt családokban korai beavatkozást hajtsanak végre, végső esetben akár a családból való kiemeléssel is. Mindezt az teszi technikailag lehetővé, hogy a hatóságok által különböző jogcímeken gyűjtött adatokat és információkat a személyi azonosító számokon keresztül összekapcsolják. Kormányzati szemmel nézve ezek az algoritmusok csak a kiterjesztését jelentik annak, ahogy eddig is felléptek a szociális csalásokkal és visszaélésekkel szemben. Ami jószándékúnak és nagymértékben előnyösnek is tűnhet, elvégre a jóléti állam nem működhet az intézményekbe és a polgárokba vetett bizalom nélkül, amihez szükséges a potyautasokkal és visszaélőkkel szembeni fellépés is. A Gladsaxe-i esetnek ráadásul külön erénye az is, hogy biztosítja az alapvető emberi jogait a sérülékeny helyzetben lévő gyerekeknek. Azzal a nem kívánt mellékhatással a legtöbben ugyanakkor nem számolnak, aminek árát a magánélet, a családi élet, a szabad beszéd sérülése árán kell megfizetnie az érintetteknek. Akik teljes bizonytalanságban élhetnek a tekintetben, hogy milyen személyes aktivitásuk fog ezen túl a közigazgatási radarok képernyőjére kerülni.
Az ilyen fajta közigazgatási algoritmusok gyengítik a hatóságok nyilvános elszámoltathatóságát. Az alkalmazó önkormányzaton kívül senki nem tudja, hogyan működnek. A polgároktól nem kértek hozzájárulást adataik kezeléséhez, nem kaptak tájékoztatást arról, hogy rákerültek a mozaikszerűen összerakott listára, és arról sem, hogy milyen módon tudnák ezt megkérdőjelezni. Bár a Gladsaxe-i kezdeményezés tervezett elindítását ugyan elhalasztották a közvélemény jelentős ellenállása miatt, a dán kormány mégis érdeklődést mutat a modell iránt.A szerzők szerint ugyan nagy lehet rá a kísértés, hogy az algoritmikus kormányzást (az „algokráciát”) az autokrácia egyfajta megjelenésének tekintsük, párhuzamba állítva Kína társadalmi kreditrendszerével, de nagy különbséget jelent, hogy míg utóbbival az uralkodó párt saját hatalmát akarja megerősíteni, addig a dán gyakorlat a polgárai számára nyújtott jóléti szolgáltatásokat kívánja csak hatékonyabbá tenni. Az „algokrácia” jelensége így nem célként, hanem mellékhatásként jelenik meg. A demokratikus hagyományokban rejlő jelentős különbség azonban önmagában kevés lehet a jövőben ahhoz, hogy az új technológiák alkalmazása terén fenntartsa a különbséget a liberális demokráciák és az autoriter rendszerek között. A demokratikus és jogi fékek, jogorvoslati lehetőségek beépítése a rendszerbe kétségkívül lassíthatja a rendszert és ronthatja annak hatékonyságát, ez azonban olyan áldozat kell, hogy legyen, amit kompromisszumos megoldásként meg kell hozni az algokráciával szemben, a demokrácia védelmében.”
Forrás:
The Welfare State Is Committing Suicide by Artificial Intelligence. Denmark is using algorithms to deliver benefits to citizens — and undermining its own democracy in the process; Jacob Mchangama, Hin-Yan Liu; Foreign Policy; 2018. december 25.
