„Az Állami Számvevőszék folyamatosan figyelemmel kíséri és értékeli a környezetében zajló digitalizációs folyamatokat: az idei Integritás Szeminárium egyik központi témája a mesterséges intelligencia (MI) szerepe a korrupció megelőzésében. A robbanásszerű technológiai fejlődés innovatív megközelítéseket, módszereket igényel minden szereplőtől, így a számvevőszékektől is.
Technológia és korrupciómegelőzés
A műhelymunka megelőző napjai is rámutattak, hogy a döntési szituációkban (mérlegelési jogkör, méltányosság gyakrolása) jelentkezhetnek integritási veszélyek. A technológia szerepe a korrupció megelőzésében elsősorban az emberi tényező kizárása, hiszen emberek által alakított döntési folyamatok azok, amelyek esetében felmerül annak lehetősége, hogy azt megpróbálják külső szereplők a saját javukra befolyásolni. Az automatizált rendszerek, az információs technológia kiiktatja az emberi tényezőt a döntési folyamatból, így a korrupciós befolyás veszélyét is kizárja, a technológia programozása szerint „etikus”. Ma már Magyarországon is ilyen megoldások zárják ki a korrupció veszélyét a gyorshajtási bírságok kiszabásában, vagy az egyetemi felvételi rendszer folyamatában. Ugyanakkor ennek a megoldásnak megvannak a maga korlátai is: csak olyan problémákat képes kezelni, amelyekre azt előzetesen programozták.
Ki a felelős a mesterséges intelligencia döntéseiért?
A mesterséges intelligencia ugyanakkor definíciója szerint képes a tanulásra és így előre nem látható helyzeteket is képes kezelni, rugalmassága hozzámérhető az emberi intelligencia flexibilitásához. Azonban ez a technológia is komoly kihívásokkal állít szembe minket. Felelős-e a mesterséges intelligencia a döntéseivel esetlegesen okozott károkért? És képesek vagyunk-e az algoritmusok által hozott döntéseket elfogadni és azokban megbízni?
A múlt, vagy a jövő ellenőrzése?
Conceição Ventura, a portugál számvevőszék szakértője többek között az EUROSAI Audit és Etika Munkacsoportjának munkáját is bemutatta. Előadásában arra is rávilágított arra, hogy a tudásmegosztás és a legjobb gyakorlatok felkutatása során a munkacsoport számos olyan eszközt, mechanizmust és módszertan feltárt, amely a csalás és a korrupció megelőzésére alkalmazható az ellenőrzés és más ellenőrzési tevékenységek során, ideértve a csalás elleni információs technológiai megoldásokat is. Az ellenőrzéseket tekintve azt is megfogalmazta, hogy a mesterséges intelligencia lehetővé teszi, hogy ne csak a múltba tekintsünk, hanem a jelenre fókuszáljunk és lehetőséget ad az előretekintésre és a proaktív beavatkozásra is.
Bízunk a technológiában vagy tartunk tőle?
Az információs és technológiai eszközök alkalmazása az emberek és gépek közötti relációt is átrendezi. A mesterséges intelligencia algoritmusai nem átláthatóak a hétköznapi ember számára, felmerül, hogy az emberek képesek-e megbízni az így hozott döntésekben, probléma megoldásokban. További dilemmaként előkerült, hogy inkább a közszféra vagy inkább a magánszféra szakértőit érdemes bevonni az ilyen rendszerek fejlesztési folyamatába. A workshopon a résztvevők szavazással is véleményt nyilváníthattak, hogy veszélynek, kihívásnak, lehetőségnek vagy az emberiség jövőjének tartják a mesterséges intelligenciát. Ennek eredményeként a legtöbben a mesterséges intelligencia alkalmazását nem veszélyként, hanem lehetőségként értékelték.
Ki auditálja az algoritmusokat?
A workshop egyik fontos kérdése volt, hogy a technológia, a mesterséges intelligencia képes-e bizonyos szakmákban az emberi munka helyettesítésére, elvégezhetik-e a számvevők munkáját a robotok? A beszélgetés arra hívta föl a figyelmet, hogy csak úgy mint korábbi ipari forradalmak során is az új technológia megjelenése nem csupán szakmákat szűntethet meg, hanem új munkahelyeket diszciplínákat hoz létre. Tehát egészében rendezi át a társadalmi viszonyokat, formálja át a társadalmi gyakorlatokat. Ennek nyomán Helen Abrou Lopes arra is rámutatott, hogy a mesterséges intelligencia nem csupán veszély vagy lehetőség a számvevőszékek számára, hanem új feladat: a számvevőszékek feladata, hogy az algoritmusokat „ellenőrizzék”, auditálják, átláthatóvá tegyék, mindezzel megerősítsék a társadalom bizalmát ezekben az új technológiákban.
Etikus algoritmus? Etikus programozók?
Ezzel együtt nemcsak az a kérdés vetődik fel, hogy az algoritmusok minden esetben etikus döntéseket képesek-e hozni, hanem az is, hogy akik az algoritmusokat készítik azt etikus hozzáállással teszik-e. Ebből kifolyólag a mesterséges intelligencia alapú rendszerek integritása sem biztosított, így a jövőben a számvevőszékek az ellenőrzéseikben az ilyen alkalmazások vizsgálatára is kell térjenek.
Mi ismerjük az algoritmusokat, vagy ők ismernek minket?
Constantine Palicarsky, a UNODC szakértőjének előadása nyomán felvetődött az a kérdés is, hogy egyáltalán az államok és így a számvevőszékek számára megvan-e annak a lehetősége, hogy a technológia fölötti kontrol biztosítható legyen, hiszen ennek előfeltétele a szoftverek kódok, algoritmikus hozzáférhetősége, megismerhetősége. Ez jelenleg nem biztosított, hiszen ez a cégek üzleti titkát képezi. Hogyan biztosítható tehát, hogy a társadalom vagy az állampolgárok választott képviselőik útján kontrollálják a technológia alkalmazását, amely ahogyan az előadásból is kiderült számos esetben korlátozhatja alapvető alkotmányos jogok érvényesülését, például a magánszférához fűződő jogot. Ez utóbbi kockázatot fokozza, hogy az emberek nincsenek is tudatában annak, hogy életük legfontosabb mozzanatait, mindennapjait algoritmusok követik és elemzik.
Akié a technológia, azé a hatalom?
További fontos kérdésként merült föl a technológiákhoz való hozzáférés egyenlőtlensége. Az világos, hogy a fejlett világ jobb hozzáférési lehetőségekkel rendelkezik a legfejlettebb technológiákhoz, mint a szegényebb országok. De további lényeges kérdés, hogy az emberek, az államok vagy a semmilyen állam joghatósága által nem ellenőrizhető cégek, információs technológiai konglomerátumok rendelkeznek-e a társadalmak ellenőrzését is lehetővé tevő mesterséges intelligenciákkal.
Helena Abreu Lopes, a portugál számvevőszék bírája előadása a mesterséges intelligencia alkalmazásának vonatkozásait mutatta be az összeférhetetlenség eseteinek megítélésében és az elfogulatlan döntések terén. A résztvevők a beszélgetés során arra is kitértek, hogy a mesterséges intelligencia a számvevőszékeket szerepük betöltése során milyen lehetőségekkel és kihívásokkal szembesíti.
Mauro Orefice, az olasz számvevőszék szakértője gazdag előadást tartott a technológiai eszközök alkalmazásának lehetőségeiről az ellenőrzések valamint a korrupció elleni fellépés terén. Milyen területeken alkalmazható a mesterséges intelligencia?
Az Egyesült Arab Emírségek szakértője, Mr. Mohamed Hasan AlHammadi a számvevőszék fejlesztési programján kívül több olyan területet is bemutatott, amelyben a mesterséges intelligenciát már alkalmazzák, így a beszéd- és arcfelismerő rendszereknek a felvételi eljárások és a csalások feltárására készített interjúk során játszott szerepéről, valamint a feltörekvő technológiák közbeszerzési eljárásokban történő alkalmazások lehetőségeiről is beszélt.
A résztvevők aggályaikat is megfogalmazták, miszerint a gépek szerepének előretörésével a pénzügyi és szabályszerűségi ellenőrzések során az ellenőrök elavult szereplővé válhatnak. Az átalakulás eredményeként tehát, nemcsak a számvevőszékeknek, hanem az egyéneknek, azaz a számvevőknek is válaszokat kell keresniük a technológiai forradalom kihívásaira…”
Forrás:
Csütörtöki workshop: MI és korrupció-megelőzés; Állami Számvevőszék; 2021. február 25.
