„A szerzőtrió munkája az Information Systems Journal című szaklapban jelent meg. Céljuk annak bemutatása, hogy amennyiben egy információs rendszer algoritmikus eszközöket használ a méltányosság biztosítására, akkor az eredmény miért függ a technikai és a társadalmi struktúrák közötti kölcsönhatásoktól. Mivel ez a szemlélet a műszaki területek és a társadalomtudományok ismeretanyagát egyaránt integrálja, ezért új eredményekkel kecsegtet. Maga a tanulmány 310 algoritmikus méltányossággal foglalkozó cikk szisztematikus áttekintésén alapszik, amelyek alapján alapvető szakirodalmi téziseket rekonstruál, melyeket ütköztet a társadalmi-technikai értelemben felfogott algoritmikus méltányosság elképzelésével. A szerzők olyan holisztikus megközelítést javasolnak, amely társadalmi-technikai szempontok segítségével hozzásegít rendszerszintű elfogultság és a megkülönböztetés gazdagabb, mélyebb megértéséhez.
Az algoritmikus méltányosságot olyan új technológiaként értelmezik a szerzők, amely képes az automatizált döntéshozatalban előforduló rendszerszintű megkülönböztetés mérséklésére, lehetőséget teremtve az információs rendszerek méltányosságának javítására. A szerzők álláspontja szerint a méltányosság természeténél fogva társadalmi fogalom, és ezért az algoritmikus méltányosság technológiáit egy társadalomtechnikai szemüvegen keresztül érdemes megvizsgálni.
A tisztességtelen döntéseket gyakran nehéz felderíteni és kijavítani. Ez különösen nagy kihívást jelent, ha a döntés gépi tanuláson (azaz egy dinamikus tanuló rendszer képességein) alapul, mert ez esetben nem lehet érdemi magyarázatot adni a döntés meghozatalának módjára. A statikus és szabályokon alapuló algoritmusok is okozhatnak torzulásokat is, amelyek továbbra is rejtettek maradnak, hacsak nem vizsgálják felül az eredményeket módszeresen.
Mivel az algoritmusokat az adott feladathoz kapcsolódó teljesítményük alapján választják ki (pl. kockázat előrejelzése), nem pedig méltányosság alapján, a nem kívánt hatások gyakran észrevétlenek maradnak. Új fejlemény, hogy számos elképzelés fogalmazódott meg ennek a helyzetnek az orvoslására. Ezek az algoritmikus méltányosságot olyan technológiai megoldás részeként fogják fel, amellyel megelőzhető, hogy az automatizált döntéshozatal eredményeképpen különböző csoportokat szisztematikus hátrány érjen (vagy éppen előnyös helyzetbe kerüljenek). Technikai szempontból az így felfogott algoritmikus méltányosság azt jelenti, hogy matematikailag számszerűsítik az elfogultságot, és e mérőszám alapján mérsékelik az egyes csoportokat sújtó megkülönböztetést. Ennek az elképzelésnek számos gyakorlati megvalósítása született. Azonban az algoritmikus döntéshozatal méltánytalansága nem csupán technikai jelenség: társadalmi, szervezeti és technikai forrásai vannak, ezeket a társadalmi és technikai struktúrák egyaránt megerősítik, ezért társadalmi-technikai szempontból kell megközelíteni a problémát.
A társadalmi-technikai nézőpont elismeri, hogy egy adott döntéshozatali rendszer eredményei a technikai és társadalmi struktúrák közötti, valamint az instrumentális és humanista értékek közötti kölcsönhatástól függenek. A döntéshozatal nem tisztán technikai összefüggések szerint történik: a személyek a döntések alanyai és tárgyai is. Azonban az is helytelen lehet, ha tisztán társadalmi problémaként kezeljük a problémát, mert az így javasolt megoldásoknak az algoritmusok által meghatározott döntéshozatali rendszerbe kell illeszkedniük. A döntéshozatal társadalmi és technikai elemei sok szempontból összefonódnak, és átfogóbb, ökoszisztéma-alapú szemléletet követelnek meg. Az algoritmikus méltányosság hatékony megvalósításához koordinációra és egyensúlyra van szükség a technikai innováció, a politikai/jogi intézkedések és a társadalmi tudatosság között. Ugyanakkor még nem rendelkezünk olyan egységes perspektívával, amely képes lenne integrálni a technológiai és társadalmi erőfeszítéseket az algoritmikus méltányosság biztosítására.
A Sociotechnical View of Algorithmic Fairness; Mateusz Dolata, Stefan Feuerriegel, Gerhard Schwabe; Information Systems Journal; 2021. október 7.”
Forrás:
Az algoritmikus méltányosság társadalmi-technikai szemmel; Nemzeti Közszolgálati Egyetem, Információs Társadalom Kutatóintézet; 2021. december 3.
Lásd még: Sociotechnical systems (STS); Wikipédia
