„Tájékoztatják a polgáraikat, hogy milyen mesterségesintelligencia-algoritmusokat használnak, azok hogyan működnek és teszik jobbá a város lakóinak az életét.
Két európai város, Amszterdam és Helsinki nemcsak az okosvárosok technológiai kérdéseivel foglalkozik, hanem azzal is, hogy a digitális közszolgáltatásokat átláthatóvá tegyék polgáraik számára. A két város olyan algoritmusnyilvántartást vezetett be, ahol a polgárok nyomon követhetik, hogy az önkormányzat milyen mesterségesintelligencia-algoritmusokat használ a város működésének javításához. A nyilvántartással az a céljuk, hogy az MI-vel vezérelt közszolgáltatások esetében is ugyanaz az átláthatóság és biztonság érvényesüljön, mint az önkormányzat egyéb tevékenységeinél.
Amszterdam polgármestere, Touria Meliani azzal indokolta a lépést, hogy mivel az algoritmusok egyre fontosabb szerepet játszanak a városok működésében, az önkormányzat felelőssége is, hogy azokat elfogadtassa a polgárokkal, és átláthatóvá tegye a működésüket. Mindkét nyilvántartást egy 2018-ban alapított kis finn cég, a Saidot készítette. A finn cég olyan platformokat fejleszt, amelyek állami szerveknek és nagyvállalatoknak segítenek az MI-kezdeményezései elfogadtatásában, az ellenőrizhetőség megteremtésében.
Amszterdam nyilvántartásába három, Helsinkiébe két alkalmazás került fel első körben. A finn főváros még csak MI-alapú csevegőrobotokat és egy intelligens könyvtári menedzsmentszolgáltatást vezettek be. Amszterdam ennél mélyebbre ment: MI-vezérelt parkolási rendszert működtet, idén nyártól MI jelzi előre az illegális lakáskiadás valószínűségét, és szintén MI-alapú lett a problémabejelentés. Mivel a város zsúfolt, szigorú szabályok vonatkoznak a rövid távú lakáskiadásra: egy évben 30 éjszakára, egy alkalommal maximum négy főnek lehet kiadni a lakást. A nyáron bevezetett rendszer múltbeli adatok alapján jelzi a visszaélések valószínűségét az ellenőrzést végző osztály munkatársainak. A parkolási rendszer önállóan ellenőrzi a parkolási engedélyeket, míg a problémabejelentésnél MI kategorizálja a bejelentéseket, hogy azok minél előbb az adott terület felelőseihez kerüljenek.
Az a cél, hogy mindenki értse
Természetesen az algoritmusregiszter nem tartalmazza magát a kódot. De világosan leírja a célját, működési logikáját, valamint azt, hogy milyen adatokat használ fel.
Külön rész foglalkozik azzal, hogy milyen módon tették az algoritmust előítéletmentessé. A lakáskiadás-figyelő algoritmusnál például emiatt zárták ki olyan adatok használatát mint a születési hely, az állampolgárság, a családi állapot és a születési ország.
Az egyes szolgáltatásoknál megadják, hogy milyen emberi felügyelet őrködik azon, hogy az MI ne szabadulhasson el. Emellett a mesterséges intelligencia alkalmazásának kockázatát is feltárják. Az egyes szolgáltatásoknál hangsúlyozzák: a végső döntéseket mindig az önkormányzat emberei hozzák a szabályokkal összhangban. Ez még a parkolási rendszerre is igaz, ott is parkolóellenőrök értékelik a rendszer által készített felvételeket, mert így dönthető el például, hogy az adott autó valóban parkolt, esetleg árut pakolt vagy egyszerűen csak hosszabb ideig áll egy lassan váltó közlekedési lámpa miatt.”
Forrás:
Ön is belenézhet Amszterdam és Helsinki nyilvános MI-algoritmusregiszterébe; Bitport.hu; 2020. október 1.
City of Helsinki AI Register
City of Amsterdam Algorithm Register
Saidot
We bring transparency to your algorithmic consumer services. Leading platform for AI transparency, explainability and communication
