A mesterséges intelligencia úttörője szerint reális veszély, hogy visszaélnek a mesterséges intelligencia eredményeivel

„A Nature magazin online kiadása interjút közölt a mesterséges intelligencia (MI) kapcsolatos kutatás-fejlesztésének egyik úttörőjével, Yoshua Bengioval, aki harmadmagával nyerte el az elmúlt hetekben a terület legrangosabb tudományos díját, az A.M. Turing-díjat. Kutatásuk tárgya a tudományosan általuk megalapozott mélytanulás (deep learning), amely technika a nagymennyiségű adatok feldolgozását kapcsolja össze az emberi agy által ihletett, többrétegű mesterséges neuron-hálózattal. Másik két társával ellentétben – akik a Google és a Facebook alkalmazásában állnak – Bengio a tudományos élet területén maradt, a Tanulási Algoritmusok Montreali Intézetének (Montreal Institute for Learning Algorithms) tudományos igazgatójaként. Miután kutatóként többször is felemelte szavát az MI téves vagy káros felhasználásából fakadó kockázatokra, tavaly decemberben közzétette a „Montreali nyilatkozatot” (Montreal declaration), ami etikai útmutatók sorát fogalmazza meg az MI felhasználásához.

A kérdésekre válaszolva elmondta: számos példát lehet látni arra, hogy cégek vagy államok felelőtlenül használják az MI-t, ami miatt időben ki kell adni a riasztást. Ami azonban még aggasztóbb, azok nem ezek a nyilvánvalóan látható törekvések, hanem azok, amelyek a nyilvánosság kizárásával folynak katonai laboratóriumokban, biztonságért felelős szervezeteknél és biztonsági szolgáltatásokat nyújtó magánvállalatoknál. Példaként említette a gyilkolásra is alkalmas drónokat, ami morális és biztonsági kérdéseket egyaránt felvet. Másik példa a megfigyelés és ellenőrzés (surveillance), aminek számos előnyével is lehet ugyan érvelni, ugyanakkor a visszaélés veszélye nagyon is valós, különösen egy autoriter kormányzat kezében, ahol az MI a hatalom megtartásának és kiterjesztésének eszköze lehet. További kockázatot jelent, hogy az MI képes felerősíteni az előítéleteket és a diszkriminációt, mivel olyan adatokkal dolgozik, amelyek a ma élő valós emberek magatartását tükrözi vissza.

A Montreali nyilatkozat erényének tartja, hogy az MI-vel foglalkozó kutatókon kívül mélyrehatóan be tudta vonni a társadalomtudományok képviselőit és a széles nyilvánosságot is. A konzultációk eredményeképpen mintegy tíz alapelvet fogalmaztak meg, az érintett intézmények pedig megfogadták, hogy követni fogják azokat. Az MI etikai kérdéseiről folytatott párbeszéd fenntartására külön szervezet létrehozása van folyamatban (International Observatory on the Societal Impacts of Artificial Intelligence and Digital Technologies), amely nevének megfelelően az MI társadalomra gyakorolt hatásaival foglalkozik. Ez a fórum a tudós szakembereken kívül teret biztosít a kormányzatok, a civil szervezetek és a vállalatok képviselőinek is.

Bengio kifejtette: az MI szabályozásában nem elegendő az önszabályozás, mivel az üzleti érdek az etikai irányelvek be nem tartására ösztönöz, így azok követését önkéntes alapon éppen úgy nem lehet reálisan elképzelni, mint az önkéntes adózást.

Az agyelszívással (brain drain) kapcsolatban elmondta, hogy az ma már kétirányú folyamat: nem csak a vállalatok szívják el a tudást és annak birtokosait a tudományos szférából, hanem a tudományos élet is lehetőséget biztosít a versenyszférában dolgozók bekapcsolódására.

Bengio szerint Európa valóban lemaradt az MI területén az Egyesült Államok és Kína mögött, ennek azonban nem feltétlenül kell így maradnia, mert Európának – mindenek előtt kiváló egyetemeinek köszönhetően – hatalmas potenciálja van arra, hogy vezető szerepe legyen e téren. A start-up cégek révén élénk info-technológiai közösségek is jelen vannak, a kormányok pedig kezdik felismerni az MI jelentőségét. (Az interjúalany e tekintetben külön kiemeli a francia kormányzatot.)

Az MI várható következő nagy dobásával kapcsolatban emlékeztet rá, hogy a gépi mélytanulásban nagy előrelépés történt az érzékelés és annak feldolgozása terén, de még nem sikerült kifejleszteni azt a magas szintű reprezentációs készséget, ami emberi vonatkozásban a nyelvet jelenti. Ez az, amire még egy kisbaba is képes, de az MI ma még nem. A generatív versengő hálózatok (generative adversarial networks ) terén jelentős előrelépés történt, de Bengio szerint az emberek e téren lényegesen jobbak a gépeknél, aminek fő összetevője az ok és okozat közötti különbség megértésének képessége.”

Forrás:
AI pioneer: ‘The dangers of abuse are very real’; Nature; 2019. április 4.

A bejegyzés kategóriája: informatika, közigazgatás:külföldön, tudomány
Kiemelt szavak: , , , , , , , , .
Közvetlen link.