Az EU szabályozni készül a mesterséges intelligenciát

Az Európai Parlament (EP) szerdai plenáris ülésén nagy többséggel tárgyalási álláspontot szavazott meg a mesterséges intelligencia (MI) szabályozásáról, amelyben a képviselők azt hangsúlyozzák, hogy a mesterséges intelligencia Európán belüli fejlesztésének és alkalmazásának meg kell felelnie az európai alapjogoknak és értékeknek.

Az EP által megszavazott szabályok a kockázatok szintje szerint állapítanak meg kötelezettségeket a szolgáltatók és a felhasználók számára. Az olyan MI-rendszerekre, amelyek az emberek biztonságára nézve elfogadhatatlan mértékű kockázatot jelentenek – mint például a társadalmi kreditrendszer – tilalom vonatkozna, ahogy az MI magánéletet sértő és diszkriminatív alkalmazásaira is. Ezek magukba foglalják:

• a köztereken végzett „valós idejű” és „utólagos” távoli biometrikus azonosítást;
• az érzékeny személyes adatokon alapuló biometrikus kategorizálást;
• a profilalkotásra, illetve a tartózkodási helyre vagy bűnözői előéletre alapozott prediktív rendvédelmet;
• a gépi érzelemfelismerés alkalmazását a bűnüldözésben, a határellenőrzésben, a munkahelyeken és az oktatási intézményekben;
• valamint arcfelismerő adatbázisok létrehozását az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan leválogatott arcképek felhasználásával.

A képviselők nagy kockázatúnak minősítenék azokat az MI-rendszereket, amelyek jelentős mértékben veszélyeztetik az emberek egészségét, biztonságát, alapvető jogait vagy a környezetet. A választási eredmények és a szavazók befolyásolására alkalmas MI-rendszerek, illetve a több mint 45 millió felhasználóval rendelkező közösségimédia-platformok által használt ajánlórendszerek szintén felkerültek erre a listára.

Az EP álláspontja szerint az általános célú MI-rendszerek fejlesztői csak azután hozhatnák forgalomba termékeiket az uniós piacon, hogy felmérték és mérsékelték a lehetséges kockázatokat (az egészségre, biztonságra, az alapvető jogokra, a természeti környezetre, a demokráciára és a jogállamiságra), és bejegyeztették modelljeiket az uniós adatbázisba.

Az ilyen modelleken alapuló generatív MI-rendszerekkel szemben – mint például a ChatGPT – elvárás lenne az átláthatóság: minden esetben fel kellene tüntetni, hogy a tartalmat mesterséges intelligencia állította elő, segítséget kellene nyújtani az úgynevezett „deepfake” képek igaziaktól való megkülönböztetéséhez, valamint megfelelő biztosítékokkal elejét kellene venni a jogellenes tartalomgenerálásnak.

Az innováció és a kis- és középvállalkozások támogatása érdekében a képviselők azt javasolták, hogy a kutatási tevékenységekre és a nyílt forráskódú licencek alapján rendelkezésre bocsátott MI-komponensekre ne terjedjen ki minden kötelezettség.

Az EP emellett azt szorgalmazza, hogy a polgároknak legyen lehetősége panasszal élni az MI-rendszerek alkalmazásával szemben, az alapvető jogaikra jelentősen kiható döntésekről pedig részletes tájékoztatást kellene kapniuk, amennyiben azok nagy kockázatú MI-rendszerek bevonásával születtek.

A tárgyalások az uniós tagállamok kormányait tömörítő Tanáccsal a jogszabály végleges szövegéről még szerdán megkezdődtek.

Forrás: MTI