A mesterséges intelligenciáról szóló törvény

A mesterséges intelligenciáról szóló törvény célja, hogy egyértelmű követelményeket és kötelezettségeket biztosítson az MI-fejlesztők és -bevivők számára a mesterséges intelligencia egyes felhasználási módjai tekintetében. Ugyanakkor a rendelet célja a vállalkozások, különösen a kis- és középvállalkozások (kkv-k) adminisztratív és pénzügyi terheinek csökkentése.

A mesterséges intelligenciáról szóló jogszabály a megbízható mesterséges intelligencia fejlesztését támogató, szélesebb körű szakpolitikai intézkedéscsomag részét képezi, amely magában foglalja amesterséges intelligenciával kapcsolatos innovációs csomagot és a mesterséges intelligenciáravonatkozó összehangolt tervet is. Ezek az intézkedések együttesen garantálják az emberek és a vállalkozások biztonságát és alapvető jogait a mesterséges intelligenciával kapcsolatban. Emellett Unió-szerte erősíteni fogják a mesterséges intelligencia elterjedését, a beruházásokat és az innovációt.

A mesterséges intelligenciáról szóló törvény az MI-re vonatkozó első átfogó jogi keret világszerte. Az új szabályok célja, hogy Európában és azon túl is előmozdítsák a megbízható mesterséges intelligenciát azáltal, hogy biztosítják, hogy az MI-rendszerek tiszteletben tartsák az alapvető jogokat, a biztonságot és az etikai elveket, és kezeljék a rendkívül hatékony és hatásos MI-modellek kockázatait.

Miért van szükség a mesterséges intelligenciára vonatkozó szabályokra?

A mesterséges intelligenciáról szóló jogszabály biztosítja, hogy az európaiak bízhassanak abban, amit a mesterséges intelligencia kínál. Míg a legtöbb MI-rendszer kockázatmentes, és számos társadalmi kihívás megoldásához járulhat hozzá, bizonyos MI-rendszerek olyan kockázatokat hordoznak, amelyeket a nemkívánatos eredmények elkerülése érdekében kezelnünk kell.

Például gyakran nem lehet megtudni, hogy egy MI-rendszer miért hozott döntést vagy előrejelzést, és miért tett konkrét lépéseket. Így nehézzé válhat annak értékelése, hogy valaki tisztességtelenül hátrányos helyzetbe került-e, például munkaerő-felvételi határozat vagy közhasznú rendszer iránti kérelem keretében.

Bár a meglévő jogszabályok bizonyos fokú védelmet biztosítanak, nem elegendő az MI-rendszerek által esetlegesen felmerülő konkrét kihívások kezeléséhez.

A javasolt szabályok:

• a kifejezetten mesterségesintelligencia-alkalmazások által létrehozott kockázatok kezelése;
• tiltsák be az elfogadhatatlan kockázatot jelentő MI-gyakorlatokat;
• meghatározza a magas kockázatú alkalmazások listáját;
• egyértelmű követelmények meghatározása a nagy kockázatú alkalmazásokhoz használt MI-rendszerekre vonatkozóan;
• konkrét kötelezettségek meghatározása a nagy kockázatú MI-alkalmazások alkalmazói és szolgáltatói számára;
• megfelelőségértékelés előírása egy adott MI-rendszer üzembe helyezése vagy forgalomba hozatala előtt;
• egy adott MI-rendszer forgalomba hozatalát követően végrehajtja a végrehajtást;
• európai és nemzeti szintű irányítási struktúra létrehozása.

Kockázatalapú megközelítés

A szabályozási keret az MI-rendszerek tekintetében négy kockázati szintet határoz meg:

Minden olyan MI-rendszer, amely egyértelmű fenyegetést jelent az emberek biztonságára, megélhetésére és jogaira nézve, be lesz tiltva, a kormányok által végzett társadalmi pontszámoktól a veszélyes viselkedést ösztönző hangtámogatást használó játékokig.

Magas kockázatú

A magas kockázatúként azonosított MI-rendszerek közé tartoznak a következőkben használt mesterségesintelligencia-technológiák:

• kritikus infrastruktúrák (pl. közlekedés), amelyek veszélyeztethetik a polgárok életét és egészségét;
• oktatás vagy szakképzés, amely meghatározhatja az oktatáshoz és a szakmai képzéshez való hozzáférést (pl. vizsgák pontozása);
• a termékek biztonsági alkatrészei (pl. mesterséges intelligencia alkalmazása a robot által támogatott sebészetben);
• foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés (pl. önéletrajz-válogatási szoftver a munkaerő-felvételi eljárásokhoz);
• alapvető magán- és közszolgáltatások (pl. hitelpontosítás, amely megtagadja a polgárok hitelhez jutásának lehetőségét);
• olyan bűnüldözés, amely sértheti az emberek alapvető jogait (pl. a bizonyítékok megbízhatóságának értékelése);
• migráció, menekültügy és határellenőrzés igazgatása (pl. a vízumkérelmek automatizált vizsgálata);
• igazságszolgáltatás és demokratikus folyamatok (pl. a bírósági ítéletek keresésére szolgáló MI-megoldások).

A nagy kockázatú MI-rendszerekre szigorú kötelezettségek vonatkoznak majd, mielőtt forgalomba hozhatók lennének:

• megfelelő kockázatértékelési és -csökkentési rendszerek;
• a rendszert tápláló adatkészletek magas minősége a kockázatok és a diszkriminatív eredmények minimalizálása érdekében;
• a tevékenységek naplózása az eredmények nyomon követhetőségének biztosítása érdekében;
• részletes dokumentáció, amely minden szükséges információt tartalmaz a rendszerről és annak a hatóságok számára történő megfelelésének értékeléséhez;
• egyértelmű és megfelelő tájékoztatás a bevetést végző személy számára;
• megfelelő emberi felügyeleti intézkedések a kockázat minimalizálása érdekében;
• magas szintű robusztusság, biztonság és pontosság.

Minden távoli biometrikus azonosító rendszer magas kockázatúnak minősül, és szigorú követelményeknek van alávetve. A távoli biometrikus azonosítás nyilvános helyeken bűnüldözési célokra történő használata főszabály szerint tilos.

A szűk kivételeket szigorúan határozzák meg és szabályozzák, például az eltűnt gyermek felkutatásához, egy konkrét és közvetlen terrorfenyegetettség megelőzéséhez, vagy a súlyos bűncselekmény elkövetőjének vagy gyanúsítottjának felderítéséhez, felkutatásához, azonosításához vagy büntetőeljárás alá vonásához.

E felhasználások bírósági vagy más független szerv engedélyéhez, valamint az idő, a földrajzi elérhetőség és a keresett adatbázisok megfelelő korlátaihoz kötöttek.

Korlátozott kockázat

A korlátozottkockázat a mesterségesintelligencia-használat átláthatóságának hiányával kapcsolatos kockázatokra utal. A mesterséges intelligenciáról szóló törvény konkrét átláthatósági kötelezettségeket vezet be annak biztosítása érdekében, hogy az emberek szükség esetén tájékoztatást kapjanak, ami elősegíti a bizalmat. Például az AI-rendszerek, például a chatbotok használatakor az embereket tájékoztatni kell arról, hogy kölcsönhatásba lépnek egy géppel, hogy megalapozott döntést hozhassanak a folytatásról vagy a visszalépésről. A szolgáltatóknak azt is biztosítaniuk kell, hogy a mesterséges intelligencián alapuló tartalom azonosítható legyen. Emellett mesterségesen előállítottnak kell tekinteni azokat a mesterségesen előállított szövegeket, amelyeket azzal a céllal tettek közzé, hogy tájékoztassák a nyilvánosságot a közérdekű ügyekről. Ez vonatkozik a mély hamisítványokat alkotó hang- és videotartalmakra is.

Minimális vagy semmilyen kockázat

A mesterséges intelligenciáról szóló törvény lehetővé teszi a minimális kockázatú mesterséges intelligencia szabad használatát. Ez magában foglalja az olyan alkalmazásokat, mint az AI-kompatibilis videojátékok vagy a spamszűrők. Az EU-ban jelenleg használt MI-rendszerek túlnyomó többsége ebbe a kategóriába tartozik.

Hogyan működik mindez a gyakorlatban a nagy kockázatú MI-rendszerek szolgáltatói számára?

Amint egy MI-rendszer piacra kerül, a hatóságok felelősek a piacfelügyeletért, az üzembe helyezők biztosítják az emberi felügyeletet és nyomon követést, a szolgáltatók pedig forgalomba hozatal utáni felügyeleti rendszerrel rendelkeznek. A szolgáltatók és a beszerelők szintén bejelentik a súlyos incidenseket és a hibás működést.

Megoldás a nagy MI-modellek megbízható használatára

Egyre inkább az általános célú MI-modellek válnak az MI-rendszerek részévé. Ezek a modellek számtalan különböző feladatot képesek végrehajtani és adaptálni.

Míg az általános célú MI-modellek jobb és hatékonyabb MI-megoldásokat tesznek lehetővé, nehéz minden képességet felügyelni.

A mesterséges intelligenciáról szóló jogszabály átláthatósági kötelezettségeket vezet be valamennyi általános célú MI-modellre vonatkozóan, hogy lehetővé tegye e modellek jobb megértését, valamint további kockázatkezelési kötelezettségeket a nagyon alkalmas és hatásos modellek esetében. Ezek a további kötelezettségek magukban foglalják a rendszerkockázatok önértékelését és csökkentését, a súlyos események bejelentését, a tesztelést és a modellek értékelését, valamint a kiberbiztonsági követelményeket.

Időtálló jogszabályok

Mivel a mesterséges intelligencia gyorsan fejlődő technológia, a javaslat időtálló megközelítést alkalmaz, amely lehetővé teszi a szabályok technológiai változásokhoz való alkalmazkodását. A mesterségesintelligencia-alkalmazásoknak a forgalomba hozataluk után is megbízhatónak kell maradniuk. Ehhez folyamatos minőségre és kockázatkezelésre van szükség a szolgáltatók részéről.

Végrehajtás és végrehajtás

A Bizottságon belül 2024 februárjában létrehozott Európai MI -iroda felügyeli a mesterséges intelligenciáról szóló jogszabály végrehajtását és végrehajtását a tagállamokkal együtt. Célja egy olyan környezet megteremtése, amelyben az MI-technológiák tiszteletben tartják az emberi méltóságot, jogokat és bizalmat. Ösztönzi továbbá a mesterséges intelligenciával kapcsolatos együttműködést, innovációt és kutatást a különböző érdekelt felek között. Emellett nemzetközi párbeszédet és együttműködést folytat a mesterséges intelligenciával kapcsolatos kérdésekben, elismerve a mesterséges intelligencia irányításával kapcsolatos globális összehangolás szükségességét. Ezen erőfeszítések révén az Európai MI-iroda arra törekszik, hogy Európa vezető szerepet töltsön be a mesterségesintelligencia-technológiák etikus és fenntartható fejlődésében.

Következő lépések

2023decemberében az Európai Parlament és az EU Tanácsa politikai megállapodásra jutott a mesterséges intelligenciáról szóló jogszabályról. A szöveg hivatalos elfogadása és lefordítása folyamatban van. A mesterséges intelligenciáról szóló törvény 20 nappal a Hivatalos Lapban való kihirdetését követően lép hatályba, és két évvel később teljes mértékben alkalmazandó lesz, néhány kivétellel: a tilalmak hat hónap elteltével lépnek hatályba, az irányítási szabályok és az általános célú MI-modellekre vonatkozó kötelezettségek 12 hónap elteltével válnak alkalmazandóvá, a szabályozott termékekbe ágyazott MI-rendszerekre vonatkozó szabályokat pedig 36 hónap elteltével kell alkalmazni. Az új szabályozási keretre való áttérés megkönnyítése érdekében a Bizottság elindította a mesterséges intelligenciáról szóló paktumot,amely egy önkéntes kezdeményezés, amelynek célja a jövőbeli végrehajtás támogatása, és felkéri az európai és Európán kívüli mesterségesintelligencia-fejlesztőket, hogy időben tegyenek eleget a mesterséges intelligenciáról szóló jogszabály fő kötelezettségeinek.