Forrás: Wikimedia Commons, CC BY 2.0
Az EU AI Act: az első kötelező erejű AI-szabályozás
Az Európai Unió 2024-ben elfogadta az AI Act-et (2024/1689/EU rendelet), amely az első olyan átfogó, kötelező erejű jogszabály a világon, amely kifejezetten a mesterséges intelligencia rendszerek fejlesztésére, forgalmazására és alkalmazására vonatkozik. A rendelet kockázatalapú megközelítést alkalmaz: a különböző kockázati besorolások eltérő kötelezettségeket vonnak maguk után.
A rendelet négy kockázati kategóriát határoz meg: elfogadhatatlan kockázatú rendszerek (amelyek tiltottak), nagy kockázatú rendszerek (amelyek szigorú feltételek mellett működhetnek), korlátozott kockázatú rendszerek (átláthatossági kötelezettséggel), valamint minimális kockázatú rendszerek (amelyekre nincsenek különleges kötelezettségek).
Magyarország helyzete az EU AI-szabályozásban
Magyarország, mint az Európai Unió tagállama, közvetlenül alkalmazandónak tekinti az EU rendeleti szintű jogszabályait. Az AI Act implementációja nem igényel külön nemzeti átültetést, azonban a tagállamoknak ki kell jelölniük a felügyeleti hatóságokat és nemzeti koordinációs mechanizmusokat kell létrehozniuk.
A Nemzeti Adatvédelmi és Információszabadság Hatóság (NAIH) a GDPR-végrehajtás mellett az AI-rendszerek adatvédelmi aspektusait felügyeli. A NAIH 2023-ban kiadott egy tájékoztatót az AI-rendszerek adatvédelmi vonatkozásairól, amelyben hangsúlyozta a személyes adatokat feldolgozó AI-alkalmazások esetén szükséges adatvédelmi hatásvizsgálat fontosságát.
Az etikus AI-fejlesztés nem csupán jogi kötelezettség — az algoritmikus döntések társadalmi következményeiért való felelősségvállalás etikai kérdés is.
Az etikus AI hét alapelve az EU megközelítésében
Az Európai Bizottság AI-szakértői csoportja (High-Level Expert Group on AI) 2019-ben közzétette a megbízható AI irányelveit, amelyek hét alapelvet fogalmaztak meg:
- Emberi felügyelet és kontroll — az AI-rendszerek nem kerülhetik meg az emberi döntéshozatalt nagy tétű területeken.
- Technikai robusztusság és biztonság — a rendszereknek megbízhatóan és biztonságosan kell működniük.
- Adatvédelem és adatkezelés — a személyes adatok védelme az AI-fejlesztés szerves része.
- Átláthatóság — az érintetteknek meg kell érteniük, hogyan hoznak döntést az algoritmusok.
- Sokszínűség, diszkriminációmentesség és igazságosság — az algoritmikus torzítás megelőzése és kezelése.
- Társadalmi és környezeti jólét — az AI-fejlesztés tágabb társadalmi hatásainak figyelembevétele.
- Elszámoltathatóság — a felelősség egyértelmű elosztása a fejlesztők, üzemeltetők és hatóságok között.
Tiltott AI-alkalmazások az EU-ban
Az AI Act az elfogadhatatlan kockázatú rendszerek teljes tilalmát vezeti be. Tilos például a szubliminális manipuláción alapuló AI, a biometrikus kategorizálás szexuális irányultság vagy politikai nézetek alapján, a valós idejű biometrikus azonosítás nyilvános tereken (meghatározott kivételekkel), valamint az emberi viselkedést befolyásoló pontozási rendszerek ("social scoring") állami alkalmazása.
Nagy kockázatú területek a magyar gyakorlatban
Az AI Act kifejezetten nagy kockázatúnak minősíti az AI alkalmazásokat a következő területeken, amelyek a magyar közszolgáltatásban is relevánsak:
- Oktatás és szakképzés (pl. felvételi döntések automatizálása)
- Foglalkoztatás és munkaerő-gazdálkodás (önéletrajz-szűrő algoritmusok)
- Alapvető közszolgáltatások és szociális juttatások
- Bűnüldözés és igazságszolgáltatás
- Bevándorlás és határellenőrzés
- Kritikus infrastruktúra
Ezen területeken az AI Act kötelezővé teszi az emberi felügyeletet, az átláthatóságot, a kockázatkezelési rendszerek bevezetését és az Európai AI Hivatal általi megfelelőség-értékelést.
Az átláthatóság értelmezése az AI-rendszerekben
Az átláthatóság az AI-etika egyik leggyakrabban hivatkozott, de legkevésbé egységesen értelmezett fogalma. Az EU szabályozásában az átláthatóság konkrét tartalmat kap: a nagy kockázatú AI-rendszereknek magyarázatot kell tudniuk adni döntéseikről az érintetteknek. Ez a "magyarázhatóság" (explainability) technikai és jogi kihívást egyaránt jelent.
A nagy paraméteres neurális hálózatok esetén a döntési mechanizmus nem mindig rekonstruálható egyszerű logikai láncolatként. Az xAI (explainable AI) kutatási terület éppen erre a problémára keres megoldásokat — különböző technikákkal próbálva értelmezhetővé tenni a fekete dobozként működő modellek kimeneteit.
Következmények a fejlesztői közösség számára
Az AI Act 2025-től fokozatosan lép hatályba, eltérő határidőkkel az egyes rendelkezések vonatkozásában. A nagy kockázatú rendszerek fejlesztőinek:
- Kockázatkezelési rendszert kell kialakítaniuk és dokumentálniuk.
- Az adatkészletek minőségét és reprezentativitását ellenőrizniük kell.
- Technikai dokumentációt kell készíteniük és naprakészen tartaniuk.
- Automatikus naplózási funkciókat kell beépíteniük a rendszerekbe.
- Megfelelőségi nyilatkozatot kell kibocsátaniuk az EU-regisztrációhoz.
Összefoglalás
Az AI-etika jogi keretei az EU-ban konkrét kötelezettségekké váltak. A kockázatalapú megközelítés igyekszik egyensúlyt találni az innováció ösztönzése és az alapjogok védelme között. Magyarország az EU-tagságból adódóan közvetlenül érintett ezekben a folyamatokban — mind a jogalkalmazás, mind a felügyelet szintjén.
Hivatkozott forrás: EU AI Act (2024/1689/EU) — EUR-Lex