Megfelelés

Olvasási idő: 5 perc

Az Európai Unió úttörő jelentőségű szabályozása, a mesterséges intelligenciáról szóló rendelet („MI Rendelet”) nem pusztán újabb adminisztratív kötelezettséget jelent a vállalkozások számára, hanem a világ első olyan átfogó jogi keretrendszere, amely a mesterséges intelligencia fejlesztése és használata kapcsán kifejezetten az alapvető jogok és az emberi méltóság védelmét helyezi a technológiai fejlődés mellé – sőt, adott esetben elé. Cikksorozatunk korábbi részében bemutattuk, hogy e cél érdekében az MI Rendelet az úgynevezett kockázatalapú megközelítést alkalmazza, vagyis nem magát a technológiát minősíti, hanem annak konkrét felhasználási módját vizsgálja, amelynek keretében a mesterséges intelligencia-rendszereket négy különböző kockázati kategóriába sorolja.

Cikksorozatunk harmadik részében gyakorlati példákon keresztül mutatjuk be azokat az MI megoldásokat, amelyek az alapvető jogokra és az uniós értékekre nézve elfogadhatatlan kockázatot hordoznak, ezért az MI Rendelet alapján tiltott MI-rendszernek minősülnek.

Általános szabályok

Elsőként fontos kiemelni, hogy a tiltott MI-rendszerekre vonatkozó rendelkezések azon szabályok közé tartoznak, amelyek 2025. február 2. napjától alkalmazandóvá váltak. Ennek megfelelően az EU-ban a tiltott MI-rendszerek forgalomba hozatala, üzembe helyezése és használata – néhány kivételtől eltekintve – egyaránt tilos.

Ennek megfelelően a tiltott MI-rendszerek fejlesztése és használata súlyos jogszabálysértésnek minősül, amely jelentős szankciókat vonhat maga után. A kiszabható bírság mértéke akár a vállalkozás globális éves árbevételének 7%-át vagy a 35 millió eurót is elérheti.

Tiltott MI-rendszerek listája

Az alábbiakban az MI Rendelet által meghatározott tilalmazott tárgyköröket mutatjuk be gyakorlati példákkal személteve:

Szubliminális, célzottan manipulatív vagy megtévesztő technikák

A tilalom kiterjed az úgynevezett szubliminális, azaz a tudatküszöb alatti vagy azt megkerülő ingerek alkalmazására is. Ezek lényege, hogy rejtett módon működnek, így megkerülik az érintett személy tudatos feldolgozási és racionális védekezési mechanizmusait. Ilyen megoldás lehet például, amikor egy MI-rendszer videólejátszás közben rendkívül rövid ideig megjelenő képi vagy szöveges elemeket illeszt be, amelyek formálisan érzékelhetők, azonban olyan rövid ideig láthatók, hogy tudatos észlelésre nem alkalmasak, miközben mégis képesek befolyásolni a felhasználó attitűdjeit vagy viselkedését.

Szintén a tiltott kategóriába tartoznak a célzottan manipulatív technikák, amelyek érzékszervi vagy pszichológiai eszközök alkalmazásával próbálják torzítani a döntéshozatalt. Ide sorolhatók azok a megoldások is, amikor egy rendszer háttérhangok vagy vizuális elemek tudatos használatával idéz elő érzelmi vagy hangulati változásokat, ezáltal befolyásolva a felhasználó döntéseit.

Hasonlóan tilalmazottak a megtévesztő technikák is, amelyek az egyén autonómiájának, szabad akaratának vagy döntési szabadságának oly módon történő korlátozására irányulnak, hogy az érintett nem ismeri fel a befolyásolás tényét, vagy nem képes annak hatásait megfelelően kontrollálni. Erre példa lehet egy MI-alapú csevegőrobot, amely szintetikus hang alkalmazásával egy másik személy – például családtag vagy barát – személyazonosságát utánozza, és ezzel megtévesztve a felhasználót jogtalan előnyhöz vagy károkozáshoz juttatja az alkalmazót.

Sebezhetőséget kihasználó MI rendszerek

Tilosak azok az MI-rendszerek, amelyek bizonyos személyek vagy csoportok – például életkorukból, fogyatékosságukból, illetve szociális vagy gazdasági helyzetükből eredő – sebezhetőségét kihasználva működnek, és ezáltal különösen alkalmassá válnak manipulatív vagy kizsákmányoló gyakorlatokra.

Ilyen lehet például egy MI-rendszer, amely idős embereket céloz meg megtévesztő, személyre szabott ajánlatokkal vagy csalási kísérletekkel, kihasználva esetleges csökkent kognitív képességeiket. A rendszer célja, hogy olyan döntések meghozatalára ösztönözze őket, amelyeket egyébként nem hoznának meg, és amelyek várhatóan jelentős pénzügyi kárt okoznak számukra.

Társadalmi pontozás

Szintén tiltott az úgynevezett társadalmi pontozás (social scoring) alkalmazása, vagyis amikor egy MI-rendszer az egyének megbízhatóságát társadalmi viselkedésük vagy személyes jellemzőik alapján értékeli, és ehhez hátrányos következményeket kapcsol.

Erre példa lehet, ha egy magán-hitelintézet MI-rendszert alkalmaz az ügyfelek hitelképességének meghatározására és annak eldöntésére, hogy az érintett jogosult-e lakáshitelre, olyan személyes jellemzők alapján, amelyek nem állnak közvetlen kapcsolatban a hitelképesség vizsgálatának céljával.

Egyéni kockázatértékelés és a bűncselekmények előrejelzése

Az MI Rendelet tiltja azokat az MI-rendszereket, amelyek kizárólag profilalkotás vagy személyiségjegyek, illetve egyéni tulajdonságok értékelése alapján próbálják megállapítani vagy előre jelezni, hogy egy természetes személy bűncselekményt követhet el.

Erre példa lehet, ha egy hatóság olyan rendszert alkalmaz, amely az egyének életkora, állampolgársága, lakcíme, gépjárművének típusa és családi állapota alapján próbál bűnözői magatartásra – például terrorizmus elkövetésére – következtetni vagy annak kockázatát előre jelezni.

Arcfelismerő adatbázis létrehozása

Az MI Rendelet tiltja az olyan MI-rendszereket, amelyek arcképek internetes forrásokból vagy zártláncú televíziós felvételekből történő, célzottan nem irányított gyűjtésével hoznak létre vagy bővítenek arcfelismerő adatbázisokat.

Tilos tehát például az a gyakorlat, amikor egy arcfelismerő szoftvereket fejlesztő vállalat automatizált eszközökkel közösségi médiafelületekről – például Facebookról, YouTube-ról vagy más platformokról – gyűjt arcképeket. Ilyenkor a rendszer az interneten elérhető képek között emberi arcokat keres, majd az így összegyűjtött felvételekből adatbázist épít vagy bővít.

Érzelemfelismerő rendszerek a munkahelyen, valamint iskolában

Az MI Rendelet tiltja, hogy az MI-rendszerek a munkahely és az oktatási intézmények területén természetes személyek érzelmeire következtessenek, kivéve, ha a rendszer használata orvosi vagy biztonsági okokból történik.

Ennek megfelelően például nem megengedett, hogy egy munkáltató olyan technológiát alkalmazzon, amely a munkavállalók arckifejezése, testtartása vagy hangja alapján következtet azok érzelmi állapotára, és az így nyert információkat teljesítményértékeléshez vagy HR-döntésekhez használja fel.

Személyek biometrikus kategorizálására használt rendszerek

Az MI Rendelet tiltja az olyan biometrikus kategorizálási rendszereket, amelyek természetes személyeket biometrikus adataik alapján egyénileg kategorizálnak, hogy ezáltal levezessék vagy kikövetkeztessék faji hovatartozásukat, politikai véleményüket, szakszervezeti tagságukat, vallási vagy világnézeti meggyőződésüket, szexuális életüket vagy szexuális irányultságukat.

Így például tilos alkalmazni egy olyan MI-rendszert, amely egy közösségimédia-platformon aktív személyeket a platformra feltöltött fotók biometrikus adatainak elemzésével a feltételezett politikai irányultságuk alapján kategorizálja, hogy célzott politikai üzeneteket küldjön nekik.

Valós idejű, távoli biometrikus azonosításra használt AI-rendszerek nyilvános helyeken bűnüldözési célból

Végezetül az MI Rendelet főszabály szerint tiltja a távoli biometrikus azonosító rendszerek bűnüldözési célú alkalmazását nyilvánosan hozzáférhető helyeken. Ezek a rendszerek az egyént annak aktív közreműködése nélkül, távolról azonosítják, úgy, hogy biometrikus adatait egy meglévő adatbázis adataival vetik össze. A valós idejű működés azt jelenti, hogy az összehasonlítás és az azonosítás a biometrikus adatok rögzítésével egyidejűleg vagy csak minimális késleltetéssel történik.

Ilyen rendszerre példa, amikor metróállomásokon vagyonvédelmi és biztonsági célból elhelyezett kamerákat olyan rendszerekkel kapcsolnak össze, amelyek valós időben képesek a gyanúsítottak azonosítására egy adatbázis alapján.

A tiltás oka elsősorban az, hogy az ilyen rendszerek technikai pontatlansága miatt téves vagy torz eredményeket adhatnak, ami akár diszkriminatív hatásokhoz is vezethet. Emellett a lakosság széles körének magánszféráját érinthetik, és az állandó megfigyelés érzetét kelthetik.

Ugyanakkor az MI Rendelet meghatározott kivételeket is rögzít, például eltűnt személyek felkutatása, emberrablás vagy emberkereskedelem áldozatainak azonosítása, illetve a szexuális kizsákmányolás esetei, amelyekben a valós idejű biometrikus azonosítás korlátozottan megengedett.

Összegzés

Az MI Rendelet kockázatalapú megközelítése világos és következetes keretrendszert teremt a mesterséges intelligencia alkalmazásának európai szabályozásában. Ennek lényege, hogy a jogalkotó nem magát a technológiát, hanem annak konkrét felhasználási módját és társadalmi hatásait értékeli. Ennek eredményeként egyrészt teljeskörűen tiltásra kerülnek azok az MI‑rendszerek, amelyek elfogadhatatlan kockázatot jelentenek az alapvető jogokra és az uniós értékekre.

Kép forrása: pexels.com, panumas nikhomkhai