Nyereség:
- Az EU MI-törvényének négy kockázati osztályának és tiltott gyakorlatának elismerése
- Annak ésszerű értékelése, hogy egy felhasználás melyik kockázati kategóriába tartozik
- Tudja meg, hogy a magas kockázatú és általános célú mesterséges intelligencia-kötelezettségek miért érintik a török vállalatokat
A 2024-ben életbe lépő EU Mesterséges Intelligencia Törvény (EU AI Act) a világ első átfogó mesterségesintelligencia-szabályozása, és hatása messze túlmutat az Európai Unió határain. Ez a jogszabály közvetlenül kötelező érvényű lehet egy türkij székhelyű, de az EU piacát kiszolgáló, uniós ügyfelekkel rendelkező vagy az EU-ba termékeket értékesítő társaságra. Ebben a részben megismerheti a jog alapvető logikáját – kockázatalapú megközelítését – a négy osztályával, a tiltott gyakorlatokkal és a magas kockázatú kötelezettségekkel; Megpróbáljuk kiértékelni, hogy egy használat melyik dobozba esik.
Alapötlet: minél nagyobb a kockázat, annál szigorúbb a szabály
Az EU MI-törvénye nem foglalja össze az összes mesterséges intelligenciát. Négy kategóriába sorolja a mesterséges intelligencia rendszert a lehetséges ártalmak alapján, és az egyes kategóriákra eltérő kötelezettségeket ró. A zenei ajánlás nem hordozza azt a kockázatot, mint egy felvételi szűrési rendszer; A törvény nem ugyanazt a szabályt alkalmazza rájuk. Ez a kockázatalapú megközelítés képezi a jog gerincét.
Kockázati osztály
Jelentése
példa
szabályt
Tiltott (elfogadhatatlan)
Az alapvető jogok nyílt fenyegetése
Társadalmi pontozás, tudatalatti manipuláció
teljes tiltás
magas kockázatú
Súlyosan érinti az emberi életet
Toborzás, hitel, egészségügy, oktatás, kritikus infrastruktúra
Szigorú felelősség
korlátozott kockázat
Átláthatóságot igényel
Chat bot, mélyhamisítás, mesterséges intelligencia tartalom
A tájékoztatás kötelező
minimális kockázat
Jelentéktelen kockázat
Spamszűrő, játék AI, ajánlómotor
ingyenes
Tiltott alkalmazások: piros vonal
A mesterséges intelligencia egyes felhasználási módjai annyira károsak, hogy nem szabadulhatnak fel, bármennyire is csökken a kockázat. Ezek a tiltott (elfogadhatatlan kockázat) kategóriába tartoznak:
- Államilag támogatott társadalmi pontozás (az emberek viselkedése/jellemzői alapján történő pontozása és hátrányos helyzetbe hozása).
- Olyan rendszerek, amelyek manipulálják az emberek tudatalattiját és kárt okoznak.
- Olyan rendszerek, amelyek kihasználják az olyan sérülékenységeket, mint az életkor és a fogyatékosság.
- Bizonyos valós idejű biometrikus azonosítási és tömeges megfigyelési alkalmazások (szűk kivételekkel).
- Konkrét alkalmazások, például érzelmek felismerése a munkahelyen és az oktatásban.
Figyelem: Az a tény, hogy egy használat a "tiltott" kategóriába tartozik, nem akadály, amit a "jó okom van" kimondásával leküzdhető. Ezek a gyakorlatok teljes mértékben tilosak; kockázatcsökkentő intézkedésekkel sem szabadulhat fel. Elsőként azt kell ellenőrizni, hogy a projekt szerepel-e ezen a listán.
Magas kockázatú kötelezettségek
A magas kockázatú rendszerek nem tiltottak, de szigorú feltételekhez kötöttek. Tipikus magas kockázatú területek: toborzás és alkalmazottak menedzselése, hitel és biztosítás, oktatás és vizsgaértékelés, egészségügy, kritikus infrastruktúra, bűnüldözés és bevándorlás. Tipikus kötelezettségek ezekben a rendszerekben:
- Kockázatkezelési rendszer kialakítása és fenntartása.
- Adatminőség- és torzításkezelés (a képzési adatok reprezentatív és pontos).
- Műszaki dokumentáció és nyilvántartás (nyomonkövethetőség).
- Átláthatóság és a felhasználó tájékoztatása.
- Emberi kontroll (az emberi beavatkozási és felülbírálási képesség).
- Pontosság, robusztusság és kiberbiztonsági garanciák.
Általános célú mesterséges intelligencia (GPAI) kötelezettségei
A törvény sajátos átláthatósági és dokumentációs kötelezettségeket ír elő az általános célú mesterségesintelligencia-modellekre (GPAI), azaz a többcélú alapmodellekre, például a nagy nyelvi modellekre, valamint az egyéni felhasználásokra: összefoglalók a képzési adatokról, a szerzői jogok megfelelőségi szabályzata, a rendszerkockázatot jelentő modellek további értékelése. Ha egy szervezet beágyazza ezeket a modelleket a saját termékébe, akkor ezeknek a kötelezettségeknek egy része megjelenhet a láncban.
három mini tok
1. eset – Toborzási szűrés (nagy kockázat). Egy izmiri szoftvercég egy uniós vállalatokat kiszolgáló toborzási platformot fejleszt; A rendszer automatikusan pontozza és kizárja a jelölteket. Ez egy olyan terület, amelyet a törvény egyértelműen magas kockázatúnak ítél. Vállalat; meg kell felelnie az adatminőségi, torzítás-tesztelési, emberi auditálási és dokumentációs kötelezettségeknek. A „Törökországban vagyunk, nem köt bennünket” érv érvénytelen; Mivel a rendszert az EU piacán használják, a törvény az irányadó.
2. eset – Ügyfél chatbot (korlátozott kockázat). Egy e-kereskedelmi webhely csevegőbotot telepít az EU-beli ügyfelek kiszolgálására. Ez a korlátozott kockázati kategóriába tartozik; A fő kötelezettség az átláthatóság: a felhasználót egyértelműen tájékoztatni kell arról, hogy „mesterséges intelligenciával beszél”. Ennek elrejtése szabálysértés; Elég megadni.
3. eset – A tiltott vonal megközelítése. Egy kiskereskedelmi lánc szeretné elemezni a vásárlók érzelmi reakcióit az üzletek kameráin keresztül, és „potenciális bolti tolvajt” szeretne adni. Ez mind az érzelemfelismerés, mind a pontozási dimenziókkal a tiltott/nagyon kockázatos területre esik. A jogi csapat leállítja a projektet a tervezési szakaszban; Nyilvánvaló, hogy kockázatcsökkentő intézkedésekkel sem valósítható meg.
Tipp: Az első kérdés egy új mesterségesintelligencia-projekt indításakor az, hogy „mennyire hasznos ez?” hanem "ez melyik kockázati osztályba tartozik?" kell lennie. Az első helyen végzett besorolás elkerülheti az erőforrások pazarlását egy később törölt projektre.
Másolható sablonok
1. SABLON – Kockázati osztály előzetes értékelése: "Előértékelje a következő mesterséges intelligencia használatot az EU AI-törvénye szerint: [a felhasználás leírása]. Indoklással adja meg, hogy melyik kockázati osztályba (tiltott / magas / korlátozott / minimális) tartozhat. Jelölje meg azokat a pontokat, amelyekben nem biztos, hogy „jogi megerősítés szükséges”; ne hozzon végleges jogi ítéletet."
2. SABLON – Tiltott alkalmazások szkennelése: "A következő projektötletet csak az "EU AI-törvény tiltott alkalmazások" listájára olvassa be: [a projekt leírása]. Fennáll-e kockázat a társadalmi pontozás, a tudatalatti manipuláció, a sebezhetőség kihasználása, a jogosulatlan biometrikus megfigyelés, az érzelmek felismerése szempontjából? Írjon minden fejlécbe igen/nem és indokolást."
3. SABLON – Magas kockázatú felelősségi ellenőrzőlista: "Ennél a magas kockázatú mesterségesintelligencia-felhasználásnál a [használat leírása] létrehoz egy „mi a jelenlegi helyzetünk, mi hiányzik” táblázatot hat felelősségi címsoron (kockázatkezelés, adatminőség, dokumentáció, átláthatóság, emberi auditálás, robusztusság). Javasoljon konkrét intézkedést minden sorban."
4. SABLON – Átláthatósági értesítés (korlátozott kockázat): "Egy EU-s felhasználókat kiszolgáló chatbot esetén írjon egy rövid "Ön beszél a mesterséges intelligenciával" értesítést, amely megjelenik a felhasználó számára. Egyszerű, megnyugtató, legfeljebb 2 mondatos. Tartalmazza az emberi ügynökre váltás lehetőségét."
Gyenge felszólítás / Erős felszólítás
GYENGE: „Az EU MI-törvénye érint bennünket?”-> A modell általános választ ad; Nem minősíti konkrét felhasználását, nem értékeli az EU piachoz való kapcsolódását. GÜÇLÜ: "Izmiri székhelyű cég vagyunk, egy németországi cégnek adunk el munkaerő-toborzást és -szűrő AI-t. Milyen kockázati osztályba tartozik ez a felhasználás az EU AI-törvénye alá, milyen kötelezettségek hárulnak ránk, és miért nem mentesít bennünket az, hogy Törökországban tartózkodunk? Jelölje meg, ahol nem biztos." -> A modell kontextus-specifikus osztályozást és felelősséglistát állít elő.
Gyakori hibák
- „Törökországban vagyunk, az uniós jog nem köt bennünket” gondolkodás; Az EU piacának érintése azonban elegendő.
- Kockázati besorolás készítése a projekt kidolgozása után; Ezt azonban elsősorban meg kell tenni.
- A tiltott gyakorlatot „jó indoklással” leküzdhető akadálynak tekinteni.
- Az átláthatósági jelentések megkerülése korlátozott kockázatú rendszerekben (hogy a bot embernek tűnjön).
- Az emberi auditálás és az elfogultságkezelés figyelmen kívül hagyása a magas kockázatú kötelezettségek miatt.
- Figyelmen kívül hagyva, hogy az általános célú mesterséges intelligencia (GPAI) kötelezettségei visszaüthetnek a láncon.
- Az EU MI-törvényének felcserélése a KVKK-val; különböznek, de kiegészítik egymást.
Összefoglalva
- Az EU MI-törvénye kockázatalapú megközelítést alkalmaz, és a mesterséges intelligenciát négy osztályba sorolja: tiltott, magas, korlátozott, minimális.
- A tiltott gyakorlatokat (szociális pontozás, manipuláció stb.) a kockázat csökkentése esetén sem szabad elengedni.
- Magas kockázatú rendszerek; Szigorú kötelezettségek vonatkoznak rá, mint például a kockázatkezelés, az adatminőség, az emberi ellenőrzés és a dokumentáció.
- A korlátozott kockázatú rendszerekben a fő kötelezettség az átláthatóság (az MI létezésének bejelentése).
- Az uniós piacot érintő török cégeket is érinti a törvény; Az osztályozást a projekt legelején kell elvégezni.
Pályázati feladat
Vegye figyelembe a mesterséges intelligencia három különböző felhasználását, amelyeket szervezete (vagy egy fiktív vállalat) használhat az EU piacával kapcsolatban. Helyezze mindegyiket az EU MI-törvényének négy kockázati osztálya egyikébe, és írja meg az indoklást. Tegye fel a hat magas kockázatú kötelezettséget a legmagasabb kockázatúnak talált felhasználáshoz egy kontrolltáblázatba: töltse ki a „jelenlegi állapot” és a „befejezetlen/művelet” oszlopokat. Írjon átláthatósági nyilatkozatot, amely megjelenik a felhasználó számára a korlátozott kockázati kategóriába tartozó felhasználás esetén. Végül, ha valamelyik felhasználása megközelíti a tiltott vonalat, jegyezze meg ezt és miért.
ellenőrző lista
- [ ] A mesterséges intelligencia minden felhasználását a négy kockázati osztály valamelyikébe soroltam.
- [ ] A projektjeimet megvizsgáltam a tiltott alkalmazások listáján.
- [ ] Felelősségellenőrzési táblázatot készítettem a magas kockázatú használathoz.
- [ ] A humán auditálást és az elfogultságkezelést is belefoglaltam a kötelezettségek közé.
- [ ] Átláthatósági nyilatkozatot készítettem korlátozott kockázatú felhasználásra.
- [ ] Megértem, hogy az uniós piaci kapcsolatom miért váltotta ki a törvényt.
- [ ] A kockázati besorolást a projekt elején végeztem el, nem a végén.