Nyereség:
- Ismerje az EU AI törvény kockázatalapú logikáját (elfogadhatatlan, magas, korlátozott, minimális) és a magas kockázatú rendszerek kötelezettségeit
- Személyes adatok feldolgozásának, célhoz kötöttségének, nyilvánosságra hozatalának és nemzetközi átviteli kockázatainak észlelése a KVKK szempontjából a mesterséges intelligencia használatában
- Képes előre értékelni a mesterséges intelligencia teljesítményét anélkül, hogy végleges jogi tanácsnak tekintené, valamint személyes adatok és jogi támogatás bevonása a magas kockázatú kezdeményezésekbe.
Az etika azt írja le, hogy „mi a helyes”; A megfelelés ezzel szemben azt írja le, hogy mit „követel meg a törvény”, és amelynek megsértése szankciókhoz, perekhez és jó hírnév elvesztéséhez vezet. A vezető tisztségviselők számára a megfelelés személyes jogi felelősség kérdése; A „nem tudtam” nem védekezés. Ebben az egységben a mesterséges intelligenciára vonatkozó két legkritikusabb szabályozásról lesz szó: az EU mesterséges intelligenciáról szóló törvényéről (EU AI törvény; az Európai Unió átfogó, a mesterséges intelligenciát kockázati szintje szerint szabályozó törvénye) és a KVKK-ról (személyes adatok védelméről szóló törvény; a Türkiye személyes adatvédelmi törvénye hasonló a GDPR-hoz Európában). A cél nem az, hogy ügyvéd legyen; Tudni kell, mikor kell megállni és jogi támogatást kérni, és elkerülni a vak kockázatokat.
Az EU MI-törvényének indoklása: kockázatalapú
Az EU MI-törvénye a mesterséges intelligencia rendszereit négy kategóriába sorolja a kockázati szint szerint, és minden kategóriára eltérő kötelezettségeket ír elő. Bár közvetlenül nem hajtják végre Türkiye-ben; Kötelezi azokat az intézményeket, amelyek termékeket/szolgáltatásokat az EU-ba értékesítenek, EU-s ügyfeleik vannak, vagy uniós felhasználók adatait dolgozzák fel, és világszabványsá válik.
Kockázati szint
példa
felelősség
elfogadhatatlan
Társadalmi pontozás, manipulatív rendszerek
tilos
magas kockázatú
Toborzás, hitel, egészségügy, kritikus infrastruktúra
Szigorú: kockázatkezelés, adatminőség, emberi felügyelet, rögzítés, átláthatóság
korlátozott kockázat
Chatbot, produktív tartalom
Átláthatóság: a felhasználó értesítése arról, hogy mesterséges intelligencia
minimális kockázat
Spam szűrő, játék
Ingyenes, önkéntes jó gyakorlat
Fontos kifejezés: a magas kockázatú rendszer a mesterséges intelligencia olyan alkalmazása, amely közvetlenül érintheti az emberek alapvető jogait, biztonságát vagy életlehetőségeit (munka, hitel, oktatás, egészségügy). Ezekre a rendszerekre a törvény az; Előírja a kockázatértékelést, a minőségi és elfogulatlan adatokat, az emberi felügyeletet, a műszaki dokumentációt, a nyilvántartást és az átláthatóságot.
Tipp: Egy mesterséges intelligencia-kezdeményezés értékelésekor tedd fel magadnak a kérdést: „Részt vesz-e ez a rendszer egy olyan döntésben, amely hatással van egy személy munkájára, pénzére, egészségére vagy szabadságára?” Ha a válasz igen, akkor valószínűleg nagy a kockázata, és különleges gondosságot igényel jogi támogatással.
A KVKK alapvető kötelezettségei
A KVKK szabályozza a személyes adatok (minden olyan információ, amely egy személyt konkrét vagy azonosíthatóvá tesz: név, TR azonosító, e-mail, tartózkodási hely, akár viselkedési adatok) feldolgozását. Kritikus pontok a mesterséges intelligencia szempontjából:
- Jogalap: A személyes adatok feldolgozásához érvényes ok (kifejezett hozzájárulás, szerződés, jogos érdek stb.) szükséges.
- Célhoz kötöttség: Az adatok nem használhatók fel a gyűjtésük céljától eltérő célra. A célból gyűjtött adatok mesterséges intelligencia képzésbe való beépítése további támogatást igényelhet.
- Adatminimalizálás: Csak annyi adat kerül feldolgozásra, amennyi szükséges.
- Nyilvánosságra hozatal: Az érintettet tájékoztatni kell az adatai kezelésének módjáról.
- Átadás: Az adatok külföldre történő továbbítása (például tengerentúli mesterséges intelligencia-szolgáltatóhoz) speciális szabályok hatálya alá tartozik.
- Automatikus döntés: Tiszteletben kell tartani a személyt érintő teljesen automatikus döntések ellen tiltakozás jogát.
Az ügyfelek adatainak mesterséges intelligencia-eszközbe történő beillesztése gyakran „adatátvitel külföldre” és „nem szándékos feldolgozás”; Ez a leggyakoribb és legveszélyesebb szabálysértés.
Lépésről lépésre: illeszkedés ellenőrzése
1. Határozza meg a kockázati szintet. Mi az elfogadhatatlan/magas/korlátozott/minimális kockázatú rendszer?
2. Ellenőrizze, hogy vannak-e személyes adatok. Milyen személyes adatok hova kerülnek, milyen alapon?
3. Kötelezettségek teljesítése. Sorolja fel a jogi követelményeket a kockázati szint és az adatok állapota alapján.
4. Kérjen jogi támogatást. Vonja be a törvényt minden olyan kezdeményezésbe, amely nagy kockázatot jelent vagy személyes adatokat tartalmaz.
5. Dokumentálni és monitorozni. Rögzítse a megfelelőségi döntéseket, közzétételeket és ellenőrzéseket.
három mini tok
1. eset – Csendes átutalás külföldre. Egy kiskereskedő adatokat küldött egy tengerentúli mesterséges intelligencia-eszköznek, hogy elemezze az ügyfelek panaszait. A pontosító szöveg erre nem tért ki, áthelyezésnek nem volt alapja. A KVKK tekintetében szabálysértés történt; Az ellenőrzés során fennállt a közigazgatási bírság veszélye. Az intézmény áttért a hazai adatokat feldolgozó megoldásra és korszerűsítette a világítást.
2. eset – A magas kockázatú rendszer szigora. Egy humánerőforrás-technológiai cég toborzószoftvert adott el az AB-nek. Ezt az EU MI-törvénye "nagy kockázatúnak" minősítette. A cég zökkenőmentesen lépett piacra, mert előre elkészítette a kockázatkezelést, az adatminőségi bizonyítékokat, a humán felügyeletet és a dokumentációt. Egy felkészületlen versenyző bejutása késett, mert nem tudta teljesíteni ugyanazokat a kötelezettségeket. A harmónia versenyelőnnyé vált.
3. eset – A világítás ereje. Egy biztosítótársaság egyértelműen felvilágosította az ügyfeleket a mesterséges intelligenciával történő árazáskor, és megnyitotta az utat a teljesen automatizált döntések elleni kifogások előtt. Egy ügyfél tiltakozott, emberi ellenőrzést végzett, és az adathibát kijavították. Az átláthatóság és a fellebbezés nemcsak megfelelt a jogszabályi követelményeknek, hanem valódi hibát is észlelt.
Négy másolható sablon
1) Kockázatbesorolás előzetes ellenőrzése:
Az Ön szerepköre: AI megfelelőségi tanácsadó (előzetes értékelés, nem jogi tanácsadás). Osztályozza a következő rendszert az EU AI törvény kockázati szintjei szerint: elfogadhatatlan, magas, korlátozott, minimális. Írja le az indoklást és azt, hogy milyen fő kötelezettségek merülnek fel; Közölje, hogy a végső döntéshez jogi támogatásra van szükség. Rendszer: [szöveg]
2) Személyes adatfolyam térkép:
A mesterséges intelligencia ezen felhasználása során térképezze fel, hogy mely személyes adatokat kezeli, milyen célból gyűjti, és hová továbbítja (különösen külföldre). Jelölje meg a KVKK szempontjából kockázatos pontokat, és jelezze, mely kérdések igényelnek jogi támogatást. Használat: [szöveg]
3) Világítás és kifogásvezérlés:
Ellenőrizze a KVKK egyértelműsítési és automatikus döntési kifogásolási követelményeit az ügyfelekkel szembeni mesterséges intelligenciára vonatkozóan: miről kell tájékoztatni a felhasználót, hogyan kell feldolgozni a kifogást? Sorolja fel a hiányosságokat. Használat: [szöveg]
4) Megfelelőségi készenléti ellenőrzőlista:
Készítsen egy EU MI-törvénynek való megfelelési készenléti ellenőrzőlistát a következő magas kockázatú mesterséges intelligencia kezdeményezéshez: kockázatkezelés, adatminőség, emberi felügyelet, dokumentáció, regisztráció, átláthatóság. Minden tételhez írjon egy kérdést, amelyet "kész/nem teljes"-re tudok értékelni. Kezdeményezés: [szöveg]
Gyenge felszólítás / Erős felszólítás
Gyenge: "Ez az AI legális?"
Eredmény: Felületes, megbízhatatlan válasz; A mesterséges intelligencia nem tud, és nem is kell, hogy végleges jogi tanácsot adjon.
Güçlü: "Egy EU-ban vásárlóknak értékesített toborzási előszűrési eszközt értékelek. Az EU mesterséges intelligencia törvény kockázati szintjei szerint előzetesen osztályozza, és sorolja fel, hogy milyen kötelezettségek merülnek fel (kockázatkezelés, adatminőség, emberi felügyelet, dokumentáció), ha valószínűsíthetően magas kockázatúnak ítélik. A K- szempontjából is fel kell tennem azokat a kérdéseket, amelyeket fel kell tennem, hogy az államnak milyen adatait, illetve a jelöltek előzetes értékelését dolgozzák fel. törvény szükséges a jogerős döntéshez."
Eredmény: Strukturált előzetes értékelés és felkészülés a jogi támogatásra; nem vak "legális/nem" záradék.
Gyakori hibák
- Végleges jogi tanácsot várunk az AI-tól. A mesterséges intelligencia előzetes értékelést végez; A végső jogi döntés az ügyvédé.
- A külföldre történő adatátvitel figyelmen kívül hagyása. Az ügyféladatok külső mesterséges intelligencia eszközbe történő bevitele gyakran szabálysértést jelent.
- A magas kockázatú rendszer alábecsülése. Az üzleti, hitelezési és egészségügyi döntésekben érintett rendszerek különös gondosságot igényelnek.
- A tájékoztatáshoz és a kifogáshoz való jog megkerülése. Az átláthatóság és a fellebbezés az egyéneket érintő automatizált döntések jogi követelményei.
- Azt gondolni, hogy a harmónia egyszeri dolog. Jogszabályok és rendszerek változása; A megfelelést folyamatosan ellenőrizni kell.
Figyelem: Az ebben az egységben található információk általános tájékoztatást szolgálnak, és nem jogi tanácsadás. A mesterséges intelligencia kibocsátása szintén nem jogi tanács. Minden személyes adatot feldolgozó vagy nagy kockázattal járó kezdeményezés esetén döntés előtt kötelező szakképzett jogi szakértővel konzultálni. A szabálysértések költségei exponenciálisan nőnek pénzbírságok, perek és a hírnév elvesztése formájában.
Összefoglalva
A megfelelés a törvény által megkövetelt minimum, ennek megsértése a vezető jogi felelősségét vonja maga után. Az EU MI-törvénye a mesterséges intelligencia kockázati szintje szerint szabályozza (elfogadhatatlan, magas, korlátozott, minimális); A kockázatkezelés, az adatminőség, az emberi felügyelet és az átláthatóság elengedhetetlen a magas kockázatú rendszerek számára. A KVKK viszont megköveteli, hogy a személyes adatok megfeleljenek a jogalapnak, a célhatárnak, a minimalizálásnak, a nyilvánosságra hozatalnak és a nemzetközi továbbítási szabályoknak; Az ügyféladatok külső mesterséges intelligencia eszközbe történő bevitele a leggyakoribb jogsértés. A mesterséges intelligencia csak előzetes értékeléseket végezhet; A végleges jogi döntéshez szakértői támogatást kell kérni. A következő részben azt a csapat- és kompetenciastruktúrát tárgyaljuk, amely ezt a teljes stratégiát megvalósítja.
Pályázati feladat
Válasszon egy AI használati esetet. 1. Az EU AI törvény kockázati szintjének előzetes besorolása sablonnal. 2. Térképezze fel a személyes adatok áramlását a sablonnal, és állapítsa meg, van-e nemzetközi adattovábbítás. Írja le a felmerülő két legkritikusabb megfelelési kérdést, és jegyezze fel, melyik jogi forráshoz/szakértőhöz irányítaná őket. Ne hozzon végleges jogi határozatokat; csak tisztázza a kérdéseket.
ellenőrző lista
- [ ] A rendszer EU AI törvény kockázati szintjét előre besoroltam.
- [ ] Ha magas kockázatú, akkor felsoroltam a vonatkozó kötelezettségeket.
- [ ] Feltérképeztem a kezelt személyes adatokat és azok alapját.
- [ ] Megnéztem, hogy van-e adatátvitel külföldre.
- [ ] Áttekintettem a tájékoztatás és a kifogásolás követelményét.
- [ ] Kritikus megfelelőségi kérdéseket készítettem jogi támogatás céljából.
- [ ] Az AI-kimenetet nem tekintettem végleges jogi tanácsnak.