Nyereség:
- Képes megérteni és megvalósítani azt a tényt, hogy a gyermek adatai különleges adatok, amelyeket a KVKK és a titoktartás keretein belül anonimizálni kell, és ehhez a család hozzájárulása szükséges.
- Képes a mesterséges intelligencia eszközök adatbiztonsági, tárolási és modellképzési felhasználási szempontú értékelésére és a biztonságos eszköz kiválasztására
- Képes fenntartani az etikai határokat, például a diagnosztikai tekintélyt, a megbélyegzést, a diszkriminációt és a gyermek mindenek felett álló érdekét a munkafolyamatban
A gyermek fejlődési dossziéja a gyermek legbensőségesebb információit tartalmazza: fejlődési előzményeket, családi helyzetet, szűrési eredményeket, megfigyeléseket és néha orvosi információkat. Ha ez az információ rossz kezekbe kerül, vagy visszaélnek vele, évekig árthat a gyermeknek: címke, megbélyegzés, diszkrimináció. Ezért a gyermekek adatainak védelme a gyermekfejlesztési szakember egyik legkomolyabb feladata; A mesterséges intelligencia korában ez a felelősség megsokszorozódik, mert az adatok beillesztése egy eszközbe másodpercekig tart, és nem vonható vissza. Ebben az egységben kitérünk a gyermekadatok jogi státuszára, a mesterséges intelligencia eszközök adatvédelmi szempontú értékelésére és az etikai határokra.
Először is a jogalap: Türkiye-ben a KVKK (személyes adatok védelméről szóló törvény) szabályozza a személyes adatok feldolgozását. A gyermek egészségi és fejlődési adatai a különleges személyes adatok kategóriába tartoznak; Ez a kategória a legmagasabb szintű védelem alá tartozik. Európában ennek megfelelője a GDPR. Gyermek esetében még nagyobb az érzékenység, mert a gyermek saját adataira nem tud érvényes hozzájárulást adni; A beleegyezés (informált kifejezett hozzájárulás) a törvényes képviselőtől, azaz a családtól származik. A „gyermek mindenek felett álló érdeke” elve érvényesül minden döntésnél.
Anonimizálás: a legalapvetőbb és leghatékonyabb lépés
A mesterséges intelligenciával végzett munka során a magánélet védelmét szolgáló legalapvetőbb, legpraktikusabb lépés az anonimizálás: minden személyazonosságot feltáró információ (név, vezetéknév, TR azonosítószám, születési idő, iskola/intézmény neve, cím, protokoll/aktaszám, családnevek) eltávolítása az adatokból, és csak a feladatához szükséges, azonosítatlan információk felhasználása. Az "Elif Kaya, 3 éves és 2 hónapos, Papatya Óvoda" helyett "3 éves és 2 hónapos kislány" írása elvégzi az adatszolgáltatást, de megőrzi a személyazonosságot.
Figyelmeztetés: az identitás újra előbukkanhat, ha több apró részlet összeér (ezt nevezik újraazonosításnak). Például az olyan adatok, mint „X falu egyetlen ikertestvére, az apja a főigazgató”, akkor is azonosítani tudják a személyt, ha nincs név. Ezért nemcsak törölni kell a nevet, hanem általánosítani is kell azokat a részleteket, amelyek egyedivé teszik.
Nyers (nem osztható meg)
Névtelen (megosztható)
Elif Kaya, TC 123..., szül.: 2022.03.12.
3 éves 2 hónapos kislány
Papatya Óvoda, 3-A osztály
óvodai intézmény
Anyja Ayşe, apja Mukhtar.
szülők
Ügyiratszám 2024/187
(eltávolítva)
Figyelem: A gyermek személyazonossági adatainak, teljes jelentésének vagy fényképének feltöltése nyilvánosan elérhető mesterséges intelligencia eszközre a KVKK és a magánélet megsértésének minősül, és nem vonható vissza. Az adatok egy külső szerverre kerülnek, és egyes eszközök modellképzésre is használhatják. Feltöltés előtt mindig anonimizálja.
Az eszköz kiválasztása és az adatok életciklusa
Nem minden AI-eszköz rendelkezik ugyanolyan szintű adatvédelemmel. Egy eszköz értékelésekor kérdezze meg: Használja-e a hatékonyságot a modell betanítása során? Hol tárolja az adatokat és mennyi ideig? Kínál-e adatkezelési szerződést (vállalati használatra)? Hol vannak a szervereik? Az adatokat nem használó vállalati, szerződéses és képzési eszközök biztonságosabbak, mint a nyilvánosan elérhető ingyenes eszközök. Azonban még a legbiztonságosabb eszközben sem ossza meg a felesleges hitelesítő adatokat – az anonimizálás az első védekezés minden körülmények között.
Fontolja meg az adatok életciklusát: adatgyűjtés (érvényesítés), feldolgozás (szükség szerint), tárolás (biztonságos, időzített), megosztás (csak engedélyezett, névtelen) és törlés (ha kész). Bármi, amit az AI-eszközökbe ragaszt, fennáll annak a veszélye, hogy kívül esik ezen a hurkon.
Tipp: Tegyen egy szigorú szabályt kedvenc felszólításai tetejére: „Nem osztok meg semmilyen információt, amely azonosítja a gyermeket vagy a családot ebben a beszélgetésben.” Ha ezt kontrollreflexsé teszi, akkor elkerülhető a leggyakoribb jogsértés (az azonosító figyelmen kívül hagyása).
Etikai határok: diagnózis, stigma, diszkrimináció
Az adatvédelem technikai kérdés, de az etika tágabb. Három határvonal kritikus. Diagnosztikai hatóság: gyermekfejlesztési szakember végez szűrést és fejlődésértékelést; A végleges diagnózis az illetékes orvos/klinikai csoport feladata. A mesterséges intelligencia nem ismeri ezt a határt; meg fogod védeni. Megbélyegzés: a gyermek korai és állandó címkével való megjelölése (az aktában, a családban, a saját fejében) igazságtalan a gyermekkel szemben, és negatívan befolyásolhatja fejlődését. Diszkrimináció és torzítás: A mesterséges intelligencia tükrözheti a képzési adatok torzítását; Elfogult eredményeket produkálhat egy adott kultúra, nem vagy társadalmi-gazdasági csoport tekintetében. A szakértőnek észre kell vennie ezeket és ki kell javítania. Mindezek felett a gyermek mindenek felett álló érdekének elve áll: minden döntés a gyermek javát szolgálja?
Négy másolható felszólítás
1) Anonimizálási felszólítás:
adok egy szöveget. Távolítson el minden olyan információt, amely felfedheti a gyermek vagy család kilétét (név, vezetéknév, TR azonosító, születési idő, iskola/intézmény, cím, ügyiratszám, egyedi adatok); helyettesítse általános kifejezéssel ([lány], [iskola előtti intézmény]). Nem csak a nevet általánosíthatja, hanem egyedi részleteket is, amelyek azonosíthatják a személyt. Sorolja fel, mit távolított el.Szöveg: [nyers]
2) A jármű adatvédelmi értékelése:
Adjon egy ellenőrzőlistát azokról az adatvédelmi kérdésekről, amelyeket fel kell tennem, hogy eldöntsem, használhatok-e mesterséges intelligencia eszközt a gyermekek adataival (az oktatásban, megőrzésben, szerződésben, szerver helyén, törlésben használt adatok). Ne találd ki a válaszokat; csak sorold fel a kérdéseket.
3) Etika/hatósági korlátok ellenőrzése:
Etikailag tekintse át a következő szöveget: (1) diagnosztizál-e/implik-e? (2) van-e megbélyegző címke? (3) vannak-e kulturális/nemi/társadalmi-gazdasági torzítások? Jelölje ki az egyes problémákat, és javasoljon egy javított, óvatos alternatívát. Szöveg: [piszkozat]
4) A család beleegyezésére vonatkozó szöveges prompt:
Készítsen egy rövid ÉRTESÍTÉS/BEJELENTÉS szöveget a családnak, amely egyszerűen elmagyarázza, hogyan fogom használni és védeni a gyermek adatait. Tartalmazza: mely adatokat, milyen célból, hogyan védik, kivel osztják meg, visszavonási jogot. Jogi tanácsadás; Vegye figyelembe, hogy ez tervezet, és az intézménynek jóvá kell hagynia.
három mini tok
1. eset – Az identitás feltöltésének megsértése. Egy zsúfolt napon egy szakember beilleszti a gyermek fejlődési jelentését a teljes névvel és azonosítóval együtt egy nyilvános eszközbe, és azt mondja, hogy „összefoglalja”. Az adatok elhagyták az intézményt, és a család beleegyezése nem történt meg. A helyes módszer az volt, hogy az adatokat anonimizáltuk az 1. prompttal, és csak névtelen információkat használtunk egy biztonságos eszközben. Ez a jogsértés egyszerre jogi és etikai probléma, és nem vonható vissza.
2. eset – Újraazonosítás. Egy szakértő törli a nevet, de meghagyja azt a részletet, hogy "egyetlen hármas a faluban, az apja imám". Ez a részlet név nélkül is azonosítja a gyermeket. A szakértő elmélyíti az anonimizálást, hogy általánosítson egyedi részleteket: „egy vidéki területen élő többterhes gyermek”. Az identitás most védett.
3. eset – Elfogultság-korrekció. A mesterséges intelligencia elfogult feltételezést hoz létre a tartalomban egy alacsony jövedelmű családról, például „a részvétel ezekben a családokban gyakran nem megfelelő”. A szakértő ezt a 3. felszólítással fogja meg; az állítást megalapozatlannak, megbélyegzőnek és diszkriminatívnak találja és eltávolítja. Olyan nyelven írja át a tartalmat, amely minden családot egyenlőnek és tiszteletben tart.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Ide beillesztem Elif teljes jelentését, értékeljem és ajánljak egy diagnózist.
Probléma: személyazonossági adatokat osztanak meg (KVKK-sértés), diagnózist kérnek (jogosultsági túllépés), nincs hozzájárulás, nem kérdőjelezik meg a biztonságos járművet.
Erőteljes felszólítás:
Szerkessze a következő ANONÍM fejlesztési összefoglalót (az azonosító adatok eltávolítva) az értékelési TERVEZEThez. A diagnózis felállítása; stigmatizáló címkék használata; Kerülje az elfogult feltételezéseket. Jelölje meg [értékeljen szakértőt], ahol nem biztos. Összegzés: [névtelen]
Gyakori hibák
- Hitelesítési adatok feltöltése: A leggyakoribb és legsúlyosabb jogsértés; mindig anonimizálni.
- Felületes anonimizálás: nem elég a név törlése; általánosítson egyedi részleteket is.
- Az eszközök adatvédelmének megkérdőjelezése: Kerülje azokat az eszközöket, amelyek az adatait oktatásra használják.
- A diagnosztikai határ átlépése: Az értékelés nem diagnózis; A hatáskör az orvost/csoportot illeti.
- Nem ismeri fel az elfogultságot: Javítsa ki a mesterséges intelligencia megbélyegző/diszkriminatív feltételezéseit.
Összefoglalva
A gyermekadatok különleges személyes adatok; A KVKK keretein belül a legmagasabb szintű védelmet igényli, a titoktartást és a család hozzájárulását. A mesterséges intelligencia használatakor a legerősebb védekezés az anonimizálás – ne csak a nevet általánosítsuk, hanem az egyedi részleteket is, amelyek azonosíthatják az egyént. Az adatvédelmi eszközök értékelése; Válassza a biztonságosat, amely nem használja az adatait az edzés során. Tartsa be az etikai határokat (diagnosztikai tekintély, megbélyegzés, diszkrimináció/elfogultság), és minden döntésnél vegye figyelembe a gyermek mindenek felett álló érdekét.
Pályázati feladat
Készítsen egy nem anonimizált (hiteles, saját nyilvántartásából származó) előrehaladási feljegyzést; Anélkül, hogy ez megjelenne a képernyőn, manuálisan anonimizálja az 1. prompt logikájával, és sorolja fel az összes kinyert információt. Értékelje a használt mesterséges intelligencia-eszközt az adatvédelem szempontjából a 2. prompt segítségével. Ellenőrizze az etikai/elfogultsági tervezetet a 3. felszólítással. Jegyezze fel legalább három javítást (egy anonimizálás, egy etikai, egy elfogultság).
ellenőrző lista
- [ ] anonimizáltam az adatokat; Egyedi részleteket is általánosítottam.
- [ ] Adatvédelem szempontjából értékeltem az általam használt eszközt; A biztonságosat választottam.
- [ ] Szükség esetén megkaptam a család beleegyezését.
- [ ] Fenntartottam a diagnosztikai jogosultság korlátját; Az értékelés-diagnózis megkülönböztetést alkalmaztam.
- [ ] Eltávolítottam a stigmatizáló címkéket és a megkülönböztető/elfogult kifejezéseket.
- [ ] Minden döntésemnél a gyermek érdekét vettem figyelembe.
- [ ] Nem töltöttem fel a hitelesítő adatokat egyetlen járműre sem.