zisky:
- Schopnost pochopit a implementovat skutečnost, že data dítěte jsou speciálními daty a že musí být anonymizována v rámci KVKK a důvěrnosti a vyžaduje souhlas rodiny.
- Schopnost vyhodnotit nástroje umělé inteligence z hlediska zabezpečení dat, ukládání a použití v modelovém tréninku a vybrat ten bezpečný
- Schopnost zachovat etické hranice, jako je diagnostická autorita, stigma, diskriminace a nejlepší zájem dítěte o pracovní postup
Vývojový soubor dítěte obsahuje nejintimnější informace tohoto dítěte: vývojovou historii, rodinnou situaci, výsledky screeningu, pozorování a někdy i lékařské informace. Když se tyto informace dostanou do nesprávných rukou nebo jsou zneužity, mohou dítěti uškodit na mnoho let: nálepka, stigma, diskriminace. Ochrana údajů o dětech je proto jednou z nejvážnějších povinností specialisty na vývoj dítěte; V době umělé inteligence se tato odpovědnost násobí, protože vložení dat do nástroje trvá vteřiny a nelze jej vrátit zpět. V této části se budeme zabývat právním postavením dětských dat, hodnocením nástrojů umělé inteligence z hlediska soukromí a etickými hranicemi.
Za prvé, právní základ: V Turecku upravuje KVKK (zákon o ochraně osobních údajů) zpracování osobních údajů. Údaje o zdraví a vývoji dítěte jsou v kategorii zvláštních osobních údajů; Tato kategorie podléhá nejvyššímu stupni ochrany. V Evropě je jeho ekvivalentem GDPR. V případě dítěte je citlivost ještě větší, protože dítě nemůže dát platný souhlas se svými vlastními údaji; Souhlas (informovaný výslovný souhlas) se získává od zákonného zástupce, tedy rodiny. V každém rozhodnutí převládá zásada „nejlepšího zájmu dítěte“.
Anonymizace: nejzákladnější a nejvýkonnější krok
Nejzákladnějším a nejpraktičtějším krokem, který chrání soukromí při práci s umělou inteligencí, je anonymizace: odstranění všech informací prozrazujících identitu (jméno, příjmení, TR ID, datum narození, název školy/instituce, adresa, protokol/číslo spisu, příjmení) z dat a použití pouze neidentifikovatelných informací nezbytných pro váš úkol. Napsání „3 roky a 2 měsíce stará holčička“ místo „Elif Kaya, 3 roky a 2 měsíce, Papatya Kindergarten“ provede práci s daty, ale zachová identitu.
Upozornění: identita se může znovu objevit, když se spojí více malých detailů (toto se nazývá reidentifikace). Například podrobnosti jako „Jediné dvojče ve vesnici X, jeho otec je ředitel“ mohou identifikovat osobu, i když není uvedeno žádné jméno. Proto je nutné nejen smazat jméno, ale také zobecnit detaily, které jej činí jedinečným.
Raw (nelze sdílet)
Anonymní (lze sdílet)
Elif Kaya, TC 123..., narozena 12.03.2022.
3 roky 2 měsíce stará holčička
Mateřská škola Papatya, 3. A třída
předškolní zařízení
Jeho matka je Ayşe a jeho otec je Mukhtar.
rodiče
Spisová značka 2024/187
(odstraněno)
Upozornění: Nahrání informací o identitě dítěte, úplné zprávy nebo fotografie do veřejně dostupného nástroje umělé inteligence je porušením KVKK a soukromí a nelze jej stáhnout. Data jdou na externí server a některé nástroje je mohou použít pro trénování modelu. Před nahráním vždy anonymizujte.
Výběr nástroje a životní cyklus dat
Ne každý nástroj AI má stejnou úroveň soukromí. Při hodnocení nástroje se zeptejte: Využívá efektivitu při trénování modelu? Kde ukládá data a jak dlouho? Nabízí smlouvu o zpracování údajů (pro firemní použití)? Kde jsou jejich servery? Firemní, smluvní a školicí nástroje, které nepoužívají vaše data, jsou bezpečnější než veřejně dostupné bezplatné nástroje. Ani v nejbezpečnějším nástroji však nesdílejte zbytečné přihlašovací údaje – anonymizace je za všech okolností první obranou.
Zvažte životní cyklus dat: shromažďovat data (ověřovat), zpracovávat (podle potřeby), ukládat (zabezpečeně, načasovat), sdílet (pouze autorizované, anonymní) a mazat (po dokončení). Vše, co vložíte do nástrojů umělé inteligence, riskuje, že spadne mimo tuto smyčku.
Tip: Na začátek svých oblíbených výzev vložte pevné pravidlo: „V této konverzaci nebudu sdílet žádné informace, které identifikují dítě nebo rodinu.“ Tím, že se to stane kontrolním reflexem, se zabrání nejběžnějšímu porušení (absentující vložení ID).
Etické hranice: diagnóza, stigma, diskriminace
Soukromí je technický problém, ale etika je širší. Rozhodující jsou tři hranice. Diagnostická autorita: specialista na vývoj dítěte provádí screening a hodnocení vývoje; Definitivní diagnóza je úkolem příslušného lékaře/klinického týmu. Umělá inteligence tuto hranici nezná; budete chránit. Stigma: Označení dítěte ranou a trvalou nálepkou (v kartotéce, v rodině, ve vlastní mysli) je vůči dítěti nespravedlivé a může negativně ovlivnit jeho vývoj. Diskriminace a zkreslení: AI může odrážet zkreslení v tréninkových datech; Může vést k zkresleným výsledkům, pokud jde o konkrétní kulturu, pohlaví nebo socioekonomickou skupinu. Odborník by si jich měl všimnout a opravit je. Nad tím vším stojí zásada nejlepšího zájmu dítěte: je každé rozhodnutí pro dobro dítěte?
Čtyři kopírovatelné výzvy
1) Výzva k anonymizaci:
Dám vám text. Odstraňte veškeré informace, které by mohly odhalit identitu dítěte nebo rodiny (jméno, příjmení, TR ID, datum narození, škola/instituce, adresa, číslo spisu, jedinečné údaje); nahradit obecným výrazem([dívka], [předškolní zařízení]). Zobecněte nejen jméno, ale také jedinečné detaily, které mohou osobu identifikovat. Uveďte, co jste odstranili. Text: [raw]
2) Výzva k vyhodnocení soukromí vozidla:
Dejte mi kontrolní seznam otázek týkajících se ochrany osobních údajů, které bych měl položit, abych se rozhodl, zda mohu používat nástroj AI s údaji dítěte (jedná se o údaje používané při vzdělávání, uchovávání, smlouvě, umístění serveru, mazání). Nevymýšlejte si odpovědi; stačí uvést otázky.
3) Výzva pro kontrolu etiky/limitu autority:
Eticky si prostudujte následující text: (1) určuje/naznačuje diagnózu? (2) existuje stigmatizující označení? (3) Existují kulturní/genderové/socioekonomické předsudky? Zvýrazněte každý problém a navrhněte opravenou, opatrnou alternativu.Text: [návrh]
4) Textová výzva s informacemi o souhlasu rodiny:
Navrhněte rodině krátký text OZNÁMENÍ/SOUHLAS, který jednoduše vysvětlí, jak budu používat a chránit data dítěte. Zahrnuje: které údaje, za jakým účelem, jak jsou chráněny, s kým jsou sdíleny, právo na odstoupení od smlouvy. Poskytování právního poradenství; Upozorňujeme, že se jedná o návrh a musí být schválen institucí.
tři mini pouzdra
Případ 1 – Porušení nahrávání identity. V rušném dni specialista vloží zprávu o vývoji dítěte, doplněnou celým jménem a ID, do veřejného nástroje a řekne „shrnout“. Údaje opustily ústav a souhlas rodiny nebyl získán. Správným způsobem bylo anonymizovat data pomocí 1. výzvy a používat pouze anonymní informace v zabezpečeném nástroji. Toto porušení je právní i etický problém a nelze jej vrátit zpět.
Případ 2 – Opětovná identifikace. Expert jméno vymaže, ale ponechá detail „jediné trojče ve vesnici, jeho otec je imám“. Tento detail identifikuje dítě i bez jména. Expert prohlubuje anonymizaci, aby zobecnil jedinečné detaily: „dítě vícečetného těhotenství žijící na venkově“. Identita je nyní chráněna.
Případ 3 – Korekce zkreslení. Umělá inteligence vytváří zaujatý předpoklad implicitně obsažený v obsahu o rodině s nízkými příjmy, jako například „zapojení je v těchto rodinách často nedostatečné“. Expert to zachytí 3. výzvou; považuje výrok za nepodložený, stigmatizující a diskriminační a odstraňuje jej. Přepisuje obsah do jazyka, který považuje každou rodinu za rovnocennou a respektovanou.
Slabá výzva / Silná výzva
Slabá výzva:
Vkládám sem celou Elifinu zprávu, vyhodnoťte a doporučím diagnózu.
Problém: informace o identitě jsou sdíleny (porušení KVKK), je vyžadována diagnostika (překročení autorizace), není souhlas, bezpečné vozidlo není zpochybňováno.
Výkonná výzva:
Upravte následující ANONYMNÍ shrnutí vývoje (odstraněny identifikační údaje) pro NÁVRH hodnocení. Stanovení diagnózy; používání stigmatizujících štítků; Vyhněte se neobjektivním předpokladům. Označte [nechte posoudit odborníkem] tam, kde si nejste jisti. Shrnutí: [anonym]
Časté chyby
- Nahrávání přihlašovacích údajů: Nejběžnější a nejzávažnější porušení; vždy anonymizovat.
- Povrchní anonymizace: Pouhé smazání jména nestačí; zobecnit také jedinečné detaily.
- Nezpochybňujte soukromí nástroje: Vyhněte se nástrojům, které používají vaše data pro vzdělávání.
- Překročení diagnostické hranice: Hodnocení není diagnóza; Autoritu má lékař/tým.
- Nerozpoznání zkreslení: Opravte stigmatizující/diskriminační předpoklady AI.
V souhrnu
Údaje o dítěti jsou zvláštní osobní údaje; Vyžaduje nejvyšší ochranu v rámci KVKK a mlčenlivost a souhlas se získává od rodiny. Nejsilnější obranou při práci s umělou inteligencí je anonymizace – zobecněte nejen jméno, ale také jedinečné detaily, které mohou jednotlivce identifikovat. Vyhodnotit nástroje pro ochranu soukromí; Vyberte si ten bezpečný, který nepoužívá vaše data při školení. Udržujte etické hranice (diagnostická autorita, stigma, diskriminace/předpojatost) a při každém rozhodnutí zohledněte nejlepší zájmy dítěte.
Aplikační úkol
Vezměte si neanonymní (autentickou, z vašich vlastních záznamů) poznámku o pokroku; Aniž by se to projevilo na obrazovce, anonymizujte jej ručně pomocí logiky 1. výzvy a uveďte všechny informace, které jste extrahovali. Vyhodnoťte nástroj AI, který používáte, z hlediska ochrany soukromí pomocí 2. výzvy. Zkontrolujte návrh z hlediska etiky/předpojatosti s výzvou 3. Poznamenejte si alespoň tři opravy, které jste provedli (jedna anonymizace, jedna etika, jedna zaujatost).
kontrolní seznam
- [ ] Údaje jsem anonymizoval; Také jsem zobecnil jedinečné detaily.
- [ ] Vyhodnotil jsem nástroj, který jsem použil, z hlediska ochrany soukromí; Vybral jsem si ten bezpečný.
- [ ] V případě potřeby jsem získal souhlas rodiny.
- [ ] Udržel jsem limit diagnostického oprávnění; Aplikoval jsem rozlišení hodnocení a diagnózy.
- [ ] Odstranil jsem stigmatizující značky a diskriminační/objektivní výrazy.
- [ ] Při každém rozhodování jsem zohledňoval nejlepší zájem dítěte.
- [ ] Nenahrál jsem přihlašovací údaje do žádného vozidla.