zisky:
- Pochopení, že údaje o studentech jsou osobní a často soukromé údaje, a pravidla anonymizace a uchovávání v rámci KVKK a profesního tajemství
- Schopnost procvičit deidentifikaci a volbu bezpečného/institucionálního nástroje při zadávání dat do veřejně dostupných nástrojů umělé inteligence
- Pochopení, že souhlas se sdílením dat, minimalizace dat a dodržování školních zásad jsou odpovědností učitele.
Učitel má v průběhu své práce přístup k velmi citlivým informacím: známkam, záznamům chování, zdravotnímu stavu, informacím o rodině, poradenským rozhovorům, socioekonomickým údajům. Tyto informace patří do nejsoukromější oblasti studenta a když se dostanou do nesprávných rukou, mohou způsobit celoživotní újmu. Většina nástrojů umělé inteligence je založena na cloudu – to znamená, že text, který zadáváte, se zpracovává na serverech vzdálené společnosti, nikoli ve vašem počítači, a v některých nástrojích jej lze použít k vývoji modelu. Zapsat informace o studentovi do veřejné umělé inteligence tedy znamená vymknout se vaší kontrole. Tato jednotka vytváří nejkritičtější úroveň zabezpečení při používání umělé inteligence ve výuce. Pravidlo je jasné: Nejprve anonymizujte data studentů, používejte pokud možno bezpečné/institucionální nástroje; Zodpovědnost je na učiteli.
Jaká data jsou chráněna? Rámec KVKK
Osobní údaje jsou jakékoli informace, které činí osobu specifickou nebo identifikovatelnou: jméno-příjmení, číslo školy, občanský průkaz, fotografie nebo dokonce nepřímé popisy jako „nejvyšší student 3-A“ v jednom kontextu. Zvláštní (citlivé) osobní údaje jsou přísněji chráněny: zdraví, etnická příslušnost, náboženství, odsouzení za trestný čin, biometrické údaje, členství ve sdružení/odborech. Do této kategorie patří zdravotní zpráva studenta, diagnóza poruchy učení nebo rodinné trauma.
KVKK (zákon o ochraně osobních údajů) vyžaduje, aby byly osobní údaje zpracovávány zákonně, pro konkrétní účel, měřeným a bezpečným způsobem. Praktické důsledky pro učitele: používejte data pouze podle potřeby (minimalizace dat), nezneužívejte data, udržujte je v bezpečí, nesdílejte je s třetími stranami (včetně veřejné AI) bez povolení. Je zde také povinnost zachovávat profesní mlčenlivost: učitel nesmí sdělovat informace, které se o žákovi a jeho rodině dozví.
Upozornění: Za předpokladu, že „společnost to stejně nečte“, není bezpečné. Některé bezplatné nástroje umělé inteligence mohou ukládat/používat vstupy při školení. Jakmile jsou data pryč, nelze je načíst. Nejbezpečnější je data nikdy nevytahovat.
Anonymizace: dělat z toho reflex
Anonymizace znamená odstranění všech prvků identifikujících osobu z dat a jejich nevratné zobecnění. V praxi:
- Jméno-příjmení → "Student A", "student"
- Číslo školy, TR ID, třída-pobočka → úplně odstranit
- Jméno rodiče, telefon, adresa → odstranit
- Vzácné/popisné detaily → zobecnit (fráze jako „jeden student, který používá invalidní vozík“ osobu prozradí; řekněme „jeden student“)
- Název školy/instituce → odejděte nebo řekněte „naše škola“
Než dáte text AI, předpokládejte, že ho bude číst cizí osoba: lze z tohoto textu pochopit, o jaké dítě se jedná? Pokud je to jasné, zobecňujte dále.
Bezpečný výběr vozidla
Ne všechny nástroje AI jsou stejné. Nejbezpečnější jsou firemní nástroje, které poskytuje vaše škola/instituce, má smlouvu o zpracování dat (DPA) a nevyužívá vstupy ve vzdělávání. S bezplatnými, veřejně dostupnými nástroji by předpoklad měl být nejhorším možným scénářem. Při výběru nástroje se zeptejte: Jsou mé vstupy uloženy? Používá se ve výchově? Kde se údaje zpracovávají? Schvaluje školní politika tento nástroj? Pokud si nejste jisti, nepoužívejte data bez jejich anonymizace.
Krok za krokem: soukromě zabezpečený pracovní postup
- Vyhledejte osobní údaje. Jméno, číslo, instituce, citlivá situace.
- Anonymizovat. Nahraďte obecnými výrazy; odstranit identifikační údaje.
- Použít minimalizaci dat. Nepřidávejte žádné informace, které úkol nevyžaduje.
- Vyberte vozidlo. Pokud je to možné, institucionální; Pokud ne, předpokládejte nejhorší možný scénář.
- Použijte to. Pracujte pouze s anonymním textem.
- Zkontrolujte také výstup. Umělá inteligence může odrážet informace, které jí poskytnete; Na výstupu by nemělo docházet k úniku identity.
tři mini pouzdra
Případ 1 – zachycení na poslední chvíli. Poradce napsal AI, aby konzultoval rodinný problém studenta; Text obsahoval jméno, třídu a „jeho matka je v nemocnici“. Všiml si, aniž by to poslal, vše zobecnil jako "13letý student, zdravotní problém v jeho rodině." Návrhy obecného přístupu, které obdržel, fungovaly; K úniku osobních údajů nedošlo.
Případ 2 – Nepřímá identifikace. Učitel napsal AI, že je to „materiál pro jediného zrakově postiženého studenta ve třídě“. Nebylo tam žádné jméno, ale ta věta rozhodně popisovala toho chlapce ve škole. Když si toho všiml, změnil to na „pro studenta, který potřebuje podporu zraku“. Anonymizace není jen o mazání jmen, ale také o skrytí identifikačních údajů.
Případ 3 — Výběr vozidla. Jedna škola zakázala učitelům používat bezplatné nástroje s daty studentů a poskytla podnikový nástroj se zabezpečením dat. Jeden učitel by do bezplatného nástroje ze zvyku vložil analýzu poznámek; Díky připomenutí zásad přešel na korporátní nástroj a data stále anonymizoval. Kombinace dvou vrstev ochrany.
Kopírovatelné šablony
1) Kontrola před anonymizací:
Předpokládejme, že cizinec bude číst následující text. Dá se z tohoto textu přímo NEBO nepřímo pochopit, o kterého studenta jde? Uveďte všechny výrazy, které prozrazují identitu (jméno, číslo, instituce, vzácný rys) a navrhněte pro každý obecnou alternativu. Text: [vložit]
2) Sebehodnocení bezpečného vozidla:
Napište si kontrolní seznam 6 otázek k vyhodnocení nástroje umělé inteligence, který zvažuji použít: ukládání vstupů, použití ve vzdělávání, umístění dat, institucionální schválení, právo na smazání, dodržování citlivých údajů. Ke každé otázce přidejte „co dělat, když ano / co dělat, když ne“.
3) Kontrola minimalizace dat:
Zjednodušte text Dám AI pro následující úkol: odstraňte veškeré osobní/kontextové detaily, které úkol NEVYŽADUJE, ponechte pouze to, co je nezbytné k provedení úkolu. Úkol: [popište]. Text: [vložit]
4) Návrh školní politiky (pro učitele):
Navrhněte krátký, jasný 8bodový seznam pravidel pro učitele ve škole, jak používat nástroje AI k zabezpečení dat studentů: anonymizace, schválený nástroj, citlivá data, uchovávání, souhlas, oznámení o porušení. Nechť jsou turecké použitelné články. Předložím to ke schválení vedení/odborníkům.
Slabá výzva / Silná výzva
Slabá výzva:
Ahmet Yılmaz, 7-B číslo 214, je velmi slabý v matematice a jeho otec je lhostejný; Co mám pro tohoto studenta udělat?
Jméno, číslo, třída, rodinná jurisdikce – hrubé porušení důvěrnosti; Data jsou mimo vaši kontrolu.
Výkonná výzva:
Navrhněte 3 podpůrné strategie, které lze zavést ve škole pro žáka 7. ročníku, který má potíže se základními operacemi v matematice, za předpokladu, že podpora doma je omezená. (Anonymní student, nesdílím žádné osobní údaje.)
Typ dat
příklad
Je to dáno AI?
Jak
přímou identifikaci
Jméno, číslo, TR
ne
Odstraňte úplně
nepřímá identifikace
"Svobodný invalidní student"
ne
zobecnit
Citlivá data
Zdraví, diagnóza, rodina
velmi opatrný
Anonymní + podnikový nástroj
Obecná pedagogická situace
"Bojující student"
Ano
anonymně
Časté chyby
- Stačí smazat jméno. Pokud zůstane číslo, třída nebo nepřímá definice, identita je stále jasná.
- Přehlédnutí nepřímé definice. Výrazy jako „Jsi jediný ve své třídě...“ člověka prozradí.
- Citlivá data brát na lehkou váhu. Informace o zdraví/rodině jsou speciální údaje a vyžadují vyšší ochranu.
- Za předpokladu bezpečnosti vozidla. Je riskantní předpokládat, že bezplatný nástroj neukládá data; Předpokládejte to nejhorší.
- Neovládání výstupu. Umělá inteligence může zopakovat přihlašovací údaje, které zadáte v odpovědi; vyčistěte také výstup.
Tip: „Pravidlo dvou minut“: před vložením jakéhokoli textu souvisejícího se studentem do AI věnujte dvě minuty vymazání jména, čísla, instituce a identifikačních údajů. Tento malý zvyk zabraňuje největším přestupkům.
V souhrnu
Data studentů jsou osobní, často soukromá data a jsou chráněna podle KVKK a profesního tajemství. Veřejné nástroje AI jsou založeny na cloudu; Poskytování dat tak, jak jsou, je vymkne kontrole. Správná cesta: anonymizovat osobní a nepřímo identifikující informace, sdílet jen to, co je nezbytné (minimalizace dat), používat pokud možno firemní a schválené nástroje a auditovat výstup. Zodpovědnost je na učiteli.
Aplikační úkol
Vezměte si text o studentovi, kterého jste v minulém týdnu napsali (nebo o něm uvažujete) pro AI. Zjistěte a zobecněte všechny přímé a nepřímé identifikátory pomocí šablony „pre-anonymizačního screeningu“. Poté vyhodnoťte nástroj AI, který používáte, se seznamem „Sebehodnocení bezpečného nástroje“ a rozhodněte, jaký typ dat můžete s tímto nástrojem použít.
kontrolní seznam
- [ ] Odstranil jsem přímé identifikátory, jako je jméno, číslo, TR ID, instituce?
- [ ] Zobecnil jsem nepřímé deskriptory jako „Jediný ve vaší třídě...“?
- [ ] Zacházel jsem s citlivými (zdravotními/rodinnými) údaji se zvláštní ochranou?
- [ ] Zkontroloval jsem datové zásady a školní schválení vozidla, které používám?
- [ ] Zkontroloval jsem také úniky identity ve výstupu?