zisky:
- Pochopenie, že údaje študentov sú osobné a často súkromné údaje, a pravidlá anonymizácie a uchovávania v rámci KVKK a mlčanlivosti
- Schopnosť praktizovať deidentifikáciu a výber bezpečného/inštitucionálneho nástroja pri zadávaní údajov do verejne dostupných nástrojov umelej inteligencie
- Pochopenie, že súhlas so zdieľaním údajov, minimalizácia údajov a dodržiavanie školského poriadku sú zodpovednosťou učiteľa.
Učiteľ má v rámci svojej práce prístup k veľmi citlivým informáciám: známkam, záznamom o správaní, zdravotnom stave, rodinným informáciám, poradenským rozhovorom, sociálno-ekonomickým údajom. Tieto informácie patria do najsúkromnejšej oblasti študenta a keď sa dostanú do nesprávnych rúk, môžu spôsobiť ujmu na celý život. Väčšina nástrojov AI je založená na cloude, čo znamená, že text, ktorý zadávate, sa spracováva na serveroch vzdialenej spoločnosti, nie vo vašom počítači, a v niektorých nástrojoch ho možno použiť na vývoj modelu. Zapísanie informácií o študentovi do verejnej AI teda znamená, že sa vám vymknú spod kontroly. Táto jednotka vytvára najdôležitejšiu úroveň zabezpečenia pri používaní AI vo vyučovaní. Pravidlo je jasné: Najprv anonymizujte údaje o študentoch, ak je to možné, použite bezpečné/inštitucionálne nástroje; Zodpovednosť je na učiteľovi.
Aké údaje sú chránené? Rámec KVKK
Osobné údaje sú akékoľvek informácie, ktoré robia osobu konkrétnou alebo identifikovateľnou: meno-priezvisko, číslo školy, občiansky preukaz, fotografia, prípadne aj nepriame popisy ako „najvyšší študent 3-A“ v jednom kontexte. Špeciálne (citlivé) osobné údaje sú chránené prísnejšie: zdravie, etnická príslušnosť, náboženstvo, odsúdenie za trestný čin, biometrické údaje, členstvo v asociáciách/odboroch. Do tejto kategórie patrí zdravotný posudok študenta, diagnóza poruchy učenia alebo rodinná trauma.
KVKK (Zákon o ochrane osobných údajov) vyžaduje, aby sa osobné údaje spracúvali zákonne, na konkrétny účel, meraným a bezpečným spôsobom. Praktické dôsledky pre učiteľa: používať údaje len podľa potreby (minimalizácia údajov), nezneužívať údaje, udržiavať ich v bezpečí, nezdieľať ich s tretími stranami (vrátane verejnej AI) bez povolenia. Existuje aj povinnosť mlčanlivosti: učiteľ nemôže prezradiť informácie, ktoré sa o žiakovi a jeho rodine dozvie.
Upozornenie: Za predpokladu, že „spoločnosť to aj tak nečíta“, nie je bezpečné. Niektoré bezplatné nástroje AI môžu ukladať/používať vstupy v tréningu. Akonáhle sú dáta vonku, nie je možné ich získať. Najbezpečnejšie je dáta nikdy nevyberať.
Anonymizácia: robí z toho reflex
Anonymizácia znamená odstránenie všetkých prvkov, ktoré identifikujú osobu z údajov a ich nenávratné zovšeobecnenie. V praxi:
- Meno-priezvisko → "Študent A", "študent"
- Číslo školy, TR ID, trieda-pobočka → úplne odstrániť
- Meno rodiča, telefón, adresa → odstrániť
- Zriedkavé/opisné detaily → zovšeobecňovať (frázy ako „jeden študent, ktorý používa invalidný vozík“ danú osobu prezradí; povedzme „jeden študent“)
- Názov školy/inštitúcie → ukončite alebo povedzte „naša škola“
Predtým, ako dáte text AI, predpokladajte, že ho bude čítať cudzinec: dá sa z tohto textu pochopiť, o aké dieťa ide? Ak je to jasné, zovšeobecňujte ďalej.
Bezpečný výber vozidla
Nie všetky nástroje AI sú rovnaké. Najbezpečnejšie sú firemné nástroje, ktoré poskytuje vaša škola/inštitúcia, má zmluvu o spracovaní údajov (DPA) a nevyužíva vstupy vo vzdelávaní. S bezplatnými, verejne dostupnými nástrojmi by mal byť predpoklad tým najhorším scenárom. Pri výbere nástroja sa opýtajte: Sú moje vstupy uložené? Používa sa vo vzdelávaní? Kde sa údaje spracúvajú? Schvaľuje školská politika tento nástroj? Ak si nie ste istí, nepoužívajte údaje bez ich anonymizácie.
Krok za krokom: súkromný bezpečný pracovný postup
- Vyhľadajte osobné údaje. Meno, číslo, inštitúcia, citlivá situácia.
- Anonymizovať. Nahradiť všeobecnými výrazmi; vymazať identifikačné údaje.
- Použiť minimalizáciu údajov. Nepridávajte žiadne informácie, ktoré úloha nevyžaduje.
- Vyberte vozidlo. Ak je to možné, inštitucionálne; Ak nie, predpokladajte najhorší možný scenár.
- Použite to. Pracujte iba s anonymným textom.
- Skontrolujte aj výstup. AI môže spätne odrážať informácie, ktoré jej poskytnete; Na výstupe by nemalo dôjsť k úniku identity.
tri mini prípady
Prípad 1 – Zachytenie na poslednú chvíľu. Poradca napísal AI, aby konzultoval rodinný problém študenta; Text obsahoval meno, triedu a „jeho matka je v nemocnici“. Všimol si to bez toho, aby to poslal, zovšeobecnil to všetko ako "13-ročný študent, zdravotná výzva v jeho rodine." Návrhy všeobecného prístupu, ktoré dostal, fungovali; Neunikli žiadne osobné údaje.
Prípad 2 – Nepriama identifikácia. Učiteľ napísal AI, že je to „materiál pre jediného žiaka so zrakovým postihnutím v triede“. Nebolo tam žiadne meno, ale táto fráza určite popisovala toho chlapca v škole. Keď si to všimol, zmenil to na „pre študenta, ktorý potrebuje podporu zraku“. Anonymizácia nie je len o vymazaní mien, ale aj o skrytí identifikačných údajov.
Prípad 3 — Výber vozidla. Jedna škola zakázala učiteľom používať bezplatné nástroje s údajmi o študentoch a poskytla podnikový nástroj so zabezpečením údajov. Jeden učiteľ by zo zvyku vložil analýzu poznámok do bezplatného nástroja; Vďaka pripomenutiu politiky prešiel na korporátny nástroj a údaje stále anonymizoval. Kombinácia dvoch vrstiev ochrany.
Kopírovateľné šablóny
1) Kontrola pred anonymizáciou:
Predpokladajme, že nasledujúci text bude čítať cudzinec. Dá sa z tohto textu priamo ALEBO nepriamo pochopiť, o ktorého študenta ide? Uveďte všetky výrazy, ktoré prezrádzajú identitu (meno, číslo, inštitúcia, vzácna vlastnosť) a navrhnite pre každý všeobecnú alternatívu. Text: [prilepiť]
2) Samohodnotenie bezpečného vozidla:
Napíšte si kontrolný zoznam 6 otázok na vyhodnotenie nástroja AI, ktorý uvažujem použiť: ukladanie vstupov, použitie vo vzdelávaní, umiestnenie údajov, schválenie inštitúcie, právo na vymazanie, dodržiavanie citlivých údajov. Ku každej otázke pridajte „čo robiť, ak áno / čo robiť, ak nie“.
3) Kontrola minimalizácie údajov:
Zjednodušte text Dám AI pre nasledujúcu úlohu: odstráňte všetky osobné/kontextové detaily, ktoré úloha NEVYŽADUJE, ponechajte len to, čo je potrebné na vykonanie úlohy. Úloha: [popíšte]. Text: [prilepiť]
4) Návrh školskej politiky (pre učiteľov):
Navrhnite krátky, jasný 8-bodový zoznam pravidiel pre učiteľov v škole, aby používali nástroje AI na zabezpečenie údajov študentov: anonymizácia, schválený nástroj, citlivé údaje, uchovávanie, súhlas, oznámenie o porušení. Nech sú turecké použiteľné články. Predložím to na schválenie vedeniu/odborníkovi.
Slabá výzva / Silná výzva
Slabá výzva:
Ahmet Yılmaz, 7-B číslo 214, je veľmi slabý v matematike a jeho otec je ľahostajný; Čo mám urobiť pre tohto študenta?
Meno, číslo, trieda, rodinná príslušnosť – hrubé porušenie dôvernosti; Údaje sú mimo vašej kontroly.
Výkonná výzva:
Navrhnite 3 podporné stratégie, ktoré je možné implementovať v škole pre žiaka 7. ročníka, ktorý má problémy so základnými operáciami v matematike, za predpokladu, že podpora doma je obmedzená. (Anonymný študent, nezdieľam žiadne osobné údaje.)
Typ údajov
príklad
Je to dané AI?
Ako
priama identifikácia
Meno, číslo, TR
č
Úplne odstráňte
nepriama identifikácia
"Jeden postihnutý študent"
č
zovšeobecňovať
Citlivé údaje
Zdravie, diagnóza, rodina
veľmi opatrný
Anonymný + podnikový nástroj
Všeobecná pedagogická situácia
"Bojujúci študent"
áno
anonymne
Časté chyby
- Stačí vymazať meno. Ak zostane číslo, trieda alebo nepriama definícia, identita je stále jasná.
- Prehliadajúc nepriamu definíciu. Výrazy ako „Si jediný vo svojej triede...“ danú osobu prezradia.
- Citlivé údaje berte na ľahkú váhu. Informácie o zdraví/rodine sú špeciálne údaje a vyžadujú si vyššiu ochranu.
- Za predpokladu bezpečnosti vozidla. Je riskantné predpokladať, že bezplatný nástroj neukladá údaje; Predpokladajme to najhoršie.
- Nekontroluje výstup. AI môže zopakovať poverenia, ktoré poskytnete v odpovedi; vyčistite aj výstup.
Tip: „Pravidlo dvoch minút“: pred vložením akéhokoľvek textu súvisiaceho so študentom do AI venujte dve minúty vymazaniu mena, čísla, inštitúcie a identifikačných údajov. Tento malý zvyk zabraňuje tým najväčším porušeniam.
V súhrne
Údaje o študentoch sú osobné, často súkromné údaje a sú chránené podľa KVKK a služobného tajomstva. Verejné nástroje AI sú založené na cloude; Poskytnutie údajov tak, ako sú, ich vymkne kontrole. Správna cesta: anonymizovať osobné a nepriamo identifikujúce informácie, zdieľať len to, čo je nevyhnutné (minimalizácia dát), podľa možnosti využívať firemné a schválené nástroje a auditovať výstup. Zodpovednosť je na učiteľovi.
Aplikačná úloha
Vezmite si text o študentovi, ktorého ste za posledný týždeň napísali (alebo o ňom uvažujete) pre AI. Zistite a zovšeobecnite všetky priame a nepriame identifikátory pomocou šablóny „pre-anonymizačného skríningu“. Potom vyhodnoťte nástroj AI, ktorý používate, v porovnaní so zoznamom „Sebahodnotenie bezpečného nástroja“ a rozhodnite sa, aký typ údajov môžete s týmto nástrojom použiť.
kontrolný zoznam
- [ ] Odstránil som priame identifikátory ako meno, číslo, TR ID, inštitúcia?
- [ ] Zovšeobecnil som nepriame deskriptory ako „Jediný vo vašej triede...“?
- [ ] Zaobchádzal som s citlivými (zdravotnými/rodinnými) údajmi extra ochranou?
- [ ] Skontroloval som si dátovú politiku a školské schválenie vozidla, ktoré používam?
- [ ] Skontroloval som úniky identity aj vo výstupe?