Etika, súkromie, odborný dohľad a limity praxe

zisky:

• Schopnosť transformovať etické princípy používania umelej inteligencie v špeciálnom vzdelávaní (prospešnosť, neškodnosť, spravodlivosť, vyhýbanie sa zaujatosti) do konkrétnych pravidiel
• Schopnosť spravovať súkromie študentských a rodinných údajov, ukladanie dát a limity zdieľania v rámci KVKK
• Schopnosť spojiť poznatky v rámci modulu do komplexného bezpečného pracovného postupu a definovať, kde končí umelá inteligencia a začína zodpovednosť odborníkov

Počas tohto modulu sme sa naučili používať AI ako asistenta: navrhli sme cieľ IEP, upravili materiály, vytvorili AAC a plán správania, sledovali pokrok a posilnili komunikáciu s rodinou. Táto záverečná jednotka sa zaoberá rámcom, ktorý to všetko drží pohromade: etika, súkromie a odborný dohľad. Pretože „údaje“, s ktorými pracujete v špeciálnom školstve, nie je tabuľka, ale dieťa; „Výstup“, ktorý vytvoríte, nie je dokument, ale rozhodnutie ovplyvňujúce právo dieťaťa na vzdelanie. Umelá inteligencia poskytuje v tejto oblasti veľké pohodlie; Ale pri nesprávnom použití sú ľudia, ktorým sa môže najviac ublížiť, aj najzraniteľnejší. Zopakujme si naposledy zásadu, ktorú sme stanovili od začiatku: Umelá inteligencia je asistent; Diagnóza, umiestnenie, účel a rozhodnutia ovplyvňujúce budúcnosť dieťaťa patria kompetentnému odborníkovi, tímu IEP a rodine.

Štyri etické princípy a ich konkrétne náprotivky

Využitie umelej inteligencie v špeciálnom vzdelávaní môžeme pripísať štyrom základným etickým princípom:

• Beneficence: AI by sa mala používať na to, aby skutočne prispela k vzdelávaniu dieťaťa; Učiteľovi by to malo pomôcť uvoľniť si čas a viac sa dieťaťu venovať. Používanie nie je samoúčelné.
• Nonmaleficence: Neoverený, pre deti nevhodný alebo stigmatizujúci výstup môže spôsobiť škodu. Každý výstup prejde filtrom "poškodí to dieťa?"
• Spravodlivosť: Každé dieťa by malo mať rovnaký prístup k zdrojom a kvalitnému vzdelaniu. AI by nemala privilegovať niektoré deti a zanedbávať iné; Každému by sa mala venovať individuálna pozornosť.
• Vyhýbanie sa zaujatosti: AI môže odrážať stereotypy v údajoch, na ktorých je trénovaná; Špecifický typ postihnutia môže produkovať diskriminačný výstup týkajúci sa pohlavia, kultúry alebo sociálno-ekonomického postavenia. Špecialista musí rozpoznať a opraviť tieto výsledky a zhodnotiť každé dieťa individuálne.

Zaujatosť je obzvlášť dôležitá, pretože je zákerná. AI ​​môže plynule vytvoriť vetu ako „takéto deti zvyčajne nedokážu X“; Toto je však stereotyp, ktorý je nesprávny a zároveň dieťaťu prekáža. Úlohou špecialistu je vidieť tieto vzorce a hodnotiť dieťa s jeho potenciálom.

Upozornenie: Žiadne zovšeobecnenia vygenerované AI ("deti s X postihnutím môžu/urobiť Y") nemožno použiť na obmedzenie účelu dieťaťa. Nízke očakávania sú jednou z najbežnejších a najneviditeľnejších foriem diskriminácie.

Ochrana osobných údajov: limity ukladania a zdieľania údajov

Údaje o študentovi (totožnosť, diagnóza, správa RAM, záznam o správaní, informácie o rodine) sú v rámci KVKK špeciálnymi osobnými údajmi. Ujasnime si pravidlá v tejto jednotke:

• Anonymizácia: Meno, ID, protokol, škola, adresa a podrobnosti o rodine sú odstránené pred vstupom do akéhokoľvek nástroja AI.
• Minimálne údaje: Zdieľajte iba informácie potrebné pre danú úlohu; Nedávajte celý súbor „pre každý prípad“.
• Bezpečný nástroj: Ak je to možné, uprednostňujú sa firemné nástroje, ktoré majú zmluvu o spracovaní údajov a nepoužívajú vaše údaje v modelových školeniach; Citlivé údaje sa nenahrávajú z osobných účtov.
• Ukladanie a mazanie: Ak koncepty vytvorené pomocou AI obsahujú údaje študentov, ukladajú sa podľa pravidiel inštitúcie a v prípade potreby sa vymažú; Nenecháva sa na náhodných miestach.
• Zdieľanie: Informácie sú zdieľané len s oprávnenými osobami (IEP tím, rodina, príslušný špecialista) a len v nevyhnutnom rozsahu.

Nižšie uvedená tabuľka sumarizuje limity získané v rámci modulu na jednom mieste:

oblasť

AI môže

AI nemôže / patrí ľuďom

Hodnotenie

Sumarizuje anonymné údaje

Diagnózy/zmeny

BEP

Napíše návrh cieľov

Potvrdzuje/potvrdzuje zámer

materiál

Prispôsobuje sa, rozlišuje

Rozhoduje o učebných osnovách/autorských právach

AAC

Náčrt karty/príbehu

Vyberie metódu a prispôsobí ju dieťaťu

správanie

ABC sumarizuje, dáva rady

Rozhoduje o funkcii, schvaľuje plán

pokrok

Sumarizuje a interpretuje dáta

Konečné rozhodnutie pokračovať

rodina

textové koncepty

Potvrdzuje text, posilňuje vzťah

Pravý stĺpec v tejto tabuľke predstavuje hranicu zodpovednosti odborníka a za žiadnych okolností ho nemožno delegovať na AI.

Bezpečný pracovný postup od začiatku do konca

Spojme modul do jedného toku. Bezpečný pracovný postup výučby podporovaný AI je nasledujúci: (1) anonymizovať údaje; (2) napíšte výzvu s jasnými úlohami a hranicami; (3) získať návrh od AI; (4) overte výstup v troch krokoch – odkaz na zdroj, porovnanie so skutočným profilom dieťaťa, expertný filter; (5) vykonať audit etiky a zaujatosti; (6) prispôsobiť sa a overiť v tíme/rodine; (7) uplatňovať a monitorovať údaje; (8) uchovávať/vymazávať návrhy podľa pravidiel inštitúcie. Tento cyklus sa opakuje pri každej úlohe, pričom je jasné, kde končí AI a začína zodpovednosť odborníkov.

tri mini prípady

Prípad 1 – Zachytenie zaujatosti. Učiteľ požiadal AI o náčrt cieľa; Vo výstupe bola veta ako „tento typ študentov nevie myslieť abstraktne, držte cieľ nízko“. Učiteľ to rozpoznal ako stereotyp; Jeho vlastný študent dokázal nadviazať abstraktné vzťahy. Vytiahol vetu a napísal cieľ na základe skutočného potenciálu dieťaťa. Etický dohľad zabránil nízkemu očakávaniu, ktoré by dieťaťu prekážalo.

Prípad 2 – Disciplína ochrany osobných údajov. Jedna inštitúcia stanovila pravidlo, že všetci učitelia musia pred použitím AI vykonať „kontrolu anonymizácie“. Učiteľ odstránil meno, protokol a informácie o rodine pred zhrnutím správy RAM. O mesiace neskôr dátový audit ukázal, že organizácia neposkytla žiadne citlivé údaje externému nástroju. Jednoduchý zvyk chránil organizáciu pred vážnym rizikom.

Prípad 3 – Chyba pri delegovaní zodpovednosti. Učiteľ pod časovým tlakom implementoval plán správania vytvorený AI bez toho, aby si ho prečítal. Plán nezodpovedal fungovaniu dieťaťa a správanie sa stupňovalo. Problém nebol v „chybe“ AI, ale v delegovaní zodpovednosti. Neoverený výstup je ako nepodpísaný odborný posudok; Zodpovednosť je vždy na odborníkovi. Chyba: nahradiť zodpovednosť pohodlnosťou.

Slabá výzva / Silná výzva

Slabá výzva:

Analyzujte všetko o tomto študentovi a povedzte mi, čo mám robiť.

Táto požiadavka nás núti zdieľať viac údajov (možno obsahujúcich identitu), ako je potrebné, tým, že povieme „všetko“ a prenesie rozhodnutie na AI. Porušuje tiež dva základné princípy.

Výkonná výzva:

Vaša rola: asistent špecialistu na špeciálne vzdelávanie. Používajte iba nasledujúce anonymné informácie špecifické pre danú úlohu: [minimálne požadované]. Úloha: Vypracujte NÁVRH pre [jedinú, jasnú úlohu].Pravidlá: Diagnóza/rozhodovanie. Nezovšeobecňovať/stereotypizovať. Uveďte, že si nie ste istí. Predpokladajme, že to overí odborník a potvrdí tím/rodinou.

Toto tvrdenie zahŕňa minimum údajov, jasnú úlohu, zaujatosť a limity rozhodovania spolu; Zhromažďuje všetky princípy modulu v jedinej šablóne.

Časté chyby

• Delegovanie zodpovednosti. Ponechať rozhodnutie na AI; vykonávanie bez čítania výstupu.
• Nevidieť predsudky. Nevšímajúc si stereotypné zovšeobecnenia znižujúce očakávania.
• Zdieľanie nadmerného množstva údajov. Poskytovanie nepotrebných citlivých údajov nástroju vyslovením „analyzovať všetko“.
• Obchádzanie anonymizácie. Práca bez vyčistenia identity, diagnózy a rodinných informácií.
• Nebezpečné skladovanie konceptov. Ponechanie výtlačkov obsahujúcich údaje študentov na náhodných miestach.
• Vidieť etický audit ako formálny. Preskakovanie otázok ako „spôsobí to škodu, je to spravodlivé, je to zaujaté?“

V súhrne

V špeciálnom vzdelávaní je AI silným pomocníkom, ale keďže pracujete s najzraniteľnejšími jednotlivcami, o etike a súkromí sa nedá vyjednávať. Vedú nás štyri princípy: dobročinnosť, neškodnosť, spravodlivosť, vyhýbanie sa zaujatosti. Údaje študentov sú anonymizované, zdieľané s minimálnymi a bezpečnými prostriedkami a bezpečne uložené. Bezpečný pracovný postup od začiatku do konca; Cyklus je anonymizácia, získanie konceptu, overenie v troch krokoch, etická kontrola, schválenie s tímom/rodinou, sledovanie s údajmi. Kdekoľvek v tomto cykle končí AI, začína zodpovednosť odborníkov. Neoverený výstup je ako nepodpísaný odborný posudok; Podpis je vždy váš.

Aplikačná úloha

Vyberte si jeden z náčrtov, ktoré ste vytvorili v rámci modulu (cieľ IEP, materiál, plán správania alebo rodinný text) a preveďte ho všetkými krokmi „zabezpečeného pracovného postupu end-to-end“ v tejto jednotke. Predovšetkým skontrolujte etiku/predpojatosť: je vo výstupe mierne zovšeobecňovanie, stigmatizujúce vyhlásenie alebo únik súkromia? Opravte všetky problémy, ktoré nájdete, a poznamenajte si, ktorý krok toku zachytil daný problém.

kontrolný zoznam

• [ ] Údaje som anonymizoval; Zdieľal som len nevyhnutné minimum.
• [ ] Výstup som overil tromi krokmi (zdroj/profil/odborník).
• [ ] Zbavil som sa predsudkov a zovšeobecnení znižujúcich očakávania.
• [ ] Odstránil som stigmatizujúci jazyk; Dodržiaval som štyri etické princípy.
• [ ] Koncepty som uchovával v bezpečí/v prípade potreby som ich vymazal.
• [ ] Konečné rozhodnutie a zodpovednosť som prevzal ako odborník/tím/rodina.

Modulová skúška

1. Špeciálny učiteľ sa pýta umelej inteligencie „aká je diagnóza tohto dieťaťa“ jednoduchým uvedením mena a veku študenta a odpoveď zapíše do súboru IEP. V čom spočíva zásadná chyba tohto prístupu?

• A) Ignorovanie, že oprávnenie na stanovenie diagnózy patrí RAM a autorizovaným odborníkom; presunúť aj neoverený výstup do úradného záznamu ✔
• B) Je zbytočné dávať umelej inteligencii informácie o veku
• C) Je zakázané uchovávať súbor BEP v digitálnom prostredí
• D) Umelá inteligencia vždy spôsobuje, že diagnóza sa zdá byť ťažšia, než je

Vysvetlenie: Umelá inteligencia nemôže a nemala by diagnostikovať; Diagnostika a vyhodnotenie sú úlohou RAM a autorizovaných odborníkov. Navyše bez poskytnutia údajov modelu sa požadovaný výstup stáva výmyslom (halucináciou) a zdieľanie identity študenta je porušením súkromia.

2. Ktorá z nasledujúcich možností je hlavnou črtou, ktorú by mal mať krátkodobý (merateľný) cieľ BEP?

• A) Cieľom je, aby sa študentovi predmet vo všeobecnosti páčil
• B) Vychádza len z pozorovania učiteľa a neobsahuje číselné kritériá
• C) Zhromaždite čo najdlhšie a čo najviac výsledkov v jednej vete.
• D) Obsahuje pozorovateľné správanie, kondíciu a merateľné kritérium úspešnosti ✔

Vysvetlenie: Krátkodobý cieľ zahŕňa pozorovateľné správanie, stav a kritérium (koľko pokusov, aké percento, aká úroveň nezávislosti). Nemerateľné výrazy ako „chápe“, „učí sa“, „uvedomuje si“ spôsobujú chyby v písaní účelu.

3. Učiteľ odovzdá správu RAM, ktorá obsahuje celé meno študenta, TR ID a diagnózu, do verejne dostupného nástroja umelej inteligencie a povie „zhrnúť“. Aký by bol správny prístup?

• A) Nahrajte správu bez akýchkoľvek úprav, pretože súhrn vyžaduje všetky informácie
• B) Stačí vymazať TR ID číslo a nechať meno a diagnózu
• C) Odstránenie informácií o identite, anonymizácia údajov a výber bezpečného/inštitucionálneho nástroja ✔
• D) Zdieľanie správy prostredníctvom e-mailu z vášho osobného účtu a jej zodpovedajúca sumarizácia

Vysvetlenie: Údaje o študentovi sú osobitné osobné údaje v rámci KVKK. Informácie o identite by sa mali odstrániť a údaje anonymizovať („10-ročný študent“), a ak je to možné, mal by sa uprednostniť bezpečný nástroj, ktorý je inštitucionálny a nevyužíva údaje vo vzdelávaní.

4. Aký je najlepší postoj pri vytváraní sociálneho príbehu s umelou inteligenciou pre alternatívnu a augmentatívnu komunikáciu (AAC)?

• A) Prispôsobte návrh špeciálne pre dieťa a nechajte ho schváliť odborníkom ✔
• B) Využitie vytvoreného príbehu presne pre všetkých študentov bez toho, aby ste ho vôbec zmenili
• C) Napísať príbeh s čo najdlhšími a abstraktnými slovami
• D) Poskytovanie iba dlhého textu bez pridania vizuálnej podpory

Popis: Umelá inteligencia generuje koncepty; Sociálna anamnéza a komunikačná podpora by však mali byť prispôsobené individuálnym charakteristikám dieťaťa a schválené rečovým patológom/špecialistom. Všeobecnú osnovu nemožno použiť priamo.

5. Ktorá z nasledujúcich možností je základným princípom pri získavaní pomoci od umelej inteligencie v pláne podpory pozitívneho správania?

• A) Požiadať ho/ju, aby odporučil najtvrdší trest na rýchle potlačenie správania.
• B) Pochopte funkciu správania a vytvorte alternatívny návrh pozitívneho správania a preventívnej stratégie ✔
• C) Dokončenie plánu bez toho, aby ste študenta poznali, stačí sa pozrieť na názov správania
• D) Implementácia plánu bez zapojenia rodiny a špecialistu do procesu

Vysvetlenie: Podpora pozitívneho správania nie je orientovaná na trest; Jeho cieľom je pochopiť funkciu správania (funkčné hodnotenie), preventívne predpisy a poskytnúť naučiteľné alternatívne správanie namiesto nežiaduceho správania. Odborný dohľad je nevyhnutný.

6. Čo znamená „rozhodnutie na základe údajov“ pri sledovaní pokroku?

• A) Rozhodnúť sa len na základe jedného pozorovania na konci roka
• B) Napísanie správy o pokroku na základe všeobecného dojmu učiteľa bez toho, aby ste sa pozreli na údaje
• C) Rozhodnutie úplne ponechať na interpretáciu umelej inteligencie
• D) Rozhodnutie zachovať, prispôsobiť alebo zmeniť cieľ na základe údajov z pravidelných meraní ✔

Vysvetlenie: Rozhodovanie založené na údajoch je rozhodovanie o zachovaní, úprave alebo zmene cieľa sledovaním pravidelných meraní založených na dosiahnutom úspechu (percento, počet pokusov, úroveň nezávislosti). Umelá inteligencia sumarizuje údaje a navrhuje interpretáciu; Rozhoduje odborník.

7. Aký je podľa princípu univerzálneho dizajnu (UDL) najlepší spôsob, ako sprístupniť materiál?

• A) Prezentácia materiálu len v jednom formáte, malým písmom a hustým textom
• B) Prezentácia obsahu viacerými spôsobmi, poskytovanie jednoduchého jazyka a alternatívneho textu ✔
• C) Odstráňte všetky úpravy a dajte všetkým rovnaký štandardný materiál
• D) Za predpokladu, že dostupnosť sa dosiahne iba zmenou farby

Popis: UDL si predstavuje prezentáciu obsahu viacerými spôsobmi (text, obraz, zvuk), jednoduchým jazykom, alternatívnym textom a flexibilnými formátmi. Cieľom je navrhnúť tak, aby vyhovovali rôznym potrebám, nielen jednému „priemernému“ študentovi. Záverečná kontrola závisí od odborného a reálneho testovania používateľov.

8. Učiteľ pošle rodine text s informáciami o rodine vytvorený umelou inteligenciou bez toho, aby ho skontroloval, a text obsahuje nesprávny dátum stretnutia a prehnaný prísľub „zotavenia“. V čom je tu zásadná chyba?

• A) Vytváranie nepravdivých informácií a nereálnych očakávaní odoslaním textu bez jeho overenia ✔
• B) Odoslanie písaného textu rodine je samo o sebe nesprávne.
• C) Text je príliš krátky
• D) Umelá inteligencia má prísne zakázané produkovať rodinný text

Popis: Každý text zdieľaný s rodinou musí byť vytvorený s presnosťou, dôvernosťou a súhlasom odborníkov. Umelá inteligencia je plynulá, ale môže produkovať falošné informácie (halucinácie); Text odoslaný bez overenia poškodzuje dôveru a proces.

9. Ktorý z nasledujúcich prístupov je správny pri rozlišovaní v triede inklúzie/integrácie?

• A) Úplné oddelenie študenta od triedy a nechať ho robiť každú aktivitu samostatne
• B) Podpora rovnakého úspechu so spoločnou zodpovednosťou, bez prispôsobovania a označovania podľa úrovne ✔
• C) Dať rovnaký materiál celej triede bez výnimky a nerobiť žiadne úpravy
• D) Ponechanie adaptácie len na špeciálneho učiteľa a vylúčenie triedneho učiteľa z procesu

Vysvetlenie: Diferenciácia znamená prispôsobenie toho istého vzdelávacieho výsledku rôznym úrovniam a podporu študenta bez toho, aby sme ho označovali. Adaptácia je spoločnou zodpovednosťou triedneho učiteľa a špeciálneho učiteľa; Vyhýbame sa riešeniam, ktoré oddeľujú a stigmatizujú študenta od jeho rovesníkov.

10. Prečo je obzvlášť riskantné, že jazykové modely AI produkujú v kontexte špeciálneho vzdelávania „halucinácie“?

• A) Pretože model vždy beží pomaly
• B) Pretože modelka nevie po turecky
• C) Pretože halucinácie sa vyskytujú iba pri vizuálnej produkcii
• D) Pretože vymyslené informácie môžu ovplyvniť rozhodnutie dieťaťa o vzdelávaní a možno ich považovať za pravdivé v plynulom jazyku ✔

Vysvetlenie: Halucinácia je, keď model plynule vymýšľa neexistujúce informácie, ako keby to bola pravda. Vymyslený právny predpis, nesprávna vývinová norma alebo vymyslená metóda v špeciálnom školstve môžu priamo ovplyvniť právo dieťaťa na vzdelanie a rozvoj; takže každý výstup musí byť overený.

11. Čo znamená „vyhnúť sa zaujatosti“ v etických princípoch používania umelej inteligencie v špeciálnom vzdelávaní?

• A) Rozpoznanie a náprava stereotypných alebo diskriminačných výstupov produkovaných modelom a individuálne hodnotenie každého dieťaťa ✔
• B) Nepísať dlhé výzvy, len aby ste získali rýchly výstup.
• C) Použitie umelej inteligencie len na jeden typ prekážky
• D) Aplikovanie rovnakej neobjektívnej šablóny na všetkých študentov

Vysvetlenie: Umelá inteligencia môže odrážať zaujatosti v údajoch, na ktorých je trénovaná; môže produkovať stereotypný výstup o konkrétnom type postihnutia, pohlaví, sociálno-ekonomickom postavení alebo kultúre. Špecialista by mal v tomto smere sledovať výsledok a hodnotiť každé dieťa individuálne.

12. Prečo je dôležité zahrnúť sekciu „silné stránky“ pri sumarizácii správy RAM s umelou inteligenciou a vytváraní profilu študenta?

• A) Aby sa prehľad zobrazoval dlhšie
• B) Silné stránky sa používajú len na formu, aj keď nie sú zo zákona povinné.
• C) Založiť plánovanie na silných stránkach a nedefinovať študenta len podľa jeho nedostatkov ✔
• D) Úplne ignorovať potreby a písať len pozitívne

Vysvetlenie: Plánovanie v špeciálnom vzdelávaní je založené na silných stránkach; Len profil orientovaný na nedostatok/potrebu definuje žiaka s jeho nedostatkami. Silné stránky sú základom cieľov a motivácie a poskytujú pozitívny výhľad orientovaný na rast.

13. Aký je správny prístup z hľadiska „autorských práv a originality“ pri výrobe upraveného materiálu?

• A) Reprodukovanie výstupu so znakmi a obsahom chráneným autorskými právami bez kontroly
• B) Kontrola a originalizácia materiálu z hľadiska súladu s učebnými osnovami, správnosti a autorských práv ✔
• C) Distribuujte každý obrázok komerčne bez ohľadu na zdroj
• D) Za predpokladu, že otázka autorských práv sa vôbec nevzťahuje na digitálny materiál

Vysvetlenie: Výstup umelej inteligencie mohol byť napájaný z iných zdrojov; môže obsahovať obsah chránený autorskými právami, znaky značky alebo neoverené informácie. Odborník by mal skontrolovať, či je materiál v súlade s učebnými osnovami, správnosťou a autorskými právami, a v prípade potreby uviesť zdroj av prípade potreby ho soriginalizovať.

14. Ako kľúčový princíp zdôraznený v module opisuje úlohu umelej inteligencie v špeciálnom vzdelávaní?

• A) Umelá inteligencia nahrádza odborníka a rozhoduje automaticky
• B) Umelá inteligencia sa dá využiť len na písanie poznámok a nič iné
• C) Pri použití umelej inteligencie už nie je potrebný odborný dohľad
• D) Umelá inteligencia je asistentom a generátorom návrhov; Konečné rozhodnutie a zodpovednosť leží na odborníkovi, tíme a rodine ✔

Popis: Umelá inteligencia je asistent a generátor náčrtov; Diagnóza, umiestnenie, stanovenie cieľov a rozhodnutia ovplyvňujúce budúcnosť dieťaťa patria kompetentnému odborníkovi, tímu IEP a rodine. Neoverený výstup je ako nepodpísaný znalecký verdikt.