Etika, soukromí, odborný dohled a praktické limity

zisky:

• Schopnost transformovat etické principy používání umělé inteligence ve speciální pedagogice (beneficence, non-maleficence, spravedlnost, vyvarování se zkreslení) do konkrétních pravidel
• Schopnost spravovat soukromí studentských a rodinných dat, ukládání dat a limity sdílení v rámci KVKK
• Schopnost propojit učení v rámci modulu do komplexního zabezpečeného pracovního postupu a definovat, kde končí umělá inteligence a začíná odpovědnost odborníků

Během tohoto modulu jsme se naučili používat AI jako asistenta: navrhli cíl IEP, přizpůsobili materiály, vytvořili AAC a plán chování, sledovali pokrok a posílili komunikaci s rodinou. Tato závěrečná jednotka se zabývá rámcem, který to vše drží pohromadě: etika, soukromí a odborný dohled. Protože „data“, se kterými ve speciální pedagogice pracujete, nejsou tabulka, ale dítě; „Výstup“, který vytvoříte, není dokument, ale rozhodnutí ovlivňující právo dítěte na vzdělání. Umělá inteligence poskytuje v této oblasti velké pohodlí; Ale při nesprávném použití jsou lidé, kteří mohou být nejvíce poškozeni, také nejzranitelnější. Zopakujme naposledy zásadu, kterou jsme stanovili od začátku: Umělá inteligence je asistent; Diagnostika, umístění, účel a rozhodnutí ovlivňující budoucnost dítěte náleží kompetentnímu specialistovi, týmu IEP a rodině.

Čtyři etické principy a jejich konkrétní protějšky

Využití umělé inteligence ve speciálním vzdělávání můžeme přičíst čtyřem základním etickým principům:

• Prospěšnost: umělá inteligence by měla být používána tak, aby skutečně přispívala ke vzdělání dítěte; Učiteli by to mělo pomoci uvolnit si čas a více se dítěti věnovat. Použití není samoúčelné.
• Nonmaleficence: Neověřený, pro děti nevhodný nebo stigmatizující výstup může způsobit škodu. Každý výstup projde filtrem "poškodí to dítě?"
• Spravedlnost: Každé dítě by mělo mít rovný přístup ke zdrojům a kvalitnímu vzdělání. AI by neměla privilegovat některé děti a zanedbávat jiné; Každému by se měla věnovat individuální pozornost.
• Vyhýbání se zkreslení: AI může odrážet stereotypy v datech, na kterých je trénována; Konkrétní typ postižení může vést k diskriminačním výstupům ohledně pohlaví, kultury nebo socioekonomického postavení. Specialista musí tyto výsledky rozpoznat a opravit a každé dítě zhodnotit individuálně.

Zaujatost je obzvláště důležitá, protože je zákeřná. Umělá inteligence dokáže plynule vytvořit větu jako „takové děti obvykle neumí X“; To je však stereotyp, který je jednak špatný a jednak dítěti překáží. Úkolem specialisty je vidět tyto vzorce a hodnotit dítě s jeho potenciálem.

Upozornění: Žádná zobecnění vygenerovaná umělou inteligencí ("děti s X postižením mohou/udělají Y") nelze použít k omezení účelu dítěte. Nízká očekávání jsou jednou z nejčastějších a nejneviditelnějších forem diskriminace.

Soukromí: omezení ukládání a sdílení dat

Údaje o studentech (identita, diagnóza, zpráva RAM, záznam o chování, informace o rodině) jsou zvláštními osobními údaji v rámci KVKK. Pojďme si ujasnit pravidla v této jednotce:

• Anonymizovat: Jméno, ID, protokol, škola, adresa a podrobnosti o rodině jsou odstraněny před vstupem do jakéhokoli nástroje AI.
• Minimální data: Sdílejte pouze informace potřebné pro daný úkol; Nedávejte celý soubor "pro každý případ".
• Zabezpečený nástroj: Pokud je to možné, upřednostňují se firemní nástroje, které mají smlouvu o zpracování dat a nepoužívají vaše data v modelovém školení; Citlivá data se nenahrávají z osobních účtů.
• Ukládání a mazání: Pokud koncepty vytvořené pomocí AI obsahují data studentů, jsou uloženy v souladu s pravidly instituce a v případě potřeby smazány; Nenechává se na náhodných místech.
• Sdílení: Informace jsou sdíleny pouze s oprávněnými osobami (tým IEP, rodina, příslušný specialista) a pouze v nezbytně nutném rozsahu.

Níže uvedená tabulka shrnuje limity získané v rámci modulu na jednom místě:

oblast

AI umí

AI nemůže / patří k lidem

Hodnocení

Shrnuje anonymní údaje

Diagnózy/změny

BEP

Napíše návrh cílů

Potvrzuje/potvrzuje záměr

materiál

Přizpůsobuje se, rozlišuje

Rozhoduje o kurikulu/autorských právech

AAC

Nástin karty/příběhu

Zvolí metodu a přizpůsobí ji dítěti

chování

ABC shrnuje, radí

Rozhoduje o funkci, schvaluje plán

pokrok

Shrnuje a interpretuje data

Konečné rozhodnutí pokračovat

rodina

textové návrhy

Ověřuje text, vynucuje vztah

Pravý sloupec v této tabulce představuje limit odpovědnosti odborníka a nelze jej za žádných okolností delegovat na AI.

End-to-end bezpečný pracovní postup

Pojďme spojit modul do jednoho toku. Bezpečný pracovní postup výuky podporovaný AI je následující: (1) anonymizovat data; (2) napsat výzvu s jasnými rolemi a hranicemi; (3) získat návrh od AI; (4) ověřte výstup ve třech krocích – odkaz na zdroj, porovnání se skutečným profilem dítěte, expertní filtr; (5) provést audit etiky a zaujatosti; (6) přizpůsobovat a ověřovat s týmem/rodinou; (7) aplikovat a sledovat údaje; (8) uchovávat/mazat směnky podle pravidel instituce. Tento cyklus se opakuje s každým úkolem, přičemž je jasné, kde končí umělá inteligence a začíná odpovědnost odborníka.

tři mini pouzdra

Případ 1 – Chytání zkreslení. Učitel požádal AI o obrys cíle; Ve výstupu byla věta typu „tento typ studentů neumí myslet abstraktně, držte cíl nízko“. Učitel to rozpoznal jako stereotyp; Jeho vlastní student byl schopen navazovat abstraktní vztahy. Vytáhl větu a napsal cíl na základě skutečného potenciálu dítěte. Etický dohled zabránil nízkému očekávání, které by dítěti překáželo.

Případ 2 – Disciplína v oblasti soukromí. Jedna instituce stanovila pravidlo, že všichni učitelé musí před použitím umělé inteligence provést „kontrolu anonymizace“. Učitel odstranil jméno, protokol a informace o rodině, než nechal shrnout zprávu RAM. O měsíce později datový audit ukázal, že organizace neposkytla žádná citlivá data externímu nástroji. Jednoduchý zvyk chránil organizaci před vážným rizikem.

Případ 3 – Chyba při delegování odpovědnosti. Učitel pod časovým tlakem implementoval plán chování vytvořený umělou inteligencí, aniž by jej přečetl. Plán neodpovídal fungování dítěte a chování se stupňovalo. Problémem nebyla „chyba“ AI, ale delegování odpovědnosti. Neověřený výstup je jako nepodepsaný odborný posudek; Odpovědnost je vždy na odborníkovi. Chyba: nahrazení odpovědnosti pohodlností.

Slabá výzva / Silná výzva

Slabá výzva:

Analyzujte vše o tomto studentovi a řekněte mi, co mám dělat.

Tento požadavek nás tlačí ke sdílení více dat (možná obsahujících identitu), než je nutné, tím, že říkáme „všechno“, a přenáší rozhodnutí na AI. Porušuje také dva základní principy.

Výkonná výzva:

Vaše role: asistent specialisty na speciální pedagogiku.Používejte pouze následující anonymní informace specifické pro daný úkol: [požadováno minimum].Úkol: Vytvořte NÁVRH pro [jediný, jasný úkol].Pravidla: Stanovení diagnózy/rozhodování. Negeneralizovat/stereotypovat. Uveďte, že si nejste jisti. Předpokládejme, že to bude ověřeno profesionálem a potvrzeno týmem/rodinou.

Toto tvrzení zahrnuje minimum dat, jasný úkol, zkreslení a limity rozhodování dohromady; Shromažďuje všechny principy modulu v jediné šabloně.

Časté chyby

• Delegování odpovědnosti. Ponechání rozhodnutí na AI; provádění bez čtení výstupu.
• Nevidí předsudky. Nevšímat si stereotypních, očekávání snižujících zobecnění.
• Sdílení nadměrného množství dat. Poskytování nepotřebných citlivých dat nástroji vyslovením „analyzovat vše“.
• Obcházení anonymizace. Práce bez vymazání identity, diagnózy a rodinných informací.
• Nebezpečné skladování konceptů. Ponechání výtisků obsahujících data studentů na náhodných místech.
• Chápat etický audit jako formální. Přeskakování otázek jako „způsobí to škodu, je to spravedlivé, je to zaujaté?“

V souhrnu

Ve speciálním vzdělávání je umělá inteligence mocným pomocníkem, ale protože pracujete s nejzranitelnějšími jedinci, o etice a soukromí se nedá vyjednávat. Vedou nás čtyři principy: beneficience, non-maleficence, spravedlnost, vyhýbání se zaujatosti. Data studentů jsou anonymizována, sdílena s minimálními a bezpečnými prostředky a bezpečně uložena. End-to-end bezpečný pracovní postup; Cyklus je anonymizace, získání konceptu, ověření ve třech krocích, etická kontrola, schválení s týmem/rodinou, sledování s daty. Kdekoli v tomto cyklu končí umělá inteligence, začíná odpovědnost odborníků. Neověřený výstup je jako nepodepsaný odborný posudek; Podpis je vždy váš.

Aplikační úkol

Vyberte si jeden z obrysů, které jste vytvořili v rámci modulu (cíl IEP, materiál, plán chování nebo rodinný text) a proveďte ho všemi kroky „zabezpečeného pracovního postupu end-to-end“ v této jednotce. Zejména zkontrolujte etiku/předpojatost: Dochází ve výstupu ke snížení zevšeobecňování, stigmatizujícímu prohlášení nebo úniku soukromí? Opravte všechny problémy, které najdete, a poznamenejte si, který krok toku daný problém zachytil.

kontrolní seznam

• [ ] Údaje jsem anonymizoval; Sdílel jsem jen nezbytné minimum.
• [ ] Výstup jsem ověřil třemi kroky (zdroj/profil/expert).
• [ ] Očistil jsem předsudky a zobecnění snižující očekávání.
• [ ] Vyplevelil jsem stigmatizující jazyk; Dodržoval jsem čtyři etické zásady.
• [ ] Koncepty jsem uložil/v případě potřeby smazal.
• [ ] Konečné rozhodnutí a odpovědnost jsem převzal jako odborník/tým/rodina.

Modulová zkouška

1. Speciální pedagog se zeptá umělé inteligence „jaká je diagnóza tohoto dítěte“ pouhým zadáním jména a věku studenta a odpověď zapíše do souboru IEP. Jaká je zásadní chyba tohoto přístupu?

• A) Ignorování toho, že pravomoc stanovit diagnózu náleží RAM a autorizovaným odborníkům; také přesunout neověřený výstup do úředního záznamu ✔
• B) Umělé inteligenci je zbytečné dávat informace o věku
• C) Je zakázáno uchovávat soubor BEP v digitálním prostředí
• D) Díky umělé inteligenci se diagnóza vždy zdá těžší, než je

Vysvětlení: Umělá inteligence nemůže a neměla by diagnostikovat; Diagnostika a vyhodnocení je úkolem RAM a autorizovaných odborníků. Navíc bez poskytnutí dat modelu se požadovaný výstup stává výmyslem (halucinací) a sdílení identity studenta je porušením soukromí.

2. Který z následujících je hlavní rys, který by měl mít krátkodobý (měřitelný) cíl BEP?

• A) Cílem je, aby se studentovi předmět obecně líbil
• B) Vychází pouze z pozorování učitele a neobsahuje číselná kritéria
• C) Shromážděte co nejdelší a co nejvíce výsledků v jedné větě.
• D) Obsahuje pozorovatelné chování, kondici a měřitelné kritérium úspěšnosti ✔

Vysvětlení: Krátkodobý cíl zahrnuje pozorovatelné chování, stav a kritérium (kolik pokusů, jaké procento, jaká úroveň nezávislosti). Neměřitelné výrazy jako „rozumí“, „učí se“, „uvědomuje si“ způsobují chyby při psaní účelu.

3. Učitel nahraje zprávu RAM, která obsahuje celé jméno studenta, TR ID a diagnózu, do veřejně dostupného nástroje umělé inteligence a řekne „shrnout“. Jaký by byl správný přístup?

• A) Nahrajte sestavu bez jakýchkoli úprav, protože souhrn vyžaduje všechny informace
• B) Stačí smazat TR ID číslo a nechat jméno a diagnózu
• C) Odstranění informací o identitě, anonymizace dat a výběr bezpečného/institucionálního nástroje ✔
• D) Sdílení zprávy prostřednictvím e-mailu z vašeho osobního účtu a její odpovídající shrnutí

Vysvětlení: Údaje o studentech jsou zvláštní osobní údaje v rámci KVKK. Informace o identitě by měly být odstraněny a data anonymizována („10letý student“), a pokud je to možné, měl by být preferován bezpečný nástroj, který je institucionální a nevyužívá data ve vzdělávání.

4. Jaký je nejlepší přístup při vytváření sociálního příběhu s umělou inteligencí pro alternativní a augmentativní komunikaci (AAC)?

• A) Upravte návrh speciálně pro dítě a nechte jej schválit odborníkem ✔
• B) Využití vytvořeného příběhu přesně pro všechny studenty, aniž byste jej vůbec měnili
• C) Psaní příběhu s co nejdelšími a abstraktními slovy
• D) Poskytování pouze dlouhého textu bez přidání vizuální podpory

Popis: Umělá inteligence generuje koncepty; Sociální anamnéza a komunikační podpora by však měla být přizpůsobena individuálním charakteristikám dítěte a schválena logopedem/specialistou. Obecný obrys nelze použít přímo.

5. Která z následujících možností je základním principem při získávání pomoci od umělé inteligence v plánu podpory pozitivního chování?

• A) Požádejte ho, aby doporučil nejtvrdší trest k rychlému potlačení chování.
• B) Pochopit funkci chování a vytvořit alternativní návrh pozitivního chování a preventivní strategie ✔
• C) Dokončení plánu bez znalosti studenta, jen se podíváme na název chování
• D) Implementace plánu bez zapojení rodiny a specialisty do procesu

Vysvětlení: Podpora pozitivního chování není zaměřena na tresty; Jeho cílem je porozumět funkci chování (funkční hodnocení), preventivním předpisům a poskytnout naučitelné alternativní chování namísto chování nežádoucího. Odborný dohled je nezbytný.

6. Co znamená „rozhodování na základě dat“ při sledování pokroku?

• A) Rozhodnutí pouze na základě jediného pozorování na konci roku
• B) Psaní zprávy o pokroku na základě celkového dojmu učitele, aniž byste se dívali na data
• C) Ponechání rozhodnutí zcela na interpretaci umělé inteligence
• D) Rozhodnutí zachovat, upravit nebo změnit cíl sledováním údajů z pravidelných měření ✔

Vysvětlení: Rozhodování na základě dat je rozhodování o zachování, přizpůsobení nebo změně cíle sledováním pravidelných měření na základě dosažených výsledků (procento, počet pokusů, úroveň nezávislosti). Umělá inteligence shrnuje data a navrhuje interpretaci; Rozhoduje odborník.

7. Jaký je podle principu univerzálního designu (UDL) nejlepší způsob, jak zpřístupnit materiál?

• A) Prezentace materiálu pouze v jednom formátu, malým písmem a hustým textem
• B) Prezentace obsahu několika způsoby, poskytování srozumitelného jazyka a alternativního textu ✔
• C) Odstraňte všechny úpravy a dejte všem stejný standardní materiál
• D) Za předpokladu, že přístupnosti je dosaženo pouze změnou barvy

Popis: UDL si představuje prezentaci obsahu různými způsoby (text, obraz, zvuk), jednoduchý jazyk, alternativní text a flexibilní formáty. Cílem je navrhnout tak, aby vyhovoval různým potřebám, ne pouze jednomu „průměrnému“ studentovi. Finální kontrola závisí na odborném a reálném uživatelském testování.

8. Učitel pošle rodině text s informacemi o rodině vytvořený umělou inteligencí, aniž by jej zkontroloval, a text obsahuje nesprávné datum schůzky a přehnaný slib „uzdravení“. Jaká je zde zásadní chyba?

• A) Vytváření nepravdivých informací a nerealistických očekávání odesláním textu bez jeho ověření ✔
• B) Odeslání psaného textu rodině je samo o sobě špatné.
• C) Text je příliš krátký
• D) Umělá inteligence má přísně zakázáno vytvářet rodinné texty

Popis: Každý text sdílený s rodinou musí být vytvořen s přesností, důvěrností a souhlasem odborníků. Umělá inteligence je plynulá, ale může produkovat falešné informace (halucinace); Text odeslaný bez ověření poškozuje důvěru a proces.

9. Který z následujících postupů je správný při rozlišování ve třídě inkluze/integrace?

• A) Úplně oddělit studenta od třídy a nechat ho dělat každou činnost samostatně
• B) Podporování stejného úspěchu se sdílenou odpovědností, bez přizpůsobování a označování podle úrovně ✔
• C) Předat stejný materiál celé třídě bez výjimky a neprovádět žádné úpravy
• D) Ponechání adaptace pouze na speciálním pedagogovi a vyřazení třídního učitele z procesu

Vysvětlení: Diferenciace znamená přizpůsobení stejného studijního výsledku různým úrovním a podporu studenta, aniž by byl označen. Adaptace je společnou odpovědností třídního učitele a speciálního učitele; Vyhýbáme se řešením, která oddělují a stigmatizují studenta od jeho vrstevníků.

10. Proč je pro jazykové modely umělé inteligence obzvláště riskantní produkovat „halucinace“ v kontextu speciálního vzdělávání?

• A) Protože model vždy běží pomalu
• B) Protože modelka neumí turecky
• C) Protože halucinace se vyskytují pouze při vizuální produkci
• D) Protože smyšlené informace mohou ovlivnit rozhodnutí dítěte o vzdělání a lze je považovat za pravdivé v plynném jazyce ✔

Vysvětlení: Halucinace je, když model plynule vymýšlí neexistující informace, jako by to byla pravda. Vymyšlený právní předpis, nesprávná vývojová norma nebo smyšlená metoda ve speciálním vzdělávání mohou přímo ovlivnit právo dítěte na vzdělávání a rozvoj; takže každý výstup musí být ověřen.

11. Co znamená „vyhýbání se zkreslení“ v etických principech používání umělé inteligence ve speciálním vzdělávání?

• A) Rozpoznání a náprava stereotypních nebo diskriminačních výstupů vytvořených modelem a hodnocení každého dítěte individuálně ✔
• B) Nepište dlouhé výzvy jen proto, abyste získali rychlý výstup.
• C) Použití umělé inteligence pouze na jeden typ překážky
• D) Použití stejné předpojaté šablony na všechny studenty

Vysvětlení: Umělá inteligence může odrážet zkreslení v datech, na kterých je trénována; může vytvářet stereotypní výstupy o konkrétním typu postižení, pohlaví, socioekonomickém postavení nebo kultuře. Specialista by měl v tomto ohledu sledovat výsledek a hodnotit každé dítě individuálně.

12. Proč je důležité při shrnutí zprávy RAM s umělou inteligencí a vytváření profilu studenta zahrnout sekci „silné stránky“?

• A) Aby se zpráva zobrazovala déle
• B) Silné stránky se používají pouze pro formu, i když nejsou zákonem vyžadovány.
• C) Založit plánování na silných stránkách a nedefinovat studenta pouze jeho nedostatky ✔
• D) Úplně ignorovat potřeby a psát jen pozitivně

Vysvětlení: Plánování ve speciálním vzdělávání je založeno na silných stránkách; Pouze profil orientovaný na nedostatek/potřebu definuje studenta s jeho nedostatky. Silné stránky jsou základem cílů a motivace a poskytují pozitivní výhled orientovaný na růst.

13. Jaký je správný přístup z hlediska „autorských práv a originality“ při výrobě upraveného materiálu?

• A) Reprodukce výstupu pomocí znaků a obsahu chráněného autorským právem bez kontroly
• B) Kontrola a originalizace materiálu z hlediska souladu s učebními osnovami, správnosti a autorských práv ✔
• C) Distribuujte každý obrázek komerčně bez ohledu na zdroj
• D) Za předpokladu, že se otázka autorských práv vůbec nevztahuje na digitální materiál

Vysvětlení: Výstup umělé inteligence mohl být napájen z jiných zdrojů; může obsahovat obsah chráněný autorským právem, znaky značek nebo neověřené informace. Odborník by měl zkontrolovat, zda je materiál v souladu s osnovami, přesností a autorskými právy, a v případě potřeby uvést zdroj a originálně jej upravit.

14. Jak hlavní princip zdůrazňovaný v modulu popisuje roli umělé inteligence ve speciálním vzdělávání?

• A) Umělá inteligence nahrazuje odborníka a rozhoduje automaticky
• B) Umělou inteligenci lze použít pouze pro psaní poznámek a nic jiného
• C) Při použití umělé inteligence již není nutný odborný dohled
• D) Umělá inteligence je asistentem a generátorem návrhů; Konečné rozhodnutí a odpovědnost leží na specialistovi, týmu a rodině ✔

Popis: Umělá inteligence je asistent a generátor skic; Diagnostika, umístění, stanovení cílů a rozhodnutí ovlivňující budoucnost dítěte náleží kompetentnímu specialistovi, týmu IEP a rodině. Neověřený výstup je jako nepodepsaný znalecký verdikt.