Dobički:
- Sposobnost transformacije etičnih načel uporabe umetne inteligence v specialnem izobraževanju (dobrohotnost, neškodljivost, pravičnost, izogibanje pristranskosti) v konkretna pravila
- Sposobnost upravljanja zasebnosti študentskih in družinskih podatkov, omejitev shranjevanja in deljenja podatkov v okviru KVKK
- Sposobnost povezovanja učenja v celotnem modulu v varen delovni tok od konca do konca in definiranja, kje se konča umetna inteligenca in začne odgovornost strokovnjakov
Skozi ta modul smo se naučili uporabljati umetno inteligenco kot pomočnika: pripravili smo cilj IEP, prilagodili materiale, vzpostavili AAC in vedenjski načrt, spremljali napredek in okrepili komunikacijo z družino. Ta zadnja enota obravnava okvir, ki drži vse skupaj: etiko, zasebnost in strokovni nadzor. Ker »podatki«, s katerimi delate v specialnem izobraževanju, niso tabela, ampak otrok; "Izhod", ki ga ustvarite, ni dokument, ampak odločitev, ki vpliva na otrokovo pravico do izobraževanja. Umetna inteligenca zagotavlja veliko udobje na tem področju; Toda ob nepravilni uporabi so ljudje, ki se lahko najbolj poškodujejo, tudi najbolj ranljivi. Še zadnjič ponovimo načelo, ki smo ga postavili na začetku: Umetna inteligenca je pomočnik; Diagnoza, namestitev, namen in odločitve, ki vplivajo na otrokovo prihodnost, so v pristojnosti pristojnega specialista, tima IEP in družine.
Štiri etična načela in njihovi konkretni dvojniki
Uporabo umetne inteligence v specialnem izobraževanju lahko pripišemo štirim osnovnim etičnim načelom:
- Dobrodelnost: AI je treba uporabiti za resnično prispevanje k otrokovemu izobraževanju; Učitelju naj bi pomagal sprostiti svoj čas in otroku posvetiti več pozornosti. Uporaba ni sama sebi namen.
- Neškodljivost: Nepreverjeni, za otroke neprimerni ali stigmatizirajoči rezultati lahko povzročijo škodo. Vsak rezultat gre skozi filter "bo to škodilo otroku?"
- Pravica: Vsak otrok mora imeti enak dostop do virov in kakovostne izobrazbe. Umetna inteligenca ne sme privilegirati nekaterih otrok in zanemarjati drugih; Vsakemu je treba posvetiti individualno pozornost.
- Izogibanje pristranskosti: AI lahko odraža stereotipe v podatkih, na katerih se usposablja; Posebna vrsta invalidnosti lahko povzroči diskriminacijo glede spola, kulture ali socialno-ekonomskega statusa. Specialist mora prepoznati in popraviti te rezultate ter oceniti vsakega otroka posebej.
Pristranskost je še posebej pomembna, ker je zahrbtna. AI lahko tekoče proizvede stavek, kot je "taki otroci običajno ne morejo narediti X"; Vendar je to stereotip, ki je hkrati napačen in otroka ovira. Naloga specialista je videti te vzorce in oceniti otroka z njegovim potencialom.
Pozor: nobenih posplošitev, ki jih ustvari umetna inteligenca ("otroci z motnjami X lahko/delajo Y"), ni mogoče uporabiti za omejevanje otrokovega namena. Nizka pričakovanja so ena najpogostejših in najbolj nevidnih oblik diskriminacije.
Zasebnost: omejitve shranjevanja in skupne rabe podatkov
Podatki študenta (identiteta, diagnoza, izvid RAM, vedenjski zapis, družinski podatki) so posebni osebni podatki v okviru KVKK. Razjasnimo pravila v tej enoti:
- Anonimiziraj: Ime, ID, protokol, šola, naslov in družinski podatki so odstranjeni pred vstopom v katero koli orodje AI.
- Minimalni podatki: delite samo informacije, potrebne za nalogo; Ne dajajte celotne datoteke "za vsak slučaj".
- Varno orodje: če je mogoče, imajo prednost korporativna orodja, ki imajo pogodbo o obdelavi podatkov in ne uporabljajo vaših podatkov pri usposabljanju modelov; Občutljivi podatki se ne nalagajo iz osebnih računov.
- Shranjevanje in brisanje: če osnutki, ustvarjeni z AI, vsebujejo podatke študentov, se shranijo v skladu s pravili ustanove in po potrebi izbrišejo; Ne pušča se na naključnih mestih.
- Izmenjava: informacije se delijo le s pooblaščenimi osebami (ekipo IEP, družino, ustreznim specialistom) in le toliko, kolikor je potrebno.
Spodnja tabela na enem mestu povzema omejitve, pridobljene skozi modul:
območje
AI lahko
AI ne more / pripada ljudem
Evalvacija
Povzema anonimne podatke
Diagnoze/spremembe
BEP
Napiše osnutek ciljev
Potrjuje/potrjuje namen
material
Prilagaja, razlikuje
Sprejme odločitev o učnem načrtu/avtorskih pravicah
AAC
Oris kartice/zgodbe
Izbere način in ga prilagodi otroku
obnašanje
ABC povzema, svetuje
Odloča o funkciji, potrdi načrt
napredek
Povzema in interpretira podatke
Končna odločitev za nadaljevanje
družina
besedilni osnutki
Potrjuje besedilo, uveljavlja razmerje
Desni stolpec v tej tabeli je meja odgovornosti strokovnjaka in ga v nobenem primeru ni mogoče prenesti na AI.
Varen potek dela od konca do konca
Združimo modul v en sam tok. Varen inštruktorski potek dela, podprt z AI, je naslednji: (1) anonimizirajte podatke; (2) napišite poziv z jasnimi vlogami in mejami; (3) pridobi osnutek od AI; (4) preveri izhod v treh korakih — povezava z virom, primerjava z otrokovim dejanskim profilom, strokovni filter; (5) izvaja presojo etike in pristranskosti; (6) prilagajanje in potrjevanje z ekipo/družino; (7) uporabljati in spremljati s podatki; (8) hrani/briše osnutke v skladu s pravili zavoda. Ta cikel se ponovi z vsako nalogo, pri čemer je jasno, kje se umetna inteligenca konča in začne odgovornost strokovnjaka.
trije mini kovčki
Primer 1 – Lovljenje pristranskosti. Učitelj je prosil AI za oris cilja; V rezultatu je bil stavek, kot je "ta vrsta študentov ne more razmišljati abstraktno, cilj naj bo nizek." Učiteljica je to prepoznala kot stereotip; Njegov učenec je bil sposoben vzpostaviti abstraktne odnose. Izluščil je stavek in zapisal cilj glede na otrokov resnični potencial. Etični nadzor je preprečil nizka pričakovanja, ki bi otroka ovirala.
Primer 2 – disciplina zasebnosti. Ena institucija je za vse učitelje določila pravilo, da pred uporabo umetne inteligence opravijo "preverjanje anonimizacije". Učitelj je odstranil ime, protokol in podatke o družini, preden je dobil povzetek poročila RAM. Nekaj mesecev kasneje je revizija podatkov pokazala, da organizacija ni posredovala nobenih občutljivih podatkov zunanjemu orodju. Preprosta navada je organizacijo zaščitila pred resnim tveganjem.
Primer 3 – Napaka pri prenosu odgovornosti. Učitelj je pod časovnim pritiskom izvedel vedenjski načrt, ki ga je izdelala umetna inteligenca, ne da bi ga prebral. Načrt ni ustrezal otrokovemu funkcioniranju in vedenje se je stopnjevalo. Težava ni bila "napaka" AI, ampak prenos odgovornosti. Nepreverjen rezultat je kot nepodpisana strokovna presoja; Odgovornost vedno nosi strokovnjak. Napaka: zamenjava udobja za odgovornost.
Šibek poziv/močan poziv
Šibek poziv:
Analiziraj vse o tem študentu in mi povej, kaj naj naredim.
Ta zahteva nas prisili, da delimo več podatkov (morda vsebujejo identiteto), kot je potrebno, tako da rečemo "vse", in prenese odločitev na AI. Prav tako krši dve osnovni načeli.
Močan poziv:
Vaša vloga: pomočnik specialista za specialno izobraževanje. Uporabite samo naslednje anonimne informacije, specifične za nalogo: [potrebno najmanj]. Naloga: Izdelajte OSNUTEK za [eno, jasno nalogo]. Pravila: Diagnoza/odločanje. Ne posplošuj/stereotipiziraj. Navedite, da niste prepričani. Predpostavimo, da bo to preveril strokovnjak in potrdilo z ekipo/družino.
Ta trditev vključuje minimalne podatke, jasno nalogo, pristranskost in omejitve odločanja skupaj; Zbira vsa načela modula v eni predlogi.
Pogoste napake
- Prenos odgovornosti. Prepuščanje odločitve AI; izvajanje brez branja izhoda.
- Ne vidim predsodkov. Ne opaziti stereotipnih posploševanj, ki zmanjšujejo pričakovanja.
- Deljenje odvečnih podatkov. Dajanje nepotrebnih, občutljivih podatkov orodju z besedami "analiziraj vse".
- Obhod anonimizacije. Delo brez razjasnitve identitete, diagnoze in družinskih podatkov.
- Nevarno shranjevanje osnutkov. Puščanje izpisov s podatki študentov na naključnih mestih.
- Videti etično presojo kot formalno. Preskakovanje vprašanj, kot je "ali bo povzročilo škodo, ali je pošteno, ali je pristransko?"
Če povzamem
Pri posebnem izobraževanju je umetna inteligenca močan pomočnik, a ker delate z najbolj ranljivimi posamezniki, se o etiki in zasebnosti ni mogoče pogajati. Vodijo nas štiri načela: dobrotljivost, neškodljivost, pravičnost, izogibanje pristranskosti. Podatki študentov so anonimizirani, deljeni z minimalnimi in varnimi sredstvi ter varno shranjeni. varen potek dela od konca do konca; Cikel je anonimizacija, pridobitev osnutka, preverjanje v treh korakih, etični pregled, odobritev z ekipo/družino, sledenje s podatki. Kjer koli se AI v tem ciklu konča, se začne odgovornost strokovnjakov. Nepreverjen rezultat je kot nepodpisana strokovna presoja; Podpis je vedno tvoj.
Aplikacijska naloga
Izberite enega od orisov, ki ste jih ustvarili skozi modul (cilj IEP, gradivo, vedenjski načrt ali družinsko besedilo) in ga popeljite skozi vse korake "varnega poteka dela od konca do konca" v tej enoti. Zlasti preverite etičnost/pristranskost: ali je v izpisu prisotno slabše posploševanje, stigmatizirajoča izjava ali uhajanje zasebnosti? Odpravite vse težave, ki jih najdete, in zabeležite, v katerem koraku poteka je prišlo do te težave.
kontrolni seznam
- [ ] Podatke sem anonimiziral; Delil sem le potrebni minimum.
- [ ] Izhod sem preveril s tremi koraki (vir/profil/strokovnjak).
- [ ] Očistil sem predsodkov in posploševanj, ki zmanjšujejo pričakovanja.
- [ ] Izločil sem stigmatizirajoči jezik; Upošteval sem štiri etična načela.
- [ ] Osnutke sem shranil/izbrisal, ko je bilo potrebno.
- [ ] Končno odločitev in odgovornost sem prevzel kot strokovnjak/tim/družina.
Modulni izpit
1. Učitelj posebnega pouka vpraša umetno inteligenco 'kakšna je diagnoza tega otroka' tako, da preprosto navede ime in starost učenca in odgovor zapiše v datoteko IEP. Kaj je temeljna napaka v tem pristopu?
- A) Ignoriranje, da je za diagnozo pristojen RAM in pooblaščeni strokovnjaki; premaknite tudi nepreverjen izhod v uradni zapis ✔
- B) Umetni inteligenci ni potrebno posredovati podatkov o starosti
- C) Datoteke BEP je prepovedano hraniti v digitalnem okolju
- D) Zaradi umetne inteligence se diagnoza vedno zdi težja, kot je
Pojasnilo: Umetna inteligenca ne more in ne sme diagnosticirati; Diagnostika in ocena sta naloga RAM-a in pooblaščenih strokovnjakov. Poleg tega brez dajanja podatkov modelu želeni izhod postane izmišljotina (halucinacija), deljenje identitete študenta pa kršitev zasebnosti.
2. Kaj od naslednjega je glavna značilnost, ki bi jo moral imeti kratkoročni (merljivi) cilj BEP?
- A) Cilj je, da bo študentu predmet na splošno všeč
- B) Temelji le na učiteljevem opazovanju in ne vsebuje številčnih kriterijev
- C) Zberi čim daljše in čim več rezultatov v en stavek.
- D) Vsebuje opazno vedenje, stanje in merljivo merilo uspeha ✔
Pojasnilo: Kratkoročni cilj vključuje opazno vedenje, stanje in merilo (koliko poskusov, kakšen odstotek, kakšna stopnja neodvisnosti). Neizmerljivi izrazi, kot so 'razume', 'se uči', 'se zaveda' povzročajo napake pri pisanju namena.
3. Učitelj naloži poročilo RAM, ki vključuje študentovo polno ime, številko TR ID in diagnozo, v javno dostopno orodje za umetno inteligenco in pravi "povzeti". Kakšen bi bil pravi pristop?
- A) Naložite poročilo brez sprememb, ker povzetek zahteva vse informacije
- B) Samo izbrišite številko TR ID in pustite ime in diagnozo
- C) Odstranjevanje podatkov o identiteti, anonimizacija podatkov in izbira varnega/institucionalnega orodja ✔
- D) Deljenje poročila po e-pošti iz vašega osebnega računa in njegovo ustrezno povzemanje
Pojasnilo: Podatki študenta so posebni osebni podatki v okviru KVKK. Podatke o identiteti je treba odstraniti in podatke anonimizirati ('10-letni učenec'), in če je mogoče, je treba dati prednost varnemu orodju, ki je institucionalno in ne uporablja podatkov v izobraževanju.
4. Kakšen je najboljši odnos pri ustvarjanju družbene zgodbe z umetno inteligenco za alternativno in dopolnilno komunikacijo (AAC)?
- A) Osnutek prilagodite posebej otroku in ga odobri strokovnjak ✔
- B) Natančna uporaba izdelane zgodbe za vse učence, ne da bi jo sploh spremenili
- C) Pisanje zgodbe s čim daljšimi in abstraktnimi besedami
- D) Podajanje samo dolgega besedila brez dodajanja vizualne podpore
Opis: Umetna inteligenca ustvarja osnutke; Vendar morata biti socialna anamneza in komunikacijska podpora prilagojeni individualnim značilnostim otroka in odobreni s strani logopeda/specialista. Splošnega okvira ni mogoče neposredno uporabiti.
5. Kaj od naslednjega je osnovno načelo pri pridobivanju pomoči umetne inteligence v načrtu podpore pozitivnemu vedenju?
- A) Prosite ga/jo, naj priporoči najstrožjo kazen za hitro zatiranje vedenja.
- B) Razumeti funkcijo vedenja in pripraviti alternativni osnutek pozitivnega vedenja in preventivne strategije ✔
- C) Dokončanje načrta brez poznavanja učenca, samo pogled na ime vedenja
- D) Izvajanje načrta brez vključevanja družine in strokovnjaka v proces
Pojasnilo: Podpora pozitivnemu vedenju ni usmerjena v kaznovanje; Njegov cilj je razumeti funkcijo vedenja (funkcionalno vrednotenje), preventivne predpise in zagotoviti učljivo alternativno vedenje namesto nezaželenega vedenja. Nujen je strokovni nadzor.
6. Kaj pomeni 'podatkovno vodena odločitev' pri sledenju napredka?
- A) Sprejemanje odločitve samo na podlagi enega samega opazovanja ob koncu leta
- B) Pisanje poročila o napredku na podlagi učiteljevega splošnega vtisa brez vpogleda v podatke
- C) Prepuščanje odločitve v celoti interpretaciji umetne inteligence
- D) Sprejemanje odločitve za ohranitev, prilagoditev ali spremembo cilja na podlagi podatkov rednih meritev ✔
Pojasnilo: Odločanje na podlagi podatkov je odločanje o ohranitvi, prilagoditvi ali spremembi cilja z upoštevanjem rednih meritev na podlagi dosežkov (odstotek, število poskusov, stopnja neodvisnosti). Umetna inteligenca povzema podatke in predlaga interpretacijo; Strokovnjak sprejme odločitev.
7. Kaj je glede na načelo univerzalnega oblikovanja (UDL) najboljši način za dostopnost gradiva?
- A) Predstavitev gradiva samo v enem formatu, v drobnem tisku in gostem besedilu
- B) Predstavitev vsebine na več načinov, zagotavljanje preprostega jezika in alternativnega besedila ✔
- C) Odstranite vse prilagoditve in vsem dajte enak standardni material
- D) Predpostavimo, da je dostopnost dosežena samo s spremembo barve
Opis: UDL predvideva predstavitev vsebine na več načinov (besedilni, vizualni, zvočni), v preprostem jeziku, alternativnem besedilu in prilagodljivih formatih. Cilj je oblikovati tako, da ustreza različnim potrebam, ne le enemu "povprečnemu" študentu. Končni pregled je odvisen od testiranja strokovnjakov in dejanskega uporabnika.
8. Učitelj družini pošlje družinsko informacijsko besedilo, ki ga je izdelala umetna inteligenca, ne da bi ga preveril, besedilo pa vsebuje napačen datum sestanka in pretirano obljubo o 'okrevanju'. Kaj je tu temeljna napaka?
- A) Ustvarjanje lažnih informacij in nerealnih pričakovanj s pošiljanjem besedila, ne da bi ga preverili ✔
- B) Pošiljanje pisnega besedila družini je samo po sebi napačno.
- C) Besedilo je prekratko
- D) Umetni inteligenci je strogo prepovedano ustvarjanje družinskega besedila
Opis: Vsako besedilo, ki ga delite z družino, mora biti izdelano natančno, zaupno in s strokovno odobritvijo. Umetna inteligenca je tekoča, vendar lahko ustvari lažne informacije (halucinacije); Besedilo, poslano brez preverjanja, škodi zaupanju in postopku.
9. Kaj od naslednjega je pravilen pristop pri diferenciaciji v inkluzijskem/integracijskem razredu?
- A) Popolnoma ločiti učenca od razreda in omogočiti, da vsako dejavnost opravi sam
- B) Podpiranje istega dosežka s skupno odgovornostjo, brez prilagajanja in označevanja glede na stopnjo ✔
- C) Dajanje istega gradiva celotnemu razredu brez izjeme in brez prilagajanja
- D) Prepuščanje prilagajanja le defektologu in izločitev učitelja razrednega pouka iz procesa
Pojasnilo: Diferenciacija pomeni prilagajanje istega učnega rezultata različnim stopnjam in podporo učencu, ne da bi ga označevali. Prilagajanje je soodgovornost razrednika in defektologa; Izogiba se rešitvam, ki študenta ločujejo in stigmatizirajo od vrstnikov.
10. Zakaj je posebej tvegano, da jezikovni modeli umetne inteligence ustvarjajo 'halucinacije' v kontekstu posebnega izobraževanja?
- A) Ker model vedno teče počasi
- B) Ker model ne zna turško
- C) Ker se halucinacija pojavi samo v vizualni produkciji
- D) Ker lahko izmišljene informacije vplivajo na otrokovo odločitev o izobraževanju in se lahko domneva, da so resnične v tekočem jeziku ✔
Pojasnilo: Halucinacija je, ko model tekoče izmišlja neobstoječo informacijo, kot da bi bila resnična. Izmišljen zakon, nepravilen razvojni normativ ali namišljena metoda v specialnem izobraževanju lahko neposredno vpliva na otrokovo pravico do izobraževanja in razvoja; zato mora biti vsak izhod potrjen.
11. Kaj pomeni 'izogibanje pristranskosti' v etičnih načelih uporabe umetne inteligence v posebnem izobraževanju?
- A) Prepoznavanje in popravljanje stereotipnih ali diskriminatornih rezultatov, ki jih ustvari model, in ocenjevanje vsakega otroka posebej ✔
- B) Ne pisanje dolgih pozivov samo za hiter izpis.
- C) Uporaba umetne inteligence samo na eni vrsti ovire
- D) Uporaba iste pristranske predloge za vse študente
Pojasnilo: umetna inteligenca lahko odraža pristranskosti v podatkih, na podlagi katerih se usposablja; lahko povzroči stereotipne rezultate o določeni vrsti invalidnosti, spolu, družbenoekonomskem statusu ali kulturi. Specialist mora spremljati izid v zvezi s tem in oceniti vsakega otroka posebej.
12. Zakaj je pri povzemanju poročila RAM z umetno inteligenco in ustvarjanju profila študenta pomembno vključiti razdelek o prednostih?
- A) Da bo poročilo daljše
- B) Prednosti se uporabljajo samo za obliko, čeprav niso zakonsko obvezne.
- C) Osnovati načrtovanje na prednostih in ne opredeljevati študenta le z njegovimi pomanjkljivostmi ✔
- D) Popolnoma zanemariti potrebe in pisati samo pozitivno
Pojasnilo: Načrtovanje v posebnem izobraževanju temelji na prednostih; Šele profil, usmerjen v pomanjkljivosti/potrebe, opredeljuje študenta z njegovimi pomanjkljivostmi. Prednosti so osnova za cilje in motivacijo ter zagotavljajo pozitiven, v rast usmerjen pogled.
13. Kakšen je pravilen odnos do 'avtorskih pravic in izvirnosti' pri produkciji prirejenega gradiva?
- A) Reprodukcija izpisa z avtorsko zaščitenimi znaki in vsebino brez preverjanja
- B) Preverjanje in izvirnost gradiva glede skladnosti z učnim načrtom, točnosti in avtorskih pravic ✔
- C) Komercialno distribuirajte vsako sliko, ne glede na vir
- D) Ob predpostavki, da vprašanje avtorskih pravic sploh ne velja za digitalno gradivo
Pojasnilo: Izhodni podatki umetne inteligence so morda napajani iz drugih virov; lahko vsebuje avtorsko zaščiteno vsebino, znake blagovnih znamk ali nepreverjene informacije. Strokovnjak mora preveriti skladnost gradiva z učnim načrtom, točnost in avtorske pravice ter navesti vir in ga po potrebi originalizirati.
14. Kako ključno načelo, poudarjeno skozi modul, opisuje vlogo umetne inteligence v posebnem izobraževanju?
- A) Umetna inteligenca nadomešča strokovnjaka in se samodejno odloča
- B) Umetna inteligenca se lahko uporablja le za zapisovanje in nič drugega
- C) Pri uporabi umetne inteligence strokovni nadzor ni več potreben
- D) Umetna inteligenca je pomočnik in generator osnutka; Končna odločitev in odgovornost je na strani specialista, ekipe in družine ✔
Opis: Umetna inteligenca je pomočnik in generator skic; Diagnoza, namestitev, postavljanje ciljev in odločitve, ki vplivajo na otrokovo prihodnost, so v pristojnosti pristojnega specialista, tima IEP in družine. Nepreverjen izpis je kot nepodpisana strokovna sodba.