Etika, privatnost, stručni nadzor i ograničenja u praksi

Dobici:

• Sposobnost preobrazbe etičkih načela korištenja umjetne inteligencije u specijalnom obrazovanju (dobrotvornost, neškodljivost, pravednost, izbjegavanje pristranosti) u konkretna pravila
• Mogućnost upravljanja privatnošću studentskih i obiteljskih podataka, ograničenja pohrane i dijeljenja podataka u okviru KVKK
• Sposobnost povezivanja učenja kroz modul u siguran tijek rada od početka do kraja i definiranje gdje završava umjetna inteligencija i počinje odgovornost stručnjaka

Tijekom ovog modula naučili smo koristiti AI kao pomoćnika: izradili smo cilj IEP-a, prilagodili materijale, uspostavili AAC i plan ponašanja, pratili napredak i ojačali komunikaciju s obitelji. Ova završna jedinica razmatra okvir koji sve drži na okupu: etiku, privatnost i stručni nadzor. Jer "podatak" s kojim radite u defektologiji nije stol, nego dijete; "Izlaz" koji proizvedete nije dokument, već odluka koja utječe na pravo djeteta na obrazovanje. Umjetna inteligencija pruža veliku pogodnost u ovom polju; Ali kada se koristi neispravno, ljudi koji mogu biti najviše ozlijeđeni su i najranjiviji. Ponovimo posljednji put načelo koje smo postavili od početka: Umjetna inteligencija je pomoćnik; Dijagnoza, smještaj, svrha i odluke koje utječu na budućnost djeteta pripadaju nadležnom specijalistu, IEP timu i obitelji.

Četiri etička načela i njihovi konkretni pandani

Korištenje umjetne inteligencije u specijalnom obrazovanju možemo pripisati četirima temeljnim etičkim načelima:

• Dobročinstvo: umjetna inteligencija bi se trebala koristiti za istinski doprinos obrazovanju djeteta; To bi trebalo pomoći učitelju da oslobodi svoje vrijeme i posveti više pažnje djetetu. Upotreba nije sama sebi cilj.
• Nezlobnost: Neprovjereni, neprikladni za djecu ili stigmatizirajući rezultati mogu uzrokovati štetu. Svaki izlaz prolazi kroz filter "hoće li ovo naštetiti djetetu?"
• Pravda: Svako dijete treba imati jednak pristup resursima i kvalitetnom obrazovanju. AI ne bi trebala privilegirati neku djecu, a zanemarivati ​​drugu; Svakome treba posvetiti individualnu pažnju.
• Izbjegavanje pristranosti: AI može odražavati stereotipe u podacima na kojima se obučava; Specifična vrsta invaliditeta može proizvesti diskriminatorne rezultate o spolu, kulturi ili socioekonomskom statusu. Specijalist mora prepoznati i korigirati te ishode te procijeniti svako dijete pojedinačno.

Pristranost je posebno važna jer je podmukla. AI može tečno proizvesti rečenicu poput "takva djeca obično ne mogu učiniti X"; No, to je stereotip koji je i pogrešan i koči dijete. Zadatak stručnjaka je vidjeti te obrasce i procijeniti dijete s njegovim potencijalom.

Oprez: Generalizacije koje je generirala umjetna inteligencija ("djeca s invaliditetom X mogu/učine Y") ne mogu se koristiti za ograničavanje djetetove svrhe. Niska očekivanja jedan su od najčešćih i najnevidljivijih oblika diskriminacije.

Privatnost: ograničenja pohrane i dijeljenja podataka

Podaci o učeniku (identitet, dijagnoza, RAM izvješće, evidencija o ponašanju, podaci o obitelji) posebni su osobni podaci iz djelokruga KVKK. Pojasnimo pravila u ovoj jedinici:

• Anonimiziraj: Ime, ID, protokol, škola, adresa i podaci o obitelji uklanjaju se prije ulaska u bilo koji AI alat.
• Minimalni podaci: Podijelite samo informacije potrebne za zadatak; Nemojte dati cijelu datoteku "za svaki slučaj".
• Siguran alat: ako je moguće, preferiraju se korporativni alati koji imaju ugovor o obradi podataka i ne koriste vaše podatke u obuci modela; Osjetljivi podaci ne učitavaju se s osobnih računa.
• Pohranjivanje i brisanje: Ako nacrti proizvedeni s AI sadrže podatke o studentima, oni se pohranjuju u skladu s pravilima ustanove i brišu kada je to potrebno; Ne ostavlja se na nasumičnim mjestima.
• Dijeljenje: Informacije se dijele samo s ovlaštenim osobama (IEP tim, obitelj, relevantni specijalist) i samo onoliko koliko je potrebno.

Tablica u nastavku na jednom mjestu sažima ograničenja naučena kroz modul:

područje

AI može

AI ne može / pripada ljudima

Evaluacija

Sažima anonimne podatke

Dijagnoze/promjene

BEP

Piše nacrt ciljeva

Potvrđuje/potvrđuje namjeru

materijala

Prilagođava se, razlikuje

Donosi odluku o nastavnom planu i programu/autorskim pravima

AAC

Pregled kartice/priče

Odabire metodu i prilagođava je djetetu

ponašanje

ABC sažima, daje savjete

Odlučuje o funkciji, odobrava plan

napredak

Sažima i interpretira podatke

Konačna odluka za nastavak

obitelji

nacrti teksta

Provjerava tekst, provodi odnos

Desni stupac u ovoj tablici je granica odgovornosti stručnjaka i ne može se prenijeti na AI ni pod kojim okolnostima.

Siguran tijek rada od kraja do kraja

Kombinirajmo modul u jedan tok. Siguran tijek podučavanja podržan AI je sljedeći: (1) anonimizirati podatke; (2) napisati upit s jasnim ulogama i granicama; (3) dobiti nacrt od AI; (4) provjeriti izlaz u tri koraka — povezati s izvorom, usporediti sa stvarnim profilom djeteta, stručni filtar; (5) provesti reviziju etike i pristranosti; (6) prilagoditi i potvrditi s timom/obitelji; (7) primijeniti i pratiti podacima; (8) čuvati/brisati nacrte prema pravilima ustanove. Ovaj se ciklus ponavlja sa svakim zadatkom, jasno pokazujući gdje AI završava, a počinje odgovornost stručnjaka.

tri mini kućišta

Slučaj 1 — Hvatanje pristranosti. Učitelj je tražio od umjetne inteligencije nacrt cilja; U izlazu je bila rečenica kao što je "ovaj tip učenika ne može razmišljati apstraktno, držite cilj niskim." Učiteljica je to prepoznala kao stereotip; Njegov vlastiti učenik bio je u stanju uspostaviti apstraktne odnose. Izdvojio je rečenicu i napisao cilj na temelju pravog potencijala djeteta. Etički nadzor spriječio je niska očekivanja koja bi ometala dijete.

Slučaj 2 — Disciplina privatnosti. Jedna je institucija postavila pravilo za sve učitelje da prije upotrebe umjetne inteligencije obave "anonimnu provjeru". Učitelj je uklonio ime, protokol i podatke o obitelji prije nego što je sažeto izvješće RAM-a. Nekoliko mjeseci kasnije, revizija podataka pokazala je da organizacija nije dostavila nikakve osjetljive podatke vanjskom alatu. Jednostavna navika zaštitila je organizaciju od ozbiljnog rizika.

Slučaj 3 — Pogreška u delegiranju odgovornosti. Učitelj je pod vremenskim pritiskom implementirao plan ponašanja koji je izradila umjetna inteligencija, a da ga nije pročitao. Plan se nije uklapao u djetetovo funkcioniranje i ponašanje je eskaliralo. Problem nije bila "pogreška" umjetne inteligencije, već delegiranje odgovornosti. Neprovjereni izlaz je poput nepotpisane stručne prosudbe; Odgovornost uvijek leži na stručnjaku. Pogreška: zamjena pogodnosti za odgovornost.

Slab upit / Jak upit

Slab upit:

Analiziraj sve o ovom učeniku i reci mi što da radim.

Ovaj zahtjev nas tjera da podijelimo više podataka (možda koji sadrže identitet) nego što je potrebno govoreći "sve" i prenosi odluku na AI. Također krši dva osnovna načela.

Snažan upit:

Vaša uloga: pomoćnik stručnjaka za specijalno obrazovanje. Koristite samo sljedeće anonimne podatke specifične za zadatak: [potreban minimum]. Zadatak: Izradite NACRT za [jedan, jasan zadatak]. Pravila: Dijagnoza/donošenje odluka. Nemojte generalizirati/stereotipizirati. Navedite da niste sigurni. Pretpostavimo da će to potvrditi stručnjak i potvrditi tim/obitelj.

Ova tvrdnja uključuje minimalne podatke, jasan zadatak, pristranost i ograničenja odluke zajedno; Sakuplja sve principe modula u jednom predlošku.

Uobičajene greške

• Delegiranje odgovornosti. Prepuštanje odluke AI-u; izvršavanje bez čitanja izlaza.
• Ne videći predrasude. Ne uočavanje stereotipnih generalizacija koje smanjuju očekivanja.
• Dijeljenje prekomjernih podataka. Davanje nepotrebnih, osjetljivih podataka alatu govoreći "analiziraj sve".
• Zaobilaženje anonimizacije. Rad bez brisanja identiteta, dijagnoze i obiteljskih podataka.
• Nesigurno pohranjivanje nacrta. Ostavljanje ispisa s podacima učenika na nasumičnim mjestima.
• Promatranje etičke revizije kao formalne. Preskakanje pitanja poput "hoće li uzrokovati štetu, je li pravedno, je li pristrano?"

Ukratko

U specijalnom obrazovanju AI je moćan pomoćnik, ali budući da radite s najranjivijim pojedincima, etika i privatnost su neosporni. Vode nas četiri načela: dobročinstvo, bezazlenost, pravda, izbjegavanje pristranosti. Podaci učenika anonimizirani su, dijele se s minimalnim i sigurnim sredstvima i sigurno se pohranjuju. Siguran tijek rada od kraja do kraja; Ciklus je anonimizacija, dobivanje nacrta, provjera u tri koraka, etički pregled, odobravanje s timom/obitelji, praćenje s podacima. Gdje god AI završi u ovom ciklusu, počinje odgovornost stručnjaka. Neprovjereni izlaz je poput nepotpisane stručne prosudbe; Potpis je uvijek tvoj.

Zadatak aplikacije

Odaberite jedan od nacrta koje ste izradili tijekom modula (IEP cilj, materijal, plan ponašanja ili obiteljski tekst) i prođite kroz sve korake "sigurnog tijeka rada od kraja do kraja" u ovoj jedinici. Posebno provjerite etičnost/pristranost: postoji li ponižavajuća generalizacija, stigmatizirajuća izjava ili curenje privatnosti u rezultatu? Riješite sve probleme koje pronađete i zabilježite koji je korak u tijeku doveo do tog problema.

popis za provjeru

• [ ] Anonimizirao sam podatke; Podijelio sam samo potreban minimum.
• [ ] Provjerio sam izlaz u tri koraka (izvor/profil/stručnjak).
• [ ] Očistio sam predrasude i generalizacije koje smanjuju očekivanja.
• [ ] Iskorijenio sam stigmatizirajući jezik; Pridržavao sam se četiri etička načela.
• [ ] Čuvao sam nacrte na sigurnom/izbrisao ih kad je bilo potrebno.
• [ ] Ja sam preuzeo konačnu odluku i odgovornost kao stručnjak/tim/obitelj.

Modul ispit

1. Učiteljica defektologije pita umjetnu inteligenciju 'koja je dijagnoza ovog djeteta' jednostavnim davanjem imena i godina učenika i zapisuje odgovor u IEP datoteku. Koja je temeljna pogreška u ovom pristupu?

• A) Ignoriranje da ovlast za postavljanje dijagnoze pripada RAM-u i ovlaštenim stručnjacima; također premjestiti neprovjereni izlaz u službeni zapis ✔
• B) Umjetnoj inteligenciji nije potrebno davati podatke o dobi
• C) Zabranjeno je čuvanje BEP datoteke u digitalnom okruženju
• D) Umjetna inteligencija uvijek čini da dijagnoza izgleda teža nego što jest

Objašnjenje: Umjetna inteligencija ne može i ne treba dijagnosticirati; Dijagnostika i procjena su posao RAM-a i ovlaštenih stručnjaka. Osim toga, bez davanja podataka modelu, željeni rezultat postaje izmišljotina (halucinacija), a dijeljenje identiteta učenika predstavlja povredu privatnosti.

2. Što je od sljedećeg glavna značajka koju bi trebao imati kratkoročni (mjerljivi) BEP cilj?

• A) Cilj je da se učeniku općenito sviđa predmet
• B) Temelji se samo na promatranju učitelja i ne sadrži brojčane kriterije
• C) Skupite što duže i što više ishoda u jednu rečenicu.
• D) Sadrži vidljivo ponašanje, stanje i mjerljivi kriterij uspjeha ✔

Objašnjenje: Kratkoročni cilj uključuje vidljivo ponašanje, stanje i kriterij (koliko pokušaja, koji postotak, koja razina neovisnosti). Nemjerljivi izrazi poput 'shvaća', 'uči', 'postaje svjestan' uzrokuju pogreške u pisanju svrhe.

3. Učitelj učitava RAM izvješće, koje uključuje učenikovo puno ime, TR ID broj i dijagnozu, u javno dostupan alat za umjetnu inteligenciju i kaže 'sažeti'. Koji bi bio pravi pristup?

• A) Učitajte izvješće bez ikakvih izmjena, jer sažetak zahtijeva sve informacije
• B) Samo izbrišite TR ID broj i ostavite ime i dijagnozu
• C) Uklanjanje podataka o identitetu, anonimizacija podataka i odabir sigurnog/institucionalnog alata ✔
• D) Dijeljenje izvješća putem e-pošte s vašeg osobnog računa i njegovo sažimanje u skladu s tim

Pojašnjenje: Podaci o studentu su posebni osobni podaci iz djelokruga KVKK. Podatke o identitetu treba ukloniti, a podatke anonimizirati ('10-godišnji učenik'), a ako je moguće, prednost treba dati sigurnom alatu koji je institucionalni i ne koristi podatke u obrazovanju.

4. Koji je najbolji stav pri stvaranju društvene priče s umjetnom inteligencijom za alternativnu i augmentativnu komunikaciju (AAC)?

• A) Prilagodite nacrt posebno djetetu i neka ga odobri stručnjak ✔
• B) Korištenje proizvedene priče točno za sve učenike bez ikakvih promjena
• C) Pisanje priče što dužim i apstraktnijim riječima
• D) Davanje samo dugog teksta bez dodavanja vizualne podrške

Opis: Umjetna inteligencija stvara nacrte; Međutim, socijalnu anamnezu i komunikacijsku podršku treba prilagoditi individualnim karakteristikama djeteta i odobriti defektolog/specijalist. Opći pregled ne može se izravno primijeniti.

5. Što je od sljedećeg osnovno načelo pri dobivanju pomoći od umjetne inteligencije u planu podrške pozitivnom ponašanju?

• A) Traženje od njega/nje da preporuči najoštriju kaznu kako bi se brzo suzbilo ponašanje.
• B) Razumjeti funkciju ponašanja i izraditi alternativno pozitivno ponašanje i nacrt preventivne strategije ✔
• C) Dovršavanje plana bez poznavanja učenika, samo gledajući naziv ponašanja
• D) Provedba plana bez uključivanja obitelji i stručnjaka u proces

Objašnjenje: podrška pozitivnom ponašanju nije usmjerena na kažnjavanje; Cilj mu je razumjeti funkciju ponašanja (funkcionalna evaluacija), preventivne propise i pružiti poučljivo alternativno ponašanje umjesto nepoželjnog ponašanja. Neophodan je stručni nadzor.

6. Što znači 'odluka temeljena na podacima' u praćenju napretka?

• A) Donošenje odluke na temelju samo jednog opažanja na kraju godine
• B) Pisanje izvješća o napretku na temelju općeg dojma nastavnika bez uvida u podatke
• C) Prepuštanje odluke u potpunosti tumačenju umjetne inteligencije
• D) Donošenje odluke o održavanju, prilagodbi ili promjeni cilja gledanjem redovitih podataka mjerenja ✔

Objašnjenje: Odlučivanje temeljeno na podacima je odlučivanje o održavanju, prilagodbi ili promjeni cilja promatranjem redovitih mjerenja temeljenih na postignućima (postotak, broj pokušaja, razina neovisnosti). Umjetna inteligencija sažima podatke i predlaže interpretaciju; Stručnjak donosi odluku.

7. Prema načelu univerzalnog dizajna (UDL), koji je najbolji način da se materijal učini dostupnim?

• A) Predstavljanje materijala u samo jednom formatu, sitnim slovima i gustim tekstom
• B) Predstavljanje sadržaja na više načina, pružanje jednostavnog jezika i alternativnog teksta ✔
• C) Uklonite sve prilagodbe i dajte svima isti standardni materijal
• D) Pretpostavka da se pristupačnost postiže samo promjenom boje

Opis: UDL predviđa predstavljanje sadržaja na više načina (tekst, vizualni, audio), jednostavnim jezikom, alternativnim tekstom i fleksibilnim formatima. Cilj je dizajnirati tako da odgovara različitim potrebama, a ne samo jednom 'prosječnom' učeniku. Konačna provjera ovisi o testiranju stručnjaka i stvarnog korisnika.

8. Učitelj šalje obitelji obiteljski tekst koji je izradila umjetna inteligencija bez provjere, a tekst sadrži netočan datum termina i pretjerano obećanje 'oporavka'. Koja je ovdje temeljna pogreška?

• A) Stvaranje lažnih informacija i nerealnih očekivanja slanjem teksta bez provjere ✔
• B) Slanje pisanog teksta obitelji samo je po sebi pogrešno.
• C) Tekst je prekratak
• D) Umjetnoj inteligenciji je strogo zabranjeno stvarati obiteljski tekst

Opis: Svaki tekst koji se dijeli s obitelji mora biti izrađen s točnošću, povjerljivošću i odobrenjem stručnjaka. Umjetna inteligencija je tečna, ali može proizvesti lažne informacije (halucinacije); Tekst poslan bez provjere šteti povjerenju i procesu.

9. Što je od sljedećeg ispravan pristup prilikom diferencijacije u razredu uključivanja/integracije?

• A) Potpuno odvajanje učenika od učionice i neka on/ona svaku aktivnost obavlja sam
• B) Podržavanje istog postignuća sa podijeljenom odgovornošću, bez prilagođavanja i označavanja prema razini ✔
• C) Davanje istog materijala cijelom razredu bez iznimke i bez prilagođavanja
• D) Prepuštanje prilagodbe samo defektologu i izbacivanje učitelja razredne nastave iz procesa

Objašnjenje: Diferencijacija znači prilagođavanje istog ishoda učenja različitim razinama i podržavanje učenika bez etiketiranja. Prilagodba je zajednička odgovornost učitelja razredne nastave i defektologa; Izbjegavaju se rješenja koja odvajaju i stigmatiziraju učenika od vršnjaka.

10. Zašto je posebno rizično da jezični modeli umjetne inteligencije proizvode 'halucinacije' u kontekstu specijalnog obrazovanja?

• A) Zato što model uvijek radi sporo
• B) Zato što model ne zna turski
• C) Zato što se halucinacija javlja samo u vizualnoj produkciji
• D) Zato što izmišljene informacije mogu utjecati na djetetovu obrazovnu odluku i mogu se pretpostaviti da su istinite u tečnom jeziku ✔

Objašnjenje: Halucinacija je kada model tečno izmišlja nepostojeću informaciju kao da je istinita. Izmišljeni propis, netočna razvojna norma ili izmišljena metoda u specijalnom obrazovanju mogu izravno utjecati na pravo djeteta na obrazovanje i razvoj; tako da svaki izlaz mora biti potvrđen.

11. Što 'izbjegavanje pristranosti' znači u etičkim načelima korištenja umjetne inteligencije u specijalnom obrazovanju?

• A) Prepoznavanje i ispravljanje stereotipnih ili diskriminirajućih ishoda koje proizvodi model i procjena svakog djeteta pojedinačno ✔
• B) Ne pisanje dugih upita samo za brzi izlaz.
• C) Korištenje umjetne inteligencije na samo jednoj vrsti prepreke
• D) Primjena istog pristranog predloška na sve učenike

Objašnjenje: Umjetna inteligencija može odražavati pristranosti u podacima na kojima se trenira; mogu proizvesti stereotipne rezultate o određenoj vrsti invaliditeta, spolu, socioekonomskom statusu ili kulturi. Specijalist bi trebao pratiti ishod u tom pogledu i procijeniti svako dijete pojedinačno.

12. Zašto je važno uključiti odjeljak 'snage' kada sažimamo RAM izvješće s umjetnom inteligencijom i stvaramo profil učenika?

• A) Da bi izvješće izgledalo duže
• B) Prednosti se koriste samo za formu, iako nisu zakonski obvezne.
• C) Temeljiti planiranje na jakim stranama, a ne definirati učenika samo njegovim/njezinim nedostacima ✔
• D) Potpuno zanemariti potrebe i pisati samo pozitivno

Objašnjenje: Planiranje u specijalnom obrazovanju temelji se na snagama; Samo profil usmjeren na nedostatak/potrebu definira učenika s njegovim/njezinim nedostacima. Snage su osnova za ciljeve i motivaciju i daju pozitivan pogled usmjeren na rast.

13. Koji je ispravan stav u smislu 'autorskih prava i originalnosti' u proizvodnji adaptiranog materijala?

• A) Reprodukcija izlaza sa znakovima zaštićenim autorskim pravima i sadržajem bez provjere
• B) Provjera i originalizacija materijala u smislu usklađenosti s nastavnim planom i programom, točnosti i autorskih prava ✔
• C) Komercijalno distribuirati svaku sliku, bez obzira na izvor
• D) Pod pretpostavkom da se pitanje autorskih prava uopće ne odnosi na digitalni materijal

Objašnjenje: Izlaz umjetne inteligencije možda je potjecao iz drugih izvora; može sadržavati sadržaj zaštićen autorskim pravima, znakove marke ili neprovjerene informacije. Stručnjak treba provjeriti usklađenost gradiva s nastavnim planom i programom, točnost i autorska prava, te po potrebi navesti izvor i originalizirati ga.

14. Kako ključno načelo naglašeno kroz cijeli modul opisuje ulogu umjetne inteligencije u specijalnom obrazovanju?

• A) Umjetna inteligencija zamjenjuje stručnjaka i automatski donosi odluke
• B) Umjetna inteligencija se može koristiti samo za bilježenje i ništa drugo
• C) Kada se koristi umjetna inteligencija, stručni nadzor više nije potreban
• D) Umjetna inteligencija je pomoćnik i generator nacrta; Konačna odluka i odgovornost leži na specijalistu, timu i obitelji ✔

Opis: Umjetna inteligencija je pomoćnik i generator skica; Dijagnoza, smještaj, postavljanje ciljeva i odluke koje utječu na budućnost djeteta pripadaju nadležnom stručnjaku, IEP timu i obitelji. Nepotvrđeni rezultat je kao nepotpisana stručna presuda.