Etika, privatnost, stručni nadzor i ograničenja u praksi

Dobici:

• Sposobnost transformacije etičkih principa upotrebe umjetne inteligencije u specijalnom obrazovanju (dobronamjernost, nezlonamjernost, pravda, izbjegavanje pristrasnosti) u konkretna pravila
• Sposobnost upravljanja privatnošću podataka učenika i porodice, skladištenjem podataka i ograničenjima dijeljenja u okviru KVKK-a
• Sposobnost povezivanja učenja kroz modul u siguran radni tok od kraja do kraja i definiranja gdje umjetna inteligencija prestaje i počinje stručna odgovornost

Kroz ovaj modul naučili smo da koristimo AI kao asistenta: izradili smo IEP cilj, prilagodili materijale, uspostavili AAC i plan ponašanja, pratili napredak i ojačali komunikaciju sa porodicom. Ova završna jedinica razmatra okvir koji sve to drži zajedno: etiku, privatnost i stručni nadzor. Jer "podaci" sa kojima radite u specijalnom obrazovanju nisu tabela, već dijete; "Rezultat" koji proizvedete nije dokument, već odluka koja utiče na pravo djeteta na obrazovanje. Umjetna inteligencija pruža veliku pogodnost u ovoj oblasti; Ali kada se nepravilno koriste, ljudi koji mogu biti najviše oštećeni su i najugroženiji. Ponovimo posljednji put princip koji smo uspostavili od početka: Vještačka inteligencija je asistent; Dijagnoza, smještaj, svrha i odluke koje utiču na budućnost djeteta pripadaju nadležnom specijalistu, IEP timu i porodici.

Četiri etička principa i njihovi konkretni pandani

Korištenje umjetne inteligencije u specijalnom obrazovanju možemo pripisati četiri osnovna etička principa:

• Dobrotvornost: AI treba koristiti za istinski doprinos obrazovanju djeteta; To bi trebalo pomoći učitelju da oslobodi svoje vrijeme i posveti više pažnje djetetu. Upotreba nije sama sebi svrha.
• Nezlonamjernost: Neprovjereni, djeci neprikladni ili stigmatizirajući rezultati mogu uzrokovati štetu. Svaki izlaz prolazi kroz filter "hoće li ovo naškoditi djetetu?"
• Pravda: Svako dijete treba da ima jednak pristup resursima i kvalitetnom obrazovanju. AI ne bi trebalo da privilegira neku djecu i zanemari drugu; Svakome treba posvetiti individualnu pažnju.
• Izbjegavanje pristrasnosti: AI može odražavati stereotipe u podacima na kojima se obučava; Specifična vrsta invaliditeta može proizvesti diskriminatorne rezultate u pogledu pola, kulture ili socioekonomskog statusa. Specijalista mora prepoznati i ispraviti ove ishode i procijeniti svako dijete pojedinačno.

Pristrasnost je posebno važna jer je podmukla. AI može tečno proizvesti rečenicu poput "takva djeca obično ne mogu učiniti X"; Međutim, ovo je stereotip koji je i pogrešan i sputava dijete. Zadatak specijaliste je da vidi ove obrasce i procijeni dijete s njegovim potencijalom.

Oprez: Nikakve generalizacije generisane veštačkom inteligencijom („deca sa X smetnjama u razvoju mogu/rade Y“) ne mogu se koristiti za ograničavanje svrhe deteta. Niska očekivanja su jedan od najčešćih i najnevidljivijih oblika diskriminacije.

Privatnost: ograničenja skladištenja i dijeljenja podataka

Podaci o studentima (identitet, dijagnoza, RAM izvještaj, evidencija ponašanja, podaci o porodici) su posebni lični podaci u okviru KVKK-a. Hajde da razjasnimo pravila u ovoj jedinici:

• Anonimiziranje: Ime, ID, protokol, škola, adresa i detalji porodice se uklanjaju prije ulaska u bilo koji AI alat.
• Minimalni podaci: Dijelite samo informacije potrebne za zadatak; Nemojte davati cijeli fajl "za svaki slučaj".
• Siguran alat: ako je moguće, prednost imaju korporativni alati koji imaju ugovor o obradi podataka i ne koriste vaše podatke u obuci za modele; Osjetljivi podaci se ne učitavaju sa ličnih računa.
• Čuvanje i brisanje: Ako nacrti izrađeni pomoću AI sadrže podatke o učenicima, oni se pohranjuju u skladu sa pravilima institucije i brišu kada je to potrebno; Ne ostavlja se na slučajnim mjestima.
• Dijeljenje: Informacije se dijele samo sa ovlaštenim osobama (IEP tim, porodica, relevantni specijalisti) i samo onoliko koliko je potrebno.

Tabela ispod sumira ograničenja naučena kroz modul na jednom mjestu:

području

AI može

AI ne može / pripada ljudima

Evaluacija

Sažima anonimne podatke

Dijagnoze/promjene

BEP

Piše nacrt ciljeva

Potvrđuje/potvrđuje namjeru

materijal

Prilagođava se, razlikuje

Donosi odluku o nastavnom programu/autorskim pravima

AAC

Pregled kartice/priče

Bira metodu i prilagođava je djetetu

ponašanje

ABC sažima, daje savjete

Odlučuje o funkciji, odobrava plan

napredak

Sažima i interpretira podatke

Konačna odluka da se nastavi

porodica

nacrti teksta

Potvrđuje tekst, provodi odnos

Desna kolona u ovoj tabeli je granica stručne odgovornosti i ne može se delegirati AI ni pod kojim okolnostima.

Siguran radni tok od kraja do kraja

Kombinirajmo modul u jedan tok. Bezbedan tok podučavanja podržan od strane veštačke inteligencije je sledeći: (1) anonimizacija podataka; (2) napisati upit sa jasnim ulogama i granicama; (3) dobiti nacrt od AI; (4) verifikovati izlaz u tri koraka — link ka izvoru, poređenje sa stvarnim profilom deteta, ekspertski filter; (5) sprovesti reviziju etike i pristrasnosti; (6) prilagoditi i potvrditi sa timom/porodicom; (7) primjenjuju i prate podatke; (8) čuva/briše nacrte u skladu sa pravilima institucije. Ovaj ciklus se ponavlja sa svakim zadatkom, držeći jasno gdje AI završava i počinje odgovornost stručnjaka.

tri mini kofera

Slučaj 1 — Hvatanje pristranosti. Učitelj je od AI tražio nacrt cilja; U izlazu je bila rečenica kao što je "ovakav tip učenika ne može razmišljati apstraktno, držite metu niskim." Nastavnik je to prepoznao kao stereotip; Njegov učenik je bio u stanju da uspostavi apstraktne odnose. Izvukao je rečenicu i napisao cilj na osnovu pravog potencijala djeteta. Etički nadzor spriječio je niska očekivanja koja bi ometala dijete.

Slučaj 2 — Disciplina privatnosti. Jedna institucija je postavila pravilo da svi nastavnici obave „provjeru anonimizacije“ prije upotrebe AI. Nastavnik je uklonio ime, protokol i informacije o porodici prije nego što je sažeo RAM izvještaj. Mjesecima kasnije, revizija podataka pokazala je da organizacija nije dostavila nikakve osjetljive podatke vanjskom alatu. Jednostavna navika štitila je organizaciju od ozbiljnog rizika.

Slučaj 3 — Greška u delegiranju odgovornosti. Nastavnik je, pod pritiskom vremena, implementirao plan ponašanja koji je izradila AI, a da ga nije pročitao. Plan nije odgovarao djetetovom funkcioniranju i ponašanje je eskaliralo. Problem nije bila "greška" veštačke inteligencije već u delegiranju odgovornosti. Neprovjereni rezultat je poput nepotpisane stručne presude; Odgovornost uvijek leži na stručnjaku. Greška: zamjena pogodnosti za odgovornost.

Slaba prompt / Jaka prompt

Slab upit:

Analizirajte sve o ovom učeniku i recite mi šta da radim.

Ovaj zahtjev nas tjera da podijelimo više podataka (možda koji sadrže identitet) nego što je potrebno govoreći "sve" i prenosi odluku na AI. Takođe krši dva osnovna principa.

Snažan upit:

Vaša uloga: pomoćnik specijaliste za specijalno obrazovanje. Koristite samo sljedeće anonimne informacije vezane za zadatak: [minimalno potreban]. Zadatak: Napravite NACRT za [jedan, jasan zadatak]. Pravila: Dijagnoza/donošenje odluka. Nemojte generalizirati/stereotipizirati. Navedite da niste sigurni. Pretpostavimo da će ovo potvrditi profesionalac i potvrditi tim/porodicu.

Ova tvrdnja uključuje minimalne podatke, jasan zadatak, pristrasnost i granice odluke zajedno; Sakuplja sve principe modula u jednom šablonu.

Uobičajene greške

• Delegiranje odgovornosti. Prepuštanje odluke AI; izvršavanje bez čitanja izlaza.
• Ne videći predrasude. Ne primjećujući stereotipne generalizacije koje smanjuju očekivanja.
• Dijeljenje prevelikih podataka. Davanje nepotrebnih, osjetljivih podataka alatu govoreći "analiziraj sve".
• Zaobilaženje anonimizacije. Rad bez čišćenja identiteta, dijagnoze i porodičnih podataka.
• Nebezbedno skladištenje propuha. Ostavljanje ispisa koji sadrže podatke o učenicima na nasumično odabranim mjestima.
• Gledanje na etičku reviziju kao na formalnu. Preskakanje pitanja poput „hoće li nanijeti štetu, da li je pošteno, da li je pristrasno?“

Ukratko

U specijalnom obrazovanju, AI je moćan asistent, ali budući da radite s najugroženijim pojedincima, o etici i privatnosti se ne može pregovarati. Četiri principa nas vode: dobročinstvo, nezlonamjernost, pravda, izbjegavanje pristrasnosti. Podaci o učenicima su anonimizirani, dijeljeni na minimalan i siguran način i sigurno pohranjeni. Siguran radni tok od kraja do kraja; Ciklus je anonimiziran, nabavite nacrt, provjerite u tri koraka, etički pregled, odobrite tim/porodicom, pratite sa podacima. Gdje god se AI završi u ovom ciklusu, počinje odgovornost stručnjaka. Neprovjereni rezultat je poput nepotpisane stručne presude; Potpis je uvijek vaš.

Zadatak aplikacije

Odaberite jedan od nacrta koje ste izradili kroz modul (IEP cilj, materijal, plan ponašanja ili porodični tekst) i prođite ga kroz sve korake „sigurnog toka rada od kraja do kraja“ u ovoj jedinici. Konkretno, provjerite etičnost/pristrasnost: postoji li generalizacija na snižavanje, stigmatizirajuća izjava ili curenje privatnosti u rezultatima? Ispravite sve probleme koje pronađete i zabilježite koji je korak toka uhvatio taj problem.

kontrolna lista

• [ ] Anonimizirao sam podatke; Podijelio sam samo neophodan minimum.
• [ ] Provjerio sam izlaz u tri koraka (izvor/profil/stručnjak).
• [ ] Očistio sam predrasude i generalizacije koje smanjuju očekivanja.
• [ ] Iskorijenio sam stigmatizirajući jezik; Pridržavao sam se četiri etička principa.
• [ ] Držao sam nacrte na sigurnom/brisao kada je bilo potrebno.
• [ ] Konačnu odluku i odgovornost sam preuzeo kao stručnjak/tim/porodica.

Modul Exam

1. Nastavnik specijalnog obrazovanja pita umjetnu inteligenciju 'koja je dijagnoza ovog djeteta' jednostavnim davanjem imena i godina učenika i upisuje odgovor u IEP fajl. Šta je suštinska greška u ovom pristupu?

• A) Ignorisanje da nadležnost za postavljanje dijagnoze pripada RAM-u i ovlašćenim stručnjacima; također premjestiti neprovjereni izlaz u službeni zapis ✔
• B) Nepotrebno je davati podatke o starosti umjetnoj inteligenciji
• C) Zabranjeno je čuvanje BEP datoteke u digitalnom okruženju
• D) Umjetna inteligencija uvijek čini da dijagnoza izgleda teža nego što jeste

Objašnjenje: Umjetna inteligencija ne može i ne smije dijagnosticirati; Dijagnoza i evaluacija su posao RAM-a i ovlaštenih stručnjaka. Osim toga, bez davanja podataka modelu, željeni rezultat postaje izmišljotina (halucinacija), a dijeljenje studentskog identiteta predstavlja kršenje privatnosti.

2. Koja je od sljedećeg glavna karakteristika koju treba imati kratkoročni (mjerljivi) BEP cilj?

• A) Cilj da se učeniku općenito sviđa predmet
• B) Zasniva se samo na zapažanju nastavnika i ne sadrži numeričke kriterijume
• C) Sakupite što duže i što više ishoda u jednoj rečenici.
• D) Sadrži vidljivo ponašanje, stanje i mjerljivi kriterij uspjeha ✔

Objašnjenje: Kratkoročni cilj uključuje vidljivo ponašanje, stanje i kriterijum (koliko pokušaja, koji procenat, koji nivo nezavisnosti). Neizmjerni izrazi kao što su 'razumije', 'uči', 'postaje svjestan' uzrokuju greške u pisanju svrhe.

3. Nastavnik učitava RAM izvještaj, koji uključuje puno ime učenika, TR ID broj i dijagnozu, u javno dostupan alat za umjetnu inteligenciju i kaže 'summarize'. Šta bi bio pravi pristup?

• A) Učitajte izvještaj bez ikakvih izmjena, jer sažetak zahtijeva sve informacije
• B) Samo izbrišite TR ID broj i ostavite ime i dijagnozu
• C) Uklanjanje informacija o identitetu, anonimizacija podataka i odabir sigurnog/institucionalnog alata ✔
• D) Dijeljenje izvještaja putem e-maila sa vašeg ličnog naloga i njegovo sumiranje u skladu s tim

Objašnjenje: Podaci o studentima su posebni lični podaci u okviru KVKK. Trebalo bi ukloniti informacije o identitetu i anonimizirati podatke ('10-godišnji učenik'), a ako je moguće, treba dati prednost sigurnom alatu koji je institucionalan i koji ne koristi podatke u obrazovanju.

4. Koji je najbolji stav kada kreirate društvenu priču sa umjetnom inteligencijom za alternativnu i augmentativnu komunikaciju (AAC)?

• A) Prilagodite nacrt posebno za dijete i neka ga odobri stručnjak ✔
• B) Korišćenje proizvedene priče tačno za sve učenike, a da je uopšte ne menjate
• C) Pisanje priče što dužim i apstraktnim riječima
• D) Davanje samo dugačkog teksta bez dodavanja vizuelne podrške

Opis: Umjetna inteligencija stvara propuhe; Međutim, socijalna historija i komunikacijska podrška trebaju biti prilagođeni individualnim karakteristikama djeteta i odobreni od strane logopeda/specijalista. Opšti okvir se ne može direktno primijeniti.

5. Koje od sljedećeg je osnovni princip pri dobijanju pomoći od umjetne inteligencije u planu podrške pozitivnom ponašanju?

• A) Traženje od njega/nje da preporuči najstrožu kaznu za brzo suzbijanje ponašanja.
• B) Razumjeti funkciju ponašanja i proizvesti alternativno pozitivno ponašanje i nacrt preventivne strategije ✔
• C) Završavanje plana bez poznavanja učenika, samo gledanje naziva ponašanja
• D) Implementacija plana bez uključivanja porodice i stručnjaka u proces

Objašnjenje: Podrška pozitivnom ponašanju nije usmjerena na kažnjavanje; Cilj mu je razumjeti funkciju ponašanja (funkcionalna evaluacija), preventivne propise i pružiti alternativno ponašanje koje se može naučiti umjesto nepoželjnog ponašanja. Stručni nadzor je neophodan.

6. Šta znači 'odluka vođena podacima' u praćenju napretka?

• A) Donošenje odluke na osnovu samo jednog zapažanja na kraju godine
• B) Pisanje izveštaja o napretku na osnovu opšteg utiska nastavnika bez gledanja podataka
• C) Ostavljanje odluke u potpunosti tumačenju vještačke inteligencije
• D) Donošenje odluke o održavanju, prilagođavanju ili promjeni cilja gledanjem redovnih podataka mjerenja ✔

Objašnjenje: Donošenje odluka zasnovano na podacima je odlučivanje o održavanju, prilagođavanju ili promjeni cilja gledanjem redovnih mjerenja zasnovanih na postignućima (procenat, broj pokušaja, nivo nezavisnosti). Umjetna inteligencija sažima podatke i predlaže tumačenje; Stručnjak donosi odluku.

7. Prema principu univerzalnog dizajna (UDL), koji je najbolji način da se materijal učini dostupnim?

• A) Predstavljanje materijala samo u jednom formatu, malim slovima i gustim tekstom
• B) Predstavljanje sadržaja na više načina, pružajući jednostavan jezik i alternativni tekst ✔
• C) Uklonite sve adaptacije i dajte svima isti standardni materijal
• D) Pod pretpostavkom da se pristupačnost postiže samo promjenom boje

Opis: UDL predviđa predstavljanje sadržaja na više načina (tekst, vizuelni, audio), običan jezik, alternativni tekst i fleksibilne formate. Cilj je dizajnirati tako da odgovara različitim potrebama, a ne samo jednom 'prosječnom' učeniku. Konačna inspekcija zavisi od stručnog i stvarnog testiranja korisnika.

8. Nastavnik šalje porodici porodični informativni tekst proizveden od strane umjetne inteligencije bez provjere, a tekst sadrži netačan datum zakazivanja i pretjerano obećanje 'oporavka'. Šta je ovde suštinska greška?

• A) Stvaranje lažnih informacija i nerealnih očekivanja slanjem teksta bez njegove provjere ✔
• B) Slanje pisanog teksta porodici je samo po sebi pogrešno.
• C) Tekst je prekratak
• D) Vještačkoj inteligenciji je strogo zabranjeno da proizvodi porodični tekst

Opis: Svaki tekst koji se dijeli sa porodicom mora biti proizveden sa tačnošću, povjerljivošću i stručnim odobrenjem. Vještačka inteligencija tečno govori, ali može proizvesti lažne informacije (halucinacije); Tekst poslan bez verifikacije narušava povjerenje i proces.

9. Koji je od sljedećeg ispravan pristup kada se pravi diferencijacija u klasi inkluzije/integracije?

• A) Potpuno odvajanje učenika od učionice i davanje da svaku aktivnost obavlja sam
• B) Podržavanje istog postignuća sa zajedničkom odgovornošću, bez prilagođavanja i označavanja prema nivou ✔
• C) Davanje istog materijala cijelom razredu bez izuzetka i bez ikakvih adaptacija
• D) Ostavljanje adaptacije samo defektologu i uklanjanje nastavnika iz procesa

Objašnjenje: Diferencijacija znači prilagođavanje istog ishoda učenja različitim nivoima i pružanje podrške učeniku bez etiketiranja. Adaptacija je zajednička odgovornost nastavnika razredne nastave i defektologa; Izbjegavaju se rješenja koja odvajaju i stigmatiziraju učenika od vršnjaka.

10. Zašto je posebno rizično da AI jezički modeli proizvode 'halucinacije' u kontekstu specijalnog obrazovanja?

• A) Zato što model uvijek radi sporo
• B) Zato što model ne zna turski
• C) Zato što se halucinacije javljaju samo u vizuelnoj produkciji
• D) Zato što izmišljene informacije mogu uticati na djetetovu obrazovnu odluku i može se pretpostaviti da su istinite na tečnom jeziku ✔

Objašnjenje: Halucinacija je kada model tečno izmišlja nepostojeće informacije kao da su istinite. Izmišljeni zakon, pogrešna razvojna norma ili izmišljena metoda u specijalnom obrazovanju mogu direktno uticati na pravo djeteta na obrazovanje i razvoj; tako da svaki izlaz mora biti validiran.

11. Šta znači 'izbjegavanje pristrasnosti' u etičkim principima korištenja umjetne inteligencije u specijalnom obrazovanju?

• A) Prepoznavanje i ispravljanje stereotipnih ili diskriminirajućih rezultata koje proizvodi model i evaluacija svakog djeteta pojedinačno ✔
• B) Ne pisati dugačke upite samo da biste dobili brzi izlaz.
• C) Upotreba umjetne inteligencije samo na jednoj vrsti prepreka
• D) Primjena istog pristrasnog šablona na sve učenike

Objašnjenje: Vještačka inteligencija može odražavati pristranosti u podacima na kojima je obučena; može proizvesti stereotipne rezultate o određenoj vrsti invaliditeta, polu, socioekonomskom statusu ili kulturi. Specijalista treba da prati ishod u tom pogledu i da proceni svako dete pojedinačno.

12. Zašto je važno uključiti odjeljak 'snage' kada sažimate RAM izvještaj sa umjetnom inteligencijom i kreirate profil učenika?

• A) Da bi izvještaj izgledao duži
• B) Snage se koriste samo za formu, iako nisu zakonski obavezne.
• C) Zasnovati planiranje na prednostima i ne definirati učenika samo prema njegovim/njenim nedostacima ✔
• D) Potpuno zanemariti potrebe i pisati samo pozitivno

Objašnjenje: Planiranje u specijalnom obrazovanju zasniva se na prednostima; Samo profil orijentisan prema nedostatku/potrebi definiše učenika sa njegovim/njenim nedostacima. Snage su osnova za ciljeve i motivaciju i pružaju pozitivan pogled na rast orijentiran.

13. Kakav je ispravan stav u pogledu 'autorskih prava i originalnosti' u proizvodnji adaptiranog materijala?

• A) Reprodukcija izlaza sa likovima i sadržajem zaštićenim autorskim pravima bez provjere
• B) Provjera i originalizacija materijala u smislu usklađenosti sa nastavnim planom i programom, tačnosti i autorskih prava ✔
• C) Distribuirajte svaku sliku komercijalno, bez obzira na izvor
• D) Pod pretpostavkom da se pitanje autorskih prava uopće ne odnosi na digitalni materijal

Objašnjenje: Izlaz umjetne inteligencije je možda napajan iz drugih izvora; može sadržavati sadržaj zaštićen autorskim pravima, znakove marke ili neprovjerene informacije. Stručnjak treba provjeriti usklađenost materijala sa nastavnim planom i programom, tačnost i autorska prava, te navesti izvor i po potrebi ga originalizirati.

14. Kako ključni princip naglašen kroz modul opisuje ulogu vještačke inteligencije u specijalnom obrazovanju?

• A) Umjetna inteligencija zamjenjuje stručnjaka i automatski donosi odluke
• B) Vještačka inteligencija se može koristiti samo za bilježenje i ništa drugo
• C) Kada se koristi umjetna inteligencija, stručni nadzor više nije potreban
• D) Vještačka inteligencija je pomoćnik i generator nacrta; Konačna odluka i odgovornost su na specijalisti, timu i porodici ✔

Opis: Umjetna inteligencija je pomoćnik i generator skica; Dijagnoza, postavljanje, postavljanje ciljeva i odluke koje utiču na budućnost djeteta pripadaju nadležnom specijalistu, IEP timu i porodici. Neprovjereni izlaz je kao nepotpisana stručna presuda.