Etikk, personvern, eksperttilsyn og praksisgrenser — Kunstig intelligens i spesialundervisning

Gevinster:

Evne til å transformere de etiske prinsippene for bruk av kunstig intelligens i spesialundervisning (velgjørelse, ikke-ondskap, rettferdighet, unngåelse av skjevhet) til konkrete regler
Evne til å administrere personvernet til student- og familiedata, datalagring og delingsgrenser innenfor rammen av KVKK
Evne til å knytte læring gjennom hele modulen til en ende-til-ende sikker arbeidsflyt og definere hvor kunstig intelligens slutter og ekspertansvar begynner

Gjennom denne modulen lærte vi å bruke AI som assistent: utarbeidet et IEP-mål, tilpasset materiell, etablerte en AAC og atferdsplan, overvåket fremdriften og styrket kommunikasjonen med familien. Denne siste enheten ser på rammeverket som holder det hele sammen: etikk, personvern og eksperttilsyn. For «dataene» man jobber med i spesialundervisningen er ikke en tabell, men et barn; «Output» du produserer er ikke et dokument, men en beslutning som påvirker et barns rett til utdanning. Kunstig intelligens gir stor bekvemmelighet på dette feltet; Men ved feil bruk er de som kan bli mest skadet også de mest sårbare. La oss gjenta for siste gang prinsippet vi etablerte fra begynnelsen: Kunstig intelligens er en assistent; Diagnose, plassering, formål og beslutninger som påvirker barnets fremtid tilhører den kompetente spesialisten, IEP-teamet og familien.

Fire etiske prinsipper og deres konkrete motstykker

Vi kan tilskrive bruken av kunstig intelligens i spesialundervisningen til fire grunnleggende etiske prinsipper:

Fordel: AI bør brukes for å virkelig bidra til barnets utdanning; Det skal hjelpe læreren å frigjøre tid og være mer oppmerksom på barnet. Bruk er ikke et mål i seg selv.
Ikke-maleficence: Ubekreftet, barneupassende eller stigmatiserende utdata kan forårsake skade. Hver utgang går gjennom filteret "vil dette skade barnet?"
Rettferdighet: Alle barn skal ha lik tilgang til ressurser og kvalitetsutdanning. AI bør ikke privilegere noen barn og neglisjere andre; Alle bør gis individuell oppmerksomhet.
Unngå skjevhet: AI kan reflektere stereotypier i dataene den er trent på; Den spesifikke typen funksjonshemming kan produsere diskriminerende resultater om kjønn, kultur eller sosioøkonomisk status. Spesialisten må gjenkjenne og korrigere disse resultatene og vurdere hvert barn individuelt.

Bias er spesielt viktig fordi det er lumsk. AI kan flytende produsere en setning som "slike barn kan vanligvis ikke gjøre X"; Dette er imidlertid en stereotypi som både er feil og hindrer barnet. Spesialistens oppgave er å se disse mønstrene og vurdere barnet med sitt potensial.

Advarsel: Ingen AI-genererte generaliseringer ("barn med X funksjonshemming kan/gjør Y") kan brukes for å begrense et barns formål. Lave forventninger er en av de vanligste og mest usynlige formene for diskriminering.

Personvern: datalagring og delingsgrenser

Elevdata (identitet, diagnose, RAM-rapport, atferdsjournal, familieopplysninger) er spesielle personopplysninger innenfor KVKKs virkeområde. La oss avklare reglene i denne enheten:

Anonymiser: Navn, ID, protokoll, skole, adresse og familiedetaljer fjernes før du går inn i et AI-verktøy.
Minimale data: Del kun informasjonen som trengs for oppgaven; Ikke gi hele filen "i tilfelle".
Sikkert verktøy: Om mulig foretrekkes bedriftsverktøy som har en databehandlingskontrakt og som ikke bruker dataene dine i modellopplæring; Sensitive data lastes ikke opp fra personlige kontoer.
Lagring og sletting: Hvis utkast produsert med AI inneholder studentdata, lagres de i henhold til institusjonens regler og slettes når det er nødvendig; Den blir ikke liggende på tilfeldige steder.
Deling: Informasjon deles kun med autoriserte personer (IEP-team, familie, relevant spesialist) og bare så mye som nødvendig.

Tabellen nedenfor oppsummerer grensene som er lært gjennom modulen på ett sted:

område

AI kan

AI kan ikke / tilhører mennesker

Evaluering

Oppsummerer anonyme data

Diagnoser/endringer

BEP

Skriver et utkast til mål

Bekrefter/bekrefter hensikt

materiale

Tilpasser seg, skiller

Tar pensum/opphavsrettsbeslutning

AAC

Kort/historieoversikt

Velger metode og tilpasser den til barnet

oppførsel

ABC oppsummerer, gir råd

Bestemmer funksjonen, godkjenner planen

fremgang

Oppsummerer og tolker data

Endelig beslutning om å fortsette

familie

tekstutkast

Validerer tekst, håndhever forhold

Høyre kolonne i denne tabellen er grensen for ekspertansvar og kan ikke under noen omstendigheter delegeres til AI.

Sikker arbeidsflyt fra ende til ende

La oss kombinere modulen til en enkelt flyt. En sikker AI-støttet veiledningsarbeidsflyt er som følger: (1) anonymiser data; (2) skrive en melding med klare roller og grenser; (3) få utkast fra AI; (4) verifiser utdataene i tre trinn — lenke til kilden, sammenligne med barnets faktiske profil, ekspertfilter; (5) gjennomføre en etikk- og partiskhetsrevisjon; (6) tilpasse og validere med team/familie; (7) anvende og overvåke med data; (8) beholde/slette utkast i henhold til institusjonens regler. Denne syklusen gjentas med hver oppgave, og holder det klart hvor AI slutter og ekspertansvaret begynner.

tre minisaker

Case 1 - Catching bias. En lærer spurte AI om en målskisse; Det var en setning i utgangen som "denne typen studenter kan ikke tenke abstrakt, holde målet lavt." Læreren anerkjente dette som en stereotypi; Hans egen student var i stand til å etablere abstrakte relasjoner. Han tok ut setningen og skrev målet basert på barnets sanne potensial. Etisk tilsyn forhindret en lav forventning som ville hindre barnet.

Sak 2 – Personverndisiplin. En institusjon gjorde det til en regel for alle lærere å gjøre en "anonymiseringssjekk" før de bruker AI. En lærer fjernet navn, protokoll og familieinformasjon før han fikk en RAM-rapport oppsummert. Måneder senere viste en datarevisjon at organisasjonen ikke hadde gitt noen sensitive data til et eksternt verktøy. En enkel vane beskyttet organisasjonen mot alvorlig risiko.

Sak 3 — Feil ved delegering av ansvar. En lærer, under tidspress, implementerte en atferdsplan produsert av en AI uten å lese den. Planen passet ikke til barnets funksjon og atferden eskalerte. Problemet var ikke AIs "feil", men delegeringen av ansvar. Ubekreftet utdata er som en usignert ekspertvurdering; Ansvaret ligger alltid hos eksperten. Feil: erstatter bekvemmelighet med ansvar.

Svak forespørsel / Sterk forespørsel

Svak melding:

Analyser alt om denne studenten og fortell meg hva jeg skal gjøre.

Denne forespørselen både presser oss til å dele mer data (kanskje inneholdende identitet) enn nødvendig ved å si "alt" og overfører beslutningen til AI. Det bryter også med to grunnleggende prinsipper.

Kraftig ledetekst:

Din rolle: assistent for spesialpedagog. Bruk kun følgende anonyme, oppgavespesifikke opplysninger: [minimumskrav].Oppgave: Lag et UTKAST for [enkelt, tydelig oppgave].Regler: Diagnose/beslutningstaking. Ikke generaliser/stereotyp. Fortell at du ikke er sikker. Anta at dette vil bli verifisert av fagpersonen og bekreftet med teamet/familien.

Denne påstanden inkluderer minimalt med data, klar oppgave, skjevhet og beslutningsgrenser sammen; Den samler alle prinsippene til modulen i en enkelt mal.

Vanlige feil

Delegere ansvar. Overlater avgjørelsen til AI; kjører uten å lese utdataene.
Ser ikke fordommer. Å ikke legge merke til stereotype, forventningsreduserende generaliseringer.
Deler overflødig data. Å gi unødvendige, sensitive data til verktøyet ved å si «analyser alt».
Omgå anonymisering. Arbeid uten å slette identitet, diagnose og familieinformasjon.
Lagring av utkast usikkert. Legge igjen utskrifter som inneholder elevdata på tilfeldige steder.
Ser på etisk revisjon som formell. Å hoppe over spørsmål som "vil det forårsake skade, er det rettferdig, er det partisk?"

Oppsummert

I spesialundervisning er AI en kraftig assistent, men fordi du jobber med de mest sårbare individene, er etikk og personvern ikke omsettelige. Fire prinsipper veileder oss: velgjørenhet, ikke-maleficence, rettferdighet, unngåelse av skjevhet. Studentdata anonymiseres, deles med minimale og sikre midler og lagres sikkert. Sikker arbeidsflyt fra ende til ende; Syklusen er anonymisere, få utkast, verifisere i tre trinn, etisk gjennomgang, godkjenne med team/familie, spore med data. Uansett hvor AI slutter i denne syklusen, begynner ekspertansvaret. En ubekreftet utgang er som en usignert ekspertvurdering; Signaturen er alltid din.

Søknadsoppgave

Velg en av konturene du har laget gjennom hele modulen (IEP-mål, materiale, atferdsplan eller familietekst) og ta den gjennom alle trinnene for sikker arbeidsflyt fra ende til ende i denne enheten. Se spesielt etter etikk/skjevhet: er det en senkende generalisering, en stigmatiserende uttalelse eller en personvernlekkasje i produksjonen? Løs eventuelle problemer du finner, og legg merke til hvilket trinn i flyten som fanget problemet.

sjekkliste

[ ] Jeg anonymiserte dataene; Jeg delte bare det nødvendige minimumet.
[ ] Jeg verifiserte utdataene med tre trinn (kilde/profil/ekspert).
[ ] Jeg fjernet fordommene og forventningsreduserende generaliseringer.
[ ] Jeg luket ut stigmatiserende språk; Jeg fulgte fire etiske prinsipper.
[ ] Jeg oppbevarte utkastene/slettet dem når det var nødvendig.
[ ] Jeg tok den endelige avgjørelsen og ansvaret som ekspert/team/familie.

Moduleksamen

1. En spesialpedagog spør den kunstige intelligensen "hva er diagnosen til dette barnet" ved ganske enkelt å oppgi elevens navn og alder og skriver svaret inn i IEP-filen. Hva er den grunnleggende feilen i denne tilnærmingen?

A) Ignorerer at myndigheten til å stille en diagnose tilhører RAM og autoriserte eksperter; flytte også en ubekreftet utgang til en offisiell post ✔
B) Det er unødvendig å gi aldersinformasjon til kunstig intelligens
C) Det er forbudt å oppbevare BEP-filen i digitalt miljø
D) Kunstig intelligens får alltid diagnosen til å virke tyngre enn den er

Forklaring: Kunstig intelligens kan og bør ikke diagnostisere; Diagnose og evaluering er jobben til RAM og autoriserte eksperter. I tillegg, uten å gi data til modellen, blir ønsket output en fabrikasjon (hallusinasjon) og å dele studentidentiteten er et brudd på personvernet.

2. Hvilken av følgende er hovedtrekket som et kortsiktig (målbart) BEP-mål bør ha?

A) Målet er at eleven generelt skal like faget
B) Den er kun basert på lærerens observasjon og inneholder ikke numeriske kriterier
C) Samle så lange og så mange utfall som mulig i én setning.
D) Inneholder observerbar atferd, tilstand og et målbart suksesskriterium ✔

Forklaring: Det kortsiktige målet inkluderer en observerbar atferd, tilstand og kriterium (hvor mange forsøk, hvor mange prosent, hvilket nivå av uavhengighet). Umålelige uttrykk som 'forstår', 'lærer', 'blir klar over' forårsaker feil i å skrive hensikten.

3. En lærer laster opp RAM-rapporten, som inkluderer studentens fulle navn, TR ID-nummer og diagnose, til et offentlig tilgjengelig verktøy for kunstig intelligens og sier «oppsummer». Hva ville være den riktige tilnærmingen?

A) Last opp rapporten uten noen endringer, fordi sammendraget krever all informasjon
B) Bare slett TR ID-nummeret og legg igjen navn og diagnose
C) Fjerne identitetsinformasjon, anonymisere data og velge et sikkert/institusjonelt verktøy ✔
D) Dele rapporten via e-post fra din personlige konto og oppsummere den deretter

Forklaring: Elevdata er spesielle personopplysninger innenfor KVKKs virkeområde. Identitetsinformasjon bør fjernes og dataene anonymiseres ('10 år gammel mannlig student'), og om mulig bør et sikkert verktøy som er institusjonelt og ikke bruker dataene i utdanningen foretrekkes.

4. Hva er den beste holdningen når man lager en sosial historie med kunstig intelligens for alternativ og forsterkende kommunikasjon (AAC)?

A) Tilpass utkastet spesielt for barnet og få det godkjent av en ekspert ✔
B) Bruke den produserte historien nøyaktig for alle elever uten å endre den i det hele tatt
C) Å skrive historien med så lange og abstrakte ord som mulig
D) Gi bare lang tekst uten å legge til visuell støtte

Beskrivelse: Kunstig intelligens genererer utkast; Sosialhistorie og kommunikasjonsstøtte bør imidlertid tilpasses barnets individuelle egenskaper og godkjennes av logoped/spesialist. En generell oversikt kan ikke brukes direkte.

5. Hvilket av følgende er det grunnleggende prinsippet når man får hjelp fra kunstig intelligens i en plan for positiv atferdsstøtte?

A) Be ham/henne anbefale den strengeste straffen for raskt å undertrykke atferden.
B) Forstå funksjonen til atferd og lage et alternativt utkast til positiv atferd og forebyggende strategi ✔
C) Fullføre planen uten å kjenne eleven, bare se på navnet på atferden
D) Gjennomføring av planen uten å involvere familie og spesialist i prosessen

Forklaring: Positiv atferdsstøtte er ikke strafforientert; Den tar sikte på å forstå funksjonen til atferd (funksjonell evaluering), forebyggende regelverk og gi en lærebar alternativ atferd i stedet for uønsket atferd. Eksperttilsyn er viktig.

6. Hva betyr "datadrevet beslutning" for å spore fremgang?

A) Ta en avgjørelse basert kun på en enkelt observasjon på slutten av året
B) Skrive en fremdriftsrapport basert på lærerens generelle inntrykk uten å se på dataene
C) Overlater avgjørelsen helt til tolkningen av kunstig intelligens
D) Ta en beslutning om å opprettholde, tilpasse eller endre målet ved å se på vanlige måledata ✔

Forklaring: Databasert beslutningstaking er å bestemme seg for å opprettholde, tilpasse eller endre målet ved å se på vanlige prestasjonsbaserte målinger (prosent, antall forsøk, grad av uavhengighet). Kunstig intelligens oppsummerer data og foreslår tolkning; Eksperten tar avgjørelsen.

7. I henhold til prinsippet om universell utforming (UDL), hva er den beste måten å gjøre et materiale tilgjengelig på?

A) Presentere materialet i kun ett format, med liten skrift og tett tekst
B) Presentere innhold på flere måter, gi klart språk og alternativ tekst ✔
C) Fjern alle tilpasninger og gi alle samme standardmateriale
D) Forutsatt at tilgjengelighet kun oppnås ved å endre farge

Beskrivelse: UDL ser for seg å presentere innhold på flere måter (tekst, visuell, lyd), rent språk, alternativ tekst og fleksible formater. Målet er å designe for å passe ulike behov, ikke bare en "gjennomsnittlig" student. Sluttkontroll avhenger av ekspert- og reell brukertesting.

8. En lærer sender familieinformasjonsteksten produsert av kunstig intelligens til familien uten å sjekke den, og teksten inneholder en feil avtalt dato og et overdrevet "recovery"-løfte. Hva er den grunnleggende feilen her?

A) Skape falsk informasjon og urealistiske forventninger ved å sende teksten uten å bekrefte den ✔
B) Å sende en skriftlig tekst til familien er i seg selv feil.
C) Teksten er for kort
D) Kunstig intelligens er strengt forbudt å produsere familietekst

Beskrivelse: Hver tekst som deles med familien må produseres med nøyaktighet, konfidensialitet og ekspertgodkjenning. Kunstig intelligens er flytende, men kan produsere falsk informasjon (hallusinasjoner); Tekst sendt uten bekreftelse skader tillit og prosess.

9. Hvilken av følgende er den riktige tilnærmingen når man gjør differensiering i en inkluderings-/integrasjonsklasse?

A) Å skille eleven fullstendig fra klasserommet og la ham/henne gjøre hver aktivitet alene
B) Støtte den samme prestasjonen med delt ansvar, uten å tilpasse og merke den i henhold til nivået ✔
C) Gi samme materiale til hele klassen uten unntak og ikke gjøre noen tilpasninger
D) Overlater kun tilretteleggingen til spesialpedagog og fjerning av klasseromslærer fra prosessen

Forklaring: Differensiering innebærer å tilpasse samme læringsutbytte til ulike nivåer og støtte eleven uten å merke dem. Tilpasning er klasselærerens og spesialpedagogens felles ansvar; Løsninger som skiller og stigmatiserer eleven fra jevnaldrende unngås.

10. Hvorfor er det spesielt risikabelt for AI-språkmodeller å produsere 'hallusinasjoner' i forbindelse med spesialundervisning?

A) Fordi modellen alltid går sakte
B) Fordi modellen ikke kan tyrkisk
C) Fordi hallusinasjoner kun forekommer i visuell produksjon
D) Fordi oppdiktet informasjon kan påvirke barnets utdanningsbeslutning og kan antas å være sann i et flytende språk ✔

Forklaring: En hallusinasjon er når modellen flytende fremstiller ikke-eksisterende informasjon som om den var sann. Et oppdiktet lovverk, en feil utviklingsnorm eller en tenkt metode i spesialundervisningen kan direkte påvirke barnets rett til opplæring og utvikling; så hver utgang må valideres.

11. Hva betyr «unngå skjevhet» i de etiske prinsippene for bruk av kunstig intelligens i spesialundervisning?

A) Gjenkjenne og korrigere stereotype eller diskriminerende resultater produsert av modellen og evaluere hvert barn individuelt ✔
B) Ikke skrive lange meldinger bare for å få rask utgang.
C) Bruk av kunstig intelligens på kun én type hindring
D) Bruke den samme partiske malen på alle studenter

Forklaring: Kunstig intelligens kan reflektere skjevheter i dataene den er trent på; kan produsere stereotypiske resultater om den spesielle typen funksjonshemming, kjønn, sosioøkonomisk status eller kultur. Spesialisten bør overvåke resultatet i denne forbindelse og vurdere hvert barn individuelt.

12. Hvorfor er det viktig å inkludere en 'styrker'-del når du oppsummerer en RAM-rapport med kunstig intelligens og lager en studentprofil?

A) For å få rapporten til å virke lengre
B) Styrker brukes kun for form, selv om de ikke er lovpålagt.
C) Å basere planlegging på styrker og ikke definere eleven kun ved hans/hennes mangler ✔
D) Å fullstendig ignorere behovene og kun skrive positivt

Forklaring: Planlegging i spesialpedagogikk er basert på styrker; Kun en mangel/behovsorientert profil definerer eleven med sine mangler. Styrker er grunnlaget for mål og motivasjon og gir et positivt, vekstorientert syn.

13. Hva er riktig holdning når det gjelder 'opphavsrett og originalitet' ved produksjon av tilpasset materiale?

A) Reprodusere utdataene med opphavsrettsbeskyttede tegn og innhold uten å sjekke
B) Kontrollere og originalisere materialet når det gjelder samsvar med læreplanen, nøyaktighet og opphavsrett ✔
C) Distribuer hvert bilde kommersielt, uavhengig av kilden
D) Forutsatt at opphavsrettsproblematikken ikke gjelder digitalt materiale i det hele tatt

Forklaring: Utdata fra kunstig intelligens kan ha blitt matet fra andre kilder; kan inneholde opphavsrettsbeskyttet innhold, merkekarakterer eller ubekreftet informasjon. Eksperten bør kontrollere materialet for samsvar med læreplanen, nøyaktighet og opphavsrett, og sitere kilden og originalisere det når det er nødvendig.

14. Hvordan beskriver nøkkelprinsippet som er vektlagt gjennom modulen rollen til kunstig intelligens i spesialundervisning?

A) Kunstig intelligens erstatter eksperten og tar avgjørelser automatisk
B) Kunstig intelligens kan kun brukes til notater og ingenting annet
C) Ved bruk av kunstig intelligens er det ikke lenger nødvendig med sakkyndig tilsyn
D) Kunstig intelligens er en assistent og trekkgenerator; Den endelige avgjørelsen og ansvaret ligger hos spesialisten, teamet og familien ✔

Beskrivelse: Kunstig intelligens er en assistent og skissegenerator; Diagnose, plassering, målsetting og beslutninger som påvirker barnets fremtid tilhører den kompetente spesialisten, IEP-teamet og familien. Ubekreftet utgang er som en usignert ekspertdom.