Etik, privatliv, ekspertovervågning og praksisgrænser — Kunstig intelligens i specialundervisning

Gevinster:

Evne til at omdanne de etiske principper for brug af kunstig intelligens i specialundervisning (godgørenhed, ikke-ondskab, retfærdighed, undgåelse af bias) til konkrete regler
Evne til at administrere privatlivets fred for elev- og familiedata, datalagring og delingsgrænser inden for rammerne af KVKK
Evne til at binde læring gennem hele modulet til en ende-til-ende sikker arbejdsgang og definere, hvor kunstig intelligens slutter og ekspertansvar begynder

Igennem dette modul lærte vi at bruge AI som assistent: udarbejdede et IEP-mål, tilpassede materialer, etablerede en AAC- og adfærdsplan, overvågede fremskridt og styrkede kommunikationen med familien. Denne sidste enhed ser på rammerne, der holder det hele sammen: etik, privatliv og eksperttilsyn. For de "data" man arbejder med i specialundervisningen er ikke en tabel, men et barn; Det "output", du producerer, er ikke et dokument, men en beslutning, der påvirker et barns ret til uddannelse. Kunstig intelligens giver stor bekvemmelighed på dette område; Men ved forkert brug er de mennesker, der kan komme mest til skade, også de mest udsatte. Lad os for sidste gang gentage princippet, vi etablerede fra begyndelsen: Kunstig intelligens er en assistent; Diagnose, anbringelse, formål og beslutninger, der påvirker barnets fremtid, tilhører den kompetente specialist, IEP-teamet og familien.

Fire etiske principper og deres konkrete modstykker

Vi kan tilskrive brugen af kunstig intelligens i specialundervisningen til fire grundlæggende etiske principper:

Fordel: AI bør bruges til virkelig at bidrage til barnets uddannelse; Det skal hjælpe læreren med at frigøre sin tid og være mere opmærksom på barnet. Brug er ikke et mål i sig selv.
Ikke-maleficence: Ubekræftet, børneupassende eller stigmatiserende output kan forårsage skade. Hver udgang passerer gennem filteret "vil dette skade barnet?"
Retfærdighed: Alle børn bør have lige adgang til ressourcer og kvalitetsuddannelse. AI bør ikke privilegere nogle børn og forsømme andre; Alle skal have individuel opmærksomhed.
Undgå bias: AI kan afspejle stereotyper i de data, den trænes på; Den specifikke type handicap kan producere diskriminerende output om køn, kultur eller socioøkonomisk status. Specialisten skal genkende og korrigere disse resultater og evaluere hvert barn individuelt.

Bias er især vigtigt, fordi det er lumsk. AI kan flydende producere en sætning som "sådanne børn kan normalt ikke X"; Dette er dog en stereotype, der både er forkert og hæmmer barnet. Specialistens opgave er at se disse mønstre og vurdere barnet med sit potentiale.

Forsigtig: Ingen AI-genererede generaliseringer ("børn med X-handicap kan/gør Y") kan bruges til at begrænse et barns formål. Lave forventninger er en af de mest almindelige og mest usynlige former for diskrimination.

Fortrolighed: grænser for datalagring og deling

Elevdata (identitet, diagnose, RAM-rapport, adfærdsjournal, familieoplysninger) er særlige persondata inden for KVKKs rammer. Lad os præcisere reglerne i denne enhed:

Anonymiser: Navn, ID, protokol, skole, adresse og familieoplysninger fjernes, før du indtaster noget AI-værktøj.
Minimal data: Del kun de nødvendige oplysninger til opgaven; Giv ikke hele filen "for en sikkerheds skyld".
Sikkert værktøj: Hvis det er muligt, foretrækkes virksomhedsværktøjer, der har en databehandlerkontrakt og ikke bruger dine data i modeltræning; Følsomme data uploades ikke fra personlige konti.
Lagring og sletning: Hvis udkast, der er produceret med AI, indeholder elevdata, gemmes de i henhold til institutionens regler og slettes, når det er nødvendigt; Det efterlades ikke tilfældige steder.
Deling: Oplysninger deles kun med autoriserede personer (IEP-team, familie, relevant specialist) og kun så meget som nødvendigt.

Tabellen nedenfor opsummerer de begrænsninger, man har lært gennem modulet, på ét sted:

område

AI kan

AI kan/tilhører ikke mennesker

Evaluering

Opsummerer anonyme data

Diagnoser/ændringer

BEP

Skriver et udkast til mål

Bekræfter/bekræfter hensigten

materiale

Tilpasser sig, differentierer

Træffer pensum/ophavsretsbeslutning

AAC

Kort/historieoversigt

Vælger metode og tilpasser den til barnet

adfærd

ABC opsummerer, giver råd

Bestemmer funktionen, godkender planen

fremskridt

Opsummerer og fortolker data

Endelig beslutning om at fortsætte

familie

tekstudkast

Validerer tekst, håndhæver forhold

Den højre kolonne i denne tabel er grænsen for ekspertansvar og kan under ingen omstændigheder delegeres til AI'en.

Sikker arbejdsgang fra ende til ende

Lad os kombinere modulet i et enkelt flow. En sikker AI-understøttet vejledningsarbejdsgang er som følger: (1) anonymiser data; (2) skriv en prompt med klare roller og grænser; (3) få udkast fra AI; (4) verificere outputtet i tre trin — link til kilde, sammenlign med barnets faktiske profil, ekspert-filter; (5) udføre en etik- og partiskhedsrevision; (6) tilpasse og validere med team/familie; (7) anvende og overvåge med data; (8) beholde/slette udkast i henhold til institutionens regler. Denne cyklus gentages med hver opgave og gør det klart, hvor AI slutter og ekspertansvar begynder.

tre minisager

Case 1 — Catching bias. En lærer bad AI om en måloversigt; Der var en sætning i outputtet som "denne type studerende kan ikke tænke abstrakt, hold målet lavt." Læreren genkendte dette som en stereotyp; Hans egen elev var i stand til at etablere abstrakte relationer. Han udtog sætningen og skrev målet ud fra barnets sande potentiale. Etisk tilsyn forhindrede en lav forventning, der ville hindre barnet.

Sag 2 — Privatlivsdisciplin. En institution gjorde det til en regel for alle lærere at foretage et "anonymiseringstjek", før de brugte AI. En lærer fjernede navn, protokol og familieoplysninger, før han fik en RAM-rapport opsummeret. Måneder senere viste en datarevision, at organisationen ikke havde givet nogen følsomme data til et eksternt værktøj. En simpel vane beskyttede organisationen mod alvorlige risici.

Sag 3 — Fejl ved uddelegering af ansvar. En lærer implementerede under tidspres en adfærdsplan udarbejdet af en AI uden at læse den. Planen passede ikke til barnets funktion, og adfærden eskalerede. Problemet var ikke AI's "fejl", men uddelegeringen af ansvar. Ubekræftet output er som en usigneret ekspertvurdering; Ansvaret ligger altid hos eksperten. Fejl: erstatter bekvemmelighed med ansvar.

Svag prompt / Stærk prompt

Svag prompt:

Analyser alt om denne elev og fortæl mig, hvad jeg skal gøre.

Denne anmodning skubber os både til at dele flere data (måske indeholdende identitet) end nødvendigt ved at sige "alt" og overfører beslutningen til AI. Det bryder også med to grundlæggende principper.

Kraftig prompt:

Din rolle: assistent for specialpædagog.Brug kun følgende anonyme, opgavespecifikke oplysninger: [minimum påkrævet].Opgave: Lav et UDKAST til [enkelt, overskuelig opgave].Regler: Diagnose/beslutningstagning. Undlad at generalisere/stereotype. Fortæl, at du ikke er sikker. Antag, at dette vil blive verificeret af den professionelle og bekræftet med teamet/familien.

Denne påstand inkluderer minimale data, klar opgave, bias og beslutningsgrænser tilsammen; Den samler alle modulets principper i en enkelt skabelon.

Almindelige fejl

Uddelegering af ansvar. Overlader beslutningen til AI; udføres uden at læse outputtet.
Ikke at se fordomme. Ikke at bemærke stereotype, forventningssænkende generaliseringer.
Deling af overdreven data. Giver unødvendige, følsomme data til værktøjet ved at sige "analyser alt".
Omgå anonymisering. Arbejde uden at slette identitet, diagnose og familieoplysninger.
Usikker opbevaring af kladder. Efterlad udskrifter indeholdende elevdata på tilfældige steder.
At se etisk revision som formel. Springer du over spørgsmål som "vil det forårsage skade, er det fair, er det forudindtaget?"

Sammenfattende

I specialundervisningen er AI en stærk assistent, men fordi du arbejder med de mest sårbare individer, er etik og privatliv ikke til forhandling. Fire principper guider os: velgørenhed, ikke-maleficence, retfærdighed, undgåelse af bias. Elevdata anonymiseres, deles med minimale og sikre midler og opbevares sikkert. Sikker arbejdsgang fra ende til ende; Cyklusen er anonymisere, få udkast, verificere i tre trin, etisk gennemgang, godkende med team/familie, spore med data. Uanset hvor AI ender i denne cyklus, begynder ekspertansvar. Et ubekræftet output er som en usigneret ekspertvurdering; Signaturen er altid din.

Ansøgningsopgave

Vælg en af de skitser, du har udarbejdet gennem modulet (IEP-mål, materiale, adfærdsplan eller familietekst), og tag det gennem alle "ende-til-ende sikker arbejdsgang"-trin i denne enhed. Tjek især for etik/bias: er der en sænkende generalisering, en stigmatiserende udtalelse eller et privatlivslæk i outputtet? Løs eventuelle problemer, du finder, og noter, hvilket trin i flowet, der fangede problemet.

tjekliste

[ ] Jeg anonymiserede dataene; Jeg delte kun det nødvendige minimum.
[ ] Jeg verificerede outputtet med tre trin (kilde/profil/ekspert).
[ ] Jeg ryddede de fordomme og forventningssænkende generaliseringer.
[ ] Jeg lugede ud stigmatiserende sprog; Jeg overholdt fire etiske principper.
[ ] Jeg opbevarede udkastene/slettede dem, når det var nødvendigt.
[ ] Jeg tog den endelige beslutning og ansvar som ekspert/team/familie.

Modul eksamen

1. En specialundervisningslærer spørger den kunstige intelligens 'hvad er diagnosen for dette barn' ved blot at give elevens navn og alder og skriver svaret ind i IEP-filen. Hvad er den grundlæggende fejl i denne tilgang?

A) Ignorerer, at autoriteten til at stille en diagnose tilhører RAM og autoriserede eksperter; flyt også et ubekræftet output til en officiel post ✔
B) Det er unødvendigt at give aldersoplysninger til kunstig intelligens
C) Det er forbudt at opbevare BEP-filen i et digitalt miljø
D) Kunstig intelligens får altid diagnosen til at virke tungere, end den er

Forklaring: Kunstig intelligens kan og bør ikke diagnosticere; Diagnose og evaluering er RAM og autoriserede eksperters opgave. Uden at give data til modellen bliver det ønskede output desuden en opspind (hallucination), og deling af elevidentiteten er en krænkelse af privatlivets fred.

2. Hvilket af følgende er hovedtræk, som et kortsigtet (målbart) BEP-mål bør have?

A) Sigter mod, at eleven generelt kan lide faget
B) Den er kun baseret på lærerens observation og indeholder ikke numeriske kriterier
C) Saml så lange og så mange resultater som muligt i én sætning.
D) Indeholder observerbar adfærd, tilstand og et målbart succeskriterium ✔

Forklaring: Det kortsigtede mål inkluderer en observerbar adfærd, tilstand og kriterium (hvor mange forsøg, hvilken procentdel, hvilket niveau af uafhængighed). Umålelige udtryk som 'forstår', 'lærer', 'bliver opmærksom på' forårsager fejl i at skrive formålet.

3. En lærer uploader RAM-rapporten, som inkluderer elevens fulde navn, TR ID-nummer og diagnose, til et offentligt tilgængeligt kunstig intelligens-værktøj og siger 'opsummer'. Hvad ville være den rigtige tilgang?

A) Upload rapporten uden ændringer, fordi sammendraget kræver alle oplysninger
B) Bare slet TR ID-nummeret og efterlad navn og diagnose
C) Fjernelse af identitetsoplysninger, anonymisering af data og valg af et sikkert/institutionelt værktøj ✔
D) Deling af rapporten via e-mail fra din personlige konto og opsummering i overensstemmelse hermed

Forklaring: Elevdata er særlige persondata inden for KVKKs område. Identitetsoplysninger bør fjernes og data anonymiseres ('10-årig mandlig studerende'), og hvis det er muligt, bør et sikkert værktøj, der er institutionelt og ikke bruger dataene i undervisningen, foretrækkes.

4. Hvad er den bedste holdning, når man skaber en social historie med kunstig intelligens til alternativ og augmentativ kommunikation (AAC)?

A) Tilpas udkastet specifikt til barnet og få det godkendt af en ekspert ✔
B) Brug af den producerede historie præcis til alle elever uden overhovedet at ændre den
C) At skrive historien med så lange og abstrakte ord som muligt
D) Giver kun lang tekst uden at tilføje visuel støtte

Beskrivelse: Kunstig intelligens genererer udkast; Socialhistorie og kommunikationsstøtte bør dog tilpasses barnets individuelle karakteristika og godkendes af talepatologen/specialisten. En generel oversigt kan ikke anvendes direkte.

5. Hvilket af følgende er det grundlæggende princip, når man får hjælp fra kunstig intelligens i en plan for positiv adfærdsstøtte?

A) Beder ham/hende om at anbefale den hårdeste straf for hurtigt at undertrykke adfærden.
B) Forstå funktionen af adfærd og udarbejde et alternativt udkast til positiv adfærd og forebyggende strategi ✔
C) Afslutning af planen uden at kende eleven, bare se på navnet på adfærden
D) Implementering af planen uden at involvere familie og specialist i processen

Forklaring: Positiv adfærdsstøtte er ikke straforienteret; Det har til formål at forstå funktionen af adfærd (funktionel evaluering), forebyggende reguleringer og give en lærebar alternativ adfærd i stedet for uønsket adfærd. Eksperttilsyn er afgørende.

6. Hvad betyder "datadrevet beslutning" ved sporing af fremskridt?

A) At træffe en beslutning kun baseret på en enkelt observation ved årets udgang
B) At skrive en statusrapport baseret på lærerens generelle indtryk uden at se på data
C) At overlade beslutningen helt til fortolkningen af kunstig intelligens
D) Beslutning om at fastholde, tilpasse eller ændre målet ved at se på almindelige måledata ✔

Forklaring: Databaseret beslutningstagning er at beslutte at fastholde, tilpasse eller ændre målet ved at se på regelmæssige præstationsbaserede målinger (procentdel, antal forsøg, niveau af uafhængighed). Kunstig intelligens opsummerer data og foreslår fortolkning; Eksperten træffer beslutningen.

7. I henhold til princippet om universel design (UDL) hvad er den bedste måde at gøre et materiale tilgængeligt på?

A) Præsentation af materialet i kun ét format, med småt og tæt tekst
B) Præsentation af indhold på flere måder, med almindeligt sprog og alternativ tekst ✔
C) Fjern alle tilpasninger og giv alle det samme standardmateriale
D) Forudsat at tilgængelighed kun opnås ved at skifte farve

Beskrivelse: UDL forestiller sig at præsentere indhold på flere måder (tekst, visuel, lyd), almindeligt sprog, alternativ tekst og fleksible formater. Målet er at designe, så det passer til forskellige behov, ikke kun én 'gennemsnitlig' studerende. Den endelige inspektion afhænger af ekspert- og reel brugertest.

8. En lærer sender familieinformationsteksten produceret af kunstig intelligens til familien uden at kontrollere den, og teksten indeholder en forkert aftaledato og et overdrevet løfte om 'recovery'. Hvad er den grundlæggende fejl her?

A) Skaber falsk information og urealistiske forventninger ved at sende teksten uden at bekræfte den ✔
B) At sende en skriftlig tekst til familien er i sig selv forkert.
C) Teksten er for kort
D) Kunstig intelligens er strengt forbudt at producere familietekst

Beskrivelse: Enhver tekst, der deles med familien, skal fremstilles med nøjagtighed, fortrolighed og ekspertgodkendelse. Kunstig intelligens er flydende, men kan producere falsk information (hallucinationer); Tekst sendt uden bekræftelse skader tilliden og processen.

9. Hvilken af følgende er den korrekte tilgang, når man laver differentiering i en inklusions-/integrationsklasse?

A) At adskille eleven fuldstændigt fra klasseværelset og lade ham/hende udføre hver aktivitet alene
B) Støtte den samme præstation med delt ansvar, uden at tilpasse og mærke den i henhold til niveauet ✔
C) At give det samme materiale til hele klassen uden undtagelse og ikke foretage nogen tilpasninger
D) Kun at overlade tilpasningen til speciallæreren og fjerne klasselæreren fra processen

Forklaring: Differentiering betyder at tilpasse det samme læringsudbytte til forskellige niveauer og støtte eleven uden at mærke dem. Tilpasning er klasselærerens og speciallærerens fælles ansvar; Løsninger, der adskiller og stigmatiserer eleven fra deres kammerater, undgås.

10. Hvorfor er det særligt risikabelt for AI-sprogmodeller at producere 'hallucinationer' i forbindelse med specialundervisning?

A) Fordi modellen altid kører langsomt
B) Fordi modellen ikke kan tyrkisk
C) Fordi hallucination kun forekommer i visuel produktion
D) Fordi opdigtede oplysninger kan påvirke barnets uddannelsesbeslutning og kan antages at være sande i et flydende sprog ✔

Forklaring: En hallucination er, når modellen flydende fremstiller ikke-eksisterende information, som om den var sand. En opdigtet lovgivning, en forkert udviklingsnorm eller en imaginær metode i specialundervisningen kan direkte påvirke barnets ret til uddannelse og udvikling; så hvert output skal valideres.

11. Hvad betyder 'at undgå bias' i de etiske principper for brug af kunstig intelligens i specialundervisningen?

A) Genkende og korrigere stereotype eller diskriminerende output produceret af modellen og evaluere hvert barn individuelt ✔
B) Ikke at skrive lange meddelelser bare for at få hurtigt output.
C) Brug af kunstig intelligens på kun én type forhindring
D) Anvendelse af den samme skæve skabelon på alle elever

Forklaring: Kunstig intelligens kan afspejle skævheder i de data, som den er trænet på; kan producere stereotypt output om den særlige type handicap, køn, socioøkonomisk status eller kultur. Speciallægen bør overvåge resultatet i denne henseende og evaluere hvert barn individuelt.

12. Hvorfor er det vigtigt at inkludere et 'styrker'-afsnit, når man sammenfatter en RAM-rapport med kunstig intelligens og laver en elevprofil?

A) For at få rapporten til at se længere ud
B) Styrker bruges kun til form, selvom de ikke er lovpligtige.
C) At basere planlægning på styrker og ikke kun definere eleven ud fra hans/hendes mangler ✔
D) At ignorere behovene fuldstændigt og kun skrive positivt

Forklaring: Planlægning i specialundervisningen er baseret på styrker; Kun en mangel/behovsorienteret profil definerer eleven med sine mangler. Styrker er grundlaget for mål og motivation og giver et positivt, vækstorienteret udsyn.

13. Hvad er den korrekte holdning med hensyn til 'ophavsret og originalitet' i produktionen af tilpasset materiale?

A) Gengivelse af output med ophavsretligt beskyttede tegn og indhold uden kontrol
B) Kontrol og originalisering af materialet med hensyn til overensstemmelse med læseplanen, nøjagtighed og ophavsret ✔
C) Distribuer hvert billede kommercielt, uanset kilden
D) Forudsat at ophavsretsspørgsmålet slet ikke gælder digitalt materiale

Forklaring: Kunstig intelligens-output kan være blevet tilført fra andre kilder; kan indeholde ophavsretligt beskyttet indhold, brandkarakterer eller ubekræftede oplysninger. Eksperten bør kontrollere materialet for overensstemmelse med læseplanen, nøjagtighed og ophavsret, og citere kilden og originalisere det, når det er nødvendigt.

14. Hvordan beskriver det centrale princip, der fremhæves gennem modulet, kunstig intelligenss rolle i specialundervisningen?

A) Kunstig intelligens erstatter eksperten og træffer beslutninger automatisk
B) Kunstig intelligens kan kun bruges til notetagning og intet andet
C) Når kunstig intelligens anvendes, er ekspertovervågning ikke længere nødvendig
D) Kunstig intelligens er en assistent og trækgenerator; Den endelige beslutning og ansvaret ligger hos specialisten, teamet og familien ✔

Beskrivelse: Kunstig intelligens er en assistent og skitsegenerator; Diagnose, anbringelse, målsætning og beslutninger, der påvirker barnets fremtid, tilhører den kompetente specialist, IEP-teamet og familien. Ubekræftet output er som en usigneret ekspertdom.