Ethiek, privacy, toezicht door deskundigen en praktijklimieten — Kunstmatige intelligentie in het speciaal onderwijs

Winst:

Vermogen om de ethische principes van het gebruik van kunstmatige intelligentie in het speciaal onderwijs (weldadigheid, niet-schadelijkheid, rechtvaardigheid, vermijden van vooringenomenheid) om te zetten in concrete regels
Mogelijkheid om de privacy van studenten- en familiegegevens, gegevensopslag en deellimieten te beheren binnen het kader van KVKK
Mogelijkheid om lessen uit de hele module te koppelen aan een end-to-end veilige workflow en te definiëren waar kunstmatige intelligentie eindigt en de verantwoordelijkheid van experts begint

Gedurende deze module leerden we AI als assistent te gebruiken: we stelden een IEP-doel op, pasten de materialen aan, stelden een OC en een gedragsplan op, bewaakten de voortgang en versterkten de communicatie met het gezin. In dit laatste onderdeel wordt gekeken naar het raamwerk dat alles bij elkaar houdt: ethiek, privacy en toezicht van deskundigen. Want de ‘data’ waarmee je in het speciaal onderwijs werkt, is geen tabel, maar een kind; De ‘output’ die u produceert is geen document, maar een beslissing die van invloed is op het recht van een kind op onderwijs. Kunstmatige intelligentie biedt op dit gebied veel gemak; Maar bij verkeerd gebruik zijn de mensen die het meeste schade kunnen ondervinden, ook het meest kwetsbaar. Laten we voor de laatste keer het principe herhalen dat we vanaf het begin hebben vastgesteld: kunstmatige intelligentie is een assistent; Diagnose, plaatsing, doel en beslissingen die van invloed zijn op de toekomst van het kind behoren toe aan de bevoegde specialist, het IEP-team en de familie.

Vier ethische principes en hun concrete tegenhangers

We kunnen het gebruik van kunstmatige intelligentie in het speciaal onderwijs toeschrijven aan vier ethische basisprincipes:

Weldadigheid: AI moet worden gebruikt om daadwerkelijk bij te dragen aan de opvoeding van het kind; Het zou de leraar moeten helpen zijn tijd vrij te maken en meer aandacht aan het kind te besteden. Gebruik is geen doel op zich.
Nonmaleficence: Niet-geverifieerde, voor kinderen ongepaste of stigmatiserende output kan schade veroorzaken. Elke output passeert het filter van "zal dit het kind schaden?"
Justitie: Ieder kind moet gelijke toegang hebben tot middelen en kwaliteitsonderwijs. AI mag sommige kinderen niet bevoorrechten en anderen verwaarlozen; Iedereen moet individuele aandacht krijgen.
Vooroordelen vermijden: AI kan stereotypen weerspiegelen in de gegevens waarop het is getraind; Het specifieke type handicap kan discriminerende resultaten opleveren over geslacht, cultuur of sociaal-economische status. De specialist moet deze uitkomsten herkennen en corrigeren en elk kind afzonderlijk beoordelen.

Vooringenomenheid is vooral belangrijk omdat deze verraderlijk is. De AI kan vloeiend een zin produceren als “zulke kinderen kunnen X meestal niet”; Dit is echter een stereotype dat zowel verkeerd is als het kind hindert. De taak van de specialist is om deze patronen te zien en het kind te evalueren met zijn potentieel.

Let op: Er mogen geen door AI gegenereerde generalisaties ("kinderen met X-beperkingen kunnen/doen Y") worden gebruikt om het doel van een kind te beperken. Lage verwachtingen zijn een van de meest voorkomende en meest onzichtbare vormen van discriminatie.

Privacy: limieten voor gegevensopslag en delen

Studentgegevens (identiteit, diagnose, RAM-rapport, gedragsgegevens, familiegegevens) zijn bijzondere persoonsgegevens binnen de reikwijdte van KVKK. Laten we de regels in deze unit verduidelijken:

Anonimiseren: Naam, ID, protocol, school, adres en familiegegevens worden verwijderd voordat een AI-tool wordt ingevoerd.
Minimale gegevens: deel alleen de informatie die nodig is voor de taak; Geef niet het hele bestand "voor het geval dat".
Veilige tool: Indien mogelijk wordt de voorkeur gegeven aan bedrijfstools die een gegevensverwerkingscontract hebben en uw gegevens niet gebruiken in modeltrainingen; Gevoelige gegevens worden niet geüpload vanuit persoonlijke accounts.
Opslag en verwijdering: Als met AI gemaakte concepten studentgegevens bevatten, worden deze opgeslagen volgens de regels van de instelling en indien nodig verwijderd; Het wordt niet op willekeurige plaatsen achtergelaten.
Delen: Informatie wordt alleen gedeeld met geautoriseerde personen (IEP-team, familie, relevante specialist) en alleen voor zover nodig.

De onderstaande tabel vat de limieten samen die je tijdens de module hebt geleerd op één plek:

gebied

AI kan

AI kan/hoort niet toe aan de mens

Evaluatie

Vat anonieme gegevens samen

Diagnoses/veranderingen

BEP

Schrijft een concept van doelstellingen

Bevestigt/bevestigt intentie

materiaal

Past zich aan, onderscheidt

Neemt de beslissing over het curriculum/auteursrecht

AAC

Kaart/verhaaloverzicht

Kiest de werkwijze en past deze aan het kind aan

gedrag

ABC vat samen, geeft advies

Bepaalt de functie, keurt het plan goed

vooruitgang

Vat gegevens samen en interpreteert deze

Definitieve beslissing om door te gaan

familie

tekstontwerpen

Valideert tekst, dwingt relaties af

De rechterkolom in deze tabel is de grens van de deskundigenverantwoordelijkheid en kan onder geen enkele omstandigheid aan de AI worden gedelegeerd.

End-to-end veilige workflow

Laten we de module combineren tot één enkele stroom. Een veilige, door AI ondersteunde bijlesworkflow is als volgt: (1) gegevens anonimiseren; (2) schrijf een prompt met duidelijke rollen en grenzen; (3) krijg een concept van AI; (4) verifieer de output in drie stappen: link naar bron, vergelijk met het daadwerkelijke profiel van het kind, expertfilter; (5) een audit op het gebied van ethiek en vooringenomenheid uitvoeren; (6) aanpassen en valideren met team/familie; (7) toepassen en monitoren met data; (8) concepten bewaren/verwijderen volgens de regels van de instelling. Deze cyclus herhaalt zich bij elke taak, waarbij duidelijk blijft waar AI eindigt en de verantwoordelijkheid van de deskundige begint.

drie minikoffers

Geval 1 — Vooroordelen opvangen. Een docent vroeg de AI om een doelschets; Er stond een zin in de output als "dit type studenten kan niet abstract denken, houd het doel laag." De leraar herkende dit als een stereotype; Zijn eigen leerling was in staat abstracte relaties tot stand te brengen. Hij haalde de zin eruit en schreef het doel op basis van het ware potentieel van het kind. Ethisch toezicht voorkwam een lage verwachting die het kind zou hinderen.

Geval 2 — Privacydiscipline. Eén instelling maakte het tot een regel voor alle leraren om een ‘anonimiseringscontrole’ uit te voeren voordat zij AI gebruiken. Een leraar verwijderde de naam, het protocol en de familiegegevens voordat hij een RAM-rapport liet samenvatten. Maanden later bleek uit een gegevensaudit dat de organisatie geen gevoelige gegevens aan een externe tool had verstrekt. Een eenvoudige gewoonte beschermde de organisatie tegen ernstige risico's.

Geval 3 — Fout bij het delegeren van verantwoordelijkheid. Een leraar implementeerde onder tijdsdruk een door een AI geproduceerd gedragsplan zonder het te lezen. Het plan paste niet bij het functioneren van het kind en het gedrag escaleerde. Het probleem was niet de ‘fout’ van de AI, maar de delegatie van verantwoordelijkheid. Niet-geverifieerde output is als een niet-ondertekend deskundigenoordeel; De verantwoordelijkheid ligt altijd bij de deskundige. Fout: gemak vervangen door verantwoordelijkheid.

Zwakke prompt/sterke prompt

Zwakke prompt:

Analyseer alles over deze student en vertel me wat ik moet doen.

Dit verzoek dwingt ons om meer gegevens te delen (misschien met daarin identiteit) dan nodig is door ‘alles’ te zeggen en draagt de beslissing over aan de AI. Het schendt ook twee basisprincipes.

Krachtige prompt:

Jouw rol: assistent van een specialist in het speciaal onderwijs.Gebruik alleen de volgende anonieme, taakspecifieke informatie: [minimaal vereist].Taak: Maak een ONTWERP voor [enkele, duidelijke taak].Regels: Diagnose/besluitvorming. Generaliseer/stereotypeer niet. Geef aan dat u het niet zeker weet. Ga ervan uit dat dit wordt geverifieerd door de professional en wordt bevestigd door het team/de familie.

Deze claim omvat minimale gegevens, duidelijke taak-, vooringenomenheid- en beslissingsgrenzen samen; Het verzamelt alle principes van de module in één sjabloon.

Veel voorkomende fouten

Verantwoordelijkheid delegeren. De beslissing overlaten aan de AI; uitvoeren zonder de uitvoer te lezen.
Vooroordelen niet zien. Stereotiepe, verwachtingsverlagende generalisaties niet opmerken.
Overmatig data delen. Het geven van onnodige, gevoelige gegevens aan de tool door te zeggen "analyseer alles".
Anonimisering omzeilen. Werken zonder identiteits-, diagnose- en familie-informatie te wissen.
Concepten onveilig opslaan. Afdrukken met leerlinggegevens op willekeurige plaatsen achterlaten.
Ethische auditing als formeel beschouwen. Het overslaan van vragen als “zal het schade veroorzaken, is het eerlijk, is het bevooroordeeld?”

Samengevat

In het speciaal onderwijs is AI een krachtige assistent, maar omdat je met de meest kwetsbare individuen werkt, zijn ethiek en privacy niet onderhandelbaar. Vier principes begeleiden ons: weldadigheid, niet-schadelijkheid, rechtvaardigheid, het vermijden van vooringenomenheid. Studentengegevens worden geanonimiseerd, met minimale en veilige middelen gedeeld en veilig opgeslagen. End-to-end veilige workflow; De cyclus bestaat uit anonimiseren, concept opvragen, verifiëren in drie stappen, ethische beoordeling, goedkeuren met team/familie, bijhouden met gegevens. Waar AI in deze cyclus eindigt, begint de verantwoordelijkheid van deskundigen. Een niet-geverifieerde output is als een niet-ondertekend deskundigenoordeel; De handtekening is altijd van jou.

Applicatie taak

Kies een van de schetsen die u tijdens de module hebt gemaakt (IEP-doel, materiaal, gedragsplan of gezinstekst) en doorloop alle stappen van de 'end-to-end veilige workflow' in dit blok. Controleer vooral op ethiek/vooringenomenheid: is er sprake van een verlagende generalisatie, een stigmatiserende verklaring of een privacylek in de output? Los eventuele problemen op die u tegenkomt en noteer welke stap van de stroom het probleem heeft ondervonden.

controlelijst

[ ] Ik heb de gegevens geanonimiseerd; Ik deelde alleen het noodzakelijke minimum.
[ ] Ik heb de uitvoer in drie stappen geverifieerd (bron/profiel/expert).
[ ] Ik heb de vooroordelen en verwachtingenverlagende generalisaties weggenomen.
[ ] Ik heb stigmatiserende taal uitgeroeid; Ik heb vier ethische principes in acht genomen.
[ ] Ik heb de concepten veilig bewaard/indien nodig verwijderd.
[ ] Ik nam de uiteindelijke beslissing en verantwoordelijkheid als expert/team/familie.

Module-examen

1. Een leraar speciaal onderwijs vraagt aan de kunstmatige intelligentie 'wat is de diagnose van dit kind' door simpelweg de naam en leeftijd van de leerling op te geven en schrijft het antwoord in het IEP-bestand. Wat is de fundamentele fout in deze aanpak?

A) Negeren dat de bevoegdheid om een diagnose te stellen toebehoort aan RAM en geautoriseerde deskundigen; verplaats ook een niet-geverifieerde uitvoer naar een officieel record ✔
B) Het is niet nodig om leeftijdsinformatie aan kunstmatige intelligentie te geven
C) Het is verboden om het BEP-bestand in een digitale omgeving te bewaren
D) Kunstmatige intelligentie laat de diagnose altijd zwaarder lijken dan hij is

Uitleg: Kunstmatige intelligentie kan en mag geen diagnose stellen; Diagnose en evaluatie zijn de taak van RAM en geautoriseerde experts. Bovendien wordt de gewenste output, zonder gegevens aan het model te verstrekken, een verzinsel (hallucinatie) en is het delen van de identiteit van de student een schending van de privacy.

2. Welke van de volgende is het belangrijkste kenmerk dat een (meetbaar) BEP-doel voor de korte termijn zou moeten hebben?

A) Er naar streven dat de leerling het onderwerp over het algemeen leuk vindt
B) Het is alleen gebaseerd op de observatie van de leraar en bevat geen numerieke criteria
C) Verzamel zo lang en zoveel mogelijk uitkomsten in één zin.
D) Bevat waarneembaar gedrag, conditie en een meetbaar succescriterium ✔

Uitleg: Het kortetermijndoel omvat een waarneembaar gedrag, een conditie en een criterium (hoeveel pogingen, welk percentage, welk niveau van onafhankelijkheid). Onmeetbare uitdrukkingen als 'begrijpt', 'leert', 'wordt zich bewust van' veroorzaken fouten bij het schrijven van het doel.

3. Een docent uploadt het RAM-rapport, met daarin de volledige naam, het TR ID-nummer en de diagnose van de leerling, naar een openbaar beschikbare kunstmatige-intelligentietool en zegt 'samenvatten'. Wat zou de juiste aanpak zijn?

A) Upload het rapport zonder enige wijzigingen, omdat de samenvatting alle informatie vereist
B) Verwijder gewoon het TR ID-nummer en laat de naam en diagnose achter
C) Identiteitsinformatie verwijderen, gegevens anonimiseren en een veilige/institutionele tool kiezen ✔
D) Het delen van het rapport via e-mail vanuit uw persoonlijke account en het dienovereenkomstig samenvatten

Toelichting: Studentengegevens zijn bijzondere persoonsgegevens binnen de reikwijdte van KVKK. Identiteitsinformatie moet worden verwijderd en de gegevens moeten worden geanonimiseerd ('10-jarige mannelijke student'). Indien mogelijk moet de voorkeur worden gegeven aan een veilige tool die institutioneel is en de gegevens niet gebruikt in het onderwijs.

4. Wat is de beste houding bij het creëren van een sociaal verhaal met kunstmatige intelligentie voor alternatieve en ondersteunende communicatie (AAC)?

A) Pas het ontwerp specifiek voor het kind aan en laat het goedkeuren door een deskundige ✔
B) Het geproduceerde verhaal exact gebruiken voor alle leerlingen, zonder er iets aan te veranderen
C) Schrijf het verhaal met zo lange en abstracte woorden als mogelijk
D) Alleen lange tekst geven zonder visuele ondersteuning toe te voegen

Beschrijving: Kunstmatige intelligentie genereert concepten; Sociale geschiedenis en communicatieondersteuning moeten echter worden aangepast aan de individuele kenmerken van het kind en worden goedgekeurd door de logopedist/specialist. Een algemeen overzicht kan niet direct worden toegepast.

5. Wat is het basisprincipe bij het krijgen van hulp van kunstmatige intelligentie in een positief gedragsondersteuningsplan?

A) Hem/haar vragen om de zwaarste straf aan te bevelen om het gedrag snel te onderdrukken.
B) De functie van gedrag begrijpen en een alternatief positief gedrags- en preventiestrategieontwerp opstellen ✔
C) Het plan afronden zonder de leerling te kennen, alleen maar kijken naar de naam van het gedrag
D) Het plan uitvoeren zonder de familie en specialist bij het proces te betrekken

Uitleg: Ondersteuning van positief gedrag is niet strafgericht; Het heeft tot doel de functie van gedrag (functionele evaluatie) en preventieve regelgeving te begrijpen en leerbaar alternatief gedrag te bieden in plaats van ongewenst gedrag. Deskundig toezicht is essentieel.

6. Wat betekent ‘datagedreven beslissen’ bij het volgen van de voortgang?

A) Een besluit nemen op basis van slechts één waarneming aan het einde van het jaar
B) Een voortgangsrapport schrijven op basis van de algemene indruk van de leraar, zonder naar de gegevens te kijken
C) De beslissing volledig overlaten aan de interpretatie van kunstmatige intelligentie
D) Een beslissing nemen om het doel te handhaven, aan te passen of te veranderen door naar reguliere meetgegevens te kijken ✔

Toelichting: Op data gebaseerde besluitvorming is de beslissing om het doel te behouden, aan te passen of te veranderen door te kijken naar reguliere prestatiegebaseerde metingen (percentage, aantal pogingen, mate van onafhankelijkheid). Kunstmatige intelligentie vat gegevens samen en suggereert interpretatie; De deskundige neemt de beslissing.

7. Wat is volgens het Universal Design (UDL)-principe de beste manier om materiaal toegankelijk te maken?

A) Het materiaal in slechts één formaat presenteren, in kleine letters en dichte tekst
B) Inhoud op meerdere manieren presenteren, door duidelijke taal en alternatieve tekst aan te bieden ✔
C) Verwijder alle aanpassingen en geef iedereen hetzelfde standaardmateriaal
D) Ervan uitgaande dat toegankelijkheid alleen wordt bereikt door van kleur te veranderen

Beschrijving: UDL wil inhoud op meerdere manieren presenteren (tekst, visueel, audio), in gewone taal, alternatieve tekst en flexibele formaten. Het doel is om te ontwerpen om aan verschillende behoeften te voldoen, en niet aan slechts één 'gemiddelde' student. De eindinspectie is afhankelijk van tests door deskundigen en echte gebruikers.

8. Een leerkracht stuurt de door kunstmatige intelligentie geproduceerde gezinsinformatietekst naar de familie zonder deze te controleren, en de tekst bevat een onjuiste afspraakdatum en een overdreven 'herstel'-belofte. Wat is hier de fundamentele fout?

A) Het creëren van valse informatie en onrealistische verwachtingen door de tekst te verzenden zonder deze te verifiëren ✔
B) Een geschreven tekst naar de familie sturen is op zichzelf verkeerd.
C) De tekst is te kort
D) Het is ten strengste verboden dat kunstmatige intelligentie familieteksten produceert

Beschrijving: Elke tekst die met de familie wordt gedeeld, moet met nauwkeurigheid, vertrouwelijkheid en deskundige goedkeuring worden opgesteld. Kunstmatige intelligentie is vloeiend, maar kan valse informatie produceren (hallucinaties); Sms'jes die zonder verificatie worden verzonden, schaden het vertrouwen en het proces.

9. Welke van de volgende benaderingen is de juiste aanpak bij het maken van differentiatie in een inclusie-/integratieklas?

A) De leerling volledig van het klaslokaal scheiden en hem/haar elke activiteit alleen laten doen
B) Het ondersteunen van dezelfde prestatie met gedeelde verantwoordelijkheid, zonder deze aan te passen en te labelen op niveau ✔
C) Zonder uitzondering hetzelfde materiaal aan de hele klas geven en geen aanpassingen aanbrengen
D) De aanpassing alleen overlaten aan de leerkracht speciaal onderwijs en de klasleraar uit het proces verwijderen

Toelichting: Differentiatie betekent het aanpassen van hetzelfde leerresultaat aan verschillende niveaus en het ondersteunen van de leerling zonder deze te labelen. Aanpassing is de gezamenlijke verantwoordelijkheid van de leerkracht in het klaslokaal en de leerkracht in het speciaal onderwijs; Oplossingen die de leerling scheiden en stigmatiseren van hun leeftijdsgenoten worden vermeden.

10. Waarom is het bijzonder riskant dat AI-taalmodellen ‘hallucinaties’ veroorzaken in de context van speciaal onderwijs?

A) Omdat het model altijd langzaam loopt
B) Omdat het model geen Turks kent
C) Omdat hallucinaties alleen voorkomen bij visuele productie
D) Omdat verzonnen informatie de educatieve beslissing van het kind kan beïnvloeden en in vloeiende taal kan worden aangenomen dat deze waar is ✔

Uitleg: Er is sprake van een hallucinatie als het model op vloeiende wijze niet-bestaande informatie verzint alsof deze waar is. Een verzonnen stuk wetgeving, een onjuiste ontwikkelingsnorm of een denkbeeldige methode in het speciaal onderwijs kunnen rechtstreeks van invloed zijn op het recht van het kind op onderwijs en ontwikkeling; dus elke uitvoer moet worden gevalideerd.

11. Wat betekent ‘vooroordelen vermijden’ in de ethische principes van het gebruik van kunstmatige intelligentie in het speciaal onderwijs?

A) Het herkennen en corrigeren van stereotiepe of discriminerende resultaten geproduceerd door het model en het evalueren van elk kind individueel ✔
B) Geen lange prompts schrijven alleen maar om snelle uitvoer te krijgen.
C) Het gebruik van kunstmatige intelligentie op slechts één type obstakel
D) Hetzelfde bevooroordeelde sjabloon toepassen op alle studenten

Uitleg: Kunstmatige intelligentie kan vooroordelen weerspiegelen in de gegevens waarop deze is getraind; kan stereotiepe output opleveren over het specifieke type handicap, geslacht, sociaal-economische status of cultuur. De specialist moet de uitkomst hiervan monitoren en elk kind individueel beoordelen.

12. Waarom is het belangrijk om een paragraaf 'sterke punten' op te nemen bij het samenvatten van een RAM-rapport met kunstmatige intelligentie en het maken van een studentenprofiel?

A) Om het rapport langer te laten verschijnen
B) Sterke punten worden alleen gebruikt voor de vorm, hoewel ze niet wettelijk verplicht zijn.
C) De planning baseren op sterke punten en de leerling niet alleen definiëren op basis van zijn/haar tekortkomingen ✔
D) Om de behoeften volledig te negeren en alleen positief te schrijven

Toelichting: Planning in het speciaal onderwijs is gebaseerd op sterke punten; Alleen een deficiëntie-/behoeftegericht profiel definieert de student met zijn/haar tekortkomingen. Sterke punten vormen de basis voor doelen en motivatie en zorgen voor een positieve, op groei gerichte kijk.

13. Wat is de juiste houding ten aanzien van 'copyright en originaliteit' bij de productie van aangepast materiaal?

A) De uitvoer reproduceren met auteursrechtelijk beschermde tekens en inhoud zonder controle
B) Het controleren en origineel maken van het materiaal op naleving van het leerplan, nauwkeurigheid en auteursrecht ✔
C) Verspreid elk beeld commercieel, ongeacht de bron
D) Ervan uitgaande dat de auteursrechtkwestie helemaal niet van toepassing is op digitaal materiaal

Uitleg: De output van kunstmatige intelligentie kan afkomstig zijn uit andere bronnen; kan auteursrechtelijk beschermde inhoud, merkkarakters of niet-geverifieerde informatie bevatten. De deskundige dient het materiaal te controleren op conformiteit met het leerplan, juistheid en auteursrechten, de bron te vermelden en indien nodig te originaliseren.

14. Hoe beschrijft het sleutelprincipe dat in de hele module wordt benadrukt de rol van kunstmatige intelligentie in het speciaal onderwijs?

A) Kunstmatige intelligentie vervangt de expert en neemt automatisch beslissingen
B) Kunstmatige intelligentie kan alleen worden gebruikt voor het maken van aantekeningen en niets anders
C) Bij gebruik van kunstmatige intelligentie is deskundig toezicht niet meer nodig
D) Kunstmatige intelligentie is een assistent en conceptgenerator; De uiteindelijke beslissing en verantwoordelijkheid ligt bij de specialist, het team en de familie ✔

Beschrijving: Kunstmatige intelligentie is een assistent en schetsgenerator; Diagnose, plaatsing, het stellen van doelen en beslissingen die van invloed zijn op de toekomst van het kind behoren toe aan de bevoegde specialist, het IEP-team en het gezin. Niet-geverifieerde output is als een niet-ondertekend deskundigenoordeel.