Winst:
- Mogelijkheid om leerlinggegevens te classificeren en te anonimiseren binnen het kader van KVKK en speciale persoonsgegevensconcepten en veilige voertuigselectie toe te passen
- Vermogen om PDR-beroepsethische principes (vertrouwelijkheid, weldadigheid, niet-schadelijkheid, autonomie) aan te passen aan het gebruik van kunstmatige intelligentie
- Vermogen om vooroordelen, culturele ongevoeligheid en hallucinaties in de output van kunstmatige intelligentie te herkennen en een ethisch gebruiksbeleid te creëren
Vertrouwen vormt de kern van het PDR-vak. Als een leerling zijn/haar meest intieme gevoelens, familie en angsten aan een specialist kan vertellen, is dat alleen maar omdat hij/zij gelooft dat de informatie beschermd zal worden. Hulpmiddelen voor kunstmatige intelligentie vormen een serieuze nieuwe test voor dit vertrouwen: de meest gevoelige gegevens kunnen in één zin uit de hand lopen. In deze unit bespreken we systematisch privacy, KVKK, PDR-beroepsethiek en hoe deze van toepassing zijn op het gebruik van kunstmatige intelligentie. We hebben deze principes stukje bij beetje toegepast in eerdere units; Hier bundelen we het tot één geheel en maken er permanent beleid van.
KVKK en gegevenstypen: wat is beter beschermd
KVKK (Wet Bescherming Persoonsgegevens) is de wet die de rechtmatige verwerking van gegevens van mensen regelt. Twee concepten zijn bijzonder belangrijk. Persoonlijke gegevens zijn alle informatie die een persoon identificeert of identificeert: naam, achternaam, schoolnummer, klas, adres, foto. Bijzondere persoonsgegevens zijn een soort gevoelige gegevens die een hogere bescherming vereisen: gezondheid, mentale toestand, diagnose, seksleven, religie, etniciteit, criminele status. Het merendeel van de PDR-records valt in deze tweede, gevoelige categorie; omdat mentale status, familieproblemen en ondersteuningsgeschiedenis rechtstreeks privégegevens zijn. Dit betekent dat PDR-gegevens nooit in hun ruwe vorm in openbare tools mogen worden ingevoerd.
In de praktijk vertaalt dit zich in drie regels: (1) Dataminimalisatie – werk met de minste hoeveelheid data die nodig is om een taak uit te voeren. (2) Anonimisering – maak gegevens niet meer aan het individu te koppelen door persoonlijk identificeerbare informatie te verwijderen. (3) Veilige middelen en doelafbakening – gebruik waar mogelijk gegevensbeveiligde bedrijfstools en verwerk gegevens alleen voor het doel waarvoor ze zijn verzameld.
Let op: het is niet voldoende om te zeggen: "Ik heb het op de een of andere manier geanonimiseerd". Zelfs als een naam uit een tekst wordt weggelaten, kan een unieke beschrijving van de situatie (een zeer specifieke situatie bij een enkele leerling op een kleine school) de persoon identificeerbaar maken. Generaliseer bij anonimisering niet alleen de naam, maar ook de details die samen de persoon aanduiden.
Anonimiseringspraktijk: een controleprocedure
Voordat u een tekst naar de tool exporteert, volgt u deze procedure: (a) Verwijder directe identificatiegegevens zoals naam, achternaam, nummer, klastak, naam van de ouder, adres, telefoon, naam van de school. (b) Generaliseer indirecte descriptoren: ‘een middelbare scholier’ in plaats van ‘de enige visueel gehandicapte leerling in 12-B.’ (c) Vervaag datum- en gebeurtenisdetails indien nodig. (d) Na het lezen: "Kan iedereen die deze tekst leest, erachter komen wie er wordt genoemd?" Als het antwoord vaag is, generaliseer dan verder. Het geauthenticeerde record wordt alleen naar het gesloten, beveiligde systeem van de instelling geschreven; De AI-tool bevindt zich buiten dit systeem.
PDR beroepsethiek en AI
De beroepsethiek van PDR is gebaseerd op vier fundamentele principes, die elk rechtstreeks van toepassing zijn op het gebruik van AI:
- Vertrouwelijkheid (geheimen bewaren): Studenteninformatie is beschermd. Het niet invoeren van ruwe data in AI, het anonimiseren ervan en het kiezen van een veilige tool is een vereiste van dit principe.
- Weldadigheid: alles wat gedaan wordt, moet het welzijn van de student dienen. AI wordt gebruikt voor het gemak, niet op een manier die het voordeel van de student in gevaar zou brengen.
- Nonmaleficence: De prioriteit is om geen schade aan te richten. Niet-geverifieerde output, onnauwkeurige statistieken, etikettering en het gebruik van AI in crisissituaties vormen risico's op schade; daarom zijn verificatie en crisisgrenzen een ethische noodzaak.
- Autonomie: Het recht van de student om zijn of haar eigen beslissing te nemen wordt beschermd. AI mag de leerling niet reduceren tot een etiket of namens hem/haar beslissingen nemen.
Hieraan wordt verantwoording toegevoegd: de verantwoordelijkheid voor iedere gebruikte output ligt bij de expert; ‘AI heeft het geproduceerd’ is geen verdediging.
Vooroordelen, culturele gevoeligheid en transparantie
AI kan sociale patronen in trainingsgegevens weerspiegelen. Bij PDR is dit een kwestie van eerlijkheid: uitkomsten die een leerling stereotyperen op basis van zijn geslacht, cultuur of sociaal-economische status ondermijnen de gelijkheid van kansen. De expert controleert de geproduceerde inhoud op culturele gevoeligheid en vooringenomenheid. Ook transparantie: waar nodig moet intern duidelijk worden gemaakt dat AI is gebruikt bij het opstellen van een materiaal of concept; Het mag niet worden gebruikt als een geheime "magie". Vertrouwelijkheid is essentieel in de relatie met de student; Wat de leerling uitlegt, wordt niet overgedragen op een voertuig.
Stap voor stap: het opstellen van een AI-gebruiksbeleid
- Classificeer gegevens. Scheid alle informatie die u heeft als "persoonlijk / privé / openbaar".
- Selecteer voertuig. De enige veilige, zakelijke tool voor gevoelige gegevens; Werk anoniem voor het algemene overzicht.
- Volg de anonimiseringsprocedure. Voer de controleroutine uit vóór elke invoer.
- Validatie en bias-controle. Onderzoek elke output op feiten en eerlijkheid.
- Handhaaf de crisislimiet. Houd de crisis- en overlegrelatie buiten het voertuig.
- Neem je verantwoordelijkheid en wees transparant. De definitieve goedkeuring is aan de deskundige; Het gebruik is open binnen de organisatie.
Kopieerbare sjablonen
1) Anonimiseringscontrole:
Jouw rol: assistent privacy audit. Noem elke uitspraak in de onderstaande tekst waarmee de persoon DIRECT of INDIRECT kan worden geïdentificeerd (naam, nummer, klas, school, unieke situatiebeschrijving) en stel voor elke uitspraak een algemener alternatief voor. Inhoud commentaar geven.Tekst: [tekst plakken]
2) Vooringenomenheid en culturele gevoeligheidsaudit:
Controleer het volgende PDR-materiaal op vooroordelen en culturele gevoeligheid: Bevat het stereotypen over geslacht, cultuur, sociaal-economische status of gezinsstructuur? Wie kan uitsluiten? Markeer risicovolle uitspraken en stel inclusieve alternatieven voor.Materiaal: [materiaal plakken]
3) Ontwerp bedrijfsbeleid voor AI-gebruik:
Jouw rol: PDR-schrijfassistent. Voor de begeleidingsdienst een kort intern beleid opstellen over het gebruik van hulpmiddelen voor kunstmatige intelligentie. Rubrieken: in welke functies het wordt gebruikt, in welke functies het niet wordt gebruikt (crisis, diagnose, overleg), regel voor gegevensanonimisering, verificatieplicht, verantwoordelijkheid ligt bij de deskundige. Kort en toepasbaar.
Zwakke prompt/sterke prompt
Zwak:
Om de situatie van Ahmet Yılmaz 8-C samen te vatten: hij werd thuis onderworpen aan geweld.
Het voert de meest gevoelige gegevens (naam, klasse, speciale status) in ruwe vorm in het voertuig in – een ernstige schending van KVKK en ethiek; Bovendien kan dit een meldingssituatie zijn (unit 9).
Sterk:
Jouw rol: assistent privacycontrole. Opmerking: ik heb de onderstaande tekst geanonimiseerd voordat ik deze naar de tool verstuurde. Maar kijk nog eens goed: zijn er nog details over die de persoon identificeerbaar maken? Tekst: "Een middelbare scholier liet doorschemeren dat hij thuis spanning ervoer."
drie minikoffers
Zaak 1 — Indirecte openbaarmaking. Een expert stond op het punt een tekst in de tool in te voeren waarvan hij de naam had weggelaten; maar hij realiseerde zich dat de uitdrukking "de enige leerling van de school die een rolstoel gebruikt" rechtstreeks naar die persoon verwees. Hij generaliseerde dit naar "een student". Naamgeving alleen was niet genoeg; Ook de beschrijving van de unieke situatie was identificerend.
Geval 2 — Biascorrectie. Een deskundige die carrièremateriaal controleerde, ontdekte dat de AI altijd mannelijke namen gebruikte in technische voorbeelden en vrouwelijke namen in zorgberoepen. Het bracht de monsters in evenwicht en doorbrak de mal. Deze ogenschijnlijk kleine correctie behield de eerlijkheid van de boodschap die aan de studenten werd gestuurd.
Geval 3 — Beleid vaststellen. Een begeleidingsdienst heeft een gemeenschappelijke interne beleidstekst opgesteld om de verwarring weg te nemen die voortkomt uit het feit dat iedereen AI anders gebruikt: bij welke taken het wordt gebruikt, niet bij crisis en diagnose, gegevens worden geanonimiseerd, output wordt geverifieerd, de verantwoordelijkheid ligt bij de expert. AI gaf ontwerp; Het team rondde de inhoud af met hun eigen waarden. Onzekerheid maakte plaats voor een helder raamwerk.
Veel voorkomende fouten
- Het invoeren van ruwe gegevens. Schrijven naar voertuig met naam/status. Oplossing: anonimiseringsprocedure, beveiligde tool.
- Gewoon de naam verwijderen. Indirecte identificatiegegevens vergeten. Oplossing: generaliseer ook unieke details.
- Vooroordelen negeren. Stereotiepe uitvoer overnemen. Oplossing: bias en cultuuraudit.
- De verantwoordelijkheid bij het voertuig leggen. Het betekent "AI heeft het geproduceerd". Oplossing: de verantwoordelijkheid ligt bij de deskundige.
- Misbruik. Het verwerken van gegevens verzameld voor het ene doel voor een ander doel. Oplossing: respecteer de doellimiet.
Tabel: Gegevenstype en AI-regel
Gegevenstype
voorbeeld
AI-regel
publiek
Algemene beroepsintroductie
vrij verkrijgbaar
persoonlijke gegevens
Naam, nummer, klasse
Zonder anonimisering is toegang niet mogelijk
Bijzondere kwaliteitsgegevens
Mentale status, familie, diagnose
Het kan nooit in zijn ruwe vorm worden ingevoerd.
crisisgegevens
Risico, misbruik, zelfmoord
Stap nooit in het voertuig (unit 9)
Samengevat
Bij PDR is vertrouwelijkheid de basis van vertrouwen in het beroep en het meest beproefde principe in het AI-tijdperk. KVKK scheidt gegevens in persoonlijke en privégegevens; De meeste PDR-gegevens zijn gevoelig en worden niet in ruwe vorm in de tool ingevoerd. Dataminimalisatie, anonimisering (met directe en indirecte identificatiegegevens) en veilige toolselectie zijn de basisregels. De vier principes van de beroepsethiek – vertrouwelijkheid, weldadigheid, niet-schadelijkheid, autonomie – zijn bindend voor het gebruik van AI; Vooroordelen worden onder controle gehouden, de verantwoordelijkheid blijft bij de deskundige en het gebruik is transparant binnen de organisatie.
Applicatie taak
Stel een kort ‘AI Use Policy’ op voor uw eigen begeleidingsdienst. Neem een voorsprong met de sjabloon ‘Enterprise AI Use Policy Draft’; Pas het dan aan volgens de realiteit van uw eigen instelling. Voer ook een (fictieve) tekst door het sjabloon "anonimiseringscontrole" en leg ten minste één indirecte identificatie vast en generaliseer deze.
controlelijst
- [ ] Ik heb de gegevens die ik heb geclassificeerd als persoonlijk / privé / openbaar.
- [ ] Ik heb directe en indirecte identificatiegegevens gegeneraliseerd bij anonimisering.
- [ ] Ik heb een Secure/Enterprise-tool gebruikt voor gevoelige gegevens.
- [ ] Ik heb de output gecontroleerd op vooringenomenheid en culturele gevoeligheid.
- [ ] Ik aanvaardde de verantwoordelijkheid en hield het gebruik transparant.