Vinster:
- Förmåga att klassificera och anonymisera elevdata inom ramen för KVKK och speciella personuppgiftskoncept samt tillämpa säkert fordonsval
- Förmåga att anpassa PDR yrkesetiska principer (sekretess, välgörenhet, icke-maleficence, autonomi) till användningen av artificiell intelligens
- Förmåga att känna igen partiskhet, kulturell okänslighet och hallucinationer i produktion av artificiell intelligens och skapa en etisk användningspolicy
Förtroende är kärnan i PDR-yrket. Om en student kan berätta om sina mest intima känslor, familj och rädslor för en specialist, är det bara för att han/hon tror att informationen kommer att skyddas. Verktyg för artificiell intelligens utgör ett allvarligt nytt test för detta förtroende: de mest känsliga uppgifterna kan gå utom kontroll i en mening. I denna enhet diskuterar vi systematiskt integritet, KVKK, PDR yrkesetik och hur de tillämpas på användningen av artificiell intelligens. Vi har tillämpat dessa principer bit för bit i tidigare enheter; Här kommer vi att slå samman det som en helhet och göra det till en permanent policy.
KVKK och datatyper: vad är mer skyddat
KVKK (Personal Data Protection Law) är den lag som reglerar laglig behandling av människors uppgifter. Två begrepp är särskilt viktiga. Personuppgifter är all information som identifierar eller identifierar en person: namn, efternamn, skolnummer, klass, adress, foto. Särskilda personuppgifter är en typ av känslig information som kräver högre skydd: hälsa, psykiskt tillstånd, diagnos, sexualliv, religion, etnicitet, kriminell status. Majoriteten av PDR-posterna faller i denna andra, känsliga kategori; eftersom mental status, familjeproblem och stödhistorik är direkt privata uppgifter. Detta innebär att PDR-data aldrig ska matas in i sin råa form i offentliga verktyg.
I praktiken översätts detta till tre regler: (1) Dataminimering — arbeta med den minsta mängden data som behövs för att utföra ett jobb. (2) Anonymisering – gör data olänkade till individen genom att ta bort personligt identifierbar information. (3) Säkra medel och ändamålsgräns – använd datasäkrade företagsverktyg där det är möjligt och bearbeta data endast för det ändamål för vilket de samlades in.
Observera: Det räcker inte att säga "jag anonymiserade det på något sätt". Även om ett namn utelämnas i en text kan en unik beskrivning av situationen (en mycket specifik situation hos en enskild elev på en liten skola) göra personen identifierbar. Vid anonymisering, generalisera inte bara namnet utan även detaljerna som tillsammans indikerar personen.
Anonymiseringspraxis: ett kontrollförfarande
Innan du exporterar en text till verktyget, följ denna procedur: (a) Ta bort direkta identifierare som namn, efternamn, nummer, klass-gren, förälders namn, adress, telefon, skolnamn. (b) Generalisera indirekta beskrivningar: "en mellanstadieelev" istället för "den enda synskadade eleven i 12-B." (c) Sudda ut datum och händelsedetaljer vid behov. (d) Efterläsning: "Kan någon som läser den här texten ta reda på vem som nämns?" Om svaret är vagt, generalisera ytterligare. Den autentiserade posten skrivs endast till institutionens slutna, säkra system; AI-verktyget är utanför detta system.
PDR yrkesetik och AI
PDR yrkesetik bygger på fyra grundläggande principer, som var och en direkt gäller för användningen av AI:
- Sekretess (hålla hemligheter): Studentinformation är skyddad. Att inte mata in rådata i AI, anonymisera den och välja ett säkert verktyg är ett krav i denna princip.
- Välgörenhet: Allt som görs ska tjäna elevens välbefinnande. AI används för bekvämlighet, inte på ett sätt som skulle äventyra studentens fördelar.
- Nonmaleficence: Prioriteten är att inte göra någon skada. Overifierad produktion, felaktig statistik, märkning och användning av AI i kris är risker för skada; därför är verifiering och krisgräns ett etiskt krav.
- Autonomi: Elevens rätt att fatta eget beslut skyddas. AI bör inte reducera eleven till en etikett eller fatta beslut på hans/hennes vägnar.
Ansvar läggs till detta: Ansvaret för varje produktion som används ligger hos experten; "AI producerade det" är inget försvar.
Bias, kulturell känslighet och transparens
AI kan spegla sociala mönster i träningsdata. I PDR är detta en fråga om rättvisa: resultat som stereotyper av en student utifrån deras kön, kultur eller socioekonomiska status undergräver lika möjligheter. Experten kontrollerar innehållet som produceras för kulturell känslighet och partiskhet. Också transparens: där så är lämpligt bör det klargöras internt att AI användes vid framställningen av ett material eller utkast; Det ska inte användas som en hemlig "magi". Sekretess är väsentlig i relationen med eleven; Det eleven förklarar bär inte över till ett fordon.
Steg för steg: upprätta en AI-användningspolicy
- Klassificera data. Separera all information du har som "personlig / privat / offentlig".
- Välj fordon. Det enda säkra företagsverktyget för känslig data; Arbeta anonymt för översikten.
- Följ anonymiseringsproceduren. Kör kontrollrutinen före varje inmatning.
- Validering och fördomskontroll. Undersök varje utgång för fakta och rättvisa.
- Behåll krisgränsen. Håll krisen och konsultationsrelationen borta från fordonet.
- Ta ansvar och var transparent. Det slutliga godkännandet tillhör experten; Användningen är öppen inom organisationen.
Kopierbara mallar
1) Anonymiseringskontroll:
Din roll: sekretessrevisionsassistent. Lista varje påstående i texten nedan som DIREKT eller INDIREKT kan identifiera personen (namn, nummer, klass, skola, unik situationsbeskrivning) och föreslå ett mer generellt alternativ för var och en. Kommenterar innehåll.Text: [klistra in text]
2) Granskning av partiskhet och kulturell känslighet:
Kontrollera följande PDR-material för partiskhet och kulturell känslighet: Innehåller det stereotyper om kön, kultur, socioekonomisk status eller familjestruktur? Vem kan utesluta? Flagga riskfyllda påståenden och föreslå inkluderande alternativ. Material: [klistra in material]
3) Utkast till företagets AI-användningspolicy:
Din roll: PDR-skrivassistent. För vägledningstjänsten, utarbeta en kort intern policy om användning av artificiell intelligensverktyg. Rubriker: i vilka jobb det används, i vilka jobb det inte används (kris, diagnos, konsultation), dataanonymiseringsregel, verifieringsskyldighet, ansvaret åvilar experten. Kort och användbar.
Svag prompt / Stark prompt
Svag:
För att sammanfatta Ahmet Yılmaz 8-C:s situation utsattes han för våld i hemmet.
Den matar in de mest känsliga uppgifterna (namn, klass, specialstatus) i fordonet i sin råa form — ett allvarligt brott mot KVKK och etik; Dessutom kan detta vara en anmälningssituation (enhet 9).
Stark:
Din roll: sekretesskontrollassistent. Obs: Jag anonymiserade texten nedan innan jag skickade in den till verktyget. Kontrollera dock igen: finns det någon detalj kvar som gör personen identifierbar? Text: "En mellanstadieelev antydde att han upplevde spänningar hemma."
tre minifodral
Fall 1 – Indirekt utlämnande. En expert skulle skriva in en text i verktyget som han hade utelämnat namnet från; men han insåg att frasen "skolans enda elev som använder rullstol" direkt syftade på den personen. Han generaliserade detta till "en student". Enbart namnskapande räckte inte; Beskrivningen av den unika situationen var också identifierande.
Fall 2 – Bias correction. En expert som granskade ett karriärmaterial fann att AI alltid använde mansnamn i ingenjörsexempel och kvinnonamn i vårdyrken. Det balanserade proverna och bröt formen. Denna till synes mindre korrigering bevarade rättvisan i meddelandet som skickades till eleverna.
Fall 3 – Fastställande av policy. En vägledningstjänst skapade en gemensam intern policytext för att eliminera den förvirring som uppstår av att alla använder AI på olika sätt: i vilka uppgifter den används, inte i kris och diagnos, data anonymiseras, utdata verifieras, ansvaret ligger hos experten. AI gav utkast; Teamet avslutade innehållet med sina egna värderingar. Osäkerheten gav vika för ett tydligt ramverk.
Vanliga misstag
- Mata in rådata. Skriver till fordon med namn/status. Lösning: anonymiseringsprocedur, säkert verktyg.
- Bara att ta bort namnet. Att glömma indirekta identifierare. Lösning: generalisera också unika detaljer.
- Ignorera partiskhet. Anta stereotyp produktion. Lösning: partiskhet och kulturrevision.
- Att lägga ansvaret på fordonet. Det betyder "AI producerade det". Lösning: Ansvaret ligger hos experten.
- Missbruka. Behandling av uppgifter som samlats in för ett ändamål för ett annat ändamål. Lösning: respektera syftesgränsen.
Tabell: Datatyp och AI-regel
Datatyp
exempel
AI regel
offentliga
Allmän yrkesintroduktion
fritt tillgänglig
personuppgifter
Namn, nummer, klass
Kan inte gå in utan anonymisering
Särskild kvalitetsdata
Psykisk status, familj, diagnos
Det kan aldrig anges i sin råa form.
krisdata
Risk, missbruk, självmord
Gå aldrig in i fordonet (enhet 9)
Sammanfattningsvis
I PDR är konfidentialitet grunden för förtroende för yrket och den mest testade principen i AI-eran. KVKK separerar data i personliga och privata data; De flesta PDR-data är känsliga och läggs inte in i verktyget i sin råa form. Dataminimering, anonymisering (med direkta och indirekta identifierare) och säkert verktygsval är grundreglerna. De fyra principerna för yrkesetik – konfidentialitet, välgörenhet, icke-maleficence, autonomi – är bindande för användningen av AI; Bias är kontrollerad, ansvaret ligger kvar hos experten och användningen är transparent inom organisationen.
Applikationsuppgift
Utarbeta en kortfattad "AI-användningspolicy" för din egen vägledningstjänst. Få ett försprång med mallen "Enterprise AI usage policy draft"; Justera det sedan efter verkligheten på din egen institution. Skicka också en (fiktiv) text genom mallen "anonymiseringskontroll" och fånga och generalisera minst en indirekt identifierare.
checklista
- [ ] Jag har klassificerat uppgifterna jag har som personlig / privat / offentlig.
- [ ] Jag har generaliserat direkta och indirekta identifierare i anonymisering.
- [ ] Jag använde ett säkert/företagsverktyg för känslig data.
- [ ] Jag kontrollerade resultatet för partiskhet och kulturell känslighet.
- [ ] Jag tog ansvar och höll användningen transparent.