Gevinster:
- Evne til å klassifisere og anonymisere elevdata innenfor rammen av KVKK og spesielle persondatakonsepter og anvende trygt kjøretøyvalg
- Evne til å tilpasse PDR yrkesetiske prinsipper (konfidensialitet, velgjørende, ikke-ondsinnet, autonomi) til bruk av kunstig intelligens
- Evne til å gjenkjenne skjevhet, kulturell ufølsomhet og hallusinasjoner i produksjon av kunstig intelligens og lage en policy for etisk bruk
Tillit er kjernen i PDR-yrket. Hvis en student kan fortelle sine mest intime følelser, familie og frykt til en spesialist, er det bare fordi han/hun tror at informasjonen vil bli beskyttet. Verktøy for kunstig intelligens utgjør en alvorlig ny test for denne tilliten: de mest sensitive dataene kan gå ut av kontroll i en setning. I denne enheten diskuterer vi systematisk personvern, KVKK, PDR yrkesetikk og hvordan de gjelder bruk av kunstig intelligens. Vi har brukt disse prinsippene bit for bit i tidligere enheter; Her skal vi kombinere det som en helhet og gjøre det om til en permanent politikk.
KVKK og datatyper: hva er mer beskyttet
KVKK (Personal Data Protection Law) er loven som regulerer lovlig behandling av personers data. To konsepter er spesielt viktige. Personopplysninger er all informasjon som identifiserer eller identifiserer en person: navn, etternavn, skolenummer, klasse, adresse, fotografi. Spesielle personopplysninger er en type sensitive data som krever høyere beskyttelse: helse, psykisk tilstand, diagnose, seksualliv, religion, etnisitet, kriminell status. Flertallet av PDR-poster faller inn i denne andre, sensitive kategorien; fordi mental status, familieproblemer og støttehistorie er direkte private data. Dette betyr at PDR-data aldri skal legges inn i sin rå form i offentlige verktøy.
I praksis oversetter dette til tre regler: (1) Dataminimering — arbeid med minst mulig datamengde for å utføre en jobb. (2) Anonymisering – gjør data frakoblet til individet ved å fjerne personlig identifiserbar informasjon. (3) Sikre midler og formålsgrense – bruk datasikrede bedriftsverktøy der det er mulig og behandle data kun for formålet de ble samlet inn for.
Oppmerksomhet: Det er ikke nok å si «jeg anonymiserte det på en eller annen måte». Selv om et navn utelates fra en tekst, kan en unik beskrivelse av situasjonen (en helt spesifikk situasjon hos en enkelt elev på en liten skole) gjøre personen identifiserbar. I anonymisering, generaliser ikke bare navnet, men også detaljene som sammen indikerer personen.
Anonymiseringspraksis: en kontrollprosedyre
Før du eksporterer en tekst til verktøyet, følg denne prosedyren: (a) Fjern direkte identifikatorer som navn, etternavn, nummer, klassegren, foreldrenavn, adresse, telefon, skolenavn. (b) Generaliser indirekte deskriptorer: "en ungdomsskoleelev" i stedet for "den eneste synshemmede eleven i 12-B." (c) Uskarp dato og hendelsesdetaljer etter behov. (d) Etterlesing: "Kan noen som leser denne teksten finne ut hvem som blir nevnt?" Hvis svaret er vagt, generaliser videre. Den autentiserte posten skrives kun til institusjonens lukkede, sikre system; AI-verktøyet er utenfor dette systemet.
PDR profesjonell etikk og AI
PDR yrkesetikk er basert på fire grunnleggende prinsipper, som hver gjelder direkte for bruken av AI:
- Konfidensialitet (holde hemmeligheter): Studentinformasjon er beskyttet. Å ikke legge inn rådata i AI, anonymisere dem og velge et trygt verktøy er et krav i dette prinsippet.
- Nytte: Alt som gjøres skal tjene studentens ve og vel. AI brukes for enkelhets skyld, ikke på en måte som ville kompromittere studentens fordel.
- Ikke-maleficence: Prioriteten er å ikke gjøre skade. Ubekreftet utdata, unøyaktig statistikk, merking og bruk av kunstig intelligens i krise er fare for skade; derfor er verifisering og krisegrense et etisk imperativ.
- Autonomi: Elevens rett til å ta sin egen beslutning er ivaretatt. AI skal ikke redusere studenten til et merke eller ta avgjørelser på hans/hennes vegne.
Ansvar er lagt til dette: Ansvaret for hver produksjon som brukes ligger hos eksperten; "AI produserte det" er ikke et forsvar.
Bias, kulturell sensitivitet og åpenhet
AI kan reflektere sosiale mønstre i treningsdata. I PDR er dette et spørsmål om rettferdighet: resultater som stereotyper en student i henhold til deres kjønn, kultur eller sosioøkonomiske status undergraver likestilling. Eksperten sjekker innholdet som produseres for kulturell sensitivitet og skjevhet. Også åpenhet: der det er hensiktsmessig, bør det gjøres klart internt at AI ble brukt i utarbeidelsen av et materiale eller utkast; Det skal ikke brukes som en hemmelig "magi". Konfidensialitet er essensielt i forholdet til eleven; Det eleven forklarer bærer ikke over til et kjøretøy.
Trinn for trinn: etablere en AI-brukspolicy
- Klassifiser data. Skill all informasjon du har som "personlig / privat / offentlig".
- Velg kjøretøy. Det eneste sikre bedriftsverktøyet for sensitive data; Arbeid anonymt for den generelle disposisjonen.
- Følg anonymiseringsprosedyren. Kjør kontrollrutinen før hver oppføring.
- Validering og skjevhetssjekking. Undersøk hver utgang for fakta og rettferdighet.
- Oppretthold krisegrensen. Hold krise- og konsultasjonsforholdet utenfor kjøretøyet.
- Ta ansvar og vær transparent. Endelig godkjenning tilhører den sakkyndige; Bruken er åpen i organisasjonen.
Kopierbare maler
1) Anonymiseringskontroll:
Din rolle: personvernrevisjonsassistent. List opp hvert utsagn i teksten nedenfor som DIREKTE eller INDIREKTE kan identifisere personen (navn, nummer, klasse, skole, unik situasjonsbeskrivelse) og foreslå et mer generelt alternativ for hver. Kommenterer innhold.Tekst: [lim inn tekst]
2) Revisjon av skjevheter og kulturell sensitivitet:
Sjekk følgende PDR-materiale for skjevheter og kulturell sensitivitet: Inneholder det stereotypier om kjønn, kultur, sosioøkonomisk status eller familiestruktur? Hvem kan ekskludere? Flagg risikable utsagn og foreslå inkluderende alternativer.Materiale: [lim inn materiale]
3) Utkast til bedriftens AI-brukspolicy:
Din rolle: PDR skriveassistent. For veiledningstjenesten utarbeide en kort intern policy om bruk av kunstig intelligensverktøy. Overskrifter: i hvilke jobber det brukes, i hvilke jobber det ikke brukes (krise, diagnose, konsultasjon), dataanonymiseringsregel, verifikasjonsplikt, ansvar påhviler den sakkyndige. Kort og anvendelig.
Svak forespørsel / Sterk forespørsel
Svak:
For å oppsummere Ahmet Yılmaz 8-Cs situasjon, ble han utsatt for vold hjemme.
Den legger inn de mest sensitive dataene (navn, klasse, spesiell status) i kjøretøyet i sin rå form - et alvorlig brudd på KVKK og etikk; Dessuten kan dette være en varslingssituasjon (enhet 9).
Sterk:
Din rolle: personvernkontrollassistent. Merk: Jeg anonymiserte teksten nedenfor før jeg sendte den til verktøyet. Men sjekk igjen: er det noen detalj igjen som gjør personen identifiserbar? Tekst: "En ungdomsskoleelev antydet at han opplevde spenninger hjemme."
tre minisaker
Sak 1 – Indirekte avsløring. En ekspert var i ferd med å legge inn en tekst i verktøyet som han hadde utelatt navnet fra; men han innså at uttrykket "skolens eneste elev som bruker rullestol" refererte direkte til denne personen. Han generaliserte dette til "en student". Navneskaping alene var ikke nok; Beskrivelsen av den unike situasjonen var også identifiserende.
Case 2 – Bias correction. En ekspert som reviderte et karrieremateriale fant at AI alltid brukte mannsnavn i ingeniøreksempler og kvinnenavn i omsorgsyrker. Det balanserte prøvene og brøt formen. Denne tilsynelatende mindre korreksjonen bevarte rettferdigheten til meldingen som ble sendt til studentene.
Sak 3 – Etablering av policy. En veiledningstjeneste opprettet en felles intern policytekst for å eliminere forvirringen som oppstår fra det faktum at alle bruker AI forskjellig: i hvilke oppgaver den brukes, ikke i krise og diagnose, data anonymiseres, utdata verifiseres, ansvaret ligger hos eksperten. AI ga utkast; Teamet avsluttet innholdet med sine egne verdier. Usikkerheten ga plass til klare rammer.
Vanlige feil
- Legge inn rådata. Skriver til kjøretøy med navn/status. Løsning: anonymiseringsprosedyre, sikkert verktøy.
- Bare fjerner navnet. Glemte indirekte identifikatorer. Løsning: generaliser også unike detaljer.
- Ignorerer skjevhet. Vedta stereotyp utgang. Løsning: partiskhet og kulturrevisjon.
- Legger ansvaret på kjøretøyet. Det betyr "AI produserte det". Løsning: Ansvaret ligger hos eksperten.
- Misbruke. Behandling av data som er samlet inn til ett formål for et annet formål. Løsning: respekter formålsgrensen.
Tabell: Datatype og AI-regel
Datatype
eksempel
AI regel
offentlig
Generell profesjonsintroduksjon
fritt tilgjengelig
personopplysninger
Navn, nummer, klasse
Kan ikke legges inn uten anonymisering
Spesielle kvalitetsdata
Psykisk status, familie, diagnose
Den kan aldri legges inn i sin rå form.
krisedata
Risiko, overgrep, selvmord
Gå aldri inn i kjøretøyet (enhet 9)
Oppsummert
I PDR er konfidensialitet grunnlaget for tillit til profesjonen og det mest testede prinsippet i AI-tiden. KVKK skiller data i personlige og private data; De fleste PDR-data er sensitive og legges ikke inn i verktøyet i sin rå form. Dataminimering, anonymisering (med direkte og indirekte identifikatorer) og sikkert verktøyvalg er grunnreglene. De fire prinsippene for yrkesetikk – konfidensialitet, velgjørenhet, ikke-maleficence, autonomi – er bindende for bruken av AI; Bias er kontrollert, ansvaret forblir hos eksperten, og bruken er transparent i organisasjonen.
Søknadsoppgave
Lag en kort "AI-brukspolicy" for din egen veiledningstjeneste. Få et forsprang med malen «Enterprise AI usage policy draft»; Juster det deretter i henhold til virkeligheten til din egen institusjon. Send også en (fiktiv) tekst gjennom malen "anonymiseringssjekk" og fange opp og generaliser minst én indirekte identifikator.
sjekkliste
- [ ] Jeg har klassifisert dataene jeg har som personlige / private / offentlige.
- [ ] Jeg har generalisert direkte og indirekte identifikatorer i anonymisering.
- [ ] Jeg brukte sikkert/bedriftsverktøy for sensitive data.
- [ ] Jeg sjekket utdataene for skjevhet og kulturell sensitivitet.
- [ ] Jeg tok ansvar og holdt bruken åpen.