Gevinster:
- Evne til at klassificere og anonymisere elevdata inden for rammerne af KVKK og særlige persondatakoncepter og anvende sikkert køretøjsvalg
- Evne til at tilpasse PDR faglige etiske principper (fortrolighed, gavnlighed, ikke-maleficence, autonomi) til brugen af kunstig intelligens
- Evne til at genkende bias, kulturel ufølsomhed og hallucinationer i kunstig intelligens output og skabe en etisk brugspolitik
Tillid er kernen i PDR-faget. Hvis en studerende kan fortælle sine mest intime følelser, familie og frygt til en specialist, er det kun fordi han/hun tror på, at informationen vil blive beskyttet. Værktøjer til kunstig intelligens udgør en alvorlig ny test for denne tillid: De mest følsomme data kan gå ud af kontrol i en sætning. I denne enhed diskuterer vi systematisk privatliv, KVKK, PDR faglige etik og hvordan de gælder for brugen af kunstig intelligens. Vi har anvendt disse principper stykke for stykke i tidligere enheder; Her vil vi kombinere det som en helhed og gøre det til en permanent politik.
KVKK og datatyper: hvad er mere beskyttet
KVKK (Personal Data Protection Law) er den lov, der regulerer lovlig behandling af personers data. To begreber er særligt vigtige. Personoplysninger er enhver information, der identificerer eller identificerer en person: navn, efternavn, skolenummer, klasse, adresse, fotografi. Særlige personoplysninger er en type følsomme data, der kræver højere beskyttelse: sundhed, mental tilstand, diagnose, seksualliv, religion, etnicitet, kriminel status. Størstedelen af PDR-optegnelser falder ind under denne anden, følsomme kategori; fordi mental status, familieproblemer og støttehistorie er direkte private data. Det betyder, at PDR-data aldrig bør indtastes i sin rå form i offentlige værktøjer.
I praksis udmønter dette sig i tre regler: (1) Dataminimering — arbejde med den mindste mængde data, der er nødvendig for at udføre et job. (2) Anonymisering – gør data ulinkbare til individet ved at fjerne personligt identificerbare oplysninger. (3) Sikre midler og formålsgrænse – brug datasikrede virksomhedsværktøjer, hvor det er muligt, og bearbejd kun data til det formål, hvortil de blev indsamlet.
OBS: Det er ikke nok at sige "jeg anonymiserede det på en eller anden måde". Selvom et navn er udeladt i en tekst, kan en unik beskrivelse af situationen (en meget specifik situation hos en enkelt elev på en lille skole) gøre personen identificerbar. Ved anonymisering, generaliser ikke kun navnet, men også de detaljer, der tilsammen angiver personen.
Anonymiseringspraksis: en kontrolprocedure
Før du eksporterer en tekst til værktøjet, skal du følge denne procedure: (a) Fjern direkte identifikatorer såsom navn, efternavn, nummer, klasseafdeling, forældrenavn, adresse, telefon, skolenavn. (b) Generaliser indirekte deskriptorer: "en mellemskoleelev" i stedet for "den eneste synshandicappede elev i 12-B." (c) Slør dato og begivenhedsdetaljer efter behov. (d) Efterlæsning: "Kan nogen, der læser denne tekst, finde ud af, hvem der bliver nævnt?" Hvis svaret er vagt, så generaliser yderligere. Den autentificerede registrering skrives kun til institutionens lukkede, sikre system; AI-værktøjet er uden for dette system.
PDR professionel etik og kunstig intelligens
PDR professionel etik er baseret på fire grundlæggende principper, som hver især gælder direkte for brugen af AI:
- Fortrolighed (holde hemmeligheder): Elevoplysninger er beskyttet. Ikke at indtaste rå data i AI, anonymisere dem og vælge et sikkert værktøj er et krav i dette princip.
- Fordel: Alt, hvad der udføres, skal tjene elevens velbefindende. AI bruges for nemheds skyld, ikke på en måde, der ville kompromittere elevens fordel.
- Ikke-maleficence: Prioriteten er ikke at gøre skade. Ubekræftet output, unøjagtige statistikker, mærkning og brug af kunstig intelligens i krise er risici for skade; derfor er verifikation og krisegrænse et etisk krav.
- Autonomi: Elevens ret til at træffe sin egen beslutning er beskyttet. AI bør ikke reducere eleven til en etiket eller træffe beslutninger på hans/hendes vegne.
Hertil føjes ansvarlighed: Ansvaret for hvert anvendt output ligger hos eksperten; "AI producerede det" er ikke et forsvar.
Bias, kulturel følsomhed og gennemsigtighed
AI kan afspejle sociale mønstre i træningsdata. I PDR er dette et spørgsmål om retfærdighed: resultater, der stereotyper en studerende i henhold til deres køn, kultur eller socioøkonomiske status underminerer lige muligheder. Eksperten kontrollerer det producerede indhold for kulturel følsomhed og bias. Også gennemsigtighed: hvor det er relevant, bør det gøres klart internt, at AI blev brugt til at udarbejde et materiale eller udkast; Det skal ikke bruges som en hemmelig "magi". Fortrolighed er afgørende i forholdet til eleven; Det, eleven forklarer, overføres ikke til et køretøj.
Trin for trin: Etablering af en AI-brugspolitik
- Klassificer data. Adskil alle de oplysninger, du har, som "personlige / private / offentlige".
- Vælg køretøj. Det eneste sikre virksomhedsværktøj til følsomme data; Arbejd anonymt for den generelle oversigt.
- Følg anonymiseringsproceduren. Kør kontrolrutinen før hver indtastning.
- Validering og bias kontrol. Undersøg hvert output for fakta og retfærdighed.
- Overhold krisegrænsen. Hold krise- og konsultationsforholdet ude af køretøjet.
- Tag ansvar og vær gennemsigtig. Den endelige godkendelse tilhører eksperten; Brugen er åben i organisationen.
Kopierbare skabeloner
1) Anonymiseringskontrol:
Din rolle: assistent for privatlivsrevision. Angiv hvert udsagn i teksten nedenfor, der DIREKTE eller INDIREKTE kan identificere personen (navn, nummer, klasse, skole, unik situationsbeskrivelse) og foreslå et mere generelt alternativ for hver. Kommenter indhold.Tekst: [indsæt tekst]
2) Bias og kulturel følsomhedsrevision:
Tjek følgende PDR-materiale for bias og kulturel følsomhed: Indeholder det stereotyper om køn, kultur, socioøkonomisk status eller familiestruktur? Hvem kan udelukke? Markér risikable udsagn og foreslå inkluderende alternativer.Materiale: [indsæt materiale]
3) Udkast til virksomhedens AI-brugspolitik:
Din rolle: PDR skriveassistent. Til vejledningstjenesten udarbejde en kort intern politik om brugen af kunstig intelligens-værktøjer. Overskrifter: i hvilke job det bruges, i hvilke job det ikke bruges (krise, diagnose, konsultation), dataanonymiseringsregel, verifikationspligt, ansvaret påhviler eksperten. Kort og anvendelig.
Svag prompt / Stærk prompt
Svag:
For at opsummere Ahmet Yılmaz 8-C's situation, blev han udsat for vold i hjemmet.
Den indtaster de mest følsomme data (navn, klasse, særlig status) i køretøjet i sin rå form - en alvorlig krænkelse af KVKK og etik; Desuden kan dette være en underretningssituation (enhed 9).
Stærk:
Din rolle: assistent for privatlivskontrol. Bemærk: Jeg anonymiserede teksten nedenfor, før jeg sendte den til værktøjet. Tjek dog igen: Er der nogen detaljer tilbage, der gør personen identificerbar? Tekst: "En mellemskoleelev antydede, at han oplevede spændinger derhjemme."
tre minisager
Sag 1 — Indirekte offentliggørelse. En ekspert var ved at indtaste en tekst i værktøjet, hvorfra han havde udeladt navnet; men han indså, at sætningen "skolens eneste elev, der bruger kørestol" direkte refererede til denne person. Han generaliserede dette til "en studerende". Navnedannelse alene var ikke nok; Beskrivelsen af den unikke situation var også identificerende.
Tilfælde 2 — Bias correction. En ekspert, der reviderede et karrieremateriale, fandt ud af, at AI altid brugte mandlige navne i ingeniøreksempler og kvindenavne i plejefag. Det afbalancerede prøverne og brød formen. Denne tilsyneladende mindre korrektion bevarede retfærdigheden af den besked, der blev sendt til eleverne.
Sag 3 — Fastlæggelse af politik. En vejledningstjeneste skabte en fælles intern politiktekst for at eliminere den forvirring, der opstår som følge af, at alle bruger AI forskelligt: i hvilke opgaver det bruges, ikke i krise og diagnose, data anonymiseres, output verificeres, ansvaret ligger hos eksperten. AI gav udkast; Holdet færdiggjorde indholdet med deres egne værdier. Usikkerheden gav plads til klare rammer.
Almindelige fejl
- Indtastning af rådata. Skrivning til køretøj med navn/status. Løsning: anonymiseringsprocedure, sikkert værktøj.
- Bare fjerner navnet. Glemmer indirekte identifikatorer. Løsning: generaliser også unikke detaljer.
- Ignorer bias. Vedtagelse af stereotypt output. Løsning: bias og kulturrevision.
- At lægge ansvaret på køretøjet. Det betyder "AI producerede det". Løsning: Ansvarlighed ligger hos eksperten.
- Misbruge. Behandling af data indsamlet til ét formål til et andet formål. Løsning: respekter formålsgrænsen.
Tabel: Datatype og AI-regel
Datatype
eksempel
AI regel
offentlige
Generel professionsintroduktion
frit tilgængelig
personlige data
Navn, nummer, klasse
Kan ikke indtastes uden anonymisering
Særlige kvalitetsdata
Psykisk status, familie, diagnose
Det kan aldrig indtastes i sin rå form.
krisedata
Risiko, misbrug, selvmord
Gå aldrig ind i køretøjet (enhed 9)
Sammenfattende
I PDR er fortrolighed grundlaget for tillid til erhvervet og det mest testede princip i AI-æraen. KVKK adskiller data i personlige og private data; De fleste PDR-data er følsomme og indtastes ikke i værktøjet i sin rå form. Dataminimering, anonymisering (med direkte og indirekte identifikatorer) og sikkert værktøjsvalg er de grundlæggende regler. De fire principper for professionel etik – fortrolighed, velgørenhed, ikke-maleficence, autonomi – er bindende for brugen af kunstig intelligens; Bias er kontrolleret, ansvaret forbliver hos eksperten, og brugen er gennemsigtig i organisationen.
Ansøgningsopgave
Udarbejd en kort "AI-brugspolitik" til din egen vejledningstjeneste. Få et forspring med skabelonen "Enterprise AI usage policy draft"; Tilpas det derefter efter virkeligheden i din egen institution. Send også en (fiktiv) tekst gennem skabelonen "anonymiseringstjek" og indfang og generaliser mindst én indirekte identifikator.
tjekliste
- [ ] Jeg har klassificeret de data, jeg har, som personlige / private / offentlige.
- [ ] Jeg har generaliseret direkte og indirekte identifikatorer i anonymisering.
- [ ] Jeg brugte sikkert/virksomhedsværktøj til følsomme data.
- [ ] Jeg tjekkede outputtet for bias og kulturel følsomhed.
- [ ] Jeg påtog mig ansvaret og holdt brugen gennemsigtig.