Dobički:
- Sposobnost klasifikacije in anonimizacije študentskih podatkov v okviru KVKK in posebnih konceptov osebnih podatkov ter uporabe varne izbire vozil
- Sposobnost prilagajanja načel poklicne etike PDR (zaupnost, dobrodelnost, neškodljivost, avtonomnost) uporabi umetne inteligence
- Sposobnost prepoznati pristranskost, kulturno neobčutljivost in halucinacije v izhodu umetne inteligence ter ustvariti politiko etične uporabe
Zaupanje je v središču poklica PDR. Če študent lahko strokovnjaku pove svoja najintimnejša čustva, družino in strahove, je to samo zato, ker verjame, da bodo podatki varovani. Orodja umetne inteligence predstavljajo resno novo preizkušnjo za to zaupanje: najbolj občutljivi podatki lahko v stavku uidejo nadzoru. V tej enoti sistematično obravnavamo zasebnost, KVKK, poklicno etiko PDR in kako se nanašajo na uporabo umetne inteligence. Ta načela smo postopoma uporabili v prejšnjih enotah; Tukaj ga bomo združili v celoto in spremenili v trajno politiko.
KVKK in tipi podatkov: kaj je bolj zaščiteno
KVKK (Zakon o varstvu osebnih podatkov) je zakon, ki ureja zakonito obdelavo osebnih podatkov. Še posebej pomembna sta dva koncepta. Osebni podatek je vsaka informacija, ki identificira ali identificira osebo: ime, priimek, številka šole, razred, naslov, fotografija. Posebni osebni podatki so vrsta občutljivih podatkov, ki zahtevajo večjo zaščito: zdravje, duševno stanje, diagnoza, spolno življenje, vera, etnična pripadnost, kriminalni status. Večina zapisov PDR spada v to drugo, občutljivo kategorijo; ker so duševno stanje, družinske težave in zgodovina podpore neposredno zasebni podatki. To pomeni, da podatkov PDR nikoli ne vnašajte v neobdelani obliki v javna orodja.
V praksi se to prevede v tri pravila: (1) Zmanjšanje podatkov – delajte z najmanjšo količino podatkov, potrebnih za opravljanje dela. (2) Anonimizacija — omogočite, da podatkov ni mogoče povezati s posameznikom, tako da odstranite podatke, ki omogočajo osebno identifikacijo. (3) Varna sredstva in meja namena — kadar je to mogoče, uporabite orodja podjetja, zaščitena s podatki, in obdelujte podatke samo za namen, za katerega so bili zbrani.
Pozor: Ni dovolj reči "nekako sem anonimiziral". Tudi če je ime izpuščeno v besedilu, lahko osebo prepoznamo z edinstvenim opisom situacije (zelo specifična situacija pri enem učencu v majhni šoli). Pri anonimizaciji posplošite ne samo ime, ampak tudi podrobnosti, ki skupaj označujejo osebo.
Praksa anonimizacije: postopek nadzora
Pred izvozom besedila v orodje sledite naslednjemu postopku: (a) Odstranite neposredne identifikatorje, kot so ime, priimek, številka, razred-podružnica, ime starša, naslov, telefon, ime šole. (b) Posplošite posredne deskriptorje: "srednješolec" namesto "edini slabovidni učenec v 12-B." (c) Po potrebi zameglite datum in podrobnosti dogodka. (d) Po branju: "Ali lahko kdorkoli, ki bere to besedilo, ugotovi, kdo je omenjen?" Če je odgovor nejasen, posplošite še naprej. Overjeni zapis se zapiše le v zaprt, varen sistem ustanove; Orodje AI je zunaj tega sistema.
PDR poklicna etika in AI
Poklicna etika PDR temelji na štirih temeljnih načelih, od katerih se vsako neposredno nanaša na uporabo umetne inteligence:
- Zaupnost (varovanje skrivnosti): Podatki študentov so zaščiteni. Zahteva tega načela je nevnašanje neobdelanih podatkov v AI, njihova anonimizacija in izbira varnega orodja.
- Dobrodelnost: vse, kar je narejeno, naj služi dobrobiti študenta. Umetna inteligenca se uporablja zaradi udobja in ne na način, ki bi ogrozil korist študenta.
- Neškodljivost: prednostna naloga je ne škodovati. Nepreverjeni rezultati, netočni statistični podatki, označevanje in uporaba umetne inteligence v krizi so tveganja škode; zato je preverjanje in krizna meja etični imperativ.
- Avtonomija: Učenčeva pravica do lastne odločitve je zaščitena. Umetna inteligenca učenca ne bi smela označiti za oznako ali sprejemati odločitev v njegovem/njenem imenu.
K temu je dodana odgovornost: odgovornost za vsak uporabljen rezultat je na strani strokovnjaka; "Umetna inteligenca ga je proizvedla" ni obramba.
Pristranskost, kulturna občutljivost in transparentnost
AI lahko odraža družbene vzorce v podatkih o usposabljanju. V PDR je to vprašanje pravičnosti: rezultati, ki predstavljajo stereotip o študentu glede na njegov spol, kulturo ali socialno-ekonomski status, spodkopavajo enakost možnosti. Strokovnjak preveri, ali je proizvedena vsebina kulturno občutljiva in pristranska. Tudi preglednost: kadar je primerno, mora biti interno jasno navedeno, da je bila pri pripravi gradiva ali osnutka uporabljena umetna inteligenca; Ne sme se uporabljati kot skrivna "čarovnija". Zaupnost je bistvena v odnosu s študentom; Kar študent razloži, se ne prenese na vozilo.
Korak za korakom: vzpostavitev politike uporabe AI
- Razvrstite podatke. Vse podatke, ki jih imate, ločite kot »osebne/zasebne/javne«.
- Izberite vozilo. Edino varno poslovno orodje za občutljive podatke; Za splošni okvir delajte anonimno.
- Sledite postopku anonimizacije. Pred vsakim vnosom zaženite rutino preverjanja.
- Validacija in preverjanje pristranskosti. Preglejte vsak rezultat glede dejstev in poštenosti.
- Ohranite krizno mejo. Krizo in posvetovalni odnos naj ne bo zunaj vozila.
- Prevzemite odgovornost in bodite transparentni. Končna odobritev pripada strokovnjaku; Uporaba je odprta znotraj organizacije.
Kopirane predloge
1) Nadzor anonimizacije:
Vaša vloga: pomočnik pri reviziji zasebnosti. Navedite vsako trditev v spodnjem besedilu, ki bi lahko NEPOSREDNO ali POSREDNO identificirala osebo (ime, številka, razred, šola, edinstven opis situacije) in za vsako predlagajte bolj splošno alternativo. Komentiranje vsebine. Besedilo: [prilepi besedilo]
2) Revizija pristranskosti in kulturne občutljivosti:
Preverite naslednje gradivo PDR glede pristranskosti in kulturne občutljivosti: Ali vsebuje stereotipe o spolu, kulturi, družbenoekonomskem statusu ali družinski strukturi? Kdo lahko izključi? Označite tvegane izjave in predlagajte vključujoče alternative. Material: [prilepite material]
3) Osnutek korporativne politike uporabe AI:
Vaša vloga: pomočnik pri pisanju PDR. Za svetovalno službo pripraviti kratek interni pravilnik o uporabi orodij umetne inteligence. Rubrike: na katerih delovnih mestih se uporablja, na katerih delovnih mestih se ne uporablja (krize, diagnostika, svetovanje), pravilo anonimizacije podatkov, obveznost preverjanja, odgovornost nosi strokovnjak. Kratko in uporabno.
Šibek poziv/močan poziv
Šibko:
Če povzamem položaj Ahmeta Yılmaza 8-C, je bil doma izpostavljen nasilju.
Najbolj občutljive podatke (ime, razred, posebni status) vnaša v vozilo v surovi obliki — huda kršitev KVKK in etike; Poleg tega je to lahko obvestilna situacija (enota 9).
Močno:
Vaša vloga: pomočnik pri nadzoru zasebnosti. Opomba: Spodnje besedilo sem anonimiziral, preden sem ga poslal v orodje. Vendar preverite še enkrat: ali je ostala kakšna podrobnost, zaradi katere je osebo mogoče identificirati? Besedilo: "Srednješolec je namignil, da doživlja napetost doma."
trije mini kovčki
Primer 1 – posredno razkritje. Strokovnjak je nameraval vnesti besedilo v orodje, iz katerega je izpustil ime; vendar je ugotovil, da se izraz "edini učenec v šoli, ki uporablja invalidski voziček" neposredno nanaša na to osebo. To je posplošil na "študent". Samo poimenovanje ni bilo dovolj; Opis edinstvene situacije je bil tudi prepoznaven.
Primer 2 – Popravek pristranskosti. Strokovnjak, ki je revidiral karierno gradivo, je ugotovil, da je AI vedno uporabljal moška imena v inženirskih primerih in ženska imena v negovalnih poklicih. Uravnotežil je vzorce in razbil kalup. Ta na videz majhen popravek je ohranil poštenost sporočila, poslanega študentom.
Primer 3 – Politika oblikovanja. Služba za usmerjanje je ustvarila besedilo skupne notranje politike, da bi odpravila zmedo, ki izhaja iz dejstva, da vsi uporabljajo umetno inteligenco drugače: pri katerih nalogah se uporablja, ne v kriznih situacijah in diagnozi, podatki so anonimizirani, rezultati so preverjeni, odgovornost nosi strokovnjak. AI je dal osnutek; Ekipa je vsebino dodelala z lastnimi vrednotami. Negotovost se je umaknila jasnemu okviru.
Pogoste napake
- Vnos neobdelanih podatkov. Pisanje na vozilo z imenom/statusom. Rešitev: postopek anonimizacije, varno orodje.
- Samo odstranitev imena. Pozabljanje posrednih identifikatorjev. Rešitev: posplošite tudi edinstvene podrobnosti.
- Ignoriranje pristranskosti. Sprejemanje stereotipnega rezultata. Rešitev: revizija pristranskosti in kulture.
- Prelaganje odgovornosti na vozilo. Pomeni "umetna inteligenca ga je proizvedla". Rešitev: odgovornost nosi strokovnjak.
- Zloraba. Obdelava podatkov, zbranih za en namen za drug namen. Rešitev: upoštevajte omejitev namena.
Tabela: Tip podatkov in pravilo AI
Vrsta podatkov
primer
pravilo AI
javnosti
Splošni uvod v poklic
prosto dostopni
osebnih podatkov
Ime, številka, razred
Ni mogoče vstopiti brez anonimizacije
Podatki o posebni kakovosti
Duševni status, družina, diagnoza
Nikoli ga ni mogoče vnesti v surovi obliki.
kriznih podatkov
Tveganje, zloraba, samomor
Nikoli ne vstopajte v vozilo (enota 9)
Če povzamem
V PDR je zaupnost temelj zaupanja v stroko in najbolj preizkušeno načelo v dobi umetne inteligence. KVKK ločuje podatke na osebne in zasebne podatke; Večina podatkov PDR je občutljivih in se v orodje ne vnesejo v neobdelani obliki. Minimizacija podatkov, anonimizacija (z neposrednimi in posrednimi identifikatorji) in varna izbira orodij so osnovna pravila. Štiri načela poklicne etike – zaupnost, dobrodelnost, neškodljivost, avtonomija – so zavezujoča pri uporabi umetne inteligence; Pristranskost je nadzorovana, odgovornost ostaja na strokovnjaku, uporaba pa je znotraj organizacije pregledna.
Aplikacijska naloga
Pripravite kratek "Pravilnik uporabe AI" za vašo lastno svetovalno službo. Začnite s predlogo »Enterprise AI usage policy Osnutek«; Nato ga prilagodite glede na realnost vaše ustanove. Prenesite tudi (izmišljeno) besedilo skozi predlogo "preverjanje anonimizacije" ter zajemite in posplošite vsaj en posredni identifikator.
kontrolni seznam
- [ ] Podatke, ki jih imam, sem označil kot osebne/zasebne/javne.
- [ ] V anonimizaciji sem posplošil neposredne in posredne identifikatorje.
- [ ] Uporabil sem varno/podjetniško orodje za občutljive podatke.
- [ ] Izpis sem preveril glede pristranskosti in kulturne občutljivosti.
- [ ] Sprejel sem odgovornost in ohranil preglednost uporabe.