Dobici:
- Sposobnost klasifikacije i anonimizacije podataka o studentima u okviru KVKK i posebnih koncepata ličnih podataka i primjene sigurnog odabira vozila
- Sposobnost prilagođavanja principa profesionalne etike PDR-a (povjerljivost, dobročinstvo, nezlonamjernost, autonomija) upotrebi umjetne inteligencije
- Sposobnost prepoznavanja pristranosti, kulturološke neosjetljivosti i halucinacija u proizvodnji umjetne inteligencije i kreiranja politike etičke upotrebe
Poverenje je u srcu profesije PDR-a. Ako student može specijalistu ispričati svoja najintimnija osjećanja, porodicu i strahove, to je samo zato što vjeruje da će informacije biti zaštićene. Alati umjetne inteligencije predstavljaju ozbiljan novi test za ovo povjerenje: najosjetljiviji podaci mogu izmaknuti kontroli u jednoj rečenici. U ovoj jedinici sistematski raspravljamo o privatnosti, KVKK, PDR profesionalnoj etici i kako se oni primjenjuju na korištenje umjetne inteligencije. Primenjivali smo ove principe deo po deo u prethodnim jedinicama; Ovdje ćemo to spojiti u cjelinu i pretvoriti u trajnu politiku.
KVKK i tipovi podataka: šta je zaštićenije
KVKK (Zakon o zaštiti podataka o ličnosti) je zakon koji reguliše zakonitu obradu podataka ljudi. Dva koncepta su posebno važna. Lični podaci su svaki podatak koji identifikuje ili identifikuje osobu: ime, prezime, broj škole, razred, adresa, fotografija. Posebni lični podaci su vrsta osjetljivih podataka koji zahtijevaju veću zaštitu: zdravlje, psihičko stanje, dijagnoza, seksualni život, vjera, nacionalna pripadnost, kriminalni status. Većina PDR zapisa spada u ovu drugu, osjetljivu kategoriju; jer su mentalni status, porodični problemi i istorija podrške direktno privatni podaci. To znači da se PDR podaci nikada ne bi trebali unositi u sirovom obliku u javne alate.
U praksi, ovo se prevodi u tri pravila: (1) Minimizacija podataka — radite sa najmanjom količinom podataka koja je potrebna za obavljanje posla. (2) Anonimizacija — učinite podatke nepovezanim za pojedinca uklanjanjem ličnih podataka. (3) Sigurna sredstva i granica svrhe — koristite alate preduzeća zaštićene podacima gdje je to moguće i obrađivati podatke samo u svrhu za koju su prikupljeni.
Pažnja: Nije dovoljno reći "nekako sam to anonimizirao". Čak i ako je ime izostavljeno iz teksta, jedinstveni opis situacije (veoma specifična situacija kod jednog učenika u maloj školi) može učiniti osobu prepoznatljivom. U anonimizaciji generalizujte ne samo ime, već i detalje koji zajedno ukazuju na osobu.
Praksa anonimizacije: kontrolni postupak
Prije izvoza teksta u alat, slijedite ovu proceduru: (a) Uklonite direktne identifikatore kao što su ime, prezime, broj, odjeljenje-ogranak, ime roditelja, adresa, telefon, naziv škole. (b) Generalizirajte indirektne deskriptore: “učenik srednje škole” umjesto “jedini učenik sa oštećenim vidom u 12-B”. (c) Zamutite datum i detalje događaja po potrebi. (d) Nakon čitanja: "Može li iko čitajući ovaj tekst saznati o kome se govori?" Ako je odgovor nejasan, generalizujte dalje. Ovjereni zapis se upisuje samo u zatvoreni, sigurni sistem institucije; Alat AI je izvan ovog sistema.
PDR profesionalna etika i AI
Profesionalna etika PDR-a temelji se na četiri osnovna principa, od kojih se svaki direktno primjenjuje na korištenje AI:
- Povjerljivost (čuvanje tajni): Podaci o studentima su zaštićeni. Neunošenje neobrađenih podataka u AI, njihovo anonimiziranje i odabir sigurnog alata je zahtjev ovog principa.
- Dobročinstvo: Sve urađeno treba da služi dobrobiti učenika. AI se koristi radi pogodnosti, a ne na način koji bi ugrozio dobrobit učenika.
- Nonmaleficence: Prioritet je ne činiti štetu. Neprovjereni rezultati, netačni statistički podaci, označavanje i upotreba AI u krizi su rizici od štete; stoga je provjera i granica krize etički imperativ.
- Autonomija: Zaštićeno je pravo učenika da donese svoju odluku. AI ne treba da svede učenika na etiketu ili da donosi odluke u njegovo/njeno ime.
Ovome se dodaje i odgovornost: Odgovornost za svaki korišteni rezultat leži na stručnjaku; "AI ga je proizveo" nije odbrana.
Pristrasnost, kulturna osjetljivost i transparentnost
AI može odražavati društvene obrasce u podacima o obuci. U PDR-u, ovo je pitanje pravičnosti: ishodi koji stereotipiziraju učenika prema njihovom spolu, kulturi ili socioekonomskom statusu potkopavaju jednake mogućnosti. Ekspert provjerava sadržaj proizveden na kulturnu osjetljivost i pristrasnost. Također transparentnost: gdje je to prikladno, interno treba jasno staviti do znanja da je AI korišten u pripremi materijala ili nacrta; Ne treba ga koristiti kao tajnu "magiju". Povjerljivost je neophodna u odnosu sa učenikom; Ono što učenik objasni ne prenosi se na vozilo.
Korak po korak: uspostavljanje politike upotrebe AI
- Klasifikujte podatke. Odvojite sve informacije koje imate kao "lične / privatne / javne".
- Odaberite vozilo. Jedini siguran, poslovni alat za osjetljive podatke; Radite anonimno za opći nacrt.
- Slijedite proceduru anonimizacije. Pokrenite rutinu provjere prije svakog unosa.
- Validacija i provjera pristranosti. Ispitajte svaki rezultat radi činjenica i pravednosti.
- Održavajte krizni limit. Izbacite krizni i konsultativni odnos van vozila.
- Preuzmite odgovornost i budite transparentni. Konačno odobrenje pripada stručnjaku; Upotreba je otvorena unutar organizacije.
Predlošci koji se mogu kopirati
1) Kontrola anonimizacije:
Vaša uloga: asistent revizije privatnosti. Navedite svaku tvrdnju u tekstu ispod koja bi DIREKTNO ili INDIREKTNO mogla identificirati osobu (ime, broj, razred, škola, jedinstveni opis situacije) i predložite opštiju alternativu za svaku. Komentiranje sadržaja. Tekst: [zalijepi tekst]
2) Revizija pristrasnosti i kulturološke osjetljivosti:
Provjerite sljedeći PDR materijal za pristrasnost i kulturnu osjetljivost: Da li sadrži stereotipe o rodu, kulturi, socioekonomskom statusu ili porodičnoj strukturi? Ko može isključiti? Označite rizične izjave i predložite inkluzivne alternative. Materijal: [zalijepite materijal]
3) Nacrt korporativne politike upotrebe AI:
Vaša uloga: PDR pomoćnik za pisanje. Za službu usmjeravanja izradite kratku internu politiku o korištenju alata umjetne inteligencije. Naslovi: na kojim poslovima se koristi, na kojim poslovima se ne koristi (kriza, dijagnoza, konsultacije), pravilo anonimizacije podataka, obaveza provjere, odgovornost je na stručnjaku. Kratko i primjenjivo.
Slaba prompt / Jaka prompt
slaba:
Da sumiramo situaciju Ahmeta Yılmaza 8-C, on je bio izložen nasilju kod kuće.
Unosi najosjetljivije podatke (ime, klasa, poseban status) u vozilo u sirovom obliku — ozbiljno kršenje KVKK-a i etike; Štaviše, ovo može biti situacija obavještavanja (jedinica 9).
Jaka:
Vaša uloga: pomoćnik u kontroli privatnosti. Napomena: Anonimizirao sam tekst ispod prije nego što sam ga poslao u alat. Međutim, provjerite ponovo: postoji li još neki detalj koji čini osobu prepoznatljivom? Tekst: "Učenik srednje škole je nagovijestio da doživljava napetost kod kuće."
tri mini kofera
Slučaj 1 — Indirektno otkrivanje. Stručnjak se spremao da unese tekst u alat iz kojeg je izostavio ime; ali je shvatio da se fraza "jedini učenik škole koji koristi invalidska kolica" direktno odnosi na tu osobu. On je to generalizovao na "studenta". Samo stvaranje imena nije bilo dovoljno; Opis jedinstvene situacije je takođe bio identifikujući.
Slučaj 2 — Korekcija pristranosti. Stručnjak koji je pregledao materijal o karijeri otkrio je da je AI uvijek koristio muška imena u inženjerskim primjerima i ženska imena u profesijama za njegu. Uravnotežio je uzorke i razbio kalup. Ova naizgled mala ispravka sačuvala je pravičnost poruke poslane studentima.
Slučaj 3 — Uspostavljanje politike. Služba za usmjeravanje kreirala je zajednički tekst interne politike kako bi se otklonila zabuna koja proizlazi iz činjenice da svi različito koriste AI: u kojim zadacima se koristi, a ne u krizi i dijagnozi, podaci su anonimizirani, rezultati su provjereni, odgovornost je na stručnjaku. AI je dao nacrt; Tim je finalizirao sadržaj s vlastitim vrijednostima. Neizvjesnost je ustupila mjesto jasnom okviru.
Uobičajene greške
- Unošenje neobrađenih podataka. Pisanje na vozilo sa imenom/statusom. Rješenje: postupak anonimizacije, siguran alat.
- Samo uklanjam ime. Zaboravljanje indirektnih identifikatora. Rješenje: generalizirajte i jedinstvene detalje.
- Ignorisanje pristrasnosti. Usvajanje stereotipnog izlaza. Rješenje: revizija pristrasnosti i kulture.
- Prebacivanje odgovornosti na vozilo. To znači "AI ga je proizveo". Rješenje: odgovornost leži na stručnjaku.
- Zloupotreba. Obrada podataka prikupljenih za jednu svrhu u drugu svrhu. Rješenje: poštujte ograničenje svrhe.
Tabela: Tip podataka i AI pravilo
Tip podataka
primjer
AI pravilo
javnosti
Uvod opšte struke
slobodno dostupan
lične podatke
Ime, broj, klasa
Nije moguće unijeti bez anonimizacije
Podaci o posebnom kvalitetu
Psihički status, porodica, dijagnoza
Nikada se ne može unijeti u sirovom obliku.
kriznih podataka
Rizik, zlostavljanje, samoubistvo
Nikada ne ulazite u vozilo (jedinica 9)
Ukratko
U PDR-u, povjerljivost je temelj povjerenja u profesiju i najprovjereniji princip u eri umjetne inteligencije. KVKK razdvaja podatke na lične i privatne podatke; Većina PDR podataka je osjetljiva i ne unose se u alat u sirovom obliku. Minimizacija podataka, anonimizacija (sa direktnim i indirektnim identifikatorima) i siguran odabir alata su osnovna pravila. Četiri principa profesionalne etike – povjerljivost, dobročinstvo, nezlonamjernost, autonomija – obavezujuća su za korištenje AI; Pristrasnost je kontrolirana, odgovornost ostaje na stručnjaku, a korištenje je transparentno unutar organizacije.
Zadatak aplikacije
Nacrtajte kratku "Politika upotrebe AI" za vašu vlastitu uslugu usmjeravanja. Započnite s predloškom “Enterprise AI usage policy draft”; Zatim ga prilagodite realnosti vaše vlastite institucije. Također prođite (izmišljeni) tekst kroz šablon "provjera anonimizacije" i uhvatite i generalizirajte barem jedan indirektni identifikator.
kontrolna lista
- [ ] Podatke koje imam klasifikovao sam kao lične / privatne / javne.
- [ ] Generalizirao sam direktne i indirektne identifikatore u anonimizaciji.
- [ ] Koristio sam siguran/enterprise alat za osjetljive podatke.
- [ ] Provjerio sam izlaz na pristrasnost i kulturnu osjetljivost.
- [ ] Prihvatio sam odgovornost i zadržao transparentnost upotrebe.