Dobici:
- Sposobnost klasificiranja i anonimiziranja podataka učenika u okviru KVKK i posebnih koncepata osobnih podataka te primjene sigurnog odabira vozila
- Sposobnost prilagodbe načela profesionalne etike PDR-a (povjerljivost, dobročinstvo, neškodljivost, autonomija) korištenju umjetne inteligencije
- Sposobnost prepoznavanja pristranosti, kulturološke neosjetljivosti i halucinacija u rezultatima umjetne inteligencije i stvaranje politike etičke uporabe
Povjerenje je u srcu PDR profesije. Ako student može ispričati svoje najintimnije osjećaje, obitelj i strahove stručnjaku, to je samo zato što vjeruje da će informacije biti zaštićene. Alati umjetne inteligencije predstavljaju ozbiljan novi test za ovo povjerenje: najosjetljiviji podaci mogu izmaknuti kontroli u rečenici. U ovoj cjelini sustavno raspravljamo o privatnosti, KVKK, PDR profesionalnoj etici i njihovoj primjeni na korištenje umjetne inteligencije. Primjenjivali smo ove principe dio po dio u prethodnim jedinicama; Ovdje ćemo to spojiti u cjelinu i pretvoriti u trajnu policu.
KVKK i tipovi podataka: što je zaštićenije
KVKK (Zakon o zaštiti osobnih podataka) je zakon koji uređuje zakonitu obradu podataka ljudi. Dva su pojma posebno važna. Osobni podatak je svaka informacija koja identificira ili identificira osobu: ime, prezime, broj škole, razred, adresa, fotografija. Posebni osobni podaci su vrsta osjetljivih podataka koji zahtijevaju veću zaštitu: zdravlje, psihičko stanje, dijagnoza, seksualni život, vjera, nacionalna pripadnost, kriminalni status. Većina PDR zapisa spada u ovu drugu, osjetljivu kategoriju; jer su mentalni status, obiteljski problemi i povijest podrške izravno privatni podaci. To znači da se PDR podaci nikada ne bi trebali unositi u svom sirovom obliku u javne alate.
U praksi se to prevodi u tri pravila: (1) Minimiziranje podataka — radite s najmanjom količinom podataka potrebnih za obavljanje posla. (2) Anonimizacija — učinite da se podaci ne mogu povezati s pojedincem uklanjanjem osobnih podataka. (3) Osigurajte sredstva i granice svrhe — koristite alate poduzeća zaštićene podacima gdje je to moguće i obrađujete podatke samo u svrhu za koju su prikupljeni.
Pažnja: Nije dovoljno reći "Nekako sam to anonimizirao". Čak i ako je ime izostavljeno iz teksta, jedinstveni opis situacije (vrlo specifična situacija u jednom učeniku u maloj školi) može učiniti osobu prepoznatljivom. U anonimizaciji generalizirajte ne samo ime nego i detalje koji zajedno označavaju osobu.
Praksa anonimizacije: kontrolni postupak
Prije izvoza teksta u alat slijedite ovu proceduru: (a) Uklonite izravne identifikatore kao što su ime, prezime, broj, odjeljenje, ime roditelja, adresa, telefon, naziv škole. (b) Generalizirajte neizravne deskriptore: "srednjoškolac" umjesto "jedini slabovidni učenik u 12-B." (c) Po potrebi zamutite detalje o datumu i događaju. (d) Nakon čitanja: "Može li itko tko čita ovaj tekst saznati tko se spominje?" Ako je odgovor nejasan, generalizirajte dalje. Autentificirani zapis upisuje se samo u zatvoreni, sigurni sustav ustanove; AI alat je izvan ovog sustava.
PDR profesionalna etika i AI
Profesionalna etika PDR-a temelji se na četiri temeljna načela, od kojih se svako izravno odnosi na korištenje umjetne inteligencije:
- Povjerljivost (čuvanje tajne): podaci o studentima su zaštićeni. Neunošenje neobrađenih podataka u AI, njihovo anonimiziranje i odabir sigurnog alata zahtjev je ovog načela.
- Dobročinstvo: Sve učinjeno treba služiti dobrobiti učenika. AI se koristi zbog pogodnosti, a ne na način koji bi ugrozio dobrobit učenika.
- Bezzlobnost: Prioritet je ne činiti štetu. Neprovjereni rezultati, netočne statistike, označavanje i korištenje umjetne inteligencije u kriznim situacijama predstavljaju rizik od štete; stoga je provjera i granica krize etički imperativ.
- Autonomija: Zaštićeno je pravo učenika da sam odlučuje. AI ne bi trebao svoditi učenika na etiketu ili donositi odluke u njegovo/njezino ime.
Ovome se dodaje odgovornost: odgovornost za svaki korišteni rezultat leži na stručnjaku; "AI ga je proizvela" nije obrana.
Pristranost, kulturološka osjetljivost i transparentnost
AI može odražavati društvene obrasce u podacima o obuci. U PDR-u je to pitanje pravednosti: ishodi koji stereotipiziraju učenika prema njihovom spolu, kulturi ili socioekonomskom statusu potkopavaju jednakost mogućnosti. Stručnjak provjerava kulturnu osjetljivost i pristranost proizvedenog sadržaja. Također transparentnost: gdje je to prikladno, interno treba biti jasno da je umjetna inteligencija korištena u pripremi materijala ili nacrta; Ne smije se koristiti kao tajna "magija". Povjerljivost je bitna u odnosu sa studentom; Ono što učenik objašnjava ne prenosi se na vozilo.
Korak po korak: uspostavljanje politike korištenja umjetne inteligencije
- Klasificirajte podatke. Odvojite sve informacije koje imate kao "osobne / privatne / javne".
- Odaberite vozilo. Jedini siguran, poslovni alat za osjetljive podatke; Radite anonimno za opći pregled.
- Slijedite proceduru anonimizacije. Pokrenite rutinu provjere prije svakog unosa.
- Validacija i provjera pristranosti. Ispitajte svaki izlaz radi činjenica i poštenja.
- Održavajte granicu krize. Držite krizu i odnos konzultacija izvan vozila.
- Preuzmite odgovornost i budite transparentni. Konačno odobrenje pripada stručnjaku; Korištenje je otvoreno unutar organizacije.
Predlošci koji se mogu kopirati
1) Kontrola anonimizacije:
Vaša uloga: pomoćnik revizije privatnosti. Navedite svaku izjavu u donjem tekstu koja bi IZRAVNO ili NEIZRAVNO mogla identificirati osobu (ime, broj, razred, škola, opis jedinstvene situacije) i predložite općenitiju alternativu za svaku. Komentiranje sadržaja.Tekst: [zalijepi tekst]
2) Revizija pristranosti i kulturne osjetljivosti:
Provjerite pristranost i kulturološku osjetljivost sljedećeg PDR materijala: Sadrži li stereotipe o spolu, kulturi, socioekonomskom statusu ili strukturi obitelji? Tko može isključiti? Označite rizične izjave i predložite uključive alternative. Materijal: [zalijepite materijal]
3) Nacrt korporativne politike korištenja umjetne inteligencije:
Vaša uloga: pomoćnik u pisanju PDR-a. Za službu usmjeravanja izraditi kratku internu politiku o korištenju alata umjetne inteligencije. Naslovi: u kojim poslovima se koristi, u kojim poslovima se ne koristi (kriza, dijagnoza, konzultacije), pravilo anonimizacije podataka, obveza provjere, odgovornost snosi stručnjak. Kratko i primjenjivo.
Slab upit / Jak upit
Slabo:
Da rezimiramo situaciju Ahmeta Yılmaza 8-C, bio je izložen nasilju kod kuće.
Najosjetljivije podatke (ime, klasa, poseban status) unosi u vozilo u sirovom obliku — ozbiljno kršenje KVKK i etike; Štoviše, to može biti situacija obavijesti (jedinica 9).
Jako:
Vaša uloga: pomoćnik za kontrolu privatnosti. Napomena: anonimizirao sam tekst u nastavku prije nego što sam ga poslao alatu. Međutim, provjerite ponovno: postoji li još neki detalj koji čini osobu prepoznatljivom? Tekst: "Učenik srednje škole nagovijestio je da osjeća napetost kod kuće."
tri mini kućišta
Slučaj 1 — neizravno otkrivanje. Stručnjak se spremao unijeti tekst u alat iz kojeg je izostavio ime; ali je shvatio da se izraz "jedini učenik škole koji koristi invalidska kolica" izravno odnosi na tu osobu. Generalizirao je to na "student". Samo stvaranje imena nije bilo dovoljno; Identificirajući je bio i opis jedinstvene situacije.
Slučaj 2 — Ispravak pristranosti. Stručnjak koji je revidirao materijal o karijeri otkrio je da AI uvijek koristi muška imena u inženjerskim primjerima i ženska imena u profesijama njegovatelja. Uravnotežio je uzorke i razbio kalup. Ovaj naizgled manji ispravak sačuvao je poštenje poruke upućene studentima.
Slučaj 3 — Uspostavljanje politike. Služba za usmjeravanje stvorila je zajednički tekst interne politike kako bi se uklonila zabuna koja proizlazi iz činjenice da svatko koristi umjetnu inteligenciju na drugačiji način: u kojim se zadacima koristi, a ne u kriznim situacijama i dijagnozi, podaci su anonimizirani, rezultati se verificiraju, odgovornost leži na stručnjaku. AI je dao nacrt; Tim je finalizirao sadržaj vlastitim vrijednostima. Neizvjesnost je ustupila mjesto jasnom okviru.
Uobičajene greške
- Unos neobrađenih podataka. Pisanje na vozilo s imenom/statusom. Rješenje: postupak anonimizacije, siguran alat.
- Samo uklanjanje imena. Zaboravljanje neizravnih identifikatora. Rješenje: generalizirajte i jedinstvene detalje.
- Ignoriranje pristranosti. Usvajanje stereotipnog rezultata. Rješenje: revizija pristranosti i kulture.
- Prebacivanje odgovornosti na vozilo. To znači "AI ga je proizvela". Rješenje: odgovornost leži na stručnjaku.
- Zlouporaba. Obrada podataka prikupljenih u jednu svrhu u drugu svrhu. Rješenje: poštujte ograničenje namjene.
Tablica: Tip podataka i AI pravilo
Vrsta podataka
primjer
AI pravilo
javni
Opći uvod u struku
slobodno dostupni
osobni podaci
Ime, broj, klasa
Ne može se unijeti bez anonimizacije
Podaci o posebnoj kvaliteti
Psihički status, obitelj, dijagnoza
Nikada se ne može unijeti u sirovom obliku.
podatke o krizi
Rizik, zlostavljanje, samoubojstvo
Nikada ne ulazite u vozilo (jedinica 9)
Ukratko
U PDR-u, povjerljivost je temelj povjerenja u profesiju i najprovjerenije načelo u eri umjetne inteligencije. KVKK razdvaja podatke na osobne i privatne podatke; Većina PDR podataka je osjetljiva i ne unosi se u alat u svom sirovom obliku. Minimizacija podataka, anonimizacija (s izravnim i neizravnim identifikatorima) i siguran odabir alata osnovna su pravila. Četiri načela profesionalne etike - povjerljivost, dobročinstvo, neškodljivost, autonomija - obvezujuća su za korištenje AI; Pristranost se kontrolira, odgovornost ostaje na stručnjaku, a uporaba je transparentna unutar organizacije.
Zadatak aplikacije
Sastavite kratku "Politiku korištenja umjetne inteligencije" za svoju vlastitu uslugu usmjeravanja. Započnite s predloškom "Enterprise AI usage policy draft"; Zatim ga prilagodite prema stvarnosti vaše vlastite institucije. Također provedite (fiktivni) tekst kroz predložak "anonimizacijske provjere" i uhvatite i generalizirajte barem jedan neizravni identifikator.
popis za provjeru
- [ ] Podatke koje imam klasificirao sam kao osobne/privatne/javne.
- [ ] Generalizirao sam izravne i neizravne identifikatore u anonimizaciji.
- [ ] Koristio sam siguran/poslovni alat za osjetljive podatke.
- [ ] Provjerio sam izlaz radi pristranosti i kulturološke osjetljivosti.
- [ ] Prihvatio sam odgovornost i držao korištenje transparentnim.