Pelnas:
- Gebėjimas klasifikuoti ir anonimizuoti studentų duomenis KVKK ir specialių asmens duomenų sąvokų rėmuose bei taikyti saugų transporto priemonių pasirinkimą.
- Gebėjimas pritaikyti PDR profesinės etikos principus (konfidencialumas, geranoriškumas, nepiktybiškumas, savarankiškumas) dirbtinio intelekto naudojimui.
- Gebėjimas atpažinti šališkumą, kultūrinį nejautrumą ir haliucinacijas dirbtinio intelekto produkcijoje ir sukurti etiško naudojimo politiką
Pasitikėjimas yra PDR profesijos pagrindas. Jeigu mokinys specialistui gali papasakoti apie savo intymiausius jausmus, šeimą, baimes, tai tik todėl, kad jis tiki, kad informacija bus apsaugota. Dirbtinio intelekto įrankiai yra rimtas naujas išbandymas šiam pasitikėjimui: jautriausi duomenys gali būti nekontroliuojami sakinyje. Šiame skyriuje sistemingai aptariame privatumą, KVKK, PDR profesinę etiką ir kaip jos taikomos naudojant dirbtinį intelektą. Šiuos principus po gabalo taikėme ankstesniuose skyriuose; Čia mes ją sujungsime kaip visumą ir paversime nuolatine politika.
KVKK ir duomenų tipai: kas labiau apsaugota
KVKK (asmens duomenų apsaugos įstatymas) yra įstatymas, reglamentuojantis teisėtą žmonių duomenų tvarkymą. Dvi sąvokos yra ypač svarbios. Asmens duomenys – tai bet kokia informacija, kuri identifikuoja arba identifikuoja asmenį: vardas, pavardė, mokyklos numeris, klasė, adresas, nuotrauka. Specialieji asmens duomenys – tai jautrių duomenų rūšis, kuriai reikalinga didesnė apsauga: sveikata, psichinė būsena, diagnozė, seksualinis gyvenimas, religija, etninė priklausomybė, nusikalstama padėtis. Dauguma PDR įrašų patenka į šią antrąją, jautrią kategoriją; nes psichinė būklė, šeimos problemos ir paramos istorija yra tiesiogiai privatūs duomenys. Tai reiškia, kad PDR duomenys niekada neturėtų būti įvesti neapdoroti į viešuosius įrankius.
Praktiškai tai reiškia tris taisykles: (1) Duomenų sumažinimas – darbas su mažiausiai duomenų, reikalingų darbui atlikti. (2) Anonimizavimas – padaryti duomenis nesusietus su asmeniu pašalinant asmenį identifikuojančią informaciją. (3) Saugios priemonės ir tikslo ribos – jei įmanoma, naudokite duomenų apsaugotas įmonės priemones ir tvarkykite duomenis tik tuo tikslu, dėl kurio jie buvo surinkti.
Dėmesio: neužtenka pasakyti „kažkaip anonimizuojau“. Net jei pavardė tekste yra praleista, unikalus situacijos aprašymas (labai specifinė vieno mokinio situacija mažoje mokykloje) gali padėti asmenį atpažinti. Anonimizuodami apibendrinkite ne tik vardą, bet ir detales, kurios kartu nurodo asmenį.
Anonimizavimo praktika: kontrolės procedūra
Prieš eksportuodami tekstą į įrankį, atlikite šią procedūrą: (a) Pašalinkite tiesioginius identifikatorius, tokius kaip vardas, pavardė, numeris, klasės filialas, tėvų vardas, adresas, telefonas, mokyklos pavadinimas. (b) Apibendrinkite netiesioginius aprašus: „vidurinės mokyklos mokinys“, o ne „vienintelis silpnaregis 12-B klasės mokinys“. (c) Jei reikia, suliekite datą ir įvykio informaciją. (d) Po skaitymo: "Ar kiekvienas, skaitantis šį tekstą, gali sužinoti, kas yra minimas?" Jei atsakymas neaiškus, apibendrinkite toliau. Patvirtintas įrašas rašomas tik į įstaigos uždarą, saugią sistemą; AI įrankis yra už šios sistemos ribų.
PDR profesinė etika ir AI
PDR profesinė etika grindžiama keturiais pagrindiniais principais, kurių kiekvienas tiesiogiai taikomas naudojant AI:
- Konfidencialumas (paslapčių saugojimas): Mokinio informacija yra apsaugota. Šio principo reikalavimas yra neįvesti neapdorotų duomenų į AI, anonimizuoti ir pasirinkti saugų įrankį.
- Nauda: viskas, kas daroma, turi tarnauti mokinio gerovei. AI naudojamas dėl patogumo, o ne taip, kad būtų pakenkta studento naudai.
- Nepiktybiškumas: prioritetas yra nedaryti žalos. Nepatikrinta produkcija, netiksli statistika, ženklinimas ir AI naudojimas krizės metu kelia žalos riziką; todėl patikrinimas ir krizės riba yra etinė būtinybė.
- Savarankiškumas: saugoma mokinio teisė pačiam priimti sprendimą. AI neturėtų sumenkinti mokinio iki etiketės ar priimti sprendimų jo vardu.
Prie to pridedama atskaitomybė: atsakomybė už kiekvieną panaudotą rezultatą tenka ekspertui; „AI jį sukūrė“ nėra gynyba.
Šališkumas, kultūrinis jautrumas ir skaidrumas
AI gali atspindėti socialinius mokymo duomenų modelius. PDR tai yra teisingumo problema: rezultatai, stereotipuojantys studentą pagal jo lytį, kultūrą ar socialinį ekonominį statusą, kenkia lygioms galimybėms. Ekspertas tikrina sukurtą turinį dėl kultūrinio jautrumo ir šališkumo. Taip pat skaidrumas: jei reikia, viduje turėtų būti aiškiai nurodyta, kad AI buvo naudojamas ruošiant medžiagą ar juodraštį; Nereikėtų to naudoti kaip slaptos „magijos“. Santykiuose su mokiniu būtinas konfidencialumas; Tai, ką mokinys paaiškina, neperkelia į transporto priemonę.
Žingsnis po žingsnio: AI naudojimo politikos nustatymas
- Klasifikuoti duomenis. Atskirkite visą turimą informaciją kaip „asmeninę / privačią / viešą“.
- Pasirinkite transporto priemonę. Vienintelis saugus įmonės įrankis jautriems duomenims tvarkyti; Dirbkite anonimiškai bendram planui.
- Vykdykite anonimizacijos procedūrą. Prieš kiekvieną įrašą atlikite patikrinimo tvarką.
- Patvirtinimas ir šališkumo tikrinimas. Išnagrinėkite kiekvieną išvestį dėl fakto ir teisingumo.
- Išlaikyti krizės ribą. Saugokitės krizės ir konsultacijų santykių.
- Prisiimkite atsakomybę ir būkite skaidrūs. Galutinis patvirtinimas priklauso ekspertui; Naudojimas yra atviras organizacijos viduje.
Kopijuojami šablonai
1) Anonimizacijos valdymas:
Jūsų vaidmuo: privatumo audito asistentas. Žemiau esančiame tekste išvardykite kiekvieną teiginį, pagal kurį TIESIOGIAI arba NETIESIOGIAI galima identifikuoti asmenį (vardas, numeris, klasė, mokykla, unikalus situacijos aprašymas) ir kiekvienam pasiūlyti bendresnę alternatyvą. Komentuojamas turinys.Tekstas: [įklijuoti tekstą]
2) šališkumo ir kultūrinio jautrumo auditas:
Patikrinkite šią PDR medžiagą, ar nėra šališkumo ir kultūrinio jautrumo: ar joje yra stereotipų apie lytį, kultūrą, socialinę ir ekonominę padėtį ar šeimos struktūrą? Kas gali išskirti? Pažymėkite rizikingus teiginius ir pasiūlykite įtraukiančių alternatyvų. Medžiaga: [įklijuokite medžiagą]
3) Įmonės AI naudojimo politikos projektas:
Jūsų vaidmuo: PDR rašymo asistentas. Orientavimo tarnybai parenkite trumpą vidaus politiką dėl dirbtinio intelekto priemonių naudojimo. Antraštės: kokiuose darbuose naudojamas, kokiuose darbuose nenaudojamas (krizė, diagnostika, konsultacija), duomenų anonimiškumo taisyklė, patikros prievolė, atsakomybė tenka ekspertui. Trumpas ir tinkamas.
Silpnas raginimas / Stiprus raginimas
Silpnas:
Apibendrinant Ahmet Yılmaz 8-C situaciją, jis patyrė smurtą namuose.
Ji įveda jautriausius duomenis (pavadinimas, klasė, specialus statusas) į transporto priemonę neapdorota forma – šiurkštus KVKK ir etikos pažeidimas; Be to, tai gali būti pranešimo situacija (9 skyrius).
Stiprus:
Jūsų vaidmuo: privatumo kontrolės asistentas. Pastaba: anonimizuojau toliau pateiktą tekstą prieš pateikdamas jį įrankiui. Tačiau patikrinkite dar kartą: ar liko kokia nors detalė, leidžianti identifikuoti asmenį? Tekstas: „Vidurinės mokyklos mokinys užsiminė, kad namuose jaučia įtampą“.
trys mini dėklai
1 atvejis. Netiesioginis atskleidimas. Ekspertas ruošėsi įvesti tekstą į įrankį, kurio pavadinimą jis praleido; bet jis suprato, kad frazė „vienintelis mokyklos mokinys, kuris naudojasi neįgaliojo vežimėliu“ tiesiogiai nurodo tą asmenį. Jis tai apibendrino kaip „studentą“. Nepakako vien vardų kūrimo; Unikalios situacijos aprašymas taip pat buvo identifikuojantis.
2 atvejis – šališkumo korekcija. Karjeros medžiagą patikrinęs ekspertas nustatė, kad AI inžinerijos pavyzdžiuose visada naudojo vyriškus vardus, o priežiūros profesijose – moteriškus vardus. Jis subalansavo mėginius ir sulaužė pelėsį. Šis, atrodytų, nedidelis pataisymas išsaugojo studentams išsiųstos žinutės teisingumą.
3 atvejis. Politikos nustatymas. Orientavimo tarnyba sukūrė bendrą vidaus politikos tekstą, kad pašalintų painiavą, kylančią dėl to, kad dirbtinį intelektą kiekvienas naudoja skirtingai: kokiose užduotyse jis naudojamas, o ne krizių ir diagnostikos metu, duomenys anonimizuojami, išvestis tikrinama, atsakomybė tenka ekspertui. AI davė juodraštį; Komanda užbaigė turinį pagal savo vertybes. Neapibrėžtumas užleido vietą aiškiam pagrindui.
Dažnos klaidos
- Neapdorotų duomenų įvedimas. Rašymas į transporto priemonę su pavadinimu / būsena. Sprendimas: anonimizacijos procedūra, saugus įrankis.
- Tiesiog pašalinkite pavadinimą. Netiesioginių identifikatorių pamiršimas. Sprendimas: apibendrinkite ir unikalias detales.
- Šališkumo ignoravimas. Stereotipinių rezultatų priėmimas. Sprendimas: šališkumo ir kultūros auditas.
- Atsakomybės perkėlimas ant transporto priemonės. Tai reiškia „AI jį sukūrė“. Sprendimas: atsakomybė tenka ekspertui.
- Piktnaudžiavimas. Vienu tikslu surinktų duomenų tvarkymas kitu tikslu. Sprendimas: laikykitės tikslo ribos.
Lentelė: duomenų tipas ir AI taisyklė
Duomenų tipas
pavyzdys
AI taisyklė
viešas
Bendras profesijos įvadas
laisvai prieinama
asmens duomenis
Vardas, numeris, klasė
Negalima įvesti be anonimiškumo
Ypatingos kokybės duomenys
Psichikos būklė, šeima, diagnozė
Jo niekada negalima įvesti neapdorota forma.
krizės duomenys
Rizika, piktnaudžiavimas, savižudybė
Niekada neįlipkite į transporto priemonę (9 blokas)
Apibendrinant
PDR konfidencialumas yra pasitikėjimo šia profesija pagrindas ir labiausiai patikrintas principas dirbtinio intelekto eroje. KVKK duomenis išskiria į asmeninius ir privačius duomenis; Dauguma PDR duomenų yra jautrūs ir neįvedami į įrankį neapdorota forma. Duomenų sumažinimas, anonimiškumas (su tiesioginiais ir netiesioginiais identifikatoriais) ir saugus įrankių pasirinkimas yra pagrindinės taisyklės. Keturi profesinės etikos principai – konfidencialumas, geranoriškumas, nepiktybiškumas, savarankiškumas – yra privalomi naudojant AI; Šališkumas yra kontroliuojamas, atsakomybė tenka ekspertui, o naudojimas organizacijoje yra skaidrus.
Taikymo užduotis
Sukurkite trumpą „AI naudojimo politiką“ savo orientavimo tarnybai. Pradėkite naudodami šabloną „Įmonės AI naudojimo politikos juodraštis“; Tada pakoreguokite jį pagal savo įstaigos realybę. Taip pat perduokite (išgalvotą) tekstą per „anonimiškumo patikros“ šabloną ir užfiksuokite bei apibendrinkite bent vieną netiesioginį identifikatorių.
kontrolinis sąrašas
- [ ] Turiu duomenis klasifikavau kaip asmeninius / privačius / viešus.
- [ ] Anonimizuodamas apibendrinau tiesioginius ir netiesioginius identifikatorius.
- [ ] Aš naudojau saugų / įmonės įrankį neskelbtiniems duomenims.
- [ ] Patikrinau išvestį dėl šališkumo ir kultūrinio jautrumo.
- [ ] Prisiėmiau atsakomybę ir naudoju skaidrų.