Ieguvumi:
- Spēja klasificēt un anonimizēt studentu datus KVKK un īpašu personas datu koncepciju ietvaros un piemērot drošu transportlīdzekļu izvēli
- Spēja pielāgot PDR profesionālās ētikas principus (konfidencialitāte, labvēlība, nevainojamība, autonomija) mākslīgā intelekta izmantošanai
- Spēja atpazīt neobjektivitāti, kultūras nejutīgumu un halucinācijas mākslīgā intelekta izlaidē un izveidot ētiskas lietošanas politiku
Uzticēšanās ir PDR profesijas pamatā. Ja students var pastāstīt speciālistam par savām intīmākajām jūtām, ģimeni un bailēm, tas ir tikai tāpēc, ka viņš uzskata, ka informācija tiks aizsargāta. Mākslīgā intelekta rīki ir jauns nopietns pārbaudījums šai uzticībai: sensitīvākie dati var izkļūt no kontroles teikumā. Šajā nodaļā mēs sistemātiski apspriežam privātumu, KVKK, PDR profesionālo ētiku un to, kā tās attiecas uz mākslīgā intelekta izmantošanu. Mēs esam pielietojuši šos principus pa gabalu iepriekšējās vienībās; Šeit mēs to apvienosim kopumā un pārvērtīsim par pastāvīgu politiku.
KVKK un datu veidi: kas ir vairāk aizsargāts
KVKK (Personas datu aizsardzības likums) ir likums, kas regulē cilvēku datu likumīgu apstrādi. Īpaši svarīgi ir divi jēdzieni. Personas dati ir jebkura informācija, kas identificē vai identificē personu: vārds, uzvārds, skolas numurs, klase, adrese, fotogrāfija. Īpaši personas dati ir sensitīvu datu veids, kam nepieciešama augstāka aizsardzība: veselība, garīgais stāvoklis, diagnoze, dzimumdzīve, reliģija, etniskā piederība, kriminālais statuss. Lielākā daļa PDR ierakstu ietilpst šajā otrajā, sensitīvajā kategorijā; jo garīgais stāvoklis, ģimenes problēmas un atbalsta vēsture ir tieši privāti dati. Tas nozīmē, ka PDR datus nekad nedrīkst ievadīt neapstrādātā veidā publiskajos rīkos.
Praksē tas izpaužas trīs noteikumos: (1) Datu minimizēšana — darbs ar vismazāko datu apjomu, kas nepieciešams darba veikšanai. (2) Anonimizācija — padarīt datus nesaistamus ar personu, noņemot personu identificējošu informāciju. (3) Droši līdzekļi un mērķa robeža — ja iespējams, izmantojiet ar datiem aizsargātus uzņēmuma rīkus un apstrādājiet datus tikai tiem nolūkiem, kādiem tie tika vākti.
Uzmanību: Nepietiek pateikt "Es to kaut kā anonimizēju". Pat ja tekstā vārds ir izlaists, unikāls situācijas apraksts (ļoti specifiska situācija vienam skolēnam mazā skolā) var padarīt personu identificējamu. Anonimizējot, vispāriniet ne tikai vārdu, bet arī detaļas, kas kopā norāda uz personu.
Anonimizācijas prakse: kontroles procedūra
Pirms teksta eksportēšanas uz rīku veiciet šo procedūru: (a) Noņemiet tiešos identifikatorus, piemēram, vārdu, uzvārdu, numuru, klases filiāli, vecāku vārdu, adresi, tālruni, skolas nosaukumu. (b) Vispāriniet netiešos deskriptorus: “vidusskolnieks”, nevis “vienīgais skolēns ar redzes traucējumiem 12-B klasē”. (c) Ja nepieciešams, aizmiglojiet datumu un notikuma informāciju. (d) Pēclasīšana: "Vai ikviens, kas lasa šo tekstu, var uzzināt, kurš tiek pieminēts?" Ja atbilde ir neskaidra, vispāriniet tālāk. Autentificēts ieraksts tiek rakstīts tikai iestādes slēgtā, drošā sistēmā; AI rīks atrodas ārpus šīs sistēmas.
PDR profesionālā ētika un AI
PDR profesionālā ētika balstās uz četriem pamatprincipiem, no kuriem katrs tieši attiecas uz AI izmantošanu:
- Konfidencialitāte (noslēpumu glabāšana): Studentu informācija ir aizsargāta. Šī principa prasība ir neapstrādātu datu neievadīšana AI, to anonimizācija un droša rīka izvēle.
- Labums: visam, kas tiek darīts, jākalpo studenta labklājībai. AI tiek izmantots ērtībai, nevis tādā veidā, kas apdraudētu studenta priekšrocības.
- Nevainojamība: prioritāte ir nenodarīt ļaunumu. Nepārbaudīta produkcija, neprecīza statistika, marķēšana un mākslīgā intelekta izmantošana krīzes apstākļos ir kaitējuma risks; tāpēc pārbaude un krīzes robeža ir ētiska obligāta prasība.
- Autonomija: tiek aizsargātas skolēna tiesības pašam pieņemt lēmumu. AI nedrīkst pazemināt studentu uz etiķeti vai pieņemt lēmumus viņa/viņas vārdā.
Tam tiek pievienota atbildība: Atbildība par katru izmantoto rezultātu gulstas uz ekspertu; "AI to radīja" nav aizsardzība.
Neobjektivitāte, kultūras jutīgums un caurspīdīgums
AI var atspoguļot sociālos modeļus apmācības datos. PDR tas ir godīguma jautājums: rezultāti, kas stereotipizē studentu atkarībā no viņa dzimuma, kultūras vai sociālekonomiskā statusa, grauj iespēju vienlīdzību. Eksperts pārbauda izveidotā satura kultūras jutīgumu un aizspriedumus. Arī pārredzamība: attiecīgā gadījumā iekšēji skaidri jānorāda, ka AI tika izmantots materiāla vai uzmetuma sagatavošanā; To nevajadzētu izmantot kā slepenu "maģiju". Attiecībās ar studentu būtiska ir konfidencialitāte; Skolēna paskaidrotais netiek pārnests uz transportlīdzekli.
Soli pa solim: AI lietošanas politikas izveide
- Klasificēt datus. Atdaliet visu informāciju, kas jums ir kā "personiska / privāta / publiska".
- Izvēlieties transportlīdzekli. Vienīgais drošais uzņēmuma rīks sensitīviem datiem; Strādājiet anonīmi, lai iegūtu vispārīgu izklāstu.
- Izpildiet anonimizācijas procedūru. Pirms katras ievades izpildiet pārbaudes rutīnu.
- Validācija un neobjektivitātes pārbaude. Pārbaudiet katru rezultātu, lai noskaidrotu faktu un godīgumu.
- Saglabājiet krīzes limitu. Izvairieties no krīzes un konsultāciju attiecībām.
- Uzņemieties atbildību un esiet caurspīdīgi. Galīgais apstiprinājums pieder ekspertam; Lietošana ir atvērta organizācijā.
Kopējamas veidnes
1) Anonimizācijas kontrole:
Jūsu loma: privātuma audita palīgs. Zemāk esošajā tekstā uzskaitiet katru apgalvojumu, kas TIEŠI vai NETIEŠI varētu identificēt personu (vārds, numurs, klase, skola, unikāls situācijas apraksts), un katram piedāvājiet vispārīgāku alternatīvu. Komentē saturu.Teksts: [ielīmēt tekstu]
2) Neobjektivitātes un kultūras jutīguma audits:
Pārbaudiet, vai šajā PDR materiālā nav aizspriedumu un kultūras jutīguma: vai tajā ir stereotipi par dzimumu, kultūru, sociālekonomisko statusu vai ģimenes struktūru? Kurš var izslēgt? Atzīmējiet riskantos apgalvojumus un iesakiet iekļaujošas alternatīvas. Materiāls: [materiāla ielīmēšana]
3) Korporatīvā AI lietošanas politikas projekts:
Jūsu loma: PDR rakstīšanas palīgs. Vadības dienestam izstrādājiet īsu iekšējo politiku par mākslīgā intelekta rīku izmantošanu. Virsraksti: kuros darbos to izmanto, kuros darbos neizmanto (krīze, diagnostika, konsultācija), datu anonimizācijas noteikums, verifikācijas pienākums, atbildība gulstas uz ekspertu. Īss un piemērojams.
Vāja uzvedne / spēcīga uzvedne
Vāji:
Rezumējot Ahmeta Jilmaza 8-C situāciju, viņš tika pakļauts vardarbībai mājās.
Tā ievada transportlīdzeklī visjutīgākos datus (nosaukums, klase, īpašais statuss) neapstrādātā veidā — nopietns KVKK un ētikas pārkāpums; Turklāt tā var būt paziņošanas situācija (9. vienība).
Spēcīgs:
Jūsu loma: privātuma kontroles palīgs. Piezīme. Pirms iesniegšanas rīkā es anonīmēju tālāk esošo tekstu. Tomēr pārbaudiet vēlreiz: vai ir palikusi kāda detaļa, kas padara personu identificējamu? Teksts: "Kāds vidusskolas skolēns deva mājienu, ka viņš mājās izjūt spriedzi."
trīs mini futrāļi
1. gadījums — Netieša izpaušana. Kāds eksperts grasījās rīkā ievadīt tekstu, kura nosaukumu bija izlaidis; taču viņš saprata, ka frāze "skolas vienīgais skolēns, kurš pārvietojas ratiņkrēslā" tieši attiecas uz šo personu. Viņš to vispārināja ar "studentu". Ar vārdu radīšanu vien nepietika; Unikālās situācijas apraksts bija arī identificējošs.
2. gadījums — novirzes korekcija. Eksperts, kurš pārbaudīja karjeras materiālu, atklāja, ka AI inženierzinātņu piemēros vienmēr izmantoja vīriešu vārdus un aprūpes profesijās sieviešu vārdus. Tas līdzsvaroja paraugus un salauza veidni. Šis šķietami nelielais labojums saglabāja studentiem nosūtītās ziņas godīgumu.
3. gadījums — politikas izveide. Vadības dienests izveidoja vienotu iekšējās politikas tekstu, lai novērstu neskaidrības, kas rodas no tā, ka katrs AI lieto atšķirīgi: kuros uzdevumos tas tiek izmantots, nevis krīzes un diagnostikas gadījumos, dati tiek anonimizēti, izvade tiek pārbaudīta, atbildība gulstas uz ekspertu. AI sniedza melnrakstu; Komanda pabeidza saturu ar savām vērtībām. Nenoteiktība kļuva skaidra sistēma.
Biežas kļūdas
- Ievada neapstrādātus datus. Rakstīšana transportlīdzeklim ar nosaukumu/statusu. Risinājums: anonimizācijas procedūra, drošs rīks.
- Vienkārši noņem vārdu. Aizmirstot netiešos identifikatorus. Risinājums: vispāriniet arī unikālas detaļas.
- Neobjektivitātes ignorēšana. Stereotipisku rezultātu pieņemšana. Risinājums: neobjektivitātes un kultūras audits.
- Atbildības uzlikšana transportlīdzeklim. Tas nozīmē "AI to radīja". Risinājums: atbildība gulstas uz ekspertu.
- Ļaunprātīga izmantošana. Vienam mērķim savākto datu apstrāde citam mērķim. Risinājums: ievērojiet mērķa ierobežojumu.
Tabula: Datu tips un AI noteikums
Datu tips
piemērs
AI noteikums
publiski
Vispārējās profesijas ievads
brīvi pieejams
personas dati
Vārds, numurs, klase
Nevar ievadīt bez anonimizācijas
Īpašas kvalitātes dati
Garīgais stāvoklis, ģimene, diagnoze
To nekad nevar ievadīt neapstrādātā veidā.
krīzes dati
Risks, ļaunprātīga izmantošana, pašnāvība
Nekad neiekāpjiet transportlīdzeklī (9. bloks)
Rezumējot
PDR konfidencialitāte ir uzticēšanās profesijai pamats un visvairāk pārbaudītais princips AI laikmetā. KVKK nodala datus personas un privātajos datos; Lielākā daļa PDR datu ir sensitīvi un netiek ievadīti rīkā neapstrādātā veidā. Datu minimizēšana, anonimizācija (ar tiešiem un netiešiem identifikatoriem) un droša rīku izvēle ir pamatnoteikumi. AI lietošanai ir saistoši četri profesionālās ētikas principi — konfidencialitāte, labvēlība, nevainojamība, autonomija; Neobjektivitāte tiek kontrolēta, atbildība paliek ekspertam, un izmantošana organizācijā ir pārredzama.
Lietojumprogrammas uzdevums
Izveidojiet īsu “AI lietošanas politiku” savam vadības pakalpojumam. Iegūstiet priekšrocību, izmantojot veidni “Uzņēmuma AI lietošanas politikas projekts”; Pēc tam pielāgojiet to atbilstoši savas iestādes realitātei. Nododiet arī (izdomātu) tekstu, izmantojot veidni "anonimizēšanas pārbaude", un tveriet un vispāriniet vismaz vienu netiešo identifikatoru.
kontrolsaraksts
- [ ] Manā rīcībā esošos datus esmu klasificējis kā personiskus/privātus/publiskus.
- [ ] Anonimizācijā esmu vispārinājis tiešos un netiešos identifikatorus.
- [ ] Es izmantoju drošu/uzņēmuma rīku sensitīviem datiem.
- [ ] Es pārbaudīju izvades neobjektivitāti un kultūras jutīgumu.
- [ ] Es uzņēmos atbildību un nodrošināju izmantošanas caurspīdīgumu.