Privaatsus, KVKK, eetika ja kutsepõhimõtted

Kasu:

• Võimalus klassifitseerida ja anonüümseks muuta õpilaste andmeid KVKK ja isikuandmete erikontseptsioonide raames ning rakendada ohutut sõidukivalikut
• Võimalus kohandada PDR-i kutse-eetika põhimõtteid (konfidentsiaalsus, heasoovlikkus, mittekuritegu, autonoomia) tehisintellekti kasutamisega
• Võimalus tuvastada tehisintellekti väljundis eelarvamusi, kultuurilist tundlikkust ja hallutsinatsioone ning luua eetiline kasutuspoliitika

Usaldus on PDR-i elukutse keskmes. Kui õpilane saab spetsialistile rääkida oma kõige intiimsematest tunnetest, perekonnast ja hirmudest, siis ainult sellepärast, et ta usub, et teave on kaitstud. Tehisintellekti tööriistad panevad sellele usaldusele uue tõsise proovikivi: kõige tundlikumad andmed võivad lauses kontrolli alt väljuda. Selles üksuses käsitleme süstemaatiliselt privaatsust, KVKK-d, PDR-i kutse-eetikat ja seda, kuidas need rakenduvad tehisintellekti kasutamisel. Oleme neid põhimõtteid tükikaupa rakendanud eelmistes üksustes; Siin ühendame selle tervikuna ja muudame selle püsivaks poliitikaks.

KVKK ja andmetüübid: mis on rohkem kaitstud

KVKK (isikuandmete kaitse seadus) on seadus, mis reguleerib inimeste andmete seaduslikku töötlemist. Eriti olulised on kaks mõistet. Isikuandmed on igasugune teave, mis tuvastab või tuvastab isiku: nimi, perekonnanimi, kooli number, klass, aadress, foto. Eriisikuandmed on delikaatsete andmete liik, mis nõuavad kõrgemat kaitset: tervis, vaimne seisund, diagnoos, seksuaalelu, religioon, rahvus, kriminaalne staatus. Enamik PDR-kirjeid kuulub sellesse teise, tundlikku kategooriasse; sest vaimne seisund, perekondlikud probleemid ja tugiajalugu on otseselt privaatsed andmed. See tähendab, et PDR-i andmeid ei tohiks kunagi sisestada avalikesse tööriistadesse toores vormis.

Praktikas väljendub see kolmes reeglis: (1) Andmete minimeerimine – töötage töö tegemiseks kõige väiksema andmemahuga. (2) Anonüümseks muutmine – muutke andmed üksikisikuga sidumatuks, eemaldades isikut tuvastava teabe. (3) Turvalised vahendid ja eesmärgi piir – võimalusel kasutada andmeturbega ettevõtte tööriistu ja töödelda andmeid ainult sel eesmärgil, milleks need koguti.

Tähelepanu: "Ma muutsin selle kuidagi anonüümseks" ei piisa. Isegi kui nimi tekstist välja jäetakse, võib ainulaadne olukorra kirjeldus (väikese kooli ühe õpilase väga spetsiifiline olukord) muuta isiku tuvastatavaks. Anonüümseks muutmisel üldista mitte ainult nimi, vaid ka üksikasjad, mis koos isikut tähistavad.

Anonüümseks muutmise praktika: kontrollprotseduur

Enne teksti eksportimist tööriista toimige järgmiselt. (a) Eemaldage otsesed identifikaatorid, nagu nimi, perekonnanimi, number, klassi filiaal, vanema nimi, aadress, telefon, kooli nimi. (b) Üldistage kaudseid kirjeldusi: "keskkooli õpilane" selle asemel, et "ainus nägemispuudega õpilane 12-B klassis". (c) Vajadusel hägustage kuupäev ja sündmuse üksikasjad. (d) Järellugemine: "Kas igaüks, kes seda teksti loeb, saab teada, keda mainitakse?" Kui vastus on ebamäärane, üldistage edasi. Autenditud kirje kirjutatakse ainult asutuse suletud turvalisse süsteemi; AI-tööriist on väljaspool seda süsteemi.

PDR kutse-eetika ja AI

PDR-i kutse-eetika põhineb neljal aluspõhimõttel, millest igaüks kehtib otseselt tehisintellekti kasutamisel:

• Konfidentsiaalsus (saladuse hoidmine): Õpilaste teave on kaitstud. Selle põhimõtte nõue on algandmete mittesisestamine AI-sse, anonüümseks muutmine ja turvalise tööriista valimine.
• Kasu: kõik tehtud peaks teenima õpilase heaolu. AI-d kasutatakse mugavuse huvides, mitte nii, et see kahjustaks õpilase kasu.
• Mittekuritegu: prioriteet on mitte kahjustada. Kontrollimata väljund, ebatäpne statistika, märgistus ja tehisintellekti kasutamine kriisiolukorras kujutavad endast kahju; seetõttu on kontrollimine ja kriisipiir eetiline kohustuslik.
• Autonoomia: kaitstud on õpilase õigus ise otsustada. Tehisintellekt ei tohiks õpilast sildiks taandada ega tema nimel otsuseid langetada.

Sellele lisandub vastutus: vastutus iga kasutatud väljundi eest lasub eksperdil; "AI valmistas selle" ei ole kaitse.

Eelarvamus, kultuuriline tundlikkus ja läbipaistvus

AI võib treeningandmetes kajastada sotsiaalseid mustreid. PDR-is on see õigluse küsimus: tulemused, mis stereotüüpivad õpilast nende soo, kultuuri või sotsiaalmajandusliku staatuse järgi, õõnestavad võrdseid võimalusi. Ekspert kontrollib loodud sisu kultuurilise tundlikkuse ja eelarvamuste suhtes. Samuti läbipaistvus: vajaduse korral tuleks ettevõttesiseselt selgeks teha, et materjali või mustandi ettevalmistamisel kasutati tehisintellekti; Seda ei tohiks kasutada salajase "maagiana". Konfidentsiaalsus on ülioluline suhetes õpilasega; See, mida õpilane selgitab, ei kandu sõidukisse.

Samm-sammult: tehisintellekti kasutuspoliitika kehtestamine

1. Andmete klassifitseerimine. Eraldage kogu teave, mis teil on "isiklik / privaatne / avalik".
2. Valige sõiduk. Ainus turvaline ettevõtte tööriist tundlike andmete jaoks; Töötage üldkonspekti jaoks anonüümselt.
3. Järgige anonüümseks muutmise protseduuri. Enne iga sisestust käivitage kontrollrutiin.
4. Valideerimine ja eelarvamuste kontrollimine. Uurige iga väljundit fakti ja õigluse suhtes.
5. Säilitage kriisipiir. Hoidke kriisi- ja konsultatsioonisuhted sõidukist eemal.
6. Võtke vastutus ja olge läbipaistev. Lõplik kooskõlastus kuulub eksperdile; Kasutamine on organisatsioonisiseselt avatud.

Kopeeritavad mallid

1) Anonüümseks muutmise juhtimine:

Teie roll: privaatsusauditi assistent. Loetlege allolevas tekstis kõik väited, mis võiksid isikut OTSESELT või KAUDSELT tuvastada (nimi, number, klass, kool, ainulaadne olukorra kirjeldus) ja soovitada igaühe jaoks üldisemat alternatiivi. Sisu kommenteerimine.Tekst: [kleebi tekst]

2) eelarvamuste ja kultuurilise tundlikkuse audit:

Kontrollige järgmist PDR-i materjali eelarvamuste ja kultuurilise tundlikkuse suhtes: kas see sisaldab stereotüüpe soo, kultuuri, sotsiaalmajandusliku staatuse või perekonna struktuuri kohta? Kes saab välistada? Märkige riskantsed avaldused ja soovitage kaasavaid alternatiive. Materjal: [kleebi materjal]

3) Ettevõtte tehisintellekti kasutamise poliitika projekt:

Teie roll: PDR-i kirjutamisassistent. Koostage juhendamisteenuse jaoks tehisintellekti tööriistade kasutamise lühike sisepoliitika. Pealkirjad: millistel töökohtadel seda kasutatakse, millistel töödel ei kasutata (kriis, diagnoos, konsultatsioon), andmete anonüümseks muutmise reegel, kontrollikohustus, vastutus lasub eksperdil. Lühike ja asjakohane.

Nõrk viip / Tugev viip

Nõrk:

Ahmet Yılmaz 8-C olukorra kokkuvõtteks võib öelda, et ta oli kodus vägivalla all.

See sisestab kõige tundlikumad andmed (nimi, klass, eristaatus) sõidukisse toores kujul — ränk KVKK ja eetika rikkumine; Lisaks võib see olla teavitusolukord (üksus 9).

Tugev:

Teie roll: privaatsuskontrolli assistent. Märkus. Enne tööriistale esitamist muutsin alloleva teksti anonüümseks. Kontrollige siiski uuesti: kas on jäänud mõni detail, mis muudab isiku tuvastatavaks? Tekst: "Üks keskkooli õpilane andis mõista, et tal on kodus pingeid."

kolm minikarpi

Juhtum 1 – kaudne avalikustamine. Üks ekspert oli parasjagu sisestamas tööriista teksti, millest ta oli nime välja jätnud; kuid ta mõistis, et väljend "kooli ainus õpilane, kes kasutab ratastooli" viitas otseselt sellele inimesele. Ta üldistas seda "õpilaseks". Ainult nimetegemisest ei piisanud; Tunnustav oli ka ainulaadse olukorra kirjeldus.

Juhtum 2 – kallutatuse korrigeerimine. Karjäärimaterjali auditeerinud ekspert leidis, et tehisintellekt kasutas insenerinäidetes alati mehenimesid ja hoolduskutsealadel naisenimesid. See tasakaalustas proovid ja purustas hallituse. See pealtnäha tühine parandus säilitas õpilastele saadetud sõnumi õigluse.

Juhtum 3 – poliitika kehtestamine. Juhendamisteenus koostas ühtse sisepoliitika teksti, et kõrvaldada segadus, mis tuleneb sellest, et igaüks kasutab tehisintellekti erinevalt: millistes ülesannetes seda kasutatakse, mitte kriisi ja diagnoosi korral, andmed anonüümseks muudetakse, väljundit kontrollitakse, vastutus lasub eksperdil. AI andis eelnõu; Meeskond vormistas sisu oma väärtustega. Ebakindlus andis teed selgele raamistikule.

Levinud vead

• Toorandmete sisestamine. Sõidukisse kirjutamine nime/olekuga. Lahendus: anonüümseks muutmise protseduur, turvaline tööriist.
• Lihtsalt nime eemaldamine. Kaudsete identifikaatorite unustamine. Lahendus: üldistada ka ainulaadseid detaile.
• Eelarvamuste ignoreerimine. Stereotüüpse väljundi omaksvõtmine. Lahendus: eelarvamus ja kultuuriaudit.
• Vastutuse panemine sõidukile. See tähendab "AI tootis selle". Lahendus: vastutus lasub eksperdil.
• Väärkasutus. Ühel eesmärgil kogutud andmete töötlemine teisel eesmärgil. Lahendus: järgige eesmärgi piiri.

Tabel: andmetüüp ja tehisintellekti reegel

Andmetüüp

näide

AI reegel

avalik

Üldine eriala tutvustus

vabalt saadaval

isikuandmed

Nimi, number, klass

Ei saa sisestada ilma anonüümsuseta

Erikvaliteediga andmed

Vaimne seisund, perekond, diagnoos

Seda ei saa kunagi sisestada toores vormis.

kriisiandmed

Risk, kuritarvitamine, enesetapp

Ärge kunagi sisenege sõidukisse (üksus 9)

Kokkuvõttes

PDR-is on konfidentsiaalsus elukutse vastu usalduse alus ja tehisintellekti ajastu enim testitud põhimõte. KVKK eraldab andmed isiku- ja eraandmeteks; Enamik PDR-i andmeid on tundlikud ja neid ei sisestata tööriista töötlemata kujul. Põhireeglid on andmete minimeerimine, anonüümseks muutmine (otsete ja kaudsete identifikaatoritega) ja tööriistade turvaline valik. Neli kutse-eetika põhimõtet – konfidentsiaalsus, kasulikkus, mittekuritegu, autonoomia – on tehisintellekti kasutamisel siduvad; Kallutatust kontrollitakse, vastutus jääb eksperdile ja kasutamine on organisatsiooni sees läbipaistev.

Rakenduse ülesanne

Koostage oma juhendamisteenuse jaoks lühike "AI kasutamise poliitika". Hankige edumaa malliga „Ettevõtte AI kasutuspoliitika mustand”; Seejärel kohandage seda vastavalt oma asutuse tegelikkusele. Laske (väljamõeldud) tekst läbi ka malli "anonüümsuse kontrollimine" ning püüdke ja üldistage vähemalt üks kaudne identifikaator.

kontrollnimekiri

• [ ] Olen klassifitseerinud minu käsutuses olevad andmed isiklikuks / privaatseks / avalikuks.
• [ ] Olen anonüümseks muutmisel üldistanud otsesed ja kaudsed identifikaatorid.
• [ ] Kasutasin tundlike andmete jaoks turvalist/ettevõtte tööriista.
• [ ] Kontrollisin väljundit kallutatuse ja kultuurilise tundlikkuse suhtes.
• [ ] Võtsin vastutuse ja hoidsin kasutamise läbipaistvana.