Voitot:
- Kyky luokitella ja anonymisoida opiskelijatietoja KVKK:n ja erityisten henkilötietokäsitteiden puitteissa sekä soveltaa turvallista ajoneuvovalintaa
- Kyky mukauttaa PDR:n ammattieettiset periaatteet (luottamuksellisuus, hyväntekeväisyys, ei-haitallisuus, autonomia) tekoälyn käyttöön
- Kyky tunnistaa harhaa, kulttuurista epäherkkyyttä ja hallusinaatioita tekoälytuotannossa ja luoda eettinen käyttöpolitiikka
Luottamus on PDR-ammatin ytimessä. Jos opiskelija voi kertoa intiimimmät tunteensa, perheensä ja pelkonsa asiantuntijalle, se johtuu vain siitä, että hän uskoo tiedon olevan suojassa. Tekoälytyökalut asettavat vakavan uuden kokeen tälle luottamukselle: arkaluontoisimmat tiedot voivat mennä käsistä lauseessa. Tässä osiossa keskustelemme systemaattisesti yksityisyydestä, KVKK:n, PDR:n ammattietiikasta ja niiden soveltamisesta tekoälyn käyttöön. Olemme soveltaneet näitä periaatteita pala palalta aiemmissa yksiköissä; Tässä yhdistämme sen kokonaisuudeksi ja teemme siitä pysyvän politiikan.
KVKK ja tietotyypit: mikä on paremmin suojattua
KVKK (Personal Data Protection Law) on laki, joka säätelee ihmisten tietojen laillista käsittelyä. Kaksi käsitettä ovat erityisen tärkeitä. Henkilötiedot ovat mitä tahansa tietoja, jotka tunnistavat tai tunnistavat henkilön: etu-, sukunimi, koulunumero, luokka, osoite, valokuva. Erityiset henkilötiedot ovat arkaluontoisia tietoja, jotka vaativat korkeampaa suojelua: terveys, henkinen tila, diagnoosi, seksuaalielämä, uskonto, etninen tausta, rikollinen asema. Suurin osa PDR-tietueista kuuluu tähän toiseen, arkaluonteiseen luokkaan; koska henkinen tila, perheongelmat ja tukihistoria ovat suoraan yksityisiä tietoja. Tämä tarkoittaa, että PDR-tietoja ei saa koskaan syöttää raakamuodossaan julkisiin työkaluihin.
Käytännössä tämä tarkoittaa kolmea sääntöä: (1) Tietojen minimointi – työskennellä mahdollisimman pienellä datamäärällä, joka tarvitaan työn suorittamiseen. (2) Anonymisointi – tehdä tiedoista liittämättömiä henkilöön poistamalla henkilökohtaiset tunnistetiedot. (3) Suojatut keinot ja käyttötarkoituksen raja – käytä tietoturvallisia yritystyökaluja mahdollisuuksien mukaan ja käsittele tietoja vain siihen tarkoitukseen, jota varten ne on kerätty.
Huomio: Ei riitä, että sanot "anonymisoin sen jotenkin". Vaikka nimi jätettäisiin pois tekstistä, yksilöllinen tilanteen kuvaus (pienen koulun yksittäisen oppilaan erityinen tilanne) voi tehdä henkilön tunnistettavaksi. Anonymisoinnissa yleistä paitsi nimen myös yksityiskohdat, jotka yhdessä kuvaavat henkilöä.
Anonymisointikäytäntö: valvontamenettely
Ennen kuin viet tekstin työkaluun, toimi seuraavasti: (a) Poista suorat tunnisteet, kuten nimi, sukunimi, numero, luokka, vanhemman nimi, osoite, puhelin ja koulun nimi. (b) Yleistä epäsuorat kuvaajat: "ylemmän asteen oppilas" "12-B:n ainoan näkövammaisen opiskelijan" sijaan. (c) Sumenna päivämäärä ja tapahtuman tiedot tarvittaessa. (d) Lukemisen jälkeinen: "Saako kukaan tämän tekstin lukemisesta tietää, kuka on mainittu?" Jos vastaus on epämääräinen, yleistä lisää. Todennettu tietue kirjoitetaan vain oppilaitoksen suljettuun, suojattuun järjestelmään; AI-työkalu on tämän järjestelmän ulkopuolella.
PDR:n ammattietiikka ja tekoäly
PDR:n ammattietiikka perustuu neljään perusperiaatteeseen, joista jokainen koskee suoraan tekoälyn käyttöä:
- Luottamuksellisuus (salaisuuksien pitäminen): Opiskelijatiedot on suojattu. Raakadatan syöttämättä jättäminen tekoälyyn, sen anonymisointi ja turvallisen työkalun valinta ovat tämän periaatteen vaatimus.
- Hyöty: Kaiken tehdyn tulee palvella opiskelijan hyvinvointia. Tekoälyä käytetään mukavuuden vuoksi, ei tavalla, joka vaarantaisi opiskelijan edun.
- Ei pahantahtoisuus: Ensisijainen on olla vahingoittamatta. Vahvistamaton tulos, virheelliset tilastot, merkinnät ja tekoälyn käyttö kriisitilanteissa ovat haitallisia riskejä; siksi todentaminen ja kriisiraja on eettisesti välttämätöntä.
- Autonomia: Opiskelijan oikeus tehdä omat päätöksensä on suojattu. Tekoälyn ei pitäisi supistaa opiskelijaa leimaksi tai tehdä päätöksiä hänen puolestaan.
Tähän lisätään vastuullisuus: Vastuu jokaisesta käytetystä tuotosta on asiantuntijalla; "Tekoäly tuotti sen" ei ole puolustus.
Bias, kulttuurinen herkkyys ja läpinäkyvyys
Tekoäly voi heijastaa sosiaalisia malleja koulutustiedoissa. PDR:ssä tämä on oikeudenmukaisuuskysymys: tulokset, jotka stereotypioivat opiskelijaa hänen sukupuolensa, kulttuurinsa tai sosioekonomisen asemansa perusteella, heikentävät yhtäläisiä mahdollisuuksia. Asiantuntija tarkistaa tuotetun sisällön kulttuurisen herkkyyden ja puolueellisuuden varalta. Myös läpinäkyvyys: tarvittaessa sisäisesti olisi tehtävä selväksi, että tekoälyä käytettiin materiaalin tai luonnoksen valmistelussa; Sitä ei pidä käyttää salaisena "taikaana". Luottamuksellisuus on olennaista suhteessa opiskelijaan; Se, mitä opiskelija selittää, ei siirry ajoneuvoon.
Askel askeleelta: tekoälyn käyttöpolitiikan luominen
- Luokittele tiedot. Erottele kaikki tiedot, jotka sinulla on "henkilökohtaisina / yksityisinä / julkisina".
- Valitse ajoneuvo. Ainoa turvallinen yritystyökalu arkaluonteisille tiedoille; Työskentele anonyymisti yleiskatsaukselle.
- Noudata anonymisointimenettelyä. Suorita tarkistusrutiini ennen jokaista syöttöä.
- Validointi ja bias-tarkistus. Tutki jokaista tulosta tosiasian ja oikeudenmukaisuuden varalta.
- Säilytä kriisiraja. Pidä kriisi- ja neuvottelusuhde poissa ajoneuvosta.
- Ota vastuu ja ole avoin. Lopullinen hyväksyntä kuuluu asiantuntijalle; Käyttö on avointa organisaation sisällä.
Kopioitavat mallit
1) Anonymisoinnin hallinta:
Roolisi: tietosuoja-assistentti. Listaa alla olevaan tekstiin jokainen lause, joka voisi SUORRAAN tai EPÄSUORAisesti tunnistaa henkilön (nimi, numero, luokka, koulu, ainutlaatuinen tilanteen kuvaus) ja ehdota jokaiselle yleisempää vaihtoehtoa. Kommentoi sisältöä.Teksti: [liitä teksti]
2) Harha- ja kulttuurisen herkkyyden tarkastus:
Tarkista seuraava PDR-aineisto puolueellisuudesta ja kulttuurisesta herkkyydestä: Sisältääkö se stereotypioita sukupuolesta, kulttuurista, sosioekonomisesta asemasta tai perherakenteesta? Kuka voi sulkea pois? Merkitse riskialttiit lausunnot ja ehdota kattavia vaihtoehtoja. Materiaali: [liitä materiaali]
3) Luonnos yrityksen tekoälyn käyttökäytännöksi:
Roolisi: PDR-kirjoitusassistentti. Laadi ohjauspalvelulle lyhyt sisäinen toimintaohje tekoälytyökalujen käytöstä. Otsikot: missä töissä sitä käytetään, missä töissä sitä ei käytetä (kriisi, diagnoosi, konsultaatio), tietojen anonymisointisääntö, todentamisvelvollisuus, vastuu on asiantuntijalla. Lyhyt ja soveltuva.
Heikko kehote / Vahva kehote
Heikko:
Yhteenvetona Ahmet Yılmaz 8-C:n tilanteesta voidaan todeta, että hän joutui väkivallan kohteeksi kotonaan.
Se syöttää arkaluontoisimmat tiedot (nimi, luokka, erityisasema) ajoneuvoon raakamuodossaan - vakavasti KVKK:n ja eettisten periaatteiden vastainen; Lisäksi tämä voi olla ilmoitustilanne (yksikkö 9).
Vahva:
Sinun roolisi: tietosuoja-assistentti. Huomautus: anonymisoin alla olevan tekstin ennen kuin lähetin sen työkaluun. Tarkista kuitenkin uudelleen: onko jäljellä yksityiskohtia, joiden perusteella henkilö voidaan tunnistaa? Teksti: "Yläasteen oppilas vihjasi, että hän koki jännitystä kotona."
kolme minilaukkua
Tapaus 1 – Epäsuora paljastaminen. Asiantuntija oli syöttämässä työkaluun tekstiä, josta hän oli jättänyt nimen pois; mutta hän tajusi, että ilmaus "koulun ainoa pyörätuolia käyttävä oppilas" viittaa suoraan kyseiseen henkilöön. Hän yleisti tämän "opiskelijaksi". Pelkästään nimenteko ei riittänyt; Ainutlaatuisen tilanteen kuvaus oli myös tunnistava.
Tapaus 2 – Bias-korjaus. Uramateriaalia auditoinut asiantuntija havaitsi, että tekoäly käytti aina miesten nimiä teknisissä esimerkeissä ja naisten nimiä hoitoammateissa. Se tasapainotti näytteet ja rikkoi muotin. Tämä näennäisesti vähäinen korjaus säilytti opiskelijoille lähetetyn viestin oikeudenmukaisuuden.
Tapaus 3 – Politiikan laatiminen. Ohjauspalvelu loi yhteisen sisäpolitiikan tekstin poistamaan sekaannusta, joka syntyy siitä, että jokainen käyttää tekoälyä eri tavalla: missä tehtävissä sitä käytetään, ei kriisissä ja diagnoosissa, tiedot anonymisoidaan, tuotos varmistetaan, vastuu on asiantuntijalla. AI antoi luonnoksen; Tiimi viimeisteli sisällön omilla arvoillaan. Epävarmuus väistyi selkeälle viitekehykselle.
Yleisiä virheitä
- Raakatietojen syöttäminen. Kirjoitetaan ajoneuvoon nimellä/tilalla. Ratkaisu: anonymisointimenettely, turvallinen työkalu.
- Nimen poistaminen vain. Epäsuorien tunnisteiden unohtaminen. Ratkaisu: yleistä myös ainutlaatuiset yksityiskohdat.
- Erottelun huomioiminen. Stereotyyppisten tulosten omaksuminen. Ratkaisu: harha- ja kulttuuritarkastus.
- Vastuun siirtäminen ajoneuvolle. Se tarkoittaa "AI tuotti sen". Ratkaisu: Vastuu on asiantuntijalla.
- Väärinkäyttö. Yhtä tarkoitusta varten kerättyjen tietojen käsittely toista tarkoitusta varten. Ratkaisu: noudata käyttötarkoituksen rajaa.
Taulukko: Tietotyyppi ja tekoälysääntö
Tietotyyppi
esimerkki
AI sääntö
julkinen
Yleinen ammatin esittely
vapaasti saatavilla
henkilötietoja
Nimi, numero, luokka
Ei voida syöttää ilman anonymisointia
Erityislaatuiset tiedot
Psyykkinen tila, perhe, diagnoosi
Sitä ei voi koskaan syöttää raakamuodossaan.
kriisitiedot
Riski, pahoinpitely, itsemurha
Älä koskaan astu ajoneuvoon (yksikkö 9)
Yhteenvetona
PDR:ssä luottamuksellisuus on ammattiin kohdistuvan luottamuksen perusta ja tekoälyn aikakauden testatuin periaate. KVKK jakaa tiedot henkilötietoihin ja yksityisiin tietoihin; Useimmat PDR-tiedot ovat arkaluonteisia, eikä niitä syötetä työkaluun raakamuodossaan. Tietojen minimointi, anonymisointi (suorilla ja epäsuorilla tunnisteilla) ja turvallinen työkalun valinta ovat perussääntöjä. Ammatillisen etiikan neljä periaatetta – luottamuksellisuus, hyväntekeväisyys, pahansuopaisuus, autonomia – sitovat tekoälyn käyttöä. Bias on hallinnassa, vastuu jää asiantuntijalle ja käyttö on läpinäkyvää organisaatiossa.
Sovellustehtävä
Laadi lyhyt "AI-käyttökäytäntö" omaa opastuspalveluasi varten. Hanki etumatka "Enterprise AI useage Policy luonnos" -mallilla; Säädä se sitten oman laitoksesi todellisuuden mukaan. Ohjaa myös (fiktiivinen) teksti "anonymisoinnin tarkistus" -mallin läpi ja tallenna ja yleistä vähintään yksi epäsuora tunniste.
tarkistuslista
- [ ] Olen luokitellut tietoni henkilökohtaisiksi / yksityisiksi / julkisiksi.
- [ ] Olen yleistänyt suorat ja epäsuorat tunnisteet anonymisoinnissa.
- [ ] Käytin arkaluonteisille tiedoille suojattua/yritystyökalua.
- [ ] Tarkastin tulosteen harhaa ja kulttuurista herkkyyttä.
- [ ] Otin vastuun ja pidin käytön läpinäkyvänä.