zisky:
- Schopnosť klasifikovať a anonymizovať údaje študentov v rámci KVKK a špeciálnych konceptov osobných údajov a aplikovať bezpečný výber vozidiel
- Schopnosť prispôsobiť princípy profesionálnej etiky PDR (dôvernosť, dobročinnosť, neškodivosť, autonómia) využívaniu umelej inteligencie
- Schopnosť rozpoznať zaujatosť, kultúrnu necitlivosť a halucinácie vo výstupoch umelej inteligencie a vytvoriť politiku etického používania
Dôvera je srdcom profesie PDR. Ak môže študent povedať špecialistovi svoje najintímnejšie pocity, rodinu a strach, je to len preto, že verí, že informácie budú chránené. Nástroje umelej inteligencie predstavujú nový vážny test tejto dôvery: najcitlivejšie údaje sa môžu vo vete vymknúť spod kontroly. V tejto časti systematicky diskutujeme o súkromí, KVKK, PDR profesionálnej etike a o tom, ako sa vzťahujú na používanie umelej inteligencie. Tieto princípy sme kúsok po kúsku aplikovali v predchádzajúcich jednotkách; Tu to spojíme ako celok a spravíme z toho trvalú politiku.
KVKK a dátové typy: čo je viac chránené
KVKK (Zákon o ochrane osobných údajov) je zákon, ktorý upravuje zákonné spracovanie osobných údajov. Obzvlášť dôležité sú dva pojmy. Osobný údaj je akýkoľvek údaj, ktorý identifikuje alebo identifikuje osobu: meno, priezvisko, číslo školy, trieda, adresa, fotografia. Osobitné osobné údaje sú typom citlivých údajov, ktoré vyžadujú vyššiu ochranu: zdravie, duševný stav, diagnóza, sexuálny život, náboženstvo, etnická príslušnosť, trestný stav. Väčšina záznamov PDR patrí do tejto druhej, citlivej kategórie; pretože duševný stav, rodinné problémy a história podpory sú priamo súkromné údaje. To znamená, že údaje PDR by sa nikdy nemali vkladať do verejných nástrojov v surovej forme.
V praxi sa to premieta do troch pravidiel: (1) Minimalizácia údajov – pracujte s najmenším množstvom údajov, ktoré sú potrebné na vykonanie úlohy. (2) Anonymizácia – znemožnenie prepojenia údajov s jednotlivcom odstránením informácií umožňujúcich identifikáciu osôb. (3) Bezpečné prostriedky a ohraničenie účelu – ak je to možné, používajte podnikové nástroje zabezpečené údajmi a spracúvajte údaje len na účel, na ktorý boli zhromaždené.
Pozor: Nestačí povedať „ja som to nejako anonymizoval“. Aj keď je v texte vynechané meno, jedinečný opis situácie (veľmi špecifická situácia u jedného žiaka malej školy) môže urobiť osobu identifikovateľnou. Pri anonymizácii zovšeobecňujte nielen meno, ale aj detaily, ktoré spolu označujú osobu.
Anonymizačná prax: kontrolný postup
Pred exportovaním textu do nástroja vykonajte tento postup: (a) Odstráňte priame identifikátory ako meno, priezvisko, číslo, trieda, pobočka, meno rodiča, adresa, telefón, názov školy. (b) Zovšeobecnte nepriame deskriptory: „študent strednej školy“ namiesto „jediný zrakovo postihnutý študent v 12-B“. (c) V prípade potreby rozmažte podrobnosti o dátume a udalosti. (d) Po prečítaní: „Môže ktokoľvek, kto číta tento text, zistiť, kto sa spomína?“ Ak je odpoveď nejasná, zovšeobecňujte ďalej. Overený záznam sa zapisuje iba do uzavretého zabezpečeného systému inštitúcie; Nástroj AI je mimo tohto systému.
PDR profesionálna etika a AI
Profesijná etika PDR je založená na štyroch základných princípoch, z ktorých každý sa priamo vzťahuje na používanie AI:
- Dôvernosť (udržiavanie tajomstiev): Informácie o študentoch sú chránené. Požiadavkou tohto princípu je nezadávanie nespracovaných údajov do AI, ich anonymizácia a výber bezpečného nástroja.
- Prospešnosť: Všetko urobené by malo slúžiť blahu študenta. AI sa používa pre pohodlie, nie spôsobom, ktorý by ohrozil prospech študenta.
- Neškodnosť: Prioritou je neublížiť. Neoverený výstup, nepresná štatistika, označovanie a používanie AI v kríze predstavujú riziko poškodenia; preto je verifikácia a krízová hranica etickým imperatívom.
- Autonómia: Právo študenta robiť vlastné rozhodnutie je chránené. Umelá inteligencia by nemala študenta redukovať na nálepku alebo robiť rozhodnutia v jeho mene.
K tomu sa pridáva zodpovednosť: Zodpovednosť za každý použitý výstup leží na odborníkovi; „AI vyrobila“ nie je obrana.
Zaujatosť, kultúrna citlivosť a transparentnosť
AI môže odrážať sociálne vzorce v tréningových údajoch. V PDR je to otázka spravodlivosti: výsledky, ktoré stereotypizujú študenta podľa jeho pohlavia, kultúry alebo sociálno-ekonomického postavenia, podkopávajú rovnosť príležitostí. Expert skontroluje vytvorený obsah z hľadiska kultúrnej citlivosti a zaujatosti. Tiež transparentnosť: ak je to vhodné, malo by byť interne jasné, že pri príprave materiálu alebo návrhu bola použitá umelá inteligencia; Nemalo by sa používať ako tajná „mágia“. Vo vzťahu so študentom je nevyhnutná dôvernosť; To, čo študent vysvetľuje, sa neprenáša do vozidla.
Krok za krokom: vytvorenie politiky používania AI
- Klasifikujte údaje. Všetky informácie, ktoré máte, oddeľte ako „osobné/súkromné/verejné“.
- Vyberte vozidlo. Jediný bezpečný podnikový nástroj pre citlivé údaje; Pre všeobecný prehľad pracujte anonymne.
- Postupujte podľa postupu anonymizácie. Spustite rutinu kontroly pred každým vstupom.
- Validácia a kontrola skreslenia. Preskúmajte každý výstup z hľadiska skutočnosti a spravodlivosti.
- Dodržať krízový limit. Udržujte krízový a poradenský vzťah mimo vozidla.
- Prevezmite zodpovednosť a buďte transparentní. Konečné schválenie patrí odborníkovi; Použitie je otvorené v rámci organizácie.
Kopírovateľné šablóny
1) Kontrola anonymizácie:
Vaša úloha: asistent auditu súkromia. V nižšie uvedenom texte uveďte každý výrok, ktorý by mohol PRIAMO alebo NEPRIAME identifikovať osobu (meno, číslo, trieda, škola, jedinečný popis situácie) a navrhnite ku každému všeobecnejšiu alternatívu. Obsah komentára.Text: [prilepiť text]
2) Audit zaujatosti a kultúrnej citlivosti:
Skontrolujte predpojatosť a kultúrnu citlivosť v nasledujúcom materiáli PDR: Obsahuje stereotypy o pohlaví, kultúre, sociálno-ekonomickom postavení alebo štruktúre rodiny? Kto môže vylúčiť? Označte rizikové vyhlásenia a navrhnite inkluzívne alternatívy. Materiál: [prilepiť materiál]
3) Návrh podnikovej politiky používania AI:
Vaša úloha: asistent písania PDR. Pre poradenskú službu navrhnite krátku internú politiku o používaní nástrojov umelej inteligencie. Nadpisy: v ktorých zamestnaniach sa používa, v akých zamestnaniach sa nepoužíva (kríza, diagnostika, konzultácia), pravidlo anonymizácie údajov, povinnosť overenia, zodpovednosť spočíva na odborníkovi. Krátke a použiteľné.
Slabá výzva / Silná výzva
slabé:
Aby som zhrnul situáciu Ahmeta Yılmaza 8-C, bol doma vystavený násiliu.
Najcitlivejšie údaje (meno, trieda, osobitný štatút) zadáva do vozidla v surovej podobe — vážne porušenie KVKK a etiky; Okrem toho môže ísť o oznamovaciu situáciu (jednotka 9).
Silný:
Vaša úloha: asistent kontroly súkromia. Poznámka: Pred odoslaním do nástroja som text nižšie anonymizoval. Znova však skontrolujte: zostal nejaký detail, vďaka ktorému je možné osobu identifikovať? Text: "Študent strednej školy naznačil, že doma zažíva napätie."
tri mini prípady
Prípad 1 – Nepriame zverejnenie. Expert sa chystal zadať do nástroja text, z ktorého vynechal názov; ale uvedomil si, že fráza „jediný študent školy, ktorý používa invalidný vozík“ priamo odkazuje na túto osobu. Zovšeobecnil to na „študenta“. Len tvorba mien nestačila; Identifikačný bol aj popis jedinečnej situácie.
Prípad 2 – Korekcia zaujatosti. Odborník, ktorý auditoval kariérny materiál, zistil, že AI vždy používala mužské mená v inžinierskych príkladoch a ženské mená v opatrovateľských profesiách. Vyvážilo vzorky a rozbilo formu. Táto zdanlivo malá oprava zachovala spravodlivosť správy zaslanej študentom.
Prípad 3 – Stanovenie politiky. Poradenská služba vytvorila spoločný interný text politiky, aby sa odstránil zmätok vyplývajúci zo skutočnosti, že každý používa AI inak: v akých úlohách sa používa, nie v kríze a diagnostike, údaje sú anonymizované, výstupy sa overujú, zodpovednosť nesie odborník. AI dala návrh; Tým finalizoval obsah s vlastnými hodnotami. Neistota vystriedala jasný rámec.
Časté chyby
- Zadávanie nespracovaných údajov. Zápis do vozidla s názvom/stavom. Riešenie: postup anonymizácie, bezpečný nástroj.
- Stačí odstrániť meno. Zabúdanie na nepriame identifikátory. Riešenie: zovšeobecnite aj jedinečné detaily.
- Ignorovanie zaujatosti. Prijatie stereotypného výstupu. Riešenie: audit zaujatosti a kultúry.
- Prenesenie zodpovednosti na vozidlo. Znamená to „AI vyrobila“. Riešenie: zodpovednosť spočíva na odborníkovi.
- Zneužitie. Spracovanie údajov zhromaždených na jeden účel na iný účel. Riešenie: rešpektujte limit účelu.
Tabuľka: Typ údajov a pravidlo AI
Typ údajov
príklad
pravidlo AI
verejnosti
Všeobecné predstavenie profesie
voľne dostupné
osobné údaje
Meno, číslo, trieda
Nie je možné zadať bez anonymizácie
Údaje špeciálnej kvality
Psychický stav, rodina, diagnóza
Nikdy ho nemožno zadať v jeho surovej forme.
krízové údaje
Riziko, zneužívanie, samovražda
Nikdy nevstupujte do vozidla (jednotka 9)
V súhrne
V PDR je dôvernosť základom dôvery v profesiu a najtestovanejším princípom v ére AI. KVKK rozdeľuje údaje na osobné a súkromné údaje; Väčšina údajov PDR je citlivá a nevkladá sa do nástroja v surovej forme. Minimalizácia dát, anonymizácia (s priamymi a nepriamymi identifikátormi) a bezpečný výber nástrojov sú základné pravidlá. Štyri princípy profesionálnej etiky – dôvernosť, prospešnosť, neškodnosť, autonómia – sú záväzné pre používanie AI; Zaujatosť je kontrolovaná, zodpovednosť zostáva na odborníkovi a používanie je v rámci organizácie transparentné.
Aplikačná úloha
Navrhnite stručnú „zásadu používania AI“ pre vašu vlastnú poradenskú službu. Získajte náskok so šablónou „Návrh pravidiel používania podnikovej AI“; Potom ho upravte podľa reality vašej vlastnej inštitúcie. Taktiež prejdite (fiktívny) text cez šablónu „kontrola anonymizácie“ a zachyťte a zovšeobecnite aspoň jeden nepriamy identifikátor.
kontrolný zoznam
- [ ] Údaje, ktoré mám, som klasifikoval ako osobné / súkromné / verejné.
- [ ] Pri anonymizácii som zovšeobecnil priame a nepriame identifikátory.
- [ ] Na citlivé údaje som použil bezpečný/podnikový nástroj.
- [ ] Skontroloval som zaujatosť a kultúrnu citlivosť výstupu.
- [ ] Prijal som zodpovednosť a zachoval som transparentnosť používania.