Câștiguri:
- Abilitatea de a clasifica și anonimiza datele studenților în cadrul KVKK și a conceptelor speciale de date cu caracter personal și de a aplica selecția sigură a vehiculelor
- Capacitatea de a adapta principiile de etică profesională PDR (confidențialitate, binefacere, non-malefință, autonomie) la utilizarea inteligenței artificiale
- Abilitatea de a recunoaște părtinirea, insensibilitatea culturală și halucinațiile în rezultatele inteligenței artificiale și de a crea o politică de utilizare etică
Încrederea este în centrul profesiei de PDR. Dacă un student își poate spune cele mai intime sentimente, familia și temerile sale unui specialist, este doar pentru că el/ea crede că informațiile vor fi protejate. Instrumentele de inteligență artificială reprezintă un nou test serios pentru această încredere: cele mai sensibile date pot scăpa de sub control într-o propoziție. În această unitate, discutăm sistematic despre confidențialitate, KVKK, etica profesională PDR și modul în care acestea se aplică la utilizarea inteligenței artificiale. Am aplicat aceste principii bucată cu piesă în unitățile anterioare; Aici îl vom combina în ansamblu și îl vom transforma într-o politică permanentă.
KVKK și tipurile de date: ce este mai protejat
KVKK (Personal Data Protection Law) este legea care reglementează prelucrarea legală a datelor persoanelor. Două concepte sunt deosebit de importante. Datele personale reprezintă orice informație care identifică sau identifică o persoană: nume, prenume, număr de școală, clasă, adresă, fotografie. Datele personale speciale sunt un tip de date sensibile care necesită o protecție mai mare: sănătate, stare psihică, diagnostic, viață sexuală, religie, etnie, statut penal. Majoritatea înregistrărilor PDR se încadrează în această a doua categorie sensibilă; deoarece starea mentală, problemele de familie și istoricul de sprijin sunt date direct private. Aceasta înseamnă că datele PDR nu trebuie niciodată introduse în forma lor brută în instrumente publice.
În practică, acest lucru se traduce în trei reguli: (1) Minimizarea datelor - lucrați cu cea mai mică cantitate de date necesară pentru a face o lucrare. (2) Anonimizare - faceți ca datele să nu fie conectate la individ prin eliminarea informațiilor de identificare personală. (3) Mijloace sigure și limita scopului — utilizați instrumente de întreprindere securizate cu date acolo unde este posibil și procesați datele numai în scopul pentru care au fost colectate.
Atenție: Nu este suficient să spui „L-am anonimizat cumva”. Chiar dacă un nume este omis dintr-un text, o descriere unică a situației (o situație foarte specifică la un singur elev la o școală mică) poate face persoana identificabilă. În anonimizare, generalizează nu numai numele, ci și detaliile care împreună indică persoana.
Practica anonimizării: o procedură de control
Înainte de a exporta un text în instrument, urmați această procedură: (a) Eliminați identificatorii direcți, cum ar fi numele, prenumele, numărul, clasa-filiala, numele părintelui, adresa, telefonul, numele școlii. (b) Generalizați descriptori indirecti: „un elev de gimnaziu” în loc de „singurul elev cu deficiențe de vedere din 12-B”. (c) estompați data și detaliile evenimentului, dacă este necesar. (d) Post-lectura: „Poate cineva care citește acest text să afle cine este menționat?” Dacă răspunsul este vag, generalizați mai departe. Înregistrarea autentificată este scrisă numai în sistemul închis, securizat al instituției; Instrumentul AI este în afara acestui sistem.
Etica profesională PDR și AI
Etica profesională PDR se bazează pe patru principii fundamentale, fiecare dintre acestea fiind direct aplicabil utilizării AI:
- Confidențialitate (păstrarea secretelor): informațiile elevilor sunt protejate. Nu introducerea datelor brute în AI, anonimizarea acestora și alegerea unui instrument sigur este o cerință a acestui principiu.
- Benefință: Tot ce se face ar trebui să servească bunăstarea elevului. AI este folosit pentru comoditate, nu într-un mod care ar compromite beneficiile elevului.
- Nonmalefință: Prioritatea este să nu faci rău. Rezultatele neverificate, statisticile inexacte, etichetarea și utilizarea IA în criză reprezintă riscuri de vătămare; prin urmare verificarea și limita de criză este un imperativ etic.
- Autonomia: Dreptul elevului de a lua propria decizie este protejat. AI nu ar trebui să reducă elevul la o etichetă sau să ia decizii în numele său.
Responsabilitatea se adaugă la aceasta: responsabilitatea pentru fiecare rezultat utilizat revine expertului; „AI l-a produs” nu este o apărare.
Prejudecăți, sensibilitate culturală și transparență
AI poate reflecta modele sociale în datele de antrenament. În PDR, aceasta este o problemă de corectitudine: rezultatele care stereotipează un student în funcție de sexul, cultura sau statutul socio-economic subminează egalitatea de șanse. Expertul verifică conținutul produs pentru sensibilitatea culturală și părtinire. De asemenea, transparență: acolo unde este cazul, ar trebui clarificat pe plan intern că IA a fost utilizată la pregătirea unui material sau a unui proiect; Nu trebuie folosit ca o „magie” secretă. Confidențialitatea este esențială în relația cu elevul; Ceea ce explică studentul nu se transferă la un vehicul.
Pas cu pas: stabilirea unei politici de utilizare a AI
- Clasificați datele. Separați toate informațiile pe care le aveți ca „personale/private/publice”.
- Selectați vehiculul. Singurul instrument securizat de companie pentru date sensibile; Lucrați anonim pentru schița generală.
- Urmați procedura de anonimizare. Rulați rutina de verificare înainte de fiecare intrare.
- Validarea și verificarea părtinirii. Examinați fiecare rezultat pentru fapte și corectitudine.
- Menține limita de criză. Păstrați relația de criză și consultanță în afara vehiculului.
- Asumă-ți responsabilitatea și fii transparent. Aprobarea finală aparține expertului; Utilizarea este deschisă în cadrul organizației.
Șabloane copiabile
1) Controlul anonimizării:
Rolul tău: asistent de audit al confidențialității. Enumerați fiecare afirmație din textul de mai jos care ar putea identifica DIRECT sau INDIRECT persoana (nume, număr, clasă, școală, descriere unică a situației) și sugerați o alternativă mai generală pentru fiecare. Comentând conținut.Text: [inserați text]
2) Auditul de părtinire și sensibilitate culturală:
Verificați următorul material PDR pentru părtinire și sensibilitate culturală: Conține stereotipuri despre gen, cultură, statut socioeconomic sau structura familiei? Cine poate exclude? Semnalați declarațiile riscante și sugerați alternative incluzive. Material: [material de lipire]
3) Proiect de politică corporativă de utilizare a AI:
Rolul dvs.: asistent de scris PDR. Pentru serviciul de orientare, redactați o scurtă politică internă privind utilizarea instrumentelor de inteligență artificială. Rubrici: în ce locuri de muncă este folosită, în ce locuri de muncă nu este utilizată (criză, diagnostic, consultație), regula de anonimizare a datelor, obligația de verificare, responsabilitatea revine expertului. Scurt și aplicabil.
Prompt slab / Prompt puternic
slab:
Pentru a rezuma situația lui Ahmet Yılmaz 8-C, el a fost supus violenței la domiciliu.
Introduce cele mai sensibile date (nume, clasă, statut special) în vehicul în forma sa brută - o încălcare gravă a KVKK și a eticii; Mai mult, aceasta poate fi o situație de notificare (unitatea 9).
Puternic:
Rolul tău: asistent pentru controlul confidențialității. Notă: am anonimizat textul de mai jos înainte de a-l trimite instrumentului. Cu toate acestea, verificați din nou: a mai rămas vreun detaliu care face persoana identificabilă? Text: „Un elev de gimnaziu a dat de înțeles că se confruntă cu tensiune acasă”.
trei mini cutii
Cazul 1 – Dezvăluirea indirectă. Un expert era pe cale să introducă un text în instrumentul din care omisese numele; dar și-a dat seama că sintagma „singurul elev al școlii care folosește un scaun cu rotile” se referea direct la acea persoană. El a generalizat acest lucru la „un student”. Numai a face nume nu a fost suficient; Descrierea situației unice a fost și ea identificatoare.
Cazul 2 — Corectarea părtinirii. Un expert care a auditat un material de carieră a descoperit că AI a folosit întotdeauna nume masculine în exemple de inginerie și nume feminine în profesiile de îngrijire. A echilibrat probele și a spart matrița. Această corecție aparent minoră a păstrat corectitudinea mesajului trimis studenților.
Cazul 3 – Stabilirea politicii. Un serviciu de îndrumare a creat un text comun de politică internă pentru a elimina confuzia care decurge din faptul că fiecare folosește AI în mod diferit: în ce sarcini este utilizată, nu în criză și diagnostic, datele sunt anonimizate, rezultatele sunt verificate, responsabilitatea revine expertului. AI a dat draft; Echipa a finalizat conținutul cu propriile valori. Incertitudinea a făcut loc unui cadru clar.
Greșeli comune
- Introducerea datelor brute. Scriere la vehicul cu nume/statut. Soluție: procedură de anonimizare, instrument securizat.
- Doar elimină numele. Uitând identificatorii indirecti. Soluție: generalizați și detaliile unice.
- Ignorând părtinirea. Adoptarea rezultatelor stereotipe. Soluție: părtinire și audit cultural.
- Punerea responsabilitatii asupra vehiculului. Înseamnă „AI a produs-o”. Soluție: responsabilitatea revine expertului.
- Folosire greșită. Prelucrarea datelor colectate într-un scop în alt scop. Soluție: respectați limita scopului.
Tabel: tipul de date și regula AI
Tip de date
exemplu
regula AI
publice
Introducere generală a profesiei
disponibil gratuit
datele personale
Nume, număr, clasă
Nu poate fi introdus fără anonimizare
Date de calitate deosebită
Stare psihică, familie, diagnostic
Nu poate fi introdus niciodată în forma sa brută.
date de criză
Risc, abuz, sinucidere
Nu intrați niciodată în vehicul (unitatea 9)
Pe scurt
În PDR, confidențialitatea este fundamentul încrederii în profesie și cel mai testat principiu în era AI. KVKK separă datele în date personale și private; Majoritatea datelor PDR sunt sensibile și nu sunt introduse în instrument în forma sa brută. Minimizarea datelor, anonimizarea (cu identificatori directi și indirecti) și selectarea în siguranță a instrumentelor sunt regulile de bază. Cele patru principii ale eticii profesionale – confidențialitate, binefacere, non-malefință, autonomie – sunt obligatorii pentru utilizarea IA; Prejudecata este controlată, responsabilitatea rămâne a expertului, iar utilizarea este transparentă în cadrul organizației.
Sarcina de aplicare
Elaborați o scurtă „Politică de utilizare a AI” pentru propriul serviciu de îndrumare. Primiți un avans cu șablonul „Schior de politică de utilizare a IA pentru întreprinderi”; Apoi ajustați-l în funcție de realitatea propriei instituții. De asemenea, treceți un text (fictiv) prin șablonul „verificare anonimizare” și capturați și generalizați cel puțin un identificator indirect.
lista de verificare
- [ ] Am clasificat datele pe care le am drept personale / private / publice.
- [ ] Am identificatori generalizați direcți și indirecti în anonimizare.
- [ ] Am folosit instrument securizat/întreprindere pentru date sensibile.
- [ ] Am verificat rezultatul pentru părtinire și sensibilitate culturală.
- [ ] Am acceptat responsabilitatea și am păstrat utilizarea transparentă.