Guadagni:
- Capacità di classificare e rendere anonimi i dati degli studenti nel quadro della KVKK e di concetti speciali di dati personali e applicare la selezione sicura dei veicoli
- Capacità di adattare i principi di etica professionale del PDR (riservatezza, beneficenza, non maleficenza, autonomia) all'utilizzo dell'intelligenza artificiale
- Capacità di riconoscere pregiudizi, insensibilità culturale e allucinazioni nei risultati dell'intelligenza artificiale e creare una politica di utilizzo etico
La fiducia è al centro della professione PDR. Se uno studente può raccontare ad uno specialista i suoi sentimenti più intimi, la sua famiglia e le sue paure, è solo perché crede che le informazioni saranno protette. Gli strumenti di intelligenza artificiale pongono una nuova seria prova a questa fiducia: i dati più sensibili possono andare fuori controllo in una frase. In questa unità discutiamo sistematicamente la privacy, la KVKK, l’etica professionale PDR e come si applicano all’uso dell’intelligenza artificiale. Abbiamo applicato questi principi pezzo per pezzo nelle unità precedenti; Qui lo combineremo nel suo insieme e lo trasformeremo in una politica permanente.
KVKK e tipi di dati: cosa è più protetto
KVKK (Legge sulla protezione dei dati personali) è la legge che regola il trattamento lecito dei dati delle persone. Due concetti sono particolarmente importanti. Dato personale è qualsiasi informazione che identifica o identifica una persona: nome, cognome, numero di scuola, classe, indirizzo, fotografia. I dati personali particolari sono una tipologia di dati sensibili che necessitano di maggiore protezione: salute, stato mentale, diagnosi, vita sessuale, religione, etnia, stato penale. La maggior parte dei record PDR rientra in questa seconda categoria sensibile; perché lo stato mentale, i problemi familiari e la storia di sostegno sono dati direttamente privati. Ciò significa che i dati PDR non dovrebbero mai essere inseriti nella loro forma grezza negli strumenti pubblici.
In pratica, ciò si traduce in tre regole: (1) Minimizzazione dei dati: lavorare con la minima quantità di dati necessari per svolgere un lavoro. (2) Anonimizzazione: rende i dati non collegabili all'individuo rimuovendo le informazioni di identificazione personale. (3) Mezzi sicuri e limiti delle finalità: utilizzare, ove possibile, strumenti aziendali protetti dai dati ed elaborare i dati solo per lo scopo per il quale sono stati raccolti.
Attenzione: non basta dire "l'ho reso anonimo in qualche modo". Anche se un nome viene omesso da un testo, una descrizione univoca della situazione (una situazione molto specifica in un singolo studente in una piccola scuola) può rendere identificabile la persona. Nell'anonimizzazione, generalizza non solo il nome ma anche i dettagli che insieme indicano la persona.
Pratica di anonimizzazione: una procedura di controllo
Prima di esportare un testo nello strumento, seguire questa procedura: (a) Rimuovere gli identificatori diretti come nome, cognome, numero, ramo di classe, nome del genitore, indirizzo, telefono, nome della scuola. (b) Generalizzare i descrittori indiretti: “uno studente della scuola media” invece di “l’unico studente non vedente in 12-B”. (c) Sfocare la data e i dettagli dell'evento, se necessario. (d) Post-lettura: "Chiunque leggendo questo testo può scoprire chi viene menzionato?" Se la risposta è vaga, generalizza ulteriormente. Il documento autenticato viene scritto solo nel sistema chiuso e sicuro dell'istituzione; Lo strumento AI è al di fuori di questo sistema.
PDR Etica professionale e AI
L’etica professionale del PDR si fonda su quattro principi fondamentali, ciascuno dei quali si applica direttamente all’utilizzo dell’AI:
- Riservatezza (mantenimento dei segreti): le informazioni sugli studenti sono protette. Non inserire dati grezzi nell’intelligenza artificiale, anonimizzarli e scegliere uno strumento sicuro è un requisito di questo principio.
- Beneficenza: tutto ciò che viene fatto dovrebbe servire al benessere dello studente. L'intelligenza artificiale viene utilizzata per comodità, non in un modo che possa compromettere il vantaggio dello studente.
- Non maleficenza: la priorità è non nuocere. Risultati non verificati, statistiche imprecise, etichettatura e uso dell’intelligenza artificiale in situazioni di crisi rappresentano rischi di danno; quindi la verifica e il confine della crisi è un imperativo etico.
- Autonomia: è tutelato il diritto dello studente a prendere le proprie decisioni. L’intelligenza artificiale non dovrebbe ridurre lo studente a un’etichetta né prendere decisioni per suo conto.
A ciò si aggiunge la responsabilità: la responsabilità di ogni output utilizzato spetta all'esperto; "L'IA l'ha prodotto" non è una difesa.
Pregiudizi, sensibilità culturale e trasparenza
L’intelligenza artificiale può riflettere modelli sociali nei dati di addestramento. Nel PDR, questa è una questione di equità: i risultati che stereotipano uno studente in base al suo genere, alla sua cultura o al suo status socioeconomico minano l’uguaglianza di opportunità. L'esperto controlla il contenuto prodotto per sensibilità e pregiudizi culturali. Anche trasparenza: ove opportuno, dovrebbe essere chiarito internamente che l’IA è stata utilizzata nella preparazione di un materiale o di una bozza; Non dovrebbe essere usato come una "magia" segreta. La riservatezza è fondamentale nel rapporto con lo studente; Ciò che lo studente spiega non viene trasferito al veicolo.
Passo dopo passo: stabilire una politica di utilizzo dell’IA
- Classificare i dati. Separa tutte le informazioni che hai come "personali/private/pubbliche".
- Seleziona veicolo. L'unico strumento aziendale sicuro per i dati sensibili; Lavora in modo anonimo per lo schema generale.
- Segui la procedura di anonimizzazione. Eseguire la routine di controllo prima di ogni immissione.
- Validazione e controllo dei bias. Esaminare ogni output per verificarne i fatti e l'equità.
- Mantenere il limite di crisi. Mantenere la crisi e il rapporto di consultazione fuori dal veicolo.
- Assumetevi la responsabilità e siate trasparenti. L'approvazione finale spetta all'esperto; L'utilizzo è aperto all'interno dell'organizzazione.
Modelli copiabili
1) Controllo dell'anonimizzazione:
Il tuo ruolo: assistente al controllo della privacy. Elenca ogni affermazione nel testo sottostante che potrebbe identificare DIRETTAMENTE o INDIRETTAMENTE la persona (nome, numero, classe, scuola, descrizione unica della situazione) e suggerisci un'alternativa più generale per ciascuna. Commento del contenuto.Testo: [incolla testo]
2) Verifica dei pregiudizi e della sensibilità culturale:
Controlla il seguente materiale PDR per individuare pregiudizi e sensibilità culturale: contiene stereotipi su genere, cultura, status socioeconomico o struttura familiare? Chi può escludere? Segnala affermazioni rischiose e suggerisci alternative inclusive. Materiale: [materiale incollato]
3) Progetto di politica aziendale sull'utilizzo dell'IA:
Il tuo ruolo: assistente alla scrittura PDR. Per il servizio di orientamento, elaborare una breve policy interna sull’utilizzo degli strumenti di intelligenza artificiale. Rubriche: in quali lavori viene utilizzato, in quali lavori non viene utilizzato (crisi, diagnosi, consulenza), norma sull'anonimizzazione dei dati, obbligo di verifica, la responsabilità spetta all'esperto. Breve e applicabile.
Prompt debole / Prompt forte
Debole:
Per riassumere la situazione di Ahmet Yılmaz 8-C, è stato sottoposto a violenza in casa.
Inserisce i dati più sensibili (nome, classe, status speciale) nel veicolo nella sua forma grezza: una grave violazione della KVKK e dell'etica; Inoltre, questa può essere una situazione di notifica (unità 9).
Forte:
Il tuo ruolo: assistente al controllo della privacy. Nota: ho reso anonimo il testo seguente prima di inviarlo allo strumento. Tuttavia, controlla ancora: è rimasto qualche dettaglio che renda identificabile la persona? Testo: "Uno studente delle scuole medie ha lasciato intendere che stava sperimentando tensione a casa".
tre mini custodie
Caso 1 – Divulgazione indiretta. Un esperto stava per inserire nello strumento un testo di cui aveva omesso il nome; ma si rese conto che la frase "l'unico studente della scuola che usa una sedia a rotelle" si riferiva direttamente a quella persona. Ha generalizzato questo a "uno studente". La sola creazione di nomi non era sufficiente; Anche la descrizione della situazione unica è stata identificativa.
Caso 2 — Correzione del bias. Un esperto che ha analizzato un materiale relativo alla carriera ha scoperto che l’intelligenza artificiale utilizzava sempre nomi maschili negli esempi di ingegneria e nomi femminili nelle professioni assistenziali. Ha bilanciato i campioni e ha rotto gli schemi. Questa correzione apparentemente minore ha preservato l'equità del messaggio inviato agli studenti.
Caso 3 – Stabilire una politica. Un servizio di orientamento ha creato un testo di politica interna comune per eliminare la confusione derivante dal fatto che ognuno usa l’IA in modo diverso: in quali compiti viene utilizzata, non in crisi e diagnosi, i dati sono anonimizzati, i risultati sono verificati, la responsabilità spetta all’esperto. L'IA ha dato la bozza; Il team ha finalizzato il contenuto con i propri valori. L’incertezza ha lasciato il posto a un quadro chiaro.
Errori comuni
- Immissione dei dati grezzi. Scrittura sul veicolo con nome/stato. Soluzione: procedura di anonimizzazione, strumento sicuro.
- Basta rimuovere il nome. Dimenticare gli identificatori indiretti. Soluzione: generalizzare anche i dettagli unici.
- Ignorando i pregiudizi. Adottare un output stereotipato. Soluzione: verifica dei pregiudizi e della cultura.
- Mettere la responsabilità sul veicolo. Significa "l'AI l'ha prodotto". Soluzione: la responsabilità spetta all'esperto.
- Uso improprio. Elaborazione dei dati raccolti per uno scopo per un altro scopo. Soluzione: rispettare il limite dello scopo.
Tabella: tipo di dati e regola AI
Tipo di dati
esempio
Regola dell'IA
pubblico
Introduzione alla professione generale
liberamente disponibile
dati personali
Nome, numero, classe
Non è possibile accedere senza anonimizzazione
Dati di qualità speciale
Stato mentale, famiglia, diagnosi
Non può mai essere inserito nella sua forma grezza.
dati sulla crisi
Rischio, abuso, suicidio
Non entrare mai nel veicolo (unità 9)
In sintesi
In PDR la riservatezza è il fondamento della fiducia nella professione e il principio più collaudato nell’era dell’IA. KVKK separa i dati in dati personali e privati; La maggior parte dei dati PDR sono sensibili e non vengono inseriti nello strumento nella loro forma grezza. La minimizzazione dei dati, l'anonimizzazione (con identificatori diretti e indiretti) e la selezione sicura degli strumenti sono le regole di base. I quattro principi dell’etica professionale – riservatezza, beneficenza, non maleficenza, autonomia – sono vincolanti per l’uso dell’IA; I pregiudizi sono controllati, la responsabilità rimane dell'esperto e l'utilizzo è trasparente all'interno dell'organizzazione.
Compito dell'applicazione
Redigere una breve "Politica sull'utilizzo dell'intelligenza artificiale" per il proprio servizio di orientamento. Ottieni un vantaggio con il modello "Bozza della politica di utilizzo dell'AI aziendale"; Quindi adattalo alla realtà della tua istituzione. Passare anche un testo (fittizio) attraverso il modello di "controllo dell'anonimizzazione" e acquisire e generalizzare almeno un identificatore indiretto.
lista di controllo
- [ ] Ho classificato i dati in mio possesso come personali/privati/pubblici.
- [ ] Ho generalizzato gli identificatori diretti e indiretti nell'anonimizzazione.
- [ ] Ho utilizzato uno strumento sicuro/enterprise per i dati sensibili.
- [ ] Ho controllato l'output per pregiudizi e sensibilità culturale.
- [ ] Ho accettato la responsabilità e ho mantenuto l'utilizzo trasparente.