Guadagni:
- Capacità di applicare i principi del consenso informato, della non maleficenza e della riservatezza alla ricerca sociale
- Capacità di anonimizzare adeguatamente i dati cancellando tutti gli identificatori diretti e indiretti prima di consegnarli all'intelligenza artificiale
- Capacità di interrogare la politica di conservazione dei dati dello strumento di intelligenza artificiale utilizzato e di utilizzare solo supporti approvati per i dati sensibili
La ricerca sociale si fa con le persone e questo comporta una pesante responsabilità. Le persone ti raccontano la loro vita, le loro opinioni, a volte le loro esperienze più fragili. L’etica della ricerca è un insieme di regole per mantenere questa fiducia: non danneggiare il partecipante, ottenere il suo consenso, proteggere la sua identità e non utilizzare in modo improprio i suoi dati. Nell’era dell’intelligenza artificiale, questa responsabilità è cresciuta ancora di più, perché incollare i dati dei partecipanti in uno strumento di intelligenza artificiale può significare la fuga inconsapevole di tali dati. In questa unità imparerai i principi di base dell'etica della ricerca, come proteggere la riservatezza quando si utilizza l'intelligenza artificiale e come anonimizzare correttamente i dati (rendendo la persona irriconoscibile).
Tre principi fondamentali costituiscono la spina dorsale di ogni ricerca sociale. Consenso informato: il partecipante deve comprendere in cosa consiste la ricerca e come verranno utilizzati i suoi dati e dire "sì" liberamente. Non maleficenza: la ricerca non deve causare danni fisici, psicologici o sociali al partecipante. Riservatezza e riservatezza: l'identità ed i dati del partecipante devono essere protetti. Gli strumenti di intelligenza artificiale possono facilitare queste politiche (ad esempio redigendo il testo del consenso, controllo dell'anonimizzazione) o comprometterle (ad esempio caricando la trascrizione di identificazione personale su un cloud). La differenza sta nel fatto che l'utente sia cosciente o meno.
Passo dopo passo: una ricerca etica e sicura
1. Ottenere l'approvazione etica. Nella maggior parte delle istituzioni (università, istituti) la ricerca che coinvolge gli esseri umani richiede l'approvazione di un comitato etico (il comitato che garantisce che la ricerca non danneggi il partecipante). L’intelligenza artificiale aiuta a redigere il testo della domanda; L'approvazione stessa spetta all'istituzione.
2. Scrivi in modo chiaro il testo del consenso. Il partecipante dovrebbe essere informato in una lingua che può comprendere, non in un linguaggio legale pesante. AI redige un testo di consenso semplice e completo; Confermi ogni elemento.
3. Anonimizzare i dati prima di fornirli all'AI. Nome, indirizzo, numero di telefono, luogo di lavoro e dettagli identificativi dovrebbero essere rimossi. Spesso cancellare semplicemente il nome non è sufficiente; Anche una descrizione come "con tre figli, unico farmacista nel quartiere X" tradisce la persona.
4. Scopri quale strumento memorizza i dati e come. I dati incollati in uno strumento AI vengono elaborati sui server di tale strumento e potrebbero essere utilizzati nella formazione in alcuni servizi. Per i dati sensibili ciò potrebbe essere inaccettabile; Utilizza strumenti con garanzia di protezione dei dati approvati dal tuo istituto.
5. Archivia i dati in modo sicuro ed eliminali in modo tempestivo. Rispettare il periodo di conservazione e l'impegno di cancellazione promesso nel consenso.
Attenzione: incollare i dati grezzi dei partecipanti contenenti informazioni di identificazione personale (trascrizione del nome, informazioni di contatto, dati personali sensibili) in qualsiasi strumento di intelligenza artificiale costituisce una grave violazione etica e legale. Anonimizzare prima i dati; Se non puoi renderlo anonimo, non fornire mai quei dati a uno strumento esterno.
tre mini custodie
Caso 1 – Anonimizzazione insufficiente. Un ricercatore ha cancellato i nomi dalle trascrizioni e li ha forniti all'intelligenza artificiale. Ma una partecipante ha detto: "L'anno scorso, essendo l'unica ispettore donna nel comune..."; Già solo questa definizione tradiva la persona. Dicendo all’IA di “trovare dettagli identificativi in ogni trascrizione”, sono emersi 11 identificatori latenti che sono stati generalizzati.
Caso 2 — Testo del consenso semplificato. Il modulo di consenso di una squadra era scritto in un pesante linguaggio legale; I partecipanti firmavano senza capire. YZ ha ridotto il testo al livello di lettura dell'ottavo grado e ha scritto ogni articolo in turco semplice. I partecipanti ora hanno veramente capito e hanno dato il consenso; Lo ha approvato anche il comitato etico.
Caso 3 — La scelta del veicolo ha scongiurato la crisi. Uno studente di dottorato stava per caricare interviste sensibili con le vittime in uno strumento generale di intelligenza artificiale per riassumerle. Il suo consulente ha ricordato che i dati non erano anonimizzati e che la politica di conservazione dei dati del veicolo era sconosciuta. I dati sono stati prima completamente resi anonimi e trattati solo in un ambiente protetto dalla protezione dei dati e approvato dall'istituzione.
Quattro modelli copiabili
1) Controllo dell'anonimizzazione:
Segna OGNI dettaglio nel testo sottostante che potrebbe identificare direttamente o indirettamente la persona: nome, luogo di lavoro, ruolo unico ("one of a kind"), data, relazione, malattia, caratteristiche rare. Suggerisci una risposta anonima a ciascuno (ad esempio, "Partecipante 7", "Contea X"). Testo: [qui]
2) Bozza di consenso informato:
Redigere un testo di consenso informato in linguaggio semplice (livello 8° grado) per uno studio. Comprende: scopo della ricerca, cosa verrà fatto, durata, volontarietà e diritto di recesso, modalità con cui i dati verranno conservati/cancellati, garanzia di riservatezza, comunicazione. Evita il gergo legale. Oggetto: [x]
3) Screening del rischio etico:
Il mio disegno di ricerca: [sommario]. Partecipanti: [chi]. Elencare i possibili rischi etici: potenziale danno, squilibrio di potere, gruppo vulnerabile, rischio per la privacy, problemi di consenso. Fornire una raccomandazione di mitigazione per ciascun rischio. Se sono presenti gruppi fragili, indicare particolari punti di attenzione.
4) Controllo della sicurezza del veicolo AI:
Ho il seguente tipo di dati: [tipo]. Prepara un elenco di controllo delle domande di sicurezza che dovrei porre prima di elaborarlo in uno strumento di intelligenza artificiale: dove sono archiviati i dati, sono utilizzati nell'istruzione, sono anonimi, c'è l'approvazione istituzionale, sono dati sensibili. Suggerire criteri decisionali.
Prompt debole / Prompt forte
Suggerimento debole:
Riassumi questo resoconto dell'intervista: "Sono Ayşe Yılmaz, un'insegnante a Kadıköy, mia moglie è stata l'anno scorso..." [testo con nome completo, ID]
Ciò fa trapelare le credenziali direttamente allo strumento esterno: una grave violazione della privacy. I dati non sono affatto anonimizzati.
Suggerimento potente:
Riassumi il testo qui sotto. Il testo è stato pre-anonimizzato: i nomi sono stati sostituiti con codici come "Partecipante 3", le località sono state sostituite con frasi generiche come "Contea X", i dettagli identificativi sono stati omessi. Aggiunta di un nuovo identificatore; non trarre conclusioni che violerebbero l'anonimato. Testo: [testo anonimo]
La differenza: nel secondo approccio, l'identità del partecipante non raggiunge affatto lo strumento; La privacy è protetta fin dall'inizio.
Principi etici e pratica dell’intelligenza artificiale
principio
Significato
rischio con l’intelligenza artificiale
protezione
Consenso informato
Libero consenso informato
—
Testo di consenso semplice
non fare del male
Nessun danno per il partecipante
attribuzione errata
Controllo della fedeltà
Privacy
L'identità è protetta
fuga di dati
Anonimizzazione
Sicurezza dei dati
Conservazione sicura
elaborazione cloud
Veicolo omologato
onestà
Nessun adattamento
allucinazione
verifica della fonte
Errori comuni
- Penso di aver appena cancellato il nome e reso anonimo. I descrittori indiretti ("l'unico") tradiscono la persona.
- Incollare i dati ID grezzi nello strumento esterno. È una delle violazioni della privacy più gravi.
- Scrivere il testo del consenso in gergo. Il consenso non compreso non è vero consenso.
- Non conoscere la politica sui dati del veicolo. Scopri dove vengono archiviati e utilizzati i tuoi dati.
- Trattare l’approvazione etica come una formalità. Il comitato etico tutela il partecipante; prendilo sul serio.
In sintesi
Il cuore della ricerca sociale è la responsabilità verso il partecipante. Consenso informato, non maleficenza e riservatezza sono la spina dorsale di ogni studio. IA; Può aiutare nella semplificazione del testo del consenso, nello screening dei rischi etici e nel controllo dell'anonimizzazione. Ma fornire dati identificativi grezzi a uno strumento di intelligenza artificiale è una grave violazione; Anonimizza prima completamente i dati, cancella gli identificatori indiretti, utilizza solo strumenti sicuri approvati dal tuo istituto e mantieni ogni promessa fatta. L’etica non è un ornamento della ricerca, ma un prerequisito.
Compito dell'applicazione
Prepara una breve trascrizione di esempio (modifica tu stesso) che includa informazioni identificative. Trova e generalizza tutti gli identificatori diretti e indiretti dell'IA con il modello "controllo dell'anonimizzazione"; Conta quanti identificatori segreti escono. Quindi, crea un semplice testo di consenso utilizzando la "bozza di consenso informato" e fallo leggere a un amico per verificare se è veramente comprensibile.
lista di controllo
- [ ] Ho controllato i requisiti e il processo di approvazione etica.
- [ ] Ho scritto il testo del consenso in un linguaggio semplice e comprensibile.
- [ ] Ho cancellato tutti gli identificatori diretti e indiretti prima di fornire i dati all'IA.
- [ ] Ho appreso la politica di conservazione dei dati dello strumento AI che utilizzo.
- [ ] Ho utilizzato solo supporti approvati e sicuri per i dati sensibili.