Unità 7 / 12

Supporto alla progettazione della ricerca e all'analisi dei dati

Guadagni:

  • Capacità di utilizzare l'intelligenza artificiale come partner di pensiero nell'elaborazione di domande di ricerca, ipotesi, selezione di scala e piani di analisi
  • Capacità di verificare il supporto per l'analisi quantitativa (interpretazione del codice/output) e qualitativa (bozza di codifica tematica) con accuratezza statistica e metodologica
  • Capacità di sviluppare un riflesso protettivo nell'uso dell'intelligenza artificiale contro la caccia al valore p, le statistiche fabbricate e l'elaborazione dei dati non etica

La psicologia è una scienza che studia sistematicamente il comportamento umano e la base di questa scienza è la ricerca. Che tu stia scrivendo una tesi, misurando l'efficacia del programma in un'istituzione o preparando un articolo; Una buona ricerca richiede una progettazione solida, un’analisi accurata e un’interpretazione onesta. L'intelligenza artificiale (AI) può essere un partner di pensiero in ogni fase della ricerca: affinare la domanda di ricerca, evocare possibili scale, elaborare un codice di analisi, spiegare un risultato statistico in un linguaggio semplice, tracciare i primi suggerimenti tematici nei dati qualitativi. Ma l’intelligenza artificiale crea allucinazioni anche nelle statistiche, suggerisce errori metodologici e, cosa ancora più pericolosa, può involontariamente aprire la porta a pratiche non etiche (come la caccia al valore p). In questa unità imparerai a utilizzare l'intelligenza artificiale come assistente potente ma supervisionato nella ricerca.

Dove aiuta l’intelligenza artificiale nella ricerca?

Fase di progettazione: chiarire la domanda di ricerca, affinare la formulazione dell'ipotesi, considerare possibili variabili e confondenti (terzi fattori che influenzano il risultato ma non vengono esaminati), ricordando progetti appropriati. L’intelligenza artificiale è un partner di brainstorming qui; Decidi tu.

Analisi quantitativa: spiegare quando un metodo di analisi (come t-test, ANOVA, regressione) è appropriato, redigere un codice di analisi (ad esempio R o Python), interpretare un output statistico. L'intelligenza artificiale scrive il codice, ma tu sei responsabile dell'accuratezza del risultato prodotto dal codice e dell'idoneità del metodo.

Analisi qualitativa: suggerimenti iniziali di codice nelle trascrizioni delle interviste, possibili titoli dei temi, bozza del codice. L'intelligenza artificiale fornisce un punto di partenza; Il ricercatore aggiunge profondità interpretativa.

Attenzione: l’intelligenza artificiale non è uno statistico. Potrebbe suggerire il test sbagliato, omettere ipotesi, produrre un coefficiente o un valore p confuso. Verifica ogni decisione metodologica e ogni numero in modo indipendente (con le tue conoscenze, una fonte statistica o un esperto).

Linee rosse etiche: p-hacking ed elaborazione dati

Una delle trappole più pericolose dell’etica della ricerca è il p-hacking: modificare ripetutamente l’analisi, aggiungere/rimuovere variabili o tagliare i dati finché non emerge un risultato significativo. Chiedi all’IA “cosa posso fare per rendere significativo il mio risultato?” Chiedere” significa cadere in questa trappola senza rendersene conto. A questo tipo di domande l’IA può dare suggerimenti del tipo “estrai questa variabile, guarda questo sottogruppo”; questi suggerimenti “funzionano” statisticamente, ma sono scientificamente fraudolenti.

Allo stesso modo, l’intelligenza artificiale può suggerire di “completare” dati che non esistono o di eliminare valori anomali senza giustificazione. I dati vengono analizzati così come sono; Le modifiche possono essere apportate solo con regole predefinite, trasparenti e giustificate.

Suggerimento: annota il tuo piano di analisi (quale test farai, con quali variabili, per quale ipotesi) prima di vedere i dati. Usa l’intelligenza artificiale per chiarire quel piano, non per “abbellire” il risultato. Un piano pre-scritto è la protezione più forte contro il p-hacking.

Passo dopo passo: flusso di ricerca sicuro alimentato dall’intelligenza artificiale

  1. Chiarire la domanda e l'ipotesi. Lascia che l'IA effettui ricerche sul problema per renderlo più nitido, ma sei tu a decidere.
  2. Scrivi in anticipo il tuo piano di analisi. Quale test, quale presupposto, quale ipotesi. Lascia che l’IA supervisioni il piano.
  3. Bozza del codice, verifica dell'output. Lascia che l’IA scriva il codice; Lo esegui, controlla il risultato in modo indipendente.
  4. Controllare le ipotesi. Metti alla prova tu stesso i presupposti che l’intelligenza artificiale ignora, come la normalità e l’omogeneità della varianza.
  5. Considera i codici qualitativi come bozze. Consideriamo inizialmente i temi dell'intelligenza artificiale; Leggi e verifica tu stesso i dati.
  6. Riferisci onestamente. Annotare anche il risultato privo di significato; Evita p-hacking e segnalazioni selettive.

tre mini custodie

Caso 1: trappola dell'hacking p. Quando l'ipotesi principale di un ricercatore non risulta significativa (p=0,21), chiede all'IA "modi per rendere significativo il risultato". L'intelligenza artificiale suggerisce varie analisi di sottogruppi ed estrazione di variabili; Quando il ricercatore li prova, ottiene p = 0,04. Ma questo risultato è falso: se si provano 10 analisi diverse, una di queste sarà significativa per caso. Il modo giusto: riportare l'analisi predefinita, scrivendo onestamente il risultato privo di significato.

Caso 2: codice e commento sull'output. Uno studente laureato desidera testare le differenze tra due gruppi nei dati di 120 partecipanti, ma non ha familiarità con i software statistici. Stampa la bozza del codice di analisi sull'IA, la esegue e fa interpretare l'output all'IA. Quindi controlla le ipotesi del test t da una fonte statistica e verifica in modo indipendente il risultato. L’intelligenza artificiale accorcia la curva di apprendimento, ma la decisione finale spetta allo studente.

Caso 3 — Codificazione qualitativa. Un ricercatore fornisce all'intelligenza artificiale 18 trascrizioni di interviste anonime e chiede suggerimenti iniziali sul codice. L'intelligenza artificiale fornisce circa 30 codici e 5 suggerimenti di temi. Il ricercatore li considera come l'inizio e legge lui stesso tutte le trascrizioni; Aggiunge un tema che l'IA ha mancato, separandone due che ha combinato in modo errato. Controlla anche l'affidabilità con un secondo encoder. L’intelligenza artificiale si è fatta avanti, ma l’interpretazione è venuta dall’umano.

Prompt e modelli copiabili

Aiutami ad affinare una domanda di ricerca. La mia bozza di domanda: [domanda]. Chiedere/suggerire quanto segue: variabili dipendenti-indipendenti, possibili fattori di confondimento, disegno di ricerca appropriato. La decisione è mia; Basta spiegare le opzioni e i rischi, non forzare il risultato.

Dai un'occhiata al mio piano di analisi: [piano]. Valutare: il test che ho scelto corrisponde all'ipotesi, quali ipotesi dovrei verificare, la dimensione del campione sembra sufficiente, ci sono rischi metodologici che ho trascurato? Fornire suggerimenti per consolidare il piano, non per modificare il risultato.

Interpretare il seguente output statistico in un linguaggio semplice: quale risultato significa cosa, quali ipotesi devono essere verificate, dov'è il rischio di sovrainterpretazione? Dichiarare onestamente eventuali risultati non significativi. Uscita: [uscita]

Di seguito sono riportate le trascrizioni anonime delle interviste. Nella prima fase vengono generati POSSIBILI codici e SUGGERIMENTI tematici per la codifica tematica. Ricorda che questa è una bozza iniziale e provvederò a leggere e verificare i dati; Non presentarlo come un risultato definitivo. Trascrizioni: [trascrizioni anonime]

Prompt debole / Prompt forte

Suggerimento debole: "Il risultato non era significativo nei dati, come posso rendere significativo il valore p?"

Questo prompt chiama l'IA a suggerire il p-hacking; Anche se il risultato “funziona” statisticamente, si tratta di una frode scientifica.

Suggerimento forte: "Il piano di analisi che ho definito in precedenza è [il piano]. Il risultato non è stato significativo (p=0,21). Come dovrei segnalarlo onestamente, quali potrebbero essere le possibili implicazioni del risultato non significativo e cosa consiglierei per uno studio futuro?"

Questo suggerimento indirizza l’IA verso la scienza onesta; Non distorce il risultato, impara da esso.

Errori comuni

  • Invito al p-hacking. Chiedere "Rendi il risultato significativo"; Questa è una frode scientifica.
  • Applicare il metodo senza validarlo. Utilizzo del test suggerito dall'IA senza verificarne i presupposti.
  • Accettare statistiche inventate. Non confermare il coefficiente/valore p fornito dall'IA con la propria analisi.
  • Scambiare codici qualitativi per analisi finali. Segnalare temi di intelligenza artificiale senza leggere i dati.
  • Nascondere il risultato insignificante. Reporting selettivo riportando solo ciò che è significativo.

In sintesi

L'intelligenza artificiale è un potente partner di pensiero nella ricerca relativa all'affinamento delle domande, al controllo del piano di analisi, alla stesura del codice, all'interpretazione dell'output e all'avvio della codifica qualitativa. Ma commette errori statistici e allucinazioni; La cosa più pericolosa è che può inconsapevolmente aprire la porta a metodi non etici come il p-hacking. Scrivi in ​​anticipo il tuo piano di analisi, verifica ogni metodo e numero in modo indipendente, controlla le ipotesi, tratta i codici qualitativi come bozze e leggi tu stesso i dati e riporta onestamente i risultati privi di significato. L'intelligenza artificiale accelera; L'integrità scientifica viene da te.

Compito dell'applicazione

Imposta un piccolo scenario di ricerca (ad esempio confrontando due gruppi su una scala). Innanzitutto, scrivi il tuo piano di analisi in un paragrafo. Quindi chiedi all'IA di verificare questo piano e chiedere se ci sono presupposti o rischi che ti sei perso. Inoltre, chiedi all’intelligenza artificiale di interpretare un piccolo output immaginario e verifica tu stesso se la sua interpretazione è eccessivamente assertiva. Scrivi una frase onesta senza impegnarti nel P-hacking.

lista di controllo

  • [ ] Ho scritto il mio piano di analisi prima di vedere i dati.
  • [ ] Ho verificato in modo indipendente le ipotesi del metodo suggerito da AI.
  • [] Ho verificato ogni statistica fornita dall'intelligenza artificiale con la mia analisi.
  • [ ] Ho considerato i codici qualitativi come bozze iniziali e ho letto io stesso i dati.
  • [ ] Ho riportato anche risultati insignificanti onestamente.
  • [ ] Ho evitato il p-hacking e il reporting selettivo.