Guadagni:
- Essere in grado di distinguere dove l’intelligenza artificiale fa risparmiare tempo reale nel flusso di lavoro della ricerca accademica (letteratura, progettazione, analisi, scrittura) e dove il giudizio scientifico e la responsabilità rimangono nelle mani del ricercatore, in base al livello di rischio del compito
- Essere in grado di applicare una disciplina che collega e verifica ogni output dell'intelligenza artificiale alla fonte e comprendere il problema dell'attribuzione (fabbricata) di allucinazioni, che è il rischio più critico dell'accademia.
- Capacità di adottare un quadro di utilizzo conforme alle politiche istituzionali e di utilizzo dell'intelligenza artificiale delle riviste, all'onestà accademica e ai principi di trasparenza.
Il lavoro di un ricercatore implica molte più attività di scrittura, lettura e modifica di quanto sembri: scansionare centinaia di articoli, riassumerli, affinare la domanda di ricerca, progettare metodi, analizzare dati, trascrivere risultati, formattare citazioni, selezionare riviste, rispondere ai commenti dei revisori. Gran parte di questo lavoro è ripetitivo, richiede tempo e distrae; Ruba ciò che è veramente prezioso, pensiero e interpretazione originali. L’intelligenza artificiale (AI) – programmi per computer in grado di comprendere il linguaggio umano e produrre output come testi, riassunti, codici, bozze, ecc. – è un potente aiuto per accelerare questo onere ripetitivo. In questo modulo consideriamo l’intelligenza artificiale non come una fonte magica di informazioni; Impareremo ad usarlo come assistente di ricerca, producendo bozze, dando idee e modificando.
Ma fin dall’inizio mettiamo la frase più importante specifica del mondo accademico: l’intelligenza artificiale non prende le decisioni scientifiche al posto del ricercatore; produce la bozza, il giudizio scientifico e la responsabilità spetta al ricercatore. Nel mondo accademico, questa regola è ancora più severa che in altre professioni, perché la valuta della scienza è la fiducia, e la base di tale fiducia è che ogni affermazione è collegata a una fonte verificabile.
Questa prima unità stabilisce tre fondamenti: distinguere dove funziona l’intelligenza artificiale e dove dovrebbe rimanere nel flusso di lavoro della ricerca; verificare ogni output; Adottare il principio di onestà e trasparenza accademica. Questi tre costituiscono la base di sicurezza sottostante per tutte le quote successive.
Dove l’intelligenza artificiale fa risparmiare tempo, dove la decisione spetta al ricercatore?
È utile pensare ai compiti di ricerca in termini di livello di rischio. Il livello di rischio è il danno che potrebbe causare alla documentazione scientifica se eseguito in modo errato.
Compiti a basso rischio che l'intelligenza artificiale accelera molto: generare una strategia di ricerca (parola chiave, sinonimo), fare un riassunto iniziale di un testo lungo, semplificare il linguaggio di un paragrafo, suggerire un'intestazione di tabella, fare brainstorming, spiegare un concetto in modi diversi, elaborare la struttura di uno schema. Qui l’intelligenza artificiale risolve il problema della “pagina bianca”; correggi, verifichi e arricchisci.
Attività a medio rischio, prodotte dall'intelligenza artificiale, che richiedono una verifica rigorosa: raccomandazione per la selezione dei test statistici, bozza di codice, formattazione delle citazioni, bozza di interpretazione di un risultato, confronto delle opzioni di metodo. Qui l’IA dà velocità, ma ogni numero, ogni tag, ogni passaggio logico deve essere confermato manualmente.
Compiti ad alto rischio in cui la decisione è lasciata esclusivamente al ricercatore: determinazione finale dell'ipotesi e del metodo, decisione sul significato dei dati, valutazione se un risultato è significativo, decisioni all'interno del comitato etico (IRB), decisione se una fonte esiste effettivamente e supporta l'affermazione, dichiarazione di paternità e contributo. Queste decisioni determinano l'affidabilità della documentazione scientifica; La responsabilità e l’ultima parola spetta sempre al ricercatore.
Attenzione: "AI ha detto" non è una giustificazione. Un editore di una rivista o una giuria di tesi non accetterà l'affermazione "il mio modello l'ha prodotto in questo modo". Un output dell'IA non verificato è come una voce non verificata.
Perché è necessaria la verifica? Allucinazioni e attribuzioni fittizie
L'intelligenza artificiale produce testo non "conoscendo" ma "predicendo la parola possibile". Ecco perché a volte fornisce informazioni estremamente fluenti ma in realtà errate. Questa è chiamata allucinazione (fabbricazione). La forma più pericolosa di questo nel mondo accademico è l'attribuzione spuria: l'intelligenza artificiale genera un nome di autore, un anno, una rivista o persino un DOI (identificatore di oggetto digitale, l'indirizzo permanente di una pubblicazione) che sembra reale, ma quella fonte non è mai esistita. Se un ricercatore lo utilizza senza verificare, sta facendo un'affermazione basata su uno studio che non esiste; Ciò porta al rigetto della tesi, al ritiro dell'articolo e alla perdita di reputazione.
Il secondo problema è la distorsione: quando si riassume un articolo, l’intelligenza artificiale può esagerare un risultato, riassumendo uno studio che affermava che “non c’era alcuna differenza significativa” in quanto “è stata riscontrata una differenza significativa”. Il terzo è il pregiudizio: l’intelligenza artificiale ripete le tendenze nei dati su cui è addestrata; Potrebbe evidenziare una certa scuola, lingua o punto di vista e far apparire distorta la letteratura.
A causa di questi limiti, proponiamo una semplice disciplina di validazione da applicare a ciascun output:
- Collegalo alla fonte. Trova e verifica la fonte effettiva (articolo, database, DOI) per ogni fatto, data, numero, citazione e soprattutto ogni citazione.
- Ricontrollare. Controllare manualmente gli output numerici o logici (risultato statistico, calcolo di esempio).
- Filtro scientifico. "Questa affermazione è coerente con la letteratura conosciuta nel mio campo?" gestiscilo con la tua competenza.
- Assumersi la responsabilità. Nel momento in cui la inserisci nella tua pubblicazione o tesi, quella frase è tua; Eventuali errori sono tua responsabilità.
Onestà accademica e trasparenza
L'integrità accademica garantisce che il lavoro sia veramente il tuo contributo originale e che tutte le fonti siano citate onestamente. L’utilizzo dell’IA non elimina questo principio, ma anzi aggiunge una nuova responsabilità: la trasparenza. La maggior parte delle riviste e delle università ora richiedono una dichiarazione esplicita sull’uso dell’intelligenza artificiale. La linea editoriale comune (ad esempio, i principi degli organismi di etica della pubblicazione come ICMJE e COPE) dice chiaramente due cose: l’intelligenza artificiale non può essere l’autore (perché non può assumersi la responsabilità, non può dichiarare un conflitto di interessi), e l’uso dell’intelligenza artificiale non è nascosto, ma divulgato nella sezione metodo o ringraziamenti.
Suggerimento: prima di incollare il testo in qualsiasi strumento, porre due domande: (1) In che modo questo strumento memorizza i dati e viene utilizzato nell'istruzione? (2) Cosa dice la politica sull'IA della mia istituzione e della rivista target? Non iniziare senza conoscere questi due.
tre mini custodie
Caso 1 – Tesi compromessa con attribuzione fabbricata. Uno studente laureato ha chiesto a YZ 12 fonti per l'introduzione della sua tesi e le ha ricevute tutte con le relative citazioni. Il suo consulente ne ha cercati casualmente 4 su Google Scholar; 2 di loro non esistevano affatto, 1 di loro aveva un DOI destinato a un altro articolo. Lo studente ha dovuto verificare l'intero elenco uno per uno e ha utilizzato solo 7 fonti autentiche. La verifica ha richiesto 40 minuti; ma se fosse stato pronunciato con un riferimento fittizio, la fiducia della giuria sarebbe stata completamente scossa.
Caso 2: risparmio di tempo. Un ricercatore post-dottorato ha trascorso 6 ore a scansionare e riassumere 15-20 nuovi articoli ogni settimana. Ha iniziato a utilizzare l'intelligenza artificiale come primo generatore di riassunti: facendo riassumere all'intelligenza artificiale l'abstract e l'introduzione di ogni articolo, approfondendolo con la propria lettura critica e verificando i risultati del testo originale. Il tempo è diminuito da 6 ore settimanali a ~2,5 ore; Ha dedicato il tempo guadagnato alla scrittura di sintesi originali.
Caso 3: ritorno dall'azione furtiva. Uno scienziato sociale stava per incollare nell’intelligenza artificiale dati sul campo inediti e testimonianze dei partecipanti per l’analisi. Si rese conto che conteneva credenziali; Invece di condividere i dati grezzi, ha chiesto solo un campione e un piano di analisi riepilogati e anonimi. Ha ricevuto una preziosa raccomandazione sul metodo, ma non sono trapelati dati sensibili.
Modelli copiabili
1) Separare i compiti per livello di rischio:
Il tuo ruolo: assistente accademico che assiste un ricercatore. Dividere i seguenti compiti di ricerca in tre elenchi: (A) compiti a basso rischio per i quali l'IA può produrre in sicurezza un manoscritto, (B) compiti a medio rischio per i quali l'IA può produrre un manoscritto e richiedere una verifica rigorosa, (C) compiti ad alto rischio per i quali la decisione finale deve spettare al ricercatore. Scrivi una giustificazione di una frase per ogni attività. Missioni: [incolla le tue missioni]
2) Richiesta di controllo di convalida:
Contrassegna ogni frase nel testo seguente che contiene un fatto, una data, un numero, una citazione o un'attribuzione e contrassegnala come "necessita di verifica". Indica chiaramente dove non sei sicuro. NON inventare la fonte o il numero; Se non lo sai scrivi "non lo so".Testo: [incolla bozza]
3) Progetto di dichiarazione sull'uso dell'IA:
Per la sezione metodi/riconoscimenti di un articolo, scrivi una bozza di 2-3 frasi "dichiarazione sull'utilizzo dell'intelligenza artificiale" che spieghi in modo trasparente in quali fasi ho utilizzato l'intelligenza artificiale (ad esempio correzione del linguaggio, bozza di bozza). Utilizzo: [spiegare]
4) Elenco di verifica della fonte:
Genera un foglio di controllo per ciascuna fonte nel seguente elenco di citazioni: [autore, anno, titolo, DOI, verificato?].Non puoi verificare; Dammi una tabella vuota che controllerò manualmente. Elenco: [incolla citazioni]
Prompt debole / Prompt forte
Suggerimento debole:
Trovami le fonti per l'introduzione alla mia tesi.
Nessun contesto e pericoloso: l'intelligenza artificiale sputa documenti d'identità falsi e tu pensi che siano reali.
Suggerimento potente:
Il tuo ruolo: un consulente metodologico. Posizione: "motivazione degli studenti nella formazione a distanza". NON TROVARMI UNA FONTE; Suggerisci invece 8 parole chiave, 3 gruppi di sinonimi e una stringa di ricerca booleana per cercare questo argomento in Scopus. Sottotitolo dell'articolo reale FALSO. Verificherò io stesso le fonti che trovo.
Ricerca
Livello di rischio
Ruolo dell'intelligenza artificiale
decisione finale
Generazione di una strategia di ricerca
basso
Suggerisce parola chiave/stringa
ricercatore
Bozza dell'abstract dell'articolo
Basso-Medio
Genera bozza
Lo conferma il ricercatore
Raccomandazione per il test statistico
medio
Fornisce opzioni
Il ricercatore seleziona/conferma
Elenco citazioni
alto
Assistente alla formattazione
Ogni impronta viene verificata a mano
Trovare interpretazioni/ipotesi
alto
dà idee
ricercatore solitario
Errori comuni
- Utilizzo di citazioni senza verifica. L'attribuzione fabbricata è l'errore più frequente e devastante nel mondo accademico; porta al ritiro.
- Sostituendo la fonte con il riassunto. Il riepilogo dell’intelligenza artificiale potrebbe distorcere il risultato; Non viene citata alcuna citazione senza ritornare al testo originale.
- Saltando la trasparenza. Nascondere l'uso costituisce una violazione etica una volta scoperto.
- Lasciamo che l’IA prenda decisioni scientifiche. Le ipotesi, l'interpretazione e le decisioni sul metodo appartengono al ricercatore.
- Caricamento di dati riservati nello strumento aperto. I dati non pubblicati e le informazioni sui partecipanti sono fuori dal tuo controllo.
Suggerimento: pensa a ogni sessione di intelligenza artificiale come a lavorare con uno stagista esperto ma inaffidabile: è veloce e diligente, ma verifichi tutto ciò che dice prima di firmare.
In sintesi
L'intelligenza artificiale è un potente assistente che allevia il carico del ricercatore di leggere e scrivere ripetitive; ma a causa di allucinazioni, distorsioni e pregiudizi, ogni output richiede una verifica. Il rischio più critico nel mondo accademico è la citazione spuria: ogni fonte deve essere verificata tramite DOI e database. Separa le attività per livello di rischio, proteggi i dati, dichiara l'utilizzo in modo trasparente. Regola empirica più breve: il progetto è dell’intelligenza artificiale, la responsabilità scientifica è del ricercatore.
Compito dell'applicazione
Elenca 8 attività del tuo attuale progetto di ricerca e contrassegna ciascuna come a rischio basso/medio/alto. Quindi scegli un'attività a basso rischio e scrivi un messaggio con il contesto, come "Prompt potente" sopra. Segna almeno 3 elementi (numero, impronta, reclamo) che devi verificare nell'output e scrivi come lo verificherai.
lista di controllo
- [ ] Ho separato le attività in base al livello di rischio?
- [ ] Ho intenzione di verificare ogni citazione e di conteggiarla nell'output dell'AI?
- [ ] Conosco la politica di conservazione dei dati del veicolo che utilizzo?
- [ ] Ho letto la politica sull'intelligenza artificiale della mia istituzione e della rivista target?
- [ ] Sono sicuro di mantenere il giudizio scientifico finale?