Guadagni:
- Essere in grado di distinguere dove l’intelligenza artificiale fa risparmiare tempo nel flusso di lavoro filosofico ed etico (lettura, sintesi, mappatura, bozza) e dove decisioni come interpretazione, giustificazione e pensiero originale sono lasciate all’umano, a seconda del livello di rischio.
- Capacità di applicare una disciplina che verifica ogni output attraverso le fasi di collegamento alla fonte, confermandolo con il testo principale e filtrandolo attraverso pregiudizi.
- Riuscire a comprendere perché i rischi di allucinazioni, di perdita di originalità di giudizio e di interpretazione superficiale dovrebbero essere presi in considerazione fin dall'inizio in ambito umano.
Ti trovi nell'aula studio di un dipartimento di filosofia. Sulla tua scrivania c'è un capitolo dei Fondamenti della metafisica dei costumi di Kant, un caso reale di un comitato etico ospedaliero, tre diversi articoli contemporanei e uno schema di lezioni per un seminario che si terrà domani. Uno studente si lamenta di non riuscire a estrarre la struttura argomentativa di un testo lungo, bisogna confrontare tre articoli per una recensione su una rivista e un comitato etico discute su chi abbia la responsabilità di un sistema di supporto alle decisioni mediche basato sull'intelligenza artificiale. La filosofia (la disciplina che esamina criticamente e sistematicamente concetti, argomenti e ipotesi; pensando alla conoscenza, all'esistenza, al valore e al ragionamento) e l'etica applicata (il ramo che applica principi morali astratti a decisioni reali in campi concreti come la medicina, la tecnologia, l'ambiente e gli affari) sono campi che sono ad alta intensità di testo, ad alta intensità di concetti e richiedono per natura un ragionamento meticoloso. È proprio qui che l'intelligenza artificiale (un software AI in grado di apprendere modelli da dati di testo passati e produrre riassunti, traduzioni, bozze e classificazioni) può accelerarti in questa abbondanza di testi e concetti.
Ma l’inizio di questo modulo è chiaro: l’intelligenza artificiale è un assistente di lettura, mappatura, riepilogo e redazione; Tu sei l'esperto competente e il pensatore che giudica l'argomento, difende una tesi, giustifica una decisione etica e possiede quel pensiero. In filosofia il prodotto stesso è il ragionamento; Delegare il ragionamento a una macchina non è finire il lavoro, ma rinunciare al lavoro stesso.
In questa prima unità ci concentreremo sulla disciplina, non sul veicolo. Impareremo dove nel flusso di lavoro filosofico ed etico l'intelligenza artificiale fa risparmiare tempo reale, dove è pericolosa, come verificare ogni output, come mantenere l'integrità della fonte e come osservare l'integrità accademica. Senza porre queste basi, le unità successive rimangono in sospeso, perché nelle discipline umanistiche, un risultato non verificato può essere non solo una risposta sbagliata, ma una citazione inventata, una visione filosofica distorta o una violazione dell'integrità accademica che presenta la mente di qualcun altro come propria.
Dove torna utile l’intelligenza artificiale nel flusso di lavoro filosofico?
Dividiamo le cose in due grandi mucchi. Primo cluster: opere voluminose, ad alta intensità di testo e con pattern estraibili. Il primo riassunto di un testo lungo, la prima stesura della struttura premessa-conclusione di un paragrafo complesso, l'estrazione di temi ricorrenti in un testo letterario, il confronto tra come diversi autori definiscono un concetto, lo scheletro di un programma di lezione, la marcatura di luoghi ambigui in un testo di uno studente, bozze di traduzione. In questi lavori l’intelligenza artificiale riduce le ore a minuti e non stanca.
Secondo gruppo: compiti che richiedono giudizio, interpretazione, giustificazione e pensiero originale. Se un argomento sia realmente valido o meno, l'interpretazione più plausibile di ciò che un filosofo intende in un brano, come risolvere la reale tensione tra due valori, quale principio prevarrà in un caso etico, qual è il contributo originale di una tesi. Ciò richiede competenza, sensibilità concettuale e giudizio umano. In questo caso, l’intelligenza artificiale moltiplica le opzioni, genera obiezioni, evidenzia i punti ciechi, ma la valutazione, la giustificazione e la firma sono tue.
Chiariamo la distinzione in una frase: l'intelligenza artificiale è forte su domande su "cosa è scritto in questo testo e come appare la sua struttura"; La decisione spetta a te quando si tratta di domande come "Questa argomentazione è valida e cosa penso?"
Suggerimento: prima di esternalizzare un lavoro a un’intelligenza artificiale, chiediti: “Cosa perdo se questo output è sbagliato?” Se la risposta è "qualche minuto di aggiustamento", sentiti libero di delegare. Se la risposta è "l'opinione distorta di un filosofo, una fonte inventata o il fatto che la macchina faccia il pensiero che devo fare", allora lascia che l'intelligenza artificiale produca solo bozze; Tu dai l'interpretazione, la giustificazione e la decisione.
Tre rischi critici nelle discipline umanistiche
Filosofia ed etica sono tra gli ambiti in cui l’intelligenza artificiale inciampa maggiormente. Conosciamo i tre rischi fin dall'inizio.
Allucinazione. L'intelligenza artificiale produce in modo fluido e sicuro; Ciò non significa che sia vero. Un'allucinazione avviene quando un'intelligenza artificiale presenta un libro inesistente, una citazione inventata, una frase che il filosofo non ha effettivamente detto o una visione erroneamente attribuita come reale. Nella letteratura filosofica questo è disastroso: è molto comune che una frase tra virgolette, «dice Aristotele a Nicomaco nell'Etica», sia del tutto assente dal testo.
Perdita di originalità del ragionamento. In filosofia, il valore sta nel tuo ragionamento. Presentare il testo "filosofico" liscio ma mediocre, cliché e privo di fonti prodotto dall'intelligenza artificiale come se fosse il tuo è intellettualmente futile e una violazione dell'integrità accademica. L’intelligenza artificiale produce la media; La tesi originaria, la sottile distinzione e l'audace obiezione sono lasciate all'uomo.
Interpretazione superficiale e pregiudizio. L’intelligenza artificiale potrebbe riassumere un filosofo con uno stereotipo popolare ma impreciso (riducendo Nietzsche a uno slogan, ad esempio), presentare un’unica tradizione come “corretta” su un argomento controverso o replicare pregiudizi culturali nei dati di addestramento. I commenti dovrebbero sempre passare attraverso il tuo filtro critico.
Disciplina di verifica: tre passaggi
Applicare un riflesso in tre fasi a ciascuna uscita:
- Collegalo alla fonte. Ogni citazione, attribuzione e affermazione “il filosofo disse” di AI deve essere basata sul testo principale. "Esattamente in quale opera, in quale sezione, in quale traduzione?" e guarda tu stesso l'originale. Verifica ogni frase tra virgolette con la sua fonte.
- Conferma con fonte indipendente. Verificare un'interpretazione o un'affermazione "comunemente accettata" con una fonte secondaria affidabile (enciclopedia accademica, articolo sottoposto a revisione paritaria). Non fare affidamento su un paragrafo scorrevole.
- Passalo attraverso il filtro dell'interpretazione e dei pregiudizi. Il risultato distorce un filosofo? Esiste una lettura alternativa? Presenta una questione controversa in modo unilaterale? Il tuo giudizio esperto è il filtro finale.
tre mini custodie
Caso 1: mappatura del tempo risparmiato. Uno studente laureato stava cercando di estrarre la struttura argomentativa di un denso articolo di epistemologia di 40 pagine. L'intelligenza artificiale ha fornito la prima bozza dello scheletro premessa-conseguenza in 15 minuti; lo studente ha accelerato la mappatura che normalmente richiederebbe mezza giornata. Ma ha convalidato ogni premessa ricollegandola al paragrafo del testo, e lui stesso ha aggiunto un presupposto implicito che l’IA aveva omesso.
Caso 2: la verifica ha rilevato un preventivo inventato. Un ricercatore ha chiesto all'intelligenza artificiale di chiedere il punto di vista di Hume sulla causalità. YZ ha fornito una frase chiara e un numero di pagina tra virgolette. Quando il ricercatore guardò la sezione pertinente del Trattato sulla natura umana, non c'era né quella frase né quella pagina; L’IA aveva prodotto una citazione plausibile ma inventata. La fase di collegamento ha impedito l'inserimento di un'attribuzione fraudolenta nell'articolo.
Caso 3 — Limite di originalità. Uno studente aveva un compito di etica scritto interamente da AI e presentato. Il testo era scorrevole, ma privo di fonti, cliché e privo dell'opinione dello studente; Inoltre, le due "fonti" sono state fabbricate. Questo era sia un contributo originale pari a zero che una violazione dell’integrità accademica. L’uso corretto era quello di utilizzare l’intelligenza artificiale come partner di discussione e strumento di redazione e consentire allo studente di costruire da solo la logica, la tesi e le fonti.
Prompt debole / Prompt forte
Suggerimento debole:
Scrivi qualcosa sull'etica di Kant.
Questa richiesta è vaga: non richiede fonti, è aperta a distorsioni e cliché, non può essere verificata e il risultato non sarà la tua opinione.
Suggerimento potente:
Il tuo ruolo: attento docente di filosofia. Riassumi il testo che ti fornirò riguardante la formulazione kantiana dell'“universalizzabilità” dell'imperativo categorico. Regole: fare affidamento solo sul testo che fornisco; Aggiungi informazioni extra-testuali. Collega ogni affermazione a un paragrafo del testo. Se non sei sicuro, contrassegnalo come "non chiaro nel testo". Se usi le virgolette, usa solo quelle che compaiono parola per parola nel testo. Testo: [incolla il testo qui]
Questo suggerimento limita la fonte, impedisce la fabbricazione, è verificabile e lascia il pensiero a te.
Quattro modelli copiabili
1) Valutazione dell'idoneità al lavoro:
Il tuo ruolo: consulente filosofico senior. Descriverò il lavoro di seguito. Dimmi (1) se si tratta di un lavoro di lettura/riassunto/mappatura/disegno che può essere delegato a un'intelligenza artificiale, o un lavoro che richiede giustificazione e pensiero originale, (2) il costo intellettuale/accademico di un risultato errato, (3) la verifica che dovrei fare prima e dopo la delega. Lavoro: [inserisci il lavoro qui]
2) Obbligo di collegamento alla fonte:
Ti darò un testo filosofico. Per ogni commento e affermazione, fare SEMPRE riferimento al paragrafo/frase presente nel testo. Non attribuire al filosofo alcuna opinione che non sia nel testo. Utilizza solo le virgolette che compaiono parola per parola nel testo. Se non sei sicuro, contrassegnalo come "necessita di verifica".
3) Originalità e limite di ruolo:
Sei il mio sparring partner, non il mio scrittore. NON scrivere la mia tesi su questo argomento. Invece: nomina 3 forti obiezioni alla mia tesi, 2 presupposti che potrei aver trascurato e 1 concetto che devo chiarire. Scriverò il testo finale. La mia tesi: [inserisci qui la tua tesi]
4) Controllo deformazione/bias:
Controlla se il seguente riassunto distorce un filosofo. (1) Esiste una riduzione a un cliché popolare ma falso? (2) Una questione controversa è presentata unilateralmente? (3) Qual è l'interpretazione alternativa? Mostra letture fedeli del testo, non la tua interpretazione. Riepilogo: [incolla il riepilogo qui]
Tabella di separazione dei ruoli
affari
Ruolo dell'intelligenza artificiale
il ruolo dell'uomo
Livello di rischio
Riassumere un testo lungo
Prima bozza di sintesi
Autenticazione rispetto alla fonte
medio
Mappatura degli argomenti
Quadro antecedente-conseguenza
giudizio di validità
medio
Trovare una citazione/citazione
Generazione di candidati
Conferma nella fonte primaria
alto
Giustificare il caso etico
Generare opzioni e obiezioni
Decisione e giustificazione
molto alto
Stesura tesi/contributo originale
compagno di sparring
l'articolo stesso
molto alto
Errori comuni
- Utilizzando la citazione fornita da AI senza verificarla. L'errore più comune e più distruttivo in campo umano; Ogni frase tra virgolette deve essere confermata nella fonte primaria.
- Delegare il pensiero. Lasciare all’intelligenza artificiale il compito di costruire l’argomentazione, difendere la tesi e produrre la giustificazione significa rinunciare al lavoro stesso in filosofia.
- Confondere un luogo comune con un'informazione. Accettando come “corretto” che l'IA riassuma un filosofo con uno slogan; Non dovresti accettare commenti senza tornare al testo.
- Fornire testo AI senza citare la fonte. Violazione dell'integrità accademica; Segui le linee guida sull'utilizzo dell'intelligenza artificiale e la dichiarazione di trasparenza della tua organizzazione.
- Basandosi su un'unica uscita. Porre la stessa domanda in modo diverso e accettare un'interpretazione come definitiva senza confermarla con una fonte secondaria.
In sintesi
Intelligenza artificiale; È un potente assistente che accelera la lettura del testo, la mappatura degli argomenti, la scansione della letteratura e la generazione di bozze in filosofia ed etica applicata. Ma è responsabilità umana giudicare l’argomento, interpretare correttamente un filosofo, giustificare una decisione etica e produrre una tesi originale. Tre rischi devono essere riconosciuti fin dall'inizio: allucinazione (citazione/fonte inventata), perdita di originalità del giudizio e interpretazione superficiale/distorta. L’antidoto è la disciplina della verifica in tre fasi: collegamento alla fonte, verifica indipendente, filtro attraverso l’interpretazione e i pregiudizi. In questo modulo utilizzeremo l'intelligenza artificiale end-to-end, ma sarai sempre tu a pensare e firmare.
Compito dell'applicazione
- Scegli un paragrafo denso da un testo filosofico che stai studiando.
- Utilizza il modello "strong prompt" per fornire all'IA un riepilogo basato solo su quel testo.
- Collega ciascuna affermazione nel riassunto alla frase nel testo; Segna se l'IA aggiunge informazioni extratestuali o enfasi inventata.
- Se AI ha fornito una citazione, controlla se è letterale nella fonte primaria.
- Scrivi il tuo commento di una frase: dai il tuo contributo, non quello dell'intelligenza artificiale.
lista di controllo
- [ ] Prima di consegnare il lavoro, "cosa perderò se va storto?" Ho posto la domanda.
- [] Ho verificato ogni citazione e attribuzione nell'output con la fonte primaria.
- [ ] Ho contrassegnato commenti fuori testo o distorti.
- [ ] Ho deciso io stesso sulla validità dell'argomentazione e sulla giustificazione.
- [ ] Ho scritto la tesi originale e il testo finale; L’intelligenza artificiale è semplicemente diventata uno sparring partner.
- [ ] Ho seguito le regole di trasparenza e utilizzo dell'intelligenza artificiale del mio istituto.