Cercetare și verificarea faptelor: riscul surselor, citatelor și surselor fabricate — Inteligența artificială în scriere și editare

Câștiguri:

Abilitatea de a utiliza inteligența artificială ca hartă de pornire în procesul de cercetare și de a conecta fiecare fapt și citat la sursa primară
Abilitatea de a recunoaște riscul surselor fabricate, a citatelor false și a datelor false (halucinații) și de a aplica verificarea sistematică
Abilitatea de a edita note de cercetare, bibliografie și liste de verificare cu suport de inteligență artificială și de a menține fiabilitatea articolului

Coloana vertebrală invizibilă a scrierii bune este cercetarea. O dată, o statistică, un citat, o descoperire științifică - acestea poartă credibilitatea textului. Un singur fapt fals poate distruge credibilitatea unei întregi lucrări. Inteligența artificială (IA) pare utilă în mod seducător în procesul de cercetare: oferă un răspuns imediat, fluid și sigur la fiecare întrebare. Dar aici se află cea mai periculoasă capcană a autorului: AI poate produce surse, citate, date și descoperiri care nu există de fapt, ca și cum ar fi adevărate. Putem rezuma această unitate într-o singură propoziție: AI poate fi harta de pornire pentru cercetare, dar nu poate fi niciodată resursa finală.

Halucinația: cel mai insidios risc

Halucinația este atunci când AI prezintă informații inexistente într-un limbaj sigur și fluent. Conform cercetărilor, cele mai periculoase forme ale acesteia sunt:

Sursă fabricată: AI poate fabrica o carte, un articol sau un raport care nu există de fapt; Mai mult, cu numele autorului, anul și informațiile din jurnal realiste. „Yılmaz, A. (2019). Digital Literacy. Journal of Communication, 14(2).” — sună real, dar s-ar putea să nu fie.

Citat fals: AI poate atribui un citat unei persoane reale pe care nu l-a spus niciodată. Oferă numele unui scriitor celebru și o propoziție pe care acel scriitor nu a rostit-o niciodată.

Data/numărul incorecte: poate da o dată incorectă a unui eveniment, o statistică, un procent; toate cu același ton precis.

Fapt confuz: poate confunda două fapte adevărate și poate produce o combinație falsă (cum ar fi atribuirea declarației unei persoane unei alte persoane).

Ce au aceste riscuri în comun: toate par fluide și convingătoare. Fluența nu înseamnă acuratețe. Singura protecție este verificarea sistematică a legăturii cu sursa primară.

Atenție: Întrebați AI „este această sursă reală?” Cererea NU este o metodă de verificare. AI poate confirma, de asemenea, sursa pe care a inventat-o ca „da, este real”. Verificarea se face în afara AI, la sursa primară: deschiderea jurnalului, a cărții, a bazei de date în sine și găsirea acesteia.

Rolul legitim de cercetare al AI

În ciuda tuturor acestor avertismente, AI nu este lipsită de valoare în cercetare; doar rolul său este limitat. Utilizări legitime:

Harta de pornire: stabilirea de unde să începeți cu un subiect, ce subtitluri există și ce concepte trebuie cercetate. Acestea sunt liste de lucruri de căutat, nu răspunsuri.

Clarificarea conceptului: înțelegerea unui termen necunoscut din prima mână (pentru a-l verifica apoi de la sursă).

Generarea întrebărilor: „Ce întrebări ar trebui să pun în legătură cu asta, ce aș putea să fi ratat?” AI este bun în a semnala punctele de orbire.

Editare: rezumarea, clasificarea și formatarea bibliografiei notelor colectate (verificate).

Tabelul de mai jos rezumă la ce este și pentru ce nu este bună IA în cercetare:

Căutare

Este AI potrivit?

notă

Harta introductivă la subiect

Doar direcție, nu răspuns

Generarea de întrebări pentru căutare

Afișează puncte de orbire

Furnizați sursa/citarea

Se poate inventa; verifica de la primar

Export istoric/statistici

Poate fi greșit; cumpara de la sursa

Editați notele verificate

Tu colectezi, AI organizează

Fluxul de verificare sistematică

O regulă pentru fiecare fapt: mergeți la sursa primară. O sursă primară este locul unde sunt publicate informațiile: articol original de cercetare, agenție oficială de statistică, propria carte/interviu, document original. Ceea ce spun AI (și chiar rezumatele secundare) este o „afirmație” până la verificare, nu un „fapt”.

Flux de verificare:

Marcați: pe măsură ce scrieți, marcați fiecare fapt, dată, citat și număr cu eticheta [VERIFY].
Găsiți sursa primară: deschideți singur sursa pentru fiecare articol etichetat; Există, conținutul său se potrivește cu ceea ce se spune?
Verificare încrucișată: Verificați faptele critice din cel puțin două surse independente de încredere.
Păstrați înregistrări: notați sursa fiecărui fapt verificat; În publicare, bibliografia provine din această notă.

Puteți utiliza AI în partea de editare a acestui flux:

Context: Mai jos sunt notele pe care le-am adunat și VERIFICAT din sursa PRIMARĂ, cu sursa scrisă lângă fiecare notă. Sarcină: Grupați aceste note după temă și sugerați un titlu pentru fiecare grup. NU ADĂUGAȚI nicio afirmație fără o sursă; Faptele, datele sau citatele pe care nu le-am dat sunt FAKE. Marcați părțile lipsă ca „sursa lipsește aici”.

De asemenea, puteți utiliza AI ca „sceptic”:

Sarcină: enumerați TOATE afirmațiile faptice, datele, numerele și citatele care trebuie verificate în textul de mai jos. Pentru fiecare dintre ele, notați „ce tip de sursă primară ar trebui verificată?” NU raspundeti singuri; Apare doar lista de verificare.

Sursă primară, secundară și terțiară

Cunoașterea ierarhiei sursei în validare vă face munca clară. O sursă primară este locul în care informația este produsă direct: articolul de cercetare original, tabelul statistic oficial, propria carte, hotărârea judecătorească, documentul original. O sursă secundară este textul care interpretează sau transmite primarul: un reportaj de știri, o recenzie, un articol de enciclopedie. Sursele terțiare sunt rezumate care compilează surse secundare. Ieșirea AI este în cel mai bun caz ca un rezumat terțiar; De cele mai multe ori este chiar mai slab decât atât, pentru că nu își poate arăta sursa și o poate inventa. Regula: cu cât un fapt este mai critic, cu atât ar trebui să mergi mai primar. O sursă secundară poate fi suficientă pentru atmosfera unui roman; O sursă primară este necesară pentru o mențiune de sănătate, o dată sau o declarație atribuită unei persoane. Utilizați AI pe stratul „unde ar trebui să mă uit” din partea de jos a acestei piramide, niciodată pe stratul „acesta este adevărul” din partea de sus.

Sfat: atunci când plasați un fapt neverificat în text, lăsați o etichetă [VERIFICARE] vizibilă lângă ea și nu trimiteți textul cu nicio propoziție care poartă această etichetă. Etichetele sunt un obicei simplu, dar salvator, care face vizibile faptele uitate, spunând „Mă voi uita la ele mai târziu”.

trei mini cutii

Cazul 1 – articol fals. Un autor a scris că YZ a dat „2020, Journal of Media Studies, Demir et al.” pune sursa direct în bibliografie. Un cititor a constatat că un astfel de articol nu există. Autorul a trebuit să verifice din nou întreaga bibliografie de la primară, rezultând încă două surse apocrife. Lecție: nicio sursă nu este inclusă în articol fără a fi găsită personal.

Cazul 2 – Utilizare corectă. Un jurnalist a început un subiect complex cu AI: extragerea subtitlurilor și întrebărilor de pus. Apoi a cules fiecare fapt de la agenția oficială de statistică și din interviuri unu-la-unu; A folosit AI doar pentru a edita notele pe care le-a verificat. Scrisul a ieșit rapid și solid; Nu a fost trecut un singur fapt inventat.

Cazul 3 — Citat fals. Un vorbitor a inclus în prezentarea sa un citat „inspirator” atribuit unui celebru om de știință AI. Promisiunea a fost făcută; cineva din audiență a observat și credibilitatea vorbitorului a fost afectată. Modul corect: a fost verificarea citatului din propria carte/discurs.

Prompt slab / Prompt puternic

Prompt slab:

Dați-mi 5 surse academice și un citat pe acest subiect.

Acest prompt invită AI să fabrice resurse; Rezultatul pare realist, dar este probabil neverificabil.

Solicitare puternică:

Rolul dumneavoastră: asistent direcție cercetare. Subiect: [subiect]. Sarcină: Există 6 SUB-TITURI pe care trebuie să le cercetez pe acest subiect și 2 întrebări pe care trebuie să le pun pentru fiecare. De asemenea, direcționați-mă către „ce fel de surse primare (statistici oficiale, reviste revizuite de colegi, interviuri unu-la-unu) pot căuta?” Arată-mi doar unde să caut.

Diferență: AI-ului i se cere direcție, nu răspunsuri; Ușa de fabricație este închisă, verificarea este la autor.

Greșeli comune

Folosind resursa oferită de AI fără a o verifica. Sursa fabricată devine o minciună publicată cu semnătura ta.
A întreba AI „este adevărat” și a avea încredere în răspunsul său. AI își poate confirma și propria invenție.
Neverificarea citatelor din propria sursă. Citatele false distrug credibilitatea.
Să fii mulțumit de o singură sursă. Faptele critice necesită verificare încrucișată din cel puțin două surse independente.
Gândindu-vă la AI ca fiind „ultima resursă” mai degrabă decât „harta de pornire”. AI arată direcția; Sursa primară dă faptul.

Pe scurt

În cercetare, AI este o hartă de pornire și un organizator puternic: extragerea subtitlurilor, generarea de întrebări, colectarea de note verificate. Dar munca de a furniza surse, citate, date și statistici nu poate fi niciodată de încredere; pentru că poate inventa totul în mod convingător (halucinație). Regula de aur: conectați fiecare fapt la sursa primară, verificați criticul, nu folosiți nicio sursă dată de AI fără să o găsiți singur. AI spune unde să caute; Tu decizi ce găsești.

Sarcina de aplicare

Alegeți un subiect. În primul rând, obțineți subtitluri și întrebări din AI cu șablonul „direcție” (NU sursa). Apoi cereți în mod deliberat AI o sursă/citat și încercați să verificați acea sursă ca principală: există într-adevăr, conținutul său se potrivește cu ceea ce se spune? Notați constatările dvs. (câte surse au fost verificate, câte nu au fost găsite). În cele din urmă, faceți o listă de verificare a propriului text folosind șablonul „sceptic”.

lista de verificare

[ ] Am folosit AI pentru a genera direcție și întrebări, nu pentru resurse?
[ ] Am marcat fiecare fapt, dată, citat și număr cu [VERIFICARE]?
[ ] Am găsit și verificat personal fiecare sursă la sursa primară?
[ ] Am verificat încrucișat faptele critice cu cel puțin două surse independente?
[ ] Am verificat citatele cu sursa proprie a persoanei?
[ ] Am dat în mod explicit AI regula „sursă/fabricare de citare”?