Unitate 9 / 11

Reproductibilitate și cercetare transparentă

Câștiguri:

  • Capacitatea de a face cercetarea trasabilă prin înregistrarea deciziilor metodologice, solicitărilor și informațiilor model
  • Abilitatea de a separa datele brute de datele procesate și de a documenta toți pașii de conversie
  • A fi capabil să declare în mod transparent rolul inteligenței artificiale în secțiunea metode și să aplice testul „poate fi reproductibil”

Cea mai fundamentală trăsătură a științei este că o constatare nu se bazează pe cuvântul unei singure persoane, ci pe un proces care poate fi verificat de alții. Reproductibilitatea este capacitatea unui alt cercetător, luând datele și metoda unui studiu, de a ajunge la același rezultat urmând aceiași pași. Un concept similar este transparența: cercetătorul documentează clar ce a făcut și de ce a luat ce decizie. În era AI, aceste două concepte au devenit atât mai ușoare, cât și mai critice. Ușor, deoarece AI ajută la documentarea proceselor; critic, deoarece dacă nu lăsați nicio urmă din deciziile AI, nimeni – nici măcar dumneavoastră – nu vă poate reproduce munca. În această unitate veți învăța cum să vă faceți cercetarea reproductibilă și transparentă.

Miezul problemei este următorul: atunci când lucrați cu inteligența artificială, luați o mulțime de mici decizii - ce solicitare ați folosit, ce model, ce setări, ce rezultate ați acceptat și pe care le-ați respins. Dacă aceste decizii nu sunt documentate, este posibil să obțineți o ieșire diferită atunci când rulați același prompt într-o zi diferită (modelele de limbă nu oferă exact același răspuns de fiecare dată). Când un recenzent sau un coleg întreabă „cum ați ajuns la această analiză a temei”, „AI a spus așa” nu este un răspuns științific. Transparența înseamnă tocmai deschiderea acestei „cutii negre” și trasarea procesului.

Pas cu pas: stabilirea unei cercetări trasabile

1. Tine un jurnal de decizie. Notați fiecare decizie metodologică importantă - de ce acest eșantion, de ce acest cod, de ce ați acceptat această propunere AI - într-un jurnal datat. AI ajută la organizarea acestui jurnal.

2. Salvați solicitările și informațiile despre model. Păstrați o evidență a fiecărei solicitări pe care le-ați folosit, pe ce model AI l-ați rulat și la ce dată. Aceasta este „lista de materiale” pentru munca ta.

3. Separați datele brute de datele procesate. Păstrați datele originale neschimbate; faceți toate conversiile (curățare, codificare) separat, cu pași documentați. Deci toată lumea poate urmări de la început.

4. Scrieți clar rolul AI. În secțiunea de metodă, spuneți cu sinceritate în ce sarcini și cum ați folosit AI. Majoritatea revistelor și instituțiilor necesită acum acest lucru.

5. Distribuiți date și coduri, dacă este posibil. Atunci când etica și confidențialitatea o permit, partajarea datelor anonime și a codului de analiză în depozite deschise este punctul culminant al transparenței.

Sfat: Un test simplu: „Pot să fac și eu această cercetare din nou în 6 luni?” Dacă nu ți-ai documentat solicitările, deciziile și pașii, cel mai probabil răspunsul este „nu”. Fă-l producabil pentru tine; Apoi se întâmplă și pentru altcineva.

trei mini cutii

Cazul 1 — Analiza fără urme s-a prăbușit. Un cercetător a efectuat o analiză a temei cu AI, dar nu a înregistrat ce indicație a folosit. Când arbitrul a întrebat „cum ai ajuns la aceste teme?” nu a putut arăta procesul; A trebuit să repete analiza peste tot, de data aceasta ținând un jurnal. A pierdut două săptămâni.

Cazul 2 — Jurnalul de decizii încheie discuția. Un dezacord a apărut într-o echipă care a întrebat „de ce am combinat aceste coduri?” Dar jurnalul de decizie conținea data și justificarea fiecărei decizii de fuziune. Argumentul a fost rezolvat în câteva minute când AI a rezumat jurnalul și l-a afișat cronologic.

Cazul 3 – Dezvăluirea transparentă a creat încredere. Într-un articol, autorii au scris în mod explicit că am folosit AI „pentru editarea transcripției și sugestia inițială a codului, doi cercetători verificând manual toate codurile”. Evaluatorii au considerat această transparență pozitivă; S-a dovedit a fi mult mai fiabil decât folosirea unui AI acoperit.

Patru șabloane copiabile

1) Șablon de jurnal de decizie:

Creați un tabel metodologic de jurnal de decizie. Coloane: data, decizie, justificare, alternative, rolul AI (dacă există), cine a aprobat-o. Introduceți notele mele de decizie de mai jos în acest tabel și marcați toate motivele care lipsesc ca „trebuie completate”. Note: [aici]

2) Proiect de declarație de utilizare a AI:

Redactați un paragraf care explică în mod transparent modul în care folosesc AI pentru a-l pune în secțiunea de metode. L-am folosit în aceste sarcini: [listă]. NU l-am folosit în următoarele sarcini: [listă]. Am verificat manual toate ieșirile. Model și data: [x]. Folosiți un limbaj onest, subestimat, academic.

3) Inspecție de reproductibilitate:

Descriu procesul meu de cercetare: [rezumat]. Poate un alt cercetător să reproducă asta? Listați pașii nedocumentați, neclari sau care nu pot fi urmăriți: ce date, ce transformare, ce prompt, ce decizie lipsește? Spune-mi ce să înregistrez pentru fiecare spațiu.

4) Harta provenienței datelor:

Enumerați toți pașii de transformare de la datele brute la constatarea mea finală ca flux: date brute → curățare → codificare → analiză → găsire. Arată ce s-a făcut la fiecare pas, cu ce instrument și cu ce decizie. Marcați pasul care nu poate fi urmărit. Proces: [aici]

Prompt slab / Prompt puternic

Prompt slab:

Scrieți metoda acestei analize într-un paragraf.

AI produce un paragraf de metodă generică fără a documenta procesul; Cum a fost luată decizia și unde a fost folosită IA rămâne neclar. Acesta nu este fabricabil.

Solicitare puternică:

Scrieți o descriere producabilă pentru secțiunea de metodă. Utilizați următoarele informații: sursa de date [x], eșantionul [y], pașii de analiză [z], modelul AI pe care l-am folosit și data acestuia [t], rolul exact al AI [r], procesul de verificare uman [d]. Scrie suficient de concret pentru ca altcineva să poată urma acești pași și să-i reproducă. Cere-mi orice informație pe care am omis-o.

Diferența: a doua abordare face procesul concret, trasabil și cu adevărat reproductibil.

Straturi de transparență

strat

Ce este documentat

De ce este important?

jurnal de decizie

Decizii metodologice + raționament

apără justiția

Înregistrare promptă

Prompt folosit, model, data

Face AI manevrabil

Originea datelor

Conversii brute → procesate

deschide trepte

Declarație AI

Rolul și limita AI

onestitate

partajarea

Date anonime + cod

Transparență maximă

Greșeli comune

  • Nu se salvează solicitările. Dacă nu păstrați instrucțiunile pe care le-ați folosit, nu puteți demonstra procesul.
  • Înseamnă „AI a spus așa”. Justificarea științifică este proces și judecată, nu cuvântul modelului.
  • Suprascrierea datelor brute. Păstrați originalul; Faceți conversiile separate și documentate.
  • Ascunderea utilizării AI. Declarația transparentă construiește încredere; Ascunderea cauzează pierderea reputației.
  • Lăsând-o improductibilă chiar și pentru tine. O muncă pe care nu o poți face din nou după 6 luni nu este știință.

Pe scurt

Reproductibilitatea și transparența transformă un studiu din cuvântul unei persoane într-o știință pe care oricine o poate testa. Acest lucru este și mai critic atunci când lucrați cu AI, deoarece dacă deciziile modelului nu sunt urmate, procesul devine o cutie neagră. Păstrați un jurnal de decizie, înregistrați solicitările și informațiile despre model, separați datele brute de cele prelucrate, declarați cu onestitate rolul AI și partajați datele și codul atunci când etica o permite. Un studiu care trece testul „Pot să mă reproduc după 6 luni” este de încredere și pentru alții.

Sarcina de aplicare

Pentru o mică analiză pe care o faceți sau o planificați, înregistrați cel puțin 5 decizii metodologice cu justificări cu „șablonul jurnal de decizie”. Păstrați solicitările pe care le utilizați, modelul și data într-un fișier separat. Apoi utilizați șablonul „audit de reproductibilitate” pentru ca AI să găsească lacune nedocumentate în procesul dvs. și să închidă fiecare lacună. În cele din urmă, scrieți o schiță a „Declarației de utilizare AI” și un paragraf transparent care să fie plasat în secțiunea de metode.

lista de verificare

  • [ ] Am scris motivele pentru fiecare decizie metodologică importantă în jurnal.
  • [ ] Am înregistrat solicitările pe care le-am folosit, modelul și data.
  • [ ] Am păstrat datele brute neschimbate și am documentat transformările.
  • [ ] Am declarat sincer rolul AI în secțiunea metode.
  • [ ] Am aplicat testul „Pot să mă reproduc după 6 luni”.