Įrodymų nuskaitymas ir dabartinė informacija: šaltinio patikrinimas ir haliucinacijos

Pelnas:

• Galimybė naudoti dirbtinį intelektą norint greitai nuskaityti dabartinę plėtros informaciją ir metodus bei patikrinti kiekvieną teiginį, prijungiant jį prie patikimo šaltinio
• Gebėjimas atpažinti išgalvotų šaltinių spąstus, seną informaciją ir mados metodus (metas su silpnais įrodymais) ir kvestionuoti įrodymų lygį
• Gebėjimas suprasti, kad dirbtinio intelekto produkcija yra atskaitos taškas, galutinis šaltinis yra recenzuota literatūra ir oficialios gairės

Vaiko vystymasis yra sparčiai besivystanti sritis: naujos atrankos priemonės, atnaujintos gairės, kintantys intervencijos metodai. Profesionalo pareiga yra neatsilikti nuo naujienų. Dirbtinis intelektas yra viliojančiai greitas įrankis šiam savalaikiškumui užfiksuoti: jis per kelias sekundes apibendrina temą, palygina požiūrius, sklandžiai atsako į klausimą „kas žinoma paskutinis“. Tačiau būtent toks greitis slepia didžiausią spąstą. Dirbtinis intelektas gali sugalvoti: pateikti neegzistuojantį tyrimą, klaidingą statistiką ar net netikrą šaltinį, tarsi tai būtų tiesa, pridėjus tikro mokslininko vardą. Šiame skyriuje apžvelgsime AI kaip atrankos pradžios tašką ir kiekvieno paraiškos patikrinimą, prijungdami jį prie patikimo šaltinio.

Pirmiausia svarbiausia sąvoka: haliucinacijos. Tai kalbos modelio gebėjimas pateikti informaciją, šaltinį ar tyrimą, kuris iš tikrųjų neegzistuoja, tarsi tai būtų tiesa. Modelis „neprisimena tikrovės“; Sugeneruoja galimas žodžių sekas. Todėl labai įmanoma, kad ji sukuria nuorodą, kuri yra labai panaši į tikrą šaltinį, bet neegzistuoja ("Yılmaz ir kt., 2019, Journal of Child Development"). Vaiko raidos eksperto pasitikėjimas klaidingu šaltiniu kenkia profesiniam patikimumui ir vaiko gerovei.

Kur dirbtinis intelektas naudingas, kur pavojingas?

AI yra gera pradžia norint suprasti ir suformuluoti temą: ji supaprastina sąvoką, siūlo paieškos terminus, apibendrina tekstą, išvardija priešingas nuomones. Tačiau tai nėra faktų šaltinis: nepasikliaukite skaičiais, datomis, studijų rezultatais, ribiniais balais ir šaltiniais. Taisyklė: Žemėlapiui piešti naudokite dirbtinį intelektą, o ne kaskite lobį. Lobis (tikrieji įrodymai) yra recenzuojamoje literatūroje ir oficialiose gairėse.

Saugus AI naudojimas

Pavojingas AI naudojimas

Sąvokos paaiškinimas paprasta kalba

Darant prielaidą, kad statistika yra tiksli

Siūlykite paieškos terminus ir temų žemėlapius

Šaltinio citavimas be patikrinimo

Apibendrinant ilgą tekstą

Mokymasis iš to amžiaus

Priešingų požiūrių įrėminimas

be jokios abejonės priimant metodo įrodymus

Įrodymų lygis ir mados metodo spąstai

Ne visi reikalavimai yra vienodi; Įrodymų lygis yra svarbus. Vieno atvejo pasakojimas nėra toks pat svarbus kaip pakartotinis, recenzuotas tyrimas, atliktas su daugeliu vaikų. Dažnas pavojus vaiko vystymuisi yra mados metodo spąstai: perdėti ir galutiniai pažadai, tokie kaip „kad naujas metodas greitai ištaisys visus vystymosi vėlavimus“, beveik visada yra prastų įrodymų požymis. Tikrasis mokslas yra atsargus; Tokie teiginiai kaip „tai tikrai išsprendžia“, „tai stebuklas“, „tai tinka visiems vaikams“ yra įspėjamoji vėliavėlė.

Tikrinimo disciplina:

1. Atskirkite ieškinį. Pažymėkite kiekvieną faktinį teiginį ir šaltinį AI tekste.
2. Nepriklausomai patikrinkite šaltinį. Ar šaltinis tikrai egzistuoja? Ar tai teisėjauja? Ar ji atnaujinta? Žiūrėkite tiesiai.
3. Suabejokite įrodymų lygiu. Atvejis, tyrimas, sisteminė apžvalga?
4. Pagauk hype. Skeptiškai vertinkite tam tikrus ir stebuklingus pažadus.
5. Grįžti į oficialų šaltinį. Galutinį žodį taria nacionalinės / tarptautinės gairės ir recenzuota literatūra.

Dėmesio: kito AI prašymas „patikrinti“ AI pateiktą šaltinį nėra patvirtinimas; Abu modeliai gali sukelti tą pačią klaidą. Tikrinimas vyksta žiūrint į patį šaltinį (žurnalą, vadovą, oficialią instituciją).

Patarimas: apibendrindami temą iš AI, aiškiai nurodykite „sukurkite šaltinį; jei nesate tikri, pažymėkite jį kaip „būtina patikrinti“; jei negalite pateikti galutinio šaltinio, nenurodykite jo. Tai sumažina, bet nepanaikina pagamintų šaltinių rizikos – jūs vis tiek tai patikrinate.

Savalaikiškumas, informacijos šviežumas ir interesų konfliktas

Dar viena dirbtinio intelekto riba – informacijos šviežumas. Kalbos modeliai mokomi remiantis duomenimis iki tam tikros datos; Nuo to laiko pasikeitusio vadovo, atnaujinto gairių sąrašo ar naujo požiūrio gali nebūti pasaulyje, kurį modelis „žino“. Modelis gali pateikti seną informaciją kaip dabartinę, to nepasakydamas. Todėl ypač tokiais klausimais kaip „aktualiausias“, „naujausias vadovas“, „nauja rekomendacija“ žiūrėkite dabartinį oficialios institucijos leidinį, o ne modelį. Modelis pateikia pradinį žemėlapį; Galutinį žodį taria autentiškas šaltinis su datos antspaudu.

Kitas svarbus filtras yra interesų konfliktas. Turinys, kuriame giriamas metodas, produktas ar programa, gali būti komercinis. AI gali nesąmoningai kartoti rinkodaros kalbą mokymo duomenyse ir pateikti prekės ženklo ar metodo teiginius kaip nešališką informaciją. Vertindami pretenziją paklauskite: kas tai sako ir kodėl; nepriklausomas, recenzuojamas šaltinis ar parduodanti šalis? Nepriklausomi įrodymai neturi tokios pačios svarbos kaip gamintojo teiginys. Kalbant apie vaikus ir šeimas, geriausia apsauga nuo komercinių manipuliacijų – kiekvienu žingsniu abejoti įrodymų lygiu ir šaltinio nepriklausomumu.

Atsargiai: Metodas, pristatomas kaip „naujas ir revoliucingas“, kelia dvigubą riziką tiek informacijos šviežumo, tiek interesų konflikto požiūriu: modelis arba visai jo nežino, arba žino rinkodaros kalba. Nekelkite tokių pretenzijų šeimai, nepatvirtinusios jų oficialiomis gairėmis ir nepriklausoma recenzuota literatūra.

Keturi nukopijuoti raginimai

1) Saugus temos santraukos raginimas:

Jūsų vaidmuo: juodraščio padėjėjas. Tiesiog apibendrinkite šią temą ekspertui: [tema]. ŠALTINIO PRIJUNGIMAS; Jei negalite nurodyti tikslaus šaltinio, nenurodykite. Pažymėkite bet kokį faktinį teiginį, dėl kurio nesate tikri, kaip „[būtina patikrinti]“. Galiausiai pasiūlykite man 5 paieškos terminus, kad galėčiau ieškoti šios temos patikimuose šaltiniuose.

2) Paraiškos šaltinio ištraukimo raginimas:

Toliau esančiame tekste atskirai išvardykite kiekvieną FAKTINIĄ TEIGINĮ (numeris, data, tyrimo rezultatas, šaltinis). Prie kiekvieno uždėkite užrašą „nepriklausomai patikrinta“. Jei tekste nurodomas šaltinis, priminkite, kad turėčiau patikrinti, ar šaltinis iš tikrųjų egzistuoja. Tekstas: [AI išvestis]

3) Mados metodo / perdėjimo kontrolė:

Patikrinkite šį metodo aprašymą: Ar jame yra perdėmų ar pažadų apie tam tikrą gydymą („tikrai pagydo“, „visi vaikai“, „greitai išgydo“, „stebuklas“). Pažymėkite kiekvieną. Įvertinkite metodo įrodymų lygį (atvejis / tyrimas / apžvalga / nežinomas) ir pridėkite įspėjimą „patikrinti iš oficialaus šaltinio“. Tekstas: [požiūrio aprašymas]

4) Įrodymų lygio užklausos raginimas:

Dėl šio teiginio išvardykite man 5 KRITIŠKUS KLAUSIMUS, kuriuos turėčiau užduoti atlikdamas patikimą vertinimą (pvz., kiek vaikų buvo patikrinta, ar jis buvo recenzuotas, ar jis buvo pakartotas, ar yra Turkijos pavyzdys, ar yra interesų konfliktas). Nesugalvokite atsakymų; tiesiog užduokite klausimus.Pretenzija: [tekstas]

trys mini dėklai

1 atvejis – pagamintas šaltinis. Ekspertas klausia AI apie intervencijos metodo veiksmingumą. AI pateikia sklandžią santrauką ir sako: „tai buvo parodyta 2021 m. metaanalizėje (Demir ir kt.).“ Antruoju raginimu ekspertas pažymi šaltinį ir ieško savarankiškai; Tokios metaanalizės nėra. Šaltinis yra išgalvotas. Ekspertas teiginio nenaudoja tol, kol jo nepatvirtina faktiniai, recenzuoti šaltiniai.

2 atvejis – mados metodas. AI cituoja populiarų metodą socialinėje žiniasklaidoje, kuris „per kelias savaites ištaiso visus vystymosi vėlavimus“. Ekspertas pagauna perdėjimą 3-iu raginimu; Šis tikslumas ir apibendrinimas yra silpnų įrodymų požymis. Žiūri į oficialias gaires ir recenzuojamą literatūrą; Metodas neturi tvirtų įrodymų, patvirtinančių teigiamą poveikį. Šeimai nerekomenduojama.

3 atvejis. Tinkamas naudojimas. Specialistas nori išmokti naujo atrankos metodo. Naudoja dirbtinį intelektą, kad įrėmintų temą ir gautų paieškos terminus su 1 raginimu; tada pereina į oficialius vadovus ir recenzuojamus šaltinius su šiomis sąlygomis. AI nupiešė žemėlapį, ekspertas iškasė lobį iš patikimo šaltinio. Rezultatas: greitas ir patikimas.

Silpnas raginimas / Stiprus raginimas

Silpnas raginimas:

Parašykite tyrimų, įrodančių, kad šis kūrimo būdas veikia, šaltinius.

Problema: Tiesiogiai kviečia dirbtinį intelektą gaminti išteklius; „įrodyti, kad tai veikia“ yra pakrautas šališkumu; patikrinimas nepateikiamas.

Galingas raginimas:

Objektyviai apibendrinkite šį metodą: [metodas]. Atskirkite pliusus ir minusus. ŠALTINIO PRIJUNGIMAS; Jei negalite nurodyti tikslaus šaltinio, nenurodykite jo; Kiekvieną faktinį teiginį pažymėkite kaip „[būtina patikrinti]“. Galiausiai duokite man 5 paieškos terminus, kad galėčiau ieškoti recenzuojamoje literatūroje, ir 3 klausimus, kad galėčiau sužinoti apie įrodymų lygį.

Dažnos klaidos

• Pasikliauti sukurtais šaltiniais: nepriklausomai, tiesiogiai patikrinkite kiekvieną šaltinį.
• AI klaidinimas su fakto šaltiniu: nepasitikėkite juo nustatydami skaičių / datą / ribą.
• Perdėjimo ignoravimas: teiginiai „Tai tikrai išsprendžia / stebuklas“ yra silpnų įrodymų ženklas.
• „Patvirtinimas“ naudojant du modelius: kito AI klausimas nėra patvirtinimas.
• Įrodymų lygio praleidimas: viena byla neturi tokio pat svorio kaip sisteminė peržiūra.

Apibendrinant

Dirbtinis intelektas yra galingas atspirties taškas kuriant, supaprastinant ir inicijuojant dabartinės informacijos paieškas; bet tai nėra faktas ir šaltinio autoritetas. Dėl haliucinacijų gali pateikti netikrus šaltinius ir statistiką. Nepriklausomai patikrinti kiekvieną faktinį teiginį ir šaltinį tiesiogiai iš recenzuojamos literatūros ir oficialių gairių; abejoja įrodymų lygiu; Perdėtus ir galutinius pažadus (mados metodas) žiūrėkite kaip įspėjamąją vėliavėlę. AI piešia žemėlapį; Kasate lobį iš patikimo šaltinio.

Taikymo užduotis

Pasirinkite dabartinę temą arba metodą. Gaukite saugią suvestinę ir paieškos terminus 1-uoju raginimu. 2. iš AI išvesties ištraukite faktinius teiginius ir šaltinius su raginimu; Ieškokite bent viename nepriklausomame šaltinyje, kad patikrintumėte, ar jis tikras, ar ne. 3. Atlikite perdėjimo / mados metodo patikrinimą su raginimu. Atkreipkite dėmesį į bent vieną išgalvotą / nepatikrinamą šaltinį ir vieną perdėtą teiginį, kurį rasite; tada patikrinkite teiginį su tikru, patikimu šaltiniu.

kontrolinis sąrašas

• [ ] Pažymėjau kiekvieną faktinį teiginį ir šaltinį.
• [ ] Aš nepriklausomai ir tiesiogiai patikrinau šaltinius (žurnalą/gidą/instituciją).
• [ ] Suabejojau įrodymų lygiu (byla, tyrimas, apžvalga).
• [ ] Perdėtus / tikslius pažadus traktavau įspėjimu dėl mados metodo.
• [ ] DI naudojau kaip kadravimo įrenginį, o ne fakto šaltinį.
• [ ] „Patikrinti“ nenaudojau kito AI.
• [ ] Galutinę informaciją grindžiau recenzuota literatūra ir oficialiais nurodymais.