Patvirtinimas, haliucinacijos ir mokslinis vientisumas

Pelnas:

• Gebėjimas suprasti, kad haliucinacijos yra neatskiriamos nuo kalbos modelio, ir pasirinkti kiekvienam išvesties tipui tinkamą patikrinimo metodą.
• Patvirtinkite kritines vertes dviem nepriklausomais trianguliacijos būdais ir nepainiokite sklandumo su tikslumu
• Gebėjimas taikyti skaidrumą, atsekamumą, duomenų vientisumą ir žmogaus atsakomybę kaip mokslinio vientisumo pagrindą

Šiame modulyje vėl ir vėl kartojosi viena frazė: „AI gamina, žmonės tikrina“. Šiame vienete tą sakinį paverčiame sistema. Siekiama atpažinti haliucinacijas (klaidingos/išgalvotos informacijos teikimą patikima kalba), kuri yra pavojingiausias DI elgesys, nustatyti konkretų kiekvieno išvesties tipo patikrinimo metodą ir visa tai įtraukti į mokslinio vientisumo (sąžiningumo, skaidrumo, atsekamumo) rėmus. Nepatvirtinta AI išvestis chemijoje nėra tik klaida; Tai gali būti sprogdinimo eksperimentas, apsinuodijimas arba popieriaus ištraukimas.

Kodėl haliucinacijos yra neišvengiamos?

Didelės kalbos modelis sukuria „kitą labiausiai tikėtiną žodį“; Juo siekiama to, kas įmanoma, o ne to, kas tiesa. Taigi jis gali užpildyti molekulinę masę, DOI arba virimo temperatūrą verte, kuri „atrodo pagrįsta“ – netikrindama, ar ji tikra. Haliucinacijos nėra gedimas, o šios technologijos prigimties pasekmė. Sprendimas yra ne „bandyti pataisyti“ modelį, o sukurti patvirtinimo apvalkalą aplink kiekvieną išvestį.

Pats klastingiausias haliucinacijų aspektas yra pasitikinti jos kalba. Neteisinga molekulinė masė pateikiama lygiai taip pat patikimai kaip ir teisinga. Taigi „atrodo pasitikintis“ niekada nereiškia „teisingai“.

Dėmesio: tai, kaip sklandžiai ir užtikrintai AI kalba tema, nesusijęs su tos informacijos tikslumu. Sklandumas įtikina; Tik nepriklausomas šaltinis nustato tikslumą.

Patvirtinimas pagal išvesties tipą chemijoje

Kiekvienas išvesties tipas turi savo patikrinimo metodą. Užuot įsiminę vieną taisyklę, naudokite atitinkamą išvesties įrankį:

Išvesties tipas

Tikrinimo būdas

transporto priemonė

Molekulinė masė, formulė

Perskaičiuokite iš formulės

RDKit / rankiniu būdu

Šypsenos/struktūra

Išanalizuoti + kanonizuoti

RDKit

Citata / DOI

Išspręskite duomenų bazėje

doi.org, Crossref

Fizinė konstanta (kn, pKa)

Nuorodų duomenų bazė

PubChem, vadovas

skaitinis skaičiavimas

Rašyti+paleisti kodą

Python

reakcija / būklė

Literatūros patvirtinimas

Reaxys, straipsnis

užstato reikalavimas

SDS/GHS

Oficialus SDS

Spektro priskyrimas

Daugiatechninis + žmogus

Eksperimentinis spektras

Ši lentelė iš tikrųjų yra šio modulio santrauka: kiekvienas vienetas yra viena eilutė.

Trianguliacija: trys nepriklausomi keliai

Pati galingiausia patikros technika yra „trianguliacija“: prie tos pačios išvados padaroma trimis nepriklausomais būdais. Pavyzdžiui, molekulinė masė: (1) ką sako YZ, (2) RDKit skaičiavimas, (3) skaičiavimas ranka pagal formulę. Jei trys sutampa, pasitikėjimas yra didelis; Jei kas nors nuklysta, sustokite ir ištirkite. Niekada nepasikliaukite vienu chemijos šaltiniu; Ieškokite bent dviejų nepriklausomų kelių.

Žingsnis po žingsnio: patvirtinimo darbo eiga

1. Klasifikuokite išvestį: ar tai skaičius, struktūra, priskyrimas, saugumo tvirtinimas?
2. Pasirinkite tinkamą įrankį: gaukite tinkamą išvesties tipo patvirtinimo kelią iš aukščiau esančios lentelės.
3. Skaičiuoti / ieškoti savarankiškai: paleiskite transporto priemonę nepriklausomai nuo AI; palyginkite rezultatą.
4. Jei yra nukrypimų, sustokite: Jei reikšmės nesutampa, nebandykite toliau, neištyrę, kuri iš jų teisinga.
5. Palikite savo pėdsaką: įrašykite, ką ir kaip patikrinote (mokslinis sąžiningumas).
6. Nurodykite neapibrėžtumą: pažymėkite tai, ko negalima patikrinti, kaip „nepatvirtintą“, neslėpkite.

Keturi kopijuojami šablonai

1) savęs patikrinimas:

Jūs ką tik pateikėte tokią išvestį: [OUTPUT]. Užduotis: Atskiroje eilutėje nurodykite kiekvieną šio rezultato skaitinį / faktinį teiginį. Kiekvienam teiginiui: "kaip tai savarankiškai patikrinti?" rašymo metodas (kuris įrankis / duomenų bazė). NETEIGTI, kad teiginys yra teisingas; tiesiog duokite būdą tai patikrinti.

2) Trianguliacijos valdymas:

Noriu patikrinti šios molekulės svorį trimis būdais: [Šypsenos].Užduotis: 1) Išveskite molekulinę formulę.2) Parodykite molekulinės masės skaičiavimo atomą pagal atomą (kiekvieno elemento indėlis).Pastaba: taip pat apskaičiuosiu jį RDKit ir trečia palyginsiu su jūsų pateiktu. Jei trys nesutampa, perspėkite.

3) Dviprasmiškas žymėjimas:

Šiame tekste yra keli faktiniai tvirtinimai:[TEKSTAS]Užduotis: prie kiekvieno teiginio uždėkite patikimumo lygio etiketę:[PATIKRINTA] / [PATIKRINTA] / [NETIKRINTA].Nežymėkite nieko [PATIKRINTA], jei nesate tikri.

4) Kryžminė nuoseklumo užklausa:

Aš užduosiu tą patį klausimą dviem skirtingais būdais; Pažiūrėkite, ar jūsų atsakymai yra nuoseklūs. A klausimas: kokia yra junginio molekulinė formulė

Silpnas raginimas / Stiprus raginimas

Silpnas:

Užsirašykite viską, ką žinote apie šį junginį.

AI be atrankos maišo patikrinamą ir išgalvotą informaciją; Neaišku, kuris iš jų yra tikras.

Stiprus:

Pateikite informaciją apie šį junginį, bet kiekvieną teiginį pažymėkite kaip:[DETERMINISTINĖ – patikrinta pagal instrumentą] pvz. molekulinė formulė,[EKSPERIMENTAS – reikalinga citata] pvz. lydymosi temperatūra,[NETIKRAS – nesu tikras].Nerašykite jokių nepaženklintų pretenzijų.

Skirtumas: mes privertėme AI pažymėti savo neapibrėžtumą; Patikrinimo darbus padarėme planuojamus.

Mokslinis sąžiningumas: sąžiningumas ir atsekamumas

Patikrinimas nėra tik techninis žingsnis, tai yra etinė problema. Mokslinis sąžiningumas reikalauja:

• Skaidrumas: neslėpkite, kad naudojate dirbtinį intelektą; Nurodykite pagal savo publikavimo / ataskaitos politiką.
• Atsekamumas: įrašykite, kokia išvestis buvo gauta iš AI ir kaip ji buvo patikrinta.
• Duomenų vientisumas: „Gražinti“ rezultatus naudojant AI, nepateisinamai atmesti nuokrypius yra apgaulė.
• Atsakomybė: esate atsakingas už galutinį rezultatą; „Taip pasakė AI“ nėra pasiteisinimas.

Patarimas: nuo pat pradžių sutikite, kad ataskaitoje ar gynyboje niekada negalite naudoti frazės „AI taip pasakė“. Šis priėmimas automatiškai įgyja įprotį patikrinti kiekvieną išvestį.

mini dėklai

1 atvejis. Trianguliacijos klaida. Studentas patikrino molekulinę masę trimis būdais: YZ sakė 178,2, rankinis skaičiavimas davė 180,16, RDKit davė 180,16. Du nepriklausomi keliai sutapo ir pašalino AI. Pamoka: du nepriklausomi patikrinimai tyliai nugali vieną klaidingą išvestį.

2 atvejis – saugi kalba, neteisinga informacija. AI labai užtikrintai rašė, kad reakcija „spontaniškai vyksta kambario temperatūroje“. Literatūra parodė, kad tam reikia šildymo ir katalizatoriaus. Studentas pasitikėjo šaltiniu, o ne saugia kalba. Pamoka: sklandumas nėra tikslumas.

3 atvejis – įgavo skaidrumo. Savo darbo metodo skyriuje vienas tyrėjas aiškiai nurodė, kokiuose etapuose jis naudojo AI (teksto redagavimas, kodo rengimas), ir parašė, kad jis savarankiškai patikrino visus skaitinius rezultatus. Teisėjo procesas vyko sklandžiai. Pamoka: skaidrumas stiprina pasitikėjimą, o slėpimas – riziką.

Dažnos klaidos

• Pasitikėjimas saugia kalba. Patikimas AI tonas nėra tikslumo požymis.
• Remdamiesi vienu šaltiniu. Vieno išvesties priėmimas be trikampio.
• Neatskiriamas išvesties tipas. Galvojau, kad tuo pačiu metodu „patikrinau“ numerį, priskyrimą ir saugumo tvirtinimą.
• Nežinomybės slėpimas. Pranešti apie tai, ko negalima patikrinti, tarsi tai būtų tikras.
• AI naudojimo slėpimas. Skaidrumo trūkumas kenkia moksliniam vientisumui.
• Atsakomybės delegavimas. „AI taip pasakė“ pasiteisinimas negalioja; Atsakomybė tenka žmogui.

Apibendrinant

• Haliucinacijos būdingos kalbos modeliui; Sprendimas yra sukurti patvirtinimo apvalkalą aplink kiekvieną išvestį.
• Kiekvienas išvesties tipas turi savo patikrinimo metodą; klasifikuokite išvestį ir naudokite atitinkamą įrankį.
• Trianguliacija (du nepriklausomi keliai) yra stipriausia kontrolė; Nepasitikėkite vienu šaltiniu.
• Sklandumas ir pasitikinti kalba nėra susiję su tikslumu.
• Mokslinis vientisumas reikalauja skaidrumo, atsekamumo, duomenų vientisumo ir žmogaus atsakomybės.

Taikymo užduotis

Tyčia per AI seansą sukurkite įvairius išėjimus: molekulinę masę, nuorodą, fizinę konstantą, saugumo reikalavimą, skaitinį skaičiavimą. Patikrinkite kiekvieną atskirai tinkamu metodu (žr. lentelę). Pabandykite pasigauti bent vieną haliucinaciją. Tada paruoškite „patvirtinimo matricą“: eilučių išvestis, stulpelius (AI reikšmė / nepriklausoma reikšmė / ar ji sutapo / kaip aš ją patikrinau). Kaip praneštumėte apie šią sesiją mokslinio vientisumo požiūriu?

kontrolinis sąrašas

• [ ] Suprantu, kodėl haliucinacijos yra neišvengiamos.
• [ ] Suskirstau kiekvieną išvestį pagal tipą ir patikrinu atitinkamu metodu.
• [ ] Atlieku trianguliaciją (du nepriklausomus kelius) pagal kritines vertes.
• [ ] Pasitikiu šaltiniu, o ne saugia kalba.
• [ ] Tai, kas negali būti patvirtinta, pažymiu „neaišku“.
• [ ] Aš skaidriai naudoju dirbtinį intelektą ir esu atsakingas už rezultatą.