Apstiprinājums, halucinācijas un zinātniskā integritāte

Ieguvumi:

• Spēja saprast, ka halucinācijas ir raksturīgas valodas modelim, un izvēlēties katram izvades veidam atbilstošu pārbaudes metodi.
• Pārbaudiet kritiskās vērtības divos neatkarīgos veidos, izmantojot triangulāciju, un nejauciet plūdumu ar precizitāti
• Spēja izmantot caurspīdīgumu, izsekojamību, datu integritāti un cilvēka atbildību kā zinātniskās integritātes pamatu

Šajā modulī atkal un atkal atkārtojās viena frāze: “AI ražo, cilvēki pārbauda”. Šajā vienībā mēs šo teikumu pārvēršam sistēmā. Mērķis ir atpazīt halucinācijas (nepatiesas/safabricētas informācijas sniegšanu pārliecinošā valodā), kas ir visbīstamākā mākslīgā intelekta uzvedība, izveidot konkrētu pārbaudes metodi katram izvades veidam un to visu iekļaut zinātniskās integritātes (godīguma, caurspīdīguma, izsekojamības) ietvaros. Nepārbaudīta AI izvade ķīmijā nav tikai kļūda; Tas var būt eksperiments, kas eksplodē, cilvēks tiek saindēts vai papīrs tiek ievilkts.

Kāpēc halucinācijas ir neizbēgamas?

Lielais valodas modelis rada “nākamo visticamāko vārdu”; Tā mērķis ir tas, kas ir iespējams, nevis patiesība. Tātad viņš var ievadīt molekulmasu, DOI vai viršanas temperatūru ar vērtību, kas “šķiet saprātīga”, nepārbaudot, vai tā ir īsta. Halucinācijas nav darbības traucējumi, bet gan šīs tehnoloģijas būtības sekas. Risinājums nav "mēģināt salabot" modeli, bet gan izveidot validācijas apvalku ap katru izvadi.

Mānīgākais halucinācijas aspekts ir tās pārliecinošā valoda. Nepareiza molekulmasa tiek parādīta ar tādu pašu pārliecību kā pareiza. Tātad "izskatās pārliecināts" nekad nenozīmē "pareizi".

Uzmanību: tas, cik tekoši un pārliecināti AI runā par tēmu, nav saistīts ar šīs informācijas precizitāti. Raidums pārliecina; Precizitāti nosaka tikai neatkarīgais avots.

Validācija pēc izvades veida ķīmijā

Katram izvades veidam ir sava pārbaudes metode. Tā vietā, lai iegaumētu vienu noteikumu, izmantojiet atbilstošo izvades rīku:

Izvades veids

Pārbaudes metode

transportlīdzeklis

Molekulmasa, formula

Pārrēķināt no formulas

RDKit / manuāli

SMAIDI/struktūra

Parsēt + kanonizēt

RDKit

Citāts/DOI

Atrisiniet datu bāzē

doi.org, Crossref

Fizikālā konstante (kn, pKa)

Atsauces datu bāze

PubChem, rokasgrāmata

skaitliskais aprēķins

Rakstīt + palaist kodu

Python

reakcija/stāvoklis

Literatūras apstiprinājums

Reaxys, raksts

nodrošinājuma prasība

SDS/GHS

Oficiālā SDS

Spektra piešķiršana

Daudztehnisks + cilvēks

Eksperimentālais spektrs

Šī tabula faktiski ir šī moduļa kopsavilkums: katra vienība ir viena rinda.

Triangulācija: trīs neatkarīgi ceļi

Visspēcīgākais pārbaudes paņēmiens ir "trīsangulācija": nonākt pie viena un tā paša secinājuma trīs neatkarīgos veidos. Piemēram, molekulmasai: (1) ko saka YZ, (2) RDKit aprēķins, (3) aprēķins ar roku no formulas. Ja trīs pārklājas, uzticēšanās ir augsta; Ja kāds nomaldās, apstājieties un izmeklējiet. Nekad nepaļaujieties uz vienu ķīmijas avotu; Meklējiet vismaz divus neatkarīgus ceļus.

Soli pa solim: verifikācijas darbplūsma

1. Klasificējiet rezultātu: vai tas ir skaitlis, struktūra, attiecinājums, drošības apgalvojums?
2. Atlasiet atbilstošo rīku: iegūstiet atbilstošo verifikācijas ceļu izvades veidam no iepriekšējās tabulas.
3. Aprēķināt/meklēt neatkarīgi: vadīt transportlīdzekli neatkarīgi no AI; salīdziniet rezultātu.
4. Ja ir novirze, pārtrauciet: ja vērtības nesakrīt, neturpiniet, neizpētot, kura no tām ir pareiza.
5. Atstājiet savu zīmi: ierakstiet, ko un kā pārbaudījāt (zinātniskā integritāte).
6. Norādiet nenoteiktību: atzīmējiet to, ko nevar pārbaudīt, kā "neapstiprinātu", neslēpiet to.

Četras kopējamas veidnes

1) Pašpārbaude:

Jūs tikko norādījāt šādu izvadi: [OUTPUT]. Uzdevums: Atsevišķā rindā uzskaitiet katru šī iznākuma skaitlisko/faktisko apgalvojumu. Katram apgalvojumam: "kā to neatkarīgi pārbaudīt?" rakstīšanas metode (kurš rīks/datu bāze). NEAPTEIKTI, ka apgalvojums ir patiess; vienkārši dodiet veidu, kā to pārbaudīt.

2) Triangulācijas kontrole:

Es gribu pārbaudīt šādas molekulas svaru trīs veidos: [SMAIDI].Uzdevums: 1) Atvasiniet molekulāro formulu.2) Parādiet molekulmasas aprēķina atomu pēc atoma (katra elementa devums).Piezīme: Es to arī aprēķināšu RDKit un, treškārt, salīdzināšu ar to, ko norādījāt. Ja trīs nepārklājas, brīdiniet.

3) Neskaidrības marķējums:

Šajā tekstā ir vairāki faktu apgalvojumi:[TEKSTS]Uzdevums: ievietojiet uzticamības līmeņa iezīmi blakus katrai pretenzijai:[PĀRBAUDĪTS] / [PĀRBAUDĪTS] / [NECERTAIN].Neatzīmējiet neko [PĀRBAUDĪTS], ja neesat pārliecināts.

4) Konsekvences savstarpējais vaicājums:

Es uzdošu vienu un to pašu jautājumu divos dažādos veidos; Pārbaudiet, vai jūsu atbildes ir konsekventas. A jautājums: kāda ir savienojuma molekulārā formula

Vāja uzvedne / spēcīga uzvedne

Vāji:

Pierakstiet visu, ko zināt par šo savienojumu.

AI bez izšķirības sajauc pārbaudāmu un izdomātu informāciju; Nav skaidrs, kurš no tiem ir īsts.

Spēcīgs:

Sniedziet informāciju par šo savienojumu, bet atzīmējiet katru apgalvojumu kā:[DETERMINISTISKS — pārbaudīts pēc instrumenta], piemēram, molekulārā formula,[EKSPERIMENTĀLS - nepieciešama atsauce] piem. kušanas temperatūra,[NECINCENTS - nav pārliecināts].Nerakstiet nekādas neapzīmētas pretenzijas.

Atšķirība: mēs piespiedām AI atzīmēt savu nenoteiktību; Mēs padarījām pārbaudes darbu plānojamu.

Zinātniskā integritāte: godīgums un izsekojamība

Verifikācija nav tikai tehnisks solis, tas ir ētisks jautājums. Zinātniskā integritāte prasa:

• Pārredzamība: neslēpiet, ka izmantojat AI; Norādiet atbilstoši publikācijas/ziņojuma politikai.
• Izsekojamība: ierakstiet, kāda izvade tika iegūta no AI un kā tā tika pārbaudīta.
• Datu integritāte: rezultātu “izskaidrošana” ar mākslīgo intelektu, nepamatota noviržu atmešana ir krāpšana.
• Atbildība: Jūs esat atbildīgs par gala rezultātu; “AI tā teica” nav attaisnojums.

Padoms: jau no paša sākuma piekrītiet, ka ziņojumā vai aizstāvībā nekad nevarat izmantot frāzi "AI teica tā". Šī pieņemšana automātiski rada ieradumu pārbaudīt katru rezultātu.

mini futrāļi

1. gadījums — triangulācija pieļāva kļūdu. Students pārbaudīja molekulmasu trīs veidos: YZ teica 178,2, manuālais aprēķins deva 180,16, RDKit deva 180,16. Divi neatkarīgi ceļi pārklājās un likvidēja AI. Nodarbība: divas neatkarīgas pārbaudes klusi pārspēj vienu nepatiesu izvadi.

2. gadījums — droša valoda, nepareiza informācija. AI ļoti pārliecinoši rakstīja, ka reakcija "istabas temperatūrā notiek spontāni". Literatūrā tika parādīts, ka tas prasa apkuri un katalizatoru. Students uzticējās avotam, nevis drošajai valodai. Nodarbība: raitums nav precizitāte.

3. gadījums — iegūta pārskatāmība. Sava raksta metodes sadaļā viens pētnieks skaidri norādīja, kuros posmos viņš izmantoja AI (teksta rediģēšana, koda sastādīšana), un rakstīja, ka viņš neatkarīgi pārbaudīja visus skaitliskos rezultātus. Tiesnešu process noritēja raiti. Nodarbība: caurspīdīgums vairo uzticību, slēpšana rada risku.

Biežas kļūdas

• Uzticoties drošai valodai. AI pārliecinātais tonis neliecina par precizitāti.
• Paļaujoties uz vienu avotu. Viena izvada pieņemšana bez triangulācijas.
• Neatdala izvades veidu. Domājot, ka ar to pašu metodi "pārbaudīju" numuru, attiecinājumu un drošības apgalvojumu.
• Nenoteiktības slēpšana. Ziņošana par kaut ko, ko nevar pārbaudīt, it kā tas būtu droši.
• AI izmantošanas slēpšana. Pārredzamības trūkums grauj zinātnisko integritāti.
• Atbildības deleģēšana. Aizbildinājums "AI teica" ir nederīgs; Atbildība gulstas uz cilvēku.

Rezumējot

• Halucinācijas ir raksturīgas valodas modelim; Risinājums ir izveidot validācijas apvalku ap katru izvadi.
• Katram izvades veidam ir sava verifikācijas metode; klasificēt produkciju un izmantot atbilstošu rīku.
• Triangulācija (divi neatkarīgi ceļi) ir spēcīgākā kontrole; Neuzticieties vienam avotam.
• Brīva un pārliecināta valoda nav saistīta ar precizitāti.
• Zinātniskā integritāte prasa pārredzamību, izsekojamību, datu integritāti un cilvēku atbildību.

Lietojumprogrammas uzdevums

AI sesijā apzināti izveidojiet dažādus rezultātus: molekulmasu, atsauci, fizisko konstanti, drošības prasību, skaitlisku aprēķinu. Pārbaudiet katru atsevišķi, izmantojot pareizo metodi (skatiet tabulu). Mēģiniet noķert vismaz vienu halucināciju. Pēc tam sagatavojiet "validācijas matricu": rindu izejas, kolonnas (AI vērtība / neatkarīga vērtība / vai tā pārklājās / kā es to pārbaudīju). Kā jūs ziņotu par šo sesiju zinātniskās integritātes ziņā?

kontrolsaraksts

• [ ] Es saprotu, kāpēc halucinācijas ir neizbēgamas.
• [ ] Es klasificēju katru izvadi pēc tā veida un pārbaudu to ar atbilstošu metodi.
• [ ] Es veicu triangulāciju (divi neatkarīgi ceļi) uz kritiskajām vērtībām.
• [ ] Es uzticos avotam, nevis drošajai valodai.
• [ ] To, ko nevar apstiprināt, atzīmēju kā "nedrošu".
• [ ] Es esmu caurspīdīgs, izmantojot AI, un esmu atbildīgs par rezultātu.