Uthibitisho, Udanganyifu, na Uadilifu wa Kisayansi

Faida:

• Uwezo wa kuelewa kwamba uvumbuzi ni asili katika modeli ya lugha na uchague mbinu inayofaa ya uthibitishaji kwa kila aina ya matokeo.
• Thibitisha thamani muhimu kwa njia mbili huru na utatuzi na usichanganye ufasaha na usahihi
• Uwezo wa kutumia uwazi, ufuatiliaji, uadilifu wa data na uwajibikaji wa kibinadamu kama msingi wa uadilifu wa kisayansi

Kishazi kimoja kilirudi tena na tena katika moduli hii yote: "AI inazalisha, binadamu huthibitisha." Katika kitengo hiki, tunageuza sentensi hiyo kuwa mfumo. Kusudi ni kutambua ndoto (kutoa habari za uwongo/uzushi kwa lugha ya kujiamini), ambayo ndiyo tabia hatari zaidi ya AI, kuanzisha mbinu thabiti ya uthibitishaji kwa kila aina ya matokeo, na kuweka haya yote ndani ya mfumo wa uadilifu wa kisayansi (uaminifu, uwazi, ufuatiliaji). Pato la AI ambalo halijathibitishwa katika kemia sio kosa tu; Inaweza kuwa jaribio la kulipuka, mtu kuwa na sumu, au karatasi kufutwa.

Kwa nini kuona ndoto ni jambo lisiloepukika?

Mfano mkubwa wa lugha hutoa "neno linalofuata linalowezekana zaidi"; Inalenga kile kinachowezekana, sio kile ambacho ni kweli. Ili aweze kujaza uzito wa molekuli, DOI, au kiwango cha kuchemsha na thamani ambayo "inaonekana kuwa sawa" - bila kuangalia ikiwa ni halisi. Ukumbi wa kuona sio kazi mbaya, lakini ni matokeo ya asili ya teknolojia hii. Suluhisho sio "kujaribu kurekebisha" mfano, lakini kujenga ganda la uthibitisho karibu na kila pato.

Kipengele cha siri zaidi cha ndoto ni lugha yake ya kujiamini. Uzito usio sahihi wa Masi huwasilishwa kwa ujasiri sawa na sahihi. Kwa hiyo "inaonekana kujiamini" kamwe haimaanishi "sahihi."

Makini: Jinsi AI inavyozungumza kwa ufasaha na kujiamini juu ya somo haihusiani na usahihi wa habari hiyo. Ufasaha hushawishi; Chanzo huru pekee ndicho huamua usahihi.

Uthibitishaji kwa aina ya pato katika kemia

Kila aina ya pato ina njia yake ya uthibitishaji. Badala ya kukariri sheria moja, tumia zana inayofaa kwa matokeo:

Aina ya pato

Mbinu ya uthibitishaji

gari

Uzito wa Masi, formula

Kokotoa upya kutoka kwa fomula

RDKit / kwa mikono

TABASAMU/muundo

Changanua + canonicalize

RDKit

Nukuu/DOI

Tatua katika hifadhidata

doi.org, Crossref

Utulivu wa kimwili (kn, pKa)

Hifadhidata ya kumbukumbu

PubChem, kitabu cha mwongozo

hesabu ya nambari

Andika+endesha msimbo

Chatu

mmenyuko/hali

Uthibitisho wa fasihi

Reaxys, makala

madai ya usalama

SDS/GHS

SDS rasmi

Mgawo wa Spectrum

Mbinu nyingi + za kibinadamu

Wigo wa majaribio

Jedwali hili kwa hakika ni muhtasari wa moduli hii: kila kitengo ni safu mlalo moja.

Triangulation: njia tatu za kujitegemea

Mbinu ya uthibitishaji yenye nguvu zaidi ni "pembetatu": kufikia hitimisho sawa kwa njia tatu za kujitegemea. Kwa mfano, kwa uzito wa molekuli: (1) YZ inasema nini, (2) hesabu ya RDKit, (3) hesabu kwa mkono kutoka kwa fomula. Ikiwa tatu zinaingiliana, uaminifu ni wa juu; Ikiwa mtu amepotea, acha na uchunguze. Kamwe usitegemee chanzo kimoja katika kemia; Tafuta angalau njia mbili za kujitegemea.

Hatua kwa hatua: uthibitishaji wa mtiririko wa kazi

1. Ainisha pato: Je, ni nambari, muundo, maelezo, madai ya usalama?
2. Chagua zana inayofaa: Pata njia inayofaa ya uthibitishaji ya aina ya matokeo kutoka kwa jedwali hapo juu.
3. Kuhesabu/tafuta kwa kujitegemea: Endesha gari bila AI; kulinganisha matokeo.
4. Ikiwa kuna kupotoka, acha: Ikiwa maadili hayalingani, usiendelee bila kuchunguza ni ipi iliyo sahihi.
5. Acha alama yako: Rekodi ulichothibitisha na jinsi gani (uadilifu wa kisayansi).
6. Bainisha kutokuwa na uhakika: Weka alama kwenye kitu ambacho hakiwezi kuthibitishwa kuwa "hakijathibitishwa", usikifiche.

Violezo vinne vinavyoweza kunakiliwa

1) Uthibitishaji wa kibinafsi:

Umetoa matokeo yafuatayo: [OUTPUT]. Kazi: Orodhesha kila dai la nambari/halisi la matokeo haya kwenye mstari tofauti. Kwa kila madai: "jinsi ya kuithibitisha kwa kujitegemea?" njia ya kuandika (chombo/database gani). USIDAI kwamba dai hilo ni la kweli; toa tu njia ya kuithibitisha.

2) Udhibiti wa pembetatu:

Ninataka kuangalia uzito wa molekuli ifuatayo kwa njia tatu: [TABASAMU].Kazi: 1) Pata fomula ya molekuli.2) Onyesha atomu ya kukokotoa uzito wa molekuli kwa atomi (mchango wa kila kipengele).Kumbuka: Nitaihesabu pia katika RDKit na tatu nilinganishe na ile uliyotoa. Ikiwa tatu haziingiliani, onya.

3) Alama ya utata:

Kuna madai mengi ya ukweli katika maandishi yafuatayo:[TEXT]Kazi: Weka lebo ya kiwango cha kuaminika karibu na kila dai:[HAKIKISHWA] / [IMETHIBITISHWA] / [HAINA UHAKIKA].Usitie alama [HAKIKI] kama huna uhakika.

4) Swali la uthabiti:

Nitauliza swali moja kwa njia mbili tofauti; Angalia ikiwa majibu yako yanalingana. Swali A: Ni nini formula ya molekuli ya mchanganyiko

Mwongozo dhaifu / Mwongozo thabiti

Dhaifu:

Andika kila kitu unachokijua kuhusu kiwanja hiki.

AI inachanganya bila kubagua habari zinazoweza kuthibitishwa na kubuniwa; Haijulikani ni ipi halisi.

Nguvu:

Toa maelezo kuhusu kiwanja hiki, lakini weka kila dai kama:[DETERMINISTIC - imethibitishwa na chombo] k.m. fomula ya molekuli,[MAJARIBU - nukuu inahitajika] k.m. kiwango myeyuko,[HAINA UHAKIKA - sina uhakika].Usiandike madai yoyote ambayo hayana lebo.

Tofauti: Tulilazimisha AI kuashiria kutokuwa na hakika kwake; Tulifanya kazi ya uthibitishaji kupangwa.

Uadilifu wa kisayansi: uaminifu na ufuatiliaji

Uthibitishaji sio tu hatua ya kiufundi, ni suala la maadili. Uadilifu wa kisayansi unahitaji:

• Uwazi: Usifiche kwamba unatumia AI; Bainisha kulingana na sera yako ya uchapishaji/ripoti.
• Ufuatiliaji: Rekodi ni matokeo gani yalitoka kwa AI na jinsi yalivyothibitishwa.
• Uadilifu wa data: matokeo ya "Kurembo" na AI, kutupa bidhaa za nje bila uhalali ni ulaghai.
• Wajibu: Unawajibika kwa matokeo ya mwisho; "AI ilisema hivyo" sio kisingizio.

Kidokezo: Kubali tangu mwanzo kwamba huwezi kamwe kutumia maneno "AI ilisema hivyo" katika ripoti au utetezi. Kukubalika huku huleta kiotomati tabia ya kuthibitisha kila pato.

kesi ndogo

Kesi ya 1 - Utatuzi ulipata hitilafu. Mwanafunzi alikagua uzani wa molekuli kwa njia tatu: YZ alisema 178.2, hesabu ya mwongozo ilitoa 180.16, RDKit ilitoa 180.16. Njia mbili huru zilipishana na kuondoa AI. Somo: uthibitishaji mbili huru hushinda kimya matokeo moja ya uwongo.

Kesi ya 2 — Lugha salama, taarifa zisizo sahihi. AI iliandika kwa ujasiri sana kwamba majibu "huendesha moja kwa moja kwenye joto la kawaida." Maandiko yalionyesha kwamba hilo lilihitaji joto na kichocheo. Mwanafunzi aliamini chanzo, si lugha salama. Somo: ufasaha si usahihi.

Kesi ya 3 - Imepata uwazi. Katika sehemu ya mbinu ya karatasi yake, mtafiti mmoja alisema kwa uwazi katika hatua gani alitumia AI (uhariri wa maandishi, uandishi wa kanuni) na akaandika kwamba alithibitisha kwa kujitegemea matokeo yote ya nambari. Mchakato wa mwamuzi ulikwenda vizuri. Somo: uwazi hujenga uaminifu, ufichaji huleta hatari.

Makosa ya kawaida

• Kuamini lugha salama. Toni ya ujasiri ya AI sio ishara ya usahihi.
• Kutegemea chanzo kimoja. Kukubali pato moja bila utatuzi.
• Haitenganishi aina ya pato. Kwa kufikiria kuwa "niliangalia" nambari, maelezo, na madai ya usalama kwa njia sawa.
• Kuficha kutokuwa na uhakika. Kuripoti kitu ambacho hakiwezi kuthibitishwa kana kwamba ni hakika.
• Kuficha matumizi ya AI. Ukosefu wa uwazi hudhoofisha uadilifu wa kisayansi.
• Kukabidhi majukumu. Udhuru wa "AI walisema" ni batili; Wajibu ni wa mtu.

Kwa muhtasari

• Udanganyifu ni asili katika modeli ya lugha; Suluhisho ni kujenga ganda la uthibitisho karibu na kila pato.
• Kila aina ya pato ina njia yake ya uthibitishaji; ainisha pato na utumie zana inayofaa.
• Triangulation (njia mbili huru) ni udhibiti wenye nguvu zaidi; Usiamini chanzo kimoja.
• Lugha ya ufasaha na ya kujiamini haihusiani na usahihi.
• Uadilifu wa kisayansi unahitaji uwazi, ufuatiliaji, uadilifu wa data na uwajibikaji wa kibinadamu.

Jukumu la maombi

Toa matokeo mbalimbali kimakusudi katika kipindi cha AI: uzani wa molekuli, rejeleo, hali thabiti ya kimwili, dai la usalama, hesabu ya nambari. Thibitisha kila mmoja kwa kujitegemea na njia sahihi (tazama jedwali). Jaribu kupata angalau hallucination moja. Kisha tayarisha "matrix ya uthibitisho": matokeo ya safu, safu wima (thamani ya AI / dhamana huru / iliingiliana / niliithibitishaje). Je, unawezaje kuripoti kipindi hiki kwa kuzingatia uadilifu wa kisayansi?

orodha ya ukaguzi

• [ ] Ninaelewa ni kwa nini kuona ndoto ni jambo lisiloepukika.
• [ ] Ninaainisha kila pato kulingana na aina yake na kuithibitisha kwa njia inayofaa.
• [ ] Mimi hufanya utatuzi (njia mbili huru) kwenye maadili muhimu.
• [ ] Ninaamini chanzo, si lugha salama.
• [ ] Ninatia alama kile ambacho hakiwezi kuthibitishwa kuwa "hakina uhakika".
• [ ] Niko wazi katika matumizi yangu ya AI na ninajiwajibisha kwa matokeo.