Riba:
- Ƙarfin fahimtar cewa hallucination yana cikin ƙirar harshe kuma zaɓi hanyar tabbatarwa da ta dace don kowane nau'in fitarwa.
- Tabbatar da ƙima mai mahimmanci ta hanyoyi biyu masu zaman kansu tare da triangulation kuma kada ku rikita fahimta da daidaito
- Ikon yin amfani da gaskiya, ganowa, amincin bayanai da alhakin ɗan adam a matsayin tushen amincin kimiyya.
Jumla ɗaya ta sake dawowa akai-akai a cikin wannan tsarin: "AI yana samarwa, mutane sun tabbatar." A cikin wannan naúrar, za mu juya waccan jimla zuwa tsari. Manufar ita ce gane hallucination (samar da bayanan karya / ƙirƙira tare da ingantaccen harshe), wanda shine mafi haɗari halayen AI, don kafa hanyar tabbatarwa ta musamman ga kowane nau'in fitarwa, da sanya duk waɗannan a cikin tsarin amincin kimiyya (gaskiya, nuna gaskiya, ganowa). Fitowar AI da ba a tantance ba a cikin sinadarai ba kuskure ne kawai ba; Yana iya zama gwaji ya fashe, mutum yana shan guba, ko kuma an janye takarda.
Me yasa hallucination ba makawa?
Babban samfurin harshe yana samar da "mafi yiwuwa kalma ta gaba"; Yana nufin abin da zai yiwu, ba abin da ke gaskiya ba. Don haka zai iya cika nauyin kwayoyin halitta, DOI, ko wurin tafasa tare da darajar da "ga alama mai ma'ana" - ba tare da bincika ko gaskiya ba ne. Hallucination ba rashin aiki bane, amma sakamakon yanayin wannan fasaha. Maganin ba shine "kokarin gyara" samfurin ba, amma don gina harsashi mai inganci a kusa da kowane fitarwa.
Babban abin da ya fi muni na hallucination shine yaren sa mai ƙarfin gwiwa. An gabatar da nauyin kwayoyin da ba daidai ba tare da amincewa ɗaya daidai da daidai. Don haka "kalli m" baya nufin "daidai."
Hankali: Yadda iyawa da kwarin gwiwa AI ke magana akan wani batu ba shi da alaƙa da daidaiton wannan bayanin. Fassara yana rinjayar; Madogara mai zaman kanta kawai ke ƙayyade daidaito.
Tabbatarwa ta nau'in fitarwa a cikin sinadarai
Kowane nau'in fitarwa yana da hanyar tabbatar da kansa. Maimakon haddace doka ɗaya, yi amfani da kayan aiki da ya dace don fitarwa:
Nau'in fitarwa
Hanyar tabbatarwa
abin hawa
Nauyin kwayoyin halitta, dabara
Sake lissafin daga dabara
RDKit / da hannu
MURMUSHI/tsari
Fassara + canonicalize
RDKit
Magana/DOI
Warware a cikin bayanai
doi.org, Crossref
Juyin jiki (kn, pKa)
Bayanan bayanai
PubChem, littafin hannu
lissafin lambobi
Rubuta+run code
Python
dauki/sharadi
Tabbatar da adabi
Reaxys, labarin
da'awar tsaro
SDS/GHS
SDS na hukuma
Aikin Spectrum
Multi-fasaha + ɗan adam
Bakan gwaji
Wannan tebur a haƙiƙa shine taƙaice na wannan ƙirar: kowace naúrar jere ɗaya ce.
Triangulation: Hanyoyi masu zaman kansu guda uku
Dabarar tabbatarwa mafi ƙarfi ita ce "triangulation": isa ga ƙarshe ɗaya ta hanyoyi uku masu zaman kansu. Misali, don nauyin kwayoyin halitta: (1) abin da YZ ya ce, (2) lissafin RDKit, (3) lissafin da hannu daga dabarar. Idan ukun sun yi karo da juna, amana ta yi yawa; Idan wani ya ɓace, tsaya a bincika. Kada ka dogara ga tushe guda a cikin ilmin sunadarai; Nemo aƙalla hanyoyi biyu masu zaman kansu.
Mataki zuwa mataki: tabbatar da tafiyar aiki
- Rarraba abin da aka fitar: Shin lamba ce, tsari, sifa, tabbacin tsaro?
- Zaɓi kayan aiki da ya dace: Sami hanyar tabbatar da dacewa don nau'in fitarwa daga teburin da ke sama.
- Yi ƙididdigewa/bincike da kansa: Gudanar da abin hawa ba tare da AI ba; kwatanta sakamakon.
- Idan akwai karkata, dakatar: Idan ƙimar ba ta dace ba, kar a ci gaba ba tare da bincika ko wanene daidai ba.
- Bar alamar ku: Yi rikodin abin da kuka tabbatar da kuma yadda (mutuncin kimiyya).
- Ƙayyade rashin tabbas: Alama wani abu da ba za a iya tantance shi a matsayin "wanda ba a tabbatar ba", kar a ɓoye shi.
Samfura huɗu masu kwafi
1) Tabbatar da kai:
Ka kawai ba da fitarwa mai zuwa: [OUTPUT]. Aiki: Jera kowace ƙididdige ƙididdigewa/tabbatacciyar ƙididdiga na wannan fitarwa akan wani layi daban. Ga kowane ikirari: "Ta yaya za a tabbatar da kansa?" hanyar rubuta (wanda kayan aiki / database). KAR KA YI DA'awar cewa da'awar gaskiya ce; kawai ba da hanya don tabbatar da shi.
2) Ikon triangulation:
Ina so in duba nauyin wannan kwayoyin ta hanyoyi uku: [SMILES].Task: 1) Samar da tsarin kwayoyin halitta.2) Nuna ma'auni na lissafin kwayoyin halitta ta hanyar zarra (gudunmawar kowane element). Idan ukun basu zoba, gargadi.
3) Alamar shubuha:
Akwai da'awar gaskiya da yawa a cikin rubutu mai zuwa:[TEXT] Aiki: Sanya alamar amincewa kusa da kowace da'awar:[VERIFIED] / [VERIFIED] / [UNCERTAIN].Kada ka yiwa wani alama alama [VERIFIED] idan ba ka da tabbas.
4) Tambayar madaidaici:
Zan yi wannan tambaya ta hanyoyi guda biyu; Duba idan amsoshinku sun daidaita. Tambaya A: Menene tsarin kwayoyin halitta na fili
Rauni mai ƙarfi / Ƙarfi mai ƙarfi
Rauni:
Rubuta duk abin da kuka sani game da wannan fili.
AI ba tare da nuna bambanci ba yana haɗu da tabbataccen bayanai da ƙirƙira; Ba a san wanene na gaske ba.
Mai ƙarfi:
Bayar da bayani game da wannan fili, amma yiwa kowane da'awa lakabi: [DETERMINISTIC - verified by tool] misali. dabarar kwayoyin halitta, [GWAJI - buƙatun magana] misali. wurin narkewa, [UNCERTAIN - ban tabbata ba].Kada a rubuta duk wata da'awar da ba ta da lakabi.
Bambanci: Mun tilasta AI don yin alamar rashin tabbas; Mun sanya aikin tabbatarwa ya zama mai tsari.
Mutuncin kimiyya: gaskiya da ganowa
Tabbatarwa ba matakin fasaha ba ne kawai, batu ne na ɗabi'a. Mutuncin kimiyya yana buƙatar:
- Bayyanawa: Kada ku ɓoye cewa kuna amfani da AI; Ƙayyade bisa ga manufar bugawa/rahoto.
- Traceability: Yi rikodin abin da fitarwa ta fito daga AI da yadda aka tabbatar da shi.
- Daidaiton bayanai: Sakamakon "Kwatanta" tare da AI, watsar da masu fita ba tare da hujja ba shine zamba.
- Alhakin: Kai ne ke da alhakin sakamako na ƙarshe; "AI ya ce haka" ba uzuri ba ne.
Tukwici: Karɓa daga farko cewa ba za ku taɓa amfani da kalmar "AI ya faɗi haka ba" a cikin rahoto ko tsaro. Wannan karɓa ta atomatik yana kawo al'ada ta tabbatar da kowane fitarwa.
kananan lokuta
Case 1 - Triangulation ya kama kuskure. Wani dalibi ya duba nauyin kwayoyin halitta hanyoyi uku: YZ ya ce 178.2, lissafin manual ya ba 180.16, RDKit ya ba 180.16. Hanyoyi masu zaman kansu guda biyu sun mamaye kuma sun kawar da AI. Darasi: Tabbatarwa masu zaman kansu guda biyu sun kayar da fitowar karya guda ɗaya cikin shiru.
Case 2 — Yare mai aminci, bayanin kuskure. AI ya rubuta da gaba gaɗi cewa amsa "yana gudana ba tare da bata lokaci ba a cikin ɗaki." Littattafan sun nuna cewa wannan yana buƙatar dumama da kuzari. ɗalibin ya amince da tushen, ba harshe mai aminci ba. Darasi: iyawa ba daidai ba ne.
Case na 3 - Sami gaskiya. A cikin sashin hanyar takardar sa, wani mai bincike ya bayyana karara a cikin matakan da ya yi amfani da AI (gyara rubutu, tsara lambar) kuma ya rubuta cewa ya tabbatar da kansa da kansa duk sakamakon lambobi. Aikin alkalin wasa ya tafi lami lafiya. Darasi: nuna gaskiya yana gina aminci, ɓoyewa yana haifar da haɗari.
Kuskuren gama gari
- Amincewa da yare mai aminci. Amintaccen sautin AI ba nunin daidaito ba ne.
- Dogara ga tushe guda. Karɓar fitarwa guda ɗaya ba tare da triangulation ba.
- Ba raba nau'in fitarwa ba. Tunanin cewa na "duba" lamba, dalla-dalla, da tabbacin tsaro tare da wannan hanya.
- Boye rashin tabbas. Bayar da rahoton wani abu da ba za a iya tantancewa ba kamar ya tabbata.
- Boye amfani da AI. Rashin gaskiya yana lalata amincin kimiyya.
- Wakilta alhaki. Uzurin "AI ya ce haka" ba shi da inganci; Alhakin yana kan mutum.
A takaice
- Hallucination yana da mahimmanci a cikin ƙirar harshe; Maganin shine gina harsashi mai tabbatarwa a kusa da kowace fitarwa.
- Kowane nau'in fitarwa yana da hanyar tabbatar da kansa; rarraba fitarwa kuma amfani da kayan aikin da ya dace.
- Triangulation (hanyoyi masu zaman kansu biyu) shine mafi ƙarfi iko; Kar a amince da tushe guda.
- Fahimtar harshe da ƙarfin gwiwa ba su da alaƙa da daidaito.
- Mutuncin kimiyya yana buƙatar bayyana gaskiya, ganowa, amincin bayanai da alhakin ɗan adam.
Aikin aikace-aikace
Da gangan samar da nau'o'in kayan aiki iri-iri a cikin zaman AI: nauyin kwayoyin halitta, tunani, madaidaicin jiki, da'awar tsaro, lissafin ƙididdiga. Tabbatar da kowa da kansa tare da madaidaiciyar hanya (duba tebur). Yi ƙoƙarin kama aƙalla hallucination ɗaya. Sa'an nan kuma shirya "matrix tabbatarwa": fitowar layuka, ginshiƙai (ƙimar AI / ƙimar mai zaman kanta / yi ta zoba / ta yaya na tabbatar da shi). Ta yaya za ku bayar da rahoton wannan zaman ta fuskar ingancin kimiyya?
jerin abubuwan dubawa
- [ ] Na fahimci dalilin da ya sa ba makawa hallucination.
- [ ] Ina rarraba kowane fitarwa bisa ga nau'insa kuma in tabbatar da shi ta hanyar da ta dace.
- [] Ina yin triangulation (hanyoyi masu zaman kansu biyu) akan mahimman dabi'u.
- [ ] Na amince da tushen, ba harshe mai aminci ba.
- [ ] Na yiwa abin da ba za a iya tabbatarwa ba a matsayin "marasa tabbas".
- [ ] Ina da gaskiya a cikin amfani da AI kuma ina ɗaukar kaina da alhakin sakamakon.