Riba:
- Ability don gane a cikin wane nau'i (ƙirƙirar gene / jerin / bambance-bambancen / tunani) hallucination (ƙwaƙwalwar ƙididdiga na wucin gadi na amincewa da kai na kurakurai) yana faruwa a cikin kwayoyin halitta
- Ikon fahimtar cewa sautin 'tabbatacciyar' AI ba shaida ce ta daidaito ba kuma tabbatar da kowane fitarwa tare da tushe mai zaman kansa.
- Ability don aiwatar da hallucination-rage aikin aiki tare da tilasta tushe, daidaitawa / sigar tabbatarwa, da kuma 'idan ba ku sani ba, gyara shi' umarnin.
Haɗari ɗaya ya sake faruwa a kowace naúrar wannan ƙayyadaddun: hallucination of Artificial Intelligence (AI) - wato, samar da cikakkun bayanan tabbaci waɗanda ba su wanzu ba. Wannan rukunin yana magance wannan haɗari da kansa: menene kuma ta yaya AI ya dace a cikin ilimin halittar kwayoyin halitta da kwayoyin halitta; Yaya kuke lura da wannan? da wane tabbaci reflex yakamata ku haɓaka don kowane nau'in fitarwa. Makasudin shine ku kalli hasashe ba a matsayin "hadarin da wani lokaci yakan faru" amma a matsayin al'amari wanda ko da yaushe ake tsammani kuma a kama shi cikin tsari.
Me yasa hallucinations ba makawa? Domin LLM ba tsarin da ya “san gaskiya ba ne”, amma tsarin da “ke samar da kalmar da ta fi dacewa ta gaba”. Ya koyi yadda sunan kwayar halitta, nau'i daban-daban, ko alamar tambarin yake kama a cikin bayanan horo; Saboda haka, yana iya samar da fitarwa mai kama da gaskiya amma ba gaskiya ba. A cikin kwayoyin halitta, wannan kamanni yana da haɗari musamman saboda abin da aka yi "c.1234A>G" da kuma bambance-bambancen gaskiya ba za a iya bambanta ta ido ba.
Menene AI ke tattare a cikin kwayoyin halitta? taswira
abin da aka gyara
Me yayi kama
Yadda ake kamawa
Gene name/alama
Alamar gaskiya amma babu ita
HGNC/NCBI Gene
jerin
Jeri mara kyau tare da ingantattun haruffa
NCBI / Ƙungiyar FASTA
Bambancin daidaitawa
A cikin tsarin HGVS amma kuskure/ babu shi
VariantValidator, ClinVar
yawan yawan jama'a
Madaidaicin kashi
gnomAD
aikin aiki
lallashi tambari
PubMed/DOI
da'awar asibiti
"Yana da pathogenic"
Rahoton da aka ƙayyade na ACMG
daidaitawar furotin
Lambobin 3D tare da decimal
PDB/AlphaFold fayil
Sakamakon kididdiga
p-darajar ba tare da gyara ba
Sake kunna lambar
Dabarun da ke rage (amma ba su ƙare) hallucinations
1. Ba da mahallin. Ingantacciyar mahallin da kuka bayar (siffar kwayoyin halitta, kwafi, ainihin jeri), ƙarancin AI zai daidaita. Amma baya sake saiti.
2. "Idan ba ku sani ba, gaya mani" umarni. Umarnin "Idan ba ku da tabbas, ku ce 'dole ne a tabbatar da shi', kar ku gyara shi" yana rage ƙirƙira - amma kar ku amince da shi gaba ɗaya.
3. Bukatar albarkatun. Nemi tushen tabbataccen tushe (DOI, PMID, rikodin bayanai) don kowane da'awar.
4. A duba kansa. "Waɗanne abubuwa ne a cikin wannan fitowar ke buƙatar tabbaci mai zaman kansa?" tambaya; AI sau da yawa na iya tuta abubuwa masu haɗari.
5. Mafi mahimmanci: tabbatarwa a cikin mutum. Abin da ke sama yana rage yiwuwar; Ikon tushen ku na farko kawai yana ba da tabbaci.
Tukwici: Saita "kasafin kuɗi na tabbatarwa": tare da kowane fitarwa na AI, tabbatar da tabbatar da gaskiyar abubuwan da ke da mahimmanci ga yanke shawara (jeri, bambance-bambancen, mita, sifa); Bi da bayanin ƙananan gungumomi (ma'anar ra'ayi) da sako-sako. Mai da hankali kan albarkatun ku akan kuskuren da zai iya haifar da mafi yawan lahani.
uku mini lokuta
Case 1 - Halittar Halittu Babu Babu. Wani ɗalibi ya yi ƙoƙarin bincika "gene" da AI ya ambata amma bai same shi a cikin HGNC ba. AI ta samar da alamar da ba ta wanzu ta hanyar haɗa sunayen kwayoyin halitta guda biyu. Ba tare da kulawar HGNC ba, ɗalibin zai shafe sa'o'i yana neman ƙwayar fatalwa.
Case 2 - Sarkar hallucination. Wani mai bincike ya tambayi AI game da bambancin; AI ya ba da mitar da aka yi, sannan ya ba da shawarar lambar ACMG na ƙarya dangane da wannan mitar, sannan ya ƙara labarin karya da ke goyan bayan waccan lambar. Ƙimar ƙarya ɗaya ta haifar da sarkar ƙarya mai layi uku. Lokacin da mai binciken ya buɗe gnomAD, hanyar haɗin farko a cikin sarkar ta karye kuma komai ya rushe.
Case 3 - Tabbatar da samu. Wani mai fasaha ya karbi lambar bincike na kirtani daga AI; A cikin lambar, AI ta sanya kirtani da aka yi a matsayin "kirtan tunani". Mai fasaha ya karanta lambar kuma ya maye gurbin jerin tare da ainihin jerin daga NCBI. Idan ya gudanar da lambar a makance, sakamakon zai zama kuskure a shiru.
Tabbataccen ra'ayi: ta nau'in fitarwa
Lokacin da kuka ga SEQUENCE -> lokacin da kuka ga NCBI / Ensembl FASTA lokacin da kuka ga VARIANT -> lokacin da kuka ga VariantValidator + ClinVar + gnomADFREQUENCY -> bincika gnomAD kanta lokacin da kuka ga ATTRIBUTE -> buɗe DOI/PMID, ci gaba da taken-marubucin Lokacin da kuka ga GENEBIGIN GENENAME ka ga nau'in kwayar halitta + liftOverSTATISTICS -> gudanar da lambar da kanka, duba gyara
Samfura huɗu masu kwafi
1) Kamun kai:
A cikin fitowar da kuka bayar, waɗanne abubuwa (jeri, bambance-bambancen, mitar, sunan jinsi, ambato, lamba) ke buƙatar tabbatarwa mai zaman kansa? Lakabi kowane ɗayan a matsayin "tabbas / mai yiwuwa / rashin tabbas" kuma rubuta tushen tushen don bincika.
2) Tushen amsawar wajibi:
Amsa wannan tambayar amma a buga tushen tabbataccen tushe (rikodin bayanan, DOI, PMID) don KOWANE da'awar gaskiya. Kada ku gabatar da wata da'awar da ba za ku iya ba da tushe ba; rubuta "dole ne a tabbatar": [tambaya].
3) Binciken jerin abubuwan da aka tsara:
Lissafta duk tsararraki, madaukai, da bambance-bambancen da aka saka a cikin lambar mai zuwa:[code]. Ga kowane ɗaya, alama a fili "dole ne a tabbatar" idan ba a sani ba ko ya fito daga tushe na gaske ko kuma wurin zama da kuka ƙirƙira.
4) Sarrafa sarkar:
Kowane mataki yana ginawa a kan wanda ya gabata a cikin dalilai masu zuwa: [sarkar].Wane matakai na gaba sun ruguje idan hanyar haɗin farko (babban bayanan) ba daidai ba ne? Jera maki bayanan KEY waɗanda sarkar ke buƙatar tantancewa.
Rauni mai ƙarfi / Ƙarfi mai ƙarfi
Rauni: "Faɗa mana duk abin da kuka sani game da wannan bambance-bambancen."
Matsala: AI yana ƙirƙira mita, alaƙa, da'awar asibiti daga ƙwaƙwalwar ajiya; Babu ƙugiya mai inganci.
Mai ƙarfi: "Yi amsa akan wannan bambance-bambancen; bayyana wane tushe don tabbatar da kowane da'awar ta gaskiya, alamar 'dole ne a tabbatar' idan ba ku da tabbas, kar a ƙirƙira kowane mita ko sifa."
Me ya sa yake da ƙarfi: Filin ƙirƙira yana ƙunshe, kowane da'awar yana ɗaure da ƙugiya mai tabbatarwa.
Kuskuren gama gari
- Kuskure iyawa don daidaito. Jumlolin da suka fi gamsarwa na iya zama mafi haɗari.
- Gina kan ƙima guda ɗaya ba tare da inganta shi ba. Wannan shi ne yadda ake haifar sarkar hallucination.
- Ba a karanta madaidaicin da aka saka a cikin lambar ba. AI na iya shigar da kirtani da aka ƙera/tsayawa cikin lambar.
- Jin gamsuwa da "Idan ba ku sani ba, gaya mani." Wannan umarnin yana rage yuwuwar kuma baya bada tabbaci.
- Ana kashe kasafin tabbatarwa a wurin da bai dace ba. Bincika abubuwan da ba su da mahimmanci, ba mafi mahimmancin abubuwan ba.
Tsanaki: Adadin hasashe ya bambanta ta sigar samfuri, tambaya, da yanki; amma ba daidai ba ne a ce "wannan samfurin bai dace ba kuma". Dole ne a kiyaye horon tabbatarwa komai kyawun ƙirar. Alhaki koyaushe yana kan mutum.
Zurfi: Me ya sa RAG da 'tuki' ba sa kawo karshen ruɗi
A cikin 'yan shekarun nan, da yawa kayan aikin AI sun yi amfani da RAG (Retrieval-Augmented Generation - hanyar da samfurin ya dawo da takardun da suka dace daga bayanan bayanai kuma yana amfani da su kafin samar da amsa) ko kiran kayan aiki kai tsaye (misali a zahiri bincika PubMed) don "haɗa" amsarta zuwa ainihin tushe. Waɗannan hanyoyin suna rage hasashe amma ba sa ƙarewa saboda dalilai biyu. Na farko, samfurin na iya taƙaita daftarin aiki da aka kama ba daidai ba ko kuma sanya sakamako ga takaddar da ba ta cikin takaddar; Ko da tushen gaskiya ne, ana iya ƙirƙira fassarar. Na biyu, binciken na iya dawo da daftarin da ba daidai ba ko maras dacewa kuma ƙirar zata juya ta zama amsa mai iko. Ma’ana, ko da amsar da ake ganin “an samo asali ne” bai kamata a yi la’akari da abin dogaro ba ba tare da buɗewa da karantawa cewa tushen yana goyan bayan wannan da’awar ba.
Misali mai mahimmanci: mataimaki na tushen RAG ya mayar da ainihin shafin ClinVar don bambance-bambancen amma ya taƙaita shafin a matsayin "mai cutarwa"; Koyaya, akan shafin, bambance-bambancen an yiwa alama alama a matsayin "sharuɗɗa masu rikitarwa". Madogararsa daidai ne, taƙaitaccen bayani ba daidai ba ne - kuma kuskuren nauyin asibiti. Misali na biyu: kayan aikin adabi ya jawo ainihin labarin, amma labarin ya kasance game da wani jinsin daban; An yaudare samfurin ta kamanni na take kuma ya danganta sakamakon ga tambayar.
Dokar babban yatsan hannu: idan an ba da hanyar haɗi, buɗe hanyar haɗin; idan aka ba da zance, duba idan an nakalto maganar da baki a cikin tushen. "Sourced AI" yana sauƙaƙe tabbatarwa, ba ya kawar da shi ba. Tabbacin ra'ayin ku ya kasance iri ɗaya ba tare da la'akari da yadda "haɗin" abin hawa yake ba.
5) Samfurin duba martani mai welded:
Ga kowane tushen hanyar haɗin yanar gizo / ambato da kuka bayar a cikin wannan amsar, nuna mani ainihin jumla/nassi inda zan iya bincika ko da'awar ta faru GASKIYA a tushen. Idan tushen gaskiya ne amma taƙaitawar ku ta kauce masa, yi alama.
A takaice
- Hallucination sakamako ne na halitta na tsarin aikin LLM; Ba "hadari" ba ne, amma abin da ake tsammani wanda dole ne a kama shi da tsari.
- A cikin kwayoyin halitta, AI na iya ƙirƙirar kwayoyin halitta, jeri, bambance-bambancen, mitoci, halaye, daidaitawa, ƙididdiga da da'awar asibiti.
- Magana, mahimmancin albarkatu, da kamun kai suna raguwa amma ba sa kawo ƙarshen ruɗi; Ikon tushen asali kawai yana ba da daidaito.
- Haɓaka ra'ayoyin tabbatarwa na musamman ga nau'in fitarwa (jeri → FASTA, ambato → DOI); Mayar da hankali kan kasafin tabbatarwa akan mafi mahimmancin hujjoji.
Aikin aikace-aikace
Tambayi AI game da batun kwayoyin halitta kuma da kanka tabbatar da kowane iƙirarin gaskiya (jinin, jeri, bambance-bambancen, mitar, sifa) a cikin fitarwa akan lissafin reflex da ke sama. Ƙididdige yawan iƙirarin gaskiya, nawa ne ƙarya/ ƙirƙira, da nawa ne m. Takaita sakamakon a cikin tebur kuma lura da wane nau'in da'awar aka fi ƙirƙira.
jerin abubuwan dubawa
- [ ] Na yi amfani da reflex na tabbatarwa don kowane nau'in fitarwa.
- [ ] Ni da kaina na bincika mahimman bayanai daga tushe na farko.
- [ ] Na tabbatar da ainihin mahimman bayanai a cikin tunanin da aka ɗaure.
- [ ] Na karanta kuma na tabbatar da tsararru/makullin da aka saka a cikin lambar.
- [ ] Ban yi la'akari da sautin santsi da tabbaci a matsayin shaidar daidaito ba.
- [ ] Na mayar da hankali kan kasafin kuɗi na tabbatarwa akan mafi girman da'awar haɗari.