Awọn anfani:
- Agbara lati ṣe idanimọ ninu eyiti awọn fọọmu (jiini ti a ṣe / lẹsẹsẹ / iyatọ / itọkasi) hallucination (igbejade igbẹkẹle ara ẹni ti oye ti awọn aṣiṣe) waye ninu awọn Jiini
- Agbara lati loye pe ohun orin 'igboya' ti AI kii ṣe ẹri ti deede ati sọji-ṣayẹwo iṣelọpọ kọọkan pẹlu orisun ominira
- Agbara lati ṣe imuse iṣan-iṣẹ idinku hallucination kan pẹlu imuṣiṣẹ orisun, ipoidojuko / ijẹrisi ẹya, ati 'ti o ko ba mọ, ṣe soke' awọn ilana
Ewu kan tun nwaye ni ẹyọkan kọọkan ti module yii: hallucination ti itetisi atọwọda (AI) - iyẹn ni, ṣiṣe pẹlu alaye igbẹkẹle pipe ti ko si tẹlẹ. Ẹka yii n ṣalaye ewu yẹn funrararẹ: kini ati bawo ni AI ṣe baamu ni isedale molikula ati awọn Jiini; Bawo ni o ṣe akiyesi eyi? ati iru ifojusọna wo ni o yẹ ki o dagbasoke fun iru iṣẹjade kọọkan. Ibi-afẹde naa ni fun ọ lati rii ipalọlọ naa kii ṣe bi “ijamba ti o ṣẹlẹ nigba miiran” ṣugbọn bi iṣẹlẹ ti o nireti nigbagbogbo ati ti mu ni ọna ṣiṣe.
Kilode ti awọn hallucinations jẹ eyiti ko le ṣe? Nitori LLM kii ṣe eto ti o “mọ otitọ”, ṣugbọn eto ti “ngbejade ọrọ ti o ṣeeṣe julọ ti atẹle”. O ti kọ kini orukọ apilẹṣẹ kan, fọọmu iyatọ kan, tabi apẹrẹ tag kan dabi ninu data ikẹkọ; Nitorinaa, o le gbejade iṣelọpọ ti o jọra pupọ si otitọ ṣugbọn kii ṣe otitọ. Ninu awọn Jiini, ibajọra yii lewu paapaa nitori “c.1234A>G” ti a ṣe ati iyatọ otitọ ko le ṣe iyatọ nipasẹ oju.
Kini AI ṣe ninu awọn Jiini? maapu kan
nkan ti a ṣe
Kini o dabi
Bawo ni lati yẹ
Gene orukọ / aami
Ojulowo ṣugbọn aami ti ko si
HGNC / NCBI Jiini
jara
Ilana ti ko tọ pẹlu awọn lẹta to tọ
NCBI / Ensembl FASTA
Iṣakojọpọ iyatọ
Ni ọna kika HGVS ṣugbọn aṣiṣe / ko si
VariantValidator, ClinVar
igbohunsafẹfẹ olugbe
A reasonable ogorun
gnomAD
iṣẹ-ṣiṣe iṣẹ
persuasive Isamisi
PubMed/DOI
isẹgun nipe
"O jẹ pathogenic"
ACMG pq ti eri
amuaradagba ipoidojuko
Awọn nọmba 3D pẹlu eleemewa
PDB/AlphaFold faili
Abajade statistiki
p-iye lai atunse
Tun koodu naa ṣiṣẹ
Awọn ilana ti o dinku (ṣugbọn ko pari) hallucinations
1. Fun ni ayika. Ipilẹ deede diẹ sii ti o fun (ẹya jiini, iwe afọwọkọ, ọkọọkan gangan), AI yoo kere si. Ṣugbọn ko tunto.
2. "Ti o ko ba mọ, sọ fun mi" itọnisọna. Ilana naa "Ti ko ba ni idaniloju, sọ 'gbọdọ jẹ iṣeduro', maṣe ṣe soke" dinku iṣelọpọ - ṣugbọn maṣe gbẹkẹle patapata.
3. Beere awọn oluşewadi. Beere orisun ijẹrisi (DOI, PMID, igbasilẹ data) fun ẹtọ kọọkan.
4. Ṣe ayẹwo ara ẹni. "Awọn eroja wo ni iṣelọpọ yii nilo ijẹrisi ominira?" beere; AI le nigbagbogbo ṣe afihan awọn nkan eewu.
5. Pataki julo: ṣayẹwo ni eniyan. Awọn loke din iṣeeṣe; Nikan iṣakoso orisun akọkọ rẹ pese idaniloju.
Imọran: Ṣeto “isuna afọwọsi”: pẹlu iṣẹjade AI kọọkan, rii daju lati rii daju awọn otitọ to ṣe pataki si ipinnu (ilana, iyatọ, igbohunsafẹfẹ, ikasi); Ṣe itọju awọn alaye ti o kere ju (itumọ ti imọran) diẹ sii ni alaimuṣinṣin. Fojusi awọn orisun rẹ lori aṣiṣe ti o le fa ipalara pupọ julọ.
mẹta mini igba
Ọran 1 - Jiini ti ko si. Ọmọ ile-iwe gbiyanju lati ṣe iwadii “gene” kan ti AI mẹnuba ṣugbọn ko le rii ni HGNC. AI ti ṣe agbekalẹ aami kan ti ko si nipa apapọ awọn orukọ ti awọn Jiini gidi meji. Laisi iṣakoso HGNC, ọmọ ile-iwe yoo lo awọn wakati wiwa fun jiini iwin kan.
Ọran 2 - Pq hallucination. Oluwadi kan beere lọwọ AI nipa iyatọ kan; AI funni ni igbohunsafẹfẹ ti a ṣe, lẹhinna daba koodu ACMG eke ti o da lori igbohunsafẹfẹ yẹn, lẹhinna ṣafikun nkan iro kan ti n ṣe atilẹyin koodu yẹn. Iye eke kan ti bi ẹwọn eke olopo mẹta. Nigbati oluwadi naa ṣii gnomAD, ọna asopọ akọkọ ninu pq naa fọ ati ohun gbogbo ṣubu.
Irú 3 - Ìmúdájú gba. Onimọ-ẹrọ kan gba koodu itupalẹ okun lati AI; Ninu koodu naa, AI ti ṣe ifibọ okun ti a ṣe bi “okun itọkasi”. Onimọ-ẹrọ naa ka koodu naa o si rọpo ọkọọkan pẹlu ọkọọkan gangan lati NCBI. Ti o ba ṣiṣẹ koodu naa ni afọju, abajade yoo jẹ aṣiṣe ni ipalọlọ.
Awọn ifojusọna ijẹrisi: nipasẹ iru iṣẹjade
Nigbati o ba ri SEQUENCE -> nigbati o ba ri NCBI / Ensembl FASTA nigbati o ba ri VARIANT -> nigbati o ba ri VariantValidator + ClinVar + gnomADFREQUENCY -> wa ninu gnomAD funrararẹ nigbati o ba ri ATTRIBUTE -> ṣii DOI/PMID, tọju akọle-onkọwe Nigbati o ba ri GENEBIGY - CO nigba ti o ba ri GENEBIG. o rii ẹya genome + liftOverSTATISTICS -> ṣiṣe koodu funrararẹ, ṣayẹwo atunṣe naa
Mẹrin daakọ awọn awoṣe
1) Ilana iṣakoso ara ẹni:
Ninu abajade ti o ṣẹṣẹ fun, awọn eroja wo (tẹle, iyatọ, igbohunsafẹfẹ, orukọ pupọ, itọkasi, nọmba) nilo ijẹrisi ominira? Fi aami si ọkọọkan bi “dajudaju/ṣeeṣe/daju” ki o kọ iru orisun wo lati ṣayẹwo.
2) Idahun dandan orisun:
Dahun ibeere yii ṣugbọn tọka orisun ti o le rii daju (igbasilẹ data, DOI, PMID) fun gbogbo ẹtọ otitọ. Ma ṣe ṣafihan eyikeyi ẹtọ ti o ko le pese orisun kan fun; kọ "gbọdọ wa ni wadi": [ibeere].
3) Ṣiṣayẹwo ọkọọkan ti a ṣe:
Ṣe atokọ gbogbo awọn akojọpọ, awọn iduro, ati awọn iyatọ ti a fi sinu koodu atẹle: [koodu]. Fun ọkọọkan, samisi ni kedere “gbọdọ jẹ ijẹrisi” ti ko ba ṣe akiyesi boya o wa lati orisun gidi tabi jẹ aaye ti o ṣẹda.
4) Iṣakoso pq:
Igbesẹ kọọkan kọ lori ọkan ti tẹlẹ ninu ero atẹle: [pq].Awọn igbesẹ ti o tẹle wo ni o ṣubu ti ọna asopọ akọkọ (data ti o wa labẹ) jẹ aṣiṣe? Ṣe atokọ awọn aaye data KEY ti pq nilo lati jẹrisi.
Ailagbara kiakia / Alagbara kiakia
Alailagbara: "Sọ ohun gbogbo ti o mọ nipa iyatọ yii."
Isoro: AI ṣe agbejade igbohunsafẹfẹ, ikalara, iṣeduro iwosan lati iranti; Ko si ìkọ afọwọsi.
Alagbara: "Dahun lori iyatọ yii; sọ iru orisun lati rii daju fun ẹtọ otitọ kọọkan, samisi 'gbọdọ jẹri' ti ko ba ni idaniloju, maṣe ṣe agbejade igbohunsafẹfẹ eyikeyi tabi ikaṣe."
Kini idi ti o fi lagbara: Aaye ti iṣelọpọ ti dín, ẹtọ kọọkan ni a so mọ kio ijerisi.
Awọn aṣiṣe ti o wọpọ
- Asise fluency fun išedede. Awọn gbolohun ọrọ ti o ni idaniloju julọ le jẹ awọn hallucinations ti o lewu julọ.
- Ilé lori kan nikan iye lai afọwọsi o. Eleyi jẹ bi a pq hallucination ti wa ni bi.
- Ko kika ibakan ifibọ ninu awọn koodu. AI le fi sabe okun ṣe-soke / ibakan sinu koodu.
- Jije akoonu pẹlu "Ti o ko ba mọ, sọ fun mi." Ilana yii dinku iṣeeṣe ati pe ko pese idaniloju.
- Lilo isuna ijerisi ni ibi ti ko tọ. Ṣiṣayẹwo awọn otitọ ti ko ṣe pataki, kii ṣe awọn otitọ to ṣe pataki julọ.
Išọra: Oṣuwọn hallucination yatọ nipasẹ ẹya awoṣe, ibeere, ati agbegbe; ṣugbọn o jẹ aṣiṣe lati sọ "awoṣe yii ko baamu mọ". Ijẹrisi ibawi gbọdọ wa ni itọju laibikita bawo awoṣe ṣe dara to. Ojuse nigbagbogbo wa pẹlu eniyan naa.
Ijinle: Kilode ti RAG ati 'wakọ' ko pari hallucination
Ni awọn ọdun aipẹ, ọpọlọpọ awọn irinṣẹ AI ti lo RAG (Gbigba-Augmented Generation - ọna nipasẹ eyiti awoṣe n gba awọn iwe aṣẹ ti o yẹ lati ibi ipamọ data kan ti o lo wọn ṣaaju ṣiṣe idahun) tabi ipe ohun elo taara (fun apẹẹrẹ wiwa PubMed gangan) lati “sopọ” idahun rẹ si awọn orisun gidi. Awọn ọna wọnyi dinku idawọle ṣugbọn ko pari fun awọn idi meji. Ni akọkọ, awoṣe le ṣe akopọ iwe-ipamọ ti o gba ni aṣiṣe tabi ṣe afihan abajade si iwe-ipamọ ti ko si ninu iwe-ipamọ naa; Paapa ti orisun ba jẹ otitọ, itumọ le jẹ ti a ṣe. Ẹlẹẹkeji, wiwa le pada aṣiṣe tabi iwe ti ko ṣe pataki ati pe awoṣe yoo tun yi pada si idahun ti o ni aṣẹ. Ni awọn ọrọ miiran, paapaa idahun ti o dabi pe o jẹ “orisun” ko yẹ ki o jẹ igbẹkẹle laisi ṣiṣi ati kika pe orisun naa ṣe atilẹyin fun ẹtọ naa.
Apeere kan pato: oluranlọwọ ti o da lori RAG da oju-iwe ClinVar gangan pada fun iyatọ ṣugbọn ṣe akopọ oju-iwe naa bi “pathogenic”; Sibẹsibẹ, lori oju-iwe naa, iyatọ ti samisi bi “awọn asọye ariyanjiyan”. Orisun naa tọ, akopọ ko tọ - ati aṣiṣe ti iwuwo ile-iwosan. Apeere keji: ọpa litireso kan fa nkan gangan, ṣugbọn nkan naa jẹ nipa jiini ti o yatọ; Awoṣe naa jẹ aṣiwere nipasẹ ibajọra ti akọle ati pe abajade si ibeere naa.
Ofin ti atanpako: ti o ba fun ọna asopọ kan, ṣii ọna asopọ; ti o ba fun agbasọ kan, rii boya agbasọ ọrọ naa jẹ asọye ni ọrọ-ọrọ ni orisun. "Orisun AI" ṣe iṣeduro iṣeduro, kii ṣe imukuro rẹ. Imudaniloju ijẹrisi rẹ wa kanna laibikita bawo ni ọkọ “ti sopọ” ṣe jẹ.
5) Awoṣe ayẹwo idahun welded:
Fun ọna asopọ orisun kọọkan / agbasọ ọrọ ti o pese ni idahun yii, fihan mi ni gbolohun ọrọ gangan / ọna kika nibiti MO le ṣayẹwo boya ẹtọ naa ba waye NIPA NIPA ni orisun naa. Ti orisun ba jẹ otitọ ṣugbọn akopọ rẹ yapa lati ọdọ rẹ, samisi rẹ.
Ni akojọpọ
- Hallucination jẹ abajade adayeba ti LLM modus operandi; Kii ṣe “ijamba”, ṣugbọn iṣẹlẹ ti a nireti ti o gbọdọ mu ni ọna ṣiṣe.
- Ni awọn Jiini, AI le ṣe awọn jiini, awọn ilana, awọn iyatọ, awọn igbohunsafẹfẹ, awọn abuda, awọn ipoidojuko, awọn iṣiro ati awọn ẹtọ ile-iwosan.
- Ọrọ-ọrọ, awọn ohun elo pataki, ati ikora-ẹni-nijaanu dinku ṣugbọn ko pari irokuro; Iṣakoso orisun akọkọ nikan pese deede.
- Dagbasoke awọn ifasilẹ ijẹrisi ni pato si iru iṣẹjade (ọkọọkan → FASTA, itọkasi → DOI); Ṣe idojukọ isuna ijẹrisi rẹ lori awọn otitọ to ṣe pataki julọ.
Ohun elo iṣẹ-ṣiṣe
Beere lọwọ AI nipa koko-ọrọ jiini ati tikalararẹ mọ daju ẹtọ ododo kọọkan (aini, ọkọọkan, iyatọ, igbohunsafẹfẹ, iyasọtọ) ninu iṣelọpọ lodi si atokọ ifasilẹ loke. Ka iye awọn ẹtọ ti o jẹ otitọ, melo ni o jẹ eke / ti a ṣe, ati melo ni aiduro. Ṣe akopọ abajade ni tabili kan ki o ṣakiyesi iru ibeere wo ni a ṣe julọ.
akojọ ayẹwo
- [] Mo lo ifasilẹ ijẹrisi mi fun iru iṣẹjade kọọkan.
- [] Mo ti ṣayẹwo tikalararẹ awọn otitọ to ṣe pataki lati orisun akọkọ.
- [] Mo timo awọn ipilẹ data ojuami ninu awọn dè idiwon.
- [] Mo ti ka ati fi idi rẹ mulẹ awọn ilana/awọn igbagbogbo ti a fi sii ninu koodu naa.
- [] Emi ko ro awọn dan ati igboya ohun orin bi eri ti deede.
- [] Mo dojukọ isuna ijẹrisi mi lori awọn ẹtọ eewu ti o ga julọ.