மாயத்தோற்றம் மற்றும் அங்கீகாரத்தின் ஒழுக்கம்: உருவாக்கப்பட்ட மரபணுக்கள், தொடர்கள், மாறுபாடுகள் மற்றும் பண்புக்கூறுகள்

ஆதாயங்கள்:

• மரபியலில் மாயத்தோற்றம் (செயற்கை நுண்ணறிவின் தன்னம்பிக்கையான பிழைகள்) எந்த வடிவங்களில் (புனையப்பட்ட மரபணு/வரிசை/மாறுபாடு/குறிப்பு) நிகழ்கிறது என்பதை அறியும் திறன்
• AI இன் 'நம்பிக்கை' தொனி துல்லியத்திற்கான ஆதாரம் அல்ல என்பதைப் புரிந்து கொள்ளும் திறன் மற்றும் ஒவ்வொரு வெளியீட்டையும் ஒரு சுயாதீன மூலத்துடன் குறுக்கு சரிபார்த்தல்
• மூல அமலாக்கம், ஒருங்கிணைப்பு/பதிப்பு உறுதிப்படுத்தல் மற்றும் 'உங்களுக்குத் தெரியாவிட்டால், அதை உருவாக்கு' வழிமுறைகளுடன் மாயத்தோற்றத்தைக் குறைக்கும் பணிப்பாய்வுகளைச் செயல்படுத்தும் திறன்

இந்த தொகுதியின் ஒவ்வொரு யூனிட்டிலும் ஒரு ஆபத்து மீண்டும் நிகழ்கிறது: செயற்கை நுண்ணறிவின் (AI) மாயத்தோற்றம் - அதாவது, உண்மையில் இல்லாத முழுமையான நம்பிக்கையுடன் தகவல்களை உருவாக்குகிறது. இந்த அலகு அந்த ஆபத்தை தானே நிவர்த்தி செய்கிறது: மூலக்கூறு உயிரியல் மற்றும் மரபியல் ஆகியவற்றில் AI என்ன, எப்படி பொருந்துகிறது; இதை எப்படி கவனிக்கிறீர்கள்? ஒவ்வொரு வகை வெளியீட்டிற்கும் என்ன சரிபார்ப்பு ரிஃப்ளெக்ஸ் உருவாக்க வேண்டும். மாயத்தோற்றத்தை "சில நேரங்களில் நடக்கும் விபத்து" என்று பார்க்காமல், எப்போதும் எதிர்பார்க்கப்படும் மற்றும் முறையாகப் பிடிக்கப்படும் ஒரு நிகழ்வாக நீங்கள் பார்ப்பதே குறிக்கோள்.

மாயத்தோற்றங்கள் ஏன் தவிர்க்க முடியாதவை? ஏனெனில் LLM என்பது "உண்மையை அறியும்" அமைப்பு அல்ல, மாறாக "அடுத்த வாய்ப்புள்ள வார்த்தையை உருவாக்கும்" அமைப்பு. பயிற்சி தரவுகளில் மரபணு பெயர், மாறுபாடு வடிவம் அல்லது குறிச்சொல் வடிவம் எப்படி இருக்கும் என்பதை இது கற்றுக்கொண்டது; எனவே, இது யதார்த்தத்திற்கு மிகவும் ஒத்த வெளியீட்டை உருவாக்க முடியும், ஆனால் உண்மையில் இல்லை. மரபியலில், இந்த ஒற்றுமை குறிப்பாக ஆபத்தானது, ஏனெனில் உருவாக்கப்பட்ட "c.1234A>G" மற்றும் உண்மையான மாறுபாட்டை கண்ணால் வேறுபடுத்த முடியாது.

மரபியலில் AI என்ன செய்கிறது? ஒரு வரைபடம்

உருவாக்கியது

அது எப்படி இருக்கும்

எப்படி பிடிப்பது

மரபணு பெயர்/சின்னம்

யதார்த்தமான ஆனால் இல்லாத சின்னம்

HGNC/NCBI மரபணு

தொடர்

சரியான எழுத்துகளுடன் தவறான வரிசை

NCBI/Ensembl FASTA

மாறுபாடு ஒருங்கிணைப்பு

HGVS வடிவத்தில் ஆனால் தவறானது/இல்லாதது

வேரியண்ட் வாலிடேட்டர், க்ளின்வார்

மக்கள்தொகை அதிர்வெண்

நியாயமான சதவீதம்

gnomAD

செயல்பாட்டு வேலை

வற்புறுத்தும் முத்திரை

பப்மெட்/டிஓஐ

மருத்துவ கோரிக்கை

"இது நோய்க்கிருமி"

ACMG சங்கிலி ஆதாரம்

புரத ஒருங்கிணைப்பு

தசமத்துடன் 3D எண்கள்

PDB/AlphaFold கோப்பு

புள்ளிவிவரங்கள் முடிவு

திருத்தம் இல்லாமல் p-மதிப்பு

குறியீட்டை மீண்டும் இயக்கவும்

மாயத்தோற்றங்களைக் குறைக்கும் (ஆனால் முடிவுக்கு வராத) நுட்பங்கள்

1. சூழலைக் கொடுங்கள். நீங்கள் கொடுக்கும் மிகவும் துல்லியமான சூழல் (ஜீனோம் பதிப்பு, டிரான்ஸ்கிரிப்ட், உண்மையான வரிசை), AI ஆனது குறைவாக இருக்கும். ஆனால் அது மீட்டமைக்கப்படவில்லை.

2. "உங்களுக்குத் தெரியாவிட்டால், சொல்லுங்கள்" அறிவுறுத்தல். "நிச்சயமில்லை என்றால், 'சரிபார்க்கப்பட வேண்டும்' என்று சொல்லுங்கள், அதை உருவாக்க வேண்டாம்" என்ற அறிவுறுத்தல் புனைகதையைக் குறைக்கிறது - ஆனால் அதை முழுமையாக நம்ப வேண்டாம்.

3. ஆதாரம் தேவை. ஒவ்வொரு உரிமைகோரலுக்கும் சரிபார்க்கக்கூடிய ஆதாரத்தை (DOI, PMID, தரவுத்தள பதிவு) கோரவும்.

4. அதை சுயமாக சரிபார்த்துக் கொள்ளுங்கள். "இந்த வெளியீட்டில் என்ன கூறுகளுக்கு சுயாதீன சரிபார்ப்பு தேவை?" கேள்; AI அடிக்கடி ஆபத்தான பொருட்களைக் கொடியிடலாம்.

5. மிக முக்கியமாக: நேரில் சரிபார்க்கவும். மேலே உள்ளவை நிகழ்தகவைக் குறைக்கிறது; உங்கள் முதன்மை மூலக் கட்டுப்பாடு மட்டுமே உறுதியை வழங்குகிறது.

உதவிக்குறிப்பு: "சரிபார்ப்பு வரவுசெலவுத் திட்டத்தை" அமைக்கவும்: ஒவ்வொரு AI வெளியீட்டிலும், முடிவிற்கான முக்கியமான உண்மைகளைச் சரிபார்க்கவும் (வரிசை, மாறுபாடு, அதிர்வெண், பண்புக்கூறு); குறைந்த அளவிலான விளக்கங்களை (ஒரு கருத்தின் வரையறை) மிகவும் தளர்வாக நடத்துங்கள். மிகவும் தீங்கு விளைவிக்கும் தவறுகளில் உங்கள் ஆதாரங்களை கவனம் செலுத்துங்கள்.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - இல்லாத மரபணு. AI குறிப்பிட்டுள்ள "மரபணுவை" ஒரு மாணவர் ஆராய்ச்சி செய்ய முயன்றார், ஆனால் அதை HGNC இல் கண்டுபிடிக்க முடியவில்லை. இரண்டு உண்மையான மரபணுக்களின் பெயர்களை இணைத்து AI இல்லாத ஒரு சின்னத்தை உருவாக்கியது. HGNC கட்டுப்பாடு இல்லாமல், மாணவர் பேய் மரபணுவைத் தேடி மணிநேரம் செலவிடுவார்.

வழக்கு 2 - சங்கிலி மாயத்தோற்றம். ஒரு ஆராய்ச்சியாளர் AI யிடம் ஒரு மாறுபாடு பற்றி கேட்டார்; AI ஆனது ஒரு தயாரிக்கப்பட்ட அதிர்வெண்ணைக் கொடுத்தது, பின்னர் அந்த அதிர்வெண்ணின் அடிப்படையில் தவறான ACMG குறியீட்டைப் பரிந்துரைத்தது, பின்னர் அந்தக் குறியீட்டை ஆதரிக்கும் போலிக் கட்டுரையைச் சேர்த்தது. ஒரு தவறான மதிப்பு மூன்று அடுக்கு தவறான சங்கிலியைப் பெற்றெடுத்தது. ஆராய்ச்சியாளர் gnomAD ஐத் திறந்தபோது, ​​​​சங்கிலியின் முதல் இணைப்பு உடைந்து அனைத்தும் சரிந்தது.

வழக்கு 3 - உறுதிப்படுத்தல் கிடைத்தது. ஒரு தொழில்நுட்ப வல்லுநர் AI இலிருந்து சரம் பகுப்பாய்வுக் குறியீட்டைப் பெற்றார்; குறியீட்டில், AI ஆனது உருவாக்கப்பட்ட சரத்தை "குறிப்பு சரமாக" உட்பொதித்துள்ளது. தொழில்நுட்ப வல்லுநர் குறியீட்டைப் படித்து, NCBI இன் உண்மையான வரிசையுடன் வரிசையை மாற்றினார். அவர் குறியீட்டை கண்மூடித்தனமாக இயக்கினால், விளைவு அமைதியாக தவறாக இருக்கும்.

உறுதிப்படுத்தல் பிரதிபலிப்பு: வெளியீட்டின் வகை மூலம்

நீங்கள் SEQUENCE ஐப் பார்க்கும்போது -> நீங்கள் NCBI/Ensembl FASTA ஐப் பார்க்கும்போது VARIANT -> நீங்கள் VariantValidator + ClinVar + gnomADFREQUENCY ஐப் பார்க்கும்போது -> ATTRIBUTE ஐப் பார்க்கும்போது gnomAD இல் தேடவும் -> DOI/PMID ஐத் திறக்கவும், நீங்கள் HGNC ஐப் பார்க்கும்போது தலைப்பு-ஆசிரியர் பார்க்கவும் Genecoordinate -> நீங்கள் மரபணு பதிப்பு + liftOverSTATISTICS ஐப் பார்க்கும்போது -> குறியீட்டை நீங்களே இயக்கவும், திருத்தத்தைச் சரிபார்க்கவும்

நகலெடுக்கக்கூடிய நான்கு வார்ப்புருக்கள்

1) சுய கட்டுப்பாடு உடனடி:

நீங்கள் இப்போது வழங்கிய வெளியீட்டில், எந்த உறுப்புகளுக்கு (வரிசை, மாறுபாடு, அதிர்வெண், மரபணு பெயர், மேற்கோள், எண்) சுயாதீன சரிபார்ப்பு தேவை? ஒவ்வொன்றையும் "நிச்சயம்/சாத்தியம்/உறுதியற்றது" என லேபிளிட்டு, எந்த ஆதாரத்தை சரிபார்க்க வேண்டும் என்று எழுதவும்.

2) ஆதாரம் கட்டாய பதில்:

இந்த கேள்விக்கு பதிலளிக்கவும், ஆனால் ஒவ்வொரு உண்மை உரிமைகோரலுக்கும் சரிபார்க்கக்கூடிய ஆதாரத்தை (தரவுத்தள பதிவு, DOI, PMID) மேற்கோள் காட்டவும். நீங்கள் ஆதாரத்தை வழங்க முடியாது என்று எந்த கோரிக்கையையும் முன்வைக்க வேண்டாம்; "சரிபார்க்கப்பட வேண்டும்" என்று எழுதவும்: [கேள்வி].

3) தயாரிக்கப்பட்ட வரிசை ஸ்கேனிங்:

பின்வரும் குறியீட்டில் உட்பொதிக்கப்பட்ட அனைத்து அணிவரிசைகள், மாறிலிகள் மற்றும் மாறுபாடுகளை பட்டியலிடுங்கள்:[குறியீடு]. ஒவ்வொன்றிற்கும், அது உண்மையான மூலத்திலிருந்து வந்ததா அல்லது நீங்கள் உருவாக்கிய ஒதுக்கிடமா என்பது தெளிவாகத் தெரியவில்லை என்றால், "சரிபார்க்கப்பட வேண்டும்" என்று தெளிவாகக் குறிக்கவும்.

4) சங்கிலி கட்டுப்பாடு:

ஒவ்வொரு அடியும் பின்வரும் பகுத்தறிவில் முந்தையதைக் கட்டமைக்கிறது: [செயின்]. முதல் இணைப்பு (அடிப்படை தரவு) தவறாக இருந்தால், எந்த அடுத்தடுத்த படிகள் சரியும்? சங்கிலி சரிபார்க்க வேண்டிய முக்கிய தரவு புள்ளிகளை பட்டியலிடுங்கள்.

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமானது: "இந்த மாறுபாட்டைப் பற்றி உங்களுக்குத் தெரிந்த அனைத்தையும் எங்களிடம் கூறுங்கள்."

சிக்கல்: AI ஆனது நினைவகத்திலிருந்து அதிர்வெண், பண்புக்கூறு, மருத்துவக் கோரிக்கையை உருவாக்குகிறது; சரிபார்ப்பு கொக்கி இல்லை.

வலிமையானது: "இந்த மாறுபாட்டிற்கு பதிலளிக்கவும்; ஒவ்வொரு உண்மை உரிமைகோரலுக்கும் எந்த ஆதாரத்தை சரிபார்க்க வேண்டும் என்பதைக் குறிப்பிடவும், உறுதியாக தெரியவில்லை என்றால் 'சரிபார்க்கப்பட வேண்டும்' எனக் குறிக்கவும், எந்த அதிர்வெண் அல்லது பண்புக்கூறையும் உருவாக்க வேண்டாம்."

இது ஏன் சக்தி வாய்ந்தது: புனைகதைத் துறை குறுகிவிட்டது, ஒவ்வொரு உரிமைகோரலும் சரிபார்ப்பு கொக்கியுடன் இணைக்கப்பட்டுள்ளது.

பொதுவான தவறுகள்

• சரளத்தை துல்லியமாக தவறாகப் புரிந்துகொள்வது. மிகவும் உறுதியான வாக்கியங்கள் மிகவும் ஆபத்தான பிரமைகளாக இருக்கலாம்.
• அதை சரிபார்க்காமல் ஒற்றை மதிப்பை உருவாக்குதல். இப்படித்தான் ஒரு சங்கிலி மாயத்தோற்றம் பிறக்கிறது.
• குறியீட்டில் உட்பொதிக்கப்பட்ட மாறிலிகளைப் படிக்கவில்லை. AI ஆனது உருவாக்கப்பட்ட சரம்/நிலையான குறியீட்டை உட்பொதிக்க முடியும்.
• "உங்களுக்குத் தெரியாவிட்டால் சொல்லுங்கள்" என்று திருப்தியாக இருப்பது. இந்த அறிவுறுத்தல் நிகழ்தகவைக் குறைக்கிறது மற்றும் உறுதியை வழங்காது.
• சரிபார்ப்பு வரவு செலவுத் திட்டத்தை தவறான இடத்தில் செலவிடுதல். முக்கியமற்ற உண்மைகளைச் சரிபார்த்தல், மிக முக்கியமான உண்மைகள் அல்ல.

எச்சரிக்கை: மாடல் பதிப்பு, கேள்வி மற்றும் டொமைன் ஆகியவற்றின் அடிப்படையில் மாயத்தோற்றம் விகிதம் மாறுபடும்; ஆனால் "இந்த மாதிரி இனி பொருந்தாது" என்று சொல்வது தவறு. மாதிரி எவ்வளவு நன்றாக இருந்தாலும் சரிபார்ப்பு ஒழுக்கம் பராமரிக்கப்பட வேண்டும். பொறுப்பு எப்போதும் நபரிடம் உள்ளது.

ஆழம்: RAG மற்றும் 'டிரைவிங்' ஏன் மாயத்தோற்றத்தை முடிவுக்குக் கொண்டுவரவில்லை

சமீபத்திய ஆண்டுகளில், பல AI கருவிகள் RAG (Retrieval-Augmented Generation — மாதிரியானது ஒரு தரவுத்தளத்திலிருந்து தொடர்புடைய ஆவணங்களை மீட்டெடுத்து, பதிலை உருவாக்கும் முன் அவற்றைப் பயன்படுத்தும் முறை) அல்லது உண்மையான ஆதாரங்களுடன் அதன் பதிலை "இணைக்க" நேரடி கருவி அழைப்பு (எ.கா. உண்மையில் PubMed ஐத் தேடுதல்) ஆகியவற்றைப் பயன்படுத்துகின்றன. இந்த அணுகுமுறைகள் மாயத்தோற்றத்தை குறைக்கின்றன, ஆனால் இரண்டு காரணங்களுக்காக அதை முடிப்பதில்லை. முதலாவதாக, மாதிரியானது கைப்பற்றப்பட்ட ஆவணத்தை தவறாகச் சுருக்கலாம் அல்லது ஆவணத்தில் இல்லாத ஆவணத்திற்கு ஒரு முடிவைக் கூறலாம்; ஆதாரம் உண்மையானதாக இருந்தாலும், விளக்கம் புனையப்பட்டதாக இருக்கலாம். இரண்டாவதாக, தேடல் தவறான அல்லது பொருத்தமற்ற ஆவணத்தைத் திரும்பப் பெறலாம், மேலும் மாதிரியானது அதை அதிகாரப்பூர்வமான பதிலாக மாற்றும். வேறு வார்த்தைகளில் கூறுவதானால், "ஆதாரம்" என்று தோன்றும் பதில் கூட, அந்த ஆதாரம் உண்மையில் அந்தக் கோரிக்கையை ஆதரிக்கிறது என்பதைத் திறந்து படிக்காமல் நம்பகமானதாகக் கருதக்கூடாது.

ஒரு உறுதியான உதாரணம்: RAG-அடிப்படையிலான உதவியாளர் ஒரு மாறுபாட்டிற்கான உண்மையான ClinVar பக்கத்தை திருப்பி அளித்தார், ஆனால் பக்கத்தை "நோய்க்கிருமி" என்று சுருக்கினார்; இருப்பினும், பக்கத்தில், மாறுபாடு "முரண்பாடான கருத்துகள்" எனக் குறிக்கப்பட்டது. ஆதாரம் சரியானது, சுருக்கம் தவறு - மற்றும் மருத்துவ எடையின் தவறு. இரண்டாவது உதாரணம்: ஒரு இலக்கியக் கருவி உண்மையான கட்டுரையை இழுத்தது, ஆனால் அந்தக் கட்டுரை வேறு மரபணுவைப் பற்றியது; தலைப்பின் ஒற்றுமையால் மாடல் ஏமாற்றப்பட்டு, கேள்வியின் முடிவைக் காரணம் காட்டியது.

கட்டைவிரல் விதி: இணைப்பு கொடுக்கப்பட்டால், இணைப்பைத் திறக்கவும்; மேற்கோள் கொடுக்கப்பட்டால், அந்த மேற்கோள் மூலத்தில் வினைச்சொல்லாக மேற்கோள் காட்டப்பட்டுள்ளதா என்பதைப் பார்க்கவும். "ஆதார AI" சரிபார்ப்பை எளிதாக்குகிறது, அதை அகற்றாது. வாகனம் எவ்வளவு "இணைக்கப்பட்டுள்ளது" என்பதைப் பொருட்படுத்தாமல் உங்கள் சரிபார்ப்பு ரிஃப்ளெக்ஸ் மாறாமல் இருக்கும்.

5) பற்றவைக்கப்பட்ட மறுமொழி ஆய்வு டெம்ப்ளேட்:

இந்தப் பதிலில் நீங்கள் வழங்கும் ஒவ்வொரு ஆதார இணைப்பு/மேற்கோளுக்கும், சரியான வாக்கியம்/பத்தியை எனக்குக் காட்டுங்கள், அந்த உரிமைகோரல் மூலத்தில் சரியாக உள்ளதா என்பதை நான் சரிபார்க்க முடியும். ஆதாரம் உண்மையாக இருந்தாலும், உங்கள் சுருக்கம் அதிலிருந்து விலகினால், அதைக் குறிக்கவும்.

சுருக்கமாக

• மாயத்தோற்றம் என்பது LLM இன் செயல்பாட்டின் இயல்பான விளைவாகும்; இது ஒரு "விபத்து" அல்ல, ஆனால் முறையாகப் பிடிக்கப்பட வேண்டிய ஒரு எதிர்பார்க்கப்படும் நிகழ்வு.
• மரபியலில், AI ஆனது மரபணுக்கள், தொடர்கள், மாறுபாடுகள், அதிர்வெண்கள், பண்புக்கூறுகள், ஒருங்கிணைப்புகள், புள்ளியியல் மற்றும் மருத்துவ உரிமைகோரல்களை உருவாக்க முடியும்.
• சூழல், ஆதார தேவை மற்றும் சுய கட்டுப்பாடு ஆகியவை மாயத்தோற்றத்தை குறைக்கின்றன ஆனால் முடிவுக்கு வராது; முதன்மை மூலக் கட்டுப்பாடு மட்டுமே துல்லியத்தை வழங்குகிறது.
• வெளியீட்டு வகைக்கு குறிப்பிட்ட சரிபார்ப்பு பிரதிபலிப்புகளை உருவாக்கவும் (வரிசை→FASTA, மேற்கோள்→DOI); உங்கள் சரிபார்ப்பு வரவுசெலவுத் திட்டத்தை மிகவும் முக்கியமான உண்மைகளில் கவனம் செலுத்துங்கள்.

விண்ணப்ப பணி

ஒரு மரபணு தலைப்பைப் பற்றி AIயிடம் கேட்டு, மேலே உள்ள ரிஃப்ளெக்ஸ் பட்டியலுக்கு எதிரான வெளியீட்டில் உள்ள ஒவ்வொரு உண்மை உரிமைகோரலையும் (மரபணு, வரிசை, மாறுபாடு, அதிர்வெண், பண்புக்கூறு) தனிப்பட்ட முறையில் சரிபார்க்கவும். எத்தனை உரிமைகோரல்கள் உண்மை, எத்தனை பொய்/புனையப்பட்டவை, எத்தனை தெளிவற்றவை எனக் கணக்கிடுங்கள். ஒரு அட்டவணையில் முடிவைச் சுருக்கி, எந்த வகையான உரிமைகோரல் மிகவும் புனையப்பட்டது என்பதைக் கவனியுங்கள்.

சரிபார்ப்பு பட்டியல்

• [ ] ஒவ்வொரு வகை வெளியீட்டிற்கும் எனது சரிபார்ப்பு ரிஃப்ளெக்ஸைப் பயன்படுத்தினேன்.
• [ ] நான் தனிப்பட்ட முறையில் முக்கியமான உண்மைகளை முதன்மை மூலத்திலிருந்து சோதித்தேன்.
• [ ] சங்கிலிப் பகுத்தறிவில் அடிப்படை தரவுப் புள்ளியை உறுதிப்படுத்தினேன்.
• [ ] குறியீட்டில் உட்பொதிக்கப்பட்ட அணிவரிசைகள்/மாற்றுகளை நான் படித்து உறுதி செய்துள்ளேன்.
• [ ] நான் மென்மையான மற்றும் நம்பிக்கையான தொனியை துல்லியத்தின் சான்றாகக் கருதவில்லை.
• [ ] எனது சரிபார்ப்பு வரவுசெலவுத் திட்டத்தை அதிக ஆபத்து உரிமைகோரல்களில் கவனம் செலுத்தினேன்.