ਹੈਲੁਸੀਨੇਸ਼ਨ ਅਤੇ ਪ੍ਰਮਾਣਿਕਤਾ ਦਾ ਅਨੁਸ਼ਾਸਨ: ਬਣੇ ਜੀਨ, ਕ੍ਰਮ, ਰੂਪ, ਅਤੇ ਵਿਸ਼ੇਸ਼ਤਾ

ਲਾਭ:

• ਜੈਨੇਟਿਕਸ ਵਿੱਚ ਇਹ ਪਛਾਣ ਕਰਨ ਦੀ ਸਮਰੱਥਾ (ਨਕਲੀ ਜੀਨ/ਕ੍ਰਮ/ਵੇਰੀਏਂਟ/ਸੰਦਰਭ) ਭਰਮ (ਨਕਲੀ ਬੁੱਧੀ ਦਾ ਸਵੈ-ਵਿਸ਼ਵਾਸ ਪੈਦਾਵਾਰ) ਕਿਹੜੇ ਰੂਪਾਂ ਵਿੱਚ ਹੁੰਦਾ ਹੈ।
• ਇਹ ਸਮਝਣ ਦੀ ਯੋਗਤਾ ਕਿ AI ਦਾ 'ਭਰੋਸੇਮੰਦ' ਟੋਨ ਸ਼ੁੱਧਤਾ ਦਾ ਸਬੂਤ ਨਹੀਂ ਹੈ ਅਤੇ ਹਰੇਕ ਆਉਟਪੁੱਟ ਨੂੰ ਇੱਕ ਸੁਤੰਤਰ ਸਰੋਤ ਨਾਲ ਕਰਾਸ-ਵੇਰੀਫਾਈ ਕਰਦਾ ਹੈ।
• ਸਰੋਤ ਲਾਗੂ ਕਰਨ, ਤਾਲਮੇਲ/ਵਰਜਨ ਪੁਸ਼ਟੀਕਰਨ, ਅਤੇ 'ਜੇਕਰ ਤੁਸੀਂ ਨਹੀਂ ਜਾਣਦੇ ਹੋ, ਇਸ ਨੂੰ ਬਣਾਓ' ਨਿਰਦੇਸ਼ਾਂ ਦੇ ਨਾਲ ਭਰਮ-ਘਟਾਉਣ ਵਾਲੇ ਵਰਕਫਲੋ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਸਮਰੱਥਾ

ਇਸ ਮੋਡੀਊਲ ਦੀ ਹਰੇਕ ਇਕਾਈ ਵਿੱਚ ਇੱਕ ਖ਼ਤਰਾ ਦੁਹਰਾਇਆ ਜਾਂਦਾ ਹੈ: ਨਕਲੀ ਬੁੱਧੀ (AI) ਦਾ ਭੁਲੇਖਾ - ਭਾਵ, ਪੂਰੀ ਤਰ੍ਹਾਂ ਭਰੋਸੇ ਨਾਲ ਜਾਣਕਾਰੀ ਪੈਦਾ ਕਰਨਾ ਜੋ ਅਸਲ ਵਿੱਚ ਮੌਜੂਦ ਨਹੀਂ ਹੈ। ਇਹ ਇਕਾਈ ਆਪਣੇ ਆਪ ਉਸ ਖ਼ਤਰੇ ਨੂੰ ਸੰਬੋਧਿਤ ਕਰਦੀ ਹੈ: ਕੀ ਅਤੇ ਕਿਵੇਂ AI ਅਣੂ ਜੀਵ ਵਿਗਿਆਨ ਅਤੇ ਜੈਨੇਟਿਕਸ ਵਿੱਚ ਫਿੱਟ ਹੈ; ਤੁਸੀਂ ਇਸ ਨੂੰ ਕਿਵੇਂ ਨੋਟਿਸ ਕਰਦੇ ਹੋ? ਅਤੇ ਹਰੇਕ ਕਿਸਮ ਦੇ ਆਉਟਪੁੱਟ ਲਈ ਤੁਹਾਨੂੰ ਕਿਹੜਾ ਤਸਦੀਕ ਪ੍ਰਤੀਬਿੰਬ ਵਿਕਸਿਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਤੁਹਾਡੇ ਲਈ ਟੀਚਾ ਇਹ ਹੈ ਕਿ ਤੁਸੀਂ ਭੁਲੇਖੇ ਨੂੰ ਇੱਕ "ਹਾਦਸਾ ਜੋ ਕਦੇ-ਕਦਾਈਂ ਵਾਪਰਦਾ ਹੈ" ਦੇ ਰੂਪ ਵਿੱਚ ਨਹੀਂ ਦੇਖਣਾ ਹੈ, ਪਰ ਇੱਕ ਅਜਿਹੀ ਘਟਨਾ ਦੇ ਰੂਪ ਵਿੱਚ ਜਿਸਦੀ ਹਮੇਸ਼ਾ ਉਮੀਦ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਅਤੇ ਯੋਜਨਾਬੱਧ ਢੰਗ ਨਾਲ ਕੈਪਚਰ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।

ਭਰਮ ਕਿਉਂ ਅਟੱਲ ਹਨ? ਕਿਉਂਕਿ LLM ਇੱਕ ਸਿਸਟਮ ਨਹੀਂ ਹੈ ਜੋ "ਸੱਚ ਜਾਣਦਾ ਹੈ", ਪਰ ਇੱਕ ਸਿਸਟਮ ਜੋ "ਅਗਲਾ ਸਭ ਤੋਂ ਵੱਧ ਸੰਭਾਵਿਤ ਸ਼ਬਦ ਪੈਦਾ ਕਰਦਾ ਹੈ"। ਇਹ ਸਿੱਖਿਆ ਹੈ ਕਿ ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਇੱਕ ਜੀਨ ਨਾਮ, ਇੱਕ ਰੂਪ ਰੂਪ, ਜਾਂ ਇੱਕ ਟੈਗ ਪੈਟਰਨ ਕਿਹੋ ਜਿਹਾ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ; ਇਸ ਲਈ, ਇਹ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਅਸਲੀਅਤ ਨਾਲ ਬਹੁਤ ਮਿਲਦਾ ਜੁਲਦਾ ਹੈ ਪਰ ਅਸਲੀਅਤ ਨਹੀਂ। ਜੈਨੇਟਿਕਸ ਵਿੱਚ, ਇਹ ਸਮਾਨਤਾ ਖਾਸ ਤੌਰ 'ਤੇ ਖ਼ਤਰਨਾਕ ਹੈ ਕਿਉਂਕਿ ਇੱਕ ਬਣਿਆ "c.1234A>G" ਅਤੇ ਇੱਕ ਅਸਲੀ ਰੂਪ ਅੱਖ ਦੁਆਰਾ ਵੱਖਰਾ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।

ਜੈਨੇਟਿਕਸ ਵਿੱਚ AI ਕੀ ਬਣਦਾ ਹੈ? ਇੱਕ ਨਕਸ਼ਾ

ਬਣੀ ਚੀਜ਼

ਇਹ ਕਿਹੋ ਜਿਹਾ ਦਿਸਦਾ ਹੈ

ਕਿਵੇਂ ਫੜਨਾ ਹੈ

ਜੀਨ ਨਾਮ/ਚਿੰਨ੍ਹ

ਯਥਾਰਥਵਾਦੀ ਪਰ ਗੈਰ-ਮੌਜੂਦ ਪ੍ਰਤੀਕ

HGNC/NCBI ਜੀਨ

ਲੜੀ

ਸਹੀ ਅੱਖਰਾਂ ਨਾਲ ਗਲਤ ਕ੍ਰਮ

NCBI/Ensembl FASTA

ਵੇਰੀਐਂਟ ਕੋਆਰਡੀਨੇਟ

HGVS ਫਾਰਮੈਟ ਵਿੱਚ ਪਰ ਗਲਤ/ਗੈਰ-ਮੌਜੂਦ

ਵੇਰੀਐਂਟ ਵੈਲੀਡੇਟਰ, ਕਲੀਨਵਰ

ਆਬਾਦੀ ਦੀ ਬਾਰੰਬਾਰਤਾ

ਇੱਕ ਵਾਜਬ ਪ੍ਰਤੀਸ਼ਤ

gnomAD

ਕਾਰਜਸ਼ੀਲ ਕੰਮ

ਪ੍ਰੇਰਕ ਛਾਪ

PubMed/DOI

ਕਲੀਨਿਕਲ ਦਾਅਵਾ

"ਇਹ ਜਰਾਸੀਮ ਹੈ"

ਸਬੂਤ ਦੀ ACMG ਲੜੀ

ਪ੍ਰੋਟੀਨ ਤਾਲਮੇਲ

ਦਸ਼ਮਲਵ ਨਾਲ 3D ਸੰਖਿਆਵਾਂ

PDB/AlphaFold ਫਾਈਲ

ਅੰਕੜੇ ਦੇ ਨਤੀਜੇ

ਬਿਨਾਂ ਸੁਧਾਰ ਦੇ p-ਮੁੱਲ

ਕੋਡ ਦੁਬਾਰਾ ਚਲਾਓ

ਤਕਨੀਕਾਂ ਜੋ ਭੁਲੇਖੇ ਨੂੰ ਘਟਾਉਂਦੀਆਂ ਹਨ (ਪਰ ਖਤਮ ਨਹੀਂ ਹੁੰਦੀਆਂ)

1. ਪ੍ਰਸੰਗ ਦਿਓ। ਜਿੰਨਾ ਜ਼ਿਆਦਾ ਸਟੀਕ ਸੰਦਰਭ ਤੁਸੀਂ ਦਿੰਦੇ ਹੋ (ਜੀਨੋਮ ਸੰਸਕਰਣ, ਪ੍ਰਤੀਲਿਪੀ, ਅਸਲ ਕ੍ਰਮ), ਓਨਾ ਹੀ ਘੱਟ AI ਬਣੇਗਾ। ਪਰ ਇਹ ਰੀਸੈਟ ਨਹੀਂ ਹੁੰਦਾ.

2. "ਜੇ ਤੁਸੀਂ ਨਹੀਂ ਜਾਣਦੇ, ਮੈਨੂੰ ਦੱਸੋ" ਹਦਾਇਤ। ਹਿਦਾਇਤ "ਜੇਕਰ ਯਕੀਨ ਨਹੀਂ ਹੈ, ਤਾਂ ਕਹੋ 'ਤਸਦੀਕ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ', ਇਸਨੂੰ ਨਾ ਬਣਾਓ" ਮਨਘੜਤ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ - ਪਰ ਇਸ 'ਤੇ ਪੂਰਾ ਭਰੋਸਾ ਨਾ ਕਰੋ।

3. ਸਰੋਤ ਦੀ ਲੋੜ ਹੈ। ਹਰੇਕ ਦਾਅਵੇ ਲਈ ਪ੍ਰਮਾਣਿਤ ਸਰੋਤ (DOI, PMID, ਡੇਟਾਬੇਸ ਰਿਕਾਰਡ) ਦੀ ਬੇਨਤੀ ਕਰੋ।

4. ਇਸਨੂੰ ਸਵੈ-ਜਾਂਚ ਕਰੋ। "ਇਸ ਆਉਟਪੁੱਟ ਵਿੱਚ ਕਿਹੜੇ ਤੱਤਾਂ ਨੂੰ ਸੁਤੰਤਰ ਤਸਦੀਕ ਦੀ ਲੋੜ ਹੈ?" ਪੁੱਛੋ; AI ਅਕਸਰ ਜੋਖਮ ਭਰੀਆਂ ਚੀਜ਼ਾਂ ਨੂੰ ਫਲੈਗ ਕਰ ਸਕਦਾ ਹੈ।

5. ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ: ਵਿਅਕਤੀਗਤ ਤੌਰ 'ਤੇ ਪੁਸ਼ਟੀ ਕਰੋ। ਉਪਰੋਕਤ ਸੰਭਾਵਨਾ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ; ਸਿਰਫ਼ ਤੁਹਾਡਾ ਪ੍ਰਾਇਮਰੀ ਸਰੋਤ ਨਿਯੰਤਰਣ ਨਿਸ਼ਚਿਤਤਾ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।

ਸੰਕੇਤ: ਇੱਕ "ਪ੍ਰਮਾਣਿਕਤਾ ਬਜਟ" ਸੈੱਟ ਕਰੋ: ਹਰੇਕ AI ਆਉਟਪੁੱਟ ਦੇ ਨਾਲ, ਫੈਸਲੇ ਲਈ ਮਹੱਤਵਪੂਰਨ ਤੱਥਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨਾ ਯਕੀਨੀ ਬਣਾਓ (ਕ੍ਰਮ, ਰੂਪ, ਬਾਰੰਬਾਰਤਾ, ਵਿਸ਼ੇਸ਼ਤਾ); ਘੱਟ-ਦਾਅ ਦੇ ਸਪੱਸ਼ਟੀਕਰਨ (ਇੱਕ ਸੰਕਲਪ ਦੀ ਪਰਿਭਾਸ਼ਾ) ਨੂੰ ਹੋਰ ਢਿੱਲੀ ਢੰਗ ਨਾਲ ਪੇਸ਼ ਕਰੋ। ਆਪਣੇ ਸਰੋਤਾਂ ਨੂੰ ਉਸ ਗਲਤੀ 'ਤੇ ਫੋਕਸ ਕਰੋ ਜੋ ਸਭ ਤੋਂ ਵੱਧ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦੀ ਹੈ।

ਤਿੰਨ ਛੋਟੇ ਕੇਸ

ਕੇਸ 1 - ਗੈਰ-ਮੌਜੂਦ ਜੀਨ। ਇੱਕ ਵਿਦਿਆਰਥੀ ਨੇ ਇੱਕ "ਜੀਨ" ਦੀ ਖੋਜ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਜਿਸਦਾ AI ਜ਼ਿਕਰ ਕੀਤਾ ਗਿਆ ਸੀ ਪਰ ਇਸਨੂੰ HGNC ਵਿੱਚ ਨਹੀਂ ਲੱਭ ਸਕਿਆ। AI ਨੇ ਦੋ ਅਸਲੀ ਜੀਨਾਂ ਦੇ ਨਾਵਾਂ ਨੂੰ ਮਿਲਾ ਕੇ ਇੱਕ ਪ੍ਰਤੀਕ ਤਿਆਰ ਕੀਤਾ ਸੀ ਜੋ ਮੌਜੂਦ ਨਹੀਂ ਸੀ। HGNC ਨਿਯੰਤਰਣ ਤੋਂ ਬਿਨਾਂ, ਵਿਦਿਆਰਥੀ ਇੱਕ ਭੂਤ ਜੀਨ ਦੀ ਖੋਜ ਕਰਨ ਵਿੱਚ ਘੰਟੇ ਬਿਤਾਏਗਾ।

ਕੇਸ 2 - ਚੇਨ ਭਰਮ। ਇੱਕ ਖੋਜਕਰਤਾ ਨੇ ਏਆਈ ਨੂੰ ਇੱਕ ਰੂਪ ਬਾਰੇ ਪੁੱਛਿਆ; AI ਨੇ ਇੱਕ ਮੇਡ-ਅੱਪ ਫ੍ਰੀਕੁਐਂਸੀ ਦਿੱਤੀ, ਫਿਰ ਉਸ ਬਾਰੰਬਾਰਤਾ ਦੇ ਆਧਾਰ 'ਤੇ ਇੱਕ ਗਲਤ ACMG ਕੋਡ ਦਾ ਸੁਝਾਅ ਦਿੱਤਾ, ਫਿਰ ਉਸ ਕੋਡ ਦਾ ਸਮਰਥਨ ਕਰਨ ਵਾਲਾ ਇੱਕ ਜਾਅਲੀ ਲੇਖ ਜੋੜਿਆ। ਇੱਕ ਇੱਕ ਝੂਠੇ ਮੁੱਲ ਨੇ ਇੱਕ ਤਿੰਨ-ਪੱਧਰੀ ਝੂਠੀ ਚੇਨ ਨੂੰ ਜਨਮ ਦਿੱਤਾ। ਜਦੋਂ ਖੋਜਕਰਤਾ ਨੇ gnomAD ਖੋਲ੍ਹਿਆ, ਤਾਂ ਚੇਨ ਦਾ ਪਹਿਲਾ ਲਿੰਕ ਟੁੱਟ ਗਿਆ ਅਤੇ ਸਭ ਕੁਝ ਢਹਿ ਗਿਆ।

ਕੇਸ 3 - ਪੁਸ਼ਟੀ ਪ੍ਰਾਪਤ ਹੋਈ। ਇੱਕ ਟੈਕਨੀਸ਼ੀਅਨ ਨੇ AI ਤੋਂ ਇੱਕ ਸਟ੍ਰਿੰਗ ਵਿਸ਼ਲੇਸ਼ਣ ਕੋਡ ਪ੍ਰਾਪਤ ਕੀਤਾ; ਕੋਡ ਵਿੱਚ, ਏਆਈ ਨੇ ਇੱਕ "ਰੈਫਰੈਂਸ ਸਟ੍ਰਿੰਗ" ਦੇ ਰੂਪ ਵਿੱਚ ਇੱਕ ਬਣੀ ਹੋਈ ਸਤਰ ਨੂੰ ਏਮਬੇਡ ਕੀਤਾ ਸੀ। ਤਕਨੀਸ਼ੀਅਨ ਨੇ ਕੋਡ ਨੂੰ ਪੜ੍ਹਿਆ ਅਤੇ NCBI ਤੋਂ ਕ੍ਰਮ ਨੂੰ ਅਸਲ ਕ੍ਰਮ ਨਾਲ ਬਦਲ ਦਿੱਤਾ। ਜੇ ਉਸਨੇ ਕੋਡ ਨੂੰ ਅੰਨ੍ਹੇਵਾਹ ਚਲਾਇਆ, ਤਾਂ ਨਤੀਜਾ ਚੁੱਪਚਾਪ ਗਲਤ ਹੋਵੇਗਾ.

ਪੁਸ਼ਟੀ ਪ੍ਰਤੀਬਿੰਬ: ਆਉਟਪੁੱਟ ਦੀ ਕਿਸਮ ਦੁਆਰਾ

ਜਦੋਂ ਤੁਸੀਂ SEQUENCE ਦੇਖਦੇ ਹੋ -> ਜਦੋਂ ਤੁਸੀਂ NCBI/Ensembl FASTA ਦੇਖਦੇ ਹੋ ਜਦੋਂ ਤੁਸੀਂ VARIANT ਦੇਖਦੇ ਹੋ -> ਜਦੋਂ ਤੁਸੀਂ VariantValidator + ClinVar + gnomADFREQUENCY -> gnomAD ਵਿੱਚ ਖੋਜ ਕਰਦੇ ਹੋ ਜਦੋਂ ਤੁਸੀਂ ATTRIBUTE ਦੇਖਦੇ ਹੋ -> DOI/PMID ਖੋਲ੍ਹਦੇ ਹੋ, ਸਿਰਲੇਖ-ਲੇਖਕ ਨੂੰ ਰੱਖੋ ਜਦੋਂ ਤੁਸੀਂ ਦੇਖਦੇ ਹੋ - ਜਦੋਂ ਤੁਸੀਂ HNCGNE > GENCBI ਵੇਖੋਗੇ GeneCOORDINATE -> ਜਦੋਂ ਤੁਸੀਂ ਜੀਨੋਮ ਸੰਸਕਰਣ + liftOverSTATISTICS ਦੇਖਦੇ ਹੋ -> ਕੋਡ ਨੂੰ ਖੁਦ ਚਲਾਓ, ਸੁਧਾਰ ਦੀ ਜਾਂਚ ਕਰੋ

ਚਾਰ ਕਾਪੀ ਕਰਨ ਯੋਗ ਟੈਂਪਲੇਟ

1) ਸਵੈ-ਨਿਯੰਤਰਣ ਪ੍ਰੋਂਪਟ:

ਤੁਸੀਂ ਹੁਣੇ ਦਿੱਤੇ ਆਉਟਪੁੱਟ ਵਿੱਚ, ਕਿਹੜੇ ਤੱਤਾਂ (ਕ੍ਰਮ, ਰੂਪ, ਬਾਰੰਬਾਰਤਾ, ਜੀਨ ਨਾਮ, ਹਵਾਲਾ, ਸੰਖਿਆ) ਨੂੰ ਸੁਤੰਤਰ ਤਸਦੀਕ ਦੀ ਲੋੜ ਹੈ? ਹਰੇਕ ਨੂੰ "ਕੁਝ/ਸੰਭਵ/ਅਨਿਸ਼ਚਿਤ" ਵਜੋਂ ਲੇਬਲ ਕਰੋ ਅਤੇ ਲਿਖੋ ਕਿ ਕਿਹੜੇ ਸਰੋਤ ਦੀ ਜਾਂਚ ਕਰਨੀ ਹੈ।

2) ਸਰੋਤ ਲਾਜ਼ਮੀ ਜਵਾਬ:

ਇਸ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦਿਓ ਪਰ ਹਰ ਤੱਥ ਦੇ ਦਾਅਵੇ ਲਈ ਪ੍ਰਮਾਣਿਤ ਸਰੋਤ (ਡੇਟਾਬੇਸ ਰਿਕਾਰਡ, DOI, PMID) ਦਾ ਹਵਾਲਾ ਦਿਓ। ਅਜਿਹਾ ਕੋਈ ਦਾਅਵਾ ਪੇਸ਼ ਨਾ ਕਰੋ ਜਿਸ ਲਈ ਤੁਸੀਂ ਕੋਈ ਸਰੋਤ ਪ੍ਰਦਾਨ ਨਹੀਂ ਕਰ ਸਕਦੇ; "ਤਸਦੀਕ ਹੋਣਾ ਲਾਜ਼ਮੀ ਹੈ" ਲਿਖੋ: [ਸਵਾਲ]।

3) ਮੇਡ-ਅੱਪ ਕ੍ਰਮ ਸਕੈਨਿੰਗ:

ਹੇਠਾਂ ਦਿੱਤੇ ਕੋਡ ਵਿੱਚ ਸ਼ਾਮਲ ਸਾਰੇ ਐਰੇ, ਸਥਿਰਾਂਕ ਅਤੇ ਰੂਪਾਂ ਦੀ ਸੂਚੀ ਬਣਾਓ:[ਕੋਡ]। ਹਰੇਕ ਲਈ, ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ "ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ" ਦੀ ਨਿਸ਼ਾਨਦੇਹੀ ਕਰੋ ਜੇਕਰ ਇਹ ਅਸਪਸ਼ਟ ਹੈ ਕਿ ਇਹ ਅਸਲ ਸਰੋਤ ਤੋਂ ਆਇਆ ਹੈ ਜਾਂ ਤੁਹਾਡੇ ਦੁਆਰਾ ਬਣਾਇਆ ਪਲੇਸਹੋਲਡਰ ਹੈ।

4) ਚੇਨ ਕੰਟਰੋਲ:

ਹਰ ਕਦਮ ਹੇਠਾਂ ਦਿੱਤੇ ਤਰਕ ਵਿੱਚ ਪਿਛਲੇ ਇੱਕ 'ਤੇ ਬਣਦਾ ਹੈ: [ਚੇਨ]। ਜੇਕਰ ਪਹਿਲਾ ਲਿੰਕ (ਅੰਡਰਲਾਈੰਗ ਡੇਟਾ) ਗਲਤ ਹੈ ਤਾਂ ਬਾਅਦ ਦੇ ਕਿਹੜੇ ਕਦਮ ਸਮੇਟਦੇ ਹਨ? ਮੁੱਖ ਡੇਟਾ ਪੁਆਇੰਟਾਂ ਦੀ ਸੂਚੀ ਬਣਾਓ ਜੋ ਚੇਨ ਨੂੰ ਤਸਦੀਕ ਕਰਨ ਦੀ ਲੋੜ ਹੈ।

ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ / ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ

ਕਮਜ਼ੋਰ: "ਸਾਨੂੰ ਉਹ ਸਭ ਕੁਝ ਦੱਸੋ ਜੋ ਤੁਸੀਂ ਇਸ ਰੂਪ ਬਾਰੇ ਜਾਣਦੇ ਹੋ।"

ਸਮੱਸਿਆ: AI ਮੈਮੋਰੀ ਤੋਂ ਬਾਰੰਬਾਰਤਾ, ਵਿਸ਼ੇਸ਼ਤਾ, ਕਲੀਨਿਕਲ ਦਾਅਵੇ ਨੂੰ ਘੜਦਾ ਹੈ; ਕੋਈ ਪ੍ਰਮਾਣਿਕਤਾ ਹੁੱਕ ਨਹੀਂ ਹੈ।

ਮਜਬੂਤ: "ਇਸ ਵੇਰੀਐਂਟ 'ਤੇ ਜਵਾਬ ਦਿਓ; ਦੱਸੋ ਕਿ ਹਰੇਕ ਤੱਥ ਦੇ ਦਾਅਵੇ ਲਈ ਕਿਹੜੇ ਸਰੋਤ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨੀ ਹੈ, ਜੇਕਰ ਯਕੀਨਨ ਨਹੀਂ ਤਾਂ 'ਤਸਦੀਕ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ' 'ਤੇ ਨਿਸ਼ਾਨ ਲਗਾਓ, ਕਿਸੇ ਵੀ ਬਾਰੰਬਾਰਤਾ ਜਾਂ ਵਿਸ਼ੇਸ਼ਤਾ ਨੂੰ ਨਾ ਬਣਾਓ।"

ਇਹ ਸ਼ਕਤੀਸ਼ਾਲੀ ਕਿਉਂ ਹੈ: ਨਿਰਮਾਣ ਦਾ ਖੇਤਰ ਤੰਗ ਹੈ, ਹਰੇਕ ਦਾਅਵੇ ਨੂੰ ਪੁਸ਼ਟੀਕਰਨ ਹੁੱਕ ਨਾਲ ਜੋੜਿਆ ਗਿਆ ਹੈ।

ਆਮ ਗਲਤੀਆਂ

• ਸ਼ੁੱਧਤਾ ਲਈ ਰਵਾਨਗੀ ਨੂੰ ਭੁਲਾਉਣਾ। ਸਭ ਤੋਂ ਵੱਧ ਯਕੀਨਨ ਵਾਕ ਸਭ ਤੋਂ ਖ਼ਤਰਨਾਕ ਭਰਮ ਹੋ ਸਕਦੇ ਹਨ।
• ਇਸ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕੀਤੇ ਬਿਨਾਂ ਇੱਕ ਸਿੰਗਲ ਮੁੱਲ 'ਤੇ ਬਣਾਉਣਾ। ਇਸ ਤਰ੍ਹਾਂ ਇੱਕ ਚੇਨ ਭਰਮ ਪੈਦਾ ਹੁੰਦਾ ਹੈ।
• ਕੋਡ ਵਿੱਚ ਏਮਬੇਡ ਕੀਤੇ ਸਥਿਰਾਂਕ ਨੂੰ ਨਹੀਂ ਪੜ੍ਹਨਾ। AI ਕੋਡ ਵਿੱਚ ਮੇਡ-ਅੱਪ ਸਤਰ/ਸਥਿਰ ਨੂੰ ਏਮਬੇਡ ਕਰ ਸਕਦਾ ਹੈ।
• "ਜੇਕਰ ਤੁਸੀਂ ਨਹੀਂ ਜਾਣਦੇ, ਮੈਨੂੰ ਦੱਸੋ" ਨਾਲ ਸੰਤੁਸ਼ਟ ਹੋਣਾ। ਇਹ ਹਦਾਇਤ ਸੰਭਾਵਨਾ ਨੂੰ ਘਟਾਉਂਦੀ ਹੈ ਅਤੇ ਨਿਸ਼ਚਿਤਤਾ ਪ੍ਰਦਾਨ ਨਹੀਂ ਕਰਦੀ।
• ਤਸਦੀਕ ਬਜਟ ਨੂੰ ਗਲਤ ਥਾਂ 'ਤੇ ਖਰਚ ਕਰਨਾ। ਗੈਰ-ਮਹੱਤਵਪੂਰਨ ਤੱਥਾਂ ਦੀ ਜਾਂਚ ਕਰਨਾ, ਨਾ ਕਿ ਸਭ ਤੋਂ ਨਾਜ਼ੁਕ ਤੱਥਾਂ ਦੀ।

ਸਾਵਧਾਨ: ਮਾਡਲ ਸੰਸਕਰਣ, ਪ੍ਰਸ਼ਨ ਅਤੇ ਡੋਮੇਨ ਦੁਆਰਾ ਭਰਮ ਦੀ ਦਰ ਵੱਖਰੀ ਹੁੰਦੀ ਹੈ; ਪਰ ਇਹ ਕਹਿਣਾ ਗਲਤ ਹੈ ਕਿ "ਇਹ ਮਾਡਲ ਹੁਣ ਫਿੱਟ ਨਹੀਂ ਹੈ"। ਤਸਦੀਕ ਅਨੁਸ਼ਾਸਨ ਨੂੰ ਕਾਇਮ ਰੱਖਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ ਭਾਵੇਂ ਮਾਡਲ ਕਿੰਨਾ ਵੀ ਵਧੀਆ ਹੋਵੇ। ਜ਼ਿੰਮੇਵਾਰੀ ਹਮੇਸ਼ਾ ਵਿਅਕਤੀ ਦੀ ਹੁੰਦੀ ਹੈ।

ਡੂੰਘਾਈ: ਕਿਉਂ RAG ਅਤੇ 'ਡਰਾਈਵਿੰਗ' ਭਰਮ ਨੂੰ ਖਤਮ ਨਹੀਂ ਕਰਦੇ

ਹਾਲ ਹੀ ਦੇ ਸਾਲਾਂ ਵਿੱਚ, ਬਹੁਤ ਸਾਰੇ AI ਟੂਲਸ ਨੇ RAG (ਰੀਟ੍ਰੀਵਲ-ਔਗਮੈਂਟਡ ਜਨਰੇਸ਼ਨ — ਉਹ ਤਰੀਕਾ ਜਿਸ ਦੁਆਰਾ ਮਾਡਲ ਇੱਕ ਡੇਟਾਬੇਸ ਤੋਂ ਸੰਬੰਧਿਤ ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ ਅਤੇ ਇੱਕ ਜਵਾਬ ਬਣਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ) ਜਾਂ ਸਿੱਧੇ ਟੂਲ ਇਨਵੋਕੇਸ਼ਨ (ਜਿਵੇਂ ਕਿ ਅਸਲ ਵਿੱਚ PubMed ਦੀ ਖੋਜ ਕਰਨਾ) ਨੂੰ ਅਸਲ ਸਰੋਤਾਂ ਨਾਲ "ਲਿੰਕ" ਕਰਨ ਲਈ ਵਰਤਿਆ ਗਿਆ ਹੈ। ਇਹ ਪਹੁੰਚ ਭੁਲੇਖੇ ਨੂੰ ਘਟਾਉਂਦੇ ਹਨ ਪਰ ਦੋ ਕਾਰਨਾਂ ਕਰਕੇ ਇਸਨੂੰ ਖਤਮ ਨਹੀਂ ਕਰਦੇ। ਸਭ ਤੋਂ ਪਹਿਲਾਂ, ਮਾਡਲ ਕੈਪਚਰ ਕੀਤੇ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਗਲਤ ਢੰਗ ਨਾਲ ਸੰਖੇਪ ਕਰ ਸਕਦਾ ਹੈ ਜਾਂ ਉਸ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਨਤੀਜਾ ਦੇ ਸਕਦਾ ਹੈ ਜੋ ਦਸਤਾਵੇਜ਼ ਵਿੱਚ ਨਹੀਂ ਹੈ; ਭਾਵੇਂ ਸਰੋਤ ਅਸਲੀ ਹੈ, ਵਿਆਖਿਆ ਮਨਘੜਤ ਹੋ ਸਕਦੀ ਹੈ। ਦੂਜਾ, ਖੋਜ ਗਲਤ ਜਾਂ ਅਪ੍ਰਸੰਗਿਕ ਦਸਤਾਵੇਜ਼ ਵਾਪਸ ਕਰ ਸਕਦੀ ਹੈ ਅਤੇ ਮਾਡਲ ਅਜੇ ਵੀ ਇਸਨੂੰ ਇੱਕ ਪ੍ਰਮਾਣਿਕ ​​ਜਵਾਬ ਵਿੱਚ ਬਦਲ ਦੇਵੇਗਾ। ਦੂਜੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਇੱਕ ਜਵਾਬ ਜੋ "ਸਰੋਤ" ਜਾਪਦਾ ਹੈ, ਨੂੰ ਖੋਲ੍ਹਣ ਅਤੇ ਪੜ੍ਹੇ ਬਿਨਾਂ ਭਰੋਸੇਯੋਗ ਨਹੀਂ ਮੰਨਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਸਰੋਤ ਅਸਲ ਵਿੱਚ ਉਸ ਦਾਅਵੇ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ।

ਇੱਕ ਠੋਸ ਉਦਾਹਰਨ: ਇੱਕ RAG-ਅਧਾਰਿਤ ਸਹਾਇਕ ਨੇ ਇੱਕ ਰੂਪ ਲਈ ਇੱਕ ਅਸਲ ClinVar ਪੰਨਾ ਵਾਪਸ ਕੀਤਾ ਪਰ ਪੰਨੇ ਨੂੰ "ਪੈਥੋਜਨਿਕ" ਵਜੋਂ ਸੰਖੇਪ ਕੀਤਾ; ਹਾਲਾਂਕਿ, ਪੰਨੇ 'ਤੇ, ਰੂਪ ਨੂੰ "ਵਿਰੋਧੀ ਟਿੱਪਣੀਆਂ" ਵਜੋਂ ਚਿੰਨ੍ਹਿਤ ਕੀਤਾ ਗਿਆ ਸੀ। ਸਰੋਤ ਸਹੀ ਸੀ, ਸੰਖੇਪ ਗਲਤ ਸੀ - ਅਤੇ ਕਲੀਨਿਕਲ ਭਾਰ ਦੀ ਗਲਤੀ ਸੀ। ਦੂਜੀ ਉਦਾਹਰਨ: ਇੱਕ ਸਾਹਿਤਕ ਸਾਧਨ ਨੇ ਇੱਕ ਅਸਲ ਲੇਖ ਖਿੱਚਿਆ, ਪਰ ਲੇਖ ਇੱਕ ਵੱਖਰੇ ਜੀਨ ਬਾਰੇ ਸੀ; ਮਾਡਲ ਨੂੰ ਸਿਰਲੇਖ ਦੀ ਸਮਾਨਤਾ ਦੁਆਰਾ ਮੂਰਖ ਬਣਾਇਆ ਗਿਆ ਸੀ ਅਤੇ ਨਤੀਜੇ ਨੂੰ ਸਵਾਲ ਦਾ ਕਾਰਨ ਦਿੱਤਾ ਗਿਆ ਸੀ.

ਅੰਗੂਠੇ ਦਾ ਨਿਯਮ: ਜੇਕਰ ਕੋਈ ਲਿੰਕ ਦਿੱਤਾ ਗਿਆ ਹੈ, ਤਾਂ ਲਿੰਕ ਖੋਲ੍ਹੋ; ਜੇਕਰ ਕੋਈ ਹਵਾਲਾ ਦਿੱਤਾ ਗਿਆ ਹੈ, ਤਾਂ ਵੇਖੋ ਕਿ ਕੀ ਹਵਾਲਾ ਸਰੋਤ ਵਿੱਚ ਸ਼ਬਦਾਵਲੀ ਦਾ ਹਵਾਲਾ ਦਿੱਤਾ ਗਿਆ ਹੈ। "ਸਰੋਤ AI" ਤਸਦੀਕ ਦੀ ਸਹੂਲਤ ਦਿੰਦਾ ਹੈ, ਇਸਨੂੰ ਖਤਮ ਨਹੀਂ ਕਰਦਾ। ਤੁਹਾਡਾ ਵੈਰੀਫਿਕੇਸ਼ਨ ਰਿਫਲੈਕਸ ਇਕੋ ਜਿਹਾ ਰਹਿੰਦਾ ਹੈ ਭਾਵੇਂ ਵਾਹਨ ਕਿੰਨਾ ਵੀ "ਕਨੈਕਟ" ਹੋਵੇ।

5) ਵੇਲਡ ਜਵਾਬ ਨਿਰੀਖਣ ਟੈਪਲੇਟ:

ਇਸ ਜਵਾਬ ਵਿੱਚ ਤੁਹਾਡੇ ਦੁਆਰਾ ਪ੍ਰਦਾਨ ਕੀਤੇ ਗਏ ਹਰੇਕ ਸਰੋਤ ਲਿੰਕ/ਕੋਟ ਲਈ, ਮੈਨੂੰ ਉਹ ਸਹੀ ਵਾਕ/ਪਾਸ ਦਿਖਾਓ ਜਿੱਥੇ ਮੈਂ ਜਾਂਚ ਕਰ ਸਕਦਾ ਹਾਂ ਕਿ ਕੀ ਦਾਅਵਾ ਸਰੋਤ ਵਿੱਚ ਬਿਲਕੁਲ ਹੁੰਦਾ ਹੈ। ਜੇਕਰ ਸਰੋਤ ਤੱਥ ਹੈ ਪਰ ਤੁਹਾਡਾ ਸਾਰਾਂਸ਼ ਇਸ ਤੋਂ ਭਟਕਦਾ ਹੈ, ਤਾਂ ਇਸ 'ਤੇ ਨਿਸ਼ਾਨ ਲਗਾਓ।

ਸੰਖੇਪ ਵਿੱਚ

• ਭਰਮ LLM ਦੀ ਵਿਧੀ ਦਾ ਇੱਕ ਕੁਦਰਤੀ ਨਤੀਜਾ ਹੈ; ਇਹ ਕੋਈ "ਹਾਦਸਾ" ਨਹੀਂ ਹੈ, ਪਰ ਇੱਕ ਸੰਭਾਵਿਤ ਘਟਨਾ ਹੈ ਜਿਸਨੂੰ ਯੋਜਨਾਬੱਧ ਢੰਗ ਨਾਲ ਫੜਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
• ਜੈਨੇਟਿਕਸ ਵਿੱਚ, AI ਜੀਨ, ਕ੍ਰਮ, ਰੂਪ, ਬਾਰੰਬਾਰਤਾ, ਵਿਸ਼ੇਸ਼ਤਾ, ਧੁਰੇ, ਅੰਕੜੇ ਅਤੇ ਕਲੀਨਿਕਲ ਦਾਅਵਿਆਂ ਨੂੰ ਬਣਾ ਸਕਦਾ ਹੈ।
• ਸੰਦਰਭ, ਸਰੋਤ ਜ਼ਰੂਰੀ, ਅਤੇ ਸਵੈ-ਨਿਯੰਤਰਣ ਘਟਾਉਂਦੇ ਹਨ ਪਰ ਭਰਮ ਨੂੰ ਖਤਮ ਨਹੀਂ ਕਰਦੇ; ਸਿਰਫ਼ ਪ੍ਰਾਇਮਰੀ ਸਰੋਤ ਨਿਯੰਤਰਣ ਸ਼ੁੱਧਤਾ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
• ਆਉਟਪੁੱਟ ਕਿਸਮ ਲਈ ਵਿਸ਼ੇਸ਼ ਤਸਦੀਕ ਪ੍ਰਤੀਬਿੰਬ ਵਿਕਸਿਤ ਕਰੋ (ਕ੍ਰਮ→FASTA, ਹਵਾਲਾ →DOI); ਆਪਣੇ ਤਸਦੀਕ ਬਜਟ ਨੂੰ ਸਭ ਤੋਂ ਨਾਜ਼ੁਕ ਤੱਥਾਂ 'ਤੇ ਫੋਕਸ ਕਰੋ।

ਐਪਲੀਕੇਸ਼ਨ ਦਾ ਕੰਮ

AI ਨੂੰ ਜੈਨੇਟਿਕ ਵਿਸ਼ੇ ਬਾਰੇ ਪੁੱਛੋ ਅਤੇ ਉਪਰੋਕਤ ਪ੍ਰਤੀਬਿੰਬ ਸੂਚੀ ਦੇ ਵਿਰੁੱਧ ਆਉਟਪੁੱਟ ਵਿੱਚ ਹਰੇਕ ਤੱਥ ਦੇ ਦਾਅਵੇ (ਜੀਨ, ਕ੍ਰਮ, ਰੂਪ, ਬਾਰੰਬਾਰਤਾ, ਵਿਸ਼ੇਸ਼ਤਾ) ਦੀ ਨਿੱਜੀ ਤੌਰ 'ਤੇ ਪੁਸ਼ਟੀ ਕਰੋ। ਗਿਣੋ ਕਿ ਕਿੰਨੇ ਦਾਅਵੇ ਸੱਚ ਹਨ, ਕਿੰਨੇ ਝੂਠੇ/ਮਨਘੜਤ ਹਨ, ਅਤੇ ਕਿੰਨੇ ਅਸਪਸ਼ਟ ਹਨ। ਨਤੀਜੇ ਨੂੰ ਇੱਕ ਸਾਰਣੀ ਵਿੱਚ ਸੰਖੇਪ ਕਰੋ ਅਤੇ ਨੋਟ ਕਰੋ ਕਿ ਕਿਸ ਕਿਸਮ ਦਾ ਦਾਅਵਾ ਸਭ ਤੋਂ ਵੱਧ ਘੜਿਆ ਹੋਇਆ ਹੈ।

ਚੈੱਕਲਿਸਟ

• [ ] ਮੈਂ ਹਰੇਕ ਕਿਸਮ ਦੇ ਆਉਟਪੁੱਟ ਲਈ ਆਪਣਾ ਪੁਸ਼ਟੀਕਰਨ ਪ੍ਰਤੀਬਿੰਬ ਲਾਗੂ ਕੀਤਾ ਹੈ।
• [ ] ਮੈਂ ਨਿੱਜੀ ਤੌਰ 'ਤੇ ਪ੍ਰਾਇਮਰੀ ਸਰੋਤ ਤੋਂ ਗੰਭੀਰ ਤੱਥਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ ਹੈ।
• [ ] ਮੈਂ ਲੜੀਬੱਧ ਤਰਕ ਵਿੱਚ ਮੂਲ ਡੇਟਾ ਪੁਆਇੰਟ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਹੈ।
• [ ] ਮੈਂ ਕੋਡ ਵਿੱਚ ਸ਼ਾਮਲ ਐਰੇ/ਕੰਸਟੈਂਟਸ ਨੂੰ ਪੜ੍ਹਿਆ ਅਤੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਹੈ।
• [ ] ਮੈਂ ਨਿਰਵਿਘਨ ਅਤੇ ਭਰੋਸੇਮੰਦ ਸੁਰ ਨੂੰ ਸ਼ੁੱਧਤਾ ਦੇ ਸਬੂਤ ਵਜੋਂ ਨਹੀਂ ਮੰਨਿਆ।
• [ ] ਮੈਂ ਆਪਣੇ ਤਸਦੀਕ ਬਜਟ ਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਜੋਖਮ ਵਾਲੇ ਦਾਅਵਿਆਂ 'ਤੇ ਕੇਂਦਰਿਤ ਕੀਤਾ ਹੈ।