ਪੁਸ਼ਟੀ, ਭਰਮ, ਅਤੇ ਵਿਗਿਆਨਕ ਇਕਸਾਰਤਾ

ਲਾਭ:

• ਇਹ ਸਮਝਣ ਦੀ ਯੋਗਤਾ ਕਿ ਭਾਸ਼ਾ ਦੇ ਮਾਡਲ ਵਿੱਚ ਭੁਲੇਖਾ ਨਿਹਿਤ ਹੈ ਅਤੇ ਹਰੇਕ ਕਿਸਮ ਦੇ ਆਉਟਪੁੱਟ ਲਈ ਉਚਿਤ ਤਸਦੀਕ ਵਿਧੀ ਚੁਣੋ।
• ਤਿਕੋਣ ਨਾਲ ਦੋ ਸੁਤੰਤਰ ਤਰੀਕਿਆਂ ਨਾਲ ਨਾਜ਼ੁਕ ਮੁੱਲਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰੋ ਅਤੇ ਸ਼ੁੱਧਤਾ ਨਾਲ ਰਵਾਨਗੀ ਨੂੰ ਉਲਝਾਓ ਨਾ
• ਵਿਗਿਆਨਕ ਅਖੰਡਤਾ ਦੇ ਆਧਾਰ ਵਜੋਂ ਪਾਰਦਰਸ਼ਤਾ, ਟਰੇਸੇਬਿਲਟੀ, ਡੇਟਾ ਇਕਸਾਰਤਾ ਅਤੇ ਮਨੁੱਖੀ ਜ਼ਿੰਮੇਵਾਰੀ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਸਮਰੱਥਾ

ਇਸ ਮੋਡੀਊਲ ਵਿੱਚ ਇੱਕ ਹੀ ਵਾਕੰਸ਼ ਵਾਰ-ਵਾਰ ਵਾਪਸ ਆਉਂਦਾ ਹੈ: "AI ਪੈਦਾ ਕਰਦਾ ਹੈ, ਮਨੁੱਖ ਪ੍ਰਮਾਣਿਤ ਕਰਦੇ ਹਨ।" ਇਸ ਯੂਨਿਟ ਵਿੱਚ, ਅਸੀਂ ਉਸ ਵਾਕ ਨੂੰ ਇੱਕ ਸਿਸਟਮ ਵਿੱਚ ਬਦਲਦੇ ਹਾਂ। ਉਦੇਸ਼ ਭਰਮ ਦੀ ਪਛਾਣ ਕਰਨਾ (ਇੱਕ ਭਰੋਸੇਮੰਦ ਭਾਸ਼ਾ ਨਾਲ ਝੂਠੀ/ਮਨਘੜਤ ਜਾਣਕਾਰੀ ਪੈਦਾ ਕਰਨਾ), ਜੋ ਕਿ AI ਦਾ ਸਭ ਤੋਂ ਖ਼ਤਰਨਾਕ ਵਿਵਹਾਰ ਹੈ, ਹਰੇਕ ਕਿਸਮ ਦੇ ਆਉਟਪੁੱਟ ਲਈ ਇੱਕ ਠੋਸ ਤਸਦੀਕ ਵਿਧੀ ਸਥਾਪਤ ਕਰਨਾ, ਅਤੇ ਇਹਨਾਂ ਸਾਰਿਆਂ ਨੂੰ ਵਿਗਿਆਨਕ ਅਖੰਡਤਾ (ਇਮਾਨਦਾਰੀ, ਪਾਰਦਰਸ਼ਤਾ, ਖੋਜਯੋਗਤਾ) ਦੇ ਢਾਂਚੇ ਦੇ ਅੰਦਰ ਰੱਖਣਾ ਹੈ। ਰਸਾਇਣ ਵਿਗਿਆਨ ਵਿੱਚ ਇੱਕ ਗੈਰ-ਪ੍ਰਮਾਣਿਤ AI ਆਉਟਪੁੱਟ ਸਿਰਫ ਇੱਕ ਗਲਤੀ ਨਹੀਂ ਹੈ; ਇਹ ਇੱਕ ਪ੍ਰਯੋਗ ਵਿਸਫੋਟ ਹੋ ਸਕਦਾ ਹੈ, ਇੱਕ ਵਿਅਕਤੀ ਨੂੰ ਜ਼ਹਿਰ ਦਿੱਤਾ ਜਾ ਰਿਹਾ ਹੈ, ਜਾਂ ਇੱਕ ਕਾਗਜ਼ ਵਾਪਸ ਲਿਆ ਜਾ ਸਕਦਾ ਹੈ।

ਭਰਮ ਕਿਉਂ ਅਟੱਲ ਹੈ?

ਭਾਸ਼ਾ ਦਾ ਵੱਡਾ ਮਾਡਲ "ਅਗਲਾ ਸਭ ਤੋਂ ਵੱਧ ਸੰਭਾਵਿਤ ਸ਼ਬਦ" ਪੈਦਾ ਕਰਦਾ ਹੈ; ਇਸ ਦਾ ਉਦੇਸ਼ ਕੀ ਸੰਭਵ ਹੈ, ਨਾ ਕਿ ਸੱਚ ਕੀ ਹੈ। ਇਸ ਲਈ ਉਹ ਇੱਕ ਅਣੂ ਭਾਰ, ਇੱਕ DOI, ਜਾਂ ਇੱਕ ਉਬਾਲ ਬਿੰਦੂ ਨੂੰ ਇੱਕ ਮੁੱਲ ਦੇ ਨਾਲ ਭਰ ਸਕਦਾ ਹੈ ਜੋ "ਵਾਜਬ ਜਾਪਦਾ ਹੈ" - ਇਹ ਜਾਂਚ ਕੀਤੇ ਬਿਨਾਂ ਕਿ ਇਹ ਅਸਲ ਹੈ ਜਾਂ ਨਹੀਂ। ਭਰਮ ਇੱਕ ਖਰਾਬੀ ਨਹੀਂ ਹੈ, ਪਰ ਇਸ ਤਕਨਾਲੋਜੀ ਦੀ ਪ੍ਰਕਿਰਤੀ ਦਾ ਨਤੀਜਾ ਹੈ। ਹੱਲ ਮਾਡਲ ਨੂੰ "ਠੀਕ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼" ਕਰਨਾ ਨਹੀਂ ਹੈ, ਪਰ ਹਰੇਕ ਆਉਟਪੁੱਟ ਦੇ ਦੁਆਲੇ ਇੱਕ ਪ੍ਰਮਾਣਿਕਤਾ ਸ਼ੈੱਲ ਬਣਾਉਣਾ ਹੈ।

ਭੁਲੇਖੇ ਦਾ ਸਭ ਤੋਂ ਘਾਤਕ ਪਹਿਲੂ ਇਸਦੀ ਭਰੋਸੇਮੰਦ ਭਾਸ਼ਾ ਹੈ। ਇੱਕ ਗਲਤ ਅਣੂ ਭਾਰ ਇੱਕ ਸਹੀ ਇੱਕ ਦੇ ਰੂਪ ਵਿੱਚ ਬਿਲਕੁਲ ਉਸੇ ਭਰੋਸੇ ਨਾਲ ਪੇਸ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ. ਇਸ ਲਈ "ਭਰੋਸੇਮੰਦ ਦਿਸਦਾ ਹੈ" ਦਾ ਮਤਲਬ ਕਦੇ ਵੀ "ਸਹੀ" ਨਹੀਂ ਹੁੰਦਾ।

ਧਿਆਨ ਦਿਓ: AI ਕਿਸੇ ਵਿਸ਼ੇ 'ਤੇ ਕਿੰਨੀ ਚੰਗੀ ਤਰ੍ਹਾਂ ਅਤੇ ਭਰੋਸੇ ਨਾਲ ਬੋਲਦਾ ਹੈ, ਉਸ ਜਾਣਕਾਰੀ ਦੀ ਸ਼ੁੱਧਤਾ ਨਾਲ ਸਬੰਧਤ ਨਹੀਂ ਹੈ। ਪ੍ਰਵਾਹ ਕਾਇਲ; ਸਿਰਫ਼ ਸੁਤੰਤਰ ਸਰੋਤ ਹੀ ਸ਼ੁੱਧਤਾ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ।

ਕੈਮਿਸਟਰੀ ਵਿੱਚ ਆਉਟਪੁੱਟ ਕਿਸਮ ਦੁਆਰਾ ਪ੍ਰਮਾਣਿਕਤਾ

ਹਰੇਕ ਆਉਟਪੁੱਟ ਕਿਸਮ ਦੀ ਆਪਣੀ ਪੁਸ਼ਟੀ ਵਿਧੀ ਹੁੰਦੀ ਹੈ। ਇੱਕ ਨਿਯਮ ਨੂੰ ਯਾਦ ਕਰਨ ਦੀ ਬਜਾਏ, ਆਉਟਪੁੱਟ ਲਈ ਉਚਿਤ ਟੂਲ ਦੀ ਵਰਤੋਂ ਕਰੋ:

ਆਉਟਪੁੱਟ ਕਿਸਮ

ਪੁਸ਼ਟੀਕਰਨ ਵਿਧੀ

ਵਾਹਨ

ਅਣੂ ਭਾਰ, ਫਾਰਮੂਲਾ

ਫਾਰਮੂਲੇ ਤੋਂ ਮੁੜ ਗਣਨਾ ਕਰੋ

RDKit / ਹੱਥੀਂ

ਮੁਸਕਾਨ/ਢਾਂਚਾ

ਪਾਰਸ + ਕੈਨੋਨੀਕਲਾਈਜ਼ ਕਰੋ

RDKit

ਹਵਾਲਾ/DOI

ਡਾਟਾਬੇਸ ਵਿੱਚ ਹੱਲ ਕਰੋ

doi.org, Crossref

ਭੌਤਿਕ ਸਥਿਰ (kn, pKa)

ਹਵਾਲਾ ਡੇਟਾਬੇਸ

PubChem, ਹੈਂਡਬੁੱਕ

ਸੰਖਿਆਤਮਕ ਗਣਨਾ

ਲਿਖੋ+ਕੋਡ ਚਲਾਓ

ਪਾਈਥਨ

ਪ੍ਰਤੀਕਰਮ/ਸਥਿਤੀ

ਸਾਹਿਤ ਦੀ ਪੁਸ਼ਟੀ

ਰੀਐਕਸਿਸ, ਲੇਖ

ਸੁਰੱਖਿਆ ਦਾ ਦਾਅਵਾ

SDS/GHS

ਸਰਕਾਰੀ ਐਸ.ਡੀ.ਐਸ

ਸਪੈਕਟ੍ਰਮ ਅਸਾਈਨਮੈਂਟ

ਬਹੁ-ਤਕਨੀਕੀ + ਮਨੁੱਖੀ

ਪ੍ਰਯੋਗਾਤਮਕ ਸਪੈਕਟ੍ਰਮ

ਇਹ ਸਾਰਣੀ ਅਸਲ ਵਿੱਚ ਇਸ ਮੋਡੀਊਲ ਦਾ ਸੰਖੇਪ ਹੈ: ਹਰੇਕ ਯੂਨਿਟ ਇੱਕ ਕਤਾਰ ਹੈ।

ਤਿਕੋਣ: ਤਿੰਨ ਸੁਤੰਤਰ ਮਾਰਗ

ਸਭ ਤੋਂ ਸ਼ਕਤੀਸ਼ਾਲੀ ਤਸਦੀਕ ਤਕਨੀਕ "ਤਿਕੋਣ" ਹੈ: ਤਿੰਨ ਸੁਤੰਤਰ ਤਰੀਕਿਆਂ ਨਾਲ ਇੱਕੋ ਸਿੱਟੇ 'ਤੇ ਪਹੁੰਚਣਾ। ਉਦਾਹਰਨ ਲਈ, ਇੱਕ ਅਣੂ ਭਾਰ ਲਈ: (1) YZ ਕੀ ਕਹਿੰਦਾ ਹੈ, (2) RDKit ਦੀ ਗਣਨਾ, (3) ਫਾਰਮੂਲੇ ਤੋਂ ਹੱਥ ਨਾਲ ਗਣਨਾ। ਜੇ ਤਿੰਨ ਓਵਰਲੈਪ ਹੁੰਦੇ ਹਨ, ਤਾਂ ਭਰੋਸਾ ਉੱਚਾ ਹੁੰਦਾ ਹੈ; ਜੇਕਰ ਕੋਈ ਭਟਕ ਰਿਹਾ ਹੈ, ਤਾਂ ਰੋਕੋ ਅਤੇ ਜਾਂਚ ਕਰੋ। ਰਸਾਇਣ ਵਿਗਿਆਨ ਵਿੱਚ ਕਦੇ ਵੀ ਇੱਕ ਸਰੋਤ 'ਤੇ ਭਰੋਸਾ ਨਾ ਕਰੋ; ਘੱਟੋ-ਘੱਟ ਦੋ ਸੁਤੰਤਰ ਮਾਰਗਾਂ ਦੀ ਭਾਲ ਕਰੋ।

ਕਦਮ ਦਰ ਕਦਮ: ਤਸਦੀਕ ਵਰਕਫਲੋ

1. ਆਉਟਪੁੱਟ ਦਾ ਵਰਗੀਕਰਨ ਕਰੋ: ਕੀ ਇਹ ਇੱਕ ਨੰਬਰ, ਬਣਤਰ, ਵਿਸ਼ੇਸ਼ਤਾ, ਸੁਰੱਖਿਆ ਦਾਅਵਾ ਹੈ?
2. ਉਚਿਤ ਟੂਲ ਚੁਣੋ: ਉੱਪਰ ਦਿੱਤੀ ਸਾਰਣੀ ਤੋਂ ਆਉਟਪੁੱਟ ਕਿਸਮ ਲਈ ਉਚਿਤ ਪੁਸ਼ਟੀਕਰਨ ਮਾਰਗ ਪ੍ਰਾਪਤ ਕਰੋ।
3. ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਗਣਨਾ ਕਰੋ/ਖੋਜ ਕਰੋ: ਵਾਹਨ ਨੂੰ AI ਤੋਂ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਚਲਾਓ; ਨਤੀਜੇ ਦੀ ਤੁਲਨਾ ਕਰੋ.
4. ਜੇਕਰ ਕੋਈ ਭਟਕਣਾ ਹੈ, ਤਾਂ ਬੰਦ ਕਰੋ: ਜੇਕਰ ਮੁੱਲ ਮੇਲ ਨਹੀਂ ਖਾਂਦੇ, ਤਾਂ ਜਾਂਚ ਕੀਤੇ ਬਿਨਾਂ ਅੱਗੇ ਨਾ ਵਧੋ ਕਿ ਕਿਹੜਾ ਸਹੀ ਹੈ।
5. ਆਪਣਾ ਨਿਸ਼ਾਨ ਛੱਡੋ: ਰਿਕਾਰਡ ਕਰੋ ਕਿ ਤੁਸੀਂ ਕੀ ਤਸਦੀਕ ਕੀਤਾ ਹੈ ਅਤੇ ਕਿਵੇਂ (ਵਿਗਿਆਨਕ ਅਖੰਡਤਾ)।
6. ਅਨਿਸ਼ਚਿਤਤਾ ਨਿਸ਼ਚਿਤ ਕਰੋ: ਕਿਸੇ ਅਜਿਹੀ ਚੀਜ਼ ਨੂੰ ਚਿੰਨ੍ਹਿਤ ਕਰੋ ਜਿਸਦੀ "ਅਪੁਸ਼ਟੀ" ਵਜੋਂ ਪੁਸ਼ਟੀ ਨਹੀਂ ਕੀਤੀ ਜਾ ਸਕਦੀ, ਇਸਨੂੰ ਲੁਕਾਓ ਨਾ।

ਚਾਰ ਕਾਪੀ ਕਰਨ ਯੋਗ ਟੈਂਪਲੇਟ

1) ਸਵੈ-ਪੜਤਾਲ:

ਤੁਸੀਂ ਹੁਣੇ ਹੇਠਾਂ ਦਿੱਤੀ ਆਉਟਪੁੱਟ ਦਿੱਤੀ ਹੈ: [ਆਊਟਪੁੱਟ]। ਟਾਸਕ: ਇਸ ਆਉਟਪੁੱਟ ਦੇ ਹਰੇਕ ਸੰਖਿਆਤਮਕ/ਤੱਥੀ ਦਾਅਵੇ ਨੂੰ ਇੱਕ ਵੱਖਰੀ ਲਾਈਨ 'ਤੇ ਸੂਚੀਬੱਧ ਕਰੋ। ਹਰੇਕ ਦਾਅਵੇ ਲਈ: "ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਇਸਦੀ ਪੁਸ਼ਟੀ ਕਿਵੇਂ ਕਰੀਏ?" ਲਿਖਣ ਦਾ ਤਰੀਕਾ (ਕਿਹੜਾ ਸੰਦ/ਡਾਟਾਬੇਸ)। ਦਾਅਵਾ ਨਾ ਕਰੋ ਕਿ ਦਾਅਵਾ ਸੱਚ ਹੈ; ਬਸ ਇਸਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਦਾ ਤਰੀਕਾ ਦਿਓ।

2) ਤਿਕੋਣ ਨਿਯੰਤਰਣ:

ਮੈਂ ਨਿਮਨਲਿਖਤ ਅਣੂ ਦੇ ਭਾਰ ਨੂੰ ਤਿੰਨ ਤਰੀਕਿਆਂ ਨਾਲ ਜਾਂਚਣਾ ਚਾਹੁੰਦਾ ਹਾਂ: [ਮੁਸਕਰਾਹਟ]। ਕਾਰਜ: 1) ਅਣੂ ਫਾਰਮੂਲਾ ਪ੍ਰਾਪਤ ਕਰੋ। 2) ਪਰਮਾਣੂ ਦੁਆਰਾ ਅਣੂ ਦੇ ਭਾਰ ਦੀ ਗਣਨਾ ਕਰੋ (ਹਰੇਕ ਤੱਤ ਦਾ ਯੋਗਦਾਨ)। ਨੋਟ: ਮੈਂ ਇਸਨੂੰ RDKit ਵਿੱਚ ਵੀ ਗਣਨਾ ਕਰਾਂਗਾ ਅਤੇ ਤੀਸਰਾ ਤੁਹਾਡੇ ਦੁਆਰਾ ਦਿੱਤੇ ਗਏ ਨਾਲ ਇਸਦੀ ਤੁਲਨਾ ਕਰਾਂਗਾ। ਜੇ ਤਿੰਨਾਂ ਨੂੰ ਓਵਰਲੈਪ ਨਹੀਂ ਕਰਦੇ, ਤਾਂ ਚੇਤਾਵਨੀ ਦਿਓ।

3) ਅਸਪਸ਼ਟਤਾ ਚਿੰਨ੍ਹ:

ਹੇਠਾਂ ਦਿੱਤੇ ਟੈਕਸਟ ਵਿੱਚ ਕਈ ਤੱਥਾਂ ਦੇ ਦਾਅਵੇ ਹਨ:[TEXT]ਟਾਸਕ: ਹਰੇਕ ਦਾਅਵੇ ਦੇ ਅੱਗੇ ਇੱਕ ਭਰੋਸੇ ਪੱਧਰ ਦਾ ਲੇਬਲ ਲਗਾਓ: [ਪੜਚੋਲ ਕੀਤੀ] / [ਪੜਚੋਲ ਕੀਤੀ] / [ਅਨਿਸ਼ਚਿਤ]। ਜੇਕਰ ਤੁਸੀਂ ਨਿਸ਼ਚਤ ਨਹੀਂ ਹੋ ਤਾਂ ਕਿਸੇ ਵੀ ਚੀਜ਼ ਨੂੰ [ਪ੍ਰਮਾਣਿਤ] ਚਿੰਨ੍ਹਿਤ ਨਾ ਕਰੋ।

4) ਇਕਸਾਰਤਾ ਕ੍ਰਾਸ ਪੁੱਛਗਿੱਛ:

ਮੈਂ ਇੱਕੋ ਸਵਾਲ ਨੂੰ ਦੋ ਵੱਖ-ਵੱਖ ਤਰੀਕਿਆਂ ਨਾਲ ਪੁੱਛਾਂਗਾ; ਦੇਖੋ ਕਿ ਕੀ ਤੁਹਾਡੇ ਜਵਾਬ ਇਕਸਾਰ ਹਨ। ਸਵਾਲ A: ਮਿਸ਼ਰਣ ਦਾ ਅਣੂ ਫਾਰਮੂਲਾ ਕੀ ਹੈ

ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ / ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ

ਕਮਜ਼ੋਰ:

ਉਹ ਸਭ ਕੁਝ ਲਿਖੋ ਜੋ ਤੁਸੀਂ ਇਸ ਮਿਸ਼ਰਣ ਬਾਰੇ ਜਾਣਦੇ ਹੋ।

AI ਅੰਨ੍ਹੇਵਾਹ ਪ੍ਰਮਾਣਿਤ ਅਤੇ ਮਨਘੜਤ ਜਾਣਕਾਰੀ ਨੂੰ ਮਿਲਾਉਂਦਾ ਹੈ; ਇਹ ਅਸਪਸ਼ਟ ਹੈ ਕਿ ਕਿਹੜਾ ਅਸਲੀ ਹੈ।

ਮਜ਼ਬੂਤ:

ਇਸ ਮਿਸ਼ਰਣ ਬਾਰੇ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕਰੋ, ਪਰ ਹਰੇਕ ਦਾਅਵੇ ਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਲੇਬਲ ਕਰੋ: [ਡਿਟਰਮਿਨਿਸਟਿਕ - ਸਾਧਨ ਦੁਆਰਾ ਪ੍ਰਮਾਣਿਤ] ਉਦਾਹਰਨ ਲਈ ਅਣੂ ਫਾਰਮੂਲਾ, [ਪ੍ਰਯੋਗਾਤਮਕ - ਹਵਾਲਾ ਲੋੜੀਂਦਾ] ਉਦਾਹਰਨ ਲਈ ਪਿਘਲਣ ਦਾ ਬਿੰਦੂ, [ਅਨਿਸ਼ਚਿਤ - ਯਕੀਨੀ ਨਹੀਂ]। ਕੋਈ ਵੀ ਬਿਨਾਂ ਲੇਬਲ ਵਾਲੇ ਦਾਅਵੇ ਨਾ ਲਿਖੋ।

ਅੰਤਰ: ਅਸੀਂ ਏਆਈ ਨੂੰ ਆਪਣੀ ਅਨਿਸ਼ਚਿਤਤਾ ਨੂੰ ਚਿੰਨ੍ਹਿਤ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕੀਤਾ; ਅਸੀਂ ਪੁਸ਼ਟੀਕਰਨ ਦੇ ਕੰਮ ਨੂੰ ਯੋਜਨਾਬੱਧ ਬਣਾਇਆ ਹੈ।

ਵਿਗਿਆਨਕ ਅਖੰਡਤਾ: ਇਮਾਨਦਾਰੀ ਅਤੇ ਖੋਜਯੋਗਤਾ

ਤਸਦੀਕ ਸਿਰਫ਼ ਇੱਕ ਤਕਨੀਕੀ ਕਦਮ ਨਹੀਂ ਹੈ, ਇਹ ਇੱਕ ਨੈਤਿਕ ਮੁੱਦਾ ਹੈ। ਵਿਗਿਆਨਕ ਅਖੰਡਤਾ ਦੀ ਲੋੜ ਹੈ:

• ਪਾਰਦਰਸ਼ਤਾ: ਇਹ ਨਾ ਲੁਕਾਓ ਕਿ ਤੁਸੀਂ AI ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹੋ; ਆਪਣੀ ਪ੍ਰਕਾਸ਼ਨ/ਰਿਪੋਰਟ ਨੀਤੀ ਦੇ ਅਨੁਸਾਰ ਨਿਸ਼ਚਿਤ ਕਰੋ।
• ਟਰੇਸੇਬਿਲਟੀ: ਰਿਕਾਰਡ ਕਰੋ ਕਿ AI ਤੋਂ ਕੀ ਆਉਟਪੁੱਟ ਆਇਆ ਅਤੇ ਇਹ ਕਿਵੇਂ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ ਗਿਆ।
• ਡਾਟਾ ਇਕਸਾਰਤਾ: AI ਨਾਲ ਨਤੀਜਿਆਂ ਨੂੰ “ਸੁੰਦਰ ਬਣਾਉਣਾ”, ਬਿਨਾਂ ਕਿਸੇ ਤਰਕ ਦੇ ਬਾਹਰਲੇ ਲੋਕਾਂ ਨੂੰ ਛੱਡਣਾ ਧੋਖਾਧੜੀ ਹੈ।
• ਜ਼ਿੰਮੇਵਾਰੀ: ਤੁਸੀਂ ਅੰਤਿਮ ਨਤੀਜੇ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹੋ; “ਏਆਈ ਨੇ ਅਜਿਹਾ ਕਿਹਾ” ਕੋਈ ਬਹਾਨਾ ਨਹੀਂ ਹੈ।

ਸੰਕੇਤ: ਸ਼ੁਰੂ ਤੋਂ ਹੀ ਸਵੀਕਾਰ ਕਰੋ ਕਿ ਤੁਸੀਂ ਰਿਪੋਰਟ ਜਾਂ ਬਚਾਅ ਵਿੱਚ "ਏਆਈ ਨੇ ਅਜਿਹਾ ਕਿਹਾ" ਸ਼ਬਦ ਦੀ ਵਰਤੋਂ ਕਦੇ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਇਹ ਸਵੀਕ੍ਰਿਤੀ ਆਪਣੇ ਆਪ ਹਰ ਆਉਟਪੁੱਟ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਦੀ ਆਦਤ ਲਿਆਉਂਦੀ ਹੈ.

ਮਿੰਨੀ ਕੇਸ

ਕੇਸ 1 - ਤਿਕੋਣ ਵਿੱਚ ਇੱਕ ਤਰੁੱਟੀ ਫੜੀ ਗਈ। ਇੱਕ ਵਿਦਿਆਰਥੀ ਨੇ ਇੱਕ ਅਣੂ ਦੇ ਭਾਰ ਨੂੰ ਤਿੰਨ ਤਰੀਕਿਆਂ ਨਾਲ ਚੈੱਕ ਕੀਤਾ: YZ ਨੇ ਕਿਹਾ 178.2, ਮੈਨੂਅਲ ਕੈਲਕੂਲੇਸ਼ਨ ਨੇ 180.16 ਦਿੱਤਾ, RDKit ਨੇ 180.16 ਦਿੱਤਾ। ਦੋ ਸੁਤੰਤਰ ਮਾਰਗਾਂ ਨੇ AI ਨੂੰ ਓਵਰਲੈਪ ਕੀਤਾ ਅਤੇ ਖਤਮ ਕੀਤਾ। ਪਾਠ: ਦੋ ਸੁਤੰਤਰ ਤਸਦੀਕ ਚੁੱਪਚਾਪ ਇੱਕ ਝੂਠੇ ਆਉਟਪੁੱਟ ਨੂੰ ਹਰਾਉਂਦੇ ਹਨ।

ਕੇਸ 2 - ਸੁਰੱਖਿਅਤ ਭਾਸ਼ਾ, ਗਲਤ ਜਾਣਕਾਰੀ। ਏਆਈ ਨੇ ਬਹੁਤ ਭਰੋਸੇ ਨਾਲ ਲਿਖਿਆ ਕਿ ਇੱਕ ਪ੍ਰਤੀਕ੍ਰਿਆ "ਕਮਰੇ ਦੇ ਤਾਪਮਾਨ 'ਤੇ ਆਪਣੇ ਆਪ ਚਲਦੀ ਹੈ." ਸਾਹਿਤ ਨੇ ਦਿਖਾਇਆ ਹੈ ਕਿ ਇਸ ਲਈ ਲੋੜੀਂਦਾ ਹੀਟਿੰਗ ਅਤੇ ਉਤਪ੍ਰੇਰਕ. ਵਿਦਿਆਰਥੀ ਨੇ ਸਰੋਤ 'ਤੇ ਭਰੋਸਾ ਕੀਤਾ, ਨਾ ਕਿ ਸੁਰੱਖਿਅਤ ਭਾਸ਼ਾ 'ਤੇ। ਸਬਕ: ਰਵਾਨਗੀ ਸ਼ੁੱਧਤਾ ਨਹੀਂ ਹੈ।

ਕੇਸ 3 - ਪਾਰਦਰਸ਼ਤਾ ਪ੍ਰਾਪਤ ਕੀਤੀ। ਆਪਣੇ ਪੇਪਰ ਦੇ ਵਿਧੀ ਭਾਗ ਵਿੱਚ, ਇੱਕ ਖੋਜਕਰਤਾ ਨੇ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਦੱਸਿਆ ਕਿ ਉਸਨੇ ਕਿਹੜੇ ਕਦਮਾਂ ਵਿੱਚ ਏਆਈ (ਟੈਕਸਟ ਐਡੀਟਿੰਗ, ਕੋਡ ਡਰਾਫਟ) ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਅਤੇ ਲਿਖਿਆ ਕਿ ਉਸਨੇ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਸਾਰੇ ਸੰਖਿਆਤਮਕ ਨਤੀਜਿਆਂ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ। ਰੈਫਰੀ ਪ੍ਰਕਿਰਿਆ ਸੁਚਾਰੂ ਢੰਗ ਨਾਲ ਚਲੀ ਗਈ। ਸਬਕ: ਪਾਰਦਰਸ਼ਤਾ ਵਿਸ਼ਵਾਸ ਪੈਦਾ ਕਰਦੀ ਹੈ, ਛੁਪਾਉਣਾ ਜੋਖਮ ਪੈਦਾ ਕਰਦਾ ਹੈ।

ਆਮ ਗਲਤੀਆਂ

• ਸੁਰੱਖਿਅਤ ਭਾਸ਼ਾ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ। AI ਦਾ ਭਰੋਸੇਮੰਦ ਟੋਨ ਸ਼ੁੱਧਤਾ ਦਾ ਸੰਕੇਤ ਨਹੀਂ ਹੈ।
• ਇੱਕ ਸਿੰਗਲ ਸਰੋਤ 'ਤੇ ਭਰੋਸਾ. ਤਿਕੋਣ ਤੋਂ ਬਿਨਾਂ ਇੱਕ ਸਿੰਗਲ ਆਉਟਪੁੱਟ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨਾ।
• ਆਉਟਪੁੱਟ ਕਿਸਮ ਨੂੰ ਵੱਖ ਨਹੀਂ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ। ਇਹ ਸੋਚਦੇ ਹੋਏ ਕਿ ਮੈਂ ਉਸੇ ਵਿਧੀ ਨਾਲ ਨੰਬਰ, ਵਿਸ਼ੇਸ਼ਤਾ, ਅਤੇ ਸੁਰੱਖਿਆ ਦਾਅਵੇ ਦੀ "ਜਾਂਚ" ਕੀਤੀ ਹੈ।
• ਅਨਿਸ਼ਚਿਤਤਾ ਨੂੰ ਲੁਕਾਉਣਾ. ਕਿਸੇ ਅਜਿਹੀ ਚੀਜ਼ ਦੀ ਰਿਪੋਰਟ ਕਰਨਾ ਜਿਸਦੀ ਪੁਸ਼ਟੀ ਨਹੀਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਜਿਵੇਂ ਕਿ ਇਹ ਨਿਸ਼ਚਿਤ ਸੀ।
• AI ਦੀ ਵਰਤੋਂ ਨੂੰ ਲੁਕਾਉਣਾ। ਪਾਰਦਰਸ਼ਤਾ ਦੀ ਘਾਟ ਵਿਗਿਆਨਕ ਅਖੰਡਤਾ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰਦੀ ਹੈ।
• ਜ਼ਿੰਮੇਵਾਰੀ ਸੌਂਪੀ ਜਾ ਰਹੀ ਹੈ। "ਏਆਈ ਨੇ ਅਜਿਹਾ ਕਿਹਾ" ਬਹਾਨਾ ਅਵੈਧ ਹੈ; ਜ਼ਿੰਮੇਵਾਰੀ ਵਿਅਕਤੀ ਦੀ ਹੈ।

ਸੰਖੇਪ ਵਿੱਚ

• ਭਾਸ਼ਾ ਦੇ ਨਮੂਨੇ ਵਿੱਚ ਭੁਲੇਖਾ ਨਿਹਿਤ ਹੈ; ਹੱਲ ਹਰੇਕ ਆਉਟਪੁੱਟ ਦੇ ਆਲੇ ਦੁਆਲੇ ਇੱਕ ਪ੍ਰਮਾਣਿਕਤਾ ਸ਼ੈੱਲ ਬਣਾਉਣਾ ਹੈ।
• ਹਰੇਕ ਆਉਟਪੁੱਟ ਕਿਸਮ ਦੀ ਆਪਣੀ ਤਸਦੀਕ ਵਿਧੀ ਹੁੰਦੀ ਹੈ; ਆਉਟਪੁੱਟ ਦਾ ਵਰਗੀਕਰਨ ਕਰੋ ਅਤੇ ਉਚਿਤ ਟੂਲ ਦੀ ਵਰਤੋਂ ਕਰੋ।
• ਤਿਕੋਣ (ਦੋ ਸੁਤੰਤਰ ਮਾਰਗ) ਸਭ ਤੋਂ ਮਜ਼ਬੂਤ ​​ਨਿਯੰਤਰਣ ਹੈ; ਕਿਸੇ ਇੱਕ ਸਰੋਤ 'ਤੇ ਭਰੋਸਾ ਨਾ ਕਰੋ।
• ਰਵਾਨਗੀ ਅਤੇ ਭਰੋਸੇਮੰਦ ਭਾਸ਼ਾ ਦਾ ਸ਼ੁੱਧਤਾ ਨਾਲ ਕੋਈ ਸਬੰਧ ਨਹੀਂ ਹੈ।
• ਵਿਗਿਆਨਕ ਅਖੰਡਤਾ ਲਈ ਪਾਰਦਰਸ਼ਤਾ, ਟਰੇਸੇਬਿਲਟੀ, ਡੇਟਾ ਅਖੰਡਤਾ ਅਤੇ ਮਨੁੱਖੀ ਜ਼ਿੰਮੇਵਾਰੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਐਪਲੀਕੇਸ਼ਨ ਦਾ ਕੰਮ

ਇੱਕ AI ਸੈਸ਼ਨ ਵਿੱਚ ਜਾਣਬੁੱਝ ਕੇ ਕਈ ਤਰ੍ਹਾਂ ਦੇ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰੋ: ਇੱਕ ਅਣੂ ਭਾਰ, ਇੱਕ ਹਵਾਲਾ, ਇੱਕ ਭੌਤਿਕ ਸਥਿਰਤਾ, ਇੱਕ ਸੁਰੱਖਿਆ ਦਾਅਵਾ, ਇੱਕ ਸੰਖਿਆਤਮਕ ਗਣਨਾ। ਸਹੀ ਢੰਗ ਨਾਲ ਹਰੇਕ ਦੀ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਪੁਸ਼ਟੀ ਕਰੋ (ਸਾਰਣੀ ਦੇਖੋ)। ਘੱਟੋ-ਘੱਟ ਇੱਕ ਭਰਮ ਨੂੰ ਫੜਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੋ। ਫਿਰ ਇੱਕ "ਪ੍ਰਮਾਣਿਕਤਾ ਮੈਟ੍ਰਿਕਸ" ਤਿਆਰ ਕਰੋ: ਕਤਾਰਾਂ ਦੇ ਆਉਟਪੁੱਟ, ਕਾਲਮ (AI ਮੁੱਲ / ਸੁਤੰਤਰ ਮੁੱਲ / ਇਹ ਓਵਰਲੈਪ ਕੀਤਾ / ਮੈਂ ਇਸਨੂੰ ਕਿਵੇਂ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ)। ਤੁਸੀਂ ਵਿਗਿਆਨਕ ਅਖੰਡਤਾ ਦੇ ਰੂਪ ਵਿੱਚ ਇਸ ਸੈਸ਼ਨ ਦੀ ਰਿਪੋਰਟ ਕਿਵੇਂ ਕਰੋਗੇ?

ਚੈੱਕਲਿਸਟ

• [ ] ਮੈਂ ਸਮਝਦਾ ਹਾਂ ਕਿ ਭਰਮ ਕਿਉਂ ਅਟੱਲ ਹੈ।
• [ ] ਮੈਂ ਹਰੇਕ ਆਉਟਪੁੱਟ ਨੂੰ ਉਸਦੀ ਕਿਸਮ ਦੇ ਅਨੁਸਾਰ ਵਰਗੀਕ੍ਰਿਤ ਕਰਦਾ ਹਾਂ ਅਤੇ ਉਚਿਤ ਵਿਧੀ ਨਾਲ ਇਸਦੀ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹਾਂ।
• ਮੈਂ ਨਾਜ਼ੁਕ ਮੁੱਲਾਂ 'ਤੇ ਤਿਕੋਣ (ਦੋ ਸੁਤੰਤਰ ਮਾਰਗ) ਕਰਦਾ ਹਾਂ।
• [ ] ਮੈਨੂੰ ਸਰੋਤ 'ਤੇ ਭਰੋਸਾ ਹੈ, ਸੁਰੱਖਿਅਤ ਭਾਸ਼ਾ 'ਤੇ ਨਹੀਂ।
• [ ] ਮੈਂ ਉਸ ਚੀਜ਼ ਦੀ ਨਿਸ਼ਾਨਦੇਹੀ ਕਰਦਾ ਹਾਂ ਜਿਸਦੀ ਪੁਸ਼ਟੀ "ਅਨਿਸ਼ਚਿਤ" ਵਜੋਂ ਨਹੀਂ ਕੀਤੀ ਜਾ ਸਕਦੀ।
• ਮੈਂ AI ਦੀ ਵਰਤੋਂ ਵਿੱਚ ਪਾਰਦਰਸ਼ੀ ਹਾਂ ਅਤੇ ਨਤੀਜਿਆਂ ਲਈ ਆਪਣੇ ਆਪ ਨੂੰ ਜਵਾਬਦੇਹ ਸਮਝਦਾ ਹਾਂ।