ਲਾਭ:
- ਇਹ ਵਿਆਖਿਆ ਕਰ ਸਕਦਾ ਹੈ ਕਿ ਭਰਮ ਕੀ ਹੁੰਦਾ ਹੈ ਅਤੇ ਇਹ ਕਿਉਂ ਹੁੰਦਾ ਹੈ
- ਇਹ ਨਿਰਧਾਰਤ ਕਰ ਸਕਦਾ ਹੈ ਕਿ ਕਦੋਂ AI ਆਉਟਪੁੱਟ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕਰਨ ਦੀ ਲੋੜ ਹੈ
- ਵਿਹਾਰਕ ਤਕਨੀਕਾਂ ਨੂੰ ਲਾਗੂ ਕਰ ਸਕਦੇ ਹਨ ਜੋ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਵਧਾਉਂਦੇ ਹਨ
ਸ਼ਾਇਦ ਏਆਈ ਸਾਖਰਤਾ ਦਾ ਸਭ ਤੋਂ ਨਾਜ਼ੁਕ ਵਿਸ਼ਾ ਇਸ ਇਕਾਈ ਵਿੱਚ ਹੈ: ਮਾਡਲ ਮੇਕਿੰਗ, ਯਾਨੀ, ਭਰਮ। AI ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਕਿਸੇ ਵੀ ਵਿਅਕਤੀ ਲਈ ਇਸ ਸ਼ਬਦ ਨੂੰ ਸਮਝਣਾ ਸਭ ਤੋਂ ਬੁਨਿਆਦੀ ਸੁਰੱਖਿਆ ਸਾਵਧਾਨੀ ਹੈ। ਕਿਉਂਕਿ ਇੱਕ ਉਪਭੋਗਤਾ ਜੋ ਭੁਲੇਖੇ ਨੂੰ ਨਹੀਂ ਪਛਾਣਦਾ, ਗਲਤ ਜਾਣਕਾਰੀ ਨੂੰ ਸੱਚ ਸਮਝ ਸਕਦਾ ਹੈ ਅਤੇ ਇਸਨੂੰ ਵਪਾਰਕ ਫੈਸਲੇ, ਗਾਹਕ ਸੰਚਾਰ ਜਾਂ ਇੱਕ ਅਧਿਕਾਰਤ ਦਸਤਾਵੇਜ਼ ਵਿੱਚ ਤਬਦੀਲ ਕਰ ਸਕਦਾ ਹੈ। ਇਸ ਯੂਨਿਟ ਵਿੱਚ, ਤੁਸੀਂ ਸਿੱਖੋਗੇ ਕਿ ਇੱਕ ਭੁਲੇਖਾ ਕੀ ਹੈ, ਇਹ ਅਟੱਲ ਕਿਉਂ ਹੈ, ਅਤੇ ਇਸ ਤੋਂ ਕਿਵੇਂ ਬਚਾਅ ਕਰਨਾ ਹੈ।
ਇੱਕ ਭਰਮ ਕੀ ਹੈ?
ਇੱਕ ਭੁਲੇਖਾ ਉਦੋਂ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਇੱਕ ਭਾਸ਼ਾ ਮਾਡਲ ਅਜਿਹੀ ਜਾਣਕਾਰੀ ਪੈਦਾ ਕਰਦਾ ਹੈ ਜੋ ਅਸਲ ਵਿੱਚ ਇੱਕ ਪ੍ਰਵਾਹ ਅਤੇ ਭਰੋਸੇਮੰਦ ਭਾਸ਼ਾ ਵਿੱਚ ਮੌਜੂਦ ਨਹੀਂ ਹੈ, ਜਿਵੇਂ ਕਿ ਇਹ ਸੱਚ ਹੈ। ਮਾਡਲ ਝੂਠ ਬੋਲਣ ਦਾ ਇਰਾਦਾ ਨਹੀਂ ਰੱਖਦਾ; ਸਿਰਫ "ਸਭ ਤੋਂ ਸੰਭਾਵੀ ਨਿਰੰਤਰਤਾ" ਪੈਦਾ ਕਰਨ ਵਿੱਚ, ਇਹ ਇੱਕ ਟੈਕਸਟ ਬਣਾਉਂਦਾ ਹੈ ਜੋ ਸੰਭਾਵਿਤ ਜਾਪਦਾ ਹੈ ਪਰ ਅਸਲ ਵਿੱਚ ਗਲਤ ਹੈ।
ਉਦਾਹਰਨ: ਜੇਕਰ ਤੁਸੀਂ ਇੱਕ ਮਾਡਲ ਨੂੰ ਦੱਸਦੇ ਹੋ "ਵਿਸ਼ੇ 'ਤੇ ਇੱਕ ਅਕਾਦਮਿਕ ਸਰੋਤ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕਰੋ ਹਰ ਚੀਜ਼ ਸਹੀ ਫਾਰਮੈਟ ਵਿੱਚ ਅਤੇ ਯਕੀਨ ਨਾਲ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ; ਪਰ ਸਰੋਤ ਪੂਰੀ ਤਰ੍ਹਾਂ ਕਾਲਪਨਿਕ ਹੈ। ਇਹ ਭਰਮ ਦੀ ਇੱਕ ਸ਼ਾਨਦਾਰ ਉਦਾਹਰਨ ਹੈ।
ਅਜਿਹਾ ਕਿਉਂ ਹੁੰਦਾ ਹੈ? (ਇਕਾਈ ਦੋ ਯਾਦ ਰੱਖੋ)
ਭੁਲੇਖੇ ਦਾ ਸਰੋਤ ਮਾਡਲ ਦੇ ਕਾਰਜਸ਼ੀਲ ਸਿਧਾਂਤ ਵਿੱਚ ਹੈ। ਮਾਡਲ "ਤੱਥਾਂ ਦਾ ਐਨਸਾਈਕਲੋਪੀਡੀਆ" ਨਹੀਂ ਹੈ; ਇਹ ਇੱਕ "ਸੰਭਾਵਨਾ ਮਸ਼ੀਨ" ਹੈ। ਇਸ ਦਾ ਕੰਮ ਤੁਹਾਡੇ ਸਵਾਲ ਦੀ ਨਿਰਵਿਘਨ ਸੰਭਵ ਨਿਰੰਤਰਤਾ ਪੈਦਾ ਕਰਨਾ ਹੈ; ਇਹ ਸਭ ਤੋਂ ਸਹੀ ਜਾਣਕਾਰੀ ਲਿਆਉਣ ਬਾਰੇ ਨਹੀਂ ਹੈ। ਮਾਡਲ:
- ਉਹ ਨਹੀਂ ਜਾਣਦਾ ਕਿ ਉਹ ਕੀ ਨਹੀਂ ਜਾਣਦਾ; ਜਦੋਂ ਖਾਲੀ ਦਾ ਸਾਹਮਣਾ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਉਹ "ਮੈਨੂੰ ਨਹੀਂ ਪਤਾ" ਕਹਿਣ ਦੀ ਬਜਾਏ ਇੱਕ ਸੰਭਾਵੀ ਜਵਾਬ ਭਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਹੈ।
- ਅਸਲੀਅਤ ਨੂੰ ਕਾਬੂ ਕਰਨ ਲਈ ਇਸ ਕੋਲ ਕੋਈ ਵਿਧੀ ਨਹੀਂ ਹੈ; ਇਹ ਜਾਂਚ ਨਹੀਂ ਕਰਦਾ ਕਿ ਇਹ ਜੋ ਟੈਕਸਟ ਤਿਆਰ ਕਰਦਾ ਹੈ ਉਹ ਦੁਨੀਆ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ ਜਾਂ ਨਹੀਂ।
- ਉਸ ਲਈ ਰਵਾਨਗੀ ਅਤੇ ਸ਼ੁੱਧਤਾ ਦੋ ਵੱਖਰੀਆਂ ਚੀਜ਼ਾਂ ਹਨ; ਸਿਰਫ਼ ਇਸ ਲਈ ਕਿ ਇਹ ਰਵਾਨਗੀ ਦਾ ਮਤਲਬ ਇਹ ਨਹੀਂ ਹੈ ਕਿ ਇਹ ਸਹੀ ਹੈ।
ਸਾਵਧਾਨ: ਭਰਮ ਇੱਕ "ਖਰਾਬ" ਨਹੀਂ ਹੈ; ਇਹ ਤਕਨਾਲੋਜੀ ਦੀ ਇੱਕ ਅੰਦਰੂਨੀ ਵਿਸ਼ੇਸ਼ਤਾ ਹੈ. ਨਵੇਂ ਮਾਡਲ ਇਸ ਨੂੰ ਘਟਾਉਂਦੇ ਹਨ ਪਰ ਇਸਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖਤਮ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਇਸ ਲਈ, "ਨੌਨ-ਹੈਲੁਸੀਨੇਸ਼ਨ ਮਾਡਲ" ਦੀ ਉਡੀਕ ਕਰਨ ਦੀ ਬਜਾਏ, ਭਰਮ ਨਾਲ ਜੀਣਾ ਸਿੱਖਣਾ ਜ਼ਰੂਰੀ ਹੈ।
ਕਿੱਥੇ ਹੈਲੁਸੀਨੇਸ਼ਨ ਦਾ ਖਤਰਾ ਜ਼ਿਆਦਾ ਹੈ?
ਹਰ ਨਤੀਜਾ ਬਰਾਬਰ ਖ਼ਤਰਨਾਕ ਨਹੀਂ ਹੁੰਦਾ। ਜੋਖਮ ਵਧਦਾ ਹੈ ਜਦੋਂ:
ਉੱਚ ਜੋਖਮ
ਘੱਟ ਜੋਖਮ
ਸਹੀ ਅੰਕੜੇ, ਤਾਰੀਖਾਂ, ਅੰਕੜੇ
ਸਾਧਾਰਨ ਵਿਚਾਰ ਪੈਦਾ ਕਰਨਾ, ਦਿਮਾਗ਼ੀ ਵਿਚਾਰਾਂ ਦਾ ਨਿਰਮਾਣ ਕਰਨਾ
ਸਰੋਤ, ਹਵਾਲੇ, ਹਵਾਲੇ ਮੰਗ ਰਿਹਾ ਹੈ
ਟੈਕਸਟ ਦੀ ਟੋਨ ਬਦਲੋ
ਸਥਾਨ, ਵਿਸ਼ੇਸ਼ ਵਿਸ਼ੇ
ਆਮ, ਆਮ ਵਿਸ਼ੇ
ਵਰਤਮਾਨ ਘਟਨਾਵਾਂ ਅਤੇ ਲੋਕ
ਆਪਣੇ ਪਾਠ ਦਾ ਸਾਰ ਦਿਓ
ਤੁਹਾਡੀ ਕੰਪਨੀ ਲਈ ਖਾਸ ਅੰਦਰੂਨੀ ਜਾਣਕਾਰੀ
ਵਿਆਕਰਨ ਸੁਧਾਰ
ਤਿੰਨ ਮਿੰਨੀ ਕੇਸ
ਕੇਸ 1 - ਇੱਕ ਜਾਅਲੀ ਚਿੱਤਰ ਪੇਸ਼ਕਾਰੀ ਵਿੱਚ ਦਾਖਲ ਹੋਇਆ। ਇੱਕ ਕਰਮਚਾਰੀ ਨੇ AI ਨੂੰ ਉਦਯੋਗ ਰਿਪੋਰਟ ਲਈ "2023 ਈ-ਕਾਮਰਸ ਵਿਕਾਸ ਦਰ ਅਤੇ ਤੁਰਕੀਏ ਵਿੱਚ ਸਰੋਤ" ਲਈ ਕਿਹਾ। ਮਾਡਲ ਨੇ ਇੱਕ ਭਰੋਸੇਮੰਦ ਪ੍ਰਤੀਸ਼ਤ (48%) ਅਤੇ ਇੱਕ ਸੰਸਥਾ ਦਾ ਨਾਮ ਵਾਪਸ ਕੀਤਾ. ਕਰਮਚਾਰੀ ਨੇ ਇਸਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕੀਤੇ ਬਿਨਾਂ ਪੇਸ਼ਕਾਰੀ ਵਿੱਚ ਪਾ ਦਿੱਤਾ; ਜਦੋਂ ਮੀਟਿੰਗ ਵਿੱਚ ਇਹ ਖੁਲਾਸਾ ਹੋਇਆ ਕਿ ਇਹ ਅੰਕੜਾ ਮਨਘੜਤ ਹੈ, ਤਾਂ ਪੇਸ਼ਕਾਰੀ ਅਤੇ ਕੰਪਨੀ ਦੀ ਸਾਖ ਦੋਵਾਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਿਆ ਹੈ। ਜੇਕਰ ਉਹੀ ਕਰਮਚਾਰੀ ਸਰਕਾਰੀ ਸਰੋਤ ਤੋਂ ਅੰਕੜੇ ਪ੍ਰਾਪਤ ਕਰ ਲੈਂਦਾ ਤਾਂ ਕੋਈ ਸਮੱਸਿਆ ਨਹੀਂ ਸੀ।
ਕੇਸ 2 - ਕਾਨੂੰਨ ਦਾ ਗੈਰ-ਮੌਜੂਦ ਹਿੱਸਾ। ਇੱਕ ਸਹਾਇਕ ਨੇ ਇੱਕ ਪਟੀਸ਼ਨ ਲਈ AI ਨੂੰ "ਕਾਨੂੰਨ ਦੇ ਸੰਬੰਧਿਤ ਲੇਖ" ਲਈ ਕਿਹਾ। ਮਾਡਲ ਨੇ ਇੱਕ ਯਥਾਰਥਵਾਦੀ ਦਿੱਖ ਵਾਲਾ ਆਈਟਮ ਨੰਬਰ ਅਤੇ ਟੈਕਸਟ ਤਿਆਰ ਕੀਤਾ; ਪਰ ਉਹ ਵਸਤੂ ਉੱਥੇ ਨਹੀਂ ਸੀ। ਖੁਸ਼ਕਿਸਮਤੀ ਨਾਲ, ਕਾਨੂੰਨੀ ਵਿਭਾਗ ਨੇ ਡਿਲੀਵਰੀ ਤੋਂ ਪਹਿਲਾਂ ਇਸ ਨੂੰ ਦੇਖਿਆ। ਪਾਠ: ਕਾਨੂੰਨੀ ਹਵਾਲੇ ਹਮੇਸ਼ਾ ਪ੍ਰਾਇਮਰੀ ਸਰੋਤ ਤੋਂ ਪ੍ਰਮਾਣਿਤ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।
ਕੇਸ 3 - ਸਹੀ ਤਰੀਕਾ, ਸੁਰੱਖਿਅਤ ਨਤੀਜਾ। ਉਸੇ ਟੀਮ ਦੇ ਇੱਕ ਹੋਰ ਕਰਮਚਾਰੀ ਨੇ ਸਿਰਫ਼ AI ਦਾ ਖਰੜਾ ਰਿਪੋਰਟ ਦਾ ਖਰੜਾ ਤਿਆਰ ਕੀਤਾ ਸੀ, ਅਧਿਕਾਰਤ ਅੰਕੜਿਆਂ ਤੋਂ ਆਪਣੇ ਆਪ ਸਾਰੇ ਨੰਬਰ ਦਾਖਲ ਕੀਤੇ ਅਤੇ ਉਸਨੂੰ ਨਿਰਦੇਸ਼ ਦਿੱਤਾ ਕਿ "ਕੋਈ ਵੀ ਅੰਕੜੇ ਸ਼ਾਮਲ ਨਾ ਕਰੋ ਜੋ ਇਸ ਟੈਕਸਟ ਵਿੱਚ ਨਹੀਂ ਹਨ।" ਨਤੀਜਾ ਦੋਨੋ ਤੇਜ਼ ਅਤੇ ਸਹੀ ਸੀ. ਅੰਤਰ: AI ਨੇ ਡਰਾਫਟ ਲਿਖਿਆ, ਮਨੁੱਖੀ ਤਸੱਲੀਬਖਸ਼ ਤੱਥ।
ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ / ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ
ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ: ਲੇਖਕ ਅਤੇ ਸਾਲ ਦੇ ਨਾਲ ਇਸ ਵਿਸ਼ੇ 'ਤੇ 3 ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਅਕਾਦਮਿਕ ਸਰੋਤ ਦਿਓ।
ਨਤੀਜਾ: ਮਾਡਲ ਗੈਰ-ਮੌਜੂਦ ਸਰੋਤਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਫਿੱਟ ਕਰ ਸਕਦਾ ਹੈ।
ਸ਼ਕਤੀਸ਼ਾਲੀ ਪ੍ਰੋਂਪਟ: ਮੈਂ ਹੇਠਾਂ ਪੇਸਟ ਕੀਤੇ ਟੈਕਸਟ ਦੇ ਅਧਾਰ ਤੇ ਇੱਕ ਸੰਖੇਪ ਲਿਖੋ। ਇਸ ਟੈਕਸਟ ਵਿਚਲੀ ਜਾਣਕਾਰੀ ਦੀ ਹੀ ਵਰਤੋਂ ਕਰੋ। ਕੋਈ ਵੀ ਨਾਮ, ਨੰਬਰ ਜਾਂ ਸਰੋਤ ਨਾ ਜੋੜੋ ਜੋ ਟੈਕਸਟ ਵਿੱਚ ਨਹੀਂ ਹਨ। ਜੇਕਰ ਤੁਸੀਂ ਯਕੀਨੀ ਨਹੀਂ ਹੋ, ਤਾਂ "ਟੈਕਸਟ ਵਿੱਚ ਨਿਰਧਾਰਤ ਨਹੀਂ" ਲਿਖੋ।<text>[ਇੱਥੇ ਪੇਸਟ ਕਰੋ]</text>
ਨਤੀਜਾ: ਕਿਉਂਕਿ ਮਾਡਲ ਤੁਹਾਡੇ ਤੋਂ ਸਰੋਤ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ, ਫਿਟਿੰਗ ਸਪੇਸ ਤੰਗ ਹੋ ਜਾਂਦੀ ਹੈ।
ਵਿਹਾਰਕ ਤਕਨੀਕਾਂ ਜੋ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਵਧਾਉਂਦੀਆਂ ਹਨ
ਆਪਣੇ ਜਵਾਬ (ਨੰਬਰ, ਮਿਤੀ, ਨਾਮ, ਸਰੋਤ) ਵਿੱਚ ਹਰੇਕ ਪ੍ਰਮਾਣਿਤ ਦਾਅਵੇ ਨੂੰ ਚਿੰਨ੍ਹਿਤ ਕਰੋ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਇੱਕ ਵੱਖਰੀ "ਜਾਂਚ ਕਰਨੀ ਲਾਜ਼ਮੀ" ਸੂਚੀ ਵਿੱਚ ਪਾਓ।
ਇਸ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦਿਓ. ਜੇਕਰ ਤੁਹਾਨੂੰ ਯਕੀਨ ਨਹੀਂ ਹੈ, ਤਾਂ ਅੰਦਾਜ਼ਾ ਨਾ ਲਗਾਓ; "ਮੈਨੂੰ ਯਕੀਨ ਨਹੀਂ ਹੈ" ਕਹੋ ਅਤੇ ਸਮਝਾਓ ਕਿ ਤੁਸੀਂ ਨਹੀਂ ਜਾਣਦੇ ਕਿ ਕੀ ਹੈ। ਵਿਸ਼ਾ: [ਵਿਸ਼ਾ]
ਇੱਕੋ ਸਵਾਲ ਦਾ ਦੋ ਵੱਖ-ਵੱਖ ਤਰੀਕਿਆਂ ਨਾਲ ਜਵਾਬ ਦਿਓ ਅਤੇ ਦੋ ਜਵਾਬਾਂ ਵਿਚਕਾਰ ਵਿਰੋਧਾਭਾਸ ਨੂੰ ਚਿੰਨ੍ਹਿਤ ਕਰੋ। ਇਸ ਲਈ ਮੈਨੂੰ ਇਹ ਦੇਖਣ ਦਿਓ ਕਿ ਕਿਹੜੇ ਨੁਕਤੇ ਸਵਾਲੀਆ ਹਨ। ਸਵਾਲ: [ਸਵਾਲ]
ਮੈਂ ਹੇਠਾਂ ਦਿੱਤੇ ਟੈਕਸਟ ਦੀ ਪੁਸ਼ਟੀ ਕਰਾਂਗਾ। ਉਹਨਾਂ ਜੋਖਮ ਭਰੇ ਦਾਅਵਿਆਂ ਦੀ ਸੂਚੀ ਬਣਾਓ ਜਿਨ੍ਹਾਂ ਦੀ ਮੈਨੂੰ ਮਹੱਤਤਾ ਦੇ ਕ੍ਰਮ ਵਿੱਚ ਜਾਂਚ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਅਤੇ ਸੁਝਾਅ ਦਿਓ ਕਿ ਮੈਂ ਹਰੇਕ ਦੀ ਪੁਸ਼ਟੀ ਕਿੱਥੇ ਕਰ ਸਕਦਾ ਹਾਂ। ਟੈਕਸਟ: [ਇੱਥੇ ਪੇਸਟ ਕਰੋ]
ਇਸ ਤੋਂ ਇਲਾਵਾ, ਇਹਨਾਂ ਆਦਤਾਂ ਨੂੰ ਅਪਣਾਓ:
- ਤੁਸੀਂ ਸਰੋਤ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹੋ. ਸੰਬੰਧਿਤ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਟੈਕਸਟ ਵਿੱਚ ਚਿਪਕਾਓ ਅਤੇ ਕਹੋ "ਇਕੱਲੇ ਇਸ 'ਤੇ ਅਧਾਰਤ ਜਵਾਬ"।
- ਹਮੇਸ਼ਾ ਪ੍ਰਮਾਣਿਤ ਤੱਥਾਂ ਦੀ ਜਾਂਚ ਕਰੋ। ਕਿਸੇ ਸੁਤੰਤਰ, ਭਰੋਸੇਮੰਦ ਸਰੋਤ ਤੋਂ ਨੰਬਰਾਂ, ਮਿਤੀਆਂ, ਨਾਮਾਂ, ਹਵਾਲੇ ਅਤੇ ਸਰੋਤਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰੋ।
- ਉਸ ਨੂੰ ਇਹ ਦੱਸਣ ਲਈ ਕਹੋ ਕਿ ਉਹ ਮਾਡਲ ਬਾਰੇ ਯਕੀਨੀ ਨਹੀਂ ਹੈ। ਇਹ ਜੋਖਮ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ ਪਰ ਇਸਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖਤਮ ਨਹੀਂ ਕਰਦਾ.
- ਉੱਚ-ਜੋਖਮ ਵਾਲੀਆਂ ਨੌਕਰੀਆਂ ਲਈ, ਕਿਸੇ ਮਾਹਰ ਨੂੰ ਆਉਟਪੁੱਟ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਕਹੋ। ਕਾਨੂੰਨੀ, ਵਿੱਤੀ ਅਤੇ ਸਿਹਤ-ਸਬੰਧਤ ਆਉਟਪੁੱਟ ਨੂੰ ਮਨੁੱਖੀ ਮਾਹਿਰਾਂ ਦੇ ਫਿਲਟਰ ਵਿੱਚੋਂ ਲੰਘਣਾ ਚਾਹੀਦਾ ਹੈ।
- AI ਨੂੰ "ਸ਼ੁਰੂਆਤੀ ਬਿੰਦੂ" ਵਜੋਂ ਵਰਤੋ, ਨਾ ਕਿ "ਅੰਤਿਮ ਸ਼ਬਦ" ਵਜੋਂ। ਖਰੜਾ ਉਸ ਦਾ ਹੈ; ਤਸਦੀਕ ਅਤੇ ਫੈਸਲਾ ਤੁਹਾਡਾ ਹੈ।
ਸਾਵਧਾਨ: "ਮਾਡਲ ਨੇ ਇਹ ਦੋ ਵਾਰ ਕਿਹਾ, ਫਿਰ ਇਹ ਸੱਚ ਹੈ" ਤਰਕ ਗਲਤ ਹੈ. ਉਹੀ ਗਲਤੀ ਭਰੋਸੇ ਨਾਲ ਦੁਹਰਾ ਸਕਦਾ ਹੈ। ਦੁਹਰਾਉਣਾ ਸ਼ੁੱਧਤਾ ਦਾ ਸਬੂਤ ਨਹੀਂ ਹੈ।
ਆਮ ਗਲਤੀਆਂ
ਆਮ ਗਲਤੀਆਂ
- ਉਹਨਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੇ ਬਿਨਾਂ ਸਰੋਤਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨਾ। ਇਹ ਮਾਡਲ ਕਿਤਾਬਾਂ, ਲੇਖ, ਕਾਨੂੰਨ ਦੇ ਲੇਖ ਅਤੇ ਲਿੰਕ ਬਣਾ ਸਕਦਾ ਹੈ; ਹਰ ਹਵਾਲੇ ਦੀ ਪੁਸ਼ਟੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ।
- ਸ਼ੁੱਧਤਾ ਲਈ ਭਰੋਸੇਮੰਦ ਟੋਨ ਨੂੰ ਗਲਤ ਕਰਨਾ. ਭਰਮ ਬਾਰੇ ਸਭ ਤੋਂ ਖ਼ਤਰਨਾਕ ਗੱਲ ਇਹ ਹੈ ਕਿ ਇਹ ਯਕੀਨਨ ਲੱਗਦਾ ਹੈ।
- ਸਿਰਫ਼ ਮਾਡਲ ਨੂੰ "ਤੁਸੀਂ ਤਸਦੀਕ ਕਰੋ" ਕਹਿਣਾ ਕਾਫ਼ੀ ਹੈ। ਮਾਡਲ ਦੀ ਸਵੈ-ਪ੍ਰਮਾਣਿਕਤਾ ਸੁਤੰਤਰ ਪ੍ਰਮਾਣਿਕਤਾ ਨਹੀਂ ਹੈ।
- ਕਿਸੇ ਮਾਹਰ ਨੂੰ ਦਿਖਾਏ ਬਿਨਾਂ ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਆਉਟਪੁੱਟ ਦੀ ਵਰਤੋਂ ਕਰਨਾ। ਪੈਸਾ, ਕਾਨੂੰਨ ਅਤੇ ਸਿਹਤ ਵਿੱਚ ਮਨੁੱਖੀ ਕੰਟਰੋਲ ਜ਼ਰੂਰੀ ਹੈ।
ਸੰਖੇਪ ਵਿੱਚ
- ਹੇਲੁਸੀਨੇਸ਼ਨ ਉਦੋਂ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਮਾਡਲ ਗੈਰ-ਮੌਜੂਦ ਜਾਣਕਾਰੀ ਨੂੰ ਇੱਕ ਪ੍ਰਵਾਹ ਅਤੇ ਭਰੋਸੇਮੰਦ ਤਰੀਕੇ ਨਾਲ ਪੈਦਾ ਕਰਦਾ ਹੈ ਜਿਵੇਂ ਕਿ ਇਹ ਸੱਚ ਹੈ।
- ਕਾਰਨ ਇੱਕ ਖਰਾਬੀ ਨਹੀਂ ਹੈ, ਪਰ ਮਾਡਲ ਦੀ ਸੰਭਾਵਨਾ-ਅਨੁਮਾਨਿਤ ਕੁਦਰਤ; ਪੂਰੀ ਤਰ੍ਹਾਂ ਖਤਮ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ।
- ਜੋਖਮ ਖਾਸ ਤੌਰ 'ਤੇ ਉੱਚ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਇਹ ਸਹੀ ਅੰਕੜਿਆਂ, ਸਰੋਤਾਂ, ਨਵੀਨਤਮ ਜਾਣਕਾਰੀ ਅਤੇ ਵਿਸ਼ੇਸ਼ ਮੁੱਦਿਆਂ ਦੀ ਗੱਲ ਆਉਂਦੀ ਹੈ।
- ਆਪਣੇ ਆਪ ਨੂੰ ਬਚਾਉਣ ਲਈ: ਸਰੋਤ ਦਿਓ, ਤੱਥਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰੋ, ਕਹੋ "ਜੇ ਤੁਹਾਨੂੰ ਯਕੀਨ ਨਹੀਂ ਹੈ, ਤਾਂ ਮੈਨੂੰ ਦੱਸੋ", ਕਿਸੇ ਮਾਹਰ ਦੁਆਰਾ ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਆਉਟਪੁੱਟ ਦੀ ਜਾਂਚ ਕਰੋ।
- ਇੱਕ ਸ਼ੁਰੂਆਤੀ ਬਿੰਦੂ ਦੇ ਤੌਰ ਤੇ AI ਦੀ ਵਰਤੋਂ ਕਰੋ; ਅੰਤਮ ਤਸਦੀਕ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਹਮੇਸ਼ਾ ਤੁਹਾਡੇ ਨਾਲ ਰਹਿੰਦੀ ਹੈ।
ਐਪਲੀਕੇਸ਼ਨ ਟਾਸਕ
ਆਪਣੇ AI ਟੂਲ ਨੂੰ ਉਸ ਵਿਸ਼ੇ 'ਤੇ "3 ਅਕਾਦਮਿਕ ਸਰੋਤਾਂ ਦਾ ਸੁਝਾਅ" ਦੇਣ ਲਈ ਕਹੋ ਜਿਸ ਲਈ ਮੁਹਾਰਤ ਦੀ ਲੋੜ ਹੈ ਅਤੇ ਇੰਟਰਨੈਟ 'ਤੇ ਸੁਝਾਏ ਗਏ ਸਰੋਤਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੋ; ਨੋਟ ਕਰੋ ਕਿ ਕਿੰਨੇ ਅਸਲੀ ਹਨ। ਫਿਰ ਉਸੇ ਕੰਮ ਨੂੰ "ਤੁਸੀਂ ਸਰੋਤ ਦਿੰਦੇ ਹੋ" ਵਿਧੀ ਨਾਲ ਦੁਹਰਾਓ ਅਤੇ ਅੰਤਰ ਵੇਖੋ।
ਚੈੱਕਲਿਸਟ
- [ ] ਮੈਂ ਵਿਆਖਿਆ ਕਰ ਸਕਦਾ ਹਾਂ ਕਿ ਭਰਮ ਕੀ ਹੁੰਦਾ ਹੈ ਅਤੇ ਇਹ ਕਿਉਂ ਹੁੰਦਾ ਹੈ।
- [ ] ਮੈਂ ਉੱਚ ਅਤੇ ਨੀਵੇਂ ਭਰਮ ਦੇ ਜੋਖਮ ਕਾਰਜਾਂ ਵਿੱਚ ਫਰਕ ਕਰ ਸਕਦਾ ਹਾਂ।
- [ ] ਮੈਂ ਮਾਡਲ ਨੂੰ ਸਰੋਤ ਦੇ ਕੇ ਫੈਬਰੀਕੇਸ਼ਨ ਦੇ ਜੋਖਮ ਨੂੰ ਘਟਾ ਸਕਦਾ ਹਾਂ।
- [ ] ਮੈਂ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਨੰਬਰਾਂ, ਤਾਰੀਖਾਂ, ਨਾਮਾਂ ਅਤੇ ਸਰੋਤਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹਾਂ।
- [ ] ਮੈਂ ਭਰੋਸੇਮੰਦ ਸੁਰ ਨੂੰ ਸ਼ੁੱਧਤਾ ਦੇ ਸਬੂਤ ਵਜੋਂ ਨਹੀਂ ਮੰਨਦਾ।