ਪੱਖਪਾਤ, ਵਿਤਕਰਾ ਅਤੇ ਨੈਤਿਕਤਾ: ਨਿਰਪੱਖ ਅਤੇ ਸੱਭਿਆਚਾਰਕ ਤੌਰ 'ਤੇ ਜਵਾਬਦੇਹ ਵਰਤੋਂ

ਲਾਭ:

• ਪਛਾਣ ਕਰਨਾ ਜਦੋਂ AI ਸਿਖਲਾਈ ਡੇਟਾ, ਫਰੇਮਿੰਗ, ਦੋਹਰੇ ਮਾਪਦੰਡਾਂ ਅਤੇ ਚਾਪਲੂਸੀ ਦੁਆਰਾ ਪੱਖਪਾਤ ਪੈਦਾ ਕਰਦਾ ਹੈ
• ਨਿਰਪੱਖ ਸਵਾਲਾਂ, ਸਬੂਤ-ਸਟੀਰੀਓਟਾਈਪ ਵਿਤਕਰੇ ਅਤੇ ਉਲਟ ਕੋਣ ਟੈਸਟ ਦੇ ਨਾਲ ਪੱਖਪਾਤ ਦੇ ਵਿਰੁੱਧ ਇੱਕ ਨਿਯੰਤਰਣ ਸਥਾਪਤ ਕਰਨ ਦੀ ਸਮਰੱਥਾ
• ਇੱਕ ਨਿਸ਼ਚਤ ਨਿਯਮ ਦੀ ਬਜਾਏ ਧਿਆਨ ਦੇ ਬਿੰਦੂ ਵਜੋਂ ਸੱਭਿਆਚਾਰਕ ਗਿਆਨ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਕਲੰਕਿਤ ਭਾਸ਼ਾ ਨੂੰ ਵਰਣਨਯੋਗ ਅਤੇ ਆਦਰਯੋਗ ਭਾਸ਼ਾ ਵਿੱਚ ਅਨੁਵਾਦ ਕਰਨ ਦੀ ਸਮਰੱਥਾ

ਸਮਾਜਿਕ ਕਾਰਜਾਂ ਦਾ ਆਧਾਰ ਨਿਆਂ ਅਤੇ ਮਨੁੱਖੀ ਸਨਮਾਨ ਹੈ; ਪੇਸ਼ੇ ਦੇ ਮੂਲ ਵਿੱਚ ਇੱਕ ਵਚਨਬੱਧਤਾ ਹੈ ਕਿ ਹਰੇਕ ਵਿਅਕਤੀ ਬਰਾਬਰ ਮੁੱਲ ਦਾ ਹੈ, ਵਿਤਕਰੇ ਦਾ ਵਿਰੋਧ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਅਤੇ ਕਮਜ਼ੋਰ ਸਮੂਹਾਂ ਦੀ ਸੁਰੱਖਿਆ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਨਕਲੀ ਬੁੱਧੀ ਇੱਕ ਜੋਖਮ ਲੈਂਦੀ ਹੈ ਜੋ ਚੁੱਪਚਾਪ ਇਹਨਾਂ ਮੁੱਲਾਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦੀ ਹੈ: ਪੱਖਪਾਤ। AI ਇਤਿਹਾਸਕ ਡੇਟਾ ਤੋਂ ਸਿੱਖਦਾ ਹੈ; ਜੇਕਰ ਉਸ ਡੇਟਾ ਵਿੱਚ ਸਮਾਜ ਵਿੱਚ ਅਸਮਾਨਤਾਵਾਂ, ਰੂੜ੍ਹੀਆਂ ਅਤੇ ਵਿਤਕਰੇ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ, ਤਾਂ AI ਉਹਨਾਂ ਨੂੰ ਸਿੱਖਦਾ ਹੈ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਇੱਕ ਚੰਗੀ, "ਉਦੇਸ਼"-ਦਿੱਖ ਵਾਲੀ ਭਾਸ਼ਾ ਵਿੱਚ ਦੁਬਾਰਾ ਤਿਆਰ ਕਰਦਾ ਹੈ। ਇੱਕ ਸਮਾਜਿਕ ਵਰਕਰ ਦੇ ਹੱਥਾਂ ਵਿੱਚ, ਇਹ ਇੱਕ ਸਮੂਹ ਦੇ ਇੱਕ ਯੋਜਨਾਬੱਧ ਤੌਰ 'ਤੇ ਵਧੇਰੇ ਨਕਾਰਾਤਮਕ ਮੁਲਾਂਕਣ, ਇੱਕ ਪਰਿਵਾਰ ਦੀ ਇੱਕ ਰੂੜੀਵਾਦੀ, ਜਾਂ ਇੱਕ ਸੱਭਿਆਚਾਰ ਦੀ ਗਲਤਫਹਿਮੀ ਵਿੱਚ ਅਨੁਵਾਦ ਕਰ ਸਕਦਾ ਹੈ। ਇਸ ਯੂਨਿਟ ਵਿੱਚ, ਤੁਸੀਂ AI ਪੱਖਪਾਤ ਨੂੰ ਪਛਾਣਨਾ, ਇਸਦੇ ਵਿਰੁੱਧ ਨਿਯੰਤਰਣ ਕਰਨਾ, ਅਤੇ ਨਿਰਪੱਖਤਾ ਅਤੇ ਸੱਭਿਆਚਾਰਕ ਸੰਵੇਦਨਸ਼ੀਲਤਾ ਨਾਲ AI ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਸਿੱਖੋਗੇ।

ਸ਼ੁਰੂ ਤੋਂ ਇੱਕ ਤੱਥ: AI ਨਿਰਪੱਖ ਨਹੀਂ ਹੈ, ਇਹ ਨਿਰਪੱਖ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ। ਸਭ ਤੋਂ ਖਤਰਨਾਕ ਪੱਖਪਾਤ ਭਰੋਸੇਮੰਦ ਅਤੇ ਪੇਸ਼ੇਵਰ ਭਾਸ਼ਾ ਵਿੱਚ ਪੇਸ਼ ਕੀਤਾ ਗਿਆ ਹੈ; ਕਿਉਂਕਿ ਇਹ ਬਿਨਾਂ ਕਿਸੇ ਸਵਾਲ ਦੇ ਸਵੀਕਾਰ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਇੱਕ ਸੋਸ਼ਲ ਵਰਕਰ ਵਜੋਂ ਤੁਹਾਡਾ ਕੰਮ ਇਸ ਅਦਿੱਖ ਪੱਖਪਾਤ ਨੂੰ ਦ੍ਰਿਸ਼ਮਾਨ ਬਣਾਉਣਾ ਅਤੇ ਇਹ ਨਿਗਰਾਨੀ ਕਰਨਾ ਹੈ ਕਿ ਕੀ ਆਉਟਪੁੱਟ ਤੁਹਾਡੇ ਪੇਸ਼ੇਵਰ ਮੁੱਲਾਂ ਨਾਲ ਟਕਰਾ ਰਹੀ ਹੈ।

AI ਪੱਖਪਾਤ ਕਿੱਥੋਂ ਆਉਂਦਾ ਹੈ ਅਤੇ ਇਹ ਕਿਹੋ ਜਿਹਾ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ?

• ਸਿਖਲਾਈ ਡੇਟਾ ਪੱਖਪਾਤ। AI ਉਹਨਾਂ ਪਾਠਾਂ ਤੋਂ ਸਿੱਖਦਾ ਹੈ ਜੋ ਸਮਾਜ ਵਿੱਚ ਅਸਮਾਨਤਾਵਾਂ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ। ਕੁਝ ਨਸਲੀ ਸਮੂਹਾਂ, ਗਰੀਬਾਂ, ਅਪਾਹਜਾਂ, ਕੁਝ ਆਂਢ-ਗੁਆਂਢਾਂ, ਜਾਂ ਲਿੰਗਾਂ ਬਾਰੇ ਰੂੜ੍ਹੀਵਾਦੀ ਧਾਰਨਾਵਾਂ ਆਉਟਪੁੱਟ ਵਿੱਚ ਲੀਕ ਹੋ ਸਕਦੀਆਂ ਹਨ।
• ਭਾਸ਼ਾ ਅਤੇ ਫਰੇਮਿੰਗ ਪੱਖਪਾਤ। AI ਇੱਕ ਸਮੂਹ ਨੂੰ ਪੈਸਿਵ, "ਸਮੱਸਿਆ" ਜਾਂ "ਮਦਦ ਦੀ ਲੋੜ ਵਾਲੀ ਵਸਤੂ" ਦੇ ਰੂਪ ਵਿੱਚ ਫਰੇਮ ਕਰ ਸਕਦਾ ਹੈ; ਇੱਕ ਹੋਰ ਸਮੂਹ ਵਿਸ਼ੇ ਵਜੋਂ। ਇੱਕੋ ਵਿਵਹਾਰ ਨੂੰ ਇੱਕ ਸਮੂਹ ਦੁਆਰਾ "ਸੱਭਿਆਚਾਰਕ" ਅਤੇ ਦੂਜੇ ਸਮੂਹ ਦੁਆਰਾ "ਸਮੱਸਿਆਤਮਕ" ਵਜੋਂ ਵਿਆਖਿਆ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।
• ਨੁਮਾਇੰਦਗੀ ਦੀ ਘਾਟ. AI ਉਹਨਾਂ ਸਮੂਹਾਂ ਨੂੰ ਗਲਤ ਜਾਂ ਸਤਹੀ ਤੌਰ 'ਤੇ ਸਮਝ ਸਕਦਾ ਹੈ ਜੋ ਡੇਟਾ (ਛੋਟੀ ਆਬਾਦੀ, ਦੁਰਲੱਭ ਮਾਮਲਿਆਂ) ਵਿੱਚ ਘੱਟ ਪ੍ਰਸਤੁਤ ਕੀਤੇ ਗਏ ਹਨ।
• ਚਾਪਲੂਸੀ (ਚੁਪੀਤਾ)। AI ਤੁਹਾਡੇ ਅਪ੍ਰਤੱਖ ਦ੍ਰਿਸ਼ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ; ਇੱਕ ਪੱਖਪਾਤੀ ਸਵਾਲ ਇੱਕ ਪੱਖਪਾਤੀ ਪੁਸ਼ਟੀ ਲਿਆਉਂਦਾ ਹੈ।

ਇਹ ਪੱਖਪਾਤ ਸਮਾਜਿਕ ਕਾਰਜਾਂ ਵਿੱਚ ਖਾਸ ਤੌਰ 'ਤੇ ਖ਼ਤਰਨਾਕ ਹਨ ਕਿਉਂਕਿ ਆਉਟਪੁੱਟ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਅਸਲ ਲੋਕਾਂ ਦੇ ਜੀਵਨ ਨੂੰ ਛੂੰਹਦੀ ਹੈ - ਇੱਕ ਮੁਲਾਂਕਣ, ਇੱਕ ਰਿਪੋਰਟ, ਇੱਕ ਰੈਫਰਲ।

ਸਾਵਧਾਨ: "ਏਆਈ ਨੇ ਇਸ ਤਰ੍ਹਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕੀਤਾ" ਇੱਕ ਚੇਤਾਵਨੀ ਚਿੰਨ੍ਹ ਹੈ, ਨਾ ਕਿ ਇੱਕ ਜਾਇਜ਼। ਜਦੋਂ ਤੁਸੀਂ ਆਉਟਪੁੱਟ ਦੇਖਦੇ ਹੋ ਜੋ ਕਿਸੇ ਸਮੂਹ ਜਾਂ ਵਿਅਕਤੀ ਨੂੰ ਨਕਾਰਾਤਮਕ ਰੂਪ ਵਿੱਚ ਦਰਸਾਉਂਦਾ ਹੈ, ਤਾਂ ਪਹਿਲਾ ਸਵਾਲ ਇਹ ਹੁੰਦਾ ਹੈ ਕਿ "ਕੀ ਇਹ ਸਬੂਤ 'ਤੇ ਅਧਾਰਤ ਹੈ ਜਾਂ ਰੂੜ੍ਹੀਵਾਦੀ ਵਿਚਾਰਾਂ 'ਤੇ ਅਧਾਰਤ ਹੈ?" ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।

ਕਦਮ ਦਰ ਕਦਮ: ਪੱਖਪਾਤ ਦੇ ਵਿਰੁੱਧ ਆਡਿਟਿੰਗ

1. ਨਿਰਪੱਖ ਪੁੱਛੋ. ਸਵਾਲ ਪੁੱਛੋ ਜੋ ਸੰਕੇਤ ਜਾਂ ਅਗਵਾਈ ਨਹੀਂ ਕਰਦੇ; "ਇਹ ਵਿਆਖਿਆ ਨਾ ਕਰੋ ਕਿ ਇਹ ਪਰਿਵਾਰ ਕਿਉਂ ਅਣਗਹਿਲੀ ਵਾਲਾ ਹੈ," ਪਰ "ਇਨ੍ਹਾਂ ਨਿਰੀਖਣਾਂ ਦਾ ਕੀ ਅਰਥ ਹੋ ਸਕਦਾ ਹੈ, ਵਿਕਲਪਕ ਸਪੱਸ਼ਟੀਕਰਨ ਕੀ ਹਨ?" ਪੁੱਛੋ
2. ਸਬੂਤ ਅਤੇ ਸਟੀਰੀਓਟਾਈਪ ਵਿਚਕਾਰ ਫਰਕ ਕਰੋ। ਹਰੇਕ ਨਕਾਰਾਤਮਕ ਕਥਨ ਲਈ, ਪੁੱਛੋ: ਕੀ ਇਹ ਮੇਰੇ ਸਾਹਮਣੇ ਠੋਸ ਸਬੂਤ 'ਤੇ ਅਧਾਰਤ ਹੈ, ਜਾਂ ਕੀ ਇਹ ਕਿਸੇ ਸਮੂਹ ਬਾਰੇ ਇੱਕ ਆਮ ਧਾਰਨਾ 'ਤੇ ਅਧਾਰਤ ਹੈ?
3. ਉਲਟ ਕੋਣ ਤੋਂ ਟੈਸਟ ਕਰੋ। ਇੱਕ ਵੱਖਰੇ ਸਮੂਹ ਲਈ ਇੱਕੋ ਸਥਿਤੀ 'ਤੇ ਵਿਚਾਰ ਕਰੋ: "ਜੇਕਰ ਗਾਹਕ ਇੱਕ ਵੱਖਰੇ ਸਮਾਜਿਕ-ਆਰਥਿਕ/ਜਾਤੀ ਪਿਛੋਕੜ ਤੋਂ ਹੁੰਦਾ, ਤਾਂ ਕੀ AI ਇਸਨੂੰ ਉਸੇ ਭਾਸ਼ਾ ਵਿੱਚ ਲਿਖਦਾ?"
4. ਸੱਭਿਆਚਾਰਕ ਸੰਵੇਦਨਸ਼ੀਲਤਾ ਦੀ ਭਾਲ ਕਰੋ. ਕਿਸੇ ਵਿਹਾਰ ਦੇ ਸੱਭਿਆਚਾਰਕ ਸੰਦਰਭ ਬਾਰੇ ਪੁੱਛੋ; ਪਰ ਸੱਭਿਆਚਾਰਕ ਗਿਆਨ ਨੂੰ ਇੱਕ ਸੰਭਾਵਨਾ ਅਤੇ ਸਾਵਧਾਨੀ ਦੇ ਬਿੰਦੂ ਵਜੋਂ ਲਓ, ਨਾ ਕਿ ਇੱਕ ਪੂਰਨ ਨਿਯਮ (ਰੂੜੀਵਾਦ ਤੋਂ ਬਚੋ)।
5. ਛਾਪਣ ਵਾਲੀ ਜੀਭ ਨੂੰ ਸਾਫ਼ ਕਰੋ। ਇਸ ਨੂੰ ਅਜਿਹੀ ਭਾਸ਼ਾ ਵਿੱਚ ਅਨੁਵਾਦ ਕਰੋ ਜੋ ਸਥਿਤੀ ਦਾ ਵਰਣਨ ਕਰਦੀ ਹੈ, ਨਾ ਕਿ ਵਿਅਕਤੀ, ਅਤੇ ਸ਼ਕਤੀਆਂ ਨੂੰ ਵੀ ਦੇਖਦੀ ਹੈ।

ਤਿੰਨ ਛੋਟੇ ਕੇਸ

ਕੇਸ 1 - ਉਲਟ ਕੋਣ ਨੇ ਪੱਖਪਾਤ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ। ਇੱਕ ਮਾਹਰ ਨੇ ਏਆਈ ਨੂੰ ਦੋ ਸਮਾਨ ਮਾਮਲਿਆਂ ਦਾ ਸਾਰ ਦਿੱਤਾ ਸੀ; ਫਰਕ ਸਿਰਫ ਪਰਿਵਾਰਾਂ ਦੀ ਸਮਾਜਿਕ-ਆਰਥਿਕ ਸਥਿਤੀ ਸੀ। YZ ਨੇ ਘੱਟ ਆਮਦਨੀ ਵਾਲੇ ਪਰਿਵਾਰ ਲਈ "ਅਣਗਹਿਲੀ ਦੇ ਉੱਚ ਜੋਖਮ" ਦੇ ਸੁਰ ਵਿੱਚ ਅਤੇ ਉੱਚ ਆਮਦਨੀ ਵਾਲੇ ਪਰਿਵਾਰ ਲਈ "ਮਾਤਾ-ਪਿਤਾ ਵਿਵਹਾਰ ਕਰਨ ਲਈ ਮਜਬੂਰ" ਦੇ ਸੁਰ ਵਿੱਚ ਲਿਖਿਆ। ਮਾਹਰ ਨੇ ਇਸ ਦੋਹਰੇ ਮਾਪਦੰਡ ਨੂੰ ਮਾਨਤਾ ਦਿੱਤੀ ਅਤੇ ਦੋਵਾਂ ਮੁਲਾਂਕਣਾਂ ਨੂੰ ਸਬੂਤ-ਆਧਾਰਿਤ, ਬਰਾਬਰ ਭਾਸ਼ਾ ਵਿੱਚ ਡਿਸਟਿਲ ਕੀਤਾ।

ਕੇਸ 2 - ਸੱਭਿਆਚਾਰਕ ਗਲਤ ਵਿਆਖਿਆ ਨੂੰ ਠੀਕ ਕੀਤਾ ਗਿਆ। YZ ਨੇ ਵਿਸਤ੍ਰਿਤ ਪਰਿਵਾਰ ਨਾਲ ਰਹਿਣ ਵਾਲੇ ਬੱਚੇ ਦੀ ਸਥਿਤੀ ਨੂੰ "ਸੀਮਾ ਦੇ ਮੁੱਦੇ ਅਤੇ ਇੱਕ ਮਿਸ਼ਰਤ ਘਰੇਲੂ ਮਾਹੌਲ" ਵਜੋਂ ਤਿਆਰ ਕੀਤਾ ਹੈ। ਮਾਹਰ ਜਾਣਦਾ ਸੀ ਕਿ ਪਰਿਵਾਰ ਦੇ ਸੱਭਿਆਚਾਰਕ ਸੰਦਰਭ ਦੇ ਅੰਦਰ, ਵਿਸਤ੍ਰਿਤ ਪਰਿਵਾਰ ਸਹਾਇਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਦਾ ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਰੋਤ ਸੀ। ਏਆਈ ਨੇ ਇੱਕ ਸੱਭਿਆਚਾਰਕ ਸ਼ਕਤੀ ਨੂੰ ਇੱਕ ਸਮੱਸਿਆ ਵਿੱਚ ਬਦਲ ਦਿੱਤਾ ਸੀ। ਇਸ ਸਹਾਇਤਾ ਨੂੰ ਇੱਕ ਸਰੋਤ ਵਜੋਂ ਮਾਨਤਾ ਦੇਣ ਲਈ ਸਮੀਖਿਆ ਨੂੰ ਠੀਕ ਕੀਤਾ ਗਿਆ ਹੈ।

ਕੇਸ 3 - ਪ੍ਰਮੁੱਖ ਸਵਾਲ ਨੇ ਪੱਖਪਾਤ ਪੈਦਾ ਕੀਤਾ। "ਲਿਖੋ ਕਿ ਇਹ ਪਿਤਾ ਕਿਉਂ ਭਰੋਸੇਮੰਦ ਹੈ," ਇੱਕ ਇੰਟਰਨ ਨੇ ਏਆਈ ਨੂੰ ਕਿਹਾ। ਏਆਈ ਨੇ ਇੱਕ ਟੈਕਸਟ ਤਿਆਰ ਕੀਤਾ ਜੋ ਬਿਨਾਂ ਕਿਸੇ ਸਬੂਤ ਦੇ ਪਿਤਾ ਨੂੰ ਨਕਾਰਾਤਮਕ (ਚਾਪਲੂਸੀ) ਦਰਸਾਉਂਦਾ ਹੈ। ਸੁਪਰਵਾਈਜ਼ਰ ਨੇ ਸਵਾਲ ਨੂੰ ਸੋਧਿਆ: "ਪਿਤਾ ਬਾਰੇ ਕੀ ਨਿਰੀਖਣ ਹਨ, ਉਸ ਦੀਆਂ ਸ਼ਕਤੀਆਂ ਅਤੇ ਕਮਜ਼ੋਰੀਆਂ ਕੀ ਹੋ ਸਕਦੀਆਂ ਹਨ?" ਆਉਟਪੁੱਟ ਸੰਤੁਲਿਤ ਅਤੇ ਸਬੂਤ-ਆਧਾਰਿਤ ਹੋ ਗਈ ਹੈ। ਪਾਠ: ਪੱਖਪਾਤੀ ਸਵਾਲ ਪੱਖਪਾਤੀ ਜਵਾਬ ਪੈਦਾ ਕਰਦਾ ਹੈ।

ਚਾਰ ਕਾਪੀ ਕਰਨ ਯੋਗ ਟੈਂਪਲੇਟ

1) ਇੱਕ ਨਿਰਪੱਖ, ਸੰਤੁਲਿਤ ਮੁਲਾਂਕਣ ਦੀ ਬੇਨਤੀ ਕਰੋ:

ਨਿਮਨਲਿਖਤ ਨਿਰੀਖਣਾਂ ਦੇ ਸੰਖੇਪ ਵਿੱਚ, ਤੁਸੀਂ ਇੱਕ ਸੰਤੁਲਿਤ ਢੰਗ ਨਾਲ ਅਤੇ ਸਿਰਫ਼ ਸਬੂਤ ਦੇ ਆਧਾਰ 'ਤੇ ਸੰਭਵ ਸ਼ਕਤੀਆਂ ਅਤੇ ਸੰਭਾਵੀ ਚਿੰਤਾਵਾਂ ਦੋਵਾਂ ਨੂੰ ਪੇਸ਼ ਕਰਦੇ ਹੋ। ਰੂੜ੍ਹੀਆਂ ਦੇ ਆਧਾਰ 'ਤੇ ਕੋਈ ਵੀ ਅਨੁਮਾਨ ਨਾ ਲਗਾਓ। ਜੇਕਰ ਕੋਈ ਟਿੱਪਣੀ ਨਿਰੀਖਣ 'ਤੇ ਨਿਰਭਰ ਨਹੀਂ ਕਰਦੀ, ਤਾਂ "ਨਾਕਾਫ਼ੀ ਸਬੂਤ" ਲਿਖੋ। ਨਿਰੀਖਣ: [ਪੇਸਟ ਨਿਰੀਖਣ]

2) ਪੱਖਪਾਤ ਜਾਂਚ (ਵਿਪਰੀਤ ਕੋਣ ਟੈਸਟ):

ਹੇਠਾਂ ਦਿੱਤੇ ਸਮੀਖਿਆ ਪਾਠ ਨੂੰ ਦੇਖੋ। ਕੀ ਅਜਿਹੇ ਬਿਆਨ ਹਨ ਜੋ ਗਾਹਕ ਦੀ ਸਮਾਜਕ-ਆਰਥਿਕ ਸਥਿਤੀ, ਜਾਤੀ, ਧਰਮ, ਲਿੰਗ, ਅਪਾਹਜਤਾ, ਜਾਂ ਆਂਢ-ਗੁਆਂਢ ਦੇ ਕਾਰਨ ਇੱਕ ਅਸਪਸ਼ਟ ਸਟੀਰੀਓਟਾਈਪ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ? ਹਰੇਕ ਲਈ, ਪੁੱਛੋ: "ਕੀ ਇਹ ਉਸੇ ਭਾਸ਼ਾ ਵਿੱਚ ਲਿਖਿਆ ਜਾਵੇਗਾ ਜੇਕਰ ਗਾਹਕ ਇੱਕ ਵੱਖਰੇ ਸਮੂਹ ਤੋਂ ਸੀ?" ਫਲੈਗ ਸਮੱਸਿਆ ਵਾਕ। ਟੈਕਸਟ: [ਪਾਠ ਪੇਸਟ ਕਰੋ]

3) ਸੱਭਿਆਚਾਰਕ ਸੰਦਰਭ (ਗੈਰ-ਸਟੀਰੀਓਟਾਈਪ):

ਵੱਖ-ਵੱਖ ਸੱਭਿਆਚਾਰਕ ਸੰਦਰਭਾਂ ਵਿੱਚ ਹੇਠਾਂ ਦਿੱਤੇ ਵਿਹਾਰ/ਸਥਿਤੀ ਦਾ ਕੀ ਅਰਥ ਹੋ ਸਕਦਾ ਹੈ, ਇਸ ਲਈ ਸੰਭਾਵਨਾਵਾਂ ਪ੍ਰਦਾਨ ਕਰੋ। ਇਹਨਾਂ ਨੂੰ ਵਿਚਾਰੇ ਜਾਣ ਵਾਲੇ ਬਿੰਦੂਆਂ ਵਜੋਂ ਦਿਓ, ਨਾ ਕਿ ਪੂਰਨ ਨਿਯਮਾਂ ਵਜੋਂ; ਇਸ ਗੱਲ 'ਤੇ ਜ਼ੋਰ ਦਿਓ ਕਿ ਹਰੇਕ ਸਮਾਜ ਵਿੱਚ ਵਿਅਕਤੀਗਤ ਅੰਤਰ ਹੁੰਦੇ ਹਨ। ਇੱਕ ਸਮੂਹ ਬਾਰੇ ਆਮ ਨਾ ਕਰੋ. ਸਥਿਤੀ: [ਲਿਖੋ ਸਥਿਤੀ]

4) ਛਾਪਣ ਵਾਲੀ ਜੀਭ ਦੀ ਸਫਾਈ:

ਹੇਠਾਂ ਦਿੱਤੇ ਟੈਕਸਟ ਵਿੱਚ, ਅਜਿਹੇ ਵਿਸ਼ੇਸ਼ਣਾਂ ਨੂੰ ਲੱਭੋ ਜੋ ਵਿਅਕਤੀ ਦਾ ਨਿਰਣਾ ਜਾਂ ਕਲੰਕਿਤ ਕਰਦੇ ਹਨ (ਉਦਾਹਰਨ ਲਈ, "ਅਣਗਹਿਲੀ," "ਅਸਹਿਯੋਗੀ," "ਸਮੱਸਿਆਪੂਰਨ")। ਹਰੇਕ ਲਈ, ਉਸੇ ਤੱਥ ਨੂੰ ਇੱਕ ਵਿਕਲਪ ਨਾਲ ਬਦਲੋ ਜੋ ਵਰਣਨਯੋਗ, ਸਤਿਕਾਰਯੋਗ, ਅਤੇ ਸ਼ਕਤੀਆਂ ਨੂੰ ਪਛਾਣਦਾ ਹੈ। ਨਵੀਂ ਜਾਣਕਾਰੀ ਸ਼ਾਮਲ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ। ਟੈਕਸਟ: [ਪੇਸਟ ਟੈਕਸਟ]

ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ / ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ

ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ:

ਦੱਸੋ ਕਿ ਇਹ ਪਰਿਵਾਰ ਬੱਚਿਆਂ ਦੀ ਪਰਵਰਿਸ਼ ਕਰਨ ਵਿੱਚ ਨਾਕਾਫ਼ੀ ਕਿਉਂ ਹੈ।

ਇਹ ਸਵਾਲ ਸ਼ੁਰੂ ਤੋਂ ਨਤੀਜਾ ਮੰਨਦਾ ਹੈ ("ਨਾਕਾਫ਼ੀ")। AI, ਚਾਪਲੂਸੀ ਦੀ ਆਪਣੀ ਪ੍ਰਵਿਰਤੀ ਦੇ ਨਾਲ, ਇੱਕ ਸਬੂਤ-ਮੁਕਤ ਅਤੇ ਪੱਖਪਾਤੀ ਟੈਕਸਟ ਤਿਆਰ ਕਰੇਗਾ ਜੋ ਇਸ ਧਾਰਨਾ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਸਵਾਲ ਪੱਖਪਾਤੀ ਹੈ ਤਾਂ ਜਵਾਬ ਵੀ ਪੱਖਪਾਤੀ ਹੋਵੇਗਾ।

ਸ਼ਕਤੀਸ਼ਾਲੀ ਪ੍ਰਾਉਟ:

ਨਿਮਨਲਿਖਤ ਨਿਰੀਖਣਾਂ ਦੇ ਆਧਾਰ 'ਤੇ, ਇਸ ਪਰਿਵਾਰ ਦੀਆਂ ਬਾਲ-ਪਾਲਣ ਸ਼ਕਤੀਆਂ ਅਤੇ ਚਿੰਤਾ ਦੇ ਖੇਤਰਾਂ ਨੂੰ ਸੰਤੁਲਿਤ ਅਤੇ ਸਬੂਤ-ਸਿਰਫ਼ ਤਰੀਕੇ ਨਾਲ ਸੂਚੀਬੱਧ ਕਰੋ। ਸ਼ੁਰੂਆਤ ਤੋਂ ਨਤੀਜਾ ਨਾ ਮੰਨੋ; ਜੇਕਰ ਸਬੂਤ ਨਾਕਾਫ਼ੀ ਹੈ, ਤਾਂ ਦੱਸੋ। ਅੜੀਅਲ ਕਿਸਮਾਂ ਤੋਂ ਬਚੋ। ਨਿਰੀਖਣ: [ਪੇਸਟ ਨਿਰੀਖਣ]

ਅੰਤਰ: ਇੱਕ ਸੰਤੁਲਿਤ ਸਵਾਲ ਜੋ ਨਤੀਜਾ ਨਹੀਂ ਮੰਨਦਾ ਅਤੇ ਸਬੂਤ ਮੰਗਦਾ ਹੈ, ਪਹਿਲਾਂ ਪੱਖਪਾਤ ਨੂੰ ਰੋਕਦਾ ਹੈ।

ਪੱਖਪਾਤ ਅਤੇ ਵਿਰੋਧੀ ਉਪਾਅ ਦੀਆਂ ਕਿਸਮਾਂ

ਪੱਖਪਾਤ ਦੀ ਕਿਸਮ

ਇਹ ਕਿਹੋ ਜਿਹਾ ਦਿਸਦਾ ਹੈ

ਵਿਰੋਧੀ ਉਪਾਅ

ਸਿਖਲਾਈ ਡਾਟਾ

ਗਰੁੱਪ ਸਟੀਰੀਓਟਾਈਪ

ਸਬੂਤ-ਪੈਟਰਨ ਅੰਤਰ

ਫਰੇਮਿੰਗ

ਪੈਸਿਵ/ਨਕਾਰਾਤਮਕ ਭਾਸ਼ਾ

ਸੰਤੁਲਿਤ, ਵਿਸ਼ਾ-ਕੇਂਦ੍ਰਿਤ ਭਾਸ਼ਾ

ਡਬਲ ਸਟੈਂਡਰਡ

ਇੱਕੋ ਜਿਹਾ ਵਿਹਾਰ, ਵੱਖਰਾ ਸੁਰ

ਉਲਟ ਕੋਣ ਟੈਸਟ

ਸੱਭਿਆਚਾਰਕ ਅੰਨ੍ਹਾਪਨ

ਸੱਭਿਆਚਾਰਕ ਸ਼ਕਤੀ ਨੂੰ ਇੱਕ ਸਮੱਸਿਆ ਵਿੱਚ ਬਦਲਣਾ

ਸੱਭਿਆਚਾਰਕ ਸੰਦਰਭ ਸਵਾਲ

ਚਾਪਲੂਸੀ

ਪ੍ਰਭਾਵ ਦੀ ਪੁਸ਼ਟੀ ਕਰੋ

ਨਿਰਪੱਖ ਸਵਾਲ ਨਾ ਪੁੱਛੋ

ਨੁਮਾਇੰਦਗੀ ਦੀ ਘਾਟ

ਸਤਹੀ/ਗਲਤ ਸਮਝ

ਸਥਾਨਕ/ਮਾਹਰ ਪੁਸ਼ਟੀ

ਆਮ ਗਲਤੀਆਂ

• ਪੱਖਪਾਤੀ ਸਵਾਲ ਪੁੱਛਣਾ। ਇੱਕ ਸਵਾਲ ਜੋ ਇੱਕ ਸਿੱਟਾ ਮੰਨਦਾ ਹੈ ਇੱਕ ਪੱਖਪਾਤੀ ਜਵਾਬ ਪੈਦਾ ਕਰਦਾ ਹੈ; ਨਿਰਪੱਖ ਸਮੱਸਿਆ.
• ਭਰੋਸੇਮੰਦ ਭਾਸ਼ਾ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ। ਪੇਸ਼ੇਵਰ ਟੋਨ ਪੱਖਪਾਤ ਨੂੰ ਸਹੀ ਨਹੀਂ ਬਣਾਉਂਦਾ; ਸਬੂਤ 'ਤੇ ਦੇਖੋ.
• ਸੱਭਿਆਚਾਰਕ ਗਿਆਨ ਨੂੰ ਇੱਕ ਨਿਸ਼ਚਿਤ ਨਿਯਮ ਦੇ ਰੂਪ ਵਿੱਚ ਮੰਨਣਾ। ਇਸ ਨੂੰ ਸੰਭਾਵਨਾ ਅਤੇ ਧਿਆਨ ਦੇ ਬਿੰਦੂ ਵਜੋਂ ਲਓ; ਰੂੜ੍ਹੀਆਂ ਤੋਂ ਬਚੋ।
• ਦੋਹਰੇ ਮਾਪਦੰਡਾਂ ਵੱਲ ਧਿਆਨ ਨਹੀਂ ਦਿੱਤਾ ਜਾ ਰਿਹਾ। ਜਾਂਚ ਕਰੋ ਕਿ ਵੱਖ-ਵੱਖ ਸਮੂਹਾਂ ਵਿੱਚ ਇੱਕੋ ਵਿਹਾਰ ਕਿਵੇਂ ਲਿਖਿਆ ਜਾਂਦਾ ਹੈ।
• ਸਬੂਤ ਵਜੋਂ ਮੋਹਰ ਲਗਾਉਣ ਦੀ ਗਲਤੀ। ਇਹ ਇੱਕ "ਲਾਪਰਵਾਹੀ" ਨਿਰਣਾ ਹੈ; ਵਰਤਾਰੇ ਦਾ ਵਰਣਨ ਕਰੋ, ਵਿਅਕਤੀ ਦਾ ਨਿਰਣਾ ਨਾ ਕਰੋ.

ਸੰਖੇਪ ਵਿੱਚ

AI ਨਿਰਪੱਖ ਨਹੀਂ ਹੈ, ਇਹ ਨਿਰਪੱਖ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ; ਇਹ ਵਿਦਿਅਕ ਡੇਟਾ ਵਿੱਚ ਅਸਮਾਨਤਾਵਾਂ ਅਤੇ ਰੂੜ੍ਹੀਆਂ ਨੂੰ ਇੱਕ ਚੰਗੀ ਭਾਸ਼ਾ ਵਿੱਚ ਦੁਬਾਰਾ ਪੇਸ਼ ਕਰਦਾ ਹੈ। ਸਮਾਜਿਕ ਕਾਰਜਾਂ ਵਿੱਚ, ਇਸ ਨਾਲ ਅਸਲ ਲੋਕਾਂ ਦੇ ਅਣਉਚਿਤ ਮੁਲਾਂਕਣ ਹੋ ਸਕਦੇ ਹਨ। ਪੱਖਪਾਤ ਨੂੰ ਪਛਾਣੋ (ਸਿਖਲਾਈ ਡੇਟਾ, ਫਰੇਮਿੰਗ, ਦੋਹਰੇ ਮਾਪਦੰਡ, ਸੱਭਿਆਚਾਰਕ ਅੰਨ੍ਹੇਪਣ, ਚਾਪਲੂਸੀ), ਇਸਦੇ ਵਿਰੁੱਧ ਜਾਂਚ ਕਰੋ (ਨਿਰਪੱਖ ਸਵਾਲ, ਸਬੂਤ-ਪੈਟਰਨ ਵੱਖ ਕਰਨਾ, ਕੋਣ ਟੈਸਟਿੰਗ, ਸੱਭਿਆਚਾਰਕ ਸੰਵੇਦਨਸ਼ੀਲਤਾ, ਕਲੰਕ ਕਲੀਅਰਿੰਗ), ਅਤੇ ਹਰ ਇੱਕ ਆਉਟਪੁੱਟ ਨੂੰ ਪੇਸ਼ੇ ਦੇ ਨਿਰਪੱਖਤਾ ਅਤੇ ਸਨਮਾਨ ਦੇ ਮੁੱਲਾਂ ਦੁਆਰਾ ਫਿਲਟਰ ਕਰੋ। ਅੰਤਮ ਨੈਤਿਕ ਫਿਲਟਰ ਹਮੇਸ਼ਾ ਤੁਸੀਂ ਹੋ।

ਐਪਲੀਕੇਸ਼ਨ ਦਾ ਕੰਮ

AI ਨੂੰ ਦੋ ਵੱਖ-ਵੱਖ ਗਰੁੱਪ ਪ੍ਰੋਫਾਈਲਾਂ (ਜਿਵੇਂ ਕਿ ਵੱਖ-ਵੱਖ ਸਮਾਜਿਕ-ਆਰਥਿਕ ਸਥਿਤੀ) ਦੇ ਨਾਲ ਕਾਲਪਨਿਕ ਨਿਰੀਖਣਾਂ ਦੇ ਇੱਕੋ ਸੈੱਟ ਦਾ ਸਾਰ ਦਿਓ ਅਤੇ "ਰਿਵਰਸ ਐਂਗਲ ਟੈਸਟ" ਨਾਲ ਤੁਲਨਾ ਕਰੋ ਕਿ ਕੀ ਟੋਨ/ਭਾਸ਼ਾ ਵੱਖ-ਵੱਖ ਹੈ। ਫਿਰ ਇੱਕ ਸੁਚੇਤ ਤੌਰ 'ਤੇ ਪੱਖਪਾਤੀ ਸਵਾਲ ("ਵਿਖਿਆਨ ਕਰੋ ਕਿ ਇਹ ਨਾਕਾਫ਼ੀ ਕਿਉਂ ਹੈ") ਦੇ ਨਾਲ ਇੱਕ ਨਿਰਪੱਖ ਸਵਾਲ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੋ ਅਤੇ ਨਤੀਜਿਆਂ ਵਿੱਚ ਅੰਤਰ ਦੀ ਜਾਂਚ ਕਰੋ। ਅੰਤ ਵਿੱਚ, ਇੱਕ ਟੈਕਸਟ ਵਿੱਚ "ਵਾਟਰਮਾਰਕਰ ਭਾਸ਼ਾ ਦੀ ਸਫਾਈ" ਟੈਂਪਲੇਟ ਲਾਗੂ ਕਰੋ।

ਚੈੱਕਲਿਸਟ

• [ ] ਮੈਂ ਨਤੀਜੇ ਨੂੰ ਮੰਨੇ ਬਿਨਾਂ, ਨਿਰਪੱਖ ਤੌਰ 'ਤੇ ਆਪਣੇ ਸਵਾਲ ਤਿਆਰ ਕੀਤੇ।
• [ ] ਮੈਂ ਸਬੂਤ-ਸਟੀਰੀਓਟਾਈਪ ਅੰਤਰ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਹਰੇਕ ਨਕਾਰਾਤਮਕ ਕਥਨ ਦੀ ਜਾਂਚ ਕੀਤੀ।
• [ ] ਮੈਂ ਰਿਵਰਸ ਐਂਗਲ ਟੈਸਟ ਨਾਲ ਡਬਲ ਸਟੈਂਡਰਡ ਦੀ ਜਾਂਚ ਕੀਤੀ।
• [ ] ਮੈਂ ਸੱਭਿਆਚਾਰਕ ਗਿਆਨ ਦੀ ਵਰਤੋਂ ਸਾਵਧਾਨੀ ਦੇ ਬਿੰਦੂ ਵਜੋਂ ਕੀਤੀ, ਨਾ ਕਿ ਇੱਕ ਪੂਰਨ ਨਿਯਮ।
• [ ] ਮੈਂ ਕਲੰਕ ਕਰਨ ਵਾਲੀ ਭਾਸ਼ਾ ਨੂੰ ਵਰਣਨਯੋਗ, ਸਤਿਕਾਰਯੋਗ ਭਾਸ਼ਾ ਨਾਲ ਬਦਲ ਦਿੱਤਾ ਹੈ।