ਲਾਭ:
- ਸਮਝਦਾ ਹੈ ਕਿ ਡੇਟਾ AI ਪੱਖਪਾਤ ਦਾ ਪ੍ਰਾਇਮਰੀ ਸਰੋਤ ਹੈ
- ਉਹਨਾਂ ਜੋਖਮਾਂ ਨੂੰ ਪਛਾਣਦਾ ਹੈ ਜੋ ਕਾਰਜ ਸਥਾਨ ਵਿੱਚ ਪੱਖਪਾਤ ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ
- ਅਜਿਹੇ ਉਪਾਅ ਲਾਗੂ ਕਰਦਾ ਹੈ ਜੋ ਪੱਖਪਾਤ ਨੂੰ ਘਟਾਉਣ ਲਈ ਚੁੱਕੇ ਜਾ ਸਕਦੇ ਹਨ
AI ਇੱਕ ਨਿਰਪੱਖ, ਉਦੇਸ਼ ਮਸ਼ੀਨ ਦੇ ਰੂਪ ਵਿੱਚ ਪ੍ਰਗਟ ਹੁੰਦਾ ਹੈ; ਪਰ ਸੱਚਾਈ ਬਹੁਤ ਜ਼ਿਆਦਾ ਗੁੰਝਲਦਾਰ ਹੈ। AI ਸਿਸਟਮ ਉਹਨਾਂ ਡੇਟਾ ਵਿੱਚ ਮਨੁੱਖੀ ਪੱਖਪਾਤ ਸਿੱਖਦੇ ਹਨ ਜਿਸ 'ਤੇ ਉਹਨਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ ਅਤੇ ਕਈ ਵਾਰ ਉਹਨਾਂ ਨੂੰ ਵੱਡਾ ਅਤੇ ਦੁਬਾਰਾ ਤਿਆਰ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਪੱਖਪਾਤ ਕੁਝ ਲੋਕਾਂ ਜਾਂ ਸਮੂਹਾਂ ਨੂੰ ਯੋਜਨਾਬੱਧ ਤਰੀਕੇ ਨਾਲ ਪੱਖ ਜਾਂ ਬਾਹਰ ਕਰਨ ਦੀ ਪ੍ਰਣਾਲੀ ਦੀ ਪ੍ਰਵਿਰਤੀ ਹੈ। ਇਸ ਇਕਾਈ ਵਿੱਚ, ਅਸੀਂ ਵਿਚਾਰ ਕਰਾਂਗੇ ਕਿ ਪੱਖਪਾਤ ਕਿੱਥੋਂ ਆਉਂਦਾ ਹੈ, ਕੰਮ ਵਾਲੀ ਥਾਂ 'ਤੇ ਇਸ ਨਾਲ ਕਿਹੜੇ ਠੋਸ ਜੋਖਮ ਪੈਦਾ ਹੁੰਦੇ ਹਨ, ਅਤੇ ਇਸਦੇ ਵਿਰੁੱਧ ਕੀ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਇਹ ਸਿਰਫ਼ "ਨੈਤਿਕਤਾ" ਦਾ ਮਾਮਲਾ ਨਹੀਂ ਹੈ; ਇਹ ਇੱਕ ਵਿਵਹਾਰਕ ਵਪਾਰਕ ਮਾਮਲਾ ਹੈ ਜੋ ਗਲਤ ਪ੍ਰਬੰਧਨ ਕੀਤੇ ਜਾਣ 'ਤੇ ਕਾਨੂੰਨੀ, ਵਪਾਰਕ ਅਤੇ ਪ੍ਰਤਿਸ਼ਠਾਤਮਕ ਜੋਖਮ ਰੱਖਦਾ ਹੈ।
ਪੱਖਪਾਤ ਕਿੱਥੋਂ ਆਉਂਦਾ ਹੈ?
ਇੱਕ ਭਾਸ਼ਾ ਮਾਡਲ ਦੀ ਜਾਣਕਾਰੀ ਮਨੁੱਖ ਦੁਆਰਾ ਪੈਦਾ ਕੀਤੇ ਗਏ ਵਿਸ਼ਾਲ ਪਾਠਾਂ ਤੋਂ ਮਿਲਦੀ ਹੈ। ਇਨ੍ਹਾਂ ਲਿਖਤਾਂ ਵਿੱਚ ਮਨੁੱਖੀ ਸਮਾਜ ਦੇ ਸਾਰੇ ਗਿਆਨ ਦੇ ਨਾਲ-ਨਾਲ ਇਸ ਦੀਆਂ ਸਾਰੀਆਂ ਰੂੜ੍ਹੀਆਂ, ਅਸੰਤੁਲਨ ਅਤੇ ਇਤਿਹਾਸਕ ਅਸਮਾਨਤਾਵਾਂ ਸ਼ਾਮਲ ਹਨ। ਮਾਡਲ "ਚੰਗੇ" ਅਤੇ "ਬੁਰੇ" ਪੈਟਰਨਾਂ ਵਿੱਚ ਫਰਕ ਨਹੀਂ ਕਰਦਾ; ਇਹ ਡਾਟਾ ਵਿੱਚ ਜੋ ਵੀ ਹੈ ਉਹ ਸਿੱਖਦਾ ਹੈ।
ਉਦਾਹਰਨ: ਜੇਕਰ ਕੁਝ ਪੇਸ਼ੇ ਮੁੱਖ ਤੌਰ 'ਤੇ ਪਿਛਲੀਆਂ ਲਿਖਤਾਂ ਵਿੱਚ ਕਿਸੇ ਲਿੰਗ ਨਾਲ ਜੁੜੇ ਹੋਏ ਸਨ (ਜਿਵੇਂ ਕਿ "ਨਰਸ" ਔਰਤ ਨਾਲ, "ਇੰਜੀਨੀਅਰ" ਮਰਦ ਨਾਲ), ਤਾਂ ਮਾਡਲ ਇਸ ਸਬੰਧ ਨੂੰ ਸਿੱਖਦਾ ਹੈ। ਉਹ ਵਾਕ ਨੂੰ ਪੂਰਾ ਕਰਦੇ ਸਮੇਂ ਇੱਕ ਪੁਰਸ਼ ਸਰਵਣ ਚੁਣਨ ਦਾ ਰੁਝਾਨ ਰੱਖ ਸਕਦੀ ਹੈ, "ਇੱਕ ਇੰਜੀਨੀਅਰ ਦਫ਼ਤਰ ਵਿੱਚ ਆਇਆ, ਉਹ..." ਮਾਡਲ ਖਤਰਨਾਕ ਨਹੀਂ ਹੈ; ਇਹ ਸਿਰਫ਼ ਅੰਕੜਿਆਂ ਵਿੱਚ ਅਸੰਤੁਲਨ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ।
ਇਸ ਲਈ ਪੱਖਪਾਤ ਜਿਆਦਾਤਰ ਇਹ ਡੇਟਾ ਦਾ ਸ਼ੀਸ਼ਾ ਹੋਣ ਕਰਕੇ ਹੁੰਦਾ ਹੈ, ਨਾ ਕਿ ਇੱਕ ਚੇਤੰਨ ਪ੍ਰੋਗਰਾਮਿੰਗ ਗਲਤੀ। ਸਮੱਸਿਆ ਨੂੰ "ਕਿਸੇ ਨੇ ਗਲਤ ਕੋਡ ਲਿਖਿਆ" ਵਜੋਂ ਸਮਝਾਉਣਾ ਗੁੰਮਰਾਹਕੁੰਨ ਹੈ; ਸਮੱਸਿਆ ਇਹ ਹੈ ਕਿ ਸੰਸਾਰ ਵਿੱਚ ਅਸੰਤੁਲਨ ਨੂੰ ਡੇਟਾ ਵਿੱਚ ਅਤੇ ਉੱਥੋਂ ਮਾਡਲ ਵਿੱਚ ਲਿਜਾਇਆ ਜਾਂਦਾ ਹੈ।
ਕੰਮ ਵਾਲੀ ਥਾਂ 'ਤੇ ਠੋਸ ਜੋਖਮ
ਖੇਤਰ
ਪੱਖਪਾਤ ਦਾ ਖਤਰਾ
ਸੰਭਵ ਨੁਕਸਾਨ
ਭਰਤੀ
ਇਤਿਹਾਸਕ ਡੇਟਾ ਵਿੱਚ ਰੁਝਾਨ ਸਿੱਖੋ ਅਤੇ ਕੁਝ ਸਮੂਹਾਂ ਨੂੰ ਖਤਮ ਕਰੋ
ਕਾਨੂੰਨੀ ਕੇਸ, ਯੋਗਤਾ ਦਾ ਨੁਕਸਾਨ
ਗਾਹਕ ਸੰਚਾਰ
ਰੂੜ੍ਹੀਵਾਦੀ ਜਾਂ ਬੇਦਖਲੀ ਭਾਸ਼ਾ
ਵੱਕਾਰ ਦਾ ਨੁਕਸਾਨ, ਗਾਹਕ ਉਡਾਣ
ਕ੍ਰੈਡਿਟ/ਜੋਖਮ
ਪਿਛਲੀਆਂ ਅਸਮਾਨਤਾਵਾਂ ਨੂੰ ਕਾਇਮ ਰੱਖਣਾ
ਵਿਤਕਰਾ, ਪਾਬੰਦੀਆਂ
ਪ੍ਰਦਰਸ਼ਨ ਮੁਲਾਂਕਣ
ਫੈਸਲੇ ਵਿੱਚ ਡੇਟਾ ਵਿੱਚ ਪੱਖਪਾਤ ਨੂੰ ਲੈ ਕੇ ਜਾਣਾ
ਅਣਉਚਿਤ ਤਰੱਕੀ/ਬੋਨਸ
ਸਮੱਗਰੀ/ਮਾਰਕੀਟਿੰਗ
ਖਾਸ ਸਮੂਹ ਨੂੰ ਅਦਿੱਖ ਬਣਾਓ
ਬ੍ਰਾਂਡ ਨੂੰ ਨੁਕਸਾਨ
ਤਿੰਨ ਮਿੰਨੀ ਕੇਸ
ਕੇਸ 1 - ਵਿਗਿਆਪਨ ਭਾਸ਼ਾ ਨੂੰ ਘਟਾ ਰਿਹਾ ਸੀ। ਇੱਕ ਕੰਪਨੀ ਨੇ AI ਨਾਲ ਨੌਕਰੀ ਦੀਆਂ ਪੋਸਟਾਂ ਛਾਪਣੀਆਂ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੀਆਂ। ਕੁਝ ਸਮੇਂ ਬਾਅਦ, ਇਹ ਦੇਖਿਆ ਗਿਆ ਕਿ ਇਸ਼ਤਿਹਾਰਾਂ ਨੇ "ਨੌਜਵਾਨ ਅਤੇ ਗਤੀਸ਼ੀਲ", "ਹਮਲਾਵਰ ਨਿਸ਼ਾਨਾ" ਵਰਗੇ ਸਮੀਕਰਨਾਂ ਦੇ ਨਾਲ ਇੱਕ ਖਾਸ ਪ੍ਰੋਫਾਈਲ ਨੂੰ ਅਪੀਲ ਕੀਤੀ ਅਤੇ ਇਸ ਤਰ੍ਹਾਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੀ ਵਿਭਿੰਨਤਾ ਨੂੰ ਘਟਾ ਦਿੱਤਾ। ਟੀਮ ਨੇ ਇੱਕ ਕਦਮ ਜੋੜਿਆ ਜੋ "ਸਮੂਹਿਕ ਭਾਸ਼ਾ" ਲਈ ਹਰੇਕ ਪੋਸਟਿੰਗ ਦੀ ਜਾਂਚ ਕਰਦਾ ਹੈ; ਬਿਨੈਕਾਰਾਂ ਦੀ ਵਿਭਿੰਨਤਾ ਕੁਝ ਮਹੀਨਿਆਂ ਵਿੱਚ ਕਾਫ਼ੀ ਵਧ ਗਈ ਹੈ।
ਕੇਸ 2 - ਸੰਖੇਪ ਵਿੱਚ ਲੁਕਿਆ ਪੱਖਪਾਤ। ਇੱਕ ਮੈਨੇਜਰ ਕੋਲ AI ਦਾ ਸਾਰ 30 ਕਰਮਚਾਰੀ ਫੀਡਬੈਕ ਸੀ। ਰੀਕੈਪ ਇੱਕ ਖਾਸ ਟੀਮ 'ਤੇ ਨਕਾਰਾਤਮਕ ਟਿੱਪਣੀਆਂ ਨੂੰ ਕੇਂਦਰਿਤ ਕਰਦੀ ਜਾਪਦੀ ਸੀ; ਜਦੋਂ ਕਿ ਕੱਚੇ ਅੰਕੜਿਆਂ ਵਿੱਚ ਸਥਿਤੀ ਸੰਤੁਲਿਤ ਸੀ। ਮਾਡਲ ਨੇ ਕਈ ਮਜ਼ਬੂਤ ਬਿਆਨਾਂ ਨੂੰ ਵਧਾ-ਚੜ੍ਹਾ ਕੇ ਪੇਸ਼ ਕੀਤਾ। ਜਦੋਂ ਮੈਨੇਜਰ ਨੇ ਵਾਪਸ ਜਾ ਕੇ ਕੱਚੇ ਅੰਕੜਿਆਂ ਦੀ ਜਾਂਚ ਕੀਤੀ ਤਾਂ ਉਸ ਨੇ ਕੋਈ ਭੁਲੇਖਾ ਪਾਉਣ ਤੋਂ ਬਚਿਆ।
ਕੇਸ 3 - ਸਮਾਵੇਸ਼ ਆਦੇਸ਼ ਨੇ ਕੰਮ ਕੀਤਾ। ਇੱਕ ਮਾਰਕੀਟਿੰਗ ਟੀਮ ਨੇ "ਸੰਮਿਲਿਤ, ਗੈਰ-ਵਿਸ਼ੇਸ਼ ਲਿੰਗ/ਉਮਰ/ਸਮੂਹ ਭਾਸ਼ਾ ਦੀ ਵਰਤੋਂ ਕਰਨ ਅਤੇ ਅੰਤ ਵਿੱਚ ਤੁਹਾਡੀਆਂ ਧਾਰਨਾਵਾਂ ਨੂੰ ਸੂਚੀਬੱਧ ਕਰਨ ਲਈ" ਮੁਹਿੰਮ ਕਾਪੀ ਵਿੱਚ ਹਦਾਇਤਾਂ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ। ਤਿਆਰ ਕੀਤੇ ਪਾਠਾਂ ਵਿੱਚ ਫਾਰਮੂਲੇਕ ਸਮੀਕਰਨਾਂ ਵਿੱਚ ਕਾਫ਼ੀ ਕਮੀ ਆਈ ਹੈ; ਟੀਮ ਨੂੰ ਵਾਰ-ਵਾਰ ਹਰੇਕ ਆਉਟਪੁੱਟ ਨੂੰ ਹੱਥੀਂ ਠੀਕ ਕਰਨ ਦੀ ਲੋੜ ਨਹੀਂ ਸੀ।
ਪੱਖਪਾਤ ਨੂੰ ਪਛਾਣਨਾ ਔਖਾ ਕਿਉਂ ਹੈ?
ਪੱਖਪਾਤ ਬਾਰੇ ਸਭ ਤੋਂ ਧੋਖੇ ਵਾਲੀ ਗੱਲ ਇਹ ਹੈ ਕਿ ਇਹ ਅਕਸਰ ਅਦਿੱਖ ਹੁੰਦਾ ਹੈ। ਆਉਟਪੁੱਟ ਨਿਰਵਿਘਨ, ਪੇਸ਼ੇਵਰ ਅਤੇ ਵਾਜਬ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ; ਇਸ ਦੇ ਅੰਦਰ ਦੀ ਪ੍ਰਵਿਰਤੀ ਉਦੋਂ ਹੀ ਸਪੱਸ਼ਟ ਹੁੰਦੀ ਹੈ ਜਦੋਂ ਕੋਈ ਧਿਆਨ ਨਾਲ ਦੇਖਦਾ ਹੈ ਜਾਂ ਵੱਖ-ਵੱਖ ਸਮੂਹਾਂ 'ਤੇ ਇਸ ਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਮਾਪਦਾ ਹੈ। ਇੱਕ ਇੱਕ ਉਦਾਹਰਣ ਦੇਖ ਕੇ "ਇੱਥੇ ਕੋਈ ਪੱਖਪਾਤ ਨਹੀਂ" ਕਹਿਣਾ ਗੁੰਮਰਾਹਕੁੰਨ ਹੈ; ਪੱਖਪਾਤ ਅਕਸਰ ਵਿਅਕਤੀਗਤ ਉਦਾਹਰਣਾਂ ਵਿੱਚ ਨਹੀਂ ਬਲਕਿ ਸਿਸਟਮ ਦੇ ਆਮ ਰੁਝਾਨ ਵਿੱਚ ਪ੍ਰਗਟ ਹੁੰਦਾ ਹੈ।
ਸਾਵਧਾਨ: ਇਹ ਧਾਰਨਾ ਕਿ "ਮੈਂ ਨਿਰਪੱਖ ਹਾਂ, ਇਸ ਲਈ ਜੋ ਸਾਧਨ ਮੈਂ ਵਰਤਦਾ ਹਾਂ ਉਹ ਵੀ ਨਿਰਪੱਖ ਹੈ" ਖ਼ਤਰਨਾਕ ਹੈ। ਟੂਲ ਦੀ ਨਿਰਪੱਖਤਾ ਤੁਹਾਡੇ ਇਰਾਦੇ 'ਤੇ ਨਹੀਂ, ਸਿਖਲਾਈ ਦੇ ਡੇਟਾ ਅਤੇ ਇਸ ਦੀ ਜਾਂਚ ਕਿਵੇਂ ਕੀਤੀ ਜਾਂਦੀ ਹੈ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ।
ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ / ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ
ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ: ਇਸ ਅਹੁਦੇ ਲਈ ਆਦਰਸ਼ ਉਮੀਦਵਾਰ ਦਾ ਵਰਣਨ ਕਰੋ।
ਨਤੀਜਾ: ਮਾਡਲ ਸਟੀਰੀਓਟਾਈਪ 'ਤੇ ਭਰੋਸਾ ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ ਇੱਕ ਖਾਸ ਪ੍ਰੋਫਾਈਲ ਨੂੰ "ਆਦਰਸ਼" ਵਜੋਂ ਪੇਸ਼ ਕਰ ਸਕਦਾ ਹੈ।
ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ: ਇਸ ਸਥਿਤੀ ਲਈ ਸਿਰਫ਼ ਮਾਪਣਯੋਗ ਯੋਗਤਾਵਾਂ ਦੀ ਸੂਚੀ ਬਣਾਓ ਜੋ ਅਸਲ ਵਿੱਚ ਨੌਕਰੀ ਲਈ ਢੁਕਵੇਂ ਹਨ। ਕਿਸੇ ਵੀ ਵਿਸ਼ੇਸ਼ਤਾ ਦੀ ਵਰਤੋਂ ਨਾ ਕਰੋ ਜੋ ਨੌਕਰੀ ਨਾਲ ਸਬੰਧਤ ਨਹੀਂ ਹਨ, ਜਿਵੇਂ ਕਿ ਲਿੰਗ, ਉਮਰ, ਵਿਆਹੁਤਾ ਸਥਿਤੀ, ਜੱਦੀ ਸ਼ਹਿਰ। ਅੰਤ ਵਿੱਚ, ਉਹ ਲਿਖੋ ਜੋ ਤੁਸੀਂ "ਧਾਰਨਾਵਾਂ ਤੋਂ ਮੈਂ ਬਚਦਾ ਹਾਂ" ਸਿਰਲੇਖ ਹੇਠ ਛੱਡਿਆ ਹੈ।
ਨਤੀਜਾ: ਮੁਲਾਂਕਣ ਨੌਕਰੀ-ਸਬੰਧਤ ਮਾਪਦੰਡਾਂ ਤੱਕ ਸੀਮਿਤ ਹੈ, ਅਪ੍ਰਸੰਗਿਕ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਬਾਹਰ ਰੱਖਿਆ ਗਿਆ ਹੈ।
ਪੱਖਪਾਤ ਨੂੰ ਘਟਾਉਣ ਲਈ ਨਮੂਨੇ
ਸੰਮਲਿਤ ਭਾਸ਼ਾ ਲਈ ਹੇਠਾਂ ਦਿੱਤੇ ਟੈਕਸਟ ਦੀ ਜਾਂਚ ਕਰੋ। ਫਲੈਗ ਸਟੇਟਮੈਂਟਾਂ ਜੋ ਲਿੰਗ, ਉਮਰ, ਨਸਲ, ਅਪਾਹਜਤਾ, ਜਾਂ ਇੱਕ ਖਾਸ ਸਮੂਹ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਹਨ ਅਤੇ ਹਰੇਕ ਲਈ ਇੱਕ ਨਿਰਪੱਖ ਵਿਕਲਪ ਦਾ ਸੁਝਾਅ ਦਿੰਦੀਆਂ ਹਨ। ਟੈਕਸਟ: [ਇੱਥੇ ਪੇਸਟ ਕਰੋ]
ਇਹ ਮੁਲਾਂਕਣ ਕੇਵਲ ਇਹਨਾਂ ਉਦੇਸ਼ ਮਾਪਦੰਡਾਂ ਦੇ ਅਧਾਰ ਤੇ ਕਰੋ: [ਮਾਪਦੰਡ]। ਇਹਨਾਂ ਮਾਪਦੰਡਾਂ (ਨਾਮ, ਲਿੰਗ, ਉਮਰ) ਤੋਂ ਇਲਾਵਾ ਕਿਸੇ ਹੋਰ ਜਾਣਕਾਰੀ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਨਾ ਰੱਖੋ।
ਅੰਤ ਵਿੱਚ ਇੱਕ ਵੱਖਰੇ ਸਿਰਲੇਖ ਦੇ ਹੇਠਾਂ ਸੂਚੀ ਬਣਾਓ ਜੋ ਤੁਸੀਂ ਆਪਣੇ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਟੈਕਸਟ ਵਿੱਚ ਬਣਾਈਆਂ ਹਨ। ਇਸ ਲਈ ਮੈਂ ਲੁਕਵੇਂ ਪੱਖਪਾਤ ਨੂੰ ਦੇਖ ਸਕਦਾ ਹਾਂ।
ਪਾਠਕਾਂ ਦੇ ਤਿੰਨ ਵੱਖ-ਵੱਖ ਸਮੂਹਾਂ ਦੀਆਂ ਨਜ਼ਰਾਂ ਰਾਹੀਂ ਇਸ ਸਮੱਗਰੀ ਦਾ ਮੁਲਾਂਕਣ ਕਰੋ ਅਤੇ ਕਿਸੇ ਵੀ ਬਿਆਨ ਨੂੰ ਚਿੰਨ੍ਹਿਤ ਕਰੋ ਜੋ ਉਹਨਾਂ ਵਿੱਚੋਂ ਕਿਸੇ ਨੂੰ ਵੀ ਨਾਰਾਜ਼/ਨਾਰਾਜ਼ ਕਰ ਸਕਦਾ ਹੈ। ਸਮੱਗਰੀ: [ਇੱਥੇ ਪੇਸਟ ਕਰੋ]
ਆਮ ਗਲਤੀਆਂ
ਆਮ ਗਲਤੀਆਂ
- "ਨਿਰਪੱਖ" AI ਆਉਟਪੁੱਟ ਮੰਨ ਕੇ। ਭਾਵੇਂ ਆਉਟਪੁੱਟ ਨਿਰਪੱਖ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ, ਇਹ ਡੇਟਾ ਵਿੱਚ ਪੱਖਪਾਤ ਰੱਖ ਸਕਦੀ ਹੈ; ਸਰਗਰਮ ਨਿਗਰਾਨੀ ਦੀ ਲੋੜ ਹੈ।
- ਇੱਕ ਉਦਾਹਰਨ 'ਤੇ ਨਜ਼ਰ ਮਾਰਨਾ ਅਤੇ ਕਹਿਣਾ "ਕੋਈ ਪੱਖਪਾਤ ਨਹੀਂ ਹੈ"। ਸਿਸਟਮ ਦੀ ਆਮ ਪ੍ਰਵਿਰਤੀ ਵਿੱਚ ਪੱਖਪਾਤ ਛੁਪਿਆ ਹੋਇਆ ਹੈ।
- ਉੱਚ-ਪ੍ਰਭਾਵ ਵਾਲੇ ਫੈਸਲੇ ਲੈਣ ਨੂੰ ਬਿਨਾਂ ਨਿਗਰਾਨੀ ਵਾਲੇ AI 'ਤੇ ਛੱਡਣਾ। ਭਰਤੀ, ਤਰੱਕੀ ਅਤੇ ਕ੍ਰੈਡਿਟ ਵਰਗੇ ਫੈਸਲਿਆਂ ਵਿੱਚ ਮਨੁੱਖੀ ਅਧਿਕਾਰ ਜ਼ਰੂਰੀ ਹੈ।
- ਸਮਾਵੇਸ਼ ਦੀ ਮੰਗ ਕਰਨਾ ਭੁੱਲ ਜਾਣਾ। ਜੇਕਰ ਤੁਸੀਂ ਪ੍ਰੋਂਪਟ ਵਿੱਚ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਇਸਦੀ ਬੇਨਤੀ ਨਹੀਂ ਕਰਦੇ ਹੋ, ਤਾਂ ਮਾਡਲ ਡਿਫੌਲਟ ਪੈਟਰਨਾਂ 'ਤੇ ਵਾਪਸ ਆ ਜਾਂਦਾ ਹੈ।
- ਇਸਦਾ ਅਰਥ ਹੈ "ਮਸ਼ੀਨ ਨੇ ਇਹ ਕਿਹਾ." ਫੈਸਲੇ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲਾ ਵਿਅਕਤੀ ਨਤੀਜਿਆਂ ਲਈ ਵੀ ਜ਼ਿੰਮੇਵਾਰ ਹੈ।
ਨਿਆਂ ਹਰ ਇੱਕ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ
ਪੱਖਪਾਤ ਨਾਲ ਲੜਨਾ ਸਿਰਫ਼ ਤਕਨੀਕੀ ਟੀਮ ਦਾ ਕੰਮ ਨਹੀਂ ਹੈ। AI ਆਉਟਪੁੱਟ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਹਰੇਕ ਕਰਮਚਾਰੀ ਦੀ ਇਹ ਸਵਾਲ ਕਰਨ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ ਕਿ ਕੀ ਉਹ ਆਉਟਪੁੱਟ ਸਹੀ ਹੈ। “ਮਸ਼ੀਨ ਨੇ ਮੈਨੂੰ ਦੱਸਿਆ” ਕੋਈ ਬਹਾਨਾ ਨਹੀਂ ਹੈ; ਫੈਸਲਾ ਕਰਨ ਵਾਲਾ ਵਿਅਕਤੀ ਨਤੀਜਿਆਂ ਲਈ ਵੀ ਜ਼ਿੰਮੇਵਾਰ ਹੈ।
ਸੰਖੇਪ ਵਿੱਚ
- AI ਪੱਖਪਾਤ ਦਾ ਮੁੱਖ ਸਰੋਤ ਕੁਕਰਮ ਨਹੀਂ ਹੈ, ਪਰ ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਮੌਜੂਦਾ ਅਸੰਤੁਲਨ ਅਤੇ ਰੂੜ੍ਹੀਵਾਦ ਹਨ।
- ਪੱਖਪਾਤ; ਇਹ ਭਰਤੀ, ਗਾਹਕ ਸੰਚਾਰ, ਵਿੱਤ ਅਤੇ ਮੁਲਾਂਕਣ ਵਰਗੇ ਖੇਤਰਾਂ ਵਿੱਚ ਅਸਲ ਕਾਨੂੰਨੀ ਅਤੇ ਪ੍ਰਤਿਸ਼ਠਾਤਮਕ ਜੋਖਮ ਪੈਦਾ ਕਰਦਾ ਹੈ।
- ਪੱਖਪਾਤ ਅਕਸਰ ਅਦਿੱਖ ਹੁੰਦਾ ਹੈ ਅਤੇ ਸਿਸਟਮ ਦੇ ਸਮੁੱਚੇ ਸੁਭਾਅ ਵਿੱਚ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ; ਇੱਕ ਇੱਕ ਉਦਾਹਰਣ ਨੂੰ ਵੇਖਣਾ ਗੁੰਮਰਾਹਕੁੰਨ ਹੈ.
- ਘਟਾਉਣ ਲਈ: ਸੁਚੇਤ ਰਹੋ, ਨੌਕਰੀ-ਸਬੰਧਤ ਮਾਪਦੰਡਾਂ ਤੱਕ ਫੈਸਲੇ ਨੂੰ ਸੀਮਤ ਕਰੋ, ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਸ਼ਮੂਲੀਅਤ ਲਈ ਪੁੱਛੋ, ਉੱਚ-ਪ੍ਰਭਾਵ ਵਾਲੇ ਫੈਸਲਿਆਂ 'ਤੇ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਪਾਓ।
- “ਮਸ਼ੀਨ ਨੇ ਮੈਨੂੰ ਦੱਸਿਆ” ਕੋਈ ਬਹਾਨਾ ਨਹੀਂ ਹੈ; ਨਿਰਪੱਖਤਾ ਹਰ ਉਸ ਵਿਅਕਤੀ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ ਜੋ ਆਉਟਪੁੱਟ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ।
ਐਪਲੀਕੇਸ਼ਨ ਟਾਸਕ
AI ਨੂੰ ਦੱਸੋ "ਇੱਕ ਆਦਰਸ਼ [ਕਿਸੇ ਵੀ ਕਿੱਤੇ] ਕਰਮਚਾਰੀ ਦਾ ਵਰਣਨ ਕਰੋ" ਅਤੇ ਨਿਸ਼ਾਨ ਲਗਾਓ ਕਿ ਆਉਟਪੁੱਟ ਵਿੱਚ ਕੀ (ਸ਼ਾਇਦ ਬੇਲੋੜੀ) ਧਾਰਨਾਵਾਂ ਬਣਾਈਆਂ ਗਈਆਂ ਸਨ। ਫਿਰ ਉਪਰੋਕਤ "ਨੌਕਰੀ-ਸਬੰਧਤ ਮਾਪਦੰਡ" ਟੈਮਪਲੇਟ ਨਾਲ ਦੁਹਰਾਓ ਅਤੇ ਨਿਰਪੱਖਤਾ ਲਈ ਦੋ ਆਉਟਪੁੱਟ ਦੀ ਤੁਲਨਾ ਕਰੋ।
ਚੈੱਕਲਿਸਟ
- [ ] ਮੈਂ ਸਮਝਦਾ/ਸਮਝਦੀ ਹਾਂ ਕਿ ਪੱਖਪਾਤ ਦਾ ਮੁੱਖ ਸਰੋਤ ਸਿਖਲਾਈ ਡੇਟਾ ਹੈ।
- [ ] ਮੈਂ ਉਹਨਾਂ ਠੋਸ ਜੋਖਮਾਂ ਦਾ ਨਾਮ ਦੇ ਸਕਦਾ ਹਾਂ ਜੋ ਕੰਮ ਵਾਲੀ ਥਾਂ 'ਤੇ ਪੱਖਪਾਤ ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ।
- [ ] ਮੈਂ ਜਾਣਦਾ ਹਾਂ ਕਿ ਪੱਖਪਾਤ ਅਕਸਰ ਅਦਿੱਖ ਹੁੰਦਾ ਹੈ ਅਤੇ ਇੱਕ ਸਿੰਗਲ ਉਦਾਹਰਣ ਨੂੰ ਵੇਖਣਾ ਗੁੰਮਰਾਹਕੁੰਨ ਹੁੰਦਾ ਹੈ।
- [ ] ਮੈਂ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਪ੍ਰੋਂਪਟ ਵਿੱਚ ਸਮਾਵੇਸ਼ ਅਤੇ ਨੌਕਰੀ-ਸਬੰਧਤ ਮਾਪਦੰਡਾਂ ਲਈ ਪੁੱਛ ਸਕਦਾ ਹਾਂ।
- [ ] ਮੈਨੂੰ ਉੱਚ-ਪ੍ਰਭਾਵ ਵਾਲੇ ਫੈਸਲਿਆਂ ਦੀ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਦੀ ਲੋੜ ਹੈ।