ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ, ਪਾਰਦਰਸ਼ਤਾ, ਪੱਖਪਾਤ ਅਤੇ ਨੈਤਿਕਤਾ

ਲਾਭ:

• ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਦੇ ਤਿੰਨ ਮਾਡਲਾਂ ਨੂੰ ਵੱਖ ਕਰਨਾ (ਲੂਪ ਵਿੱਚ, ਲੂਪ ਉੱਤੇ, ਕਮਾਂਡ ਵਿੱਚ)
• AI ਆਉਟਪੁੱਟ ਵਿੱਚ ਪੱਖਪਾਤ ਅਤੇ ਵਿਤਕਰੇ ਦੇ ਜੋਖਮਾਂ ਨੂੰ ਪਛਾਣਨਾ ਅਤੇ ਘਟਾਉਣਾ
• ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਵਿਆਖਿਆਯੋਗਤਾ ਦੇ ਸਿਧਾਂਤਾਂ ਨੂੰ ਠੋਸ ਕਾਰਜਾਂ ਵਿੱਚ ਅਨੁਵਾਦ ਕਰਨਾ

ਇੱਕ AI ਸਿਸਟਮ ਤਕਨੀਕੀ ਤੌਰ 'ਤੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ ਪਰ ਫਿਰ ਵੀ ਗਲਤ ਹੋ ਸਕਦਾ ਹੈ: ਇਹ ਯੋਜਨਾਬੱਧ ਢੰਗ ਨਾਲ ਇੱਕ ਸਮੂਹ ਨੂੰ ਖਤਮ ਕਰ ਸਕਦਾ ਹੈ, ਇਸਦੇ ਫੈਸਲੇ ਦਾ ਕਾਰਨ ਦੱਸਣ ਵਿੱਚ ਅਸਫਲ ਹੋ ਸਕਦਾ ਹੈ, ਜਾਂ ਲੋਕਾਂ ਨੂੰ ਬਿਨਾਂ ਸਵਾਲ ਕੀਤੇ ਇਸਨੂੰ ਸਵੀਕਾਰ ਕਰਨ ਲਈ ਅਗਵਾਈ ਕਰ ਸਕਦਾ ਹੈ। ਇਸ ਯੂਨਿਟ ਵਿੱਚ, ਅਸੀਂ ਸ਼ਾਸਨ ਦੇ "ਨਰਮ" ਪਰ ਸਭ ਤੋਂ ਨਿਰਣਾਇਕ ਪੱਖ—ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ, ਪੱਖਪਾਤ ਪ੍ਰਬੰਧਨ, ਪਾਰਦਰਸ਼ਤਾ, ਅਤੇ ਨੈਤਿਕਤਾ—ਨੂੰ ਠੋਸ ਅਭਿਆਸਾਂ ਵਿੱਚ ਅਨੁਵਾਦ ਕਰਦੇ ਹਾਂ। ਟੀਚਾ ਅਸਪਸ਼ਟ ਨਾਅਰੇ ਨਹੀਂ ਹੈ ਜਿਵੇਂ ਕਿ "AI 'ਤੇ ਭਰੋਸਾ ਨਾ ਕਰੋ"; ਉਹ ਕਾਰਜ ਪ੍ਰਣਾਲੀਆਂ ਹਨ ਜੋ ਦਰਸਾਉਂਦੀਆਂ ਹਨ ਕਿ ਆਉਟਪੁੱਟ ਦਾ ਆਡਿਟ ਕਿਵੇਂ ਕਰਨਾ ਹੈ, ਪੱਖਪਾਤ ਨੂੰ ਘਟਾਉਣਾ ਹੈ, ਅਤੇ ਪਾਰਦਰਸ਼ਤਾ ਕਿਵੇਂ ਸਥਾਪਿਤ ਕਰਨੀ ਹੈ।

ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਦੇ ਤਿੰਨ ਮਾਡਲ

ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਮਨੁੱਖ AI ਦੁਆਰਾ ਕੀਤੇ ਗਏ ਫੈਸਲਿਆਂ 'ਤੇ ਨਿਯੰਤਰਣ ਰੱਖਦਾ ਹੈ। ਇੱਥੇ ਤਿੰਨ ਬੁਨਿਆਦੀ ਮਾਡਲ ਹਨ ਅਤੇ ਜੋਖਮ ਦੇ ਅਨੁਸਾਰ ਸਹੀ ਮਾਡਲ ਚੁਣਨਾ ਜ਼ਰੂਰੀ ਹੈ।

ਮਾਡਲ

ਭਾਵ

ਜਿੱਥੇ ਇਹ ਫਿੱਟ ਬੈਠਦਾ ਹੈ

ਲੂਪ ਵਿੱਚ ਮਨੁੱਖ

ਵਿਅਕਤੀ ਹਰ ਫੈਸਲੇ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦਿੰਦਾ ਹੈ

ਉੱਚ-ਜੋਖਮ ਵਾਲੇ, ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਫੈਸਲੇ

ਲੂਪ 'ਤੇ ਮਨੁੱਖ

AI ਕੰਮ ਕਰਦਾ ਹੈ, ਮਨੁੱਖ ਨਿਗਰਾਨੀ ਕਰਦਾ ਹੈ ਅਤੇ ਲੋੜ ਪੈਣ 'ਤੇ ਦਖਲ ਦਿੰਦਾ ਹੈ

ਮੱਧਮ ਜੋਖਮ, ਉੱਚ ਵੌਲਯੂਮ ਲੈਣ-ਦੇਣ

ਹੁਕਮ ਵਿੱਚ ਮਨੁੱਖ

ਮਨੁੱਖ ਸਿਸਟਮ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰਦਾ ਹੈ, ਇਸ ਦੀਆਂ ਸੀਮਾਵਾਂ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ, ਇਸਨੂੰ ਬੰਦ ਕਰ ਸਕਦਾ ਹੈ

ਸਮੁੱਚੇ ਤੌਰ 'ਤੇ ਸ਼ਾਸਨ ਪੱਧਰ

ਫੈਸਲਿਆਂ ਲਈ ਜੋ ਵਿਅਕਤੀ (ਰੁਜ਼ਗਾਰ, ਕ੍ਰੈਡਿਟ, ਸਿਹਤ ਸੰਭਾਲ) ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਤੌਰ 'ਤੇ ਪ੍ਰਭਾਵਤ ਕਰਦੇ ਹਨ, ਮਨੁੱਖੀ-ਇਨ-ਦੀ-ਲੂਪ ਮਾਡਲ ਨੂੰ ਤਰਜੀਹ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ: AI ਸਲਾਹ ਦਿੰਦਾ ਹੈ, ਪਰ ਇੱਕ ਸਮਰੱਥ ਮਨੁੱਖ ਅੰਤਮ ਫੈਸਲਾ ਲੈਂਦਾ ਹੈ। "ਏਆਈ ਨੇ ਅਜਿਹਾ ਕਿਹਾ" ਕਦੇ ਵੀ ਬਹਾਨਾ ਨਹੀਂ ਹੁੰਦਾ; ਜ਼ਿੰਮੇਵਾਰੀ ਹਮੇਸ਼ਾ ਵਿਅਕਤੀ ਦੀ ਹੁੰਦੀ ਹੈ।

ਧਿਆਨ ਦਿਓ: ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਲਈ "ਕਾਗਜ਼ ਉੱਤੇ" ਹੋਣਾ ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ। ਜੇ ਮਨੁੱਖ ਆਪਣੇ ਆਪ ਹੀ AI ਦੇ ਸੁਝਾਅ (ਰਬੜ-ਸਟੈਂਪਿੰਗ) ਨੂੰ ਮਨਜ਼ੂਰੀ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਕੋਈ ਅਸਲ ਕੰਟਰੋਲ ਨਹੀਂ ਹੁੰਦਾ। ਆਡਿਟਿੰਗ ਦੇ ਅਰਥਪੂਰਨ ਹੋਣ ਲਈ, ਕਿਸੇ ਨੂੰ ਤਰਕ ਨੂੰ ਦੇਖਣ, ਇਸ 'ਤੇ ਸਵਾਲ ਕਰਨ ਅਤੇ ਸੱਚਮੁੱਚ "ਨਹੀਂ" ਕਹਿਣ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।

ਪੱਖਪਾਤ ਅਤੇ ਵਿਤਕਰੇ ਦਾ ਖਤਰਾ

ਪੱਖਪਾਤ ਉਦੋਂ ਹੁੰਦਾ ਹੈ ਜਦੋਂ AI ਯੋਜਨਾਬੱਧ ਤੌਰ 'ਤੇ ਕੁਝ ਸਮੂਹਾਂ ਨੂੰ ਨੁਕਸਾਨ ਜਾਂ ਫਾਇਦਾ ਪਹੁੰਚਾਉਂਦਾ ਹੈ। ਇਸਦਾ ਸਰੋਤ ਅਕਸਰ ਡੇਟਾ ਨੂੰ ਸਿਖਲਾਈ ਦਿੰਦਾ ਹੈ: ਜੇਕਰ ਇਤਿਹਾਸਕ ਡੇਟਾ ਵਿੱਚ ਵਿਤਕਰਾ ਹੁੰਦਾ ਹੈ, ਤਾਂ AI ਇਸਨੂੰ ਸਿੱਖਦਾ ਹੈ ਅਤੇ ਇਸਨੂੰ ਕਾਇਮ ਰੱਖਦਾ ਹੈ - ਇੱਥੋਂ ਤੱਕ ਕਿ ਇਸਨੂੰ ਸਕੇਲ ਵੀ ਕਰਦਾ ਹੈ।

ਪੱਖਪਾਤ ਨੂੰ ਘਟਾਉਣ ਲਈ ਵਿਹਾਰਕ ਕਦਮ:

1. ਸੰਵੇਦਨਸ਼ੀਲ ਵੇਰੀਏਬਲ ਦੀ ਸਮੀਖਿਆ ਕਰੋ: ਫੈਸਲੇ 'ਤੇ ਲਿੰਗ, ਉਮਰ, ਨਸਲ ਵਰਗੇ ਖੇਤਰਾਂ ਦੇ ਪ੍ਰਭਾਵ ਦੀ ਜਾਂਚ ਕਰੋ।
2. ਸਮੂਹਾਂ ਦੁਆਰਾ ਟੈਸਟ ਦੇ ਨਤੀਜੇ: ਕੀ ਸਿਸਟਮ ਵੱਖ-ਵੱਖ ਸਮੂਹਾਂ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਅਸਵੀਕਾਰ/ਸਵੀਕ੍ਰਿਤੀ ਦਰਾਂ ਪੈਦਾ ਕਰਦਾ ਹੈ?
3. ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲ ਤੋਂ ਸਾਵਧਾਨ ਰਹੋ: ਖੇਤਰ ਜਿਵੇਂ ਕਿ "ਗੁਆਂਢ" ਜਾਂ "ਸਕੂਲ" ਨਸਲੀ/ਸ਼੍ਰੇਣੀ ਦੇ ਭੇਦ ਨੂੰ ਸਪਸ਼ਟ ਰੂਪ ਵਿੱਚ ਪ੍ਰਗਟ ਕਰ ਸਕਦੇ ਹਨ।
4. ਨਿਯਮਤ ਨਿਗਰਾਨੀ ਸਥਾਪਿਤ ਕਰੋ: ਪੱਖਪਾਤ ਦੀ ਲਗਾਤਾਰ ਜਾਂਚ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਸਿਰਫ਼ ਇੱਕ ਵਾਰ ਨਹੀਂ; ਡਾਟਾ ਬਦਲਦੇ ਹੀ ਇਹ ਵਾਪਸ ਆ ਸਕਦਾ ਹੈ।

ਤਿੰਨ ਛੋਟੇ ਕੇਸ

ਕੇਸ 1 - ਰਬੜ ਦੀ ਮੋਹਰ। ਇੱਕ ਬੈਂਕ ਵਿੱਚ, ਕਰਜ਼ਾ ਅਧਿਕਾਰੀ ਇਸਦੀ ਸਮੀਖਿਆ ਕੀਤੇ ਬਿਨਾਂ AI ਸਕੋਰ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦਿੰਦੇ ਹਨ; ਉਹ ਕਹਿੰਦੇ ਹਨ "ਸਿਸਟਮ ਨੇ ਪਹਿਲਾਂ ਹੀ ਇਸਦਾ ਹਿਸਾਬ ਲਗਾਇਆ ਹੈ"। ਇੱਕ ਆਡਿਟ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ 500 ਸਬਮਿਸ਼ਨਾਂ ਵਿੱਚੋਂ 498 ਵਿੱਚ, ਮਨੁੱਖ ਨੇ AI ਵਾਂਗ ਹੀ ਸਹੀ ਫੈਸਲਾ ਲਿਆ - ਇਸ ਲਈ ਕੋਈ ਅਸਲ ਸਮੀਖਿਆ ਨਹੀਂ ਹੈ। ਹੱਲ: ਲੋਕਾਂ ਨੂੰ ਤਰਕ ਦੇਖਣ ਦੀ ਲੋੜ ਹੈ, ਕਿਸੇ ਹੱਦ ਤੱਕ ਫੈਸਲੇ ਦਾ ਦੂਜਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਣਾ, ਅਤੇ "ਸਹਿਮਤ/ਅਸਹਿਮਤ ਕਿਉਂ" ਨੋਟ ਦੀ ਲੋੜ ਹੈ।

ਕੇਸ 2 - ਅਪ੍ਰਤੱਖ ਪੱਖਪਾਤ। ਇੱਕ ਭਰਤੀ ਕਰਨ ਵਾਲੀ AI ਮਹਿਲਾ ਉਮੀਦਵਾਰਾਂ ਨੂੰ ਘੱਟ ਸਕੋਰ ਦਿੰਦੀ ਹੈ, ਭਾਵੇਂ ਕਿ ਇਹ ਲਿੰਗ ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰਦੀ ਹੈ। ਕਿਥੋਂ ਦੀ? ਕਿਉਂਕਿ ਪਿਛਲੇ ਡੇਟਾ ਵਿੱਚ ਇੱਕ ਦਿੱਤੀ ਸਥਿਤੀ ਵਿੱਚ ਜਿਆਦਾਤਰ ਪੁਰਸ਼ ਸ਼ਾਮਲ ਸਨ, ਮਾਡਲ ਨੇ ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲ ਜਿਵੇਂ ਕਿ "ਬੇਰੋਕ ਕੈਰੀਅਰ" ਦੁਆਰਾ ਅਸਿੱਧੇ ਵਿਤਕਰੇ ਬਾਰੇ ਸਿੱਖਿਆ ਹੈ। ਗਰੁੱਪ-ਅਧਾਰਿਤ ਟੈਸਟਿੰਗ ਇਹ ਦੱਸਦੀ ਹੈ; ਟੀਮ ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ ਕੱਢਦੀ ਹੈ ਅਤੇ ਨਤੀਜੇ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦੀ ਹੈ।

ਕੇਸ 3 - ਪਾਰਦਰਸ਼ਤਾ ਨਾਲ ਭਰੋਸਾ ਕਰੋ। ਇਸਦੇ AI-ਸੰਚਾਲਿਤ ਨੁਕਸਾਨ ਦੇ ਮੁਲਾਂਕਣ ਵਿੱਚ, ਇੱਕ ਬੀਮਾ ਕੰਪਨੀ ਹਰੇਕ ਗਾਹਕ ਨੂੰ ਸੂਚਿਤ ਕਰਦੀ ਹੈ ਕਿ "ਫੈਸਲਾ AI-ਸੰਚਾਲਿਤ ਹੈ, ਉਹ ਅਪੀਲ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਦੀ ਬੇਨਤੀ ਕਰ ਸਕਦੇ ਹਨ।" ਇਤਰਾਜ਼ ਦਰ ਉਮੀਦ ਨਾਲੋਂ ਘੱਟ ਹੈ ਕਿਉਂਕਿ ਗਾਹਕ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਸਮਝਦੇ ਹਨ ਅਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹਨ। ਪਾਰਦਰਸ਼ਤਾ ਜੋਖਮ ਨੂੰ ਘਟਾਉਂਦੇ ਹੋਏ ਵਿਸ਼ਵਾਸ ਵਧਾਉਂਦੀ ਹੈ।

ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਵਿਆਖਿਆਯੋਗਤਾ

ਪਾਰਦਰਸ਼ਤਾ ਸਬੰਧਤ ਲੋਕਾਂ ਨੂੰ ਇਹ ਸਪੱਸ਼ਟ ਕਰਨ ਬਾਰੇ ਹੈ ਕਿ ਇੱਕ AI ਕਾਰਵਾਈ ਵਿੱਚ ਹੈ ਅਤੇ ਇਹ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ। ਵਿਆਖਿਆਯੋਗਤਾ ਦਾ ਅਰਥ ਹੈ ਕਿਸੇ ਫੈਸਲੇ ਦੇ ਕਾਰਨ ਨੂੰ ਸਮਝਣ ਯੋਗ ਤਰੀਕੇ ਨਾਲ ਸਮਝਾਉਣ ਦੇ ਯੋਗ ਹੋਣਾ। ਠੋਸ ਐਪਲੀਕੇਸ਼ਨ:

• "ਤੁਸੀਂ ਇੱਕ AI ਨਾਲ ਗੱਲ ਕਰ ਰਹੇ ਹੋ" ਵਿਅਕਤੀ ਨਾਲ ਗੱਲਬਾਤ ਕਰਨ ਵਾਲੀ AI 'ਤੇ ਸੂਚਨਾ।
• "ਇਹ ਫੈਸਲਾ ਹੇਠਾਂ ਦਿੱਤੇ ਕਾਰਕਾਂ 'ਤੇ ਅਧਾਰਤ ਸੀ" ਆਟੋਮੈਟਿਕ ਫੈਸਲਿਆਂ ਵਿੱਚ ਸਪੱਸ਼ਟੀਕਰਨ.
• ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਅਪੀਲ ਕਰਨ ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਦੀ ਬੇਨਤੀ ਕਰਨ ਦਾ ਮਾਰਗ ਪੇਸ਼ ਕਰੋ।
• ਅੰਦਰੂਨੀ ਟੀਮਾਂ ਲਈ: ਮਾਡਲ ਕੀ ਕਰਦਾ ਹੈ ਦੇ ਦਸਤਾਵੇਜ਼ ਅਤੇ ਰਿਕਾਰਡਿੰਗ।

ਸੰਕੇਤ: ਇੱਕ AI ਫੈਸਲੇ ਨੂੰ ਪੁੱਛੋ "ਇਸ ਫੈਸਲੇ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਵਾਲੇ ਪ੍ਰਮੁੱਖ ਤਿੰਨ ਕਾਰਕ ਕੀ ਸਨ?" ਸਵਾਲ ਦੇ ਨਾਲ ਇਸ ਦੀ ਜਾਂਚ ਕਰੋ। ਜੇਕਰ ਸਿਸਟਮ ਇਸ ਨੂੰ ਸਮਝਣ ਯੋਗ ਨਹੀਂ ਬਣਾ ਸਕਦਾ ਹੈ ਅਤੇ ਫੈਸਲਾ ਵਿਅਕਤੀ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਤੌਰ 'ਤੇ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ, ਤਾਂ ਉਹ ਸਿਸਟਮ ਅਜੇ ਵੀ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਲਈ ਤਿਆਰ ਨਹੀਂ ਹੈ।

ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ: ਕਿਸੇ ਦਾ ਆਪਣਾ ਜਾਲ

ਭਾਵੇਂ ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਦੀ ਸਥਾਪਨਾ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਮਨੁੱਖੀ ਪੱਖ 'ਤੇ ਇੱਕ ਧੋਖੇਬਾਜ਼ ਜੋਖਮ ਹੁੰਦਾ ਹੈ: ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ। ਇਹ ਲੋਕਾਂ ਲਈ ਆਪਣੇ ਨਿਰਣੇ ਨਾਲੋਂ ਮਸ਼ੀਨ ਦੇ ਆਉਟਪੁੱਟ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਦੀ ਪ੍ਰਵਿਰਤੀ ਹੈ। ਕਿਉਂਕਿ ਆਨ-ਸਕ੍ਰੀਨ AI ਪ੍ਰਸਤਾਵ “ਉਦੇਸ਼ ਅਤੇ ਗਣਨਾਤਮਕ” ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ, ਕੋਈ ਵੀ ਇਸ ਨੂੰ ਬਿਨਾਂ ਸਵਾਲ ਕੀਤੇ ਸਵੀਕਾਰ ਕਰਨ ਲਈ ਪਰਤਾਇਆ ਜਾਂਦਾ ਹੈ — ਇਹ ਰਬੜ ਸਟੈਂਪ ਦਾ ਮਨੋਵਿਗਿਆਨਕ ਮੂਲ ਹੈ।

ਇਸ ਨੂੰ ਘਟਾਉਣ ਦੇ ਠੋਸ ਤਰੀਕੇ ਹਨ। ਪਹਿਲਾਂ ਵਿਰੋਧੀ ਰਾਏ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰੋ: ਫੈਸਲੇ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦੇਣ ਵਾਲੇ ਵਿਅਕਤੀ ਨੂੰ ਪੁੱਛੋ "ਮੈਂ AI ਨਾਲ ਅਸਹਿਮਤ ਕਿਉਂ ਹੋ ਸਕਦਾ ਹਾਂ?" ਉਸ ਨੂੰ ਸਵਾਲ ਬਾਰੇ ਸੋਚਣ ਲਈ ਕਹੋ। ਫਿਰ ਭਰੋਸੇ ਦਾ ਸਕੋਰ ਦਿਖਾਓ: ਦਰਸਾਓ ਕਿ AI ਕਿੰਨਾ ਭਰੋਸੇਮੰਦ ਹੈ; ਘੱਟ ਭਰੋਸੇ ਵਾਲੇ ਆਉਟਪੁੱਟ ਨੂੰ ਵੱਖਰੇ ਤੌਰ 'ਤੇ ਚਿੰਨ੍ਹਿਤ ਕਰੋ। ਫਿਰ ਇੱਕ ਸੰਘਰਸ਼ ਚੇਤਾਵਨੀ ਸੈਟ ਅਪ ਕਰੋ: ਜੇਕਰ AI ਸਿਫ਼ਾਰਿਸ਼ ਸੰਸਥਾ ਦੇ ਨਿਯਮ ਜਾਂ ਮਨੁੱਖ ਲਈ ਉਪਲਬਧ ਡੇਟਾ ਦੀ ਉਲੰਘਣਾ ਕਰਦੀ ਹੈ, ਤਾਂ ਸਿਸਟਮ ਇਸ ਨੂੰ ਉਜਾਗਰ ਕਰੇਗਾ। ਅੰਤ ਵਿੱਚ, ਨਾਜ਼ੁਕ ਫੈਸਲਿਆਂ ਲਈ ਦੋ ਮਨੁੱਖੀ ਸਿਧਾਂਤਾਂ ਨੂੰ ਲਾਗੂ ਕਰੋ; ਇੱਕ ਸਿੰਗਲ ਮਨਜ਼ੂਰਕਰਤਾ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਲਈ ਵਧੇਰੇ ਸੰਵੇਦਨਸ਼ੀਲ ਹੁੰਦਾ ਹੈ।

ਸਾਵਧਾਨ: "ਮਨੁੱਖੀ ਪ੍ਰਵਾਨਗੀ ਹੈ" ਕਹਿਣ ਦਾ ਮਤਲਬ ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ ਤੋਂ ਮੁਕਤ ਹੋਣਾ ਨਹੀਂ ਹੈ। ਮਨੁੱਖ ਕੋਲ ਏਆਈ ਬਾਰੇ ਸਵਾਲ ਕਰਨ ਲਈ ਅਧਿਕਾਰ, ਸਮਾਂ ਅਤੇ ਸਹੀ ਜਾਣਕਾਰੀ ਦੋਵੇਂ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ। ਇੱਕ ਪ੍ਰਣਾਲੀ ਜੋ ਪ੍ਰਵਾਨਕਰਤਾ ਨੂੰ 3 ਸਕਿੰਟਾਂ ਵਿੱਚ 200 ਫੈਸਲੇ ਲੈਣ ਲਈ ਮਜਬੂਰ ਕਰਦੀ ਹੈ ਅਸਲ ਵਿੱਚ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਦੀ ਪੇਸ਼ਕਸ਼ ਨਹੀਂ ਕਰਦੀ ਹੈ।

ਨਕਲ ਕਰਨ ਯੋਗ ਟੈਂਪਲੇਟਸ

ਟੈਮਪਲੇਟ 1 — ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਮਾਡਲ ਦੀ ਚੋਣ: "ਕਿਹੜਾ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਮਾਡਲ ਨਿਮਨਲਿਖਤ AI ਵਰਤੋਂ ਲਈ ਉਚਿਤ ਹੈ [ਵਰਤੋਂ ਦਾ ਵਰਣਨ ਕਰੋ]: ਲੂਪ ਵਿੱਚ, ਲੂਪ 'ਤੇ, ਜਾਂ ਕਮਾਂਡ ਵਿੱਚ? ਵਿਅਕਤੀ ਲਈ ਜੋਖਮ ਅਤੇ ਪ੍ਰਭਾਵ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਦੇ ਹੋਏ, ਜਾਇਜ਼ਤਾ ਨਾਲ ਸਿਫਾਰਸ਼ ਕਰੋ। ਰਬੜ ਸਟੈਂਪ ਦੇ ਜੋਖਮ ਤੋਂ ਬਚਣ ਲਈ ਮੈਨੂੰ ਕਿਹੜਾ ਕੰਟਰੋਲ ਜੋੜਨਾ ਚਾਹੀਦਾ ਹੈ।"

ਟੈਮਪਲੇਟ 2 — ਪੱਖਪਾਤ ਜਾਂਚ ਯੋਜਨਾ: "ਹੇਠ ਦਿੱਤੇ ਫੈਸਲੇ ਸਮਰਥਨ AI ਲਈ ਇੱਕ [ਵਰਤੋਂ ਦਾ ਵਰਣਨ ਕਰੋ] ਪੱਖਪਾਤ ਜਾਂਚ ਯੋਜਨਾ ਬਣਾਓ: ਮੈਨੂੰ ਕਿਹੜੇ ਸਮੂਹਾਂ ਦੀ ਤੁਲਨਾ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਮੈਨੂੰ ਕਿਹੜੀ ਮੈਟ੍ਰਿਕ ਮਾਪਣੀ ਚਾਹੀਦੀ ਹੈ (ਅਸਵੀਕਾਰ/ਸਵੀਕ੍ਰਿਤੀ ਦਰ, ਆਦਿ), ਮੈਨੂੰ ਕਿਹੜੇ ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ ਦੀ ਭਾਲ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਮੈਨੂੰ ਕਿੰਨੀ ਵਾਰ ਟੈਸਟ ਦੁਹਰਾਉਣਾ ਚਾਹੀਦਾ ਹੈ? ਇਸਨੂੰ ਕਦਮ ਦਰ ਕਦਮ ਲਿਖੋ।"

ਟੈਮਪਲੇਟ 3 — ਫੈਸਲੇ ਦਾ ਵਰਣਨ ਟੈਕਸਟ: "ਇੱਕ ਵਿਅਕਤੀਗਤ ਸਵੈਚਲਿਤ ਫੈਸਲੇ ਲਈ ਇੱਕ ਸਧਾਰਨ ਵਰਣਨ ਟੈਕਸਟ ਲਿਖੋ: ਕੀ ਫੈਸਲਾ AI-ਸੰਚਾਲਿਤ ਸੀ, ਫੈਸਲੇ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਵਾਲੇ ਮੁੱਖ ਕਾਰਕ, ਅਪੀਲ ਕਰਨ ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਦੀ ਬੇਨਤੀ ਕਰਨ ਦਾ ਇੱਕ ਤਰੀਕਾ। ਗੈਰ-ਦੋਸ਼ੀ, ਸਤਿਕਾਰਯੋਗ ਟੋਨ, 120 ਸ਼ਬਦ ਜਾਂ ਘੱਟ।"

ਟੈਮਪਲੇਟ 4 — ਨੈਤਿਕ ਸਮੀਖਿਆ ਚੈੱਕਲਿਸਟ: "ਏਆਈ ਦੀ ਵਰਤੋਂ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਨੈਤਿਕ ਸਮੀਖਿਆ ਜਾਂਚ ਸੂਚੀ ਤਿਆਰ ਕਰੋ: ਨਿਰਪੱਖਤਾ/ਵਿਤਕਰੇ, ਪਾਰਦਰਸ਼ਤਾ, ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ, ਗੋਪਨੀਯਤਾ, ਸੁਰੱਖਿਆ, ਜਵਾਬਦੇਹੀ। ਹਰੇਕ ਸਿਰਲੇਖ ਹੇਠ ਜਵਾਬ ਦੇਣ ਲਈ 1-2 ਸਪੱਸ਼ਟ ਸਵਾਲ ਸ਼ਾਮਲ ਕਰੋ।"

ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ / ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ

ਕਮਜ਼ੋਰ: “ਕੀ ਇਹ AI ਭਰਤੀ ਨਿਰਪੱਖ ਹੈ?”-> ਮਾਡਲ ਇੱਕ ਆਮ ਜਵਾਬ ਦਿੰਦਾ ਹੈ ਜਿਵੇਂ 'ਇਹ ਨਿਰਪੱਖ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ'; ਟੈਸਟਯੋਗ ਵਿਧੀ ਅਤੇ ਪੱਖਪਾਤ ਮਾਪ ਪ੍ਰਦਾਨ ਨਹੀਂ ਕਰਦਾ ਹੈ। ਮਜ਼ਬੂਤ: "ਇਸ ਭਰਤੀ ਸਹਾਇਤਾ AI ਲਈ ਇੱਕ ਪੱਖਪਾਤ ਜਾਂਚ ਯੋਜਨਾ ਸੈਟ ਅਪ ਕਰੋ: ਲਿੰਗ ਅਤੇ ਉਮਰ ਸਮੂਹਾਂ ਵਿੱਚ ਸਵੀਕ੍ਰਿਤੀ ਦਰਾਂ ਦੀ ਤੁਲਨਾ ਕਰਨ ਦਾ ਇੱਕ ਤਰੀਕਾ, ਵਿਚਾਰਨ ਲਈ ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲ, ਸਵੀਕਾਰਯੋਗ ਅੰਤਰ ਥ੍ਰੈਸ਼ਹੋਲਡ, ਅਤੇ ਨਿਗਰਾਨੀ ਦੀ ਬਾਰੰਬਾਰਤਾ। ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਨਿਯੰਤਰਣ ਵੀ ਜੋੜੋ ਕਿ ਮਨੁੱਖ ਅੰਤਿਮ ਫੈਸਲਾ ਲੈਂਦਾ ਹੈ।" -> ਮਾਡਲ ਇੱਕ ਮਾਪਣਯੋਗ, ਦੁਹਰਾਉਣ ਯੋਗ ਨਿਰਪੱਖਤਾ ਵਿਧੀ ਪੈਦਾ ਕਰਦਾ ਹੈ।

ਆਮ ਗਲਤੀਆਂ

• ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਨੂੰ "ਕਾਗਜ਼ 'ਤੇ" ਛੱਡਣਾ ਅਤੇ AI ਸਿਫਾਰਿਸ਼ (ਰਬੜ ਸਟੈਂਪ) ਨੂੰ ਆਪਣੇ ਆਪ ਮਨਜ਼ੂਰ ਕਰਨਾ।
• ਅਜਿਹੇ ਫੈਸਲਿਆਂ ਨੂੰ ਛੱਡਣਾ ਜੋ ਲੂਪ ਵਿੱਚ ਹੋਣ ਦੀ ਬਜਾਏ ਬਿਨਾਂ ਨਿਗਰਾਨੀ ਕੀਤੇ ਵਿਅਕਤੀ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਤੌਰ 'ਤੇ ਪ੍ਰਭਾਵਿਤ ਕਰਦੇ ਹਨ।
• ਪੱਖਪਾਤ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਦੇ ਹੋਏ ਹੱਲ ਕੀਤਾ ਗਿਆ ਹੈ ਕਿਉਂਕਿ "ਮੈਂ ਸੰਵੇਦਨਸ਼ੀਲ ਵੇਰੀਏਬਲ ਨੂੰ ਮਿਟਾ ਦਿੱਤਾ ਹੈ"; ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲ ਨੂੰ ਛੱਡਣਾ।
• ਇੱਕ ਵਾਰ ਪੱਖਪਾਤ ਦੀ ਜਾਂਚ ਕਰੋ ਅਤੇ ਲਗਾਤਾਰ ਇਸਦੀ ਨਿਗਰਾਨੀ ਨਾ ਕਰੋ।
• ਪਾਰਦਰਸ਼ਤਾ ਨੂੰ ਛੱਡਣਾ ਕਿਉਂਕਿ "ਇਹ ਇੱਕ ਤਕਨੀਕੀ ਵੇਰਵਾ ਹੈ, ਉਪਭੋਗਤਾ ਨਹੀਂ ਸਮਝੇਗਾ"।
• ਅਜਿਹੀ ਪ੍ਰਣਾਲੀ ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਜੋ ਨਾਜ਼ੁਕ ਫੈਸਲਿਆਂ ਵਿੱਚ ਫੈਸਲੇ ਦੇ ਕਾਰਨ ਦੀ ਵਿਆਖਿਆ ਨਹੀਂ ਕਰ ਸਕਦਾ।
• ਪ੍ਰਕਾਸ਼ਨ ਤੋਂ ਬਾਅਦ ਨੈਤਿਕ ਮੁਲਾਂਕਣ ਨੂੰ ਛੱਡ ਕੇ, "ਅਸੀਂ ਬਾਅਦ ਵਿੱਚ ਦੇਖਾਂਗੇ" ਕਹਿ ਕੇ।

ਸੰਖੇਪ ਵਿੱਚ

• ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਤਿੰਨ ਮਾਡਲਾਂ ਵਿੱਚ ਲਾਗੂ ਕੀਤਾ ਗਿਆ ਹੈ; ਲੋਕਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਵਾਲੇ ਫੈਸਲਿਆਂ ਦੇ ਚੱਕਰ ਵਿੱਚ ਲੋਕਾਂ ਨੂੰ ਤਰਜੀਹ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ।
• ਨਿਯੰਤਰਣ ਅਰਥਪੂਰਨ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ; ਰਬੜ ਦੀ ਮੋਹਰ (ਆਟੋ-ਪ੍ਰਵਾਨਗੀ) ਅਸਲ ਆਡਿਟ ਨਹੀਂ ਹੈ।
• ਪੱਖਪਾਤ ਅਕਸਰ ਸਿਖਲਾਈ ਡੇਟਾ ਤੋਂ ਆਉਂਦਾ ਹੈ; ਸੰਵੇਦਨਸ਼ੀਲ ਅਤੇ ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ ਦੀ ਜਾਂਚ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ ਅਤੇ ਲਗਾਤਾਰ ਨਿਗਰਾਨੀ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ।
• ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਵਿਆਖਿਆਯੋਗਤਾ ਲਈ ਉਪਭੋਗਤਾ ਨੂੰ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਪੇਸ਼ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਕਿ AI ਖੇਡ ਵਿੱਚ ਹੈ ਅਤੇ ਫੈਸਲੇ ਦਾ ਕਾਰਨ ਹੈ।
• ਪ੍ਰਕਾਸ਼ਨ ਤੋਂ ਪਹਿਲਾਂ ਨੈਤਿਕ ਸਮੀਖਿਆ ਹੁੰਦੀ ਹੈ; ਜ਼ਿੰਮੇਵਾਰੀ ਹਮੇਸ਼ਾਂ ਮਨੁੱਖ ਦੀ ਹੁੰਦੀ ਹੈ, "ਏਆਈ ਨੇ ਅਜਿਹਾ ਕਿਹਾ" ਕੋਈ ਬਹਾਨਾ ਨਹੀਂ ਹੈ।

ਐਪਲੀਕੇਸ਼ਨ ਦਾ ਕੰਮ

ਇੱਕ AI ਫੈਸਲੇ ਦੀ ਪ੍ਰਕਿਰਿਆ ਚੁਣੋ ਜੋ ਤੁਹਾਡੀ ਸੰਸਥਾ ਵਿੱਚ ਲੋਕਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦੀ ਹੈ (ਉਦਾਹਰਨ ਲਈ, ਐਪਲੀਕੇਸ਼ਨ ਮੁਲਾਂਕਣ)। ਇਸ ਪ੍ਰਕਿਰਿਆ ਲਈ ਉਚਿਤ ਮਾਨਵੀ ਨਿਯੰਤਰਣ ਮਾਡਲ ਨੂੰ ਜਾਇਜ਼ਤਾ ਦੇ ਨਾਲ ਨਿਰਧਾਰਤ ਕਰੋ ਅਤੇ ਰਬੜ ਸਟੈਂਪਿੰਗ ਨੂੰ ਰੋਕਣ ਲਈ ਇੱਕ ਠੋਸ ਨਿਯੰਤਰਣ ਡਿਜ਼ਾਈਨ ਕਰੋ (ਜਿਵੇਂ ਕਿ ਉਚਿਤਤਾ, ਨਮੂਨਾ ਸਮੀਖਿਆ ਦੇਖਣ ਦੀ ਲੋੜ)। ਫਿਰ ਇੱਕ ਪੱਖਪਾਤ ਜਾਂਚ ਯੋਜਨਾ ਲਿਖੋ: ਨਿਸ਼ਚਿਤ ਕਰੋ ਕਿ ਤੁਸੀਂ ਕਿਹੜੇ ਸਮੂਹਾਂ ਦੀ ਤੁਲਨਾ ਕਰੋਗੇ, ਕਿਸ ਮੈਟ੍ਰਿਕ ਨਾਲ, ਕਿੰਨੀ ਵਾਰ, ਅਤੇ ਤੁਸੀਂ ਕਿਹੜੇ ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲਾਂ ਵੱਲ ਧਿਆਨ ਦੇਵੋਗੇ। ਅੰਤ ਵਿੱਚ, ਇੱਕ ਫੈਸਲੇ ਦੀ ਵਿਆਖਿਆ ਦਾ ਖਰੜਾ ਤਿਆਰ ਕਰੋ ਜੋ ਇਸ ਪ੍ਰਕਿਰਿਆ ਦੇ ਦੌਰਾਨ ਵਿਅਕਤੀ ਨੂੰ ਦਿਖਾਇਆ ਜਾਵੇਗਾ ਅਤੇ ਇੱਕ ਅਪੀਲ/ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਮਾਰਗ ਸ਼ਾਮਲ ਕਰੇਗਾ।

ਚੈੱਕਲਿਸਟ

• [ ] ਮੈਂ ਪ੍ਰਕਿਰਿਆ ਲਈ ਉਚਿਤ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਮਾਡਲ ਚੁਣਿਆ ਹੈ।
• [ ] ਮੈਂ ਇੱਕ ਠੋਸ ਨਿਯੰਤਰਣ ਤਿਆਰ ਕੀਤਾ ਹੈ ਜੋ ਰਬੜ ਦੀ ਮੋਹਰ ਨੂੰ ਰੋਕੇਗਾ।
• [ ] ਮੈਂ ਇੱਕ ਪੱਖਪਾਤ ਜਾਂਚ ਯੋਜਨਾ (ਸਮੂਹ, ਮੀਟ੍ਰਿਕ, ਬਾਰੰਬਾਰਤਾ) ਤਿਆਰ ਕੀਤੀ ਹੈ।
• [ ] ਮੈਂ ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ ਦੇ ਜੋਖਮ ਦਾ ਮੁਲਾਂਕਣ ਕੀਤਾ।
• [ ] ਮੈਂ ਵਿਅਕਤੀ ਲਈ ਇੱਕ ਫੈਸਲੇ ਦੀ ਵਿਆਖਿਆ ਦਾ ਟੈਕਸਟ ਲਿਖਿਆ ਹੈ।
• [ ] ਮੈਂ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਅਪੀਲ ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਦਾ ਮਾਰਗ ਪੇਸ਼ ਕੀਤਾ ਹੈ।
• [ ] ਮੈਂ ਪ੍ਰਕਾਸ਼ਨ ਤੋਂ ਪਹਿਲਾਂ ਨੈਤਿਕਤਾ ਦੀ ਸਮੀਖਿਆ ਕੀਤੀ।