ਲਾਭ:
- ਇਹ ਸਮਝਣਾ ਕਿ ਕਿਵੇਂ ਨਕਲੀ ਖੁਫੀਆ ਮਾਡਲਾਂ ਵਿੱਚ ਪੱਖਪਾਤ ਡੇਟਾ ਅਤੇ ਡਿਜ਼ਾਈਨ ਤੋਂ ਪੈਦਾ ਹੁੰਦਾ ਹੈ ਅਤੇ ਇਹ ਬੈਂਕਿੰਗ ਵਿੱਚ ਕਾਨੂੰਨੀ ਅਤੇ ਨੈਤਿਕ ਜੋਖਮ ਕਿਉਂ ਪੈਦਾ ਕਰਦਾ ਹੈ
- ਨਿਰਪੱਖਤਾ ਦੇ ਮਾਮਲੇ ਵਿੱਚ ਸੁਰੱਖਿਅਤ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ, ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲ ਅਤੇ ਅਸਿੱਧੇ ਵਿਤਕਰੇ ਅਤੇ ਪ੍ਰਸ਼ਨ ਮਾਡਲ ਫੈਸਲਿਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਦੀ ਸਮਰੱਥਾ
- ਇਹ ਸਮਝਣ ਦੀ ਯੋਗਤਾ ਕਿ ਕਿਵੇਂ ਨਿਆਂ ਮਾਪਦੰਡ, ਬਾਹਰ ਕੀਤੇ ਸਮੂਹ ਅਤੇ ਇਤਰਾਜ਼ ਕਰਨ ਦਾ ਅਧਿਕਾਰ ਮਾਡਲ ਸ਼ਾਸਨ ਵਿੱਚ ਬੁਣਿਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਵਿਤਕਰੇ ਦੀ ਲਾਲ ਲਾਈਨ ਨੂੰ ਕਾਇਮ ਰੱਖਦਾ ਹੈ
ਇੱਕ AI ਮਾਡਲ ਨਿਰਪੱਖ ਨਹੀਂ ਹੈ; ਇਹ ਸਿੱਖੇ ਗਏ ਡੇਟਾ ਦਾ ਪ੍ਰਤੀਬਿੰਬ ਹੈ। ਜੇਕਰ ਡੇਟਾ ਪਿਛਲੀਆਂ ਅਸਮਾਨਤਾਵਾਂ ਨੂੰ ਰੱਖਦਾ ਹੈ, ਤਾਂ ਮਾਡਲ ਉਹਨਾਂ ਨੂੰ ਸਿੱਖਦਾ ਹੈ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਭਵਿੱਖ ਵਿੱਚ ਲੈ ਜਾਂਦਾ ਹੈ। ਬੈਂਕਿੰਗ ਵਿੱਚ, ਇਹ ਇੱਕ ਅਮੂਰਤ ਨੈਤਿਕ ਬਹਿਸ ਨਹੀਂ ਹੈ: ਜੇਕਰ ਇੱਕ ਕ੍ਰੈਡਿਟ ਮਾਡਲ ਯੋਜਨਾਬੱਧ ਤੌਰ 'ਤੇ ਕਿਸੇ ਖਾਸ ਸਮੂਹ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦਾ ਹੈ, ਤਾਂ ਇਹ ਗੈਰ-ਕਾਨੂੰਨੀ (ਭੇਦਭਾਵ ਦੀ ਮਨਾਹੀ) ਅਤੇ ਇੱਕ ਨੈਤਿਕ ਉਲੰਘਣਾ ਹੈ, ਜਿਸ ਨਾਲ ਬੈਂਕ ਲਈ ਪ੍ਰਤਿਸ਼ਠਾ ਅਤੇ ਪਾਬੰਦੀਆਂ ਦੇ ਜੋਖਮ ਹੁੰਦੇ ਹਨ। ਇਸ ਯੂਨਿਟ ਦਾ ਉਦੇਸ਼ ਇਹ ਦਿਖਾਉਣਾ ਹੈ ਕਿ ਕਿਵੇਂ ਮਾਡਲ ਪੱਖਪਾਤੀ ਬਣ ਜਾਂਦਾ ਹੈ, ਵਿਤਕਰੇ ਦੇ ਸਿੱਧੇ ਅਤੇ ਅਸਿੱਧੇ ਰੂਪ, ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲ ਜਾਲ, ਅਤੇ ਮਾਡਲ ਸ਼ਾਸਨ ਵਿੱਚ ਨਿਰਪੱਖਤਾ ਨੂੰ ਬੁਣਨ ਦੇ ਤਰੀਕੇ। ਇੱਕ ਲਾਲ ਲਾਈਨ ਸ਼ੁਰੂ ਤੋਂ ਹੀ ਕਹੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ: ਵਿਤਕਰਾ, ਭਾਵੇਂ ਇਹ ਕਿੰਨਾ ਵੀ "ਅੰਕੜਾਤਮਕ" ਜਾਪਦਾ ਹੋਵੇ, ਅਸਵੀਕਾਰਨਯੋਗ ਹੈ।
ਪੱਖਪਾਤ ਕਿੱਥੋਂ ਆਉਂਦਾ ਹੈ?
- ਡੇਟਾ ਪੱਖਪਾਤ: ਜੇਕਰ ਪਿਛਲੇ ਫੈਸਲੇ ਗਲਤ ਸਨ (ਜਿਵੇਂ ਕਿ ਕਿਸੇ ਖਾਸ ਸਮੂਹ ਨੂੰ ਅਤੀਤ ਵਿੱਚ ਘੱਟ ਕ੍ਰੈਡਿਟ ਦਿੱਤਾ ਗਿਆ ਸੀ), ਮਾਡਲ ਮੰਨਦਾ ਹੈ ਕਿ ਇਹ "ਆਮ" ਹੈ ਅਤੇ ਜਾਰੀ ਰਹਿੰਦਾ ਹੈ। ਇਸ ਨੂੰ ਇਤਿਹਾਸਕ ਪੱਖਪਾਤ ਕਿਹਾ ਜਾਂਦਾ ਹੈ।
- ਸੈਂਪਲਿੰਗ ਪੱਖਪਾਤ: ਜੇਕਰ ਕੁਝ ਸਮੂਹਾਂ ਨੂੰ ਡੇਟਾ ਵਿੱਚ ਘੱਟ ਦਰਸਾਇਆ ਗਿਆ ਹੈ, ਤਾਂ ਮਾਡਲ ਉਹਨਾਂ ਬਾਰੇ ਮਾੜੀ ਅਤੇ ਗਲਤ ਢੰਗ ਨਾਲ ਸਿੱਖਦਾ ਹੈ।
- ਲੇਬਲ ਪੱਖਪਾਤ: ਜੇਕਰ "ਚੰਗੇ ਗਾਹਕ" ਦੀ ਪਰਿਭਾਸ਼ਾ ਆਪਣੇ ਆਪ ਵਿੱਚ ਪੱਖਪਾਤੀ ਹੈ, ਤਾਂ ਮਾਡਲ ਪੱਖਪਾਤ ਲਈ ਅਨੁਕੂਲ ਬਣਾਉਂਦਾ ਹੈ।
- ਡਿਜ਼ਾਇਨ ਪੱਖਪਾਤ: ਮਨੁੱਖੀ ਚੋਣਾਂ ਜਿਸ ਬਾਰੇ ਵੇਰੀਏਬਲ ਵਰਤਣੇ ਹਨ ਉਹ ਵੀ ਪੱਖਪਾਤ ਕਰ ਸਕਦੇ ਹਨ।
ਸੰਕੇਤ: "ਮਾਡਲ ਡੇਟਾ 'ਤੇ ਅਧਾਰਤ ਹੈ, ਇਸ ਲਈ ਇਹ ਉਦੇਸ਼ ਹੈ" ਇੱਕ ਗਲਤ ਧਾਰਨਾ ਹੈ। ਡੇਟਾ ਅਤੀਤ ਦਾ ਇੱਕ ਸਨੈਪਸ਼ਾਟ ਹੈ; ਜੇ ਅਤੀਤ ਬੇਇਨਸਾਫ਼ੀ ਸੀ, ਤਾਂ "ਉਦੇਸ਼" ਮਾਡਲ ਗਣਿਤ ਨਾਲ ਬੇਇਨਸਾਫ਼ੀ ਨੂੰ ਜਾਇਜ਼ ਠਹਿਰਾਉਂਦਾ ਹੈ। ਉਦੇਸ਼ਵਾਦ ਨਿਰਪੱਖਤਾ ਦੀ ਗਾਰੰਟੀ ਨਹੀਂ ਹੈ.
ਸਿੱਧੇ ਅਤੇ ਅਸਿੱਧੇ ਵਿਤਕਰੇ
- ਸਿੱਧਾ ਵਿਤਕਰਾ: ਇੱਕ ਸੁਰੱਖਿਅਤ ਵਿਸ਼ੇਸ਼ਤਾ (ਲਿੰਗ, ਨਸਲ, ਧਰਮ, ਉਮਰ) ਦੀ ਮਾਡਲ ਦੀ ਸਿੱਧੀ ਵਰਤੋਂ। ਇਹ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਮਨਾਹੀ ਹੈ.
- ਅਸਿੱਧੇ ਵਿਤਕਰੇ (ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ / ਪ੍ਰੌਕਸੀ): ਭਾਵੇਂ ਕਿ ਮਾਡਲ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਸੁਰੱਖਿਅਤ ਵਿਸ਼ੇਸ਼ਤਾ ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰਦਾ ਹੈ, ਇਹ ਇੱਕ ਹੋਰ ਵੇਰੀਏਬਲ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਉਹੀ ਨਤੀਜਾ ਪੈਦਾ ਕਰਦਾ ਹੈ ਜੋ ਇਸ ਨਾਲ ਮਜ਼ਬੂਤੀ ਨਾਲ ਸੰਬੰਧਿਤ ਹੈ (ਜ਼ਿਪ ਕੋਡ, ਨਾਮ, ਖਰੀਦਦਾਰੀ ਸ਼੍ਰੇਣੀ, ਕਾਰਜਸ਼ੀਲ ਜ਼ਿਲ੍ਹਾ)। ਜ਼ਿਪ ਕੋਡ ਅਕਸਰ ਨਸਲੀ ਜਾਂ ਆਮਦਨ ਪੱਧਰ ਲਈ ਇੱਕ ਪ੍ਰੌਕਸੀ ਹੁੰਦਾ ਹੈ। ਮਾਡਲ "ਗੁਆਂਢ" ਕਹਿੰਦਾ ਹੈ ਪਰ ਨਤੀਜਾ "ਮੂਲ" ਵਿਤਕਰਾ ਹੈ.
ਵੇਰੀਏਬਲ
ਜ਼ਾਹਰ ਹੈ
ਇੱਕ ਪ੍ਰੌਕਸੀ ਹੋ ਸਕਦਾ ਹੈ
ਪੋਸਟਕੋਡ/ਜ਼ਿਲ੍ਹਾ
ਭੂਗੋਲ
ਜਾਤੀ, ਆਮਦਨ ਦਾ ਪੱਧਰ
ਨਾਮ
ਆਈ.ਡੀ
ਮੂਲ, ਲਿੰਗ
ਖਰੀਦਦਾਰੀ ਸ਼੍ਰੇਣੀ
ਵਿਹਾਰ
ਜੀਵਨ ਸ਼ੈਲੀ, ਵਿਸ਼ਵਾਸ
ਗ੍ਰੈਜੂਏਟ ਸਕੂਲ
ਸਿੱਖਿਆ
ਸਮਾਜਿਕ-ਆਰਥਿਕ ਮੂਲ
ਇਸ ਲਈ ਅਲਾਰਮ ਵੱਜਣਾ ਚਾਹੀਦਾ ਹੈ ਜਦੋਂ ਤੁਸੀਂ ਇੱਕ ਬਿਆਨ ਵਿੱਚ "ਆਂਢ-ਗੁਆਂਢ ਜੋਖਮ ਭਰਿਆ ਹੈ" ਵਰਗਾ ਬਿਆਨ ਦੇਖਦੇ ਹੋ: ਇਹ ਇੱਕ ਜਾਇਜ਼ ਮਾਪਦੰਡ ਜਾਪਦਾ ਹੈ ਪਰ ਅਸਿੱਧੇ ਵਿਤਕਰੇ ਨੂੰ ਲੈ ਸਕਦਾ ਹੈ।
ਸਾਵਧਾਨ: ਡੇਟਾ ਤੋਂ ਸੁਰੱਖਿਅਤ ਵਿਸ਼ੇਸ਼ਤਾ ਨੂੰ ਹਟਾਉਣ ਨਾਲ ਭੇਦਭਾਵ ਖਤਮ ਨਹੀਂ ਹੁੰਦਾ। ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ ਇਸ ਨੂੰ ਵਾਪਸ ਕਰ ਸਕਦੇ ਹਨ। "ਮੈਂ ਸੰਵੇਦਨਸ਼ੀਲ ਕਾਲਮ ਨੂੰ ਮਿਟਾਇਆ" ਦੁਆਰਾ ਨਿਆਂ ਪ੍ਰਾਪਤ ਨਹੀਂ ਹੁੰਦਾ; ਇਹ ਸਮੂਹਾਂ ਵਿਚਕਾਰ ਮਾਡਲ ਫੈਸਲਿਆਂ ਦੇ ਨਤੀਜਿਆਂ ਦੀ ਜਾਂਚ ਕਰਕੇ ਪ੍ਰਾਪਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।
ਸ਼ਾਸਨ ਵਿੱਚ ਨਿਆਂ ਨੂੰ ਬੁਣਨਾ
- ਨਿਰਪੱਖਤਾ ਮਾਪਕ। ਗਰੁੱਪਾਂ ਵਿਚਕਾਰ ਮਾਡਲ ਦੀ ਮਨਜ਼ੂਰੀ/ਅਸਵੀਕਾਰ ਦਰਾਂ ਅਤੇ ਗਲਤੀ ਦਰਾਂ ਦੀ ਤੁਲਨਾ ਕਰੋ। ਕੀ ਇੱਕ ਸਮੂਹ ਯੋਜਨਾਬੱਧ ਤੌਰ 'ਤੇ ਉੱਚ ਅਸਵੀਕਾਰੀਆਂ ਦਾ ਅਨੁਭਵ ਕਰਦਾ ਹੈ?
- ਪ੍ਰੌਕਸੀ ਨਿਯੰਤਰਣ। ਸੁਰੱਖਿਅਤ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨਾਲ ਵਰਤੇ ਗਏ ਵੇਰੀਏਬਲ ਦੇ ਸਬੰਧਾਂ ਦੀ ਜਾਂਚ ਕਰੋ।
- ਵਿਆਖਿਆਯੋਗਤਾ. ਹਰ ਫੈਸਲੇ ਲਈ ਜਾਇਜ਼ਤਾ ਪੇਸ਼ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ; ਇੱਕ "ਬਲੈਕ ਬਾਕਸ" ਇਨਕਾਰ ਅਸਥਿਰ ਹੈ।
- ਇਤਰਾਜ਼ ਕਰਨ ਦਾ ਅਧਿਕਾਰ. ਗਾਹਕ ਨੂੰ ਫੈਸਲੇ ਲਈ ਤਰਕ ਸਿੱਖਣ ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਦੀ ਬੇਨਤੀ ਕਰਨ ਦਾ ਅਧਿਕਾਰ ਦਿੱਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
- ਬਾਹਰ ਕੀਤੇ ਸਮੂਹ। ਇਹ ਵੀ ਜਾਂਚ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ ਕਿ ਡੇਟਾ ਵਿੱਚ ਘੱਟ ਪੇਸ਼ ਕੀਤੇ ਸਮੂਹਾਂ ਨਾਲ ਦੁਰਵਿਵਹਾਰ ਤਾਂ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਹੈ।
ਚਾਰ ਕਾਪੀ ਕਰਨ ਯੋਗ ਟੈਂਪਲੇਟ
1) ਜਾਇਜ਼ਤਾ ਵਿੱਚ ਵਿਤਕਰੇ ਲਈ ਸਕ੍ਰੀਨਿੰਗ:
ਹੇਠਾਂ ਦਿੱਤੇ ਕ੍ਰੈਡਿਟ ਫੈਸਲੇ ਦੇ ਤਰਕ ਦੀ ਜਾਂਚ ਕਰੋ: ਕੀ ਇੱਥੇ ਇੱਕ ਸੁਰੱਖਿਅਤ ਵਿਸ਼ੇਸ਼ਤਾ (ਉਮਰ, ਲਿੰਗ, ਮੂਲ, ਧਰਮ) ਜਾਂ ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲ (ਪੋਸਟਕੋਡ, ਆਂਢ-ਗੁਆਂਢ, ਨਾਮ, ਖਰੀਦਦਾਰੀ ਕਿਸਮ) ਦਾ ਸਿੱਧਾ/ਅਸਿੱਧਾ ਹਵਾਲਾ ਹੈ? ਜੋਖਮ ਭਰੇ ਬਿਆਨਾਂ ਨੂੰ ਫਲੈਗ ਕਰੋ ਅਤੇ ਦੱਸੋ ਕਿ ਉਹ ਵਿਤਕਰੇ ਦਾ ਜੋਖਮ ਕਿਉਂ ਰੱਖਦੇ ਹਨ। ਕਾਰਨ: [ਟੈਕਸਟ]
2) ਵੇਰੀਏਬਲ ਸੂਚੀ ਪ੍ਰੌਕਸੀ ਨਿਯੰਤਰਣ:
ਕ੍ਰੈਡਿਟ ਮਾਡਲ ਵਿੱਚ ਵਰਤੇ ਗਏ ਵੇਰੀਏਬਲਾਂ ਦੀ ਇਸ ਸੂਚੀ ਦੀ ਜਾਂਚ ਕਰੋ। ਕਿਹੜੇ ਲੋਕ ਇੱਕ ਸੁਰੱਖਿਅਤ ਵਿਸ਼ੇਸ਼ਤਾ ਲਈ ਪ੍ਰੌਕਸੀ ਹੋ ਸਕਦੇ ਹਨ ਅਤੇ ਅਸਿੱਧੇ ਵਿਤਕਰੇ ਦਾ ਖਤਰਾ ਬਣ ਸਕਦੇ ਹਨ? ਹਰੇਕ ਜੋਖਮ ਭਰੇ ਰੂਪਾਂ ਲਈ ਆਪਣੀ ਤਰਕਸੰਗਤ ਲਿਖੋ। ਸੂਚੀ: [ਵੇਰੀਏਬਲ]
3) ਨਿਰਪੱਖਤਾ ਦੇ ਰੂਪ ਵਿੱਚ ਫੈਸਲੇ ਦਾ ਸਾਰ (ਨਿਰਪੱਖ, ਵਿਆਖਿਆਯੋਗ):
ਤੁਹਾਡੀ ਭੂਮਿਕਾ: ਸਹਾਇਕ ਜੋ ਇੱਕ ਵਿਆਖਿਆਯੋਗ ਫੈਸਲੇ ਦਾ ਤਰਕ ਤਿਆਰ ਕਰਦਾ ਹੈ। ਸਿਰਫ਼ ਜਾਇਜ਼, ਗੈਰ-ਵਿਤਕਰੇ ਵਾਲੇ ਮਾਪਦੰਡਾਂ (ਕਰਜ਼ਾ-ਤੋਂ-ਆਮਦਨੀ ਅਨੁਪਾਤ, ਭੁਗਤਾਨ ਇਤਿਹਾਸ, ਸੰਪੱਤੀ) 'ਤੇ ਭਰੋਸਾ ਕਰੋ। ਸੁਰੱਖਿਅਤ ਜਾਇਦਾਦ ਅਤੇ ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ ਦਾ ਹਵਾਲਾ ਨਾ ਦਿਓ। ਤਰਕ ਨੂੰ ਸਾਦੀ ਭਾਸ਼ਾ ਵਿੱਚ ਲਿਖੋ ਜੋ ਗਾਹਕ ਸਮਝ ਸਕੇ। ਮੈਂ ਮਨਜ਼ੂਰੀ ਦੇਵਾਂਗਾ।
4) ਇਤਰਾਜ਼ ਜਵਾਬ ਦਾ ਖਰੜਾ:
ਇੱਕ ਗਾਹਕ ਨੇ ਕ੍ਰੈਡਿਟ ਨਾਮਨਜ਼ੂਰ ਦੀ ਅਪੀਲ ਕੀਤੀ ਅਤੇ ਉਹ ਜਾਇਜ਼ਤਾ ਚਾਹੁੰਦਾ ਹੈ। ਜਾਇਜ਼ ਮਾਪਦੰਡਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਇੱਕ ਸਤਿਕਾਰਯੋਗ ਅਤੇ ਵਰਣਨਯੋਗ ਜਵਾਬ ਦਾ ਖਰੜਾ ਤਿਆਰ ਕਰੋ; ਗਾਹਕ ਨੂੰ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਅਤੇ ਸੁਧਾਰ ਦੇ ਉਸਦੇ ਅਧਿਕਾਰ ਦੀ ਯਾਦ ਦਿਵਾਓ। ਕਿਸੇ ਵੀ ਪੱਖਪਾਤੀ ਭਾਵਾਂ ਦੀ ਵਰਤੋਂ ਨਾ ਕਰੋ। ਅਸਵੀਕਾਰ ਕਰਨ ਦਾ ਪ੍ਰਮਾਣਿਤ ਕਾਰਨ: [ਕਾਰਨ]
ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ / ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ
ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ:
ਇਸ ਖੇਤਰ ਵਿੱਚ ਐਪਲੀਕੇਸ਼ਨਾਂ ਬਹੁਤ ਜੋਖਮ ਭਰੀਆਂ ਹਨ, ਆਓ ਮਾਡਲ ਵਿੱਚ ਜ਼ਿਲ੍ਹੇ ਦੀ ਜਾਣਕਾਰੀ ਦੀ ਵਧੇਰੇ ਵਰਤੋਂ ਕਰੀਏ ਤਾਂ ਜੋ ਸ਼ੁੱਧਤਾ ਨੂੰ ਵਧਾਇਆ ਜਾ ਸਕੇ।
ਇਹ ਪਹੁੰਚ ਜ਼ਿਲ੍ਹੇ ਦੇ ਆਧਾਰ 'ਤੇ ਅਸਿੱਧੇ ਵਿਤਕਰੇ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਦੀ ਹੈ; ਇਹ "ਹਿੱਟ" ਦੇ ਨਾਮ 'ਤੇ ਗੈਰ-ਕਾਨੂੰਨੀ ਨਤੀਜੇ ਨੂੰ ਜਾਇਜ਼ ਬਣਾਉਂਦਾ ਹੈ।
ਸ਼ਕਤੀਸ਼ਾਲੀ ਪ੍ਰਾਉਟ:
ਤੁਹਾਡੀ ਭੂਮਿਕਾ: ਨਿਆਂ ਆਡਿਟ ਸਹਾਇਕ। ਵਰਤੇ ਗਏ ਵੇਰੀਏਬਲਾਂ ਨੂੰ ਫਲੈਗ ਕਰੋ ਜੋ ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ ਦੇ ਜੋਖਮ ਨੂੰ ਪੈਦਾ ਕਰਦੇ ਹਨ। ਸੁਝਾਅ ਦਿਓ ਕਿ ਮਨਜ਼ੂਰੀ/ਅਸਵੀਕਾਰ ਦਰ ਦੇ ਰੂਪ ਵਿੱਚ ਸਮੂਹਾਂ ਵਿਚਕਾਰ ਫੈਸਲਿਆਂ ਦੀ ਤੁਲਨਾ ਕਰਨ ਲਈ ਮੈਨੂੰ ਕਿਹੜੀਆਂ ਮੈਟ੍ਰਿਕਸ ਦੀ ਪਾਲਣਾ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਕਦੇ ਵੀ ਵਿਤਕਰੇ ਦੇ ਮਾਪਦੰਡ ਨੂੰ ਮਜ਼ਬੂਤ ਨਾ ਕਰੋ; ਜਾਇਜ਼ ਅਤੇ ਵਿਆਖਿਆਯੋਗ ਮਾਪਦੰਡਾਂ 'ਤੇ ਰੀਡਾਇਰੈਕਟ ਕਰੋ।
ਮਜ਼ਬੂਤ ਇੱਛਾ ਪ੍ਰੌਕਸੀ ਜੋਖਮ ਦੀ ਖੋਜ ਕਰਦੀ ਹੈ, ਨਿਰਪੱਖਤਾ ਮੈਟ੍ਰਿਕਸ ਪੇਸ਼ ਕਰਦੀ ਹੈ, ਅਤੇ ਵਿਤਕਰੇ ਨੂੰ ਰੱਦ ਕਰਦੀ ਹੈ।
ਤਿੰਨ ਛੋਟੇ ਕੇਸ
ਕੇਸ 1 - ਇਤਿਹਾਸਕ ਪੱਖਪਾਤ। ਇੱਕ ਮਾਡਲ ਇੱਕ ਖਾਸ ਕਿੱਤਾਮੁਖੀ ਸਮੂਹ ਨੂੰ ਯੋਜਨਾਬੱਧ ਤੌਰ 'ਤੇ ਘੱਟ ਸਕੋਰ ਦਿੰਦਾ ਹੈ ਕਿਉਂਕਿ ਇਸਨੂੰ ਅਤੀਤ ਵਿੱਚ ਘੱਟ ਕ੍ਰੈਡਿਟ ਦਿੱਤਾ ਗਿਆ ਹੈ। ਇੱਕ ਨਿਰਪੱਖਤਾ ਆਡਿਟ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ ਇਸ ਸਮੂਹ ਲਈ ਅਸਵੀਕਾਰ ਦਰ ਸਮਾਨ ਆਮਦਨੀ ਪੱਧਰਾਂ 'ਤੇ ਦੂਜਿਆਂ ਨਾਲੋਂ 30% ਵੱਧ ਹੈ। ਮਾਡਲ ਨੂੰ ਜਾਇਜ਼ ਆਮਦਨ ਅਤੇ ਭੁਗਤਾਨ ਦੇ ਮਾਪਦੰਡ ਨਾਲ ਮੁੜ ਸੰਤੁਲਿਤ ਕੀਤਾ ਗਿਆ ਹੈ।
ਕੇਸ 2 - ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ। ਜ਼ਿਪ ਕੋਡ ਇੱਕ ਮਾਡਲ ਵਿੱਚ ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਵੇਰੀਏਬਲ ਹੈ। ਆਡਿਟ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ ਜ਼ਿਪ ਕੋਡ ਕੁਝ ਨਸਲੀ ਤੌਰ 'ਤੇ ਕੇਂਦਰਿਤ ਆਂਢ-ਗੁਆਂਢ ਦੇ ਨਾਲ ਓਵਰਲੈਪ ਕਰਦਾ ਹੈ, ਅਸਿੱਧੇ ਮੂਲ ਵਿਤਕਰਾ ਪੈਦਾ ਕਰਦਾ ਹੈ। ਵੇਰੀਏਬਲ ਨੂੰ ਹਟਾ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ ਅਤੇ ਜਾਇਜ਼ ਵਿੱਤੀ ਮਾਪਦੰਡਾਂ ਦੁਆਰਾ ਬਦਲਿਆ ਜਾਂਦਾ ਹੈ; ਪ੍ਰਦਰਸ਼ਨ ਸਵੀਕਾਰਯੋਗ ਪੱਧਰ 'ਤੇ ਰਹਿੰਦਾ ਹੈ, ਵਿਤਕਰਾ ਖਤਮ ਹੋ ਜਾਂਦਾ ਹੈ।
ਕੇਸ 3 - ਇਤਰਾਜ਼ ਕਰਨ ਦਾ ਅਧਿਕਾਰ। ਇੱਕ ਅਸਵੀਕਾਰ ਕੀਤਾ ਗਿਆ ਗਾਹਕ ਜਾਇਜ਼ਤਾ ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ. ਬੈਂਕ ਸਪੱਸ਼ਟੀਕਰਨਯੋਗ ਉਚਿਤਤਾ (ਉੱਚ ਕਰਜ਼ੇ-ਤੋਂ-ਆਮਦਨ ਅਨੁਪਾਤ) ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਲਈ ਬੇਨਤੀ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦਾ ਹੈ। ਸਮੀਖਿਆ ਤੋਂ ਪਤਾ ਲੱਗਦਾ ਹੈ ਕਿ ਇੱਕ ਦਸਤਾਵੇਜ਼ ਦੇ ਗਲਤ ਪੜ੍ਹੇ ਗਏ ਹਨ; ਫੈਸਲਾ ਠੀਕ ਹੋ ਗਿਆ ਹੈ। ਵਿਆਖਿਆਯੋਗਤਾ ਅਤੇ ਇਤਰਾਜ਼ ਕਰਨ ਦਾ ਅਧਿਕਾਰ ਨਿਆਂ ਨਾਲ ਗਲਤੀ ਲਈ ਮੁਆਵਜ਼ਾ ਦਿੰਦਾ ਹੈ।
ਨਿਰਪੱਖਤਾ ਮੈਟ੍ਰਿਕਸ: ਅਸੀਂ ਕੀ ਅਤੇ ਕਿਵੇਂ ਮਾਪਦੇ ਹਾਂ
"ਕੀ ਮਾਡਲ ਨਿਰਪੱਖ ਹੈ?" ਸਵਾਲ ਦਾ ਕੋਈ ਵੀ ਜਵਾਬ ਨਹੀਂ ਹੈ; ਨਿਆਂ ਦੀਆਂ ਕਈ ਪਰਿਭਾਸ਼ਾਵਾਂ ਹਨ, ਅਤੇ ਉਹ ਕਈ ਵਾਰ ਇੱਕ ਦੂਜੇ ਨਾਲ ਟਕਰਾ ਜਾਂਦੀਆਂ ਹਨ। ਇੱਥੇ ਕੁਝ ਤਰੀਕੇ ਹਨ ਜੋ ਬੈਂਕਿੰਗ ਵਿੱਚ ਅਮਲੀ ਤੌਰ 'ਤੇ ਅਪਣਾਏ ਜਾਂਦੇ ਹਨ:
- ਮਨਜ਼ੂਰੀ/ਅਸਵੀਕਾਰ ਦਰ ਦੀ ਤੁਲਨਾ: ਕੀ ਪ੍ਰਵਾਨਗੀ ਦਰ ਸਮਾਨ ਵਿੱਤੀ ਪ੍ਰੋਫਾਈਲਾਂ ਵਾਲੇ ਵੱਖ-ਵੱਖ ਸਮੂਹਾਂ (ਜਿਵੇਂ ਕਿ ਲਿੰਗ ਸਮੂਹ) ਦੇ ਵਿਚਕਾਰ ਯੋਜਨਾਬੱਧ ਤੌਰ 'ਤੇ ਵੱਖਰੀ ਹੈ? ਇੱਕ ਵੱਡਾ ਅਤੇ ਅਣਜਾਣ ਅੰਤਰ ਪੱਖਪਾਤ ਦੀ ਨਿਸ਼ਾਨੀ ਹੈ।
- ਗਲਤੀ ਦਰ ਸਮਾਨਤਾ: ਕੀ ਮਾਡਲ ਦੀ ਝੂਠੀ ਅਸਵੀਕਾਰ (ਇੱਕ ਜਾਇਜ਼ ਅਰਜ਼ੀ ਨੂੰ ਰੱਦ ਕਰਨਾ) ਦਰ ਸਮੂਹਾਂ ਵਿੱਚ ਸੰਤੁਲਿਤ ਹੈ? ਜੇ ਇੱਕ ਸਮੂਹ ਨੂੰ ਦੂਜੇ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਵਾਰ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਰੱਦ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਇੱਕ ਸਮੱਸਿਆ ਹੈ।
- ਕੈਲੀਬ੍ਰੇਸ਼ਨ: ਕੀ ਮਾਡਲ "ਉੱਚ ਜੋਖਮ" ਨੂੰ ਕਾਲ ਕਰਨ ਵਾਲੇ ਗਾਹਕਾਂ ਨੂੰ ਹਰੇਕ ਸਮੂਹ ਵਿੱਚ ਸਮਾਨ ਦਰਾਂ 'ਤੇ ਅਸਲ ਵਿੱਚ ਡਿਫਾਲਟ ਹੈ? ਸਕੋਰ ਦਾ ਅਰਥ ਗਰੁੱਪ ਤੋਂ ਗਰੁੱਪ ਵਿੱਚ ਨਹੀਂ ਬਦਲਣਾ ਚਾਹੀਦਾ ਹੈ।
ਇਹ ਮੈਟ੍ਰਿਕਸ ਕਈ ਵਾਰ ਇੱਕੋ ਸਮੇਂ ਪ੍ਰਦਾਨ ਨਹੀਂ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ; ਨਿਆਂ ਦੀ ਕਿਹੜੀ ਪਰਿਭਾਸ਼ਾ ਨੂੰ ਤਰਜੀਹ ਦੇਣੀ ਹੈ, ਇਹ ਤਕਨੀਕੀ ਨਹੀਂ ਸਗੋਂ ਇੱਕ ਨੈਤਿਕ ਅਤੇ ਕਾਨੂੰਨੀ ਫੈਸਲਾ ਹੈ ਅਤੇ ਇਸ ਲਈ ਮਨੁੱਖੀ ਸ਼ਾਸਨ ਦੀ ਲੋੜ ਹੈ।
ਸੰਕੇਤ: ਨਿਯਮਤ ਅੰਤਰਾਲਾਂ 'ਤੇ ਨਿਰਪੱਖਤਾ ਮੈਟ੍ਰਿਕ ਨੂੰ ਮਾਪੋ, ਨਾ ਕਿ ਸਿਰਫ਼ ਜਦੋਂ ਤੁਸੀਂ ਮਾਡਲ ਬਣਾਉਂਦੇ ਹੋ। ਇੱਕ ਮਾਡਲ ਸਹੀ ਢੰਗ ਨਾਲ ਲਾਈਵ ਹੋ ਸਕਦਾ ਹੈ ਅਤੇ ਡਾਟਾ ਡ੍ਰਾਈਫਟ ਦੇ ਕਾਰਨ ਸਮੇਂ ਦੇ ਨਾਲ ਪੱਖਪਾਤੀ ਹੋ ਸਕਦਾ ਹੈ। ਨਿਆਂ “ਸਥਾਪਨਾ” ਦਾ ਨਹੀਂ ਸਗੋਂ “ਨਿਗਰਾਨੀ” ਦਾ ਮਾਮਲਾ ਹੈ।
ਆਮ ਗਲਤੀਆਂ
- "ਉਦੇਸ਼ ਸੰਬੰਧੀ ਡੇਟਾ" ਭੁਲੇਖਾ। ਇਹ ਮੰਨ ਕੇ ਕਿ ਮਾਡਲ ਨਿਰਪੱਖ ਹੈ; ਡੇਟਾ ਇਤਿਹਾਸਕ ਪੱਖਪਾਤ ਰੱਖਦਾ ਹੈ।
- ਸਿਰਫ਼ ਸੰਵੇਦਨਸ਼ੀਲ ਕਾਲਮ ਨੂੰ ਮਿਟਾਓ। ਸੁਰੱਖਿਅਤ ਸੰਪਤੀ ਨੂੰ ਹਟਾਉਣਾ ਅਤੇ ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨਾ।
- ਨਿਰਪੱਖਤਾ ਮੈਟ੍ਰਿਕਸ ਨੂੰ ਟਰੈਕ ਨਹੀਂ ਕਰਨਾ। ਸਮੂਹਾਂ ਵਿਚਕਾਰ ਅਸਵੀਕਾਰ/ਗਲਤੀ ਦਰ ਦੀ ਬਿਲਕੁਲ ਤੁਲਨਾ ਨਹੀਂ ਕਰਨਾ।
- ਬਲੈਕ ਬਾਕਸ ਦੇ ਫੈਸਲੇ ਦਾ ਬਚਾਅ ਕਰਦੇ ਹੋਏ। ਅਜਿਹੇ ਫੈਸਲੇ 'ਤੇ ਵਿਚਾਰ ਕਰਨਾ ਜਿਸ ਨੂੰ ਜਾਇਜ਼ ਨਹੀਂ ਠਹਿਰਾਇਆ ਜਾ ਸਕਦਾ।
- ਇਤਰਾਜ਼ ਕਰਨ ਦੇ ਅਧਿਕਾਰ ਨੂੰ ਹਟਾਉਣਾ. ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਨੂੰ ਅਸਮਰੱਥ ਕਰਨਾ ਕਿਉਂਕਿ "ਇਹ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਹੌਲੀ ਕਰ ਦਿੰਦਾ ਹੈ।"
ਧਿਆਨ ਦਿਓ: ਵਿਤਕਰਾ ਅਕਸਰ ਬੁਰਾਈ ਤੋਂ ਨਹੀਂ ਸਗੋਂ ਲਾਪਰਵਾਹੀ ਨਾਲ ਪੈਦਾ ਹੁੰਦਾ ਹੈ। ਇੱਕ ਵੇਰੀਏਬਲ ਜੋੜਿਆ ਗਿਆ ਕਿਉਂਕਿ ਇਹ "ਸ਼ੁੱਧਤਾ ਵਧਾਉਂਦਾ ਹੈ" ਅਣਜਾਣੇ ਵਿੱਚ ਇੱਕ ਸਮੂਹ ਨੂੰ ਬਾਹਰ ਕੱਢ ਸਕਦਾ ਹੈ। ਇਸ ਲਈ ਨਿਆਂ ਨੇਕ ਵਿਸ਼ਵਾਸ 'ਤੇ ਨਹੀਂ ਬਲਕਿ ਨਿਯਮਤ ਜਾਂਚ 'ਤੇ ਅਧਾਰਤ ਹੈ।
ਸਾਰੰਸ਼ ਵਿੱਚ
AI ਮਾਡਲ ਉਹਨਾਂ ਡੇਟਾ ਦੇ ਪੱਖਪਾਤ ਨੂੰ ਰੱਖਦੇ ਹਨ ਜਿਸ ਤੋਂ ਉਹ ਸਿੱਖਦੇ ਹਨ, ਅਤੇ ਬੈਂਕਿੰਗ ਵਿੱਚ ਵਿਤਕਰਾ ਇੱਕ ਕਾਨੂੰਨੀ, ਨੈਤਿਕ ਅਤੇ ਪ੍ਰਤਿਸ਼ਠਾਤਮਕ ਜੋਖਮ ਹੈ। ਸਿੱਧਾ ਵਿਤਕਰਾ ਇੱਕ ਸੁਰੱਖਿਅਤ ਵਿਸ਼ੇਸ਼ਤਾ ਦੀ ਵਰਤੋਂ ਕਰ ਰਿਹਾ ਹੈ; ਦੂਜੇ ਪਾਸੇ, ਅਸਿੱਧੇ ਵਿਤਕਰੇ, ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲ (ਜ਼ਿਪ ਕੋਡ, ਨਾਮ) ਦੇ ਨਾਲ ਉਹੀ ਨਤੀਜਾ ਪੈਦਾ ਕਰ ਰਿਹਾ ਹੈ। ਨਿਆਂ ਦਾ ਮਤਲਬ ਸੰਵੇਦਨਸ਼ੀਲ ਕਾਲਮ ਨੂੰ ਮਿਟਾਉਣਾ ਨਹੀਂ ਹੈ; ਨਿਰਪੱਖਤਾ ਮੈਟ੍ਰਿਕਸ, ਪ੍ਰੌਕਸੀ ਨਿਯੰਤਰਣ, ਵਿਆਖਿਆਯੋਗਤਾ, ਅਤੇ ਇਤਰਾਜ਼ ਕਰਨ ਦੇ ਅਧਿਕਾਰ ਦੁਆਰਾ ਯਕੀਨੀ ਬਣਾਇਆ ਗਿਆ। ਇੱਕ ਵਾਕ ਵਿੱਚ: ਪੈਟਰਨ ਅਤੀਤ ਨੂੰ ਦੁਹਰਾਉਂਦਾ ਹੈ; ਨਿਆਂ ਨੂੰ ਕਾਇਮ ਰੱਖਣਾ ਅਤੇ ਵਿਤਕਰੇ ਨੂੰ ਰੱਦ ਕਰਨਾ ਮਨੁੱਖ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ।
ਐਪਲੀਕੇਸ਼ਨ ਦਾ ਕੰਮ
ਇੱਕ ਕ੍ਰੈਡਿਟ ਮਾਡਲ ਲਈ 8-10 ਵੇਰੀਏਬਲਾਂ ਦੀ ਇੱਕ ਸੂਚੀ ਲਿਖੋ (ਕੁਝ ਜਾਣਬੁੱਝ ਕੇ ਪ੍ਰੌਕਸੀ ਜੋਖਮ ਦੇ ਨਾਲ: ਜ਼ਿਪ ਕੋਡ, ਨਾਮ, ਖਰੀਦਦਾਰੀ ਸ਼੍ਰੇਣੀ)। 2. ਟੈਂਪਲੇਟ ਦੇ ਨਾਲ ਇੱਕ ਪ੍ਰੌਕਸੀ ਜਾਂਚ ਕਰੋ ਅਤੇ ਜੋਖਮ ਵਾਲੇ ਲੋਕਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਕਾਰਨਾਂ ਨਾਲ ਚਿੰਨ੍ਹਿਤ ਕਰੋ। ਫਿਰ ਇੱਕ ਪੱਖਪਾਤੀ ਜਾਇਜ਼ ਪਾਠ ਲਿਖੋ ਅਤੇ ਇਸਨੂੰ ਟੈਮਪਲੇਟ 1 ਨਾਲ ਸਕੈਨ ਕਰੋ। ਅੰਤ ਵਿੱਚ, ਇੱਕ ਪੈਰਾਗ੍ਰਾਫ ਵਿੱਚ ਯੋਜਨਾ ਬਣਾਓ ਕਿ ਤੁਸੀਂ ਗਰੁੱਪਾਂ ਵਿੱਚ ਮਾਡਲ ਦੀ ਅਸਵੀਕਾਰ ਦਰ ਦੀ ਤੁਲਨਾ ਕਰਨ ਲਈ ਕਿਹੜੇ ਨਿਰਪੱਖਤਾ ਮੈਟ੍ਰਿਕਸ ਨੂੰ ਟਰੈਕ ਕਰੋਗੇ।
ਚੈੱਕਲਿਸਟ
- [ ] ਮੈਂ ਜਾਂਚ ਕੀਤੀ ਹੈ ਕਿ ਮਾਡਲ/ਰੈਸ਼ਨਲ ਸੁਰੱਖਿਅਤ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰਦਾ ਹੈ।
- [ ] ਮੈਂ ਪ੍ਰੌਕਸੀ ਵੇਰੀਏਬਲ ਦੇ ਜੋਖਮ ਦੀ ਵੀ ਜਾਂਚ ਕੀਤੀ ਹੈ।
- [ ] ਮੈਂ ਸਮੂਹਾਂ ਵਿਚਕਾਰ ਪ੍ਰਵਾਨਗੀ/ਅਸਵੀਕਾਰ ਅਤੇ ਗਲਤੀ ਦਰ ਦੀ ਤੁਲਨਾ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ।
- [ ] ਮੈਂ ਇਹ ਸੁਨਿਸ਼ਚਿਤ ਕੀਤਾ ਕਿ ਹਰ ਫੈਸਲੇ ਦਾ ਇੱਕ ਵਿਆਖਿਆਯੋਗ ਤਰਕ ਸੀ।
- [ ] ਮੈਂ ਗਾਹਕ ਨੂੰ ਇਤਰਾਜ਼ ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਦਾ ਅਧਿਕਾਰ ਦਿੱਤਾ ਹੈ।
- ਮੈਂ "ਹਿੱਟ" ਦੇ ਆਧਾਰ 'ਤੇ ਵਿਤਕਰੇ ਵਾਲੀ ਲਾਲ ਲਕੀਰ ਨੂੰ ਵੀ ਪਾਰ ਨਹੀਂ ਕੀਤਾ।