ਲਾਭ:
- ਇਹ ਮੁਲਾਂਕਣ ਕਰਨਾ ਕਿ ਕੀ AI ਦੀ ਵਰਤੋਂ ਲਈ DPIA ਦੀ ਲੋੜ ਹੈ
- ਸੱਤ-ਪੜਾਅ DPIA ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਇੱਕ AI ਪ੍ਰੋਜੈਕਟ ਵਿੱਚ ਲਾਗੂ ਕਰਨਾ
- ਸੰਭਾਵਨਾ-ਪ੍ਰਭਾਵ ਮੈਟ੍ਰਿਕਸ ਅਤੇ ਡਿਜ਼ਾਈਨ ਘਟਾਉਣ ਵਾਲੇ ਉਪਾਵਾਂ ਦੇ ਨਾਲ ਜੋਖਮਾਂ ਨੂੰ ਤਰਜੀਹ ਦਿਓ
AI ਦੇ ਕੁਝ ਉਪਯੋਗ ਵਿਅਕਤੀਆਂ ਲਈ ਗੰਭੀਰ ਖਤਰੇ ਪੈਦਾ ਕਰਦੇ ਹਨ: ਵੱਡੇ ਪੈਮਾਨੇ ਦੀ ਨਿਗਰਾਨੀ, ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਪ੍ਰੋਸੈਸਿੰਗ, ਸਵੈਚਲਿਤ ਫੈਸਲੇ। ਅਜਿਹੇ ਪ੍ਰੋਜੈਕਟਾਂ ਵਿੱਚ, KVKK/GDPR ਅਤੇ EU AI ਕਾਨੂੰਨ ਦੋਵੇਂ ਕੰਮ ਸ਼ੁਰੂ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਢਾਂਚਾਗਤ ਜੋਖਮ ਮੁਲਾਂਕਣ ਦੀ ਉਮੀਦ ਕਰਦੇ ਹਨ। ਇਸ ਮੁਲਾਂਕਣ ਦਾ ਨਾਮ ਡਾਟਾ ਪ੍ਰੋਟੈਕਸ਼ਨ ਇਮਪੈਕਟ ਅਸੈਸਮੈਂਟ (DPIA) ਹੈ। ਇਸ ਯੂਨਿਟ ਵਿੱਚ ਅਸੀਂ ਸਿਖਾਂਗੇ ਕਿ ਇਹ ਕਿਵੇਂ ਦੱਸਣਾ ਹੈ ਕਿ ਕੀ ਇੱਕ ਵਰਤੋਂ ਲਈ DPIA ਦੀ ਲੋੜ ਹੈ, ਇੱਕ AI ਪ੍ਰੋਜੈਕਟ ਵਿੱਚ ਸੱਤ-ਪੜਾਵੀ DPIA ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਕਿਵੇਂ ਲਾਗੂ ਕਰਨਾ ਹੈ, ਅਤੇ ਇੱਕ ਸੰਭਾਵਨਾ-ਪ੍ਰਭਾਵ ਮੈਟ੍ਰਿਕਸ ਨਾਲ ਜੋਖਮਾਂ ਨੂੰ ਕਿਵੇਂ ਤਰਜੀਹ ਦਿੱਤੀ ਜਾਵੇ।
DPIA ਕੀ ਹੈ ਅਤੇ ਇਸਦੀ ਲੋੜ ਕਦੋਂ ਹੈ?
ਡੇਟਾ ਪ੍ਰੋਟੈਕਸ਼ਨ ਇਮਪੈਕਟ ਅਸੈਸਮੈਂਟ (DPIA) ਇੱਕ ਢਾਂਚਾਗਤ ਵਿਸ਼ਲੇਸ਼ਣ ਹੈ ਜੋ ਵਿਅਕਤੀਆਂ ਦੇ ਅਧਿਕਾਰਾਂ ਅਤੇ ਆਜ਼ਾਦੀਆਂ 'ਤੇ ਇੱਕ ਪ੍ਰੋਸੈਸਿੰਗ ਗਤੀਵਿਧੀ ਦੇ ਜੋਖਮਾਂ ਦਾ ਪਹਿਲਾਂ ਤੋਂ ਮੁਲਾਂਕਣ ਕਰਦਾ ਹੈ ਅਤੇ ਘਟਾਉਣ ਵਾਲੇ ਉਪਾਵਾਂ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ। ਨਾਜ਼ੁਕ ਬਿੰਦੂ: DPIA ਡਿਜ਼ਾਇਨ ਪੜਾਅ 'ਤੇ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਪ੍ਰਕਿਰਿਆ ਸ਼ੁਰੂ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ - ਸਮੱਸਿਆ ਹੋਣ ਤੋਂ ਬਾਅਦ ਨਹੀਂ।
DPIA ਦੀ ਆਮ ਤੌਰ 'ਤੇ ਲੋੜ ਹੁੰਦੀ ਹੈ ਜਦੋਂ:
- ਨਵੀਂ ਤਕਨਾਲੋਜੀ ਦੀ ਵਰਤੋਂ (ਏਆਈ ਅਕਸਰ ਸ਼ਾਮਲ ਕੀਤੀ ਜਾਂਦੀ ਹੈ)।
- ਨਿੱਜੀ ਡੇਟਾ ਦੀ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਪ੍ਰਕਿਰਿਆ।
- ਯੋਜਨਾਬੱਧ ਨਿਗਰਾਨੀ ਜਾਂ ਪ੍ਰੋਫਾਈਲਿੰਗ।
- ਵਿਸ਼ੇਸ਼ ਡਾਟਾ ਪ੍ਰੋਸੈਸਿੰਗ.
- ਸਵੈਚਲਿਤ ਫੈਸਲੇ ਜੋ ਲੋਕਾਂ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਤੌਰ 'ਤੇ ਪ੍ਰਭਾਵਿਤ ਕਰਦੇ ਹਨ।
ਸੰਕੇਤ: ਜੇਕਰ ਤੁਸੀਂ ਯਕੀਨੀ ਨਹੀਂ ਹੋ, ਤਾਂ "ਸਕ੍ਰੀਨਿੰਗ" ਕਰੋ: ਜੇਕਰ ਉਪਰੋਕਤ ਪੰਜਾਂ ਵਿੱਚੋਂ ਦੋ ਜਾਂ ਵੱਧ ਮੌਜੂਦ ਹਨ, ਤਾਂ DPIA ਕਰਨ ਲਈ ਡਿਫਾਲਟ। DPIA ਕਰਨ ਦੀ ਲਾਗਤ ਘੱਟ ਹੈ; ਅਜਿਹਾ ਨਾ ਕਰਨ ਦੀ ਕੀਮਤ ਇੱਕ ਉਲੰਘਣਾ ਵਿੱਚ ਬਹੁਤ ਜ਼ਿਆਦਾ ਹੁੰਦੀ ਹੈ।
ਸੱਤ-ਪੜਾਅ ਦੀ DPIA ਪ੍ਰਕਿਰਿਆ
ਤੁਸੀਂ ਇਹਨਾਂ ਸੱਤ ਪੜਾਵਾਂ ਵਿੱਚ ਇੱਕ AI ਪ੍ਰੋਜੈਕਟ ਲਈ DPIA ਲਾਗੂ ਕਰਦੇ ਹੋ:
ਕਦਮ
ਤੁਸੀਂ ਕੀ ਕਰਦੇ ਹੋ?
1. ਵਰਣਨ
ਪ੍ਰੋਸੈਸਿੰਗ ਦਾ ਵਰਣਨ ਕਰੋ: ਕਿਹੜਾ ਡੇਟਾ, ਉਦੇਸ਼, ਦਾਇਰੇ, ਪ੍ਰਵਾਹ
2. ਲੋੜ ਅਤੇ ਅਨੁਪਾਤਕਤਾ
ਕੀ AI ਅਸਲ ਵਿੱਚ ਜ਼ਰੂਰੀ ਹੈ? ਕੀ ਕੋਈ ਘੱਟ ਘੁਸਪੈਠ ਵਾਲਾ ਤਰੀਕਾ ਹੈ?
3. ਸਟੇਕਹੋਲਡਰ ਦੀ ਰਾਏ
ਸਬੰਧਤ ਵਿਅਕਤੀਆਂ/ਨੁਮਾਇੰਦਿਆਂ ਦੀ ਰਾਏ ਪ੍ਰਾਪਤ ਕਰੋ
4. ਜੋਖਮ ਦੀ ਪਛਾਣ
ਵਿਅਕਤੀਆਂ ਨੂੰ ਸੰਭਾਵਿਤ ਨੁਕਸਾਨਾਂ ਦੀ ਸੂਚੀ ਬਣਾਓ
5. ਜੋਖਮ ਦਾ ਮੁਲਾਂਕਣ
ਸੰਭਾਵਨਾ ਅਤੇ ਪ੍ਰਭਾਵ ਦੁਆਰਾ ਹਰੇਕ ਜੋਖਮ ਨੂੰ ਸਕੋਰ ਕਰੋ
6. ਘਟਾਉਣ ਦੇ ਉਪਾਅ
ਹਰੇਕ ਜੋਖਮ ਲਈ ਸਾਵਧਾਨੀ ਤਿਆਰ ਕਰੋ, ਬਚੇ ਹੋਏ ਜੋਖਮ ਦੀ ਪਛਾਣ ਕਰੋ
7. ਪ੍ਰਵਾਨਗੀ ਅਤੇ ਸਮੀਖਿਆ
ਨਤੀਜੇ ਦਾ ਦਸਤਾਵੇਜ਼ ਬਣਾਓ, ਇਸਨੂੰ ਪ੍ਰਵਾਨਗੀ ਲਈ ਜਮ੍ਹਾਂ ਕਰੋ, ਇਸਨੂੰ ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਅਪਡੇਟ ਕਰੋ
ਜੋਖਮ ਨੂੰ ਤਰਜੀਹ ਦੇਣਾ: ਸੰਭਾਵਨਾ-ਪ੍ਰਭਾਵ ਮੈਟ੍ਰਿਕਸ
ਤੁਸੀਂ ਹਰੇਕ ਜੋਖਮ ਦਾ ਦੋ ਮਾਪਾਂ ਵਿੱਚ ਮੁਲਾਂਕਣ ਕਰਦੇ ਹੋ: ਇਸਦੇ ਵਾਪਰਨ ਦੀ ਸੰਭਾਵਨਾ ਅਤੇ ਜੇਕਰ ਇਹ ਵਾਪਰਦਾ ਹੈ ਤਾਂ ਪ੍ਰਭਾਵ। ਦੋਵਾਂ ਦੇ ਸੁਮੇਲ ਨੂੰ ਪਹਿਲ ਦਿੰਦੀ ਹੈ।
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>ਘੱਟ ਪ੍ਰਭਾਵ
ਮੱਧਮ ਪ੍ਰਭਾਵ
ਉੱਚ ਪ੍ਰਭਾਵ
ਉੱਚ ਸੰਭਾਵਨਾ
ਮੱਧਮ
ਉੱਚ
ਨਾਜ਼ੁਕ
ਮੱਧਮ ਸੰਭਾਵਨਾ
ਘੱਟ
ਮੱਧਮ
ਉੱਚ
ਘੱਟ ਸੰਭਾਵਨਾ
ਘੱਟ
ਘੱਟ
ਮੱਧਮ
ਨਾਜ਼ੁਕ ਅਤੇ ਉੱਚ ਜੋਖਮ ਉਹ ਜੋਖਮ ਹੁੰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਲਈ ਸਾਵਧਾਨੀ ਲਏ ਬਿਨਾਂ ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਜਾਰੀ ਨਹੀਂ ਰੱਖਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਉਦੇਸ਼ ਹਰ ਜੋਖਮ ਨੂੰ ਖਤਮ ਕਰਨਾ ਨਹੀਂ ਹੈ; ਹਰ ਇੱਕ ਜੋਖਮ ਨੂੰ ਇੱਕ ਸਵੀਕਾਰਯੋਗ ਪੱਧਰ ਤੱਕ ਘਟਾਉਣਾ ਅਤੇ ਬਾਕੀ ਬਚੇ (ਬਕਾਇਆ) ਜੋਖਮ ਨੂੰ ਸੁਚੇਤ ਰੂਪ ਵਿੱਚ ਸਵੀਕਾਰ ਕਰਨਾ ਹੈ।
ਤਿੰਨ ਛੋਟੇ ਕੇਸ
ਕੇਸ 1 — ਛੱਡਿਆ ਗਿਆ DPIA। ਇੱਕ ਰਿਟੇਲ ਚੇਨ ਇੱਕ ਸਿਸਟਮ ਲਾਗੂ ਕਰਦੀ ਹੈ ਜੋ DPIA ਦੇ ਬਿਨਾਂ, AI ਨਾਲ ਸਟੋਰ ਵਿੱਚ ਗਾਹਕਾਂ ਦੇ ਵਿਵਹਾਰ ਨੂੰ ਟਰੈਕ ਕਰਦੀ ਹੈ। ਮਹੀਨਿਆਂ ਬਾਅਦ, ਇੱਕ ਸ਼ਿਕਾਇਤ ਤੋਂ ਪਤਾ ਲੱਗਦਾ ਹੈ ਕਿ ਸਿਸਟਮ ਨੇ ਖਾਸ ਅਨੁਮਾਨ (ਸਿਹਤ, ਗਰਭ ਅਵਸਥਾ ਦੀ ਭਵਿੱਖਬਾਣੀ) ਕੀਤੀ ਹੈ। ਆਡਿਟ ਵਿੱਚ "ਤੁਸੀਂ ਡੀਪੀਆਈਏ ਕਿਉਂ ਨਹੀਂ ਕੀਤਾ" ਦੇ ਸਵਾਲ ਦਾ ਕੋਈ ਜਵਾਬ ਨਹੀਂ ਹੈ। ਸ਼ੁਰੂਆਤ ਤੋਂ ਇੱਕ DPIA ਨੇ ਡਿਜ਼ਾਈਨ ਪੜਾਅ 'ਤੇ ਇਸ ਜੋਖਮ ਨੂੰ ਫੜ ਲਿਆ ਹੋਵੇਗਾ ਅਤੇ ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਸੁਰੱਖਿਅਤ ਬਣਾਇਆ ਹੋਵੇਗਾ।
ਕੇਸ 2 - DPIA ਦੁਆਰਾ ਬਚਾਏ ਗਏ ਪ੍ਰੋਜੈਕਟ। DPIA ਇੱਕ ਬੈਂਕ ਵਿੱਚ ਭਰਤੀ ਸਹਾਇਤਾ AI ਲਈ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਜੋਖਮ ਪਛਾਣ ਦੇ ਪੜਾਅ ਦੇ ਦੌਰਾਨ, ਇਤਿਹਾਸਕ ਡੇਟਾ ਦੇ ਕਾਰਨ ਲਿੰਗ ਪੱਖਪਾਤ ਦਾ ਜੋਖਮ "ਉੱਚ" ਹੋ ਜਾਂਦਾ ਹੈ। ਇੱਕ ਕਮੀ ਦੇ ਤੌਰ 'ਤੇ, ਟੀਮ ਮਾਡਲ ਤੋਂ ਲਿੰਗ ਜਾਣਕਾਰੀ ਨੂੰ ਹਟਾਉਂਦੀ ਹੈ, ਆਉਟਪੁੱਟ ਨੂੰ ਨਿਯਮਤ ਪੱਖਪਾਤ ਦੀ ਜਾਂਚ ਲਈ ਵਿਸ਼ੇਸ਼ਤਾ ਦਿੰਦੀ ਹੈ, ਅਤੇ ਮਨੁੱਖੀ ਪ੍ਰਮਾਣਿਕਤਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਹੁਣ ਜੋਖਮ "ਦਰਮਿਆਨੀ" ਤੱਕ ਘੱਟ ਜਾਂਦਾ ਹੈ ਅਤੇ ਪ੍ਰੋਜੈਕਟ ਸਵੀਕਾਰਯੋਗ ਬਣ ਜਾਂਦਾ ਹੈ। DPIA ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਮਾਰਨ ਦੀ ਬਜਾਏ ਸੁਰੱਖਿਅਤ ਬਣਾਉਂਦਾ ਹੈ।
ਕੇਸ 3 - ਅਨੁਪਾਤਕਤਾ ਟੈਸਟ। ਇੱਕ ਕੰਪਨੀ AI ਨਾਲ "ਵਫ਼ਾਦਾਰੀ ਵਿਸ਼ਲੇਸ਼ਣ" ਲਈ ਕਰਮਚਾਰੀਆਂ ਦੀਆਂ ਈਮੇਲਾਂ ਨੂੰ ਸਕੈਨ ਕਰਨਾ ਚਾਹੁੰਦੀ ਹੈ। DPIA ਦੀ ਲੋੜ/ਅਨੁਪਾਤਕਤਾ ਦੇ ਪੜਾਅ ਵਿੱਚ ਇਹ ਉਦੇਸ਼ ਦੇ ਮੁਕਾਬਲੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਦਖਲਅੰਦਾਜ਼ੀ ਵਾਲਾ ਪਾਇਆ ਜਾਂਦਾ ਹੈ; ਘੱਟ ਘੁਸਪੈਠ ਵਾਲੇ ਵਿਕਲਪ ਹਨ। ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਇਸਦੇ ਮੌਜੂਦਾ ਰੂਪ ਵਿੱਚ ਮਨਜ਼ੂਰੀ ਨਹੀਂ ਦਿੱਤੀ ਗਈ ਹੈ। ਅਨੁਪਾਤਕਤਾ ਟੈਸਟ "ਅਸੀਂ ਕਰ ਸਕਦੇ ਹਾਂ" ਅਤੇ "ਸਾਨੂੰ ਚਾਹੀਦਾ ਹੈ" ਵਿਚਕਾਰ ਫਰਕ ਕਰਦਾ ਹੈ।
ਧਿਆਨ ਦਿਓ: DPIA ਇੱਕ ਫਾਰਮ ਨਹੀਂ ਹੈ ਜੋ ਇੱਕ ਵਾਰ ਭਰਿਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਇੱਕ ਪਾਸੇ ਰੱਖ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ। ਪਰਿਵਰਤਨ (ਨਵਾਂ ਡੇਟਾ, ਨਵਾਂ ਉਦੇਸ਼, ਨਵਾਂ ਸੰਦ) ਦੀ ਪ੍ਰਕਿਰਿਆ ਕਰਦੇ ਸਮੇਂ DPIA ਨੂੰ ਅੱਪਡੇਟ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਇੱਕ ਮਰਿਆ ਹੋਇਆ DPIA ਕਿਸੇ ਵੀ DPIA ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਗੁੰਮਰਾਹਕੁੰਨ ਹੁੰਦਾ ਹੈ ਕਿਉਂਕਿ ਇਹ ਝੂਠਾ ਭਰੋਸਾ ਦਿੰਦਾ ਹੈ।
ਕੌਣ ਕਰਦਾ ਹੈ DPIA ਅਤੇ DPIA ਨਾਲ ਰਿਸਕ ਰਜਿਸਟਰ ਸਬੰਧ
ਇਕੱਲਾ ਵਿਅਕਤੀ ਆਪਣੇ ਡੈਸਕ 'ਤੇ DPIA ਨਹੀਂ ਭਰ ਸਕਦਾ; ਸਹੀ DPIA ਇੱਕ ਟੀਮ ਦੀ ਕੋਸ਼ਿਸ਼ ਹੈ। ਆਮ ਤੌਰ 'ਤੇ, ਡੇਟਾ ਸੁਰੱਖਿਆ ਅਧਿਕਾਰੀ ਪ੍ਰਕਿਰਿਆ (Doer) ਨੂੰ ਪੂਰਾ ਕਰਦਾ ਹੈ, ਪਾਲਣਾ ਪ੍ਰਬੰਧਕ ਆਖਰਕਾਰ ਜ਼ਿੰਮੇਵਾਰ (ਜਵਾਬਦੇਹ) ਹੁੰਦਾ ਹੈ, ਸੰਬੰਧਿਤ ਵਪਾਰਕ ਇਕਾਈ ਪ੍ਰੋਸੈਸਿੰਗ ਦਾ ਵਰਣਨ ਕਰਦਾ ਹੈ, IT/ਸੁਰੱਖਿਆ ਤਕਨੀਕੀ ਉਪਾਵਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦਾ ਹੈ ਅਤੇ ਕਾਨੂੰਨੀ ਆਧਾਰ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ। ਸਬੰਧਤ ਲੋਕਾਂ ਦੀ ਰਾਏ ਪ੍ਰਾਪਤ ਕਰਨਾ (ਤੀਸਰਾ ਕਦਮ) ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਨਹੀਂ ਕਰਨਾ ਚਾਹੀਦਾ; ਹਾਲਾਂਕਿ, ਅਭਿਆਸ ਵਿੱਚ ਇਹ ਸਭ ਤੋਂ ਵੱਧ ਛੱਡਿਆ ਗਿਆ ਕਦਮ ਹੈ।
DPIA ਦਾ ਆਉਟਪੁੱਟ ਵੈਕਿਊਮ ਵਿੱਚ ਨਹੀਂ ਬੈਠਦਾ ਹੈ: ਪਛਾਣੇ ਗਏ ਜੋਖਮ ਸੰਗਠਨ ਦੇ ਜੋਖਮ ਰਜਿਸਟਰ ਵਿੱਚ ਦਰਜ ਕੀਤੇ ਜਾਂਦੇ ਹਨ। ਜੋਖਮ ਰਜਿਸਟਰ ਇੱਕ ਲਾਈਵ ਚਾਰਟ ਹੈ ਜੋ ਸਾਰੇ ਖੁੱਲੇ ਜੋਖਮਾਂ, ਉਹਨਾਂ ਦੀਆਂ ਤਰਜੀਹਾਂ, ਕਮੀਆਂ, ਦੋਸ਼ੀਆਂ ਅਤੇ ਆਖਰੀ ਸਮੀਖਿਆ ਮਿਤੀਆਂ ਨੂੰ ਕੈਪਚਰ ਕਰਦਾ ਹੈ। ਇਸ ਤਰ੍ਹਾਂ, ਇੱਕ AI ਪ੍ਰੋਜੈਕਟ ਦੇ ਜੋਖਮ ਸੰਗਠਨ ਦੇ ਸਮੁੱਚੇ ਜੋਖਮ ਪ੍ਰਬੰਧਨ ਦੀ ਭਾਸ਼ਾ ਬੋਲਦੇ ਹਨ ਅਤੇ ਨਿਯਮਿਤ ਤੌਰ 'ਤੇ ਨਿਗਰਾਨੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
ਜੋਖਮ ਰਜਿਸਟਰ ਖੇਤਰ
ਉਦਾਹਰਨ
ਜੋਖਮ ਦੀ ਪਰਿਭਾਸ਼ਾ
ਭਰਤੀ AI ਵਿੱਚ ਲਿੰਗ ਪੱਖਪਾਤ
ਤਰਜੀਹ
ਉੱਚ
ਘਟਾਉਣ ਦਾ ਉਪਾਅ
ਸਰੋਗੇਟ ਵੇਰੀਏਬਲ ਐਕਸਟਰੈਕਸ਼ਨ + ਬਾਈਸ ਟੈਸਟਿੰਗ
ਜਿੰਮੇਵਾਰ
ਡਾਟਾ ਸੁਰੱਖਿਆ ਅਧਿਕਾਰੀ
ਸਮੀਖਿਆ
ਹਰ 3 ਮਹੀਨੇ
ਸੁਝਾਅ: DPIA ਨਾਲ "ਜੋਖਮ ਲੌਗ ਅਤੇ ਟ੍ਰੈਕ" ਮਾਨਸਿਕਤਾ ਨਾਲ ਇਲਾਜ ਕਰੋ, ਨਾ ਕਿ "ਕੀਤਾ ਅਤੇ ਭੁੱਲ ਜਾਓ" ਪਹੁੰਚ। ਕੀ ਇੱਕ ਜੋਖਮ ਘਟਾਉਣਾ ਲਾਗੂ ਕੀਤਾ ਗਿਆ ਹੈ, ਕੀ ਇੱਕ ਸਵੀਕਾਰਯੋਗ ਪੱਧਰ 'ਤੇ ਬਚਿਆ ਹੋਇਆ ਜੋਖਮ ਹੈ - ਇਹਨਾਂ ਦਾ ਰਿਕਾਰਡ ਰੱਖਣ ਦੇ ਬਿਨਾਂ, DPIA ਇੱਕ ਵਿੰਡੋ ਦਸਤਾਵੇਜ਼ ਬਣ ਜਾਂਦਾ ਹੈ।
ਨਕਲ ਕਰਨ ਯੋਗ ਟੈਂਪਲੇਟਸ
ਟੈਮਪਲੇਟ 1 — DPIA ਪ੍ਰੀ-ਸਕ੍ਰੀਨਿੰਗ: "ਕੀ ਇਸ AI ਦੀ ਵਰਤੋਂ ਲਈ DPIA ਦੀ ਲੋੜ ਹੈ? [ਵਰਤੋਂ ਦਾ ਵਰਣਨ ਕਰੋ]। ਪੰਜ ਟਰਿਗਰਾਂ ਦੇ ਵਿਰੁੱਧ ਮੁਲਾਂਕਣ ਕਰੋ: ਨਵੀਂ ਤਕਨਾਲੋਜੀ, ਵੱਡੇ ਪੈਮਾਨੇ ਦੀ ਪ੍ਰੋਸੈਸਿੰਗ, ਵਿਵਸਥਿਤ ਨਿਗਰਾਨੀ, ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ, ਮਹੱਤਵਪੂਰਨ ਸਵੈਚਲਿਤ ਫੈਸਲੇ ਲੈਣ। ਕਿੰਨੇ ਟਰਿੱਗਰ ਹਨ, ਕੀ ਤੁਸੀਂ DPIA ਦੀ ਸਿਫ਼ਾਰਿਸ਼ ਕਰਦੇ ਹੋ, ਜਾਇਜ਼ਤਾ ਨਾਲ।"
ਟੈਮਪਲੇਟ 2 — ਜੋਖਮ ਦੀ ਪਛਾਣ ਬਾਰੇ ਵਿਚਾਰ-ਵਟਾਂਦਰਾ: "ਇਸ AI ਪ੍ਰੋਜੈਕਟ ਵਿੱਚ ਲੋਕਾਂ ਨੂੰ ਹੋਣ ਵਾਲੇ ਸੰਭਾਵੀ ਨੁਕਸਾਨਾਂ ਦੀ ਸੂਚੀ ਬਣਾਓ [ਪ੍ਰੋਜੈਕਟ ਦਾ ਵਰਣਨ ਕਰੋ]: ਡੇਟਾ ਲੀਕ, ਵਿਤਕਰਾ, ਗਲਤ ਨਿਰਣਾ, ਗੋਪਨੀਯਤਾ 'ਤੇ ਹਮਲਾ, ਪਾਰਦਰਸ਼ਤਾ ਦੀ ਕਮੀ, ਉਦੇਸ਼ ਡ੍ਰਾਈਫਟ। ਹਰੇਕ ਨੁਕਸਾਨ ਲਈ ਇੱਕ-ਵਾਕ ਦਾ ਦ੍ਰਿਸ਼ ਲਿਖੋ। ਬੱਸ ਖੋਜੋ, ਫਿਰ ਵੀ ਪ੍ਰਤੀਕਿਰਿਆ ਨਾ ਕਰੋ।"
ਟੈਂਪਲੇਟ 3 — ਸੰਭਾਵਨਾ-ਪ੍ਰਭਾਵ ਸਕੋਰਿੰਗ: "ਸੰਭਾਵਨਾ (ਘੱਟ/ਮੱਧਮ/ਉੱਚ) ਅਤੇ ਪ੍ਰਭਾਵ (ਘੱਟ/ਮੱਧਮ/ਉੱਚ) ਦੇ ਤੌਰ 'ਤੇ ਹੇਠਾਂ ਦਿੱਤੇ ਜੋਖਮਾਂ [ਸੂਚੀ ਜੋਖਮਾਂ] ਨੂੰ ਸਕੋਰ ਕਰੋ; ਤਰਜੀਹ (ਘੱਟ/ਮੱਧਮ/ਉੱਚ/ਨਾਜ਼ੁਕ) ਹਰੇਕ ਕਤਾਰ 'ਤੇ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ। ਸੂਚੀਬੱਧ ਨਾਜ਼ੁਕ ਅਤੇ ਉੱਚੀ ਸਿਖਰ 'ਤੇ। ਸਾਰਣੀ ਵਿੱਚ ਪੇਸ਼ ਕਰੋ।
ਟੈਮਪਲੇਟ 4 — ਮਿਟੀਗੇਸ਼ਨ ਡਿਜ਼ਾਈਨ: "ਹੇਠ ਦਿੱਤੇ ਜੋਖਮ ਲਈ [ਜੋਖਮ ਲਿਖੋ], ਘੱਟੋ-ਘੱਟ 3 ਘਟਾਉਣ ਦੇ ਉਪਾਅ (ਤਕਨੀਕੀ, ਪ੍ਰਕਿਰਿਆ, ਸੰਗਠਨਾਤਮਕ) ਪ੍ਰਸਤਾਵਿਤ ਕਰੋ। ਹਰੇਕ ਮਾਪ ਤੋਂ ਬਾਅਦ 'ਬਕਾਇਆ ਖਤਰੇ' ਦੇ ਪੱਧਰ ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਓ। ਜੇਕਰ ਮਾਪ ਤੋਂ ਬਾਅਦ ਵੀ ਜੋਖਮ ਉੱਚਾ ਹੈ, ਤਾਂ ਸੰਕੇਤ ਕਰੋ ਕਿ ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਮੁੜ ਡਿਜ਼ਾਇਨ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।"
ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ / ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ
ਕਮਜ਼ੋਰ: "ਕੀ ਇਹ AI ਪ੍ਰੋਜੈਕਟ ਜੋਖਮ ਭਰਿਆ ਹੈ?" -> ਮਾਡਲ ਇੱਕ ਅਸਪਸ਼ਟ 'ਸ਼ਾਇਦ' ਜਵਾਬ ਦਿੰਦਾ ਹੈ; ਜੋਖਮਾਂ ਨੂੰ ਵਰਗੀਕ੍ਰਿਤ ਨਹੀਂ ਕਰਦਾ, ਜੋਖਮਾਂ ਨੂੰ ਤਰਜੀਹ ਨਹੀਂ ਦਿੰਦਾ, ਉਪਾਅ ਪੈਦਾ ਨਹੀਂ ਕਰਦਾ।STRONG: "ਹੇਠ ਦਿੱਤੇ AI ਪ੍ਰੋਜੈਕਟ ਲਈ ਇੱਕ ਮਿੰਨੀ DPIA ਸੰਚਾਲਿਤ ਕਰੋ: (1) ਪ੍ਰੋਸੈਸਿੰਗ ਦਾ ਵਰਣਨ ਕਰੋ, (2) 5 ਟਰਿਗਰਾਂ ਨਾਲ DPIA ਦੀ ਲੋੜ ਦਾ ਮੁਲਾਂਕਣ ਕਰੋ, (3) ਵਿਅਕਤੀਆਂ ਲਈ 6 ਸੰਭਾਵਿਤ ਨੁਕਸਾਨਾਂ ਦੀ ਸੂਚੀ ਬਣਾਓ, (4) ਸੰਭਾਵੀ-ਪ੍ਰਭਾਵ/ਪ੍ਰਭਾਵ ਲਈ ਹਰੇਕ ਨੂੰ ਸਕੋਰ ਕਰੋ (5 ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕਰੋ)। ਨਿਸ਼ਚਤ ਕਾਨੂੰਨੀ ਫੈਸਲਾ ਲੈਣਾ; ਇੱਕ ਡਰਾਫਟ ਤਿਆਰ ਕਰਨਾ ਜੋ ਕਾਨੂੰਨੀ ਪ੍ਰਵਾਨਗੀ ਲਈ ਜਾਵੇਗਾ।"-> ਮਾਡਲ ਇੱਕ ਢਾਂਚਾਗਤ, ਕਾਰਵਾਈਯੋਗ DPIA ਦਾ ਖਰੜਾ ਤਿਆਰ ਕਰਦਾ ਹੈ।
ਆਮ ਗਲਤੀਆਂ
- ਲੈਣ-ਦੇਣ ਸ਼ੁਰੂ ਹੋਣ ਤੋਂ ਬਾਅਦ (ਜਾਂ ਸਮੱਸਿਆ ਆਉਣ ਤੋਂ ਬਾਅਦ ਵੀ) DPIA ਕਰਨਾ।
- ਉੱਚ-ਜੋਖਮ ਵਾਲੀ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਛੱਡਣਾ ਜਿਸ ਲਈ DPIA ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ "ਕੋਈ ਵੱਡੀ ਗੱਲ ਨਹੀਂ।"
- ਜੋਖਮਾਂ ਨੂੰ ਸੂਚੀਬੱਧ ਨਹੀਂ ਕਰਨਾ ਅਤੇ ਸੰਭਾਵਨਾ ਅਤੇ ਪ੍ਰਭਾਵ ਦੁਆਰਾ ਉਹਨਾਂ ਨੂੰ ਤਰਜੀਹ ਦੇਣਾ।
- ਹਰ ਜੋਖਮ ਲਈ ਉਪਾਅ ਪੈਦਾ ਕੀਤੇ ਬਿਨਾਂ DPIA ਨੂੰ "ਪੂਰਾ" ਮੰਨਣਾ।
- ਲੋੜ/ਅਨੁਪਾਤਕਤਾ ਦੇ ਕਦਮ ਨੂੰ ਛੱਡਣਾ ਅਤੇ ਕਹਿਣਾ "ਅਸੀਂ ਇਹ ਕਰ ਸਕਦੇ ਹਾਂ, ਇਸ ਲਈ ਆਓ ਇਸਨੂੰ ਕਰੀਏ"।
- DPIA ਨੂੰ ਇੱਕ ਵਾਰ ਭਰਨਾ ਅਤੇ ਪ੍ਰਕਿਰਿਆ ਬਦਲਣ 'ਤੇ ਇਸਨੂੰ ਅੱਪਡੇਟ ਨਹੀਂ ਕਰਨਾ।
- ਬਕਾਇਆ (ਬਾਕੀ) ਖਤਰੇ ਨੂੰ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਦਸਤਾਵੇਜ਼ ਕੀਤੇ ਬਿਨਾਂ ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦੇਣਾ।
ਸੰਖੇਪ ਵਿੱਚ
- DPIA ਇੱਕ ਢਾਂਚਾਗਤ ਵਿਸ਼ਲੇਸ਼ਣ ਹੈ ਜੋ ਕਿ ਸ਼ੁਰੂ ਕੀਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਵਿਅਕਤੀਆਂ 'ਤੇ ਉੱਚ-ਜੋਖਮ ਦੀ ਪ੍ਰਕਿਰਿਆ ਦੇ ਪ੍ਰਭਾਵ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦਾ ਹੈ।
- DPIA ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਜੇਕਰ ਨਵੀਂ ਤਕਨਾਲੋਜੀ, ਵੱਡੇ ਪੈਮਾਨੇ ਦੀ ਪ੍ਰੋਸੈਸਿੰਗ, ਯੋਜਨਾਬੱਧ ਨਿਗਰਾਨੀ, ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਜਾਂ ਮਹੱਤਵਪੂਰਨ ਸਵੈਚਲਿਤ ਫੈਸਲੇ ਲੈਣ ਦੀ ਸਮਰੱਥਾ ਹੈ।
- ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਸੱਤ ਕਦਮ ਹੁੰਦੇ ਹਨ: ਪਛਾਣ, ਲੋੜ/ਅਨੁਪਾਤਕਤਾ, ਹਿੱਸੇਦਾਰ ਦੀ ਰਾਏ, ਜੋਖਮ ਦੀ ਪਛਾਣ, ਮੁਲਾਂਕਣ, ਕਾਰਵਾਈ, ਪ੍ਰਵਾਨਗੀ/ਸਮੀਖਿਆ।
- ਸੰਭਾਵਨਾ-ਪ੍ਰਭਾਵ ਮੈਟ੍ਰਿਕਸ ਨਾਲ ਜੋਖਮਾਂ ਨੂੰ ਤਰਜੀਹ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ; ਸਾਵਧਾਨੀ ਦੇ ਬਿਨਾਂ ਗੰਭੀਰ/ਉੱਚ ਜੋਖਮ ਸਵੀਕਾਰ ਨਹੀਂ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।
- DPIA ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਨਹੀਂ ਮਾਰਦਾ, ਇਹ ਇਸਨੂੰ ਸੁਰੱਖਿਅਤ ਬਣਾਉਂਦਾ ਹੈ; ਇਹ ਇੱਕ ਜੀਵਤ ਦਸਤਾਵੇਜ਼ ਹੈ ਜਿਸਨੂੰ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਦੇ ਰੂਪ ਵਿੱਚ ਅਪਡੇਟ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
ਐਪਲੀਕੇਸ਼ਨ ਦਾ ਕੰਮ
AI ਦੀ ਵਰਤੋਂ ਚੁਣੋ ਜੋ ਤੁਹਾਡੀ ਸੰਸਥਾ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੀ ਹੈ ਜੋ ਉੱਚ-ਜੋਖਮ ਵਾਲੀ ਹੋ ਸਕਦੀ ਹੈ (ਉਦਾਹਰਨ ਲਈ, ਭਰਤੀ ਸਹਾਇਤਾ, ਵਿਹਾਰ ਸੰਬੰਧੀ ਟਰੈਕਿੰਗ, ਜਾਂ ਕ੍ਰੈਡਿਟ ਸਕੋਰਿੰਗ)। ਪਹਿਲਾਂ ਵਿਚਾਰ ਕਰੋ ਕਿ ਕੀ DPIA ਪੰਜ ਟਰਿੱਗਰਾਂ ਨਾਲ ਜ਼ਰੂਰੀ ਹੈ। ਫਿਰ ਇਸ ਵਰਤੋਂ ਲਈ ਇੱਕ ਮਿੰਨੀ DPIA ਕਰੋ: ਪ੍ਰੋਸੈਸਿੰਗ ਦਾ ਵਰਣਨ ਕਰੋ, ਵਿਅਕਤੀਆਂ ਲਈ ਘੱਟੋ-ਘੱਟ ਛੇ ਸੰਭਾਵਿਤ ਨੁਕਸਾਨਾਂ ਦੀ ਸੂਚੀ ਬਣਾਓ, ਹਰੇਕ ਨੂੰ ਸੰਭਾਵਨਾ-ਪ੍ਰਭਾਵ ਮੈਟ੍ਰਿਕਸ 'ਤੇ ਅੰਕ ਦਿਓ, ਅਤੇ ਤਰਜੀਹ ਨਿਰਧਾਰਤ ਕਰੋ। ਦੋ ਨਾਜ਼ੁਕ ਅਤੇ ਉੱਚ ਜੋਖਮਾਂ ਲਈ ਤਿੰਨ ਘਟਾਉਣ ਵਾਲੇ ਉਪਾਅ ਤਿਆਰ ਕਰੋ ਅਤੇ ਮਾਪ ਤੋਂ ਬਾਅਦ ਬਚੇ ਹੋਏ ਜੋਖਮ ਪੱਧਰ ਦਾ ਅਨੁਮਾਨ ਲਗਾਓ। ਅੰਤ ਵਿੱਚ, ਨੋਟ ਕਰੋ ਕਿ ਇਸ DPIA ਨੂੰ ਕਦੋਂ ਅੱਪਡੇਟ ਕਰਨ ਦੀ ਲੋੜ ਪਵੇਗੀ।
ਚੈੱਕਲਿਸਟ
- [ ] ਮੈਂ ਪੰਜ ਟਰਿਗਰਾਂ ਨਾਲ DPIA ਲੋੜ ਦਾ ਮੁਲਾਂਕਣ ਕੀਤਾ।
- [ ] ਮੈਂ ਪ੍ਰੋਸੈਸਿੰਗ (ਡੇਟਾ, ਉਦੇਸ਼, ਦਾਇਰੇ, ਪ੍ਰਵਾਹ) ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤਾ ਹੈ।
- [ ] ਮੈਂ ਲੋੜ ਅਤੇ ਅਨੁਪਾਤ 'ਤੇ ਸਵਾਲ ਕੀਤਾ।
- [ ] ਮੈਂ ਵਿਅਕਤੀਆਂ ਨੂੰ ਹੋਣ ਵਾਲੇ ਸੰਭਾਵੀ ਨੁਕਸਾਨਾਂ ਨੂੰ ਸੂਚੀਬੱਧ ਕੀਤਾ ਹੈ।
- [] ਮੈਂ ਸੰਭਾਵਨਾ-ਪ੍ਰਭਾਵ ਮੈਟਰਿਕਸ ਵਿੱਚ ਜੋਖਮਾਂ ਨੂੰ ਤਰਜੀਹ ਦਿੱਤੀ।
- [ ] ਮੈਂ ਨਾਜ਼ੁਕ/ਉੱਚ ਜੋਖਮਾਂ ਲਈ ਘਟਾਉਣ ਦੇ ਉਪਾਅ ਤਿਆਰ ਕੀਤੇ ਹਨ।
- [ ] ਮੈਂ ਹੁਣ ਖਤਰੇ ਦਾ ਦਸਤਾਵੇਜ਼ੀਕਰਨ ਕੀਤਾ ਹੈ ਅਤੇ ਸਮੀਖਿਆ ਦੀਆਂ ਸ਼ਰਤਾਂ ਸੈਟ ਕਰ ਦਿੱਤੀਆਂ ਹਨ।