ਲਾਭ:
- ਬਲਾਕਚੈਨ ਦੀ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਪ੍ਰਕਿਰਤੀ ਨੂੰ ਸਮਝਣਾ ਅਤੇ ਕਾਰਨਾਂ ਨੂੰ ਸਮਝਣਾ ਕਿ ਨਕਲੀ ਬੁੱਧੀ ਅਸਲ ਗਲਤੀ ਦਾ ਪਤਾ ਨਹੀਂ ਲਗਾ ਸਕਦੀ, ਗਲਤ ਭਰੋਸਾ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ, ਪੁਰਾਣੀ ਹੋ ਜਾਂਦੀ ਹੈ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਲੈਣ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੀ ਹੈ।
- ਲੇਅਰਡ ਤਸਦੀਕ ਦੇ ਨਾਲ ਲਾਈਵ ਸਿਸਟਮ ਵਿੱਚ ਲੀਕ ਹੋਣ ਤੋਂ ਇੱਕ ਸਿੰਗਲ ਗਲਤੀ ਨੂੰ ਰੋਕਣ ਦੀ ਸਮਰੱਥਾ ਜੋ ਹਰ ਪੜਾਅ 'ਤੇ ਇੱਕ ਮਨੁੱਖੀ ਤਸਦੀਕ ਗੇਟ ਰੱਖਦਾ ਹੈ
- ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਅੰਤਮ ਪ੍ਰਵਾਨਗੀ ਯੋਗ ਮਾਹਰ ਅਤੇ ਮਨੁੱਖੀ ਜ਼ਿੰਮੇਵਾਰੀ, ਰੱਖਿਆ ਉਦੇਸ਼, ਗੁਪਤਤਾ, ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਇਮਾਨਦਾਰੀ ਦੇ ਸਿਧਾਂਤਾਂ ਨੂੰ ਅਪਣਾਉਣ ਦੀ ਯੋਗਤਾ ਨਾਲ ਸਬੰਧਤ ਹੈ।
ਇਹ ਇਸ ਮੋਡੀਊਲ ਦੀ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਇਕਾਈ ਹੈ। ਹੁਣ ਤੱਕ ਅਸੀਂ ਦੇਖਿਆ ਹੈ ਕਿ ਕਿਵੇਂ AI ਸਮਾਰਟ ਕੰਟਰੈਕਟ ਰਾਈਟਿੰਗ ਤੋਂ ਲੈ ਕੇ ਆਨ-ਚੇਨ ਵਿਸ਼ਲੇਸ਼ਣ ਤੱਕ, ਟੋਕਨੌਮਿਕਸ ਤੋਂ ਲੈ ਕੇ ਧੋਖਾਧੜੀ ਦਾ ਪਤਾ ਲਗਾਉਣ ਤੱਕ ਹਰ ਚੀਜ਼ ਨੂੰ ਤੇਜ਼ ਕਰ ਰਿਹਾ ਹੈ। ਇਸ ਯੂਨਿਟ ਵਿੱਚ, ਅਸੀਂ ਪਿੱਛੇ ਹਟਦੇ ਹਾਂ ਅਤੇ ਮਾਮਲੇ ਦੇ ਦਿਲ ਨੂੰ ਦੇਖਦੇ ਹਾਂ: ਕਿਉਂ AI ਆਉਟਪੁੱਟ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਕੰਮ ਵਿੱਚ ਸਮਰੱਥ ਮਾਹਰ ਦੀ ਮਨਜ਼ੂਰੀ ਦੀ ਥਾਂ ਨਹੀਂ ਲੈ ਸਕਦੀ। ਅਤੇ ਇੱਕ ਮਾਹਰ ਦੇ ਰੂਪ ਵਿੱਚ, AI ਨੂੰ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਵਰਤਣ ਲਈ ਢਾਂਚਾ ਕੀ ਹੈ? ਬਲਾਕਚੈਨ ਇੰਜਨੀਅਰਿੰਗ ਇੱਕ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਖੇਤਰ ਹੈ ਜਿੱਥੇ ਗਲਤੀਆਂ ਸਿੱਧੇ ਅਤੇ ਅਟੱਲ ਰੂਪ ਵਿੱਚ ਪੈਸੇ ਵਿੱਚ ਅਨੁਵਾਦ ਕਰਦੀਆਂ ਹਨ; ਇਹ ਇਕਾਈ ਉਸ ਅਸਲੀਅਤ ਦੀਆਂ ਲੋੜਾਂ ਨਾਲ ਨਜਿੱਠਦੀ ਹੈ।
"ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ" ਦਾ ਕੀ ਅਰਥ ਹੈ ਅਤੇ ਇਹ ਵੱਖਰਾ ਕਿਉਂ ਹੈ?
ਇੱਕ ਖੇਤਰ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਹੁੰਦਾ ਹੈ ਜੇਕਰ ਇੱਕ ਗਲਤੀ ਦਾ ਨਤੀਜਾ ਅਟੱਲ ਅਤੇ ਗੰਭੀਰ ਹੁੰਦਾ ਹੈ: ਬ੍ਰਿਜ ਇੰਜੀਨੀਅਰਿੰਗ ਵਿੱਚ ਜੀਵਨ ਦਾ ਨੁਕਸਾਨ, ਦਵਾਈ ਵਿੱਚ ਦੁਰਵਿਵਹਾਰ, ਬਲਾਕਚੇਨ ਵਿੱਚ ਲੱਖਾਂ ਡਾਲਰਾਂ ਦਾ ਤੁਰੰਤ ਅਤੇ ਸਥਾਈ ਨੁਕਸਾਨ। ਇਹਨਾਂ ਖੇਤਰਾਂ ਵਿੱਚ ਪ੍ਰਵਾਨਿਤ ਮਿਆਰ ਆਮ ਸੌਫਟਵੇਅਰ ਤੋਂ ਬਿਲਕੁਲ ਵੱਖਰਾ ਹੈ:
- "ਇਹ ਸ਼ਾਇਦ ਕੰਮ ਕਰਦਾ ਹੈ" ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ; ਸਾਬਤ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ.
- "ਅਸੀਂ ਇਸਨੂੰ ਬਾਅਦ ਵਿੱਚ ਠੀਕ ਕਰਾਂਗੇ" ਅਵੈਧ ਹੈ; ਅਟੱਲਤਾ ਮਾਫ਼ ਨਹੀਂ ਕਰਦੀ।
- ਅੰਤਮ ਪ੍ਰਵਾਨਗੀ ਇੱਕ ਸਮਰੱਥ ਮਾਹਰ ਕੋਲ ਹੈ ਜੋ ਪੇਸ਼ੇਵਰ ਅਤੇ ਕਾਨੂੰਨੀ ਜ਼ਿੰਮੇਵਾਰੀ ਲੈਂਦਾ ਹੈ।
AI ਇੱਕ ਸਹਾਇਕ ਹੈ; cannot assume responsibility, cannot be held accountable, and cannot stand behind the results. ਜੇਕਰ ਇੱਕ ਆਡਿਟ ਰਿਪੋਰਟ ਵਿੱਚ ਕੋਈ ਕਮਜ਼ੋਰੀ ਖੁੰਝ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਜ਼ਿੰਮੇਵਾਰੀ ਉਸ ਮਾਹਰ ਦੀ ਹੁੰਦੀ ਹੈ ਜਿਸ ਨੇ ਦਸਤਖਤ ਕੀਤੇ ਸਨ, ਨਾ ਕਿ AI ਦੀ। "ਏਆਈ ਨੇ ਅਜਿਹਾ ਕਿਹਾ" ਇੰਜੀਨੀਅਰਿੰਗ ਦਾ ਬਚਾਅ ਨਹੀਂ ਹੈ।
ਏਆਈ ਮਾਹਰ ਨੂੰ ਕਿਉਂ ਨਹੀਂ ਬਦਲ ਸਕਦਾ: ਚਾਰ ਮੁੱਖ ਕਾਰਨ
1. AI ਮੂਲ ਅਤੇ ਪ੍ਰਸੰਗਿਕ ਗਲਤੀ ਨੂੰ ਨਹੀਂ ਦੇਖ ਸਕਦਾ। AI ਸਿਖਲਾਈ ਡੇਟਾ ਵਿੱਚ ਪੈਟਰਨਾਂ ਨੂੰ ਪਛਾਣਦਾ ਹੈ। ਇੱਕ ਨਵੀਂ ਕਮਜ਼ੋਰੀ, ਇੱਕ ਪ੍ਰੋਟੋਕੋਲ-ਵਿਸ਼ੇਸ਼ ਵਪਾਰਕ ਤਰਕ ਗਲਤੀ, ਜਾਂ ਭਾਗਾਂ ਦੀ ਇੱਕ ਵਿਲੱਖਣ ਪਰਸਪਰ ਪ੍ਰਭਾਵ AI ਦਾ ਅੰਨ੍ਹਾ ਸਥਾਨ ਹੈ। ਸਭ ਤੋਂ ਮਹਿੰਗੇ Web3 ਹਮਲੇ ਇਨ੍ਹਾਂ ਵਿਲੱਖਣ ਕਮਜ਼ੋਰੀਆਂ ਤੋਂ ਆਉਂਦੇ ਹਨ।
2. AI ਝੂਠਾ ਭਰੋਸਾ ਦਿੰਦਾ ਹੈ। AI ਚੰਗੀ ਤਰ੍ਹਾਂ ਅਤੇ ਭਰੋਸੇ ਨਾਲ ਕਹਿ ਸਕਦਾ ਹੈ “ਇਹ ਕੋਡ ਸੁਰੱਖਿਅਤ ਲੱਗਦਾ ਹੈ” — ਗਲਤ ਹੋਣ ਦੇ ਬਾਵਜੂਦ। ਇਹ "ਸੁਰੱਖਿਆ ਦਾ ਭਰਮ" ਇੱਕ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਖੇਤਰ ਵਿੱਚ ਸਭ ਤੋਂ ਖਤਰਨਾਕ ਆਉਟਪੁੱਟ ਹੈ; ਕਿਉਂਕਿ ਇਹ ਸੁਰੱਖਿਆ ਦੀ ਗਲਤ ਭਾਵਨਾ ਪੈਦਾ ਕਰਦਾ ਹੈ।
3. AI ਪੁਰਾਣਾ ਹੈ। AI ਦਾ ਗਿਆਨ ਵਿਦਿਅਕ ਕੱਟ-ਆਫ ਮਿਤੀ 'ਤੇ ਰੁਕ ਜਾਂਦਾ ਹੈ। The latest attacks, the latest library versions, the latest best practices are beyond its horizon. ਸੁਰੱਖਿਆ ਇੱਕ ਸਦਾ-ਬਦਲਦੀ ਦੌੜ ਹੈ; ਕੱਲ੍ਹ ਦੀ ਜਾਣਕਾਰੀ ਅੱਜ ਨਾਕਾਫ਼ੀ ਹੋ ਸਕਦੀ ਹੈ।
4. AI ਜ਼ਿੰਮੇਵਾਰੀ ਨਹੀਂ ਲੈ ਸਕਦਾ। ਇਹ ਸ਼ਾਇਦ ਸਭ ਤੋਂ ਬੁਨਿਆਦੀ ਕਾਰਨ ਹੈ। ਇੰਜੀਨੀਅਰਿੰਗ ਦੀ ਮਨਜ਼ੂਰੀ ਨਾ ਸਿਰਫ਼ ਇੱਕ ਤਕਨੀਕੀ ਹੈ, ਸਗੋਂ ਇੱਕ ਕਾਨੂੰਨੀ ਅਤੇ ਨੈਤਿਕ ਵਚਨਬੱਧਤਾ ਵੀ ਹੈ। ਇੱਕ ਮਸ਼ੀਨ ਇਹ ਵਚਨਬੱਧਤਾ ਨਹੀਂ ਕਰ ਸਕਦੀ।
ਸਾਵਧਾਨ: ਇੱਕ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਆਉਟਪੁੱਟ ਵਿੱਚ, ਸਵਾਲ ਇਹ ਹੈ ਕਿ "ਏਆਈ ਨੇ ਕੀ ਕਿਹਾ?" ਪਰ "ਇਸ ਆਉਟਪੁੱਟ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ, ਪ੍ਰਮਾਣਿਤ ਕਰਨ ਅਤੇ ਪਿੱਛੇ ਖੜ੍ਹਾ ਕਰਨ ਵਾਲਾ ਸਮਰੱਥ ਵਿਅਕਤੀ ਕੌਣ ਹੈ?" ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਕੋਈ ਗੈਰ-ਮਾਹਰ ਮਨਜ਼ੂਰੀ—ਨਾ ਤਾਂ AI ਦੁਆਰਾ ਅਤੇ ਨਾ ਹੀ ਟੂਲ ਦੁਆਰਾ—ਨੂੰ ਭਰੋਸਾ ਮੰਨਿਆ ਜਾ ਸਕਦਾ ਹੈ।
ਲੇਅਰਡ ਤਸਦੀਕ: ਸਿੰਗਲ ਬੱਗਾਂ ਨੂੰ ਲਾਈਵ ਲੀਕ ਹੋਣ ਤੋਂ ਰੋਕਣਾ
ਇੱਕ ਜ਼ਿੰਮੇਵਾਰ ਵਰਕਫਲੋ ਹਰ ਪੜਾਅ 'ਤੇ ਇੱਕ ਮਨੁੱਖੀ ਤਸਦੀਕ ਗੇਟ ਰੱਖਦਾ ਹੈ. ਤੁਸੀਂ ਇੱਕ ਦਰਵਾਜ਼ੇ ਵਿੱਚੋਂ ਦੂਜੇ ਦਰਵਾਜ਼ੇ ਵਿੱਚੋਂ ਲੰਘੇ ਬਿਨਾਂ ਨਹੀਂ ਲੰਘ ਸਕਦੇ:
ਸਟੇਜ
AI ਯੋਗਦਾਨ
ਮਨੁੱਖੀ ਤਸਦੀਕ ਗੇਟ
ਸਪੈਲਿੰਗ
ਡਰਾਫਟ ਕੋਡ
ਬਿਲਡ + ਟੈਸਟ + ਸਮੀਖਿਆ
ਸਕੈਨ
ਉਮੀਦਵਾਰ ਦੀ ਕਮਜ਼ੋਰੀ
ਸਥਿਰ ਵਿਸ਼ਲੇਸ਼ਣ + ਆਡੀਟਰ ਪੁਸ਼ਟੀ
ਆਡਿਟ
ਸੁਝਾਅ, ਰਿਪੋਰਟ ਡਰਾਫਟ
ਸਮਰੱਥ ਆਡੀਟਰ ਦੇ ਦਸਤਖਤ
ਟੈਸਟ
ਸਕ੍ਰਿਪਟ ਡਰਾਫਟ
ਟੈਸਟਨੈੱਟ + ਫਜ਼ਿੰਗ + ਸਿਮੂਲੇਸ਼ਨ
ਵੰਡ
ਚੈੱਕਲਿਸਟ
ਬਹੁ-ਦਸਤਖਤ ਪੁਸ਼ਟੀ + ਹੌਲੀ-ਹੌਲੀ ਨਿਕਾਸ
ਨਿਗਰਾਨੀ
ਅਸੰਗਤ ਚਿੰਨ੍ਹ
ਮਨੁੱਖੀ ਜਵਾਬ ਯੋਜਨਾ
ਇਹ ਲੇਅਰਡ ਢਾਂਚਾ ਇੱਕ ਸਿੰਗਲ AI ਬੱਗ ਨੂੰ ਮੇਨਨੈੱਟ ਵਿੱਚ ਲੀਕ ਹੋਣ ਤੋਂ ਰੋਕਦਾ ਹੈ। ਹਰੇਕ ਦਰਵਾਜ਼ੇ ਦੀ ਇੱਕ ਸਪੱਸ਼ਟ ਪਾਸ ਸ਼ਰਤ ਹੈ: ਕੀ ਟੈਸਟ ਪਾਸ ਕੀਤਾ, ਕੀ ਆਡੀਟਰ ਨੇ ਦਸਤਖਤ ਕੀਤੇ, ਕੀ ਸਿਮੂਲੇਸ਼ਨ ਬਰਕਰਾਰ ਹੈ?
ਕਮਜ਼ੋਰ ਪਹੁੰਚ / ਮਜ਼ਬੂਤ ਪਹੁੰਚ
ਕਮਜ਼ੋਰ ਪਹੁੰਚ:
AI ਨੇ ਕੋਡ ਤਿਆਰ ਕੀਤਾ ਹੈ, ਇਹ ਸਾਫ਼ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ, ਆਓ ਇਸਨੂੰ ਮੇਨਨੈੱਟ 'ਤੇ ਪਾਈਏ।
ਇਹ ਇੱਕ ਅਟੱਲ ਖੇਤਰ ਵਿੱਚ ਤਬਾਹੀ ਲਈ ਇੱਕ ਨੁਸਖਾ ਹੈ।
ਸ਼ਕਤੀਸ਼ਾਲੀ ਪਹੁੰਚ:
1. AI ਨੇ ਡਰਾਫਟ ਤਿਆਰ ਕੀਤਾ → ਅਸੀਂ ਇਸਨੂੰ ਕੰਪਾਇਲ ਕੀਤਾ, ਟੈਸਟ ਕੀਤਾ।2. Static analysis + AI scan → auditor confirmed.3. ਸੁਤੰਤਰ ਸੁਰੱਖਿਆ ਆਡਿਟ → ਹਸਤਾਖਰਿਤ ਰਿਪੋਰਟ.4. ਟੈਸਟਨੈੱਟ + ਫਜ਼ਿੰਗ + ਸਿਮੂਲੇਸ਼ਨ → ਦ੍ਰਿਸ਼ਟੀਕੋਣ.5. ਮਲਟੀ-ਦਸਤਖਤ, ਕੈਸਕੇਡਿੰਗ ਮੇਨਨੈੱਟ ਐਗਜ਼ਿਟ + ਨਿਗਰਾਨੀ. ਹਰੇਕ ਪੋਰਟ 'ਤੇ: ਪਰਿਵਰਤਨ ਦੀ ਸਥਿਤੀ ਪੂਰੀ ਹੋਣ ਤੱਕ ਕੋਈ ਤਰੱਕੀ ਨਹੀਂ।
ਚਾਰ ਕਾਪੀ ਕਰਨ ਯੋਗ ਟੈਂਪਲੇਟ
1) ਪੁਸ਼ਟੀਕਰਨ ਗੇਟ ਕੰਟਰੋਲ:
ਇਸ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਆਉਟਪੁੱਟ ਲਈ ਇੱਕ ਪ੍ਰਮਾਣਿਕਤਾ ਚੈਕਲਿਸਟ ਤਿਆਰ ਕਰੋ: ਕਿਹੜੇ ਸੁਤੰਤਰ ਕਦਮਾਂ (ਸੰਕਲਨ, ਸਥਿਰ ਵਿਸ਼ਲੇਸ਼ਣ, ਆਡਿਟਿੰਗ, ਟੈਸਟਿੰਗ, ਸਿਮੂਲੇਸ਼ਨ) ਦੁਆਰਾ ਇਸਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ? ਹਰ ਪੜਾਅ ਲਈ ਤਬਦੀਲੀ ਦੀ ਸਥਿਤੀ ਲਿਖੋ। ਦੱਸੋ ਕਿ ਜੇਕਰ ਇੱਕ ਕਦਮ ਛੱਡ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ ਤਾਂ ਕੀ ਖਤਰਾ ਪੈਦਾ ਹੋਵੇਗਾ।
2) AI ਆਉਟਪੁੱਟ ਵਿਸ਼ਵਾਸ ਪੱਧਰ ਲੇਬਲਿੰਗ:
ਹੇਠਾਂ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਆਉਟਪੁੱਟ ਦੀ ਸਮੀਖਿਆ ਕਰੋ ਅਤੇ ਹਰੇਕ ਦਾਅਵੇ 'ਤੇ ਨਿਸ਼ਾਨ ਲਗਾਓ: "ਪ੍ਰਮਾਣਿਤ / ਪ੍ਰਮਾਣਿਤ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ / AI ਕਮਜ਼ੋਰੀ ਖੇਤਰ"। ਉਹਨਾਂ ਬਿੰਦੂਆਂ ਨੂੰ ਉਜਾਗਰ ਕਰੋ ਜਿਹਨਾਂ ਲਈ ਮਨੁੱਖੀ ਮੁਹਾਰਤ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਖਾਸ ਤੌਰ 'ਤੇ ਉਹ ਕਾਰੋਬਾਰੀ ਤਰਕ ਅਤੇ ਵਿਲੱਖਣ ਜੋਖਮ ਨੂੰ ਸ਼ਾਮਲ ਕਰਦੇ ਹਨ।
3) ਮਾਹਰ ਟ੍ਰਾਂਸਫਰ ਨੋਟ:
ਇਸ ਆਉਟਪੁੱਟ ਨੂੰ ਇੱਕ ਸਮਰੱਥ ਮਾਹਰ ਨੂੰ ਸੌਂਪਣ ਲਈ, ਇੱਕ ਸੰਖੇਪ ਤਿਆਰ ਕਰੋ: AI ਨੇ ਕੀ ਕੀਤਾ, ਕਿਹੜੀਆਂ ਧਾਰਨਾਵਾਂ ਨਾਲ, ਇਹ ਕਿੱਥੇ ਅਨਿਸ਼ਚਿਤ ਹੈ, ਖਾਸ ਤੌਰ 'ਤੇ ਮਾਹਰ ਨੂੰ ਕਿੱਥੇ ਪੁਸ਼ਟੀ ਕਰਨ ਦੀ ਲੋੜ ਹੈ? ਇਹ ਸਪੱਸ਼ਟ ਕਰੋ ਕਿ ਜ਼ਿੰਮੇਵਾਰੀ ਮਾਹਰ ਦੀ ਹੈ.
4) ਘਟਨਾ ਪ੍ਰਤੀਕਿਰਿਆ ਦੀ ਤਿਆਰੀ:
ਇਸ ਪ੍ਰੋਟੋਕੋਲ ਲਈ ਇੱਕ ਐਮਰਜੈਂਸੀ/ਘਟਨਾ ਪ੍ਰਤੀਕਿਰਿਆ ਰੂਪਰੇਖਾ ਤਿਆਰ ਕਰੋ: ਜੇਕਰ ਕਿਸੇ ਜੀਵ ਵਿੱਚ ਕਮਜ਼ੋਰੀ ਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਤਾਂ ਕਿਹੜੇ ਕਦਮ (ਇੰਟਰਸੈਪਟ ਅਥਾਰਟੀ, ਸੰਚਾਰ, ਫੰਡ ਸੁਰੱਖਿਆ) ਸ਼ਾਮਲ ਹੋਣਗੇ? ਇਹ ਇੱਕ ਡਰਾਫਟ ਹੈ; ਟੀਮ ਅਤੇ ਮਾਹਰ ਨੂੰ ਕੈਲੀਬਰੇਟ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
ਤਿੰਨ ਛੋਟੇ ਕੇਸ (ਸੰਖਿਆ ਵਿੱਚ)
ਕੇਸ 1 - ਦਰਵਾਜ਼ੇ ਨੂੰ ਛਾਲ ਮਾਰਨ ਨਾਲ ਤਬਾਹੀ ਆਈ। ਸਮੇਂ ਦੇ ਦਬਾਅ ਦੇ ਕਾਰਨ, ਇੱਕ ਟੀਮ ਨੇ ਸੁਤੰਤਰ ਆਡਿਟ ਨੂੰ ਛੱਡ ਦਿੱਤਾ ਅਤੇ AI + ਆਪਣੇ ਟੈਸਟਾਂ 'ਤੇ ਭਰੋਸਾ ਕੀਤਾ ਅਤੇ ਮੇਨਨੈੱਟ 'ਤੇ ਚਲੀ ਗਈ। 11 ਦਿਨਾਂ ਬਾਅਦ ~$4M ਨੂੰ ਕਾਰੋਬਾਰੀ ਤਰਕ ਦੀ ਕਮਜ਼ੋਰੀ ਤੋਂ ਹਟਾਇਆ ਗਿਆ। ਇੱਕ ਨਿਰੀਖਣ ਗੇਟ ਸ਼ਾਇਦ ਇਸ ਨੂੰ ਫੜ ਲਵੇਗਾ। ਸਬਕ: ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਖੇਤਰ ਵਿੱਚ ਦਰਵਾਜ਼ੇ ਨੂੰ ਬਾਈਪਾਸ ਨਾ ਕਰੋ।
ਕੇਸ 2 - ਲੇਅਰਡ ਪ੍ਰਮਾਣਿਕਤਾ ਸੁਰੱਖਿਅਤ ਕੀਤੀ ਗਈ। ਇੱਕ ਹੋਰ ਟੀਮ ਨੇ ਹਰੇਕ ਗੇਟ ਦਾ ਸੰਚਾਲਨ ਕੀਤਾ: AI ਬਲੂਪ੍ਰਿੰਟ → ਸਥਿਰ ਵਿਸ਼ਲੇਸ਼ਣ → ਆਡਿਟ → ਟੈਸਟਨੈੱਟ → ਸਿਮੂਲੇਸ਼ਨ। ਆਡਿਟ ਪੜਾਅ ਦੇ ਦੌਰਾਨ, ਇੱਕ ਰੀਐਂਟਰੈਂਸੀ, ਇੱਕ ਓਰੇਕਲ ਜੋਖਮ ਸਿਮੂਲੇਸ਼ਨ ਵਿੱਚ ਫੜਿਆ ਗਿਆ ਸੀ। ਦੋਵੇਂ ਮੇਨਨੈੱਟ ਤੋਂ ਪਹਿਲਾਂ ਬੰਦ ਹੋ ਗਏ। ਪਾਠ: ਲੇਅਰਾਂ ਇਕੱਲੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਅੰਦਰ ਲੀਕ ਹੋਣ ਤੋਂ ਰੋਕਦੀਆਂ ਹਨ।
ਕੇਸ 3 - "ਸੁਰੱਖਿਅਤ ਭਰਮ।" ਇੱਕ ਡਿਵੈਲਪਰ ਨੇ ਏਆਈ ਨੂੰ ਕੋਡ ਬਾਰੇ ਪੁੱਛਿਆ; ਏਆਈ ਨੇ ਕਿਹਾ, “ਇੱਥੇ ਕੋਈ ਮਹੱਤਵਪੂਰਨ ਸੁਰੱਖਿਆ ਸਮੱਸਿਆ ਨਹੀਂ ਜਾਪਦੀ ਹੈ। ਟੀਮ ਨੇ ਇਸ ਨੂੰ ਕਿਸੇ ਵੀ ਤਰ੍ਹਾਂ ਜਾਂਚ ਲਈ ਭੇਜਿਆ, ਅਤੇ ਦੋ ਉੱਚ-ਪੱਧਰੀ ਖੋਜਾਂ ਸਾਹਮਣੇ ਆਈਆਂ। ਜੇਕਰ ਅਸੀਂ AI 'ਤੇ ਭਰੋਸਾ ਕੀਤਾ ਹੁੰਦਾ, ਤਾਂ ਇਹ ਦੋਵੇਂ ਜ਼ਿੰਦਾ ਹੋ ਜਾਂਦੇ। ਸਬਕ: AI ਦਾ ਭਰੋਸੇ ਦਾ ਪ੍ਰਗਟਾਵਾ ਕੋਈ ਪੁਸ਼ਟੀ ਨਹੀਂ ਹੈ।
ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਦੇ ਸਿਧਾਂਤ
ਅਸੀਂ ਇਸ ਮੋਡੀਊਲ ਦੇ ਸਾਰ ਨੂੰ ਛੇ ਸਿਧਾਂਤਾਂ ਤੱਕ ਘਟਾ ਸਕਦੇ ਹਾਂ:
- ਮਨੁੱਖੀ ਜਿੰਮੇਵਾਰੀ: ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਅੰਤਮ ਪ੍ਰਵਾਨਗੀ ਸਮਰੱਥ ਮਾਹਰ ਦੇ ਕੋਲ ਹੈ; AI ਨੂੰ ਜਵਾਬਦੇਹ ਨਹੀਂ ਠਹਿਰਾਇਆ ਜਾ ਸਕਦਾ।
- ਲੇਅਰਡ ਪ੍ਰਮਾਣਿਕਤਾ: ਹਰ ਪੜਾਅ 'ਤੇ ਇੱਕ ਮਨੁੱਖੀ ਗੇਟ ਅਤੇ ਪਾਸ ਸਥਿਤੀ।
- ਰੱਖਿਆਤਮਕ ਵਰਤੋਂ: ਜਾਣਕਾਰੀ ਦੀ ਰੱਖਿਆ ਅਤੇ ਨਿਯੰਤਰਣ ਕਰਨ ਲਈ; ਸ਼ੋਸ਼ਣ/ਫਸਾਉਣ ਲਈ ਨਹੀਂ।
- ਗੋਪਨੀਯਤਾ: ਗਾਹਕ ਕੋਡ ਅਤੇ ਡੇਟਾ ਬਿਨਾਂ ਆਗਿਆ ਦੇ ਓਪਨ ਟੂਲਸ ਨੂੰ ਨਹੀਂ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ।
- ਪਾਰਦਰਸ਼ਤਾ: AI ਦੀ ਵਰਤੋਂ ਨੂੰ ਰਿਪੋਰਟ ਵਿੱਚ ਇਮਾਨਦਾਰੀ ਨਾਲ ਦੱਸਿਆ ਗਿਆ ਹੈ; ਕੋਈ ਅਤਿਕਥਨੀ ਜਾਂ ਝੂਠਾ ਭਰੋਸਾ ਨਹੀਂ ਦਿੱਤਾ ਗਿਆ ਹੈ।
- ਇਮਾਨਦਾਰੀ: ਨਿਵੇਸ਼ਕ ਅਤੇ ਉਪਭੋਗਤਾ ਗੁੰਮਰਾਹ ਨਹੀਂ ਹੁੰਦੇ; ਜੋਖਮ ਛੁਪਿਆ ਨਹੀਂ ਹੈ, ਸਲਾਹ ਮਖੌਟਾ ਨਹੀਂ ਹੈ.
ਸੁਝਾਅ: ਹਰੇਕ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਫੈਸਲੇ ਲਈ ਆਪਣੇ ਆਪ ਨੂੰ ਇੱਕ ਸਵਾਲ ਪੁੱਛੋ: "ਜੇ ਇਹ ਗਲਤ ਹੈ ਅਤੇ ਪੈਸਾ ਗੁਆਚ ਗਿਆ ਹੈ, ਤਾਂ ਕੀ ਇਸਦੇ ਪਿੱਛੇ ਖੜ੍ਹੇ ਹੋਣ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਲੈਣ ਲਈ ਸਮਰੱਥ ਮਨੁੱਖੀ ਤਸਦੀਕ ਹੈ?" ਜੇਕਰ ਜਵਾਬ “ਨਹੀਂ, ਏਆਈ ਨੇ ਅਜਿਹਾ ਕਿਹਾ,” ਤਾਂ ਪ੍ਰਕਿਰਿਆ ਅਧੂਰੀ ਹੈ।
ਆਮ ਗਲਤੀਆਂ
- ਸੁਤੰਤਰ ਆਡਿਟ ਗੇਟ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨਾ. ਇਹ ਅਟੱਲ ਖੇਤਰ ਵਿੱਚ ਮਾਫ਼ ਕਰਨ ਯੋਗ ਹੈ.
- AI ਦੇ ਭਰੋਸੇ ਦੇ ਪ੍ਰਗਟਾਵੇ ਨੂੰ ਪੁਸ਼ਟੀ ਵਜੋਂ ਗਲਤ ਕਰਨਾ। "ਸੁਰੱਖਿਅਤ ਭਰਮ" ਸਭ ਤੋਂ ਖਤਰਨਾਕ ਹੈ।
- AI 'ਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਪਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ। ਜਿੰਮੇਵਾਰੀ ਉਸ ਮਾਹਰ ਦੀ ਹੈ ਜਿਸਨੇ ਦਸਤਖਤ ਕੀਤੇ ਹਨ।
- ਸਮਾਂਬੱਧਤਾ ਮੰਨ ਕੇ। AI ਨੂੰ ਸਿਖਲਾਈ ਦੀ ਕਟੌਫ ਮਿਤੀ ਤੋਂ ਅੱਗੇ ਨਹੀਂ ਪਤਾ।
- ਸਮੇਂ ਦੇ ਦਬਾਅ ਕਾਰਨ ਦਰਵਾਜ਼ੇ ਨੂੰ ਛੋਟਾ ਕਰਨਾ। ਸਭ ਤੋਂ ਮਹਿੰਗੀ ਗਲਤੀ ਦਾ ਸਰੋਤ।
- ਘਟਨਾ ਪ੍ਰਤੀਕਿਰਿਆ ਯੋਜਨਾ ਦੇ ਬਿਨਾਂ ਛੱਡਣਾ। ਜਦੋਂ ਇੱਕ ਲੀਕ ਹੁੰਦਾ ਹੈ, ਇੱਕ ਨੂੰ ਤਿਆਰ ਨਹੀਂ ਕੀਤਾ ਜਾਂਦਾ ਹੈ.
ਸੰਖੇਪ ਵਿੱਚ
- ਬਲਾਕਚੈਨ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਹੈ; ਗਲਤੀਆਂ ਅਟੱਲ ਹੁੰਦੀਆਂ ਹਨ ਅਤੇ ਸਿੱਧੇ ਪੈਸੇ ਵਿੱਚ ਬਦਲ ਜਾਂਦੀਆਂ ਹਨ।
- AI ਅਸਲ ਗਲਤੀ ਨੂੰ ਨਹੀਂ ਦੇਖ ਸਕਦਾ, ਝੂਠਾ ਭਰੋਸਾ ਦਿੰਦਾ ਹੈ, ਪੁਰਾਣਾ ਹੈ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਨਹੀਂ ਲੈ ਸਕਦਾ।
- ਇਸ ਲਈ ਅੰਤਮ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਪ੍ਰਵਾਨਗੀ ਹਮੇਸ਼ਾਂ ਸਮਰੱਥ ਮਾਹਰ ਕੋਲ ਹੁੰਦੀ ਹੈ।
- ਲੇਅਰਡ ਵੈਰੀਫਿਕੇਸ਼ਨ ਹਰ ਪੜਾਅ 'ਤੇ ਮਨੁੱਖੀ ਗੇਟ ਲਗਾ ਕੇ ਲਾਈਵ ਵਾਤਾਵਰਨ ਵਿੱਚ ਲੀਕ ਹੋਣ ਤੋਂ ਇੱਕ ਗਲਤੀ ਨੂੰ ਰੋਕਦੀ ਹੈ।
- ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ: ਮਨੁੱਖੀ ਜ਼ਿੰਮੇਵਾਰੀ, ਰੱਖਿਆਤਮਕ ਉਦੇਸ਼, ਗੁਪਤਤਾ, ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਅਖੰਡਤਾ।
ਐਪਲੀਕੇਸ਼ਨ ਦਾ ਕੰਮ
ਇੱਕ ਸਮਾਰਟ ਕੰਟਰੈਕਟ ਪ੍ਰੋਜੈਕਟ ਦੀ ਕਲਪਨਾ ਕਰੋ (ਜਾਂ ਇੱਕ ਅਸਲੀ ਉਦਾਹਰਣ ਲਓ)। ਵਿਚਾਰ ਤੋਂ ਮੇਨਨੈੱਟ ਤੱਕ ਦੀ ਪੂਰੀ ਯਾਤਰਾ ਲਈ ਇੱਕ ਪੱਧਰੀ ਤਸਦੀਕ ਯੋਜਨਾ ਲਿਖੋ: ਹਰ ਪੜਾਅ 'ਤੇ AI ਕੀ ਕਰਦਾ ਹੈ, ਮਨੁੱਖੀ ਗੇਟ ਕੀ ਹੈ, ਪਰਿਵਰਤਨ ਸਥਿਤੀ ਕੀ ਹੈ? ਫਿਰ ਇੱਕ "ਸਮੇਂ ਦਾ ਦਬਾਅ" ਦ੍ਰਿਸ਼ ਸ਼ਾਮਲ ਕਰੋ: ਕਿਹੜਾ ਦਰਵਾਜ਼ਾ ਬਾਈਪਾਸ ਕਰਨਾ ਸਭ ਤੋਂ ਖਤਰਨਾਕ ਹੋਵੇਗਾ ਅਤੇ ਕਿਉਂ? ਇੱਕ ਘਟਨਾ ਪ੍ਰਤੀਕਿਰਿਆ ਰੂਪਰੇਖਾ ਵੀ ਸ਼ਾਮਲ ਕਰੋ।
ਚੈੱਕਲਿਸਟ
- [ ] ਮੈਂ ਸਵੀਕਾਰ ਕੀਤਾ ਕਿ ਅੰਤਮ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਪ੍ਰਵਾਨਗੀ ਮਾਹਰ ਕੋਲ ਹੈ।
- ਮੈਂ ਹਰ ਪੜਾਅ 'ਤੇ ਮਨੁੱਖੀ ਤਸਦੀਕ ਗੇਟ ਲਗਾਇਆ ਹੈ।
- [ ] ਮੈਂ AI ਦੇ ਭਰੋਸੇ ਦੇ ਪ੍ਰਗਟਾਵੇ ਨੂੰ ਪੁਸ਼ਟੀ ਵਜੋਂ ਨਹੀਂ ਗਿਣਿਆ।
- [ ] ਮੈਂ ਸੁਤੰਤਰ ਆਡਿਟ ਦਰਵਾਜ਼ੇ ਨੂੰ ਬਾਈਪਾਸ ਨਹੀਂ ਕੀਤਾ।
- [ ] ਮੈਂ ਸਤਹੀਤਾ ਨਹੀਂ ਮੰਨੀ; ਮੈਂ ਮਨੁੱਖੀ ਨਾਲ ਨਵੀਨਤਮ ਜਾਣਕਾਰੀ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ.
- [ ] ਮੈਂ AI 'ਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਨਹੀਂ ਪਾਈ।
- [ ] ਮੈਂ ਇੱਕ ਘਟਨਾ ਪ੍ਰਤੀਕਿਰਿਆ ਯੋਜਨਾ ਤਿਆਰ ਕੀਤੀ ਹੈ।