ਲਾਭ:
- ਕੋਡ-ਡੇਟਾ-ਮਾਡਲ ਤਿਕੜੀ ਅਤੇ ਪੈਕੇਜ ਨਾਲ ਸਬੰਧਤ ML ਦੀਆਂ ਵਿਸ਼ੇਸ਼ ਚੁਣੌਤੀਆਂ ਨੂੰ ਪਛਾਣਨ ਅਤੇ ਕਾਰੋਬਾਰੀ ਲੋੜ ਦੇ ਅਨੁਸਾਰ ਮਾਡਲ ਨੂੰ ਔਨਲਾਈਨ ਜਾਂ ਬੈਚ ਵਿੱਚ ਪੇਸ਼ ਕਰਨ ਦੀ ਸਮਰੱਥਾ।
- ਹੌਲੀ-ਹੌਲੀ ਅਤੇ ਰੋਲਬੈਕ ਤੈਨਾਤੀ ਪੈਟਰਨ (ਸ਼ੈਡੋ, ਕੈਨਰੀ, ਏ/ਬੀ, ਰੋਲਬੈਕ) ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਅਤੇ ਹਰੇਕ ਤੈਨਾਤੀ ਲਈ ਇੱਕ ਟੈਸਟ ਕੀਤੀ ਰੋਲਬੈਕ ਯੋਜਨਾ ਸ਼ਾਮਲ ਕਰੋ
- ਮੁਲਾਂਕਣ ਥ੍ਰੈਸ਼ਹੋਲਡ-ਨਿਯੰਤਰਿਤ CI/CD ਅਤੇ ਮਾਡਲ ਰਜਿਸਟਰੀ ਦੇ ਨਾਲ ਉਤਪਾਦਨ ਵਿੱਚ ਰੱਖੇ ਮਾਡਲ ਦੇ ਡੇਟਾ-ਕੋਡ-ਮੈਟ੍ਰਿਕ ਲਿੰਕ ਨੂੰ ਟਰੇਸ ਕਰਨ ਯੋਗ ਰੱਖਣ ਦੀ ਸਮਰੱਥਾ
ਨੋਟਬੁੱਕ ਵਿੱਚ 95% ਸ਼ੁੱਧਤਾ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਇੱਕ ਮਾਡਲ ਪ੍ਰਾਪਤ ਕਰਨਾ ਸਿਰਫ ਅੱਧੀ ਕਹਾਣੀ ਹੈ। ਦੂਜਾ ਅੱਧਾ-ਅਕਸਰ ਔਖਾ ਹਿੱਸਾ-ਉਹ ਮਾਡਲ ਅਸਲ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਭਰੋਸੇਯੋਗ, ਸਕੇਲੇਬਲ, ਅਤੇ ਸਾਂਭਣਯੋਗ ਤਰੀਕੇ ਨਾਲ ਪ੍ਰਾਪਤ ਕਰ ਰਿਹਾ ਹੈ। MLOps (ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਓਪਰੇਸ਼ਨਜ਼: ML ਮਾਡਲਾਂ ਨੂੰ ਉਤਪਾਦਨ ਵਿੱਚ ਲਗਾਉਣ, ਚਲਾਉਣ ਅਤੇ ਸਾਂਭਣ ਦਾ ਅਨੁਸ਼ਾਸਨ) ML ਦੀਆਂ ਵਿਲੱਖਣ ਚੁਣੌਤੀਆਂ ਨਾਲ ਸੌਫਟਵੇਅਰ ਇੰਜੀਨੀਅਰਿੰਗ ਦੇ DevOps ਅਭਿਆਸਾਂ ਨੂੰ ਜੋੜਦਾ ਹੈ। ਇਸ ਯੂਨਿਟ ਵਿੱਚ, ਅਸੀਂ ਮਾਡਲ ਨੂੰ ਉਤਪਾਦਨ ਵਿੱਚ ਲਿਜਾਣ ਦੇ ਕਦਮਾਂ ਨੂੰ ਕਵਰ ਕਰਦੇ ਹਾਂ ਅਤੇ ਕਿਵੇਂ ਨਕਲੀ ਬੁੱਧੀ ਇਸ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਮਦਦ ਕਰਦੀ ਹੈ।
ML ਨਿਯਮਤ ਸੌਫਟਵੇਅਰ ਤੋਂ ਵੱਖਰਾ ਕਿਉਂ ਹੈ?
ਆਮ ਸੌਫਟਵੇਅਰ ਵਿੱਚ, ਵਿਵਹਾਰ ਕੋਡ ਵਿੱਚ ਹੁੰਦਾ ਹੈ; ਜੇਕਰ ਕੋਡ ਨਹੀਂ ਬਦਲਦਾ, ਤਾਂ ਵਿਹਾਰ ਨਹੀਂ ਬਦਲਦਾ। ML ਵਿੱਚ, ਵਿਹਾਰ ਕੋਡ, ਡੇਟਾ ਅਤੇ ਮਾਡਲ ਦੋਵਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ। ਇਹ ਤਿੰਨ ਮਾਪ MLOps ਦੀਆਂ ਵਾਧੂ ਚੁਣੌਤੀਆਂ ਬਣਾਉਂਦੇ ਹਨ:
- ਡੇਟਾ ਡ੍ਰਾਈਫਟ: ਉਤਪਾਦਨ ਵਿੱਚ ਡੇਟਾ ਸਮੇਂ ਦੇ ਨਾਲ ਸਿਖਲਾਈ ਵਿੱਚ ਡੇਟਾ ਤੋਂ ਦੂਰ ਜਾਂਦਾ ਹੈ; ਮਾਡਲ ਪੁਰਾਣਾ ਹੋ ਜਾਂਦਾ ਹੈ।
- ਤੁਹਾਨੂੰ ਤਿੰਨ ਚੀਜ਼ਾਂ ਦਾ ਸੰਸਕਰਣ ਕਰਨ ਦੀ ਲੋੜ ਹੈ: ਕੋਡ, ਡੇਟਾ, ਅਤੇ ਮਾਡਲ - ਤਿੰਨੋਂ।
- ਚੁੱਪ ਅਸਫਲਤਾ: ਇੱਕ ਮਾਡਲ ਕ੍ਰੈਸ਼ ਕੀਤੇ ਬਿਨਾਂ, ਗਲਤੀਆਂ ਦਿੱਤੇ ਬਿਨਾਂ, ਗਲਤ ਭਵਿੱਖਬਾਣੀਆਂ ਪੈਦਾ ਕਰਕੇ ਅਸਫਲ ਹੋ ਸਕਦਾ ਹੈ। ਇਸ ਨੂੰ ਫੜਨ ਲਈ ਨਿਗਰਾਨੀ ਦੀ ਲੋੜ ਹੈ।
ਇਸ ਲਈ ਇੱਕ "ਵਰਕਿੰਗ ਮਾਡਲ" ਅਤੇ "ਉਤਪਾਦਨ ਲਈ ਤਿਆਰ ਮਾਡਲ" ਵਿੱਚ ਇੱਕ ਵੱਡਾ ਅੰਤਰ ਹੈ।
ਮਾਡਲ ਪੈਕੇਜਿੰਗ ਅਤੇ ਪੇਸ਼ਕਾਰੀ
ਮਾਡਲ ਨੂੰ ਉਤਪਾਦਨ ਵਿੱਚ ਪਾਉਣ ਦਾ ਪਹਿਲਾ ਕਦਮ ਇਸ ਨੂੰ ਪੈਕ ਕਰਨਾ ਹੈ: ਮਾਡਲ ਫਾਈਲ, ਲੋੜੀਂਦੀਆਂ ਲਾਇਬ੍ਰੇਰੀਆਂ, ਪ੍ਰੀ-ਪ੍ਰੋਸੈਸਿੰਗ ਕੋਡ, ਅਤੇ ਸੰਸਕਰਣ ਜਾਣਕਾਰੀ ਨੂੰ ਇੱਕ ਪੁਨਰ-ਉਤਪਾਦਨ ਯੋਗ ਸਮੁੱਚੀ ਦੇ ਰੂਪ ਵਿੱਚ। ਕੰਟੇਨਰਾਈਜ਼ੇਸ਼ਨ (ਜਿਵੇਂ ਕਿ ਡੌਕਰ: ਐਪਲੀਕੇਸ਼ਨ ਨੂੰ ਇਸ ਦੀਆਂ ਸਾਰੀਆਂ ਨਿਰਭਰਤਾਵਾਂ ਦੇ ਨਾਲ ਇੱਕ ਅਲੱਗ ਬਕਸੇ ਵਿੱਚ ਰੱਖਣਾ) ਇੱਥੇ ਮਿਆਰੀ ਹੈ; ਇਹ "ਇਹ ਮੇਰੀ ਮਸ਼ੀਨ 'ਤੇ ਕੰਮ ਕਰ ਰਿਹਾ ਸੀ" ਸਮੱਸਿਆ ਨੂੰ ਖਤਮ ਕਰਦਾ ਹੈ।
ਮਾਡਲ ਦੀ ਸੇਵਾ ਕਰਨ ਦੇ ਦੋ ਬੁਨਿਆਦੀ ਪੈਟਰਨ:
- ਔਨਲਾਈਨ/ਰੀਅਲ-ਟਾਈਮ (ਔਨਲਾਈਨ): ਮਾਡਲ ਇੱਕ API ਦੇ ਪਿੱਛੇ ਬੈਠਦਾ ਹੈ, ਹਰ ਆਉਣ ਵਾਲੀ ਬੇਨਤੀ ਲਈ ਇੱਕ ਤਤਕਾਲ ਭਵਿੱਖਬਾਣੀ ਵਾਪਸ ਕਰਦਾ ਹੈ। ਘੱਟ ਲੇਟੈਂਸੀ ਮਹੱਤਵਪੂਰਨ ਹੈ।
- ਬੈਚ: ਮਾਡਲ ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਵੱਡੇ ਡੇਟਾ ਸੈੱਟਾਂ ਦੀ ਪ੍ਰਕਿਰਿਆ ਕਰਦਾ ਹੈ (ਜਿਵੇਂ ਕਿ ਰਾਤ ਨੂੰ ਸਾਰੇ ਗਾਹਕਾਂ ਲਈ ਸਕੋਰ ਤਿਆਰ ਕਰਦਾ ਹੈ)। ਲੇਟੈਂਸੀ ਅਪ੍ਰਸੰਗਿਕ ਹੈ, ਕੁਸ਼ਲਤਾ ਮਹੱਤਵਪੂਰਨ ਹੈ।
ਕਿਹੜਾ ਸਹੀ ਹੈ ਇਹ ਕਾਰੋਬਾਰੀ ਲੋੜ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ: ਤੁਰੰਤ ਸਿਫ਼ਾਰਿਸ਼ ਔਨਲਾਈਨ, ਬੈਚ ਵਿੱਚ ਮਾਸਿਕ ਜੋਖਮ ਸਕੋਰ।
ਸੰਕੇਤ: "ਰੀਅਲ-ਟਾਈਮ" ਇੱਕ ਲਾਗਤ ਹੈ, ਡਿਫੌਲਟ ਨਹੀਂ। ਬੈਚ ਬਹੁਤ ਸਸਤਾ ਅਤੇ ਸਰਲ ਹੈ ਜੇਕਰ ਨਤੀਜਾ ਘੰਟਿਆਂ ਦੇ ਅੰਦਰ ਵਰਤਿਆ ਜਾਵੇਗਾ। ਕੀ ਤੁਹਾਨੂੰ ਸੱਚਮੁੱਚ ਇੱਕ ਤੁਰੰਤ ਜਵਾਬ ਦੀ ਲੋੜ ਹੈ? ਪਹਿਲਾਂ ਇਹ ਪੁੱਛੋ।
ਸੁਰੱਖਿਅਤ ਵੰਡ ਰਣਨੀਤੀਆਂ
ਸਾਰੇ ਟ੍ਰੈਫਿਕ ਲਈ ਸਿੱਧਾ ਨਵਾਂ ਮਾਡਲ ਖੋਲ੍ਹਣਾ ਜੋਖਮ ਭਰਿਆ ਹੈ; ਜੇਕਰ ਇਹ ਗਲਤ ਹੈ, ਤਾਂ ਹਰ ਕੋਈ ਪ੍ਰਭਾਵਿਤ ਹੁੰਦਾ ਹੈ। ਸੁਰੱਖਿਅਤ ਵੰਡ ਪੈਟਰਨ:
- ਸ਼ੈਡੋ ਡਿਪਲਾਇਮੈਂਟ: ਨਵਾਂ ਮਾਡਲ ਉਤਪਾਦਨ ਟ੍ਰੈਫਿਕ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ, ਪਰ ਇਸ ਦੀਆਂ ਭਵਿੱਖਬਾਣੀਆਂ ਉਪਭੋਗਤਾ ਨੂੰ ਨਹੀਂ ਦਿਖਾਈਆਂ ਜਾਂਦੀਆਂ ਹਨ, ਸਿਰਫ ਲੌਗ ਕੀਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ। ਇਹ ਦੇਖਣ ਲਈ ਪੁਰਾਣੇ ਮਾਡਲ ਨਾਲ ਤੁਲਨਾ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਕਿ ਇਹ ਅਸਲ ਡੇਟਾ ਵਿੱਚ ਸੁਰੱਖਿਅਤ ਹੈ ਜਾਂ ਨਹੀਂ।
- ਕੈਨਰੀ ਤੈਨਾਤੀ: ਨਵਾਂ ਮਾਡਲ ਪਹਿਲਾਂ ਟ੍ਰੈਫਿਕ ਦੇ ਇੱਕ ਛੋਟੇ ਪ੍ਰਤੀਸ਼ਤ (ਜਿਵੇਂ ਕਿ 5%) ਲਈ ਰੋਲਆਊਟ ਕੀਤਾ ਜਾਂਦਾ ਹੈ; ਜੇ ਕੋਈ ਸਮੱਸਿਆ ਨਹੀਂ ਹੈ, ਤਾਂ ਇਸਨੂੰ ਹੌਲੀ ਹੌਲੀ ਵਧਾਇਆ ਜਾਂਦਾ ਹੈ.
- A/B ਟੈਸਟਿੰਗ: ਅਸਲ ਉਪਭੋਗਤਾ ਨੂੰ ਸਮਾਨਾਂਤਰ ਵਿੱਚ ਦੋ ਮਾਡਲ ਪੇਸ਼ ਕੀਤੇ ਜਾਂਦੇ ਹਨ ਅਤੇ ਵਪਾਰਕ ਮੈਟ੍ਰਿਕਸ (ਪਰਿਵਰਤਨ, ਕਲਿੱਕ) ਦੀ ਤੁਲਨਾ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
- ਰੋਲਬੈਕ: ਜੇ ਨਵਾਂ ਮਾਡਲ ਖਰਾਬ ਨਿਕਲਦਾ ਹੈ ਤਾਂ ਪੁਰਾਣੇ ਸੰਸਕਰਣ 'ਤੇ ਜਲਦੀ ਵਾਪਸ ਜਾਣ ਦੀ ਸਮਰੱਥਾ। ਹਰ ਤੈਨਾਤੀ ਦੀ ਇੱਕ ਰੋਲਬੈਕ ਯੋਜਨਾ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ।
ਸਾਵਧਾਨ: ਰੋਲਬੈਕ ਯੋਜਨਾ ਤੋਂ ਬਿਨਾਂ ਇੱਕ ਤੈਨਾਤੀ ਪੂਰੀ ਨਹੀਂ ਹੁੰਦੀ ਹੈ। ਮਿੰਟਾਂ ਦੇ ਅੰਦਰ ਪੁਰਾਣੇ ਸੰਸਕਰਣ 'ਤੇ ਵਾਪਸ ਜਾਣ ਦੇ ਯੋਗ ਹੋਣਾ ਉਪਭੋਗਤਾ ਦੀ ਸੁਰੱਖਿਆ ਕਰਦਾ ਹੈ ਜਦੋਂ ਨਵਾਂ ਮਾਡਲ ਉਤਪਾਦਨ ਵਿੱਚ ਅਚਾਨਕ ਵਿਵਹਾਰ ਕਰਦਾ ਹੈ। ਤੈਨਾਤੀ ਤੋਂ ਪਹਿਲਾਂ ਇਸਦੀ ਜਾਂਚ ਕਰੋ।
ਕਮਜ਼ੋਰ ਪਹੁੰਚ / ਮਜ਼ਬੂਤ ਪਹੁੰਚ
ਕਮਜ਼ੋਰ: "ਮਾਡਲ ਟੈਸਟਿੰਗ ਵਿੱਚ ਚੰਗਾ ਸੀ, ਅਸੀਂ ਲਾਈਵ ਹੋ ਗਏ, ਅਸੀਂ ਇਸਨੂੰ ਸਾਰਿਆਂ ਲਈ ਖੋਲ੍ਹਿਆ."
Güçlü: "ਅਸੀਂ ਮਾਡਲ ਨੂੰ ਕੰਟੇਨਰਾਈਜ਼ ਕੀਤਾ, ਇਸਨੂੰ ਇੱਕ ਸੰਸਕਰਣ ਵਜੋਂ ਲੇਬਲ ਕੀਤਾ। ਪਹਿਲਾਂ, ਅਸੀਂ ਇਸਨੂੰ ਸ਼ੈਡੋ ਮੋਡ ਵਿੱਚ 3 ਦਿਨਾਂ ਲਈ ਪ੍ਰੋਡਕਸ਼ਨ ਟ੍ਰੈਫਿਕ ਦੇ ਨਾਲ ਚਲਾਇਆ, ਪੁਰਾਣੇ ਮਾਡਲ ਨਾਲ ਪੂਰਵ-ਅਨੁਮਾਨਾਂ ਦੀ ਤੁਲਨਾ ਕੀਤੀ — ਭਟਕਣਾ ਸਵੀਕਾਰਯੋਗ ਸੀ। ਫਿਰ ਅਸੀਂ ਇਸਨੂੰ 5% ਕੈਨਰੀ ਨਾਲ ਖੋਲ੍ਹਿਆ, ਥ੍ਰੁਪੁੱਟ ਮੈਟ੍ਰਿਕਸ ਅਤੇ ਲੇਟੈਂਸੀ ਦੀ ਨਿਗਰਾਨੀ ਕੀਤੀ। ਜਦੋਂ ਕੋਈ ਸਮੱਸਿਆ ਨਹੀਂ ਸੀ, ਅਸੀਂ ਹੌਲੀ-ਹੌਲੀ ਇਸ ਨੂੰ 10% ਵਧਾਉਣ ਲਈ ਅੱਗੇ ਵਧਾਇਆ ਸੀ।"
ਅੰਤਰ: ਮਜ਼ਬੂਤ ਪਹੁੰਚ ਹੌਲੀ-ਹੌਲੀ, ਮਾਪੀ ਗਈ ਅਤੇ ਉਲਟਾਉਣਯੋਗ ਹੈ। ਜੋਖਮ ਹਰ ਕਦਮ 'ਤੇ ਸੀਮਤ ਹੈ.
CI/CD ਅਤੇ ਆਟੋਮੇਸ਼ਨ
ML ਵਿੱਚ CI/CD (ਨਿਰੰਤਰ ਏਕੀਕਰਣ / ਨਿਰੰਤਰ ਤੈਨਾਤੀ: ਕੋਡ ਤਬਦੀਲੀਆਂ ਨੂੰ ਸਵੈਚਲਿਤ ਤੌਰ 'ਤੇ ਟੈਸਟ ਕਰਨ ਅਤੇ ਜਾਰੀ ਕਰਨ ਦੀ ਪਾਈਪਲਾਈਨ) ਨਾ ਸਿਰਫ਼ ਕੋਡ ਨੂੰ ਕਵਰ ਕਰਦੀ ਹੈ, ਸਗੋਂ ਡੇਟਾ ਅਤੇ ਮਾਡਲ ਦੇ ਕਦਮਾਂ ਨੂੰ ਵੀ ਸ਼ਾਮਲ ਕਰਦੀ ਹੈ। ਇੱਕ ਚੰਗੀ ML CI/CD ਪਾਈਪਲਾਈਨ: ਟੈਸਟ ਚਲਾਉਂਦੀ ਹੈ ਜਦੋਂ ਕੋਡ ਬਦਲਦਾ ਹੈ, ਡੇਟਾ ਪ੍ਰਮਾਣਿਕਤਾ ਕਰਦਾ ਹੈ, ਮਾਡਲ ਨੂੰ ਦੁਬਾਰਾ ਸਿਖਲਾਈ ਦਿੰਦਾ ਹੈ (ਜੇਕਰ ਜ਼ਰੂਰੀ ਹੋਵੇ), ਮੁਲਾਂਕਣ ਥ੍ਰੈਸ਼ਹੋਲਡ ਦੀ ਜਾਂਚ ਕਰਦਾ ਹੈ, ਅਤੇ ਜੇਕਰ ਥ੍ਰੈਸ਼ਹੋਲਡ ਹੋਲਡ ਹੁੰਦਾ ਹੈ ਤਾਂ ਹੀ ਤੈਨਾਤੀ ਨੂੰ ਅੱਗੇ ਵਧਾਉਂਦਾ ਹੈ। "ਸਿਖਲਾਈ ਆਟੋਮੈਟਿਕ ਹੈ, ਤੈਨਾਤੀ ਥ੍ਰੈਸ਼ਹੋਲਡ-ਅਧਾਰਿਤ ਹੈ" ਦਾ ਸਿਧਾਂਤ ਮਾੜੇ ਮਾਡਲ ਨੂੰ ਚੁੱਪਚਾਪ ਉਤਪਾਦਨ ਵਿੱਚ ਲੀਕ ਹੋਣ ਤੋਂ ਰੋਕਦਾ ਹੈ।
ਇਹਨਾਂ ਪਾਈਪਲਾਈਨਾਂ ਨੂੰ ਸਥਾਪਤ ਕਰਨ ਵੇਲੇ AI ਬਹੁਤ ਮਦਦਗਾਰ ਹੁੰਦਾ ਹੈ: ਸੰਰਚਨਾ ਫਾਈਲ (YAML) ਡਰਾਫਟ, ਟੈਸਟ ਕੇਸ, ਡਿਪਲਾਇਮੈਂਟ ਸਕ੍ਰਿਪਟਾਂ ਲਿਖਣਾ। ਪਰ ਤੁਸੀਂ ਡਿਸਟ੍ਰੀਬਿਊਸ਼ਨ ਥ੍ਰੈਸ਼ਹੋਲਡ (ਜੋ ਵੀ ਮੀਟ੍ਰਿਕ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੇ ਮੁੱਲ ਤੋਂ ਵੱਧ ਹੈ) ਅਤੇ ਰੋਲਬੈਕ ਨੀਤੀ ਨਿਰਧਾਰਤ ਕਰਦੇ ਹੋ; ਇਹ ਕਾਰੋਬਾਰੀ ਜੋਖਮ ਫੈਸਲੇ ਹਨ।
ਪ੍ਰਜਨਨ ਸਮਰੱਥਾ ਬੁਨਿਆਦੀ ਢਾਂਚਾ
ਉਤਪਾਦਨ ਵਿੱਚ ਇੱਕ ਮਾਡਲ ਦੇ ਵਿਵਹਾਰ ਨੂੰ ਦੁਬਾਰਾ ਤਿਆਰ ਕਰਨ ਲਈ, ਮਾਡਲ ਰਜਿਸਟਰੀ: ਇੱਕ ਰਿਕਾਰਡ ਜੋ ਰੱਖਦਾ ਹੈ ਕਿ ਕਿਹੜਾ ਮਾਡਲ ਕਿਸ ਡੇਟਾ ਅਤੇ ਕੋਡ ਨਾਲ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਕੀਤਾ ਗਿਆ ਸੀ, ਅਤੇ ਇਸ ਨੂੰ ਕਿਹੜੀ ਮੈਟ੍ਰਿਕਸ ਪ੍ਰਾਪਤ ਹੋਈ ਸੀ। ਹਰੇਕ ਉਤਪਾਦਨ ਮਾਡਲ ਲਈ, ਹੇਠ ਲਿਖਿਆਂ ਨੂੰ ਟਰੈਕ ਕਰਨ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ: ਸਿਖਲਾਈ ਡੇਟਾ ਸੰਸਕਰਣ, ਕੋਡ ਸੰਸਕਰਣ (ਗਿਟ ਕਮਿਟ), ਹਾਈਪਰਪੈਰਾਮੀਟਰ, ਮੁਲਾਂਕਣ ਸਕੋਰ, ਅਤੇ ਤੈਨਾਤੀ ਮਿਤੀ। ਜਦੋਂ ਕੋਈ ਸਮੱਸਿਆ ਪੈਦਾ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਇਸ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦੇਣ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ "ਕਿਹੜੇ ਮਾਡਲ ਨੇ ਇਹ ਭਵਿੱਖਬਾਣੀ ਕੀਤੀ, ਕਿਸ ਡੇਟਾ ਨਾਲ?" ਮਿੰਟ ਦੇ ਅੰਦਰ. ਅਸੀਂ ਇਸਨੂੰ ਯੂਨਿਟ 11 ਵਿੱਚ ਡੂੰਘਾ ਕਰਾਂਗੇ।
ਤਿੰਨ ਛੋਟੇ ਕੇਸ
ਕੇਸ 1 - ਸ਼ੈਡੋ ਵੰਡ ਦੁਆਰਾ ਫੜੀ ਗਈ ਸਮੱਸਿਆ। ਇੱਕ ਸਿਫਾਰਿਸ਼ ਮਾਡਲ ਨੇ ਟੈਸਟਿੰਗ ਵਿੱਚ ਪੁਰਾਣੇ ਨੂੰ ਹਰਾਇਆ। ਸ਼ੈਡੋ ਮੋਡ ਵਿੱਚ ਉਤਪਾਦਨ ਟ੍ਰੈਫਿਕ ਦੇ ਨਾਲ ਇਸਨੂੰ ਚਲਾਉਣਾ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਇੱਕ ਖਾਸ ਹਿੱਸੇ (ਨਵੇਂ ਉਪਭੋਗਤਾ) ਲਈ ਬਹੁਤ ਮਾੜੀਆਂ ਸਿਫਾਰਿਸ਼ਾਂ ਪੈਦਾ ਕਰਨ ਲਈ ਪਾਇਆ ਗਿਆ - ਟੈਸਟ ਡੇਟਾ ਇਸ ਹਿੱਸੇ ਦਾ ਘੱਟ ਪ੍ਰਤੀਨਿਧ ਸੀ। ਮਾਡਲ ਨੂੰ ਉਪਭੋਗਤਾ ਨੂੰ ਕਦੇ ਵੀ ਪ੍ਰਦਰਸ਼ਿਤ ਕੀਤੇ ਬਿਨਾਂ ਸਥਿਰ ਕੀਤਾ ਗਿਆ ਸੀ। ਜੇਕਰ ਇਹ ਸਿੱਧਾ ਖੋਲ੍ਹਿਆ ਗਿਆ ਸੀ, ਤਾਂ ਨਵੇਂ ਉਪਭੋਗਤਾ ਅਨੁਭਵ ਵਿੱਚ ਵਿਘਨ ਪੈ ਜਾਵੇਗਾ।
ਕੇਸ 2 - ਅਟੱਲ ਵੰਡ। ਇੱਕ ਟੀਮ ਨੇ ਬਿਨਾਂ ਕਿਸੇ ਰੋਲਬੈਕ ਯੋਜਨਾ ਦੇ, ਸਾਰੇ ਟ੍ਰੈਫਿਕ ਲਈ ਇੱਕ ਨਵਾਂ ਮੁੱਲ ਮਾਡਲ ਪੇਸ਼ ਕੀਤਾ। ਮਾਡਲ ਨੇ ਅਚਾਨਕ ਕੁਝ ਉਤਪਾਦਾਂ ਦੀ ਕੀਮਤ ਬਹੁਤ ਸਸਤੀ ਕੀਤੀ. ਪੁਰਾਣੇ ਸੰਸਕਰਣ 'ਤੇ ਵਾਪਸ ਜਾਣ ਵਿੱਚ ਘੰਟੇ ਲੱਗ ਗਏ ਕਿਉਂਕਿ ਪ੍ਰਕਿਰਿਆ ਤਿਆਰ ਨਹੀਂ ਸੀ। ਆਮਦਨ ਦਾ ਗੰਭੀਰ ਨੁਕਸਾਨ ਹੋਇਆ ਸੀ। ਬਾਅਦ ਵਿੱਚ, ਹਰ ਤੈਨਾਤੀ ਵਿੱਚ ਲਾਜ਼ਮੀ ਰੋਲਬੈਕ ਟੈਸਟਿੰਗ ਸ਼ਾਮਲ ਕੀਤੀ ਗਈ ਸੀ।
ਕੇਸ 3 - ਸਾਈਲੈਂਟ ਡੇਟਾ ਡਰਿਫਟ। ਇੱਕ ਧੋਖਾਧੜੀ ਦਾ ਪੈਟਰਨ ਮਹੀਨਿਆਂ ਲਈ ਬਿਨਾਂ ਕਿਸੇ ਗਲਤੀ ਦੇ ਪ੍ਰਗਟ ਹੋਇਆ। ਪਰ ਧੋਖੇਬਾਜ਼ਾਂ ਦੀਆਂ ਚਾਲਾਂ ਬਦਲ ਗਈਆਂ (ਡਾਟਾ ਡ੍ਰਾਈਫਟ) ਅਤੇ ਮਾਡਲ ਦੀ ਵਾਪਸੀ ਚੁੱਪਚਾਪ ਘਟ ਗਈ। ਕਿਸੇ ਨੇ ਧਿਆਨ ਨਹੀਂ ਦਿੱਤਾ ਕਿਉਂਕਿ ਕੋਈ ਨਿਗਰਾਨੀ ਨਹੀਂ ਸੀ। ਇੱਕ ਵਾਰ ਪੂਰਵ-ਅਨੁਮਾਨ ਵੰਡ ਨਿਗਰਾਨੀ ਪੈਨਲ ਦੀ ਸਥਾਪਨਾ ਹੋਣ ਤੋਂ ਬਾਅਦ, ਡ੍ਰਾਫਟ ਜਲਦੀ ਦਿਖਾਈ ਦੇਣ ਲੱਗ ਪਿਆ। ਅਸੀਂ ਯੂਨਿਟ 8 ਵਿੱਚ ਨਿਗਰਾਨੀ ਨੂੰ ਕਵਰ ਕਰਾਂਗੇ।
ਨਕਲ ਕਰਨ ਯੋਗ ਟੈਂਪਲੇਟਸ
ਇਸ ਮਾਡਲ ਲਈ ਇੱਕ ਡਰਾਫਟ ਤੈਨਾਤੀ ਯੋਜਨਾ ਲਿਖੋ। ਮਾਡਲ: [ਇਹ ਕੀ ਕਰਦਾ ਹੈ], ਵਰਤੋਂ: [ਔਨਲਾਈਨ ਜਾਂ ਬੈਚ?] ਇਸ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ: 1) ਪੈਕੇਜਿੰਗ (ਕੰਟੇਨਰ, ਸੰਸਕਰਣ) 2) ਵਾਧੇ ਦੀ ਤੈਨਾਤੀ ਰਣਨੀਤੀ (ਸ਼ੈਡੋ/ਕੈਨਰੀ/ਏ-ਬੀ) ਅਤੇ ਕਿਉਂ 3) ਟ੍ਰੈਕ ਕਰਨ ਲਈ ਮੈਟ੍ਰਿਕਸ (ਕਾਰੋਬਾਰ + ਤਕਨੀਕੀ + ਲੇਟੈਂਸੀ) 4) ਰੋਲਬੈਕ ਯੋਜਨਾ ਅਤੇ ਕਿਵੇਂ ਟੈਸਟ ਕਰਨਾ ਹੈ 5) ਤੈਨਾਤੀ ਦਾ ਕੀ ਮੁੱਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।
ਇਸ ML CI/CD ਪਾਈਪਲਾਈਨ ਦੀ ਜਾਂਚ ਕਰੋ: 1) ਕੀ ਲਾਈਨ ਵਿੱਚ ਡੇਟਾ ਪ੍ਰਮਾਣਿਕਤਾ ਹੈ? 2) ਕੀ ਤੈਨਾਤੀ ਮੁਲਾਂਕਣ ਥ੍ਰੈਸ਼ਹੋਲਡ ਨੂੰ ਫੜੇ ਬਿਨਾਂ ਅੱਗੇ ਵਧ ਸਕਦੀ ਹੈ (ਕੀ ਇਹ ਨਹੀਂ ਹੋਣੀ ਚਾਹੀਦੀ)? 3) ਕੀ ਰੋਲਬੈਕ ਆਟੋਮੈਟਿਕ ਹੈ? 4) ਕੀ ਮਾਡਲ ਰਜਿਸਟਰੀ ਵਿੱਚ ਡੇਟਾ + ਕੋਡ + ਮੈਟ੍ਰਿਕਸ ਟਰੈਕ ਕੀਤੇ ਗਏ ਹਨ? ਪਲੇਨ ਸੰਰਚਨਾ: [config]
ਇਹ ਫੈਸਲਾ ਕਰਨ ਵਿੱਚ ਮੇਰੀ ਮਦਦ ਕਰੋ ਕਿ ਔਨਲਾਈਨ ਜਾਂ ਬੈਚ ਪੇਸ਼ਕਾਰੀ ਇਸ ਮਾਡਲ ਲਈ ਢੁਕਵੀਂ ਹੈ। ਨਤੀਜਾ ਕਿੰਨਾ ਸਮਾਂ ਵਰਤਿਆ ਜਾਵੇਗਾ: [ਤਤਕਾਲ / ਮਿੰਟ / ਘੰਟਾ / ਦਿਨ] ਸੰਭਾਵਿਤ ਬੇਨਤੀ ਵਾਲੀਅਮ: [ਨੰਬਰ] ਕੀ ਕੋਈ ਦੇਰੀ ਸੀਮਾ ਹੈ: [ms] ਤੁਸੀਂ ਲਾਗਤ ਅਤੇ ਗੁੰਝਲਤਾ ਦੇ ਰੂਪ ਵਿੱਚ ਕਿਸ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕਰੋਗੇ ਅਤੇ ਕਿਉਂ?
ਇਸ ਮਾਡਲ ਲਈ ਰੋਲਬੈਕ ਪ੍ਰਕਿਰਿਆ ਲਿਖੋ।- ਕਿਹੜੀ ਮੈਟ੍ਰਿਕ/ਥ੍ਰੈਸ਼ਹੋਲਡ ਮਾੜੀ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ ਚਾਲੂ ਕਰਦੀ ਹੈ?- ਰੋਲਬੈਕ ਪੜਾਅ ਕੀ ਹਨ?- ਰੋਲਬੈਕ ਨੂੰ ਕਿੰਨਾ ਸਮਾਂ ਲੈਣਾ ਚਾਹੀਦਾ ਹੈ (ਨਿਸ਼ਾਨਾ)?- ਮੈਂ ਉਤਪਾਦਨ ਤੋਂ ਪਹਿਲਾਂ ਇਸ ਪ੍ਰਕਿਰਿਆ ਦੀ ਜਾਂਚ ਕਿਵੇਂ ਕਰਾਂ?
ਪੇਸ਼ਕਾਰੀ ਪੈਟਰਨ ਸਾਰਣੀ
ਮਾਪਦੰਡ
ਔਨਲਾਈਨ (ਰੀਅਲ ਟਾਈਮ)
ਬੈਚ
ਦੇਰੀ
ਗੰਭੀਰ (ms)
ਮਾਮੂਲੀ
ਵਰਤੋਂ
ਤੁਰੰਤ ਜਵਾਬ ਦੀ ਲੋੜ ਹੈ
ਆਵਰਤੀ ਸਕੋਰ
ਲਾਗਤ
ਉੱਚ
ਘੱਟ
ਜਟਿਲਤਾ
ਉੱਚ
ਘੱਟ
ਉਦਾਹਰਨ
ਲਾਈਵ ਸਿਫਾਰਸ਼, ਘੁਟਾਲਾ
ਮਾਸਿਕ ਜੋਖਮ ਸਕੋਰ
ਆਮ ਗਲਤੀਆਂ
- ਮੁੜ ਪ੍ਰਾਪਤੀ ਦੀ ਯੋਜਨਾ ਦੇ ਬਿਨਾਂ ਵੰਡੋ। ਗਲਤ ਮਾਡਲ ਪੂਰੇ ਉਪਭੋਗਤਾ ਨੂੰ ਮਾਰਦਾ ਹੈ.
- 100% ਟ੍ਰੈਫਿਕ ਲਈ ਸਿੱਧਾ ਖੁੱਲ੍ਹ ਰਿਹਾ ਹੈ। ਅਚੰਭੇ ਵਾਲੀ ਵੰਡ ਨਾਲ ਜੋਖਮ ਨੂੰ ਸੀਮਤ ਕਰੋ।
- ਨਿਗਰਾਨੀ ਦੀ ਸਥਾਪਨਾ ਨਹੀਂ ਕੀਤੀ ਜਾ ਰਹੀ। ਮਾਡਲ ਬਿਨਾਂ ਗਲਤੀ ਦੇ ਚੁੱਪਚਾਪ ਗਲਤੀਆਂ ਪੈਦਾ ਕਰਦਾ ਹੈ।
- ਬੇਲੋੜੀ ਅਸਲ-ਸਮੇਂ ਦੀ ਪੇਸ਼ਕਾਰੀ। ਜਦੋਂ ਕਿ ਬੈਚਿੰਗ ਕਾਫੀ ਹੁੰਦੀ ਹੈ, ਲਾਗਤ ਅਤੇ ਜਟਿਲਤਾ ਵਧ ਜਾਂਦੀ ਹੈ।
- ਮਾਡਲ-ਡੇਟਾ-ਕੋਡ ਸੰਸਕਰਣਾਂ ਨੂੰ ਲਿੰਕ ਨਹੀਂ ਕੀਤਾ ਜਾ ਰਿਹਾ। ਤੁਸੀਂ ਸਮੱਸਿਆ ਨੂੰ ਦੁਬਾਰਾ ਨਹੀਂ ਬਣਾ ਸਕਦੇ।
- ਬਿਨਾਂ ਵੰਡ ਥ੍ਰੈਸ਼ਹੋਲਡ ਦੇ ਆਟੋਮੈਟਿਕ ਰੀਲੀਜ਼। ਮਾੜਾ ਮਾਡਲ ਚੁੱਪਚਾਪ ਅੰਦਰ ਘੁਸ ਜਾਂਦਾ ਹੈ।
ਸੰਖੇਪ ਵਿੱਚ
ਮਾਡਲ ਨੂੰ ਉਤਪਾਦਨ ਵਿੱਚ ਲਿਜਾਣਾ ਇਸ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਨਾਲੋਂ ਇੱਕ ਵੱਖਰਾ ਅਤੇ ਅਕਸਰ ਵਧੇਰੇ ਮੁਸ਼ਕਲ ਇੰਜੀਨੀਅਰਿੰਗ ਕੰਮ ਹੈ। ML ਨੂੰ ਵਾਧੂ ਅਨੁਸ਼ਾਸਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਕਿਉਂਕਿ ਇਹ ਕੋਡ-ਡੇਟਾ-ਮਾਡਲ ਤਿਕੜੀ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ: ਪੈਕੇਜਿੰਗ ਅਤੇ ਸੰਸਕਰਣ, ਡਿਲਿਵਰੀ ਪੈਟਰਨ (ਔਨਲਾਈਨ/ਬੈਚ), ਜੋ ਵਪਾਰਕ ਲੋੜਾਂ ਦੇ ਅਨੁਕੂਲ ਹੈ, ਹੌਲੀ-ਹੌਲੀ ਅਤੇ ਉਲਟਾਉਣ ਯੋਗ ਤੈਨਾਤੀ, ਥ੍ਰੈਸ਼ਹੋਲਡ-ਨਿਯੰਤਰਿਤ CI/CD ਅਤੇ ਮਾਡਲ ਰਜਿਸਟ੍ਰੇਸ਼ਨ। ਨਕਲੀ ਬੁੱਧੀ ਇਸ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੇ ਕੋਡ ਅਤੇ ਸੰਰਚਨਾ ਨੂੰ ਤਿਆਰ ਕਰਨ ਵਿੱਚ ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਹਾਇਤਾ ਹੈ; ਪਰ ਡਿਸਟ੍ਰੀਬਿਊਸ਼ਨ ਥ੍ਰੈਸ਼ਹੋਲਡ, ਕਲੌਬੈਕ ਨੀਤੀ, ਅਤੇ ਜੋਖਮ ਫੈਸਲੇ ਤੁਹਾਡੇ ਹਨ। ਇੱਕ ਰੋਲਬੈਕ ਯੋਜਨਾ ਤੋਂ ਬਿਨਾਂ ਇੱਕ ਵੰਡ ਪੂਰੀ ਨਹੀਂ ਹੁੰਦੀ ਹੈ।
ਐਪਲੀਕੇਸ਼ਨ ਦਾ ਕੰਮ
ਕੰਟੇਨਰਾਈਜ਼ (ਡੌਕਰ) ਇੱਕ ਮਾਡਲ ਅਤੇ ਇਸ ਨੂੰ ਸੰਸਕਰਣ ਲੇਬਲ ਕਰੋ. ਇਹ ਫੈਸਲਾ ਕਰੋ ਕਿ ਤੁਸੀਂ ਔਨਲਾਈਨ ਪੇਸ਼ਕਸ਼ ਕਰੋਗੇ ਜਾਂ ਆਪਣੀਆਂ ਕਾਰੋਬਾਰੀ ਲੋੜਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਬੈਚ ਅਤੇ ਆਪਣੀ ਤਰਕਸੰਗਤ ਲਿਖੋ। ਇੱਕ ਪੜਾਅਵਾਰ ਤੈਨਾਤੀ ਯੋਜਨਾ (ਸ਼ੈਡੋ ਜਾਂ ਕੈਨਰੀ) ਅਤੇ ਇੱਕ ਟੈਸਟ ਕੀਤੀ ਰੋਲਬੈਕ ਪ੍ਰਕਿਰਿਆ ਦਾ ਦਸਤਾਵੇਜ਼ ਬਣਾਓ। ਮਾਡਲ ਰਜਿਸਟਰੀ ਵਿੱਚ ਡਾਟਾ ਸੰਸਕਰਣ, ਕੋਡ ਕਮਿਟ, ਅਤੇ ਮੁਲਾਂਕਣ ਸਕੋਰ ਨੂੰ ਰਿਕਾਰਡ ਕਰਨਾ ਯਕੀਨੀ ਬਣਾਓ।
ਚੈੱਕਲਿਸਟ
- [] ਮਾਡਲ ਪੈਕ ਕੀਤਾ ਗਿਆ ਹੈ ਅਤੇ ਸੰਸਕਰਣ ਕੀਤਾ ਗਿਆ ਹੈ (ਕੰਟੇਨਰ + ਲੇਬਲ)।
- ਪੇਸ਼ਕਾਰੀ ਪੈਟਰਨ (ਔਨਲਾਈਨ/ਬੈਚ) ਨੂੰ ਕਾਰੋਬਾਰੀ ਲੋੜ ਅਨੁਸਾਰ ਚੁਣਿਆ ਗਿਆ ਸੀ।
- [ ] ਪੜਾਅਵਾਰ ਤੈਨਾਤੀ ਰਣਨੀਤੀ (ਸ਼ੈਡੋ/ਕੈਨਰੀ) ਲਾਗੂ ਕੀਤੀ ਗਈ।
- [ ] ਰੋਲਬੈਕ ਪ੍ਰਕਿਰਿਆ ਲਿਖੀ ਅਤੇ ਜਾਂਚ ਕੀਤੀ ਗਈ।
- [ ] CI/CD ਮੁਲਾਂਕਣ ਥ੍ਰੈਸ਼ਹੋਲਡ ਨੂੰ ਪੂਰਾ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਤੈਨਾਤੀ ਨਹੀਂ ਕਰਦਾ ਹੈ।
- [] ਮਾਡਲ ਰਜਿਸਟਰੀ ਵਿੱਚ ਡੇਟਾ+ਕੋਡ+ਮੈਟ੍ਰਿਕ ਲਿੰਕ ਹੁੰਦਾ ਹੈ।