ಲಾಭಗಳು:
- ಕೋಡ್-ಡೇಟಾ-ಮಾದರಿ ಮೂವರು ಮತ್ತು ಪ್ಯಾಕೇಜ್ಗೆ ಸಂಬಂಧಿಸಿದ ML ನ ವಿಶೇಷ ಸವಾಲುಗಳನ್ನು ಗುರುತಿಸುವ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ವ್ಯವಹಾರದ ಅಗತ್ಯಕ್ಕೆ ಅನುಗುಣವಾಗಿ ಮಾದರಿಯನ್ನು ಆನ್ಲೈನ್ ಅಥವಾ ಬ್ಯಾಚ್ನಲ್ಲಿ ಪ್ರಸ್ತುತಪಡಿಸುವ ಸಾಮರ್ಥ್ಯ.
- ಕ್ರಮೇಣ ಮತ್ತು ರೋಲ್ಬ್ಯಾಕ್ ನಿಯೋಜನೆ ಮಾದರಿಗಳನ್ನು (ನೆರಳು, ಕ್ಯಾನರಿ, A/B, ರೋಲ್ಬ್ಯಾಕ್) ಕಾರ್ಯಗತಗೊಳಿಸುವ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಪ್ರತಿ ನಿಯೋಜನೆಗೆ ಪರೀಕ್ಷಿತ ರೋಲ್ಬ್ಯಾಕ್ ಯೋಜನೆಯನ್ನು ಸೇರಿಸುವುದು
- ಮೌಲ್ಯಮಾಪನ ಥ್ರೆಶೋಲ್ಡ್-ನಿಯಂತ್ರಿತ CI/CD ಮತ್ತು ಮಾಡೆಲ್ ರಿಜಿಸ್ಟ್ರಿಯೊಂದಿಗೆ ಉತ್ಪಾದನೆಯಲ್ಲಿ ಪತ್ತೆಹಚ್ಚಬಹುದಾದ ಮಾದರಿಯ ಡೇಟಾ-ಕೋಡ್-ಮೆಟ್ರಿಕ್ ಲಿಂಕ್ ಅನ್ನು ಇರಿಸಿಕೊಳ್ಳುವ ಸಾಮರ್ಥ್ಯ
ನೋಟ್ಬುಕ್ನಲ್ಲಿ 95% ನಿಖರತೆಯನ್ನು ಸಾಧಿಸಲು ಮಾದರಿಯನ್ನು ಪಡೆಯುವುದು ಕೇವಲ ಅರ್ಧದಷ್ಟು ಕಥೆಯಾಗಿದೆ. ಉಳಿದ ಅರ್ಧ-ಸಾಮಾನ್ಯವಾಗಿ ಕಠಿಣ ಭಾಗ-ಆ ಮಾದರಿಯನ್ನು ನಿಜವಾದ ಬಳಕೆದಾರರಿಗೆ ವಿಶ್ವಾಸಾರ್ಹ, ಸ್ಕೇಲೆಬಲ್ ಮತ್ತು ನಿರ್ವಹಿಸಬಹುದಾದ ರೀತಿಯಲ್ಲಿ ಪಡೆಯುತ್ತಿದೆ. MLOps (ಮೆಷಿನ್ ಲರ್ನಿಂಗ್ ಕಾರ್ಯಾಚರಣೆಗಳು: ML ಮಾದರಿಗಳನ್ನು ಉತ್ಪಾದನೆಯಲ್ಲಿ ಇರಿಸುವ, ನಿರ್ವಹಿಸುವ ಮತ್ತು ನಿರ್ವಹಿಸುವ ಶಿಸ್ತು) ಸಾಫ್ಟ್ವೇರ್ ಎಂಜಿನಿಯರಿಂಗ್ನ DevOps ಅಭ್ಯಾಸಗಳನ್ನು ML ನ ಅನನ್ಯ ಸವಾಲುಗಳೊಂದಿಗೆ ಸಂಯೋಜಿಸುತ್ತದೆ. ಈ ಘಟಕದಲ್ಲಿ, ನಾವು ಮಾದರಿಯನ್ನು ಉತ್ಪಾದನೆಗೆ ಚಲಿಸುವ ಹಂತಗಳನ್ನು ಮತ್ತು ಈ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಹೇಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ಎಂಎಲ್ ಸಾಮಾನ್ಯ ಸಾಫ್ಟ್ವೇರ್ಗಿಂತ ಏಕೆ ಭಿನ್ನವಾಗಿದೆ?
ಸಾಮಾನ್ಯ ಸಾಫ್ಟ್ವೇರ್ನಲ್ಲಿ, ನಡವಳಿಕೆಯು ಕೋಡ್ನಲ್ಲಿದೆ; ಕೋಡ್ ಬದಲಾಗದಿದ್ದರೆ, ನಡವಳಿಕೆಯು ಬದಲಾಗುವುದಿಲ್ಲ. ML ನಲ್ಲಿ, ನಡವಳಿಕೆಯು ಕೋಡ್, ಡೇಟಾ ಮತ್ತು ಮಾದರಿ ಎರಡನ್ನೂ ಅವಲಂಬಿಸಿರುತ್ತದೆ. ಈ ಮೂರು ಆಯಾಮಗಳು MLOps ನ ಹೆಚ್ಚುವರಿ ಸವಾಲುಗಳನ್ನು ಸೃಷ್ಟಿಸುತ್ತವೆ:
- ಡೇಟಾ ಡ್ರಿಫ್ಟ್: ಉತ್ಪಾದನೆಯಲ್ಲಿನ ಡೇಟಾವು ಕಾಲಾನಂತರದಲ್ಲಿ ತರಬೇತಿಯಲ್ಲಿನ ಡೇಟಾದಿಂದ ದೂರ ಹೋಗುತ್ತದೆ; ಮಾದರಿಯು ಬಳಕೆಯಲ್ಲಿಲ್ಲದಂತಾಗುತ್ತದೆ.
- ನೀವು ಆವೃತ್ತಿಯ ಮೂರು ವಿಷಯಗಳ ಅಗತ್ಯವಿದೆ: ಕೋಡ್, ಡೇಟಾ ಮತ್ತು ಮಾದರಿ-ಎಲ್ಲಾ ಮೂರು.
- ಸೈಲೆಂಟ್ ವೈಫಲ್ಯ: ಒಂದು ಮಾದರಿಯು ಕ್ರ್ಯಾಶ್ ಆಗದೆ, ದೋಷಗಳನ್ನು ನೀಡದೆ, ಕೇವಲ ತಪ್ಪಾದ ಭವಿಷ್ಯವಾಣಿಯನ್ನು ಉತ್ಪಾದಿಸುವ ಮೂಲಕ ವಿಫಲವಾಗಬಹುದು. ಇದನ್ನು ಹಿಡಿಯಲು ಮೇಲ್ವಿಚಾರಣೆಯ ಅಗತ್ಯವಿದೆ.
ಅದಕ್ಕಾಗಿಯೇ "ಕೆಲಸದ ಮಾದರಿ" ಮತ್ತು "ಉತ್ಪಾದನೆ-ಸಿದ್ಧ ಮಾದರಿ" ನಡುವೆ ದೊಡ್ಡ ವ್ಯತ್ಯಾಸವಿದೆ.
ಮಾದರಿ ಪ್ಯಾಕೇಜಿಂಗ್ ಮತ್ತು ಪ್ರಸ್ತುತಿ
ಮಾದರಿಯನ್ನು ಉತ್ಪಾದನೆಯಲ್ಲಿ ಇರಿಸುವ ಮೊದಲ ಹಂತವೆಂದರೆ ಅದನ್ನು ಪ್ಯಾಕೇಜಿಂಗ್ ಮಾಡುವುದು: ಮಾದರಿ ಫೈಲ್, ಅಗತ್ಯ ಲೈಬ್ರರಿಗಳು, ಪ್ರಿಪ್ರೊಸೆಸಿಂಗ್ ಕೋಡ್ ಮತ್ತು ಆವೃತ್ತಿಯ ಮಾಹಿತಿಯು ಪುನರುತ್ಪಾದಿಸಬಹುದಾದ ಒಟ್ಟಾರೆಯಾಗಿ. ಕಂಟೈನರೈಸೇಶನ್ (ಉದಾ. ಡಾಕರ್: ಅಪ್ಲಿಕೇಶನ್ ಅನ್ನು ಅದರ ಎಲ್ಲಾ ಅವಲಂಬನೆಗಳೊಂದಿಗೆ ಪ್ರತ್ಯೇಕ ಪೆಟ್ಟಿಗೆಯಲ್ಲಿ ಇರಿಸುವುದು) ಇಲ್ಲಿ ಪ್ರಮಾಣಿತವಾಗಿದೆ; ಇದು "ಇದು ನನ್ನ ಯಂತ್ರದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ" ಸಮಸ್ಯೆಯನ್ನು ನಿವಾರಿಸುತ್ತದೆ.
ಮಾದರಿಯನ್ನು ಪೂರೈಸುವ ಎರಡು ಮೂಲ ಮಾದರಿಗಳು:
- ಆನ್ಲೈನ್/ನೈಜ-ಸಮಯ (ಆನ್ಲೈನ್): ಮಾದರಿಯು API ಹಿಂದೆ ಇರುತ್ತದೆ, ಪ್ರತಿ ಒಳಬರುವ ವಿನಂತಿಗೆ ತ್ವರಿತ ಭವಿಷ್ಯವನ್ನು ಹಿಂತಿರುಗಿಸುತ್ತದೆ. ಕಡಿಮೆ ಸುಪ್ತತೆಯು ನಿರ್ಣಾಯಕವಾಗಿದೆ.
- ಬ್ಯಾಚ್: ಮಾದರಿಯು ನಿಯತಕಾಲಿಕವಾಗಿ ದೊಡ್ಡ ಡೇಟಾ ಸೆಟ್ಗಳನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುತ್ತದೆ (ಉದಾ. ರಾತ್ರಿಯಲ್ಲಿ ಎಲ್ಲಾ ಗ್ರಾಹಕರಿಗೆ ಸ್ಕೋರ್ಗಳನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ). ಸುಪ್ತತೆ ಅಪ್ರಸ್ತುತ, ದಕ್ಷತೆ ಮುಖ್ಯ.
ಯಾವುದು ಸರಿ ಎಂಬುದು ವ್ಯಾಪಾರದ ಅಗತ್ಯವನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ: ಆನ್ಲೈನ್ನಲ್ಲಿ ತ್ವರಿತ ಶಿಫಾರಸು, ಬ್ಯಾಚ್ನಲ್ಲಿ ಮಾಸಿಕ ಅಪಾಯದ ಸ್ಕೋರ್.
ಸಲಹೆ: "ನೈಜ-ಸಮಯ" ವೆಚ್ಚವಾಗಿದೆ, ಡೀಫಾಲ್ಟ್ ಅಲ್ಲ. ಫಲಿತಾಂಶವನ್ನು ಗಂಟೆಗಳಲ್ಲಿ ಬಳಸಿದರೆ ಬ್ಯಾಚ್ ಹೆಚ್ಚು ಅಗ್ಗವಾಗಿದೆ ಮತ್ತು ಸರಳವಾಗಿದೆ. ನಿಮಗೆ ನಿಜವಾಗಿಯೂ ತ್ವರಿತ ಉತ್ತರ ಬೇಕೇ? ಅದನ್ನು ಮೊದಲು ಕೇಳಿ.
ಸುರಕ್ಷಿತ ವಿತರಣಾ ತಂತ್ರಗಳು
ಎಲ್ಲಾ ಸಂಚಾರಕ್ಕೆ ನೇರವಾಗಿ ಹೊಸ ಮಾದರಿಯನ್ನು ತೆರೆಯುವುದು ಅಪಾಯಕಾರಿ; ಅದು ತಪ್ಪಾಗಿದ್ದರೆ, ಎಲ್ಲರೂ ಪರಿಣಾಮ ಬೀರುತ್ತಾರೆ. ಸುರಕ್ಷಿತ ವಿತರಣಾ ಮಾದರಿಗಳು:
- ನೆರಳು ನಿಯೋಜನೆ: ಹೊಸ ಮಾದರಿಯು ಉತ್ಪಾದನಾ ದಟ್ಟಣೆಯನ್ನು ಪಡೆಯುತ್ತದೆ, ಆದರೆ ಅದರ ಮುನ್ನೋಟಗಳನ್ನು ಬಳಕೆದಾರರಿಗೆ ತೋರಿಸಲಾಗುವುದಿಲ್ಲ, ಕೇವಲ ಲಾಗ್ ಮಾಡಲಾಗಿದೆ. ಇದು ನೈಜ ಡೇಟಾದಲ್ಲಿ ಸುರಕ್ಷಿತವಾಗಿದೆಯೇ ಎಂದು ನೋಡಲು ಹಳೆಯ ಮಾದರಿಯೊಂದಿಗೆ ಹೋಲಿಸಲಾಗುತ್ತದೆ.
- ಕ್ಯಾನರಿ ನಿಯೋಜನೆ: ಹೊಸ ಮಾದರಿಯನ್ನು ಮೊದಲು ಸಣ್ಣ ಶೇಕಡಾವಾರು ಟ್ರಾಫಿಕ್ಗೆ ಹೊರತರಲಾಗಿದೆ (ಉದಾ. 5%); ಯಾವುದೇ ತೊಂದರೆ ಇಲ್ಲದಿದ್ದರೆ, ಅದನ್ನು ಕ್ರಮೇಣ ಹೆಚ್ಚಿಸಲಾಗುತ್ತದೆ.
- A/B ಪರೀಕ್ಷೆ: ಎರಡು ಮಾದರಿಗಳನ್ನು ನೈಜ ಬಳಕೆದಾರರಿಗೆ ಸಮಾನಾಂತರವಾಗಿ ಪ್ರಸ್ತುತಪಡಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ವ್ಯಾಪಾರದ ಮೆಟ್ರಿಕ್ಗಳನ್ನು (ಪರಿವರ್ತನೆ, ಕ್ಲಿಕ್ಗಳು) ಹೋಲಿಸಲಾಗುತ್ತದೆ.
- ರೋಲ್ಬ್ಯಾಕ್: ಹೊಸ ಮಾದರಿಯು ಕೆಟ್ಟದ್ದಾಗಿದ್ದರೆ ಹಳೆಯ ಆವೃತ್ತಿಗೆ ತ್ವರಿತವಾಗಿ ಹಿಂತಿರುಗುವ ಸಾಮರ್ಥ್ಯ. ಪ್ರತಿ ನಿಯೋಜನೆಯು ರೋಲ್ಬ್ಯಾಕ್ ಯೋಜನೆಯನ್ನು ಹೊಂದಿರಬೇಕು.
ಎಚ್ಚರಿಕೆ: ರೋಲ್ಬ್ಯಾಕ್ ಯೋಜನೆ ಇಲ್ಲದೆ ನಿಯೋಜನೆ ಪೂರ್ಣಗೊಂಡಿಲ್ಲ. ಹೊಸ ಮಾದರಿಯು ಉತ್ಪಾದನೆಯಲ್ಲಿ ಅನಿರೀಕ್ಷಿತವಾಗಿ ವರ್ತಿಸಿದಾಗ ನಿಮಿಷಗಳಲ್ಲಿ ಹಳೆಯ ಆವೃತ್ತಿಗೆ ಹಿಂತಿರುಗಲು ಸಾಧ್ಯವಾಗುವುದರಿಂದ ಬಳಕೆದಾರರನ್ನು ರಕ್ಷಿಸುತ್ತದೆ. ನಿಯೋಜನೆಯ ಮೊದಲು ಇದನ್ನು ಪರೀಕ್ಷಿಸಿ.
ದುರ್ಬಲ ವಿಧಾನ / ಬಲವಾದ ವಿಧಾನ
ದುರ್ಬಲ: "ಮಾದರಿಯು ಪರೀಕ್ಷೆಯಲ್ಲಿ ಉತ್ತಮವಾಗಿದೆ, ನಾವು ಲೈವ್ ಮಾಡಿದ್ದೇವೆ, ನಾವು ಅದನ್ನು ಎಲ್ಲರಿಗೂ ತೆರೆದಿದ್ದೇವೆ."
Güçlü: "ನಾವು ಮಾದರಿಯನ್ನು ಕಂಟೈನರೈಸ್ ಮಾಡಿದ್ದೇವೆ, ಅದನ್ನು ಆವೃತ್ತಿ ಎಂದು ಲೇಬಲ್ ಮಾಡಿದ್ದೇವೆ. ಮೊದಲು, ನಾವು ಅದನ್ನು 3 ದಿನಗಳ ಕಾಲ ಉತ್ಪಾದನಾ ದಟ್ಟಣೆಯೊಂದಿಗೆ ನೆರಳು ಮೋಡ್ನಲ್ಲಿ ಓಡಿಸಿದ್ದೇವೆ, ಹಳೆಯ ಮಾದರಿಯೊಂದಿಗೆ ಮುನ್ಸೂಚನೆಗಳನ್ನು ಹೋಲಿಸಿ - ವಿಚಲನವು ಸ್ವೀಕಾರಾರ್ಹವಾಗಿದೆ. ನಂತರ ನಾವು ಅದನ್ನು 5% ಕ್ಯಾನರಿಯೊಂದಿಗೆ ತೆರೆದಿದ್ದೇವೆ, ಥ್ರೋಪುಟ್ ಮೆಟ್ರಿಕ್ಸ್ ಮತ್ತು ಲೇಟೆನ್ಸಿಯನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಿದ್ದೇವೆ. ಯಾವುದೇ ಸಮಸ್ಯೆಗಳಿಲ್ಲದಿದ್ದಾಗ, ನಾವು ಆದೇಶವನ್ನು ಕ್ರಮೇಣ 10 ಕ್ಕೆ ಹೆಚ್ಚಿಸಿದ್ದೇವೆ.
ವ್ಯತ್ಯಾಸ: ಬಲವಾದ ವಿಧಾನವು ಕ್ರಮೇಣ, ಅಳತೆ ಮತ್ತು ಹಿಂತಿರುಗಿಸಬಲ್ಲದು. ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಅಪಾಯ ಸೀಮಿತವಾಗಿದೆ.
CI/CD ಮತ್ತು ಆಟೊಮೇಷನ್
ML ನಲ್ಲಿ CI/CD (ನಿರಂತರ ಏಕೀಕರಣ / ನಿರಂತರ ನಿಯೋಜನೆ: ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಪರೀಕ್ಷಿಸುವ ಮತ್ತು ಕೋಡ್ ಬದಲಾವಣೆಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವ ಪೈಪ್ಲೈನ್) ಕೋಡ್ ಅನ್ನು ಮಾತ್ರವಲ್ಲದೆ ಡೇಟಾ ಮತ್ತು ಮಾದರಿ ಹಂತಗಳನ್ನು ಸಹ ಒಳಗೊಂಡಿದೆ. ಉತ್ತಮ ML CI/CD ಪೈಪ್ಲೈನ್: ಕೋಡ್ ಬದಲಾದಾಗ ಪರೀಕ್ಷೆಗಳನ್ನು ನಡೆಸುತ್ತದೆ, ಡೇಟಾ ಮೌಲ್ಯೀಕರಣವನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ, ಮಾದರಿಯನ್ನು ಮರುತರಬೇತಿಗೊಳಿಸುತ್ತದೆ (ಅಗತ್ಯವಿದ್ದರೆ), ಮೌಲ್ಯಮಾಪನ ಮಿತಿಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ ಮತ್ತು ಮಿತಿಗಳನ್ನು ಹಿಡಿದಿಟ್ಟುಕೊಂಡರೆ ಮಾತ್ರ ನಿಯೋಜನೆಯನ್ನು ಮುನ್ನಡೆಸುತ್ತದೆ. "ತರಬೇತಿ ಸ್ವಯಂಚಾಲಿತವಾಗಿದೆ, ನಿಯೋಜನೆಯು ಮಿತಿ ಆಧಾರಿತವಾಗಿದೆ" ಎಂಬ ತತ್ವವು ಕೆಟ್ಟ ಮಾದರಿಯು ಉತ್ಪಾದನೆಯಲ್ಲಿ ಮೌನವಾಗಿ ಸೋರಿಕೆಯಾಗುವುದನ್ನು ತಡೆಯುತ್ತದೆ.
ಈ ಪೈಪ್ಲೈನ್ಗಳನ್ನು ಹೊಂದಿಸುವಾಗ AI ತುಂಬಾ ಸಹಾಯಕವಾಗಿದೆ: ಕಾನ್ಫಿಗರೇಶನ್ ಫೈಲ್ (YAML) ಡ್ರಾಫ್ಟ್ಗಳು, ಪರೀಕ್ಷಾ ಪ್ರಕರಣಗಳು, ನಿಯೋಜನೆ ಸ್ಕ್ರಿಪ್ಟ್ಗಳನ್ನು ಬರೆಯುವುದು. ಆದರೆ ನೀವು ವಿತರಣಾ ಮಿತಿಗಳನ್ನು (ಯಾವುದೇ ಮೆಟ್ರಿಕ್ ಪ್ರಕಟಿಸಿದ ಮೌಲ್ಯವನ್ನು ಮೀರಿದೆ) ಮತ್ತು ರೋಲ್ಬ್ಯಾಕ್ ನೀತಿಯನ್ನು ನಿರ್ಧರಿಸುತ್ತೀರಿ; ಇವು ವ್ಯಾಪಾರ ಅಪಾಯದ ನಿರ್ಧಾರಗಳಾಗಿವೆ.
ಪುನರುತ್ಪಾದನೆ ಮೂಲಸೌಕರ್ಯ
ಉತ್ಪಾದನೆಯಲ್ಲಿ ಮಾದರಿಯ ನಡವಳಿಕೆಯನ್ನು ಪುನರುತ್ಪಾದಿಸಲು, ಮಾಡೆಲ್ ರಿಜಿಸ್ಟ್ರಿ: ಯಾವ ಮಾದರಿಯನ್ನು ಯಾವ ಡೇಟಾ ಮತ್ತು ಕೋಡ್ನೊಂದಿಗೆ ತರಬೇತಿ ನೀಡಲಾಗಿದೆ ಮತ್ತು ಅದು ಯಾವ ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಸ್ವೀಕರಿಸಿದೆ ಎಂಬುದನ್ನು ಇಡುವ ದಾಖಲೆ. ಪ್ರತಿ ಉತ್ಪಾದನಾ ಮಾದರಿಗೆ, ಕೆಳಗಿನವುಗಳನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಬಹುದಾಗಿದೆ: ತರಬೇತಿ ಡೇಟಾ ಆವೃತ್ತಿ, ಕೋಡ್ ಆವೃತ್ತಿ (ಜಿಟ್ ಕಮಿಟ್), ಹೈಪರ್ಪ್ಯಾರಾಮೀಟರ್ಗಳು, ಮೌಲ್ಯಮಾಪನ ಸ್ಕೋರ್ಗಳು ಮತ್ತು ನಿಯೋಜನೆ ದಿನಾಂಕ. ಸಮಸ್ಯೆಯು ಉದ್ಭವಿಸಿದಾಗ, "ಯಾವ ಮಾದರಿಯು ಈ ಭವಿಷ್ಯವನ್ನು ಉತ್ಪಾದಿಸಿದೆ, ಯಾವ ಡೇಟಾದೊಂದಿಗೆ?" ಎಂಬ ಪ್ರಶ್ನೆಗೆ ನೀವು ಉತ್ತರಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ. ನಿಮಿಷಗಳಲ್ಲಿ. ನಾವು ಇದನ್ನು ಘಟಕ 11 ರಲ್ಲಿ ಆಳಗೊಳಿಸುತ್ತೇವೆ.
ಮೂರು ಸಣ್ಣ ಪ್ರಕರಣಗಳು
ಪ್ರಕರಣ 1 - ನೆರಳು ವಿತರಣೆಯಿಂದ ಸಮಸ್ಯೆ ಕಂಡುಬಂದಿದೆ. ಶಿಫಾರಸು ಮಾಡೆಲ್ ಪರೀಕ್ಷೆಯಲ್ಲಿ ಹಳೆಯದನ್ನು ಸೋಲಿಸುತ್ತದೆ. ಛಾಯಾ ಮೋಡ್ನಲ್ಲಿ ಉತ್ಪಾದನಾ ದಟ್ಟಣೆಯೊಂದಿಗೆ ಅದನ್ನು ರನ್ ಮಾಡುವುದರಿಂದ ನಿರ್ದಿಷ್ಟ ಭಾಗದ ಬಳಕೆದಾರರಿಗೆ (ಹೊಸ ಬಳಕೆದಾರರು) ಅತ್ಯಂತ ಕಳಪೆ ಶಿಫಾರಸುಗಳನ್ನು ಉತ್ಪಾದಿಸುವುದು ಕಂಡುಬಂದಿದೆ - ಪರೀಕ್ಷಾ ಡೇಟಾವು ಈ ವಿಭಾಗದ ಕಡಿಮೆ ಪ್ರತಿನಿಧಿಸುತ್ತದೆ. ಬಳಕೆದಾರರಿಗೆ ಎಂದಿಗೂ ಪ್ರದರ್ಶಿಸದೆಯೇ ಮಾದರಿಯನ್ನು ಸರಿಪಡಿಸಲಾಗಿದೆ. ಅದನ್ನು ನೇರವಾಗಿ ತೆರೆದರೆ, ಹೊಸ ಬಳಕೆದಾರರ ಅನುಭವಕ್ಕೆ ಅಡ್ಡಿಯಾಗುತ್ತದೆ.
ಪ್ರಕರಣ 2 - ಬದಲಾಯಿಸಲಾಗದ ವಿತರಣೆ. ಯಾವುದೇ ರೋಲ್ಬ್ಯಾಕ್ ಯೋಜನೆಗಳಿಲ್ಲದೆ ತಂಡವೊಂದು ಎಲ್ಲಾ ಟ್ರಾಫಿಕ್ಗೆ ಹೊಸ ಬೆಲೆಯ ಮಾದರಿಯನ್ನು ಹೊರತಂದಿದೆ. ಮಾದರಿಯು ಅನಿರೀಕ್ಷಿತವಾಗಿ ಕೆಲವು ಉತ್ಪನ್ನಗಳಿಗೆ ಬಹಳ ಕಡಿಮೆ ಬೆಲೆಯನ್ನು ನೀಡಿದೆ. ಪ್ರಕ್ರಿಯೆಯು ಸಿದ್ಧವಾಗಿಲ್ಲದ ಕಾರಣ ಹಳೆಯ ಆವೃತ್ತಿಗೆ ಹಿಂತಿರುಗಲು ಗಂಟೆಗಳನ್ನು ತೆಗೆದುಕೊಂಡಿತು. ಆದಾಯದಲ್ಲಿ ಗಂಭೀರ ನಷ್ಟ ಉಂಟಾಗಿದೆ. ನಂತರ, ಪ್ರತಿ ನಿಯೋಜನೆಗೆ ಕಡ್ಡಾಯ ರೋಲ್ಬ್ಯಾಕ್ ಪರೀಕ್ಷೆಯನ್ನು ಸೇರಿಸಲಾಯಿತು.
ಪ್ರಕರಣ 3 - ಸೈಲೆಂಟ್ ಡೇಟಾ ಡ್ರಿಫ್ಟ್. ಯಾವುದೇ ದೋಷಗಳಿಲ್ಲದೆ ತಿಂಗಳವರೆಗೆ ವಂಚನೆಯ ಮಾದರಿಯು ಕಾಣಿಸಿಕೊಂಡಿದೆ. ಆದರೆ ವಂಚಕರ ತಂತ್ರಗಳು ಬದಲಾದವು (ಡೇಟಾ ಡ್ರಿಫ್ಟ್) ಮತ್ತು ಮಾದರಿಯ ಮರುಸ್ಥಾಪನೆಯು ಮೌನವಾಗಿ ಕೈಬಿಡಲಾಯಿತು. ನಿಗಾ ಇಲ್ಲದ ಕಾರಣ ಯಾರೂ ಗಮನಿಸಿಲ್ಲ. ಮುನ್ಸೂಚನೆಯ ವಿತರಣಾ ಮೇಲ್ವಿಚಾರಣಾ ಫಲಕವನ್ನು ಸ್ಥಾಪಿಸಿದ ನಂತರ, ದಿಕ್ಚ್ಯುತಿಯು ಆರಂಭದಲ್ಲಿ ಗೋಚರಿಸುತ್ತದೆ. ನಾವು ಘಟಕ 8 ರಲ್ಲಿ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಒಳಗೊಳ್ಳುತ್ತೇವೆ.
ನಕಲು ಮಾಡಬಹುದಾದ ಟೆಂಪ್ಲೇಟ್ಗಳು
ಈ ಮಾದರಿಗಾಗಿ ಡ್ರಾಫ್ಟ್ ನಿಯೋಜನೆ ಯೋಜನೆಯನ್ನು ಬರೆಯಿರಿ. ಮಾದರಿ: [ಅದು ಏನು ಮಾಡುತ್ತದೆ], ಬಳಕೆ: [ಆನ್ಲೈನ್ ಅಥವಾ ಬ್ಯಾಚ್?] ಒಳಗೊಂಡಿರಬೇಕು: 1) ಪ್ಯಾಕೇಜಿಂಗ್ (ಕಂಟೇನರ್, ಆವೃತ್ತಿ) 2) ಹೆಚ್ಚುತ್ತಿರುವ ನಿಯೋಜನೆ ತಂತ್ರ (ನೆರಳು/ಕ್ಯಾನರಿ/ಎ-ಬಿ) ಮತ್ತು ಏಕೆ3) ಟ್ರ್ಯಾಕ್ ಮಾಡಲು ಮೆಟ್ರಿಕ್ಗಳು (ವ್ಯಾಪಾರ + ತಾಂತ್ರಿಕ + ಲೇಟೆನ್ಸಿ) 4) ರೋಲ್ಬ್ಯಾಕ್ ಯೋಜನೆ ಮತ್ತು ಯಾವ ಮೌಲ್ಯವನ್ನು ಪರೀಕ್ಷಿಸಬೇಕು (5) ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಮೀರಬೇಕು
ಈ ML CI/CD ಪೈಪ್ಲೈನ್ ಅನ್ನು ಪರಿಶೀಲಿಸಿ: 1) ಸಾಲಿನಲ್ಲಿ ಡೇಟಾ ಮೌಲ್ಯೀಕರಣವಿದೆಯೇ? 2) ಮೌಲ್ಯಮಾಪನ ಮಿತಿಯನ್ನು ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳದೆ ನಿಯೋಜನೆಯು ಮುಂದುವರಿಯಬಹುದೇ (ಅದನ್ನು ಮಾಡಬಾರದು)? 3) ರೋಲ್ಬ್ಯಾಕ್ ಸ್ವಯಂಚಾಲಿತವಾಗಿದೆಯೇ? 4) ಮಾದರಿ ನೋಂದಾವಣೆಯಲ್ಲಿ ಡೇಟಾ+ಕೋಡ್+ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಲಾಗಿದೆಯೇ?ಪ್ಲೈನ್ ಕಾನ್ಫಿಗರೇಶನ್: [config]
ಈ ಮಾದರಿಗೆ ಆನ್ಲೈನ್ ಅಥವಾ ಬ್ಯಾಚ್ ಪ್ರಸ್ತುತಿ ಸೂಕ್ತವೇ ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸಲು ನನಗೆ ಸಹಾಯ ಮಾಡಿ. ಫಲಿತಾಂಶವನ್ನು ಎಷ್ಟು ಸಮಯದವರೆಗೆ ಬಳಸಲಾಗುತ್ತದೆ: [ತತ್ಕ್ಷಣ / ನಿಮಿಷ / ಗಂಟೆ / ದಿನ] ನಿರೀಕ್ಷಿತ ವಿನಂತಿಯ ಪರಿಮಾಣ: [ಸಂಖ್ಯೆ] ವಿಳಂಬ ನಿರ್ಬಂಧವಿದೆಯೇ: [ms] ವೆಚ್ಚ ಮತ್ತು ಸಂಕೀರ್ಣತೆಯ ವಿಷಯದಲ್ಲಿ ನೀವು ಯಾವುದನ್ನು ಶಿಫಾರಸು ಮಾಡುತ್ತೀರಿ ಮತ್ತು ಏಕೆ?
ಈ ಮಾದರಿಗೆ ರೋಲ್ಬ್ಯಾಕ್ ಕಾರ್ಯವಿಧಾನವನ್ನು ಬರೆಯಿರಿ.- ಯಾವ ಮೆಟ್ರಿಕ್/ಥ್ರೆಶೋಲ್ಡ್ ಕಳಪೆ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಪ್ರಚೋದಿಸುತ್ತದೆ?- ರೋಲ್ಬ್ಯಾಕ್ ಹಂತಗಳು ಯಾವುವು?- ರೋಲ್ಬ್ಯಾಕ್ ಎಷ್ಟು ಸಮಯ ತೆಗೆದುಕೊಳ್ಳಬೇಕು (ಗುರಿ)?- ಉತ್ಪಾದನೆಯ ಮೊದಲು ನಾನು ಈ ವಿಧಾನವನ್ನು ಹೇಗೆ ಪರೀಕ್ಷಿಸುವುದು?
ಪ್ರಸ್ತುತಿ ಮಾದರಿಯ ಕೋಷ್ಟಕ
ಮಾನದಂಡ
ಆನ್ಲೈನ್ (ನೈಜ ಸಮಯ)
ಬ್ಯಾಚ್
ವಿಳಂಬ
ನಿರ್ಣಾಯಕ (ಮಿಸೆ)
ಅತ್ಯಲ್ಪ
ಬಳಕೆ
ತ್ವರಿತ ಪ್ರತಿಕ್ರಿಯೆ ಅಗತ್ಯವಿದೆ
ಆವರ್ತಕ ಸ್ಕೋರ್
ವೆಚ್ಚ
ಹೆಚ್ಚು
ಕಡಿಮೆ
ಸಂಕೀರ್ಣತೆ
ಹೆಚ್ಚು
ಕಡಿಮೆ
ಉದಾಹರಣೆ
ಲೈವ್ ಶಿಫಾರಸು, ಹಗರಣ
ಮಾಸಿಕ ಅಪಾಯದ ಸ್ಕೋರ್
ಸಾಮಾನ್ಯ ತಪ್ಪುಗಳು
- ಹಿಂಪಡೆಯುವ ಯೋಜನೆ ಇಲ್ಲದೆ ವಿತರಿಸಿ. ತಪ್ಪು ಮಾದರಿಯು ಸಂಪೂರ್ಣ ಬಳಕೆದಾರರನ್ನು ಹೊಡೆಯುತ್ತದೆ.
- 100% ಸಂಚಾರಕ್ಕೆ ನೇರವಾಗಿ ತೆರೆಯಲಾಗುತ್ತಿದೆ. ಅಸ್ಥಿರ ವಿತರಣೆಯೊಂದಿಗೆ ಅಪಾಯವನ್ನು ಮಿತಿಗೊಳಿಸಿ.
- ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಸ್ಥಾಪಿಸುತ್ತಿಲ್ಲ. ಮಾದರಿಯು ದೋಷಗಳಿಲ್ಲದೆ ಮೌನವಾಗಿ ದೋಷಗಳನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ.
- ಅನಗತ್ಯ ನೈಜ-ಸಮಯದ ಪ್ರಸ್ತುತಿ. ಬ್ಯಾಚಿಂಗ್ ಸಾಕಾಗುತ್ತದೆ ಆದರೆ, ವೆಚ್ಚ ಮತ್ತು ಸಂಕೀರ್ಣತೆ ಹಿಗ್ಗಿಸುತ್ತದೆ.
- ಮಾಡೆಲ್-ಡೇಟಾ-ಕೋಡ್ ಆವೃತ್ತಿಗಳನ್ನು ಲಿಂಕ್ ಮಾಡುತ್ತಿಲ್ಲ. ನೀವು ಸಮಸ್ಯೆಯನ್ನು ಪುನರುತ್ಪಾದಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.
- ವಿತರಣಾ ಮಿತಿಯಿಲ್ಲದ ಸ್ವಯಂಚಾಲಿತ ಬಿಡುಗಡೆ. ಕೆಟ್ಟ ಮಾದರಿ ಮೌನವಾಗಿ ನುಸುಳುತ್ತದೆ.
ಸಾರಾಂಶದಲ್ಲಿ
ಮಾದರಿಯನ್ನು ಉತ್ಪಾದನೆಗೆ ಸರಿಸುವುದು ವಿಭಿನ್ನ ಮತ್ತು ಸಾಮಾನ್ಯವಾಗಿ ತರಬೇತಿ ನೀಡುವುದಕ್ಕಿಂತ ಹೆಚ್ಚು ಕಷ್ಟಕರವಾದ ಎಂಜಿನಿಯರಿಂಗ್ ಕಾರ್ಯವಾಗಿದೆ. ML ಗೆ ಹೆಚ್ಚುವರಿ ಶಿಸ್ತು ಅಗತ್ಯವಿರುತ್ತದೆ ಏಕೆಂದರೆ ಇದು ಕೋಡ್-ಡೇಟಾ-ಮಾದರಿ ತ್ರಿಕೋನವನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ: ಪ್ಯಾಕೇಜಿಂಗ್ ಮತ್ತು ಆವೃತ್ತಿ, ವ್ಯಾಪಾರದ ಅಗತ್ಯಕ್ಕೆ ಸರಿಹೊಂದುವ ವಿತರಣಾ ಮಾದರಿ (ಆನ್ಲೈನ್/ಬ್ಯಾಚ್), ಕ್ರಮೇಣ ಮತ್ತು ಹಿಂತಿರುಗಿಸಬಹುದಾದ ನಿಯೋಜನೆ, ಥ್ರೆಶೋಲ್ಡ್-ನಿಯಂತ್ರಿತ CI/CD ಮತ್ತು ಮಾದರಿ ನೋಂದಣಿ. ಈ ಮೂಲಸೌಕರ್ಯದ ಕೋಡ್ ಮತ್ತು ಕಾನ್ಫಿಗರೇಶನ್ ಅನ್ನು ಉತ್ಪಾದಿಸುವಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯು ಪ್ರಬಲವಾದ ಸಹಾಯವಾಗಿದೆ; ಆದರೆ ವಿತರಣಾ ಮಿತಿಗಳು, ಕ್ಲಾಬ್ಯಾಕ್ ನೀತಿ ಮತ್ತು ಅಪಾಯದ ನಿರ್ಧಾರಗಳು ನಿಮ್ಮದಾಗಿದೆ. ರೋಲ್ಬ್ಯಾಕ್ ಯೋಜನೆ ಇಲ್ಲದ ವಿತರಣೆಯು ಪೂರ್ಣಗೊಂಡಿಲ್ಲ.
ಅಪ್ಲಿಕೇಶನ್ ಕಾರ್ಯ
ಒಂದು ಮಾದರಿಯನ್ನು ಕಂಟೈನರೈಸ್ ಮಾಡಿ (ಡಾಕರ್) ಮತ್ತು ಅದರ ಆವೃತ್ತಿಯನ್ನು ಲೇಬಲ್ ಮಾಡಿ. ನಿಮ್ಮ ವ್ಯಾಪಾರದ ಅಗತ್ಯತೆಗಳ ಆಧಾರದ ಮೇಲೆ ನೀವು ಆನ್ಲೈನ್ ಅಥವಾ ಬ್ಯಾಚ್ ಅನ್ನು ನೀಡುತ್ತೀರಾ ಎಂದು ನಿರ್ಧರಿಸಿ ಮತ್ತು ನಿಮ್ಮ ಸಮರ್ಥನೆಯನ್ನು ಬರೆಯಿರಿ. ಹಂತ ಹಂತದ ನಿಯೋಜನೆ ಯೋಜನೆ (ನೆರಳು ಅಥವಾ ಕ್ಯಾನರಿ) ಮತ್ತು ಪರೀಕ್ಷಿತ ರೋಲ್ಬ್ಯಾಕ್ ಕಾರ್ಯವಿಧಾನವನ್ನು ದಾಖಲಿಸಿ. ಮಾಡೆಲ್ ರಿಜಿಸ್ಟ್ರಿಯಲ್ಲಿ ಡೇಟಾ ಆವೃತ್ತಿ, ಕೋಡ್ ಕಮಿಟ್ ಮತ್ತು ಮೌಲ್ಯಮಾಪನ ಸ್ಕೋರ್ಗಳನ್ನು ರೆಕಾರ್ಡ್ ಮಾಡಲು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ.
ಪರಿಶೀಲನಾಪಟ್ಟಿ
- [ ] ಮಾದರಿಯನ್ನು ಪ್ಯಾಕ್ ಮಾಡಲಾಗಿದೆ ಮತ್ತು ಆವೃತ್ತಿ ಮಾಡಲಾಗಿದೆ (ಕಂಟೇನರ್ + ಲೇಬಲ್).
- [ ] ವ್ಯವಹಾರದ ಅಗತ್ಯಕ್ಕೆ ಅನುಗುಣವಾಗಿ ಪ್ರಸ್ತುತಿ ಮಾದರಿಯನ್ನು (ಆನ್ಲೈನ್/ಬ್ಯಾಚ್) ಆಯ್ಕೆ ಮಾಡಲಾಗಿದೆ.
- [ ] ಹಂತ ಹಂತದ ನಿಯೋಜನೆ ತಂತ್ರ (ನೆರಳು/ಕ್ಯಾನರಿ) ಅಳವಡಿಸಲಾಗಿದೆ.
- [ ] ರೋಲ್ಬ್ಯಾಕ್ ಕಾರ್ಯವಿಧಾನವನ್ನು ಬರೆಯಲಾಗಿದೆ ಮತ್ತು ಪರೀಕ್ಷಿಸಲಾಗಿದೆ.
- [ ] ಮೌಲ್ಯಮಾಪನ ಮಿತಿಯನ್ನು ಪೂರೈಸುವ ಮೊದಲು CI/CD ನಿಯೋಜನೆಯನ್ನು ಮುಂದೂಡುವುದಿಲ್ಲ.
- [ ] ಮಾಡೆಲ್ ರಿಜಿಸ್ಟ್ರಿಯು ಡೇಟಾ+ಕೋಡ್+ಮೆಟ್ರಿಕ್ ಲಿಂಕ್ ಅನ್ನು ಹೊಂದಿದೆ.