ஆதாயங்கள்:
- குறியீடு-தரவு-மாடல் ட்ரையோ மற்றும் பேக்கேஜ் தொடர்பான ML இன் சிறப்புச் சவால்களை அடையாளம் கண்டு, வணிகத் தேவைக்கேற்ப ஆன்லைனில் அல்லது தொகுப்பாக மாதிரியை வழங்கும் திறன்.
- படிப்படியான மற்றும் திரும்பப்பெறும் வரிசைப்படுத்தல் முறைகளை (நிழல், கேனரி, A/B, ரோல்பேக்) செயல்படுத்தும் திறன் மற்றும் ஒவ்வொரு வரிசைப்படுத்தலுக்கும் ஒரு சோதனை செய்யப்பட்ட ரோல்பேக் திட்டத்தைச் சேர்க்கும் திறன்
- மதிப்பீட்டு வரம்பு-கட்டுப்படுத்தப்பட்ட CI/CD மற்றும் மாதிரி பதிவேடு மூலம் உற்பத்தியில் வைக்கப்படும் மாதிரியின் தரவு-குறியீடு-மெட்ரிக் இணைப்பை வைத்திருக்கும் திறன்
நோட்புக்கில் 95% துல்லியத்தை அடைய ஒரு மாதிரியைப் பெறுவது பாதி கதை மட்டுமே. மற்ற பாதி-பெரும்பாலும் கடினமான பகுதி-அந்த மாதிரியை உண்மையான பயனர்களுக்கு நம்பகமான, அளவிடக்கூடிய மற்றும் பராமரிக்கக்கூடிய வழியில் பெறுகிறது. MLOps (இயந்திர கற்றல் செயல்பாடுகள்: ML மாடல்களை உற்பத்தியில் வைப்பது, இயக்குவது மற்றும் பராமரிப்பது ஆகியவற்றின் ஒழுக்கம்) மென்பொருள் பொறியியலின் DevOps நடைமுறைகளை ML இன் தனித்துவமான சவால்களுடன் ஒருங்கிணைக்கிறது. இந்த யூனிட்டில், மாடலை உற்பத்திக்கு நகர்த்துவதற்கான படிகள் மற்றும் இந்த செயல்பாட்டில் செயற்கை நுண்ணறிவு எவ்வாறு உதவுகிறது.
வழக்கமான மென்பொருளிலிருந்து ML ஏன் வேறுபட்டது?
சாதாரண மென்பொருளில், நடத்தை குறியீட்டில் உள்ளது; குறியீடு மாறவில்லை என்றால், நடத்தை மாறாது. ML இல், நடத்தை குறியீடு, தரவு மற்றும் மாதிரி இரண்டையும் சார்ந்துள்ளது. இந்த மூன்று பரிமாணங்கள் MLOps இன் கூடுதல் சவால்களை உருவாக்குகின்றன:
- தரவு சறுக்கல்: உற்பத்தியில் உள்ள தரவு காலப்போக்கில் பயிற்சியில் உள்ள தரவுகளிலிருந்து விலகிச் செல்கிறது; மாதிரி வழக்கற்றுப் போகிறது.
- நீங்கள் மூன்று விஷயங்களைப் பதிப்பு செய்ய வேண்டும்: குறியீடு, தரவு மற்றும் மாடல் - இவை மூன்றும்.
- அமைதியான தோல்வி: ஒரு மாதிரி செயலிழக்காமல், பிழைகள் இல்லாமல், தவறான கணிப்புகளை உருவாக்குவதன் மூலம் தோல்வியடையும். இதைப் பிடிக்க கண்காணிப்பு தேவை.
அதனால்தான் "உழைக்கும் மாதிரி" மற்றும் "உற்பத்திக்கு தயாராக உள்ள மாதிரி" ஆகியவற்றுக்கு இடையே பெரிய வித்தியாசம் உள்ளது.
மாதிரி பேக்கேஜிங் மற்றும் வழங்குதல்
மாதிரியை உற்பத்தியில் வைப்பதற்கான முதல் படி, அதை பேக்கேஜிங் செய்வதாகும்: மாதிரி கோப்பு, தேவையான நூலகங்கள், முன்செயலாக்கக் குறியீடு மற்றும் பதிப்புத் தகவல் ஆகியவை மீண்டும் மீண்டும் உருவாக்கக்கூடியதாக இருக்கும். கன்டெய்னரைசேஷன் (எ.கா. டோக்கர்: பயன்பாட்டை அதன் அனைத்து சார்புகளுடன் தனிமைப்படுத்தப்பட்ட பெட்டியில் வைப்பது) இங்கே நிலையானது; இது "எனது கணினியில் வேலை செய்தது" என்ற சிக்கலை நீக்குகிறது.
மாதிரியை வழங்குவதற்கான இரண்டு அடிப்படை வடிவங்கள்:
- ஆன்லைன்/நிகழ்நேரம் (ஆன்லைன்): ஒவ்வொரு உள்வரும் கோரிக்கைக்கும் உடனடி கணிப்பை வழங்கும் மாடல் APIக்கு பின்னால் அமர்ந்திருக்கிறது. குறைந்த தாமதம் முக்கியமானது.
- தொகுதி: மாடல் பெரிய தரவுத் தொகுப்புகளை அவ்வப்போது செயலாக்குகிறது (எ.கா. இரவில் அனைத்து வாடிக்கையாளர்களுக்கும் மதிப்பெண்களை உருவாக்குகிறது). தாமதம் பொருத்தமற்றது, செயல்திறன் முக்கியமானது.
எது சரியானது என்பது வணிகத் தேவையைப் பொறுத்தது: உடனடி ஆன்லைன் பரிந்துரை, தொகுப்பில் மாதாந்திர ஆபத்து மதிப்பெண்.
உதவிக்குறிப்பு: "நிகழ்நேரம்" என்பது ஒரு செலவு, இயல்புநிலை அல்ல. சில மணிநேரங்களில் முடிவு பயன்படுத்தப்பட்டால், தொகுதி மிகவும் மலிவானது மற்றும் எளிமையானது. உங்களுக்கு உண்மையில் உடனடி பதில் தேவையா? அதை முதலில் கேள்.
பாதுகாப்பான விநியோக உத்திகள்
அனைத்து போக்குவரத்திற்கும் நேரடியாக புதிய மாதிரியைத் திறப்பது ஆபத்தானது; தவறு செய்தால் அனைவரும் பாதிக்கப்படுவார்கள். பாதுகாப்பான விநியோக முறைகள்:
- நிழல் வரிசைப்படுத்தல்: புதிய மாடல் உற்பத்தி போக்குவரத்தைப் பெறுகிறது, ஆனால் அதன் கணிப்புகள் பயனருக்குக் காட்டப்படாது, உள்நுழைந்துள்ளது. உண்மையான தரவுகளில் இது பாதுகாப்பானதா என்பதைப் பார்க்க பழைய மாடலுடன் ஒப்பிடப்படுகிறது.
- கேனரி வரிசைப்படுத்தல்: புதிய மாடல் முதலில் ஒரு சிறிய சதவீத போக்குவரத்திற்கு (எ.கா. 5%) வெளியிடப்பட்டது; எந்த பிரச்சனையும் இல்லை என்றால், அது படிப்படியாக அதிகரிக்கிறது.
- A/B சோதனை: உண்மையான பயனருக்கு இணையாக இரண்டு மாதிரிகள் வழங்கப்படுகின்றன மற்றும் வணிக அளவீடுகள் (மாற்றம், கிளிக்குகள்) ஒப்பிடப்படுகின்றன.
- ரோல்பேக்: புதிய மாடல் மோசமாக இருந்தால் பழைய பதிப்பிற்கு விரைவாக திரும்பும் திறன். ஒவ்வொரு வரிசைப்படுத்தலுக்கும் திரும்பப்பெறும் திட்டம் இருக்க வேண்டும்.
எச்சரிக்கை: திரும்பப்பெறும் திட்டம் இல்லாத வரிசைப்படுத்தல் முழுமையடையாது. சில நிமிடங்களில் பழைய பதிப்பிற்குத் திரும்புவது புதிய மாடல் உற்பத்தியில் எதிர்பாராத விதமாக செயல்படும் போது பயனரைப் பாதுகாக்கிறது. பயன்படுத்துவதற்கு முன் இதை சோதிக்கவும்.
பலவீனமான அணுகுமுறை / வலுவான அணுகுமுறை
பலவீனம்: "மாடல் சோதனையில் நன்றாக இருந்தது, நாங்கள் நேரலைக்குச் சென்றோம், அனைவருக்கும் அதைத் திறந்தோம்."
Güçlü: "மாடலை கன்டெய்னரிஸ் செய்து, பதிப்பாக லேபிளிட்டுள்ளோம். முதலில், 3 நாட்களுக்கு உற்பத்தி போக்குவரத்துடன் நிழல் பயன்முறையில் அதை இயக்கினோம், பழைய மாடலுடன் கணிப்புகளை ஒப்பிட்டு - விலகல் ஏற்கத்தக்கது. பின்னர் அதை 5% கேனரி மூலம் திறந்து, செயல்திறன் அளவீடுகள் மற்றும் தாமதத்தைக் கண்காணித்தோம். சிக்கல்கள் இல்லாதபோது, நாங்கள் அதை படிப்படியாக 10% ஆக உயர்த்தினோம்."
வித்தியாசம்: வலுவான அணுகுமுறை படிப்படியாக, அளவிடப்பட்ட மற்றும் மீளக்கூடியது. ஒவ்வொரு அடியிலும் ஆபத்து வரையறுக்கப்பட்டுள்ளது.
CI/CD மற்றும் ஆட்டோமேஷன்
ML இல் உள்ள CI/CD (தொடர்ச்சியான ஒருங்கிணைப்பு / தொடர்ச்சியான வரிசைப்படுத்தல்: குறியீடு மாற்றங்களைத் தானாகச் சோதித்து வெளியிடுவதற்கான பைப்லைன்) குறியீட்டை மட்டுமல்ல, தரவு மற்றும் மாதிரி படிகளையும் உள்ளடக்கியது. ஒரு நல்ல ML CI/CD பைப்லைன்: குறியீடு மாறும்போது சோதனைகளை இயக்குகிறது, தரவு சரிபார்ப்பைச் செய்கிறது, மாதிரியை மீண்டும் பயிற்சி செய்கிறது (தேவைப்பட்டால்), மதிப்பீட்டு வரம்புகளைச் சரிபார்க்கிறது, மேலும் வரம்புகள் இருந்தால் மட்டுமே வரிசைப்படுத்தலை மேம்படுத்துகிறது. "பயிற்சி தானாகவே உள்ளது, வரிசைப்படுத்தல் வாசலை அடிப்படையாகக் கொண்டது" என்ற கொள்கையானது மோசமான மாதிரியானது உற்பத்தியில் அமைதியாக கசிவதைத் தடுக்கிறது.
இந்த பைப்லைன்களை அமைக்கும் போது AI மிகவும் உதவியாக இருக்கும்: எழுதும் கட்டமைப்பு கோப்பு (YAML) வரைவுகள், சோதனை வழக்குகள், வரிசைப்படுத்தல் ஸ்கிரிப்டுகள். ஆனால் விநியோக வரம்புகள் (வெளியிடப்பட்ட மதிப்பை மீறும் மெட்ரிக்) மற்றும் திரும்பப்பெறும் கொள்கையை நீங்கள் தீர்மானிக்கிறீர்கள்; இவை வணிக ஆபத்து முடிவுகள்.
மறுஉருவாக்கம் உள்கட்டமைப்பு
உற்பத்தியில் ஒரு மாதிரியின் நடத்தையை இனப்பெருக்கம் செய்வதற்காக, மாதிரி பதிவேட்டில்: எந்த மாதிரியானது எந்த தரவு மற்றும் குறியீட்டைக் கொண்டு பயிற்சி பெற்றது மற்றும் எந்த அளவீடுகளைப் பெற்றது என்பதை வைத்திருக்கும் பதிவு. ஒவ்வொரு உற்பத்தி மாதிரிக்கும், பின்வருவனவற்றைக் கண்காணிக்கக்கூடியதாக இருக்க வேண்டும்: பயிற்சி தரவு பதிப்பு, குறியீடு பதிப்பு (ஜிட் கமிட்), உயர் அளவுகோல்கள், மதிப்பீட்டு மதிப்பெண்கள் மற்றும் வரிசைப்படுத்தல் தேதி. ஒரு சிக்கல் எழும்போது, "இந்தக் கணிப்பை எந்த மாதிரி உருவாக்கியது, எந்தத் தரவைக் கொண்டு?" என்ற கேள்விக்கு உங்களால் பதிலளிக்க முடியும். நிமிடங்களுக்குள். இதை அலகு 11ல் ஆழப்படுத்துவோம்.
மூன்று சிறிய வழக்குகள்
வழக்கு 1 - நிழல் விநியோகத்தால் சிக்கியது. ஒரு பரிந்துரை மாதிரி சோதனையில் பழையதை முறியடித்தது. நிழல் பயன்முறையில் உற்பத்திப் போக்குவரத்துடன் அதை இயக்குவது ஒரு குறிப்பிட்ட பிரிவு பயனர்களுக்கு (புதிய பயனர்கள்) மிகவும் மோசமான பரிந்துரைகளை உருவாக்குவது கண்டறியப்பட்டது - சோதனைத் தரவு இந்தப் பிரிவின் பிரதிநிதித்துவம் குறைவாக இருந்தது. மாடல் பயனருக்குக் காட்டப்படாமல் சரி செய்யப்பட்டது. இது நேரடியாக திறக்கப்பட்டால், புதிய பயனர் அனுபவம் பாதிக்கப்படும்.
வழக்கு 2 - மாற்ற முடியாத விநியோகம். ஒரு குழு அனைத்து போக்குவரத்திற்கும் புதிய விலை நிர்ணய மாதிரியை வெளியிட்டது, திரும்பப் பெறுவதற்கான திட்டங்கள் எதுவும் இல்லை. மாடல் எதிர்பாராதவிதமாக சில தயாரிப்புகளுக்கு மிகவும் மலிவாக விலை கொடுத்தது. செயல்முறை தயாராக இல்லாததால் பழைய பதிப்பிற்கு மாற்ற பல மணிநேரம் ஆனது. கடுமையான வருமான இழப்பு ஏற்பட்டது. பின்னர், ஒவ்வொரு வரிசைப்படுத்தலுக்கும் கட்டாய ரோல்பேக் சோதனை சேர்க்கப்பட்டது.
வழக்கு 3 - சைலண்ட் டேட்டா டிரிஃப்ட். எந்தப் பிழையும் இல்லாமல் பல மாதங்களாக ஒரு மோசடி முறை தோன்றியது. ஆனால் மோசடி செய்பவர்களின் தந்திரோபாயங்கள் மாறியது (டேட்டா டிரிஃப்ட்) மற்றும் மாடலின் ரீகால் அமைதியாக கைவிடப்பட்டது. கண்காணிப்பு இல்லாததால் யாரும் கண்டுகொள்ளவில்லை. முன்னறிவிப்பு விநியோக கண்காணிப்பு குழு நிறுவப்பட்டதும், சறுக்கல் ஆரம்பத்தில் தெரியும். நாங்கள் அலகு 8 இல் கண்காணிப்பை மேற்கொள்வோம்.
நகலெடுக்கக்கூடிய வார்ப்புருக்கள்
இந்த மாதிரிக்கான வரைவு வரிசைப்படுத்தல் திட்டத்தை எழுதவும். மாதிரி: [அது என்ன செய்கிறது], பயன்பாடு: [ஆன்லைன் அல்லது தொகுதி?] உள்ளடக்கியிருக்க வேண்டும்:1) பேக்கேஜிங் (கன்டெய்னர், பதிப்பு) 2) அதிகரிக்கும் வரிசைப்படுத்தல் உத்தி (நிழல்/கேனரி/ஏ-பி) மற்றும் ஏன்3) கண்காணிப்பதற்கான அளவீடுகள் (வணிகம் + தொழில்நுட்பம் + தாமதம்) 4) திரும்பப்பெறும் திட்டம் மற்றும் 5-வது மதிப்பை மீறுவது எப்படி?
இந்த ML CI/CD பைப்லைனைச் சரிபார்க்கவும்:1) வரியில் தரவு சரிபார்ப்பு உள்ளதா?2) மதிப்பீட்டு வரம்பை வைத்திருக்காமல் வரிசைப்படுத்தல் தொடர முடியுமா (அது கூடாது)?3) ரோல்பேக் தானியங்குதா?4) மாதிரி பதிவேட்டில் தரவு+குறியீடு+அளவீடுகள் கண்காணிக்கப்படுகிறதா?பிலைன் உள்ளமைவு: [config]
இந்த மாதிரிக்கு ஆன்லைன் அல்லது பேட்ச் விளக்கக்காட்சி பொருத்தமானதா என்பதைத் தீர்மானிக்க எனக்கு உதவவும். முடிவு எவ்வளவு காலம் பயன்படுத்தப்படும்: [உடனடி / நிமிடம் / மணிநேரம் / நாள்]எதிர்பார்க்கப்பட்ட கோரிக்கை அளவு: [எண்]தாமதக் கட்டுப்பாடு உள்ளதா: [எம்எஸ்]செலவு மற்றும் சிக்கலான தன்மையின் அடிப்படையில் நீங்கள் எதைப் பரிந்துரைக்கிறீர்கள், ஏன்?
இந்த மாதிரிக்கு திரும்பப்பெறும் செயல்முறையை எழுதவும்.- எந்த அளவீடு/வாசல் மோசமான செயல்திறனைத் தூண்டுகிறது?- திரும்பப்பெறும் படிகள் என்ன?- திரும்பப்பெறுவதற்கு எவ்வளவு காலம் (இலக்கு) எடுக்க வேண்டும்?- உற்பத்திக்கு முன் இந்த நடைமுறையை நான் எப்படிச் சோதிப்பது?
விளக்கக்காட்சி மாதிரி அட்டவணை
அளவுகோல்
ஆன்லைன் (நிகழ்நேரம்)
தொகுதி
தாமதம்
முக்கியமான (மிசி)
முக்கியமற்றது
பயன்பாடு
உடனடி பதில் தேவை
காலமுறை மதிப்பெண்
செலவு
உயர்
குறைந்த
சிக்கலானது
உயர்
குறைந்த
உதாரணம்
நேரடி பரிந்துரை, மோசடி
மாதாந்திர ஆபத்து மதிப்பெண்
பொதுவான தவறுகள்
- மீட்டெடுக்கும் திட்டம் இல்லாமல் விநியோகிக்கவும். தவறான மாதிரி முழு பயனரையும் தாக்கும்.
- 100% போக்குவரத்திற்கு நேரடியாக திறக்கப்படுகிறது. ஆபத்தை வரம்பிடப்பட்ட விநியோகம்.
- கண்காணிப்பை ஏற்படுத்தவில்லை. மாதிரி பிழைகள் இல்லாமல் அமைதியாக பிழைகளை உருவாக்குகிறது.
- தேவையற்ற நிகழ்நேர விளக்கக்காட்சி. பேச்சிங் போதுமானதாக இருந்தாலும், செலவு மற்றும் சிக்கலானது பெருகும்.
- மாதிரி-தரவு-குறியீடு பதிப்புகளை இணைக்கவில்லை. நீங்கள் சிக்கலை மீண்டும் உருவாக்க முடியாது.
- விநியோக வரம்பு இல்லாத தானியங்கி வெளியீடு. கெட்ட மாதிரி மெளனமாக உள்ளே நுழைகிறது.
சுருக்கமாக
மாதிரியை உற்பத்திக்கு நகர்த்துவது ஒரு வித்தியாசமான மற்றும் பெரும்பாலும் கடினமான பொறியியல் பணியாகும். ML க்கு கூடுதல் ஒழுக்கம் தேவைப்படுகிறது, ஏனெனில் இது குறியீடு-தரவு-மாடல் ட்ரையோவைச் சார்ந்துள்ளது: பேக்கேஜிங் மற்றும் பதிப்பு, வணிகத் தேவைக்கு ஏற்ற டெலிவரி முறை (ஆன்லைன்/தொகுதி), படிப்படியான மற்றும் மாற்றியமைக்கக்கூடிய வரிசைப்படுத்தல், த்ரெஷோல்ட்-கட்டுப்படுத்தப்பட்ட CI/CD மற்றும் மாதிரி பதிவு. செயற்கை நுண்ணறிவு என்பது இந்த உள்கட்டமைப்பின் குறியீடு மற்றும் உள்ளமைவை உருவாக்குவதில் ஒரு சக்திவாய்ந்த உதவியாகும்; ஆனால் விநியோக வரம்புகள், கிளாபேக் கொள்கை மற்றும் இடர் முடிவுகள் உங்களுடையது. திரும்பப்பெறும் திட்டம் இல்லாத விநியோகம் முழுமையடையாது.
விண்ணப்ப பணி
ஒரு மாதிரியை கன்டெய்னரைஸ் (டாக்கர்) செய்து அதன் பதிப்பை லேபிளிடுங்கள். உங்கள் வணிகத் தேவைகளின் அடிப்படையில் ஆன்லைனில் வழங்குவீர்களா அல்லது தொகுப்பை வழங்குவீர்களா என்பதை முடிவு செய்து உங்கள் நியாயத்தை எழுதுங்கள். ஒரு கட்டப் வரிசைப்படுத்தல் திட்டம் (நிழல் அல்லது கேனரி) மற்றும் சோதிக்கப்பட்ட திரும்பப்பெறுதல் செயல்முறை ஆகியவற்றை ஆவணப்படுத்தவும். மாதிரி பதிவேட்டில் தரவு பதிப்பு, குறியீடு உறுதி மற்றும் மதிப்பீட்டு மதிப்பெண்களை பதிவு செய்வதை உறுதிசெய்யவும்.
சரிபார்ப்பு பட்டியல்
- [ ] மாடல் தொகுக்கப்பட்டு பதிப்பு செய்யப்பட்டுள்ளது (கொள்கலன் + லேபிள்).
- [ ] வணிகத் தேவைக்கு ஏற்ப விளக்கக்காட்சி முறை (ஆன்லைன்/தொகுதி) தேர்ந்தெடுக்கப்பட்டது.
- [ ] நிலைப்படுத்தப்பட்ட வரிசைப்படுத்தல் உத்தி (நிழல்/கேனரி) செயல்படுத்தப்பட்டது.
- [ ] திரும்பப்பெறும் செயல்முறை எழுதப்பட்டு சோதிக்கப்பட்டது.
- [ ] CI/CD மதிப்பீட்டு வரம்பை அடையும் முன் வரிசைப்படுத்தலை முன்னெடுக்காது.
- [ ] மாதிரி பதிவேட்டில் தரவு+குறியீடு+மெட்ரிக் இணைப்பு உள்ளது.