ጥሩ-ማስተካከያ መሠረት፡ መቼ፣ እንዴት እና ከየትኛው አደጋ ጋር

ትርፍ፡

• አንድ ችግር መረጃ ወይም ባህሪ መሆኑን የመለየት ችሎታ እና የባህሪ ችግሮችን በጥሩ ሁኔታ ማስተካከልን ለመገምገም ፈጣን ፣ ጥቂት-ተኩስ እና RAG ተዳክመዋል።
• የጥራት ማስተካከያ ዘዴዎችን (SFT, LoRA/PEFT, RLHF) እና ጥራትን የሚወስኑ የውሂብ ባህሪያትን መረዳት (ወጥነት, ልዩነት, ሚስጥራዊነት)
• ከቅድመ-ግምገማ ፣ ከትምህርት እና ከአሰቃቂ የመርሳት ፈተናዎች ጋር ጥሩ ማስተካከያ ትክክለኛውን ዋጋ የመለካት ችሎታ።

ጥሩ ማስተካከያ (በተጨማሪ የሰለጠነ ሞዴል በራስዎ መረጃ በማሰልጠን ባህሪውን ማበጀት) ከኤል.ኤም.ኤም.ኤስ ጋር በሚሰራው መሐንዲሱ የጦር መሳሪያ ውስጥ ኃይለኛ ነገር ግን ውድ መሳሪያ ነው። በተሳሳተ ቦታ ጥቅም ላይ ሲውል ገንዘብን እና ጊዜን ማባከን ነው, ነገር ግን በትክክለኛው ቦታ ላይ ጥቅም ላይ ሲውል, በሌላ መንገድ ሊደረስ የማይችል ጥራትን ይሰጣል. በዚህ ክፍል ውስጥ, በጥሩ ሁኔታ ማስተካከል አስፈላጊ በሚሆንበት ጊዜ, መሰረታዊ ስልቶቹን እና ስጋቶቹን እንሸፍናለን. ግቡ እርስዎን ውሳኔ ሰጪ ማድረግ ነው.

በመጀመሪያ ትክክለኛው ጥያቄ: ጥሩ ማስተካከል አስፈላጊ ነው?

የጀማሪዎች በጣም ውድ ስህተት ሊፈታ የሚችለውን ችግር ወዲያውኑ ለማስተካከል መቸኮል ነው። ትዕዛዙን እንደሚከተለው ያዘጋጁ

1. ፈጣን ምህንድስና፡ ስራውን የሚያብራራ ጥሩ ጥያቄ ብዙ ችግሮችን በግልፅ ይፈታል። መጀመሪያ እዚህ ተጠቀም።
2. ጥቂቶች መማር፡ ጥቂት ምሳሌዎችን በጥያቄው ውስጥ ማስቀመጥ ሞዴሉን የሚፈልገውን ቅርጸት እና ባህሪ ያሳያል።
3. RAG፡ ችግሩ “የመረጃ እጦት” ከሆነ (ሞዴሉ የማያውቀው የውሂብ ፍላጎት) ከሆነ መፍትሄው RAG (ክፍል 4) እንጂ ጥሩ ማስተካከያ አይደለም።
4. ጥሩ ማስተካከያ፡- ከላይ ያለው በቂ ካልሆነ እና ችግሩ "ባህሪ/ቅርጸት/ስታይል" ከሆነ ወደ ጨዋታ ይመጣል።

ቁልፍ ልዩነት፡ ጥሩ ማስተካከያ ሞዴሉን አዲስ መረጃ በማስተማር ደካማ እና አደገኛ ነው; ነገር ግን እንዴት መሆን እንዳለበት በማስተማር ላይ ጠንካራ ነው (የተለየ ቅርጸት፣ ቃና፣ የመስክ ጃርጎን፣ ወጥነት ያለው መዋቅር)። "የእኔ ሞዴል የኩባንያችንን መረጃ አያውቀውም" → RAG. "የእኔ ሞዴል ሁልጊዜ ውጤቱን በምንፈልገው ትክክለኛ ቅርጸት ይስጥ" → ጥሩ ማስተካከያ እጩ።

ጠቃሚ ምክር፡ በጥሩ ማስተካከያ ላይ ከመወሰንዎ በፊት፡ "ይህ የእውቀት ችግር ነው ወይስ የባህሪ ችግር?" የኢንፎርሜሽን ችግሮች በ RAG በተሻለ ሁኔታ ይፈታሉ, የባህሪ ችግሮች በጥሩ ማስተካከያ ይሻላሉ.

የማስተካከያ ዘዴዎች

ሙሉ ጥሩ ማስተካከያ፡ የአምሳያው ሁሉንም መለኪያዎች እንደገና ማሰልጠን። በጣም ኃይለኛ ግን በጣም ውድ; ትልቅ ሃርድዌር (ጂፒዩ) እና ጥንቃቄ የተሞላበት ውሂብ ያስፈልገዋል። ለአብዛኞቹ ቡድኖች አስፈላጊ አይደለም.

ፓራሜትር ቆጣቢ ጥሩ ማስተካከያ (PEFT)፡- አብዛኞቹን ሞዴሎች የሚያቀዘቅዙ ዘዴዎች፣ ትንሽ ተጨማሪ መለኪያዎችን ብቻ በማሰልጠን። በጣም የተለመደው LoRA (ዝቅተኛ ደረጃ ማስተካከያ: በአምሳያው ላይ የተጨመሩ ትናንሽ "አስማሚ" ንብርብሮችን ማሰልጠን). LoRA በጣም ያነሰ የማስታወስ እና ወጪ ጋር, ሙሉ ጥሩ-ማስተካከል ጋር የቀረበ ውጤቶችን ይሰጣል; ለዚህም ነው በተግባር የመጀመሪያው ምርጫ የሆነው።

ክትትል የሚደረግበት ጥሩ ማስተካከያ (ኤስኤፍቲ)፡- ሞዴሉን "ለዚህ ግብአት ምላሽ እንዲሰጥ" ከግብአት-ሃሳባዊ የውጤት ጥንዶችን ባካተተ መረጃ ማስተማር። በጣም የተለመደው ሁኔታ ነው.

ማጠናከሪያ ትምህርት ከሰዎች አስተያየት (RLHF)፡ የአምሳያው ባህሪን ከሰዎች ተመራጭ ምላሾች ጋር ማመጣጠን። ውስብስብ እና ውድ ነው; የአብዛኞቹ የመተግበሪያ ቡድኖች ፍላጎቶች ከ SFT ጋር ተሟልተዋል. RLHF እንደ ጽንሰ-ሐሳብ ማወቅ በቂ ነው.

መረጃ፡ የመስተካከል ልብ

የጥራት ማስተካከያ ጥራት ሙሉ በሙሉ በስልጠና መረጃ ጥራት ላይ የተመሰረተ ነው. ጥቂት መቶ ከፍተኛ ጥራት ያላቸው፣ ወጥነት ያላቸው ናሙናዎች በሺዎች ከሚቆጠሩ ተንሸራታችዎች የተሻሉ ናቸው። ውሂብ ሲያዘጋጁ፡-

• ወጥነት፡ ሁሉም ምሳሌዎች የሚፈልጉትን ቅርጸት እና ድምጽ በቋሚነት ያሳያሉ። እርስ በርሱ የሚጋጩ ምሳሌዎች ሞዴሉን ግራ ይጋባሉ.
• ልዩነት፡- ምሳሌዎች በእውነተኛ አጠቃቀሙ ላይ ያለውን ልዩነት ይሸፍናሉ፣ነገር ግን ወጥ አይደሉም።
• ማጽዳት፡ የተሳሳቱ፣ የተዛባ ወይም የተደበቀ ውሂብ የያዙ ሁኔታዎች በቋሚነት ወደ ሞዴሉ ተላልፈዋል። ጥሩ ማስተካከያ ውሂብ እንደ ውል በጥንቃቄ ማንበብ አለበት.

ይጠንቀቁ፡ እያንዳንዱ አድሎአዊነት፣ ስህተት እና የተደበቀ መረጃ ወደ ቅንጣቢው መረጃ የሚያስገባ በአምሳያው ውስጥ ተቀርጾ በውጤቶቹ ውስጥ እንደገና ይታያል። የሥልጠና መረጃህን እንዳተምከው በጥንቃቄ ኦዲት አድርግ፤ የግል ውሂብ አይለጥፉ።

ግምገማ፡ ጥሩ ማስተካከያ ሰርቷል?

ከመስተካከልዎ በፊት፣ የተያዘውን የኢቫል ስብስብ ያስይዙ እና የአምሳያው ነጥብ ያለጥሩ ማስተካከያ (ቤዝ ሞዴል) ይለኩ። ከተጣራ በኋላ, በተመሳሳይ ባንክ ውስጥ እንደገና ይለኩ. ያለ ንጽጽር "ተሻለ" ማለት አትችልም። እንዲሁም ሁለት ወጥመዶችን ማወቅ አለብዎት-

• ከመጠን በላይ መማር፡ በትንሽ መረጃ ከመጠን በላይ ማሰልጠን ሞዴሉ የስልጠና ምሳሌዎችን የማስታወስ እና የማጠቃለል ችሎታውን እንዲያጣ ያደርገዋል።
• አስከፊ መርሳት፡- በጠባብ ስራ ላይ ከመጠን በላይ ማሰልጠን የአምሳያው አጠቃላይ አቅምን ሊጎዳ ይችላል። አዲሱን ባህሪ በሚያገኙበት ጊዜ የቆዩ ክህሎቶች መያዛቸውን ይፈትሹ።

ደካማ አቀራረብ / ጠንካራ አቀራረብ

ደካማ: "3000 የውይይት ምዝግብ ማስታወሻዎች አሉኝ, ሁሉንም በጥሩ ሁኔታ ለማስተካከል እንስጣቸው, ስለዚህ ሞዴሉ እንደ እኛ ማውራት ይችላል."

Güçlü: "በመጀመሪያ የመሠረት ሞዴልን በ 100 እውነተኛ ተግባራት ገምግሜያለሁ, ውጤቱን አስተውያለሁ. በጥያቄዎች እና በጥቂት ጥይቶች ምን ያህል እንደተሻሻለ ለካሁት - በቂ አልነበረም. ከዚያም ከ 3000 ምዝግብ ማስታወሻዎች ውስጥ, 400 ናሙናዎችን ብቻ በከፍተኛ ጥራት, ወጥነት ባለው ቅርጸት እና ምንም የተደበቀ መረጃ ከሌለው 400 ናሙናዎችን መርጬ አጽዳለሁ. በተመሳሳዩ 1 ተግባር እንደገና ተስተካክያለሁ እና ከሎራ ጋር ተስተካክያለሁ. አጠቃላይ ችሎታዎች ሙሉ በሙሉ አልነበሩም።

ልዩነቱ፡ ጠንከር ያለ አካሄድ መጀመሪያ አማራጮችን ያሟጥጣል፣ ቼሪ የሚመርጥ መረጃን፣ በፊት እና በኋላ የሚለካው እና የጎንዮሽ ጉዳቶችን ይፈትሻል።

የዋጋ እና የጥገና እውነታ

ጥሩ ማስተካከያ የአንድ ጊዜ ሥራ አይደለም; የመንከባከብ ግዴታ ነው. የመሠረት ሞዴል ሲዘመን፣ ለውጥ ሲፈልግ ወይም መረጃ ሲጠፋ እንደገና ማሰልጠን አስፈላጊ ሊሆን ይችላል። በተጨማሪም, በጥሩ ሁኔታ የተስተካከለ ሞዴል ​​ማስተናገድ ተጨማሪ ወጪዎችን እና ስራዎችን ያመጣል. ይህንን አጠቃላይ የባለቤትነት ዋጋ ከሚሰጠው የጥራት መጨመር ጋር ያወዳድሩ። ብዙ ጊዜ ጥሩ መጠየቂያ + RAG ከጥሩ ማስተካከያ ይልቅ ርካሽ እና ተለዋዋጭ ነው።

ሶስት ጥቃቅን ጉዳዮች

ጉዳይ 1 - አላስፈላጊ ጥሩ ማስተካከያ. "የእኛ ሞዴል ምርቶቻችንን ስለማያውቅ" አንድ ቡድን ውድ የሆነ ጥሩ የማስተካከያ ፕሮጀክት ጀመረ። ወሮች እና በጀት ተወስደዋል, ውጤቱ ደካማ ነበር - የምርት ካታሎግ በተለወጠ ቁጥር ሞዴሉ ጊዜው ያለፈበት ነበር. በመጨረሻም ወደ RAG ቀይረዋል፡ የምርት ውሂቡን ከሰነዱ መሰረት አመጡ፣ ዝማኔው በቅጽበት ነበር እና ዋጋው ወድቋል። ትምህርት፡ የመረጃው ችግር በጥሩ ማስተካከያ አይፈታም።

ጉዳይ 2 - ትክክለኛ ማስተካከያ. የኢንሹራንስ ኩባንያ ሞዴሉ ሁልጊዜ የፖሊሲ ማጠቃለያዎችን በተመሳሳይ ግትር መዋቅር (በአንቀጽ በአንቀጽ፣ ከተወሰኑ አርእስቶች ጋር) እንዲያዘጋጅ ይፈልጋል። ከጥያቄው ጋር ያለው ወጥነት በ 70% ተጣብቋል። ከLoRA ጥሩ ማስተካከያ በኋላ በ300 ጥሩ ናሙናዎች፣ የቅርጸት ወጥነት ወደ 98% አድጓል። ይህ የባህሪ ችግር ነበር እና ማስተካከል ትክክለኛው መሳሪያ ነበር።

ጉዳይ 3 - ግላዊነት ወደ ውሂብ ማምለጥ። አንድ ቡድን የቻት ምዝግብ ማስታወሻዎቹን ሳያጸዱ በጥሩ ሁኔታ ማስተካከል አስገብቷል። ምዝግብ ማስታወሻዎቹ እውነተኛ የደንበኛ ስሞችን እና መለያ ቁጥሮችን ይይዛሉ። በጥሩ ሁኔታ የተስተካከለው ሞዴል በማይዛመዱ ጥያቄዎች ውስጥ እነዚህን ስሞች "ማፍሰስ" ጀመረ። ሞዴሉ ተነስቷል፣ መረጃው ተሸፍኗል እና እንደገና ሰልጥኗል። ትምህርት: በጥሩ ማስተካከያ ውሂብ ውስጥ የተደበቀ መረጃ በቋሚነት ወደ ሞዴሉ ይተላለፋል።

ሊገለበጡ የሚችሉ አብነቶች

ለዚህ ችግሬ ጥሩ ማስተካከያ አስፈላጊ መሆኑን እንድወስን እርዳኝ። ችግር፡ [መግለጫ] ይህ የኢንፎርሜሽን ችግር (ሞዴሉ አንድ ነገር አያውቅም) ወይንስ የባህሪ ችግር (ሞዴሉ የምፈልገውን ቅርጸት/ቃና/አወቃቀር አያወጣም)? በፈጣን ፣ በጥቂት ምት እና በ RAG መጀመሪያ ሊፈታ ይችላል? ለምንድነው እያንዳንዳቸውን አትሞክሩ/አትሞክሩት?በየትኛው ሁኔታ ብቻ ነው ጥሩ ማስተካከልን የምትመክሩት?

ይህንን ጥሩ የማስተካከል ዳታ ስብስብ ይመልከቱ፡1) ምሳሌዎች በቅርጸት እና በድምፅ ወጥ ናቸው?2) በትክክለኛ አጠቃቀም ላይ ያለውን ልዩነት ይሸፍናሉ?3) ሚስጥራዊ/የግል መረጃ አለው (መደበቅ አለበት)?4) የሚጋጩ ምሳሌዎች አሉ? የምሳሌዎቹ ንዑስ ስብስብ፡ [ምሳሌዎች] እያንዳንዱን እትም ይዘርዝሩ እና ያገኙትን ያስተካክሉ።

ከመስተካከልዎ በፊት እና በኋላ የግምገማ እቅድ ያዘጋጁ። ተግባር: [ማብራሪያ] - የተያዘው የኢቫል ስብስብ እንዴት እንደሚመረጥ? - የመሠረት ሞዴል ውጤት እንዴት ይለካል? - ከጥሩ ማስተካከያ በኋላ በየትኛው ልኬት ይነፃፀራል? - አጠቃላይ ችሎታዎች እንዳልተጎዱ (አደጋን መርሳት) እንዴት እሞክራለሁ?

በLoRA ጥሩ ማስተካከያ ለማድረግ የመጀመሪያ ደረጃ መለኪያዎችን ይጠቁሙ።የዳታ መጠን፡ [የናሙናዎች ብዛት]ዓላማ፡ [ቅርጸት/የቃና ትምህርት] ዘመንን ጠቁም፣ የመማሪያ መጠን እና ከመጠን በላይ መማርን ለማስቀረት ቀደም ብሎ ማቆም።

የውሳኔ ሰንጠረዥ: የትኛው መሣሪያ መቼ ነው

ፍላጎት

መጀመሪያ ሞክር

በጥሩ ሁኔታ ማስተካከል?

ሞዴሉ ምንም አይነት መረጃ አያውቅም

RAG

አይደለም

የአሁኑ ውሂብ ያስፈልጋል

RAG

አይደለም

የተወሰነ ግትር ቅርጸት

ጥቂት ጥይቶች

በቂ ካልሆነ አዎ

ወጥነት ያለው ድምጽ / ዘይቤ

መጠየቂያ + ጥቂት-ተኩስ

በቂ ካልሆነ አዎ

የመስክ ጃርጎን / ዘይቤ

የሚል ጥያቄ አቅርቧል

ያ በቂ ካልሆነ LoRA

ቀላል ተግባር ማመቻቸት

ፈጣን ምህንድስና

በአጠቃላይ ቁ

የተለመዱ ስህተቶች

• የመረጃውን ችግር በጥሩ ማስተካከያ ለመፍታት መሞከር። RAG ትክክለኛው መሳሪያ ነው.
• ፈጣን/ጥቂት-ሾት/RAG ሳትወስድ ወደ ጥሩ ማስተካከያ በመሮጥ ላይ። ውድ እና አላስፈላጊ.
• ዝቅተኛ ጥራት ያለው/የሚጋጭ መረጃ ያለው ስልጠና። ያነሰ ነገር ግን ግልጽ ውሂብ የተሻለ ነው.
• ምስጢራዊ መረጃዎችን ወደ ትምህርት ማስገባት. ሞዴሉን በቋሚነት ሰርጎ ያስገባል።
• በፊት እና በኋላ አለመለካት። ማገገሙን ማረጋገጥ አይችሉም።
• አስከፊ መርሳትን አለመሞከር. አዲሱ ክህሎት አሮጌውን ሊረብሽ ይችላል.

በማጠቃለያው

ጥሩ-ማስተካከል ኃይለኛ ነገር ግን ውድ መሳሪያ ነው እና ፈጣን-ጥቂት-ሾት-RAG ከበላ በኋላ ለባህሪ/ቅርጸት ችግሮች ብቻ መታሰብ አለበት። የመረጃ ችግሮች የ RAG ናቸው። እንደ LoRA ያሉ ፓራሜትር ቀልጣፋ ዘዴዎች ተግባራዊ የመጀመሪያ ምርጫ ናቸው። ጥራት ሙሉ በሙሉ በመረጃ ጥራት ላይ የተመሰረተ ነው; ትንሽ ነገር ግን ንጹህ፣ ተከታታይ እና ሚስጥራዊ ውሂብ ተጠቀም። በፊት እና በኋላ ይለኩ፣ ለመማር እና ችሎታ ማጣት ይሞክሩ። በጥሩ ሁኔታ ማስተካከል የእንክብካቤ ግዴታ ነው; አጠቃላይ ወጪውን ከሚያቀርበው ጥራት ጋር ይመዝኑት።

የመተግበሪያ ተግባር

ችግርን ምረጥ እና "በእውቀት ወይም በባህሪ" መካከል በመለየት ማስተካከል አስፈላጊ መሆኑን ወስን እና ማረጋገጫህን ጻፍ። የባህሪ ችግር ከሆነ ከ20-30 ተከታታይ ናሙናዎችን ያዘጋጁ፣ የተደበቀ መረጃን ያረጋግጡ እና የቅድመ እና በኋላ ግምገማ እቅድ (የተያዘ ክላስተር፣ የመነሻ ነጥብ፣ የንፅፅር መለኪያ፣ የመርሳት ፈተና) ይመዝግቡ። በጥሩ ሁኔታ ከማስተካከል ይልቅ በ RAG/Fw-shot ሊፈታ የሚችል ከሆነ፣ ይህንንም ማስታወሻ ይያዙ።

የማረጋገጫ ዝርዝር

• [ ] ችግሩ እውቀት ወይም ባህሪ እንደሆነ ወሰንኩ።
• [ ] መጀመሪያ መጠየቂያውን፣ ጥቂት-ሾት እና RAG አማራጮችን ገምግሜአለሁ።
• [ ] የጥራት ማስተካከያ ዳታውን ወጥነት፣ ልዩነት እና ምስጢራዊነት ኦዲት አድርጌያለሁ።
• [] የተያዘ የኤቫል ክላስተር መደብኩ እና የመነሻ ነጥቡን ለካሁ።
• [] በፊት-በኋላ ንጽጽር እና የመርሳት ፈተና አቀድኩ።
• [] አጠቃላይ ወጪውን ከሚሰጠው ጥራት ጋር አነጻጽሬዋለሁ።