የሞዴል ግንባታ፡ የችግር ፍቺ፣ የአልጎሪዝም ምርጫ እና የስልጠና/የሙከራ ክፍፍል

ትርፍ፡

• እንደ ሥራው ትክክለኛ ዋጋ የችግሩን ዓይነት (ምደባ ፣ ተሃድሶ ፣ ክላስተር) እና የስኬት መመዘኛዎችን የመግለጽ ችሎታ።
• መረጃውን በቅንነት የመከፋፈል ችሎታ (የፈተናውን ስብስብ ሳይነኩ ፣ በጊዜ ቅደም ተከተል) እና ከመጥፋት ነፃ የሆነ የግምገማ መሠረት መመስረት።
• በቀላል መነሻ መስመር በመጀመር እና ውስብስብነት በሚገባው ጊዜ ብቻ በመጨመር ሊተረጎም የሚችል ሞዴል የመምረጥ ችሎታ።

እስካሁን መረጃ ሰብስበናል፣ አጽድተነዋል፣ መርምረነዋል፣ እና ባህሪያትን አዘጋጅተናል። አሁን ሞዴል በመገንባት ወደ እውነተኛው ሥራ ደርሰናል. ሞዴል ከመረጃ ንድፍ የሚማር እና ለአዳዲስ ሁኔታዎች ትንበያዎችን የሚያዘጋጅ የሂሳብ መዋቅር ነው። ነገር ግን ሞዴልን ለመገንባት በጣም አስፈላጊው ክፍል ኮዱ ራሱ አይደለም, ነገር ግን ከእሱ በፊት ያሉት ሁለት ውሳኔዎች: ትክክለኛውን ችግር መግለጽ እና መረጃውን በትክክል መከፋፈል. AI በአልጎሪዝም ምርጫ፣ በኮድ አጻጻፍ እና በመለኪያ ማስተካከያ ውስጥ ኃይለኛ አማካሪ ነው። ግን ምን እንደሚተነብይ እና ስኬት ምን ማለት እንደሆነ የሚወስነው አንድ ሰው ነው። በደንብ ያልተገለጸ ችግር ፍጹም በሆነ የጽሑፍ ሞዴል እንኳን አይሰራም።

በመጀመሪያ የችግር ፍቺ: ምን እንተነብላለን

እያንዳንዱ የሞዴል ሥራ በጥያቄ ይጀምራል, እና ይህ ጥያቄ የአምሳያው አይነት ይወስናል. ምደባ - ውጤቱ ምድብ ነው: "ይህ ደንበኛ ይተዋል ወይም ይቆያል?", "ይህ ግብይት የውሸት ነው?". ሪግሬሽን (በእንግሊዘኛ ሪግሬሽን - ውጤቱ ቁጥር ነው): "ይህ ቤት ዋጋው ስንት ነው?", "በሚቀጥለው ወር ስንት ትዕዛዞች ይመጣሉ?". ስብስብ (ያልተሰየመ መረጃን ወደ ተፈጥሯዊ ቡድኖች መከፋፈል): "ደንበኞቼ ስንት የተፈጥሮ ክፍሎች ተከፍለዋል?"

የችግሩ መግለጫ ሁለተኛው ክፍል የስኬት መስፈርት ነው፡ ለዚህ ሞዴል "ጥሩ" ማለት ምን ማለት ነው? በማጭበርበር ሞዴል ውስጥ፣ አጭበርባሪ ማጣት ሐቀኛ ደንበኛን በድንገት ከማገድ የበለጠ ውድ ነው። ስለዚህ "አጠቃላይ ትክክለኛነት" ሳይሆን "አጭበርባሪዎችን የመያዝ መጠን" ወደ ፊት ይመጣል. ይህንን መመዘኛ ከመጀመሪያው ካልገለጹት ከንግድ ባለቤቱ ጋር አብረው የማይሰራ "በጣም ትክክለኛ" ሞዴል ያገኛሉ (በክፍል 7 ውስጥ ወደ መለኪያዎች እንገባለን)።

ጥንቃቄ፡ "ትክክለኝነት" አሳሳች ሊሆን ይችላል። ከ 1000 ግብይቶች ውስጥ 10 ቱ የተጭበረበሩ ከሆነ "አጭበርባሪ የለም" የሚል ሞኝ ሞዴል 99% ትክክለኛነትን ይሰጣል ነገር ግን አንድም አጭበርባሪ አይይዝም። በችግሩ ትክክለኛ ዋጋ ላይ በመመስረት የስኬት መስፈርቶችን ይምረጡ።

የሥልጠና/የፈተና ክፍፍል፡ የአምሳያው ሐቀኛ ምርመራ

ሞዴልን በተማረው መረጃ መሞከር ተማሪው በፈተና ላይ ያጠናውን ተመሳሳይ ጥያቄዎችን እንደመጠየቅ ነው። እሱ ከፍተኛ ውጤት ያገኛል ነገር ግን በትክክል የሚያውቀውን አያሳይም። ስለዚህ መረጃውን ለሁለት እንከፍላለን (ብዙውን ጊዜ ሶስት)

• የሥልጠና ስብስብ (የሥልጠና ስብስብ በእንግሊዝኛ፣ አብዛኛውን ጊዜ ከ70-80%)፡ ሞዴሉ በዚህ ላይ ይማራል።
• የሙከራ ስብስብ (የሙከራ ስብስብ, አብዛኛውን ጊዜ 20-30%): ሞዴሉ ይህን በጭራሽ አያየውም; እውነተኛ አፈጻጸም እዚህ ይለካል.
• የማረጋገጫ ስብስብ: ለሞዴል መቼት ጥቅም ላይ የዋለ መካከለኛ ስብስብ (የትኛው መለኪያ የተሻለ ነው); የሙከራውን ስብስብ "ንጹህ" ለመጠበቅ.

በጣም መሠረታዊው ህግ: በስልጠና ወቅት የሙከራው ስብስብ ፈጽሞ አይነካውም. ማመጣጠን፣ ኮድ ማድረግ፣ የባህሪ ምርጫ - ሁሉም በቀላሉ ከስልጠናው ስብስብ ይማራሉ፣ ከዚያም ለሙከራ ይተገበራሉ (ከክፍል 5 የመውጣት መርህ)። የሙከራው ስብስብ ሞዴሉ እውነተኛውን ዓለም ሲያይ ለመጀመሪያ ጊዜ ነው; በጣም ቀደም ብለው ካበሩት ትክክለኛውን አፈጻጸም በፍፁም ማወቅ አይችሉም።

የጊዜ ተከታታይ ልዩነት፡ የእርስዎ ውሂብ በጊዜ ላይ የሚመረኮዝ ከሆነ (ሽያጭ፣ የአክሲዮን ገበያ፣ ፍላጎት)፣ የዘፈቀደ ክፍፍል አልተደረገም። በዘፈቀደ መለያየት ሞዴሉ የወደፊቱን እንዲያይ እና ያለፈውን እንዲተነብይ ስለሚያደርገው - ይህ መፍሰስ ነው። ይልቁንስ በጊዜ ቅደም ተከተል ተከፋፍሉ፡ ከአሮጌው ጊዜ ጋር ማሰልጠን፣ በአዲሱ ወቅት ፈትኑ።

የአልጎሪዝም ምርጫ፡ ከቀላል እስከ ውስብስብ

የጀማሪዎች በጣም የተለመደው ስህተት በጣም ውስብስብ በሆነው ሞዴል መጀመር ነው. ትክክለኛው አቀራረብ ተቃራኒው ነው፡ በመጀመሪያ ቀለል ያለ መነሻ መስመር ያዘጋጁ። በምድብ ውስጥ "ሁልጊዜ አብዛኞቹን ክፍል መገመት"; በድጋሜ "ሁልጊዜ አማካኙን ይገምቱ". ይህ ሞኝ ሞዴል የመነሻ መስመር ይሰጣል; ትክክለኛው ሞዴልዎ ይህንን ማለፍ ካልቻለ, ችግር አለ. ከዚያ ወደ ቀላል እና ሊተረጎሙ የሚችሉ ሞዴሎች ይሂዱ.

ሞዴል

የችግር አይነት

ጠንካራ ነጥብ

ድክመት

መነሻ (አብዛኛ/አማካይ)

ሁለቱም

ቤንችማርክ ይሰጣል

አይማርም።

የሎጂስቲክ ሪግሬሽን

ምደባ

ቀላል ፣ ሊተረጎም የሚችል

የመስመር ግንኙነት ብቻ

መስመራዊ ሪግሬሽን

መመለሻ

ቀላል ፣ ፈጣን

መስመራዊ ግምት

የውሳኔ ዛፍ

ሁለቱም

ሊተረጎም የሚችል

ቀላል ትውስታዎች

የዘፈቀደ ጫካ

ሁለቱም

ጠንካራ ፣ ዘላቂ

ያነሰ ሊተረጎም የሚችል

ቀስ በቀስ መጨመር (XGBoost ወዘተ.)

ሁለቱም

በጣም ጠንካራ

ለማስተካከል አስቸጋሪ, የማስታወስ አደጋ

ደንብ: በጣም ቀላል የሆነውን "በቂ" ሞዴል ይምረጡ. በአብዛኛዎቹ የንግድ ሁኔታዎች ውስጥ መተርጎም ከኃይል የበለጠ ዋጋ ያለው ነው; "ጥቁር ሣጥኑ ስለተናገረ" ከ "ከዕዳ-ወደ-ገቢ ጥምርታ ከፍተኛ ስለሆነ" ብድር አለመቀበልን ማብራራት ይሻላል.

ሶስት ጥቃቅን ጉዳዮች

ጉዳይ 1 - የተሳሳተ የችግር ትርጉም. አንድ ቡድን "ደንበኛው ረክቷል" ላይ በመመስረት የምደባ ሞዴል ገንብቷል ነገር ግን "ትክክለኛነት" እንደ የስኬት መስፈርት መረጠ። በመረጃው ውስጥ 88% ደንበኞች ረክተዋል; ሞዴሉ ሁሉንም ሰው "ረክቷል" ብሎ በመጥራት 88% ትክክለኛነት አግኝቷል እና እርካታ የሌላቸውን ሰዎች በጭራሽ አልያዘም - ምንም እንኳን እውነተኛው ግብ እነሱን ማግኘት ነበር. ትምህርት፡ በእውነተኛ ዓላማ ላይ በመመስረት የስኬት መስፈርቶችን ይምረጡ።

ጉዳይ 2 - በክፍሉ ውስጥ ያለው የጊዜ መፍሰስ. በፍላጎት ትንበያ ፕሮጀክት ውስጥ፣ መረጃ በዘፈቀደ ተከፋፍሏል። ሞዴሉ የ 93% ትክክለኛነትን ሰጥቷል ነገር ግን በምርት ላይ ወድቋል ምክንያቱም በስልጠናው ጥር, ከዚያም ህዳር, በታኅሣሥ መረጃ - የወደፊቱን አይቷል. ወደ የዘመን ቅደም ተከተል ክፍፍል ስንሸጋገር ትክክለኛው አፈጻጸሙ ወደ 74 በመቶ አድጓል። ትምህርት: በጊዜ ቅደም ተከተል ክፍፍል.

ጉዳይ 3 - አላስፈላጊ ውስብስብነት. አንድ ተንታኝ በጥልቅ የነርቭ ኔትወርክ በቀጥታ ጀምሯል፣ ለሳምንታት አስተካክሎታል፣ እና 81% ትክክለኛነት አግኝቷል። ከዚያ አንድ የሥራ ባልደረባው 80% በ 20 የሎጂስቲክ ሪግሬሽን መስመሮች አግኝቷል - በጣም ፈጣን ፣ ሊተረጎም እና ለማቆየት ቀላል። ትምህርት: በመሠረታዊ መስመር እና በቀላል ሞዴል ይጀምሩ, በሚገባው ጊዜ ውስብስብነትን ይጨምሩ.

አራት ሊገለበጡ የሚችሉ አብነቶች

1) የችግር ፍቺን ማብራራት;

የእርስዎ ሚና፡ ሞዴሊንግ አማካሪ። ይህንን ስራ እንድገልፅ እርዳኝ፡ "የደንበኛ መጨናነቅን መቀነስ እፈልጋለሁ።" ይጠይቁኝ እና ያብራሩ፡ (1) ይህ ምደባ ወይም መመለሻ ነው፣ (2) ትክክለኛው የዒላማ ተለዋዋጭ ምንድን ነው እና እንዴት መገለጽ እንዳለበት፣ (3) የስኬት መስፈርት ምን መሆን እንዳለበት እና ለምን። ውሳኔው የእኔ ነው; ጥያቄዎቹን እና አማራጮችን አቅርበዋል.

2) ደህንነቱ የተጠበቀ የሥልጠና / የሙከራ ክፍል;

የእኔን ዲኤፍ ወደ ስልጠና/ሙከራ 80%/20% ከፍለው። የክፍል ስርጭትን (stratify) ጠብቅ.random_state=42. ይህ የጊዜ ተከታታይ አይደለም (ገለልተኛ ምልከታዎች)። ከተከፋፈለ በኋላ የእያንዳንዱን ስብስብ የክፍል ጥምርታ ያትሙ። ምንም ለውጥ ሳይጠቀሙ የመከፋፈያ ኮድን ለሙከራ ስብስብ ብቻ ይስጡ።

3) ተከታታይ የጊዜ ቅደም ተከተል ክፍፍል;

ውሂቡ በጊዜ ላይ የተመሰረተ ነው (የቀን ዓምድ፡ ትዕዛዝ_ቀን)። በዘፈቀደ አይደለም፣ በጊዜ ቅደም ተከተል መከፋፈል፡ በጣም የቆየ 80% ስልጠና፣ አዲሱ 20% ሙከራ። የሥልጠና እና የፈተና ቀነ-ገደቦችን ያትሙ መጪው ጊዜ አለመውጣቱን ለማረጋገጥ።

4) የመነሻ መስመር ማዘጋጀት;

የምደባ ችግር አለብኝ (ዒላማ፡ churn 0/1)። መጀመሪያ የመነሻ መስመር ያዘጋጁ፡ የስልጠና/የሙከራ ትክክለኛነትን በ DummyClassifier ይለኩ፣ ይህም ሁልጊዜ አብዛኛውን ክፍል ይተነብያል። ከዚያ ቀለል ያለ የሎጂስቲክ ሪግሬሽን ያሠለጥኑ እና የመነሻ መስመሩን ያሸነፈ እንደሆነ ያወዳድሩ። የሁለቱን ጎን ለጎን መለኪያዎች አሳይ።

ደካማ ጥያቄ / ጠንካራ ጥያቄ

ደካማ ጥያቄ፡

በዚህ ውሂብ ምርጡን ሞዴል ይገንቡ።

"ምርጥ" አልተገለጸም; ምንም ዓይነት ችግር የለም, ግብ የለም, ምንም የስኬት መስፈርት እና የመከፋፈል ስልት የለም. AI በዘፈቀደ ንድፍ ያመነጫል፣ ምናልባትም ሊፈስ ይችላል።

ኃይለኛ ጥያቄ፡-

የእርስዎ ሚና፡ ሞዴሊንግ ረዳት። ችግር፡ ምደባ፣ ዒላማ "churn" (0/1)፣ የመደብ አለመመጣጠን አለ (~ 12% ጩኸት)። የስኬት መመዘኛ፡- የሚጨቃጨቁትን ማስታወስ ቅድሚያ የሚሰጠው ጉዳይ ነው። የውሂብ ገለልተኛ ምልከታ (የጊዜ ተከታታይ አይደለም)። ተግባር፡- (1) 80/20% የስትራቲፋይድ ስፕሊት፣ (2) DummyClassifier መነሻ መስመር፣ (3) የሎጂስቲክስ ሪግሬሽን፣ ሁሉም ለውጦች በቧንቧ መስመር ውስጥ ያሉ እና የተማሩት ከስልጠና ብቻ ነው። ከመከፋፈሉ በፊት የሙከራውን ስብስብ አይንኩ.

እዚህ ላይ የችግሩ አይነት፣ አለመመጣጠን፣ መስፈርት እና የመፍሰሻ መለኪያ ግልጽ ናቸው።

የተለመዱ ስህተቶች

• በእውነተኛው ዓላማ መሰረት የስኬት መመዘኛዎችን አለመምረጥ. ሚዛናዊ ባልሆነ መረጃ ውስጥ "ትክክለኝነት" አሳሳች ነው; አናሳውን ክፍል ለመያዝ ከፈለጉ፣ አስታውስ ወደ ፊት ይመጣል።
• በስልጠና ወቅት የፈተናውን ስብስብ መንካት. ከመከፋፈሉ በፊት ስኬቲንግ/ኢንኮዲንግ ማድረግ ልቅ ነው እና እውነተኛ አፈጻጸምን ይደብቃል።
• በጊዜ ተከታታይ ውስጥ በዘፈቀደ መለያየት። ሞዴሉ የወደፊቱን ይመለከታል, በምርት ውስጥ ይወድቃል; የጊዜ ቅደም ተከተል ክፍፍል አስፈላጊ ነው.
• የመነሻ መስመር ሳይመሰረቱ ወደ ውስብስብ ሞዴል መዝለል. ያለ መመዘኛዎች አንድ ሞዴል በጣም ጥሩ መሆኑን ወይም አለመሆኑን ማወቅ አይችሉም።
• አተረጓጎም ችላ ማለት። በንግድ ውሳኔዎች ውስጥ, ቀላል ሊብራራ የሚችል ሞዴል ብዙውን ጊዜ ከጥቁር ሳጥን የበለጠ ዋጋ ያለው ነው.

ጠቃሚ ምክር: ሞዴል መገንባት ከመጀመርዎ በፊት አንድ ዓረፍተ ነገር ይጻፉ: "ይህ ሞዴል _____ ይተነብያል, ስኬቱ የሚለካው በሜትሪክ _____ ነው, ምክንያቱም ትክክለኛው የሥራው ዋጋ _____ ነው." ይህን ዓረፍተ ነገር መሙላት ካልቻሉ፣ እስካሁን ኮድ ለመጻፍ ዝግጁ አይደሉም።

በማጠቃለያው

ሞዴልን ለመገንባት በጣም አስፈላጊው አካል ኮድ አይደለም ፣ ግን ከሱ በፊት ያሉት ውሳኔዎች-ትክክለኛውን ችግር (መፈረጅ ወይም እንደገና መመለስ ፣ ግቡ ምንድን ነው ፣ የስኬት መለኪያው) እና መረጃውን በትክክል መከፋፈል (የፈተናውን ስብስብ ሳይነኩ ፣ በጊዜ ቅደም ተከተል) ። ሁልጊዜ በቀላል መነሻ መስመር ይጀምሩ እና ውስብስብነት በሚገባው ጊዜ ብቻ ይጨምሩ; አተረጓጎም በአብዛኛዎቹ የንግድ አውዶች ከስልጣን በላይ ይገመገማል። AI በአልጎሪዝም ምርጫ እና ኮድ ውስጥ ኃይለኛ አማካሪ ነው, ነገር ግን የሰው ልጅ እርስዎ የሚተነብዩትን እና ለምን እንደሆነ ይወስናል.

የመተግበሪያ ተግባር

የትንበያ ችግርን ይግለጹ እና የሚከተለውን ዓረፍተ ነገር በጽሁፍ ያጠናቅቁ፡- “ይህ ሞዴል ____ን ይተነብያል (ምድብ/መመለሻ)፣ ዒላማው ____ ነው፣ የስኬት መለኪያው ____ ነው ምክንያቱም ___ ነው። ከዚያም ውሂቡን በትክክለኛው ስልት ይከፋፍሉት (የጊዜ ተከታታይ ከሆነ የጊዜ ቅደም ተከተል)፣ መነሻ መስመር ያዘጋጁ እና ቀላል ስርዓተ-ጥለት ያንን የመነሻ መስመር ይሰብራል እንደሆነ ይለኩ።

የማረጋገጫ ዝርዝር

• [] የችግሩን አይነት (መመደብ/መመለሻ) እና ዒላማውን በግልፅ ገለጽኩኝ?
• [] የሥራውን ትክክለኛ ዋጋ መሠረት በማድረግ የስኬት መስፈርቶቹን መርጫለሁ?
• [ ] በስልጠና ወቅት የፈተናውን ስብስብ ሳልነካ ትቼው ነበር?
• [ ] ተከታታይ ጊዜ ከሆነ፣ በጊዜ ቅደም ተከተል ነው የከፈልኩት?
• [] ወደ ውስብስብ ሞዴል ከመሄዴ በፊት የመነሻ መስመር አዘጋጅቻለሁ?