ትርፍ፡
- አድልዎ የሚመጣው ከመረጃ (ታሪካዊ ፣ ውክልና ፣ መለካት ፣ ድምር) መሆኑን በመረዳት እና በንዑስ ቡድኖች ላይ በመመስረት ሞዴሉን በመገምገም ድብቅ አድልዎ የማወቅ ችሎታ።
- ከፍተኛ ተጽዕኖ በሚያሳድሩ ውሳኔዎች ላይ የማብራራት ፣የሰው ቁጥጥር እና ተጠያቂነት የማቅረብ ችሎታ እና በአምሳያ ካርድ ግልፅነት የሰነድ
- በትንሹ በቂ ሞዴል ፣ ፈጣን ማሳጠር ፣ መሸጎጫ እና ባች ጥራትን ሳይጎዳ የገንዘብ እና የአካባቢ ወጪዎችን የማስተዳደር ችሎታ።
አንድ ሞዴል በቴክኒካል በትክክል ሊሠራ ይችላል ነገር ግን አሁንም የተሳሳተ ነው - ለአንዳንድ ሰዎች ፍትሃዊ ካልሆነ፣ ሊገለጽ የማይችል ወይም ዘላቂ ያልሆኑ ወጪዎችን የሚያመጣ ከሆነ። በዚህ ክፍል ውስጥ፣ ሶስት "የማይታዩ" ግን ወሳኝ የሆኑ የML ምህንድስና ልኬቶችን እንሸፍናለን፡ አድልዎ እና ፍትሃዊነት፣ ስነምግባር እና ግልጽነት፣ ወጪ እና ዘላቂነት። እነዚህ በኋላ ላይ የተጨመሩ ጌጣጌጦች አይደሉም, ነገር ግን የምህንድስና ጥራት ዋና ክፍሎች ናቸው.
ጭፍን ጥላቻ ከየት ይመጣል?
የሞዴል አድሏዊነት (የአምሳያው የአንዳንድ ቡድኖች ስልታዊ አያያዝ በተለየ/ኢፍትሃዊ) ብዙውን ጊዜ የሚመጣው ከመረጃው እንጂ ከአምሳያው አይደለም። ምንጮች፡-
- ታሪካዊ አድልዎ፡ መረጃ ያለፈውን ኢፍትሃዊነት ያንፀባርቃል። አንድ የተወሰነ ቡድን ከዚህ ቀደም ያነሰ ክሬዲት ከተሰጠ፣ በመረጃው ላይ የሰለጠነው ሞዴል ይህንን መድልዎ ይማራል እና ይቀጥላል።
- የውክልና አድሏዊ፡ አንዳንድ ቡድኖች በመረጃው ውስጥ ዝቅተኛ ውክልና የላቸውም። ሞዴሉ ለእነሱ ደካማ ነው (ለምሳሌ በትንሽ ናሙና ስነ-ሕዝብ ውስጥ ዝቅተኛ ትክክለኛነት).
- የመለኪያ አድሎአዊነት፡ መለያዎች እራሳቸው የተዛባ ናቸው (ለምሳሌ፣ “የጥሩ ሰራተኛ” ትርጉም ካለፉት የማስተዋወቂያ ውሳኔዎች ላይ የተመሰረተ ከሆነ)።
- የመደመር አድልኦ፡ ዳታ የሚመጣው ከተወሰነ ቻናል ስለሆነ፣ አጽናፈ ሰማይን አይወክልም።
ሞዴሉ እነዚህን አድልዎዎች ብቻ አይማርም; አውቶማቲክ በማድረግ ሚዛን ይጨምራል። የአንድ ሰው የተዛባ ውሳኔ ሌላውን ይጎዳል; የአድሎአዊ ሞዴል ፍርድ ሚሊዮን ነው።
ጥንቃቄ: "ሞዴሉ ገለልተኛ ነው ምክንያቱም ሒሳብ ብቻ ነው" በማለት ስህተት ውስጥ አይግቡ. ሞዴሉ በመረጃ ውስጥ የሰዎች አድልዎ ይማራል እና በራስ-ሰር ያደርጋል። ገለልተኝነት ነባሪ ሳይሆን መመዘን እና መረጋገጥ ያለበት ውጤት ነው።
ፍትህን መለካት
ፍትህን ለማስተዳደር በቅድሚያ መለካት ያስፈልጋል። ይህንን ለማድረግ ሞዴሉን በንዑስ ቡድን ገምግመው፡ እንደ ትክክለኛነት፣ አስታውስ፣ የውሸት አወንታዊ መጠን በተለያዩ የስነ ሕዝብ አወቃቀር ቡድኖች እኩል ናቸው? ጥቂት የፍትህ ጽንሰ-ሀሳቦች-
- የቡድን ፍትሃዊነት፡- ሞዴሉ የተለያዩ ቡድኖችን በተመሳሳይ መጠን በትክክል/በስህተት ያስተናግዳል?
- የእድል እኩልነት፡- አምሳያው በሁሉም ቡድኖች ውስጥ እውነተኛውን አወንታዊ የሆኑትን በእኩልነት ይይዛል ወይ?
ጠቃሚ እውነታ፡ የተለያዩ የፍትህ ፍቺዎች በአንድ ጊዜ ላይረኩ ይችላሉ (ይህ የሂሳብ ውጤት ነው)። በዚህ ዐውደ-ጽሑፍ ውስጥ የትኛው የፍትህ ትርጉም ቅድሚያ የሚሰጠው የሥነ-ምግባር እና የንግድ ውሳኔ እንጂ ቴክኒካል አይደለም እና ከባለድርሻ አካላት ጋር በጋራ የተሰራ ነው።
ደካማ አቀራረብ / ጠንካራ አቀራረብ
ደካማ: "የአምሳያው አጠቃላይ ትክክለኛነት 88% ነው, ይህም ፍትሃዊ ነው."
Güçlü: "አጠቃላይ ትክክለኛነት 88% ነበር, ነገር ግን በንዑስ ቡድኖች ስንከፋፍል, ማስታወስ በአንድ ቡድን ውስጥ 91% እና በሌላ ቡድን 67% ነበር - ሞዴሉ ያንን ቡድን ስልታዊ በሆነ መልኩ ጎድሏል. ምክንያቱን (የተወካዮች እጦት), ለዚያ ቡድን መረጃን ሰብስበን እና ከባለድርሻ አካላት ጋር እኩል ገምግመናል እና ፍትሃዊ በሆነው ግብ ላይ ያለውን ትርጉም ወስነናል.
ልዩነቱ፡ ጠንከር ያለ አካሄድ ከአጠቃላይ መለኪያው ጀርባ አይደበቅም፣ ንዑስ ቡድኖችን ይለያል እና ፍትሃዊነትን እንደ ግልፅ ውሳኔ ይቆጥራል።
ስነምግባር እና ግልጽነት
የኃላፊነት AI ዋና መርሆዎች-
- የማብራራት ችሎታ፡ ሞዴሉ ለምን ይህን ውሳኔ እንዳደረገ ሊገለጽ ይችላል? ከፍተኛ ተጽዕኖ በሚያሳድሩ ውሳኔዎች (ክሬዲት፣ ቅጥር፣ የጤና እንክብካቤ) አንድ ሰው ማብራሪያ የማግኘት መብት አለው። ያልተገለፀው ሞዴል በእነዚህ ቦታዎች ላይ ጥቅም ላይ መዋል የለበትም ወይም ሊገለጽ በሚችል ዘዴ መደገፍ አለበት.
- የሰዎች ቁጥጥር: ከፍተኛ ተጽዕኖ የሚያሳድሩ ውሳኔዎች ወዲያውኑ መደረግ የለባቸውም; ሞዴሉ ይጠቁማል, የሰው ልጅ ያረጋግጣል.
- ተጠያቂነት፡ አምሳያው ስህተት ሲሰራ ተጠያቂው ማን እንደሆነ ግልጽ መሆን አለበት። "ሞዴሉ ወስኗል" ሰበብ አይደለም.
- ግልጽነት፡ ተጠቃሚው ከ AI ጋር እየተገናኙ መሆናቸውን እና ውሂባቸው እንዴት ጥቅም ላይ እንደሚውል ማወቅ አለበት።
በብዙ አገሮች እና ዘርፎች፣ እነዚህ መርሆዎች በህግ (ግልጽነት፣ ኦዲት እና ከፍተኛ ስጋት ላለባቸው AI ስርዓቶች የሰው ቁጥጥር ግዴታዎች) ውስጥም ተካትተዋል። መሐንዲሱ የእርሻውን ደንቦች የማወቅ ሃላፊነት አለበት.
ጠቃሚ ምክር: ለእያንዳንዱ ከፍተኛ-ተፅዕኖ ሞዴል "ሞዴል ካርድ" ያስቀምጡ: ሞዴሉ ምን እንደሚሰራ, በምን አይነት ውሂብ ላይ እንደሰለጠነ, በየትኞቹ ቡድኖች ውስጥ ምን ያህል ጥሩ/ደካማ እንደሚሰራ, የሚታወቁት ገደቦች ምን እንደሆኑ. ይህ ሰነድ ሁለቱም ግልጽነት እና ተጠያቂነት መሳሪያ ነው.
ወጪ እና ዘላቂነት
AI ርካሽ አይደለም. ወጪ የሚተዳደረው በሁለት አቅጣጫዎች ነው፡-
የገንዘብ ወጪ፡-
- ማስመሰያ ወጪ (LLM)፡ እያንዳንዱ ጥያቄ እና ምላሽ ማስመሰያዎች ወጪ; መጠኑ እየጨመረ ሲሄድ ሂሳቡ ያድጋል. አላስፈላጊ ረጅም ቅስቀሳዎች፣ ከመጠን በላይ ትልቅ የሞዴል ምርጫ እና ከቁጥጥር ውጪ የሆኑ የኤጀንት ቀለበቶች (ክፍል 5) ወጪውን ከፍ ያደርጋሉ።
- ስልጠና እና ማስተናገጃ፡ ጥሩ ማስተካከያ እና ሞዴል አቀራረብ የሃርድዌር ወጪዎችን ያስከትላል።
- ማመቻቸት: ትንሽ ሞዴል በቂ ከሆነ ትልቅ ሞዴል አይጠቀሙ; መሸጎጫ በተደጋጋሚ የሚጠየቁ ጥያቄዎች; ጥያቄውን ያሳጥሩ; ሊሰራ የሚችለውን ባች.
የአካባቢ ወጪ፡ ትልቅ የሞዴል ስልጠና እና ግምት ከፍተኛ ጉልበት ይወስዳሉ። ዘላቂነት አላስፈላጊ ስሌቶችን (ትክክለኛ መጠን ሞዴል, ቀልጣፋ አርክቴክቸር) ማስወገድ ሙያዊ ሃላፊነት ያደርገዋል.
ጠቃሚ ምክር: የወጪ ማመቻቸት የመጀመሪያው ህግ: "ለዚህ ሥራ በጣም ትንሹ በቂ ሞዴል ምንድን ነው?" በጣም ኃይለኛውን ሞዴል በሁሉም ቦታ ማስቀመጥ ልክ እንደ ጥፍር መዶሻ መዶሻ - ውድ እና አላስፈላጊ.
ሶስት ጥቃቅን ጉዳዮች
ጉዳይ 1 - ድብቅ መድልዎ. የምልመላ ማጣሪያ ሞዴል በአጠቃላይ ጥሩ ይመስላል። የንዑስ ቡድን ትንተና ሞዴሉ ሴት እጩዎችን ስልታዊ በሆነ መንገድ አፅንዖት ሰጥቷል ምክንያቱም ታሪካዊ መረጃው በወንዶች የበላይነት የተያዘ ስለሆነ - ታሪካዊ አድሏዊነትን ተምሯል። ሞዴሉ ቆሟል፣ የውሂብ ሚዛናዊ እና የፍትሃዊነት መለኪያዎች ቁጥጥር ይደረግባቸዋል። አጠቃላይ ፅድቅ ድብቅ አድልኦን ሸፈነ።
ጉዳይ 2 - ያልታወቀ ውድቅ. የብድር ሞዴል ማመልከቻዎችን ውድቅ እያደረገ ነበር፣ ግን ለምን እንደሆነ ማንም ሊያስረዳ አልቻለም። አንድ ደንበኛ የህግ ማብራሪያ ሲጠይቅ ቡድኑ ምላሽ መስጠት አልቻለም። ሊብራራ የሚችል ዘዴ እስኪጨመር እና ለእያንዳንዱ ውድቅ ማመካኛ እስኪዘጋጅ ድረስ ሞዴሉ ከፍተኛ ተጽዕኖ በሚያሳድሩ ውሳኔዎች ውስጥ ከመጠቀም ተወግዷል። ትምህርት፡- የማብራራት ችሎታ ከፍተኛ ተጽዕኖ በሚያሳድር ውሳኔ ላይ አስፈላጊ ነው።
ጉዳይ 3 - የቢል አስደንጋጭ. አንድ ቡድን ለእያንዳንዱ ጥያቄ ትልቁን LLM እና በጣም ረጅም ጥያቄዎችን እየተጠቀመ ነበር። ወርሃዊ ሂሳቡ ሳይታሰብ አድጓል። የድህረ-ምርመራ ትንተና፡- አብዛኞቹ ጥያቄዎች በትንሽ ሞዴል ሊፈቱ ይችላሉ፣ ከጥያቄዎቹ ውስጥ ግማሹ ብዙ ጊዜ የማይፈለግ ነበር፣ እና ተደጋጋሚ ጥያቄዎች መሸጎጫ ሊደረጉ ይችላሉ። እነዚህ ሶስት ማመቻቸት ጥራቱን ሳያበላሹ ዋጋውን በእጅጉ ቀንሰዋል. ትምህርት: በጣም ኃይለኛው ሞዴል በሁሉም ቦታ አስፈላጊ አይደለም.
ሊገለበጡ የሚችሉ አብነቶች
ይህንን ሞዴል ለአድልዎ/ፍትሃዊነት እንድገመግም እርዳኝ። የትኞቹን ንዑስ ቡድኖች (ስነሕዝብ/ክፍል) መከፋፈል እና መለካት አለብኝ? የትኞቹን መለኪያዎች (ትክክለኝነት፣ ማስታወስ፣ የውሸት አዎንታዊ መጠን በቡድን) ማወዳደር አለብኝ? የተለያዩ የፍትሃዊነት ትርጓሜዎች ሊጋጩ ይችላሉ፣ በዚህ አውድ ውስጥ የትኛውን ልስጥ እና ለምን? የሞዴል/የውሳኔ አውድ፡ [ማብራሪያ]
ለዚህ ከፍተኛ ተጽዕኖ ላለው ሞዴል ረቂቅ ሞዴል ካርድ ያዘጋጁ። ማካተት ያለበት፡ ዓላማ፣ የሥልጠና መረጃ እና ቀን፣ በንዑስ ቡድኖች ውስጥ ያለው አፈጻጸም፣ የታወቁ ገደቦች፣ ተገቢ/ተገቢ ያልሆነ አጠቃቀም፣ የማብራራት ሁኔታ፣ የሰው ቁጥጥር ነጥብ። ሞዴል: [መግለጫ]
የዚህን የኤልኤልኤም አተገባበር ዋጋ እንድቀንስ አግዘኝ፣ ጥራቱን ሳይቀንስ።የቀረበው፡የሞዴል መጠን፣አማካይ ፈጣን ርዝመት፣የጥያቄ መጠን፣መሸጎጫ አለ?ግምገማ፡1) ትንሹ ሞዴል በቂ ነው (ለየትኞቹ ተግባራት)?2) መጠየቂያውን ማጠር ይቻላልን?3) ተደጋጋሚ ጥያቄዎችን መሸጎጫ ማድረግ ይቻላል?4) ለቡድን የሚሆን ስራ አለ? የእያንዳንዱን ሀሳብ ግምታዊ ተፅእኖ ይፃፉ።
ለዚህ ከፍተኛ ተጽዕኖ ላለው የውሳኔ አሰጣጥ ስርዓት የስነምግባር/የኃላፊነት ማረጋገጫ ዝርዝር ያቅርቡ።- ማብራሪያ፡ የውሳኔው ትክክለኛነት ሊወጣ ይችላል?
የአድሎአዊ ምንጭ ሰንጠረዥ
ምንጭ
ምልክት
ጥንቃቄ
ታሪካዊ አድሏዊነት
ያለፈው አድልዎ እንደቀጠለ ነው።
የውሂብ ኦዲት + የፍትሃዊነት መለኪያ
ውክልና አድልዎ
በትንሽ ናሙና ቡድን ውስጥ ዝቅተኛ ትክክለኛነት
ንዑስ ቡድን ትንተና + ማመጣጠን
የመለኪያ አድልዎ
አድሏዊ መለያዎች
መለያ የሂደት ግምገማ
የመደመር አድልዎ
አጽናፈ ሰማይ አልተወከለም
የሀብት ልዩነት
የተለመዱ ስህተቶች
- በአጠቃላይ ልኬት ላይ መተማመን። ያለ ንኡስ ቡድን ትንታኔ ስውር መድልዎ አይታይም።
- "ሞዴል ገለልተኛ" ብለን መገመት. ሞዴሉ በመረጃው ውስጥ አድልዎ ይማራል እና ያጠናክራል።
- ከፍተኛ ተጽዕኖ የሚያሳድረውን ውሳኔ ወደማይታወቅ ሞዴል በመተው። ህጋዊ እና ስነምግባር አደጋ.
- የሰዎች ቁጥጥርን ማለፍ. "ሞዴሉ ወስኗል" ሰበብ አይሆንም.
- ትልቁን ሞዴል በሁሉም ቦታ ማስቀመጥ. አላስፈላጊ ወጪ እና ጉልበት.
- ወጪን አለመከታተል። ሂሳቡ በፀጥታ ያብጣል።
በማጠቃለያው
በቴክኒካል ትክክለኛ ሞዴል አሁንም ፍትሃዊ, ሊብራራ እና ዘላቂ ካልሆነ ውድቅ ነው. አድሏዊነት በአብዛኛው ከመረጃው የሚመጣ ሲሆን ሞዴሉ በመጠን ያጎላል; ፍትሃዊነትን በንዑስ ቡድኖች ይለኩ እና የትኛውን የፍትሃዊነት ትርጉም ቅድሚያ እንደሚሰጥ ከባለድርሻ አካላት ጋር ይስማሙ። ከፍተኛ ተጽዕኖ በሚያሳድሩ ውሳኔዎች ውስጥ ግልጽነት፣ የሰው ቁጥጥር እና ተጠያቂነት አስፈላጊዎች ናቸው። ከሞዴል ካርድ ጋር የሰነድ ግልጽነት. ወጪን እና ጉልበትን ይቆጣጠሩ፡ ትንሹን በቂ ሞዴል ይምረጡ፣ መጠየቂያውን ያሳጥሩ፣ መሸጎጫ እና ባች ይጠቀሙ። እነዚህ ልኬቶች የምህንድስና ጥራት ዋና ክፍሎች ናቸው እንጂ በኋላ ላይ የተጨመሩ ፍሪሎች አይደሉም።
የመተግበሪያ ተግባር
አንድን ሞዴል ቢያንስ በሁለት ንዑስ ቡድኖች ይከፋፍሉት እና የማስታወሻውን እና የውሸት አወንታዊ መጠንን በቡድን ያወዳድሩ; ጉልህ የሆነ ልዩነት ካለ, ምክንያቱን እና ቅድመ ጥንቃቄን ይፃፉ. ከፍተኛ ተጽዕኖ ላለው ሞዴል (ዓላማ፣ መረጃ፣ የንዑስ ቡድን አፈጻጸም፣ ወሰኖች፣ ገላጭነት) አጭር የሞዴል ካርድ ይቅረጹ። LLMን የማስፈፀም ወጪን ለመቀነስ እና የሚገመተውን ተፅእኖ ለመፃፍ ቢያንስ ሁለት የኮንክሪት ማመቻቸት (ቢያንስ/ፈጣን መቆራረጥ/መሸጎጫ/ባች) መለየት።
የማረጋገጫ ዝርዝር
- [] ሞዴሉን በንዑስ ቡድኖች ገምግሜአለሁ፣ በአጠቃላይ ልኬት ላይ አልታመንኩም።
- [ ] ለየትኛው የፍትህ ትርጉም ቅድሚያ እንደምሰጥ ከባለድርሻ አካላት ጋር ወሰንኩ።
- [] ከፍተኛ ተጽዕኖ ያለው ውሳኔ ሊብራራ የሚችል እና በሰው ይሁንታ የሚገዛ ነው።
- [ ] በስርዓተ-ጥለት ካርዱ ግልጽነትን እና ድንበሮችን አስመዘገብኩ።
- [] ትንሹን በቂ ሞዴል መርጫለሁ; መጠየቂያ/መሸጎጫ/ባች አመቻችቻለሁ።
- [] የዋጋ እና የኢነርጂ ተፅእኖን እከታተላለሁ።