ትርፍ፡
- የአልጎሪዝም አድሏዊ መረጃን ፣ ዲዛይን እና አጠቃቀም ምንጮችን ያውቃል እና ውጤቱን በቡድን ይፈትሻል።
- የግብረመልስ ምልልስ እና የውክልና ስህተቱ ኢ-እኩልነትን እንደሚያጎላ እና የተፅዕኖ ቁጥጥርን እንዴት እንደሚያሳድግ ያብራራል።
- በእያንዳንዱ አውቶሜትድ ውሳኔ ላይ ማብራሪያ እና ይግባኝ በማረጋገጥ ተጠያቂነትን ያረጋግጣል።
ህዝቡ ስልጣኑን ለሁሉም በእኩልነት መተግበር አለበት፡ በተመሳሳይ ሁኔታ ለሁለት ዜጎች ተመሳሳይ አያያዝ፣ ከተለያዩ ሁኔታዎች ጋር ተመጣጣኝ ልዩነት። ይህ የእኩልነት መርህ ሕገ መንግሥታዊ ግዴታ ነው። ሰው ሰራሽ የማሰብ ችሎታ ይህንን መስክ ሊያሻሽል እና በጸጥታ ሊያደናቅፍ ይችላል። ሊሻሻል ይችላል ምክንያቱም በቋሚነት የሚተገበር ህግ የዘፈቀደ እና የሰዎች አድልዎ ሊቀንስ ይችላል. የ AI ሞዴሎች ካለፈው መረጃ ስለሚማሩ እና ያለፈው መረጃ ያለፈውን አድልዎ ስለሚሸከም ሊበላሽ ይችላል. አንድ ሥርዓት በታሪክ አንድን ቡድን በታሪክ የሚጎዳ መረጃ ላይ የሰለጠነ ከሆነ፣ ያን ጉዳቱን ለወደፊት ይሸከማል—እንዲሁም ለመለየት በሚያስቸግር መልኩ፣ “ተጨባጭ አልጎሪዝም” በሚል ሽፋን። በዚህ ክፍል ውስጥ፣ በህዝብ ሴክተር ውስጥ AIን ሲጠቀሙ፣ እንዴት እንደሚቀንስ እና፣ ከሁሉም በላይ ደግሞ፣ አልጎሪዝም ተጠያቂነትን እንዴት ማረጋገጥ እንደሚቻል (በራስ ሰር ውሳኔ ላይ የተመሰረተ ውሳኔ ሊገለጽ የሚችል፣ ሊመረመር እና ሊወዳደር የሚችል) እንዴት እንደሆነ እንዴት ማወቅ እንደሚችሉ ይማራሉ።
አድልዎ የሚመጣው ከየት ነው?
በርካታ የአልጎሪዝም አድልዎ ምንጮች አሉ፣ እና ሁሉም በአደባባይ አደገኛ ናቸው፡
- ታሪካዊ አድልዎ፡ የሥልጠና መረጃ ያለፈ እኩልነትን ይይዛል። ለምሳሌ፣ አንድ አካባቢ ከዚህ ቀደም ያነሰ አገልግሎት ከነበረው፣ “የፍላጎት መረጃ” ያንን አካባቢ ዝቅተኛ ፍላጎቶች እንዳለው ሊያሳይ ይችላል - በእውነቱ አገልግሎት ስላልነበረው ፍላጎት አነስተኛ ነበር።
- የውክልና አድሎአዊነት፡- አንዳንድ ቡድኖች በመረጃው ውስጥ ዝቅተኛ ውክልና የሌላቸው ናቸው (ዲጂታል መዳረሻ የሌላቸው፣ አናሳ ቋንቋ ቡድኖች) እና ሞዴሉ ለእነሱ መጥፎ አይሰራም።
- የተኪ አድሎአዊነት፡ ሞዴሉ የተከለከሉ መመዘኛዎችን (ጎሳን፣ ሃይማኖትን) በቀጥታ ባይመለከትም ከሱ ጋር የተያያዘ ፕሮክሲን (ሰፈር፣ ስም፣ ዚፕ ኮድ) በማየት ተመሳሳይ አድልዎ ሊያመጣ ይችላል።
- የመለኪያ አድሏዊ፡ የምንለካው በትክክል ልንለካው የምንፈልገውን አይደለም። "የቅሬታዎች ብዛት" ከፍላጎት ይልቅ ቅሬታ የማቅረብ ችሎታን ይለካል.
ጥንቃቄ፡- “ስሱ መረጃዎችን (ጾታ፣ ጎሳን) ከአምሳያው አስወግጃለሁ፣ አሁን ፍትሃዊ ነው” ማለት አሳሳች ነው። በተኪ ተለዋዋጮች በኩል የሚደረግ አድልዎ ሊቀጥል ይችላል። ፍትሃዊነት የሚገኘው ግብአቱን በመሰረዝ ሳይሆን በቡድኖች መካከል ያለውን ውጤት በመሞከር ነው።
ፍትሓውን ፈትኑ፡ ውጽኢቱ እዩ።
ስርዓት ፍትሃዊ መሆን አለመሆኑን መረዳት የሚቻለው አላማውን ሳይሆን ውጤቱን በማየት ነው። መሰረታዊ ዘዴ: ውሳኔውን በቡድን ይከፋፍሉት እና ያወዳድሩ. እንደ ተቀባይነት/የመቀበል መጠን፣ የስህተት መጠን፣ የጥበቃ ጊዜ ያሉ ውጤቶች በተለያዩ ቡድኖች (ጾታ፣ ዕድሜ፣ ክልል፣ ገቢ) መካከል በእጅጉ ይለያያሉ? ልዩነት ካለ ይህ ልዩነት በህጋዊ ምክንያት ላይ የተመሰረተ ነው ወይንስ አድልዎ ነው? ይህ ትንታኔ የግላዊ መረጃን ሊፈልግ ስለሚችል, በ KVKK መሰረት መጠቅለል እና መከናወን አለበት.
ጠቃሚ ምክር፡ አዲስ በ AI የተጎላበተ የውሳኔ አሰጣጥ ስርዓት ከመዘርጋቱ በፊት፣ ውሳኔዎቹን በስነሕዝብ ቡድኖች ይከፋፍሉ እና “የፍትሃዊነት ሪፖርት” ያዘጋጁ። ልዩነት ካገኘህ "ይህ ልዩነት ሊገለጽ ይችላል?" ጥያቄውን ወደ ህዝብ ኮሚቴ ውሰዱ።
ገላጭነት እና ይግባኝ፡ የተጠያቂነት ልብ
በመንግስት ሴክተር ውስጥ የትኛውም ዜጋ መብቱ ሊገፈፍ አይችልም "ስርአቱ እንደወሰነ" በሚለው መልስ። ለእያንዳንዱ አውቶማቲክ ወይም በ AI የታገዘ ውሳኔ፣ ሶስት ነገሮች መረጋገጥ አለባቸው፡
- የማብራራት ችሎታ፡ ውሳኔው በምን ላይ የተመሰረተ እንደሆነ፣ በምን ሁኔታዎች ውጤታማ እንደነበሩ በግልጽ ቋንቋ መገለጽ አለበት።
- ይግባኝ የማለት መንገድ፡ ዜጎች ውሳኔውን መቃወም እና ሰው እንዲመረምረው መጠየቅ መቻል አለባቸው።
- የኦዲት ዱካ፡ የትኛው ውሂብ፣ የትኛው ሞዴል/ስሪት እና ውሳኔው ከየትኛው ተጠያቂ ሰው ጋር እንደተደረገ መመዝገብ አለበት።
ሶስት ጥቃቅን ጉዳዮች
ጉዳይ 1 - ተተኪ ተለዋጭ ተይዟል። አንድ የእርዳታ ቅድሚያ የሚሰጠው ሞዴል ሚስጥራዊነት ያለው መረጃን አልተጠቀመም ነገር ግን "ዚፕ ኮድ"ን ተመልክቷል. በፍትሃዊነት ፈተና፣ አንዳንድ ሰፈሮች ስልታዊ ዝቅተኛ ቅድሚያ ሲያገኙ ተገኝተዋል - ከዚፕ ኮድ፣ ገቢ እና የጎሳ እፍጋቶች ጋር የተቆራኙ። ተለዋዋጭው ተወግዷል እና ቅድሚያ የሚሰጠው በቀጥታ ከፍላጎት አመልካቾች ጋር ተጣብቋል.
ጉዳይ 2 - የውክልና ክፍተት. አንድ ቻትቦት 41% የበለጠ የቱርክ ያልሆኑ የአፍ መፍቻ ቋንቋ ካላቸው ዜጎች የሚነሱ ጥያቄዎችን የማሳሳት ዕድሉ ከፍተኛ ነበር። የሥልጠናው መረጃ የዚህን ቡድን ጥቂት ይዟል። የብዙ ቋንቋ ድጋፍ እና የሰው ርክክብ ደረጃ ሲጨመር ክፍተቱ ተዘጋ።
ጉዳይ 3 - ያልታወቀ ውድቅ. አንድ ተቋም ወዲያውኑ ማመልከቻ ውድቅ አደረገ; ዜጋ "ለምን?" ሲጠየቅ, ባለሥልጣኑ ማብራራት አልቻለም, ምክንያቱም የአምሳያው ምክንያት ለመረዳት የማይቻል ነው. ክስተቱ ደካማ የማብራራት ችሎታ ያላቸው ሞዴሎች መብትን የሚመለከቱ ውሳኔዎችን ለማድረግ መጠቀም እንደማይችሉ ያሳያል። ስርዓቱ መጽደቅን ወደሚያመነጭ እና የሰውን ይሁንታ ወደሚያስፈልገው ሞዴልነት ተቀይሯል።
አራት ሊገለበጡ የሚችሉ አብነቶች
1) የአድሎአዊ ቅኝት ምንጭ፡-
የእርስዎ ሚና፡ አልጎሪዝም ፍትሃዊነት ባለሙያ። ከዚህ በታች በ AI የተጎላበተ ውሳኔ ሂደትን ይመልከቱ። ሊሆኑ የሚችሉ የአድሎአዊ ምንጮችን ይዘርዝሩ፡ (1) ታሪካዊ አድልዎ፣ (2) ውክልና አድልዎ (ያልተወከለው ቡድን)፣ (3) ተኪ ተለዋዋጮች (ከተከለከለው መስፈርት ጋር የተያያዘ አምድ)፣ (4) የመለኪያ አድልዎ። ለእያንዳንዳቸው ተጨባጭ ምሳሌ ስጥ እና እንዴት እንደምሞክር ንገረኝ. ሂደት፡ [የውሳኔ ሂደት እና ጥቅም ላይ የዋለው ውሂብ]
2) የፍትሃዊነት ሙከራ እቅድ;
ለሚከተለው የውሳኔ ውጤት የፍትሃዊነት ሙከራ እቅድ ማውጣት፡ የትኞቹ ቡድኖች (እድሜ፣ ጾታ፣ ክልል፣ ገቢ) መከፋፈል አለብኝ፣ የትኞቹን መለኪያዎች (የተቀባይነት መጠን፣ የስህተት መጠን፣ የጥበቃ ጊዜ) ማወዳደር አለብኝ፣ ልዩነቱ ህጋዊ ወይም አድሎአዊ መሆኑን እንዴት እወስናለሁ? የKVKK ማስጠንቀቂያ ያክሉ። ውሳኔ፡ [ምን ዓይነት ውሳኔ]
3) የውሳኔ መግለጫ (ለዜጋው)፡-
ለሚከተለው ውሳኔ በዜጎች ሊረዳ የሚችል ረቂቅ ማብራሪያ ይጻፉ፡ ምን አይነት ተፅዕኖ ፈጣሪዎች፣ በግልፅ ቋንቋ። በመጨረሻው ላይ ይግባኝ የመጠየቅ መብትን እና የሰው ግምገማ የማድረግ እድልን ይጨምሩ [ከሚረጋገጥበት ጊዜ ጋር]። እንደ "ስርዓቱ ወሰነ" ያሉ ግልጽ ያልሆኑ አባባሎችን መጠቀም። ውሳኔ፡ [ማጠቃለያ እና ተጽዕኖ ፈጣሪዎች]
4) ከመሰራጨቱ በፊት የተጠያቂነት ማረጋገጫ;
በአይ-የተጎለበተ የውሳኔ አሰጣጥ ስርዓት ከመዘርጋቱ በፊት የተጠያቂነት ማረጋገጫ ዝርዝር ያዘጋጁ፡- ሊብራራ የሚችል ነው፣ ይግባኝ ለማለት የሚቻልበት መንገድ አለ፣ የኦዲት ዱካ (መረጃ/ሞዴል ስሪት/ተጠያቂ) ተጠብቆ፣ የፍትሃዊነት ፍተሻ ተከናውኗል፣ የሰው ማፅደቂያ ነጥብ የት አለ? የጎደሉትን ነገሮች እንደ ቀይ ባንዲራ ጠቁም።ሥርዓት፡ [የምግብ አዘገጃጀት]
ደካማ ጥያቄ / ጠንካራ ጥያቄ
ደካማ፡ "ይህ ውሳኔ ሞዴል ፍትሃዊ ነው?"
ጠንካራ: "የእርስዎ ሚና የአልጎሪዝም ፍትሃዊነት ኤክስፐርት ነው. ለዚህ የእርዳታ ቅድሚያ አሰጣጥ ሞዴል በመጀመሪያ የአድሎአዊ ምንጮችን (ታሪካዊ, ውክልና, ምትክ ተለዋዋጭ, መለኪያ) ይቃኙ እና ለእያንዳንዱ ተጨባጭ ምሳሌዎችን ይስጡ. ከዚያም የፍትሃዊነት ሙከራ እቅድ ይምጡ: በየትኛው ቡድኖች, በየትኛው መለኪያዎች, ልዩነቱን ህጋዊነት እንዴት እንደሚወስኑ KVKK ን ይጨምሩ, ስርዓቱን ከማስጠንቀቅዎ በፊት, የይግባኝ ዝርዝርን ከማብራራትዎ በፊት, የኦዲት አሰራርን ከማብራራትዎ በፊት. እና ድክመቶቹን ቀይ ሰንደቅ."
ልዩነቱ፡ ጠንከር ያለ ጥያቄ ከምንጩ ላይ አድልዎ ይፈልጋል፣ ውጤቱም በቡድን ተፈትኗል እና ተጠያቂነትን በስፋት ያሰራጫል።
የፍትህ ልኬቶች እና መቆጣጠሪያዎች
መጠን
ስጋት
መቆጣጠር
ታሪካዊ መረጃ
ያለፈው ጊዜ አለመመጣጠን ያመጣል
በቡድኖች ውፅዓት ሞክር
ውክልና
ለአንዳንድ ቡድን መጥፎ ይሰራል
በቡድን ላይ የተመሰረተ የስህተት መጠን
ምትክ ተለዋዋጭ
ስውር መድልዎ
ተለዋዋጭ - ሚስጥራዊነት ያለው መስፈርት ግንኙነት
የማብራራት ችሎታ
ተገቢ ያልሆነ ውሳኔ
ቀላል ማብራሪያ ይፍጠሩ
ተቃውሞ
መጥፋት
የሰው ግምገማ መንገድ
የግብረመልስ ምልልስ እና የውክልና ስህተት
በጣም ተንኮለኛው የአልጎሪዝም መድልዎ የሚከሰተው በአንድ የተሳሳተ ውሳኔ ሳይሆን በጊዜ ሂደት እራሱን በሚያጠናክር የግብረመልስ ምልልስ ነው (የአምሳያው ውጤት በቀጣይ የስልጠና መረጃ ላይ ተጽዕኖ ያሳድራል፣ ያለውን አድልዎ ያጠናክራል)። ለምሳሌ፣ የፍተሻ ሞዴል አንድን ሰፈር “አስጊ” ብሎ ከጠቆመ፣ ብዙ ምርመራዎች ወደዚያ ሲሄዱ፣ ብዙ መዝገቦች ሲፈጠሩ፣ ሞዴሉ ያንን ሰፈር የበለጠ አደገኛ እንደሆነ ይገነዘባል - ምንም እንኳን ልዩነቱ በተጨባጭ አደጋ ላይ ሳይሆን በሚታየው ቦታ ላይ ቢጨምርም። ለዚህ መንገዱን የሚከፍተው ብዙውን ጊዜ የውክልና ስህተት ነው (አንዳንድ ቡድኖችን በተሟላ መልኩ ወይም በተዛባ መልኩ የሚያንፀባርቅ የሥልጠና መረጃ)። በሕዝብ ሴክተር ውስጥ፣ እነዚህ ዑደቶች የተቸገሩ ቡድኖችን እየጨመረ በከፋ ክትትል እና ማዕቀብ ውስጥ ሊያደርጉ ይችላሉ። እራስዎን የሚከላከሉበት መንገድ ውጤቱን ብቻ ሳይሆን የአምሳያው ተፅእኖን መከታተል ነው-በቡድን ላይ የተመሰረተ የውሳኔ ሃሳቦችን በየጊዜው መከታተል እና የአምሳያው ምክሮችን በጭፍን አለመተግበር ነው.
አነስተኛ መያዣ - ራስን ከፍ የሚያደርግ ጥርጣሬ። የበጎ አድራጎት ማጭበርበር ማወቂያ ሞዴል ቀደም ሲል በከፍተኛ ሁኔታ የተፈተሸውን ክልል እንደ ከፍተኛ አደጋ ጠቁሟል። ቡድኑ የማስፈጸሚያ ጥንካሬን ከመረጃው አውጥቶ “ከሕዝብ ብዛት አንጻር ያለውን ትክክለኛ የመለየት መጠን” ሲለካ በክልሎች መካከል ያለው ልዩነት በአብዛኛው ጠፍቷል፤ ሞዴሉ ለትክክለኛው አደጋ አለመመጣጠን ተሳስቶ ነበር።
በቡድን ላይ የተመሰረተ ተጽዕኖ መቆጣጠሪያ አብነት፡-
ተግባር፡ የሚከተለውን የውሳኔ ዳታ በቡድኖች መርምር (የግል መረጃ የለም፣ ምድብ ማጠቃለያ)።መረጃ፡ [ቡድን | ጠቅላላ ውሳኔ | አሉታዊ ውሳኔ መጠን | inspection intensity]ውጤት፡ 1) አሉታዊ ውሳኔ መጠን በቡድኖች መካከል ከፍተኛ ልዩነት ያሳያል? 2) ልዩነቱ በትክክለኛ አደጋ ወይም ቁጥጥር / የውክልና ጥንካሬ ምክንያት ሊሆን ይችላል? 3) የግብረመልስ ምልልስ ምልክት አለ? 4) ለሰብአዊ ቁጥጥር ምክሮች. ደንብ: የምክንያት ጥያቄን ማቋቋም; ሊሆኑ የሚችሉ ማብራሪያዎችን እና የመፈተሽ መንገዶችን ይዘርዝሩ።
ይጠንቀቁ፡- "አምሳያው ገለልተኛ ነው ምክንያቱም ለሁሉም ሰው ተመሳሳይ ህግ ስለሚተገበር" የሚለው መከራከሪያ አሳሳች ነው። ተመሳሳዩ ህግ, በተዛባ መረጃ ላይ ሲተገበር, እኩልነትን ይጠብቃል እና ያጎላል. ፍትህ የሚለካው በውጤቱ እኩልነት እንጂ በአገዛዙ አይደለም።
የተለመዱ ስህተቶች
- ሚስጥራዊነት ያለው መረጃን መሰረዝ እና "ፍትሃዊ ነው" ብሎ ማሰብ. ተተኪ ተለዋዋጮች አድልዎ እንዲቀጥል ያደርጋል; ውጽኢቱውን ፈትኑ።
- በዓላማ ፍትህን መለካት። ፍትህ በመጨረሻ ይታያል; ውሳኔዎችን በቡድን ደርድር እና አወዳድር።
- ያልተወከለውን ቡድን መርሳት. ሞዴሉ ለአነስተኛ ቡድን በፀጥታ በፀጥታ ሊሠራ ይችላል; በቡድን ላይ የተመሰረተ ስህተት ይመልከቱ.
- በመብቶች ሰጭ ውሳኔዎች ውስጥ ያልተገለፀውን ሞዴል መጠቀም. ፍትሃዊነትን ማምጣት የማይችል ስርዓት የህዝብ ውሳኔ መስጠት አይችልም.
- ምንም አይነት የተቃውሞ መንገድ አለመስጠት። እያንዳንዱ አውቶማቲክ ውሳኔ በሰዎች መገምገም አለበት.
- የኦዲት ዱካ አለመጠበቅ። ውሳኔው ከየትኛው ውሂብ/ሞዴል/ተጠያቂ ሰው ጋር እንደተደረገ መመዝገብ አለበት።
በማጠቃለያው
በሕዝብ ዘርፍ፣ AI ወጥነትን ሊጨምር ይችላል ነገር ግን ያለፈውን አድልዎ በጸጥታ ይሸከማል። አድልዎ የሚመጣው ከታሪካዊ መረጃ፣ የውክልና ክፍተት፣ የተኪ ተለዋዋጮች እና ትክክለኛ ያልሆነ መለኪያ ነው። ሚስጥራዊነት ያለው ውሂብ መሰረዝ መፍትሄ አይሆንም። ፍትሃዊነት የሚገኘው ውጤቱን በቡድን በመሞከር ነው። እናም የትኛውም ዜጋ በ"ስርአቱ እንዲህ አለ" መብቱ ሊነፈግ አይችልም፡ ውሳኔው ሁሉ የሚገለፅ፣ የሚወዳደር እና የሚመረመር መሆን አለበት። ተጠያቂው ተቋም እንጂ አልጎሪዝም አይደለም።
የመተግበሪያ ተግባር
በእርስዎ አሃድ ውስጥ በAI የሚንቀሳቀስ ወይም አውቶሜትድ የውሳኔ ሂደት ይምረጡ። ሊሆኑ የሚችሉ አድሎአዊ ጉዳዮችን ይዘርዝሩ እና በ"የአድሎአዊ ቅኝት ምንጭ" አብነት ቢያንስ አንድ ምትክ ተለዋዋጭ አደጋን ያግኙ። በ"ፍትሃዊነት ሙከራ እቅድ" የትኛዎቹ ቡድን ብልሽቶች እንደሚታዩ ይወስኑ። ለናሙና ውሳኔ፣ ከ"ውሳኔ ማብራሪያ" አብነት ጋር አንድ ዜጋን የሚመለከት ማብራሪያ ያዘጋጁ።
የማረጋገጫ ዝርዝር
- [ ] የአድሎአዊ ምንጮችን (ታሪካዊ፣ ውክልና፣ ተኪ፣ መለኪያ) ቃኘሁ።
- [ ] ሚስጥራዊነት ያለው መረጃን ብቻ አልሰረዝኩም; ውጤቱን በቡድን ሞከርኩ።
- [] ዝቅተኛ ውክልና ለሌላቸው ቡድኖች የስህተት መጠኑን ተቆጣጠርኩ።
- [ ] ለእያንዳንዱ ውሳኔ ቀላል፣ ሊብራራ የሚችል ማረጋገጫ አቅርቤያለሁ።
- [ ] ተቃውሞን እና የሰዎችን መገምገሚያ መንገድ ገልጫለሁ።
- [] የኦዲት ዱካ (የውሂብ/ሞዴል ሥሪት/ተጠያቂ) ተጠብቆ ይቆያል።