ሥነ ምግባራዊ እና ኃላፊነት ያለው AI

ትርፍ፡

• ኃላፊነት የሚሰማቸውን የ AI መርሆዎችን (ፍትሃዊነት ፣ ግልፅነት ፣ ተጠያቂነት ፣ ግላዊነት ፣ የሰዎች ቁጥጥር ፣ ደህንነት ፣ ዘላቂነት) ከተጨባጭ ውሳኔዎች ጋር የማገናኘት ችሎታ
• ስነምግባርን ከህግ ተገዥነት በመለየት እና 'እንችላለን' እና 'አለብንም' የሚለውን በመለየት የተጎዱ ወገኖችን የመፈተሽ እና አድሏዊነት
• በንድፍ ውስጥ ግልጽነት ፣ የሰዎች ክትትል እና ይግባኝ በማካተት የጥቃት ሁኔታዎችን አስቀድሞ የመቀነስ ችሎታ።

የ AI ጅምር በቴክኒካል ፍፁም ፣ በገንዘብ ትርፋማ እና በህጋዊ መንገድ አዋጭ ሊሆን ይችላል። ግን አሁንም ስህተት ሊሆን ይችላል. ስነምግባር በ"እችላለን" እና "በሚገባን" መካከል ያለው ልዩነት ነው። ለከፍተኛ ሥራ አስኪያጅ ሥነ-ምግባር የማስዋብ ወይም የሕዝብ ግንኙነት ጉዳይ አይደለም; የተቋሙን የረጅም ጊዜ አስተማማኝነት፣ መልካም ስም እና ማህበራዊ ህጋዊነት የሚጠብቅ መሰረት ነው። በዚህ ክፍል ውስጥ፣ ኃላፊነት የሚሰማው AI መርሆችን (የሰው ሰራሽ የማሰብ ችሎታን ፍትሃዊ፣ ግልጽ፣ ተጠያቂነት ያለው እና የሰውን ክብር በሚያከብር መንገድ የመጠቀም አካሄድ) እና በዕለት ተዕለት ውሳኔዎች ውስጥ እንዴት እንደሚያንፀባርቁ ይማራሉ ።

ኃላፊነት ያለው AI መሰረታዊ መርሆዎች

የተለያዩ ማዕቀፎች በተመሳሳይ መርሆች ይገናኛሉ. ለአስተዳዳሪው ተግባራዊ ማጠቃለያ፡-

መርህ

ምን ማለትህ ነው?

የአስተዳዳሪ ጥያቄ

ፍትህ

አድልዎ የሌለበት

ይህ ኢ-ፍትሃዊ በሆነ መልኩ ቡድንን ይነካል?

ግልጽነት

ለመረዳት የሚቻል መሆን

የውሳኔውን ምክንያት መግለፅ እንችላለን?

ተጠያቂነት

ተጠያቂው ማን እንደሆነ መለየት

ስህተት ከተፈጠረ ተጠያቂው ማነው?

ግላዊነት

ለግል መረጃ አክብሮት

መረጃን የመጠቀም መብት አለን?

የሰዎች ክትትል

ቁጥጥር ውስጥ መቆየት

አንድ ሰው መቃወም እና ማቆም ይችላል?

ደህንነት

ምንም ጉዳት አታድርጉ

ይህ አላግባብ መጠቀም ይቻላል?

ዘላቂነት

የአካባቢ / ማህበራዊ ተጽእኖ

ወጪውን ለማን እንከፍላለን?

እነዚህ መርሆዎች ረቂቅ አይደሉም; እያንዳንዳቸው ከተጨባጭ ውሳኔ ጋር ሊገናኙ ይችላሉ. ለምሳሌ, "ግልጽነት" ማለት ደንበኛው ከ AI ጋር እንደሚነጋገሩ ማሳወቅ; "የሰው ቁጥጥር" ማለት የሰው ልጅ ብድር መከልከል እና ለይግባኝ ክፍት መተው ማለት ነው።

ጠቃሚ ምክር፡ በእያንዳንዱ ከፍተኛ ተጽዕኖ ባለው AI ውሳኔ፣ አንድ ጥያቄ ይጠይቁ፡ “ይህን ውሳኔ በጣም ለተጎዳው ሰው በግልፅ ማስረዳት እና ከኋላው መቆም እችላለሁ?” ምላሹ ቅር የሚያሰኝ ከሆነ, የስነምግባር ችግር አለ.

ስነምግባር ከህግ የተለየ ነው።

ወሳኝ ልዩነት፡ የህግ ተገዢነት (ክፍል 9) ዝቅተኛው ዝቅተኛ ነው; ሥነምግባር ከፍ ያለ መስመር ነው። የሆነ ነገር ህጋዊ ቢሆንም ሥነ ምግባር የጎደለው ሊሆን ይችላል። ለምሳሌ፣ አንድ መተግበሪያ የተጠቃሚ ባህሪን ለመቆጣጠር አርቴፊሻል ኢንተለጀንስ እንዳይጠቀም አይከለከልም ነገር ግን ሥነ ምግባር የጎደለው ነው። ኃላፊነት ያለባቸው ተቋማት "የተከለከሉ ናቸው?" አይደለም "እውነት ነው?" ብሎ ይጠይቃል።

ደረጃ በደረጃ፡ በውሳኔው ውስጥ ስነምግባርን ማካተት

1. የተጎዱ ወገኖችን መለየት. በዚህ ተነሳሽነት የሚነካው ማን ነው? (ደንበኛ፣ ሰራተኛ፣ ማህበረሰብ፣ የተቸገሩ ቡድኖች)

2. በፖሊሲዎች ይቃኙ. በእያንዳንዱ ከላይ ከተጠቀሱት መርሆች አንፃር ተነሳሽነቱን ይጠይቁ።

3. አድልዎ እና ጉዳትን ይፈትሹ. ሞዴሉ የተወሰኑ ቡድኖችን ኢ-ፍትሃዊ በሆነ መንገድ ይነካል? የመጎሳቆል ሁኔታዎች ምንድ ናቸው?

4. ግልጽነት እና ቁጥጥርን ይጨምሩ. የሰው ሰራሽ የማሰብ ችሎታን ሪፖርት ያድርጉ, ለሰው ተቃውሞ ምንም መንገድ አይተዉም.

5. ሰነዶች እና ግምገማ. የስነምግባር ግምገማን አስቀምጥ; በየጊዜው ተመልሰው ይፈትሹ።

ሶስት ጥቃቅን ጉዳዮች

ጉዳይ 1 - ህጋዊ ግን የተሳሳተ። አንድ መተግበሪያ ተጠቃሚዎችን በመተግበሪያው ውስጥ ረዘም ላለ ጊዜ ለማቆየት ሱስ የሚያስይዙ ማሳወቂያዎችን ለመፍጠር ሰው ሰራሽ የማሰብ ችሎታን ተጠቅሟል። ምንም ዓይነት ሕጋዊ እንቅፋት አልነበረም, ነገር ግን በፕሬስ ውስጥ ሲዘገይ, ከፍተኛ ስም ማጥፋት ነበር; በተለይ በወጣት ተጠቃሚዎች ላይ ያነጣጠረው ትችት አስከትሏል። ኩባንያው ባህሪውን አስወግዷል. የስነምግባር ማጣሪያው ከመጀመሪያው ጀምሮ ከሆነ, ይህ አደጋ ይታያል.

ጉዳይ 2 - የፍትሃዊነት ፈተና ዋጋ. የአንድ ባንክ የብድር ነጥብ ሞዴል ከተጠበቁ ቡድኖች ላሉ መተግበሪያዎች ስልታዊ በሆነ መልኩ ዝቅተኛ ውጤቶችን ሰጥቷል። ይህ በፍትህ ኦዲት ውስጥ ተይዟል. አምሳያው በአዲስ መልክ ተዘጋጅቶ በመደበኛነት ተፈትኗል በውጤቶቹ ውስጥ የቡድን እኩልነትን ለማረጋገጥ። የሥነ ምግባር መርህ (ፍትህ) ወደ ተጨባጭ ፈተና ተለወጠ እና እውነተኛ ጉዳት እንዳይደርስ አድርጓል.

ጉዳይ 3 - ግልጽነት የተገነባ እምነት. የኢ-ኮሜርስ ኩባንያ በደንበኛ ድጋፍ ቻትቦት መጀመሪያ ላይ "አርቴፊሻል ኢንተለጀንስ ረዳት ይረዳሃል፣ በማንኛውም ጊዜ ከሰው ተወካይ ጋር መገናኘት ትችላለህ" የሚለውን ሐረግ አስቀምጧል። ግልጽነት እና የሰዎች መውጣት እርካታን አልቀነሰም; በተቃራኒው, በራስ መተማመንን ጨምሯል እና ቅሬታዎች በ 15% ቀንሰዋል. በትክክል የተደረገ ግልጽነት ዋጋ እንጂ ወጪ አልነበረም።

አራት ሊገለበጡ የሚችሉ አብነቶች

1) የስነምግባር ምርመራ;

የእርስዎ ሚና፡ ኃላፊነት የሚሰማው AI አማካሪ። ይህንን ተነሳሽነት ለ7 መርሆች ይቃኙ፡ ፍትሃዊነት፣ ግልጽነት፣ ተጠያቂነት፣ ግላዊነት፣ የሰዎች ቁጥጥር፣ ደህንነት፣ ዘላቂነት። ለእያንዳንዱ ፖሊሲ አንድ አደጋ እና አንድ ምክር ይጻፉ። ተነሳሽነት፡ [ጽሑፍ]

2) የተጎዱ ወገኖች ትንታኔ;

በዚህ AI ተነሳሽነት የተጎዱትን ሁሉንም ወገኖች ይዘርዝሩ (ደንበኛ፣ ሰራተኛ፣ ማህበረሰብ፣ የተቸገሩ ቡድኖች)። ለእያንዳንዱ ወገን ሊሆኑ የሚችሉ አወንታዊ እና አሉታዊ ውጤቶችን ይጻፉ; ቡድኑን በጣም ሊጎዳ እንደሚችል ምልክት ያድርጉበት። ተነሳሽነት፡ [ጽሑፍ]

3) አላግባብ መጠቀም;

የሚከተለው የ AI ባህሪ አላግባብ መጠቀም የሚቻልባቸውን 5 ሁኔታዎች ይፍጠሩ (ማታለል፣ መድልዎ፣ የግላዊነት ጥሰት፣ ማታለልን ጨምሮ)። ለእያንዳንዱ ሁኔታ የመከላከያ ንድፍ ውሳኔን ይጠቁሙ። ባህሪ፡ [ጽሑፍ]

4) ግልጽነት እና የክትትል ቁጥጥር;

ለደንበኛ ፊት ለፊት AI የግልጽነት እና የሰው ቁጥጥር እቅድ ይፃፉ: ለተጠቃሚው ምን እንደሚነገር እና እንዴት; ወደ ሰዎች እንዴት ሊተላለፍ ይችላል? ውሳኔውን እንዴት ይቃወማል? አጠቃቀም: [ጽሑፍ]

ደካማ ጥያቄ / ጠንካራ ጥያቄ

ደካማ፡ “ይህ AI ሥነ ምግባራዊ ነው?”

ውጤት፡ ላዩን "አዎ/አይደለም"፤ የትኛው መርህ ፣ ማን እንደተነካ ፣ የትኛው መለኪያ ግልፅ አይደለም ።

ጠንካራ: "በቅጥር ቅድመ ምርመራ መሳሪያ AI ለመጠቀም እያሰብን ነው (የሰው ልጅ የመጨረሻውን ውሳኔ ይሰጣል) ለፍትሃዊነት, ግልጽነት, ተጠያቂነት እና የሰዎች ቁጥጥር መርሆዎች ይህንን ይፈትሹ. የትኞቹ የእጩዎች ቡድኖች ፍትሃዊ ባልሆነ መልኩ ሊነኩ እንደሚችሉ, ምን ዓይነት አድሎአዊ ሙከራዎች ማድረግ እንዳለብኝ እና እጩዎች ውሳኔውን እንዴት ይግባኝ ማለት እንደሚችሉ በትክክል ይጻፉ. "

ውጤት፡- በመርህ ላይ የተመሰረተ ተግባራዊ ግምገማ ተጎጂውን የሚለይ እና ፈተና እና ይግባኝ የሚጠቁም ነው።

የተለመዱ ስህተቶች

• ከህግ ተገዢነት ጋር ግራ የሚያጋባ ስነምግባር። ህጋዊ የሆነ ሁሉ ሥነ ምግባር አይደለም; ሥነምግባር ከፍ ያለ መስመር ነው።
• ሥነ ምግባርን እስከመጨረሻው መተው። ንድፍ በጣም ዘግይቷል በኋላ "የሥነምግባር ማረጋገጫ" ማግኘት; ሥነምግባር ከመጀመሪያው ጀምሮ በንድፍ ውስጥ መካተት አለበት.
• ፍትህን አይፈትሽም። "የእኛ ሞዴል ገለልተኛ ነው" የሚለው ግምት አደገኛ ነው; ያለ መለኪያ ሊታወቅ አይችልም.
• ለወጪ ግልጽነት ስህተት። በትክክል የተደረገ ግልጽነት እምነትን እና ዋጋን ይጨምራል።
• የተጎዱትን ጎኖች ጠባብ ማድረግ. ስለ ደንበኛው ብቻ ማሰብ እና ሰራተኛውን, ማህበረሰቡን እና የተቸገሩ ቡድኖችን ችላ ማለት ዓይነ ስውር ቦታን ይፈጥራል.

ጥንቃቄ፡ የስነምግባር ግምገማን ሙሉ ለሙሉ ወደ አርቴፊሻል ኢንተለጀንስ መተው እርስ በርሱ የሚጋጭ እና አደገኛ ነው። AI የስነምግባር ጥያቄዎችን ለማንሳት ሊረዳ ይችላል፣ ነገር ግን የእሴት ፍርድ፣ የባህል አውድ እና የመጨረሻው የሞራል ሃላፊነት በሰው ላይ ነው። የአንድ ድርጅት የሥነ ምግባር አቋም የሚወሰነው በሰዎች የንቃተ ህሊና ምርጫ ነው እንጂ “ኤአይኤ እንዲህ አለ” በሚለው አይደለም።

በማጠቃለያው

ስነምግባር በ"እችላለን" እና "አለብን" መካከል ያለው ልዩነት እና የድርጅቱን የረጅም ጊዜ ታማኝነት የሚጠብቅ ነው። ኃላፊነት ያለው AI; በፍትህ፣ ግልጽነት፣ ተጠያቂነት፣ ግላዊነት፣ የሰዎች ቁጥጥር፣ ደህንነት እና ዘላቂነት መርሆዎች ላይ የተመሰረተ ነው። እነዚህ መርሆዎች ረቂቅ አይደሉም; ወደ ተጨባጭ ውሳኔዎች ማለትም የተጎዱ ወገኖችን መለየት፣ አድሏዊነትን መሞከር፣ ግልጽነት መስጠት እና የሰዎች ቁጥጥርን መጨመርን የመሳሰሉ ወደ ተጨባጩ ውሳኔዎች ይተረጉማል። ስነምግባር ከህግ የተለየ እና ከፍ ያለ መስመር ነው; እስከ መጨረሻው መተው አይቻልም, በንድፍ ውስጥ መካተት አለበት. በሚቀጥለው ክፍል፣ ስለ ተገዢነት እንነጋገራለን፣ እሱም ከሥነ ምግባር ህጋዊ እኩል የሆነ፣ በተለይም የአውሮፓ ህብረት AI ህግ እና KVKK።

የመተግበሪያ ተግባር

ከፍተኛ ተጽዕኖ ያለው AI ጅምር ይምረጡ። በአብነት 2 ሁሉንም የተጎዱ ወገኖችን ይዘርዝሩ እና ቡድኑን ሊጎዱ እንደሚችሉ ምልክት ያድርጉ። በአብነት 1 ለሰባቱ መርሆች ተነሳሽነቱን ይቃኙ። ለሁለቱ በጣም ወሳኝ የስነምግባር ስጋቶች ተጨባጭ መለኪያ (የፍትሃዊነት ሙከራ፣ የግልጽነት ማስታወቂያ፣ የይግባኝ መንገድ፣ ወዘተ) ይግለጹ። በመጨረሻም፣ "ይህን ውሳኔ በጣም አሉታዊ ለተጎዳው ሰው ማስረዳት እችላለሁ?" ጥያቄውን በቅንነት ይመልሱ።

የማረጋገጫ ዝርዝር

• [] ሁሉንም የተጎዱ ወገኖችን ለይቻለሁ።
• [ ] ጅምርን በሰባት ኃላፊነት AI መርሆች አጣራሁት።
• [ ] ለአድሎአዊነት/ፍትሃዊነት ፈተናን አቀድኩ።
• [ ] የግልጽነት መግለጫውን ነድፌአለሁ።
• [ ] ለሰው ቁጥጥር እና ይግባኝ ምንም መንገድ አልተውሁም።
• [ ] ስለ ማጎሳቆል ሁኔታዎች አሰብኩ።
• [ ] "በጣም አሉታዊ ተጽዕኖ ላለው ሰው ማስረዳት እችላለሁ?" ፈተናውን አልፌያለሁ።