ሙያዊ ጥርጣሬ እና አርቲፊሻል ኢንተለጀንስ፡ የማረጋገጫ አድሎአዊነት፣ ቅዠት እና ወሳኝ ጥያቄ

ትርፍ፡

• ሰው ሰራሽ የማሰብ ችሎታን ሲጠቀሙ የባለሙያ ጥርጣሬ ምን እንደሆነ እና ወደ ማረጋገጫ አድልዎ እና አውቶሜሽን አድልዎ ውስጥ የመውደቅ አደጋዎችን ይረዱ
• ለማስተባበል በሚሞክር የጥያቄ ዘዴ የሰው ሰራሽ የማሰብ ችሎታን የመሞከር ችሎታ (ተቃራኒውን ይፈልጉ)
• የአርቴፊሻል ኢንተለጀንስ ቅልጥፍና ትክክለኛነት ማለት እንዳልሆነ መረዳት መቻል፣ ተጠራጣሪ አእምሮ የቁጥጥር ዋና አካል እንደሆነ እና ሊተላለፍ የማይችል መሆኑን ነው።

ራሱን የቻለ ኦዲት ከብዙ ሌሎች ሙያዎች የሚለይ አንድ የአዕምሮ አመለካከት አለ፡ ሙያዊ ጥርጣሬ። አይኤስኤዎች ይህንን እንደ ኦዲተር የሚገልጹት “በጠያቂ አእምሮ፣ ማስረጃው የተዛባ አስተያየትን የሚያመለክት መሆኑን በማሳየት እና ማስረጃውን በጥልቀት እየገመገመ ነው። ማለትም ኦዲተሩ ለእሱ የቀረበለትን ማንኛውንም መረጃ ወዲያውኑ አይቀበልም - የአስተዳደር መግለጫ አይደለም ፣ ሰነድ አይደለም ፣ ሌላው ቀርቶ “ምክንያታዊ የሚመስለውን ሂሳብ እንኳን” እውነት ነው ። ያለማቋረጥ "በእርግጥ እንደዚህ ነው?" ብሎ ይጠይቃል። ይህ አመለካከት የቁጥጥር ዋና አካል ነው እናም የማይጠፋ ነው.

በአርቴፊሻል ኢንተለጀንስ ዘመን፣ ይህ ኮር አዲስ ፈተና ይገጥመዋል። ምክንያቱም AI ሁለት ስር የሰደዱ የሰው አእምሮ ድክመቶችን በማነሳሳት የተካነ ነው - አውቶሜሽን አድልዎ እና የማረጋገጫ አድሏዊ። በዚህ ክፍል፣ AIን የሚጠቀም ኦዲተር እንዴት ጥርጣሬውን እንደሚጠብቅ ወይም እንደሚያጠናክር እንገልፃለን። ዋናው ተሲስ የ AI ቅልጥፍና ትክክለኛነት አይደለም; ተጠራጣሪው አእምሮ በ AI ፊት ለፊት የበለጠ አስፈላጊ ይሆናል.

ሁለት አደገኛ አመለካከቶች

አውቶሜሽን አድልዎ ሰዎች የማሽን/ሶፍትዌርን ውጤት ከራሳቸው ፍርድ በላይ የመተማመን ዝንባሌ ነው። "ኮምፒዩተሩ አስልቶታል, ትክክል ነው." ወደ AI ሲመጣ ይህ አደጋ ተባብሷል, ምክንያቱም AI ብቻ አይሰላም; አቀላጥፎ፣ በራስ መተማመን፣ ሰው መሰል፣ ምክንያታዊ የሆኑ ዓረፍተ ነገሮችን ይናገራል። መረጃው ትክክል ባይሆንም በራስ የመተማመን ድምጽ አሳማኝ ነው።

የማረጋገጫ ወገንተኝነት ሰዎች ቀደም ብለው ያመኑትን ወይም ተስፋ ያደረጉትን መደምደሚያ የሚደግፍ መረጃ የመፈለግ እና እርስ በርሱ የሚጋጭ መረጃን ችላ የማለት ዝንባሌ ነው። ይህ በኦዲት ላይ ለሞት የሚዳርግ ነው፡ "ይህ ደንበኛ ንጹህ መሆን አለበት" ብሎ የሚያስብ ኦዲተር AI ሲጠይቅ እፎይታ ያገኛል እና ማረጋገጫ ሲያገኝ በተቃራኒው ማስረጃ መፈለግ ያቆማል። ምክንያቱም AI ወደ ተጠየቀው ጥያቄ ዘንበል ማለት ስለሚፈልግ (“ደህና ነው፣ ትክክል?” ብለው ከጠየቁ ከእርስዎ ጋር የሚስማማ መልስ የመስጠት ዕድሉ ከፍተኛ ነው) የማረጋገጫ አድሎአዊነትን ሊያሳድግ ይችላል።

ሦስተኛው ደግሞ አለ: ቅዠት. በሞጁሉ ውስጥ ብዙ ጊዜ አይተናል - AI ቁጥርን ፣ ንጥል ነገርን ፣ የሌለውን ሀብት አቀላጥፎ መሥራት ይችላል። ሶስት ድክመቶች ሲጣመሩ አደጋው ይጨመራል፡- AI ነገሮችን ይፈጥራል (ቅዠት)፣ ፈሳሽ ስለሆነ እናምናለን (አውቶማቲክ አድልዎ)፣ የምትጠብቀውን ስለሚነግርህ አትጠይቀውም (የማረጋገጫ አድሏዊነት)።

ተጠራጣሪው አእምሮ በ AI ላይ ሶስት መሳሪያዎች

በ AI ላይ ጥርጣሬን በተጨባጭ ቴክኒኮች ላይ እናስቀምጥ፡-

1. ለማረጋገጥ ሳይሆን ለማስተባበል ሞክር። አንድ AI ውጤቱን “እውነት ነው?” ብሎ ሊጠይቅ ይችላል። አይደለም "ይህ ስህተት መሆኑን እንዴት አውቃለሁ?" ጥያቄ. ራስህን ጠይቅ፡- “ይህ አባባል ውሸት ከሆነ ምን ማስረጃ ነው የሚያሳየው?” እና ያንን ማስረጃ ይፈልጉ. አንድ ነጠላ ማረጋገጫ ምሳሌ ማግኘት ቀላል ነው; ለማስተባበል መሞከር እና አለመሳካት እውነተኛ ማረጋገጫ ይሰጣል.
2. በገለልተኝነት እና ወደኋላ ጠይቁ. AI ን ይጠይቁ "እዚህ ምንም ችግር የለም, አይደል?" አትጠይቅ; ይህ ተቀባይነት ያለው ምላሽ ይጋብዛል። ይልቁንስ "በዚህ ውሂብ ውስጥ ያመለጡኝ ምን አደጋዎች አሉ?" እና "ይህ ውጤት ስህተት ሊሆን የሚችልባቸው ሦስቱ በጣም ሊሆኑ የሚችሉ ሁኔታዎች የትኞቹ ናቸው?" ብለው ይጠይቁ። ተመሳሳይ ጥያቄ ከሁለት ተቃራኒ ወገኖች ጠይቅ እና መልሶቹን አወዳድር።
3. ወደ ምንጭ ያውርዱ እና እንደገና ይድገሙት። ለእያንዳንዱ እትም፣ መለያ እና መደምደሚያ፣ “ይህን በገለልተኝነት የት አረጋግጣለሁ?” ጥያቄውን ይጠይቁ እና በትክክል ያረጋግጡ። የ AI ውጤቱን እንደ ማረጋገጫ ይመልከቱ; ማስረጃው ለጥያቄው ውጫዊ ነው።

ጠቃሚ ምክር፡ ልምዱ፡- AI ከሚሰጠው እያንዳንዱ ጠቃሚ ውጤት ቀጥሎ ሁለት ነገሮችን በእጅ ይፃፉ - “(1) ይህን በምን አረጋገጥኩ፣ (2) ውሸት ከሆነ በምን ማስረጃ እንደሚያሳየው። እነዚህ ሁለት ማስታወሻዎች ሁለቱንም አውቶማቲክ እና የማረጋገጫ አድልዎ ይሰብራሉ።

ኦዲተሩ ውክልና የማይሰጥባቸው ፍርዶች

አንዳንድ ስራዎች በተፈጥሯቸው ጥርጣሬ እና ፍርድ ይጠይቃሉ; እነዚህ ወደ AI ውክልና ሊሰጡ አይችሉም፣ የሚደገፉ ብቻ፡-

የማይሻር ስልጣን

ለምን?

ማስረጃው በቂ እና ተገቢ ስለመሆኑ

የባለሙያ ፍርድ; አውድ ጥገኛ

የማብራሪያ አሳማኝነት

የድርጅት እና ዓላማ ግምት ውስጥ መግባት አለበት።

የማጭበርበር አደጋ ግምገማ

ጥርጣሬ እና ውስጣዊ ስሜት; ከውሂብ ጥለት በላይ

የቁሳቁስ እና የአመለካከት ውሳኔ

ለሕዝብ ኃላፊነት ያለው የፍትህ አካል

ስለ አስተዳደር ታማኝነት አስተያየት

የሰዎች ባህሪ ማንበብ; AI ይህን ማድረግ አይችልም።

በጥርጣሬ እና በእግረኞች መካከል ያለው ልዩነት: የሚለካ አመለካከት

ሙያዊ ጥርጣሬ ማለት ሁሉንም ነገር አለማመን ወይም አስተዳደርን አስቀድሞ መወንጀል ማለት አይደለም። ይህ ከመጠን በላይ መድረስ እና መቆጣጠሪያው ውጤታማ እንዳይሆን ያደርገዋል። ጥርጣሬ ንጹህ እምነት (የተነገረውን ሁሉ መቀበል) ወይም በጭፍን መካድ (ሁሉንም አለመቀበል) አይደለም; በመካከል፣ ከማስረጃው ጋር ተመጣጣኝ የሆነ የመጠየቅ አመለካከት ነው። ኦዲተሩ ማኔጅመንቱን በታማኝነት ሊቀበል ይችላል፣ነገር ግን ይህንን ተቀባይነት በማስረጃ ይፈትነዋል። ማብራሪያ አሳማኝ ሆኖ ሊያገኘው ይችላል፣ ግን አሳማኝነትን ያረጋግጣል። AI ይህንን ሚዛን ሊያዛባው ይችላል-በአንድ አቅጣጫ ፣ በፈሳሽ ውፅዓት ከመጠን በላይ በራስ የመተማመን ስሜትን ያነሳሳል። በሌላ በኩል "በሁሉም ነገር ላይ ስህተት ፈልግ" ከነገርከው ማለቂያ በሌለው የውሸት አወንታዊ ውሸቶች ያሸብብብሃል። ትክክለኛው አመለካከት ሁልጊዜ ማስረጃዎችን ለማቅረብ እና ማስረጃዎችን ለመቃወም AI እየሮጡ ውጤቱን ከማስረጃው ክብደት ጋር ማመዛዘን ነው. ተጠራጣሪነት የግለሰባዊ ባህሪ አይደለም, ነገር ግን በሥርዓት የተሞላ የስራ መንገድ; እና ይህን ዲሲፕሊን ያቋቋመው፣ የሚጠብቀው እና የሚያረጋግጠው ኦዲተሩ እንጂ AI አይደለም።

ሶስት ጥቃቅን ጉዳዮች

ጉዳይ 1 - የማስመለስ ዘዴው ይሠራል. አንድ ኦዲተር “ይህ የአክሲዮን ዋጋ ምክንያታዊ ይመስላል” ሲል AI ን አሳትሟል። ከማረጋገጥ ይልቅ፣ “ይህ ግምት ከተጋነነ ምን ማስረጃ ያሳያል?” ሲል መለስ ብሎ ጠየቀ። "ከሽያጭ በኋላ የሚሸጡት ዋጋ ከወጪ በታች የሚወድቁባቸው እቃዎች" ሲል YZ ተናግሯል። ኦዲተሩ እነዚህን ዕቃዎች ፈልጎ ፈልጎ ያገኘ ሲሆን በእውነቱ ዝቅተኛ ዋጋ ያለው ቡድን አግኝቷል። የማስተባበያ ጥያቄው ማረጋገጫው የደበቀውን አደጋ አጋልጧል።

ጉዳይ 2 - በማረጋገጫ አድልዎ ውስጥ መውደቅ። አንድ የቡድን አባል በችግር ጊዜ AIን ጠየቀ፣ “በዚህ መለያ ላይ ምንም ትልቅ ስህተት የለም፣ አይደል?” ብሎ ጠየቀ። YZ በጥያቄው ላይ ተደግፎ "በሰጡት መረጃ መሰረት ምንም አይነት ችግር ያለ አይመስልም" አለ። የቡድኑ አባል ዘና ብሎ ብዕሩን ሸፈነ። ቢሆንም, እሱ ምንም ማስረጃ አላቀረበም ነበር; AI አረፍተ ነገሩን ብቻ አንጸባርቋል። ተጠያቂው ሰው ጥያቄው በገለልተኛነት ያልተጠየቀ መሆኑን አሳይቷል. ትምህርት: ጥያቄውን እንዴት እንደሚጠይቁ ያገኙትን መልስ ይወስናል; ማረጋገጫ የሚፈልግ ጥያቄ ማረጋገጫ ያስገኛል.

ጉዳይ 3 - ለቅልጥፍና መውደቅ. አንድ ኦዲተር YZ በጣም አቀላጥፎ እና ምክንያታዊ በሆነ አንቀፅ ያብራራው የሕግ ትርጉም ትክክል ነው ብሎ በማሰብ በሥራ ወረቀቱ ውስጥ ተካቷል። ጽሑፉ የተስተካከለ ስለነበር ለመጠየቅ አልደረሰበትም። ተጠያቂው ሰው ማመሳከሪያው በኦፊሴላዊው ጽሑፍ ውስጥ ምንም አቻ እንደሌለው አሳይቷል። ትምህርት: ቅልጥፍና እና በራስ መተማመን ለትክክለኛነት ማረጋገጫ አይደሉም; በጣም አሳማኝ የሚመስለው ውጤቱ በጣም አደገኛ ሊሆን ይችላል.

ደካማ ጥያቄ / ጠንካራ ጥያቄ

ደካማ ጥያቄ፡

ይህ ትንታኔ ትክክል ነው, አይደል? ትጸድቃለህ?

ችግሩ፡- ማረጋገጫ የሚፈልግ አድሏዊ ጥያቄ። AI እርስዎን እንዲቀላቀል ይገፋፋዋል; የማረጋገጫ አድሏዊነትን ያበረታታል እና እውነተኛ ስጋትን ይደብቃል።

ኃይለኛ ጥያቄ፡-

የእርስዎ ሚና፡ እርስዎ ገለልተኛ የኦዲተር ወሳኝ ጥያቄ አጋር ነዎት። የእርስዎ ተግባር ከእኔ ጋር መስማማት ሳይሆን ውጤቴን ለመቃወም መሞከር ነው። አውድ፡ የትንታኔ ሂደት መደምደሚያዬ እና ግምታዊ መደምደሚያዬ ከዚህ በታች አለሁ። ተጨባጭ፣ ሊፈለጉ የሚችሉ ማስረጃዎችን ጠቁም። 3) ያመለጡኝን ማንኛውንም መረጃዎች ወይም ግምቶች ምልክት ያድርጉ። 4) ከእኔ ጋር የሚስማሙ ዓረፍተ ነገሮችን አታድርጉ; ደካማ ነጥቦችን የማግኘት ኃላፊነት ተሰጥቷቸዋል. እርግጠኛ ባልሆኑበት "ያልታወቀ" ምልክት ያድርጉ።

ይህ ጥያቄ ኃይለኛ ነው ምክንያቱም የ AI (የመቃወም) ሚናን ስለሚቀይር፣ የማስመለስ ሁኔታዎችን እና ሊፈለጉ የሚችሉ ማስረጃዎችን ስለሚፈልግ እና የማረጋገጫ ፈላጊ ቋንቋን ስለሚከለክል ነው። ይህ AI የማረጋገጫ አድሏዊ መሳሪያ ሳይሆን በጥርጣሬ አገልግሎት ውስጥ ያደርገዋል።

የተለመዱ ስህተቶች

• ፈቃድ የሚሹ ጥያቄዎችን በመጠየቅ ላይ። "ደህና ነው አይደል?" በመጠየቅ እና የተስማማውን መልስ በማረጋገጥ.
• ለትክክለኛነት የተሳሳተ ቅልጥፍና. በደንብ የተጻፈ፣ በራስ የመተማመን ውጤት ያለጥያቄ መቀበል።
• በአንድ የማረጋገጫ ምሳሌ ይርካ። ለማስተባበል ሳይሞክር ከመጀመሪያው ደጋፊ ግኝት ጋር መዝጋት።
• የማይሻር ስልጣንን በውክልና ለመስጠት። የማስረጃ በቂነት፣ ምክንያታዊነት፣ አስተያየት ውሳኔን ለ AI መተው።
• በጊዜ ግፊት ጥርጣሬን መተው. በተጣበቀ ጊዜ በ AI አጽናኝ መልስ መጠጊያ።

ጥንቃቄ: የጊዜ ግፊት የጥርጣሬ ትልቁ ጠላት ነው, እና AI በዚህ ግፊት በጣም አደገኛ ይሆናል; ምክንያቱም ፈጣን፣ አቀላጥፎ እና የሚያጽናና መልስ ይሰጥዎታል። በሚጣደፉበት ጊዜ የማስመለስ ጥያቄን መጠየቅ ግዴታ ያድርጉት።

በማጠቃለያው

የባለሙያ ጥርጣሬ የኦዲት ዋና ነገር ነው እና በ AI ዕድሜ ውስጥ የበለጠ ወሳኝ ይሆናል። AI ሶስት ድክመቶችን ያስነሳል፡ ቅዠት (ያስተካክላል)፣ አውቶሜሽን አድልዎ (ፈሳሽ ስለሆነ እናምናለን)፣ የማረጋገጫ አድልኦ (የምንጠብቀውን ስለሚናገር አንጠይቅም)። መድኃኒቱ AIን ለማስተባበል መቸኮል እንጂ ማረጋገጥ አይደለም፡ “ይህ ውሸት ከሆነ ምን ማስረጃ ያሳያል?” እና ተቃራኒ ማስረጃዎችን መፈለግ ፣ በእውነተኛ እና ወደ ኋላ በመጠየቅ ፣ እያንዳንዱን ምርት ከምንጩ በማባዛት። እንደ የማስረጃ በቂነት፣ ምክንያታዊነት፣ የማጭበርበር አደጋ እና የአመለካከት ፍርድ ያሉ ፍርዶች ጥርጣሬን ይጠይቃሉ እና ሊተላለፉ አይችሉም። ቅልጥፍና ትክክለኛነት አይደለም; ተጠራጣሪው አእምሮ ያንተ ነው።

የመተግበሪያ ተግባር

የእርስዎን የኦዲት ውጤት (ወይም ግምታዊ ውጤት) ያግኙ። በመጀመሪያ AI ን በ"ማረጋገጫ ፈላጊ" ደካማ ጥያቄ፣ በመቀጠልም ከላይ ባለው የ"ማስተባበያ" ጠንከር ያለ አፋጣኝ ንድፍ ይጠይቁ። ሁለቱን ውጤቶች ጎን ለጎን አስቀምጣቸው እና ልዩነቱን ይፃፉ-በማስተባበያ ጥያቄ ብቻ የትኞቹ አደጋዎች ተገለጡ? ከዚያ በውጤትዎ ውስጥ ከእያንዳንዱ ቁልፍ የይገባኛል ጥያቄ ቀጥሎ ሁለት ማስታወሻዎችን ያክሉ፡ "በምን አረጋገጥኩ" እና "ውሸት ከሆነ በምን ማስረጃ ያሳያል"።

የማረጋገጫ ዝርዝር

• [ ] የ AI ማስተባበያ/ገለልተኛ ጥያቄዎችን ጠየቅሁ እንጂ የማረጋገጫ ፈላጊ ጥያቄዎችን አይደለም።
• [ ] ለእያንዳንዱ ጉልህ ውጤት፣ "ይህ ውሸት ከሆነ ምን ማስረጃ ያሳያል?" ጥያቄውን ጠየኩና ማስረጃ ፈለግሁ።
• [ ] ለስላሳ እና በራስ መተማመን የሚመስለውን ውጤቱን በጥርጣሬ ሞከርኩት።
• [ ] በአንድ የማረጋገጫ ምሳሌ አላቆምኩም; ለማስተባበል ሞከርኩ ግን አልተሳካልኝም።
• [ ] እንደ ማስረጃ በቂነት፣ ምክንያታዊነት እና አስተያየት ያሉ የራሴን ፍርዶች ወስኛለሁ።
• [ ] በጊዜ ግፊትም ቢሆን፣ የማስተባበያ ጥያቄውን አልዘለልኩም።
• [ ] ከአስፈላጊ የይገባኛል ጥያቄዎች ቀጥሎ፣ "በምን ያረጋገጥኩት / ስህተት ከሆነ ምን ያሳያል" የሚል ማስታወሻ አደረግሁ።