ቀውስ፣ ስጋት እና ራስን ማጥፋት፡ የአርቴፊሻል ኢንተለጀንስ ትክክለኛ ድንበር

ትርፍ፡

• ሰው ሰራሽ የማሰብ ችሎታ በችግር ፣ ራስን ማጥፋት እና በራስ/ሌሎች ላይ ጉዳት በሚደርስበት ጊዜ ለምን ውሳኔ ማድረግ እንደማይችል እና ለምን የሰው ጣልቃገብነት ግዴታ እንደሆነ መረዳት።
• AI በስጋት ግምገማ ውስጥ የማስቀመጥ ችሎታ በማስታወሻ/በቼክ መዝገብ ደረጃ፣ ከኤክስፐርት ፍርድ በታች
• የአርቴፊሻል ኢንተለጀንስ ውሱን እና ቁጥጥር ያለው ሚና በአስቸኳይ ፕሮቶኮል, የማዞሪያ መስመሮች እና የደህንነት እቅድ ውስጥ የመወሰን ችሎታ

ይህ ክፍል የሙሉውን ሞጁል በጣም አስፈላጊ የሆነውን ድንበር ይሳሉ። በአእምሮ ጤና ንግድ ውስጥ ስለ ፍጥነት፣ ቀላልነት ወይም ቅልጥፍና ያልሆነባቸው ጊዜያት አሉ። የአንድ ሰው ህይወት እና የአንድ ባለሙያ ሃላፊነት ብቻ ይናገራሉ. እንደ ራስን የመግደል አደጋ፣ ራስን ወይም ሌሎችን መጉዳት፣ አጣዳፊ የስነ ልቦና ችግር፣ የጥቃት ማስፈራራት፣ ልጅ/አላግባብ መጠቀምን ሪፖርት ማድረግ ቀውሶች ናቸው። በነዚህ አፍታዎች፣ አርቴፊሻል ኢንተለጀንስ (AI) ውሳኔዎችን ማድረግ፣ ስጋትን መለካት፣ ጣልቃ መግባት እና ኃላፊነት መውሰድ አይችልም። ይህ "AI ገና በቂ አይደለም" ጉዳይ አይደለም; በተፈጥሮው ቀውስ የሰውን ልጅ የእውነተኛ ጊዜ ግንኙነት፣ ክሊኒካዊ ፍርድ እና ተጠያቂነትን ይጠይቃል። በዚህ ክፍል ውስጥ፣ AI ለምን በችግር ውስጥ እንደሚቆም፣ ለምን ሰዎች አስፈላጊ እንደሆኑ እና AI ምን ያህል ውስን ሚና ሊቆይ እንደሚችል ይማራሉ።

ለምን AI በችግር ጊዜ ውሳኔዎችን ማድረግ አይችልም

የችግር ግምገማ አራት ነገሮችን ይፈልጋል፣ እና ሁለቱም በ AI ውስጥ በቂ አይደሉም።

1. የእውነተኛ ጊዜ ግንኙነት። የአደጋው እውነተኛ ምልክቶች ብዙውን ጊዜ በተነገሩ ቃላት ውስጥ አይደሉም; በድምፅ ቃና፣ በቆመበት፣ በእይታ፣ በአካል ቋንቋ፣ "ያልተነገረ" ተደብቋል። AI አንድ ጽሑፍ ያያል; ሰዎችን አያይም።
2. አጠቃላይ ክሊኒካዊ ምክንያት። ስጋት; እንደ ታሪክ ፣ የመከላከያ ምክንያቶች ፣ ግትርነት ፣ ተደራሽነት (የአሰራር ተደራሽነት) ፣ የድጋፍ ስርዓት ያሉ በደርዘን የሚቆጠሩ ነገሮችን በቀጥታ የሚመዘን ነው። AI ሜካኒካል “የአደጋ ነጥብ” ሊሰጥ ይችላል፣ነገር ግን ያ ነጥብ ሰውን አያድነውም።
3. ኃላፊነት እና ተጠያቂነት. ከቀውሱ ውሳኔ ጀርባ የሚፈርም፣ አስፈላጊ ከሆነም ተጠያቂ የሚሆን እና የተገልጋዩን ህይወት የሚወስድ ሰው መኖር አለበት። AI ሃላፊነትን መሸከም አይችልም.
4. ምላሽ አቅም. በችግር ጊዜ የሚያስፈልጉት ነገሮች (የደህንነት እቅድ ማውጣት, ቤተሰቡን ማካተት, ወደ ድንገተኛ ክፍል በመምራት, ወደ ሆስፒታል በመጥቀስ) ተጨባጭ, በሰው ሰራሽ ድርጊቶች.

ይጠንቀቁ፡ አንድ ደንበኛ የአደጋ ምልክቶች ሲያሳይ AI “አደጋ አለ?” ብለው ይጠይቁ። "መጠየቅ ውሳኔውን ለሌላ ጊዜ ማስተላለፍ እና ከኃላፊነት መራቅ ነው. በችግር ጊዜ ኤክስፐርቱ በቀጥታ እርምጃ ይወስዳል. AI በአሁኑ ጊዜ ምንም የውሳኔ ሚና የለውም. አስፈላጊ ሆኖ ሲገኝ የስልክ መስመሮች እና የሰዎች ድጋፍ ሰንሰለቶች ይንቀሳቀሳሉ.

በችግር ቻትቦቶች ውስጥ የ AI አደጋ

ከቅርብ አመታት ወዲህ “እስኪ ልደግፍህ” የሚሉ AI ቻትቦቶች ተስፋፍተዋል። በችግር ጊዜ ያላቸው አደጋ ከባድ ነው፡ ቦቱ ራስን የማጥፋት መልእክት በተሳሳተ መንገድ ሊረዳው ይችላል፣ ርዕሱን ሊያመልጥ፣ ክሊች ምላሽ ሊሰጥ ወይም (እንደተመዘገቡ ጉዳዮች) ጎጂ በሆነ መንገድ ምላሽ ሊሰጥ ይችላል። አንድ ሰው ሌላኛው ሰው በእውነተኛ አደጋ ውስጥ እንዳለ ተረድቶ እርምጃ ይወስዳል; ቦት ይህንን በአስተማማኝ ሁኔታ ማድረግ አይችልም። ስለዚህ በችግር ውስጥ ያለ ደንበኛን በጭራሽ ወደ ቻትቦት አይውሰዱ።

ተቀባይነት ያለው የተወሰነ የ AI ሚና

AI በችግር ጊዜ ውሳኔዎችን ማድረግ አይችልም; ነገር ግን ከክፍለ-ጊዜው ውጭ፣ ባለሙያው የራሱን/የሷን ስራ በመደገፍ ረገድ ያለው ሚና በጣም ውስን ሊሆን ይችላል።

• አስታዋሽ/የማረጋገጫ ዝርዝር። በአደጋ ግምገማ ውስጥ ኤክስፐርቱ ሊረሳቸው የማይገባቸው ቦታዎችን እንደ ማረጋገጫ ዝርዝር ማዘጋጀት (ባለጉዳይ ሳይሆን ባለሙያው ይጠቀማል)።
• የፕሮቶኮል ረቂቅ. የተቋሙን የቀውስ ፕሮቶኮል ረቂቅ ማዘጋጀት፣የሪፈራል መስመሮች ዝርዝር፣የደህንነት እቅድ አብነት (ከዛም ኤክስፐርቱ/ተቋሙ ያፀድቃል)።
• ስልጠና / ልምምድ. የስፔሻሊስቱን የቀውስ ቃለ መጠይቅ ችሎታ ለማሻሻል ምናባዊ ሁኔታ ልምምድ (እውነተኛ ደንበኛ የለም)።

እነዚህ ሚናዎች አንድ የሚያመሳስላቸው ነገር፡- AI ከእውነተኛ ደንበኛ ጋር በቀጥታ በሚተላለፍ ቀውስ ውስጥ በውሳኔ ሰጪነት ውስጥ ፈጽሞ የለም።

ሁኔታ

የ AI ሚና

ማን ይወስናል

የቀጥታ ቀውስ (ደንበኛ በአደጋ ላይ)

የውሳኔ ሚና የለም።

ኤክስፐርት, በቀጥታ እና ወዲያውኑ

ከክፍለ-ጊዜው ውጪ: የማረጋገጫ ዝርዝር ማዘጋጀት

ረቂቅ አስታዋሽ

ኤክስፐርት ያጸድቃል/ይጠቀማል

የቀውስ ፕሮቶኮል/አብነት መጻፍ

የጽሑፍ ረቂቅ

ኤክስፐርት/ተቋም ያፀድቃል

በችግር ጊዜ ደንበኛው መምራት

የተከለከለ (በፍፁም ቦት ቻት ማድረግ የለበትም)

የሰው ድጋፍ ሰንሰለት

ሶስት ጥቃቅን ጉዳዮች

ጉዳይ 1 - የድንበር ጥበቃ. አንድ ደንበኛ በአንድ ክፍለ ጊዜ ውስጥ "ከእንግዲህ መውሰድ አልችልም, ማቆም እፈልጋለሁ." ኤክስፐርቱ "ይህንን ለ AI እጽፋለሁ እና ስለ ቁምነገርነቱ እጠይቃለሁ" ብሎ ያስባል, ግን ይቆማል. ይልቁንም እሱ በቀጥታ, በእርጋታ እና በቀጥታ ወደ አደጋ ግምገማ ይንቀሳቀሳል: የአስተሳሰብ ድግግሞሽ, እቅድ, ዘዴ, መድረስ, ስለ መከላከያ ምክንያቶች ይናገራል; የደህንነት እቅድ ያወጣል; አስፈላጊዎቹን ድጋፎች ያንቀሳቅሰዋል. ውሳኔ እና ኃላፊነት ከመጀመሪያው እስከ መጨረሻው የሰው ነው; AI በዚህ ቅጽበት መግባቱ ትክክል አይሆንም።

ጉዳይ 2 - የጀልባው እጥረት. አንድ ድርጅት AI chatbot ከሰአት በኋላ ድጋፍ ለማሰማራት እያሰበ ነው። በአብራሪ ሙከራ ውስጥ ቦቱ ራስን ማጥፋትን ለሚጠቁም መልእክት አጠቃላይ “ተጠንቀቅ” የሚል ምላሽ ይሰጣል። አደጋን አይገነዘብም ወይም አይመራም. ኤጀንሲው ቦት ቀውስ አስተማማኝ እንዳልሆነ ይወስናል; ይልቁንም ሰዎችን ወደ እውነተኛ ቀውስ መስመር እና ከሰዓታት ውጪ ለሆኑ ሁኔታዎች በጥሪ ላይ ስፔሻሊስት የሚመራ ግልጽ ስርዓት ይመሰርታል።

ጉዳይ 3 - ትክክለኛ የተገደበ አጠቃቀም። የራሱን የአደጋ ግምገማ ልምምድ ለማጠናከር አንድ ኤክስፐርት AI ን “በአጠቃላይ የራስን ሕይወት ማጥፋት አደጋ ግምገማ ቃለ መጠይቅ ላይ ልጠይቃቸው የሚገቡኝን ቦታዎች ዝርዝር” ጠየቀ። AI ጥሩ የማስታወሻ ዝርዝር ያወጣል; ኤክስፐርቱ እንደ ሴፍቲኔት መረብ በከረጢቱ ውስጥ ያስቀምጣል። እዚህ, AI ደንበኛው ጨርሶ አይነካውም; የልዩ ባለሙያውን ዝግጅት ብቻ ይደግፋል. ይህ ተቀባይነት ያለው ገደብ ነው.

ሊገለበጡ የሚችሉ ጥያቄዎች እና አብነቶች

ማሳሰቢያ፡ ከነዚህ አብነቶች ውስጥ አንዳቸውም ከትክክለኛ ደንበኛ ጋር በቀጥታ ቀውስ ውስጥ መጠቀም የለባቸውም። ሁሉም ከክፍለ-ጊዜው ውጭ, ለስፔሻሊስቱ የራሱ ዝግጅት.

አንድ ባለሙያ በአደጋ ግምገማ (ድግግሞሽ/የአስተሳሰብ ጥንካሬ፣እቅድ፣ ዘዴ መድረስ፣መከላከያ ሁኔታዎች፣ታሪክ፣የድጋፍ ስርዓት)መጠየቅ እንዳይረሳ አጠቃላይ የፍተሻ ዝርዝር ያዘጋጁ። ይህ ዝርዝር የባለሙያው ማሳሰቢያ ብቻ ነው። አደጋ ውሳኔ አልተሰጠም, ለደንበኛው አይሰጥም.

ለድርጅታችን የችግር ማመሳከሪያ ፕሮቶኮል አብነት ይቅረጹ፡ የበራ/የማጥፋት ሰዓት ደረጃዎች፣ ማንን እንደሚደውሉ፣ ወደ ድንገተኛ መስመር ማስተላለፍ፣ ሰነዶች። የእኛ ባለሙያዎች እና ማኔጅመንቶች ይህንን ገምግመው እንደየአካባቢው እውነታ እና ህግ ያጸድቁታል.

ባዶ የሆነ የደህንነት እቅድ አብነት ያዘጋጁ፡ የማስጠንቀቂያ ምልክቶች፣ የመቋቋሚያ ስልቶች፣ ድጋፍ ሰጪ ሰዎች፣ ሙያዊ ግንኙነት፣ አካባቢን ደህንነቱ የተጠበቀ ማድረግ። ስፔሻሊስቱ ይዘቱን ከደንበኛው ጋር ፊት ለፊት ይሞላል; ባዶውን አብነት ብቻ ነው የሚሰጡት።

የቀውስ ቃለ መጠይቅ ችሎታዬን ለማሻሻል ምናባዊ የመለማመጃ ሁኔታ (እውነተኛ ደንበኛ የለም) አዘጋጅ። በኤክስፐርት ሚናዬ ልመልስ፣ ከዚያም በአቀራረቤ ላይ ገንቢ አስተያየት ስጠኝ። ይህ የስልጠና ልምምድ እንጂ እውነተኛ ጉዳይ አይደለም።

ደካማ ጥያቄ / ጠንካራ ጥያቄ

ደካማ ጥያቄ፡ "ይህ ደንበኛ እንዲህ አለ፡- [ሀረጎች]። ከፍተኛ ራስን የመግደል አደጋ አለ፣ ምን ማድረግ አለብኝ?"

ይህ አፋጣኝ የቀውሱን ውሳኔ ወደ AI ያስተላልፋል; AI አደጋን መለካት አይችልም, ሃላፊነት መውሰድ አይችልም, እና ይህ ቅጽበት የሰው ልጅ የእውነተኛ ጊዜ ጣልቃገብነት ይጠይቃል. ይህ አጠቃቀም አደገኛ ነው።

ጠንካራ አፋጣኝ: "እኔ ከክፍለ ጊዜ ውጪ ነኝ, ምንም እውነተኛ ደንበኛ የለም. የአደጋ ግምገማ ክህሎቶቼን ለማጣራት, ራስን በራስ የማጥፋት አደጋ ቃለ መጠይቅ ላይ መሸፈን የሌለብኝን ቦታዎች ለማስታወስ ዝርዝር ይጻፉ. ውሳኔ እና ጣልቃገብነት በእውነተኛው ሁኔታ ውስጥ የእኔ ኃላፊነት ይሆናል. "

ይህ ጥያቄ AI የሚጠቀመው ከክፍለ-ጊዜ ውጭ የዝግጅት መሣሪያ ብቻ ነው; ቀውስ ውሳኔውን ለሰውየው ይተዋል.

የተለመዱ ስህተቶች

• ለችግር ውሳኔ AI በመጠየቅ. "አደጋ አለ?" AI ማማከር; ውሳኔውን እና ሃላፊነትን ማጣት ነው.
• በችግር ውስጥ ያለን ደንበኛ ወደ ቦት መምራት። ቻትቦት አደጋን በአስተማማኝ ሁኔታ መቆጣጠር እንደማይችል መርሳት።
• የአደጋ ነጥቡን በትክክል በመሳሳት ላይ። ለክሊኒካዊ ግምገማ ከ AI የሜካኒካል "የአደጋ ደረጃ" ውጤትን በመተካት.
• የዝግጅት መሳሪያውን ወደ ቀጥታ አጠቃቀም መውሰድ። ከኤአይአይ ጋር በመመካከር በቀጥታ ቀውስ ውስጥ ከክፍለ-ጊዜ ውጭ የማረጋገጫ ዝርዝርን መጠቀም።
• የሰው ድጋፍ ሰንሰለት አለመመስረት። በድርጅቱ ውስጥ ከሰዓታት በኋላ ከእውነተኛ ኤክስፐርት / የችግር መስመር ስርዓት ይልቅ በ AI ላይ መተማመን.

በማጠቃለያው

የችግር አደጋ ፣ ራስን ማጥፋት እና ጉዳት የሞጁሉ ግልፅ ገደብ ነው-በእነዚህ ጊዜያት AI ውሳኔዎችን ማድረግ ፣ ስጋትን መለካት ፣ ጣልቃ መግባት እና ሃላፊነት መውሰድ አይችልም። ምክንያቱም ቀውስ የእውነተኛ ጊዜ ተሳትፎን፣ አጠቃላይ ክሊኒካዊ ፍርድን፣ ተጠያቂነትን እና የሰውን ጣልቃገብነት ይጠይቃል። ለ AI ብቸኛው ተቀባይነት ያለው ሚና እንደ ማረጋገጫ ዝርዝር ፣ ፕሮቶኮል / አብነት ረቂቅ እና የስልጠና ልምምድ ከክፍለ-ጊዜው ውጭ ፣ የባለሙያውን ዝግጅት መደገፍ ነው። በችግር ውስጥ ያለ ደንበኛን በፍፁም ወደ ቻትቦት አትምራ። የሰው ድጋፍ ሰንሰለት እና የስልክ መስመር ነቅተዋል።

የመተግበሪያ ተግባር

ለራስህ ልምምድ ወይም ድርጅት የችግር ማዘዋወር ፍሰት ይሳቡ፡ ደንበኛው አደጋን ሲያሳይ ደረጃ በደረጃ ምን ይሆናል፣ ማን ይባላል፣ ምን ዓይነት መስመሮች ይጠቀሳሉ? በማንኛውም የዚህ ፍሰት ደረጃ AI ውሳኔ ሰጪ አለመሆኑን ያረጋግጡ። እንዲሁም ከክፍለ-ጊዜ ውጭ የሆነ የአደጋ ግምገማ ዝርዝርን ከ AI አውጡ እና ለምን አስታዋሽዎ ብቻ እንደሆነ እና ለደንበኛው ሊሰጥ እንደማይችል በአንድ ዓረፍተ ነገር ይፃፉ።

የማረጋገጫ ዝርዝር

• [] በቀጥታ ቀውስ ውስጥ ለ AI ምንም የውሳኔ ሚና አልሰጠሁም።
• [ ] እኔ ራሴ በቀጥታ የቀውሱን ግምገማ እና ምላሽ ሰጥቻለሁ።
• [ ] በችግር ላይ ያለን ደንበኛ ወደ ቻትቦት አልመራሁትም።
• [] AI የተጠቀምኩት ከክፍለ-ጊዜ ውጭ ዝግጅት (የማረጋገጫ ዝርዝር/ፕሮቶኮል/ልምምድ) ብቻ ነው።
• [ ] የኮርፖሬት የሰው ድጋፍ ሰንሰለት እና የስልክ መስመሮችን ገለጽኩ።
• [ ] የቀውሱ ውሳኔ እና ኃላፊነት በሰውየው ላይ እንደሆነ በውስጥ መስመር ገብቻለሁ።