المكاسب:
- فهم لماذا لا يستطيع الذكاء الاصطناعي اتخاذ قرارات في ظل خطر الأزمات والانتحار وإيذاء النفس/الآخرين ولماذا التدخل البشري إلزامي.
- القدرة على وضع الذكاء الاصطناعي في تقييم المخاطر فقط على مستوى التذكير/قائمة المراجعة، دون حكم الخبراء
- القدرة على تحديد الدور المحدود والمسيطر عليه للذكاء الاصطناعي في بروتوكول الطوارئ وخطوط التوجيه والخطة الأمنية
ترسم هذه الوحدة الحدود الأكثر أهمية للوحدة بأكملها. هناك لحظات في مجال الصحة العقلية حيث لا يتعلق الأمر بالسرعة أو السهولة أو الكفاءة؛ فقط حياة رجل واحد ومسؤولية خبير واحد تتحدث. تعتبر المواقف مثل خطر الانتحار، أو إيذاء النفس أو الآخرين، أو الذهان الحاد، أو التهديد بالعنف، أو الإبلاغ عن الأطفال/الإساءة، بمثابة أزمات. في هذه اللحظات، لا يستطيع الذكاء الاصطناعي اتخاذ القرارات وقياس المخاطر والتدخل وتحمل المسؤولية. هذه ليست مسألة "الذكاء الاصطناعي ليس جيدًا بما فيه الكفاية بعد"؛ تتطلب الأزمات بطبيعتها التواصل البشري في الوقت الحقيقي، والحكم السريري، والمساءلة. في هذه الوحدة، ستتعرف على سبب توقف الذكاء الاصطناعي في الأزمات، ولماذا يعتبر البشر ضروريين، وما هو الدور المحدود الذي يمكن أن يبقى فيه الذكاء الاصطناعي في معظم الأحيان.
لماذا لا يستطيع الذكاء الاصطناعي اتخاذ القرارات في الأزمات؟
يتطلب تقييم الأزمات أربعة أشياء، ولا يكفي أي منها في الذكاء الاصطناعي:
- العلاقة في الوقت الحقيقي. العلامات الحقيقية للخطر في كثير من الأحيان لا تكمن في الكلمات المنطوقة؛ إنه مخفي في نبرة الصوت، والوقفة، والنظرة، ولغة الجسد، و"غير المذكور". يرى الذكاء الاصطناعي النص؛ لا يرى الناس.
- المنطق السريري الشامل. مخاطرة؛ إنه وزن مباشر لعشرات العوامل مثل التاريخ، وعوامل الحماية، والاندفاع، والوصول (الوصول إلى الطريقة)، ونظام الدعم. قد يعطي الذكاء الاصطناعي "درجة مخاطرة" ميكانيكية، لكن هذه النتيجة لن تنقذ الإنسان.
- المسؤولية والمساءلة. يجب أن يكون هناك من يقف خلف قرار الأزمة، ويحاسب إذا لزم الأمر، ويأخذ على عاتقه حياة العميل. الذكاء الاصطناعي لا يستطيع تحمل المسؤولية.
- القدرة على الاستجابة. إن ما نحتاجه في الأزمات (وضع خطة للسلامة، وإشراك الأسرة، والتوجيه إلى غرفة الطوارئ، والإحالة إلى المستشفى) هو إجراءات ملموسة من صنع الإنسان.
تنبيه: عندما تظهر على العميل علامات الخطر، اسأل الذكاء الاصطناعي "هل هناك خطر؟" "السؤال هو تأجيل القرار والتهرب من المسؤولية. في الأزمات، يتدخل الخبير بشكل مباشر. ليس للذكاء الاصطناعي دور في اتخاذ القرار في هذه اللحظة. يتم تفعيل الخطوط الساخنة وسلاسل الدعم البشري عند الضرورة.
خطر الذكاء الاصطناعي في روبوتات الدردشة في الأزمات
في السنوات الأخيرة، انتشرت برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي والتي تقول "دعني أدعمك" على نطاق واسع. إن خطرهم في الأزمات كبير: فقد يسيء الروبوت فهم رسالة انتحارية، أو يتهرب من الموضوع، أو يقدم استجابة مبتذلة، أو (كما هو موثق) يستجيب بطريقة ضارة. يشعر الشخص أن الشخص الآخر في خطر حقيقي ويتخذ الإجراءات اللازمة؛ لا يستطيع الروبوت القيام بذلك بشكل موثوق. لذلك لا تقم أبدًا بإحالة العميل الذي يواجه أزمة إلى برنامج الدردشة الآلي.
الدور المحدود المقبول للذكاء الاصطناعي
لا يستطيع الذكاء الاصطناعي اتخاذ القرارات أثناء الأزمات؛ ولكن خارج الجلسة، قد يكون للمتخصص دور محدود للغاية في دعم عمله:
- تذكير/قائمة مرجعية. إعداد قائمة مرجعية بالمجالات التي يجب ألا ينسى الخبير السؤال عنها في تقييم المخاطر (يستخدمها الخبير وليس العميل).
- مشروع البروتوكول. إعداد مسودة بروتوكول الأزمات للمؤسسة، قائمة خطوط الإحالة، نموذج الخطة الأمنية (ثم يعتمدها الخبير/المؤسسة).
- التدريب/التمرين. بروفة السيناريو الخيالي (لا يوجد عميل حقيقي) لتحسين مهارات إجراء المقابلات في الأزمات لدى الأخصائي.
القاسم المشترك بين هذه الأدوار: الذكاء الاصطناعي لا يكون أبدًا في موقع اتخاذ القرار في أزمة حية مع عميل حقيقي.
الوضع
دور الذكاء الاصطناعي
من يقرر
أزمة حية (العميل في خطر)
لا يوجد دور القرار
خبير، بشكل مباشر وفوري
خارج الجلسة: إعداد قائمة مرجعية
مسودة تذكير
الخبير يوافق/يستخدم
بروتوكول الأزمة / كتابة القالب
مسودة النص
يوافق الخبير/المؤسسة
إرشاد العميل في الأزمات
ممنوع (أبداً الدردشة بوت)
سلسلة الدعم البشري
ثلاث حالات صغيرة
الحالة 1 – حماية الحدود. يقول أحد العملاء في الجلسة: "لا أستطيع تحمل الأمر بعد الآن، أريد إنهاء الأمر". يعتقد الخبير: "سأكتب هذا إلى الذكاء الاصطناعي وأطلب منه أن يسأل عن جديته"، لكنه توقف. وبدلًا من ذلك، ينتقل بشكل مباشر وهادئ ومباشر إلى تقييم المخاطر: تكرار الفكر، والخطة، والطريقة، والوصول، والحديث عن عوامل الحماية؛ يضع خطة أمنية؛ ينشط الدعم اللازم. القرار والمسؤولية تعود للإنسان من البداية إلى النهاية؛ لن يكون من المناسب للذكاء الاصطناعي أن يدخل هذه اللحظة على الإطلاق.
الحالة الثانية - قصور القارب. تدرس إحدى المؤسسات نشر روبوت محادثة يعمل بالذكاء الاصطناعي للحصول على الدعم بعد ساعات العمل. في الاختبار التجريبي، يستجيب الروبوت باستجابة عامة "اعتني" برسالة تقترح الانتحار؛ فهو لا يعترف بالمخاطر ولا يوجهها. قررت الوكالة أن الروبوت ليس آمنًا في الأزمات؛ وبدلاً من ذلك، فهو ينشئ نظامًا واضحًا يوجه الأشخاص إلى خط أزمات حقيقي ومتخصص تحت الطلب للمواقف خارج ساعات العمل.
الحالة 3 - الاستخدام المحدود الصحيح. ولتعزيز ممارساته الخاصة في تقييم المخاطر، طلب أحد الخبراء من الذكاء الاصطناعي "قائمة مرجعية بالمجالات التي يجب أن أتذكر السؤال عنها في مقابلة شاملة لتقييم مخاطر الانتحار". يُنتج الذكاء الاصطناعي قائمة تذكير جيدة؛ يحتفظ بها الخبير في حقيبته كشبكة أمان. هنا، الذكاء الاصطناعي لا يمس العميل على الإطلاق؛ إنه يدعم فقط إعداد المتخصص. وهذا هو الحد المقبول.
المطالبات والقوالب القابلة للنسخ
ملاحظة: لا ينبغي استخدام أي من هذه القوالب في أزمة مباشرة مع عميل فعلي. كل ذلك خارج الجلسة، من أجل إعداد الأخصائي نفسه.
قم بإعداد قائمة مرجعية عامة حتى لا ينسى المحترف أن يسأل في تقييم المخاطر (تكرار/كثافة التفكير، الخطة، الوصول إلى الطريقة، عوامل الحماية، التاريخ، نظام الدعم). هذه القائمة هي مجرد تذكير للخبير نفسه؛ لا يتم إعطاء قرار المخاطر، ولا يتم منحه للعميل.
قم بصياغة قالب البروتوكول المرجعي للأزمات لمنظمتنا: خطوات ساعات التشغيل/الإيقاف، ومن يجب الاتصال به، والإحالة إلى خطوط الطوارئ، والتوثيق. سيقوم خبراؤنا وإدارتنا بمراجعة هذا الأمر والموافقة عليه وفقًا للواقع والتشريعات المحلية.
قم بإعداد مسودة فارغة لنموذج خطة السلامة: علامات التحذير، واستراتيجيات التكيف، ودعم الأشخاص، والتواصل المهني، وجعل البيئة آمنة. سيقوم المتخصص بملء المحتوى وجهاً لوجه مع العميل؛ أنت فقط تعطي القالب الفارغ.
قم بإعداد سيناريو بروفة متخيل (لا يوجد عميل حقيقي) لتحسين مهاراتي في إجراء المقابلات أثناء الأزمات. اسمحوا لي أن أجيب بدوري كخبير، ثم أعطني تعليقات بناءة على نهجي. هذه بروفة تدريب وليست حالة حقيقية.
موجه ضعيف / موجه قوي
مطالبة ضعيفة: "قال هذا العميل: [عبارات]. هل هناك خطر كبير للانتحار، ماذا علي أن أفعل؟"
يؤدي هذا إلى تفويض قرار الأزمة إلى الذكاء الاصطناعي؛ لا يستطيع الذكاء الاصطناعي قياس المخاطر، ولا يمكنه تحمل المسؤولية، وهذه اللحظة تتطلب تدخلاً بشريًا في الوقت الفعلي. هذا الاستخدام خطير.
موجه قوي: "لقد خرجت من الجلسة، لا يوجد عميل حقيقي. لتحسين مهاراتي في تقييم المخاطر، قم بإعداد قائمة للتذكير بالمجالات التي لا ينبغي أن أغطيها في مقابلة خطر الانتحار. سيكون القرار والتدخل مسؤوليتي في الوضع الحقيقي."
تستخدم هذه المطالبة الذكاء الاصطناعي فقط كأداة للتحضير خارج الجلسة؛ الأزمة تترك القرار للشخص.
الأخطاء الشائعة
- مطالبة الذكاء الاصطناعي باتخاذ قرار الأزمة. "هل هناك خطر؟" استشارات الذكاء الاصطناعي؛ هو تفويت القرار والمسؤولية.
- توجيه العميل في الأزمات إلى الروبوت. متناسين أن برنامج الدردشة الآلي لا يمكنه إدارة المخاطر بشكل موثوق.
- الخلط بين درجة المخاطرة الحقيقية. استبدال مخرجات "مستوى المخاطر" الميكانيكية من الذكاء الاصطناعي للتقييم السريري.
- نقل أداة التدريج للاستخدام المباشر. استخدام القائمة المرجعية خارج الجلسة في الأزمات المباشرة بالتشاور مع الذكاء الاصطناعي.
- عدم إنشاء سلسلة الدعم البشري. الاعتماد على الذكاء الاصطناعي بدلاً من نظام الخبراء/خط الأزمات الحقيقي بعد ساعات العمل في المؤسسة.
في ملخص
إن خطر الأزمات والانتحار والأذى هو الحد الأوضح للوحدة: في هذه اللحظات لا يستطيع الذكاء الاصطناعي اتخاذ القرارات وقياس المخاطر والتدخل وتحمل المسؤولية. لأن الأزمة تتطلب المشاركة في الوقت الفعلي، والحكم السريري الشامل، والمساءلة، والتدخل البشري. الدور الوحيد المقبول للذكاء الاصطناعي هو كقائمة مرجعية، ومسودة بروتوكول/نموذج، وبروفة تدريبية، خارج الجلسة، لدعم إعداد المحترف نفسه. لا تقم أبدًا بتوجيه العميل الذي يواجه أزمة إلى برنامج الدردشة الآلي؛ تم تفعيل سلسلة الدعم البشري والخطوط الساخنة.
مهمة التطبيق
ارسم تدفقًا لتوجيه الأزمات لممارستك أو مؤسستك الخاصة: ماذا يحدث خطوة بخطوة عندما يوضح العميل المخاطر، ومن يتم الاتصال به، وما هي الخطوط التي تتم الإشارة إليها؟ تأكد من أن الذكاء الاصطناعي ليس هو صانع القرار في أي خطوة من هذا التدفق. قم أيضًا بسحب قائمة مرجعية لتقييم المخاطر خارج الجلسة من الذكاء الاصطناعي واكتب في جملة واحدة لماذا تعتبر هذه القائمة مجرد تذكير ولا يمكن تقديمها للعميل.
قائمة مرجعية
- [ ] لم أعطي أي دور في اتخاذ القرار للذكاء الاصطناعي في الأزمات الحية.
- [ ] لقد قمت مباشرة بتقييم الأزمة والاستجابة لها بنفسي.
- [ ] لم أقم بتوجيه العميل الذي يواجه أزمة إلى برنامج الدردشة الآلي.
- [ ] لقد استخدمت الذكاء الاصطناعي فقط للتحضير خارج الجلسة (قائمة المراجعة/البروتوكول/البروفة).
- [ ] قمت بتعريف سلسلة الدعم البشري والخطوط الساخنة للشركة.
- [ ] لقد استوعبت أن القرار ومسؤولية الأزمة تقع على عاتق الشخص.