المكاسب:
- إجراء تقييم نقدي للوعد وقاعدة الأدلة ومخاطر روبوتات الدردشة العلاجية وتطبيقات الصحة العقلية الرقمية.
- القدرة على مراجعة الأداة من حيث السلامة والأدلة والسرية والملاءمة السريرية قبل التوصية بها للعميل
- القدرة على الشرح الدقيق للعميل كيف ينبغي وضع الروبوتات كمكمل محدود للعلاج البشري، بدلاً من أن تكون بديلاً له.
هناك المئات من التطبيقات التي ظهرت في السنوات الأخيرة والتي تدعي أنها "معالجة في جيبك": روبوتات الدردشة ذات الذكاء الاصطناعي، وتطبيقات تتبع الحالة المزاجية، وبرامج العلاج السلوكي المعرفي الرقمي، وأدوات التأمل والتنفس. يسألك أحد العملاء: "هل يمكنني استخدام هذا التطبيق؟" سوف يسأل؛ تسأل إحدى المؤسسات "هل يجب أن نعطي قاربًا لمن هم على قائمة الانتظار؟" سوف يفكر. هذه الأدوات ليست كلها سيئة؛ قد يوفر بعضها فوائد حقيقية. ولكن هناك فجوة واسعة بين الوعود التسويقية والأدلة العلمية، وبعض هذه الأدوات تشكل مخاطر خطيرة على الأمن والخصوصية والملاءمة السريرية. ستتعلم في هذه الوحدة كيفية إجراء تقييم نقدي لأدوات الصحة العقلية الرقمية، وفحصها قبل التوصية بها للعميل، ووضعها كمكمل محدود للعلاج البشري وليس كبديل له.
الفجوة بين الوعد والدليل
في متجر التطبيقات، سترى جملًا مثل "يقلل من قلقك بنسبة 70%"، "معالج الذكاء الاصطناعي الخاص بك معك دائمًا". معظم هذه الادعاءات تسويقية وليست أدلة. والسؤال الحقيقي هو: هل تم اختبار فعالية هذه الأداة في دراسات مستقلة خاضعة لمراجعة النظراء؟ قد تنجح بعض البرامج الرقمية (خاصة تلك التي تتبع بروتوكولات منظمة وقائمة على الأدلة) في علاج الأعراض الخفيفة إلى المتوسطة؛ ولكن لا يوجد دليل قوي على معظم روبوتات الدردشة المجانية للأغراض العامة. إن عبارة "يحبها الناس" أو "ملايين التنزيلات" ليست دليلاً على فعاليتها.
تحذير: برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي ليس معالجًا. غير قادر على إقامة علاقة علاجية، وتحمل المسؤولية، وإدارة المخاطر بشكل موثوق في الوقت الحقيقي، وممارسة الحكم السريري. إن استبدال الروبوت للعلاج يترك العميل دون حماية.
أربعة مخاطر كبيرة للروبوتات
- الضعف في الأزمات. قد تسيء الروبوتات فهم الرسائل التي تقترح الانتحار أو الأزمة أو ترفضها أو تستجيب لها بشكل ضار (الوحدة 9). ليس من الآمن أبدًا حدوث أزمة.
- حماية. تقوم العديد من التطبيقات بجمع البيانات العاطفية الأكثر حميمية للمستخدم وقد تقوم بمعالجتها لأغراض تجارية. في التطبيقات "المجانية"، غالبًا ما يكون المنتج عبارة عن بيانات المستخدم.
- محتوى كاذب/ضار. يمكن للروبوت أن يهذي، ويقدم نصائح مخالفة للأدلة، ويصبح مدمنًا "يوافق دائمًا على المستمع" ويمنع المواجهة الحقيقية.
- عدم الملاءمة السريرية. بالنسبة لشخص يعاني من حالة خطيرة (الذهان، والاكتئاب الشديد، والصدمات النفسية)، قد يكون الروبوت غير مناسب أو حتى مماطل؛ يؤخر المساعدة الحقيقية.
خطوة بخطوة: الفحص قبل التوصية بالوكيل
- اطلب الأدلة. هل هناك أي دراسات مستقلة ومراجعة من قبل النظراء توضح فعالية هذه الأداة؟ على أي مستوى الأعراض؟
- اختبار الأمن. ماذا تفعل السيارة في حالة الأزمات؟ كيف يرد على اقتراح الانتحار؟ هل يؤدي إلى خط حقيقي؟
- مراجعة الخصوصية. أين تذهب البيانات، هل تباع، هل يمكن حذفها؟ هل سياسة الخصوصية واضحة؟
- تقييم الملاءمة السريرية. هل هذا مناسب لمخطط العميل؟ لا ينصح به في الحالات الشديدة/الخطيرة.
- توضيح الدور. ضع الأداة كمكمل (على سبيل المثال، الممارسة بين الجلسات، وتتبع الحالة المزاجية)، وليس بديلاً عن العلاج.
- أخبر العميل بصدق. اذكر بوضوح ما يمكن للمركبة فعله وما لا يمكنها فعله، وأنه غير مناسب في الأزمات.
نصيحة: عند اتخاذ قرار بالثقة في أداة ما، اسأل نفسك: "ما الذي تفعله هذه الأداة في أسوأ السيناريوهات (إذا دخل المستخدم في أزمة)؟" إذا كنت لا تعرف الإجابة أو كانت الإجابة غير كافية، فلا توصي أبدًا بهذه الأداة على الرسم البياني المحفوف بالمخاطر.
حيث قد يكون القارب مناسبًا وقد لا يكون مناسبًا
الحالة
هل الروبوت/الأداة الرقمية مناسبة؟
ملاحظة
الإجهاد الخفيف، وتتبع العادات، والتثقيف النفسي
نعم محدودة (تكميلية)
إذا تم اختيار مركبة آمنة ومثبتة
الواجبات المنزلية/تذكير التمرين بين الجلسات
محدودة نعم
كامتداد للعلاج
الاكتئاب المعتدل والشديد، جدول القلق
حذرا، لا وحده
مع العلاج البشري، تحت الإشراف
الأزمة، خطر الانتحار، الذهان، الصدمة الشديدة
لا
مطلوب تدخل بشري وعاجل
البيانات الحميمة للأطفال / المراهقين
حذرين للغاية
الخصوصية والموافقة أمر بالغ الأهمية
ثلاث حالات صغيرة
الحالة 1 - الوعد مقابل الأدلة. يريد أحد العملاء استخدام روبوت الذكاء الاصطناعي الذي يدعي أنه "يحل 90% من قلقي". يقوم الخبير بفحص المركبة؛ لا توجد دراسة فعالية مستقلة، وتقول سياسة الخصوصية إنه قد تتم مشاركة البيانات مع أطراف ثالثة، ويستجيب الروبوت لرسالة الأزمة بشكل مبتذل. يشرح المحترف ذلك للعميل ويوصي ببديل أكثر أمانًا وقائمًا على الأدلة. وبذلك يتم سد الفجوة بين الادعاء والحقيقة دون الإضرار بالعميل.
الحالة 2 - المكمل المناسب. يحضر العميل العلاج الأسبوعي ويواجه صعوبة في الاحتفاظ بسجل أفكاره بين الجلسات. يوصي الخبير بتطبيق تسجيل الأفكار القائم على الأدلة والذي يتم التحكم فيه بشكل سري كأداة للممارسة بين الجلسات. الروبوت لا يحل محل العلاج. فهو يقويها. يعمل العميل بشكل أكثر انتظامًا بين الدورتين ويتسارع التقدم.
الحالة 3 - خطر المماطلة. يحاول الشخص الذي يعاني من أعراض الاكتئاب الشديد إدارة الموقف عن طريق "التحدث" إلى روبوت الذكاء الاصطناعي لعدة أشهر بدلاً من الذهاب إلى أحد المتخصصين. الأحذية تواسيه في كل مرة، لكن الصورة تصبح أثقل؛ المساعدة الحقيقية تأخرت تظهر هذه الحالة خطورة تأخير الروبوت للعلاج الفعلي في الحالات الخطيرة. تتمثل مهمة الخبير في أن يشرح للعميل بصدق حدود الروبوت ويوجهه إلى المساعدة البشرية في الوقت المناسب.
المطالبات والقوالب القابلة للنسخ
أفكر في التوصية بأداة رقمية للصحة العقلية لعملائي. أعطني قائمة فحص التفتيش لتقييم هذه الأداة: حالة الأدلة، وأمن الأزمات، وسياسة الخصوصية/البيانات، ومستوى الأعراض المستهدفة، والملاءمة السريرية، والتكلفة. القرار لي.
اكتب مسودة قصيرة لمحادثة لإخبار العميل أن برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي الذي يريد استخدامه ليس معالجًا، وأنه غير مناسب في الأزمات، وما يمكنه فعله وما لا يمكنه فعله بطريقة مهذبة وغير وصمية وصادقة. من خلال حماية العميل دون إلقاء اللوم عليه.
قم بإدراج الأسئلة المهمة التي أحتاج إلى طرحها لتقييم سياسة الخصوصية لهذه الأداة: أين تذهب البيانات، هل يتم بيعها، هل يمكن حذفها، كيف يتم التعامل مع بيانات الأزمات، هل هناك مشاركة من طرف ثالث، هل هناك حماية إضافية لبيانات الأطفال/المراهقين؟
فيما يلي مخطط العميل (مجهول): [chart]. ناقش في هذا الجدول ما إذا كان من المناسب التوصية بأداة رقمية كمكمل وفي هذه الحالة يجب أن أشير بالتأكيد إلى العلاج البشري. اتخاذ القرار النهائي؛ دعم تقييمي.
موجه ضعيف / موجه قوي
مطالبة ضعيفة: "اقترح ممارسة علاجية جيدة، وسأعطيها لموكلي".
لا تطلب هذه المطالبة أبدًا الأدلة والأمان والسرية والامتثال لمخطط العميل؛ قد يقترح الذكاء الاصطناعي أداة شائعة ولكنها غير مدققة.
موجه قوي: "قبل التوصية بأداة الصحة العقلية الرقمية، سأقوم بتقييمها من حيث الأدلة، والسلامة في الأزمات، والسرية، والملاءمة السريرية. قم بإدراج الأسئلة المهمة والعلامات الحمراء التي يجب أن أطرحها تحت هذه العناوين الأربعة. وسأتخذ القرار النهائي بناءً على الرسم البياني الخاص بالعميل."
توجه هذه المطالبة الذكاء الاصطناعي لإنشاء إطار تحكم؛ ويبقى القرار للأخصائي والعميل.
الأخطاء الشائعة
- الخلط بين الوعد التسويقي والأدلة. الخلط بين "90% علاج" أو "ملايين التنزيلات" كدليل على الفعالية.
- عدم اختبار أمن الأزمات. الإيحاء دون معرفة كيفية استجابة الوسيط لاقتراح الانتحار.
- تجاوز الخصوصية. التوصية بالأدوات دون التساؤل عن المكان الذي تذهب إليه البيانات العاطفية الأكثر حميمية.
- وضع القارب في مكان العلاج. تقديم الأداة كبديل للعلاج وليس كمكمل له؛ ترك العميل دون حماية.
- الثقة في الروبوت في الرسم البياني الثقيل. تعبئة موقف خطير وتأخير المساعدة الحقيقية.
باختصار
أدوات الصحة العقلية الرقمية وروبوتات الدردشة المدعمة بالذكاء الاصطناعي ليست كلها سيئة، لكن الوعود التسويقية تسبق الأدلة بكثير. تحقق من الأدلة والسلامة في الأزمات والسرية والملاءمة السريرية قبل التوصية بالوكيل. الروبوتات ليست آمنة في الأزمات أبدًا ولا يمكنها أن تحل محل المعالج؛ على الأكثر، في البيئات المناسبة، يمكن أن تكون تكملة محدودة لتعزيز العلاج البشري. اشرح حدود السيارة بأمانة للعميل وقم بإحالته إلى المساعدة الإنسانية في الوقت المناسب في حالة المواقف الخطيرة.
مهمة التطبيق
اختر تطبيقًا رقميًا للصحة العقلية (حقيقيًا أو متخيلًا). قم بتقييمه على أربع ركائز: الأدلة، والسلامة في الأزمات، والسرية، والأهمية السريرية. اكتب أي علامات حمراء تجدها في كل عنوان. ثم قم بإعداد خطاب صادق مكون من 4-5 جمل للعميل يشرح فيه حدود هذه الأداة.
قائمة مرجعية
- [ ] شككت في حالة الأدلة المستقلة للمركبة.
- [ ] لقد اختبرت السلامة في الأزمات (الاستجابة لاقتراح الانتحار).
- [ ] لقد قمت بمراجعة سياسة الخصوصية/البيانات.
- [ ] لقد قمت بتقييم مدى الملاءمة السريرية للمخطط الخاص بالعميل.
- [ ] لقد قمت بوضع الأداة كمكمل محدود وليس بديلاً للعلاج.
- [ ] لقد شرحت حدود السيارة بأمانة للعميل.