المكاسب:
- القدرة على التمييز بين المجالات التي يوفر فيها الذكاء الاصطناعي الوقت الحقيقي في أعمال الصحة العقلية وأين يجب أن تظل المسؤولية السريرية وسلطة التشخيص/اتخاذ القرار مع الخبير البشري، بناءً على مستوى المخاطر
- القدرة على تطبيق نظام التحقق متعدد الطبقات الذي يختبر كل مخرجات الذكاء الاصطناعي مقابل الأدلة والمصادر والحكم السريري
- الذكاء الاصطناعي ليس معالجًا أو مشخصًا أو مشرفًا؛ القدرة على استيعاب إطار واضح مفاده أن الأشخاص والتدخل في حالات الطوارئ ضروريان في حالة الأزمات / المخاطر.
يحاول علم النفس فهم ألم الشخص وقصته وعالمه الداخلي؛ إنها مهنة مبنية على الثقة والعلاقات والمسؤولية. يمكن أن تصبح بعض أجزاء هذه الوظيفة (كتابة النص، ومسح المصادر، وتحرير الجداول، وإعداد المواد) آلية بسرعة. لا يمكن أبدًا نقل بعض الأجزاء إلى الآلة لأنها تمس حياة الشخص. يعد الذكاء الاصطناعي (اختصارًا الذكاء الاصطناعي؛ البرنامج الذي يتعلم الأنماط من كميات كبيرة من النصوص ويولد نصوصًا أو ملخصات أو أكوادًا جديدة) أداة مساعدة قوية في هذه المهنة: تضييق ساعات مراجعة الأدبيات، وصياغة التقرير، وتبسيط كتيب التثقيف النفسي. لكن الذكاء الاصطناعي ليس معالجًا؛ فهو لا يعرف العميل، ولا يتحمل المسؤولية، ولا يقف إلى جانبه وقت الأزمات، ولا يحاسبه أخلاقيا وقانونيا.
هدفنا في هذه الوحدة هو أن نجعلك متخصصًا في الصحة العقلية يشرف على الذكاء الاصطناعي، وليس ممارسًا يعتمد على الذكاء الاصطناعي. في هذه الوحدة الأولى، ستتعلم مكان استخدام الذكاء الاصطناعي في مجال علم النفس، وأين يجب أن تتوقف بالتأكيد، وكيفية التحقق من صحة كل مخرجات.
ما يمكن للذكاء الاصطناعي فعله وما لا يمكنه فعله في علم النفس
القوة الحقيقية للذكاء الاصطناعي هي توليد اللغة والأنماط والخطوط العريضة. الهيكل العظمي لمذكرة الجلسة، وخريطة ملخص الأدبيات، ونسخة مجردة من نص تعليمي نفسي، والمخطط التفصيلي لاستبيان البحث، واللغة المهذبة لرسالة البريد الإلكتروني الخاصة بالموعد؛ كل هذا يخرج في ثوان. في هذه المهام، يوفر لك الذكاء الاصطناعي الوقت ويقلل من العبء العقلي.
ما لا يستطيع الذكاء الاصطناعي فعله هو اتخاذ القرار الذي يتطلب الحكم السريري. إجراء التشخيص، وتقييم المخاطر، واختيار خطة العلاج، وقراءة ما إذا كان العميل "يتحسن أو يسوء"؛ لا شيء من هذا يمكن أن يتم بمنطق "هكذا يحدث عادة". يهذي الذكاء الاصطناعي لأنه يتعلم من النصوص الموجودة على الإنترنت: لذا فإن المصدر الذي يبدو حقيقيًا ولكنه غير موجود يمكن أن ينتج إحصائية خاطئة أو عنصر مقياس مختلق. في علم النفس، هذا النوع من الأخطاء ليس مجرد خطأ مطبعي؛ ويعني عميلاً تم توجيهه بشكل خاطئ، أو تدخلاً ضارًا، أو انتهاكًا أخلاقيًا.
تحذير: مخرجات الذكاء الاصطناعي هي مسودة وليست رأيًا سريريًا. يتم اتخاذ القضايا الحرجة المتعلقة بالسلامة مثل التشخيص وتقييم المخاطر وقرارات العلاج بناءً على حكم ومسؤولية خبير مختص (عالم نفسي، طبيب نفسي). الذكاء الاصطناعي لا يحل محل هذا المنطق.
ثلاث مناطق حسب مستوى الخطورة
الطريقة الأكثر عملية لاستخدام الذكاء الاصطناعي بأمان هي تقسيم كل مهمة إلى ثلاث مناطق بناءً على مستوى المخاطرة. يتلخص هذا التمييز في "هل ينبغي للذكاء الاصطناعي أن يفعل هذا؟" يجيب على الأسئلة بسرعة وبدقة.
المنطقة
مهام العينة
دور الذكاء الاصطناعي
مستوى التحقق
أخضر (منخفض المخاطر)
تبسيط النص التربوي النفسي المجهول، تحديد موعد بالبريد الإلكتروني، البحث عن عنوان الأدب، مخطط العرض التقديمي
إنتاج مجاني
مراجعة سريعة
أصفر (خطر متوسط)
مسودة مذكرة الجلسة، الشرح اللغوي لمقياس التفسير، خطة تحليل البحث، اقتراح الكود الموضوعي
مسودة + اقتراح
فحص الخبراء + تأكيد المصدر/البيانات
أحمر (أمان حرج)
التشخيص، وتقييم مخاطر الانتحار/الأزمات، وقرار العلاج/الأدوية، ورأي الطب الشرعي
تذكير/قائمة مرجعية فقط
حكم الخبراء المختصين والمسؤولية إلزامية
كن سريعًا في المنطقة الخضراء. استخدم الذكاء الاصطناعي في المنطقة الصفراء، ولكن تحقق من كل المعلومات والرقم والمصدر. وفي المنطقة الحمراء، ليس للذكاء الاصطناعي الكلمة الأخيرة أبدًا؛ على الأكثر، هو تذكير يجلب عنصر التحكم إلى ذهن الخبير.
ثلاث حالات صغيرة
الحالة 1 - الاستخدام الموفر للوقت. سيقوم أحد الأخصائيين النفسيين في المدرسة بإعداد كتيب معلومات بعنوان "قلق الاختبار لدى المراهقين" لمجموعة مكونة من 40 من أولياء الأمور. إذا كانت مكتوبة بخط اليد، فسوف يستغرق الأمر حوالي 3 ساعات. من خلال قيام الذكاء الاصطناعي بكتابة مسودة مجهولة المصدر، والتحقق الذاتي من المحتوى القائم على الأدلة، والتحقق من المصادر، فإنه ينهي الكتيب في 45 دقيقة. توفير الوقت بنسبة 75% تقريباً، وهو المسؤول عن المحتوى النهائي.
الحالة 2 - حيث يجب أن تتوقف. يقدم أحد المتخصصين ملاحظات العميل المكونة من 3 جلسات إلى الذكاء الاصطناعي ويسأل: "هل يعاني هذا الشخص من اضطراب الشخصية الحدية؟" يسأل. يقول الذكاء الاصطناعي بثقة: "الأعراض متسقة". ومع ذلك، فإن الذكاء الاصطناعي لم ير العميل، ولا يعرف التاريخ، ولا يمكنه تقييم التشخيص التفريقي. إذا استخدم المتخصص هذه النتيجة كتشخيص، فسوف يرتكب خطأً فادحًا؛ على الأكثر، يمكن أن تكون النتيجة بمثابة تذكير في شكل "قم بتقييم هذه المجالات بشكل أكبر في المقابلة".
الحالة 3 – تكلفة الهلوسة. يطلب الباحث 10 مصادر من الذكاء الاصطناعي لمقدمة أطروحته. ينتج الذكاء الاصطناعي 10 استشهادات؛ كلهم يبدون مثاليين رسميًا. وعندما يدقق الباحث يرى أن 4 منهم غير موجودين فعلياً و2 منهم ينسبون السنة/المؤلف الخطأ للمقال الحقيقي. وهذا يعني أن 60% من الاستشهادات غير صحيحة. إذا لم يقم بالتحقق، لكان قد أدرج مصادر وهمية في أطروحته.
نظام التحقق متعدد الطبقات
التحقق ليس شيئًا يمكن تأجيله معتقدًا "سأنظر فيه لاحقًا"، فهو جزء من سير العمل. يتكون التحقق الصلب من خمس طبقات:
- العودة إلى الأدلة. إذا أعطى الذكاء الاصطناعي نتيجة أو معدلًا أو توصية، فتحقق من ذلك باستخدام المصدر الأساسي (مقالة تمت مراجعتها من قبل النظراء، أو دليل رسمي، أو دليل المقياس).
- اختبار مع الحكم السريري. هل المخرجات ذات معنى حقيقي لهذا العميل، وهذا السياق، وهذه الثقافة؟ قم بوزنها بعينك الخبيرة.
- قارن مع بيانات متعددة. لا تعتمد على جملة واحدة، أو درجة واحدة، أو عرض واحد؛ دع القصة والملاحظة والقياس تتحدث معًا.
- مرشح الأخلاق والخصوصية. هل هذا الناتج يضر العميل، يوصمه، ينتهك السرية؟
- اترك بصمتك. تسجيل المخرجات التي تم التحقق من صحتها وكيف؛ دعها يتم التحقق منها لاحقا.
تلميح: "قال الذكاء الاصطناعي" ليس مبررًا. إن الأساس المنطقي للقرار السريري أو البحثي هو دائمًا الدليل أو القياس أو المعيار المهني أو حكم الخبراء المختص. يساعدك الذكاء الاصطناعي على إعداد هذه المبررات، ولا يحل محلها.
المطالبات والقوالب القابلة للنسخ
تحافظ القوالب التالية على الذكاء الاصطناعي في دور آمن. املأ الأقواس المربعة بالسياق الخاص بك (مجهول المصدر).
الدور: أنت مساعد صياغة يساعد في تخصص علم النفس. لا يمكنك إجراء تشخيص أو تقييم المخاطر أو اتخاذ قرار العلاج. مهمتك هي فقط صياغة النص ومشاركة أفكارك. في حالة الشك، اكتب "تحقق الخبراء". المهمة: [مهمة]. القيود: بيانات مجهولة المصدر؛ لا توجد لغة وصم؛ إذا كان هناك ادعاء بالمصدر، ضع علامة "مطلوب تأكيد".
تحقق من المسودة أدناه من ثلاثة جوانب وقدم ملاحظاتك عنصرًا بند لكل عنصر: 1) الجمل التي تحتوي على ادعاءات غير صحيحة أو مفرطة سريريًا، 2) ادعاءات بدون مصدر على الرغم من أنها تتطلب مصدرًا، 3) لغة الوصم أو الحكم. إذا لم تكن متأكدًا من دقتك، فاكتب "لم يتم التحقق منه". النص: [النص]
ضع المهمة التالية في منطقة الخطر (أخضر/أصفر/أحمر) واكتب الأساس المنطقي في جملة واحدة. ثم قم بإدراج خطوات التحقق المناسبة لهذه المنطقة. المهمة: [الوصف الوظيفي]
ما هي العبارات الواردة في هذا النص التي تحتوي على حقيقة/ادعاء إحصائي؟ قم بإدراج كل منها في سطر منفصل باسم "المطالبة التي تم التحقق منها"؛ سوف أتحقق من المصدر الأساسي. النص: [النص]
موجه ضعيف / موجه قوي
المطالبة الضعيفة: "ما هو تشخيص هذا العميل بناءً على أعراضه؟"
تستدعي هذه المطالبة الذكاء الاصطناعي للقيام بعمل لا يمكنه القيام به (التشخيص)، ولا تحمي بيانات العميل، وتدعو إلى مخرجات موثوقة ولكنها غير دقيقة.
مطالبة قوية: "يوجد أدناه ملخص مقابلة مجهولة المصدر. لا تقم بالتشخيص. بدلاً من ذلك، اقترح كقائمة مرجعية المجالات التي يجب أن أقوم بتقييمها بشكل أكبر في المقابلة السريرية والأسئلة التي يجب أن أتذكر طرحها. حدد النقاط التي لست متأكدًا منها."
تضع هذه المطالبة الذكاء الاصطناعي في الدور الصحيح (التذكير)، وتحمي البيانات، وتترك المسؤولية للخبير.
الأخطاء الشائعة
- الخلط بين الخطوط العريضة للرأي السريري. إن لغة الذكاء الاصطناعي بطلاقة وواثقة ليست دليلاً على الدقة؛ الجملة الأكثر إقناعا قد تكون الجملة الأكثر خطأ.
- تسليم المنطقة الحمراء إلى منظمة العفو الدولية. إن جعل الذكاء الاصطناعي يسأل عن التشخيص والمخاطر وقرارات العلاج هو محاولة لتحويل المسؤولية إلى البرنامج؛ وهذا خطأ أخلاقي وقانوني.
- تخطي التحقق. إن قول "سوف أتحقق من الأمر على أي حال" أو لا هو الطريقة الأولى التي تتسلل بها الهلوسة إلى التقرير.
- لصق بيانات العميل دون حمايتها. يعد إعطاء أسماء وتفاصيل حقيقية للذكاء الاصطناعي انتهاكًا للخصوصية (انظر الوحدة 2).
- وضع الذكاء الاصطناعي كمشرف. يقوم الذكاء الاصطناعي بتدريب الحالة، لكن السيطرة الفعلية والمساءلة والرقابة الأخلاقية هي وظيفة المشرف البشري.
باختصار
في علم النفس، يعد الذكاء الاصطناعي وسيلة مساعدة قوية لتوليد اللغة والخطوط العريضة، لكنه ليس معالجًا أو تشخيصيًا أو مشرفًا. قسم كل مهمة إلى منطقة خطر خضراء/صفراء/حمراء؛ في المنطقة الحمراء (التشخيص، الأزمة، العلاج)، يظل الحكم السريري والمسؤولية دائمًا على عاتق الخبير البشري. قم بغربلة كل نتيجة من خلال طبقات من الأدلة، والحكم السريري، والبيانات المتعددة، والمرشحات الأخلاقية، وإمكانية التتبع. "قالت منظمة العفو الدولية" ليس مبررا أبدا.
مهمة التطبيق
اكتب 6 مهام نموذجية من ممارستك الخاصة (أو من ممارسة متخيلة): على سبيل المثال: تحديد موعد عبر البريد الإلكتروني، مسودة مذكرة الجلسة، سؤال تشخيصي، تقييم الأزمات، مراجعة الأدبيات، نشرة تعليمية نفسية. ضع كل منها في المنطقة الخضراء/الصفراء/الحمراء واكتب قاعدة التحقق من جملة واحدة لكل منها. والنتيجة النهائية هي "خريطة مخاطر الذكاء الاصطناعي" الخاصة بك.
قائمة مرجعية
- [ ] لقد وضعت المهمة في المنطقة الخضراء/الصفراء/الحمراء.
- [ ] لم أترك أي قرارات في المنطقة الحمراء للذكاء الاصطناعي.
- [ ] لقد قمت بإخفاء هوية بيانات العميل.
- [ ] لقد كتبت بوضوح حد "التشخيص/تقييم المخاطر" للذكاء الاصطناعي.
- [ ] قمت بتمرير الإخراج من خلال خمس طبقات من التحقق من الصحة.
- [ ] قبلت أنني مسؤول عن المحتوى النهائي وتركت بصمتي.