دعم تقييم المخاطر والتخطيط الأمني: الحدود الأكثر حساسية

المكاسب:

• القدرة على إعداد القائمة المرجعية لعوامل المخاطر والحماية والهيكل العظمي لخطة الأمان باستخدام الذكاء الاصطناعي والعمل دون تخطي أي مجالات
• افهم أن مستوى/درجة المخاطر والقرارات الأمنية يتم اتخاذها فقط من قبل الخبراء والفرق والإشراف والعمليات القانونية، وأن الذكاء الاصطناعي لا يمكنه اتخاذ القرارات.
• رؤية أن الذكاء الاصطناعي يمكن أن يعزو التحيز المنهجي للفئات المحرومة وتطبيق الانضباط المتمثل في عدم استخدام مخرجاته مطلقًا كقرار ومعالجة البيانات الأكثر حساسية فقط في نظام آمن

المسؤولية الأكثر خطورة للعمل الاجتماعي هي تقييم المخاطر - الأحكام التي تتعلق بشكل مباشر بسلامة الحياة، مثل ما إذا كان الطفل مهملاً أو مسيئاً، وما إذا كان من المحتمل أن يؤذي الفرد نفسه أو أي شخص آخر، وما إذا كان الشخص المسن آمنًا، أو مدى تعرض ضحية العنف للخطر. القاعدة الأولى والأكثر جرأة في هذه الوحدة هي أن اتخاذ القرارات المتعلقة بالمخاطر لا، ولا يمكن، ولا ينبغي أن ينتمي إلى الذكاء الاصطناعي. القرار المتعلق بسلامة الشخص؛ فهو يتطلب سلطة مهنية وحكمًا سريريًا ورأي فريق متعدد التخصصات والإشراف والمسؤولية القانونية. الذكاء الاصطناعي هو مجرد أداة للتحضير والتذكير هنا: فهو يذكرك بعوامل الخطر والحماية التي يجب مراجعتها، وينظم ملاحظاتك، ويحدد خطة السلامة. إنها لا تعطي درجة، ولا تقول "الخطر منخفض/مرتفع"، ولا تتخذ قرارًا.

لماذا نؤكد على هذا بشدة؟ لأنه في ساحة المخاطر، فإن تكلفة خطأ الذكاء الاصطناعي لا رجعة فيها. تصنيف الذكاء الاصطناعي للخطر على أنه "منخفض" يترك الطفل دون حماية؛ إن جعل المخاطرة تبدو "عالية" دون داع يمكن أن يؤدي إلى انفصال الأسرة بشكل غير عادل. بالإضافة إلى ذلك، يحمل الذكاء الاصطناعي تحيزات في بيانات التدريب: فقد تم توثيق الخوارزميات التي تنسب بشكل منهجي مخاطر أعلى إلى مجموعات اجتماعية واقتصادية معينة، أو أعراق، أو أحياء معينة في جميع أنحاء العالم. لذلك، حتى لو كانت مخرجات الذكاء الاصطناعي عبارة عن مدخلات، فلا يمكنها أبدًا تجاوز حكمك المستقل.

الدور المشروع للذكاء الاصطناعي: التذكير والتنظيم

هناك ثلاثة أماكن حيث يمكنك استخدام الذكاء الاصطناعي بأمان في المخاطرة:

1. تذكير العامل. عوامل الخطر (على سبيل المثال، تاريخ العنف السابق، وتعاطي المخدرات، والعزلة الاجتماعية، والقبول السابق) وعوامل الحماية (على سبيل المثال، شخص بالغ داعم، والالتحاق بالمدارس بانتظام، وشبكة اجتماعية قوية) التي ينبغي أخذها في الاعتبار عند تقييم المخاطر طويلة؛ يساعدك الذكاء الاصطناعي على تجنب فقدان أي مناطق من خلال استدعاء قائمة مرجعية تناسب إطار العمل الذي تستخدمه مؤسستك.

2. تحرير الملاحظات. إنه يترجم ملاحظاتك وبيانات العميل إلى نص منظم وواقعي - حتى تتمكن من بناء حكمك على بيانات واضحة.

3. مشروع الخطة الأمنية. الخطة الأمنية (خطة ملموسة تحدد ما سيفعله الضحية في حالة الخطر، ومن سيتصل به، وأين سيذهب) لها هيكل معين. يستطيع الذكاء الاصطناعي إنتاج مسودة هيكلية ليتم ملؤها مع العميل؛ لكن أنت والعميل تقومان بملء محتوى الخطة وفقًا للواقع.

تنبيه: لا تسأل الذكاء الاصطناعي أبدًا "ما هو مستوى الخطر في هذه الحالة؟" أو "هل الطفل آمن في المنزل؟" لا تسأل. لا تستخدم النتيجة كقرار، حتى لو طلبت ذلك. لا يتم الرد على هذه الأسئلة إلا من قبل الخبير المعتمد وفريق العمل والإشراف من خلال أداة المخاطر الرسمية للمؤسسة.

خطوة بخطوة: وضع الذكاء الاصطناعي بشكل صحيح في عملية المخاطرة

1. السلامة أولا. إذا كان هناك خطر فوري وخطير (سلامة الحياة)، فمن الضروري تشغيل إجراءات الطوارئ في المؤسسة، وليس التعامل مع الذكاء الاصطناعي. ولا ينبغي للذكاء الاصطناعي أن يؤخر أي إلحاح.
2. عدم تحديد الهوية. تعتبر تقييمات المخاطر هي البيانات الأكثر حساسية؛ لا يتم إدخال المعلومات التي تحدد هوية العميل في الأداة المفتوحة، ويتم استخدام أداة المؤسسة الآمنة فقط.
3. ذكرني بقائمة العوامل. اطلب قائمة مرجعية لعوامل الخطر والحماية المناسبة للإطار المؤسسي.
4. اتخذ حكمك الخاص. أنت تزن العوامل، وتقيم مع الفريق، وتتشاور مع المشرف. أنت لا تريد أن يقوم الذكاء الاصطناعي "بالتقييم".
5. أكمل خطة السلامة مع العميل. قد يأتي الهيكل العظمي من الذكاء الاصطناعي؛ تتم تعبئة المحتوى بالشبكة والموارد والتفضيلات الفعلية للعميل.

ثلاث حالات صغيرة

الحالة 1 - عامل الحماية المفقود. ركز أحد الخبراء على عوامل الخطر في قضية العنف المنزلي. قائمة التحقق من العوامل التي طلبها من الذكاء الاصطناعي جعلته يسأل عن شبكة الدعم الآمنة للعميل في العمل في قسم "عوامل الحماية" - وهي منطقة غاب عنها الخبير. أصبحت هذه الشبكة الجزء الأكثر واقعية في الخطة الأمنية. كان القرار مرة أخرى للخبير. منظمة العفو الدولية مجرد تذكير السؤال.

الحالة 2 - لم يتم الوثوق بالنتيجة غير الصحيحة. ورأت إحدى الوكالات أن إحدى أدوات الذكاء الاصطناعي التجريبية تصنف إحدى الحالات على أنها "منخفضة المخاطر". إلا أن ملاحظة الخبير وأقوال العميل تشير إلى وجود خطر جسيم. رفض الفريق علامة الذكاء الاصطناعي وبدأ إجراءات وقائية بناءً على تقييمه الخاص. وتأكد فيما بعد أن الخطر كان حقيقيا. الدرس المستفاد: نتيجة الذكاء الاصطناعي ليست قرارًا؛ الحكم البشري له الأسبقية.

الحالة 3 - تم اكتشاف التحيز. وفي إحدى المحاكمات، تم تسليم نفس القضية إلى الذكاء الاصطناعي مرتين؛ كان الاختلاف الوحيد هو الحي الذي يعيش فيه العميل. أنتج الذكاء الاصطناعي بشكل منهجي "لغة خطر" أعلى للحي المعروف بأنه محروم. وقد أظهر هذا تحيزًا في بيانات تدريب الذكاء الاصطناعي وعزز سياسة الوكالة المتمثلة في عدم استخدام الذكاء الاصطناعي في اتخاذ القرارات المتعلقة بالمخاطر.

أربعة قوالب قابلة للنسخ

1) تذكير بعامل الخطر/الحماية:

دورك: مساعد مشرف العمل الاجتماعي. قم بإعداد قائمة مرجعية بعوامل الخطر وعوامل الحماية التي يوصى بمراجعتها في تقييم المخاطر في حالات [العنف المنزلي]. اعرض هذا كقائمة من التذكيرات؛ لا تنتج أي نتائج أو قرارات أو "مستويات مخاطرة". التقييم والقرار يعود للخبير.

2) هيكل مسودة الخطة الأمنية:

دورك: المحرر. قم بإعداد مخطط فارغ لخطة السلامة ليتم ملؤها بضحية العنف المنزلي: علامات التحذير، والأماكن الآمنة، والأشخاص والمؤسسات التي يجب الاتصال بها، والمستندات المهمة، وخطة للأطفال، والسلامة الرقمية. ملء المحتوى؛ اترك مساحات فارغة تحت كل عنوان لملئها مع العميل.

3) تحرير مذكرة المخاطر (دون اتخاذ قرار):

ترجم الملاحظات والبيانات التالية إلى نص منظم وواقعي. ملاحظة التسمية وبيان العميل بشكل منفصل. تحديد مستوى المخاطر، اتخاذ القرار، إضافة تعليق. قم بتحرير ما هو موجود في الملاحظة فقط وقم بوضع علامة على المناطق المفقودة/الغامضة. ملاحظة: [لصق ملاحظة غير محددة]

4) التحيز لضبط النفس:

في مسودة مذكرة المخاطر أدناه، هل يوجد بيان ينقل تحيزًا غير مثبت بسبب الوضع الاجتماعي والاقتصادي للعميل، أو عرقه، أو حيه، أو خصائص مماثلة؟ ضع علامة على كل جملة مبنية على الصور النمطية بدلاً من الأدلة. لا تغير النص، فقط قم بالتحذير. ملحوظة: [لصق الملاحظة]

موجه ضعيف / موجه قوي

حث ضعيف:

اقرأ هذه الحالة وقرر ما إذا كان بقاء الطفل في المنزل آمنًا وما هو مستوى الخطر.

هذا هو الاستعانة بمصادر خارجية لاتخاذ القرار الأهم بشأن حياة الإنسان من خلال برنامج ما. إنه أمر غير أخلاقي، ويتعارض مع المسؤولية المهنية، ويحمل تحيز الذكاء الاصطناعي مباشرة في مصير الطفل.

مطالبة قوية:

دورك: مساعد تذكير. قبل قراءة المذكرة غير المحددة أدناه، قم بإعداد قائمة مرجعية لعوامل الخطر والحماية لمراجعتها في تقييم حالات [إهمال الأطفال]. إنتاج القرار أو النتيجة أو مستوى المخاطرة. سأجري التقييم مع فريقي؛ أنت فقط تذكرني بالمناطق التي لا ينبغي لي أن أتخطاها.

والفرق هو أن قول "ما هي الأسئلة التي لا ينبغي لي أن أنساها" بدلاً من طلب القرارات، يبقي الذكاء الاصطناعي على الحدود الآمنة والأخلاقية.

حدود الدور في مجال المخاطر

كويست

هل يمكن للذكاء الاصطناعي أن يفعل ذلك؟

من يفعل؟

تذكير بقائمة التحقق من العوامل

نعم

الذكاء الاصطناعي (تذكير)

تحرير الملاحظات واقعيا

نعم

الذكاء الاصطناعي + موافقة الخبراء

خطة أمنية هيكل عظمي فارغ

نعم

منظمة العفو الدولية. عميل المحتوى+خبير

مستوى المخاطر/تحديد النتيجة

لا

خبير + فريق عمل + إشراف

"هل هي آمنة؟" القرار

لا

خبير مختص، عملية قانونية

الشروع في اتخاذ تدابير وقائية

لا

المؤسسة، السلطة المختصة

الأخطاء الشائعة

• سؤال الذكاء الاصطناعي عن درجة المخاطر/القرار. أخطر خطأ؛ يتطلب القرار سلطة مهنية ومسؤولية قانونية.
• الثقة في تسمية الذكاء الاصطناعي. إن الاستنتاج "منخفض المخاطر" لن يبطل ملاحظتك على العكس من ذلك.
• تجاهل التحيز. وقد ينسب الذكاء الاصطناعي المخاطر المنهجية العالية إلى الفئات المحرومة؛ ضبط النفس أمر ضروري.
• تأخير الاستعجال. إذا كان هناك سلامة للحياة، إجراء الطوارئ أولا؛ التعامل مع الذكاء الاصطناعي لا يمكن أن ينتظر.
• إعطاء البيانات الأكثر حساسية للأداة المفتوحة. تتم معالجة ملاحظات المخاطر فقط في أداة المؤسسة الآمنة.

باختصار

إن تقييم المخاطر هو أخطر مسؤولية في العمل الاجتماعي، ويقع القرار بشكل مباشر على عاتق الشخص - المحترف، والفريق، والإشراف، والسلطة القانونية. هنا، الذكاء الاصطناعي هو مجرد أداة للتذكير (قائمة عوامل الخطر/الحماية)، والتنظيم (ملاحظة واقعية)، والصياغة (الهيكل العظمي لخطة السلامة)؛ لا يسجل ولا يتخذ قرارات. تذكر أن الذكاء الاصطناعي ينطوي على تحيز، فلا تستخدم مخرجاته أبدًا كقرار ولا تعالج البيانات الأكثر حساسية إلا في النظام الآمن.

مهمة التطبيق

اختر نوع الحالة الخيالية. احصل على قائمة مرجعية تحتوي على قالب "تذكير عامل المخاطر/الحماية" وتأكد من أن الذكاء الاصطناعي لا ينتج أي "مستويات خطر". ثم احصل على هيكل عظمي للخطة الفارغة باستخدام قالب "الهيكل العظمي للخطة الأمنية". سؤال الذكاء الاصطناعي بوعي "ما هو مستوى المخاطرة؟" واكتب في جملة واحدة لماذا لا ينبغي عليك استخدام المخرجات كقرار.

قائمة مرجعية

• [ ] لقد طلبت فقط من الذكاء الاصطناعي تذكيرًا بالعامل، وليس قرارًا/نتيجة.
• [ ] لقد قمت بمعالجة البيانات الأكثر حساسية فقط في أداة المؤسسة الآمنة.
• [ ] لقد خططت لملء محتويات الخطة الأمنية مع العميل.
• [ ] لقد قمت بفحص إخراج الذكاء الاصطناعي بحثًا عن التحيز.
• [ ] أكدت أن القرار النهائي بشأن المخاطر يقع على عاتق الفريق والإشراف والإجراءات القانونية الواجبة.