المكاسب:
- القدرة على تضمين الذكاء الاصطناعي باستمرار في كل مرحلة بدءًا من التطبيق وحتى الإغلاق من خلال ست بوابات تحقق بشرية
- القدرة على إنشاء إطار لحوكمة الشركات بقائمة الأدوات المعتمدة وسياسة البيانات والأدوار والتسجيل والتدريب والمراجعة المستمرة
- القدرة على تضمين مبادئ المسؤولية الإنسانية والتحقق والخصوصية/KVKK والالتزام بالأدلة والتحكم في التحيز والتركيز على العميل في سير العمل
خلال هذه الوحدة، تناولنا كيفية استخدام الذكاء الاصطناعي وأين يمكن إيقافه في مهام مختلفة للعمل الاجتماعي - التوثيق والتقييم ودعم المخاطر والإحالة والتخطيط والتقرير والتواصل وتصميم البرامج. في هذه الوحدة النهائية، قمنا بتجميع القطع معًا: حيث سيجلس الذكاء الاصطناعي بشكل كامل بدءًا من التطبيق وحتى إغلاق الحالة، ويتوقف باب التحقق البشري في كل مرحلة، وسنقوم بإنشاء إطار الحوكمة اللازم ليكون هذا الأمر مستدامًا في المنظمة. الهدف هو تحويل النصائح المتناثرة إلى نظام عمل ثابت وقابل للتكرار.
المبدأ التكاملي منذ البداية: الذكاء الاصطناعي هو عامل تسريع في كل خطوة من خطوات سير العمل، وليس صانع قرار في أي خطوة. يوجد باب بشري في كل مرحلة، ولا يمكنك الانتقال إلى المرحلة التالية دون المرور من باب واحد. يمنع هذا الهيكل متعدد الطبقات أي هلوسة أو تحيز أو خطأ في الخصوصية من التسرب إلى قرار يؤثر على حياة العميل.
التدفق الشامل وستة بوابات بشرية
دعونا ننظر في الحالة من خلال مراحلها النموذجية ونضع بوابة التحقق في كل مرحلة:
1. التطبيق / الاتصال الأول – الباب: الخصوصية. عندما تأتي المعلومات الأولى، يتم استخدام الذكاء الاصطناعي للتحضير للمقابلة (الدليل، إطار الأسئلة). الباب: لا توجد بيانات عميل فعلية تدخل إلى الأداة المفتوحة؛ اسأل عن فئة، تطابق السيارة.
2. التقييم – البوابة: الحكم السريري. ينظم الذكاء الاصطناعي الملاحظات في أبعاد بيولوجية نفسية اجتماعية ويذكرنا بأوجه القصور ونقاط القوة. الباب: التشخيص والتقييم يعود إلى الأخصائي؛ منظمة العفو الدولية لا تقيم.
3. المخاطرة – الباب: السلطة والفريق. يذكر الذكاء الاصطناعي عوامل الخطر/الحماية وينشئ هيكلًا عظميًا للخطة الأمنية. الباب: يتم اتخاذ القرار بشأن المخاطر فقط من قبل الخبراء والفريق والإشراف والإجراءات القانونية؛ الذكاء الاصطناعي لا ينتج نتائج/قرارات.
4. التخطيط والتوجيه – الباب: التحقق والعميل. يضع الذكاء الاصطناعي الأهداف في SMART، ويولد أفكارًا للموارد ومسودات الرسائل. الباب: يحدد العميل الأهداف؛ يتم التحقق من الخدمة/العنوان/الحالة من المصدر الرسمي.
5. التقرير والتواصل – الباب: الأدلة والمساءلة. يقوم الذكاء الاصطناعي ببناء التقرير وتبسيطه وترجمته. الباب: كل حالة تعتمد على الأدلة، والرأي يعود للخبير، ويتم التحقق من فقدان المعلومات الهامة والتحيز، والتوقيع في الشخص.
6. الإغلاق والتسليم — البوابة: الدقة. YZ يلخص الملف بترتيب زمني. الباب: الإيجاز يعتمد على المحضر وحده؛ يتم التحقق من النتائج والتعلم من قبل الخبير.
نصيحة: استخدم سؤالًا واحدًا لتذكر الأبواب: "في هذه الخطوة، هل يتخذ الذكاء الاصطناعي قرارًا أم ينتج رسمًا؟" إذا كان الجواب "القرار"، توقف - فهذه الخطوة تخص الإنسان. إذا كانت الإجابة "مسودة"، فتابع، لكن لا تنتقل إلى الخطوة التالية دون التحقق من المخرجات.
حوكمة الشركات: الانضباط الفردي ليس كافيا
إن العادات الجيدة للخبير ذات قيمة ولكنها هشة؛ يتطلب الاستخدام الآمن والمتسق للذكاء الاصطناعي في المؤسسة إطارًا للحوكمة. المكونات الرئيسية لهذا الإطار هي:
- قائمة المركبات المعتمدة إنه مكتوب وواضح ما هي الأداة التي سيتم استخدامها لأي وظيفة وما هي البيانات التي يمكن إدخالها في أي أداة. "يجب على الجميع استخدام أي أداة يريدونها" هي ثغرة أمنية.
- سياسة تصنيف البيانات. يتم تحديد البيانات التي سيتم معالجتها في الأداة المفتوحة والتي سيتم معالجتها فقط في النظام الآمن.
- الدور والسلطة. فمن الواضح من يستطيع أن يفعل ماذا وأي قرار يعتمد على أي سلطة (وخاصة قرارات المخاطر).
- سجل ومسار التدقيق. يمكن مراقبة مكان وكيفية استخدام الذكاء الاصطناعي؛ عندما تكون هناك مشكلة، يمكن الرجوع إليها.
- التعليم والتوعية. يعرف كل موظف المبادئ الواردة في هذه الوحدة؛ يتم تدريب الوافد الجديد.
- مراجعة مستمرة. الأدوات والمخاطر وتغير التشريعات؛ يتم تحديث الإطار بانتظام. السياسة بمجرد كتابتها ونسيانها تصبح بالية.
ثلاث حالات صغيرة
الحالة 1 - تم اكتشاف خطأ في الأبواب في بداية السلسلة. وفي إحدى الحالات، أضافت منظمة العفو الدولية ملاحظة لم يذكرها العميل خلال مرحلة التقييم. وعلى باب "الحكم السريري" أمسك الخبير بهذا فحذفه. لو لم يتم القبض عليه، لكان من الممكن أن تتسرب هذه الملاحظة الملفقة إلى الخطة، ومن هناك إلى التقرير، ومن هناك إلى قرار المحكمة. أوقفت المصادقة ذات الطبقات الخطأ في أقرب وقت.
الحالة 2 - الحوكمة منعت الانتهاك. كانت إحدى المنظمات تعمل بدون قائمة أدوات وسياسة بيانات معتمدة؛ وكان الجميع يستخدمون سيارتهم الخاصة. كشفت عملية التدقيق أن العديد من الموظفين كانوا يقومون بإدخال بيانات العميل الفعلية في أدوات مفتوحة. أنشأت المنظمة إطارًا للحوكمة: الأدوات المعتمدة وتصنيف البيانات والتدريب والتسجيل. وفي الفترة التالية، انخفض عدد الانتهاكات إلى الصفر. الدرس المستفاد: حسن النية الفردية لا يكفي بدون هيكل مؤسسي.
الحالة 3 - المراجعة المستمرة محدثة. لقد أصبحت سياسة الذكاء الاصطناعي الخاصة بالمنظمة، والتي تم كتابتها قبل عام، قديمة في مواجهة نوع جديد من الأدوات والتشريعات المحدثة. وقد التقطت المراجعة السنوية هذا؛ تم تحديث السياسة وتجديد التدريب. ظل الإطار وثيقة حية، وليس زخرفة الرف.
أربعة قوالب قابلة للنسخ
1) القائمة المرجعية لبوابة التحقق من تدفق الحالة:
دورك: المشرف. أحصل على قائمة التحقق من الصحة لخطوة الحالة التالية: ما الذي يمكن للذكاء الاصطناعي صياغته في هذه الخطوة، وأي قرار هو قرار بشري بالضرورة، وما هي عمليات التحقق من الخصوصية والتحيز التي يجب إجراؤها، وما الذي يجب علي التحقق منه قبل الانتقال إلى الخطوة التالية؟ الخطوة: [التطبيق/التقييم/المخاطر/الخطة/التقرير/الإغلاق]
2) مطابقة المركبة المؤكدة:
بالنسبة لكل قائمة من قوائم المهام أدناه، حدد نوع أداة الذكاء الاصطناعي التي يمكن استخدامها (أداة مفتوحة / نظام مؤسسي آمن فقط / لا يتوفر ذكاء اصطناعي) والتبرير. قم بتمييز كل مهمة تحتوي على بيانات العميل على أنها "نظام آمن فقط". المهام: [قائمة المهام]
3) مسودة سياسة الذكاء الاصطناعي للشركات:
دورك: محرر سياسة الشركة. صياغة سياسة استخدام مسؤول للذكاء الاصطناعي لوكالة الخدمة الاجتماعية؛ يغطي المواضيع التالية: الغرض، الأدوات المعتمدة، تصنيف البيانات، الأدوار والصلاحيات، الخصوصية/KVKK، حد قرار المخاطر، التسجيل والتدقيق، التدريب، جدول المراجعة. إعداد الإطار العام؛ ستقوم المؤسسة بملء التفاصيل الخاصة بها.
4) التنظيم الذاتي (مراجعة الاستخدام الشخصي):
قم بإنشاء قائمة مرجعية ذاتية مكونة من 10 أسئلة لي لمراجعة استخدامي للذكاء الاصطناعي كأخصائي اجتماعي: الخصوصية، والتحقق، والتحيز، وإخلاص الأدلة، وحدود القرار، والتركيز على العميل. دع كل سؤال يكون الإجابة عليه بـ "نعم / لا".
موجه ضعيف / موجه قوي
حث ضعيف:
أعطيك هذه القضية برمتها. أنت تتعامل مع كل شيء، من الطلب إلى التقرير، وسأوقعه في النهاية.
وهذا يعني الاستعانة بمصادر خارجية للعملية برمتها - بما في ذلك الخصوصية، والحكم السريري، وحكم المخاطر، والالتزام بالأدلة - إلى البرامج. التوقيع الوحيد في النهاية يعمينا عن كل الأخطاء والافتراءات والتحيزات بينهما.
مطالبة قوية:
دورك: المحرر الذي يساعدني في كل خطوة على الطريق. سأتابع الحالة خطوة بخطوة (تقييم، خطة، تقرير...). في كل خطوة: العمل فقط مع البيانات المجهولة/الآمنة، وإنتاج مسودة، واسمحوا لي أن أقرر، ولا أضيف ما هو غير موجود في الملاحظة، وذكرني بما أحتاج إلى التحقق منه قبل الانتقال إلى الخطوة التالية. لنبدأ بهذه الخطوة: [الخطوة]
الفرق: حراسة الباب في كل خطوة ووضع الذكاء الاصطناعي كمساعد خطوة بخطوة يحافظ على السلامة والمسؤولية البشرية مع الحفاظ على السرعة.
ملخص بوابة المرحلة والمسؤولية
المرحلة
مساهمة الذكاء الاصطناعي
بوابة الإنسان
السيطرة الحرجة
التطبيق
التحضير للمقابلة
الخصوصية
فئة البيانات
التقييم
تحرير الحجم
الحكم السريري
لا تشخيص ولا تلفيق
خطر
تذكير بالعامل
الهيئة + الفريق
لا النتيجة / القرار
الخطة/التوجيه
مشروع + فكرة
التحقق من صحة + العميل
تأكيد المصدر، أولوية العميل
تقرير / الاتصال
الهيكل + التبسيط
الأدلة + المسؤولية
الرأي في الخبراء، والسيطرة على التحيز
إغلاق
ملخص زمني
الدقة
على أساس السجل
الأخطاء الشائعة
- تسليم العملية برمتها إلى الذكاء الاصطناعي وتوقيع توقيع واحد في النهاية. الأخطاء بينهما غير مرئية؛ يجب أن يكون هناك أبواب في كل خطوة.
- المرور من الباب دون التحقق منه. تصنيع مرحلة ما يورث بالمرحلة التالية؛ يتم التحقق من صحة كل الإخراج.
- ترك الحكم للانضباط الفردي. وبدون إطار مؤسسي، تصبح العادات الجيدة هشة.
- اكتب السياسة مرة واحدة وانساها. تغيير الأدوات والتشريعات؛ المراجعة المستمرة ضرورية.
- عدم الاحتفاظ بالسجلات. وبدون مسار التدقيق، لا يمكن إعادة النظر في المشكلة ولا يمكن مساءلتها.
في ملخص
في العمل الاجتماعي، يعد الذكاء الاصطناعي محفزًا في كل خطوة، وصانع قرار في أي خطوة، بدءًا من تقديم الطلب وحتى إغلاق القضية. وضع ستة بوابات بشرية (السرية، الحكم السريري، السلطة/الفريق، التحقق من الصحة/العميل، الأدلة/المساءلة، النزاهة) في التدفق الشامل؛ ولا تمر من باب إلى آخر دون المرور. ويتطلب تحقيق الاستدامة حوكمة الشركات: قائمة الأدوات المعتمدة، وسياسة البيانات، والأدوار، والتسجيل، والتدريب، والمراجعة المستمرة. يجب دمج المبادئ التوجيهية الستة للوحدة - المسؤولية الإنسانية، والتحقق، والخصوصية/PDPA، والالتزام بالأدلة، والسيطرة على التحيز، والتركيز على العميل - في كل سير عمل.
مهمة التطبيق
قم بتخطيط حالة خيالية عقليًا بدءًا من التطبيق وحتى الإغلاق؛ قم بإعداد قائمة مرجعية لكل مرحلة باستخدام قالب "بوابة التحقق من تدفق الحالة". ثم قم بتصنيف المهام في هذه الحالة على أنها مركبة مفتوحة / نظام آمن / لا يوجد ذكاء اصطناعي باستخدام قالب "مطابقة المركبة التي تم التحقق من صحتها". أخيرًا، قم بتقييم نفسك من خلال إنشاء قائمة مكونة من 10 أسئلة لاستخدامك الخاص للذكاء الاصطناعي باستخدام قالب "التدقيق الذاتي".
قائمة مرجعية
- [ ] لقد حددت ستة بوابات بشرية في التدفق الشامل.
- [ ] في كل خطوة، "قرار أم مسودة؟" لقد طبقت السؤال.
- [ ] لقد قمت بمطابقة المهام مع نوع السيارة الصحيح (مفتوح/آمن/لا شيء).
- [ ] معرفة مكونات حوكمة الشركات (الأداة، البيانات، الدور، التسجيل، التدريب، المراجعة).
- [ ] لقد قمت بتطبيق مبادئ الناقل الستة للوحدة في سير العمل الخاص بي.
امتحان الوحدة
1. أي مما يلي هو الموضع الأكثر دقة للذكاء الاصطناعي في العمل الاجتماعي؟
- أ) يمكن للذكاء الاصطناعي أن يقرر مستوى المخاطرة للعميل وقرار التدخل دون موافقة الإنسان
- ب) الذكاء الاصطناعي هو أداة للتلخيص والتنظيم والتبسيط والصياغة؛ ✔ تقع مسؤولية الحكم السريري والمخاطر والقرار النهائي على عاتق الخبير ✔
- ج) الذكاء الاصطناعي مفيد فقط لترجمة النص وليس له علاقة بمهام العمل الاجتماعي الأخرى
- د) بما أن الذكاء الاصطناعي دائمًا أكثر حيادية من البشر، فيجب ترك التقييم له.
الوصف: الذكاء الاصطناعي. وهو مساعد ينظم الملاحظات ويلخص الملف ويبسط النص وينتج المسودات. تقع مسؤولية الحكم السريري وتقييم المخاطر والرأي المهني والقرار النهائي على عاتق المحترف المختص؛ يمكن أن يؤدي الناتج الذي لم يتم التحقق منه إلى سوء تقدير العميل، أو التهرب من المخاطر، أو تسرب البيانات الحساسة.
2. ما هي التعليمات الأكثر صحة عند تحويل الملاحظات الأولية للمقابلة إلى سجل حالة بواسطة الذكاء الاصطناعي؟
- أ) الطلب من الذكاء الاصطناعي ملء الأجزاء المفقودة بطريقة معقولة حتى تبدو احترافية.
- ب) السماح للذكاء الاصطناعي بإضافة ملاحظات إضافية لإثراء السجل
- ج) الطلب من الطالب استخدام المعلومات المضمنة في الملاحظة فقط، ووضع علامة "بحاجة إلى توضيح" على العناصر المفقودة، وعدم إضافة أي شيء ✔
- د) وضعها مباشرة في الملف دون مقارنتها مع الملاحظة طالما أن الإخراج سليم
توضيح: أخطر نزعة للذكاء الاصطناعي هي تلفيق الملاحظات أو الأرقام أو الاقتباسات غير الموجودة في الملاحظة لجعل السجل يبدو "مكتملاً". النهج الصحيح هو أن تقول "فقط استخدم ما هو موجود في الملاحظة، ضع علامة على العناصر المفقودة، ولا تضف أي شيء". لم يتم سد الفجوات، بل تم وضع علامة عليها للتوضيح.
3. ما سبب أهمية التمييز بين "الحقيقة" و"التفسير" في سجل الحالة؟
- أ) الحقيقة هي ملاحظة/بيان ملموس، في حين أن التفسير هو استنتاج مهني يتطلب أساسًا؛ ويجب الفصل بين الاثنين ووضع علامة على التعليق ✔
- ب) التمييز غير ضروري؛ ويمكن كتابة الحقيقة والتعليق بنفس الطريقة في المحضر
- ج) التفسير فقط هو المهم؛ فمن الممكن حتى لو لم يتم تسجيل الحقائق
- د) بما أن الذكاء الاصطناعي يقوم بهذا التمييز بشكل مثالي، فليست هناك حاجة للتحكم البشري.
توضيح: "لقد بكى ثلاث مرات في المقابلة" حقيقة؛ "لقد كان مكتئبا" تعليق لا يمكن كتابته دون أساس سريري. يبرز السجل الحقيقة ولا يتضمن تفسيرا إلا مع وضع علامات وتبريرات واضحة. يستطيع الذكاء الاصطناعي المزج بين الاثنين بطلاقة؛ ومن واجب الشخص أن يميز ويتجنب وصم اللغة.
4. ما هو الدور الذي يجب أن يلعبه الذكاء الاصطناعي في تحديد ما إذا كان الطفل آمنًا في المنزل أو مستوى خطورة الحالة؟
- أ) يستطيع الذكاء الاصطناعي قراءة الحالة وتحديد مستوى المخاطرة واتخاذ القرار الأمني
- ب) يمكن لعلامة "منخفضة المخاطر" التي يطلقها الذكاء الاصطناعي أن تتجاوز ملاحظة الخبير التي تشير إلى عكس ذلك
- ج) يقوم الذكاء الاصطناعي بتذكير العوامل وتنظيم الملاحظات فقط؛ مستوى المخاطر وقرار السلامة يعود للخبير والفريق والإشراف والإجراءات القانونية ✔
- د) يعد الذكاء الاصطناعي أكثر موثوقية من البشر في اتخاذ قرارات المخاطر لأنه غير متحيز.
الوصف: مستوى المخاطر والقرار الأمني؛ فهو يتطلب سلطة مهنية وحكمًا سريريًا ورأي فريق متعدد التخصصات والإشراف والمسؤولية القانونية. هنا، يستطيع الذكاء الاصطناعي فقط تذكر عوامل الخطر/الحماية وتحرير الملاحظات؛ لا يمكن أن تنتج النتائج أو القرارات. وقد تنسب أيضًا مخاطر عالية منهجية إلى الفئات المحرومة بسبب التحيز في بيانات التدريب، لذلك لا يمكن استخدام نتائجها كقرار.
5. ما الذي يجب فعله عندما يقدم الذكاء الاصطناعي معلومات إحالة للعميل من خلال قول "هذا المركز، هذا الهاتف"؟
- أ) التأكد من العنوان ورقم الهاتف من المصدر الرسمي والحالي للمؤسسة قبل تسليمهما للعميل ✔
- ب) نقل المعلومات مباشرة إلى العميل حيث يتم تقديمها بثقة
- ج) على افتراض أن المعلومات صحيحة تمامًا طالما أن الذكاء الاصطناعي يعطي تاريخًا حاليًا
- د) الاعتقاد بأنه لا داعي للتحقق من دقة المعلومة لأنها مذكورة في مكان ما.
الوصف: قد يقوم الذكاء الاصطناعي بتكوين الخدمات ومتطلبات التطبيقات والعناوين وأرقام الهواتف أو تقديم معلومات قديمة؛ تندمج المؤسسات، وتتحرك، وتغلق. سيؤدي إرسال العميل إلى عنوان لم يتم التحقق منه إلى إضاعة الرحلة وفقدان الثقة. ولذلك، يجب التأكد من معلومات الاتصال المقدمة من الذكاء الاصطناعي من خلال القناة الرسمية الخاصة بالمؤسسة قبل نقلها إلى العميل.
6. من يجب أن يحدد الأهداف في خطة الاستجابة وما هو دور الذكاء الاصطناعي؟
- أ) يجب على الذكاء الاصطناعي تحديد الأهداف وكتابة الخطة بأكملها دون طلب ذلك من العميل.
- ب) يحدد العميل (مع الأخصائي) الأهداف؛ يضعها الذكاء الاصطناعي في تنسيق SMART وينظمها، ولا يضيف أهدافًا جديدة ✔
- ج) الأهداف غير مهمة؛ كلما زادت الأهداف التي تتضمنها الخطة، كلما كان ذلك أفضل.
- د) قد يتجاهل الذكاء الاصطناعي أولويات العميل لأنه يبدو احترافيًا
الوصف: القيمة الأساسية للعمل الاجتماعي هي "تقرير المصير": يحدد العميل الأهداف والأولويات، ويشكلها بالمعرفة المهنية المتخصصة. ويضع الذكاء الاصطناعي هذه الأهداف في صيغة SMART ويقترح خطوات ومؤشرات؛ لكنه لا يستطيع إضافة أهداف جديدة لا يقولها العميل. لا يمكن تطبيق خطة أجنبية مفروضة من الخارج على العميل.
7. في تقرير التحقيق الاجتماعي الذي سيتم تقديمه إلى المحكمة، في أي قضية يكون الذكاء الاصطناعي هو الأكثر خطورة؟
- أ) القدرة على اختراع تواريخ أو ملاحظات أو اقتباسات غير موجودة ليظهر التقرير "مكتملاً" ✔
- ب) جعل لغة النص رسمية للغاية
- ج) كتابة التقرير في مدة أقصر مما هو مطلوب
- د) الترتيب الأبجدي للعناوين
توضيح: أخطر نزعة للذكاء الاصطناعي هي إضافة تاريخ أو ملاحظة أو اقتباس غير موجود لجعل التقرير يبدو "مكتملاً". إن الجملة الملفقة في تقرير المحكمة يمكن أن تؤدي إلى تضليل القرار وتدمير مصداقية الخبير. ولذلك يجب أن ترتبط كل حالة بمقابلة/ملاحظة/وثيقة حقيقية، ويجب أن يتم تكوين الرأي المهني من قبل الخبير.
8. من الذي يجب عليه كتابة قسم الرأي والرأي (الاقتراح) المهني في تقرير التحقيق الاجتماعي؟
- أ) الذكاء الاصطناعي؛ لأنه ينتج توصية أكثر حيادية
- ب) لا يتم ملء قسم الرأي مطلقًا عند كتابة التقرير.
- ج) الذكاء الاصطناعي يكتب الرأي، ولا يوقع الخبير إلا في النهاية
- د) خبير. الرأي والرأي المهني هو سلطته ومسؤوليته، الذكاء الاصطناعي يوضح اللغة فقط ✔
بيان: الرأي والرأي المهني - "هذه هي المصلحة الفضلى لهذا الطفل"، "هذا الترتيب مناسب" - هو السلطة القانونية والمسؤولية للخبير. "ما الذي أوصي به للذكاء الاصطناعي؟" ولا يُسأل؛ قد يكون "الاقتراح" الذي يقدمه ملفقًا ونقلًا للمسؤولية. وفي أحسن الأحوال، يوضح الذكاء الاصطناعي لغة الرأي الذي يكتبه الخبير.
9. ما هو التحكم الأكثر أهمية عند تبسيط رسالة مساعدة رسمية ثقيلة لعميل يتمتع بالذكاء الاصطناعي؟
- أ) اجعل النص قصيرًا قدر الإمكان، ولا تنظر إلى التفاصيل
- ب) تبدو النتيجة بطلاقة وجمالية
- ج) التحقق من عدم إغفال أي حقوق أو شروط أو مبالغ أو تواريخ أو إشعارات بالمقارنة مع الأصل✔
- د) التبسيط يوفر الراحة للعميل من خلال إعطائه معلومات أقل.
الشرح: التبسيط لا يعني التحريف؛ من خلال "تقصير" أو "تبسيط" يمكن للذكاء الاصطناعي ابتلاع حق أو شرط أو مبلغ أو تاريخ أو إشعار. قد يفقد العميل حقه بمعلومات "سهلة" ولكنها غير كاملة. لذلك، يجب مقارنة النص المبسط بالنص الأصلي والتحقق من عدم فقدان أي معلومات مهمة، وحتى أن يقوم الذكاء الاصطناعي بسرد العناصر المهمة التي يحميها.
10. ما مدى صحة التعامل مع الإحصائيات التي ينتجها الذكاء الاصطناعي عند صياغة طلب التمويل؟
- أ) استخدام الإحصائيات التي يقدمها الذكاء الاصطناعي مباشرة لجعلها تبدو مثيرة للإعجاب
- ب) عدم قيام الذكاء الاصطناعي بعمل إحصائيات وطباعة [البيانات المطلوبة] عند الضرورة ووضع كل رقم من المصدر الحقيقي ✔
- ج) على اعتبار أن المصدر غير مهم طالما أن الرقم مدرج في الطلب.
- د) على افتراض أنه ليست هناك حاجة للتحقق من الإحصائيات لأن الذكاء الاصطناعي يكتب بثقة
الوصف: يمكن للذكاء الاصطناعي أن يشكل إحصائيات مذهلة ولكن لا تعتمد على مصادر؛ الرقم بدون مصدر غالبًا ما يكون غير موثوق به. إن وجود إحصائية ملفقة في الطلب سيؤدي إلى رفض الطلب وتدمير مصداقية المؤسسة. النهج الصحيح هو عدم جعل الذكاء الاصطناعي يقوم بتكوين أرقام ("اكتب [البيانات مطلوبة]") ووضع كل رقم من المصدر الحقيقي الذي تم التحقق منه.
11. لماذا من المضر أن نسأل الذكاء الاصطناعي "اشرح لماذا هذه الأسرة غير كافية في تربية الأطفال"؟
- أ) لأن السؤال طويل جدًا
- ب) حيث أن الذكاء الاصطناعي لا يستطيع تقديم أي معلومات تتعلق بشؤون الأسرة
- ج) لأنه يفترض النتيجة منذ البداية، فإن الذكاء الاصطناعي (بشكل تملق) ينتج تأكيدًا متحيزًا وغير مثبت؛ يجب أن يكون السؤال محايداً ومتوازناً✔
- د) لأن الذكاء الاصطناعي سيكتب دائمًا لصالح الأسرة
توضيح: هذا السؤال يفترض النتيجة ("غير كافية"). وينتج الذكاء الاصطناعي نصاً خالياً من الأدلة ومتحيزاً يؤكد هذا الافتراض مع ميله إلى التملق (أكد تلميحك). السؤال المتحيز يخلق إجابة متحيزة. في الواقع، إنه سؤال محايد لا يفترض النتيجة، ويوازن بين نقاط القوة والمخاوف، ويطلب الأدلة فقط.
12. كيفية تطبيق "اختبار الزاوية" للتحقق من التحيز في مخرجات الذكاء الاصطناعي؟
- أ) التفكير في نفس الموقف لمجموعة مختلفة والسؤال "هل يمكن كتابة هذا بنفس اللغة؟" ✔اختبار المعايير المزدوجة بالسؤال
- ب) قبول الإجابة الأولى للذكاء الاصطناعي على أنها محايدة وعدم البحث عن زاوية أخرى
- ج) طرح الأسئلة التي تدعم مجموعة العميل فقط
- د) بافتراض عدم وجود حاجة لرقابة إضافية لأن التحيز غير موجود في الذكاء الاصطناعي على الإطلاق
Explanation: يمكن للذكاء الاصطناعي أن يكتب نفس السلوك بنبرة مختلفة لمجموعات مختلفة (على سبيل المثال، "خطر الإهمال" للعائلة ذات الدخل المنخفض، و"الوالد القسري" لذوي الدخل المرتفع). اختبار الانقلاب هو "إذا كان العميل من مجموعة اجتماعية واقتصادية/عرقية مختلفة، فهل سيتم كتابة هذا بنفس اللغة؟" هو أن نسأل؛ وهذا يجعل المعايير المزدوجة واضحة على أساس الصور النمطية، وليس الأدلة.
13. ما هو الأسلوب الصحيح لتلخيص الملف الفعلي للعميل (بما في ذلك الاسم والعنوان والمعلومات الصحية)؟
- أ) للسرعة، قم بلصقها في أقرب أداة ذكاء اصطناعي عامة وقم بتلخيصها
- ب) معالجة الملف دون الاهتمام بالخصوصية لأنه قصير
- ج) أدخل كل شيء بما في ذلك المعلومات الصحية واحفظ النتيجة فقط
- د) تتم المعالجة فقط في نظام آمن معتمد من قبل المؤسسة أو بنص غير محدد الهوية، مع الحد الأدنى من البيانات ✔
الإفصاح: لا يتم أبدًا إدخال البيانات الشخصية التي تحدد هوية العميل - وخاصة البيانات الحساسة مثل الصحة - في أداة عامة لم توافق عليها المؤسسة؛ قد تتم معالجة النص أو تخزينه على خوادم خارجية أو استخدامه في التدريب النموذجي، ولا يمكن التراجع عن عملية التسرب. وهذا أيضًا انتهاك لـ KVKK. يتم تنفيذ هذا النوع من العمل فقط في الأنظمة الداخلية والآمنة والمعتمدة التي لا تسرب البيانات أو تحتوي على نصوص غير محددة الهوية.
14. لماذا لا يكون حذف الأسماء من المستند كافيًا دائمًا لإلزامه بأداة عامة؟
- أ) يعد حذف الأسماء دائمًا إخفاءًا كاملاً للهوية ويجعل كل مستند آمنًا
- ب) طالما أن الوثيقة قصيرة، فمن المستحيل استنتاج الهوية من السياق
- ج) يقع المستند الذي تم حذف اسمه بالكامل خارج نطاق KVKK.
- د) السياق (الحي، العمر، الحدث، بنية الأسرة) قد يعيد تأكيد الهوية؛ يتم توفير الحماية عن طريق اختيار الأداة والبيئة ✔
توضيح: حتى لو تم حذف الأسماء، فإن السياق (مزيج نادر من الحي، والعمر، والحدث، والتاريخ، وبنية الأسرة، وما إلى ذلك) يمكن أن يجعل من الممكن التعرف على الشخص؛ ربما يكون هو الشخص الوحيد في الحي الذي ينطبق عليه هذا الوصف. الحماية الحقيقية لا يتم توفيرها عن طريق الإخفاء، ولكن عن طريق اختيار الأداة والبيئة المناسبة؛ السياق هو أيضًا بيانات شخصية ويجب حماية المعلومات غير المؤكدة كفئة أعلى.
15. من تقديم الطلب إلى إغلاق القضية، ما هي الطريقة الأكثر فعالية لمنع خطأ واحد في الذكاء الاصطناعي من التسرب إلى القرار النهائي؟
- أ) تفويض العملية بأكملها إلى أداة واحدة للذكاء الاصطناعي والتوقيع مرة واحدة فقط في النهاية
- ب) وضع بوابة تحقق بشرية وحالة النجاح في كل مرحلة (التحقق الطبقي) ✔
- ج) إزالة عمليات التحقق المتوسطة من السرعة والتحقق فقط في مرحلة الإخراج
- د) السماح لكل خبير باستخدام أداته الخاصة بحرية دون الاحتفاظ بسجلات
الوصف: يتم وضع بوابة تحقق بشرية في كل مرحلة (التطبيق/السرية، التقييم/الحكم السريري، المخاطر/التفويض، الخطة/التحقق، التقرير/الأدلة، الإغلاق/الدقة)؛ لا يمكنك المرور من باب واحد دون المرور من آخر. يمنع هذا الهيكل متعدد الطبقات الهلوسة أو التحيز أو خطأ السرية في مرحلة ما من التسرب إلى القرار الذي يؤثر على العميل.