المكاسب:
- القدرة على تصنيف بيانات الطلاب وإخفاء هويتها في إطار KVKK ومفاهيم البيانات الشخصية الخاصة وتطبيق الاختيار الآمن للمركبة
- القدرة على تكييف مبادئ الأخلاقيات المهنية PDR (السرية، الإحسان، عدم الإيذاء، الاستقلالية) لاستخدام الذكاء الاصطناعي
- القدرة على التعرف على التحيز وعدم الحساسية الثقافية والهلوسة في مخرجات الذكاء الاصطناعي وإنشاء سياسة استخدام أخلاقية
الثقة هي جوهر مهنة PDR. إذا كان بإمكان الطالب أن يخبر أحد المتخصصين بمشاعره الحميمية وعائلته ومخاوفه، فذلك فقط لأنه يعتقد أن المعلومات ستكون محمية. تشكل أدوات الذكاء الاصطناعي اختبارًا جديدًا جديًا لهذه الثقة: فالبيانات الأكثر حساسية يمكن أن تخرج عن نطاق السيطرة في جملة واحدة. في هذه الوحدة، نناقش بشكل منهجي الخصوصية وأخلاقيات المهنة KVKK وPDR وكيفية تطبيقها على استخدام الذكاء الاصطناعي. وقد طبقنا هذه المبادئ قطعة قطعة في الوحدات السابقة؛ وهنا سنجمعها ككل ونحولها إلى سياسة دائمة.
KVKK وأنواع البيانات: ما هو الأكثر حماية
KVKK (قانون حماية البيانات الشخصية) هو القانون الذي ينظم المعالجة القانونية لبيانات الأشخاص. هناك مفهومان لهما أهمية خاصة. البيانات الشخصية هي أي معلومات تحدد هوية شخص ما أو تحدد هويته: الاسم واللقب ورقم المدرسة والصف والعنوان والصورة. البيانات الشخصية الخاصة هي نوع من البيانات الحساسة التي تتطلب حماية أعلى: الصحة، الحالة العقلية، التشخيص، الحياة الجنسية، الدين، العرق، الحالة الجنائية. تقع غالبية سجلات PDR ضمن هذه الفئة الثانية الحساسة؛ لأن الحالة العقلية وقضايا الأسرة وتاريخ الدعم هي بيانات خاصة مباشرة. وهذا يعني أنه لا ينبغي أبدًا إدخال بيانات PDR في شكلها الأولي في الأدوات العامة.
ومن الناحية العملية، يُترجم هذا إلى ثلاث قواعد: (1) تقليل البيانات - العمل بأقل قدر من البيانات اللازمة للقيام بعمل ما. (2) إخفاء الهوية - جعل البيانات غير قابلة للربط بالفرد عن طريق إزالة معلومات التعريف الشخصية. (3) تأمين الوسائل وحدود الأغراض - استخدم أدوات المؤسسة المؤمنة بالبيانات حيثما أمكن ذلك، وقم بمعالجة البيانات فقط للغرض الذي تم جمعها من أجله.
انتبه: لا يكفي أن تقول "لقد قمت بإخفاء هويته بطريقة ما". حتى لو تم حذف اسم من النص، فإن الوصف الفريد للموقف (موقف محدد جدًا لطالب واحد في مدرسة صغيرة) يمكن أن يجعل التعرف على الشخص ممكنًا. في عملية إخفاء الهوية، لا ينبغي تعميم الاسم فحسب، بل أيضًا التفاصيل التي تشير معًا إلى الشخص.
ممارسة إخفاء الهوية: إجراء التحكم
قبل تصدير نص إلى الأداة، اتبع هذا الإجراء: (أ) قم بإزالة المعرفات المباشرة مثل الاسم واللقب والرقم وفرع الفصل واسم ولي الأمر والعنوان والهاتف واسم المدرسة. (ب) تعميم الأوصاف غير المباشرة: "طالب في المدرسة الإعدادية" بدلاً من "الطالب الوحيد ضعيف البصر في 12-ب". (ج) طمس التاريخ وتفاصيل الحدث حسب الضرورة. (د) ما بعد القراءة: "هل يستطيع أي شخص يقرأ هذا النص أن يعرف من هو المذكور؟" إذا كانت الإجابة غامضة، قم بتعميمها أكثر. تتم كتابة السجل الموثق فقط على النظام المغلق والآمن للمؤسسة؛ أداة الذكاء الاصطناعي خارج هذا النظام.
الأخلاقيات المهنية PDR والذكاء الاصطناعي
تعتمد أخلاقيات مهنة PDR على أربعة مبادئ أساسية، ينطبق كل منها بشكل مباشر على استخدام الذكاء الاصطناعي:
- السرية (حفظ الأسرار): معلومات الطالب محمية. يعد عدم إدخال البيانات الأولية في الذكاء الاصطناعي وإخفاء هويتها واختيار أداة آمنة من متطلبات هذا المبدأ.
- الإحسان: كل ما يتم فعله يجب أن يخدم رفاهية الطالب. يتم استخدام الذكاء الاصطناعي من أجل الراحة، وليس بطريقة من شأنها أن تضر بمصلحة الطالب.
- عدم الضرر: الأولوية هي عدم الإضرار. إن النتائج التي لم يتم التحقق منها، والإحصاءات غير الدقيقة، ووضع العلامات، واستخدام الذكاء الاصطناعي في الأزمات هي مخاطر الضرر؛ ولذلك فإن التحقق وحدود الأزمة يعدان ضرورة أخلاقية.
- الاستقلالية: حق الطالب في اتخاذ قراره محمي. يجب ألا يقتصر الذكاء الاصطناعي على الطالب أو يتخذ قرارات نيابة عنه.
وتضاف المساءلة إلى ذلك: فالمسؤولية عن كل مخرجات مستخدمة تقع على عاتق الخبير؛ عبارة "أنتجها الذكاء الاصطناعي" ليست دفاعًا.
التحيز والحساسية الثقافية والشفافية
يمكن أن يعكس الذكاء الاصطناعي الأنماط الاجتماعية في بيانات التدريب. في نظام الديمقراطية الشعبية، هذه مسألة عدالة: فالنتائج التي تصور الطالب بشكل نمطي وفقًا لجنسه أو ثقافته أو وضعه الاجتماعي والاقتصادي تقوض تكافؤ الفرص. يقوم الخبير بفحص المحتوى المنتج للتأكد من حساسيته الثقافية وتحيزه. الشفافية أيضًا: عند الاقتضاء، ينبغي التوضيح داخليًا أن الذكاء الاصطناعي قد تم استخدامه في إعداد المادة أو المسودة؛ ولا ينبغي استخدامه باعتباره "سحرًا" سريًا. السرية ضرورية في العلاقة مع الطالب؛ ما يشرحه الطالب لا ينتقل إلى السيارة.
خطوة بخطوة: وضع سياسة استخدام الذكاء الاصطناعي
- تصنيف البيانات. قم بفصل جميع المعلومات التي لديك إلى "شخصية/خاصة/عامة".
- اختر مركبة. الأداة المؤسسية الآمنة الوحيدة للبيانات الحساسة؛ العمل بشكل مجهول للمخطط العام.
- اتبع إجراءات إخفاء الهوية. قم بتشغيل روتين التحقق قبل كل إدخال.
- التحقق من الصحة والتحقق من التحيز. افحص كل مخرجات لمعرفة الحقيقة والإنصاف.
- الحفاظ على حد الأزمة. أبقِ علاقة الأزمة والتشاور خارج السيارة.
- تحمل المسؤولية وكن شفافاً. الموافقة النهائية تعود للخبير. الاستخدام مفتوح داخل المنظمة.
قوالب قابلة للنسخ
1) التحكم في إخفاء الهوية:
دورك: مساعد تدقيق الخصوصية. قم بإدراج كل عبارة في النص أدناه يمكن أن تحدد هوية الشخص بشكل مباشر أو غير مباشر (الاسم والرقم والصف والمدرسة ووصف الحالة الفريدة) واقتراح بديل أكثر عمومية لكل منها. محتوى التعليق.النص: [لصق النص]
2) تدقيق التحيز والحساسية الثقافية:
تحقق من مواد PDR التالية بحثًا عن التحيز والحساسية الثقافية: هل تحتوي على صور نمطية حول الجنس أو الثقافة أو الوضع الاجتماعي والاقتصادي أو بنية الأسرة؟ من يستطيع الاستبعاد؟ ضع علامة على العبارات الخطرة واقترح بدائل شاملة. المادة: [لصق المادة]
3) مسودة سياسة استخدام الذكاء الاصطناعي في الشركة:
دورك: مساعد كتابة PDR. بالنسبة لخدمة التوجيه، صياغة سياسة داخلية قصيرة حول استخدام أدوات الذكاء الاصطناعي. العناوين: في أي وظائف يتم استخدامها، وفي أي وظائف لا يتم استخدامها (الأزمات، التشخيص، الاستشارة)، قاعدة إخفاء هوية البيانات، التزام التحقق، المسؤولية تقع على عاتق الخبير. قصيرة وقابلة للتطبيق.
موجه ضعيف / موجه قوي
ضعيف:
لتلخيص وضع أحمد يلماز 8-ج، كان يتعرض للعنف في المنزل.
يقوم بإدخال البيانات الأكثر حساسية (الاسم والفئة والحالة الخاصة) في السيارة في شكلها الأولي - وهو انتهاك خطير لـ KVKK والأخلاق؛ علاوة على ذلك، يمكن أن تكون هذه حالة إعلام (الوحدة 9).
قوي:
دورك: مساعد التحكم في الخصوصية. ملحوظة: لقد قمت بإخفاء هوية النص أدناه قبل إرساله إلى الأداة. ومع ذلك، تحقق مرة أخرى: هل هناك أي تفاصيل متبقية تجعل من الممكن التعرف على الشخص؟ النص: "ألمح أحد طلاب المدرسة الإعدادية إلى أنه يعاني من التوتر في المنزل."
ثلاث حالات صغيرة
الحالة 1 - الإفصاح غير المباشر. كان أحد الخبراء على وشك إدخال نص في الأداة التي حذف الاسم منها؛ لكنه أدرك أن عبارة "الطالب الوحيد في المدرسة الذي يستخدم الكرسي المتحرك" تشير مباشرة إلى ذلك الشخص. وعمم هذا على "الطالب". لم يكن صنع الاسم وحده كافيا؛ كان وصف الوضع الفريد محددًا أيضًا.
الحالة 2 - تصحيح التحيز. وجد أحد الخبراء الذين قام بمراجعة المواد المهنية أن الذكاء الاصطناعي يستخدم دائمًا أسماء الذكور في الأمثلة الهندسية وأسماء الإناث في مهن الرعاية. لقد قام بموازنة العينات وكسر القالب. لقد حافظ هذا التصحيح البسيط على ما يبدو على عدالة الرسالة المرسلة إلى الطلاب.
الحالة 3 - وضع السياسة. أنشأت خدمة التوجيه نصًا مشتركًا للسياسة الداخلية لإزالة الارتباك الناجم عن حقيقة أن كل شخص يستخدم الذكاء الاصطناعي بشكل مختلف: في أي المهام يتم استخدامه، وليس في الأزمات والتشخيص، وتكون البيانات مجهولة المصدر، ويتم التحقق من المخرجات، وتقع المسؤولية على عاتق الخبير. قدمت منظمة العفو الدولية مسودة؛ أنهى الفريق المحتوى بقيمهم الخاصة. لقد أفسح عدم اليقين المجال أمام إطار واضح.
الأخطاء الشائعة
- إدخال البيانات الخام. الكتابة إلى السيارة بالاسم/الحالة. الحل: إجراء إخفاء الهوية، أداة آمنة.
- مجرد إزالة الاسم. نسيان المعرفات غير المباشرة. الحل: تعميم التفاصيل الفريدة أيضًا.
- تجاهل التحيز. اعتماد الإخراج النمطي. الحل: تدقيق التحيز والثقافة.
- وضع المسؤولية على السيارة. وهذا يعني "أنتجه الذكاء الاصطناعي". الحل: المساءلة تقع على عاتق الخبير.
- سوء الاستخدام. معالجة البيانات التي تم جمعها لغرض واحد لغرض آخر. الحل: احترام حد الغرض.
الجدول: نوع البيانات وقاعدة الذكاء الاصطناعي
نوع البيانات
مثال
حكم الذكاء الاصطناعي
عام
مقدمة عن المهنة العامة
متاحة بحرية
البيانات الشخصية
الاسم، الرقم، الصف
لا يمكن الدخول دون إخفاء الهوية
بيانات نوعية خاصة
الحالة النفسية، الأسرة، التشخيص
لا يمكن أبدا أن يتم إدخالها في شكلها الخام.
بيانات الأزمة
خطر، إساءة، انتحار
لا تدخل السيارة أبدًا (الوحدة 9)
باختصار
في PDR، السرية هي أساس الثقة في المهنة والمبدأ الأكثر اختبارًا في عصر الذكاء الاصطناعي. يقوم KVKK بفصل البيانات إلى بيانات شخصية وخاصة؛ تعتبر معظم بيانات PDR حساسة ولا يتم إدخالها في الأداة في شكلها الأولي. إن تقليل البيانات وإخفاء الهوية (مع المعرفات المباشرة وغير المباشرة) واختيار الأداة الآمنة هي القواعد الأساسية. إن المبادئ الأربعة للأخلاقيات المهنية - السرية، والإحسان، وعدم الإضرار، والاستقلالية - ملزمة لاستخدام الذكاء الاصطناعي؛ يتم التحكم في التحيز، وتظل المسؤولية على عاتق الخبير، ويكون الاستخدام شفافًا داخل المنظمة.
مهمة التطبيق
قم بصياغة "سياسة استخدام الذكاء الاصطناعي" مختصرة لخدمة التوجيه الخاصة بك. احصل على السبق باستخدام قالب "مسودة سياسة استخدام الذكاء الاصطناعي للمؤسسات"؛ ثم قم بتعديله ليناسب واقع مؤسستك. قم أيضًا بتمرير نص (خيالي) من خلال قالب "التحقق من إخفاء الهوية" والتقاط وتعميم معرف غير مباشر واحد على الأقل.
قائمة مرجعية
- [ ] لقد قمت بتصنيف البيانات المتوفرة لدي على أنها شخصية / خاصة / عامة.
- [ ] لقد قمت بتعميم المعرفات المباشرة وغير المباشرة في إخفاء الهوية.
- [ ] لقد استخدمت أداة آمنة/مؤسسية للبيانات الحساسة.
- [ ] لقد قمت بفحص الإخراج بحثًا عن التحيز والحساسية الثقافية.
- [ ] لقد قبلت المسؤولية وحافظت على شفافية الاستخدام.