المكاسب:
- القدرة على ربط مبادئ الذكاء الاصطناعي المسؤولة (العدالة والشفافية والمساءلة والخصوصية والرقابة البشرية والأمن والاستدامة) بقرارات ملموسة
- القدرة على اختبار الأطراف المتضررة والتحيز من خلال فصل الأخلاق عن الامتثال القانوني والتمييز بين "نستطيع" و"ينبغي"
- القدرة على تقليل سيناريوهات إساءة الاستخدام مسبقًا من خلال دمج الشفافية والمراقبة البشرية والجاذبية في التصميم
يمكن لشركة ناشئة في مجال الذكاء الاصطناعي أن تكون مثالية من الناحية التقنية، ومربحة ماليًا، وقابلة للاستمرار من الناحية القانونية؛ ولكن لا يزال من الممكن أن يكون خطأ. الأخلاق هي الفرق بين "نستطيع" و"يجب علينا". بالنسبة إلى أحد كبار المديرين، فإن الأخلاقيات ليست مسألة تجميل أو علاقات عامة؛ وهو الأساس الذي يحافظ على موثوقية المؤسسة وسمعتها وشرعيتها الاجتماعية على المدى الطويل. في هذه الوحدة، ستتعلم مبادئ الذكاء الاصطناعي المسؤول (نهج لتطوير واستخدام الذكاء الاصطناعي بطريقة عادلة وشفافة وخاضعة للمساءلة وتحترم كرامة الإنسان) وكيفية عكسها في القرارات اليومية.
المبادئ الأساسية للذكاء الاصطناعي المسؤول
تجتمع الأطر المختلفة على مبادئ مماثلة. ملخص عملي للمدير:
المبدأ
ماذا تقصد؟
سؤال المشرف
العدالة
عدم التمييز
هل يؤثر هذا بشكل غير عادل على المجموعة؟
الشفافية
يكون مفهوما
هل يمكننا توضيح سبب القرار؟
المساءلة
تحديد من هو المسؤول
ومن المسؤول إذا حدث خطأ؟
الخصوصية
احترام البيانات الشخصية
هل لدينا الحق في استخدام البيانات؟
المراقبة البشرية
البقاء في السيطرة
هل يمكن للمرء أن يعترض ويوقفه؟
الأمن
لا ضرر ولا ضرار
هل يمكن إساءة استخدام هذا؟
الاستدامة
التأثير البيئي/الاجتماعي
لمن نفرض التكلفة؟
هذه المبادئ ليست مجردة. ويمكن ربط كل واحد منهم بقرار ملموس. على سبيل المثال، تعني "الشفافية" السماح للعميل بمعرفة أنه يتحدث إلى الذكاء الاصطناعي؛ "الرقابة البشرية" تعني إجراء مراجعة بشرية لرفض القرض وترك الأمر مفتوحًا للاستئناف.
نصيحة: مع كل قرار عالي التأثير يعتمده الذكاء الاصطناعي، اطرح سؤالاً واحدًا: "هل يمكنني شرح هذا القرار بوضوح والوقوف وراءه للشخص الأكثر تأثرًا سلبًا؟" إذا كان الرد مسيئا، فهناك مشكلة أخلاقية.
الأخلاق تختلف عن القانون
هناك تمييز حاسم: الامتثال القانوني (الوحدة 9) هو الحد الأدنى؛ الأخلاق هي خط أعلى. قد يكون هناك شيء قانوني ولكنه غير أخلاقي. على سبيل المثال، قد لا يُمنع أحد التطبيقات من استخدام الذكاء الاصطناعي للتلاعب بسلوك المستخدم، ولكنه أمر غير أخلاقي. المؤسسات المسؤولة "هل هو حرام؟" ليس "هل هذا صحيح؟" يسأل.
خطوة بخطوة: تضمين الأخلاق في القرار
1. تحديد الأطراف المتضررة. من المتأثر بهذه المبادرة؟ (العميل، الموظف، المجتمع، الفئات المحرومة)
2. المسح باستخدام السياسات. سؤال المبادرة من حيث كل من المبادئ المذكورة أعلاه.
3. اختبار التحيز والضرر. هل يؤثر النموذج بشكل غير عادل على مجموعات معينة؟ ما هي سيناريوهات سوء الاستخدام؟
4. أضف الشفافية والرقابة. الإبلاغ عن استخدام الذكاء الاصطناعي، دون ترك أي مجال للاعتراض البشري.
5. الوثائق والمراجعة. حفظ التقييم الأخلاقي؛ التحقق مرة أخرى بشكل دوري.
ثلاث حالات صغيرة
الحالة 1 – قانونية ولكنها خاطئة. يستخدم أحد التطبيقات الذكاء الاصطناعي لإنشاء إشعارات إدمانية لإبقاء المستخدمين في التطبيق لفترة أطول. لم يكن هناك أي عائق قانوني، ولكن عندما تم نشر ذلك في الصحافة، كانت هناك خسارة خطيرة في السمعة؛ أثار استهدافها للمستخدمين الشباب على وجه الخصوص انتقادات. قامت الشركة بإزالة الميزة. ولو كان الفلتر الأخلاقي منذ البداية لظهر هذا الخطر.
الحالة الثانية – قيمة اختبار العدالة. لقد أعطى نموذج التصنيف الائتماني الخاص بالبنك بشكل منهجي درجات أقل للطلبات المقدمة من المجموعات المحمية. تم القبض على هذا في تدقيق العدالة. وقد تم إعادة تصميم النموذج واختباره بانتظام لضمان العدالة بين المجموعات في نتائجه. تحول المبدأ الأخلاقي (العدالة) إلى اختبار ملموس ويمنع الضرر الحقيقي.
الحالة 3 - الشفافية تبني الثقة. وضعت إحدى شركات التجارة الإلكترونية عبارة "مساعد الذكاء الاصطناعي يساعدك، يمكنك الاتصال بممثل بشري في أي وقت" في بداية برنامج الدردشة الآلي لدعم العملاء الخاص بها. الشفافية وخروج الإنسان لم يقللا من الرضا؛ وعلى العكس من ذلك، زادت الثقة وانخفضت الشكاوى بنسبة 15%. فالشفافية التي يتم تنفيذها بشكل صحيح هي قيمة وليست تكلفة.
أربعة قوالب قابلة للنسخ
1) الفحص الأخلاقي:
دورك: مستشار مسؤول في الذكاء الاصطناعي. قم بمسح هذه المبادرة بحثًا عن 7 مبادئ: العدالة، والشفافية، والمساءلة، والخصوصية، والرقابة البشرية، والأمن، والاستدامة. لكل سياسة، اكتب خطرًا واحدًا وتوصية واحدة. المبادرة: [النص]
2) تحليل الأطراف المتضررة:
قم بإدراج جميع الأطراف المتأثرة بمبادرة الذكاء الاصطناعي هذه (العميل، الموظف، المجتمع، الفئات المحرومة). قم بتدوين التأثيرات الإيجابية والسلبية المحتملة لكل طرف؛ ضع علامة على المجموعة الأكثر عرضة للأذى. المبادرة: [النص]
3) سيناريو الإساءة:
قم بإنشاء 5 سيناريوهات يمكن فيها إساءة استخدام ميزة الذكاء الاصطناعي التالية (بما في ذلك التلاعب والتمييز وانتهاك الخصوصية والخداع). اقترح قرار تصميم وقائي لكل سيناريو. السمة: [النص]
4) الشفافية ورقابة المراقبة:
اكتب خطة للشفافية والإشراف البشري للذكاء الاصطناعي الذي يواجه العملاء بحيث: ما الذي سيتم توصيله إلى المستخدم وكيف؛ وكيف يمكن أن ينتقل إلى الإنسان؟ وكيف يمكنه الاعتراض على القرار؟ الاستخدام: [النص]
موجه ضعيف / موجه قوي
ضعيف: "هل هذا الذكاء الاصطناعي أخلاقي؟"
النتيجة: "نعم/لا" سطحية؛ ما هو المبدأ، ومن يتأثر، وما هو الإجراء غير واضح.
سترونج: "نحن نفكر في استخدام الذكاء الاصطناعي في أداة الفحص المسبق للتوظيف (الإرادة البشرية هي التي ستتخذ القرار النهائي). قم بفحص ذلك لمبادئ العدالة والشفافية والمساءلة والرقابة البشرية. اكتب بشكل ملموس مجموعات المرشحين التي قد تتأثر بشكل غير عادل، وما هي اختبارات التحيز التي يتعين علي إجراؤها، وكيف يمكن للمرشحين الطعن في القرار."
النتيجة: تقييم عملي قائم على المبادئ يحدد الطرف المتضرر ويقترح الاختبار والاستئناف.
الأخطاء الشائعة
- الخلط بين الأخلاق والالتزام القانوني. ليس كل ما هو قانوني هو أخلاقي؛ الأخلاق هي خط أعلى.
- ترك الأخلاق إلى الأبد. الحصول على "الموافقة الأخلاقية" بعد فوات الأوان للتصميم؛ يجب أن تكون الأخلاق جزءا لا يتجزأ من التصميم من البداية.
- عدم اختبار العدالة. إن الافتراض بأن «نموذجنا محايد» أمر خطير؛ ولا يمكن معرفتها بدون قياس.
- الخلط بين الشفافية والتكلفة. إن الشفافية بشكل صحيح تزيد من الثقة والقيمة.
- إبقاء الجوانب المصابة ضيقة. إن التفكير في العميل فقط وتجاهل الموظف والمجتمع والفئات المحرومة يخلق نقطة عمياء.
تحذير: ترك التقييم الأخلاقي بالكامل للذكاء الاصطناعي أمر متناقض وخطير. يمكن أن يساعد الذكاء الاصطناعي في إثارة أسئلة أخلاقية، لكن الحكم القيمي والسياق الثقافي والمسؤولية الأخلاقية النهائية تقع على عاتق الإنسان. يتم تحديد الموقف الأخلاقي لأي منظمة من خلال الاختيارات الواعية للأشخاص، وليس من خلال "الذكاء الاصطناعي قال ذلك".
في ملخص
الأخلاق هي الفرق بين "نستطيع" و"ينبغي" وتحمي مصداقية المنظمة على المدى الطويل. الذكاء الاصطناعي المسؤول؛ وهو يقوم على مبادئ العدالة والشفافية والمساءلة والخصوصية والرقابة البشرية والأمن والاستدامة. هذه المبادئ ليست مجردة. إنه يترجم إلى قرارات ملموسة مثل تحديد الأطراف المتضررة، واختبار التحيز، وتوفير الشفافية، وإضافة الرقابة البشرية. الأخلاق تختلف عن القانون وهي خط أسمى؛ لا يمكن تركه حتى النهاية، بل يجب تضمينه في التصميم. في الوحدة التالية، سنناقش الامتثال، وهو المعادل القانوني للأخلاقيات، وخاصة قانون الذكاء الاصطناعي للاتحاد الأوروبي وKVKK.
مهمة التطبيق
اختر شركة ناشئة عالية التأثير تعمل بالذكاء الاصطناعي. باستخدام النموذج 2، قم بإدراج جميع الأطراف المتأثرة ووضع علامة على المجموعة الأكثر احتمالية للتضرر. باستخدام النموذج 1، قم بمسح المبادرة بحثًا عن المبادئ السبعة. تحديد إجراء ملموس (اختبار العدالة، وإخطار الشفافية، وطريق الاستئناف، وما إلى ذلك) للمخاطر الأخلاقية الأكثر أهمية. وأخيرا، “هل يمكنني شرح هذا القرار للشخص الأكثر تأثرا سلبا؟” أجب على السؤال بصراحة.
قائمة مرجعية
- [ ] لقد قمت بتحديد جميع الأطراف المتضررة.
- [ ] لقد قمت بفحص الشركة الناشئة مع سبعة مبادئ للذكاء الاصطناعي المسؤول.
- [ ] لقد خططت لاختبار التحيز/الإنصاف.
- [ ] لقد قمت بتصميم بيان الشفافية.
- [ ] لم أترك مجالاً للرقابة البشرية والاستئناف.
- [ ] فكرت في سيناريوهات إساءة الاستخدام.
- [ ] "هل يمكنني أن أشرح ذلك للشخص الأكثر تأثراً سلباً؟" لقد نجحت في الاختبار.