المكاسب:
- القدرة على إنشاء مكونات إطار حوكمة الذكاء الاصطناعي الذي يوازن بين السرعة والأمان والاتساق
- القدرة على تصميم لوحة ذكاء اصطناعي متعددة الوظائف وسياسات أساسية بسيطة وقابلة للتطبيق (الاستخدام المقبول والبيانات والمخاطر)
- القدرة على تصنيف طبقات الموافقة وفقًا لمستوى المخاطر والحفاظ على الحوكمة في الميدان من خلال جرد النظام والتدقيق المنتظم
الإستراتيجية، وحالة الاستخدام، وعائد الاستثمار والمخاطر؛ كلهم أقوياء، لكنهم وحدهم فوضويون. إن ما يجمعها معًا، ويجعلها قابلة للتكرار، ويمنح الثقة للمؤسسة هو الحوكمة (الحوكمة؛ الإطار الذي يحدد من سيتخذ القرارات، وبأي قواعد وبأي سيطرة). الحوكمة هي الحل الدائم لسؤال "كيف نتعامل مع الذكاء الاصطناعي بشكل مسؤول في هذه المؤسسة؟" ستتعلم في هذه الوحدة كيفية إنشاء حوكمة الذكاء الاصطناعي والسياسات المكتوبة وهيكل مجلس إدارة اتخاذ القرار. الهدف ليس خلق البيروقراطية. لضمان التشغيل الآمن والمتكرر دون إبطاء السرعة.
لماذا تعتبر الحوكمة ضرورية؟
في منظمة لا تتمتع بالحوكمة، يضع كل فريق قواعده الخاصة: يلصق أحدهم بيانات العميل في أداة عامة، ويضع الآخر نموذجًا غير معتمد في الإنتاج، ولا يقوم أحدهم بتقييم المخاطر على الإطلاق. وعندما تنشأ المشاكل "من وافق عليها؟" لا توجد إجابة على السؤال. والحوكمة تسد هذه الفجوة: من الذي يقرر، وما هي القواعد التي تطبق، ومن الذي يراقب، ومن الذي يتحمل المسؤولية عندما تنشأ المشاكل.
إن الحكم الرشيد يوازن بين ثلاثة أشياء: السرعة (عدم خنق المبادرة)، والأمن (السيطرة على المخاطر)، والاتساق (الجميع يلعب بنفس القواعد). الإفراط في الحكم يقتل السرعة؛ الحوكمة غير المكتملة تقتل الثقة. التوازن هو الفن.
نصيحة: عند إعداد الإدارة، قم بإنشاء طبقات بناءً على مستوى المخاطر، من "المسار الأبطأ والأكثر أمانًا" إلى "المسار الأسرع والأكثر خطورة". يجب أن يتدفق العمل منخفض المخاطر بسرعة؛ فقط الأعمال ذات المخاطر العالية يجب أن تخضع لموافقة صارمة. إن تطبيق نفس العملية المرهقة على الجميع يجعل الحكم عدواً.
مكونات الحوكمة
مكون
ماذا يفعل؟
مثال
مجلس الذكاء الاصطناعي
القرار الاستراتيجي، الأولوية، الموافقة
الاجتماع الشهري، موافقة عالية المخاطر
مجموعة السياسات/المبادئ
قواعد مكتوبة
الاستخدام المقبول، البيانات، المورد
الأدوار والملكية
من المسؤول عن ماذا
صاحب العمل في كل مجال من مجالات الاستخدام
عملية المخاطر والموافقة
كيف تبدأ
مستوى الموافقة على أساس مستوى المخاطر
المراقبة والتدقيق
السيطرة المستمرة
مراقبة الانجراف والفحص الدوري
التسجيل/الجرد
ماذا يعمل أين
مخزون نظام الذكاء الاصطناعي
مجلس الذكاء الاصطناعي (مجلس الذكاء الاصطناعي / اللجنة التوجيهية) هو هيئة تتألف من ممثلين رفيعي المستوى من وظائف مختلفة (الأعمال والتكنولوجيا والقانون والمخاطر والبيانات)، وإعطاء التوجيه الاستراتيجي والموافقة على المبادرات عالية المخاطر. المجلس لا يدير المشاريع. يحدد الإطار ويتخذ القرارات الحاسمة.
السياسات الأساسية
تحتاج كل منظمة إلى هذه السياسات على الأقل:
- سياسة الاستخدام المقبول: ما هي أدوات الذكاء الاصطناعي التي يمكن للموظفين استخدامها، وبأي بيانات، ولأي غرض؟ (على سبيل المثال: "لا تدخل بيانات العميل الشخصية في أداة خارجية غير مصرح بها.")
- سياسة البيانات والخصوصية: ما هي البيانات وأين وكيف تتم معالجتها؟ كيفية ضمان الامتثال KVKK؟
- سياسة المخاطر والموافقة: ما هي التقييمات التي تمر بها الشركة الناشئة قبل الدخول في الإنتاج؟
- سياسة المورد/الشراء: ما هي المعايير التي يتم بها اختيار مقدمي خدمات الذكاء الاصطناعي الخارجيين؟ (الوحدة 11)
- سياسة الشفافية: متى يتم إخطار العميل/الموظف باستخدام الذكاء الاصطناعي؟
خطوة بخطوة: إرساء الحكم
1. قم بإنشاء اللوحة. ممثل عن قطاع الأعمال والتكنولوجيا والشؤون القانونية والمخاطر والبيانات؛ سلطة واضحة وإيقاع الاجتماع.
2. اكتب السياسات الأساسية. اكتب السياسات الخمس المذكورة أعلاه بشكل بسيط وقابل للتطبيق؛ إنها ليست رواية، إنها قاعدة.
3. إنشاء تدفق الموافقة على أساس المخاطر. منخفضة المخاطر بسرعة، موافقة ثقيلة عالية المخاطر.
4. احتفظ بالمخزون. ما هو نظام الذكاء الاصطناعي، ومن المسؤول، وعلى أي مستوى من المخاطر.
5. إضفاء الطابع المؤسسي على المراقبة والرقابة. المراجعة الدورية والانجراف ومراقبة الامتثال.
ثلاث حالات صغيرة
الحالة 1 - التسرب بدون سياسة. في إحدى شركات المحاماة، كان لدى المحامين وثائق قضايا سرية تم تلخيصها بواسطة أداة ذكاء اصطناعي متاحة للجمهور. وكان يُعتقد أن هذا أمر طبيعي لأنه لم تكن هناك سياسة استخدام مقبولة. عندما اكتشف العميل ذلك، كانت هناك أزمة ثقة. قامت الشركة على الفور بكتابة السياسة، وتوفير أداة المؤسسة (إثبات البيانات)، وتوفير التدريب. ولو كانت السياسة منذ البداية لما حدثت الأزمة.
الحالة 2 - توازن المجلس. قامت إحدى الشركات المصنعة ببناء لوحة الذكاء الاصطناعي الخاصة بها فقط من فريقها التكنولوجي. أعطى مجلس الإدارة الموافقات التي كانت رائعة من الناحية الفنية ولكن كان بها عمى قانوني وأخلاقي. وعندما تمت إضافة ممثل قانوني وممثل للمخاطر إلى مجلس الإدارة، تم اكتشاف مشكلة امتثال خطيرة قبل أن يتمكن أي مشروع عالي المخاطر من الدخول في مرحلة الإنتاج. كان التنوع هو رؤية مجلس الإدارة.
الحالة 3 - الزخم الخانق للحوكمة. في أحد البنوك، خضعت كل فكرة للذكاء الاصطناعي، حتى تلك منخفضة المخاطر، لعملية موافقة صارمة مدتها 6 أسابيع. بدأت الفرق في التهرب من العملية واستخدام مركبات "الظل". قام البنك بتقسيم الموافقة حسب مستوى المخاطر: الوظائف منخفضة المخاطر في 3 أيام، والوظائف عالية المخاطر خلال العملية الكاملة. عادت السرعة والتحكم. انخفض استخدام الظل.
أربعة قوالب قابلة للنسخ
1) مشروع إنشاء مجلس الإدارة:
دورك: مستشار حوكمة الذكاء الاصطناعي. اقترح علينا مسودة لمجلس الذكاء الاصطناعي: كم عدد الأعضاء ومن أي وظائف، وصلاحيات المجلس، وتكرار الاجتماعات، وما هي القرارات التي يوافق عليها، وما هي القرارات التي يتركها للفرق. تجنب البيروقراطية المفرطة؛ اقترح توازنًا يحافظ على السرعة.
2) مسودة سياسة الاستخدام المقبول:
تقوم [الصناعة] بصياغة "سياسة استخدام مقبول للذكاء الاصطناعي" بسيطة وقابلة للتنفيذ للمؤسسة: ما هي الأدوات التي يمكن استخدامها، وبأي بيانات، ولأي غرض؛ ما هو ممنوع منعا باتا؛ ماذا يحدث في حالة المخالفة؟ اكتب عنصرًا تلو الآخر، بلغة مفهومة.
3) تدفق الموافقة على أساس المخاطر:
صمم لنا تدفقًا متعدد الطبقات لموافقة الذكاء الاصطناعي استنادًا إلى مستوى المخاطر: ما هي الخطوات، والموافقة، والمدة، بشكل منفصل للمخاطر المنخفضة/المتوسطة/العالية. تأكد من أن العمل منخفض المخاطر يتدفق بسرعة وأن العمل عالي المخاطر يخضع لفحص صارم.
4) قالب جرد الذكاء الاصطناعي:
تصميم قالب جرد لتسجيل أنظمة الذكاء الاصطناعي في المؤسسة: اسم النظام، الاستخدام المقصود، صاحب العمل، مستوى المخاطر، البيانات المستخدمة، المورد، تاريخ آخر تدقيق. اشرح بإيجاز سبب ضرورة كل حقل.
موجه ضعيف / موجه قوي
ضعيف: "اكتب لنا سياسة الذكاء الاصطناعي".
النتيجة: نص عام، لا يناسب المؤسسة، ومجرد للغاية بحيث لا يمكن تطبيقه.
غوتشلو: "نحن شركة تكنولوجيا صحية تضم 200 شخص، ونعمل مع بيانات المرضى ونخضع لـ KVKK. قم بصياغة سياسة استخدام مقبولة وبسيطة وقابلة للتنفيذ حول كيفية استخدام الموظفين لأدوات الذكاء الاصطناعي: قاعدة بيانات المرضى، والأدوات المعتمدة، والمحظورات وعواقب الانتهاك. اكتبها فقرة تلو الأخرى وبلغة واضحة، وافترض أن فريقنا القانوني سيراجعها."
النتيجة: مسودة قابلة للتطبيق تناسب المؤسسة والقطاع والتشريعات.
الأخطاء الشائعة
- عدم تأسيس الحكم على الإطلاق. إن القول "سنرى لاحقًا" يعني التراكم الصامت للمخاطر.
- البيروقراطية المفرطة. إن تطبيق الموافقة الشديدة على كل وظيفة يدفع الفرق إلى استخدام الظل.
- لوحة وظيفة واحدة. فالتكنولوجيا وحدها أو مجلس الإدارة الذي يتمتع بتمثيل قانوني فقط يؤدي إلى ظهور نقاط عمياء؛ التنوع أمر لا بد منه.
- عدم كتابة السياسة ووضعها على أرض الملعب. السياسة الموجودة على الرف لا توفر الحماية؛ وينبغي أن تكون مدعومة بالتدريب والأدوات.
- عدم الاحتفاظ بالمخزون. إن المؤسسة التي لا تعرف ما الذي تعمل عليه لا يمكنها أن تعرف ما الذي يجب أن تقوم بمراجعته.
تحذير: يمكن للذكاء الاصطناعي إنتاج مسودة سياسة أو مجلس إدارة؛ لكن هذه المشاريع لا ينبغي أن تدخل حيز التنفيذ دون مواءمتها مع واقع المؤسسة وقطاعها وتشريعاتها ومراجعتها من قبل الوظائف القانونية والمخاطرة. إن السياسة التي ينتجها الذكاء الاصطناعي هي مخطط لاتخاذ قرار مسؤول للشركة، وليس نفسها.
باختصار
الحوكمة هي الإطار الذي يجعل استراتيجية الذكاء الاصطناعي دائمة وقابلة للتكرار وموثوقة؛ يوازن بين السرعة والأمان والاتساق. وتتمثل مكوناته الرئيسية في لوحة الذكاء الاصطناعي متعددة الوظائف، وسياسات بسيطة وقابلة للتنفيذ، وأدوار واضحة، وتدفق الموافقة على أساس المخاطر، والمراقبة المستمرة، وجرد النظام. إن السرعة المفرطة للبيروقراطية والحوكمة غير المكتملة تقتل الثقة؛ ينزل الرصيد إلى طبقات وفقًا لمستوى المخاطرة. وينبغي للسياسات أن تعيش في الميدان بالتدريب والأدوات، وليس على الرف. في الوحدة التالية، سنغطي مبادئ الذكاء الاصطناعي الأخلاقي والمسؤول، والتي تمثل الأساس الأخلاقي للحوكمة.
مهمة التطبيق
قم بصياغة لوحة الذكاء الاصطناعي لمؤسستك: من الذي يعمل، وبأي سلطة، وبأي إيقاع. ثم قم بإعداد مسودة سياسة الاستخدام المقبول باستخدام النموذج 2 وقم بتكييف ثلاثة بنود على الأقل يدويًا وفقًا للبيانات الفعلية/الشروط التنظيمية لمؤسستك. أخيرًا، قم بوصف المستويات الثلاثة (منخفضة/متوسطة/عالية) لتدفق الموافقة على أساس المخاطر في جملة واحدة.
قائمة مرجعية
- [ ] لقد قمت بتصميم هيكل لوحة متعدد الوظائف.
- [ ] لقد قمت بصياغة سياسة أساسية واحدة على الأقل.
- [ ] لقد قمت بتكييف السياسة مع تشريعات المنظمة وواقع البيانات.
- [ ] لقد حددت تدفق الموافقة المتدرج القائم على المخاطر.
- [ ] لقد قمت بإعداد قالب جرد نظام الذكاء الاصطناعي.
- [ ] خططت لإيقاع المراقبة والتحكم.
- [ ] فكرت في كيفية إدخال السياسات إلى الميدان (التدريب/الأداة).