المكاسب:
- التعرف على مخاطر استخدام الذكاء الاصطناعي بدون سياسات (الذكاء الاصطناعي الظلي) مع أمثلة عددية
- افهم أن السياسة الجيدة ليست قائمة من المحظورات، بل هي إطار يتيح الاستخدام المسؤول
- اشرح ركائز الأشخاص والعمليات والتكنولوجيا وأدوار أصحاب المصلحة في حوكمة الذكاء الاصطناعي
في صباح يوم الاثنين، فتح كبير مسؤولي الامتثال في شركة تأمين متوسطة الحجم (الشخص المسؤول عن امتثال المنظمة للقوانين والقواعد الداخلية) بريده الإلكتروني على حين غرة: يسأل العميل ما إذا كانت معلوماته الصحية "تمت كتابتها في أداة الذكاء الاصطناعي وأين ذهبت". يكشف التحقيق السريع أن أحد الخبراء من فريق المطالبات يستخدم حساب الذكاء الاصطناعي الشخصي لتلخيص ملفات المطالبات بسرعة. لا أحد خبيث. لا أحد يعتقد أنهم ينتهكون القواعد. لأنه لا توجد قاعدة مكتوبة. تسمى هذه الفجوة الذكاء الاصطناعي الظل، وتعلمك هذه الوحدة كيفية بناء إطار حوكمة لملء هذه الفجوة بالضبط.
إن إدخال الذكاء الاصطناعي في الأعمال التجارية ليس سهلاً مثل تثبيت البرامج العادية. يؤثر الذكاء الاصطناعي على القرارات، ويعالج البيانات الشخصية، ويمكنه إنتاج محتوى محمي بحقوق الطبع والنشر، ويخلق المسؤولية عندما يرتكب أخطاء. ولهذا السبب تحتاج كل منظمة "تستخدم" الذكاء الاصطناعي أيضًا إلى إطار عمل "يديره". في هذه الوحدة الأولى، نغطي سبب الحاجة إلى سياسة مكتوبة للذكاء الاصطناعي، والتكلفة الملموسة للذكاء الاصطناعي الظلي، والركائز الثلاث للحوكمة.
ما هو الظل AI ولماذا لا مفر منه؟
Shadow AI هو استخدام الذكاء الاصطناعي دون علم المؤسسة وموافقتها وسيطرتها. تأتي كلمة "shadow" من اسم "shadow IT" الذي يطلق على البرامج غير المعتمدة من قبل قسم تكنولوجيا المعلومات. يبدأ الموظفون في استخدام أدوات الذكاء الاصطناعي مع أو بدون سياسة؛ لأن هذه الأدوات مجانية وسريعة وتسهل عملها. وحتى الحظر لا يوقف الاستخدام، بل يخفيه فقط.
الاستخدام بدون سياسة يخلق المخاطر الملموسة التالية:
- تسرب البيانات: قد يقوم أحد الموظفين دون قصد بلصق بيانات العميل السرية أو أسرار الشركة في إحدى أدوات الذكاء الاصطناعي. البيانات تخرج عن سيطرة المؤسسة.
- عقوبات عدم الامتثال: يؤدي انتهاك قانون حماية البيانات الشخصية (KVKK) إلى غرامة إدارية بملايين الليرات؛ يمكن أن يؤدي انتهاك اللائحة العامة لحماية البيانات (GDPR) إلى فرض غرامات تصل إلى 4٪ من حجم المبيعات السنوي.
- القرار المبني على معلومات خاطئة: القرارات المتخذة بالاعتماد على معلومات خاطئة ملفقة بواسطة الذكاء الاصطناعي ("الهلوسة") تضر العميل والمؤسسة.
- قضايا حقوق الطبع والنشر والملكية الفكرية: قد يؤدي استخدام المخرجات إلى انتهاك الملكية الفكرية لشخص آخر.
- فقدان السمعة: عندما يتم الإبلاغ عن الاستخدام غير الخاضع للرقابة في الصحافة، تهتز ثقة العلامة التجارية.
تحذير: إن حظر استخدام الذكاء الاصطناعي بشكل كامل ليس حلاً. الحظر لا يلغي الاستخدام؛ إنه يجعلها غير مرئية وغير قابلة للتحكم. والهدف ليس إنهاء الاستخدام، بل وضعه في إطار آمن.
ثلاث حالات صغيرة: التكلفة الحقيقية للذكاء الاصطناعي الظلي
الحالة الأولى - العقد المسرب. يقوم أحد المتخصصين القانونيين بلصق النص بأكمله في حساب الذكاء الاصطناعي الفردي لتلخيص اتفاقية دمج سرية مكونة من 40 صفحة. العقد ليس متاحا للجمهور بعد. تتم معالجة النص على خوادم الموفر ويصبح متاحًا للتدريب النموذجي المحتمل. تقوم الشركة بتأخير عملية الدمج لمدة 3 أسابيع لتجنب مخاطر تسرب المعلومات المحتمل؛ تزيد تكلفة الاستشارة بحوالي 250.000 ليرة تركية.
الحالة الثانية – فقه الهلوسة. محام يرفق ثلاثة "قرارات سابقة" من منظمة العفو الدولية بطلبه. اثنان من أرقام القرار هما قرارات متخذة غير موجودة في الواقع. والمحكمة تدرك ذلك؛ يواجه المحامي إجراءات تأديبية بالإضافة إلى فقدان السمعة. إن قاعدة التحقق من سطر واحد (التحقق من كل مصدر مقابل نظام القرار الرسمي) كان من شأنها أن تمنع هذه الأزمة.
الحالة 3 - المدخرات غير المرئية. في نفس الشركة، يقوم فريق التسويق بإنتاج نسخة الحملة الإعلانية بمعدل 6 ساعات أسبوعيًا بشكل أسرع باستخدام أداة معتمدة للذكاء الاصطناعي للمؤسسة. ومع ذلك، لم يتم الإبلاغ عن هذا التوفير في أي مكان لأن الاستخدام غير مسجل. ترفض الإدارة ميزانية الترخيص الجديدة لأنها لا تستطيع رؤية فائدة الذكاء الاصطناعي. لا يزيل Shadow AI المخاطر فحسب، بل يزيل أيضًا رؤية الفوائد.
ما الذي تضمنه السياسة الجيدة؟
إن سياسة الذكاء الاصطناعي الجيدة ليست قائمة بالحظر؛ إنه إطار يتيح الاستخدام المسؤول. يفعل خمسة أشياء:
- الوضوح: يعرف الموظف ما هو المسموح وما هو الممنوع وما هو خاضع للموافقة.
- الثقة: يمكن للإدارة الموافقة على المشاريع الجديدة مع العلم أنه يتم استخدام الذكاء الاصطناعي بطريقة خاضعة للرقابة.
- الامتثال: يتم الوفاء بالالتزامات القانونية (KVKK، واللائحة العامة لحماية البيانات، وقانون الذكاء الاصطناعي للاتحاد الأوروبي) بشكل منهجي.
- الاتساق: تتبع الفرق المختلفة نفس القواعد.
- المساءلة: عندما تكون هناك مشكلة، فمن الواضح من المسؤول.
ما هي الحوكمة؟ ثلاثة أقدام
حوكمة الذكاء الاصطناعي هي مجموعة من القواعد والعمليات التي تحدد كيفية اختيار الذكاء الاصطناعي واستخدامه والتحكم فيه ومن سيكون المسؤول عنه في المؤسسة. السياسة هي الوثيقة المكتوبة لهذه الإدارة؛ إن الحكم هو النظام الحي الذي يبث الحياة في السياسة. وهي مبنية على ثلاث أرجل:
قدم
معنى
مثال في سياسة الذكاء الاصطناعي
إنسان
الأدوار والمسؤوليات
مراقب الذكاء الاصطناعي، مدير الموافقة، مسؤول حماية البيانات
عملية
القواعد والتدفقات
عملية الموافقة على المركبات الجديدة، والفحص الدوري، والاستجابة للحوادث
التكنولوجيا
الأدوات والضوابط
قائمة المركبات المعتمدة، التحكم في الوصول، حفظ السجلات
إذا غاب أحد الركائز الثلاث، ينهار الإطار: بدون القاعدة، تصبح الأداة عديمة الفائدة، بدون الأداة، لا يمكن السيطرة على القاعدة، بدون المسؤولية، لا يمكن امتلاك أي شيء.
ولا يمكن لقسم واحد أن يقوم بهذه المهمة.
إن سياسة الذكاء الاصطناعي ليست مجرد وظيفة قسم تكنولوجيا المعلومات. يتطلب الإطار الناجح مشاركة وحدات مختلفة: الشؤون القانونية/الامتثال (الالتزامات القانونية والعقود)، وتكنولوجيا المعلومات/الأمن (الضوابط الفنية وأمن البيانات)، والموارد البشرية (تدريب الموظفين وقواعد السلوك)، ووحدات الأعمال (احتياجات الاستخدام الفعلية) والإدارة العليا (الموافقة، وتوفير المصادر، وملكية الشركة).
نصيحة: قم بعقد اجتماع لمدة 30 دقيقة مع ممثل من كل وحدة من وحدات أصحاب المصلحة قبل البدء في كتابة السياسة. "ما الذي تستخدمه حاليًا أو تتطلع إلى استخدام الذكاء الاصطناعي من أجله؟" يكشف السؤال عن الاحتياجات الحقيقية واستخدام الظل الحالي.
تشغيل الذكاء الاصطناعي: قوالب قابلة للتكرار
يعد الذكاء الاصطناعي في حد ذاته أداة مساعدة عند إعداد إطار الحوكمة - طالما تم التحقق من صحة مخرجاته. تعمل القوالب التالية على تسريع عمل هذه الوحدة.
القالب 1 - استبيان لمسح خط الأساس (الذكاء الاصطناعي الظلي): "مسودة استطلاع للموظفين المجهولين مكونة من 8 أسئلة جاهزة لرسم خريطة لاستخدام الذكاء الاصطناعي في مؤسستنا. يجب أن تغطي الأسئلة: ما هي الأدوات، وما المهام، وأنواع البيانات التي تم إدخالها، واحتياجات التدريب. الإخراج: أسئلة مرقمة + نوع الإجابة لكل سؤال (اختيار متعدد/مفتوح)."
النموذج 2 - أنشئ ملخصًا للمخاطر: "ضع في اعتبارك حالة استخدام الذكاء الاصطناعي التالية: [سيناريو اللصق]. أعطني ملخصًا موجزًا للمخاطر تحت العناوين التالية: خصوصية البيانات، والامتثال، والهلوسة، وحقوق الملكية، والسمعة. ضع علامة على "منخفض/متوسط/مرتفع" وسبب منطقي من جملة واحدة لكل عنوان. لا تقدم نصيحة قانونية؛ ما عليك سوى إدراج النقاط للمراجعة."
النموذج 3 - جدول أعمال اجتماع أصحاب المصلحة: "إعداد جدول أعمال اجتماع مجلس الإدارة مدته 60 دقيقة لإطلاق إطار حوكمة الذكاء الاصطناعي. المشاركون: الشؤون القانونية، وتكنولوجيا المعلومات، والموارد البشرية، ووحدة الأعمال، والإدارة العليا. اكتب المدة والنتائج المتوقعة لكل بند من بنود جدول الأعمال."
النموذج 4 - إحاطة قصيرة للإدارة: "اكتب إحاطة من نصف صفحة بعنوان "لماذا نحتاج إلى سياسة الذكاء الاصطناعي" لتقديمها إلى الإدارة العليا. قم بتضمين 3 مخاطر ملموسة + 3 فوائد ملموسة؛ لا تستخدم المصطلحات التقنية؛ اطلب قرارًا واضحًا في السطر الأخير."
موجه ضعيف / موجه قوي
ضعيف: "اكتب سياسة الذكاء الاصطناعي". -> ينتج النموذج نصًا عامًا وغير مؤسسي وغير قابل للتدقيق؛ لا يعكس فئات البيانات والأدوار والسياق التنظيمي. جوتشال: "نحن شركة تأمين مكونة من 50 شخصًا، ونخضع لـ KVKK، ونقوم بمعالجة بيانات صحة العملاء. اقترح مسودة لأقسام "النطاق" و"الاستخدامات المحظورة" لسياسة الذكاء الاصطناعي. لا تفرض حكمًا نهائيًا؛ أضف ملاحظة "الموافقة القانونية مطلوبة" في كل مقال واترك الثغرات لي."-> ينتج النموذج مسودة مناسبة للسياق ويمكن التحقق منها؛ ويبقى القرار معك.
الأخطاء الشائعة
- حظر استخدام الذكاء الاصطناعي تمامًا وجعل الذكاء الاصطناعي الظل غير مرئي.
- السماح لقسم تكنولوجيا المعلومات بكتابة السياسة فقط واستبعاد الاحتياجات الحقيقية لوحدات العمل.
- البدء في كتابة القواعد مباشرة من تعيين استخدام الظل الموجود.
- كتابة السياسة باللغة القانونية بطريقة لا يستطيع الموظف فهمها.
- وضع مسودة السياسة التي أعدتها منظمة العفو الدولية حيز التنفيذ دون موافقة قانونية.
- التحدث عن المخاطر دون قياس الفائدة؛ وبالتالي فقدان دعم الإدارة.
- كتابة السياسة مرة واحدة ونسيان تحديثها؛ في حين أن الحكم هو نظام حي.
في ملخص
- يعد Shadow AI أمرًا لا مفر منه في المؤسسات التي ليس لديها سياسات ويشكل مخاطر على البيانات والامتثال والسمعة.
- إن السياسة الجيدة ليست قائمة محظورة؛ إنه إطار يتيح الاستخدام المسؤول.
- تعتمد حوكمة الذكاء الاصطناعي على الأشخاص (الأدوار)، والعملية (القواعد)، والتكنولوجيا (الضوابط)؛ إذا كان واحدا في عداد المفقودين فإنه تعطل.
- إن السياسة ليست مسؤولية إدارة واحدة؛ إنه العمل المشترك للقانون وتكنولوجيا المعلومات والموارد البشرية ووحدات الأعمال والإدارة العليا.
- يمكن أن يساعد الذكاء الاصطناعي في إعداد إطار العمل، ولكن يجب أن يخضع كل مخرج لموافقة بشرية وقانونية.
مهمة التطبيق
اختر مؤسسة عملت بها أو تحلم بها (دع الصناعة وعدد الموظفين ونوع البيانات التي تعالجها تكون واضحة). قم أولاً بصياغة استبيان مكون من 8 أسئلة لفحص الظل باستخدام الذكاء الاصطناعي (يمكنك استخدام النموذج 1). ثم اكتب ثلاثة مخاطر ملموسة يمكن أن يشكلها الذكاء الاصطناعي الظلي في هذه المنظمة، مع إضافة التأثير العددي المقدر (العقوبة، والتأخير، والساعات الضائعة) لكل منها. أخيرًا، حدد أمثلة خاصة بمؤسستك لكل من الركائز الثلاث للحوكمة (الأشخاص، والعمليات، والتكنولوجيا) ولاحظ وحدة أصحاب المصلحة التي ستكون مسؤولة عن هذه الركيزة.
قائمة مرجعية
- [ ] قمت بتعيين استخدام الذكاء الاصطناعي (الظل) الحالي في مؤسستي.
- [ ] كتبت ثلاثة مخاطر ملموسة لعدم وجود سياسة ذات تأثير عددي.
- [ ] لقد قمت بإعداد ملخص ينقل مخاطر وفوائد الذكاء الاصطناعي إلى الإدارة.
- [ ] لقد حددت مثالاً خاصًا بالمؤسسة وشخصًا مسؤولاً عن ركائز الحكم الثلاثة.
- [ ] لقد وضعت خطة لإدراج ثلاث وحدات من أصحاب المصلحة على الأقل في العملية.
- [ ] أخضع كل مسودة أقوم بإنتاجها باستخدام الذكاء الاصطناعي للموافقة القانونية/الامتثال.