الخصوصية والمعلومات السرية والاستخدام الآمن للذكاء الاصطناعي

المكاسب:

• القدرة على تقييم المعلومات وفقًا لفئة الحساسية (عامة / داخلية / سرية / سرية للغاية) وتطبيق منعكس "فئة السؤال، مطابقة الأداة"
• فهم تخزين البيانات والتدريب على النماذج وجمعها ومخاطر الاختراق الخاصة بالذكاء الاصطناعي وفصل العالم المفتوح عن العالم السري
• القدرة على اعتماد مبدأ الحد الأدنى من البيانات وحماية البيانات الشخصية والانضباط في حماية المعلومات غير المؤكدة كما لو كانت فئة أعلى.

الدبلوماسية تقوم على الثقة، والثقة تقوم على السرية. إن وقوع موقف تفاوضي، أو تقييم استخباراتي، أو محتوى محادثة مع أحد المحاورين، أو قرار لم يُعلن عنه بعد، في الأيدي الخطأ، يمكن أن يعرض مصالح الدولة، أو نتيجة المفاوضات، أو حتى أمن الناس للخطر. يجلب الذكاء الاصطناعي سرعة هائلة في هذا المجال، لكنه يحمل أيضًا مخاطر جديدة وخطيرة على الخصوصية. في هذه الوحدة، ستتعلم كيفية حماية المعلومات السرية والحساسة في عصر الذكاء الاصطناعي، وما هي البيانات التي يمكن إدخالها إلى أي مركبة، ونظام الاستخدام الآمن.

هذه الوحدة هي الدرس الأمني ​​الأكثر أهمية في الوحدة. هناك خطأ واحد هنا – وهو لصق مستند سري في الأداة الخاطئة – وهو خطأ لا رجعة فيه. لذلك، سيتم إنشاء رد الفعل الذي يجب حفظه هنا: قبل إعطاء أي بيانات لأداة الذكاء الاصطناعي، اسأل دائمًا: في أي فئة توجد هذه البيانات وهل هذه الأداة معتمدة لهذه الفئة؟

تصنيف المعلومات: التمييز الأساسي

غالبًا ما يتم تصنيف المعلومات الدبلوماسية وفقًا لحساسيتها. وعلى الرغم من أن الأمر يختلف من مؤسسة إلى أخرى، إلا أن المنطق الأساسي هو:

• غير مصنف/عام: المعلومات التي تم نشرها بالفعل ويمكن الوصول إليها بشكل عام. على سبيل المثال: البيانات الصحفية الرسمية، الأخبار العامة.
• مقيدة/داخلية: معلومات داخلية غير متاحة للعامة ولكنها ذات حساسية منخفضة.
• سرية: المعلومات التي قد يؤدي الكشف عنها إلى الإضرار الجسيم بمصالح الدولة. مثال: الموقف التفاوضي، التقييم الداخلي.
• سرية للغاية: المعلومات التي قد يؤدي الكشف عنها إلى إحداث ضرر جسيم. على سبيل المثال: المعلومات الاستخباراتية الحساسة، والمعلومات الأمنية الهامة.

القاعدة الأساسية بسيطة: لن يتم إدخال أي معلومات سرية غير متاحة للعامة في أداة الذكاء الاصطناعي التي لم توافق عليها مؤسستك لهذا الفصل الدراسي. إن خدمة الذكاء الاصطناعي العامة، بحكم تعريفها، غير معتمدة لهذه الفئة من المعلومات.

نصيحة: إذا لم تكن متأكدًا، فتعامل مع المعلومات كأحد كبار السن. إن القول "ربما يكون هذا معروفًا بالفعل" هو تخمين خطير. وإلى أن تتأكد بنسبة 100% من أن المعلومات متاحة للعامة، قم بحمايتها كما لو كانت سرية. الحذر غير الضروري ليس تكلفة، بل هو ضمان.

مخاطر الخصوصية للذكاء الاصطناعي

تشكل أدوات الذكاء الاصطناعي مخاطر خصوصية مختلفة عن البرامج التقليدية:

1. معالجة البيانات وتخزينها: قد تتم معالجة النص الذي تكتبه إلى خدمة الذكاء الاصطناعي العامة وتخزينه على خوادم تلك الخدمة. ولا يمكنك التحكم في من يمكنه الوصول إليه، ومدة الاحتفاظ به، وكيفية استخدامه.

2. الاستخدام في تدريب النموذج: قد تستخدم بعض الخدمات البيانات التي تدخلها لتحسين النموذج. وهذا يخلق خطر دخول معلوماتك السرية بشكل غير مباشر إلى "ذاكرة" النموذج وتسربها إلى الآخرين.

3. خطر التجميع: يمكن لأجزاء المعلومات التي تبدو غير ضارة بشكل فردي أن تشكل صورة حساسة عند دمجها. يمكن للأجزاء الصغيرة من المعلومات التي يتم إدخالها في أوقات مختلفة أن تكشف بشكل جماعي عن موقف سري.

4. مخاطر الوصول والاختراق: مثل أي نظام خارجي، يمكن أن تتعرض خدمات الذكاء الاصطناعي لاختراق البيانات. قد يتم كشف البيانات التي تقدمها في هذا الانتهاك.

الحل لهذه المخاطر هو إنشاء عالمين منفصلين: أدوات عامة للعمل مفتوح المصدر؛ فقط الأنظمة الداخلية والآمنة والمعتمدة التي لا تقوم بتصدير البيانات للأعمال السرية. لا تخلط بين الاثنين أبدًا.

تنبيه: إن قول "لقد جعلتها مجهولة" لا يكفي في كثير من الأحيان. حتى لو قمت بحذف الأسماء، فإن السياق (التاريخ والموقع والحدث وعدد الأطراف) قد يكون كافيًا للخبير لتنقيح الهويات والمناصب. لا تتم حماية المعلومات الحساسة الحقيقية عن طريق الإخفاء، بل عن طريق الاختيار المناسب للأدوات والوسائط.

انضباط الاستخدام الآمن

قم بإعداد تدفق التحكم العملي:

1. تحديد الصف. هل هذه البيانات عامة أم داخلية أم سرية أم سرية للغاية؟
2. إقران السيارة. هل يمكن معالجة هذا الفصل في هذه الأداة؟ إذا لم يكن الأمر كذلك، توقف.
3. سياسة الحد الأدنى من البيانات حتى في وظيفة عملية، لا تقدم معلومات أكثر مما تتطلبه الوظيفة.
4. حماية البيانات الشخصية. تتم معالجة البيانات الشخصية (الاسم، جهة الاتصال، الموقع) فقط إذا لزم الأمر وعلى أساس قانوني؛ إذا لم يكن ذلك ضروريا، فإنه ملثمين أو لا يعطى على الإطلاق.
5. احتفظ بالسجل. قم بتوثيق الأداة التي استخدمتها لأي وظيفة، وبأي بيانات؛ إذا كانت هناك مشكلة، فيمكن تتبعها.

نصيحة: أسس ثقافة "الخصوصية أولاً" في فريقك: يجب على الموظف الجديد أو المتدرب أن يتعلم رد الفعل "لا تدخل أي مستندات سرية إلى المجال العام" من اليوم الأول. معظم الانتهاكات لا تنبع من الخبث ولكن من عدم معرفة مدى فتح السيارة.

ثلاث حالات صغيرة

الحالة 1 - منع الانتهاك المنعكس. كان أحد الخبراء على وشك تلخيص مذكرة مقابلة عندما توقف وسأل عن تصنيفها: كانت المذكرة عبارة عن محادثة سرية مع أحد المحاورين. التحول إلى نظام آمن داخلي بدلاً من أداة عامة. رد الفعل البسيط "اسأل الفصل أولاً" يمنع الاختراق.

الحالة 2 - التعرف على مخاطر التحصيل. يقوم الفريق بإدخال أجزاء صغيرة تبدو "غير ضارة" من المعلومات في أداة خارجية في أيام مختلفة. وأظهرت المراجعة الأمنية أنه عند دمج هذه الأجزاء، فإنها تكشف عن جدول أعمال المفاوضات القادمة. تم إيقاف التطبيق؛ تم نقل العمل إلى بيئة آمنة.

الحالة 3 - عدم الكشف عن هويته وهمية. اعتبر أحد الموظفين الوثيقة "مجهولة المصدر" لأنه قام بحذف الأسماء وسلمها إلى الوكيل الخارجي. ومع ذلك، فإن التاريخ والمكان ووصف الحدث في الوثيقة أوضح من هو المقصود. لم يكن حذف الاسم كافيا؛ يجب أن تتم معالجة المستند في بيئة آمنة على أي حال.

أربعة قوالب قابلة للنسخ

1) الفحص المسبق للفئة والمركبة:

سأصف العمل أدناه. أخبرني (لا تقم بالمهمة): (1) ما هي فئة الحساسية التي قد تحتوي عليها هذه البيانات (عامة / داخلية / سرية / سرية للغاية)، (2) هل يجب معالجة هذه الفئة في أداة ذكاء اصطناعي عامة، (3) إذا لم يكن الأمر كذلك، ما نوع البيئة المطلوبة. وصف الوظيفة/البيانات: [هنا]

2) مسح البيانات الشخصية وإخفائها:

قم بإدراج البيانات الشخصية/الحساسة (الاسم، المسمى الوظيفي، جهة الاتصال، الموقع، الصحة، رقم الهوية) التي يجب إخفاؤها قبل معالجتها في النص أدناه. معالجة النص؛ فقط أخبرني ما هي المناطق التي يجب إزالتها. سأقوم بالإخفاء وإعادة الإرسال. النص: [هنا]

3) تقييم مخاطر التحصيل:

أفكر في تصدير المعلومات التالية بشكل منفصل إلى أداة خارجية: [قطع]. على الرغم من أن هذه قد تبدو غير ضارة بشكل فردي، إلا أنه عندما يتم دمجها، هل يمكن أن تخلق صورة حساسة (مثل الموقف أو جدول الأعمال أو الهوية)؟ قم بتقييم مخاطر الجمع وحدد العناصر التي لا ينبغي تقديمها معًا.

4) تأكيد التوفر العام:

لست متأكدًا مما إذا كانت المعلومات التالية عامة: [معلومات]. قم بإدراج عملية التحقق التي يتعين علي القيام بها قبل اعتبارها علنية (هل هناك بيان رسمي، ومن قام بنشره، والتاريخ). إذا لم أكن متأكدًا، فذكّرني بمبدأ "التعامل بسرية".

موجه ضعيف / موجه قوي

حث ضعيف:

لخص مذكرة المقابلة هذه. (يتم لصق المحتوى المخفي مباشرة في الملاحظة)

وهذا هو الخطأ الأكثر خطورة: دخلت وثيقة سرية إلى وسيلة عامة دون التشكيك في فئتها. لقد حدث خطر التسرب ولا يمكن عكسه.

موجه قوي (تحقق أولاً):

أريد معالجة مذكرة الاجتماع. لكن أولاً: من المحتمل أن تكون هذه الملاحظة موجودة في الفصل السري. أخبرني ما إذا كان من الممكن معالجة هذا النوع من المستندات في أداة عامة وما هي الطريقة الصحيحة؟ أنا لا أقدم لك محتويات الوثيقة؛ أنا فقط أسأل عن العملية الصحيحة.

الفرق واضح: لا يتم تقديم المحتوى السري على الإطلاق، ويتم السؤال عن العملية الصحيحة أولاً ويتم توجيه العمل إلى البيئة المناسبة.

جدول رسم الخرائط من فئة إلى مركبة

فئة المعلومات

مثال

الذكاء الاصطناعي العام

البيئة الصحيحة

عام

بيان صحفي

مناسب

أداة عامة

داخلي/خدمة محددة

ملاحظة داخلية

عادة لا

تمت الموافقة عليه داخليًا

سر

موقف التفاوض

أبدا

نظام المؤسسة الآمنة

سري للغاية

الاستخبارات الحساسة

أبدا

أعلى مستوى من الأمن

البيانات الشخصية

أوراق الاعتماد

ضروري+قانوني فقط

ملثمون / مؤمنون

الأخطاء الشائعة

• إدخال البيانات دون السؤال عن الفصل. قبل كل وظيفة، يكون رد الفعل "في أي صف هذا؟" أمر لا بد منه.
• بافتراض "ربما يكون الأمر واضحًا". المعلومات غير المؤكدة محمية باعتبارها سرية.
• الخطأ في حذف الاسم باعتباره إخفاء الهوية. يمكن للسياق أن يكشف عن الهويات.
• تجاهل مخاطر التحصيل. يمكن أن تكون الأجزاء الصغيرة حساسة عند تجميعها.
• خلط بين عالمين. يتم تشغيل الوظائف المفتوحة والمصنفة في أدوات/بيئات منفصلة.

باختصار

السرية هي الحد الأكثر أهمية لاستخدام الذكاء الاصطناعي الدبلوماسي. خذ تصنيف المعلومات (عام/داخلي/سري/سري للغاية)، وانعكاس "فئة السؤال، ومطابقة السيارة"، ومبدأ الحد الأدنى من البيانات، وحماية البيانات الشخصية ومخاطر التجميع، باعتبارها العمود الفقري لهذه الوحدة. الأدوات العامة للعمل مفتوح المصدر؛ استخدم فقط الأنظمة الآمنة والمعتمدة داخليًا للأعمال السرية. لا تخلط بين الاثنين أبدًا؛ عندما تكون في شك، قم بحماية المعلومات مثل أحد كبار السن.

مهمة التطبيق

قم بإدراج 8 أجزاء مختلفة من البيانات من مكتبك (أو الخيالي) (بعضها عام وبعضها حساس). ضع كل واحد في الفصل وحدد "في أي أداة يمكن معالجته". قم بتقييم الأمور الغامضة باستخدام نموذج "الفحص المسبق للفئة والمركبة". اختر ثلاث قطع وافحص ما إذا كانت تشكل صورة حساسة عند دمجها مع "تقييم مخاطر التحصيل".

قائمة مرجعية

• [ ] قمت أولاً بتحديد فئة الحساسية لكل بيانات.
• لم أقم مطلقًا بإدخال بيانات لا تتناسب فئتها [ ] مع مركبة عامة.
• [ ] لقد قمت بحراسة المعلومات التي لم أكن متأكدًا منها مثل الرئيس.
• [ ] لا أقوم بمعالجة البيانات الشخصية إلا عندما يكون ذلك ضروريًا وقانونيًا، ومقنعًا.
• [ ] لقد خاطرت بجمع وفصل عالمين.