عادة الخصوصية وأمن البيانات والتحقق

المكاسب:

• القدرة على تصنيف البيانات وفقًا لحساسيتها (عامة/داخلية/سرية/حرجة) وإخفاء هوية البيانات السرية والحرجة دون الكشف عنها للأدوات العامة
• تحويل التحقق إلى ردة فعل وتأشير الحقائق والذهاب إلى المصدر وقياس خطوات فتح المصدر المقدمة بواسطة الذكاء الاصطناعي حسب المخاطر
• القدرة على تطبيق أخلاقيات الشفافية والإسناد والسرية من خلال فهم أن الحذف ليس حماية وأن المسؤولية لا يمكن تحميلها على الوسيط.

هناك مبدأان يتكرران في كل وحدة من هذه الوحدة: الحفاظ على السرية والتحقق من كل مخرجات. تحول هذه الوحدة هذين المبدأين إلى نظام منهجي واحد، لأن أكبر مخاطر استخدام الذكاء الاصطناعي في الإنتاجية الشخصية ليست السرعة أو الجودة، بل البيانات المسربة والأكاذيب التي لم يتم التحقق منها. يمكن تصحيح بريد إلكتروني واحد غير صحيح؛ لا يمكن استرجاع بيانات العميل التي تم إرسالها إلى الخادم. إن الرقم المختلق الذي يتم تقديمه بنبرة واثقة سوف يدحض القرار إذا لم يتم ملاحظته. ولهذا السبب تعتبر الخصوصية والمصادقة أساسات الكفاءة التي يتم بناؤها من الألف إلى الياء، وليس "إضافتها لاحقًا".

شروط. البيانات الشخصية هي المعلومات التي تحدد هوية الشخص - الاسم ورقم الهوية والبريد الإلكتروني والصحة والموقع. KVKK/GDPR هي القوانين التي تنظم حماية البيانات الشخصية (KVKK في تركيا، وGDPR في الاتحاد الأوروبي). تصنيف البيانات هو عملية تصنيف المعلومات وفقًا لحساسيتها (العامة، الداخلية، السرية). إخفاء الهوية هو إزالة عناصر التعريف الشخصية من البيانات. التحقق هو التحقق من دقة المخرجات من خلال مصدر مستقل.

الخصوصية: ما يجب لصقه، وما لا يجب لصقه

كل ما تكتبه في أداة الذكاء الاصطناعي، في معظم الحالات، يذهب إلى الخادم ويتم تخزينه في بعض الخدمات أو يمكن استخدامه لتدريب النموذج. لذا فإن السؤال الأساسي هو: هل أنت على استعداد لإعطاء هذه المعلومات لطرف ثالث غير معروف؟ إذا كانت الإجابة لا، فلا تعطيها للذكاء الاصطناعي أيضًا.

استخدم تصنيفًا بسيطًا:

فئة

مثال

هل يقع في الذكاء الاصطناعي؟

عام

المعلومات المنشورة، مسودة النص

مجانا

الداخلية

مذكرة العملية، ملخص الاجتماع العام

عن طريق إخفاء الهوية

سر

بيانات العملاء والسجل المالي والاستراتيجية

المركبات المعتمدة من المؤسسة فقط

حرجة

كلمة المرور، مفتاح API، العقد، الصحة

أبدا

وسائل الحماية العملية: إخفاء هوية البيانات الشخصية (تحديد الأسماء "الشخص أ"، الشركة "الشركة X")؛ استخدم أداة الذكاء الاصطناعي المعتمدة من مؤسستك (غالبًا ما تضمن إصدارات المؤسسة عدم استخدام البيانات في التدريب)؛ واقرأ سياسة استخدام الذكاء الاصطناعي الخاصة بك - وإلا فالتزم بالحذر.

تنبيه: الافتراض "لقد حذفت الدردشة، فهي الآن آمنة" هو افتراض خاطئ. يؤدي الحذف إلى إزالته من الواجهة، لكنه لا يؤدي إلى استعادة السجل الموجود على الخادم أو البيانات المشاركة في التدريب. تبدأ الحماية قبل الترابط؛ ليس بعد.

التحقق من الصحة: عادة منهجية

اجعل التحقق بمثابة رد فعل بدلاً من "سأفعل ذلك إذا فكرت في الأمر". فيما يلي نظام التحقق العملي:

1. ضع علامة على الحقائق. سيتم التحقق من كل اسم وتاريخ ورقم واقتباس وتشريع ومطالبة في النسخة المطبوعة.
2. اذهب إلى المصدر. تأكد من كل حقيقة من مصدر مستقل وموثوق. افتح المصدر المقدم من الذكاء الاصطناعي واقرأه؛ هل هي موجودة، وهل تحتوي على تلك المعلومات؟
3. مقياس وفقا للخطر. سيطرة طفيفة على مذكرة داخلية منخفضة المخاطر؛ التحكم الكامل في العرض التقديمي عالي المخاطر أو الاتصالات الخارجية.
4. قبول غير مؤكد. إذا قال الذكاء الاصطناعي "غير متأكد" أو لا يمكن تأكيد المعلومات، فلا تملأ الفراغ بالتلفيق؛ اتركه كـ "لم يتم التحقق منه".

الفرق الرئيسي: يمكنك عمومًا الوثوق في العمل اللغوي للذكاء الاصطناعي (الجملة بطلاقة، والبنية الأنيقة، والنغمة المناسبة). لا تثق أبدًا بشكل أعمى في ادعاءات الذكاء الاصطناعي بشأن الحقيقة (هذا الرقم، هذا التاريخ، هذا المصدر). التحقق هو الفصل بين الاثنين.

الأخلاق: الشفافية والمسؤولية

إن استخدام الذكاء الاصطناعي لتحقيق الكفاءة ليس مشكلة أخلاقية، ولكن كيفية استخدامه قد تكون كذلك. ثلاثة مبادئ: الشفافية - في بعض السياقات (العمل الأكاديمي، الصحافة، الوثيقة الرسمية) قد تحتاج إلى الإشارة إلى أنك تستخدم الذكاء الاصطناعي. الإسناد - أخذ فكرة شخص آخر من خلال الذكاء الاصطناعي وتقديمها على أنها فكرتك يعد سرقة أدبية، حتى لو تغير الوسيط. المسؤولية – كل ما تنشره هو مسؤوليتك؛ "لقد كتبه الذكاء الاصطناعي" ليس عذرا.

خطوة بخطوة: التحكم الآمن في سير عمل الذكاء الاصطناعي

1. الترتيب قبل اللصق. في أي فئة هذه البيانات؟ توقف إذا كان سريًا/حرجًا.
2. إخفاء الهوية. قم بإزالة العناصر الشخصية إذا لم يكن ذلك ضروريًا.
3. إنتاج وتمييز الحقائق. تحديد العناصر الموجودة في الإخراج للتحقق من صحتها.
4. يؤكد. تأكيد على أساس المخاطر ومعتمد على المصدر.
5. امتلكها. قم بالتنميق بصوتك، وتحمل المسؤولية.
6. تعرف على بصمتك. تتبع ما قمت بلصقه وأين والأداة التي تقوم بتخزين البيانات.

أربعة قوالب أمان/مصادقة قابلة للنسخ

قم بإخفاء هوية النص التالي قبل تسليمه إلى الذكاء الاصطناعي: - قم بتغيير الأسماء إلى "الشخص أ/ب" والشركات إلى "الشركة"

قم بإدراج جميع الحقائق التي تحتاج إلى التحقق منها في مخرجات الذكاء الاصطناعي هذه: - ضع نقطة منفصلة لكل اسم وتاريخ ورقم وإحصائية واقتباس ومطالبة. - اسأل "كيف يمكنني التحقق؟" لكل. اقترح (أي مصدر).- ضع علامة على المصادر التي لا يمكن التحقق منها/المشكوك فيها. الإخراج: """[لصق]"""

تحقق من صحة الادعاء التالي بحسب المصدر الذي ذكرته: ادعاء: [رقم/حقيقة]. - هل هذا الادعاء موجود بالفعل في المصدر الذي ذكرته؟ - وإلا قل "لم أستطع التحقق منه في هذا المصدر"، اختلقه. - إذا لم تكن متأكدًا، فلا تتكلم وكأنك متأكد.

تحقق من مخاطر الخصوصية الموجودة في هذه المهمة: المهمة: [العمل الذي أنوي القيام به باستخدام الذكاء الاصطناعي، وبأي بيانات].- ما فئة البيانات التي تندرج ضمنها (عامة/داخلية/سرية/حرجة)؟ - هل يجب أن تنتقل إلى أداة ذكاء اصطناعي عامة أم لا؟ - إذا لم يكن الأمر كذلك، ما هو البديل الآمن؟

موجه ضعيف / موجه قوي

ضعيف: "تلخيص رسالة البريد الإلكتروني الخاصة بشكوى العميل." (يتضمن اسم العميل، ومعرف الطلب، وربما الهاتف - كل ذلك يذهب مباشرة إلى الخادم.)

قوي: قم أولاً بإخفاء هوية النص ("العميل أ، طلب [المعرف مخفي]، يشكو من هذا المنتج")، ثم قل "تلخيص هذا النص مجهول المصدر". نفس الكفاءة، صفر تسرب للبيانات الشخصية. الفرق ليس في المخرجات بل في الحفاظ على المدخلات.

ثلاث حالات صغيرة

الحالة 1 - تسرب لا رجعة فيه. قام أحد الموظفين بلصق قائمة العملاء بالكامل (الاسم، الهاتف، الإنفاق) في أداة الذكاء الاصطناعي العامة "لتقسيمهم إلى شرائح". قامت المؤسسة بتقييم هذا على أنه انتهاك لـ KVKK؛ أصبحت البيانات الآن على خادم الطرف الثالث ولا يمكن استرجاعها. ويمكن إجراء نفس التحليل بدون مخاطر باستخدام بيانات مجهولة المصدر أو أداة مؤسسية.

الحالة 2 - يعطي منعكس التحقق. اتخذ أحد الصحفيين قاعدة للتحقق من صحة كل إحصائية واقتباس يقدمه الذكاء الاصطناعي في مصدره الأصلي قبل النشر. وفي أسبوع واحد، وجد أن 2 من أصل 5 "الحقائق" التي قدمها الذكاء الاصطناعي كانت مزيفة. وقد منع هذا المنعكس الأخبار الكاذبة المحتملة وفقدان السمعة.

الحالة 3 - عذر "لقد كتبه الذكاء الاصطناعي" لم ينجح. أرسل أحد المستشارين تقريرًا تم إنشاؤه بواسطة الذكاء الاصطناعي إلى العميل دون التحقق منه؛ فالادعاء القانوني الكاذب فيه ضلّل العميل. ولم يكن الدفاع عن "لقد جاء من الذكاء الاصطناعي" مقبولاً لدى العميل أو الجهة التنظيمية؛ وكانت المسؤولية على عاتق المستشار. الدرس المستفاد: الأداة تتغير، والمسؤولية لا تتغير.

الأخطاء الشائعة

• لصق البيانات السرية/الحرجة: الخطأ الأكثر تكلفة والذي لا رجعة فيه؛ تصنيف أولا.
• التفكير في "لقد قمت بحذفه، أنا آمن": الحذف لا يؤدي إلى التراجع عن تسجيل الخادم؛ الحماية قبل اللصق.
• الخلط بين الحقيقة واللغة: ثق باللغة، وتحقق من الحقيقة، وافصل بين الاثنين.
• عدم فتح المصدر الذي قدمه الذكاء الاصطناعي: قد ينتج عنه بصمة مزيفة؛ انظر المصدر.
• إن إلقاء اللوم على الأداة: "لقد كتبها الذكاء الاصطناعي" ليس عذرًا.
• عدم معرفة السياسة: اقرأ سياسة استخدام الذكاء الاصطناعي الخاصة بالمؤسسة؛ خلاف ذلك، كن حذرا.

نصيحة: امنح نفسك قاعدة شخصية بسيطة: "لا ألصق أي شيء سري أو بالغ الأهمية في أداة الذكاء الاصطناعي العامة؛ بل أتحقق من كل رقم ومصدر قبل إرساله." تعمل هذه القاعدة المكونة من جملتين على تقليل معظم المخاطر في هذه الوحدة فورًا.

في ملخص

• إن أكبر مخاطر الذكاء الاصطناعي لا تكمن في السرعة أو الجودة، بل في البيانات المسربة وعدم الدقة التي لم يتم التحقق منها.
• تصنيف البيانات (عامة/داخلية/سرية/حرجة)؛ لا تمنح أدوات الذكاء الاصطناعي العامة السرية والحاسمة، بل قم بإخفاء هويتها.
• الحذف ليس حماية؛ تبدأ الحماية قبل الإلتصاق.
• تحويل التحقق إلى رد فعل: ضع علامة على الحقائق، وانتقل إلى المصدر، وافتح مصدر الذكاء الاصطناعي، وقم بالقياس وفقًا للمخاطر.
• ثق في لغة الذكاء الاصطناعي، وثق في حقائقه؛ المسؤولية لا تقع على عاتق السيارة، فهي دائما مسؤوليتك.

مهمة التطبيق

خذ نصًا فعليًا ستقدمه إلى الذكاء الاصطناعي هذا الأسبوع. مع القالب الرابع، حدد أولاً فئة الخصوصية؛ إذا كانت هناك بيانات سرية، قم بإخفاء هويتها باستخدام القالب الأول. بعد استلام مخرجات الذكاء الاصطناعي، اجعل القالب الثاني يسرد الحقائق المراد التحقق منها ويؤكد واحدة منها على الأقل في المصدر الأصلي. اكتب لنفسك قاعدة للتحقق من الخصوصية مكونة من جملتين وانشرها في مكان ما.

قائمة مرجعية

• [ ] قمت بتصنيف البيانات قبل لصقها.
• [ ] لم أقدم بيانات سرية/بالغة الأهمية لأداة الذكاء الاصطناعي العامة؛ لقد قمت بإخفاء هويته إذا لزم الأمر.
• [ ] لقد قمت بالتحقق من كل حقيقة (الاسم والتاريخ والرقم والمصدر) في الإخراج.
• [ ] لقد فتحت المصدر الذي قدمته منظمة العفو الدولية وتحققت مما إذا كان يحتوي عليه بالفعل.
• [ ] لقد تأكدت من معرفتي بسياسة الذكاء الاصطناعي الخاصة بالشركة.
• [ ] لقد تحملت مسؤولية الإخراج النهائي.