المكاسب:
- يفهم أن النموذج يمكن أن ينتج هلوسة وأنه يجب التحقق من كل مخرجات
- يعرف المخاطر والبدائل الآمنة لوضع البيانات السرية والشخصية على الفور
- يطبق حدود الأخلاقيات وحقوق النشر والمسؤولية في استخدام الذكاء الاصطناعي
لا يكفي أن تتقن كيفية كتابة المطالبات؛ ومن الضروري أيضًا تعلم كيفية استخدام الذكاء الاصطناعي بطريقة مسؤولة. هذه الوحدة هي طبقة الأمان التي يجب وضعها فوق المهارة الفنية. ينتج الذكاء الاصطناعي إجابات سريعة ومقنعة ودقيقة في كثير من الأحيان؛ لكن في بعض الأحيان تنتج معلومات كاذبة تمامًا بنفس الثقة، ويمكن أن تعرض البيانات الحساسة للخطر وتتجاوز الحدود الأخلاقية. سنغطي في هذه الوحدة التحقق من المخرجات، والقيود المفروضة على النموذج، والسرية، والمسؤولية الأخلاقية. وبدون هذه المعرفة، تظل جميع التقنيات الأخرى غير مكتملة.
الهلوسة: تركيب النموذج
الهلوسة هي عندما ينتج النموذج معلومات غير حقيقية بلغة واثقة. ومن الأمثلة على ذلك مصدر غير موجود، أو تاريخ غير صحيح، أو إحصائية ملفقة، أو قانون لم يُكتب قط. لماذا يحدث ذلك؟ لأن النموذج مصمم ليس "لمعرفة الحقيقة" بل "لتوليد الاستمرارية المحتملة" (تذكر المنطق في الوحدة الأولى). فقط لأن الجملة ممكنة نحويا لا يعني أنها صحيحة في الواقع.
والأثر العملي لهذا واضح: كل حقيقة ينتجها الذكاء الاصطناعي هي ادعاء، وليست حقيقة، حتى يتم التحقق منها بشكل مستقل. وعلى وجه الخصوص، تحقق دائمًا مما يلي:
- أرقام وإحصائيات
- الأسماء والتواريخ وأسماء الأماكن
- الاقتباسات ومراجع المصادر
- البنود القانونية والمعايير الفنية والمعلومات الطبية / المالية
عادة التحقق من الصحة
يمكنك تقليل عملية التحقق ولكن عدم إعادة تعيينها باستخدام تقنية سريعة. العمل في طبقتين:
- الطبقة السريعة: ضع قيود النموذج مثل "اعتمد فقط على المصدر الذي أقدمه، ولا تضيف معلومات غير موجودة، واكتب "لا أعرف" إذا لم تكن متأكدًا، واعرض مصدر كل مطالبة." وهذا يقلل من المناسب.
- الطبقة البشرية: تحقق من كل حقيقة مهمة بنفسك من المصدر. هذه الخطوة غير قابلة للتفاوض. وهو إلزامي بشكل خاص للمحتوى الذي سيتم نشره، أو سيكون أساسًا للقرارات، أو سيؤثر على الآخرين.
الحدود: ما لا يفعله النموذج بشكل جيد
المنطقة
خطر
النهج الصحيح
الأحداث الحالية
قد تكون بيانات التدريب قديمة
التحقق من المصدر المؤرخ/الحالي
أرقام دقيقة
هناك احتمال كبير للتركيب
تحقق مع الآلة الحاسبة/المصدر
القانونية / الطبية / المالية
خطر الضرر الجسيم
استشر خبيرًا حقيقيًا، ولا تعتمد عليه وحده
المصدر/الاقتباس
يمكن أن تنتج موارد غير موجودة
تأكد من صحة المصدر بنفسك
موضوع نادر/متخصص
سطحية أو غير دقيقة
قارن مع معرفة الخبراء
النموذج هو مساعد، وليس السلطة النهائية. المسؤولية تقع دائما على عاتق الشخص الذي يستخدمها.
الخصوصية والبيانات الشخصية
يخضع النص الذي تكتبه في أداة الذكاء الاصطناعي العامة لسياسات المعالجة الخاصة بهذه الأداة وقد يكون خارجًا عن سيطرة مؤسستك. ولذلك فإن إدخال البيانات السرية والشخصية دون تفكير يعد خطراً جسيماً. يتم تنظيم معالجة البيانات الشخصية في تركيا بواسطة KVKK (قانون حماية البيانات الشخصية)؛ غالبًا ما يكون لدى المؤسسات أيضًا سياسات بيانات خاصة بها.
طرق العمل الآمنة:
- إخفاء الهوية/القناع: اكتب "العميل" بدلاً من الاسم الحقيقي، "[رقم الحساب]" بدلاً من الرقم الحقيقي. في معظم الأحيان، فإن قول "عميل شركة لمدة 3 سنوات" سيفي بالغرض.
- استخدم أداة معتمدة من المؤسسة: تقدم بعض المؤسسات أدوات متعاقد عليها/مؤسسية لا تسرب البيانات. معالجة البيانات الحساسة عليها فقط.
- لا تتخلى عن ما ليس ضروريًا: لا تقم بتضمين أي تفاصيل حساسة ليست في الواقع ضرورية للقيام بالمهمة.
- تعرف على السياسة: تعرف على قواعد استخدام الذكاء الاصطناعي في مؤسستك والتزم بها.
الأخلاق وحقوق النشر
الاستخدام المسؤول لا ينتهي بالخصوصية. ثلاثة مبادئ:
- الشفافية: قم بإدراج المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بشكل مناسب إذا كان السياق يتطلب ذلك (على سبيل المثال، عندما يكون من المتوقع العمل البشري). تجنب الاستخدام الخادع.
- حقوق الطبع والنشر والأصالة: قد تشبه مخرجات النموذج أعمالًا أخرى. مراجعة حالة الأصالة والحقوق قبل الاستخدام التجاري؛ لا تقلد العلامة التجارية/العمل الخاص بشخص آخر.
- غير مؤذية: لا تستخدم لإنشاء محتوى مضلل أو تمييزي أو تلاعبي أو مستهدف. قوة الأداة تزيد من المسؤولية.
أربعة قوالب قابلة للنسخ
1) تركيب الحد من القيد:
فقط اعتمد على المصدر أدناه. لا تقم بإضافة أي معلومات غير موجودة في المصدر. اكتب "ليس في المصدر" عندما لا تكون متأكدًا. بجانب كل مطالبة مهمة، قم بالإشارة إلى السطر الذي يستند إليه. المصدر: [النص]
2) استخراج قائمة التحقق:
قم بإدراج جميع الحقائق (الرقم والتاريخ والاسم والمطالبة) التي تحتاج إلى التحقق منها في النص أدناه. أقترح بإيجاز كيف يمكنني التحقق من كل منها. النص: [الإخراج]
3) إخفاء الهوية:
قم بإخفاء كافة البيانات الشخصية/السرية في النص التالي: قم بإنشاء أسماء [PERSON]، شركة [COMPANY]، أرقام [NUMBER]. إعطاء نسخة مجهولة المصدر مع المعنى سليما. النص: [النص]
4) المراجعة الأخلاقية:
قم بتقييم هذا المحتوى أخلاقيًا قبل نشره: هل هو مضلل أو تمييزي أو غير عادل؟ ضع علامة عليه إذا كان الأمر كذلك واقترح التصحيحات. المحتوى: [النص]
موجه ضعيف / موجه قوي
ضعيف (محفوف بالمخاطر):
ابحث عن المشاكل في عقد أحمد يلماز (TC: ...) وقارنها بمتوسطات الصناعة.
قوي (آمن):
ابحث عن البنود الخطرة في نص العقد أدناه. - استخدام البيانات الشخصية. دع الطرفين يُشار إليهما بـ [COMPANY-A] و [PERSON]. - اعتمد فقط على ما هو مكتوب في النص؛ متوسط الصناعة مكون، اكتب "البيانات غير متوفرة". - أظهر كل خطر مع العنصر الخاص به. النص (مجهول المصدر): [نص]
يحمي الإصدار القوي البيانات الشخصية ويحظر بيانات الصناعة المزيفة؛ الناتج جاهز للمراجعة من قبل الفريق القانوني.
ثلاث حالات صغيرة
الحالة 1 - مصدر ملفق. قام أحد الباحثين بوضع 3 "مصادر أكاديمية" قدمها النموذج في العرض دون التحقق منها؛ ولم يكن اثنان من المصادر متاحين على الإطلاق. لاحظ أحد الزملاء ذلك قبل العرض التقديمي. بعد ذلك، اعتمد الفريق قاعدة "البحث عن كل مصدر وفتحه شخصيًا قبل النشر".
الحالة 2 - السرية. قام أحد الموظفين بلصق عقد العميل الفعلي سليمًا في أداة عامة وطلب ملخصًا. وعندما اكتشف فريق أمن المعلومات في المؤسسة ذلك، تمت مراجعة العملية؛ تتم الآن معالجة المستندات الحساسة فقط في أداة الشركة المعتمدة من قبل المؤسسة وتكون مجهولة المصدر.
الحالة 3 - مسؤولية القرار. كان صاحب شركة صغيرة على وشك اتخاذ إجراء بناءً على التفسير الضريبي الذي قدمه النموذج؛ التعليق لم يتوافق مع التشريعات الحالية. تم اكتشاف الخطأ عندما استشار مستشاره المالي. الدرس واضح: الذكاء الاصطناعي يستعد، والخبير والإنسان يقرر.
نصيحة: اعتد على وضع علامة على الحقيقة على أنها "لم يتم التحقق منها". ضع علامة اختيار بجانب كل رقم ومصدر في الإخراج حتى تقوم بتأكيده؛ يمنع هذا النظام البسيط انتشار المعلومات الخاطئة بصمت.
تحذير: عبارة "قالت منظمة العفو الدولية ذلك" ليست عذرا. أنت مسؤول عن أي محتوى تنشره أو ترسله أو تبني عليه قراراتك. سرعة السيارة لا تعفيك من واجب الفحص.
الأخطاء الشائعة
- الخلط بين الإخراج بطلاقة على أنه صحيح. الخلط بين اللغة المقنعة كدليل على الحقيقة.
- استخدام المصدر دون التحقق منه. نشر مصدر غير موجود.
- إدخال البيانات السرية دون تفكير. لصق المستندات الحساسة دون إخفاء هويتها.
- ترك الخبرة للنموذج وحده. عدم التحقق من القرارات القانونية/ الطبية/ المالية.
- وضع المسؤولية على السيارة. التهرب من السيطرة بقول "قال الذكاء الاصطناعي ذلك".
باختصار
- الهلوسة هي عندما ينتج النموذج بثقة ما هو غير حقيقي؛ كل حقيقة هي ادعاء حتى يتم التحقق منها.
- التحقق ذو شقين: القيود السريعة تقلل من التصنيع، والفحص البشري يمسك به.
- يقتصر النموذج على المسائل القانونية/الطبية/المالية الحالية والدقيقة؛ ليست السلطة النهائية.
- إخفاء هوية البيانات أو العملية السرية والشخصية فقط في الأداة المعتمدة من قبل المؤسسة (KVKK وسياسة المؤسسة).
- الامتثال للمبادئ الأخلاقية ومبادئ حقوق النشر وعدم الإيذاء؛ المسؤولية عن المحتوى تقع دائما على عاتق الشخص.
مهمة التطبيق
خذ النسخة المطبوعة التي قمت بإنتاجها مؤخرًا واستخرج جميع الحقائق الموجودة فيها (الرقم والتاريخ والاسم والمصدر والمطالبة) كقائمة تحقق. قم بتدوين طريقة التحقق لكل منها وتحقق فعليًا من ثلاثة منها على الأقل. تحقق أيضًا مما إذا كانت هناك بيانات سرية/شخصية في إدخال نفس المخرجات وقم بإخفاء هويتها إذا لزم الأمر.
قائمة مرجعية
- [ ] أستطيع أن أشرح ما هي الهلوسة ولماذا تحدث.
- [ ] أتحقق من المخرجات الواقعية من مصدر مستقل.
- [ ] أقوم بإخفاء هوية البيانات السرية/الشخصية أو معالجتها في أداة آمنة.
- [ ] أقوم باستشارة خبير حقيقي في المسائل القانونية/الطبية/المالية.
- [ ] أوافق على أنني مسؤول عن المحتوى.