التحقق من المصدر والتضليل والتحيز

المكاسب:

• القدرة على التحقق بشكل منهجي من المطالبة من خلال المصدر ومصداقية المصدر وخطوات التحقق المستقلة
• القدرة على فهم أن الذكاء الاصطناعي نفسه يمكن أن ينتج معلومات كاذبة من خلال الهلوسة، وتحيز بيانات التدريب، والتملق، والتعامل مع مخرجاته بمزيد من الشك
• القدرة على اختبار التحيز من خلال تحديد النتيجة بعلامة واضحة لمستوى الثقة وتقييم نفس الحدث من وجهات نظر مختلفة

فالدبلوماسية تتعامل مع المعلومات، وقيمة المعلومات تعتمد على دقتها. إن الإحاطة أو الموقف التفاوضي أو البيان العام المستند إلى معلومات غير صحيحة له عواقب يصعب عكسها. ولهذا السبب فإن إحدى أهم مهارات الدبلوماسي هي التحقق من المصدر: التقييم المنهجي من أين يأتي الادعاء، ومدى موثوقيته، وما إذا كان صحيحًا بالفعل. ستتعلم في هذه الوحدة كيفية دمج الذكاء الاصطناعي في عملية التحقق؛ ولكنك ستتعلم كيفية استخدامه مع الأخذ في الاعتبار أن الذكاء الاصطناعي بحد ذاته يمكن أن يكون مصدرًا للمعلومات الخاطئة والتحيز.

دعونا أولا نفصل بين المفاهيم الثلاثة. معلومات خاطئة: معلومات غير صحيحة تنتشر عن غير قصد. المعلومات المضللة: المعلومات الخاطئة التي يتم إنتاجها ونشرها عن وعي واستهداف. التحيز: التحويل المنهجي للمعلومات أو التقييم نحو جهة معينة. ويجب على الدبلوماسي أن يكون متيقظًا لهذه العناصر الثلاثة، ويمكن للذكاء الاصطناعي أن يكون مساعدًا ومخاطرًا في هذه العناصر الثلاثة.

خطوة بخطوة: التحقق من المطالبة

1. اذكر المطالبة بوضوح. ما الذي يجب التحقق منه بالضبط؟ قم بتلخيص الأمر في مطالبة واحدة واضحة المعالم مثل "انسحبت الدولة X من الاتفاقية Y". لا يمكن التحقق من المطالبات الغامضة.

2. ابحث عن أصلك. أين ومتى ومن قدم هذا الادعاء لأول مرة؟ تنشأ معظم المعلومات الخاطئة من مصدر واحد مشكوك فيه ويتم تضخيمها. ارجع إلى المصدر.

3. تقييم مصداقية المصدر. هل المصدر رسمي أم مستقل أم متحيز؟ هل قدم معلومات دقيقة في الماضي؟ وهل له مصلحة في هذا؟ فحتى المصدر الموثوق يمكن أن يكون مخطئًا؛ لكن المصدر منخفض المصداقية يتطلب تأكيدًا إضافيًا.

4. التحقق المتبادل. قم بتأكيد الادعاء من خلال مصدرين مستقلين وموثوقين على الأقل. 50 موقعًا تغذيها نفس وكالة الأنباء ليست مصادر مستقلة.

5. اختبار الاتساق الداخلي والسياق. هل المطالبة متسقة داخليًا؟ وهل يتعارض مع الحقائق المعروفة؟ أخرجت من السياق؟ الجملة الحقيقية يمكن أن تكون مضللة في السياق الخطأ.

6. حدد النتيجة بمستوى الثقة. قم بإدراج تصنيف واضح مثل "تم التحقق منه"، "تم التحقق منه جزئيًا"، "المصدر الوحيد"، "لا يمكن التحقق منه"، "خطأ". حتى عبارة "لست متأكدًا" هي نتيجة ويجب ذكرها بأمانة.

نصيحة: كلما كان للادعاء صدى أو إثارة استجابة عاطفية، كلما كان عليك أن تكون أكثر دقة في التحقق منه. تستهدف المعلومات المضللة مشاعر الغضب أو الخوف أو "الأخبار التي نريدها". غالبًا ما تكون المعلومات التي تطالبك باتخاذ إجراء بسرعة هي المعلومات التي تحتاج إلى أكبر قدر من التحقق.

الذكاء الاصطناعي في حد ذاته مصدر للخطر

التحذير الأهم لهذه الوحدة: الذكاء الاصطناعي ليس سلطة تحقق؛ ويمكن أن يؤدي في حد ذاته إلى توليد معلومات مضللة وتحيز. يمكن للذكاء الاصطناعي أن يضلل بثلاث طرق:

1. الهلوسة: تقديم مصدر أو اقتباس أو حدث غير موجود على أنه حقيقي. "ما هو المصدر الذي يؤكد هذا الادعاء؟" عندما تسأل، قد يعطيك أيضًا اسم مصدر مختلقًا.

2. تحيز بيانات التدريب: يعكس الذكاء الاصطناعي المنظور السائد في النصوص التي يتم تدريبه عليها. إذا كانت وجهة نظر جزء واحد من العالم بشأن قضية معينة تهيمن على البيانات، فيمكن للذكاء الاصطناعي التأثير بهذه الطريقة. وهذا ليس مقصودًا، ولكنه انعكاس للبيانات، لكن النتيجة لا تزال عبارة عن مخرجات متحيزة.

3. التملق: قد يميل الذكاء الاصطناعي إلى الإجابة على السؤال بطريقة تُرضيك. إذا كنت تريد التحقق من صحة المطالبة، فإنها تميل إلى تقديم إجابة تدعمها.

لذا استخدم الذكاء الاصطناعي كأداة للتحقق (تحرير المصادر، ووضع علامات على التعارضات، والمساعدة في تتبع المصدر)، ولكن لا تأخذ أبدًا عبارة الذكاء الاصطناعي "هذا صحيح" هي الكلمة الأخيرة.

تنبيه: عندما تطلب من الذكاء الاصطناعي التحقق من المصدر، تحقق مما إذا كان الذكاء الاصطناعي يعرض لك مصدرًا حقيقيًا أو ينتج ملفًا يبدو معقولًا. لا تعتبره "تم التحقق منه" حتى تفتح بشكل مستقل وترى كل اسم مصدر ورابط واقتباس يقدمه. قد يبدو المصدر المُعد بواسطة الذكاء الاصطناعي أكثر إقناعًا من المصدر الحقيقي.

ثلاث حالات صغيرة

الحالة 1 - تم حفظ التحقق من الأصل. سقطت لقطة شاشة "للإعلان الرسمي" على الطاولة وبدت حقيقية. وأظهر التحقق عدم وجود مثل هذا التصريح على القنوات الرسمية لتلك المؤسسة؛ كانت الصورة مزيفة. أدى التحقق من الأصل إلى منع بيان مزيف من الدخول إلى الإحاطة الإعلامية.

الحالة 2 - مصدر ملفق للذكاء الاصطناعي. طلب أحد الخبراء من الذكاء الاصطناعي التحقق من إحصائية. ونقل YZ عن مصدر قوله "وفقًا لتقرير هذه المنظمة لعام 2023 ..." اتصل بالمصدر الخبير: لم يكن هناك مثل هذا التقرير ولا مثل هذا الرقم؛ لقد قام الذكاء الاصطناعي بتكوين كليهما. اكتشف الفحص المستقل "تأكيدًا" ملفقًا.

الحالة 3 - إزاحة التحيز. طلب أحد الخبراء من الذكاء الاصطناعي تلخيص حدث مثير للجدل ولاحظ أن الناتج كان قريبًا بشكل واضح من رواية أحد الجانبين. وعندما سألت مرة أخرى "تلخيص نفس الحدث من وجهة نظر الطرف الآخر"، ظهرت صورة مختلفة تمامًا. إن المقارنة بين النتيجتين حالت دون تقديم إطار أحادي الجانب في التقرير.

أربعة قوالب قابلة للنسخ

1) بروتوكول التحقق من المطالبة:

دورك: محلل التحقق من الصحة. بالنسبة للادعاء التالي: (1) اختزل المطالبة إلى جملة nettek، (2) ابحث عن مكان/متى تم ذكرها لأول مرة في المصادر التي قدمتها، (3) كم عدد المصادر المستقلة التي تدعمها، (4) هل هناك أي مصادر متعارضة، (5) ضع علامة على النتيجة بإحدى العلامات التالية: تم التحقق منه / مصدر واحد / متناقض / لم يتم التحقق منه. تصنيع المصدر؛ فقط استخدم ما أعطيك. المطالبة + المصادر: [هنا]

2) اختبار التحيز للذكاء الاصطناعي:

أولاً، قم بتلخيص الحادثة التالية بموضوعية قدر الإمكان. ثم قم بتلخيص نفس الحدث بشكل منفصل (أ) عن وجهة نظر الطرف "أ"، (ب) عن وجهة نظر الطرف "ب". اذكر الاختلافات بين الإصدارات الثلاثة. وهكذا يتبين أي النقاط هي تفسير الطرفين وأيها الحقائق المشتركة. الحالة/المصادر: [هنا]

3) تقييم موثوقية المصدر:

قم بتقييم المصدر التالي: النوع (رسمي/مستقل/متحيز/مجهول)، الاهتمام المحتمل بالمسألة، المعلومات المقدمة عن المصداقية السابقة، الخطوات الإضافية المطلوبة للتحقق. اكتب أيضًا لماذا قد يكون المصدر خاطئًا. المصدر: [هنا]

4) أعلام التضليل الحمراء:

قم بمسح المحتوى أدناه بحثًا عن المعلومات المضللة. ابحث عن هذه العلامات: إحصائيات غير مصدر، لغة مثيرة للعواطف، صور بدون سياق، ضغط "أسرع/شارك"، كلمة مرجعية لا يمكن التحقق منها، نشر منسق ومتزامن. ضع علامة على كل نتيجة مع التبرير. لا تصدر أحكاما نهائية. المحتوى: [هنا]

موجه ضعيف / موجه قوي

حث ضعيف:

هل هذا الإدعاء صحيح؟ ابحث في الانترنت وأخبرني

قول الذكاء الاصطناعي "صحيح" ليس تحققًا؛ قد يعطي مصادر كاذبة أو يقدم إجابة متحيزة أو مغرية.

مطالبة قوية:

دورك: محلل التحقق. فيما يلي المطالبة والمصادر التي جمعتها. لا تقل لي "صواب/خطأ"؛ بدلاً من ذلك: اعرض أصل الادعاء، وعدد المصادر المستقلة، وأي تناقضات، ومستوى الثقة. لا تتجاوز المصادر التي ذكرتها، ولا تختلق مصادر. إذا لم تكن متأكدًا، ضع علامة "يتطلب التحقق البشري". المطالبة + المصادر: [هنا]

والفرق واضح: فالحاجة إلى المصدر، والتأكيد المستقل، ومستوى الثقة بدلاً من الحكم "الصواب/الخطأ" يحد من مخاطر الذكاء الاصطناعي.

جدول حالات التحقق

التسمية

معنى

الاستخدام في التقرير

تم التحقق منه

ما لا يقل عن 2 مصادر موثوقة مستقلة

يمكن استخدامها كحالة

تم تأكيده جزئيا

وأكد البعض

محدودة، مع الشرح

مصدر واحد

مصدر واحد فقط

باعتبارها "مطالبة"، مطلوب تأكيد

متناقض

المصادر غير متطابقة

قدمت على أنها عدم اليقين

لا يمكن التحقق

لم يتم العثور على تأكيد

لا تستخدم كحقيقة

خطأ

وقد ثبت العكس

كتصحيح في التقرير

الأخطاء الشائعة

• اعتبار قول الذكاء الاصطناعي "صحيحًا" بمثابة التحقق من الصحة. يمكن للذكاء الاصطناعي أن يفبرك، أو يتحيز، أو قواد.
• فتح المصدر المقدم من الذكاء الاصطناعي وقبوله دون رؤيته. تبدو المصادر الملفقة مقنعة.
• التحقق من القليل من المعلومات التي تناسب احتياجاتك. المعلومات العاطفية/المناسبة هي المعلومات التي تتطلب أكبر قدر من التأكيد.
• الخلط بين وفرة النسخ كتأكيد. مئات المواقع التي تتغذى من نفس المصدر هي مصدر واحد.
• عدم اختبار التحيز على الإطلاق. إن تلخيص نفس الحدث من وجهات نظر مختلفة يوفر التوازن.

باختصار

يعد التحقق من المصدر أساس المعرفة الدبلوماسية، ويعد الذكاء الاصطناعي بمثابة مساعدة ومخاطر في هذا العمل. ينظم الذكاء الاصطناعي المصادر، ويساعد في تتبع المصدر ووضع علامة على الصراع؛ ولكنها يمكن أن تولد في حد ذاتها معلومات خاطئة بسبب الهلوسة، وتحيز بيانات التدريب، والإطراء. إن تتبع المصدر، والتحقق المتبادل المستقل، وفصل مصداقية معلومات المصدر، ووضع علامات على مستوى الثقة، والشك الإضافي في مخرجات الذكاء الاصطناعي هي العمود الفقري لهذه الوحدة.

مهمة التطبيق

اختر مطالبة حالية ومثيرة للجدل واجمع مصادر من أنواع مختلفة. قم بتقييم المطالبة من حيث المصدر والتحقق المستقل باستخدام "بروتوكول التحقق من المطالبة". باستخدام "اختبار تحيز الذكاء الاصطناعي"، قم بتلخيص نفس الحدث من وجهات نظر مختلفة وقم بإدراج الاختلافات. إذا قدم الذكاء الاصطناعي موردًا، فافتحه بشكل مستقل وتحقق مما إذا كان موجودًا بالفعل.

قائمة مرجعية

• [ ] اختزلت الدعوى في جملة واحدة واضحة وبحثت عن أصلها.
• [ ] لقد قمت بمراجعة ما لا يقل عن مصدرين مستقلين موثوقين.
• [ ] لقد قمت بالتحقق بشكل مستقل من كل مصدر قدمته منظمة العفو الدولية.
• [ ] لقد اختبرت التحيز من خلال تلخيص نفس الحدث من وجهات نظر مختلفة.
• [ ] قمت بتمييز النتيجة بعلامة واضحة لمستوى الثقة.