المكاسب:
- القدرة على شرح لماذا تعتبر الهلوسة (المصدر الملفق، الاقتباس، الحدث) والمفارقة التاريخية من أخطر الأخطاء في التاريخ
- القدرة على تطبيق نظام التحقق من كل مرجع في الكتالوج، ومقارنة المحتوى بالوثيقة، والتأكيد المتبادل على الحقائق الهامة.
- القدرة على التشكيك في التحيز والأصوات المفقودة في المصادر من خلال سؤال الذكاء الاصطناعي عن مكان البحث بدلاً من المصدر الحقيقي
هناك تحذير يتكرر في كل وحدة من هذه الوحدة: مخرجات الذكاء الاصطناعي هي ادعاء، وليست حقيقة، حتى يتم التحقق منها. تقوم هذه الوحدة بتحويل هذا التحذير إلى نظام. إن التاريخ والأرشفة هما بطبيعتهما مجالان قائمان على الأدلة؛ إن المهارة الأساسية للمؤرخ هي نقد المصدر (التساؤل عن من، ومتى، ولأي غرض تم إنتاج المصدر، ومدى موثوقيته). وفي عصر الذكاء الاصطناعي، أصبحت هذه المهارة أكثر أهمية لأن المصدر نفسه قد يكون الآن ملفقًا.
سنغطي هنا ثلاثة مخاطر بعمق: الهلوسة (إنتاج الذكاء الاصطناعي لمعلومات أو مصادر أو اقتباسات ملفقة)، والمفارقة التاريخية (نقل العناصر الدورية إلى فترة خاطئة)، ونظام التحقق من المصدر بشكل عام. وسنرى أيضًا أن الذكاء الاصطناعي يتعلم من مصادر كانت غير دقيقة أو متحيزة في الماضي، حتى يتمكن من إعادة إنتاج التحيز.
الهلوسة: أخطر خطأ
الهلوسة هي عندما يقدم الذكاء الاصطناعي بثقة شيئًا غير موجود في الواقع. تاريخيًا، كان يظهر بشكل شائع في الأشكال التالية:
- المصدر/المرجع الملفق: صندوق أرشيف غير موجود، رقم الملف، الكتاب أو المقالة.
- اقتباس مختلق: كلمة لم تقال بالفعل، جملة غير موجودة في المستند.
- الحدث/التاريخ/الشخص: حدث لم يحدث، تاريخ كاذب، شخص غير موجود.
- الاتصال الوهمي: علاقة سببية غير موجودة بين حدثين حقيقيين.
ما يجعل الهلوسة خطيرة هو أنها تبدو قابلة للتصديق. المرجع المكوّن له نفس تنسيق المرجع الحقيقي: اسم الصندوق، رقمه، تاريخه. لذا فإن "التنسيق يبدو صحيحًا" لا يعني أبدًا "صحيحًا".
تنبيه: لا يمكن استخدام أي مورد تنتجه YZ دون التحقق منه والعثور عليه في الكتالوج أو في مكان موثوق. الطريقة الوحيدة لإثبات وجود مرجع هي رؤيته حيث يوجد المصدر الأصلي (فهرس الأرشيف، المكتبة، المنشور). "أعطتها منظمة العفو الدولية" ليست دليلاً.
مفارقة تاريخية: نظارات تلك الفترة
المفارقة التاريخية هي رؤية الماضي من خلال نظارات اليوم. نظرًا لأن الذكاء الاصطناعي مُدرب بلغة اليوم، فإنه يميل بقوة إلى:
- مصطلح المفارقة التاريخية: استخدام كلمة أو مؤسسة أو مفهوم لا ينتمي إلى تلك الفترة.
- مفهوم المفارقة التاريخية: إبراز فكرة الحاضر (مثل الأيديولوجية أو الهوية الحديثة) في الماضي.
- مفارقة القيمة: الحكم على السلوك الماضي فقط بمعايير اليوم.
مهمة المؤرخ هي فهم الماضي في سياقه. ويفتقر الذكاء الاصطناعي إلى حساسية السياق هذه؛ يجب عليك تقديمها بنفسك.
إن فهم سبب حدوث الهلوسة في كثير من الأحيان يجعل من السهل الحماية منها. الذكاء الاصطناعي هو نظام يعمل على إنتاج "الكلمة التالية الأكثر احتمالا"؛ ليس لها أي غرض مثل "معرفة الحقيقة". عندما يُطرح عليه سؤال، سواء كان يعرف الإجابة أم لا، فإنه ينتج نصًا يبدو مقنعًا إحصائيًا. إن تنسيق المرجع الأرشيفي (اسم الصندوق، رقمه، تاريخه) هو نمط مكتسب؛ يمكن للذكاء الاصطناعي ملء هذا النمط دون مرجع حقيقي. إذًا "لماذا يقوم الذكاء الاصطناعي باختلاق الأمر؟" الجواب على السؤال بسيط: التعويض أسهل عليه من "عدم المعرفة". وتقع المسؤولية عليك في ملء هذه القوالب بموارد حقيقية.
نظام التحقق من المصدر: خطوة بخطوة
1. التحقق من وجود المورد. ابحث عن كل مرجع يقدمه الذكاء الاصطناعي في الكتالوج/المنشور. إذا لم تتمكن من العثور عليه، فلا تستخدمه.
2. قارن المحتوى بالمصدر. هل المعلومات التي ينسبها الذكاء الاصطناعي إلى المستند موجودة بالفعل في المستند؟ هل الاقتباس هو نفسه بالضبط؟
3. التأكيد المتبادل. للحصول على حقيقة حاسمة، انظر على الأقل إلى مصدرين مستقلين وموثوقين.
4. تطبيق نقد المصدر. هل المصدر نفسه موثوق؟ ومن أنتجه ومتى ولأي غرض؟ هل هو متحيز؟
5. مررها عبر مرشح المفارقة التاريخية. هل هناك أي مصطلحات أو مفاهيم أو أحكام قيمية لا تتناسب مع الفترة الزمنية في المخرجات؟
6. سؤال التحيز. هل كان من الممكن أن يعيد الذكاء الاصطناعي إنتاج التحيزات في المصادر التاريخية (تجاهل مجموعة واحدة، وتفضيل وجهة نظر واحدة)؟
طبقة المصادقة
سؤال
من يفعل
كيان
هل هذا المورد موجود بالفعل؟
أنت في الكتالوج.
المحتوى
هل هذا حقا يقول في الوثيقة؟
أنت في الوثيقة
تأكيد
هل هناك مصدر آخر يدعمه؟
أنت يا صليب
الموثوقية
هل المصدر موثوق؟
حكم الخبراء
الفترة
هل هناك أي مفارقات تاريخية؟
حكم الخبراء
التحيز
من هو الصوت المفقود/المشوه؟
حكم الخبراء
ثلاث حالات صغيرة
الحالة 1 - ستة مراجع ملفقة. طلب أحد الباحثين من الذكاء الاصطناعي قائمة بالمصادر حول موضوع ما. قدمت YZ 6 مراجع أرشيفية بتنسيق مثالي. في البحث في الكتالوج، كان 4 من أصل 6 مفقودين، وكان رقم 2 منهم خاطئًا. ولو لم يتحقق الباحث لظهرت دراسة استشهدت بمصادر غير موجودة. الدرس: يتم التحقق من كل مرجع في الكتالوج.
الحالة الثانية - الاقتباس المختلق. قد يستخدم الكاتب اقتباسًا ملفتًا للنظر ينسبه الذكاء الاصطناعي إلى شخصية تاريخية. وعندما حقق مع المصدر، رأى أنه لا توجد وثيقة تثبت أن هذا الشخص قال مثل هذا الشيء، وأن الأقوال "ملفقة" من قبل منظمة العفو الدولية. الدرس المستفاد: لا يمكن استخدام الاقتباسات دون التحقق من مصدر أساسي أو موثوق.
الحالة 3 - استنساخ التحيز. طلب أحد الطلاب من الذكاء الاصطناعي أن يشرح تاريخ المنطقة. لقد تجاهلت المخرجات مجتمعًا محددًا تمامًا في تلك المنطقة لأن المصادر التي تعلم منها الذكاء الاصطناعي تجاهلتهم أيضًا. وقد لاحظ الطالب هذه الفجوة وقام بتصحيحها باستخدام المراجع التبادلية. الدرس المستفاد: الذكاء الاصطناعي يعيد إنتاج حالات الصمت والتحيز في المصادر؛ يجب على المرء أن يسأل من هو الصوت المفقود.
أربعة قوالب قابلة للنسخ
1) قائمة التحقق المرجعية:
تظهر جميع أسماء المصادر والمراجع والاقتباسات والتاريخ والأشخاص في النص أدناه في قائمة منفصلة. أضف ملاحظة لكل: "المطالبة في هذا النص، يجب التحقق منها بشكل مستقل." إذا لم تقم بتحديد لا شيء، "التحقق"؛ ما عليك سوى إنتاج قائمة للتحقق منها حتى أتمكن من التحقق منها من الكتالوج/المصدر. النص: [هنا]
2) مسح المفارقة التاريخية:
افحص النص حول [الفترة] أدناه. تسليط الضوء على المصطلحات والمؤسسات والمفاهيم والقيم التي قد لا تنتمي إلى هذه الفترة. لكل منها، اكتب بإيجاز سبب شكوكك. إصدار الحكم النهائي؛ أنشئ قائمة بالشكوك التي سيتحقق منها الخبير. النص: [هنا]
3) إطار نقد المصدر:
تتم صياغة نقد المصدر حول المصدر التالي: (1) من الذي قد يكون أنتج ذلك، (2) متى، (3) لأي غرض، (4) ما هي تحيزاته المحتملة، (5) ما هي القضايا التي يجب الوثوق بها وأيها يجب الحذر منها. فرض الحكم النهائي؛ تقديم الأسئلة وخيارات الإجابة الممكنة. المصدر: [هنا]
4) فقدان التحكم في مستوى الصوت/التحيز:
صوت من وأي مجموعة قد تكون تجربتها مفقودة أو أحادية الجانب في الملخص التاريخي التالي؟ ما هو المنظور المسيطر، والذي هو غير مرئي؟ قم بإنتاج هذا كقائمة من الأسئلة؛ وسوف أقوم بملئه بالإشارات الترافقية. ملخص: [هنا]
موجه ضعيف / موجه قوي
ضعيف:
أعطني مصادر تاريخية موثوقة ومقتبسات حول هذا الموضوع.
الذكاء الاصطناعي عرضة جدًا لإنتاج مراجع صحيحة من حيث الشكل ولكنها ملفقة في المحتوى عندما يُطلب منك "المصدر" و"الاقتباس". هذه المطالبة هي دعوة مباشرة للهلوسة.
قوي:
اقترح نوع المصادر (نوع صندوق الأرشيف، نوع المنشور، المؤسسة) التي يجب أن أبحث عنها في بحثي حول هذا الموضوع. ملاءمة مرجع محدد أو رقم ملف أو اقتباس؛ فقط أخبرني أين أنظر. ثم سأجد المصادر الحقيقية من الكتالوجات.
الفرق: يُطلب من الذكاء الاصطناعي "أين تبحث"، وليس "المرجع الفعلي"؛ يتم تقليل خطر الهلوسة بشكل جذري ويترك التحقق للإنسان.
الأخطاء الشائعة
- الاعتماد على المرجع الصحيح. كما يبدو المرجع المختلق خاليًا من العيوب؛ يجب التحقق منها في الكتالوج.
- أخذ اقتباس مباشر من منظمة العفو الدولية. لا يمكن استخدام الأسعار دون تأكيد من المصدر الأساسي/الموثوق.
- تطل على المفارقة التاريخية. مصطلحات ومفاهيم اليوم تتسرب بصمت إلى الماضي.
- إعادة إنتاج التحيز. يقوم الذكاء الاصطناعي بنسخ حالات الصمت من المصادر؛ فمن الضروري أن نسأل عن الصوت المفقود.
- الاعتماد على مصدر واحد. ويجب تأكيد الحقائق الهامة من قبل مصدرين مستقلين على الأقل.
باختصار
يقع التحقق من المصدر في قلب التاريخ والأرشفة، وهو أكثر أهمية في عصر الذكاء الاصطناعي. تنتج الهلوسة مصادر واقتباسات وأحداثًا شكلها مثالي ولكن محتواها خيالي؛ والمفارقة التاريخية تشوه الماضي من خلال عدسات اليوم؛ ويعيد الذكاء الاصطناعي إنتاج التحيزات في المصادر. الدفاع هو نظام: التحقق من كل مرجع في الكتالوج، ومقارنة المحتوى بالوثيقة، والتحقق من الحقائق الهامة، والتصفية عبر الفترة والتحيز. اسأل الذكاء الاصطناعي عن "مكان البحث"، وليس "المصدر الفعلي". حارس الحقيقة هو دائما الخبير.
مهمة التطبيق
اطلب من الذكاء الاصطناعي إنتاج قائمة بالموارد حول الموضوع الذي تعمل عليه (مع "مطالبة ضعيفة" عمدًا). ثم قم باستخراج كافة المراجع من هذا الإخراج باستخدام قالب "قائمة التحقق من صحة المراجع" وابحث في كل منها في الكتالوج. قم بإحصاء عدد الأشخاص الموجودين بالفعل وعدد الأشخاص المختلقين أو غير الدقيقين. كرر نفس الموضوع بـ "مطالبة قوية" ("أين يجب أن أبحث") ولاحظ الفرق.
قائمة مرجعية
- [ ] لقد قمت بالتحقق من كل مرجع في الكتالوج/المصدر الموثوق.
- [ ] لقد قمت بالتحقق من كل اقتباس بالمصدر الأساسي/الموثوق.
- [ ] لقد قمت بمراجعة الحقائق الهامة مع مصدرين مستقلين على الأقل.
- [ ] لقد قمت بتصفية الإخراج بحثًا عن المفارقات التاريخية.
- [ ] تساءلت عن الأصوات المفقودة/المشوهة والتحيز.