المكاسب:
- القدرة على التقاط الهلوسة من خلال التحقق من وجود كل مصدر، والانتقال إلى المصدر الأساسي، وخطوات التأكيد المتبادل المستقلة
- القدرة على الحفاظ على الأصالة والنزاهة الأكاديمية ضد الاقتباسات والوثائق الملفقة في العلوم الإنسانية والاجتماعية
- القدرة على تعليم المستخدمين مهارات التحقق من المصدر ومحو الأمية المعلوماتية في عصر الذكاء الاصطناعي
في قلب المهمة الاجتماعية لمكتبة المكتبات هناك وعد واحد: معلومات موثوقة. يقوم أمين المكتبة بإحضار المستخدم ليس فقط إلى المعلومات، بل إلى المعلومات التي تم التحقق منها، ويعلمه كيفية تقييم هذه المعلومات بنفسه. وفي عصر الذكاء الاصطناعي، أصبحت هذه المهمة أكثر صعوبة وأكثر أهمية؛ لأن الذكاء الاصطناعي يمكن أن ينتج معلومات مضللة بطريقة مقنعة للغاية. في هذه الوحدة، سنغطي التعرف على الهلوسة، ونظام التحقق من المصدر، وتعليم محو الأمية المعلوماتية في عصر الذكاء الاصطناعي.
دعونا نحدد المفاهيم. تحدث الهلوسة عندما ينتج الذكاء الاصطناعي معلومات أو مصادر أو اقتباسات أو أحداث غير موجودة في الواقع كما لو كانت حقيقية. التحقق من المصدر هو التأكيد على أن المعلومات تستند إلى مصدر حقيقي وموثوق وأولي. محو الأمية المعلوماتية هو قدرة الشخص على العثور على المعلومات، وتقييمها، والتشكيك في موثوقيتها، واستخدامها بشكل أخلاقي. تهدف هذه الوحدة إلى قيام أمين المكتبة بتعزيز هذه المهارات سواء في ممارسته الخاصة أو في تعليم المستخدم.
خطوة بخطوة: انضباط التحقق من المصدر
1. اطلب المصدر وتأكد من وجوده. عندما يقدم الذكاء الاصطناعي ادعاءً أو اقتباسًا، "من أي مصدر هذا؟" وتأكد من وجود المصدر بالفعل في كتالوج مستقل أو قاعدة بيانات أو مستند أساسي.
2. انتقل إلى المصدر الأساسي. الشكل الأكثر موثوقية للمعلومات هو مصدرها المباشر. لا تكتفي بملخص الذكاء الاصطناعي أو بنص ثانوي؛ إذا أمكن، قم بالوصول إلى المستند الأصلي أو البيانات أو المنشور.
3. التأكيد المتبادل. التحقق من صحة الادعاء النقدي من خلال مصدرين موثوقين على الأقل، مستقلين عن بعضهما البعض. مورد واحد، وخاصة مورد الذكاء الاصطناعي، لا يكفي.
4. تقييم مصداقية المصدر. من كتبها ومتى ولأي غرض وعلى أي دليل؟ هل هو محدث؟ فوجود المعلومة لا يجعلها صحيحة؛ اسأل أيضًا عن طبيعة المصدر.
5. التعبير عن عدم اليقين بأمانة. إذا لم يكن من الممكن التحقق من المعلومات، فقل ذلك بوضوح. من الأفضل دائمًا أن تقول "غير مؤكد" بدلاً من تقديم يقين ملفق.
نصيحة: عندما تحصل على اقتباس أو مصدر من الذكاء الاصطناعي، ابحث أولاً عن العنوان والمؤلف في كتالوج فعلي. تظهر الموارد غير الموجودة على الفور هنا. يمنع هذا الفحص الذي يستغرق 30 ثانية أي مصدر ملفق من إدخال قائمة مراجع أو مهمة أو منشور.
الأصالة والتحقق في العلوم الإنسانية والاجتماعية
إن العلوم الإنسانية والاجتماعية معرضة بشكل خاص لخطر الهلوسة. في هذه المجالات، تعتمد الأدلة غالبًا على مستند محدد، أو تاريخ، أو اقتباس، أو مصدر تعليق. يمكن للذكاء الاصطناعي أن ينتج ادعاءات محددة للغاية ولكنها ملفقة تمامًا، مثل "هذا ما قاله المؤرخ" أو "تلك الوثيقة من عام 1923 تقول". في العمل الأدبي أو التاريخ أو القانون، هذا يعني سلسلة من الأدلة الزائفة.
علاوة على ذلك، فإن الأصالة هي القيمة الأساسية لهذه المجالات: فمن المهم لمن ينتمي النص أو التفسير أو الترجمة حقًا. إن تقديم نص من إنتاج الذكاء الاصطناعي كعمل أصلي أو الاعتماد على "مصدر" مكون من الذكاء الاصطناعي يعد انتهاكًا للنزاهة الأكاديمية. أمين المكتبة هو مرشد يعلم المستخدمين التحقق وحدود الأصالة والسرقة الأدبية.
تحذير: حتى في الحالات التي يبدو فيها الاقتباس الذي تم إنشاؤه بواسطة الذكاء الاصطناعي دقيقًا حرفيًا ومنسوبًا إلى مؤلف حقيقي، فقد يكون هذا الاقتباس ملفقًا. التحقق من الاقتباس من خلال العثور عليه فقط في العمل الفعلي للمؤلف؛ منطق "ربما قال هذا المؤلف شيئًا كهذا" ليس كافيًا.
ثلاث حالات صغيرة
الحالة 1 - تم تعليم الطالب التحقق. رأى أمين المكتبة 5 موارد من الذكاء الاصطناعي في مهمة أحد الطلاب. قاموا معًا بفحصه في الكتالوج: هناك مصدران ملفقان. لقد اختبر الطالب الدرس بشكل مباشر وهو أنه "ليس من المناسب أن يبدو الأمر حقيقيًا" واكتسب مرة أخرى عادة التحقق من كل مصدر.
الحالة الثانية – وثيقة تاريخية ملفقة. تلقى أحد الباحثين "تقرير صحيفة عام 1919" من منظمة العفو الدولية؛ كان التاريخ واسم الصحيفة ومحتواها مقنعين للغاية. قام أمين المكتبة بفحص أرشيف الصحيفة: لم يكن هناك مثل هذه الأخبار في ذلك الوقت. تم القبض على مصدر أولي ملفق قبل أن يتم تحويله إلى مقال.
الحالة 3 - الاقتباس المنسوب بشكل خاطئ. نسبت منظمة العفو الدولية مقولة لمفكر مشهور. بحث أمين المكتبة عن هذه الكلمة في أعمال المفكر فلم يجدها؛ ولم تذكر الكلمة في أي مكان. أدى التدقيق المتبادل إلى منع نشر الاقتباس المنسوب بشكل خاطئ.
سلسلة انتشار المعلومات الخاطئة ودور أمين المكتبة
غالبًا ما تبدأ المعلومات الخاطئة بمخرج واحد ملفق، لكنها لا تتوقف عند هذا الحد. يضع المستخدم موردًا مزيفًا تم إنشاؤه بواسطة الذكاء الاصطناعي في مهمة ما؛ تصبح المهمة منشورًا؛ يتم الاستشهاد بالمنشور من قبل الآخرين، بحيث يكتسب المصدر الوهمي مظهر "الحقيقة" من خلال الاستشهاد به بشكل متكرر. يمكننا أن نطلق على هذا اسم "تلوث الإسناد": فالمعلومات الكاذبة تكتسب الشرعية من خلال تكرارها مرارًا وتكرارًا. يقف أمين المكتبة عند الحلقة الأكثر أهمية في هذه السلسلة؛ لأنها نقطة المراقبة الأخيرة التي يتم فيها التحقق من المعلومات قبل الدخول إلى النظام. فمجرد وجود المصدر "في العديد من الأماكن" لا يجعله صحيحًا؛ يمكن أن تظهر نفس المعلومات المزيفة في العديد من الأماكن عن طريق نسخها من بعضها البعض. لذلك، يجب أن يعتمد التأكيد المتبادل على السؤال "كم عدد المصادر الموثوقة التي تؤكدها بشكل مستقل عن بعضها البعض"، وليس "كم عدد الأماكن التي تظهر فيها؟" عشرة مصادر ثانوية تكرر نفس الادعاء لا تساوي قيمة مصدر أساسي مستقل واحد. يجب على أمين المكتبة أن يضع هذا التمييز (دون الخلط بين الاستقلال والتكرار) في مركز التحقق الخاص به وتعليمه للمستخدم.
تنبيه: ظهور المعلومات في محرك البحث أو في العديد من صفحات الويب ليس دليلاً على دقتها. وربما يكون الخطأ نفسه قد انتشر على نطاق واسع من خلال نسخه من مصدر إلى آخر. الانتشار والدقة شيئان مختلفان؛ يتطلب التأكيد مصدرًا مستقلاً وموثوقًا.
أربعة قوالب قابلة للنسخ
1) استعلام كيان المورد:
قم بإدراج كل مصدر واستشهاد في النص أدناه. لكل: المؤلف والعنوان والسنة ومعلومات النشر (إن وجدت). استخراج المعلومات التي أحتاج إلى التحقق منها بندًا بند؛ لا تضيف.النص: [هنا]
2) تقييم التأكيد:
لكل من الادعاءات التالية، قم بعزل العناصر الفعلية (التاريخ، الاسم، الرقم، الاقتباس) التي تحتاج إلى التحقق منها. اقترح نوع المصدر (الكتالوج، المستند الأساسي، قاعدة البيانات) الذي يمكن التحقق منه. لا تحكم على الدقة، فقط أظهر مسار التحقق. التأكيدات: [هنا]
3) قائمة التحقق من موثوقية اللحام:
قم بتقييم مصداقية المصدر التالي: من كتبه، متى ولأي غرض، هل هناك دليل، هل هو حديث، هل هناك تحيز محتمل؟ فقط اعتمد على المعلومات التي قدمتها، واكتب "غير معروف" حيثما تكون مفقودة. معلومات المصدر: [هنا]
4) خطة تدريس الثقافة المعلوماتية:
قم بإنتاج برنامج تعليمي موجز مدته 20 دقيقة حول التحقق من المصدر والهلوسة في عصر الذكاء الاصطناعي لمجموعة المستخدمين التالية (مثل الطلاب الجامعيين): الأهداف، 3 أمثلة، تطبيق واحد. المجموعة: [هنا]
موجه ضعيف / موجه قوي
حث ضعيف:
اكتب ملخصًا عن هذا الموضوع بمصادر موثوقة.
إن قول "بمصادر موثوقة" يشجع الذكاء الاصطناعي على إنتاج مصادر مزيفة تبدو وكأنها حقيقية؛ لا يوجد ربط التحقق من الصحة.
مطالبة قوية:
دورك: مساعد محو الأمية المعلوماتية. كتابة ملخص حول الموضوع التالي؛ بدلاً من ذلك، قم بإدراج الأسئلة الواقعية التي يحتاج المستخدم إلى التحقق منها ونوع المصدر الموثوق الذي يمكنه التحقق منه. لا تقم باختلاق أي اقتباسات من المصدر؛ حدد المنطقة التي لست متأكدًا منها بأنها "يجب التحقق منها". الموضوع: [هنا]
موجه قوي؛ فهو يستخدم الذكاء الاصطناعي كدليل يوضح الطريق للتحقق، بدلاً من تقديم الإجابات، ويمنع التلفيق هيكلياً.
جدول طبقات المصادقة
طبقة
سؤال
الطريقة
كيان
هل هذا المصدر حقيقي؟
بحث في الكتالوج/قاعدة البيانات
الأسبقية
هل هذا هو المصدر الأقرب؟
الوصول إلى الوثيقة الأصلية
تأكيد
فهل يؤكد مصدر آخر ذلك؟
فحص متقاطع مستقل
الموثوقية
ما مدى صلابة المصدر؟
المؤلف، التاريخ، الغرض، الأدلة
الصدق
هل أنا متأكد؟
عدم اليقين الدولة بشكل واضح
الأخطاء الشائعة
- الاعتقاد بأن ما هو مقنع هو الصحيح. المظهر الجيد ليس دليلاً على الصلاح.
- الاكتفاء بمصدر واحد. تتطلب المعلومات الهامة تأكيدًا متقاطعًا مستقلاً.
- لا تبحث عن الاقتباس في مصدره. هذه هي الطريقة التي تنتشر بها الكلمات المنسوبة بشكل خاطئ.
- إخفاء عدم اليقين. "لا يمكن التحقق منه" أفضل من اليقين الكاذب.
- عدم تعليم المستخدم كيفية المصادقة. محو الأمية المعلوماتية هي مهمة أمين المكتبة.
باختصار
يعد التحقق من المصدر ومحو الأمية المعلوماتية من أهم مهام المكتبات في عصر الذكاء الاصطناعي. تنتج الهلوسة معلومات مقنعة ولكنها ملفقة وهي خطيرة بشكل خاص في العلوم الإنسانية والاجتماعية. الانضباط واضح: التحقق من وجود كل مصدر، والذهاب إلى المصدر الرئيسي، وإجراء تدقيق مستقل، والتشكيك في مصداقية المصدر، والتعبير عن عدم اليقين بأمانة. ينشر أمين المكتبة ثقافة التحقق هذه ليس فقط في ممارسته ولكن أيضًا عن طريق تعليم المستخدمين؛ الأصالة والنزاهة الأكاديمية جزء لا يتجزأ من هذه المهمة.
مهمة التطبيق
اطلب 6 مصادر واستشهادين من الذكاء الاصطناعي في مجالك. التحقق من كل مصدر من خلال البحث عنه في الكتالوج الفعلي وعن كل استشهاد في العمل الفعلي للمؤلف؛ لاحظ كم عدد الافتراءات. بعد ذلك، باستخدام قالب "خطة تدريس المعرفة المعلوماتية"، قم بصياغة برنامج تعليمي مدته 20 دقيقة لشرح التحقق من المصدر لمجموعة مستخدمين وتضمين أمثلة حقيقية وجدتها بنفسك.
قائمة مرجعية
- [ ] لقد تحققت بشكل مستقل من أن كل مصدر موجود بالفعل.
- [ ] لقد استخدمت المصادر الأولية حيثما أمكن ذلك.
- [ ] لقد قمت بمراجعة الادعاءات الهامة مع مصدرين مستقلين على الأقل.
- [ ] لقد قمت بالتحقق من الاقتباسات من خلال البحث عنها في العمل الفعلي للمؤلف.
- [ ] لقد قمت بوضع علامة واضحة على المعلومات التي لا يمكن التحقق منها على أنها "لا يمكن التحقق منها".