المكاسب:
- معرفة سبب إخفاء الهلوسة في المجال البشري والقدرة على تمرير كل مصدر من خلال سلسلة التحقق المكونة من خمس خطوات (الوجود، البصمة، الاقتباس، السياق، الإسناد)
- القدرة على تأكيد صحة المصدر بهويات محددة مثل DOI وISBN والكتالوج.
- فهم قواعد منع الذكاء الاصطناعي من صنع الافتراءات وعدم تفويض التحقق من صحة الاقتباس وصدق الإسناد إليه.
إن قيمة النص في المجالين الإنساني والاجتماعي تعتمد على صحة المصادر التي يستند إليها ودقة نقلها. مقالة أدبية، أو أطروحة، أو مذكرة محاضرة - تعتمد جميعها على مصادر موثوقة وإسناد صادق (يوضح من/أين حصلت على المعلومات أو الاقتباس). يوفر الذكاء الاصطناعي راحة كبيرة في هذا المجال، لكنه يحمل أيضًا الخطر الأكبر: الهلوسة، أي إنتاج مصدر أو اقتباس أو حقيقة غير موجودة على أنها حقيقية. وهذه الوحدة مخصصة لإنشاء "درع تحقق" ضد هذا الخطر.
قاعدة الجملة الواحدة: لا يمكن لأي مصدر أو اقتباس أو تاريخ أو رقم تم إنشاؤه بواسطة الذكاء الاصطناعي إدخال النص دون تأكيد بضمير المتكلم من مصدر أساسي أو موثوق. هذه القاعدة هي القاعدة الأكثر تكرارًا والأقل مرونة في هذه الوحدة.
لماذا تعتبر الهلوسة خطيرة جدًا في هذا المجال؟
إذا أخطأ الذكاء الاصطناعي في مسألة فنية، فغالبًا ما سيتم ملاحظة ذلك؛ ولكن في المجال البشري يتم إخفاء الهلوسة بمهارة:
- خط ثانوي واقعي: يجمع الذكاء الاصطناعي بين اسم المؤلف الحقيقي والعنوان المناسب للمجال وسنة معقولة. والنتيجة هي مصدر غير موجود ولكنه يبدو حقيقيًا تمامًا.
- الاقتباس المناسب للأسلوب: يمكن للذكاء الاصطناعي تقليد أسلوب المؤلف وتقديم جملة لا تخصه على أنها "كلمته".
- تاريخ قريب ولكنه خاطئ: قد يتم تغيير سنة العمل بمقدار سنة أو سنتين؛ وهذا يهرب من القارئ المهمل.
- الإسناد المرتبك: قد ينسب فكرة إلى الشخص الخطأ.
كل هذه الأمور يمكن أن تتسلل بصمت إلى نص المؤلف بنوايا صادقة، وإذا لم يتم اكتشافها، فإنها تلحق الضرر بسمعة المؤلف وثقة القارئ.
تحذير: مجرد ظهور المورد "واقعيًا" للذكاء الاصطناعي لا يعني أنه حقيقي. الواقعية والواقع شيئان مختلفان. الذكاء الاصطناعي هو سيد الأول، ولا يمكنه ضمان الأخير.
درع التحقق: خطوة بخطوة
لكل مصدر واقتباس، اتبع هذه السلسلة:
- هل هناك؟ ابحث عن المصدر في فهرس المكتبة، أو قاعدة بيانات موثوقة، أو موقع الناشر. إذا لم يتم العثور عليه، فهو غير موجود، فلا تستخدمه.
- هل البصمة صحيحة؟ المؤلف، العنوان، الناشر/المجلة، السنة، الصفحة - يجب أن تتطابق جميعها تمامًا.
- هل الاقتباس حقيقي؟ ابحث عن الاقتباس في المصدر نفسه، في الصفحة المحددة، وقارنه حرفيًا.
- هل السياق صحيح؟ هل تم استخدام الاقتباس حرفيًا أم أنه تم تحريفه؟
- فهل الإسناد صادق؟ هل الفكرة منسوبة إلى الشخص المناسب، هل الشيء مأخوذ من مصدر ثانوي يصور على أنه أولي؟
إذا تم كسر رابط واحد من هذه السلسلة، فلن يتمكن من إدخال النص المصدر.
نصيحة: قم بتوجيه الذكاء الاصطناعي من البداية: "لا تعط أي مصدر لست متأكدًا من وجوده؛ إذا لم تكن متأكدًا، فقل "لم أتمكن من العثور على المصدر"." هذا لا ينهي الهلوسة تمامًا، لكنه يدفع الذكاء الاصطناعي إلى قول "لا أعرف" بدلاً من اختلاق الأمر.
نظام الاقتباس والاقتباس
إلى جانب التحقق، فإن الإسناد الصادق هو أيضًا نظام:
- تقديم الاقتباس المباشر مع علامات الاقتباس والصفحة؛ فليكن حرفيا.
- قم أيضًا بربط الاقتباس غير المباشر (التلخيص بكلماتك الخاصة) بالمصدر؛ إذا كانت الفكرة ليست لك، فإنها تحتاج إلى الإسناد.
- اذكر مساهمة الذكاء الاصطناعي بشفافية وفقًا لقاعدة مؤسستك؛ الذكاء الاصطناعي ليس "موردا"، ولكن إذا تم استخدامه، فيجب الإعلان عنه.
- لا تصور المصدر الثانوي على أنه أساسي؛ إذا أخذت اقتباسا من مؤلف من كتاب آخر، وضح ذلك.
ثلاث حالات صغيرة
الحالة 1 - تبين أن اثنين من المصادر الخمسة وهميان. قام أحد الباحثين بعملية التحقق من 5 مصادر مقدمة من الذكاء الاصطناعي. 2 لم تكن موجودة في الكتالوج على الإطلاق، 1 كانت السنة خاطئة، 2 كانت حقيقية وصحيحة. تم استخدام 2 فقط تم التحقق منهما؛ المادة محمية من الإسناد الوهمي.
الحالة 2 - تم اكتشاف تشويه الاقتباس. عثر أحد الطلاب على اقتباس من الذكاء الاصطناعي في كتاب فعلي، لكن الاقتباس كان يعني العكس تمامًا في السياق الأصلي. لقد أخرج الذكاء الاصطناعي الجملة من سياقها. قام الطالب بتصحيح الاقتباس مع سياقه الصحيح.
الحالة 3 - تم تصحيح الإسناد غير الصحيح. وفي إحدى المحاضرات، نسبت منظمة العفو الدولية رأيًا إلى المؤلف الخطأ. وعندما قام المعلم بمراجعته مع مصدرين موثوقين، وجد صاحبه الشرعي وأصلحه. نجت المذكرة دون أن تلحق أي ضرر بالطالب.
أربعة قوالب قابلة للنسخ
1) تعليمات حظر التصنيع:
من الآن فصاعدا: لا تقدم أي مصدر أو اقتباس أو تاريخ أو رقم لست متأكدا من وجوده. إذا لم تكن متأكدًا، فقل "يلزم التحقق" أو "لم أتمكن من العثور عليه". لا تقدم أبدًا علامة واقعية ولكن لا يمكنك ضمان صحتها. اتبع هذه القاعدة مع كل رد.
2) خارطة طريق التحقق من المصدر:
وسوف أتحقق من المصدر أدناه بنفسي. أخبرني أين أبحث عن هذا المورد (الكتالوج، قاعدة البيانات، الناشر) وبأي معلومات أساسية. أنت تؤكد وجود المورد؛ ما عليك سوى تقديم خطوات التحقق. المصدر: [لصق الرصيد]
3) التحقق من سياق الاقتباس:
فيما يلي الاقتباس والفقرة الفعلية التي يحدث فيها. هل تم استخدام الاقتباس في سياقه الأصلي أم أنه تم تحريفه؟ فقط اعتمد على النص الذي قدمته لك؛ إضافة تعليق.اقتباس: [...] الفقرة الأصلية: [...]
4) تدقيق سلامة الإسناد:
في النص أدناه: ما هي الجمل التي تتطلب مصدرًا ولكنها تظل غير منسوبة، وما هي الفكرة التي قد تنتمي إلى شخص آخر، هل هناك مكان أعرض فيه المصدر الثانوي باعتباره مصدرًا أساسيًا؟ اقتراح مصادر ملفقة. فقط أشر إلى الاستشهادات المفقودة. النص: [لصق النص]
موجه ضعيف / موجه قوي
ضعيف: "أعط 5 مصادر أكاديمية واقتباسات حول هذا الموضوع."
غوتشلو: "أخبرني عن نوع المصادر والكلمات الرئيسية التي يجب أن أبحث عنها أثناء البحث حول هذا الموضوع. لا تقدم أي مراجع أو اقتباسات لست متأكدًا من وجودها؛ إذا لم تكن متأكدًا، فقل "لم أتمكن من العثور عليها". سأعطيك المصادر التي أجدها لاحقًا، وسأؤكد الاقتباسات من الكتب."
الدافع القوي يغلق باب الهلوسة ويترك التحقق للإنسان. يدعو الدافع الضعيف بشكل مباشر إلى إنتاج الموارد الوهمية.
جدول سلسلة التحقق من الصحة
خطوة
سؤال
موقع التحقق
كيان
هل المصدر موجود فعلا؟
كتالوج / قاعدة البيانات
بصمة
هل المؤلف والسنة والصفحة صحيحة؟
الناشر / البصمة
اقتباس
هل هو حرفيا في النص؟
المصدر نفسه
السياق
هل المعنى مشوه؟
الفقرة الرئيسية
الاقتباس
إلى الشخص المناسب؟
فحص متقاطع
التحقق مع رابط دائم وبصمة
هناك طرق ملموسة للتأكد بسرعة وبشكل موثوق من وجود المورد بالفعل. تحتوي معظم المنشورات الأكاديمية الحديثة على DOI (معرف الكائن الرقمي - وهو معرف فريد ثابت يتم تعيينه بشكل دائم للمنشور؛ وهو يعمل كرابط ويؤدي مباشرة إلى المنشور). إذا قمت بالوصول إلى المنشور الفعلي عندما تكتب معرف DOI الخاص بمقال ما في المتصفح، فهذا المصدر موجود؛ إذا لم تتمكن من العثور عليه أو لم يكن DOI موجودًا على الإطلاق، فكن متشككًا. غالبًا ما تكون "معرفات الكيانات الرقمية" (DOIs) التي ينشئها الذكاء الاصطناعي مختلقة ولا تؤدي إلى أي مكان؛ يعد هذا أحد أكثر الاختبارات العملية لالتقاط المصدر الوهمي.
يوفر ISBN (رقم الكتاب القياسي الدولي) تعريفًا مشابهًا للكتب؛ يمكنك التحقق من صحة الكتاب من خلال البحث عنه برقم ISBN في فهرس المكتبة أو قاعدة بيانات الكتب الموثوقة. بالنسبة للدوريات، تحقق من اسم المجلة ومعلومات المجلد/الإصدار على الموقع الرسمي للناشر. هذه الهويات الملموسة هي الجواب على السؤال "هل المصدر حقيقي؟" يجيب على سؤالك بوضوح خلال دقائق.
تعمل هذه الأساليب على تحويل التحقق إلى "معاملة" بدلاً من "مخزون": عندما تفتح كل مصدر وتشاهده شخصيًا، أو في الكتالوج، أو بواسطة DOI، أو على موقع الناشر، يتم التخلص من خطر الإسناد الوهمي إلى حد كبير.
نصيحة: عند الانتهاء من قائمة المراجع الخاصة بك، قم بإجراء "جولة النقر": افتح فعليًا سجل DOI أو سجل الكتالوج لكل مصدر. حتى المورد الوحيد الذي لا يتم فتحه يعد بمثابة تحذير؛ قم إما بتصحيحه بالبصمة الصحيحة أو إزالته من القائمة.
الأخطاء الشائعة
- الخلط بين الواقعية والواقع. إن الهوية المعقولة للذكاء الاصطناعي لا تثبت وجوده.
- عدم التأكد من صحة الاقتباس من المصدر. قد تتسرب الاقتباسات الملفقة أو المشوهة.
- الحصول على التاريخ من مصدر واحد. تحقق من مصدرين موثوقين على الأقل.
- جعل الثانوي يشبه الابتدائي. اذكر سلسلة النقل بأمانة.
- نقلا عن الذكاء الاصطناعي كمصدر. الذكاء الاصطناعي ليس مورداً؛ ويتم الإعلان عن استخدامه، ويتم الرجوع إلى المصدر الأساسي.
في ملخص
تعتمد الصدق في العلوم الإنسانية على دقة المصدر والاستشهاد. الخطر الأكبر للذكاء الاصطناعي هو أنه ينتج مصادر واقتباسات تبدو واقعية ولكنها غير موجودة. قم بتمرير كل مصدر واستشهاد عبر سلسلة التحقق المكونة من خمس خطوات (الكيان، والائتمان، والاقتباس، والسياق، والإسناد). امنع الذكاء الاصطناعي من التلفيق منذ البداية ولا تقم أبدًا بتفويض التحقق إليه. هذا الانضباط هو ضمان موثوقيتك في هذه المهنة.
مهمة التطبيق
حاول أن تجعل الذكاء الاصطناعي يقترح بعض المصادر واقتباسًا حول موضوع ما. قم بتشغيل كل مصدر من خلال سلسلة التحقق: كم عدد المصادر الموجودة بالفعل، وكم عدد المصادر التي لها إسناد صحيح، وهل الاقتباس موجود بالفعل في المصدر؟ اكتب النتائج في جدول. وستُظهر هذه التجربة بشكل ملموس حدود الذكاء الاصطناعي في هذا المجال.
قائمة مرجعية
- [ ] لقد تأكدت من وجود كل مصدر في الكتالوج.
- [ ] لقد قمت بالتحقق من كل اقتباس حرفيا من المصدر الأصلي.
- [ ] لقد تأكدت من عدم تشويه سياق الاقتباس.
- [ ] لقد قمت بمراجعة التواريخ باستخدام مصدرين على الأقل.
- [ ] لقد منعت الذكاء الاصطناعي من التلفيق ولم أفوض إليه التحقق.