سود:
- توانایی توضیح اینکه چرا توهم (منبع ساختگی، نقل قول، رویداد) و نابهنگامی خطرناک ترین اشتباهات تاریخ هستند.
- امکان اعمال نظم و انضباط تأیید هر مرجع در کاتالوگ، مقایسه محتوا با سند، و تأیید متقابل حقایق مهم.
- امکان زیر سوال بردن سوگیری و صداهای از دست رفته در منابع با پرسیدن از هوش مصنوعی به جای منبع واقعی به کجا نگاه کنید
یک هشدار وجود دارد که در هر واحد از این ماژول تکرار می شود: خروجی AI یک ادعا است، نه یک واقعیت، تا زمانی که تأیید شود. این واحد آن هشدار را به یک نظم تبدیل می کند. تاریخچه و آرشیو ذاتاً زمینه های مبتنی بر شواهد هستند. اساسی ترین مهارت یک مورخ، نقد منبع است (پرسش توسط چه کسی، چه زمانی، با چه هدفی تهیه شده است و چقدر قابل اعتماد است). در عصر هوش مصنوعی، این مهارت حتی مهمتر شده است زیرا ممکن است خود منبع اکنون ساخته شده باشد.
در اینجا ما سه خطر را به طور عمیق پوشش خواهیم داد: توهم (هوش مصنوعی اطلاعات ساختگی، منابع یا نقل قولها را تولید میکند)، نابهنگامی (عناصر دورهای که به دوره اشتباه منتقل میشوند)، و به طور کلی نظم و ترتیب تأیید منبع. همچنین شاهد یادگیری هوش مصنوعی از منابعی خواهیم بود که در گذشته نادرست یا مغرضانه بوده اند، بنابراین می تواند سوگیری را بازتولید کند.
توهم: خطرناک ترین اشتباه
توهم زمانی است که یک هوش مصنوعی با اطمینان چیزی را ارائه می دهد که در واقع وجود ندارد. از نظر تاریخی، بیشتر در اشکال زیر دیده می شود:
- منبع/مرجع ساختگی: صندوق آرشیو، شماره پرونده، کتاب یا مقاله موجود نیست.
- نقل قول ساخته شده: کلمه ای که در واقع گفته نشده است، جمله ای که در سند نیست.
- رویداد/تاریخ/شخص ساخته شده: رویدادی که اتفاق نیفتاده، تاریخ کاذب، شخصی که وجود ندارد.
- ارتباط ساختگی: رابطه علت و معلولی ناموجود بین دو رویداد واقعی.
چیزی که توهم را خطرناک می کند این است که باورپذیر به نظر می رسد. یک مرجع ساخته شده همان فرمت مرجع واقعی را دارد: نام صندوق، شماره، تاریخ. بنابراین "فرمت درست به نظر می رسد" هرگز به معنای "درست" نیست.
توجه: هیچ منبع تولید شده توسط YZ بدون تایید و یافتن در کاتالوگ یا در یک مکان قابل اعتماد قابل استفاده نیست. تنها راه برای اثبات وجود یک مرجع این است که آن را در جایی که منبع اصلی قرار دارد (کاتالوگ آرشیو، کتابخانه، نشریه) مشاهده کنید. "هوش مصنوعی آن را داد" مدرک نیست.
آناکرونیسم: عینک دوره
آناکرونیسم، دیدن گذشته با عینک امروزی است. از آنجایی که هوش مصنوعی به زبان امروزی آموزش دیده است، تمایل زیادی به موارد زیر دارد:
- اصطلاح آناکرونیسم: استفاده از کلمه، نهاد یا مفهومی که به آن دوره تعلق ندارد.
- نابهنگام بودن مفهوم: طرح ایده ای از زمان حال (مثلاً یک ایدئولوژی یا هویت مدرن) به گذشته.
- نابهنگامی ارزش: قضاوت در مورد رفتار گذشته تنها بر اساس معیارهای امروزی.
کار مورخ این است که گذشته را در چارچوب آن درک کند. هوش مصنوعی فاقد این حساسیت زمینه است. باید خودت تهیه کنی
درک اینکه چرا توهم اغلب اتفاق می افتد، محافظت در برابر آن را آسان تر می کند. هوش مصنوعی سیستمی است که برای تولید "محتمل ترین کلمه بعدی" کار می کند. هدفی مثل «شناخت حقیقت» ندارد. وقتی از سوالی پرسیده می شود، چه پاسخ را بداند یا نه، متنی را تولید می کند که از نظر آماری قانع کننده به نظر می رسد. قالب یک مرجع بایگانی (نام صندوق، شماره، تاریخ) یک الگوی آموخته شده است. هوش مصنوعی می تواند این الگو را بدون مرجع واقعی پر کند. بنابراین "چرا هوش مصنوعی آن را تشکیل می دهد؟" پاسخ به این سوال ساده است: جبران برای او آسانتر از "ندانستن" است. مسئولیت پر کردن این قالب ها با منابع واقعی بر عهده شماست.
رشته تایید منبع: گام به گام
1. وجود منبع را بررسی کنید. هر مرجع ارائه شده توسط هوش مصنوعی را در کاتالوگ / انتشار پیدا کنید. اگر نمی توانید آن را پیدا کنید، از آن استفاده نکنید.
2. مطالب را با منبع مقایسه کنید. آیا اطلاعاتی که هوش مصنوعی به یک سند نسبت می دهد واقعاً در سند وجود دارد؟ آیا نقل قول دقیقاً یکسان است؟
3. تایید متقابل. برای یک واقعیت مهم، حداقل به دو منبع مستقل مستقل نگاه کنید.
4. انتقاد منبع را اعمال کنید. آیا خود منبع قابل اعتماد است؟ چه کسی، چه زمانی و با چه هدفی آن را تولید کرد؟ آیا مغرضانه است؟
5. آن را از فیلتر آناکرونیسم رد کنید. آیا اصطلاحات، مفاهیم یا قضاوت های ارزشی وجود دارد که با دوره در خروجی مطابقت نداشته باشد؟
6. تعصب سوال کنید. آیا هوش مصنوعی میتوانست سوگیریها را در منابع تاریخی بازتولید کند (با نادیده گرفتن یک گروه، طرفداری از یک دیدگاه)؟
لایه احراز هویت
سوال
چه کسی انجام می دهد
موجودیت
آیا این منبع واقعا وجود دارد؟
شما در کاتالوگ
محتوا
آیا این واقعاً در سند آمده است؟
شما در سند
تایید
آیا منبع دیگری آن را پشتیبانی می کند؟
تو، صلیب
قابلیت اطمینان
آیا منبع قابل اعتماد است؟
قضاوت کارشناسی
دوره
آیا نابهنگامی وجود دارد؟
قضاوت کارشناسی
تعصب
صدای چه کسی از دست رفته / تحریف شده است؟
قضاوت کارشناسی
سه کیف کوچک
مورد 1 - شش مرجع ساختگی. محققی از هوش مصنوعی فهرستی از منابع در مورد یک موضوع را درخواست کرد. YZ provided 6 archive references with perfect formatting. در جستجوی کاتالوگ، 4 مورد از 6 مورد گم شده بودند، 2 تای آنها شماره اشتباه داشتند. اگر محقق راستی آزمایی نمی کرد، مطالعه ای به وجود می آمد که به منابع ناموجود استناد می کرد. درس: هر مرجع در کاتالوگ تأیید می شود.
مورد 2 - نقل قول ساختگی. یک نویسنده از نقل قول قابل توجهی استفاده می کند که هوش مصنوعی آن را به یک شخصیت تاریخی نسبت می دهد. وقتی او منبع را بررسی کرد، دید که هیچ سندی وجود ندارد که ثابت کند آن شخص چنین چیزی را گفته است و این اظهارات توسط هوش مصنوعی ساخته شده است. درس: نقل قول ها را نمی توان بدون تأیید از منبع اصلی یا قابل اعتماد استفاده کرد.
مورد 3 - بازتولید تعصب. A student had the AI explain the history of a region. خروجی به طور کامل یک جامعه خاص در آن منطقه را نادیده گرفت زیرا منابعی که هوش مصنوعی از آنها آموخته بود نیز آنها را نادیده گرفته بود. دانش آموز متوجه این شکاف شد و با ارجاعات متقابل آن را اصلاح کرد. درس: هوش مصنوعی سکوت و سوگیری در منابع را بازتولید می کند. باید پرسید صدای چه کسی گم شده است.
چهار قالب قابل کپی
1) لیست تأیید مرجع:
همه منبع، مرجع، نقل قول، تاریخ و نام افراد در متن زیر در یک لیست جداگانه ظاهر می شوند. برای هر کدام یک یادداشت اضافه کنید: "ادعا شده در این متن، باید به طور مستقل تایید شود." اگر هیچ کدام را انتخاب نکردید، "تأیید" فقط یک لیست برای تأیید تهیه کنید تا بتوانم آن را از کاتالوگ/منبع بررسی کنم. متن: [اینجا]
2) اسکن آناکرونیسم:
متن مربوط به [دوره] زیر را بررسی کنید. اصطلاحات، نهادها، مفاهیم و ارزش هایی را که ممکن است متعلق به این دوره نباشند برجسته کنید. برای هر کدام به طور خلاصه بنویسید که چرا مشکوک هستید. قضاوت نهایی؛ فهرستی از شبهاتی که کارشناس بررسی خواهد کرد ایجاد کنید. متن: [اینجا]
3) چارچوب نقد منبع:
یک نقد منبع در مورد منبع زیر تهیه شده است: (1) چه کسی ممکن است آن را تولید کرده باشد، (2) چه زمانی، (3) برای چه هدفی، (4) سوگیری های احتمالی آن چیست، (5) به کدام موضوعات باید اعتماد کرد و کدام باید محتاط باشد. صدور حکم نهایی؛ سوالات و گزینه های پاسخ احتمالی را ارائه دهید. منبع: [اینجا]
4) کنترل صدا/بایاس از دست رفته:
صدای چه کسی و تجربه کدام گروه ممکن است در خلاصه تاریخی زیر وجود نداشته باشد یا یک طرفه باشد؟ کدام دیدگاه غالب است، کدام نامرئی؟ این را به صورت فهرستی از سوالات تهیه کنید. من آن را با ارجاعات متقابل پر خواهم کرد. خلاصه: [اینجا]
اعلان ضعیف / اعلان قوی
ضعیف:
منابع معتبر تاریخی و نقل قول در این مورد به من بدهید.
هوش مصنوعی بسیار مستعد تولید ارجاعاتی است که از نظر شکل صحیح هستند اما زمانی که از آنها "منبع" و "استناد" خواسته می شود در محتوا ساخته شده باشند. این اعلان یک دعوت مستقیم به توهم است.
قوی:
پیشنهاد کنید چه نوع منابعی (نوع صندوق آرشیو، نوع نشریه، مؤسسه) باید در تحقیق خود در این زمینه جستجو کنم. تطبیق یک مرجع خاص، شماره پرونده یا نقل قول. فقط بگو کجا نگاه کنم سپس منابع واقعی را از کاتالوگ ها پیدا خواهم کرد.
تفاوت: از هوش مصنوعی "کجا باید نگاه کنیم" خواسته می شود، نه "مرجع واقعی". خطر توهم به شدت کاهش می یابد و تایید به انسان واگذار می شود.
اشتباهات رایج
- با تکیه بر مرجع صحیح. مرجع ساخته شده نیز بی عیب به نظر می رسد. باید در کاتالوگ تایید شود.
- نقل قول مستقیم از هوش مصنوعی. نقل قول ها را نمی توان بدون تایید منبع اصلی/موثق استفاده کرد.
- نادیده گرفتن نابهنگاری. اصطلاحات و مفاهیم امروزی در سکوت به گذشته نفوذ می کنند.
- بازتولید تعصب هوش مصنوعی سکوت ها را از منابع کپی می کند. باید در مورد صدای گم شده سوال کرد.
- تکیه بر یک منبع واحد. حقایق حیاتی باید حداقل توسط دو منبع مستقل تایید شوند.
به طور خلاصه
تأیید منبع در قلب تاریخ و بایگانی قرار دارد و در عصر هوش مصنوعی حتی حیاتی تر است. توهم منابع، نقل قول ها و وقایعی تولید می کند که شکل آنها کامل اما محتوای ساختگی است. نابهنگام بودن گذشته را از دریچه های امروزی تحریف می کند. و هوش مصنوعی سوگیری ها را در منابع بازتولید می کند. دفاع یک رشته است: هر مرجع در کاتالوگ را تأیید کنید، محتوا را با سند مقایسه کنید، حقایق مهم را بررسی کنید، دوره ها و سوگیری را فیلتر کنید. از هوش مصنوعی بخواهید «کجا باید نگاه کنیم»، نه «منبع واقعی». نگهبان حقیقت همیشه متخصص است.
وظیفه کاربردی
از هوش مصنوعی بخواهید فهرستی از منابع را در مورد موضوعی که روی آن کار میکنید (با یک «اعلان ضعیف» عمدی) تهیه کند. سپس با الگوی «لیست اعتبارسنجی مرجع» تمام مراجع را از این خروجی استخراج کنید و هر کدام را در یک کاتالوگ جستجو کنید. شمارش کنید که چه تعداد واقعاً وجود دارند و چه تعداد ساخته شده یا نادرست هستند. همان موضوع را با یک «اعلان قوی» («کجا باید نگاه کنم») تکرار کنید و تفاوت را تجربه کنید.
چک لیست
- [ ] من هر مرجع را در کاتالوگ/منبع مورد اعتماد تأیید کردم.
- [ ] من هر نقل قول را با منبع اصلی/موثق تأیید کرده ام.
- [ ] من حقایق مهم را با حداقل دو منبع مستقل بررسی کرده ام.
- [ ] من خروجی را برای موارد نابهنگام فیلتر کردم.
- [ ] من صداهای گمشده/تحریف شده و سوگیری را زیر سوال بردم.