سود:
- امکان ثبت توهم با تأیید وجود هر منبع، رفتن به منبع اولیه و مراحل تأیید متقابل مستقل
- توانایی حفظ اصالت و یکپارچگی علمی در برابر نقل قول ها و اسناد ساختگی در علوم انسانی و اجتماعی
- امکان آموزش تأیید منبع و مهارت های سواد اطلاعاتی در عصر هوش مصنوعی به کاربران
در قلب رسالت اجتماعی کتابداری یک وعده واحد وجود دارد: اطلاعات قابل اعتماد. یک کتابدار کاربر را نه تنها به اطلاعات، بلکه به اطلاعات تأیید شده میرساند و به او میآموزد که چگونه این اطلاعات را خودش ارزیابی کند. در عصر هوش مصنوعی، این ماموریت هم دشوارتر و هم مهمتر شده است. زیرا هوش مصنوعی می تواند اطلاعات نادرست را به روشی بسیار قانع کننده تولید کند. در این بخش، تشخیص توهم، رشته تأیید منبع و آموزش سواد اطلاعاتی در عصر هوش مصنوعی را پوشش خواهیم داد.
بیایید مفاهیم را تعریف کنیم. توهم زمانی است که هوش مصنوعی اطلاعات، منابع، نقل قول ها یا رویدادهایی را تولید می کند که در واقع وجود ندارند و گویی واقعی هستند. تأیید منبع تأییدی است که اطلاعات بر اساس یک منبع واقعی، قابل اعتماد و اولیه است. سواد اطلاعاتی توانایی فرد برای یافتن اطلاعات، ارزیابی آن، زیر سوال بردن قابلیت اطمینان آن و استفاده اخلاقی از آن است. هدف این واحد این است که کتابدار این مهارت ها را هم در تمرین خود و هم در آموزش به کاربر تقویت کند.
گام به گام: نظم و انضباط تأیید منبع
1. منبع را درخواست کنید و وجود آن را تأیید کنید. وقتی هوش مصنوعی ادعا یا نقل قولی را ارائه می دهد، "این از چه منبعی است؟" و بررسی کنید که منبع واقعاً در یک کاتالوگ مستقل، پایگاه داده یا سند اصلی وجود دارد.
2. به منبع اصلی بروید. معتبرترین شکل اطلاعات، منبع دست اول آن است. به خلاصه ای از هوش مصنوعی یا متن ثانویه بسنده نکنید. در صورت امکان، به سند، داده یا انتشار اصلی دسترسی داشته باشید.
3. تایید متقابل. یک ادعای مهم را با حداقل دو منبع معتبر، مستقل از یکدیگر تأیید کنید. یک منبع، به ویژه منبع هوش مصنوعی، کافی نیست.
4. اعتبار منبع را ارزیابی کنید. چه کسی، چه زمانی، با چه هدفی، بر اساس چه مدرکی آن را نوشته است؟ آیا به روز است؟ وجود اطلاعات آن را درست نمی کند. همچنین ماهیت منبع را زیر سوال ببرید.
5. عدم اطمینان را صادقانه بیان کنید. اگر اطلاعات قابل تأیید نیست، آن را به وضوح بیان کنید. همیشه گفتن "تأیید نشده" بهتر از ارائه یک قطعیت ساختگی است.
نکته: وقتی نقل قول یا منبعی از هوش مصنوعی دریافت میکنید، ابتدا عنوان و نویسنده را در یک کاتالوگ واقعی جستجو کنید. منابع غیر موجود بلافاصله در اینجا ظاهر می شوند. این بررسی 30 ثانیه ای از ورود یک منبع ساختگی به کتابشناسی، یک تکلیف یا یک نشریه جلوگیری می کند.
اصالت و تایید در علوم انسانی و اجتماعی
علوم انسانی و اجتماعی به ویژه در برابر خطر توهم آسیب پذیر هستند. در این مناطق، شواهد اغلب بر اساس یک سند خاص، یک تاریخ، یک نقل قول یا منبع یک نظر است. هوش مصنوعی میتواند ادعاهای بسیار خاص اما کاملاً ساختگی مانند «آن مورخ گفت» یا «آن سند از سال 1923 میگوید» را ارائه کند. در یک اثر ادبی، تاریخی یا حقوقی، این به معنای یک زنجیره دروغین از شواهد است.
علاوه بر این، اصالت ارزش اساسی این زمینه ها است: مهم است که یک متن، یک تفسیر یا ترجمه واقعاً به چه کسی تعلق دارد. ارائه متن تولید شده توسط هوش مصنوعی به عنوان یک اثر اصلی یا تکیه بر یک "منبع" ساخته شده توسط هوش مصنوعی، یکپارچگی تحصیلی را نقض می کند. کتابدار راهنمایی است که هم تایید و هم محدودیت های اصالت و سرقت ادبی را به کاربران می آموزد.
احتیاط: حتی در مواردی که نقل قول تولید شده توسط هوش مصنوعی کلمه به کلمه دقیق به نظر می رسد و به یک نویسنده واقعی نسبت داده می شود، ممکن است آن نقل قول جعلی باشد. یک نقل قول را با یافتن آن فقط در اثر واقعی نویسنده تأیید کنید. منطق «این نویسنده ممکن است چنین چیزی گفته باشد» کافی نیست.
سه کیف کوچک
مورد 1 - به دانش آموز راستی آزمایی آموزش داده شد. یک کتابدار 5 منبع از هوش مصنوعی را در تکلیف یک دانش آموز دید. آنها با هم آن را در کاتالوگ بررسی کردند: 2 منبع ساخته شد. دانش آموز به طور مستقیم این درس را تجربه کرد که "این درست نیست که واقعی به نظر برسد" و یک بار دیگر عادت به تأیید هر منبع پیدا کرد.
مورد 2 - سند تاریخی ساختگی. یک محقق "گزارش روزنامه 1919" را از هوش مصنوعی دریافت کرد. تاریخ، نام روزنامه و محتوا بسیار قانع کننده بود. کتابدار آرشیو روزنامه را اسکن کرد: در آن زمان چنین خبری نبود. یک منبع اولیه ساختگی قبل از اینکه حتی به یک مقاله تبدیل شود دستگیر شد.
مورد 3 - نقل قول نادرست. هوش مصنوعی نقل قولی را به یک متفکر مشهور نسبت داد. کتابدار در آثار متفکر به دنبال این کلمه گشت و نتوانست آن را بیابد; این کلمه در جایی ذکر نشده بود. بررسی متقاطع از انتشار یک نقل قول نادرست جلوگیری کرد.
زنجیره انتشار اطلاعات نادرست و نقش کتابدار
اطلاعات غلط اغلب با یک خروجی ساختگی شروع می شود، اما به همین جا ختم نمی شود. کاربر یک منبع جعلی تولید شده توسط هوش مصنوعی را در یک تکلیف قرار می دهد. تکلیف تبدیل به یک نشریه می شود. این نشریه توسط دیگران استناد می شود، به طوری که یک منبع ساختگی با استناد مکرر ظاهر "حقیقت" پیدا می کند. میتوانیم این انتساب را آلودگی بنامیم: اطلاعات نادرست با تکرار مکرر مشروعیت پیدا میکند. کتابدار در حساس ترین حلقه این زنجیره قرار دارد. زیرا آخرین نقطه کنترلی است که اطلاعات قبل از ورود به سیستم در آن تایید می شود. صرفاً به این دلیل که یک منبع «در بسیاری از جاها اتفاق میافتد» آن را درست نمیکند. همان اطلاعات جعلی می تواند در بسیاری از مکان ها با کپی شدن از یکدیگر ظاهر شود. بنابراین تأیید متقاطع باید بر اساس این سؤال باشد که "چند منبع معتبر مستقل از یکدیگر آن را تایید می کنند" نه "چند جا ظاهر می شود؟" ده منبع ثانویه که همان ادعا را تکرار می کنند به اندازه یک منبع اولیه مستقل ارزش ندارند. کتابدار باید این تمایز (عدم اشتباه گرفتن استقلال با تکرار) را در مرکز تأیید خود و آموزش خود به کاربر قرار دهد.
توجه: ظاهر شدن اطلاعات در یک موتور جستجو یا در بسیاری از صفحات وب دلیلی بر صحت آن نیست. همین اشتباه ممکن است با کپی شدن از منبعی به منبع دیگر گسترده شده باشد. شیوع و دقت چیزهای متفاوتی هستند. تایید نیاز به منبع مستقل و قابل اعتماد دارد.
چهار قالب قابل کپی
1) پرس و جو موجودیت منبع:
هر منبع استناد و استناد را در متن زیر فهرست کنید. برای هر یک: نویسنده، عنوان، سال و اطلاعات انتشار (در صورت وجود). اطلاعات مورد نیاز برای تأیید را مورد به مورد استخراج کنید. اضافه نکنید. متن: [اینجا]
2) ارزیابی تایید پذیری:
برای هر یک از ادعاهای زیر، عناصر واقعی (تاریخ، نام، شماره، نقل قول) را که نیاز به تأیید دارند، جدا کنید. پیشنهاد کنید که چه نوع منبعی (کاتالوگ، سند اولیه، پایگاه داده) قابل تأیید است. صحت را قضاوت نکنید، فقط مسیر تأیید را نشان دهید. اظهارات: [اینجا]
3) چک لیست قابلیت اطمینان جوش:
اعتبار منبع زیر را ارزیابی کنید: چه کسی آن را نوشته است، چه زمانی، برای چه هدفی، شواهدی وجود دارد، آیا فعلی است، آیا سوگیری احتمالی وجود دارد؟ فقط به اطلاعاتی که دادم تکیه کنید، جایی که گم شده بنویسید "ناشناخته". اطلاعات منبع: [اینجا]
4) طرح آموزش سواد اطلاعاتی:
یک آموزش کوتاه 20 دقیقه ای در مورد تأیید منبع و توهم در عصر هوش مصنوعی برای گروه کاربری زیر (به عنوان مثال دانشجویان کارشناسی): اهداف، 3 مثال، 1 برنامه کاربردی تهیه کنید. گروه: [اینجا]
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
خلاصه ای از این موضوع را با منابع معتبر بنویسید.
گفتن "با منابع قابل اعتماد" هوش مصنوعی را تشویق می کند تا منابع جعلی تولید کند که به نظر واقعی می رسد. هیچ قلاب اعتبار سنجی وجود ندارد.
اعلان قدرتمند:
نقش شما: دستیار سواد اطلاعاتی. نوشتن خلاصه ای در مورد موضوع زیر؛ در عوض، سؤالات واقعی را که کاربر باید تأیید کند و نوع منبع قابل اعتمادی که می تواند آنها را تأیید کند فهرست کنید. هیچ گونه نقل قول منبعی را جعل نکنید. منطقه ای را که از آن مطمئن نیستید به عنوان "باید تایید شود" علامت بزنید. موضوع: [اینجا]
اعلان قدرتمند؛ از هوش مصنوعی به عنوان راهنما استفاده میکند که راه راستیآزمایی را نشان میدهد، نه تولید پاسخ، و از نظر ساختاری از ساختگی جلوگیری میکند.
جدول لایه های احراز هویت
لایه
سوال
روش
موجودیت
آیا این منبع واقعی است؟
جستجوی کاتالوگ / پایگاه داده
برتری
آیا این نزدیکترین منبع است؟
دسترسی به سند اصلی
تایید
آیا منبع دیگری این موضوع را تایید می کند؟
بررسی متقابل مستقل
قابلیت اطمینان
منبع چقدر محکم است؟
نویسنده، تاریخ، هدف، شواهد
صداقت
مطمئنم؟
عدم قطعیت را به وضوح بیان کنید
اشتباهات رایج
- فکر کردن به اینکه آنچه قانع کننده است درست است. ظاهر خوب دلیل بر درستی نیست.
- راضی بودن به یک منبع واحد اطلاعات مهم نیاز به تایید متقابل مستقل دارد.
- به دنبال نقل قول در منبع آن نیستید. اینگونه است که کلمات نادرست پخش می شوند.
- پنهان کردن عدم قطعیت "تأیید ناپذیر" بهتر از اطمینان کاذب است.
- عدم آموزش احراز هویت به کاربر سواد اطلاعاتی رسالت کتابدار است.
به طور خلاصه
تأیید منبع و سواد اطلاعاتی حیاتی ترین وظایف کتابداری در عصر هوش مصنوعی است. توهم اطلاعات قانع کننده اما ساختگی تولید می کند و به ویژه در علوم انسانی/اجتماعی خطرناک است. نظم و انضباط واضح است: وجود هر منبع را تأیید کنید، به منبع اصلی بروید، بررسی متقاطع مستقل انجام دهید، اعتبار منبع را زیر سوال ببرید و عدم اطمینان را صادقانه بیان کنید. کتابدار این فرهنگ راستیآزمایی را نه تنها در کار خود، بلکه از طریق آموزش به کاربران نیز گسترش میدهد. اصالت و تمامیت آکادمیک جزء لاینفک این ماموریت است.
وظیفه کاربردی
6 منبع و 2 استناد از هوش مصنوعی در زمینه خود درخواست کنید. هر منبع را با جستجوی آن در فهرست واقعی و هر نقل قول در اثر واقعی نویسنده تأیید کنید. توجه داشته باشید که چه تعداد ساخته شده است. سپس، با استفاده از الگوی "طرح آموزش سواد اطلاعاتی"، یک آموزش 20 دقیقه ای برای توضیح تأیید منبع برای یک گروه کاربری پیش نویس کنید و نمونه های واقعی را که خودتان پیدا کرده اید، درج کنید.
چک لیست
- [ ] من به طور مستقل تأیید کرده ام که هر منبع واقعاً وجود دارد.
- [ ] من تا جایی که ممکن است از منابع اولیه استفاده کرده ام.
- [ ] من ادعاهای انتقادی را با حداقل دو منبع مستقل بررسی کرده ام.
- [ ] من نقل قول ها را با جستجوی آنها در اثر واقعی نویسنده تأیید کردم.
- [ ] من به وضوح اطلاعات غیر قابل تأیید را به عنوان "غیر قابل تایید" علامت گذاری کردم.