سود:
- امکان تأیید سیستماتیک یک ادعا از طریق منشأ، اعتبار منبع، و مراحل بررسی متقابل مستقل
- توانایی درک اینکه هوش مصنوعی خود می تواند اطلاعات نادرست را از طریق توهم، تعصب داده های آموزشی و چاپلوسی تولید کند و به خروجی آن با سوء ظن برخورد کند.
- امکان تست سوگیری با علامت گذاری نتیجه با یک برچسب سطح اطمینان واضح و ارزیابی یک رویداد از دیدگاه های مختلف
دیپلماسی با اطلاعات کار می کند و ارزش اطلاعات به دقت آن بستگی دارد. یک جلسه توجیهی، یک موضع مذاکره یا یک بیانیه عمومی مبتنی بر اطلاعات نادرست پیامدهایی دارد که به سختی قابل برگشت است. به همین دلیل است که یکی از ضروری ترین مهارت های یک دیپلمات، تأیید منبع است: ارزیابی سیستماتیک یک ادعا از کجا می آید، چقدر قابل اعتماد است، و اینکه آیا واقعاً درست است یا خیر. در این بخش، یاد خواهید گرفت که چگونه هوش مصنوعی را در تأیید صحت قرار دهید. اما شما یاد خواهید گرفت که چگونه از آن استفاده کنید و در عین حال به خاطر داشته باشید که هوش مصنوعی خود می تواند منبع اطلاعات نادرست و سوگیری باشد.
اجازه دهید ابتدا این سه مفهوم را از هم جدا کنیم. اطلاعات نادرست: اطلاعات نادرست ناخواسته منتشر می شود. اطلاعات نادرست: اطلاعات نادرستی که آگاهانه، هدفمند تولید و منتشر می شود. تعصب: انتقال سیستماتیک اطلاعات یا ارزیابی به سمت یک طرف خاص. یک دیپلمات باید نسبت به هر سه مورد هوشیار باشد و هوش مصنوعی در هر سه می تواند هم کمک و هم خطر باشد.
مرحله به مرحله: تأیید یک ادعا
1. ادعا را به وضوح بیان کنید. دقیقاً چه چیزی باید تأیید شود؟ آن را به یک ادعای واحد و واضح مانند «کشور X از توافق Y خارج کرد» خلاصه کنید. ادعاهای فازی را نمی توان تأیید کرد.
2. منشا خود را پیدا کنید. این ادعا برای اولین بار در کجا، چه زمانی و توسط چه کسی مطرح شد؟ بیشتر اطلاعات نادرست از یک منبع مشکوک سرچشمه می گیرد و تقویت می شود. به منبع برگردید.
3. اعتبار منبع را ارزیابی کنید. آیا منبع رسمی، مستقل یا مغرضانه است؟ آیا در گذشته اطلاعات دقیقی ارائه کرده است؟ آیا او در این مورد منفعتی دارد؟ حتی یک منبع موثق نیز ممکن است اشتباه کند. اما یک منبع کم اعتبار نیاز به تایید اضافی دارد.
4. بررسی متقاطع. این ادعا را حداقل با دو منبع مستقل و قابل اعتماد تأیید کنید. 50 سایتی که توسط همین خبرگزاری تغذیه می شوند منبع مستقلی نیستند.
5. سازگاری داخلی و زمینه را آزمایش کنید. آیا ادعا از نظر داخلی سازگار است؟ آیا با حقایق شناخته شده تناقض دارد؟ خارج از چارچوب؟ یک جمله واقعی می تواند در زمینه اشتباه گمراه کننده باشد.
6. نتیجه را با سطح اطمینان علامت گذاری کنید. یک برچسب واضح مانند "تأیید شده"، "تا حدی تایید شده"، "منبع انحصاری"، "نمی توان تایید کرد"، "نادرست" را ذکر کنید. حتی «مطمئن نیستم» هم یک نتیجه گیری است و باید صادقانه بیان شود.
نکته: هرچه ادعایی بیشتر طنین انداز شود یا پاسخ عاطفی را برانگیزد، باید در تأیید آن دقیق تر باشید. اطلاعات نادرست همان احساسات خشم، ترس یا "خبری که ما می خواهیم" را هدف قرار می دهد. اطلاعاتی که از شما می خواهد به سرعت اقدام کنید، اغلب اطلاعاتی هستند که به تأیید بیشتر نیاز دارند.
هوش مصنوعی خود منبع خطر است
مهمترین نکته این واحد: هوش مصنوعی یک مرجع تأیید نیست. خود می تواند اطلاعات نادرست و سوگیری ایجاد کند. هوش مصنوعی به سه طریق می تواند گمراه کند:
1. توهم: منبع، نقل قول یا رویدادی که وجود ندارد را واقعی نشان می دهد. کدام منبع این ادعا را تایید می کند؟ وقتی میپرسید، او حتی ممکن است یک نام منبع ساختگی به شما بدهد.
2. تعصب داده های آموزشی: هوش مصنوعی دیدگاه غالب را در متونی که در آن آموزش داده شده است، منعکس می کند. اگر دیدگاه بخشی از جهان در مورد یک موضوع خاص بر داده ها غالب باشد، هوش مصنوعی می تواند به آن سمت تغییر کند. این عمدی نیست، بلکه بازتاب دادهها است - اما نتیجه همچنان یک خروجی مغرضانه است.
3. Sycophancy: هوش مصنوعی ممکن است تمایل داشته باشد که به سوال به گونه ای پاسخ دهد که شما را خوشحال کند. اگر میخواهید ادعایی را تأیید کنید، پاسخی ارائه میکند که آن را پشتیبانی میکند.
بنابراین از هوش مصنوعی بهعنوان ابزاری برای تأیید استفاده کنید (ویرایش منابع، پرچمگذاری درگیریها، کمک به ردیابی منشأ)، اما هرگز هوش مصنوعی را که «این درست است» را بهعنوان کلمه پایانی در نظر نگیرید.
احتیاط: وقتی هوش مصنوعی منبعی را تأیید میکند، بررسی کنید که آیا هوش مصنوعی منبع واقعی را به شما نشان میدهد یا ساختگی با ظاهری قابل قبول تولید میکند. آن را "تأیید شده" تلقی نکنید تا زمانی که به طور مستقل هر نام منبع، پیوند، و استنادی که او می دهد را باز نکرده و مشاهده نکنید. یک منبع ساخته شده با هوش مصنوعی ممکن است قانع کننده تر از منبع واقعی به نظر برسد.
سه کیف کوچک
مورد 1 - تأیید منبع ذخیره شد. یک اسکرین شات "اعلام رسمی" روی میز افتاد و واقعی به نظر می رسید. راستی آزمایی نشان داد که چنین بیانیه ای در کانال های رسمی آن موسسه وجود نداشته است. تصویر جعلی بود بررسی مبدا از ورود یک بیانیه جعلی به جلسه توجیهی جلوگیری کرد.
مورد 2 - منبع ساختگی هوش مصنوعی. یک متخصص از هوش مصنوعی خواست تا آماری را تأیید کند. YZ با استناد به یک منبع با بیان اینکه «براساس گزارش 2023 این سازمان...» این منبع خبره را خطاب کرد: نه چنین گزارشی وجود دارد و نه چنین رقمی. هوش مصنوعی هر دو را ساخته بود. بررسی مستقل یک «تأیید» ساختگی پیدا کرد.
مورد 3 - جبران تعصب. یک کارشناس از هوش مصنوعی خواست یک رویداد بحث برانگیز را خلاصه کند و متوجه شد که خروجی به طور مشخص به روایت یک طرف نزدیک است. وقتی دوباره پرسیدم «همان رویداد را از دیدگاه طرف مقابل خلاصه کنید»، تصویر بسیار متفاوتی پدیدار شد. مقایسه این دو نتیجه از ارائه یک چارچوب یک طرفه در گزارش جلوگیری کرد.
چهار قالب قابل کپی
1) پروتکل تأیید ادعا:
نقش شما: تحلیلگر اعتبارسنجی برای ادعای زیر: (1) ادعا را به یک جمله نتک کاهش دهید، (2) پیدا کنید کجا/چه زمانی برای اولین بار در منابعی که ارائه کردم، (3) چند منبع مستقل از آن حمایت می کنند، (4) آیا منابع متناقضی وجود دارد، (5) نتیجه را با یکی از برچسب های زیر علامت گذاری کنید: تأیید شده / منبع واحد / متناقض / تأیید نشده. ساخت منبع; فقط از چیزی که بهت میدم استفاده کن ادعا+منابع: [اینجا]
2) تست سوگیری هوش مصنوعی:
ابتدا حادثه زیر را تا حد امکان به طور عینی خلاصه کنید. سپس رویداد SAME را به طور جداگانه خلاصه کنید (الف) از نظر حزب A، (ب) از دیدگاه حزب B. تفاوت های بین سه نسخه را لیست کنید. بدین ترتیب می توان دید که کدام نکات تفسیر طرفین و کدام حقایق مشترک است. مورد/منابع: [اینجا]
3) ارزیابی قابلیت اطمینان منبع:
برای منبع زیر ارزیابی کنید: نوع (رسمی/مستقل/مغرضانه/ناشناس)، علاقه احتمالی به موضوع، اطلاعات ارائه شده در مورد اعتبار گذشته، مراحل اضافی مورد نیاز برای تایید. همچنین بنویسید چرا ممکن است منبع اشتباه باشد. منبع: [اینجا]
4) پرچم قرمز اطلاعات نادرست:
محتوای زیر را برای اطلاعات نادرست اسکن کنید. به دنبال این پرچمها باشید: آمار بدون منبع، زبان تحریککننده احساسات، تصاویر بدون زمینه، فشار «عجله/اشتراکگذاری»، کلمه معتبر غیرقابل تأیید، انتشار هماهنگ همزمان. هر یافته را با توجیه علامت گذاری کنید. قضاوت نهایی نکنید. محتوا: [اینجا]
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
آیا این ادعا درست است؟ آنلاین جستجو کنید و به من اطلاع دهید.
گفتن «درست» توسط هوش مصنوعی تأیید نیست. او ممکن است منابع نادرست ارائه دهد یا پاسخی مغرضانه یا چاپلوسانه ارائه دهد.
اعلان قدرتمند:
نقش شما: تحلیلگر تأیید. در زیر یک ادعا و منابعی که من جمع آوری کردم آورده شده است. به من نگو "درست / غلط"؛ در عوض: منشا ادعا، تعداد منابع مستقل، هرگونه تناقض و سطح اطمینان را نشان دهید. از منابعی که عرض کردم فراتر نروید، منابع درست نکنید. اگر مطمئن نیستید، آن را به عنوان "نیاز به تایید انسانی" علامت بزنید. ادعا+منابع: [اینجا]
تفاوت واضح است: نیاز به منشأ، تأیید مستقل و سطح اعتماد به جای قضاوت «درست/نادرست» خطرات هوش مصنوعی را محدود میکند.
جدول وضعیت تأیید
برچسب بزنید
معنی
استفاده در گزارش
تایید شده است
حداقل 2 منبع معتبر مستقل
قابل استفاده به عنوان کیس
تا حدی تایید شد
برخی تایید کردند
محدود با توضیح
منبع واحد
فقط یک منبع
به عنوان یک "ادعا"، تایید لازم است
متناقض
منابع مطابقت ندارند
به عنوان عدم قطعیت ارائه می شود
تأیید نشد
تاییدی پیدا نشد
به عنوان یک واقعیت استفاده نمی شود
اشتباه
برعکس آن ثابت شده است
به عنوان تصحیح در گزارش
اشتباهات رایج
- در نظر گرفتن گفتن "درست" هوش مصنوعی به عنوان اعتبار. هوش مصنوعی می تواند بسازد، سوگیری کند، یا هول کند.
- باز کردن منبع داده شده توسط هوش مصنوعی و پذیرش آن بدون دیدن آن. منابع ساختگی قانع کننده به نظر می رسند.
- تأیید اطلاعات کمی که با نیازهای شما مطابقت دارد. اطلاعات عاطفی/مناسب اطلاعاتی هستند که به بیشترین تایید نیاز دارند.
- اشتباه گرفتن کپی های فراوان به عنوان تاییدیه. صدها سایتی که از یک منبع تغذیه می کنند یک منبع واحد هستند.
- اصلا سوگیری رو تست نمیکنم خلاصه کردن یک رویداد از منظرهای مختلف تعادل ایجاد می کند.
به طور خلاصه
تأیید منبع پایه دانش دیپلماتیک است و هوش مصنوعی در این کار هم کمک و هم خطر است. هوش مصنوعی منابع را سازماندهی می کند، به ردیابی منشأ و پرچم گذاری درگیری کمک می کند. اما خود می تواند به دلیل توهم، سوگیری داده های آموزشی و چاپلوسی، اطلاعات نادرست ایجاد کند. ردیابی منشأ، بررسی متقاطع مستقل، جداسازی اعتبار منبع از اطلاعات، برچسبگذاری سطح اعتماد و شک اضافی در خروجی هوش مصنوعی ستون فقرات این واحد است.
وظیفه کاربردی
یک ادعای کنونی و بحث برانگیز را انتخاب کنید و منابعی از ژانرهای مختلف جمع آوری کنید. ادعای منشأ و تأیید مستقل را با «پروتکل تأیید ادعا» ارزیابی کنید. با "تست تعصب هوش مصنوعی"، یک رویداد را از دیدگاه های مختلف خلاصه کنید و تفاوت ها را فهرست کنید. اگر هوش مصنوعی منبعی را ارائه کرد، آن را به طور مستقل باز کنید و بررسی کنید که آیا واقعاً وجود دارد یا خیر.
چک لیست
- [ ] ادعا را به یک جمله واضح تقلیل دادم و به دنبال اصل آن گشتم.
- [ ] من حداقل با دو منبع معتبر مستقل بررسی کرده ام.
- [ ] من به طور مستقل هر منبع ارائه شده توسط هوش مصنوعی را تأیید کرده ام.
- [ ] من سوگیری را با خلاصه کردن یک رویداد از دیدگاههای مختلف آزمایش کردم.
- [ ] من نتیجه را با یک برچسب سطح اطمینان واضح مشخص کردم.