Табыстар:
- Шағымды шығу тегі, дереккөздің сенімділігі және тәуелсіз тексеру қадамдары арқылы жүйелі түрде тексеру мүмкіндігі
- Жасанды интеллекттің өзі галлюцинация арқылы жалған ақпарат тудыруы мүмкін екенін түсіну, деректерге бейімділік және мақтау және оның нәтижесіне қосымша күдікпен қарау
- Нәтижені нақты сенімділік белгісімен белгілеу және бір оқиғаны әртүрлі көзқарастардан бағалау арқылы біржақтылықты тексеру мүмкіндігі
Дипломатия ақпаратпен жұмыс істейді, ақпараттың құндылығы оның нақтылығына байланысты. Брифинг, келіссөздер позициясы немесе дұрыс емес ақпаратқа негізделген жария мәлімдеме кері қайтару қиын болатын салдарға әкеледі. Сондықтан дипломаттың ең маңызды дағдыларының бірі дереккөзді тексеру болып табылады: шағымның қайдан келгенін, оның қаншалықты сенімді екенін және оның шын мәнінде рас екенін жүйелі түрде бағалау. Бұл бөлімде сіз жасанды интеллектті тексеруге қалай қосу керектігін үйренесіз; бірақ сіз оны қалай пайдалану керектігін үйренесіз, сонымен бірге AI өзі жалған ақпарат пен бұрмалану көзі болуы мүмкін екенін есте ұстайсыз.
Алдымен үш ұғымды бөліп алайық. Жалған ақпарат: қате ақпарат байқаусызда тараған. Дезинформация: саналы түрде, мақсатты түрде жасалған және таралатын жалған ақпарат. Предюдиция: ақпараттың немесе бағалаудың белгілі бір жаққа жүйелі түрде ауысуы. Дипломат үшеуіне де сергек болуы керек, ал AI үшеуінде де көмек және қауіп болуы мүмкін.
Қадамдық: шағымды тексеру
1. Шағымды нақты көрсетіңіз. Нақты нені тексеру керек? Оны «Х елі Y келісімінен шықты» сияқты бір ғана нақты талапқа дейін жеткізіңіз. Анық емес мәлімдемелерді тексеру мүмкін емес.
2. Өзіңіздің шығу тегіңізді табыңыз. Бұл талап алғаш рет қай жерде, қашан және кім тарапынан жасалды? Жалған ақпараттың көпшілігі бір күмәнді көзден шығады және күшейтіледі. Дереккөзге оралыңыз.
3. Дереккөздің сенімділігін бағалаңыз. Дереккөз ресми ме, тәуелсіз бе әлде біржақты ма? Ол бұрын нақты ақпарат берді ме? Оның бұл жерде жеке мүддесі бар ма? Тіпті сенімді дереккөз қате болуы мүмкін; бірақ сенімділігі төмен көз қосымша растауды қажет етеді.
4. Қайта тексеру. Шағымды кем дегенде екі тәуелсіз, сенімді көзбен растаңыз. Бір ақпарат агенттігінің 50 сайты тәуелсіз дереккөз емес.
5. Ішкі сәйкестікті және контекстті тексеру. Шағым ішкі жағынан сәйкес пе? Ол белгілі фактілерге қайшы келе ме? Контекстен шығарылды ма? Шынайы сөйлем қате контексте жаңылыстыруы мүмкін.
6. Нәтижені сенімділік деңгейімен белгілеңіз. «Тексерілген», «жартылай тексерілген», «жалғыз дереккөз», «тексеру мүмкін емес», «жалған» сияқты анық белгіні беріңіз. Тіпті «Мен сенімді емеспін» - бұл қорытынды және шыншылдықпен айтылуы керек.
Кеңес: Шағым неғұрлым көп резонанс тудырса немесе эмоционалды жауап тудырса, соғұрлым оны тексеруде мұқият болуыңыз керек. Дезинформация ашудың, қорқыныштың немесе «біз қалаған жаңалықтың» дәл осы эмоциясына бағытталған. Сізді жылдам әрекет етуге шақыратын ақпарат көбінесе тексеруді қажет ететін ақпарат болып табылады.
AI өзі тәуекел көзі болып табылады
Бұл бөлімнің ең маңызды ескертуі: AI тексеру органы емес; Оның өзі жалған ақпарат пен біржақтылықты тудыруы мүмкін. AI үш жолмен жаңылыстыруы мүмкін:
1. Галлюцинация: жоқ дереккөзді, дәйексөзді немесе оқиғаны шынайы ретінде көрсетеді. «Бұл мәлімдемені қай дереккөз растайды? Сұрасаңыз, ол сізге ойдан шығарылған дереккөз атауын беруі мүмкін.
2. Тренинг деректерінің бұрмалануы: AI өзі оқытылатын мәтіндердегі басым перспективаны көрсетеді. Егер белгілі бір мәселе бойынша әлемнің бір бөлігінің көзқарасы деректерде басым болса, AI осылайша ауытқуы мүмкін. Бұл әдейі емес, деректердің көрінісі, бірақ нәтиже әлі де біржақты нәтиже болып табылады.
3. Сикофония: AI сұраққа сізге ұнайтындай жауап беруге бейім болуы мүмкін. Шағымды тексергіңіз келсе, ол оны қолдайтын жауап береді.
Сондықтан AI-ны тексеру құралы ретінде пайдаланыңыз (көздерді өңдеу, қайшылықтарды белгілеу, шығу тегін анықтауға көмектесу), бірақ ешқашан «бұл шындық» деген AI-ны соңғы сөз ретінде қабылдамаңыз.
Абайлаңыз: AI көзді тексерген кезде, AI сізге нақты дереккөзді көрсетіп жатқанын немесе дұрыс көрінетін ойдан шығаратынын тексеріңіз. Ол берген әрбір дереккөз атауын, сілтемесін және сілтемесін өз бетіңізше ашып, көрмейінше, оны «тексерілді» деп санамаңыз. Жасанды интеллект көзі нақты дереккөзге қарағанда сенімдірек көрінуі мүмкін.
үш шағын іс
1-жағдай — Түпнұсқаны растау сақталды. Үстелге «ресми хабарландыру» скриншоты түсіп, ол шынайы болып көрінді. Тексеру бұл мекеменің ресми арналарында мұндай мәлімдеме болмағанын көрсетті; сурет жалған болды. Түпнұсқаны тексеру брифингке жалған мәлімдеменің кіруіне жол бермеді.
2-жағдай – AI жасанды көзі. Сарапшы AI статистиканы тексеруді тапсырды. YZ дереккөзіне сілтеме жасап, «осы ұйымның 2023 жылғы есебі бойынша...» деп сарапшы дереккөзді шақырды: ондай есеп те, ондай цифр да жоқ; AI екеуін де ойлап тапты. Тәуелсіз тексеру жалған «растауды» ұстады.
3-жағдай. Сарапшы AI даулы оқиғаны қорытындылап, нәтиже бір тараптың әңгімесіне анық жақын екенін байқады. Мен тағы да «бір оқиғаны екінші тараптың көзқарасы бойынша қорытындылаңыз» деп сұрағанымда, мүлдем басқа көрініс пайда болды. Екі нәтижені салыстыру баяндамаға біржақты құрылымды енгізуге жол бермеді.
Көшірілетін төрт үлгі
1) Шағымды тексеру хаттамасы:
Сіздің рөліңіз: тексеру талдаушысы. Келесі шағым үшін: (1) шағымды nettek сөйлеміне дейін қысқарту, (2) мен берген дереккөздерде ол қай жерде/қашан айтылғанын табыңыз, (3) оны қанша ТӘУЕЛСІЗ дереккөз қолдайтынын, (4) қайшы келетін дереккөздер бар ма, (5) нәтижені келесі тегтердің бірімен белгілеңіз: тексерілген / бір көзден / қайшы / тексерілмеген. Жасалу көзі; Мен бергенімді ғана пайдаланыңыз. Шағым+көздер: [мұнда]
2) AI бейімділігін тексеру:
Алдымен, келесі оқиғаны мүмкіндігінше объективті түрде қорытындылаңыз. Содан кейін СОЛ оқиғаны (a) А тарапының көзқарасынан, (b) В тарапының көзқарасынан бөлек қорытындылаңыз. Үш нұсқаның айырмашылығын көрсетіңіз. Осылайша, қай тармақтар тараптардың түсіндірмесі, қайсысы жалпы фактілер екенін көруге болады. Іс/көздер: [мұнда]
3) Дереккөздің сенімділігін бағалау:
Келесі дереккөз бойынша бағалаңыз: түрі (ресми/тәуелсіз/біржақты/анонимді), мәселеге әлеуетті қызығушылық, өткен сенімділік туралы ақпарат, тексеру үшін қажетті қосымша қадамдар. Сондай-ақ дереккөз неліктен қате болуы мүмкін екенін жазыңыз. Дереккөз: [мұнда]
4) Дезинформацияның қызыл жалаулары:
Төмендегі мазмұнды жалған ақпарат үшін сканерлеңіз. Мына жалаушаларды іздеңіз: дереккөздері жоқ статистика, эмоцияны қоздыратын тіл, контекстсіз суреттер, «асығыс/бөлісу» қысымы, расталмайтын билік сөзі, бір уақытта келісілген тарату. Әрбір тұжырымды негіздеу арқылы белгілеңіз. Түпкілікті шешім қабылдамаңыз. Мазмұны: [мұнда]
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Бұл мәлімдеме рас па? Интернеттен іздеп, маған хабарлаңыз.
AI «шын» деп айту бұл тексеру емес; Ол жалған дереккөздер беруі немесе біржақты немесе жағымпаздықпен жауап беруі мүмкін.
Күшті шақыру:
Сіздің рөліңіз: тексеру талдаушысы. Төменде мен жинаған шағым мен дереккөздер берілген. Маған «дұрыс/бұрыс» деп айтпа; Оның орнына: шағымның шығу тегін, тәуелсіз көздердің санын, кез келген қайшылықтарды және сенімділік деңгейін көрсетіңіз. Мен берген дереккөздердің шеңберінен шықпаңдар, дереккөздер жасамаңдар. Егер сенімді болмасаңыз, оны «адамның растауын қажет етеді» деп белгілеңіз. Шағым+көздер: [мұнда]
Айырмашылық анық: «шын/жалған» пайымдаудан гөрі шығу, тәуелсіз растау және сенім деңгейін талап ету AI тәуекелдерін шектейді.
Тексеру күйлерінің кестесі
Белгі
Мағынасы
Есепте пайдалану
Тексерілді
Кем дегенде 2 тәуелсіз сенімді дереккөз
Іс ретінде пайдалануға болады
Ішінара расталды
Кейбіреулер растады
Шектеулі, түсіндірмесі бар
бір көз
Бір ғана дереккөз
«Шағым» ретінде растау қажет
қайшы
Дереккөздер сәйкес келмейді
Белгісіздік ретінде ұсынылған
Тексеру мүмкін болмады
Растау табылмады
Факті ретінде пайдаланылмайды
қате
Керісінше дәлелденді
Есепте түзету ретінде
Жалпы қателер
- AI «дұрыс» деп айтуды валидация ретінде қарастыру. AI ойлап шығара алады, бұрмалай алады немесе ренжіте алады.
- AI берген дереккөзді ашып, оны көрмей қабылдау. Жасанды дереккөздер сенімді болып көрінеді.
- Сіздің қажеттіліктеріңізге сәйкес келетін шағын ақпаратты тексеру. Эмоционалды/тиісті ақпарат – бұл ең растауды қажет ететін ақпарат.
- Көшірмелердің көптігін растау ретінде қателесу. Бір көзден берілетін жүздеген сайттар бір көз болып табылады.
- Мүлде сынау емес. Бір оқиғаны әртүрлі көзқараспен қорытындылау тепе-теңдікті қамтамасыз етеді.
Қысқаша айтқанда
Дереккөзді тексеру дипломатиялық білімнің негізі болып табылады, ал AI бұл жұмыста көмек және тәуекел болып табылады. AI көздерді ұйымдастырады, шығу тегін бақылауға және жанжалдарды анықтауға көмектеседі; бірақ ол галлюцинация, жаттығу деректерін бұрмалау және мақтау салдарынан жалған ақпарат тудыруы мүмкін. Шығуды анықтау, тәуелсіз кросс-тексеру, дереккөздің сенімділігін бөлу, сенім деңгейін белгілеу және AI шығысындағы қосымша күмән - бұл құрылғының негізі.
Қолданбалы тапсырма
Ағымдағы, даулы шағымды таңдап, әртүрлі жанрдағы дереккөздерді жинаңыз. Шағымды "шағымды тексеру хаттамасы" арқылы дәлелді және тәуелсіз тексеруді бағалаңыз. «AI бейімділік сынағы» арқылы бір оқиғаны әртүрлі көзқарастардан қорытындылаңыз және айырмашылықтарды тізіңіз. Егер AI ресурс берсе, оны дербес ашып, оның бар-жоғын тексеріңіз.
бақылау парағы
- [ ] Мен талапты бір нақты сөйлемге дейін қысқартып, оның шығу тегін іздедім.
- [ ] Мен кем дегенде екі тәуелсіз сенімді дереккөзді тексердім.
- [ ] Мен AI ұсынған әрбір дереккөзді тәуелсіз түрде тексердім.
- [ ] Мен бір оқиғаны әртүрлі көзқарастардан қорытындылау арқылы біржақтылықты тексердім.
- [ ] Нәтижені анық сенімділік деңгейі белгісімен белгіледім.