Пайдалар:
- Дооматтын келип чыгышы, булактын ишенимдүүлүгү жана көз карандысыз кайчылаш текшерүү кадамдары аркылуу системалуу түрдө текшерүү мүмкүнчүлүгү
- Жасалма интеллекттин өзү галлюцинация, маалыматтын бир жактуулугун үйрөтүү жана кошоматчылык аркылуу жалган маалымат чыгара аларын түшүнүү жана анын жыйынтыгына ашыкча шектенүү менен мамиле кылуу
- Натыйжаны так ишеним деңгээли энбелгиси менен белгилөө жана бир эле окуяны ар кандай көз караштар менен баалоо аркылуу бир тараптуулукту сынап көрүү мүмкүнчүлүгү
Дипломатия маалымат менен иштейт, маалыматтын баалуулугу анын тактыгынан көз каранды. Брифинг, сүйлөшүү позициясы же туура эмес маалыматка негизделген ачык билдирүү кайтаруу кыйын болгон кесепеттерге алып келет. Ошондуктан дипломаттын эң маанилүү жөндөмдөрүнүн бири булактарды текшерүү: дооматтын кайдан келип чыкканын, анын канчалык ишеничтүү экенин жана анын чындыгында чындыгын системалуу түрдө баалоо. Бул бөлүмдө сиз жасалма интеллектти текшерүүгө кантип киргизүүнү үйрөнөсүз; бирок сиз аны кантип колдонууну үйрөнөсүз, ал эми AI өзү туура эмес маалыматтын жана бир тараптуулуктун булагы болушу мүмкүн экенин эстен чыгарбайсыз.
Алгач үч түшүнүктү бөлүп алалы. Туура эмес маалымат: туура эмес маалымат атайылап тарап кеткен. Дезинформация: аң-сезимдүү, максаттуу түрдө даярдалган жана таралган туура эмес маалымат. Предюдиция: маалыматтын же баа берүүнүн белгилүү бир тарапка системалуу жылышы. Дипломат үчөөнө тең сергек болушу керек жана AI үчөөнө тең жардам да, коркунуч да болушу мүмкүн.
Кадам кадам: дооматты текшерүү
1. Дооматты ачык айтыңыз. Эмнени так текшерүү керек? Аны "X өлкөсү Y келишиминен баш тартты" сыяктуу бирден-бир так дооматка чейин кайнатыңыз. бүдөмүк дооматтарды текшерүү мүмкүн эмес.
2. Өзүңүздүн тегиңизди табыңыз. Бул доомат биринчи жолу кайда, качан жана ким тарабынан коюлган? Көпчүлүк туура эмес маалымат бир шектүү булактан келип чыгат жана күчөтүлөт. Булакка кайтуу.
3. Булактын ишенимдүүлүгүнө баа бериңиз. Булак расмийби, көз карандысызбы же бир жактуубу? Мурда так маалымат бердиби? Бул жерде анын жеке кызыкчылыгы барбы? Ал тургай, ишенимдүү булак туура эмес болушу мүмкүн; бирок ишенимдүүлүгү төмөн булак кошумча ырастоону талап кылат.
4. Кайчылаш текшерүү. Дооматты жок дегенде эки көз карандысыз, ишенимдүү булак менен ырастаңыз. Бир эле маалымат агенттигинин 50 сайты көз карандысыз булак эмес.
5. Ички ырааттуулукту жана контекстти текшерүү. Доомат ички жактан шайкеш келеби? Ал белгилүү фактыларга карама-каршы келеби? Контексттен алынганбы? Чыныгы сүйлөм туура эмес контекстте адаштырышы мүмкүн.
6. Ишеним деңгээли менен жыйынтыкты белгилеңиз. "Текшерилди", "жарым-жартылай текшерилди", "жалгыз булак", "текшерүүгө мүмкүн болгон жок", "жалган" сыяктуу так белги бериңиз. Ал тургай, "мен ишенбейм" деген жыйынтык жана чынчылдык менен айтыш керек.
Кеңеш: Доомат канчалык резонанстуу же эмоционалдык жоопту туудурса, аны текшерүүдө ошончолук кылдат болушуңуз керек. Дезинформация ачуулануу, коркуу же "биз каалаган жаңылыкты" көздөйт. Тез чара көрүүгө түрткөн маалымат көбүнчө текшерүүнү талап кылган маалымат.
AI өзү тобокелдиктин булагы болуп саналат
Бул бөлүмдүн эң маанилүү эскертүүсү: AI текшерүү органы эмес; Ал өзү туура эмес маалыматты жана бир тараптуулукту жаратышы мүмкүн. AI үч жол менен адаштырышы мүмкүн:
1. Галлюцинация: Болбогон булакты, цитатаны же окуяны реалдуу деп көрсөтөт. — Бул дооматты кайсы булак тастыктайт? Сураганыңызда, ал сизге жасалма булак атын да бериши мүмкүн.
2. Окутуу маалыматтарынын бир жактуулугу: AI үйрөтүлгөн тексттердеги басымдуу перспективаны чагылдырат. Эгер белгилүү бир маселе боюнча дүйнөнүн бир бөлүгүнүн көз карашы маалыматтарда үстөмдүк кылса, AI ушундай жол менен өзгөрүшү мүмкүн. Бул атайылап эмес, бирок маалыматтардын чагылдырылышы - бирок натыйжа дагы эле бир жактуу жыйынтык болуп саналат.
3. Sycophancy: AI суроого сизге жаккандай жооп бериши мүмкүн. Эгерде сиз дооматты текшергиңиз келсе, анда ал аны колдогон жоопту берет.
Ошентип, AIди текшерүү куралы катары колдонуңуз (булактарды түзөтүү, чыр-чатактарды белгилөө, келип чыгышын аныктоого жардам берүү), бирок эч качан AI "бул чындык" деп акыркы сөз катары кабыл албаңыз.
Эскертүү: AI булагын текшергенден кийин, AI сизге чыныгы булакты көрсөтүп жатабы же ойдон чыгарылган ойдон чыгарылганбы же жокпу, текшериңиз. Өз алдынча ачып, ал берген ар бир булактын атын, шилтемесин жана цитаталарын көрмөйүнчө, аны "текшерилди" деп эсептебеңиз. AI ойлоп тапкан булак чыныгы булакка караганда ынандырарлык көрүнүшү мүмкүн.
үч мини учурлар
1-жагдай — Келип чыккан жерди текшерүү сакталды. Столдун үстүнө "расмий жарыя" скриншоту түшүп, реалдуу көрүндү. Текшерүү бул мекеменин расмий каналдарында мындай билдирүү болбогонун көрсөттү; сүрөт жасалма болгон. Брифингге жасалма арыздын келип чыгышын текшерүү бөгөт коюлган.
2-жагдай - AI ойлоп чыгарган булак. Эксперт AI статистиканы текшерген. YZ булакка шилтеме жасап, "бул уюмдун 2023-жылдагы отчетуна ылайык..." Ал эксперттик булакка телефон чалды: мындай отчет да, мындай көрсөткүч да болгон эмес; AI экөөнү тең түзгөн. Көз карандысыз текшерүү жасалма "тастыктаманы" кармады.
3-жагдай. Эксперт AI талаштуу окуяны жыйынтыктап, жыйынтык бир тараптын баянына так жакын экенин байкады. Мен дагы бир жолу "бир эле окуяны экинчи тараптын көз карашы менен жыйынтыктап бериңизчи" деп сурасам, такыр башкача көрүнүш пайда болду. Эки жыйынтыкты салыштыруу отчетко бир жактуу алкакты киргизүүгө жол бербей койду.
Көчүрүү үчүн төрт шаблон
1) Дооматты текшерүү протоколу:
Сиздин ролуңуз: текшерүү талдоочусу. Төмөнкү доомат үчүн: (1) дооматты nettek сүйлөмүнө чейин кыскартыңыз, (2) мен берген булактарда биринчи жолу кайсы жерде/качан айтылганын табыңыз, (3) аны канча КӨЗ КАРАНДЫ ЭМЕС булактар колдойт, (4) карама-каршы келген булактар барбы, (5) натыйжаны төмөнкү тегдердин бири менен белгилеңиз: текшерилген / бир булак / карама-каршы / текшерилбеген. Жасалма булагы; Мен сага бергенди гана колдон. Доомат+булактары: [бул жерде]
2) AI тенденциясы:
Биринчиден, мүмкүн болушунча объективдүү төмөнкү окуяны кыскача. Андан кийин ОШОЛ окуяны өзүнчө (а) А тараптын көз карашынан, (б) В тараптын көз карашынан жыйынтыктаңыз. Үч версиянын ортосундагы айырмачылыктарды тизмектеңиз. Ошентип, кайсы пункттар тараптардын чечмелөөсү жана кайсынысы жалпы фактылар экенин көрүүгө болот. Иш/булактар: [бул жерде]
3) Булактын ишенимдүүлүгүн баалоо:
Төмөнкү булак боюнча баалаңыз: түрү (расмий/көз карандысыз/бир жактуу/анонимдүү), бул маселеге потенциалдуу кызыгуу, өткөн ишенимдүүлүк боюнча берилген маалымат, текшерүү үчүн зарыл болгон кошумча кадамдар. Булак эмне үчүн туура эмес болушу мүмкүн экенин да жазыңыз. Булак: [бул жерде]
4) Дезинформациялык кызыл желектер:
Дезинформация үчүн төмөнкү мазмунду сканерлеңиз. Бул желектерди издеңиз: булаксыз статистика, эмоцияны козгогон тил, контекстсиз сүрөттөр, “шашылыш/бөлүшүү” басымы, ырасталбаган бийлик сөзү, бир эле убакта макулдашылган жайылтуу. Ар бир жыйынтыкты негиздөө менен белгилеңиз. Акыркы өкүмдөрдү чыгарбаңыз. Мазмуну: [бул жерде]
Алсыз тездик / Күчтүү тездик
Алсыз билдирүү:
Бул доомат чынбы? Интернеттен издеп, мага кабарлаңыз.
AI "чын" деп айтуу текшерүү эмес; Ал жалган булактарды берип же бир жактуу же кошоматчы жооп бериши мүмкүн.
Күчтүү билдирүү:
Сиздин ролуңуз: текшерүү талдоочусу. Төмөндө доомат жана мен чогулткан булактар. Мага "туура/туура эмес" деп айтпаңыз; Анын ордуна: дооматтын келип чыгышын, көз карандысыз булактардын санын, карама-каршылыктарды жана ишеним деңгээлин көрсөтүңүз. Мен берген булактардан ашпагыла, булактарды жасабагыла. Ишенбесеңиз, "адамдын текшерүүсүн талап кылат" деп белгилеңиз. Доомат+булактары: [бул жерде]
Айырма айкын: “чыныгы/жалган” корутундуга караганда келип чыгууну, көз карандысыз тастыктоону жана ишеним деңгээлин талап кылуу AI тобокелдиктерин чектейт.
Текшерүү статустарынын таблицасы
Белги
Мааниси
Отчетто колдонулушу
Текшерилди
Жок дегенде 2 көз карандысыз ишенимдүү булак
Иш катары колдонсо болот
Жарым-жартылай тастыкталган
Айрымдары тастыктады
Чектелген, түшүндүрмө менен
бир булак
Бир гана булак
"Доо" катары ырастоо талап кылынат
карама-каршы
Булактар дал келбейт
Белгисиздик катары көрсөтүлөт
Текшере алган жок
Эч кандай ырастоо табылган жок
Факты катары колдонулбайт
туура эмес
Мунун тескериси далилденген
Докладда оңдоо катары
Жалпы каталар
- AI "туура" деп айтууну валидация катары кароо. AI ойлоп чыгара алат, бурмалай алат же панда алат.
- AI берген булакты ачып, аны көрбөй туруп кабыл алуу. Жасалма булактар ынандырарлык көрүнөт.
- Сиздин муктаждыктарыңызга жооп берген кичинекей маалыматты текшерүү. Эмоционалдуу/тиешелүү маалымат – бул эң көп ырастоону талап кылган маалымат.
- Көчүрмөлөрдүн көптүгү ырастоо катары жаңылыш. Бир булактан азыктанган жүздөгөн сайттар бир булак болуп саналат.
- Дегеле бир жактуу сыноо эмес. Бир эле окуяны ар кандай көз караштан жыйынтыктоо тең салмактуулукту камсыздайт.
Кыскача айтканда
Булакты текшерүү дипломатиялык билимдин негизи болуп саналат, ал эми AI бул иште жардам жана тобокелчилик болуп саналат. AI булактарды уюштурат, келип чыгышына көз салууга жана чыр-чатактарды белгилөөгө жардам берет; бирок ал галлюцинациядан, маалыматтын туура эместигинен жана кошоматчылыктан улам туура эмес маалыматты жаратышы мүмкүн. Провансты издөө, көз карандысыз кайчылаш текшерүү, булак-маалыматтын ишенимдүүлүгүн бөлүү, ишеним деңгээлин белгилөө жана AI чыгаруудагы кошумча шектенүү бул бирдиктин негизи болуп саналат.
Колдонмо тапшырмасы
Учурдагы, талаштуу дооматты тандап, ар кандай жанрдагы булактарды чогултуңуз. Дооматтын келип чыгышын жана көз карандысыз текшерүүнү "доону текшерүү протоколу" менен баалаңыз. "AI бетме-бет сыноо" менен бир эле окуяны ар кандай көз караштардан жыйынтыктап, айырмачылыктарды тизмектеңиз. Эгерде AI булакты берсе, аны өз алдынча ачып, анын чындыгында бар же жок экенин текшериңиз.
текшерүү тизмеси
- [ ] Мен дооматты бир так сүйлөмгө кыскартып, анын келип чыгышын издедим.
- [ ] Мен кеминде эки көз карандысыз ишенимдүү булак менен кайчылаш текшердим.
- [ ] Мен AI тарабынан берилген ар бир булакты өз алдынча текшерип чыктым.
- [ ] Мен бир эле окуяны ар кандай көз караштардан жыйынтыктоо менен бир тараптуулукту сынап көрдүм.
- [ ] Мен жыйынтыкты так ишеним деңгээлинин белгиси менен белгиледим.