Халуцинација и границите на кредибилитетот

Добивки:

Може да објасни што е халуцинација и зошто се појавува
Може да одреди кога треба да се потврди излезот со вештачка интелигенција
Може да применува практични техники кои ја зголемуваат доверливоста

Можеби најкритичната тема за писменоста на вештачката интелигенција е во оваа единица: Изработка на модели, односно халуцинации. Разбирањето на овој термин е најосновната безбедносна мерка на претпазливост за секој што користи вештачка интелигенција. Бидејќи корисникот кој не ја препознава халуцинацијата може да ги погреши лажните информации како вистинити и да ги пренесе на деловна одлука, комуникација со клиентите или официјален документ. Во оваа единица, ќе научите што е халуцинација, зошто е неизбежна и како да се заштитите од неа.

Што е халуцинација?

Халуцинација е кога јазичниот модел произведува информации што всушност не постојат на течен и самоуверен јазик, исто како да е вистина. Моделот нема намера да лаже; Во производството само на „најверојатното продолжение“, се создава текст кој изгледа веројатен, но всушност е лажен.

Пример: Ако му кажете на моделот „Препорачај академски извор за темата Сè се појавува во правилен формат и убедливо, но изворот е целосно имагинарен. Ова е класичен пример за халуцинација.

Зошто се случува? (Запомни единица втора)

Изворот на халуцинацијата лежи во принципот на работа на моделот. Моделот не е „енциклопедија на факти“; Тоа е „машина за веројатност“. Неговата задача е да го произведе најнепреченото можно продолжение на вашето прашање; Не се работи за носење најточни информации. Модел:

Тој не знае што не знае; Кога ќе се соочи со празно, тој има тенденција да пополни можен одговор наместо да каже „не знам“.
Нема механизам да ја контролира реалноста; Не проверува дали текстот што го произведува се совпаѓа со светот.
Флуентноста и точноста се две различни работи за него; Само затоа што е течно не значи дека е точно.

Внимание: Халуцинацијата не е „неисправност“; Тоа е вродена карактеристика на технологијата. Новите модели го намалуваат ова, но не можат целосно да го елиминираат. Затоа, наместо да се чека „нехалуцинален модел“, потребно е да се научи да се живее со халуцинација.

Каде е висок ризикот од халуцинации?

Не секој исход е подеднакво ризичен. Ризикот се зголемува кога:

Висок ризик

Низок ризик

Точни бројки, датуми, статистика

Генерирање општи идеи, бура на идеи

Барање извори, цитати, референци

Променете го тонот на текстот

Ниша, специјализирани теми

Заеднички, општи теми

Актуелни настани и луѓе

Сумирајте го вашиот текст

Внатрешни информации специфични за вашата компанија

Граматичка корекција

Три мини футроли

Случај 1 - Лажна фигура влезе во презентацијата. Еден вработен побара од вештачката интелигенција „стапка на раст и извор на е-трговија во 2023 година во Турција“ за извештајот од индустријата. Моделот врати убедлив процент (48%) и име на институција. Вработениот го стави во презентацијата без да го потврди; Кога на состанокот беше откриено дека таа бројка е фабрикувана, беше нарушена и презентацијата и угледот на компанијата. Доколку истиот вработен ја добиеше цифрата од официјалниот извор, немаше да има проблем.

Случај 2 - Непостоечка легислатива. Помошник побарал од АИ „релевантниот член од законот“ за петиција. Моделот произведе број и текст на ставката со реален изглед; но тој предмет го немаше. За среќа, правната служба го забележала пред породувањето. Лекција: правните цитати секогаш се проверуваат од примарниот извор.

Случај 3 — Точен метод, безбеден резултат. Друг вработен во истиот тим едноставно ѝ дал на вештачката интелигенција да го подготви извештајот, сам да ги внесе сите бројки од официјалните податоци и да му наложи „да не додава бројки што ги нема во овој текст“. Резултатот беше и брз и прецизен. Разлика: вештачката интелигенција напиша нацрти, факти хранети со луѓе.

Слаба навестување / Силен навестување

Слаба порака: наведете ги 3-те најважни академски извори на оваа тема со авторот и годината.

Резултат: Моделот може безбедно да одговара на непостоечки извори.

Моќен потсетник: напишете резиме врз основа на текстот што го залепив подолу. Користете ги само информациите во овој текст. Не додавајте имиња, бројки или извори што ги нема во текстот. Ако не сте сигурни, напишете „не е наведено во текстот“.<text>[залепете овде]</text>

Резултат: Бидејќи моделот го добива изворот од вас, просторот за монтирање станува потесен.

Практични техники кои ја зголемуваат доверливоста

Обележете го секое проверливо тврдење во вашиот одговор (број, датум, име, извор) и ставете ги на посебна листа „мора да се провери“.

Одговорете на ова прашање. Ако не сте сигурни, не погодувајте; Кажете „не сум сигурен“ и објаснете дека не знаете што. Предмет: [предмет]

Одговорете на истото прашање на два различни начини и означете ги противречностите помеѓу двата одговори. Дозволете ми да видам кои точки се сомнителни. Прашање: [прашање]

Ќе го проверам текстот подолу. Наведете ги ризичните тврдења што треба да ги проверам по важност и предложете каде можам да го потврдам секое од нив. Текст: [залепете овде]

Дополнително, прифатете ги овие навики:

Вие го давате изворот. Залепете го релевантниот документ во текстот и кажете „одговори само врз основа на ова“.
Секогаш проверувајте ги проверливите факти. Потврдете ги броевите, датумите, имињата, цитатите и изворите од независен, сигурен извор.
Замолете го да покаже дека не е сигурен за моделот. Ова го намалува ризикот, но не го елиминира целосно.
За работните места со висок ризик, побарајте експерт да го провери резултатот. Правните, финансиските и здравствените резултати мора да поминат низ филтерот на човечки експерти.
Користете вештачка интелигенција како „почетна точка“, а не како „завршен збор“. Нацртот е од него; Проверката и одлуката е ваша.

Внимание: „Манекенката кажа двапати, тогаш е вистина“ логиката е погрешна. Може да ја повтори истата грешка самоуверено. Повторувањето не е доказ за точноста.

Вообичаени грешки

Користење на извори без нивно потврдување. Може да креира модели на книги, статии, членови од законот и врски; Секоја референца мора да биде потврдена.
Помешајќи го самоуверениот тон со точност. Најопасната работа кај халуцинацијата е токму тоа што изгледа самоуверено.
Доволно е само моделот да каже „проверуваш“. Самопотврдувањето на моделот не е независна валидација.
Користење на излез од висок ризик без да се покаже на експерт. Човечката контрола е суштинска во парите, законот и здравјето.

Сумирано

Халуцинација е кога моделот произведува непостоечки информации на течен и сигурен начин како да е вистина.
Причината не е дефект, туку веројатноста за предвидување на природата на моделот; не може целосно да се елиминира.
Ризикот е особено висок кога станува збор за прецизни бројки, извори, ажурирани информации и нишани прашања.
За да се заштитите: наведете го изворот, проверете ги фактите, кажете „ако не сте сигурни, кажи ми“, проверете ги резултатите од висок ризик од експерт.
Користете вештачка интелигенција како почетна точка; Конечната проверка и одговорност секогаш остануваат кај вас.

Задача за апликација

Кажете му на вашата алатка за вештачка интелигенција да „предложи 3 академски извори“ за тема која бара експертиза и обидете се да ги потврдите изворите што ги предлага на Интернет; Забележете колку се вистински. Потоа повторете ја истата задача со методот „ти го даваш изворот“ и набљудувај ја разликата.

Список за проверка

[ ] Можам да објаснам што е халуцинација и зошто се појавува.
[ ] Можам да разликувам задачи со висок и низок ризик од халуцинација.
[ ] Можам да го намалам ризикот од изработка со давање на изворот на моделот.
[ ] Независно ги проверувам броевите, датумите, имињата и изворите.
[ ] Не го сметам самоуверениот тон како доказ за точноста.