Како функционира генеративната вештачка интелигенција?

Добивки:

Токен може интуитивно да ги објасни концептите на веројатност и предвидување
Разбира зошто јазичниот модел произведува текст „поделено“
Може да протолкува зошто моделот понекогаш се однесува решително, а понекогаш креативно

Кога ќе напишете „најдоброто нешто за Истанбул“ на јазичен модел, тој произведува течен пасус за неколку секунди. Како се случува ова? Дали моделот навистина „размислува“ или има многу поедноставен, но моќен механизам зад него? Во оваа единица ќе објасниме како функционира генеративната вештачка интелигенција, без да навлегуваме во технички равенки, туку со воспоставување на вистинската интуиција. Оваа интуиција е основа за сè што следи - особено за темите за халуцинации, верификација и добро брзо пишување. Генеративна вештачка интелигенција, односно „генеративна вештачка интелигенција“, е вообичаеното име за алатките кои создаваат текст од нула наместо да најдат и да преземат постоечки одговор.

Основна идеја: Предвидување на следното парче

Изненадувачки е што единствената основна задача што ја учи еден јазичен модел е „кој дел од текстот најверојатно ќе го следи? е да се одговори на прашањето. Манекенката не подготвува целосна реченица и не ја презентира пред вас. Наместо тоа, ја произведува реченицата дел по дел, од лево кон десно.

Еве како функционира чекор по чекор:

Го чита текстот (поттик) што го пишувате.
Го предвидува најверојатниот дел што ќе го следи овој текст.
Го додава тоа парче.
Повторно гледа во новоформираниот текст и го погодува следниот најверојатен дел.
Се повторува додека не се заврши одговорот.

Пример: Ако на манекенката и го дадевте текстот „Имај топла шолја кога ќе се разбудиш наутро...“, најверојатното продолжение би било „чај“ или „кафе“; Не „асфалт“. Моделот научил такви веројатности од милиони текстови. Потоа додава „чај“, потоа ја гледа новата реченица и го погодува следниот најверојатен дел итн.

Со други зборови, на секој чекор, моделот го прави следниот чекор гледајќи што напишал. Затоа понекогаш се нарекува „многу напредна верзија на автоматско комплетирање“. Но, оваа аналогија не треба да го омаловажува талентот; Во вистинската скала, ова предвидување може да произведе резултати кои изгледаат како расудување.

Токен: Мали парчиња збор

Моделот всушност работи не со полни „зборови“ туку со помали парчиња наречени токени. знак; Некогаш е цел збор, некогаш дел од збор, некогаш е интерпункциски знак.

„книгата“ може да биде единствен знак.
„од нашите книги“ може да се подели на неколку токени како што се „книга“, „с“, „наша“, „од“.
Празнините и интерпункциските знаци исто така се сметаат како токени.

Внимание: Токенот не е само технички детал. Повеќето алатки за вештачка интелигенција се наплаќаат според бројот на токени, а должината на текстот (контекстен прозорец) што моделите можат да ја обработуваат во исто време е исто така ограничена во токени. Значи „колку долго пишуваш“ е директна цена и ограничување.

Веројатност и „топлина“: одлучност или креативност?

На секој чекор, моделот не произведува единствен дефинитивен одговор, туку листа на веројатност на можни продолжувања. На пример, по зборот „жешко“: чај 55%, кафе 35%, млеко 7%, друго 3%. Па кој го избира?

Тука стапува во игра поставката наречена температура. Температурата е еден вид копче за креативност што одредува колку моделот ќе „ризикува“.

Поставување

однесување

Заклучок

Каде е корисно?

ниска температура

Секогаш ја зема најверојатната опција

Стабилен, повторлив

Правно резиме, технички опис, вадење податоци

средна температура

Избалансиран избор

Природно, но конзистентно

Општа е-пошта, нацрт извештај

висока температура

Пробува помалку веројатни опции

Креативен, разновиден, непредвидлив

Бреинсторминг, слоган, продукција на име

Ова го објаснува и често поставуваното прашање: „Зошто добивам различни одговори кога двапати го поставувам истото прашање? Бидејќи има одредена случајност во процесот на селекција; Моделот не извлекува фиксен одговор од базата на податоци, тој го репродуцира секој пат.

Слаба навестување / Силен навестување

Знаејќи дека моделот работи со „веројатност“ го менува и начинот на кој го поучувате. Колку повеќе контекст давате, толку е поголема веројатноста за правилното продолжение.

Слаб промпт: напишете воведен текст.

Резултат: Моделот произведува „најпросечен“ и најгенерички текст затоа што не знае кој производ, која публика, кој тон.

Силен потсетник: Напишете промотивен текст на Инстаграм за новото филтер кафе во едно мало кафуле. Публика: 25-35 години, ентузијаст за кафе. Тон: пријателски, краток. Најмногу 3 реченици, 2 хаштагови на крајот.

Резултат: употреблив текст кој е релевантен бидејќи контекстот ги стеснува можностите.

Три мини футроли

Случај 1 - Маркетинг, висока разновидност. Еден тим сакаше 30 слогани за нов производ. Со поставувањето на висока температура, моделот произведе различни, креативни опции; Тимот избра и разви 4 од 30. Вкупно време: 10 минути. Ако тоа беше направено со рака, ќе требаше половина ден.

Случај 2 - Закон, висока одлучност. Правниот тим на истата компанија ја поедноставуваше клаузулата за договор. Тие сакаа конзистентност, а не креативност; Со ниска температура, моделот секој пат даваше речиси исто, конзервативно резиме. Така, немаше недоследност помеѓу различните испитувања.

Случај 3 - "Зошто се промени?" прашање. Еден вработен побарал ист нацрт на е-пошта двапати и добил два различни резултати; Мислеше дека е „грешка“. Всушност, ова е природна последица на случајноста на моделот. Откако вработениот научил да ја зачува верзијата што му се допаѓа и да каже „направи ја како претходната“, ако е потребно, немаше проблем.

Дали моделот „добива“?

Ова е најљубопитно прашање. Моделот толку темелно ги научил статистичките врски меѓу зборовите што се преправа дека разбира многу задачи. Но, нема свесно разбирање, намера или механизам за контрола на реалноста. Го произведува „најверојатното продолжение“; Тоа не гарантира производство на „најточни информации“. Оваа дистинкција е основа на темата халуцинација, за која ќе разговараме во следните целини.

Вообичаени грешки

Грешка на моделот за пребарувач. Моделот не пребарува на интернет и не добива ресурси (освен ако не постои посебна функција за пребарување); Генерира можен текст од меморијата. Така тој може да го сочинува изворот/фигурата.
Погрешно флуентност со точност. Само затоа што текстот е убав и сигурен не значи дека неговата содржина е точна.
Секој пат го очекуваме истиот одговор. Случајноста е природна; Зачувајте го резултатот што го сакате за критични задачи.
Залепување многу долг, непотребен текст и поместување на границата на знакот. Должината и ја зголемува цената и може да го одвлече вниманието на моделот; само дајте го потребниот контекст.

Внимание: Тоа што манекенката зборува течно и самоуверено не значи дека зборува правилно. Флуентноста е природна последица на проценката на веројатноста; Точноста е нешто што мора да се провери посебно и независно.

Сумирано

Генеративната вештачка интелигенција генерира текст чекор по чекор со предвидување на следниот најверојатен фрагмент (токен); дел по дел ја конструира реченицата.
Жетоните се помали делови од зборовите и поставуваат ограничувања за трошоците и должината.
На секој чекор, моделот произведува листа на можности; Поставувањето на температурата одредува колку ќе биде стабилен или креативен излезот.
Причината за различни одговори на истото прашање се должи на случајноста својствена за овој процес.
Манекенката зборува течно, но тоа не гарантира дека ја кажува вистината; Течноста и точноста се различни работи.

Задача за апликација

Дајте му на вашата алатка за вештачка интелигенција истата креативна задача (на пр. „напишете брза белешка за благодарност“) двапати по ред и набљудувајте како се разликуваат резултатите. Потоа повторете ја истата задача со шаблонот „Моќен промпт“, додавајќи контекст и забележете ја разликата во квалитетот помеѓу двата резултати.

Список за проверка

[ ] Можам да објаснам дека моделот го произведува текстот со „предвидување на следниот можен дел“.
Знам што е [ ] Токен и зошто значи цена/лимит.
[ ] Можам да разликувам работи кои бараат одлучност и оние кои бараат креативност.
[ ] Знам дека е нормално да се добиваат различни одговори на истото прашање.
[ ] Интернализирав дека флуентноста не е гаранција за точност.