Како функционише генеративна АИ?

Добици:

Токен може интуитивно да објасни концепте вероватноће и предвиђања
Разуме зашто језички модел производи текст „по комадима“
Може да протумачи зашто се модел понекад понаша одлучно, а понекад креативно

Када напишете „најбољу ствар о Истанбулу“ у језички модел, он производи течан пасус за неколико секунди. Како се ово дешава? Да ли модел заиста „размишља“ или иза њега стоји много једноставнији, али моћнији механизам? У овој јединици ћемо објаснити како генеративна АИ функционише, не улазећи у техничке једначине, већ успостављањем праве интуиције. Ова интуиција је основа за све што следи — посебно за теме халуцинација, верификације и доброг брзог писања. Генеративна вештачка интелигенција, односно „генеративна вештачка интелигенција“, уобичајено је име за алате који креирају текст од нуле уместо да пронађу и дохвате постојећи одговор.

Основна идеја: Предвиђање следећег дела

Изненађујуће је да је једини основни задатак који језички модел учи „који део текста ће највероватније следити?“ је да одговори на питање. Модел не припрема комплетну реченицу и не излаже је пред вама. Уместо тога, производи реченицу део по део, с лева на десно.

Ево како то функционише корак по корак:

Чита текст (промпт) који напишете.
Предвиђа део који ће највероватније пратити овај текст.
Додаје тај комад.
Поново гледа у новоформирани текст и погађа следећи највероватнији део.
Понавља се док се одговор не заврши.

Пример: Ако бисте моделу дали текст „Попијте топлу шољу кад се пробудите ујутру...“, највероватнији наставак би био „чај“ или „кафа“; Не "асфалт". Модел је научио такве вероватноће из милиона текстова. Затим додаје „чај“, па гледа у нову реченицу и погађа следећи највероватнији део, и тако даље.

Другим речима, на сваком кораку модел предузима следећи корак гледајући шта је написао. Због тога се понекад назива „веома напредна верзија аутодовршавања“. Али ова аналогија не би требало да омаловажава таленат; На правој скали, ово предвиђање може произвести резултате који изгледају као расуђивање.

Токен: Мали делови речи

Модел заправо не ради са пуним „речима“ већ са мањим деловима који се називају токени. Токен; Некад је то цела реч, некад је део речи, некада је знак интерпункције.

„књига“ може бити један токен.
„из наших књига“ се може поделити на неколико лексема као што су „књига“, „с“, „наш“, „из“.
Размаци и знаци интерпункције такође се рачунају као лексеме.

Пажња: Токен није само технички детаљ. Већина АИ алата наплаћује се по броју токена, а дужина текста (контекстни прозор) које модели могу да обрађују у исто време такође је ограничена у токенима. Дакле, „колико дуго пишете“ је директан трошак и ограничење.

Вероватноћа и „топлина“: одлучност или креативност?

На сваком кораку, модел не производи један коначан одговор, већ листу вероватноћа могућих наставка. На пример, после речи "вруће": чај 55%, кафа 35%, млеко 7%, остало 3%. Па коју он бира?

Овде у игру улази поставка која се зове температура. Температура је својеврсно дугме креативности које одређује колико ће модел „ризиковати”.

Подешавање

понашање

Закључак

Где је то корисно?

ниска температура

Увек узима највероватнију опцију

Стабилан, поновљив

Правни сажетак, технички опис, екстракција података

средња температура

Уравнотежен избор

Природно, али доследно

Општи имејл, нацрт извештаја

висока температура

Покушава мање вероватне опције

Креативно, разнолико, непредвидиво

Браинсторминг, слоган, производња имена

Ово такође објашњава често постављано питање: „Зашто добијам различите одговоре када двапут поставим исто питање?“ Зато што постоји нека случајност у процесу селекције; Модел не извлачи фиксан одговор из базе података, он га сваки пут репродукује.

Слаба порука / јака промпт

Сазнање да модел функционише са „вероватношћу“ такође мења начин на који га дајете. Што више контекста дате, већа је вероватноћа да ће бити исправан наставак.

Слаб упит: Напишите уводни текст.

Резултат: Модел производи највише "просечан" и генерички текст јер не зна који производ, која публика, који тон.

Снажан упит: Напишите промотивни текст на Инстаграму за нову филтер кафу у малом кафићу. Публика: 25-35 година, љубитељ кафе. Тон: пријатељски, кратак. Максимално 3 реченице, 2 хештега на крају.

Резултат: Употребљив текст који је релевантан јер контекст сужава могућности.

Три мини кућишта

Случај 1 — Маркетинг, велики избор. Тим је желео 30 слогана за нови производ. Са својом високом температуром, модел је произвео различите, креативне опције; Тим је изабрао и развио 4 од 30. Укупно време: 10 минута. Да се ради ручно, требало би пола дана.

Случај 2 — Право, висока одлучност. Правни тим исте компаније је поједноставио клаузулу уговора. Желели су доследност, а не креативност; Са ниском температуром модел је сваки пут дао скоро исти, конзервативни резиме. Дакле, није било недоследности између различитих суђења.

Случај 3 — „Зашто се променио?“ питање. Запослени је два пута затражио исти нацрт е-поште и добио два различита резултата; Мислио је да је то „грешка”. У ствари, ово је природна последица случајности модела. Када је запослени научио да сачува верзију која му се допала и каже „учини је као претходну“ ако је потребно, није било проблема.

Да ли модел "схвата"?

Ово је најзанимљивије питање. Модел је научио статистичке односе између речи тако темељно да се претвара да разуме многе задатке. Али нема свесно разумевање, намеру или механизам контроле стварности. Производи „највероватнији наставак“; То не гарантује производњу „најтачнијих информација“. Ово разликовање је основа предмета халуцинације, о чему ћемо говорити у наредним јединицама.

Уобичајене грешке

Грешка модела за претраживач. Модел не претражује интернет и не преузима ресурсе (осим ако не постоји посебна функција претраге); Генерише могући текст из меморије. Тако да може да измисли извор/цифру.
Грешка течност за тачност. Само зато што је текст леп и сигуран не значи да је његов садржај тачан.
Очекујући исти одговор сваки пут. Случајност је природна; Сачувајте излаз који волите за критичне задатке.
Лепљење веома дугог, непотребног текста и померање границе токена. Дужина истовремено повећава трошкове и може одвратити фокус модела; само дајте неопходан контекст.

Пажња: Само зато што манекенка говори течно и самоуверено не значи да она говори исправно. Течност је природна последица процене вероватноће; Тачност је нешто што се мора проверавати засебно и независно.

Укратко

Генеративна АИ генерише текст корак по корак предвиђајући следећи највероватније фрагмент (токен); конструише реченицу део по део.
Токени су мањи делови речи и постављају границе цене и дужине.
У сваком кораку, модел производи листу могућности; Поставка температуре одређује колико ће резултат бити стабилан или креативан.
Разлог за различите одговоре на исто питање је случајност својствена овом процесу.
Манекенка течно говори, али то не гарантује да говори истину; Течност и тачност су различите ствари.

Апплицатион Таск

Дајте свом АИ алату исти креативни задатак (нпр. „напишите брзу поруку захвалности“) двапут заредом и посматрајте како се резултати разликују. Затим поновите исти задатак са шаблоном „Моћни промпт“, додајући контекст и забележите разлику у квалитету између два резултата.

Контролна листа

[ ] Могу да објасним да модел производи текст "предвиђањем следећег могућег дела".
Знам шта је [ ] Токен и зашто је скраћеница за трошак/ограничење.
[ ] Могу да разликујем послове који захтевају одлучност и оне који захтевају креативност.
[ ] Знам да је нормално добити различите одговоре на исто питање.
[ ] Усвојио сам да течност није гаранција тачности.