Как работи Generative AI? — AI грамотност

Печалби:

Token може интуитивно да обясни концепциите за вероятност и прогноза
Разбира защо един езиков модел произвежда текст „на парче“
Може да тълкува защо моделът понякога се държи решително, а понякога креативно

Когато напишете „най-доброто нещо за Истанбул“ в езиков модел, той създава гладък абзац за няколко секунди. как става това Дали моделът наистина "мисли" или зад него стои много по-прост, но мощен механизъм? В тази част ще обясним как работи генеративният AI, без да навлизаме в технически уравнения, а чрез установяване на правилната интуиция. Тази интуиция е в основата на всичко, което следва - особено темите за халюцинациите, проверката и доброто бързо писане. Generative AI, тоест „генеративен изкуствен интелект“, е общоприетото име за инструменти, които създават текст от нулата, вместо да намират и извличат съществуващ отговор.

Основна идея: Предсказване на следващото парче

Изненадващото е, че единствената основна задача, която езиковият модел научава, е „коя част от текст е най-вероятно да последва?“ е да отговоря на въпроса. Моделът не изготвя пълно изречение и не го представя пред вас. Вместо това, той произвежда изречението част по част, отляво надясно.

Ето как работи стъпка по стъпка:

Той чете текста (подканата), който пишете.
Прогнозира най-вероятната част, която следва този текст.
Добавя това парче.
Той преглежда отново новоформирания текст и отгатва следващото най-вероятно парче.
Повтаря се, докато отговорът е пълен.

Пример: Ако сте дали на модела текста „Изпийте топла чаша, когато се събудите сутрин...“, най-вероятното продължение ще бъде „чай“ или „кафе“; Не "асфалт". Моделът е научил такива вероятности от милиони текстове. След това той добавя "чай", след това гледа новото изречение и отгатва следващата най-вероятна част и т.н.

С други думи, на всяка стъпка моделът прави следващата стъпка, като гледа какво е написал. Ето защо понякога се нарича „много усъвършенствана версия на автоматичното довършване“. Но тази аналогия не трябва да омаловажава таланта; В правилния мащаб тази прогноза може да доведе до резултати, които изглеждат като разсъждения.

Токен: Малки парчета от дума

Моделът всъщност работи не с пълни „думи“, а с по-малки части, наречени токени. жетон; Понякога е цяла дума, понякога е част от дума, понякога е препинателен знак.

"книга" може да бъде един токен.
„от нашите книги“ може да се раздели на няколко лексеми като „книга“, „с“, „наш“, „от“.
Интервалите и препинателните знаци също се считат за жетони.

Внимание: Токенът не е просто технически детайл. Повечето AI инструменти таксуват по брой токени, а дължината на текста (контекстния прозорец), който моделите могат да обработват наведнъж, също е ограничена в токени. Така че „колко време пишете“ е пряка цена и лимит.

Вероятност и „топлота“: решителност или креативност?

На всяка стъпка моделът произвежда не един окончателен отговор, а списък с вероятности от възможни продължения. Например след думата "горещо": чай 55%, кафе 35%, мляко 7%, други 3%. И така, кой избира?

Тук влиза в действие настройка, наречена температура. Температурата е един вид копче за креативност, което определя колко ще "рискува" моделът.

Настройка

поведение

Заключение

Къде е полезно?

ниска температура

Винаги избира най-вероятния вариант

Стабилен, повторяем

Правно резюме, техническо описание, извличане на данни

средна температура

Балансиран избор

Естествен, но последователен

Общ имейл, чернова на отчет

висока температура

Опитва по-малко вероятни варианти

Креативен, разнообразен, непредвидим

Мозъчна атака, слоган, създаване на име

Това обяснява и често задавания въпрос: „Защо получавам различни отговори, когато задам един и същи въпрос два пъти?“ Тъй като има известна произволност в процеса на подбор; Моделът не извлича фиксиран отговор от база данни, той го възпроизвежда всеки път.

Слаба подкана / Силна подкана

Знаейки, че моделът работи с "вероятност", също променя начина, по който го инструктирате. Колкото повече контекст давате, толкова по-вероятно е правилното продължение.

Слаба подкана: Напишете уводен текст.

Резултат: Моделът произвежда най-„средния“ и общ текст, защото не знае кой продукт, коя аудитория, кой тон.

Силна подкана: Напишете промоционален текст в Instagram за ново филтърно кафе в малко кафене. Аудитория: 25-35 години, любители на кафето. Тон: приятелски, кратък. Максимум 3 изречения, 2 хаштага накрая.

Резултат: използваем текст, който е подходящ, защото контекстът стеснява възможностите.

Три мини калъфа

Случай 1 — Маркетинг, голямо разнообразие. Екип искаше 30 слогана за нов продукт. Със своята настройка на висока температура, моделът произвежда различни, креативни опции; Екипът избра и разработи 4 от 30. Общо време: 10 минути. Ако се правеше на ръка щеше да отнеме половин ден.

Случай 2 — Закон, висока решителност. Юридическият екип на същата компания опростяваше договорна клауза. Те искаха последователност, а не креативност; При ниска температура моделът дава почти същото, консервативно обобщение всеки път. Следователно не е имало несъответствие между различните опити.

Случай 3 — „Защо се промени?“ въпрос. Служител поиска една и съща чернова на имейл два пъти и получи два различни резултата; Той смяташе, че това е "грешка". Всъщност това е естествено следствие от случайността на модела. След като служителят се научи да запазва версията, която е харесал и да каже "направи я като предишната", ако е необходимо, нямаше проблем.

Моделът "разбира ли"?

Това е най-любопитният въпрос. Моделът е научил статистическите връзки между думите толкова задълбочено, че се преструва, че разбира много задачи. Но няма съзнателно разбиране, намерение или механизъм за контролиране на реалността. Той произвежда "най-вероятното продължение"; Това не гарантира предоставянето на "най-точната информация". Това разграничение е в основата на темата за халюцинациите, която ще обсъдим в следващите раздели.

Често срещани грешки

Сбъркайте модела с търсачка. Моделът не търси в интернет и не извлича ресурси (освен ако няма специална функция за търсене); Генерира възможен текст от паметта. Така че той може да състави източника/цифрата.
Грешка за плавност с точност. Това, че текстът е красив и уверен, не означава, че съдържанието му е правилно.
Всеки път очаква един и същи отговор. Случайността е естествена; Запазете резултата, който харесвате, за критични задачи.
Поставяне на много дълъг, ненужен текст и натискане на лимита на жетоните. Дължината едновременно увеличава цената и може да разсее фокуса на модела; просто дайте необходимия контекст.

Внимание: Това, че моделът говори гладко и уверено, не означава, че говори правилно. Плавността е естествената последица от оценката на вероятността; Точността е нещо, което трябва да се проверява отделно и независимо.

В обобщение

Generative AI генерира текст стъпка по стъпка, като предвижда следващия най-вероятен фрагмент (токен); изгражда изречението част по част.
Токените са по-малки части от думи и задават лимити както на цената, така и на дължината.
На всяка стъпка моделът създава списък с възможности; Настройката на температурата определя колко стабилен или креативен ще бъде резултатът.
Причината за различните отговори на един и същ въпрос се дължи на произволността, присъща на този процес.
Моделът говори свободно, но това не гарантира, че казва истината; Плавността и точността са различни неща.

Задача за приложение

Дайте на вашия AI инструмент една и съща творческа задача (напр. „напишете бърза благодарствена бележка“) два пъти подред и наблюдавайте как резултатите се различават. След това повторете същата задача с шаблона „Мощна подкана“, като добавите контекст и отбележете разликата в качеството между двата резултата.

Контролен списък

[ ] Мога да обясня, че моделът създава текста, като „предсказва следващата възможна част“.
Знам какво е [ ] Token и защо означава цена/лимит.
[ ] Мога да правя разлика между професии, които изискват решителност и такива, които изискват креативност.
[ ] Знам, че е нормално да получавам различни отговори на един и същи въпрос.
[ ] Разбрах, че плавността не е гаранция за точност.