Cum funcționează AI generativ?

Câștiguri:

• Token poate explica intuitiv conceptele de probabilitate și predicție
• Înțelege de ce un model de limbă produce text „pe fragmente”
• Poate interpreta de ce modelul se comportă uneori decisiv și alteori creativ

Când scrieți „cel mai bun lucru despre Istanbul” într-un model de limbă, acesta produce un paragraf fluent în câteva secunde. Cum se întâmplă asta? Modelul chiar „gândește” sau există un mecanism mult mai simplu, dar puternic în spatele lui? În această unitate vom explica cum funcționează IA generativă, fără a intra în ecuații tehnice, ci prin stabilirea intuiției potrivite. Această intuiție stă la baza a tot ceea ce urmează – în special subiectele de halucinație, verificare și scriere promptă bună. AI generativă, adică „inteligență artificială generativă”, este denumirea comună pentru instrumentele care creează text de la zero în loc să găsească și să preia un răspuns existent.

Ideea de bază: prezicerea piesei următoare

Lucrul surprinzător este că singura sarcină de bază pe care o învață un model lingvistic este „care parte a unui text este cel mai probabil să o urmeze?” este să răspund la întrebare. Modelul nu pregătește o propoziție completă și o prezintă în fața ta. În schimb, produce propoziția bucată cu bucată, de la stânga la dreapta.

Iată cum funcționează pas cu pas:

1. Citește textul (promptul) pe care îl scrieți.
2. Prezice partea cea mai probabilă să urmeze acest text.
3. Adaugă piesa aceea.
4. Se uită din nou la textul nou format și ghicește următoarea piesă cea mai probabilă.
5. Se repetă până când răspunsul este complet.

Exemplu: Dacă ai dat modelului textul „Bea o ceașcă fierbinte când te trezești dimineața...”, cea mai probabilă continuare ar fi „ceai” sau „cafea”; Nu „asfalt”. Modelul a învățat astfel de probabilități din milioane de texte. Apoi adaugă „ceai”, apoi se uită la noua propoziție și ghicește următoarea parte cea mai probabilă și așa mai departe.

Cu alte cuvinte, la fiecare pas, modelul face pasul următor uitându-se la ceea ce a scris. De aceea, uneori este numită „versiune foarte avansată de completare automată”. Dar această analogie nu ar trebui să slăbească talentul; La scara potrivită, această predicție poate produce rezultate care arată ca un raționament.

Token: Bucăți mici dintr-un cuvânt

Modelul funcționează de fapt nu cu „cuvinte” complete, ci cu bucăți mai mici numite jetoane. Un jeton; Uneori este un cuvânt întreg, alteori este parte dintr-un cuvânt, alteori este un semn de punctuație.

• „carte” poate fi un singur simbol.
• „din cărțile noastre” poate fi împărțit în mai multe jetoane precum „carte”, „s”, „nostru”, „de la”.
• Spațiile și semnele de punctuație contează, de asemenea, ca simboluri.

Atenție: Tokenul nu este doar un detaliu tehnic. Majoritatea instrumentelor AI se încarcă în funcție de numărul de jetoane, iar lungimea textului (fereastră de context) pe care modelele le pot procesa la un moment dat este, de asemenea, limitată în jetoane. Deci „cât timp scrii” este un cost direct și o limită.

Probabilitatea și „caldura”: determinare sau creativitate?

La fiecare pas, modelul produce nu un singur răspuns definitiv, ci o listă de probabilități a continuărilor posibile. De exemplu, după cuvântul „fierbinte”: ceai 55%, cafea 35%, lapte 7%, altele 3%. Deci pe care o alege?

Aici intră în joc o setare numită temperatură. Temperatura este un fel de buton de creativitate care determină cât de mult va „risca” modelul.

Setare

comportament

Concluzie

Unde este util?

temperatură scăzută

Ia întotdeauna opțiunea cea mai probabilă

Stabil, repetabil

Rezumat juridic, descriere tehnică, extragerea datelor

temperatura medie

Alegere echilibrată

Natural dar consistent

E-mail general, schiță de raport

temperatură ridicată

Încearcă opțiuni mai puțin probabile

Creativ, divers, imprevizibil

Brainstorming, slogan, producție de nume

Aceasta explică și întrebarea frecventă: „De ce primesc răspunsuri diferite când pun aceeași întrebare de două ori?” Pentru că există o oarecare aleatorie în procesul de selecție; Modelul nu extrage un răspuns fix dintr-o bază de date, îl reproduce de fiecare dată.

Solicitare slabă / Solicitare puternică

Știind că modelul funcționează cu „probabilitate” schimbă și modul în care îl instruiți. Cu cât oferiți mai mult context, cu atât este mai probabilă continuarea corectă.

Prompt slab: scrieți un text introductiv.

Rezultat: Modelul produce cel mai „mediu” și cel mai generic text deoarece nu știe ce produs, ce public, ce ton.

Solicitare puternică: scrieți un text promoțional Instagram pentru noua cafea cu filtru a unei cafenele mici. Public: 25-35 de ani, pasionat de cafea. Ton: prietenos, scurt. Maxim 3 propoziții, 2 hashtag-uri la sfârșit.

Rezultat: un text utilizabil care este relevant deoarece contextul restrânge posibilitățile.

Trei mini carcase

Cazul 1 – Marketing, mare varietate. O echipă a vrut 30 de sloganuri pentru un produs nou. Cu setarea de temperatură ridicată, modelul a produs opțiuni diferite, creative; Echipa a selectat și dezvoltat 4 din 30. Timp total: 10 minute. Dacă ar fi făcut manual, ar dura o jumătate de zi.

Cazul 2 — Drept, hotărâre înaltă. Echipa juridică a aceleiași companii simplifica o clauză contractuală. Au vrut consecvență, nu creativitate; Cu temperatură scăzută, modelul a oferit aproape același rezumat conservator de fiecare dată. Astfel, nu a existat nicio inconsecvență între diferitele studii.

Cazul 3 – „De ce s-a schimbat?” întrebare. Un angajat a solicitat de două ori aceeași schiță de e-mail și a primit două rezultate diferite; A crezut că este o „greșeală”. De fapt, aceasta este o consecință naturală a caracterului aleatoriu al modelului. Odată ce angajatul a învățat să salveze versiunea care îi plăcea și să spună „fă-o ca anterioară” dacă este necesar, nu a fost nicio problemă.

Modelul „înțelege”?

Aceasta este cea mai curioasă întrebare. Modelul a învățat relațiile statistice dintre cuvinte atât de bine încât pretinde că înțelege multe sarcini. Dar nu are înțelegere conștientă, intenție sau mecanism de control al realității. Produce „cea mai probabilă continuare”; Nu garantează producerea „cele mai exacte informații”. Această distincție stă la baza subiectului halucinației, despre care vom discuta în unitățile următoare.

Greșeli comune

Greșeli comune

• Confundarea modelului cu un motor de căutare. Modelul nu caută pe internet și nu preia resurse (cu excepția cazului în care există o funcție specială de căutare); Generează text posibil din memorie. Deci el poate inventa sursa/figura.
• Confundarea fluenței cu acuratețea. Doar pentru că textul este frumos și încrezător nu înseamnă că conținutul său este corect.
• Așteptând același răspuns de fiecare dată. Aleatorietatea este firească; Salvați rezultatul care vă place pentru sarcinile critice.
• Lipirea unui text foarte lung și inutil și împingerea limitei de simboluri. Lungimea crește costul și poate distrage atenția modelului; doar da contextul necesar.

Atentie: Doar pentru ca modelul vorbeste fluent si increzator nu inseamna ca vorbeste corect. Fluența este consecința naturală a estimării probabilității; Precizia este ceva care trebuie verificat separat și independent.

Pe scurt

• AI generativ generează text pas cu pas, prezicând următorul fragment cel mai probabil (token); construieşte propoziţia bucată cu bucată.
• Jetoanele sunt părți mai mici ale cuvintelor și stabilesc atât limite de cost, cât și de lungime.
• La fiecare pas, modelul produce o listă de posibilități; Setarea temperaturii determină cât de stabilă sau creativă va fi rezultatul.
• Motivul pentru răspunsuri diferite la aceeași întrebare se datorează caracterului aleatoriu inerent acestui proces.
• Modelul vorbește fluent, dar asta nu garantează că spune adevărul; Fluența și acuratețea sunt lucruri diferite.

Sarcina de aplicare

Oferiți instrumentului dvs. AI aceeași sarcină creativă (de exemplu, „scrieți o scrisoare rapidă de mulțumire”) de două ori la rând și observați cum diferă rezultatele. Apoi repetați aceeași sarcină cu șablonul „Prompt puternic”, adăugând context și observați diferența de calitate dintre cele două rezultate.

Lista de verificare

• [ ] Pot să explic că modelul produce textul „prevăzând următoarea bucată posibilă”.
• Știu ce este [ ] Token și de ce reprezintă cost/limită.
• [ ] Pot distinge între locurile de muncă care necesită determinare și cele care necesită creativitate.
• [ ] Știu că este normal să obții răspunsuri diferite la aceeași întrebare.
• [ ] Am interiorizat că fluența nu este o garanție a acurateții.