Hur fungerar generativ AI? — AI-läskunnighet

Vinster:

Token kan intuitivt förklara begreppen sannolikhet och förutsägelse
Förstår varför en språkmodell producerar text "bitar"
Kan tolka varför modellen ibland beter sig beslutsamt och ibland kreativt

När du skriver "det bästa med Istanbul" i en språkmodell producerar det ett flytande stycke på några sekunder. Hur går det till? "Tänker" modellen verkligen eller finns det en mycket enklare men kraftfull mekanism bakom? I den här delen kommer vi att förklara hur generativ AI fungerar, utan att gå in på tekniska ekvationer utan genom att etablera rätt intuition. Denna intuition är grunden för allt som följer – särskilt ämnena hallucinationer, verifiering och bra snabbt skrivande. Generativ AI, det vill säga "generativ artificiell intelligens", är det vanliga namnet på verktyg som skapar text från grunden istället för att hitta och hämta ett befintligt svar.

Grundidé: Förutsäga nästa stycke

Det överraskande är att den enda grundläggande uppgift som en språkmodell lär sig är "vilken del av en text kommer troligen att följa?" är att svara på frågan. Modellen förbereder inte en fullständig mening och presenterar den framför dig. Istället producerar den meningen bit för bit, från vänster till höger.

Så här fungerar det steg för steg:

Den läser texten (prompten) du skriver.
Förutspår den mest sannolika delen att följa denna text.
Lägger till den biten.
Den tittar igen på den nybildade texten och gissar nästa mest troliga bit.
Upprepas tills svaret är klart.

Exempel: Om du gav modellen texten "Ta en varm kopp när du vaknar på morgonen...", skulle den mest troliga fortsättningen vara "te" eller "kaffe"; Inte "asfalt". Modellen har lärt sig sådana sannolikheter från miljontals texter. Sedan lägger han till "te", tittar sedan på den nya meningen och gissar nästa mest troliga del, och så vidare.

Med andra ord, vid varje steg tar modellen nästa steg genom att titta på vad den har skrivit. Det är därför det ibland kallas en "mycket avancerad version av autoslutförande". Men denna analogi bör inte förringa talang; I rätt skala kan denna förutsägelse ge resultat som ser ut som resonemang.

Token: Små bitar av ett ord

Modellen fungerar faktiskt inte med hela "ord" utan med mindre bitar som kallas tokens. En token; Ibland är det ett helt ord, ibland är det en del av ett ord, ibland är det ett skiljetecken.

"bok" kan vara en enda token.
"från våra böcker" kan delas upp i flera polletter såsom "bok", "s", "vår", "från".
Mellanslag och skiljetecken räknas också som polletter.

Observera: Token är inte bara en teknisk detalj. De flesta AI-verktyg debiterar efter antal tokens, och längden på text (kontextfönster) som modeller kan bearbeta åt gången är också begränsad i tokens. Så "hur länge du skriver" är en direkt kostnad och gräns.

Sannolikhet och "värme": beslutsamhet eller kreativitet?

Vid varje steg producerar modellen inte ett enda definitivt svar utan en sannolikhetslista med möjliga fortsättningar. Till exempel, efter ordet "het": te 55%, kaffe 35%, mjölk 7%, övriga 3%. Så vilken väljer han?

Här spelar en inställning som kallas temperatur in. Temperatur är ett slags kreativitetsratt som avgör hur mycket modellen kommer att "risk".

Inställning

beteende

Slutsats

Var är det användbart?

låg temperatur

Tar alltid det mest troliga alternativet

Stabil, repeterbar

Juridisk sammanfattning, teknisk beskrivning, datautvinning

medeltemperatur

Balanserat val

Naturligt men konsekvent

Allmänt mejl, rapportutkast

hög temperatur

Försöker mindre troliga alternativ

Kreativ, mångsidig, oförutsägbar

Brainstorming, slogan, namnproduktion

Detta förklarar också den vanliga frågan: "Varför får jag olika svar när jag ställer samma fråga två gånger?" Eftersom det finns en viss slumpmässighet i urvalsprocessen; Modellen tar inte ett fast svar från en databas, den återger det varje gång.

Svag prompt / Stark prompt

Att veta att modellen fungerar med "sannolikhet" förändrar också hur du instruerar den. Ju mer sammanhang du ger, desto mer sannolikt blir den korrekta fortsättningen.

Svag uppmaning: Skriv en inledande text.

Resultat: Modellen producerar mest "genomsnittlig" och generisk text eftersom den inte vet vilken produkt, vilken publik, vilken ton.

Stark uppmaning: Skriv en reklamtext på Instagram för ett litet cafés nya filterkaffe. Publik: 25-35 år, kaffeentusiast. Ton: vänlig, kort. Max 3 meningar, 2 hashtags i slutet.

Resultat: En användbar text som är relevant eftersom sammanhanget begränsar möjligheterna.

Tre minifodral

Fall 1 – Marknadsföring, hög variation. Ett team ville ha 30 slogans för en ny produkt. Med sin höga temperaturinställning skapade modellen olika, kreativa alternativ; Teamet valde ut och utvecklade 4 av 30. Total tid: 10 minuter. Om det gjordes för hand skulle det ta en halv dag.

Fall 2 — Lag, hög beslutsamhet. Samma företags juridiska team förenklade en avtalsklausul. De ville ha konsekvens, inte kreativitet; Med låg temperatur gav modellen nästan samma, konservativa sammanfattning varje gång. Det fanns alltså ingen inkonsekvens mellan olika försök.

Fall 3 - "Varför ändrades det?" fråga. En anställd begärde samma e-postutkast två gånger och fick två olika resultat; Han trodde att det var ett "misstag". I själva verket är detta en naturlig följd av modellens slumpmässighet. När den anställde väl lärde sig att spara den version han gillade och säga "gör den som den tidigare" vid behov, var det inga problem.

"Får modellen det"?

Detta är den mest märkliga frågan. Modellen har lärt sig de statistiska sambanden mellan ord så grundligt att den låtsas förstå många uppgifter. Men den har ingen medveten förståelse, avsikt eller verklighetskontrollerande mekanism. Den producerar "den mest troliga uppföljaren"; Det garanterar inte att man producerar den "mest korrekta informationen". Denna distinktion är grunden för ämnet hallucination, som vi kommer att diskutera i nästa enheter.

Vanliga misstag

Misstag modellen för en sökmotor. Modellen söker inte på internet och hämtar resurser (såvida det inte finns en speciell sökfunktion); Genererar möjlig text från minnet. Så han kan hitta på källan/figuren.
Misstag flytande för noggrannhet. Bara för att texten är vacker och säker betyder det inte att innehållet är korrekt.
Förväntar sig samma svar varje gång. Slumpmässighet är naturligt; Spara utdata du gillar för viktiga uppgifter.
Klistra in mycket lång, onödig text och trycka på token-gränsen. Längd både ökar kostnaden och kan distrahera modellens fokus; ge bara det nödvändiga sammanhanget.

Observera: Bara för att modellen talar flytande och självsäkert betyder det inte att hon talar rätt. Flytande är den naturliga konsekvensen av sannolikhetsuppskattning; Noggrannhet är något som måste kontrolleras separat och oberoende.

Sammanfattningsvis

Generativ AI genererar text steg för steg genom att förutsäga nästa mest sannolika fragment (token); konstruerar meningen bit för bit.
Tokens är mindre delar av ord och sätter både kostnads- och längdgränser.
Vid varje steg tar modellen fram en lista med möjligheter; Temperaturinställningen avgör hur stabil eller kreativ utmatningen blir.
Anledningen till olika svar på samma fråga beror på den slumpmässighet som är inneboende i denna process.
Modellen talar flytande, men detta garanterar inte att hon talar sanning; Flytande och noggrannhet är olika saker.

Applikationsuppgift

Ge ditt AI-verktyg samma kreativa uppgift (t.ex. "skriv en snabb tacklapp") två gånger i rad och observera hur utgångarna skiljer sig. Upprepa sedan samma uppgift med mallen "Kraftfull prompt", lägg till sammanhang och notera skillnaden i kvalitet mellan de två resultaten.

Checklista

[ ] Jag kan förklara att modellen producerar texten genom att "förutsäga nästa möjliga bit".
Jag vet vad [ ] Token är och varför det står för cost/limit.
[ ] Jag kan skilja på jobb som kräver beslutsamhet och de som kräver kreativitet.
[ ] Jag vet att det är normalt att få olika svar på samma fråga.
[ ] Jag har internaliserat att flyt inte är någon garanti för noggrannhet.