Winst:
- Token kan de concepten waarschijnlijkheid en voorspelling intuïtief uitleggen
- Begrijpt waarom een taalmodel tekst ‘stukje bij beetje’ produceert
- Kan interpreteren waarom het model zich soms besluitvaardig en soms creatief gedraagt
Als je 'het beste van Istanbul' in een taalmodel schrijft, levert het binnen een paar seconden een vloeiende alinea op. Hoe gebeurt dit? Denkt het model echt na of zit er een veel eenvoudiger maar krachtiger mechanisme achter? In deze unit leggen we uit hoe generatieve AI werkt, zonder in technische vergelijkingen te vervallen, maar door de juiste intuïtie vast te stellen. Deze intuïtie is de basis voor alles wat volgt – vooral de onderwerpen hallucinatie, verificatie en goed en snel schrijven. Generatieve AI, dat wil zeggen ‘generatieve kunstmatige intelligentie’, is de algemene naam voor tools die tekst vanuit het niets creëren in plaats van een bestaand antwoord te vinden en op te halen.
Basisidee: het volgende stuk voorspellen
Het verrassende is dat de enige basistaak die een taalmodel leert, is: “Welk deel van een tekst zal waarschijnlijk volgen?” is om de vraag te beantwoorden. Het model bereidt geen volledige zin voor en presenteert deze voor u. In plaats daarvan wordt de zin stukje bij beetje geproduceerd, van links naar rechts.
Zo werkt het stap voor stap:
- Het leest de tekst (prompt) die u schrijft.
- Voorspelt welk deel van de tekst het meest waarschijnlijk zal volgen.
- Voegt dat stukje toe.
- Er wordt opnieuw naar de nieuw gevormde tekst gekeken en het volgende meest waarschijnlijke stuk geraden.
- Herhaalt totdat het antwoord compleet is.
Voorbeeld: Als u het model de tekst "Neem een warme kop als u 's ochtends wakker wordt..." hebt gegeven, zou de meest waarschijnlijke voortzetting "thee" of "koffie" zijn; Niet "asfalt". Het model heeft dergelijke waarschijnlijkheden uit miljoenen teksten geleerd. Vervolgens voegt hij 'thee' toe, kijkt vervolgens naar de nieuwe zin en raadt het volgende meest waarschijnlijke deel, enzovoort.
Met andere woorden: bij elke stap zet het model de volgende stap door te kijken naar wat het heeft geschreven. Daarom wordt het ook wel een "zeer geavanceerde versie van automatisch aanvullen" genoemd. Maar deze analogie mag talent niet kleineren; Op de juiste schaal kan deze voorspelling resultaten opleveren die op redeneren lijken.
Token: kleine stukjes van een woord
Het model werkt eigenlijk niet met volledige "woorden", maar met kleinere stukjes die tokens worden genoemd. Een teken; Soms is het een heel woord, soms is het een deel van een woord, soms is het een leesteken.
- 'boek' kan één token zijn.
- "uit onze boeken" kan worden onderverdeeld in verschillende tokens zoals "boek", "s", "onze", "uit".
- Spaties en leestekens gelden ook als tokens.
Let op: Token is niet alleen een technisch detail. De meeste AI-tools rekenen op basis van het aantal tokens, en de lengte van de tekst (contextvenster) die modellen tegelijk kunnen verwerken, is ook beperkt in tokens. Dus "hoe lang je schrijft" is een directe kostenpost en limiet.
Waarschijnlijkheid en ‘warmte’: vastberadenheid of creativiteit?
Bij elke stap levert het model niet één definitief antwoord op, maar een waarschijnlijkheidslijst van mogelijke voortzettingen. Bijvoorbeeld na het woord "heet": thee 55%, koffie 35%, melk 7%, overige 3%. Dus welke kiest hij?
Hier komt een instelling genaamd temperatuur in het spel. Temperatuur is een soort creativiteitsknop die bepaalt hoeveel het model zal "risico".
Instelling
gedrag
Conclusie
Waar is het nuttig?
lage temperatuur
Neemt altijd de meest waarschijnlijke optie
Stabiel, herhaalbaar
Juridische samenvatting, technische beschrijving, data-extractie
gemiddelde temperatuur
Evenwichtige keuze
Natuurlijk maar consistent
Algemene e-mail, rapportconcept
hoge temperatuur
Probeert minder waarschijnlijke opties
Creatief, divers, onvoorspelbaar
Brainstormen, slogan, naamproductie
Dit verklaart ook de veelgestelde vraag: “Waarom krijg ik verschillende antwoorden als ik twee keer dezelfde vraag stel?” Omdat er sprake is van enige willekeur in het selectieproces; Het model haalt geen vast antwoord uit een database, het reproduceert het elke keer.
Zwakke prompt/sterke prompt
Als u weet dat het model met 'waarschijnlijkheid' werkt, verandert ook de manier waarop u het instrueert. Hoe meer context je geeft, hoe waarschijnlijker de juiste voortzetting wordt.
Zwakke vraag: schrijf een inleidende tekst.
Resultaat: Het model produceert de meest "gemiddelde" en generieke tekst omdat het niet weet welk product, welk publiek, welke toon.
Sterke opdracht: Schrijf een Instagram-promotietekst voor de nieuwe filterkoffie van een klein café. Publiek: 25-35 jaar oud, koffieliefhebber. Toon: vriendelijk, kort. Maximaal 3 zinnen, 2 hashtags aan het eind.
Resultaat: Een bruikbare tekst die relevant is omdat context de mogelijkheden beperkt.
Drie mini-hoesjes
Geval 1 — Marketing, grote variëteit. Een team wilde 30 slogans voor een nieuw product. Met zijn hoge temperatuurinstelling produceerde het model verschillende, creatieve opties; Het team selecteerde en ontwikkelde er 4 van de 30. Totale tijd: 10 minuten. Als het met de hand zou gebeuren, zou het een halve dag duren.
Geval 2 – Recht, hoge vastberadenheid. Het juridische team van hetzelfde bedrijf was een contractclausule aan het vereenvoudigen. Ze wilden consistentie, geen creativiteit; Bij lage temperaturen gaf het model elke keer bijna dezelfde, conservatieve samenvatting. Er was dus geen inconsistentie tussen de verschillende onderzoeken.
Geval 3 – “Waarom is het veranderd?” vraag. Een medewerker heeft tweemaal hetzelfde e-mailconcept aangevraagd en twee verschillende resultaten ontvangen; Hij dacht dat het een ‘fout’ was. In feite is dit een natuurlijk gevolg van de willekeur van het model. Toen de medewerker eenmaal leerde de versie die hij leuk vond op te slaan en indien nodig te zeggen "maak hem zoals de vorige", was er geen probleem.
Snapt het model het?
Dit is de meest merkwaardige vraag. Het model heeft de statistische relaties tussen woorden zo grondig geleerd dat het pretendeert veel taken te begrijpen. Maar het heeft geen bewust begrip, intentie of mechanisme dat de werkelijkheid controleert. Het levert "het meest waarschijnlijke vervolg" op; Het garandeert niet dat de "meest nauwkeurige informatie" wordt geproduceerd. Dit onderscheid vormt de basis van het onderwerp hallucinatie, dat we in de volgende units zullen bespreken.
Veelvoorkomende fouten
Veel voorkomende fouten
- Het model verwarren met een zoekmachine. Het model zoekt niet op internet en haalt geen bronnen op (tenzij er een speciale zoekfunctie is); Genereert mogelijke tekst uit het geheugen. Zo kan hij de bron/figuur verzinnen.
- Vloeiendheid verwarren met nauwkeurigheid. Het feit dat de tekst mooi en zelfverzekerd is, betekent niet dat de inhoud ervan correct is.
- Elke keer hetzelfde antwoord verwachten. Willekeur is natuurlijk; Bewaar de gewenste uitvoer voor kritieke taken.
- Zeer lange, onnodige tekst plakken en de tokenlimiet verleggen. Lengte verhoogt zowel de kosten als kan de focus van het model afleiden; geef gewoon de nodige context.
Let op: het feit dat het model vloeiend en zelfverzekerd spreekt, betekent niet dat ze correct spreekt. Vloeiendheid is het natuurlijke gevolg van waarschijnlijkheidsschatting; Nauwkeurigheid is iets dat afzonderlijk en onafhankelijk moet worden gecontroleerd.
Samengevat
- Generatieve AI genereert stap voor stap tekst door het volgende meest waarschijnlijke fragment (token) te voorspellen; bouwt de zin stukje voor stukje op.
- Tokens zijn kleinere delen van woorden en stellen zowel kosten- als lengtelimieten in.
- Bij elke stap produceert het model een lijst met mogelijkheden; De temperatuurinstelling bepaalt hoe stabiel of creatief de uitvoer zal zijn.
- De reden voor verschillende antwoorden op dezelfde vraag is te wijten aan de willekeur die inherent is aan dit proces.
- Het model spreekt vloeiend, maar dit garandeert niet dat ze de waarheid spreekt; Vlotheid en nauwkeurigheid zijn verschillende dingen.
Applicatie taak
Geef uw AI-tool twee keer achter elkaar dezelfde creatieve taak (bijvoorbeeld ‘schrijf een kort bedankbriefje’) en kijk hoe de resultaten verschillen. Herhaal vervolgens dezelfde taak met de sjabloon “Krachtige prompt”, voeg context toe en noteer het verschil in kwaliteit tussen de twee resultaten.
Controlelijst
- [ ] Ik kan uitleggen dat het model de tekst produceert door "het volgende mogelijke deel te voorspellen".
- Ik weet wat [ ] Token is en waarom het staat voor cost/limit.
- [ ] Ik kan onderscheid maken tussen banen die vastberadenheid vereisen en banen die creativiteit vereisen.
- [ ] Ik weet dat het normaal is om verschillende antwoorden op dezelfde vraag te krijgen.
- [ ] Ik heb geïnternaliseerd dat vloeiendheid geen garantie is voor nauwkeurigheid.