Hvordan virker generativ AI?

Gevinster:

• Token kan intuitivt forklare begreberne sandsynlighed og forudsigelse
• Forstår hvorfor en sprogmodel producerer tekst 'stykvis'
• Kan tolke hvorfor modellen nogle gange opfører sig beslutsomt og nogle gange kreativt

Når du skriver "det bedste ved Istanbul" i en sprogmodel, producerer det et flydende afsnit på få sekunder. Hvordan sker dette? "Tænker" modellen virkelig, eller er der en meget enklere, men kraftfuld mekanisme bag den? I denne enhed vil vi forklare, hvordan generativ AI fungerer, uden at gå ind i tekniske ligninger, men ved at etablere den rigtige intuition. Denne intuition er grundlaget for alt, hvad der følger - især emnerne hallucination, verifikation og god hurtig skrivning. Generativ AI, det vil sige "generativ kunstig intelligens", er fællesbetegnelsen for værktøjer, der skaber tekst fra bunden i stedet for at finde og hente et eksisterende svar.

Grundidé: Forudsigelse af det næste stykke

Det overraskende er, at den eneste grundlæggende opgave, en sprogmodel lærer, er "hvilken del af en tekst vil mest sandsynligt følge?" er at besvare spørgsmålet. Modellen forbereder ikke en komplet sætning og præsenterer den foran dig. I stedet producerer den sætningen stykke for stykke, fra venstre mod højre.

Sådan fungerer det trin for trin:

1. Den læser den tekst (prompt), du skriver.
2. Forudsiger den mest sandsynlige del, der følger denne tekst.
3. Tilføjer det stykke.
4. Den ser igen på den nydannede tekst og gætter det næstmest sandsynlige stykke.
5. Gentages indtil svaret er komplet.

Eksempel: Hvis du gav modellen teksten "Få en varm kop, når du vågner om morgenen...", ville den mest sandsynlige fortsættelse være "te" eller "kaffe"; Ikke "asfalt". Modellen har lært sådanne sandsynligheder fra millioner af tekster. Så tilføjer han "te", så ser han på den nye sætning og gætter den næstmest sandsynlige del, og så videre.

Med andre ord, ved hvert trin tager modellen det næste skridt ved at se på, hvad den har skrevet. Det er derfor, det nogle gange kaldes en "meget avanceret version af autofuldførelse." Men denne analogi bør ikke forklejne talent; I den rigtige skala kan denne forudsigelse producere resultater, der ligner ræsonnement.

Token: Små stykker af et ord

Modellen fungerer faktisk ikke med fulde "ord", men med mindre stykker kaldet tokens. Et token; Nogle gange er det et helt ord, nogle gange er det en del af et ord, nogle gange er det et tegnsætningstegn.

• "bog" kan være et enkelt symbol.
• "fra vores bøger" kan opdeles i flere tokens såsom "bog", "s", "vores", "fra".
• Mellemrum og tegnsætningstegn tæller også som tokens.

Bemærk: Token er ikke kun en teknisk detalje. De fleste AI-værktøjer opkræver efter antal tokens, og længden af ​​tekst (kontekstvindue) modeller kan behandle ad gangen er også begrænset i tokens. Så "hvor længe skriver du" er en direkte omkostning og grænse.

Sandsynlighed og "varme": beslutsomhed eller kreativitet?

Ved hvert trin producerer modellen ikke et enkelt endeligt svar, men en sandsynlighedsliste over mulige fortsættelser. For eksempel efter ordet "varm": te 55%, kaffe 35%, mælk 7%, andre 3%. Så hvilken vælger han?

Her spiller en indstilling kaldet temperatur ind. Temperatur er en slags kreativitetsknap, der bestemmer, hvor meget modellen vil "risikere".

Indstilling

adfærd

Konklusion

Hvor er det nyttigt?

lav temperatur

Tager altid den mest sandsynlige mulighed

Stabil, gentagelig

Juridisk resumé, teknisk beskrivelse, dataudtræk

medium temperatur

Afbalanceret valg

Naturlig men konsekvent

Generel e-mail, rapportudkast

høj temperatur

Prøver mindre sandsynlige muligheder

Kreativ, mangfoldig, uforudsigelig

Brainstorming, slogan, navneproduktion

Dette forklarer også det ofte stillede spørgsmål: "Hvorfor får jeg forskellige svar, når jeg stiller det samme spørgsmål to gange?" For der er en vis tilfældighed i udvælgelsesprocessen; Modellen trækker ikke et fast svar fra en database, den gengiver det hver gang.

Svag prompt / stærk prompt

At vide, at modellen arbejder med "sandsynlighed", ændrer også, hvordan du instruerer den. Jo mere kontekst du giver, jo mere sandsynligt bliver den korrekte fortsættelse.

Svag prompt: Skriv en indledende tekst.

Resultat: Modellen producerer den mest "gennemsnitlige" og generiske tekst, fordi den ikke ved hvilket produkt, hvilket publikum, hvilken tone.

Stærk opfordring: Skriv en reklametekst på Instagram til en lille cafes nye filterkaffe. Publikum: 25-35 år, kaffeentusiast. Tone: venlig, kort. Maksimalt 3 sætninger, 2 hashtags til sidst.

Resultat: En brugbar tekst, der er relevant, fordi kontekst indsnævrer mulighederne.

Tre mini etuier

Case 1 — Marketing, stor variation. Et team ønskede 30 slogans til et nyt produkt. Med sin høje temperaturindstilling producerede modellen forskellige, kreative muligheder; Holdet udvalgte og udviklede 4 ud af 30. Samlet tid: 10 minutter. Hvis det blev gjort i hånden, ville det tage en halv dag.

Sag 2 — Lov, høj beslutsomhed. Det samme firmas juridiske team var ved at forenkle en kontraktklausul. De ønskede konsistens, ikke kreativitet; Med lav temperatur gav modellen næsten den samme, konservative oversigt hver gang. Der var således ingen uoverensstemmelse mellem forskellige forsøg.

Case 3 - "Hvorfor ændrede det sig?" spørgsmål. En medarbejder anmodede om den samme e-mail-kladde to gange og modtog to forskellige resultater; Han mente, det var en "fejl". Faktisk er dette en naturlig konsekvens af modellens tilfældighed. Når medarbejderen først lærte at gemme den version, han kunne lide, og sige "gør den som den forrige", hvis det var nødvendigt, var der ikke noget problem.

Får modellen "det"?

Dette er det mest nysgerrige spørgsmål. Modellen har lært de statistiske sammenhænge mellem ord så grundigt, at den foregiver at forstå mange opgaver. Men den har ingen bevidst forståelse, hensigt eller virkelighedskontrollerende mekanisme. Det producerer "den mest sandsynlige efterfølger"; Det garanterer ikke, at der produceres den "mest nøjagtige information". Denne sondring er grundlaget for emnet hallucination, som vi vil diskutere i de næste enheder.

Almindelige fejl

Almindelige fejl

• Forveksler modellen med en søgemaskine. Modellen søger ikke på internettet og henter ressourcer (medmindre der er en særlig søgefunktion); Genererer mulig tekst fra hukommelsen. Så han kan finde på kilden/figuren.
• Forkert flydende for nøjagtighed. Bare fordi teksten er smuk og selvsikker, betyder det ikke, at dens indhold er korrekt.
• Forventer det samme svar hver gang. Tilfældighed er naturlig; Gem det output, du kan lide, til kritiske opgaver.
• Indsætte meget lang, unødvendig tekst og skubbe token-grænsen. Længde både øger omkostningerne og kan distrahere fokus på modellen; bare giv den nødvendige sammenhæng.

OBS: Bare fordi modellen taler flydende og selvsikkert, betyder det ikke, at hun taler korrekt. Flydende er den naturlige konsekvens af sandsynlighedsvurdering; Nøjagtighed er noget, der skal kontrolleres separat og uafhængigt.

Sammenfattende

• Generativ AI genererer tekst trin for trin ved at forudsige det næste mest sandsynlige fragment (token); konstruerer sætningen stykke for stykke.
• Tokens er mindre dele af ord og sætter både omkostnings- og længdegrænser.
• Ved hvert trin producerer modellen en liste over muligheder; Temperaturindstillingen bestemmer, hvor stabilt eller kreativt outputtet vil være.
• Årsagen til forskellige svar på det samme spørgsmål skyldes den tilfældighed, der er iboende i denne proces.
• Modellen taler flydende, men det garanterer ikke, at hun taler sandt; Flydende og nøjagtighed er forskellige ting.

Ansøgningsopgave

Giv dit AI-værktøj den samme kreative opgave (f.eks. "skriv en hurtig takkebesked") to gange i træk, og observer, hvordan outputtet adskiller sig. Gentag derefter den samme opgave med skabelonen "Kraftfuld prompt", tilføje kontekst, og bemærk forskellen i kvalitet mellem de to resultater.

Tjekliste

• [ ] Jeg kan forklare, at modellen producerer teksten ved at "forudsige den næste mulige del".
• Jeg ved, hvad [ ] Token er, og hvorfor det står for cost/limit.
• [ ] Jeg kan skelne mellem jobs, der kræver beslutsomhed, og jobs, der kræver kreativitet.
• [ ] Jeg ved, at det er normalt at få forskellige svar på det samme spørgsmål.
• [ ] Jeg har internaliseret, at flydende ikke er nogen garanti for nøjagtighed.