Jak funguje generativní umělá inteligence?

zisky:

Token dokáže intuitivně vysvětlit pojmy pravděpodobnost a předpověď
Chápe, proč jazykový model vytváří text „po částech“
Dokáže interpretovat, proč se model někdy chová rozhodně a někdy kreativně

Když do jazykového modelu napíšete „to nejlepší na Istanbulu“, během pár sekund vznikne plynulý odstavec. Jak se to stane? Opravdu model "přemýšlí" nebo je za tím mnohem jednodušší, ale výkonný mechanismus? V této jednotce vysvětlíme, jak funguje generativní umělá inteligence, aniž bychom zacházeli do technických rovnic, ale na základě správné intuice. Tato intuice je základem pro vše, co následuje – zejména témata halucinací, ověřování a dobrého pohotového psaní. Generativní umělá inteligence, tedy „generativní umělá inteligence“, je obecný název pro nástroje, které vytvářejí text od nuly namísto hledání a načítání existující odpovědi.

Základní myšlenka: Předvídání dalšího dílu

Překvapivé je, že jediným základním úkolem, který se jazykový model učí, je „která část textu bude s největší pravděpodobností následovat? je odpovědět na otázku. Modelka si nepřipraví celou větu a nepředstaví ji před vámi. Místo toho vytváří větu kousek po kousku, zleva doprava.

Krok za krokem to funguje takto:

Přečte text (výzvu), který napíšete.
Předpovídá, že nejpravděpodobnější část bude následovat tento text.
Přidá ten kousek.
Znovu se podívá na nově vytvořený text a uhodne další nejpravděpodobnější kus.
Opakuje se, dokud není odpověď úplná.

Příklad: Pokud byste modelce dali text „Dej si horký šálek, až se ráno probudíš...“, nejpravděpodobnější pokračování by bylo „čaj“ nebo „káva“; Ne "asfalt". Model se takové pravděpodobnosti naučil z milionů textů. Pak přidá „čaj“, pak se podívá na novou větu a uhodne další nejpravděpodobnější část a tak dále.

Jinými slovy, na každém kroku model udělá další krok tím, že se podívá na to, co napsal. Proto se tomu někdy říká „velmi pokročilá verze automatického doplňování“. Ale tato analogie by neměla snižovat talent; Ve správném měřítku může tato předpověď přinést výsledky, které vypadají jako uvažování.

Token: Malé kousky slova

Model ve skutečnosti nepracuje s plnými „slovy“, ale s menšími kousky zvanými tokeny. Token; Někdy je to celé slovo, někdy je to část slova, někdy je to interpunkční znaménko.

„kniha“ může být jeden token.
„z našich knih“ lze rozdělit do několika tokenů, jako je „kniha“, „s“, „naše“, „od“.
Mezery a interpunkční znaménka se také počítají jako žetony.

Pozor: Token není jen technický detail. Většina nástrojů AI se účtuje podle počtu tokenů a délka textu (kontextového okna), které mohou modely najednou zpracovat, je také omezena na tokeny. Takže "jak dlouho píšeš" je přímý náklad a limit.

Pravděpodobnost a „teplo“: odhodlání nebo kreativita?

V každém kroku model nevytváří jedinou definitivní odpověď, ale seznam pravděpodobnosti možných pokračování. Například za slovem „horký“: čaj 55 %, káva 35 %, mléko 7 %, ostatní 3 %. Tak kterou si vybere?

Zde přichází na řadu nastavení zvané teplota. Teplota je jakýsi knoflík kreativity, který určuje, jak moc bude model „riskovat“.

Nastavení

chování

Závěr

Kde je to užitečné?

nízká teplota

Vždy zvolí nejpravděpodobnější možnost

Stabilní, opakovatelné

Právní shrnutí, technický popis, extrakce dat

střední teplota

Vyvážený výběr

Přirozené, ale konzistentní

Obecný e-mail, návrh zprávy

vysoká teplota

Zkouší méně pravděpodobné možnosti

Kreativní, rozmanité, nepředvídatelné

Brainstorming, slogan, výroba jména

To také vysvětluje často kladenou otázku: "Proč dostávám různé odpovědi, když položím stejnou otázku dvakrát?" Protože ve výběrovém procesu existuje určitá náhodnost; Model nečerpá pevnou odpověď z databáze, ale pokaždé ji reprodukuje.

Slabá výzva / Silná výzva

Vědomí, že model pracuje s "pravděpodobností", také mění způsob, jakým mu dáváte pokyny. Čím více kontextu uvedete, tím pravděpodobnější bude správné pokračování.

Slabá výzva: Napište úvodní text.

Výsledek: Model vytváří „nejprůměrnější“ a nejobecnější text, protože neví, který produkt, jaké publikum, jaký tón.

Silná výzva: Napište instagramový propagační text pro novou filtrovanou kávu malé kavárny. Publikum: 25-35 let, nadšenec do kávy. Tón: přátelský, krátký. Maximálně 3 věty, 2 hashtagy na konci.

Výsledek: Použitelný text, který je relevantní, protože kontext zužuje možnosti.

Tři mini pouzdra

Případ 1 – Marketing, vysoká rozmanitost. Tým chtěl 30 sloganů pro nový produkt. Díky nastavení vysoké teploty tento model produkoval různé kreativní možnosti; Tým vybral a vyvinul 4 ze 30. Celkový čas: 10 minut. Kdyby se to dělalo ručně, trvalo by to půl dne.

Případ 2 — Právo, vysoké odhodlání. Právní tým stejné společnosti zjednodušoval smluvní doložku. Chtěli konzistenci, ne kreativitu; Při nízké teplotě model pokaždé poskytl téměř stejné, konzervativní shrnutí. Mezi různými pokusy tedy nedošlo k žádné nesrovnalosti.

Případ 3 – „Proč se to změnilo?“ otázka. Zaměstnanec požádal o stejný koncept e-mailu dvakrát a obdržel dva různé výsledky; Myslel si, že to byla "chyba". Ve skutečnosti je to přirozený důsledek náhodnosti modelu. Jakmile se zaměstnanec naučil uložit verzi, která se mu líbila, a v případě potřeby říci „udělej to jako předchozí“, nebyl problém.

"Chápe to" modelka?

To je ta nejkurióznější otázka. Model se naučil statistické vztahy mezi slovy tak důkladně, že předstírá, že rozumí mnoha úkolům. Ale nemá žádné vědomé pochopení, záměr nebo mechanismus ovládání reality. To produkuje "nejpravděpodobnější pokračování"; Nezaručuje vytvoření „nejpřesnějších informací“. Toto rozlišení je základem předmětu halucinace, o kterém budeme hovořit v dalších celcích.

Časté chyby

Záměna modelu za vyhledávač. Model nevyhledává na internetu a nevyhledává zdroje (pokud neexistuje speciální vyhledávací funkce); Generuje možný text z paměti. Takže si může vymyslet zdroj/číslo.
Záměna plynulosti za přesnost. To, že je text krásný a sebevědomý, ještě neznamená, že jeho obsah je správný.
Pokaždé očekává stejnou odpověď. Náhodnost je přirozená; Uložte si požadovaný výstup pro kritické úkoly.
Vkládání velmi dlouhého, zbytečného textu a překročení limitu tokenů. Délka zvyšuje náklady a může rozptylovat pozornost modelu; stačí uvést potřebný kontext.

Pozor: To, že modelka mluví plynule a sebevědomě, ještě neznamená, že mluví správně. Plynulost je přirozeným důsledkem odhadu pravděpodobnosti; Přesnost je něco, co musí být kontrolováno samostatně a nezávisle.

V souhrnu

Generativní AI generuje text krok za krokem předpovídáním dalšího nejpravděpodobnějšího fragmentu (tokenu); tvoří větu kousek po kousku.
Tokeny jsou menší části slov a nastavují limity ceny i délky.
V každém kroku model vytvoří seznam možností; Nastavení teploty určuje, jak stabilní nebo kreativní bude výstup.
Důvod pro různé odpovědi na stejnou otázku je způsoben náhodností, která je tomuto procesu vlastní.
Modelka mluví plynule, ale to nezaručuje, že mluví pravdu; Plynulost a přesnost jsou různé věci.

Aplikační úkol

Dejte svému nástroji AI stejný kreativní úkol (např. „napište rychlé poděkování“) dvakrát za sebou a sledujte, jak se výstupy liší. Poté opakujte stejný úkol se šablonou „Výkonná výzva“, přidejte kontext a poznamenejte si rozdíl v kvalitě mezi těmito dvěma výsledky.

Kontrolní seznam

[ ] Mohu vysvětlit, že model vytváří text „předpovídáním dalšího možného kousku“.
Vím, co je [ ] Token a proč znamená cenu/limit.
[ ] Dokážu rozlišit práce, které vyžadují odhodlání, a ty, které vyžadují kreativitu.
[ ] Vím, že je normální dostávat různé odpovědi na stejnou otázku.
[ ] Uvědomil jsem si, že plynulost není zárukou přesnosti.