zisky:
- Vysvetlite, ako funguje model veľkého jazyka predpovedaním nasledujúceho slova a čo to znamená pre rýchle písanie
- Prečo Prompt tak určuje kvalitu výstupu, môže ukázať na príklade z vlastnej práce.
- Rozlíšením silných a slabých stránok modelu sa možno rozhodnúť, ktoré úlohy ho bezpečne použiť.
Úvod do umelej inteligencie a výzvy: Ako model „myslí“
Najlepší spôsob, ako sa skutočne naučiť písať výzvy, je najprv pochopiť, ako nástroj funguje. V tomto celku uvidíme základnú logiku veľkého jazykového modelu (skrátene LLM; teda systému umelej inteligencie, ktorý produkuje text), prečo je taký užitočný pri vašej každodennej práci a kde má svoje limity. Výzvy napísané bez tohto základu často vedú k otázke "prečo niekedy prinášajú skvelé výsledky a niekedy hrozné výsledky?" nechá ťa samú s otázkou. Táto neistota do značnej miery zmizne, keď bude táto jednotka dokončená.
Čo vlastne robí veľký jazykový model?
Vo svojej najjednoduchšej definícii je veľký jazykový model systém, ktorý predpovedá najpravdepodobnejšie slovo, ktoré bude nasledovať za textom, ktorý zadáte. Skúmaním miliárd viet sa model naučil vzor „ktoré slovo nasleduje po akom slove“. Keď začnete vetu, model sa pozrie na to, čo bolo doteraz napísané a vygeneruje najpravdepodobnejšie pokračovanie, potom pridá vygenerované slovo do vstupu a predpovedá ďalšie. Tento cyklus pokračuje, kým sa odpoveď nedokončí.
Ujasnime si tu použitý pojem token: token je najmenšia jednotka, na ktorú model rozkladá text; Je to zhruba veľkosť slova alebo časti slova. Model napreduje nie slovo po slove, ale symbol po symbole. Praktickým dôsledkom pre vás je, že modelom nie je človek, ktorý „rozumie“ vášmu zámeru, ale veľmi výkonný prediktívny stroj, ktorý štatisticky vyberie najvhodnejšie pokračovanie textu, ktorý mu zadáte.
Najdôležitejším dôsledkom tejto definície je, že najsilnejším determinantom smeru výstupu je text, ktorý zadáte ako vstup. Takže vaša výzva. Model nečerpá hotovú odpoveď z databázy, nevykonáva živé vyhľadávanie na internete a nekopíruje stránky (pokiaľ nie je výslovne uvedené inak). Vytvára iba text, ktorý najlepšie zodpovedá kontextu, ktorý mu zadáte. Dobrý vstup je najdôležitejšou podmienkou dobrého výstupu.
Prečo „Rovnaký model, iný výsledok“?
Model tiež používa malú mieru náhodnosti pri výbere najpravdepodobnejšieho slova zakaždým; Preto, keď sa spýtate tú istú výzvu dvakrát, nemusíte dostať presne tie isté vety. Toto nie je chyba, je to súčasť dizajnu. Vašou úlohou je nakresliť dostatočne jasný rámec, aby ste nenechali výsledok na náhodu. Čím je rámec jasnejší, tým bližšie a užitočnejšie budú výsledky dvoch rôznych experimentov.
Krok za krokom: ako prebieha žiadosť cez model?
- Prečíta vstup. Každé slovo, ktoré napíšete, je vodítkom, ktoré vedie k predpovedi. Keď poviete „ako starší právnik“, model robí texty bližšie k tomuto tónu.
- Váži kontext. Pozadie, obmedzenia a príklady, ktoré uvediete, zužujú odhad. Ak je kontext prázdny, model vyplní prázdne miesta vlastnými predpokladmi.
- Produkuje slovo po slove. Každý token, ktorý vytvorí, sa stane vstupom pre ďalší; takže smer, ktorý zadáte na začiatku, sa prenesie do celej odpovede.
- Zastaví sa. Preruší výrobu, keď je úloha dokončená alebo dosiahne vami zadanú dĺžku.
Tri mini prípady: Okamžitý rozdiel v číslach
Prípad 1 – Marketingový profesionál, predmet e-mailu. Keď marketingový expert povedal „navrhnite tému kampane“, dostal 5 všeobecných titulov a nepáčil sa mu ani jeden; Strávil 20 minút opravovaním ručne. Na druhý deň, keď povedal: „Cieľovou skupinou sú majitelia malých a stredných podnikov vo veku 30 – 45 rokov, produktom je cloudový účtovný softvér, 6 jednotiek, každá s maximálne 45 znakmi, zaujímavé, ale podhodnotené,“ priamo použil 4 zo 6 nadpisov. Trvanie sa skrátilo z 20 minút na 4 minúty.
Prípad 2 — Ľudské zdroje, reklamný text. Personalista dostal štandardný text s výzvou „napíšte prácu vývojára softvéru“. Keď sme do výzvy pridali skutočný jazyk spoločnosti (3-vetný popis kultúry), 4 povinné kvalifikácie a obmedzenie „napíšte prehľadne platové rozpätie“, miera nekvalifikovaných uchádzačov do inzerátu sa v ďalšom inzeráte citeľne znížila, pretože text jasne stanovil očakávanie.
Prípad 3 – Účtovníctvo, súhrn správy. Keď vedúci účtovníctva povedal, že „zhrnul“ 12-stranovú správu o výdavkoch, model vynechal dôležité položky. Keď povedal: „Z tejto správy je 5 najvyšších nákladových položiek uvedených v tabuľke s percentuálnou zmenou v porovnaní s minulým mesiacom,“ dostal presne takú štruktúru, akú by si zobral na poradu vedenia. Obsah bol rovnaký, návod iný.
Slabá výzva / silná výzva
Rovnaká práca s dvoma rôznymi pokynmi:
Slabá výzva:
Zhrňte tento text.[text]
Výkonná výzva:
Zhrňte poznámku zo zasadnutia nižšie, ktorá sa má predložiť predstavenstvu. - Maximálne 5 položiek. - Každá položka by mala obsahovať rozhodnutie alebo akciu; Preskočte podrobnosti rozhovoru. - Do zátvoriek napíšte názov akcií, za ktoré je známa zodpovedná osoba. - Používajte jednoduchý, formálny jazyk. Text: [text]
Druhá výzva hovorí modelu, čo má vyrábať, pre koho, v akom formáte a čo má preskočiť. Model nerobí „myslenie“, ale skôr produkciu správneho pokračovania; Ty nakreslíš rámec toho pokračovania.
Štyri kopírovateľné šablóny
Štyri jednoduché štartovacie šablóny na rýchle uvedenie logiky v tejto jednotke do praxe. Do zátvoriek vyplňte svoje vlastné informácie.
1) Rámec na posilnenie žiadosti:
Chcem, aby ste urobili túto úlohu: [úloha]Pre koho: [kupujúci/publikum]V akom formáte: [dĺžka, štruktúra]Čo preskočiť: [čo nechcete]
2) Kontrola hraníc modelu (verifikačný reflex):
Ak sa vo vašej odpovedi nižšie nachádzajú faktické tvrdenia (číslo, dátum, názov, zdroj), vyberte každé ako samostatný zoznam a označte ho ako „treba overiť“. Odpoveď: [výstup modelu]
3) Skúste rovnakú úlohu na dvoch úrovniach:
Vysvetlite nasledujúcu tému dvakrát: A) Úplnému neznámemu človeku v bežnom jazyku. B) Odborníkovi v danej oblasti z technického hľadiska. Téma: [téma]
4) Aby si model uvedomil neistotu:
Pred odoslaním žiadosti, ktorú vám dávam, mi položte 3 otázky o bodoch, ktoré vám chýbajú alebo sú nejasné; potom vyrobte podľa mojich odpovedí.Požiadavka: [požiadavka]
Silné a slabé stránky modelu
Predmet
Model je silný
Model je slabý / opatrný
jazykové záležitosti
Písať, sumarizovať, prekladať, meniť tón
Veľmi technické/špecializované žargónové chyby
štruktúru
Previesť text na tabuľku, zoznam, skicu
Zachovanie konzistencie v dlhom texte
nápad
Brainstorming, vytváranie alternatív
Garantovanie toho, čo je „správne“
prípad
Všeobecné informácie, definícia, vysvetlenie
Aktuálne/presné údaje, číslo, dátum, zdroj
uvažovanie
Dobré, ak sa vedie krok za krokom
Nerobte zložité výpočty potichu zle
Tip: Na modelku sa pozerajte nie ako na „všetkého odborníka“, ale ako na „asistenta, ktorý píše veľmi rýchlo, veľa číta, ale všetko, čo povie, si treba overiť.“ Tento pohľad správne upraví vaše očakávania aj váš návyk kontroly.
Pozor: Model môže písať informácie vo veľmi sebavedomom jazyku, ale to neznamená, že informácie sú správne. Vždy si nezávisle overte faktické údaje, najmä číslo, meno, dátum, štatút a zdroj. K tejto téme sa podrobne vrátime v časti 11.
Časté chyby
- Zámena modelu za človeka. Dávať neúplné pokyny slovami „Aj tak to pochopia“. Model nečíta váš zámer; Spracováva iba to, čo zadáte.
- Vzdať sa na jeden pokus. Ak je počiatočný výstup slabý, obviňujte nástroj. Väčšinou je však problém v návode a malá oprava môže zmeniť výsledok.
- Používanie faktov bez ich overovania. Akceptovať štatistiku alebo zdroj vytvorený modelom bez otázok je najrizikovejší zvyk.
- Zadávanie dôverných údajov bez rozmýšľania. Vkladanie citlivých informácií bez toho, aby ste vedeli, ako nástroj funguje. Existujú pravidlá, ako uvidíme v oddelení ochrany osobných údajov.
- Zámena náhody za chybu. Interpretácia dvoch rôznych výsledkov ako „vozidlo je pokazené“; Keď však zvýšite jasnosť, výsledky sa zblížia.
V súhrne
- Veľký jazykový model funguje tak, že predpovedá slovo (token), ktoré sa s najväčšou pravdepodobnosťou objaví ako ďalšie v texte, ktorý zadáte; Nevyberá si hotové odpovede.
- Najsilnejším faktorom, ktorý určuje smer výstupu, je výzva, ktorú zadáte ako vstup.
- Silný v modelovom jazyku, štruktúre a myšlienke; je opatrný s presnými faktami, aktuálnymi údajmi a zložitými výpočtami.
- V dôsledku malej náhodnosti môže tá istá výzva poskytnúť rôzne výsledky; Keď sa jasnosť zvyšuje, výsledky sú konzistentnejšie.
- Modelka nie je „odborník, ktorý je pravdivý vo všetkom, čo povie“, ale „asistent, ktorý je rýchly, no treba si ho overiť“.
Aplikačná úloha
Vyberte si úlohu na písanie zo svojej dennej práce, ktorú pravidelne vykonávate (napríklad e-mail, súhrn alebo zoznam). Najprv napíšte najjednoduchšiu verziu s jednou vetou, dajte ju nástroju AI a uložte výstup. Potom k tej istej úlohe; Doplňte odpovede na otázky „pre koho, v akom formáte, v akej dĺžke a čo preskočiť“ a spýtajte sa ich znova. Umiestnite dva výstupy vedľa seba a všimnite si v jednej vete, ktoré sčítanie najviac zlepšuje výsledok.
kontrolný zoznam
- [ ] Uvedomil som si, že model „predpovedal ďalšie slovo“ a nečítal môj zámer.
- [ ] Uvedomil som si, že kvalita výstupu závisí vo veľkej miere od kvality výzvy.
- [ ] Dokážem rozlíšiť typy úloh, pri ktorých je model silný a slabý.
- [ ] Beriem na vedomie, že potrebujem overiť faktické údaje (číslo, dátum, meno, zdroj).
- [ ] Viem vysvetliť, prečo tá istá výzva môže poskytnúť rôzne výsledky.