Kako deluje Generative AI? — AI pismenost

Dobički:

Žeton lahko intuitivno razloži koncepte verjetnosti in napovedi
Razume, zakaj jezikovni model ustvarja besedilo "po kosih"
Zna razložiti, zakaj se model včasih obnaša odločno in včasih kreativno

Ko v jezikovni model napišete "najboljša stvar o Istanbulu", ta v nekaj sekundah proizvede tekoč odstavek. Kako se to zgodi? Ali model res »misli« ali se za njim skriva veliko enostavnejši, a zmogljiv mehanizem? V tej enoti bomo razložili, kako deluje generativni AI, ne da bi se spuščali v tehnične enačbe, ampak z vzpostavitvijo prave intuicije. Ta intuicija je osnova za vse, kar sledi - še posebej za teme halucinacij, preverjanja in dobrega hitrega pisanja. Generativna umetna inteligenca, to je "generativna umetna inteligenca", je splošno ime za orodja, ki ustvarjajo besedilo iz nič, namesto da bi našli in pridobili obstoječ odgovor.

Osnovna ideja: predvidevanje naslednjega dela

Presenetljivo je, da je edina osnovna naloga, ki se je jezikovni model nauči, "kateri del besedila bo najverjetneje sledil?" je odgovoriti na vprašanje. Model ne pripravi celotnega stavka in ga ne predstavi pred vami. Namesto tega ustvarja stavek del za delom, od leve proti desni.

Tukaj je opisano, kako deluje korak za korakom:

Prebere besedilo (poziv), ki ga napišete.
Predvidi najverjetnejši del, ki bo sledil temu besedilu.
Dodaja tisti kos.
Ponovno pogleda na novo oblikovano besedilo in ugiba naslednji najverjetnejši del.
Ponavlja se, dokler ni odgovor popoln.

Primer: Če ste modelu dali besedilo "Spijte vročo skodelico, ko se zjutraj zbudite ...", bi bilo najverjetnejše nadaljevanje "čaj" ali "kava"; Ne "asfalt". Model se je takih verjetnosti naučil iz milijonov besedil. Nato doda "čaj", nato pogleda nov stavek in ugiba naslednji najverjetnejši del itd.

Z drugimi besedami, na vsakem koraku model naredi naslednji korak tako, da pogleda, kaj je napisal. Zato se včasih imenuje "zelo napredna različica samodokončanja". Toda ta analogija ne bi smela omalovaževati talenta; V pravem obsegu lahko ta napoved povzroči rezultate, ki so videti kot sklepanje.

Žeton: Majhni koščki besede

Model dejansko ne deluje s polnimi "besedami", temveč z manjšimi deli, imenovanimi žetoni. žeton; Včasih je to cela beseda, včasih je del besede, včasih je to ločilo.

"knjiga" je lahko en sam žeton.
"iz naših knjig" lahko razdelimo na več žetonov, kot so "knjiga", "s", "naš", "iz".
Presledki in ločila prav tako štejejo kot žetoni.

Pozor: Žeton ni le tehnična podrobnost. Večina orodij AI zaračunava glede na število žetonov, dolžina besedila (kontekstnega okna), ki ga modeli lahko obdelujejo naenkrat, pa je prav tako omejena na žetone. Torej je "kako dolgo pišete" neposredni strošek in omejitev.

Verjetnost in »toplota«: odločnost ali ustvarjalnost?

Na vsakem koraku model ne ustvari enega samega dokončnega odgovora, temveč verjetnostni seznam možnih nadaljevanj. Na primer, za besedo "vroče": čaj 55%, kava 35%, mleko 7%, drugo 3%. Katerega bo torej izbral?

Tu pride v poštev nastavitev, imenovana temperatura. Temperatura je nekakšen gumb za ustvarjalnost, ki določa, koliko bo model "tvegal".

Nastavitev

obnašanje

Zaključek

Kje je uporaben?

nizka temperatura

Vedno izbere najverjetnejšo možnost

Stabilen, ponovljiv

Pravni povzetek, tehnični opis, pridobivanje podatkov

srednja temperatura

Uravnotežena izbira

Naravno, a dosledno

Splošna e-pošta, osnutek poročila

visoka temperatura

Preizkuša manj verjetne možnosti

Kreativno, raznoliko, nepredvidljivo

Brainstorming, slogan, produkcija imena

To pojasnjuje tudi pogosto zastavljeno vprašanje: "Zakaj dobim različne odgovore, ko dvakrat postavim isto vprašanje?" Ker je v procesu izbire nekaj naključnosti; Model ne črpa fiksnega odgovora iz baze podatkov, ampak ga vsakič reproducira.

Šibek poziv / močan poziv

Če veste, da model deluje z "verjetnostjo", se spremeni tudi način, kako ga poučujete. Več konteksta kot navedete, bolj verjetno je pravilno nadaljevanje.

Šibek poziv: Napišite uvodno besedilo.

Rezultat: Model proizvede najbolj »povprečno« in generično besedilo, ker ne ve, kateri izdelek, katero občinstvo, kateri ton.

Močan poziv: Napišite promocijsko besedilo za Instagram za novo filter kavo v majhni kavarni. Publika: 25-35 let, kavni navdušenec. Ton: prijazen, kratek. Največ 3 stavki, 2 hashtaga na koncu.

Rezultat: uporabno besedilo, ki je relevantno, ker kontekst zožuje možnosti.

Trije mini kovčki

Primer 1 – Trženje, velika raznolikost. Ekipa je želela 30 sloganov za nov izdelek. S svojo nastavitvijo visoke temperature je model ustvaril različne, ustvarjalne možnosti; Ekipa je izbrala in razvila 4 od 30. Skupni čas: 10 minut. Če bi to delali ročno, bi trajalo pol dneva.

Primer 2 – Zakon, visoka odločnost. Pravna ekipa istega podjetja je poenostavljala pogodbeno klavzulo. Želeli so doslednost, ne kreativnosti; Pri nizki temperaturi je model vsakič dal skoraj enak, konzervativen povzetek. Tako ni bilo nedoslednosti med različnimi poskusi.

Primer 3 - "Zakaj se je spremenilo?" vprašanje. Zaposleni je dvakrat zahteval isti osnutek elektronske pošte in prejel dva različna rezultata; Mislil je, da gre za »napako«. Pravzaprav je to naravna posledica naključnosti modela. Ko se je zaposleni naučil shraniti različico, ki mu je bila všeč, in po potrebi reči "naredi jo kot prejšnjo", ni bilo več težav.

Ali model "dobi"?

To je najbolj radovedno vprašanje. Model se je tako temeljito naučil statističnih odnosov med besedami, da se pretvarja, da razume številne naloge. Vendar nima zavestnega razumevanja, namere ali mehanizma za nadzor realnosti. Proizvaja "najverjetnejše nadaljevanje"; Ne zagotavlja zagotavljanja "najbolj točnih informacij". To razlikovanje je osnova teme halucinacije, o kateri bomo razpravljali v naslednjih enotah.

Pogoste napake

Zamenjajte model z iskalnikom. Model ne išče po internetu in ne pridobiva virov (razen če obstaja posebna funkcija iskanja); Ustvari možno besedilo iz pomnilnika. Tako si lahko izmisli vir/podatek.
Tekočnost zamenjuje za natančnost. Samo zato, ker je besedilo lepo in samozavestno, še ne pomeni, da je njegova vsebina pravilna.
Pričakovati vsakič enak odgovor. Naključnost je naravna; Shranite rezultat, ki vam je všeč za kritična opravila.
Lepljenje zelo dolgega, nepotrebnega besedila in premikanje omejitve žetonov. Dolžina poveča stroške in lahko odvrne fokus modela; samo podajte potreben kontekst.

Pozor: Samo zato, ker manekenka govori tekoče in samozavestno, še ne pomeni, da govori pravilno. Tekočnost je naravna posledica ocene verjetnosti; Točnost je nekaj, kar je treba preverjati ločeno in neodvisno.

Če povzamem

Generativni AI ustvari besedilo korak za korakom tako, da predvidi naslednji najverjetnejši fragment (žeton); sestavi stavek po delih.
Žetoni so manjši deli besed in določajo omejitve stroškov in dolžine.
Na vsakem koraku model izdela seznam možnosti; Nastavitev temperature določa, kako stabilen ali ustvarjalen bo rezultat.
Razlog za različne odgovore na isto vprašanje je v naključnosti, ki je del tega procesa.
Manekenka govori tekoče, vendar to ne zagotavlja, da govori resnico; Tekočnost in natančnost sta različni stvari.

Naloga aplikacije

Dajte svojemu orodju AI isto ustvarjalno nalogo (npr. »napišite hitro zahvalo«) dvakrat zaporedoma in opazujte, kako se rezultati razlikujejo. Nato ponovite isto nalogo s predlogo »Powerful prompt«, dodajte kontekst in upoštevajte razliko v kakovosti med obema rezultatoma.

Kontrolni seznam

[ ] Lahko razložim, da model ustvari besedilo tako, da "predvidi naslednji možni del".
Vem, kaj je žeton [ ] in zakaj pomeni strošek/omejitev.
[ ] Znam razlikovati med službami, ki zahtevajo odločnost, in tistimi, ki zahtevajo ustvarjalnost.
[ ] Vem, da je običajno dobiti različne odgovore na isto vprašanje.
[ ] Ponotranjil sem, da tekoče govorjenje ni zagotovilo za točnost.