Kuidas generatiivne AI töötab?

Kasu:

• Token suudab intuitiivselt selgitada tõenäosuse ja prognoosi mõisteid
• Saab aru, miks keelemudel loob teksti "tükikaupa"
• Oskab tõlgendada, miks modell käitub vahel otsustavalt ja vahel loovalt

Kui kirjutate keelemudelisse "Parim asi Istanbuli kohta", loob see mõne sekundiga sujuva lõigu. Kuidas see juhtub? Kas mudel tõesti "mõtleb" või on selle taga palju lihtsam, kuid võimsam mehhanism? Selles üksuses selgitame, kuidas generatiivne AI töötab, laskumata tehnilistesse võrranditesse, vaid luues õige intuitsiooni. See intuitsioon on aluseks kõigele järgnevale – eriti hallutsinatsioonide, kontrollimise ja hea kiire kirjutamise teemadele. Generatiivne AI ehk "generatiivne tehisintellekt" on üldnimetus tööriistadele, mis loovad teksti nullist, selle asemel et leida ja tuua olemasolevat vastust.

Põhiidee: järgmise tüki ennustamine

Üllatav on see, et ainus põhiülesanne, mida keelemudel õpib, on "milline osa tekstist kõige tõenäolisemalt järgitakse?" on vastata küsimusele. Modell ei koosta täislauset ja ei esita seda teie ees. Selle asemel loob see lause tükkhaaval, vasakult paremale.

See toimib samm-sammult järgmiselt.

1. See loeb teie kirjutatud teksti (viipa).
2. Ennustab, milline osa sellele tekstile järgneb kõige tõenäolisemalt.
3. Lisab selle tüki.
4. See vaatab uuesti äsja moodustatud teksti ja arvab ära järgmise tõenäolisema osa.
5. Korratakse, kuni vastus on täielik.

Näide: kui andsite modellile teksti "Hommikul ärgates võtke kuuma tassiga...", oleks kõige tõenäolisem jätk "tee" või "kohv"; Mitte "asfalt". Sellised tõenäosused on mudel õppinud miljonitest tekstidest. Siis lisab "tee", siis vaatab uut lauset ja arvab ära järgmise tõenäolisema osa jne.

Teisisõnu, igal sammul astub mudel järgmise sammu, vaadates, mida ta on kirjutanud. Seetõttu nimetatakse seda mõnikord "automaatse täitmise väga täiustatud versiooniks". Kuid see analoogia ei tohiks andekust halvustada; Õigel skaalal võib see ennustus anda tulemusi, mis näevad välja nagu arutluskäik.

Märk: väikesed sõnatükid

Mudel ei tööta tegelikult mitte täis "sõnadega", vaid väiksemate tükkidega, mida nimetatakse märgideks. žetoon; Mõnikord on see terve sõna, mõnikord on see osa sõnast, mõnikord on see kirjavahemärk.

• "raamat" võib olla üks märk.
• "meie raamatutest" võib jagada mitmeks märgiks, näiteks "raamat", "s", "meie", "alates".
• Märkidena lähevad arvesse ka tühikud ja kirjavahemärgid.

Tähelepanu: Token ei ole ainult tehniline detail. Enamik AI tööriistu võtab tasu žetoonide arvu järgi ja teksti (kontekstikakende) mudelite korraga töödeldav pikkus on samuti märkides piiratud. Nii et "kui kaua sa kirjutad" on otsene kulu ja piir.

Tõenäosus ja "soojus": sihikindlus või loovus?

Igal etapil ei anna mudel ühe kindla vastuse, vaid võimalike jätkude tõenäosusloendi. Näiteks pärast sõna "kuum": tee 55%, kohv 35%, piim 7%, muu 3%. Millise ta siis valib?

Siin tuleb mängu seadistus nimega temperatuur. Temperatuur on omamoodi loovuse nupp, mis määrab, kui palju mudel "riskib".

Seadistamine

käitumine

Järeldus

Kus see kasulik on?

madal temperatuur

Valib alati kõige tõenäolisema variandi

Stabiilne, korratav

Õiguslik kokkuvõte, tehniline kirjeldus, andmete väljavõte

keskmine temperatuur

Tasakaalustatud valik

Loomulik, kuid järjekindel

Üldine meil, aruande mustand

kõrge temperatuur

Proovib vähem tõenäolisi võimalusi

Loominguline, mitmekesine, ettearvamatu

Ajurünnak, loosung, nimede tootmine

See seletab ka korduma kippuvat küsimust: "Miks ma saan erinevaid vastuseid, kui esitan sama küsimuse kaks korda?" Sest valikuprotsessis on teatud juhuslikkus; Mudel ei ammuta kindlat vastust andmebaasist, vaid reprodutseerib selle iga kord.

Nõrk viip / Tugev viip

Teadmine, et mudel töötab "tõenäosusega", muudab ka seda, kuidas te seda juhendate. Mida rohkem konteksti annate, seda tõenäolisem on õige jätk.

Nõrk viip: kirjutage sissejuhatav tekst.

Tulemus: mudel toodab kõige "keskmist" ja üldisemat teksti, sest ta ei tea, milline toode, milline sihtrühm, mis toon.

Tugev vihje: kirjutage Instagrami reklaamtekst väikese kohviku uue filtrikohvi jaoks. Publik: 25-35 aastat, kohvihuviline. Toon: sõbralik, lühike. Maksimaalselt 3 lauset, 2 hashtag'i lõpus.

Tulemus: kasutatav tekst, mis on asjakohane, kuna kontekst ahendab võimalusi.

Kolm miniümbrist

Juhtum 1 – turundus, suur valik. Meeskond soovis uuele tootele 30 loosungit. Kõrge temperatuuri seadistusega mudel andis erinevaid loomingulisi võimalusi; Meeskond valis ja arendas välja 4 30-st. Koguaeg: 10 minutit. Kui see oleks käsitsi tehtud, kuluks pool päeva.

Juhtum 2 – seadus, kõrge sihikindlus. Sama ettevõtte juriidiline meeskond lihtsustas lepinguklauslit. Nad tahtsid järjepidevust, mitte loovust; Madala temperatuuri korral andis mudel iga kord peaaegu sama konservatiivse kokkuvõtte. Seega ei olnud erinevate katsete vahel vastuolu.

Juhtum 3 – "Miks see muutus?" küsimus. Töötaja taotles sama e-kirja mustandit kaks korda ja sai kaks erinevat tulemust; Ta arvas, et see oli "viga". Tegelikult on see mudeli juhuslikkuse loomulik tagajärg. Kui töötaja õppis talle meelepärase versiooni salvestama ja vajadusel ütlema "tee nagu eelmine", polnud probleemi.

Kas mudel "saab aru"?

See on kõige uudishimulikum küsimus. Mudel on õppinud sõnade vahelisi statistilisi seoseid nii põhjalikult, et pretendeerib paljudest ülesannetest aru saavat. Kuid sellel pole teadlikku mõistmist, kavatsust ega reaalsust kontrollivat mehhanismi. See toodab "kõige tõenäolisemat järge"; See ei garanteeri "kõige täpsema teabe esitamist". See eristus on hallutsinatsioonide teema aluseks, mida käsitleme järgmistes üksustes.

Levinud vead

Levinud vead

• Mudeli eksitamine otsingumootoriga. Mudel ei otsi Internetist ega too ressursse (kui pole spetsiaalset otsingufunktsiooni); Loob mälust võimaliku teksti. Nii et ta suudab välja mõelda allika/figuuri.
• Segi ajab sujuvust täpsusega. See, et tekst on ilus ja enesekindel, ei tähenda, et selle sisu oleks õige.
• Ootan iga kord sama vastust. Juhuslikkus on loomulik; Salvestage soovitud väljund kriitiliste ülesannete jaoks.
• Väga pika, mittevajaliku teksti kleepimine ja märgilimiidi ületamine. Pikkus suurendab kulusid ja võib mudeli tähelepanu hajutada; lihtsalt andke vajalik kontekst.

Tähelepanu: see, et modell räägib soravalt ja enesekindlalt, ei tähenda, et ta räägib õigesti. Sujuvus on tõenäosuse hindamise loomulik tagajärg; Täpsus on asi, mida tuleb eraldi ja iseseisvalt kontrollida.

Kokkuvõttes

• Generatiivne AI genereerib teksti samm-sammult, ennustades järgmist kõige tõenäolisemat fragmenti (märki); konstrueerib lause tükkhaaval.
• Märgid on sõnade väiksemad osad ja seavad nii kulu- kui ka pikkusepiirangud.
• Igal etapil loob mudel võimaluste loendi; Temperatuuri seadistus määrab, kui stabiilne või loominguline on väljund.
• Erinevate vastuste põhjus samale küsimusele on tingitud sellele protsessile omasest juhuslikkusest.
• Modell räägib soravalt, kuid see ei garanteeri, et ta räägib tõtt; Sujuvus ja täpsus on erinevad asjad.

Rakendusülesanne

Andke oma tehisintellektile kaks korda järjest sama loominguline ülesanne (nt "kirjutage kiire tänukiri") ja jälgige, kuidas väljundid erinevad. Seejärel korrake sama ülesannet malliga „Võimas viip”, lisades konteksti ja pange tähele kahe tulemuse kvaliteedierinevust.

Kontrollnimekiri

• [ ] Ma võin selgitada, et mudel toodab teksti "ennustades järgmist võimalikku tükki".
• Ma tean, mis on [ ] Token ja miks see tähistab kulu/limiiti.
• [ ] Oskan eristada sihikindlust ja loovust nõudvaid töid.
• [ ] Ma tean, et on normaalne saada samale küsimusele erinevaid vastuseid.
• [ ] Olen sisendanud, et sujuvus ei garanteeri täpsust.