Kuinka generatiivinen AI toimii?

Voitot:

• Token voi selittää intuitiivisesti todennäköisyyden ja ennusteen käsitteet
• Ymmärtää miksi kielimalli tuottaa tekstiä "palasittain"
• Osaa tulkita, miksi malli joskus käyttäytyy päättäväisesti ja joskus luovasti

Kun kirjoitat kielimalliin "Istanbulin parasta", se tuottaa sujuvan kappaleen muutamassa sekunnissa. Miten tämä tapahtuu? "Ajatteleeko malli" todella vai onko sen takana paljon yksinkertaisempi mutta tehokkaampi mekanismi? Tässä osiossa selitämme, kuinka generatiivinen tekoäly toimii, menemättä teknisiin yhtälöihin vaan luomalla oikean intuition. Tämä intuitio on perusta kaikelle seuraavalle – erityisesti hallusinaatioiden, verifioinnin ja hyvän nopean kirjoittamisen aiheille. Generatiivinen tekoäly eli "generatiivinen tekoäly" on yleinen nimi työkaluille, jotka luovat tekstiä tyhjästä olemassa olevan vastauksen löytämisen ja hakemisen sijaan.

Perusidea: Seuraavan kappaleen ennustaminen

Yllättävää on, että ainoa perustehtävä, jonka kielimalli oppii, on "mikä tekstin osa todennäköisimmin seuraa?" on vastata kysymykseen. Malli ei valmistele kokonaista lausetta ja esittele sitä edessäsi. Sen sijaan se tuottaa lauseen pala palalta, vasemmalta oikealle.

Näin se toimii askel askeleelta:

1. Se lukee kirjoittamasi tekstin (kehotteen).
2. Ennustaa todennäköisimmin tämän tekstin seuraavan osan.
3. Lisää sen palan.
4. Se katsoo uudelleen äskettäin muodostettua tekstiä ja arvaa seuraavan todennäköisimmän kappaleen.
5. Toistaa kunnes vastaus on valmis.

Esimerkki: Jos annoit mallille tekstin "Have a kuuma kuppi kun heräät aamulla...", todennäköisin jatko olisi "tee" tai "kahvi"; Ei "asfalttia". Malli on oppinut tällaiset todennäköisyydet miljoonista teksteistä. Sitten hän lisää "tee", sitten katsoo uutta lausetta ja arvaa seuraavan todennäköisimmän osan ja niin edelleen.

Toisin sanoen jokaisessa vaiheessa malli ottaa seuraavan askeleen katsomalla, mitä se on kirjoittanut. Siksi sitä kutsutaan joskus "erittäin edistyneeksi automaattisen täydennyksen versioksi". Mutta tämän analogian ei pitäisi vähätellä lahjakkuutta; Oikeassa mittakaavassa tämä ennuste voi tuottaa tuloksia, jotka näyttävät päättelyltä.

Token: Pienet sananpalaset

Malli ei itse asiassa toimi täydellä "sanoilla", vaan pienemmillä palasilla, joita kutsutaan tokeneiksi. Token; Joskus se on koko sana, joskus se on osa sanaa, joskus se on välimerkki.

• "kirja" voi olla yksi merkki.
• "kirjoistamme" voidaan jakaa useisiin tokeneihin, kuten "kirja", "s", "meidän", "alkaen".
• Myös välilyönnit ja välimerkit lasketaan rahakkeiksi.

Huomio: Token ei ole vain tekninen yksityiskohta. Useimmat tekoälytyökalut veloittaa tokenien lukumäärän mukaan, ja tekstin (kontekstiikkunan) mallien kerrallaan käsittelyn pituus on myös rajoitettu tunnuksissa. Joten "kuinka kauan kirjoitat" on suora kustannus ja raja.

Todennäköisyys ja "lämpö": päättäväisyys vai luovuus?

Jokaisessa vaiheessa malli ei tuota yhtä lopullista vastausta vaan todennäköisyysluettelon mahdollisista jatkoista. Esimerkiksi sanan "kuuma" jälkeen: tee 55%, kahvi 35%, maito 7%, muu 3%. Joten kumman hän valitsee?

Tässä asetetaan lämpötilaksi kutsuttu asetus. Lämpötila on eräänlainen luovuuden nuppi, joka määrittää kuinka paljon malli "riskittää".

Asetus

käyttäytymistä

Johtopäätös

Missä se on hyödyllinen?

matala lämpötila

Valitsee aina todennäköisimmän vaihtoehdon

Vakaa, toistettava

Oikeudellinen yhteenveto, tekninen kuvaus, tiedon poimiminen

keskilämpötila

Tasapainoinen valinta

Luonnollinen mutta johdonmukainen

Yleinen sähköposti, raporttiluonnos

korkea lämpötila

Kokeilee vähemmän todennäköisiä vaihtoehtoja

Luova, monipuolinen, arvaamaton

Aivoriihi, iskulause, nimituotanto

Tämä selittää myös usein kysytyn kysymyksen: "Miksi saan erilaisia ​​vastauksia, kun kysyn saman kysymyksen kahdesti?" Koska valintaprosessissa on jonkin verran satunnaisuutta; Malli ei ota kiinteää vastausta tietokannasta, vaan toistaa sen joka kerta.

Heikko kehote / Vahva kehote

Tietäen, että malli toimii "todennäköisyydellä", muuttaa myös tapaa, jolla opastat sitä. Mitä enemmän kontekstia annat, sitä todennäköisemmin oikea jatko tulee.

Heikko kehote: Kirjoita johdantoteksti.

Tulos: Malli tuottaa "keskimääräisimmän" ja yleisimmän tekstin, koska se ei tiedä mikä tuote, mikä yleisö, mikä sävy.

Vahva kehotus: Kirjoita Instagram-mainosteksti pienen kahvilan uudelle suodatinkahville. Yleisö: 25-35 vuotta, kahvin ystävä. Sävy: ystävällinen, lyhyt. Enintään 3 lausetta, 2 hashtagia lopussa.

Tulos: Käyttökelpoinen teksti, joka on relevanttia, koska konteksti kaventaa mahdollisuuksia.

Kolme minikoteloa

Tapaus 1 – Markkinointi, laaja valikoima. Ryhmä halusi 30 iskulausetta uudelle tuotteelle. Korkean lämpötilan asetuksella malli tuotti erilaisia, luovia vaihtoehtoja; Ryhmä valitsi ja kehitti 4/30. Kokonaisaika: 10 minuuttia. Jos se tehtiin käsin, siihen menisi puoli päivää.

Tapaus 2 – Laki, määrätietoisuus. Saman yrityksen lakitiimi yksinkertaisti sopimuslauseketta. He halusivat johdonmukaisuutta, eivät luovuutta; Matalalla lämpötilalla malli antoi lähes saman, konservatiivisen yhteenvedon joka kerta. Näin ollen eri kokeiden välillä ei ollut epäjohdonmukaisuutta.

Tapaus 3 – "Miksi se muuttui?" kysymys. Työntekijä pyysi samaa sähköpostiluonnosta kahdesti ja sai kaksi eri tulosta; Hänen mielestään se oli "virhe". Itse asiassa tämä on luonnollinen seuraus mallin satunnaisuudesta. Kun työntekijä oppi tallentamaan haluamansa version ja sanomaan tarvittaessa "tee siitä samanlainen kuin edellinen", ongelmaa ei ollut.

"Ymmärtääkö malli"?

Tämä on mielenkiintoisin kysymys. Malli on oppinut sanojen väliset tilastolliset suhteet niin perusteellisesti, että se teeskentelee ymmärtävänsä monia tehtäviä. Mutta sillä ei ole tietoista ymmärrystä, tarkoitusta tai todellisuutta hallitsevaa mekanismia. Se tuottaa "todennäköisimmän jatko-osan"; Se ei takaa "tarkimpien tietojen" tuottamista. Tämä ero on perusta hallusinaatioiden aiheelle, jota käsittelemme seuraavissa yksiköissä.

Yleisiä virheitä

Yleisiä virheitä

• Mallin erehtyminen hakukoneeseen. Malli ei etsi Internetistä eikä hae resursseja (ellei ole erityistä hakutoimintoa); Luo mahdollista tekstiä muistista. Joten hän voi muodostaa lähteen/luvun.
• Erottelee sujuvuutta tarkkuuteen. Se, että teksti on kaunista ja itsevarmaa, ei tarkoita, että sen sisältö olisi oikea.
• Joka kerta odottaa samaa vastausta. Satunnaisuus on luonnollista; Tallenna haluamasi tulos kriittisiä tehtäviä varten.
• Liitetään erittäin pitkää, tarpeetonta tekstiä ja ylitetään tunnuksen rajaa. Pituus lisää kustannuksia ja voi häiritä mallin keskittymistä; anna vain tarvittava konteksti.

Huomio: Se, että malli puhuu sujuvasti ja itsevarmasti, ei tarkoita, että hän puhuisi oikein. Sujuvuus on luonnollinen seuraus todennäköisyysarvioinnista; Tarkkuus on asia, joka on tarkistettava erikseen ja itsenäisesti.

Yhteenvetona

• Generatiivinen tekoäly luo tekstiä askel askeleelta ennustamalla seuraavan todennäköisimmän fragmentin (tokenin); rakentaa lauseen pala palalta.
• Tokenit ovat pienempiä sanojen osia ja asettavat sekä hinta- että pituusrajoituksia.
• Jokaisessa vaiheessa malli tuottaa luettelon mahdollisuuksista; Lämpötila-asetus määrittää, kuinka vakaa tai luova tulos on.
• Syy siihen, että samaan kysymykseen annetaan erilaisia ​​vastauksia, johtuu tähän prosessiin liittyvästä satunnaisuudesta.
• Malli puhuu sujuvasti, mutta tämä ei takaa, että hän puhuu totta; Sujuvuus ja tarkkuus ovat eri asioita.

Sovellustehtävä

Anna tekoälytyökalullesi sama luova tehtävä (esim. "kirjoita nopea kiitos") kahdesti peräkkäin ja tarkkaile, miten tulokset eroavat. Toista sitten sama tehtävä "Tehokas kehote" -mallilla, lisää konteksti ja pane merkille näiden kahden tuloksen välinen laatuero.

Tarkistuslista

• [ ] Voin selittää, että malli tuottaa tekstin "ennakoimalla seuraavan mahdollisen palan".
• Tiedän, mikä [ ] Token on ja miksi se tarkoittaa kustannus/raja.
• [ ] Osaan erottaa päättäväisyyttä ja luovuutta vaativat työt.
• [ ] Tiedän, että on normaalia saada eri vastauksia samaan kysymykseen.
• [ ] Olen sisäistänyt, että sujuvuus ei takaa tarkkuutta.