Si funksionon AI gjeneruese? — Literacy AI

Fitimet:

Token mund të shpjegojë në mënyrë intuitive konceptet e probabilitetit dhe parashikimit
Kupton pse një model gjuhësor prodhon tekst 'pjesë-pjesë'
Mund të interpretojë pse modeli ndonjëherë sillet me vendosmëri dhe ndonjëherë në mënyrë krijuese

Kur shkruan "gjëja më e mirë për Stambollin" në një model gjuhësor, ai prodhon një paragraf të rrjedhshëm në pak sekonda. Si ndodh kjo? A “mendon” vërtet modeli apo ka një mekanizëm shumë më të thjeshtë por të fuqishëm pas tij? Në këtë njësi do të shpjegojmë se si funksionon AI gjeneruese, pa hyrë në ekuacione teknike, por duke krijuar intuitën e duhur. Kjo intuitë është baza për gjithçka që vijon - veçanërisht temat e halucinacioneve, verifikimit dhe shkrimit të mirë të shpejtë. Generative AI, domethënë "inteligjencë artificiale gjeneruese", është emri i zakonshëm për mjetet që krijojnë tekst nga e para në vend që të gjejnë dhe marrin një përgjigje ekzistuese.

Ideja themelore: Parashikimi i pjesës tjetër

Gjëja e habitshme është se e vetmja detyrë bazë që mëson një model gjuhësor është "cila pjesë e një teksti ka më shumë gjasa të ndiqet?" është për t'iu përgjigjur pyetjes. Modelja nuk përgatit një fjali të plotë dhe nuk e prezanton para jush. Në vend të kësaj, ai prodhon fjalinë pjesë-pjesë, nga e majta në të djathtë.

Ja se si funksionon hap pas hapi:

Ai lexon tekstin (prompt) që ju shkruani.
Parashikon pjesën më të mundshme për të ndjekur këtë tekst.
Shton atë pjesë.
Ai shikon përsëri tekstin e sapoformuar dhe merr me mend pjesën tjetër më të mundshme.
Përsëritet derisa përgjigja të jetë e plotë.

Shembull: Nëse i jepni modeles tekstin "Ka një filxhan të nxehtë kur të zgjohesh në mëngjes...", vazhdimi më i mundshëm do të ishte "çaj" ose "kafe"; Jo "asfalt". Modelja ka mësuar probabilitete të tilla nga miliona tekste. Pastaj shton "çaj", pastaj shikon fjalinë e re dhe merr me mend pjesën tjetër më të mundshme, e kështu me radhë.

Me fjalë të tjera, në çdo hap, modeli hedh hapin tjetër duke parë se çfarë ka shkruar. Kjo është arsyeja pse ndonjëherë quhet "version shumë i avancuar i plotësimit automatik". Por kjo analogji nuk duhet të nënvlerësojë talentin; Në shkallën e duhur, ky parashikim mund të prodhojë rezultate që duken si arsyetim.

Shenja: Pjesë të vogla të një fjale

Modeli në fakt nuk funksionon me "fjalë" të plota, por me copa më të vogla të quajtura token. Një shenjë; Herë është një fjalë e tërë, herë është pjesë e një fjale, herë është shenjë pikësimi.

"libri" mund të jetë një shenjë e vetme.
"nga librat tanë" mund të ndahet në disa shenja si "libri", "s", "yni", "nga".
Hapësirat dhe shenjat e pikësimit llogariten gjithashtu si shenja.

Kujdes: Token nuk është vetëm një detaj teknik. Shumica e mjeteve të AI ngarkohen sipas numrit të shenjave dhe gjatësia e tekstit (dritarja e kontekstit) që modelet mund të përpunojnë në të njëjtën kohë është gjithashtu e kufizuar në token. Pra, "sa kohë shkruani" është një kosto dhe kufi i drejtpërdrejtë.

Probabiliteti dhe "Ngrohtësia": Vendosmëri apo Kreativitet?

Në çdo hap, modeli nuk prodhon një përgjigje të vetme përfundimtare, por një listë probabiliteti të vazhdimeve të mundshme. Për shembull, pas fjalës "të nxehtë": çaj 55%, kafe 35%, qumësht 7%, të tjera 3%. Pra, cilin prej tyre zgjedh?

Këtu hyn në lojë një cilësim i quajtur temperatura. Temperatura është një lloj çelësi kreativiteti që përcakton se sa do të "rrezikojë" modeli.

Vendosja

sjellje

konkluzioni

Ku është e dobishme?

temperaturë të ulët

Gjithmonë merr opsionin më të mundshëm

E qëndrueshme, e përsëritshme

Përmbledhja ligjore, përshkrimi teknik, nxjerrja e të dhënave

temperaturë mesatare

Zgjedhje e ekuilibruar

Natyrore por e qëndrueshme

Email i përgjithshëm, draft raporti

temperaturë të lartë

Provon opsione më pak të mundshme

Kreativ, i larmishëm, i paparashikueshëm

Brainstorming, slogan, prodhim emri

Kjo shpjegon edhe pyetjen e bërë shpesh: "Pse marr përgjigje të ndryshme kur bëj të njëjtën pyetje dy herë?" Sepse ka njëfarë rastësie në procesin e përzgjedhjes; Modeli nuk nxjerr një përgjigje fikse nga një bazë të dhënash, ai e riprodhon atë çdo herë.

Prompt i dobët / Prompt i fortë

Duke ditur që modeli funksionon me "probabilitet" ndryshon edhe mënyrën se si e udhëzoni atë. Sa më shumë kontekst të jepni, aq më shumë gjasa bëhet vazhdimi i saktë.

Prompt i dobët: Shkruani një tekst hyrës.

Rezultati: Modeli prodhon tekstin më "mesatar" dhe gjenerik sepse nuk e di se cili produkt, cilin audiencë, cilin ton.

Prompt i fortë: Shkruani një tekst promovues në Instagram për kafenë e re të filtrit të një kafeneje të vogël. Audienca: 25-35 vjeç, entuziast i kafesë. Toni: miqësor, i shkurtër. Maksimumi 3 fjali, 2 hashtags në fund.

Rezultati: Një tekst i përdorshëm që është i rëndësishëm sepse konteksti ngushton mundësitë.

Tre Mini Rastet

Rasti 1 - Marketing, shumëllojshmëri e lartë. Një ekip donte 30 slogane për një produkt të ri. Me vendosjen e tij të temperaturës së lartë, modeli prodhoi opsione të ndryshme krijuese; Ekipi zgjodhi dhe zhvilloi 4 nga 30. Koha totale: 10 minuta. Nëse do të bëhej me dorë, do të merrte gjysmë dite.

Rasti 2 — Ligji, vendosmëri e lartë. Ekipi ligjor i së njëjtës kompani po thjeshtonte një klauzolë kontrate. Ata donin qëndrueshmëri, jo kreativitet; Me temperaturë të ulët modeli jepte pothuajse të njëjtën përmbledhje konservatore çdo herë. Kështu, nuk kishte mospërputhje midis gjykimeve të ndryshme.

Rasti 3 - "Pse ndryshoi?" pyetje. Një punonjës kërkoi të njëjtin draft email dy herë dhe mori dy rezultate të ndryshme; Ai mendoi se ishte një "gabim". Në fakt, kjo është një pasojë e natyrshme e rastësisë së modelit. Pasi punonjësi mësoi të ruante versionin që i pëlqente dhe të thoshte "bëje si ai i mëparshmi" nëse është e nevojshme, nuk kishte asnjë problem.

A e “kupton” modelja?

Kjo është pyetja më kurioze. Modeli i ka mësuar marrëdhëniet statistikore midis fjalëve aq mirë sa pretendon se kupton shumë detyra. Por ai nuk ka asnjë kuptim të ndërgjegjshëm, qëllim apo mekanizëm kontrollues të realitetit. Ai prodhon "vazhdimin më të mundshëm"; Ai nuk garanton prodhimin e "informacionit më të saktë". Ky dallim është baza e temës së halucinacioneve, të cilën do ta diskutojmë në njësitë vijuese.

Gabimet e zakonshme

Gabimi i modelit me një motor kërkimi. Modeli nuk kërkon në internet dhe nuk merr burime (përveç nëse ka një veçori të veçantë kërkimi); Gjeneron tekst të mundshëm nga kujtesa. Kështu që ai mund të krijojë burimin/figurën.
Gabimi i rrjedhshmërisë për saktësinë. Vetëm për shkak se teksti është i bukur dhe i sigurt nuk do të thotë se përmbajtja e tij është e saktë.
Duke pritur të njëjtën përgjigje çdo herë. Rastësia është e natyrshme; Ruani rezultatin që ju pëlqen për detyra kritike.
Ngjitja e tekstit shumë të gjatë, të panevojshëm dhe shtyrja e kufirit të shenjës. Gjatësia rrit koston dhe mund të shpërqendrojë fokusin e modelit; thjesht jepni kontekstin e nevojshëm.

Kujdes: Vetëm se modelja flet rrjedhshëm dhe me vetëbesim nuk do të thotë se flet saktë. Rrjedhshmëria është pasojë e natyrshme e vlerësimit të probabilitetit; Saktësia është diçka që duhet të kontrollohet veçmas dhe në mënyrë të pavarur.

Në përmbledhje

AI gjeneruese gjeneron tekst hap pas hapi duke parashikuar fragmentin (token) tjetër më të mundshëm; ndërton fjalinë pjesë-pjesë.
Shenjat janë pjesë më të vogla të fjalëve dhe vendosin kufijtë e kostos dhe gjatësisë.
Në çdo hap, modeli prodhon një listë të mundësive; Cilësimi i temperaturës përcakton se sa e qëndrueshme ose krijuese do të jetë prodhimi.
Arsyeja për përgjigje të ndryshme për të njëjtën pyetje është për shkak të rastësisë së natyrshme në këtë proces.
Modelja flet rrjedhshëm, por kjo nuk garanton që ajo thotë të vërtetën; Rrjedhshmëria dhe saktësia janë gjëra të ndryshme.

Detyra e Aplikimit

Jepini mjetit tuaj AI të njëjtën detyrë krijuese (p.sh. "shkruani një shënim të shpejtë falënderimi") dy herë radhazi dhe vëzhgoni se si ndryshojnë rezultatet. Më pas përsëritni të njëjtën detyrë me shabllonin "Prompt i fuqishëm", duke shtuar kontekstin dhe vini re ndryshimin në cilësi midis dy rezultateve.

Lista kontrolluese

[ ] Mund të shpjegoj se modeli prodhon tekstin duke "parashikuar pjesën tjetër të mundshme".
Unë e di se çfarë është [ ] Token dhe pse qëndron për kosto/kufizim.
[ ] Mund të dalloj midis punëve që kërkojnë vendosmëri dhe atyre që kërkojnë kreativitet.
[ ] E di që është normale të marrësh përgjigje të ndryshme për të njëjtën pyetje.
[ ] Unë kam përvetësuar se rrjedhshmëria nuk është garanci për saktësinë.