Qligħ:
- Token jista 'jispjega b'mod intuwittiv il-kunċetti ta' probabbiltà u tbassir
- Jifhem għaliex mudell lingwistiku jipproduċi test 'biċċiet'
- Jista' jinterpreta għaliex il-mudell kultant iġib ruħu b'mod deċiżiv u kultant b'mod kreattiv
Meta tikteb "l-aqwa ħaġa dwar Istanbul" f'mudell tal-lingwa, tipproduċi paragrafu fluwenti fi ftit sekondi. Kif jiġri dan? Il-mudell verament "jaħseb" jew hemm mekkaniżmu ħafna aktar sempliċi iżda b'saħħtu warajh? F'din l-unità se nispjegaw kif taħdem l-AI ġenerattiva, mingħajr ma nidħlu f'ekwazzjonijiet tekniċi iżda billi nistabbilixxu l-intuwizzjoni t-tajba. Din l-intuwizzjoni hija l-bażi għal dak kollu li ġej—speċjalment is-suġġetti ta 'alluċinazzjoni, verifika, u kitba tajba fil-pront. AI ġenerattiva, jiġifieri, "intelliġenza artifiċjali ġenerattiva", hija l-isem komuni għal għodod li joħolqu test mill-bidu minflok isibu u jġibu tweġiba eżistenti.
Idea Bażika: Tbassir tal-Biċċa Li jmiss
Il-ħaġa sorprendenti hija li l-uniku kompitu bażiku li jitgħallem mudell lingwistiku huwa "liema parti minn test x'aktarx issegwi?" huwa li twieġeb il-mistoqsija. Il-mudell ma jippreparax sentenza sħiħa u jippreżentaha quddiemek. Minflok, jipproduċi s-sentenza biċċa biċċa, mix-xellug għal-lemin.
Hawn kif taħdem pass pass:
- Taqra t-test (prompt) li tikteb.
- Tbassar l-aktar parti probabbli li ssegwi dan it-test.
- Iżżid dik il-biċċa.
- Hija terġa 'tħares lejn it-test iffurmat ġdid u guess il-biċċa l-aktar probabbli li jmiss.
- Irrepeti sakemm it-tweġiba tkun kompluta.
Eżempju: Jekk tajt lill-mudell it-test "Ikolli tazza sħuna meta tqum filgħodu...", il-kontinwazzjoni l-aktar probabbli tkun "tè" jew "kafè"; Mhux "asfalt". Il-mudell tgħallem probabbiltajiet bħal dawn minn miljuni ta 'testi. Imbagħad iżid "tè", imbagħad iħares lejn is-sentenza l-ġdida u guess l-aktar parti probabbli li jmiss, eċċ.
Fi kliem ieħor, f’kull pass, il-mudell jieħu l-pass li jmiss billi jħares lejn dak li kiteb. Huwa għalhekk li xi drabi tissejjaħ "verżjoni avvanzata ħafna ta 'awtocomplete." Iżda din l-analoġija m'għandhiex tnaqqas it-talent; Fuq l-iskala t-tajba, dan it-tbassir jista 'jipproduċi riżultati li jidhru bħal raġunament.
Token: Biċċiet Żgħar ta’ Kelma
Il-mudell fil-fatt jaħdem mhux bi "kliem" sħaħ iżda b'biċċiet iżgħar imsejħa tokens. Token; Xi drabi hija kelma sħiħa, kultant hija parti minn kelma, kultant hija marka ta’ punteġġjatura.
- "ktieb" jista 'jkun token wieħed.
- "mill-kotba tagħna" jista 'jinqasam f'diversi tokens bħal "ktieb", "s", "tagħna", "minn".
- L-ispazji u l-marki tal-punteġġjatura jgħoddu wkoll bħala tokens.
Attenzjoni: Token mhuwiex biss dettall tekniku. Il-biċċa l-kbira tal-għodod tal-AI jiċċarġjaw skont in-numru ta 'tokens, u t-tul tat-test (tieqa tal-kuntest) mudelli li jistgħu jipproċessaw kull darba huwa wkoll limitat f'tokens. Allura "kemm tikteb" hija spiża diretta u limitu.
Probabbiltà u "Sħana": Determinazzjoni jew Kreattività?
F'kull pass, il-mudell ma jipproduċix tweġiba definittiva waħda iżda lista ta' probabbiltà ta' kontinwazzjonijiet possibbli. Per eżempju, wara l-kelma "sħun": tè 55%, kafè 35%, ħalib 7%, 3%. Allura liema waħda jagħżel?
Hawnhekk, issettjar imsejjaħ temperatura jidħol fis-seħħ. It-temperatura hija tip ta 'pum tal-kreattività li jiddetermina kemm il-mudell se "jirriskja".
L-issettjar
imġieba
Konklużjoni
Fejn huwa utli?
temperatura baxxa
Dejjem tieħu l-aktar għażla probabbli
Stabbli, ripetibbli
Sommarju legali, deskrizzjoni teknika, estrazzjoni tad-dejta
temperatura medja
Għażla bilanċjata
Naturali iżda konsistenti
Email ġenerali, abbozz tar-rapport
temperatura għolja
Jipprova għażliet inqas probabbli
Kreattiv, divers, imprevedibbli
Brainstorming, slogan, produzzjoni tal-isem
Dan jispjega wkoll il-mistoqsija ta' spiss: "Għaliex niġi tweġibiet differenti meta nagħmel l-istess mistoqsija darbtejn?" Minħabba li hemm xi każwali fil-proċess tal-għażla; Il-mudell ma jiġbedx tweġiba fissa minn database, jirriproduċiha kull darba.
Prompt Dgħajjef / Prompt Qawwija
Li tkun taf li l-mudell jaħdem bi "probabbiltà" jibdel ukoll kif tgħallemha. Iktar ma tagħti kuntest, iktar ikun probabbli li ssir il-kontinwazzjoni korretta.
Pront dgħajjef: Ikteb test introduttorju.
Riżultat: Il-mudell jipproduċi l-aktar test "medja" u ġeneriku għax ma jafx liema prodott, liema udjenza, liema ton.
Pront b'saħħtu: Ikteb test promozzjonali ta' Instagram għall-kafè filtru ġdid ta' kafetterija żgħira. Udjenza: 25-35 sena, dilettant tal-kafè. Ton: faċli, qasir. Massimu 3 sentenzi, 2 hashtags fl-aħħar.
Riżultat: Test użabbli li huwa rilevanti għaliex il-kuntest jonqos il-possibbiltajiet.
Tliet Każijiet Mini
Każ 1 — Marketing, varjetà għolja. Tim ried 30 slogan għal prodott ġdid. Bl-issettjar ta 'temperatura għolja tiegħu, il-mudell ipproduċa għażliet kreattivi differenti; It-tim għażel u żviluppa 4 minn 30. Ħin totali: 10 minuti. Kieku kien isir bl-idejn kien jieħu nofs ġurnata.
Każ 2 — Liġi, determinazzjoni għolja. It-tim legali tal-istess kumpanija kien qed jissimplifika klawżola tal-kuntratt. Riedu konsistenza, mhux kreattività; B'temperatura baxxa l-mudell ta kważi l-istess, sommarju konservattiv kull darba. Għalhekk, ma kien hemm l-ebda inkonsistenza bejn provi differenti.
Każ 3 — “Għaliex inbidlet?” mistoqsija. Impjegat talab l-istess abbozz tal-email darbtejn u rċieva żewġ riżultati differenti; Huwa ħaseb li kien “żball”. Fil-fatt, din hija konsegwenza naturali tal-mod aleatorju tal-mudell. Ladarba l-impjegat tgħallem jiffranka l-verżjoni li għoġob u jgħid "għamilha bħal dik ta 'qabel" jekk meħtieġ, ma kien hemm l-ebda problema.
Il-mudell "tikseb"?
Din hija l-aktar mistoqsija kurjuża. Il-mudell tgħallem ir-relazzjonijiet statistiċi bejn il-kliem tant bir-reqqa li jippretendi li jifhem ħafna kompiti. Iżda m'għandu l-ebda fehim konxju, intenzjoni jew mekkaniżmu li jikkontrolla r-realtà. Jipproduċi "l-aktar segwiment probabbli"; Ma tiggarantixxix li tipproduċi "l-aktar informazzjoni preċiża". Din id-distinzjoni hija l-bażi tas-suġġett tal-alluċinazzjoni, li ser niddiskutu fl-unitajiet li jmiss.
Żbalji Komuni
Żbalji komuni
- Jiżbalja l-mudell għal magna tat-tiftix. Il-mudell ma jfittexx l-internet u jirkupra riżorsi (sakemm ma jkunx hemm karatteristika speċjali ta 'tfittxija); Jiġġenera test possibbli mill-memorja. Allura jista 'jagħmel is-sors/figura.
- Żbalja tal-ħeffa għall-eżattezza. Sempliċement għax it-test huwa sabiħ u kunfidenti ma jfissirx li l-kontenut tiegħu huwa korrett.
- Nistennew l-istess tweġiba kull darba. Randomness hija naturali; Issejvja l-output li tixtieq għal ħidmiet kritiċi.
- Twaħħal test twil ħafna u mhux meħtieġ u timbotta l-limitu tat-token. It-tul iżid kemm l-ispiża u jista 'jtellifx il-fokus tal-mudell; agħti biss il-kuntest meħtieġ.
Attenzjoni: Sempliċement għax il-mudella titkellem b'mod fluwenti u kunfidenti ma jfissirx li titkellem b'mod korrett. Il-ħeffa hija l-konsegwenza naturali tal-istima tal-probabbiltà; L-eżattezza hija xi ħaġa li trid tiġi ċċekkjata separatament u indipendentement.
Fil-qosor
- L-AI ġenerattiva tiġġenera test pass pass billi tbassar il-framment l-aktar probabbli li jmiss (token); jibni s-sentenza biċċa biċċa.
- It-tokens huma partijiet iżgħar tal-kliem u jistabbilixxu limiti kemm tal-ispiża kif ukoll tat-tul.
- F'kull pass, il-mudell jipproduċi lista ta 'possibbiltajiet; L-issettjar tat-temperatura jiddetermina kemm se jkun stabbli jew kreattiv l-output.
- Ir-raġuni għal tweġibiet differenti għall-istess mistoqsija hija dovuta għall-każwali inerenti f'dan il-proċess.
- Il-mudella titkellem b’mod fluwenti, iżda dan ma jiggarantixxix li qed tgħid il-verità; Il-ħeffa u l-eżattezza huma affarijiet differenti.
Kompitu tal-Applikazzjoni
Agħti lill-għodda tal-AI tiegħek l-istess kompitu kreattiv (eż. "ikteb nota ta' grazzi malajr") darbtejn wara xulxin u osserva kif ir-riżultati huma differenti. Imbagħad irrepeti l-istess kompitu bil-mudell "Pront qawwija", u żżid il-kuntest, u nnota d-differenza fil-kwalità bejn iż-żewġ riżultati.
Lista ta' kontroll
- [ ] Kapaċi nispjega li l-mudell jipproduċi t-test billi "jbassar il-biċċa li jmiss possibbli".
- Naf x'inhu [ ] Token u għaliex tirrappreżenta spiża/limitu.
- [ ] Kapaċi niddistingwi bejn impjiegi li jeħtieġu determinazzjoni u dawk li jeħtieġu kreattività.
- [ ] Naf li huwa normali li tikseb tweġibiet differenti għall-istess mistoqsija.
- [ ] Internalizzajt li l-ħeffa mhix garanzija ta' preċiżjoni.