Mga yunit
1. Ano ang Artificial Intelligence, Machine Learning at LLM? 2. Paano Gumagana ang Generative AI? 3. Ano ang Magagawa ng AI at Ano ang Hindi Nito Nagagawa? 4. Mga Batayan ng Mabisang Mabilis na Pagsulat 5. Halucination at ang mga Limitasyon ng Kredibilidad 6. Pagkiling at Katarungan 7. Privacy ng Data at KVKK: Saan Ko Masusulat ang Data ng Kumpanya? 8. Pang-araw-araw na Paggamit ng AI sa Lugar ng Trabaho 9. End-to-End AI Workflow: Draft, Validate, Decide 10. Copyright, Pagmamay-ari at Transparency 11. Responsableng Paggamit at Pagkontrol ng Tao 12. Personal AI Roadmap at Patuloy na Pag-aaral
Yunit 2 / 12

Paano Gumagana ang Generative AI?

Mga nadagdag:

  • Maaaring madaling ipaliwanag ng Token ang mga konsepto ng probabilidad at hula
  • Nauunawaan kung bakit ang isang modelo ng wika ay gumagawa ng teksto na 'pira-piraso'
  • Maaaring bigyang-kahulugan kung bakit kung minsan ang modelo ay kumikilos nang mapagpasyahan at kung minsan ay malikhain

Kapag isinulat mo ang "ang pinakamagandang bagay tungkol sa Istanbul" sa isang modelo ng wika, gumagawa ito ng isang matatas na talata sa loob ng ilang segundo. Paano ito nangyayari? Talaga bang "nag-iisip" ang modelo o mayroon bang mas simple ngunit makapangyarihang mekanismo sa likod nito? Sa yunit na ito ipapaliwanag namin kung paano gumagana ang generative AI, nang hindi napupunta sa mga teknikal na equation ngunit sa pamamagitan ng pagtatatag ng tamang intuition. Ang intuwisyon na ito ang batayan ng lahat ng kasunod—lalo na ang mga paksa ng guni-guni, pagpapatunay, at mahusay na maagang pagsulat. Ang Generative AI, ibig sabihin, "generative artificial intelligence", ay ang karaniwang pangalan para sa mga tool na gumagawa ng text mula sa simula sa halip na maghanap at kumuha ng kasalukuyang sagot.

Pangunahing Ideya: Paghula sa Susunod na Piraso

Ang nakakagulat ay ang tanging pangunahing gawain na natutunan ng modelo ng wika ay "aling bahagi ng isang teksto ang pinakamalamang na sundin?" ay upang sagutin ang tanong. Ang modelo ay hindi naghahanda ng isang kumpletong pangungusap at iniharap ito sa harap mo. Sa halip, ito ay gumagawa ng pangungusap na piraso-piraso, mula kaliwa hanggang kanan.

Narito kung paano ito gumagana nang hakbang-hakbang:

  1. Binabasa nito ang teksto (prompt) na isinulat mo.
  2. Hinuhulaan ang pinaka-malamang na bahagi na susunod sa tekstong ito.
  3. Idinagdag ang piraso na iyon.
  4. Muli itong tumitingin sa bagong nabuong teksto at hinuhulaan ang susunod na malamang na piraso.
  5. Umuulit hanggang sa makumpleto ang sagot.
Halimbawa: Kung binigyan mo ang modelo ng tekstong "Magkaroon ng mainit na tasa kapag nagising ka sa umaga...", ang pinakamalamang na pagpapatuloy ay "tsaa" o "kape"; Hindi "aspalto". Natutunan ng modelo ang gayong mga probabilidad mula sa milyun-milyong mga teksto. Pagkatapos ay idinagdag niya ang "tsaa", pagkatapos ay tumingin sa bagong pangungusap at hulaan ang susunod na malamang na bahagi, at iba pa.

Sa madaling salita, sa bawat hakbang, ginagawa ng modelo ang susunod na hakbang sa pamamagitan ng pagtingin sa kung ano ang isinulat nito. Kaya naman kung minsan ay tinatawag itong "napaka-advance na bersyon ng autocomplete." Ngunit ang pagkakatulad na ito ay hindi dapat maliitin ang talento; Sa tamang sukat, ang hulang ito ay makakapagdulot ng mga resulta na mukhang pangangatwiran.

Token: Maliit na Piraso ng Salita

Ang modelo ay talagang hindi gumagana sa buong "mga salita" ngunit may mas maliliit na piraso na tinatawag na mga token. Isang token; Minsan ito ay isang buong salita, minsan ito ay bahagi ng isang salita, minsan ito ay isang bantas.

  • Ang "aklat" ay maaaring iisang token.
  • "mula sa aming mga libro" ay maaaring nahahati sa ilang mga token tulad ng "aklat", "s", "atin", "mula sa".
  • Ang mga puwang at mga bantas ay binibilang din bilang mga token.
Pansin: Ang Token ay hindi lamang isang teknikal na detalye. Karamihan sa mga tool ng AI ay naniningil ayon sa bilang ng mga token, at ang haba ng text (context window) na mga modelo ay maaaring iproseso sa isang pagkakataon ay limitado rin sa mga token. Kaya ang "gaano ka katagal sumulat" ay isang direktang gastos at limitasyon.

Probability at "Warmth": Determinasyon o Pagkamalikhain?

Sa bawat hakbang, ang modelo ay gumagawa ng hindi isang tiyak na sagot kundi isang listahan ng posibilidad ng mga posibleng pagpapatuloy. Halimbawa, pagkatapos ng salitang "mainit": tsaa 55%, kape 35%, gatas 7%, iba pang 3%. Kaya alin ang pipiliin niya?

Dito, naglalaro ang isang setting na tinatawag na temperatura. Ang temperatura ay isang uri ng creativity knob na tumutukoy kung magkano ang magiging "panganib" ng modelo.

Setting

pag-uugali

Konklusyon

Saan ito kapaki-pakinabang?

mababang temperatura

Palaging kumukuha ng pinaka-malamang na opsyon

Matatag, nauulit

Legal na buod, teknikal na paglalarawan, pagkuha ng data

katamtamang temperatura

Balanseng pagpili

Natural pero consistent

Pangkalahatang email, draft ng ulat

mataas na temperatura

Sinusubukan ang mas malamang na mga opsyon

Malikhain, magkakaibang, hindi mahulaan

Brainstorming, slogan, paggawa ng pangalan

Ipinapaliwanag din nito ang madalas itanong: "Bakit ako nakakakuha ng iba't ibang mga sagot kapag nagtanong ako ng parehong tanong nang dalawang beses?" Dahil mayroong ilang randomness sa proseso ng pagpili; Ang modelo ay hindi gumuhit ng isang nakapirming sagot mula sa isang database, ito reproduces ito sa bawat oras.

Mahina Prompt / Malakas na Prompt

Ang pag-alam na gumagana ang modelo sa "probability" ay nagbabago rin kung paano mo ito itinuturo. Kung mas maraming konteksto ang ibibigay mo, mas malamang na maging tamang pagpapatuloy.

Mahinang prompt: Sumulat ng panimulang teksto.

Resulta: Ang modelo ay gumagawa ng pinaka "average" at generic na text dahil hindi nito alam kung aling produkto, aling audience, aling tono.

Malakas na prompt: Sumulat ng isang Instagram promotional text para sa bagong filter na kape ng isang maliit na cafe. Madla: 25-35 taong gulang, mahilig sa kape. Tono: palakaibigan, maikli. Maximum na 3 pangungusap, 2 hashtag sa dulo.

Resulta: Isang magagamit na teksto na may kaugnayan dahil pinaliit ng konteksto ang mga posibilidad.

Tatlong Mini Case

Case 1 — Marketing, mataas na uri. Gusto ng isang team ng 30 slogan para sa isang bagong produkto. Sa setting ng mataas na temperatura nito, gumawa ang modelo ng iba't ibang mga pagpipilian sa creative; Pinili at binuo ng koponan ang 4 sa 30. Kabuuang oras: 10 minuto. Kung ito ay ginawa sa pamamagitan ng kamay aabutin ng kalahating araw.

Kaso 2 — Batas, mataas na determinasyon. Pinapasimple ng legal team ng parehong kumpanya ang isang sugnay ng kontrata. Gusto nila ng pare-pareho, hindi pagkamalikhain; Sa mababang temperatura ang modelo ay nagbigay ng halos pareho, konserbatibong buod sa bawat oras. Kaya, walang hindi pagkakapare-pareho sa pagitan ng iba't ibang mga pagsubok.

Case 3 — “Bakit ito nagbago?” tanong. Humiling ang isang empleyado ng parehong draft ng email nang dalawang beses at nakatanggap ng dalawang magkaibang resulta; Naisip niya na ito ay isang "pagkakamali". Sa katunayan, ito ay isang natural na kinahinatnan ng randomness ng modelo. Kapag natutunan ng empleyado na i-save ang bersyon na nagustuhan niya at sabihin ang "gawin itong tulad ng nauna" kung kinakailangan, walang problema.

"Nakukuha" ba ng modelo?

Ito ang pinaka-curious na tanong. Natutunan ng modelo ang mga istatistikal na relasyon sa pagitan ng mga salita nang lubusan na nagkukunwaring naiintindihan ang maraming gawain. Ngunit wala itong malay na pag-unawa, intensyon o mekanismong pagkontrol sa katotohanan. Gumagawa ito ng "pinaka-malamang na sumunod na pangyayari"; Hindi nito ginagarantiyahan ang paggawa ng "pinakatumpak na impormasyon". Ang pagkakaibang ito ang batayan ng paksa ng guni-guni, na tatalakayin natin sa mga susunod na yunit.

Mga Karaniwang Pagkakamali

Mga karaniwang pagkakamali

  • Napagkakamalang isang search engine ang modelo. Ang modelo ay hindi naghahanap sa internet at kumukuha ng mga mapagkukunan (maliban kung mayroong isang espesyal na tampok sa paghahanap); Bumubuo ng posibleng teksto mula sa memorya. Kaya maaari niyang gawin ang pinagmulan/figure.
  • Napagkakamalang katatasan para sa katumpakan. Dahil lang sa maganda at kumpiyansa ang teksto ay hindi nangangahulugan na tama ang nilalaman nito.
  • Inaasahan ang parehong sagot sa bawat oras. Ang pagiging random ay natural; I-save ang output na gusto mo para sa mga kritikal na gawain.
  • Pag-paste ng napakahaba, hindi kinakailangang text at pagtutulak sa limitasyon ng token. Ang haba ay parehong nagpapataas ng gastos at maaaring makagambala sa pagtuon ng modelo; ibigay lamang ang kinakailangang konteksto.
Pansin: Dahil lamang sa matatas at kumpiyansa na nagsasalita ang modelo ay hindi nangangahulugan na siya ay nagsasalita ng tama. Ang katatasan ay ang likas na kinahinatnan ng pagtatantya ng posibilidad; Ang katumpakan ay isang bagay na dapat suriin nang hiwalay at independiyente.

Sa buod

  • Ang Generative AI ay bumubuo ng teksto nang sunud-sunod sa pamamagitan ng paghula sa susunod na malamang na fragment (token); bubuo ng pira-piraso ng pangungusap.
  • Ang mga token ay mas maliliit na bahagi ng mga salita at nagtatakda ng parehong mga limitasyon sa gastos at haba.
  • Sa bawat hakbang, ang modelo ay gumagawa ng isang listahan ng mga posibilidad; Tinutukoy ng setting ng temperatura kung gaano ka-stable o creative ang magiging output.
  • Ang dahilan para sa iba't ibang mga sagot sa parehong tanong ay dahil sa randomness na likas sa prosesong ito.
  • Ang modelo ay matatas magsalita, ngunit hindi nito ginagarantiyahan na siya ay nagsasabi ng totoo; Ang katatasan at katumpakan ay magkaibang bagay.

Aplikasyon na Gawain

Bigyan ang iyong AI tool ng parehong malikhaing gawain (hal. “magsulat ng isang mabilis na tala ng pasasalamat”) nang dalawang beses sa isang hilera at obserbahan kung paano naiiba ang mga output. Pagkatapos ay ulitin ang parehong gawain gamit ang template na "Makapangyarihang prompt," pagdaragdag ng konteksto, at tandaan ang pagkakaiba sa kalidad sa pagitan ng dalawang resulta.

Checklist

  • [ ] Maaari kong ipaliwanag na ang modelo ay gumagawa ng teksto sa pamamagitan ng "paghula sa susunod na posibleng tipak".
  • Alam ko kung ano ang [ ] Token at kung bakit ito ay kumakatawan sa gastos/limitasyon.
  • [ ] Maaari kong makilala ang pagitan ng mga trabahong nangangailangan ng determinasyon at ang mga nangangailangan ng pagkamalikhain.
  • [ ] Alam kong normal na makakuha ng iba't ibang sagot sa parehong tanong.
  • [ ] Naisip ko na ang pagiging matatas ay hindi garantiya ng katumpakan.
Nakaraang Susunod