Vahid 2 / 12

Generativ AI necə işləyir?

Qazanclar:

  • Token intuitiv olaraq ehtimal və proqnoz anlayışlarını izah edə bilər
  • Dil modelinin niyə "parça-parça" mətn hazırladığını başa düşür
  • Modelin bəzən qətiyyətli, bəzən də yaradıcı davranmasının səbəbini şərh edə bilir

Bir dil modelinə "İstanbulla bağlı ən yaxşı şey" yazdığınız zaman bir neçə saniyə ərzində səlis bir abzas çıxarır. Bu necə baş verir? Model həqiqətən "düşünür" və ya bunun arxasında daha sadə, lakin güclü mexanizm var? Bu bölmədə biz texniki tənliklərə girmədən, lakin düzgün intuisiya yaratmaqla generativ süni intellektin necə işlədiyini izah edəcəyik. Bu intuisiya sonrakı hər şey üçün, xüsusən də halüsinasiyalar, yoxlama və yaxşı tez yazı mövzuları üçün əsasdır. Generativ AI, yəni "generativ süni intellekt", mövcud cavabı tapmaq və almaq əvəzinə sıfırdan mətn yaradan alətlərin ümumi adıdır.

Əsas İdeya: Növbəti Parçanın proqnozlaşdırılması

Təəccüblü olan odur ki, bir dil modelinin öyrəndiyi yeganə əsas vəzifə “mətnin hansı hissəsinin izlənilməsi ehtimalı yüksəkdir?”dir. sualına cavab verməkdən ibarətdir. Model tam bir cümlə hazırlayıb qarşınıza təqdim etmir. Əvəzində cümləni soldan sağa hissə-hissə yaradır.

Bu addım-addım necə işləyir:

  1. Yazdığınız mətni (istək) oxuyur.
  2. Bu mətni izləmək üçün ən çox ehtimal olunan hissəni proqnozlaşdırır.
  3. Həmin hissəni əlavə edir.
  4. Yeni yaradılmış mətnə ​​yenidən baxır və növbəti ən çox ehtimal olunan parçanı təxmin edir.
  5. Cavab tamamlanana qədər təkrarlanır.
Nümunə: Əgər siz modelə “Səhər oyananda isti bir fincan alın...” mətnini versəniz, ən çox ehtimal olunan davamı “çay” və ya “qəhvə” olardı; "Asfalt" deyil. Model bu cür ehtimalları milyonlarla mətndən öyrənib. Sonra “çay” əlavə edir, sonra yeni cümləyə baxır və növbəti ehtimal olunan hissəni təxmin edir və s.

Başqa sözlə, hər addımda model yazdığına baxaraq növbəti addımı atır. Buna görə bəzən onu "avtomatik tamamlamanın çox təkmil versiyası" adlandırırlar. Amma bu bənzətmə istedadı aşağılamamalıdır; Düzgün miqyasda, bu proqnoz mülahizə kimi görünən nəticələr verə bilər.

Token: Sözün kiçik parçaları

Model əslində tam "sözlərlə" deyil, token adlanan daha kiçik parçalarla işləyir. Bir nişan; Bəzən bütöv bir söz, bəzən sözün bir hissəsi, bəzən durğu işarəsi olur.

  • "kitab" tək əlamət ola bilər.
  • "kitablarımızdan" "kitab", "s", "bizim", "dan" kimi bir neçə əlamətə bölünə bilər.
  • Boşluqlar və durğu işarələri də işarə kimi sayılır.
Diqqət: Token sadəcə texniki detal deyil. Süni intellekt vasitələrinin əksəriyyəti tokenlərin sayına görə yüklənir və mətnin (kontekst pəncərəsi) modellərinin bir anda işləyə biləcəyi uzunluq da tokenlərlə məhdudlaşır. Beləliklə, "nə qədər yazırsınız" birbaşa xərc və limitdir.

Ehtimal və “İstilik”: Qətiyyət, yoxsa Yaradıcılıq?

Hər addımda model tək bir qəti cavab deyil, mümkün davamların ehtimal siyahısını verir. Məsələn, "isti" sözündən sonra: çay 55%, qəhvə 35%, süd 7%, digər 3%. Bəs o, hansını seçir?

Burada temperatur adlı bir parametr işə düşür. Temperatur, modelin nə qədər “risk” edəcəyini müəyyən edən bir növ yaradıcılıq düyməsidir.

Parametr

davranış

Nəticə

Harada faydalıdır?

aşağı temperatur

Həmişə ən çox ehtimal olunan variantı götürür

Stabil, təkrarlanan

Hüquqi xülasə, texniki təsvir, məlumatların çıxarılması

orta temperatur

Balanslaşdırılmış seçim

Təbii, lakin ardıcıl

Ümumi e-poçt, hesabat layihəsi

yüksək temperatur

Daha az ehtimal olunan variantları sınayır

Yaradıcı, müxtəlif, gözlənilməz

Beyin fırtınası, şüar, ad istehsalı

Bu, həm də tez-tez verilən sualı izah edir: "Niyə eyni sualı iki dəfə verəndə fərqli cavablar alıram?" Çünki seçim prosesində müəyyən təsadüfilik var; Model verilənlər bazasından sabit cavab çəkmir, onu hər dəfə təkrarlayır.

Zəif Tələb / Güclü Tələb

Modelin "ehtimal" ilə işlədiyini bilmək, ona necə təlimat verdiyinizi də dəyişir. Nə qədər çox kontekst versəniz, düzgün davam etmə ehtimalı bir o qədər çox olar.

Zəif göstəriş: Giriş mətni yazın.

Nəticə: Model ən "orta" və ümumi mətni yaradır, çünki hansı məhsulu, hansı auditoriyanı, hansı tonu bilmir.

Güclü xəbərdarlıq: Kiçik bir kafenin yeni filtr qəhvəsi üçün İnstaqram tanıtım mətni yazın. Tamaşaçı: 25-35 yaş, qəhvə həvəskarı. Ton: mehriban, qısa. Maksimum 3 cümlə, sonunda 2 hashtag.

Nəticə: Kontekst imkanları daraltdığı üçün uyğun olan istifadə edilə bilən mətn.

Üç mini qutu

Məsələn 1 - Marketinq, yüksək çeşid. Bir komanda yeni məhsul üçün 30 şüar istədi. Yüksək temperatur qəbulu ilə model fərqli, yaradıcı variantlar istehsal etdi; Komanda 30-dan 4-ü seçdi və inkişaf etdirdi. Ümumi vaxt: 10 dəqiqə. Əl ilə edilsəydi, yarım gün çəkərdi.

Case 2 — Qanun, yüksək qətiyyət. Eyni şirkətin hüquq qrupu müqavilə bəndini sadələşdirirdi. Onlar yaradıcılıq yox, ardıcıllıq istəyirdilər; Aşağı temperaturda model hər dəfə demək olar ki, eyni, mühafizəkar xülasə verdi. Beləliklə, müxtəlif məhkəmələr arasında heç bir uyğunsuzluq yox idi.

3-cü vəziyyət - "Niyə dəyişdi?" sual. Bir işçi eyni e-poçt layihəsini iki dəfə tələb etdi və iki fərqli nəticə aldı; O, bunun "səhv" olduğunu düşünürdü. Əslində bu, modelin təsadüfi olmasının təbii nəticəsidir. İşçi bəyəndiyi versiyanı saxlamağı və lazım gələrsə, “əvvəlki kimi edin” deməyi öyrəndikdən sonra heç bir problem yox idi.

Model "anlayır"?

Bu ən maraqlı sualdır. Model sözlər arasındakı statistik əlaqəni o qədər dərindən öyrənib ki, bir çox işi başa düşürmüş kimi görünür. Amma onun şüurlu anlayışı, niyyəti və reallığı idarə edən mexanizmi yoxdur. O, "ən çox ehtimal olunan davamı" istehsal edir; Bu, "ən dəqiq məlumat" istehsal etməyə zəmanət vermir. Bu fərq növbəti bölmələrdə müzakirə edəcəyimiz hallüsinasiya mövzusunun əsasını təşkil edir.

Ümumi Səhvlər

Ümumi səhvlər

  • Modeli axtarış motoru ilə səhv salmaq. Model internetdə axtarış aparmır və resursları əldə etmir (xüsusi axtarış funksiyası olmadıqda); Yaddaşdan mümkün mətn yaradır. Beləliklə, o, mənbə/şəklə düzəldə bilər.
  • Dəqiqlik üçün axıcılığı səhv salmaq. Mətnin gözəl və özünə inamlı olması onun məzmununun düzgün olması demək deyil.
  • Hər dəfə eyni cavabı gözləmək. Təsadüfilik təbiidir; Kritik tapşırıqlar üçün bəyəndiyiniz çıxışı saxlayın.
  • Çox uzun, lazımsız mətnin yapışdırılması və nişan limitini itələməsi. Uzunluq həm xərcləri artırır, həm də modelin diqqətini yayındıra bilər; sadəcə lazımi konteksti verin.
Diqqət: Modelin səlis və arxayın danışması onun düzgün danışması demək deyil. Sərbəstlik ehtimalın qiymətləndirilməsinin təbii nəticəsidir; Dəqiqlik ayrıca və müstəqil şəkildə yoxlanılmalı olan bir şeydir.

Xülasə

  • Generativ AI növbəti ən çox ehtimal olunan fraqmenti (token) proqnozlaşdırmaqla addım-addım mətn yaradır; cümləni hissə-hissə qurur.
  • Tokenlər sözlərin daha kiçik hissələridir və həm qiymət, həm də uzunluq məhdudiyyətlərini təyin edirlər.
  • Hər addımda model imkanların siyahısını hazırlayır; Temperatur parametri çıxışın nə qədər sabit və ya yaradıcı olacağını müəyyən edir.
  • Eyni suala müxtəlif cavabların verilməsinin səbəbi bu prosesə xas olan təsadüfiliklə bağlıdır.
  • Model səlis danışır, lakin bu onun doğru danışdığına zəmanət vermir; Səlislik və dəqiqlik fərqli şeylərdir.

Tətbiq Tapşırığı

AI alətinizə ardıcıl iki dəfə eyni yaradıcı tapşırığı verin (məsələn, “tez təşəkkür məktubu yazın”) və nəticələrin necə fərqləndiyini müşahidə edin. Sonra eyni tapşırığı kontekst əlavə edərək "Güclü sorğu" şablonu ilə təkrarlayın və iki nəticə arasındakı keyfiyyət fərqini qeyd edin.

Yoxlama siyahısı

  • [ ] Mən izah edə bilərəm ki, model mətni "növbəti mümkün yığını proqnozlaşdırmaqla" yaradır.
  • Mən [ ] Tokenin nə olduğunu və niyə onun xərc/limit mənasını verdiyini bilirəm.
  • [ ] Mən qətiyyət tələb edən işlərlə yaradıcılıq tələb edən işləri ayıra bilirəm.
  • [ ] Mən eyni suala fərqli cavabların alınmasının normal olduğunu bilirəm.
  • [ ] Mən səlisliyin dəqiqliyə zəmanət olmadığını özümlə başa düşdüm.