Генеративті AI қалай жұмыс істейді?

Табыстар:

Токен ықтималдық пен болжау ұғымдарын интуитивті түрде түсіндіре алады
Тілдік модель неліктен мәтінді «бөлшектеп» шығаратынын түсінеді
Модель неге кейде батыл, кейде креативті әрекет ететінін түсіндіре алады

Тіл үлгісіне «Ыстамбұл туралы ең жақсы нәрсе» деп жазғанда, ол бірнеше секундта еркін абзац шығарады. Бұл қалай болады? Модель шынымен «ойлайды ма» немесе оның артында әлдеқайда қарапайым, бірақ күшті механизм бар ма? Бұл бөлімде біз генеративті AI қалай жұмыс істейтінін, техникалық теңдеулерге бармай-ақ, дұрыс интуицияны орнату арқылы түсіндіреміз. Бұл интуиция кейінгі барлық нәрселердің негізі болып табылады, әсіресе галлюцинация, тексеру және жақсы жылдам жазу тақырыптары. Генеративті AI, яғни «генеративті жасанды интеллект» - бұл бар жауапты табу және алудың орнына мәтінді нөлден жасайтын құралдардың жалпы атауы.

Негізгі идея: Келесі бөлікті болжау

Бір таңғаларлығы, тілдік модель үйренетін жалғыз негізгі тапсырма – «мәтіннің қай бөлігі көбірек орындалады?». деген сұраққа жауап беру болып табылады. Үлгі толық сөйлем дайындап, оны сіздің алдыңызда ұсынбайды. Оның орнына сөйлемді солдан оңға қарай бөлшектеп шығарады.

Бұл қадам бойынша қалай жұмыс істейді:

Ол сіз жазған мәтінді (сұрауды) оқиды.
Осы мәтіннен кейінгі ең ықтимал бөлікті болжайды.
Бұл бөлікті қосады.
Ол жаңадан құрастырылған мәтінге қайта қарап, келесі ең ықтимал бөлікті болжайды.
Жауап аяқталғанша қайталайды.

Мысалы: Егер сіз үлгіге «Таңертең оянғанда ыстық кесе ішіңіз...» мәтінін берген болсаңыз, ең ықтимал жалғасы «шай» немесе «кофе» болар еді; «Асфальт» емес. Модель мұндай ықтималдықтарды миллиондаған мәтіндерден үйренді. Содан кейін ол «шай» қосады, содан кейін жаңа сөйлемге қарап, келесі ықтимал бөлігін болжайды және т.б.

Басқаша айтқанда, әрбір қадамда модель не жазғанына қарап келесі қадамды жасайды. Сондықтан оны кейде «автотолтырудың өте жетілдірілген нұсқасы» деп те атайды. Бірақ бұл ұқсастық талантты төмендетпеуі керек; Тиісті масштабта бұл болжау пайымдауға ұқсас нәтижелерді бере алады.

Токен: Сөздің шағын бөліктері

Модель шын мәнінде толық «сөздермен» емес, токендер деп аталатын кішірек бөліктермен жұмыс істейді. Токен; Бірде тұтас сөз, бірде сөздің бір бөлігі, бірде тыныс белгісі болады.

«кітап» бір белгі болуы мүмкін.
«біздің кітаптардан» «кітап», «лар», «біздің», «ден» сияқты бірнеше лексемаларға бөлуге болады.
Бос орындар мен тыныс белгілері де таңбалауыш ретінде есептеледі.

Назар аударыңыз: Токен тек техникалық деталь емес. AI құралдарының көпшілігі таңбалауыштар саны бойынша зарядталады және мәтіннің (мәтіндік терезе) үлгілерінің бір уақытта өңдей алатын ұзындығы таңбалауыштармен шектеледі. Сонымен, «қанша уақыт жазасыз» - бұл тікелей шығындар мен шектеу.

Ықтималдық және «Жылулық»: Шешімділік пе, әлде шығармашылық па?

Әрбір қадамда модель бір ғана нақты жауапты емес, мүмкін болатын жалғастардың ықтималдық тізімін шығарады. Мысалы, «ыстық» сөзінен кейін: шай 55%, кофе 35%, сүт 7%, басқалары 3%. Сонда ол қайсысын таңдайды?

Мұнда температура деп аталатын параметр іске қосылады. Температура - бұл модель қаншалықты «тәуекел» болатынын анықтайтын шығармашылық түйменің бір түрі.

Параметр

мінез-құлық

Қорытынды

Қай жерде пайдалы?

төмен температура

Әрқашан ең ықтимал нұсқаны қабылдайды

Тұрақты, қайталанатын

Құқықтық қорытынды, техникалық сипаттама, мәліметтерді алу

орташа температура

Теңгерімді таңдау

Табиғи, бірақ тұрақты

Жалпы электрондық пошта, есеп жобасы

жоғары температура

Ықтимал опцияларды қолданады

Шығармашылық, алуан түрлі, күтпеген

Миға шабуыл, ұран, атау шығару

Бұл сондай-ақ жиі қойылатын сұрақты түсіндіреді: «Бір сұрақты екі рет қойғанда неге әртүрлі жауап аламын?» Өйткені іріктеу процесінде кейбір кездейсоқтық бар; Модель деректер қорынан бекітілген жауапты сызбайды, оны әр уақытта қайта шығарады.

Әлсіз шақыру / Күшті шақыру

Модельдің «ықтималдықпен» жұмыс істейтінін білу оны нұсқау әдісін де өзгертеді. Сіз неғұрлым көп контекст берсеңіз, соғұрлым дұрыс жалғастыру ықтималдығы жоғары болады.

Әлсіз нұсқау: Кіріспе мәтін жазыңыз.

Нәтиже: Модель ең «орташа» және жалпы мәтінді шығарады, себебі ол қай өнімді, қандай аудиторияны, қай тонды білмейді.

Күшті кеңес: шағын дәмхананың жаңа сүзгі кофесі үшін Instagram жарнамалық мәтінін жазыңыз. Аудитория: 25-35 жас, кофеге әуесқой. Тон: мейірімді, қысқа. Ең көбі 3 сөйлем, соңында 2 хэштег.

Нәтиже: Мәтінмән мүмкіндіктерді тарылтқандықтан, сәйкес келетін қолдануға болатын мәтін.

Үш шағын корпус

1-жағдай — Маркетинг, жоғары әртүрлілік. Бір команда жаңа өнімге 30 ұран алғысы келді. Жоғары температура параметрімен модель әртүрлі, шығармашылық опцияларды шығарды; Команда 30-дан 4-ін таңдап, әзірледі. Жалпы уақыт: 10 минут. Қолмен жасалса жарты күн керек еді.

2-жағдай — Заң, жоғары шешім. Дәл сол компанияның заң тобы келісім-шарт тармағын жеңілдетіп жатқан. Олар шығармашылықты емес, жүйелілікті қалайды; Төмен температурада модель әр жолы дерлік бірдей, консервативті қорытынды берді. Осылайша, әртүрлі сынақтар арасында сәйкессіздік болған жоқ.

3-жағдай – «Неге өзгерді?» сұрақ. Қызметкер бір электрондық пошта жобасын екі рет сұрады және екі түрлі нәтиже алды; Ол мұны «қателік» деп ойлады. Шын мәнінде, бұл модельдің кездейсоқ болуының табиғи салдары. Қызметкер өзіне ұнаған нұсқаны сақтап, қажет болса «алдыңғыдай етіп жаса» деп айтуды үйренген соң, еш қиындық тумаған.

Модель оны «түсінеді» ме?

Бұл ең қызықты сұрақ. Модель сөздер арасындағы статистикалық байланыстарды мұқият меңгергені соншалық, ол көптеген тапсырмаларды түсінетін сияқты. Бірақ оның саналы түсінігі, ниеті немесе шындықты басқаратын механизмі жоқ. Ол «ең ықтимал жалғасын» шығарады; Ол «ең дәл ақпаратты» жасауға кепілдік бермейді. Бұл айырмашылық галлюцинация тақырыбының негізі болып табылады, біз оны келесі бөлімдерде талқылаймыз.

Жалпы қателер

Модельді іздеу жүйесі деп қателесу. Модель интернетті іздемейді және ресурстарды шығармайды (арнайы іздеу мүмкіндігі болмаса); Жадтан мүмкін мәтінді жасайды. Сондықтан ол дереккөзді/фигураны құра алады.
Еркін сөйлеуді дәлдікпен қателесу. Мәтіннің әдемі және сенімді болуы оның мазмұнының дұрыс екенін білдірмейді.
Әр жолы бірдей жауапты күту. Кездейсоқтық табиғи; Маңызды тапсырмалар үшін өзіңізге ұнайтын нәтижені сақтаңыз.
Өте ұзын, қажетсіз мәтінді қою және таңбалауыш шегін итермелеу. Ұзындық шығындарды арттырады және модельдің назарын аударады; тек қажетті контекстті беріңіз.

Назар аударыңыз: Модельдің еркін және сенімді сөйлеуі оның дұрыс сөйлейтінін білдірмейді. Еркін сөйлеу – ықтималдықты бағалаудың табиғи нәтижесі; Дәлдік - бұл бөлек және тәуелсіз тексерілуі керек нәрсе.

Қысқаша айтқанда

Генеративті AI келесі ықтимал фрагментті (таңбалауышты) болжау арқылы мәтінді кезең-кезеңмен жасайды; сөйлемді бөлшектеп құрастырады.
Токендер сөздердің кішірек бөліктері болып табылады және шығындар мен ұзындық шектеулерін белгілейді.
Әрбір қадамда модель мүмкіндіктер тізімін жасайды; Температура параметрі шығыстың қаншалықты тұрақты немесе креативті болатынын анықтайды.
Бір сұраққа әртүрлі жауаптардың себебі осы процеске тән кездейсоқтыққа байланысты.
Модель еркін сөйлейді, бірақ бұл оның шындықты айтып тұрғанына кепілдік бермейді; Шыдамдылық пен дәлдік екі түрлі нәрсе.

Қолданбалы тапсырма

AI құралына бірдей шығармашылық тапсырманы (мысалы, «жылдам алғыс хат жазу») қатарынан екі рет беріңіз және нәтижелердің қалай ерекшеленетінін байқаңыз. Содан кейін мәтінмәнді қосып, «Күшті шақыру» үлгісімен бірдей тапсырманы қайталаңыз және екі нәтиже арасындағы сапа айырмашылығына назар аударыңыз.

Бақылау тізімі

[ ] Модель мәтінді «келесі ықтимал бөлікті болжау» арқылы шығаратынын түсіндіре аламын.
Мен [ ] Токеннің не екенін және оның неліктен шығын/лимитті білдіретінін білемін.
[ ] Шешімділікті қажет ететін жұмыс пен шығармашылықты қажет ететін жұмыстарды ажырата аламын.
[ ] Бір сұраққа әртүрлі жауап алу қалыпты жағдай екенін білемін.
[ ] Мен еркін сөйлеу дәлдікке кепілдік бермейтінін іштей түсіндім.