бирдиги 2 / 12

Генеративдик AI кантип иштейт?

Пайдалар:

  • Токен интуитивдик ыктымалдуулук жана болжолдоо түшүнүктөрүн түшүндүрө алат
  • Тилдин модели эмне үчүн текстти "бөлүк-бөлүк" чыгарарын түшүнөт
  • Модель эмне үчүн кээде чечкиндүү, кээде чыгармачылык менен жүрөрүн чечмелей алат

"Стамбул жөнүндө эң жакшы нерсени" тил моделине жазганыңызда, ал бир нече секунданын ичинде эркин абзацты чыгарат. Бул кантип болот? Модель чындап эле "ойлойбу" же анын артында алда канча жөнөкөй, бирок күчтүү механизм барбы? Бул бөлүмдө биз генеративдик AI кантип иштээрин, техникалык теңдемелерге кирбестен, туура интуицияны орнотуу менен түшүндүрөбүз. Бул интуиция кийинки нерселердин баары үчүн негиз болуп саналат, өзгөчө галлюцинация, текшерүү жана жакшы тез жазуу темалары. Генеративдик AI, башкача айтканда, "генеративдик жасалма интеллект" - бул учурдагы жоопту таап жана алуунун ордуна нөлдөн баштап текст түзгөн куралдардын жалпы аталышы.

Негизги идея: Кийинки бөлүгүн алдын ала айтуу

Таң калыштуусу, тил модели үйрөнө турган бирден-бир негизги милдет - бул "тексттин кайсы бөлүгү эң туура келет?" деген суроого жооп берүү болуп саналат. Модель толук сүйлөмдү даярдап, аны сиздин алдыңызда көрсөтпөйт. Анын ордуна, ал солдон оңго карай сүйлөмдү бөлүк-бөлүккө чыгарат.

Бул кадам-кадам кантип иштейт:

  1. Ал сиз жазган текстти (керектөө) окуйт.
  2. Бул тексттен кийинки эң ыктымалдуу бөлүгүн болжолдойт.
  3. Ошол бөлүгүн кошот.
  4. Ал жаңы түзүлгөн текстти кайрадан карап чыгып, кийинки эң ыктымалдуу бөлүгүн болжолдойт.
  5. Жооп аягына чейин кайталанат.
Мисал: Эгер сиз моделге "Эртең менен ойгонгондо ысык чөйчөк ичип алыңыз..." деген текстти берген болсоңуз, уландысы "чай" же "кофе" болмок; "Асфальт" эмес. Модель мындай ыктымалдыктарды миллиондогон тексттерден үйрөнгөн. Анан «чай» кошот, анан жаңы сүйлөмдү карап, кийинки эң ыктымалдуу бөлүгүн болжолдойт ж.б.у.с.

Башкача айтканда, ар бир кадамда модель жазгандарына карап кийинки кадамга барат. Ошондуктан аны кээде “автотолтуруунун өтө өркүндөтүлгөн версиясы” деп да коюшат. Бирок бул окшоштук талантты кемсинтпеши керек; Туура масштабда, бул болжолдоо ой жүгүртүүгө окшош натыйжаларды бере алат.

Токен: Сөздүн кичинекей бөлүктөрү

Модель чындыгында толук "сөздөр" менен эмес, токендер деп аталган кичинекей бөлүктөр менен иштейт. Токен; Кээде бүтүндөй сөз, бирде сөздүн бир бөлүгү, бирде тыныс белгиси болот.

  • "китеп" бир белгиси болушу мүмкүн.
  • "биздин китептерден" "китеп", "лар", "биздин", "ден" сыяктуу бир нече белгилерге бөлүнөт.
  • Боштуктар жана тыныш белгилери да белги катары эсептелет.
Көңүл буруңуз: Токен жөн гана техникалык детал эмес. Көпчүлүк AI куралдары токендердин саны боюнча заряддалат жана тексттин узундугу (контексттик терезе) моделдери бир убакта иштете алат, ошондой эле токендерде чектелген. Ошентип, "канча убакыт жазасың" - бул түз чыгым жана чек.

Ыктымалдуулук жана "Жылуулук": Чечкиндүүлүк же Чыгармачылык?

Ар бир кадамда модель бир гана так жоопту эмес, мүмкүн болгон улантуулардын ыктымалдык тизмесин чыгарат. Мисалы, "ысык" деген сөздөн кийин: чай 55%, кофе 35%, сүт 7%, башка 3%. Анда ал кайсынысын тандайт?

Бул жерде температура деп аталган жөндөө пайда болот. Температура – ​​бул модель канчалык деңгээлде “тобокелге барарын” аныктаган чыгармачылык баскычынын бир түрү.

Орнотуу

жүрүм-турум

Корутунду

Кайда пайдалуу?

төмөн температура

Ар дайым эң мүмкүн болгон вариантты алат

Туруктуу, кайталануучу

Юридикалык корутунду, техникалык сүрөттөмө, маалыматтарды алуу

орточо температура

Салмактуу тандоо

Табигый, бирок ырааттуу

Жалпы электрондук почта, отчеттун долбоору

жогорку температура

Ыктымалыраак варианттарды колдонот

Чыгармачыл, ар түрдүү, күтүүсүз

Акыл чабуулу, ураан, ат чыгаруу

Бул дагы көп берилүүчү суроону түшүндүрөт: "Эмне үчүн мен бир эле суроону эки жолу берсем, ар кандай жоопторду алам?" Анткени тандоо процессинде кандайдыр бир кокустук бар; Модель маалымат базасынан туруктуу жооп тартпайт, аны ар дайым кайра чыгарат.

Алсыз тездик / Күчтүү эскертүү

Модель "ыктимдуулук" менен иштээрин билүү, аны үйрөтүү ыкмасын да өзгөртөт. Канчалык көп контекст берсеңиз, ошончолук туура уландысы болот.

Алсыз сунуш: кириш текст жазыңыз.

Натыйжа: Модель эң "орточо" жана жалпы текстти чыгарат, анткени ал кайсы продукт, кайсы аудитория, кайсы обон экенин билбейт.

Күчтүү эскертүү: Чакан кафенин жаңы фильтр кофеси үчүн Instagram жарнамалык текстин жазыңыз. Аудитория: 25-35 жаш, кофе ышкыбозу. Обону: достук, кыска. Максималдуу 3 сүйлөм, аягында 2 хэштег.

Натыйжа: Контекст мүмкүнчүлүктөрдү кыскартат, анткени актуалдуу болгон колдонулуучу текст.

Үч мини Case

1-жагдай — Маркетинг, жогорку сорт. Бир команда жаңы продукт үчүн 30 ураан талап кылган. анын жогорку температура орнотуу менен, модель ар кандай, чыгармачыл параметрлерин өндүрүлгөн; Команда 30дан 4тү тандап, иштеп чыкты. Жалпы убакыт: 10 мүнөт. Кол менен жасаса жарым суткага созулмак.

2-сессия — Мыйзам, жогорку чечкиндүүлүк. Ошол эле компаниянын юридикалык тобу келишимдин пунктун жөнөкөйлөштүрүп жаткан. Алар чыгармачылыкты эмес, ырааттуулукту каалашкан; Төмөн температурада модель ар бир жолу дээрлик бирдей, эскичил жыйынтыктарды берди. Ошентип, ар кандай соттордун ортосунда эч кандай карама-каршылык болгон жок.

3-жагдай - "Эмне үчүн өзгөрдү?" суроо. Кызматкер бир эле электрондук почта долбоорун эки жолу сураган жана эки башка натыйжа алган; Ал муну "ката" деп ойлоду. Чынында, бул моделдин кокустуктун табигый натыйжасы. Кызматкер өзүнө жаккан версияны сактап, керек болсо "мурункудай кыл" деп айтканды үйрөнгөндөн кийин эч кандай көйгөй болгон жок.

Модель аны "түшүнөбү"?

Бул эң кызык суроо. Модель сөздөрдүн ортосундагы статистикалык байланыштарды ушунчалык кылдат үйрөнгөндүктөн, ал көптөгөн тапшырмаларды түшүнүп жаткандай түр көрсөтөт. Бирок анын аң-сезимдүү түшүнүгү, ниети же чындыкты башкаруу механизми жок. Ал "эң ыктымалдуу уландысын" чыгарат; Ал "эң так маалыматты" чыгарууга кепилдик бербейт. Бул айырмачылык галлюцинация темасынын негизин түзөт, аны кийинки бөлүмдөрдө талкуулайбыз.

Жалпы каталар

Жалпы каталар

  • Издөө системасы үчүн моделди жаңылыштыруу. Модель интернеттен издебейт жана ресурстарды чыгарбайт (эгер атайын издөө функциясы жок болсо); Эстутумдан мүмкүн болгон текстти жаратат. Ошентип, ал булакты/фигураны түзө алат.
  • Акылдуулукту тактык менен жаңылыштык. Тексттин кооз жана ишенимдүү болгону анын мазмуну туура дегенди билдирбейт.
  • Ар дайым бирдей жооп күтөбүз. Кокустук табигый нерсе; Маанилүү тапшырмалар үчүн сизге жаккан жыйынтыкты сактаңыз.
  • Өтө узун, керексиз текстти чаптоо жана белгинин чегин түртүү. Узундугу да бааны жогорулатат жана моделдин көңүлүн алаксытат; жөн гана керектүү контекстти бер.
Көңүл буруңуз: Моделдин эркин жана ишенимдүү сүйлөөсү анын туура сүйлөйт дегенди билдирбейт. Акылдуулук - ыктымалдыкты баалоонун табигый натыйжасы; Тактык өзүнчө жана өз алдынча текшерилиши керек нерсе.

Кыскача айтканда

  • Генеративдик AI кийинки эң ыктымал фрагментти (токен) алдын ала айтуу менен текстти кадам сайын жаратат; сүйлөмдү бөлүкчө түзөт.
  • Токендер сөздөрдүн кичине бөлүктөрү жана баасын жана узундугун чектейт.
  • Ар бир кадамда модель мүмкүнчүлүктөрдүн тизмесин түзөт; Температуранын жөндөөсү чыгаруу канчалык туруктуу же чыгармачыл болорун аныктайт.
  • Бир эле суроого ар түрдүү жооптордун себеби бул процесске мүнөздүү кокустуктан улам келип чыгат.
  • Модель эркин сүйлөйт, бирок бул анын чындыкты айтып жатканына кепилдик бербейт; Акылдуулук менен тактык башка нерсе.

Колдонмо тапшырмасы

AI куралыңызга бир эле чыгармачыл тапшырманы бериңиз (мисалы, "тез ыраазычылык катын жазыңыз") катары менен эки жолу жана натыйжалар кандайча айырмаланарын байкаңыз. Андан кийин ошол эле тапшырманы контекстти кошуп, "Күчтүү тездик" шаблону менен кайталаңыз жана эки натыйжанын ортосундагы сапат айырмасын байкаңыз.

Текшерүү тизмеси

  • [ ] Мен моделдин текстти "кийинки мүмкүн болгон бөлүктү алдын ала айтуу" менен түзөрүн түшүндүрө алам.
  • Мен [ ] Токен деген эмне экенин жана эмне үчүн ал чыгымды/лимитти билдирерин билем.
  • [ ] Чечкиндүүлүктү талап кылган жумуштар менен чыгармачылыкты талап кылган жумуштарды айырмалай алам.
  • [ ] Мен бир эле суроого ар кандай жооп алуу кадимки көрүнүш экенин билем.
  • [ ] Мен эркин сүйлөмдүн тактыгына кепилдик жок экенин түшүндүм.