Пайдалар:
- Top-k тандоосу менен семантикалык жана ачкыч издөөнү айкалыштырган гибриддик издөөнү ишке ашыруу
- Кайра рейтинг менен биринчи издөөнүн тактыгын жогорулатуу
- Суроолорду трансформациялоо жана HyDE сыяктуу ыкмалар менен татаал суроолорду издөөгө мүмкүн кылуу
Сиз документтерди жакшылап майдалап, вектордук базага киргиздиңиз. Эми чыныгы иш: колдонуучу суроо бергенде туура бөлүктөрдү алуу. Бул издөө деп аталат жана RAG сапатынын негизи болуп саналат. "Чыгып алуу сапаты = RAG сапаты" деген сөздү эстеңиз; Бул бирдик дал ошол сапатты жакшыртуу искусствосу болуп саналат. Биз топ-к тандоодон гибриддик издөөгө чейин, ре-рантингден суроону трансформациялоого чейин практикалык ыкмаларды карайбыз.
Top-k: Канча даана алып келебиз?
Эң негизги параметр: издөөдөн кайтуу үчүн канча даана (k). Эгер сиз азыраак алып келсеңиз (k=1) туура бөлүгүн жоготуп алуу коркунучу жогору; Эгер сиз өтө көп кошсоңуз (k=20), ал моделге ызы-чуу кошот жана токендин баасы жогорулайт.
Эки түшүнүктү ажырата билиңиз. Эскерте кетсек: туура кесим алынгандардын арасында болгон ылдамдык. Тактык: алынган нерсенин тиешелүү ылдамдыгы. k көбөйтүлсө, эстеп калуу көбөйөт, бирок тактык төмөндөйт. Максат - экөөнү тең салмактоо.
top-k
Таасири
ылайыктуу жагдай
1-3
Жогорку тактык, өткөрүп жиберүү коркунучу
Жөнөкөй, бир жооптуу суроолор
4-8
Баланс; көпчүлүк сценарийлер
Жалпы корпоративдик RAG
10-20
Жогорку эстөө, ызы-чуу көбөйөт
Кайра рейтинг менен (төмөндө)
Кеңеш: Жалпы жана күчтүү үлгү: кенен (k=20), андан кийин кайра рейтинг менен тар (жогорку 4). Ошентип, сиз эч нерсени өткөрүп жибербейсиз жана моделге таза контекст бересиз.
Гибриддик издөө: эки издөөнүн күчү
Семантикалык (вектордук) издөө маанини камтыйт, бирок бир нерсени өткөрүп жиберет: толук продукт коду ("XR-4471"), сейрек аббревиатура, тиешелүү аталыш, версия номери. Бул так дал келген тапшырмалар үчүн, эски мектептеги ачкыч сөздөрдү издөө - өзгөчө BM25 деп аталган классикалык алгоритм - абдан жакшы.
Гибриддик издөө экөөнү айкалыштырат: семантикалык жана ачкыч сөздөрдү издөө натыйжаларды бириктирип иштейт. Ошентип, «Кепилдик мөөнөтү
Биригүү адатта RRF (Reciprocal Rank Fusion) менен жүргүзүлөт: эки тизмеде тең жогору турган трек алдыга чыгат.
# Гибриддик издөө (концептуалдык)сем = vector_search(суроо, k=20) # meankey = bm25_search(суроо, k=20) # fullwordresult = rrf_merge(sem, key)[:8] # экөөнү бириктирүү, жогорку 8
Кайра рейтинг: Экинчи жана акылдуу өтүү
Биринчи чалуу тез, бирок орой болушу мүмкүн. Биринчи издөөдө кайтып келген талапкерлерди бирден күчтүүрөөк модели менен упайларын кайра коюу (көбүнчө кайчылаш-кодер — суроо менен үзүндү чогуу окуп, актуалдуулугун баалаган модель) жана эң ылайыктууларын жогору карай жылдырат.
Логика мындай: биринчи издөө чакырып алуу үчүн көп сандагы талапкерлерди дайындайт (20 талапкер), тактык үчүн 4 мыктыны кайра тандайт. Бул эки этаптуу ыкма бир баскычтуу издөөгө караганда алда канча так. Бул бир аз кечиктирүүгө жана кошумча иштетүүгө кетет; пайда сапаттын бир кыйла жогорулашына.
# Эки этаптуу издөө (концептуалдык)талапкерлер = гибриддик_издөө(суроо, k=20) # кенен, ыкчам баа = reranker.score(суроо, талапкерлер) # ар бир талапкердин контекстине ылайыктуулугу упай = rated.rank()[:4] # жогорку 4
Суроо трансформациялоо
Кээде маселе издөөдө эмес, суроонун өзүндө болот. Эгер колдонуучу "алыстагы жумушчулар жөнүндө эмне айтууга болот?" ', муну жалгыз издөө мүмкүн эмес (алыстагы жумушчулар үчүн эмне экени белгисиз). Бул жерде суроо трансформациялоо ыкмалары болуп саналат:
- Кайра жазыңыз: "Алыскы жумушчулардын жылдык өргүүсүнө кандай укугу бар?"
- Көп суроо: Бир эле суроонун 3 түрдүү туюнтмасын түзүңүз, алардын бардыгы менен издеңиз, натыйжаларды бириктириңиз. Ар кандай сөздөр ар кандай бөлүктөрүн табат.
- HyDE (Hypothetical Document Embeddings): Адегенде моделге "мүмкүн жоопту" басып чыгарыңыз, андан кийин ошол элестүү жоопту кыстарыңыз жана издеңиз. Ойдон чыгарылган жооп кээде жакшыраак табылат, анткени ал чыныгы документке сөз менен жакыныраак.
# Көп суроонун (концептуалдык) варианттары = model.uret("Бул суроону 3 башка жол менен айтыңыз: " + суроо)tum_sonuc = []v үчүн варианттар: all_sonuc += vector_intermediate(v, k=6)контекст = singular_and_order(tum_result)[:6]
Алсыз издөө / Күчтүү алуу
Алсыз (бир этап, семантика гана, туруктуу k=3):
натыйжа = vector_search(суроо, k=3)# Көйгөй: продукт коду өтүп кеткен, татаал суроолорго 3-бөлүгүн туура киргизе албайт.
Күчтүү (гибрид + кеңдик + кайра рейтинг + керек болсо көп суроо):
талапкерлер = гибриддик_издөө(кайра жазуу(суроо, өткөн), k=20)контекст = reranker.score(суроо, талапкерлер).first(4)# Так дал келүү да, мааниси да камтылган; Бул эң мыкты 4 моделге барат.
Үч мини Case
1-жагдай — Продукт коду качып кетти. Колдоо тобунда таза семантикалык издөө "RTX-9080 драйверинин катасы" деген суроодо "RTX-9080" сөзмө-сөз таба алган жок; Ал окшош аталыштагы башка буюмдарды алып келе жаткан. Гибриддик издөө кошулганда, так код дал келүүдө жана туура макалаларды кайтаруу көрсөткүчү 58% дан 92% га чейин өскөн.
2-жагдай - Рейтингдин айырмасы. А юрист к=5 менен иштеген, бирок туура пункт көбүнчө 7-10. Ал катарда калган. k=20 + кайра рейтинг киргизилгенде, биринчи үчтүккө кирген туура макаланын көрсөткүчү 61%дан 94%ке чейин өстү; Кечирүү 300 мс гана көбөйдү - алгылыктуу компромисс.
3-жагдай - Контекстсиз кийинки суроо. HR жардамчысында колдонуучу "жарым таймчылар жөнүндө эмне айтууга болот?" Сурасам, система тиешеси жок бөлүктөрүн алып келди. Суроону кайра жазуу менен (өткөндөн "жылдык өргүү" контекстин алып салуу жана "Кошумча ставкадагы кызматкерлер жылдык өргүү алууга укуктуу" дегенди кошуу менен) туура жооптун деңгээли 40%дан 86%га чейин өстү.
Жалпы каталар
- Семантикалык издөөгө гана таянуу: Продукциянын коду, аббревиатурасы, энчилүү аталышы өткөрүлбөйт; Гибрид кошуу.
- k өтө кичинекей кармоо: Туура кесим тизмеге кире албайт; аны кенен кылып, кайра разряд менен тар.
- Эч качан кайра рейтинг боюнча ойлонбо: Биринчи издөө орой; Экинчи акылдуу өтүү сапатын бир топ жакшыртат.
- Кошумча суроолорду төмөнкүдөй издөө: Контексти жок суроо маанисизди издейт; кайра жаз.
- Сокур көбөйүп к (кайра рангы жок): Модел ызы-чуу менен толтурулат, жооп бурмаланып, наркы жогорулайт.
Абайлаңыз: Ар бир техника чыгымды жана кечигүүнү кошот. Көп суроо 3 жолу издөө дегенди билдирет, кайра рейтинг кошумча моделди чакыруу дегенди билдирет. Алгач жөнөкөй гибрид + акылга сыярлык к менен баштаңыз; Чынында зарыл болгон жерде оор техникаларды өлчөп, кошуңуз. Өлчөөсүз кошуу.
Кыскача айтканда
- Top-k - кайра чакырып алуу жана тактык ортосундагы баланс; Негизинен 4-8 жакшы башталышы.
- Гибриддик издөө семантикалык издөөнү ачкыч (BM25) издөө менен айкалыштырат; Так дал келүүлөрдү калыбына келтирет.
- Ре-рейтинг талапкерлерди кеңири баштапкы издөөнүн жыйынтыгында күчтүү моделдин жардамы менен кайра баалап, эң жакшыларын тандайт.
- Суроолорду трансформациялоо (кайра жазуу, көп суроо, HyDE) татаал жана контекстсиз суроолорду издөөгө болот.
- Күчтүү үлгү: кеңири алып келүү → гибрид менен бириктирүү → кайра даража менен тар; бирок аны өлчөө менен ар бир техниканы кошуу.
Колдонмо тапшырмасы
Мурунку бирдиктердин маалыматтары менен 6 татаал суроо даярдаңыз: так дал келүүнү талап кылган кеминде 2 (продукциянын коду, аббревиатура, датасы), 2 семантикалык (башка сөздөр менен бир эле тема), контексти жок 2 кошумча суроо. (1) Адегенде ар бир суроону таза семантикалык издөө катары карап, кайсы бөлүктөрдү кол менен белгилеңиз. (2) Ошол эле суроолорду гибриддик жана кайра рейтинг менен кайра баалоо. (3) Контекстсиз кийинки суроолорду кайра жазыңыз. Кайсы техника суроонун түрүн айырмалай турганын таблица түрүндө белгилеңиз.
текшерүү тизмеси
- [ ] Мен top-k - бул кайра чакырып алуу-тактык балансы жана акылга сыярлык баштапкы диапазон экенин билем.
- [ ] Эмне үчүн гибриддик издөө так дал келүүлөрдү калыбына келтирерин түшүндүрө алам.
- [ ] Мен кайра рейтингдин эки кадамдуу логикасын колдоно алам (кенен → акылдуу тар).
- [ ] Мен контекстсиз кийинки суроолорду кайра жазуу зарылдыгын түшүнөм.
- [ ] Мен оор ыкмаларды өлчөө менен эмес, өлчөө менен кошконумду ырастайм.