Co to jest RAG i dlaczego jest konieczny?

Zyski:

• Wyjaśnienie, że RAG wprowadza kontekst bez zmiany wag modelu i działa w oparciu o logikę „egzaminu z otwartą książką”.
• Porównanie RAG z podejściem dostrajającym i długim kontekstem zgodnie ze scenariuszem kosztów, terminowości i użytkowania
• Lista kroków typowego potoku RAG składającego się z faz indeksowania i zapytań

Niezależnie od tego, jak potężny jest model językowy (sztuczna inteligencja, która rozumie i tworzy tekst; odtąd będziemy go w skrócie nazywać modelem), nie zna on umowy podpisanej wczoraj przez Twoją firmę, wewnętrznej strony wiki (wewnętrznej bazy wiedzy) ani informacji o wydaniu opublikowanej dziś rano. Model ogranicza się do ogólnej wiedzy zgromadzonej do dnia jego szkolenia; Nazywa się to „datą graniczną edukacji”. RAG (Retrieval-Augmented Generation) wypełnia dokładnie tę lukę: znajduje dokumenty firmy związane z pytaniem, podaje je modelowi jako kontekst (czyli dodatkowy tekst, który będzie czytał podczas tworzenia odpowiedzi) i generuje odpowiedź w oparciu o ten kontekst.

W tej jednostce wyraźnie zobaczymy, czym jest RAG, kiedy jest preferowana w stosunku do jakich alternatyw, a także etapy typowego rurociągu RAG. Wszystkie kolejne jednostki będą po kolei pogłębiać fragmenty tej mapy.

Podstawowa idea RAG: egzamin z otwartej książki

Wyjaśnijmy RAG jednym zdaniem: „Najpierw znajdź odpowiedni dokument, następnie poproś modelkę o przeczytanie tego dokumentu i wydrukowanie odpowiedniej odpowiedzi”.

Najbardziej użyteczną analogią jest następująca: RAG przenosi model z „egzaminu z zamkniętą księgą” do „egzaminu z księgą otwartą”. Na egzaminie zamkniętym student odpowiada wyłącznie z pamięci; Istnieje duże ryzyko, że zmyślisz coś, czego nie pamiętasz. Na egzaminie z otwartą książką student odpowiada, patrząc na umieszczone przed nim źródło. W RAG model nie odpowiada już z własnej pamięci, ale z aktualnego i konkretnego tekstu, który mu podajesz.

Punkt krytyczny: RAG nie zmienia wag modelu, czyli miliardów parametrów numerycznych, których nauczył się model. Nie szkolisz ponownie modelu. Dla każdego pytania wstawiasz do podpowiedzi fragmenty tekstu odnoszące się do tego pytania (tekst instrukcji wysyłany do modelu). Nie trzeba więc ponownie uczyć modelu po aktualizacji dokumentu; wystarczy odświeżyć odpowiedni rekord w bazie wyszukiwania.

Wskazówka: O jakości RAG decydują dwa pytania: (1) Czy znalazłeś właściwy dokument? (2) Czy model odczytał to poprawnie? Pierwsza to „jakość wyszukiwania”, druga to „jakość generowania”. Obydwa są mierzone i ulepszane oddzielnie.

RAG, dostrajanie czy długi kontekst?

Szukając rozwiązania problemu organizacyjnego, często mylone są trzy ścieżki. Wyjaśnijmy ich różnice. Dostrajanie polega na aktualizowaniu wag modelu za pomocą danych i uczeniu go nowego zachowania/stylu. Długi kontekst oznacza wypełnianie wszystkich dokumentów bezpośrednio w wierszu poleceń, bez żadnego wyboru.

Podejście

Co robi

Kiedy jest to właściwe?

Koszt/ryzyko

SZARA

Wstrzykuje odpowiedni dokument jako kontekst

Często zmieniające się, obszerne, szczegółowe informacje

Niski; łatwa aktualizacja, można podać źródło

Dostrajanie

Aktualizuje wagi o nowe dane

Naprawiono styl/format/nauczanie języka

Wysoki; Po każdej aktualizacji wymagane jest ponowne szkolenie

Tylko długi kontekst

Wypełnia wszystkie dokumenty w wierszu poleceń

Mały, stacjonarny zestaw dokumentów

Zwiększa się koszt symboliczny i ryzyko „utraty środkowej części”.

Zasada jest taka: Dostrajanie uczy modelkę mówić; RAG mówi modelowi, co ma wiedzieć. W większości scenariuszy korporacyjnych najpierw wypróbowuje się RAG, ponieważ jest tani, można go aktualizować i może pokazać źródło odpowiedzi. Długi kontekst jest uzasadniony, jeśli zestaw dokumentów jest naprawdę mały i stały (np. pojedynczy 20-stronicowy podręcznik); Jednak przy tysiącach stron jest to kosztowne i modelowi może brakować informacji w środku długiego tekstu.

Typowy rurociąg RAG

RAG składa się z dwóch głównych faz: indeksowania (przygotowanie, wykonywane jednorazowo lub okresowo) i wysyłania zapytań (działa na każde pytanie użytkownika).

Indeksowanie krok po kroku (offline, bez czekania użytkownika):

1. Zbieraj: Pobieraj dokumenty ze źródeł (PDF, wiki, system zgłoszeń, baza danych, e-mail).
2. Dzielenie na kawałki: Podziel długi tekst na mniejsze, łatwe do zarządzania fragmenty.
3. Osadź: Przekształć każdą część w osadzenie (wektor liczbowy, który niesie znaczenie tekstu).
4. Zapisz: Zapisz wektory wraz z tekstem i metadanymi (źródło, data, informacje o autoryzacji) do bazy wektorów.

Zapytanie krok po kroku (online, podczas oczekiwania):

1. Przekształć pytanie użytkownika w osadzenie.
2. Pobierz najbardziej podobne części z bazy wektorów.
3. Umieść te elementy + pytanie w szablonie podpowiedzi.
4. Uzyskaj odpowiedź kontekstową i jej źródła z modelu.

# Konceptualny zarys fazy zapytania (niezależny od języka)question = "Ile dni urlopu rocznego?"question_vektor = embed(question)parts = vektor_db.search(question_vektor, top_k=4) # najbardziej podobne partsprompt = f"""Odpowiedz na PYTANIE, korzystając z KONTEKTU poniżej. Jeśli odpowiedź nie jest w kontekście, powiedz: "Nie mam żadnych informacji na ten temat." Dopasowanie.CONTEXT:{części}PYTANIE: {pytanie}"""odpowiedź = model.uret(podpowiedź) # np. model: claude-opus-4-8

Ten flow to mapa każdego etapu, którą będziemy rozpakowywać po kolei w kolejnych jednostkach.

Słaba podpowiedź/silna podpowiedź

Nawet w tym samym kontekście RAG jakość podpowiedzi zmienia odpowiedź.

Słaby monit (otwarty na dopasowanie modelu, nie wymaga zasobów):

Skorzystaj z tych informacji i powiedz coroczny urlop: {części}. Pytanie: {pytanie}

Potężny monit (uziemienie + uprawnienie „Nie wiem” + żądanie zasobu):

Odpowiadaj wyłącznie w oparciu o KONTEKST poniżej. Jeśli w kontekście nie ma jasnej odpowiedzi, napisz „Nie mogłem znaleźć informacji na ten temat w dokumentacji”; Nie zgaduj. Dodaj tag [Source: file_name] fragmentu, na którym się opierasz, na końcu swojej odpowiedzi. KONTEKST: {sztuki} PYTANIE: {pytanie}

Trzy mini etui

Przypadek 1 – Asystent HR (Zasoby Ludzkie). Firma ma 340-stronicowy podręcznik HR, a pracownicy zadają średnio 90 pytań dziennie. Próbowano dostroić, ale ponieważ podręcznik był aktualizowany co miesiąc, za każdym razem konieczne było ponowne szkolenie; Koszt sięgał tysięcy dolarów miesięcznie. Po przejściu na RAG aktualizacja została zredukowana do kroku „ponownego indeksowania dokumentu” (minuty), a odsetek poprawnych odpowiedzi wzrósł z 71% do 93% przy pomiarze ręcznym.

Przypadek 2 – Obsługa klienta. Zespół pomocy technicznej ma 12 000 rozwiązanych zgłoszeń i 800 artykułów pomocy. Ręczne znalezienie odpowiedzi przedstawicielowi zajmuje średnio 4 minuty. Kiedy asystent RAG przyniósł 5 najbardziej odpowiednich zapisów i przygotował projekt odpowiedzi, czas skrócono do 40 sekund; Zespół zdał sobie jednak sprawę z ryzyka „wyglądania na niepewnego, przynosząc niewłaściwy artykuł” i wprowadził obowiązek podawania źródła.

Przypadek 3 – Prawo. Zespół wykonawczy zapytał „w jakich umowach klauzula poufności obowiązuje przez 5 lat?” – zadaje pytanie. W badaniu z długim kontekstem w jednym wierszu wypełniono 60 umów; modelka pominęła dwa środkowe kontrakty. Gdy w RAG wprowadzono tylko odpowiednie elementy, koszt tokena spadł o 80%, a brakujące pominięcia zostały zresetowane.

Dlaczego RAG jest potrzebny?

• Aktualność: Dostęp do informacji uzyskujesz po ostatecznym terminie szkolenia.
• Informacje specjalne: Twoje dokumenty wewnętrzne nie są uwzględniane w szkoleniu żadnego modelu; Tylko Ty możesz dać.
• Weryfikowalność: Możesz podać źródło odpowiedzi (cytat) – niezbędne do audytu i zaufania.
• Kontrola halucynacji: Opiera się na tekście umieszczonym przed nią, a nie na tworzeniu modelu.
• Koszt: Uruchomienie jest znacznie tańsze i szybsze niż dostrajanie.

Uwaga: RAG nie jest magią. Jeśli przyniesiesz niewłaściwy element, model uzyska złą odpowiedź, wyglądając na „pewnego siebie”. Należy pamiętać o wyrażeniu „Jakość wyszukiwania = jakość RAG”.

Typowe błędy

• Mylenie RAG z dostrojeniem: RAG nie zmienia ciężarów; To tylko dodaje kontekst. Pomieszanie tych dwóch doprowadzi do wyboru niewłaściwej architektury.
• Niedopuszczanie „Nie wiem”: Jeśli monit pozostawi modelowi swobodę wypełnienia pustego miejsca, zostanie to uzupełnione.
• Niecytowanie źródeł: Nie można sprawdzić odpowiedzi bez źródła; Użytkownik nie może zauważyć błędu.
• Umieszczenie wszystkiego w jednym podpowiedzi: długi kontekst wygląda tanio, ale jest drogi i pomija środkowe informacje.
• Utknięcie w generowaniu bez pomiaru odzysku: Jeśli odpowiedź jest zła, najpierw zapytaj: „Czy dotarła właściwa część?” należy zapytać.

Podsumowując

• RAG to podejście, które wstawia do modelu dokumenty istotne dla danego pytania jako kontekst; nie zmienia wag („egzamin z otwartą książką”).
• Dostrajanie uczy stylu/formatu, RAG podaje aktualne i konkretne informacje; długi kontekst działa dobrze w przypadku małych stałych zestawów. W większości scenariuszy najpierw wypróbowywana jest metoda RAG.
• Potok składa się z dwóch faz: indeksowanie offline (fragment + osadzanie + zapisywanie) i wysyłanie zapytań online (pobieranie + monit + generowanie).
• RAG zapewnia terminowość, konkretne informacje, sprawdzalność, kontrolę halucynacji i niski koszt.
• Jakość systemu zależy bezpośrednio od jakości wyszukiwania: zły fragment oznacza złą odpowiedź.

Zadanie aplikacji

Wybierz autentyczne źródło informacji od swojego zespołu (np. dokument proceduralny lub stronę z często zadawanymi pytaniami). (1) Napisz 5 pytań opartych na faktach na temat tego źródła. (2) Zanotuj, która część dokumentu zawiera poprawną odpowiedź na każde pytanie — stanie się to Twoją listą „złotych odpowiedzi”. (3) Korzystając z powyższego szablonu „silnego podpowiedzi”, ręcznie wklej odpowiednią sekcję jako kontekst i zapytaj modelkę. (4) Porównaj odpowiedź udzieloną przez model ze złotą odpowiedzią i zaznacz jako prawda/fałsz. To pierwsza manualna wersja oceny, którą zautomatyzujesz w przyszłych jednostkach.

lista kontrolna

• [ ] Mogę wyjaśnić jednym zdaniem, że RAG nie zmienia wag, a jedynie dodaje kontekst.
• [ ] Potrafię rozróżnić RAG, dostrajanie i długi kontekst oraz to, kiedy jest to właściwe.
• [ ] Potrafię policzyć fazy indeksowania (zbieranie, niszczenie, osadzanie, zapisywanie) i wykonywanie zapytań (osadzanie, pobieranie, monitowanie, generowanie) w odpowiedniej kolejności.
• [ ] Wiem, dlaczego dodałem instrukcje „jeśli nie jest to w kontekście, powiedz, że nie wiem” i „cytuj źródło” do zachęty.
• [ ] Potrafię dostosować zasadę „Jakość wyszukiwania = jakość RAG” do mojego własnego przypadku.