KRÓTKA ODPOWIEDŹ
RAG (retrieval-augmented generation) to sposób łączenia modelu językowego z własnymi dokumentami. Dokumenty są dzielone na fragmenty, zamieniane na wektory i zapisywane w bazie; przy pytaniu system wyszukuje najbardziej pasujące fragmenty i dopiero one trafiają do modelu jako kontekst. Dzięki temu odpowiedzi opierają się na treści firmy i można podać źródło. RAG ma sens tam, gdzie wiedza jest rozsypana po plikach i często się zmienia.
- Model nie jest douczany — dokumenty są doklejane do pytania jako kontekst.
- Każda odpowiedź może wskazywać plik i fragment, z którego pochodzi.
- Aktualizacja wiedzy to podmiana pliku, nie kolejne trenowanie.
- Jakość odpowiedzi zależy głównie od jakości i podziału dokumentów.
- Uprawnienia trzeba wymusić przy wyszukiwaniu, nie w treści promptu.
Po ludzku: co się dzieje pod spodem
Wyobraź sobie asystenta, który przed odpowiedzią biegnie do segregatora, wyciąga dwie właściwe strony i dopiero na ich podstawie mówi. Tym właśnie jest RAG: wyszukiwarką doklejoną do modelu.
Model sam z siebie nie zna Twojego cennika z zeszłego tygodnia. Ale jeśli dostanie akurat tę stronę cennika, odpowie poprawnie i wskaże, skąd to ma.
Kiedy to się opłaca
Opłaca się, gdy ludzie w firmie tracą czas na szukanie: warunki gwarancji, procedura reklamacji, stawka dla konkretnego klienta, instrukcja do maszyny. Jeden asystent zamiast pięciu pytań na Slacku.
Nie opłaca się, gdy dokumentów jest dziesięć i wszystkie mieszczą się w jednym PDF-ie. Wtedy wystarczy dobry wyszukiwacz albo zwykła strona z FAQ.
Gdzie to się wykłada
Najczęstszy problem to bałagan w plikach: trzy wersje cennika, dwa foldery „ostateczne”, skany bez tekstu. Asystent nie posprząta tego za Ciebie — powtórzy bałagan, tylko szybciej.
Drugi problem to uprawnienia. Jeśli wszyscy pytają ten sam indeks, ktoś w końcu wyciągnie umowę, której nie powinien widzieć. Filtr musi działać na etapie wyszukiwania.
Jak zacząć małym kosztem
Wybierz jeden zestaw dokumentów i jedno pytanie, które pada codziennie. Zrób asystenta tylko na to, przez tydzień, i policz zaoszczędzony czas. Rozszerzysz go później — albo wyrzucisz bez żalu.