RAG (Retrieval-Augmented Generation, generowanie wspomagane wyszukiwaniem) to sposób budowy asystentów AI, w którym duży model językowy nie odpowiada wyłącznie na podstawie wiedzy z treningu, lecz najpierw otrzymuje fragmenty firmowych dokumentów dobrane do pytania. Dzięki temu może korzystać z procedur, umów czy instrukcji, których nigdy wcześniej nie widział, i wskazywać źródło odpowiedzi.
Jak to działa
- Przygotowanie bazy wiedzy – dokumenty (PDF, strony wiki, instrukcje stanowiskowe) dzieli się na fragmenty po kilkaset słów, a każdy fragment zamienia na wektor liczbowy (embedding) opisujący jego znaczenie. Wektory trafiają do bazy wektorowej.
- Wyszukanie – pytanie użytkownika także zamieniane jest na wektor, a system odnajduje kilka najbardziej podobnych fragmentów. Często łączy się to z klasycznym wyszukiwaniem po słowach kluczowych.
- Generowanie – model otrzymuje pytanie razem z odnalezionymi fragmentami oraz instrukcję, by odpowiadał tylko na ich podstawie i podawał źródło.
Aktualizacja wiedzy polega na dodaniu lub podmianie dokumentów w bazie, bez ponownego trenowania modelu. RAG ogranicza halucynacje, ale ich nie eliminuje – jakość odpowiedzi zależy od tego, czy wyszukiwanie trafi na właściwy fragment. W bardziej złożonych rozwiązaniach wyszukiwanie jest jednym z narzędzi, z których korzysta agent AI.
Przykład
Zakład produkcyjny z 320 instrukcjami stanowiskowymi i procedurami jakości miał problem z dostępem do wiedzy na drugiej i trzeciej zmianie, gdy technologów nie było na miejscu. Asystent oparty na RAG odpowiadał na pytania w rodzaju „jaki moment dokręcenia obowiązuje dla wariantu B na stanowisku 4” i podawał numer oraz wersję instrukcji. W pilotażu na 150 pytaniach testowych przygotowanych przez technologów 87% odpowiedzi oceniono jako poprawne i kompletne. W większości pozostałych przypadków przyczyną były nieaktualne dokumenty lub skany bez rozpoznanego tekstu. Uporządkowanie dokumentacji okazało się równie ważne jak sam model.
Najczęstsze błędy
- Załadowanie do bazy wszystkich dokumentów bez selekcji – stare wersje procedur konkurują z aktualnymi, a model cytuje nieobowiązujące zasady.
- Brak zestawu pytań testowych z oczekiwanymi odpowiedziami, przez co jakości nie da się zmierzyć ani porównać po zmianach.
- Pominięcie uprawnień – asystent nie powinien udostępniać fragmentów dokumentów, do których dany użytkownik nie ma dostępu.
Od czego zacząć
- Wybierz jeden obszar wiedzy z częstymi, powtarzalnymi pytaniami.
- Uporządkuj dokumenty źródłowe: aktualne wersje, właściciel, tekst możliwy do odczytu maszynowego.
- Przygotuj 50–100 pytań testowych z poprawnymi odpowiedziami.
- Zbuduj pilotaż i mierz trafność oraz odsetek odpowiedzi „nie wiem”. Rozwiązania tego typu powstają w ramach usługi Narzędzia AI na zamówienie.