Poradniki IT
Wdrożenie RAG i wyszukiwania semantycznego
Opracowanie: improveIT.pl
Jak zbudować asystenta, który odpowiada na podstawie dokumentów firmy.
Wdrożenie RAG i wyszukiwania semantycznego w firmie: jak działa, etapy, uprawnienia, jakość odpowiedzi i koszty. Poradnik improveIT z cenami netto.
RAG (retrieval-augmented generation) to sposób, w którym model językowy odpowiada na podstawie wyszukanych fragmentów dokumentów firmy, a nie tylko z własnej wiedzy. Wyszukiwanie semantyczne znajduje fragmenty po znaczeniu, nawet gdy pytanie używa innych słów niż dokument. Wdrożenie RAG w improveIT kosztuje 11 200–25 300 zł netto.
Jak działa RAG
Dokumenty dzielimy na fragmenty i zapisujemy w bazie wektorowej. Gdy użytkownik zadaje pytanie, system wyszukuje najbardziej pasujące fragmenty i przekazuje je modelowi razem z pytaniem. Odpowiedź zawiera odnośniki do źródeł.
- Import i podział dokumentów
- Wyszukiwanie semantyczne i słowne
- Odpowiedź z cytatami źródeł
- Kontrola uprawnień do dokumentów
Wyszukiwanie semantyczne bez czatu
Nie każda firma potrzebuje asystenta. Czasem wystarczy wyszukiwarka, która rozumie znaczenie zapytań i zwraca właściwe dokumenty, np. procedury, umowy albo karty produktów.
- Szybsze odnajdywanie procedur i umów
- Wyszukiwanie w wielu systemach naraz
- Mniejsze koszty niż pełny asystent
Etapy wdrożenia
Pierwszy etap obejmuje jeden zbiór dokumentów i jedną grupę użytkowników.
- Wybór dokumentów i właściciela treści
- Uprawnienia: kto może zobaczyć który dokument
- Budowa wyszukiwania i odpowiedzi
- Testy na zestawie prawdziwych pytań
- Pilotaż z użytkownikami i poprawki
Jak mierzyć jakość
Przed startem przygotuj kilkadziesiąt pytań z poprawnymi odpowiedziami. Na tym zestawie porównuj kolejne wersje systemu.
- Czy właściwe dokumenty są w wynikach
- Czy odpowiedź zgadza się ze źródłem
- Czy system przyznaje, że nie zna odpowiedzi
- Czas i koszt odpowiedzi
Najczęstsze błędy
Większość problemów wynika z danych, nie z modelu.
- Nieaktualne lub zdublowane dokumenty
- Brak kontroli uprawnień
- Brak testowego zestawu pytań
- Wrzucenie wszystkich dokumentów naraz zamiast pilotażu
FAQ
Czym RAG różni się od zwykłego ChatGPT?
ChatGPT odpowiada z wiedzy, na której był trenowany. RAG najpierw wyszukuje dokumenty firmy i odpowiada na ich podstawie, z odnośnikami do źródeł.
Czy RAG może działać na własnym serwerze?
Tak. Bazę dokumentów i model można uruchomić na infrastrukturze firmy, co jednak podnosi koszt wdrożenia i utrzymania.
Ile dokumentów potrzeba na start?
Wystarczy jeden dobrze utrzymany zbiór, np. procedury działu obsługi klienta. Lepiej zacząć od mniejszego, aktualnego zbioru niż od wszystkich plików firmy.
Ile kosztuje wdrożenie RAG?
W improveIT 11 200–25 300 zł netto za pierwszy etap, plus miesięczne koszty modelu i hostingu.