Poradniki IT

Wdrożenie RAG i wyszukiwania semantycznego

Opracowanie: improveIT.pl

Jak zbudować asystenta, który odpowiada na podstawie dokumentów firmy.

Wdrożenie RAG i wyszukiwania semantycznego w firmie: jak działa, etapy, uprawnienia, jakość odpowiedzi i koszty. Poradnik improveIT z cenami netto.

W skrócie

RAG (retrieval-augmented generation) to sposób, w którym model językowy odpowiada na podstawie wyszukanych fragmentów dokumentów firmy, a nie tylko z własnej wiedzy. Wyszukiwanie semantyczne znajduje fragmenty po znaczeniu, nawet gdy pytanie używa innych słów niż dokument. Wdrożenie RAG w improveIT kosztuje 11 200–25 300 zł netto.

Jak działa RAG

Dokumenty dzielimy na fragmenty i zapisujemy w bazie wektorowej. Gdy użytkownik zadaje pytanie, system wyszukuje najbardziej pasujące fragmenty i przekazuje je modelowi razem z pytaniem. Odpowiedź zawiera odnośniki do źródeł.

  • Import i podział dokumentów
  • Wyszukiwanie semantyczne i słowne
  • Odpowiedź z cytatami źródeł
  • Kontrola uprawnień do dokumentów

Wyszukiwanie semantyczne bez czatu

Nie każda firma potrzebuje asystenta. Czasem wystarczy wyszukiwarka, która rozumie znaczenie zapytań i zwraca właściwe dokumenty, np. procedury, umowy albo karty produktów.

  • Szybsze odnajdywanie procedur i umów
  • Wyszukiwanie w wielu systemach naraz
  • Mniejsze koszty niż pełny asystent

Etapy wdrożenia

Pierwszy etap obejmuje jeden zbiór dokumentów i jedną grupę użytkowników.

  • Wybór dokumentów i właściciela treści
  • Uprawnienia: kto może zobaczyć który dokument
  • Budowa wyszukiwania i odpowiedzi
  • Testy na zestawie prawdziwych pytań
  • Pilotaż z użytkownikami i poprawki

Jak mierzyć jakość

Przed startem przygotuj kilkadziesiąt pytań z poprawnymi odpowiedziami. Na tym zestawie porównuj kolejne wersje systemu.

  • Czy właściwe dokumenty są w wynikach
  • Czy odpowiedź zgadza się ze źródłem
  • Czy system przyznaje, że nie zna odpowiedzi
  • Czas i koszt odpowiedzi

Najczęstsze błędy

Większość problemów wynika z danych, nie z modelu.

  • Nieaktualne lub zdublowane dokumenty
  • Brak kontroli uprawnień
  • Brak testowego zestawu pytań
  • Wrzucenie wszystkich dokumentów naraz zamiast pilotażu

FAQ

Czym RAG różni się od zwykłego ChatGPT?

ChatGPT odpowiada z wiedzy, na której był trenowany. RAG najpierw wyszukuje dokumenty firmy i odpowiada na ich podstawie, z odnośnikami do źródeł.

Czy RAG może działać na własnym serwerze?

Tak. Bazę dokumentów i model można uruchomić na infrastrukturze firmy, co jednak podnosi koszt wdrożenia i utrzymania.

Ile dokumentów potrzeba na start?

Wystarczy jeden dobrze utrzymany zbiór, np. procedury działu obsługi klienta. Lepiej zacząć od mniejszego, aktualnego zbioru niż od wszystkich plików firmy.

Ile kosztuje wdrożenie RAG?

W improveIT 11 200–25 300 zł netto za pierwszy etap, plus miesięczne koszty modelu i hostingu.