A kihívás
Egy vállalkozás belső tudásbázisa általában szétszórtan létezik: Google Docs-ban, PDF-ekben, email szálakban, Slack üzenetekben. Amikor egy ügyfél kérdez, a csapatnak perceket kell töltenie a válasz megkeresésével.
A megoldás
Felépítettünk egy RAG (Retrieval-Augmented Generation) chatbotot, ami a cég saját dokumentumaiból dolgozik.
Tudásbázis feltöltés
A cég dokumentumait feldolgozzuk és vektorizáljuk Supabase pgvector segítségével. A rendszer értelmezi a szöveget, feldarabolja releváns részekre, és eltárolja úgy, hogy később hatékonyan lehessen keresni benne.
Kérdés feldolgozás
Amikor valaki kérdést tesz fel:
- A rendszer megkeresi a releváns dokumentumrészleteket a vektoros adatbázisból
- Az OpenAI API a megtalált kontextus alapján generálja a választ
- A válasz tartalmazza a forrás megjelölést, hogy ellenőrizhető legyen
Miért nem hallucinál
A RAG rendszer lényege, hogy az AI nem a saját tudásából válaszol, hanem kizárólag a megadott dokumentumokból. Ha nincs releváns információ, azt mondja, hogy nem tudja a választ.
Az eredmény
Az ügyfélszolgálat válaszideje töredékére csökkent. A leggyakoribb kérdésekre a chatbot azonnal válaszol, a komplexebb eseteket pedig a megfelelő kontextussal adja tovább a csapatnak.