UseAIEasily Shop
UseAIEasily

Mi az a RAG? A saját dokumentumaidból válaszoló AI

Frissítve:

A RAG (retrieval augmented generation, magyarul kb. „visszakereséssel kiegészített szöveggenerálás”) olyan módszer, amelyben az AI válaszadás előtt kikeresi a kérdéshez illő részeket a saját dokumentumaidból, és azok alapján, forrásmegjelöléssel válaszol.

Röviden

  • A RAG 2 fázisból áll: egyszeri előkészítés (darabolás, beágyazás, tárolás) és minden kérdésnél keresés plusz válaszgenerálás.
  • A dokumentumokat jellemzően néhány száz tokenes darabokra vágják, és kérdésenként csak a legjobb 3-10 darab kerül a modell elé.
  • A modellt nem kell újratanítani: egy új szabályzat feltöltése után az AI percek alatt már abból válaszol.
  • A forrásmegjelölés miatt minden válasz visszakereshető, így a hallucináció könnyebben kiszűrhető.
  • Az ingyenes tanulási út „RAG közérthetően” leckéje kb. 3 perc alatt elmagyarázza az alapokat.

Ingyenes lecke: RAG közérthetően →

Miért kell a RAG?

Egy nyelvi modell (LLM) abból tud, amit a tanítása során látott. A cégeden belüli szabályzatokat, a webshopod aktuális szállítási feltételeit vagy a tegnapi árlistát nem ismeri. Ha mégis megkérdezed, jó eséllyel kitalál valamit, ez a hallucináció.

A RAG ezt úgy oldja meg, hogy nem a modellt tanítja újra, hanem minden kérdésnél elé teszi a releváns szövegrészeket. Olyan, mint egy nyílt könyves vizsga: a modellnek nem kell fejből tudnia a választ, elég, ha jól olvas és jól foglal össze.

Hogyan működik? A RAG pipeline lépései

Egy RAG rendszer két részből áll. Az előkészítés egyszer fut le (és minden dokumentumváltozásnál újra), a keresés és válaszadás pedig minden egyes kérdésnél.

  • Darabolás (chunking): a dokumentumokat kisebb, értelmes részekre vágod, például bekezdésekre vagy fejezetekre, jellemzően néhány száz tokenes darabokra, kis átfedéssel.
  • Beágyazás (embedding): minden darabból egy embedding modell számsort (vektort) készít, ami a szöveg jelentését írja le. A hasonló jelentésű szövegek vektorai közel esnek egymáshoz.
  • Vektoradatbázis: a vektorokat és a hozzájuk tartozó szöveget egy erre való adatbázisban tárolod, ahol gyorsan lehet hasonlóság alapján keresni.
  • Visszakeresés (retrieval): a felhasználó kérdését is vektorrá alakítod, és kikeresed a hozzá legközelebb álló darabokat. Sok rendszer ezt kulcsszavas kereséssel is kiegészíti.
  • Generálás: a kérdés és a talált darabok együtt kerülnek a modell elé, azzal az utasítással, hogy csak ezekből válaszoljon, és ha nem talál választ, mondja meg.
  • Forrásmegjelölés: a válasz mellé odaírod, melyik dokumentum melyik részéből származik, így a felhasználó ellenőrizni tudja.

Két magyar példa

Könyvelőiroda: van 40-50 belső szabályzat és munkautasítás PDF-ben, a kollégák pedig naponta kérdezik egymást, hogy „hogyan kell lekönyvelni a külföldi számlát” vagy „mi a határidő az ügyfélnek a bizonylatokra”. Egy RAG-os belső asszisztens kikeresi a megfelelő szabályzatrészt, válaszol, és megmutatja, melyik dokumentum hányadik pontjából idéz.

Webshop: a GYIK, a szállítási és visszaküldési feltételek meg a termékleírások kerülnek az adatbázisba. Az ügyfélszolgálati chatbot így pontosan azt mondja, ami az oldalon van, és ha a feltételek változnak, elég frissíteni a dokumentumot, nem kell újratanítani semmit.

RAG vs. finomhangolás (fine-tuning)

A finomhangolás a modell súlyait módosítja példák alapján. Arra jó, hogy a modell egy adott stílust, formátumot vagy feladattípust megtanuljon, például mindig a céged hangján írjon. Új, gyakran változó tények betöltésére kevésbé alkalmas: drágább frissíteni, és nem tudja megmondani, honnan vette az információt.

A RAG a tudást adja, a finomhangolás a viselkedést. A legtöbb céges „válaszoljon az AI a saját dokumentumainkból” igényre a RAG az első lépés, mert gyorsabb, olcsóbban frissíthető, és forrást is tud mutatni. A kettő kombinálható is.

Mi kell egy egyszerű RAG rendszerhez?

Egy kis, belső kísérlethez nem kell nagy infrastruktúra. Kell egy embedding modell, egy vektoradatbázis (vagy egy hagyományos adatbázis vektoros kiegészítéssel), egy nyelvi modell a válaszhoz, és egy kis kód vagy automatizáló workflow, ami ezeket összeköti. Sok csapat egy n8n workflow-val vagy pár száz sor kóddal kezd, néhány tucat dokumentummal.

A költség nagy része kérdésenként keletkezik: minél több darabot teszel a modell elé, annál több tokent fizetsz. Ezért éri meg pontosan keresni, és csak a valóban releváns részeket továbbadni, nem a fél dokumentumtárat. A kontextusablak mérete is korlát: ami nem fér bele, azt a modell nem látja.

Ha a rendszer már éles, ügyfelek vagy sok kolléga használja, akkor jön a komolyabb rész: jogosultságkezelés, naplózás, mérés, a dokumentumok automatikus frissítése. Ez már fejlesztői feladat, amit a DField Solutions is épít cégeknek.

Mire figyelj, ha RAG-ot építesz?

A RAG nem varázslat: a válasz annyira jó, amennyire a keresés jó.

  • Rossz darabolás rossz találatot ad: ha egy táblázatot vagy szabályt félbevágsz, a modell csak a felét látja.
  • Mérd a keresést külön: készíts 20-30 valódi kérdést a várt forrással, és nézd meg, megtalálja-e a rendszer a jó darabot.
  • Jogosultság: aki egy dokumentumot nem láthat, annak a RAG se idézzen belőle.
  • Személyes adat (név, adószám, bérlista) csak indokolt esetben, a GDPR-nak megfelelően kerüljön az adatbázisba.
  • A dokumentumokba rejtett utasítás (prompt injection) is bekerülhet a modell elé, ezért a forrásokat is kezeld óvatosan.

Gyakori kérdések

Mit jelent a RAG rövidítés?

Retrieval augmented generation, vagyis visszakereséssel kiegészített generálás. Az AI előbb kikeresi a releváns szövegrészeket a dokumentumaidból, aztán azok alapján válaszol.

Működik a RAG magyar nyelvű dokumentumokkal?

Igen. A mai többnyelvű embedding modellek és LLM-ek kezelik a magyar szöveget. Érdemes viszont magyar kérdésekkel tesztelni a keresést, mert a ragozás és a szinonimák miatt a találati pontosság eltérhet az angoltól.

RAG vagy fine-tuning: melyik kell nekem?

Ha az AI-nak a te dokumentumaidból kell válaszolnia, és ezek változnak, RAG kell. Ha egy stílust vagy formátumot kell következetesen hoznia, a finomhangolás segít. A legtöbb céges projekt RAG-gal indul.

Megszünteti a RAG a hallucinációt?

Nem szünteti meg, de jelentősen csökkenti, és ellenőrizhetővé teszi. A modell továbbra is félreolvashat egy forrást, ezért fontos a forrásmegjelölés és az utasítás, hogy ha nincs válasz, ezt mondja meg.

Kell programozni egy RAG rendszerhez?

Egy egyszerű változathoz nem feltétlenül: több no-code eszköz és automatizáló platform (például n8n) is tud dokumentumokból válaszolni. Éles, céges rendszerhez, jogosultságkezeléssel és méréssel, már fejlesztői munka kell.

Hol tanulhatom meg?

Az ingyenes tanulási út 6. egységének „RAG közérthetően” leckéje kb. 3 perc alatt elmagyarázza az alapokat. Mélyebben az „AI agentek és automatizált rendszerek” kurzus foglalkozik vele.

Tanuld meg a gyakorlatban

Fogalmak az AI fogalomtárból

Tovább olvasnál? A blogunkon

A UseAIEasily röviden

Mi ez?
Online AI tanfolyamok és ingyenes AI tanulási út magyarul, kezdőknek és munkához.
Ingyenes
AI tanulási út: 12 egység, 36 lecke, leckénként kb. 3 perc. Egyik leckéhez sem kell regisztráció. Ingyenes a sandbox és 8 demó lecke is.
Fizetős kurzusok
6 gyakorlati kurzus, összesen 90 írott lecke, 27 990 Ft és 39 990 Ft között, egyszeri áron, örökös hozzáféréssel.
Premium
9 990 Ft/hó (vagy 99 990 Ft/év): minden kurzus és sablon, amíg előfizetsz.
Nyelvek
Magyar (elsődleges), angol, német. A fizetős kurzusok magyarul érhetők el.
Ki készíti?
A DField Solutions, egy budapesti AI fejlesztőstúdió, amely éles AI rendszereket épít cégeknek.

DField SolutionsRólunk →