RAG költségei magyar adatbázisokon — részletes breakdown
Írta Dezső Mező
AI architekt, a DField Solutions alapítója (UseAIEasily)
· 7 perc olvasás
Frissítve:
"Mennyibe kerül?" — a leggyakoribb kérdés, amit RAG-projektek előtt kapunk. A válasz: az adat mérete, a forgalom és a compliance igény függvényében évi €2.000-tól €50.000-ig terjedhet a futóköltség. Itt a konkrét breakdown.
1. Embedding költség (egyszeri + inkrementális)
OpenAI text-embedding-3-large: $0,13 / 1M token. Egy 10.000 dokumentumos magyar archívum ~8M token = ~$1 egyszeri költség. Inkrementális (havi 200 új doc) ~$0,03/hó. Open-source BGE-m3 self-host: 0 API költség, de szerver €20-50/hó.
2. Vector DB
Pinecone managed: ingyenes Starter szint (2 GB tárhely, egy régió), $20/hó Builder csomag, a Standard $50/hó, az Enterprise (99,95% SLA) $500/hó minimális díjjal, felette használat alapú elszámolással. Qdrant self-host: €30-100/hó (pl. Hetzner vagy más EU-s szerver). pgvector Postgres-ben: 0 extra költség, ha már van Postgres. Kisebb projekteknél pgvector a legolcsóbb; nagyoknál Pinecone managed SaaS.
3. LLM API
A legnagyobb változó költség. Claude Sonnet 4.6: $3/M input, $15/M output. Havi 10.000 lekérdezés (5k token input, 500 token output átlag) = $150 input + $75 output = ~$225/hó; az újabb Claude Sonnet 5.5-tel ($2 / $10) ugyanez ~$150/hó. A prompt caching az ismétlődő kontextus (pl. system prompt) költségét akár 90%-kal csökkenti, mert a cache-ből olvasott token az alapár töredéke. Ha a minőség elég, a kis modellek (pl. GPT-4o-mini, Claude Haiku 5.5) több mint 20x olcsóbbak.
4. Re-ranker (opcionális, de erősen ajánlott)
Cohere Rerank: kb. $2 / 1000 keresés (egy keresés = egy lekérdezés legfeljebb 100 dokumentummal). Havi 10.000 keresésnél ~$20/hó. BGE-reranker self-host: 0 API költség; kis forgalomnál egy CPU-s felhőszerveren is elfut, nagyobb forgalomhoz viszont GPU kell, ami drágább. Re-ranker 18-25%-kal javítja a RAG pontosságot, így mindig beéri.
5. Monitoring és audit
LangSmith: ingyenes Developer szint (1 fő, havi 5.000 trace), csapatoknak a Plus csomag $39/fő/hó. Langfuse self-host: ingyen, €20 szerver. Banki / egészségügyi projekteknél kötelező — nem ez az a pénz, amin spórolni kell.
Teljes havi költség, 3 méretkategóriára
- Kis RAG (5k dokumentum, havi 3k kérés): €150-250/hó (Pinecone + OpenAI API + LangSmith)
- Közepes RAG (50k dokumentum, havi 15k kérés): €600-1200/hó (+ re-ranker + többszörös API call)
- Enterprise RAG (500k dokumentum, havi 100k kérés): €3.000-8.000/hó (+ EU self-host + SLA + audit)