RAG v praxi: jak dát jazykovému modelu firemní data, aniž by je viděl celý internet
2. 6. 2026 · David Sak · 6 minut čtení
Nejčastější obava, kterou na konzultacích slyším: „Nechceme, aby se ChatGPT učil z našich smluv." Oprávněná, a přesně kvůli ní existuje architektura RAG, retrieval-augmented generation. Tenhle text vysvětluje, jak funguje, bez akademického balastu.
Základní princip: model nic neví, model čte
RAG odděluje dvě věci, které se v debatách o AI pletou dohromady: znalosti a schopnost formulovat. Jazykový model dodává to druhé. Znalosti zůstávají ve vašich dokumentech, a k modelu se dostanou až v momentě konkrétního dotazu, jako pár relevantních odstavců přiložených k otázce.
Analogie: nezaměstnáváte vševědoucího experta. Zaměstnáváte výborného asistenta, který umí bleskově najít správnou stránku ve vašem archivu a srozumitelně ji převyprávět. Archiv zůstává váš.
Co se kde ukládá
- Vaše dokumenty se rozdělí na významové bloky (odstavce, články směrnic) a každý blok dostane číselný otisk, embedding. Bloky i otisky leží ve vektorové databázi ve vaší infrastruktuře.
- Dotaz uživatele se převede na stejný typ otisku a databáze najde nejpodobnější bloky, typicky jednotky odstavců, ne celé dokumenty.
- Jazykový model dostane dotaz plus nalezené bloky a složí odpověď. U API bez retence dat se po odpovědi nic neukládá; u open-source modelu ve vašem cloudu data neopustí firmu vůbec.
Proč model na vašich datech netrénuje
Trénování znamená měnit váhy modelu podle dat, to se v RAG nasazení neděje. Dokumenty procházejí modelem jen jako vstup při konkrétním dotazu, stejně jako když text vložíte do překladače. Smluvně to jistí API režimy bez retence (zero data retention), technicky pak privátní nasazení, kde model běží na vašem železe.
Citace: rozdíl mezi hračkou a nástrojem
Dobře postavený RAG systém u každé odpovědi uvádí, ze kterého dokumentu a odstavce čerpal. To má dva důsledky. Zaprvé auditovatelnost, compliance oddělení vidí, odkud tvrzení pochází. Zadruhé pokoru systému: když retrieval nenajde oporu v dokumentech, systém odpoví „nevím, v podkladech to není" místo halucinace. Přesně tohle odlišuje nástroj, na který se dá spolehnout, od dema na poradě.
Na co si dát pozor
- Přístupová práva. Vektorová databáze musí respektovat oprávnění, kdo nesmí číst dokument, nesmí dostat ani odpověď z něj složenou.
- Kvalita podkladů. RAG zrcadlí vaše dokumenty. Zastaralá směrnice znamená zastaralou odpověď, součástí nasazení má být proces aktualizace.
- Vyhodnocení. Před ostrým provozem chtějte vyhodnocovací sadu z reálných dotazů a měřenou přesnost, ne demo na pěti otázkách.
RAG dnes považuju za výchozí architekturu pro AI nad firemními znalostmi, bezpečnostně i ekonomicky. Trénovat vlastní model dává smysl až ve chvíli, kdy RAG prokazatelně nestačí, což je u interních znalostních systémů výjimka, ne pravidlo.