AI asistent nad firemními dokumenty: RAG bez rizika

AI asistent nad firemními dokumenty dává největší smysl tam, kde obchod a podpora denně hledají stejné odpovědi v cenících, návodech, smluvních podmínkách a interních postupech. Cílem není pustit robota k zákazníkovi bez kontroly, ale dát týmu rychlý pracovní nástroj, který odpovídá z ověřených zdrojů, ukáže citaci a nejisté nebo citlivé případy předá člověku.

Takový systém se obvykle staví jako RAG, tedy vyhledání relevantního dokumentu a teprve potom návrh odpovědi. V praxi to znamená, že model nevymýšlí obchodní podmínky z paměti, ale pracuje s verzovaným obsahem firmy. LucidMark podobné systémy chápe jako vrstvu nad procesem, ne jako samostatnou atrakci. Důležité akce měnící data má potvrdit člověk a mají zůstat dohledatelné v logu.

Kdy se vyplatí AI asistent nad firemními dokumenty?

Vyplatí se ve chvíli, kdy má tým dost znalostí, ale jsou rozeseté v souborech, e-mailech a hlavách lidí. Pokud obchodník hledá aktuální cenu, podpora ověřuje postup reklamace a vedení chce sjednotit tón odpovědí, AI asistent nad firemními dokumenty může dát rychlejší první návrh bez toho, aby převzal odpovědnost za finální sdělení.

Typický obsah znalostní báze tvoří ceníky, produktové listy, návody, často kladené dotazy, obchodní podmínky, interní postupy a šablony odpovědí. Pro firmy, které už řeší AI agenta ve firmě od čtení dat po schválení, je to přirozený další krok: nejprve číst a navrhovat, teprve později po jasném schválení zapisovat do CRM, helpdesku nebo objednávek.

Dobrý kandidát na první verzi je interní asistent pro obchod. Obchodník se ptá: Jaké jsou podmínky služby? Co je zahrnuto v balíčku? Jak odpovědět na námitku ke smlouvě? Systém vrátí návrh, odkáže na konkrétní dokument a zvýrazní, z čeho vychází. Pokud odpověď zasahuje do ceny, slevy nebo smluvního závazku, zůstane jako koncept pro člověka.

Jak funguje RAG nad ceníky, návody a podmínkami?

RAG funguje tak, že systém nejdřív najde relevantní části firemních dokumentů a až potom z nich složí odpověď. Rozdíl proti běžnému chatu je v tom, že odpověď má být navázaná na konkrétní zdroj, například ceník s datem platnosti, článek nápovědy nebo odstavec obchodních podmínek.

Technicky se dokumenty rozdělí na menší části, uloží se s metadaty a při dotazu se vyberou nejpodobnější pasáže. Metadata jsou důležitá: typ dokumentu, verze, vlastník, datum platnosti, jazyk, oddělení a úroveň důvěrnosti. Bez nich asistent nepozná, že starý ceník patří jen do archivu nebo že interní poznámka nemá být podkladem pro zákaznickou odpověď.

Každá odpověď by měla mít citace. Ne jako dekoraci, ale jako pracovní kontrolu. Uživatel vidí, z jakého dokumentu návrh vychází, a může rychle posoudit, jestli zdroj sedí. Tento princip dobře zapadá do doporučení NIST AI Risk Management Framework, který klade důraz na řízení rizik, měřitelnost a správu AI systémů v kontextu konkrétní organizace.

Proč nezačínat automatickým posíláním odpovědí zákazníkům?

Protože největší hodnota je často už v interním návrhu. Read-first režim znamená, že AI smí číst vybrané dokumenty, shrnovat je a připravit návrh odpovědi, ale sama neposílá e-mail, nemění cenu, nevytváří závazek a nepřepisuje zákaznická data.

Tento přístup řeší dvě praktické věci. První je kvalita zdrojů: firma teprve zjistí, kde má neaktuální návody, duplicitní ceníky nebo chybějící odpovědi. Druhá je odpovědnost: obchodník nebo specialista podpory vidí návrh, ověří citaci a rozhodne, jestli odpověď pošle, upraví nebo zahodí.

Read-first režim je také konkrétní odpověď na slovo bezpečně. Neznamená slib bez rizika. Znamená omezená oprávnění, lidské potvrzení zápisových akcí, role podle týmu a audit log. U citlivých dotazů může systém zobrazit varování, například: tato odpověď vychází ze smluvních podmínek, před odesláním ji musí schválit odpovědná osoba.

Jak do toho zapadá AI Act gramotnost a správa dat?

AI Act není jen téma pro právní oddělení. Regulation (EU) 2024/1689 zavádí v článku 4 povinnost AI gramotnosti pro poskytovatele a nasazovatele AI systémů. Pro běžnou firmu to prakticky znamená, že lidé mají chápat, co nástroj dělá, kde jsou jeho limity a kdy má být zapojen člověk.

U znalostního asistenta se AI gramotnost promítá do jednoduchých pravidel: odpověď bez citace není dostatečný podklad, starý dokument má nižší důvěru, cenová výjimka vyžaduje schválení a zákaznická komunikace se neposílá bez kontroly. Tato pravidla by měla být vidět přímo v rozhraní, ne schovaná v prezentaci ze školení.

Správa dat je stejně důležitá jako model. Firma potřebuje vědět, kdo dokument přidal, kdo ho schválil, kdy přestal platit a pro jaký tým je určený. Pokud se do znalostní báze nahraje starý návrh smlouvy nebo neoficiální tabulka se slevami, asistent bude pracovat se špatným materiálem. Provozní kvalita tedy začíná u dokumentového pořádku.

Pozornost si zaslouží i bezpečnostní rizika popsaná v OWASP Top 10 for Large Language Model Applications. U interních asistentů je podstatné bránit prompt injection v dokumentech, oddělovat oprávnění uživatelů a nepředávat modelu víc dat, než konkrétní úkol potřebuje.

Jak vypadá příklad z praxe bez vymyšlených čísel?

Dobře se to ukazuje na projektu typu Plavání / Vodníček, kde rezervace, platby a kapacity nejsou jen webová stránka, ale provozní systém. Stejná logika platí pro znalostního asistenta: pokud tým řeší dotazy ke kurzům, kapacitám, postupu přihlášení a platbám, odpovědi nemají vznikat z volného chatu. Mají vycházet z aktuálních pravidel a z dat, která systém opravdu zná.

V takovém scénáři by interní asistent mohl pracovníkovi podpory připravit návrh odpovědi: shrnout stav přihlášky, odkázat na platný postup a upozornit, že změna rezervace vyžaduje potvrzení v systému. Přínos není v tom, že by se slíbila automatická náhrada člověka. Přínos je v menším přepínání mezi dokumenty, jednotnější práci se zdroji a jasnějším předání sporných případů odpovědné osobě.

LucidMark k podobným systémům přistupuje stejně jako k webům a custom workflow: nejdřív se mapuje reálný proces, role, data a vlastnictví účtů. Teprve potom se navrhuje rozhraní a automatizace. Pokud firma začíná od modelu místo od procesu, často jen rychleji rozšíří nepořádek, který už v dokumentech má.

Jak začít bez velkého rizika a bez chaosu?

Začněte malým výsekem. Vyberte jeden tým, jednu agendu a omezenou sadu dokumentů. Například obchodní dotazy k jedné službě nebo podporu pro nejčastější postupy. Ke každému dokumentu určete vlastníka, platnost a úroveň důvěrnosti. Potom nastavte odpovědi s citacemi a povinné schválení u situací, které se dotýkají ceny, právních podmínek nebo osobních údajů.

První verze nemusí zapisovat do CRM ani odesílat e-maily. Stačí, když umí najít správnou pasáž, navrhnout odpověď a uložit stopu: kdo se ptal, z jakých dokumentů asistent čerpal, jaký návrh vznikl a kdo ho schválil. Audit log není formalita. Je to způsob, jak po týdnech zjistit, proč tým odpověděl tak, jak odpověděl.

Pokud už firma řeší širší digitalizaci, dává smysl spojit znalostního asistenta s návrhem webu, portálu nebo interního systému. Na lucidmark.cz je tento přístup vidět v důrazu na prémiové weby, custom systémy a automatizace, které mají oporu v reálném provozu, ne v samotném trendu.

AI asistent nad firemními dokumenty má být nejdřív spolehlivý pracovní kompas pro tým. Když ukazuje zdroj, respektuje role, drží read-first režim a nechává člověka schválit citlivé odpovědi, může zrychlit obchod i podporu bez toho, aby firma ztratila kontrolu nad tím, co zákazníkovi opravdu říká.