Datový model paměti AI asistenta ve firmě
Jak navrhnout paměť zákaznického asistenta jako řízenou datovou vrstvu? Schéma záznamů, platnost, mazání, role, logy a testy proti záměně zákazníků.

Datový model paměti AI asistenta rozhoduje o tom, zda zákaznický bot pracuje s ověřenou skutečností, nebo jen znovu vytahuje starou větu z chatu. Ve firmě nestačí připojit model k historii konverzací. Každý uložený údaj potřebuje vlastníka, účel, původ, platnost, přístupová pravidla a cestu ke smazání.
Paměť je proto vhodné navrhovat jako samostatnou datovou vrstvu. Model může navrhnout, co z konverzace stojí za uložení, ale o přijetí rozhoduje schéma a aplikační pravidla. Tím vznikne kontrolovatelný systém místo nekonečného archivu, ve kterém se míchají preference, interní dokumenty a osobní údaje.
Které vrstvy dat se nesmějí smíchat?
Oddělit je potřeba pracovní kontext, profil zákazníka a firemní znalosti. Každá vrstva odpovídá na jinou otázku a má jiný životní cyklus. Společný vektorový index bez filtrů sice zjednoduší první prototyp, ale v ostrém provozu zvyšuje riziko záměny účelu i příjemce.
Pracovní kontext patří konkrétní relaci. Obsahuje rozepsaný požadavek, vybranou variantu služby, předané podklady a mezivýsledky. Po uzavření úkolu se zahodí. Do profilu se z něj převede pouze schválený údaj, například zákazníkem potvrzený komunikační kanál.
Profil drží údaje navázané na osobu nebo firemní účet: ověřené preference, aktivní vztah ke službě a stav otevřeného případu. Není místem pro přístupové tokeny, hesla, celé platební údaje, volné psychologické soudy ani kopii všeho, co zákazník kdy napsal.
Znalostní báze obsahuje produkty, postupy, návody a smluvní podmínky. Dokument musí mít verzi, vlastníka, rozsah oprávnění a interval platnosti. Jak řídit vyhledávání nad firemními podklady popisuje také článek AI asistent nad firemními dokumenty: RAG bez rizika.
Jaké tabulky a pole potřebuje zákaznický asistent?
Základ tvoří CustomerAccount a Subject. První reprezentuje firmu nebo zákaznický účet, druhý konkrétní osobu. Každý dotaz i záznam nese tenant_id a subject_id, aby se oddělení zákazníků nevynucovalo jen textovou instrukcí pro model.
MemoryItem ukládá type, value, purpose, source, sensitivity, verification_status, valid_from, valid_until, reviewed_at a retention_policy. Dále potřebuje stav active, disputed, expired nebo deleted. Hodnota bez zdroje a účelu se nepřijme. Hodnota po konci platnosti se nesmí poslat do promptu jako aktuální údaj.
KnowledgeDocument drží content, version, owner, allowed_roles, valid_from a valid_until. ConversationSession obsahuje pouze dočasný kontext relace. ConsentRecord odděleně eviduje rozsah a případné odvolání souhlasu. AuditEvent zaznamenává aktéra, akci, cílový záznam, rozhodnutí a změněná pole.
Datový model paměti AI asistenta má podporovat opravu bez ztráty odpovědnosti. Nová ověřená adresa nahradí aktivní hodnotu, starý záznam dostane stav expired a zůstane jen v auditní historii. Vyhledávač jej při běžné odpovědi neuvidí. Pokud se zdroje rozcházejí, záznam přejde do stavu disputed a požadavek dostane člověk.
Kdy se údaj maže a kdy pouze zneplatní?
Rozhoduje účel, právní důvod a provozní potřeba, nikoli pohodlí modelu. GDPR mezi základní zásady řadí minimalizaci, přesnost a omezení uložení, jak uvádí článek 5 na EUR-Lex. Firma proto potřebuje retenční pravidlo pro každý typ záznamu, ne jeden interval pro celou databázi.
Dočasný kontext se odstraní po uzavření relace. Profilová preference se při změně nahradí a označí jako neplatná. Údaj bez dalšího účelu se smaže nebo anonymizuje. Auditní stopa má vlastní pravidla a nesmí sloužit jako skrytá náhradní paměť, ze které agent dál čerpá.
Mazání musí projít primární databází, cache, vyhledávacím indexem, odvozenými souhrny i exporty. Zálohy potřebují evidenci smazání, která se uplatní po obnově. Jinak se odstraněná hodnota může vrátit a znovu ovlivnit odpověď.
Stará informace škodí i bez úniku dat. Neplatný ceník může změnit nabídku, bývalý kontakt může dostat zprávu a ukončený souhlas může být použit pro další komunikaci. Proto se před načtením kontroluje valid_until, stav záznamu a priorita autoritativního zdroje.
Jak vynutit oprávnění, logování a lidskou kontrolu?
Oprávnění se aplikují ještě před podobnostním vyhledáváním. Dotaz se nejprve omezí podle tenant_id, subject_id, allowed_roles a purpose. Teprve nad povolenou množinou proběhne hledání relevantního obsahu. Samotná podobnost nesmí rozhodnout, co uživatel smí vidět.
Zápisová operace prochází validátorem povolených polí. Citlivé vzory se odmítnou nebo maskují a změna s dopadem na účet čeká na potvrzení oprávněné osoby. V custom systémech LucidMark je AI vrstvou, která čte, shrnuje a připravuje návrhy. Důležité změny potvrzuje člověk a systém je zaznamená.
Auditní log nemá kopírovat celé konverzace. Pro dohled obvykle potřebuje čas, aktéra, identifikátor akce, použitý zdroj, výsledek kontroly a změněná pole. Přístup k detailu logu se omezuje rolí. Rámec NIST AI RMF zasazuje podobná opatření do průběžného řízení a měření rizik.
Před odesláním citlivé odpovědi, změnou zákaznických dat nebo použitím sporného zdroje má následovat lidská kontrola. Nejasný případ se nesmí maskovat sebejistou formulací. Asistent má uvést nejistotu, ukázat zdroj a předat rozhodnutí pracovníkovi.
Jaké testy odhalí únik a zastaralou paměť?
Izolační test vytvoří dva zákazníky s podobnými dotazy a odlišnými tajnými hodnotami. Asistent zákazníka A nesmí vyhledat profil, dokument, relaci ani úryvek zákazníka B. Stejný test se opakuje pro uživatele bez potřebné role a pro prompt, který žádá export celé paměti.
Test zakázaného zápisu vloží do chatu heslo, token a instrukci k jejich trvalému uložení. Očekávaným výsledkem je odmítnutí, maskovaný log a žádný nový MemoryItem. Riziko zveřejnění citlivých informací popisuje také OWASP Sensitive Information Disclosure.
Test zastarání nejprve uloží hodnotu, potom ji nahradí ověřenou verzí. Agent smí použít pouze aktivní záznam. Další scénáře ověří dokument po konci platnosti, odvolaný souhlas, smazání z cache a indexu, konflikt dvou zdrojů a obnovu zálohy po dřívějším výmazu.
Nakonec je potřeba testovat i logy a exporty. Nesmějí obsahovat hesla, tokeny ani data mimo roli příjemce. Kontrolní sada se spouští po změně modelu, promptu, indexace, schématu nebo oprávnění. Paměť zákaznického asistenta je spolehlivá jen tehdy, když lze každý aktivní údaj vysvětlit, opravit a odstranit, aniž by se otevřela data jiného zákazníka.


