Přeskočit na obsah
Zpět na blog
Vývoj

AI Act v zákaznické podpoře: praktický standard

Jak rozlišit FAQ chatbot, interního asistenta a agenta s akcemi, co logovat, kdy zapojit člověka a jak nastavit minimální provozní standard bez compliance slibů.

Roman Mrózek
5 min čtení
Tmavý detail klávesnice a telefonu na pracovním stole
AI Act v zákaznické podpoře a provozní standard pro AI chaty, interní asistenty a agentyFoto: Donreál Lunkin / Unsplash

AI Act v zákaznické podpoře není důvod vypnout chaty a asistenty. Je to důvod přestat je provozovat jako černou skříňku. Když zákazník ví, kdy mluví s automatizací, tým vidí, co systém odpověděl, a nejisté případy přebírá člověk, vzniká praktický základ pro rozumný provoz bez velkých slibů.

Tenhle článek není právní návod. Je to provozní checklist pro firmy, které chtějí nasadit AI chat, interního asistenta nad dokumenty nebo agenta s akcemi a zároveň nepustit automatizaci dál, než kam patří. V LucidMark k tomu přistupujeme podobně jako u custom systémů: nejdřív mapa procesu, potom role, logy, potvrzení a teprve nakonec samotný model.

Co vlastně AI Act řeší v zákaznické podpoře?

AI Act stojí na risk-based rámci. Prakticky to znamená, že jinak se díváme na nástroj, který jen nabídne odpověď z FAQ, a jinak na systém, který může měnit objednávku, zapisovat do CRM nebo posílat závazné vyjádření zákazníkovi.

Pro běžnou zákaznickou podporu jsou důležité hlavně 3 otázky. Pozná zákazník, že komunikuje s automatizací? Umí systém předat nejistý případ člověku? A existuje záznam, podle kterého jde později zjistit, proč daná odpověď vznikla? Pokud odpověď zní ne, problém není jen v regulaci. Problém je v provozu.

Graf: Vybrané milníky AI Actu. Přehled vychází z textu nařízení EU 2024/1689 a informací Evropské komise. (Regulační milníky). 2024: 1; 2025: 1; 2026: 1
Data grafu
Vybrané milníky AI Actu
PoložkaRegulační milníky
20241
20251
20261

Jaký je rozdíl mezi FAQ chatbotem, interním asistentem a agentem?

FAQ chatbot odpovídá na omezený okruh dotazů. Typicky čte připravené odpovědi, stránku s podmínkami, kontakty, ceníkové vysvětlení nebo stavovou informaci, která se často opakuje. Jeho riziko je nižší, pokud zákazník jasně vidí, že jde o automatizaci, a chatbot neslibuje víc, než má ve znalostní bázi.

Interní asistent nad dokumenty je jiný případ. Neodpovídá zákazníkovi přímo, ale pomáhá pracovníkům podpory najít relevantní informace v návodech, smluvních šablonách, servisních postupech nebo interních pravidlech. Tady je klíčové oddělit návrh od finální odpovědi. Asistent může citovat dokument, shrnout varianty a připravit koncept, ale odeslání zůstává na člověku.

Agent s akcemi je nejcitlivější varianta. Umí spustit workflow, změnit stav případu, založit tiket, přepsat údaj v systému nebo poslat zprávu. Tady nestačí pěkné rozhraní. Potřebujete přístupová práva, audit log, omezení akcí a pravidlo, že zápis nebo odeslání proběhne až po potvrzení oprávněnou osobou. Podobný princip popisujeme i u tématu AI agent ve firmě: od čtení dat po schválení.

Kdy má zákazník vidět, že mluví s automatizací?

Zákazník to má vidět hned na začátku interakce. Ne až v patičce, ne až po chybě, ne až když se zeptá. Jednoduchá věta typu „Odpovídá automatizovaný asistent, složitější dotazy předáváme člověku“ udělá víc než dlouhé právní sdělení bez provozního významu.

Označení má být konkrétní. U FAQ chatu stačí říct, že odpovědi vycházejí z připravené znalostní báze. U interního asistenta je vhodné označit výstup jako návrh pro pracovníka podpory. U agenta s akcemi musí být jasné, které kroky jsou jen návrh a které mění data. AI Act v zákaznické podpoře tak v praxi začíná dobrým UX textem, ne právnickým odstavcem.

Na webu to lze řešit stejně pečlivě jako jiné důležité mikrotexty. Pokud stavíte nový portál, helpdesk nebo klientskou zónu, dává smysl zapracovat tyto prvky už do návrhu služby, ne je dolepit až po spuštění. Přístup LucidMark ke custom systémům najdete na lucidmark.cz.

Co má minimální provozní standard obsahovat?

Minimální standard má být krátký, vymahatelný a použitelný při incidentu. Pokud ho tým nedokáže vysvětlit během 10 minut, je pravděpodobně moc akademický. Začněte pěti pravidly.

  • Záznam promptu a odpovědi: ukládejte dotaz, odpověď, čas, použitý zdroj znalostí a identitu systému nebo uživatele, který akci provedl.
  • Fallback na člověka: definujte situace, kdy automatizace nesmí pokračovat sama, například reklamace, osobní údaje, právní formulace, finanční dopad nebo nízká jistota odpovědi.
  • Zákaz zápisu bez potvrzení: agent může připravit změnu v CRM, objednávce nebo tiketu, ale zápis potvrdí člověk, pokud nejde o předem schválenou nízkorizikovou akci.
  • Testovací scénáře: před spuštěním ověřte běžný dotaz, nejasný dotaz, útok prompt injection, žádost o citlivá data, nesprávný vstup a eskalaci na člověka.
  • Pravidla pro citlivá data: nastavte, co se do modelu neposílá, jak se maskují osobní údaje a kdo smí číst logy.

To je praktické minimum pro AI Act v zákaznické podpoře. Neříká, že jste hotovi s compliance. Říká, že provoz umíte zpětně zkontrolovat a že automatizace nemá volnou ruku tam, kde by měla rozhodovat odpovědná osoba.

Jak se liší logy, schvalování a přístup k datům podle typu nástroje?

U FAQ chatbotu logujte hlavně dotaz, odpověď, verzi znalostní báze a eskalaci. Přístup k datům má být úzký. Chatbot nepotřebuje číst celé CRM, když má odpovídat na otevírací dobu, dopravu nebo obecný postup reklamace.

U interního asistenta logujte i citované dokumenty a uživatele, který návrh použil. Přístup řešte podle rolí. Pracovník podpory nemá automaticky vidět dokumenty pro finance nebo HR jen proto, že je umí přečíst model. Důležité výstupy označte jako návrh, aby se neztratila hranice mezi pomocí a rozhodnutím.

U agenta s akcemi přidejte log plánované akce, schvalovatele, výsledek a případný rollback postup. Pokud agent zakládá tiket, může to být automatické. Pokud mění adresu, ruší službu, posílá citlivé údaje nebo upravuje platbu, potvrzení člověkem je rozumná brzda. Bezpečně v tomhle kontextu znamená read-first režim, omezené role, potvrzení zápisů a audit logy.

Jak začít bez velkého projektu?

Začněte jedním procesem, ne celým helpdeskem. Vyberte 20 až 30 opakovaných dotazů, napište povolené zdroje odpovědí a určete situace, které půjdou rovnou na člověka. Pak teprve řešte, jestli stačí FAQ chatbot, interní asistent, nebo agent s omezenými akcemi.

Dobrý pilot má vlastní testovací sadu. Obsahuje běžné dotazy, hraniční případy, pokusy o obejití pravidel a dotazy s osobními údaji. Po každé změně znalostní báze nebo promptu se sada spustí znovu. Ne kvůli dojmu, ale kvůli tomu, aby se tým mohl podívat, jestli se chování systému nezhoršilo.

U interních systémů se vyplatí začít read-first režimem. AI čte, shrnuje a navrhuje, ale nepíše do produkčních dat. Až když jsou logy, role, testy a eskalace stabilní, dává smysl povolit vybrané akce. To je méně efektní prezentace, ale výrazně lepší provozní realita.

Závěr: co si odnést?

AI Act v zákaznické podpoře se dá uchopit prakticky: označit automatizaci, držet člověka u nejistých a citlivých případů, logovat dotaz i odpověď a nepouštět zápisové akce bez potvrzení. FAQ chatbot, interní asistent a agent s akcemi nejsou stejný nástroj. Každý potřebuje jinou míru kontroly.

Firma, která si ten rozdíl ujasní před nasazením, získá lepší podporu i méně provozního chaosu. A hlavně nebude stavět řešení na víře, že model vždy pozná hranici. Hranice má být v procesu, právech, logu a lidském schválení.

Mohlo by Vás zajímat

Všechny články
Spolupráce

Řešíte něco podobného?

Krátký hovor, žádná prezentace. Řekneme, co bychom postavili, a také kdy to nedává smysl.

Newsletter

Nové články rovnou do e-mailu.

Posíláme jen nové články. Odhlásíte se jedním klikem.

Zpět nahoru