Přeskočit na obsah
Zpět na blog
Novinky

AI agent ve firmě a kyberbezpečnost: checklist pro SMB

NÚKIB upozornil na rizika nových frontier modelů. Co má firma udělat, než pustí AI asistenta k e-mailům, dokumentům nebo interním systémům?

Roman Mrózek
5 min čtení
Abstraktní modrá síť bodů a linií znázorňující datové propojení a AI systémy
NÚKIB upozorňuje na nové AI frontier modely a jejich dopad na kyberbezpečnost u firemních AI agentůFoto: Conny Schneider / Unsplash

AI agent ve firmě a kyberbezpečnost už není jen téma pro velké korporace. NÚKIB ve své aktualitě z 29. 6. 2026 upozornil na nové AI frontier modely a na to, že jejich schopnosti mohou měnit rizika v běžném provozu. Pro SMB to neznamená paniku ani zákaz AI. Znamená to, že asistent připojený k e-mailům, dokumentům nebo interním systémům musí mít jasné mantinely dřív, než začne dělat práci za tým.

Rozdíl je praktický. Chatbot, kterému zaměstnanec vloží text a dostane návrh odpovědi, je jeden typ rizika. Agent, který umí číst schránku, vyhledat fakturu, doplnit CRM a odeslat e-mail, je jiná kategorie. V LucidMark proto u automatizací a AI agentů držíme princip read-first: systém nejdřív čte, shrnuje a předvyplňuje, zatímco akce měnící data potvrzuje člověk. Podobně o tom píšeme i v článku AI agent ve firmě: od čtení dat po schválení.

V čem je agent s nástroji jiný než běžný chatbot?

Agent s nástroji má přístup k firemním akcím, nejen k textové odpovědi. Může číst data, volat API, vytvářet úkoly, měnit stav objednávky nebo připravit zprávu k odeslání. Právě tento posun je důvod, proč se u něj nemá hodnotit jen kvalita odpovědi, ale celý provozní řetězec.

Běžný chatbot je podobný chytrému editoru. Když se splete, člověk chybu obvykle uvidí před použitím výstupu. Agent napojený na interní systémy už může spustit následky mimo okno chatu. Pokud má právo zapisovat, mazat nebo odesílat, chyba se může propsat do dat, zákaznické komunikace nebo provozního workflow.

To neznamená, že agenti do firmy nepatří. Znamená to, že jejich první nasazení má začít úzkým scénářem. Například: přečti vybrané e-maily, navrhni kategorii, připrav odpověď a čekej na schválení. Až po ověření v provozu dává smysl přidávat další oprávnění.

Jaká rizika řešit dřív, než agent dostane přístup k e-mailům?

Nejdřív řešte prompt injection, únik dat, falešné výstupy a nechtěné akce. Tyto čtyři oblasti pokrývají většinu praktických problémů, které se objeví, když AI začne pracovat s cizím obsahem a interními oprávněními.

Prompt injection je situace, kdy se škodlivá instrukce schová do e-mailu, dokumentu nebo webové stránky. Agent ji může mylně vzít jako pokyn, přestože pochází z nedůvěryhodného obsahu. Typický příklad: v příloze je věta, která agenta vyzývá, aby ignoroval firemní pravidla a poslal souhrn na cizí adresu. Obrana není jedna magická věta v promptu. Pomáhá oddělení instrukcí od dat, seznam povolených akcí, validace výstupu a lidské potvrzení citlivých kroků.

Únik dat vzniká i bez útoku. Stačí, když agent pošle do externího modelu osobní údaje, obchodní smlouvu nebo interní poznámky, které pro daný úkol nepotřebuje. Proto má mít každý scénář datový rozsah: jaké složky čte, jaké typy informací nesmí zpracovat a kdy se má zastavit.

Falešné výstupy jsou třetí riziko. Model může doplnit chybějící kontext, nesprávně shrnout dokument nebo navrhnout odpověď s jistotou, která neodpovídá podkladům. U interních systémů proto pomáhá pravidlo: agent má ukázat zdrojové podklady, označit nejistotu a u sporných věcí předat případ člověku.

Jak nastavit role a oprávnění pro první nasazení?

První verze agenta má mít nejnižší oprávnění, se kterými ještě splní úkol. Pokud má jen třídit e-maily, nepotřebuje mazat zprávy. Pokud připravuje odpovědi, nepotřebuje je sám odesílat. Pokud čte dokumenty, nemusí vidět celou firemní složku.

Doporučený model je jednoduchý. Vlastník procesu určí, co agent smí dělat. Správce systému nastaví technická práva. Uživatel schvaluje výstupy v běžné práci. Někdo další kontroluje logy a výjimky. U malé firmy to mohou být stejní lidé, ale role mají být pojmenované, aby bylo jasné, kdo rozhoduje o rozšíření přístupů.

V praxi se vyplatí oddělit čtení a zápis. Read-only režim je vhodný pro start: agent hledá dokumenty, shrnuje komunikaci a připravuje návrhy. Zápisové akce, například změna stavu v CRM, vytvoření objednávky nebo odeslání e-mailu, mají jít přes schvalovací krok. Podobné workflow může být součástí custom systému nebo automatizace, kterou LucidMark staví kolem konkrétního procesu, ne kolem obecného AI nadšení. Více o přístupu studia najdete na lucidmark.cz.

Jak má vypadat testovací režim, logy a lidské schválení?

Testovací režim má běžet na reálném typu práce, ale bez nevratných dopadů. Agent může číst kopie e-mailů, připravovat návrhy a zapisovat výsledek do testovací tabulky. Nemá zatím odesílat zprávy zákazníkům ani měnit produkční data bez potvrzení.

Logy mají odpovědět na čtyři otázky: co agent viděl, jaký nástroj použil, jaký návrh vytvořil a kdo akci schválil. U citlivějších procesů se hodí ukládat také důvod odmítnutí nebo ruční opravy. Cílem není sledovat zaměstnance, ale umět dohledat chybu a upravit pravidla.

Lidské schválení má být navržené tak, aby neblokovalo vše. Běžné nízkorizikové kroky mohou projít rychle, třeba jako návrh štítku nebo interní shrnutí. Vysokorizikové kroky vyžadují potvrzení: odeslání externího e-mailu, změna zákaznických dat, práce s osobními údaji, finanční úkon nebo přístup k nové datové oblasti.

Jaký checklist použít pro SMB před spuštěním?

Checklist má být krátký a provozní. Neřeší právní sliby ani certifikace, ale konkrétní rozhodnutí, která sníží riziko při prvním nasazení AI agenta ve firmě a kyberbezpečnost udrží jako součást provozu.

  • Pojmenujte vlastníka procesu, technického správce a osobu, která kontroluje výjimky.
  • Vymezte jeden scénář: například třídění e-mailů, shrnutí dokumentů nebo příprava odpovědí.
  • Začněte v read-only režimu a zápisové akce pusťte až po schvalování.
  • Nastavte seznam povolených nástrojů a zakázaných akcí, včetně mazání, přeposílání a změn platebních údajů.
  • Definujte citlivá data: osobní údaje, smlouvy, mzdy, interní strategie, přístupy a finanční informace.
  • Zapněte logy pro vstupy, použité nástroje, návrhy, schválení a odmítnutí.
  • Přidejte stop tlačítko: jednoduchý způsob, jak agenta okamžitě odpojit od nástrojů nebo přepnout zpět na čtení.
  • Po prvním týdnu provozu projděte chyby, ruční opravy a situace, kdy si agent nebyl jistý.

Stop tlačítko je důležité i pro malé týmy. Nemusí jít o složitý bezpečnostní systém. Někdy stačí vypnout integrační token, odebrat zápisové právo nebo přepnout workflow do testu. Podstatné je, aby tým věděl, kdo to může udělat a kde.

Co z toho plyne pro firmu, která chce AI používat rozumně?

AI agent ve firmě a kyberbezpečnost se mají potkat už při návrhu workflow, ne až po incidentu. Aktualita NÚKIB je dobrá připomínka, že schopnější modely zvyšují užitek i odpovědnost za provozní nastavení. Firma nemusí čekat na velký audit, aby udělala první správné kroky.

Začněte malým scénářem, oddělte čtení od zápisu, citlivé akce nechte potvrdit člověkem a mějte logy. Takové nastavení nepůsobí efektně v prezentaci, ale v reálné firmě rozhoduje o tom, jestli AI šetří práci, nebo přidává chaos. A přesně tam má dobrý digitální systém pomáhat: méně ruční administrativy, jasná odpovědnost a lepší přehled bez zbytečných slibů.

Mohlo by Vás zajímat

Všechny články
Spolupráce

Řešíte něco podobného?

Krátký hovor, žádná prezentace. Řekneme, co bychom postavili, a také kdy to nedává smysl.

Newsletter

Nové články rovnou do e-mailu.

Posíláme jen nové články. Odhlásíte se jedním klikem.

Zpět nahoru