---
title: "AI jailbreak rámec: jak hodnotit riziko u firemních agentů"
description: "Nový návrh Anthropicu ukazuje, že AI jailbreaky potřebují jasné hodnocení závažnosti. Co si z toho vzít při nasazování firemních agentů?"
url: "https://blog.lucidmark.cz/blog/ai-jailbreak-ramec-hodnoceni-rizika-firemni-agenti"
language: "cs"
author: "Roman Mrózek"
author_url: "https://blog.lucidmark.cz/autor/romanmrozek"
publisher: "LucidMark s.r.o."
date_published: "2026-07-01T16:51:26.257Z"
date_modified: "2026-07-01T16:51:26.201Z"
category: "Novinky"
reading_time_minutes: 5
sources:
  - title: "Anthropic: Redeploying Fable 5"
    url: "https://www.anthropic.com/news/redeploying-fable-5"
  - title: "Anthropic: Claude Fable 5 and Mythos 5"
    url: "https://www.anthropic.com/news/claude-fable-5-mythos-5"
  - title: "NIST CAISI: Center for AI Standards and Innovation"
    url: "https://www.nist.gov/caisi"
  - title: "FIRST: Common Vulnerability Scoring System"
    url: "https://www.first.org/cvss/"
---

# AI jailbreak rámec: jak hodnotit riziko u firemních agentů

> Nový návrh Anthropicu ukazuje, že AI jailbreaky potřebují jasné hodnocení závažnosti. Co si z toho vzít při nasazování firemních agentů?

Autor: Roman Mrózek | Publikováno: 1. 7. 2026 | Kategorie: [Novinky](https://blog.lucidmark.cz/kategorie/novinky)  
Původní článek: https://blog.lucidmark.cz/blog/ai-jailbreak-ramec-hodnoceni-rizika-firemni-agenti

AI jailbreak rámec přestává být akademické téma. Anthropic při obnovení přístupu k modelu Claude Fable 5 popsal, že chce společně s Amazonem, Microsoftem, Googlem a dalšími partnery vytvořit konzistentní způsob, jak hodnotit závažnost AI jailbreaků. Pro firmy, které začínají nasazovat AI agenty do podpory, vývoje, reportingu nebo interních systémů, je to praktický signál: nestačí řešit, jestli model odpověděl správně. Je potřeba vědět, jaké riziko vzniká, když ochrany selžou.

Jailbreak v AI kontextu znamená techniku, která obejde ochrany modelu nebo jeho bezpečnostní vrstvy. Ne každý jailbreak má stejnou váhu. Některý jen ukáže, že model odpoví na neškodnou otázku, kterou měl klasifikátor zbytečně blokovat. Jiný může otevřít cestu k útočným návodům, citlivým akcím nebo automatizaci škodlivého chování. Právě rozdíl mezi těmito situacemi musí firemní tým umět popsat dřív, než dá AI agentovi přístup k produkčním datům.

## Proč se o tom mluví právě teď

Anthropic 30. června oznámil, že americká exportní omezení na modely Claude Fable 5 a Claude Mythos 5 byla zrušena. Fable 5 se má vrátit globálním uživatelům na Claude Platform, Claude.ai, Claude Code a Claude Cowork. Společnost zároveň popsala, že původní omezení souviselo s reportem výzkumníků Amazonu, kteří našli způsob, jak u Fable 5 obejít některé ochrany v oblasti kyberbezpečnosti.

Podle Anthropicu reportovaný případ neotevřel unikátní schopnosti úrovně Mythos 5. Šlo spíš o hraniční chování v ochranném pásmu modelu. Firma přesto upravila bezpečnostní klasifikátor a uvádí, že konkrétní popsanou techniku nově blokuje ve více než 99 % případů. Cena za přísnější ochranu je ale vyšší počet false positives, tedy situací, kdy systém zastaví i legitimní požadavky při programování nebo debugování.

**Graf: Čtyři osy hodnocení AI jailbreaku**

Osy vycházejí z návrhu Anthropicu, hodnota v grafu značí orientační význam pro firemní triage.

| Položka | Význam pro triage |
| --- | --- |
| Dopad schopnosti | 5 |
| Šířka použití | 4 |
| Snadnost zneužití | 5 |
| Dostupnost techniky | 4 |

## Čtyři otázky pro hodnocení jailbreaku

Návrh Anthropicu stojí na čtyřech kritériích. První je capability gain: jak moc jailbreak posune útočníka proti běžně dostupným nástrojům. Pokud stejnou věc zvládne veřejně dostupný slabší model nebo běžný nástroj, závažnost je nižší. Pokud jailbreak odemkne schopnost, která výrazně zrychlí i zkušeného odborníka, riziko roste.

Druhá otázka je breadth of capability gain. Jinými slovy, jestli jde o úzký trik pro jednu situaci, nebo techniku, která funguje napříč více útočnými scénáři. Úzký problém se dá často izolovat a opravit. Široká technika je horší, protože mění riziko celého systému, nejen jedné odpovědi.

Třetí kritérium je ease of weaponization. Tady nejde jen o to, co model řekl, ale kolik práce zbývá k reálnému útoku. Pokud výsledek vyžaduje mnoho znalostí, ruční úpravy a opakované pokusy, je riziko jiné než u techniky, která funguje na první nebo druhý pokus. Čtvrté kritérium je discoverability, tedy jak snadno se k technice dostane někdo další.

## Jak to převést do firemní praxe

Stejný princip se dá použít i mimo laboratoř. Když firma nasazuje AI agenta, měla by si pro každou schopnost položit čtyři podobné otázky: jaký dopad má chyba, kolika procesů se chyba dotkne, jak snadno ji někdo vyvolá a jak snadno se postup rozšíří mezi uživatele. Tohle je mnohem užitečnější než obecná věta, že AI je bezpečná nebo nebezpečná.

Příklad: agent, který jen čte interní dokumenty a navrhuje shrnutí, má jiné riziko než agent, který může měnit objednávky, odesílat e-maily zákazníkům nebo upravovat stavy v CRM. U prvního scénáře je klíčová přesnost a dohledatelnost zdrojů. U druhého už potřebujete role, schvalování, audit log a fallback pro nejisté případy.

V LucidMark proto dáváme u automatizací smysl hlavně read-first režimu. AI čte, shrnuje, předvyplňuje a reportuje. Akce měnící data potvrzuje člověk a důležité kroky se logují. Praktický princip rozepisujeme v článku [AI agent ve firmě use case](https://blog.lucidmark.cz/blog/ai-agent-ve-firme-use-case-schvaleni-a-logy). Tohle není brzda inovací. Je to způsob, jak z demo agenta udělat nástroj, kterému může firma postupně svěřit víc práce.

## Bezpečnostní marže a false positives

Anthropic otevřeně popisuje bezpečnostní marži. Klasifikátor blokuje nejen jasně škodlivé požadavky, ale i část požadavků, které mohou být benigní. U Fable 5 byla marže záměrně širší, protože model má vysoké schopnosti v oblasti kyberbezpečnosti. To znamená méně průchodných rizikových případů, ale také víc odmítnutí u legitimních úkolů.

Ve firemním provozu je to známý kompromis. Přísnější pravidla mohou zdržovat. Příliš volná pravidla mohou pustit chybu dál. Proto je důležité měřit, co se děje: kolik požadavků agent blokuje, kolik z nich bylo skutečně rizikových, kolik bylo užitečných a jak často musel zasáhnout člověk. Bez monitoringu se z bezpečnostního pravidla rychle stane černá skříňka.

Monitoring se netýká jen modelu. Týká se celého procesu: formulářů, webhooků, plateb, rezervací, CRM, e-mailů a dalších napojení. Pokud se něco zasekne, tým potřebuje vědět kde začít hledat. Podobný provozní pohled popisujeme v článku [Monitoring obchodních procesů](https://blog.lucidmark.cz/blog/monitoring-obchodnich-procesu-formulare-platby-rezervace).

## Mini checklist před nasazením AI agenta

- Seznamte akce agenta a rozdělte je na čtení, návrh, zápis a externí odeslání.
- U každé akce určete dopad chyby: informativní, provozní, finanční nebo bezpečnostní.
- Nastavte schvalování pro zápisy, odeslání zákazníkům a změny v obchodních datech.
- Logujte vstup, návrh AI, rozhodnutí člověka a provedený výsledek.
- Měřte false positives i false negatives. Bez obou metrik nevíte, jestli pravidla pomáhají.

## Dopad na weby, obsah a důvěryhodnost

Téma jailbreaků má dopad i na veřejnou komunikaci firem. Pokud web slibuje, že AI odpoví okamžitě a přesně na všechno, buduje špatné očekávání. Lepší je popsat mechanismus: AI pomůže s běžnými dotazy, nejisté případy předá člověku a důležité kroky se ukládají do historie. Stejně má fungovat obsah kolem AI. Méně hype, víc konkrétních hranic.

U firemního webu je důležité, aby klient pochopil, co systém umí a co neumí. Prémiový web nebo custom portál nemá prodávat kouzlo. Má ukázat proces, důvěru a jasné vlastnictví dat. Pokud řešíte, jak podobnou AI vrstvu bezpečně zasadit do webu, portálu nebo interního workflow, začněte na [lucidmark.cz](https://lucidmark.cz).

## Co sledovat dál

Nejdůležitější bude, jestli se z návrhu Anthropicu stane skutečně sdílený průmyslový standard. Odkaz na CVSS není náhodný. Kyberbezpečnost dlouho potřebovala společný jazyk pro zranitelnosti a AI bude potřebovat totéž pro jailbreaky, schopnosti modelů a reakce dodavatelů. Bez společného slovníku bude každá nová zpráva působit buď jako panika, nebo jako PR.

Pro firmy je nejlepší nečekat. I když se standard bude vyvíjet, základní otázky platí už dnes: co AI smí dělat, co jen navrhuje, kdo schvaluje změny, kde jsou logy a jak poznáme, že se systém chová divně. Kdo si tyto odpovědi nastaví včas, bude nové modely využívat klidněji a s menším provozním chaosem.

## Zdroje a další čtení

1. [Anthropic: Redeploying Fable 5](https://www.anthropic.com/news/redeploying-fable-5)
2. [Anthropic: Claude Fable 5 and Mythos 5](https://www.anthropic.com/news/claude-fable-5-mythos-5)
3. [NIST CAISI: Center for AI Standards and Innovation](https://www.nist.gov/caisi)
4. [FIRST: Common Vulnerability Scoring System](https://www.first.org/cvss/)
