AI Act inventura AI nástrojů ve firmě: checklist

AI Act inventura AI nástrojů ve firmě není právní formalita do šanonu. Je to praktický seznam toho, kde ve firmě používáte ChatGPT, Copilot, interního asistenta, automatické skórování nebo jiný systém, který pracuje s textem, daty, lidmi nebo penězi. Kdo si tento přehled udělá včas, snáze pozná rozdíl mezi běžnou pomůckou pro práci a systémem, který už potřebuje jasnější pravidla, dohled a stopu v logu.

Cílem článku není slibovat compliance. AI Act je evropské nařízení a konkrétní dopad záleží na roli firmy, typu systému, datech a použití. Cílem je dát české firmě použitelný začátek: inventuru, která pomůže snížit chaos ještě před tím, než se AI nástroje rozlezou do obchodních, HR, finančních a provozních procesů.

Proč začít inventurou dřív, než řešíte paragrafy?

Protože bez seznamu nástrojů nevíte, co vlastně řídíte. AI Act pracuje s rizikovým přístupem, ale první firemní otázka je jednodušší: kde se AI ve firmě reálně používá a kdo za to odpovídá?

V praxi se AI často objeví nenápadně. Marketing používá generátor textů, obchod si nechává shrnovat hovory, zákaznická podpora připravuje odpovědi, vedení zkouší analýzu tabulek a někdo v provozu si napojí automatizaci na firemní data. Každý případ sám o sobě může dávat smysl. Problém vzniká ve chvíli, kdy nikdo neví, jaká data do nástroje tečou, kdo kontroluje výstup a zda je možné zpětně dohledat, proč se něco stalo.

Dobrá inventura nemusí začít právnickým dokumentem. Začněte tabulkou nebo jednoduchou databází. U každého nástroje napište název, tým, vlastníka, účel, typ dat, schvalování výstupu, logování a vazbu na firemní proces. Teprve potom má smysl řešit, jestli jde o běžné použití, interního agenta, nebo citlivější systém.

Jaký je rozdíl mezi ChatGPT, interním agentem a rizikovým systémem?

Rozdíl není v tom, jestli nástroj zní chytře. Rozdíl je v účelu, datech, autonomii a dopadu výstupu na člověka nebo peníze. Běžné použití ChatGPT pro návrh textu má jiný profil než systém, který navrhuje, komu schválit úvěr, jak seřadit kandidáty nebo komu omezit službu.

Běžné používání veřejného AI nástroje typicky znamená, že člověk zadá dotaz, dostane návrh a sám rozhodne, co použije. Riziko roste, když do nástroje vkládá osobní údaje, obchodní tajemství nebo neveřejné dokumenty. I tady pomáhá základní pravidlo: neřešit jen nástroj, ale konkrétní použití. Jeden stejný nástroj může být nevinný pro brainstorming nad blogem a citlivý pro shrnutí smluv s osobními údaji.

Interní AI agent je o krok dál. Nejen odpovídá, ale čte firemní systémy, připravuje úkoly, vyhodnocuje stav a někdy navrhuje změny. V LucidMark k automatizacím přistupujeme tak, že AI může číst, shrnovat, předvyplňovat a reportovat, ale akce měnící data potvrzuje člověk a důležité kroky se logují. To není slogan o bezpečnosti. Je to konkrétní mechanismus: read-first režim, lidské potvrzení zápisových akcí, role a auditní stopa.

Rizikovější systém poznáte podle dopadu. Pokud výstup ovlivňuje přístup člověka k práci, vzdělání, úvěru, pojištění, veřejné službě nebo významné finanční volbě, nestačí říct, že je to jen doporučení. Firma musí rozumět tomu, kdo výstup kontroluje, podle čeho se rozhoduje a jestli je možné rozhodnutí vysvětlit nebo zpětně prověřit. AI Act inventura AI nástrojů ve firmě má právě tyto rozdíly vytáhnout na světlo.

Co má být v checklistu inventury AI nástrojů?

Checklist má být krátký, ale nepříjemně konkrétní. Pokud na některou otázku nikdo neumí odpovědět, našli jste místo, které se může později změnit v provozní nebo compliance chaos.

• Název nástroje a dodavatel: veřejná služba, interní aplikace, plugin, automatizace nebo model přes API.
• Vlastník nástroje: konkrétní člověk nebo role, ne neurčité oddělení.
• Účel použití: psaní textů, analýza dokumentů, podpora zákazníků, scoring, doporučení, automatizace workflow.
• Data na vstupu: veřejná data, interní dokumenty, osobní údaje, finanční údaje, zákaznické zprávy, HR informace.
• Výstup a jeho dopad: jen návrh pro člověka, automatické doporučení, nebo krok, který může ovlivnit zákazníka, zaměstnance či peníze.
• Schvalování: kdo výstup čte, kdo ho smí odeslat, kdo smí potvrdit změnu v systému.
• Logy: kde je uložen dotaz, odpověď, čas, uživatel, provedená akce a případné lidské schválení.
• Přístupová práva: kdo nástroj používá, kdo ho nastavuje a kdo může měnit napojení na data.
• Revize: kdy se použití znovu zkontroluje, například po změně procesu, dodavatele nebo typu dat.

U custom systémů a automatizací se vyplatí dát tyto otázky přímo do návrhu architektury. Studio LucidMark proto u systémů řeší nejen obrazovky, ale i workflow, vlastnictví dat, předání účtů a provozní péči po spuštění. U AI vrstvy je to stejné: nejde jen o prompt, ale o celý proces kolem něj.

Kdo má AI nástroj vlastnit a kdo schvaluje výstup?

Vlastník není ten, kdo nástroj poprvé vyzkoušel. Vlastník je ten, kdo umí říct, proč nástroj existuje, jaká data zpracovává, kdo ho smí používat a co se stane, když selže.

Pro marketingový generátor textů může být vlastníkem šéf marketingu. Pro interního agenta nad dokumenty spíš vedoucí týmu, který rozhoduje o přístupech a pravidlech práce s obsahem. Pro nástroj, který vstupuje do financí, HR nebo zákaznických rozhodnutí, už nestačí nadšený power user. Tam potřebujete kombinaci business vlastníka, technického správce a člověka odpovědného za pravidla práce s daty.

Schvalování výstupu si rozdělte podle dopadu. Nízký dopad: AI navrhne text, člověk ho upraví a odešle. Střední dopad: AI připraví odpověď nebo doporučení, člověk musí potvrdit správnost a úplnost. Vyšší dopad: AI nesmí sama rozhodnout o člověku nebo penězích, výstup je jen jeden vstup do lidského rozhodnutí a musí zůstat dohledatelný.

Užitečný interní odrazový můstek je článek AI agent ve firmě use case: od čtení dat po schválení, který rozebírá právě hranici mezi čtením, návrhem a potvrzenou akcí. Pro inventuru je tato hranice důležitější než název modelu.

Jak začít tento týden bez velkého compliance projektu?

Začněte menším auditem skutečného používání. Dejte týmům jednoduchou otázku: jaké AI nástroje používáte při práci a k čemu? Netrestejte odpovědi. Pokud lidé budou mít pocit, že přiznáním nástroje riskují zákaz, inventura nebude pravdivá.

Potom nástroje rozdělte do tří košů. První koš: osobní produktivita a tvorba návrhů, například formulace e-mailu nebo osnovy článku. Druhý koš: interní agenti a automatizace, které čtou firemní data nebo připravují úkoly. Třetí koš: systémy s možným dopadem na lidi, peníze, přístup ke službě nebo právně citlivé oblasti. První koš potřebuje pravidla pro data a kontrolu. Druhý koš potřebuje role, oprávnění a logy. Třetí koš si zaslouží samostatné posouzení dřív, než se pustí do ostrého provozu.

Nakonec nastavte minimální standard. Žádné osobní ani citlivé údaje do veřejných nástrojů bez schváleného postupu. Žádné zápisové akce bez lidského potvrzení, pokud mohou změnit data v systému. Žádné rozhodování o lidech nebo penězích bez vlastníka, popsaného procesu a logu. To je praktický základ, na kterém se dá stavět i ve chvíli, kdy právní tým doplňuje detailní výklad AI Actu.

Závěr: pořádek v AI začíná mapou, ne slibem

AI Act inventura AI nástrojů ve firmě je rozumný první krok pro každou firmu, která už AI používá, i když si myslí, že jen okrajově. Neřeší všechno. Ale ukáže, kde jsou nástroje, vlastníci, data, schvalování a logy. Bez těchto informací se z AI rychle stane směs dobrých nápadů, tichých rizik a nejasné odpovědnosti.

Pokud firma staví nový portál, automatizaci nebo interního asistenta, vyplatí se inventuru řešit už při návrhu. Výsledkem není papír pro papír. Je to systém, ve kterém je jasné, kdo rozhoduje, co AI smí dělat, kdy musí člověk potvrdit výstup a kde se dá ověřit, co se opravdu stalo.