Přeskočit na obsah
Zpět na blog
Vývoj

Automatizace náboru podle AI Act: kdy je vysoce riziková

Kdy je AI v náboru jen pomocník a kdy už jde o vysoce rizikový systém? Praktická mapa rozhodnutí, evidence, dohled, logy a otázky pro dodavatele.

Roman Mrózek
4 min čtení
Síť průhledných kostek propojených do rozhodovací struktury na tmavém pozadí
Rozlišení běžné asistence při náboru od vysoce rizikových systémů podle AI ActFoto: Shubham Dhage / Unsplash

Automatizace náboru podle AI Act není jedna právní kategorie. Nástroj, který personalistovi navrhne text inzerátu, má jinou roli než systém, který analyzuje životopisy, řadí uchazeče nebo doporučuje, koho pozvat. Rozhodující není nálepka AI v ceníku dodavatele, ale zamýšlený účel systému a jeho skutečný vliv na rozhodnutí o člověku.

Tento článek vychází z platného znění nařízení EU 2024/1689 a z harmonogramu Evropské komise. Jde o praktickou orientaci pro firmy, nikoli o právní radu. U konkrétního nasazení je vhodné zapojit právníka a posoudit také ochranu osobních údajů a pracovněprávní pravidla.

Kdy se náborový systém považuje za vysoce rizikový?

Příloha III AI Act řadí mezi vysoce rizikové systémy nástroje určené pro nábor nebo výběr lidí. Výslovně uvádí cílené umisťování pracovních inzerátů, analýzu a filtrování žádostí a hodnocení kandidátů. Typickým signálem je, že výstup ovlivní, kdo inzerát uvidí, čí životopis projde dál nebo koho personalista osloví.

Článek 6 připouští úzké případy, kdy systém uvedený v příloze III nemusí být vysoce rizikový, pokud nepředstavuje významné riziko a podstatně neovlivňuje rozhodnutí. Může jít například o omezenou procedurální nebo přípravnou úlohu. Výjimku však nelze použít, pokud systém provádí profilování fyzických osob. Posouzení musí poskytovatel zdokumentovat, proto nestačí interní věta, že konečné tlačítko vždy mačká člověk.

Podle základního harmonogramu nařízení se pravidla pro vysoce rizikové systémy z přílohy III použijí od 2. srpna 2026. Evropská komise průběžně zveřejňuje implementační harmonogram AI Act. Firma by proto měla před rozhodnutím ověřit aktuální stav a přechodná ustanovení pro konkrétní systém, zejména pokud byl uveden do provozu před tímto datem.

Jak rozlišit psaní inzerátu, třídění a skórování?

Prosté vytvoření návrhu obecného inzerátu obvykle samo o sobě kandidáty nevybírá. Personalista dodá požadavky, zkontroluje formulace a rozhodne, co zveřejní. Pozor ale na navazující funkci. Pokud stejný nástroj rozhoduje, komu se reklama zobrazí podle osobních charakteristik, cílené umisťování pracovních inzerátů už příloha III výslovně zmiňuje.

Třídění životopisů podle administrativních údajů může vypadat jako obyčejný filtr, ale záleží na dopadu. Vyřazení uchazeče kvůli automaticky vyhodnocené praxi, vzdělání nebo mezeře v kariéře ovlivňuje přístup k zaměstnání. Totéž platí pro extrakci informací z CV, pokud její výsledek přímo řídí další výběr a chyba může kandidáta odsunout.

Skórování kandidátů a automatizované doporučení jsou ještě zřetelnější případy. Pořadí, procentní shoda nebo doporučení k pohovoru se snadno stane faktickým rozhodovacím sítem, i když software formálně nikoho neodmítne. Lidský dohled musí být reálný: člověk potřebuje rozumět omezením výstupu, mít čas jej zpochybnit a možnost rozhodnout jinak.

Jak vypadá praktická mapa rozhodnutí?

Začněte účelem a tokem rozhodnutí, ne názvem produktu. Pro každý nástroj projděte následující mapu a odpovědi připojte k evidenci systému.

  • Vytváří jen návrh textu, který člověk před zveřejněním zkontroluje? Pak zpravidla nejde o výběr kandidátů, ale ověřte další funkce produktu.
  • Určuje, komu se pracovní nabídka zobrazí? Cílené umisťování pracovních inzerátů je výslovně uvedeno v příloze III.
  • Analyzuje, filtruje, řadí nebo boduje žádosti? Počítejte s vysokým rizikem, dokud odborné posouzení neprokáže opak.
  • Doporučuje pozvat, odmítnout nebo upřednostnit konkrétního člověka? Zkoumejte, zda výstup podstatně ovlivňuje rozhodnutí a jak funguje lidská kontrola.
  • Profiluje fyzické osoby? Výjimka z klasifikace podle článku 6 odst. 3 se v takovém případě neuplatní.

Mapa není jednorázový formulář. Zopakujte ji při zapnutí nové funkce, změně modelu, propojení s ATS nebo úpravě pravidel, podle kterých systém kandidáty řadí.

Co má firma evidovat a jak nastavit lidský dohled?

Evidence by měla spojovat obchodní, technický a personální pohled. Uložte název nástroje, dodavatele, verzi, vlastníka ve firmě, zamýšlený účel, vstupní data, výstupy, dotčené skupiny, místo v procesu a datum posledního přezkumu. Zapište také, zda firma vystupuje jako poskytovatel, nebo jako zavádějící subjekt. Tyto role mají rozdílné povinnosti.

U lidského dohledu popište konkrétní pravomoc. Kdo smí změnit pořadí? Kdo kontroluje automatické vyřazení? Kdo řeší nesrovnalost mezi CV a extrahovanými údaji? Určete také zakázané použití, například automatické zamítnutí bez kontroly. Samotný podpis pod směrnicí nestačí, pokud personalista nevidí důvod doporučení nebo nemá přístup k původním podkladům.

Logování má umožnit zpětně zjistit, jaká verze systému pracovala s jakým vstupem, jaký vytvořila výstup, kdo jej zkontroloval a jak dopadlo konečné rozhodnutí. Nastavte role a přístupy, dobu uchování podle právního posouzení a proces pro incident nebo stížnost. Podobný princip read-first režimu, lidského potvrzení a auditních logů používáme i při návrhu custom systémů v LucidMark. Praktickou návaznost nabízí také náš článek AI Act inventura AI nástrojů ve firmě.

Na co se zeptat dodavatele a co udělat teď?

Dodavatel musí umět popsat účel systému a jeho hranice. Ptejte se, zda produkt považuje za vysoce rizikový, na jakém právním a technickém posouzení závěr stojí a zda je systém registrován tam, kde to nařízení vyžaduje. Vyžádejte si návod k použití, omezení, očekávanou kvalitu vstupů, známé zdroje chyb, informace o změnách modelu a způsob exportu logů.

Dále ověřte, jak dodavatel testuje přesnost, robustnost a možné diskriminační dopady, kdo odpovídá za aktualizace a jak firma dostane zprávu o podstatné změně. Zeptejte se, zda lze vypnout skórování, zachovat pouze podpůrné funkce a zobrazit personalistovi původní data vedle doporučení. Smlouva má řešit součinnost, dokumentaci, incidenty, ukončení služby a přenos vašich záznamů.

Automatizace náboru podle AI Act začíná inventurou, nikoli nákupem dalšího compliance nástroje. Sepište používané systémy, zakreslete, kde ovlivňují kandidáta, pozastavte nejasné automatické vyřazování a určete vlastníka nápravy. Poté potvrďte klasifikaci s odborníkem a sledujte aktuální informace Evropské komise. Dobře nastavený proces nenechá rozhodnutí schované v jednom skóre. Ukáže vstupy, odpovědnost, možnost zásahu i dohledatelnou historii.

Mohlo by Vás zajímat

Všechny články
Spolupráce

Řešíte něco podobného?

Krátký hovor, žádná prezentace. Řekneme, co bychom postavili, a také kdy to nedává smysl.

Newsletter

Nové články rovnou do e-mailu.

Posíláme jen nové články. Odhlásíte se jedním klikem.

Zpět nahoru