AI agenti pro firmy: nástroje, rozhodování a kontrola

Co je AI agent

AI agent je systém, který přijme cíl, vyhodnotí dostupný kontext, zvolí další krok a použije některý z předem povolených nástrojů. Nástrojem může být vyhledávání v dokumentech, databázový dotaz, firemní API, kalendář nebo vytvoření návrhu záznamu. Agent není totéž co samotný jazykový model.

Užitečný firemní agent potřebuje popsanou roli, omezený rozsah, ověřitelné zdroje a jasný konec úlohy. Musí také vědět, kdy nepokračovat. Přehled veřejných agentních a procesních vstupů CzechAI je dostupný přes CzechAI Platformu; katalog agentů, skills a MCP nástrojů je v CzechAI Arzenálu a praktické ukázky v Showcase.

Agent, chatbot, RPA a workflow

V praxi bývá vhodný hybrid: pravidla chrání pevné části procesu, agent zpracuje neurčité vstupy a člověk schválí významný výsledek.

Z čeho se firemní agent skládá

• Instrukce a role: co je cílem a co agent dělat nesmí.
• Kontext: údaje potřebné pro konkrétní úlohu.
• Zdroje: dokumenty a data s určeným původem a aktuálností.
• Nástroje: omezené funkce, které může agent volat.
• Paměť: jen takový rozsah historie, který je účelný a dovolený.
• Kontrola: validace vstupu, výstupu a jednotlivých akcí.
• Audit: záznam významných rozhodnutí, nástrojů a schválení.

Každá vrstva může selhat jiným způsobem. Agent může správně pochopit dotaz, ale použít zastaralý zdroj; může vytvořit dobrý návrh, ale nemít oprávnění jej odeslat. Testování proto musí pokrývat celý řetězec.

Vhodné úlohy pro AI agenta

Agent se hodí pro úlohy, kde je potřeba projít více zdrojů nebo nástrojů, ale stále lze vymezit cíl a kontrolu. Příkladem je příprava souhrnu z několika dokumentů, třídění příchozích požadavků, sestavení návrhu reportu nebo dohledání podkladů pro pracovníka.

Pro první nasazení jsou vhodné vratné akce: vytvoření konceptu, štítku, návrhu záznamu nebo úkolu ke schválení. Rizikovější je automatické odeslání zprávy, změna smluvního údaje, rozhodnutí o osobě nebo spuštění platby. Čím větší dopad, tím užší oprávnění, silnější validace a zřetelnější lidský kontrolní bod jsou potřeba.

Workflow bezpečného agenta

1. Agent ověří identitu uživatele a rozsah jeho oprávnění.
2. Načte pouze kontext potřebný pro zadanou úlohu.
3. Rozdělí cíl na kroky a zkontroluje, zda jsou povolené.
4. Pro každý krok použije konkrétní nástroj a uloží výsledek.
5. Výstup porovná s validačními pravidly a zdroji.
6. Při nízké jistotě, chybě nebo citlivé akci požádá člověka.
7. Po schválení provede povolenou akci nebo předá návrh.
8. Do auditní stopy zapíše použité zdroje, nástroje a schválení.

Proces musí mít časový limit, omezení počtu kroků a bezpečnou návratovou cestu. Nekonečné opakování nebo volné používání nástrojů není přijatelný provozní režim.

Jak se agent testuje

Testovací sada má obsahovat běžné případy, chybějící údaje, konfliktní zdroje, neoprávněné požadavky, nedostupný nástroj a pokus obejít instrukce. Hodnotí se nejen finální text, ale i zvolená sekvence kroků, práce s oprávněními a správnost eskalace.

Úspěch jednoho běhu nestačí, protože generativní chování může být proměnlivé. Stejné scénáře se opakují a změny modelu, promptu, nástroje nebo datového zdroje spouštějí nový regresní test. Produkční provoz má sledovat chybovost, počet zásahů člověka, selhání integrací a případy, kdy agent překročil očekávaný čas nebo náklady.

Limity a odpovědnost

Agent může nesprávně interpretovat cíl, vybrat nevhodný nástroj, opřít se o neaktuální dokument nebo vytvořit přesvědčivý, ale chybný závěr. Proto nemá dostávat širší oprávnění, než potřebuje. Významné úkony musí mít identifikovaného lidského vlastníka.

Firemní agent není zaměstnanec ani právně odpovědná osoba. Odpovědnost zůstává organizaci a lidem, kteří proces navrhli, schválili a používají. Aktualizováno 22. srpna 2026. Pro obecné konverzační rozhraní lze navštívit CzechAI Chat; jeho existence sama o sobě nedokládá vhodnost konkrétního agentního workflow.

Provozní dohled a zásah člověka

Monitoring agenta má oddělit technickou dostupnost od správnosti práce. Systém může odpovídat, a přesto používat chybný zdroj nebo opakovat nevhodný krok. Proto se sledují selhání nástrojů, zamítnutá oprávnění, počet eskalací, neobvyklé sekvence a výsledky pravidelných kontrolních scénářů.

Zásah člověka musí být prakticky proveditelný. Uživatel potřebuje vidět, co agent zamýšlí udělat, z jakých podkladů vyšel a jaké údaje budou změněny. Schválení nemá být prázdné kliknutí; má umožnit návrh upravit nebo odmítnout. Při incidentu musí provozovatel umět pozastavit nástroj, zachovat auditní stopu a přejít na popsaný ruční postup.