AI agent bez kontroly začíná být riziko

Proč se téma dostává na stůl vedení firmy

AI agenti se posouvají od jednoduchého generování textu k provádění konkrétních úkolů. To ale znamená nové riziko: agent může jednat špatně, bez kontroly, bez záznamu a bez jasné odpovědnosti. Problém obvykle nevzniká jedním velkým rozhodnutím, ale součtem drobných kroků v různých odděleních. Obchod si pořídí vlastní nástroj, marketing začne používat jinou službu, vedení experimentuje s automatizací a zaměstnanci hledají rychlejší cestu k rutinním úkolům. Pokud firma nemá společný přehled, nedokáže spolehlivě určit náklady, odpovědnost, datová rizika ani skutečný přínos.

Vedení proto potřebuje rozhodovací podklad, nikoli obecné doporučení. U každého používaného řešení má být zřejmé, kdo jej vlastní, kdo k němu má přístup, jaký proces podporuje, jaká data zpracovává, kolik stojí a co se stane při chybě nebo výpadku. Bez těchto informací nelze odpovědně rozhodnout, co zachovat, co upravit a co zastavit.

Co má firma konkrétně zmapovat

Praktická inventura začíná seznamem nástrojů a skutečných způsobů použití. Nestačí opsat faktury z účetnictví, protože část služeb může běžet na bezplatných účtech nebo soukromých registracích zaměstnanců. Vedoucí jednotlivých oddělení proto shromáždí název služby, vlastníka účtu, počet uživatelů, účel, typ vstupních dat, napojené systémy, oprávnění a způsob kontroly výstupu. Výsledkem je jedna tabulka, kterou schválí odpovědný člen vedení.

Druhým výstupem je jednoduchá mapa datového toku. Ta ukazuje, odkud informace přicházejí, kdo je do nástroje vkládá, kde se ukládají a kam pokračuje výstup. Typickým problémem je kopírování nabídek, smluv, osobních údajů zákazníků nebo interních reportů do služby, u níž nikdo neověřil podmínky, místo zpracování ani dobu uchování. Mapa musí takové místo označit konkrétním nástrojem a konkrétním typem dat.

Kde typicky vzniká chyba

První častou chybou je nejasný vlastník. Nástroj používá celé oddělení, ale nikdo neodpovídá za nastavení, přístupy, náklady a pravidelnou kontrolu. Druhou chybou jsou nadměrná oprávnění: integrace získá přístup k celé schránce, disku nebo databázi, přestože pro daný úkol potřebuje pouze omezený rozsah. Třetím rizikem je nekontrolovaný výstup, který zaměstnanec bez ověření odešle zákazníkovi nebo použije při obchodním rozhodnutí.

Dopad nemusí být pouze bezpečnostní. Chybný údaj v nabídce může snížit marži, nepřesná odpověď zákazníkovi poškodit důvěru a automatizace bez záznamu zkomplikovat reklamaci. Firma proto u každého kritického použití stanoví, kdo výstup kontroluje, podle jakého seznamu a kde zůstane dohledatelný záznam. U nízkorizikových úloh může stačit namátková kontrola; u cen, smluv, osobních údajů nebo veřejných tvrzení má být schválení povinné.

Praktický příklad z firemního prostředí

Představme si firmu s třiceti zaměstnanci. Marketing používá nástroj pro návrhy textů, obchod nahrává podklady zákazníků do asistenta a administrativa automaticky zpracovává zápisy z porad. Audit odhalí sedm různých účtů, dvě nevyužívaná předplatná, sdílené přihlašovací údaje a jeden nástroj s přístupem k celému cloudovému disku. Nejde o důvod všechny služby zakázat. Firma zruší duplicity, převede účty pod firemní správu, omezí oprávnění a stanoví, které dokumenty se nesmí vkládat bez anonymizace.

Měřitelným výsledkem není počet napsaných směrnic. Výsledkem je úplný seznam nástrojů, přidělený vlastník u každé položky, odstraněné sdílené účty, omezená oprávnění a prokazatelná kontrola citlivých výstupů. Vedení může současně porovnat měsíční náklady a zrušit služby, které nepřinášejí využití. Audit tak vedle snížení rizika často přinese i přímou úsporu.

Doporučený postup krok za krokem

1. Vedení určí garanta, který má pravomoc získat informace od všech oddělení a předložit závěry. Nemusí jít o právníka; důležitá je znalost procesů a přístup k rozhodovatelům.

2. Vedoucí týmů během jednoho týdne vyplní společný seznam používaných nástrojů, účtů, dat, integrací a odpovědností.

3. Garant označí případy s osobními údaji, firemním know-how, automatickým odesíláním nebo širokými oprávněními jako prioritní.

4. U prioritních případů firma ověří smluvní nastavení, přístupy, uchování dat a kontrolu výstupů.

5. Vedení schválí krátká pravidla: povolené nástroje, zakázaná data, povinné schválení a postup při incidentu.

6. Po třiceti dnech proběhne kontrola, zda byly účty převedeny, oprávnění omezená a zaměstnanci pravidla skutečně používají.

Kdo odpovídá a jaký má být výstup

Garant auditu koordinuje sběr dat a udržuje centrální evidenci. Vedoucí oddělení odpovídají za úplnost informací ze svého týmu. Správce IT ověřuje účty, integrace a technická oprávnění. Vedení rozhoduje o přijatelném riziku a schvaluje výjimky. Pokud firma využívá externí dodavatele, jejich přístupy a nástroje patří do stejné evidence; smlouva sama o sobě nenahrazuje provozní kontrolu.

Minimálním výstupem je registr nástrojů, mapa citlivých dat, seznam rizik s prioritou, vlastník nápravného opatření a termín. Každé opatření má mít ověřitelnou podmínku dokončení. Místo vágního „zvýšit bezpečnost“ se zapíše například „do 15. srpna odebrat přístup integrace k celé schránce a ponechat pouze složku objednávek; odpovídá správce IT; ověření snímkem nastavení a testem“.

Jak poznat, že řešení funguje

Po měsíci musí firma umět odpovědět na pět otázek: Známe všechny používané nástroje? Má každý účet vlastníka? Víme, jaká data do něj vstupují? Jsou oprávnění omezená na nezbytné minimum? Kontroluje člověk výstupy s obchodním, právním nebo reputačním dopadem? Pokud některá odpověď zůstává neurčitá, audit ještě není uzavřen.

Dlouhodobě se sleduje počet neschválených nástrojů, sdílených účtů, nadměrných oprávnění, incidentů a nevyužívaných licencí. Kontrola se opakuje při nástupu nového nástroje, změně integrace nebo alespoň jednou za půl roku. Tím se z jednorázového dokumentu stane jednoduchý řídicí proces, který drží krok s reálnou prací firmy.

Jak nastavit průběžnou kontrolu

Součástí pravidel má být jednoduchý způsob hlášení nového použití. Zaměstnanec vyplní účel, typ dat, požadovaná oprávnění a očekávaný přínos. Odpovědná osoba rychle rozhodne, zda je použití běžné, vyžaduje omezení, nebo musí projít podrobnější kontrolou. Firma tím nesnižuje iniciativu lidí, ale zabraňuje tomu, aby se užitečný experiment proměnil v nekontrolovaný trvalý proces.

Dobře nastavená evidence pomáhá také při nástupu a odchodu zaměstnanců. Přístupy lze předat nebo odebrat podle seznamu, firemní historie nezůstává na soukromém účtu a vedení vidí, zda služba stále odpovídá původnímu účelu. To je konkrétní provozní přínos, který lze ověřit při každé personální změně.

Jednou za čtvrtletí má garant předložit vedení krátký přehled změn: nové nástroje, uzavřená opatření, otevřená rizika, incidenty a nevyužívané licence. Kontrola tak nezatěžuje každodenní provoz, ale současně brání tomu, aby se evidence po prvním auditu přestala používat.

Co má vedení dostat na jednu stránku

Závěrečný manažerský přehled nemá kopírovat celý pracovní registr. Na jedné stránce shrne počet evidovaných řešení, nejzávažnější otevřená rizika, opatření po termínu, náklady na nevyužívané služby a rozhodnutí, která vedení musí přijmout. Každá položka obsahuje vlastníka a datum další kontroly. Díky tomu se diskuse neztratí v technických detailech a vedení může určit prioritu podle dopadu na zákazníky, provoz, finance a pověst firmy.

Užitečné je také oddělit okamžité opravy od dlouhodobých změn. Sdílené heslo nebo zbytečné oprávnění lze odstranit ihned. Změna procesu schvalování, školení týmu nebo náhrada nevhodného nástroje potřebuje plán, rozpočet a termín. Toto rozdělení brání tomu, aby jednoduchá rizika čekala na velký projekt a aby složitá opatření zůstala bez odpovědného rozhodnutí.

CTA: Chcete zjistit, které procesy ve firmě má smysl automatizovat bezpečně? Ozvěte se.