Jaké jsou transparenční povinnosti AI Actu pro podniky, které AI nasazují?

Transparenční povinnosti AI Actu pro podniky, které AI nasazují, vyžadují od organizací používajících univerzální AI systémy zavedené kontroly a důkazy o tom, jak se obsah generovaný AI identifikuje, dokumentuje a řídí v souladu s požadavky EU. Tyto povinnosti platí od srpna 2026 a zahrnují transparentnost vůči uživatelům, vedení záznamů a provozní dohled, i pro podniky, které nejsou poskytovateli modelů.

Proč je to důležité pro podniky

Požadavky AI Actu na transparentnost se dnes vztahují na každou organizaci, která nasazuje univerzální AI systémy, nejen na tu, která vyvíjí samotné modely. Pro banky, pojišťovny, telekomunikační operátory a další regulované podniky to znamená, že každý AI systém v produkci musí mít jasnou dokumentaci, informování uživatelů a provozní důkazy o souladu. Regulační očekávání ohledně provozního dohledu rostou a od podniků se žádá, aby uměly prokázat, jak se obsah generovaný AI identifikuje a řídí. Dohledové orgány v EU zdůrazňují potřebu silného řízení a konzistentního dohledu nad nasazením AI.

Časté omyly

Častým omylem je, že za transparentnost odpovídají pouze poskytovatelé modelů. Ve skutečnosti je každý podnik, který AI systémy integruje, konfiguruje nebo používá v provozu, považován za zavádějící subjekt (deployer) a tyto požadavky se ho týkají. Dalším omylem je, že transparentnost se týká jen technické vysvětlitelnosti modelů. AI Act vyžaduje také informování uživatelů, vedení záznamů a provozní dohled, nejen interpretovatelnost modelu. Některé organizace předpokládají, že soulad zajistí dodavatelé či třetí strany, ale regulační pokyny jasně říkají, že konečná odpovědnost leží na podniku, který AI nasazuje.

Provozní rizika a vlastnictví

Pokud podniku chybí jasná dokumentace a informování uživatelů o výstupech generovaných AI, vystavuje se provozním rizikům. Bez důkazů z běhu (runtime evidence) a audit trailu nemusí být schopen prokázat soulad během regulační kontroly. Nejasné vlastnictví a odpovědnost vedou k selhání eskalace a k mezerám v řešení incidentů. Spoléhání se výhradně na dokumentaci dodavatele nebo chápání transparentnosti jako čistě technického tématu může vést ke zjištěním dohledu a nutným nápravám.

Praktický provozní model (jak vypadá dobrá praxe)

Praktický provozní model pro plnění transparenčních povinností AI Actu zahrnuje informování uživatelů o tom, že komunikují s AI systémem nebo dostávají jeho výstupy. Podniky by měly vést komplexní záznamy včetně logů akcí AI systémů, informování uživatelů, schvalovacích procesů a incidentů. Propojení s ITSM, auditem a compliance procesy zajistí, že provozní důkazy jsou dostupné pro regulační kontrolu. Určení byznysového i technického vlastníka pro každý AI systém dává jasnou odpovědnost za soulad, monitoring i eskalaci incidentů.

Jak k tomu přistupuje Elevon

Elevon přistupuje k transparenčním povinnostem tak, že poskytuje platformu, kde se AI agenti konfigurují, spravují a orchestrují v auditovatelných workflow nazvaných Suites. Každý běh Suite je kompletně zaznamenán, takže týmy mohou zpětně prověřit a uchovávat provozní důkazy o akcích a výstupech AI systémů. Funkce Knowledge Base umožňuje agentům přistupovat k podnikové dokumentaci a odkazovat se na ni, což podporuje tvorbu záznamů a důkazů v souladu s compliance požadavky. Vlastnictví a odpovědnost posilují role-based přístupová práva integrovaná s Azure AD, díky čemuž je jasné, kdo odpovídá za provoz AI a soulad. Strukturovaná observabilita a aplikační logování dále podporují auditovatelnost a provozní dohled, aby podniky měly dokumentaci a důkazy, které regulační transparentnost vyžaduje.

Často kladené otázky

Kdo se podle AI Actu považuje za „zavádějící subjekt“ (deployer)?

Každá organizace, která AI systémy integruje, konfiguruje nebo používá ve svém provozu (bez ohledu na to, zda vyvinula základní model), se považuje za zavádějící subjekt a vztahují se na ni příslušné povinnosti.

Platí transparenční povinnosti, i když používáme jen AI nástroje třetích stran?

Ano. I když AI systém dodává třetí strana, podnik odpovídá za informování uživatelů, dokumentaci a provozní důkazy o souladu.

Co se podle AI Actu považuje za „informování uživatele“?

Obvykle jde o srozumitelné a dostupné oznámení, že osoba komunikuje s AI systémem nebo dostává jeho výstupy.

Stačí ke splnění požadavků technická vysvětlitelnost?

Ne. Transparentnost zahrnuje kromě vysvětlitelnosti také informování uživatelů, vedení záznamů a provozní dohled.

Jaká dokumentace je potřebná k prokázání souladu?

Podniky by měly vést logy akcí AI systémů, záznamy o informování uživatelů, schvalovací procesy a evidenci incidentů či manuálních zásahů, v souladu s regulačními očekáváními.

Jak přidělit vlastnictví za AI systémy?

Pro každý AI systém by měl být určen byznysový i technický vlastník s jasnou odpovědností za soulad, monitoring a eskalaci incidentů.

Co když nepodepíšeme Code of Practice?

Nesignatáři musí prokázat alternativní způsob dosažení souladu s rovnocennými kontrolami a důkazy, jaké popisuje Code of Practice.

Týkají se tyto povinnosti jen EU?

AI Act je nařízení EU, ale podobná očekávání vznikají i v jiných jurisdikcích a globální podniky mohou čelit překrývajícím se požadavkům.

Jak často je třeba transparenční kontroly přehodnocovat?

Pravidelně, zejména po významných změnách AI systémů, procesů nebo regulačních pokynů.

Mohou dodavatelé zaručit náš soulad?

Ne. Dodavatelé mohou soulad podpořit, ale konečná odpovědnost za provozní důkazy a informování uživatelů leží na podniku, který AI nasazuje.