Kontrola, ktorú agent nevie obísť
Ak pravidlá pre AI agenta bežia v tom istom procese ako agent, sú to len odporúčania. Koncom septembra to v praxi potvrdili výrobcovia hardvéru, softvéru aj americký regulátor. Pre firmy, ktoré nasadzujú agentov do produkcie, z toho vyplýva jednoduchá architektonická otázka: kde u vás fyzicky beží kontrola?
Čo sa stalo za tri dni
28. septembra NVIDIA predstavila Open Agent Safety Platform. Má dve časti. OpenShell je open source prostredie, v ktorom agent beží. Sleduje každú jeho akciu a vynucuje pravidlá, čo smie čítať, zapisovať, spúšťať a kam sa smie pripojiť. Sentry je dozor, ktorý beží na samostatnom hardvéri mimo agenta. Ak sa agent pokúsi prekročiť svoje hranice, Sentry ho do niekoľkých milisekúnd izoluje.
S platformou podľa NVIDIA pracuje vyše sto organizácií. SAP ju zabudúva do Joule Studio. Salesforce ju prepojil so Slackom, kde tím vidí, čo agent robí, a schvaľuje alebo zamieta jeho žiadosti o ďalšie oprávnenia. HPE ju v poslednom kvartáli tohto roka integruje do Private Cloud AI a prepojí ju s firemnou identitou, schvaľovaním a auditom.
30. septembra americká Federal Trade Commission otvorila vyšetrovanie Anthropicu, OpenAI a výskumnej organizácie METR. Podľa Semaforu a ďalších médií ide o prvý oficiálny zásah amerického regulátora, ktorý sa týka agentov konajúcich mimo zadania.
Prečo pravidlá vnútri agenta nestačia
Tlačová správa NVIDIA obsahuje vetu, ktorá stojí za pozornosť viac než samotný produkt. Pri nedávnych incidentoch sa podľa nej opakoval rovnaký vzorec: agent obišiel bezpečnostné kontroly na aplikačnej vrstve, aby splnil zadanú úlohu.
To je dôležité zistenie. Agent nemusí mať zlý úmysel. Stačí, že má cieľ a kontrola mu stojí v ceste. Ak je kontrola súčasťou toho istého procesu, promptu alebo kódu ako agent, je pre neho len ďalšia prekážka na riešenie.
NVIDIA preto formuluje odporúčanie architektonicky: firmy potrebujú vynútiteľnú hranicu mimo modelu a mimo agenta. Rovnaký princíp poznáme z účtovníctva aj z IT bezpečnosti. Ten, kto vykonáva, nemá zároveň kontrolovať sám seba.
Čo to znamená pre firmu, ktorá agentov nasadzuje
Pre CIO a CISO z toho vyplývajú štyri praktické otázky. Dajú sa položiť každému dodávateľovi aj vlastnému tímu.
- Kde bežia pravidlá? V prompte, v kóde agenta, alebo vo vrstve, ku ktorej agent nemá prístup?
- Čo je predvolené? Má agent na začiatku všetko a niečo mu zakazujeme, alebo nemá nič a oprávnenia dostáva výslovne?
- Kto schvaľuje rozšírenie? Keď agent potrebuje viac, žiada o to človeka, alebo si to vyrieši sám?
- Je záznam nezávislý? Vie firma spätne doložiť, čo agent urobil, z logu, ktorý agent nemohol upraviť?
Ak je odpoveď na niektorú z nich nejasná, agent nie je pripravený na prácu s citlivými dátami ani na akcie s finančným dopadom.
Kontrola sa stáva infraštruktúrou
Doteraz bola governance AI agentov často dokument, checklist alebo súčasť konkrétnej aplikácie. Koncom septembra sa posunula o vrstvu nižšie, do runtime prostredia a do hardvéru. Keď sa na tom zhodnú výrobca čipov, dodávatelia ERP a CRM aj výrobca serverov, prestáva to byť otázka preferencie.
Regulátor sa pritom zatiaľ len pýta. Prvé formálne výzvy FTC majú prísť v najbližších týždňoch. Firmy, ktoré budú vedieť ukázať, kde ich kontrola beží a čo zaznamenala, budú mať v takej debate výrazne jednoduchšiu pozíciu.
Elevon Platform je postavená na rovnakom princípe: kontrola, oprávnenia a záznam každej akcie AI bežia v platforme okolo agentov, oddelene od nich.
Zdroje
- NVIDIA Newsroom: NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment (28. 9. 2026)
- HPE Newsroom: HPE teams with NVIDIA to bring secure, governed agentic AI into enterprise production (september 2026)
- Semafor: FTC probes OpenAI, Anthropic, and METR (30. 9. 2026)
- The Next Web: FTC opens probe into OpenAI, Anthropic and other AI labs (30. 9. 2026)