Čo je evidencia AI agentov a prečo je dôležitá pre riadenie AI?

Evidencia AI agentov je aktuálny prehľad agentov, ktorí vo firme pracujú. Zachytáva účel každého agenta, zodpovednú osobu, oprávnenia, prepojené systémy a stav kontroly. Pomáha tímom pochopiť, čo agent smie robiť, preveriť incidenty a udržať kontrolu nad prevádzkou.

Tento článok sa zameriava na záznam o jednotlivých agentoch. Širší pohľad na modely, nástroje a pravidlá nájdete v článku Čo je inventár a kontrola podnikovej AI?

Prečo je evidencia agentov dôležitá

Keď AI agenti čítajú firemné dáta, používajú nástroje alebo menia záznamy, samotný zoznam softvérových licencií nestačí. Tím potrebuje vedieť, ktorý agent koná, kto zaň zodpovedá a kde sa končia jeho oprávnenia. NIST AI RMF GOVERN 1.6 odporúča evidovať AI systémy podľa rizikových priorít organizácie. Ide o rámec riadenia rizík, nie o všeobecnú zákonnú povinnosť. Článok 26 AI Actu upravuje povinnosti subjektov, ktoré používajú vysokorizikové AI systémy, vrátane ľudského dohľadu, monitorovania a záznamov. Konkrétne povinnosti závisia od systému, jeho použitia a platných pravidiel. Samotná evidencia súlad s predpismi nezabezpečí.

Časté mylné predstavy

Existujúci register IT majetku môže byť dobrým východiskom. Musí však zachytiť aj oprávnenia agenta konať, prístup k dátam a zodpovednú osobu. Evidencia má zmysel aj pri malom nasadení: už pilot potrebuje jasný rozsah a človeka, ktorý zaň zodpovedá. Samotné priradenie vlastníka bez priebežnej aktualizácie záznamu medzery v dohľade neodstráni.

Rozdelenie zodpovedností rozoberá článok Čo je prevádzková zodpovednosť v podnikovej AI?

Prevádzkové riziká a zodpovednosť

Neúplná evidencia spomaľuje riešenie incidentov. Tím nemusí vedieť, kto smie agenta pozastaviť a ktoré prepojené systémy treba skontrolovať. Zahrňte agentov od dodávateľov aj vlastné riešenia. Zaznamenajte ich závislosti a osobu zodpovednú za kontrolu zmien, aby aktualizácia modelu, nástroja alebo oprávnení nerozšírila možnosti agenta bez povšimnutia.

Ako vyzerá užitočný záznam

Záznam by mal obsahovať účel, zodpovednú osobu, stav nasadenia, model a poskytovateľa, oprávnenia, prepojené systémy, citlivosť dát, dátum poslednej kontroly a termín ďalšej. Podľa potreby pridajte dátum ukončenia platnosti, podmienky pozastavenia a osobu, ktorá smie agenta zastaviť. Na schválenia, históriu behov a incidenty odkazujte, nekopírujte ich do evidencie. Záznam aktualizujte pri zmene nasadenia alebo oprávnení a frekvenciu kontrol nastavte podľa rizika.

Prepojenie evidencie s kontrolami počas vykonávania vysvetľuje článok Ako preniesť pravidlá riadenia AI do prevádzky?

Ako k tomu pristupuje Elevon

Elevon spája AI agentov, pracovné postupy, znalosti a integrácie na jednej riadenej platforme. Prístupové práva podľa rolí a záznamy o vykonaní pracovných postupov podporujú prevádzkový dohľad. Tím ich môže prepojiť s evidenciou agentov ako podklady ku kontrole. Organizácia stále potrebuje určiť zodpovedné osoby, pravidlá kontrol a pozastavenia aj zahrnúť agentov, ktorí bežia mimo platformy.

Často kladené otázky

Kto má evidenciu udržiavať?

Správu zvyčajne koordinuje tím zodpovedný za riadenie AI, prevádzkové riziká alebo IT kontroly. Každý agent však potrebuje aj konkrétneho človeka zodpovedného za jeho použitie v biznise.

Ako často ju kontrolovať?

Záznam aktualizujte pri nasadení, zmene alebo vyradení agenta. Pravidelné kontroly nastavte podľa rizika. Štvrťročná kontrola môže byť pre niektoré tímy vhodným východiskom, nie je však všeobecnou zákonnou požiadavkou.

Čo má obsahovať každý záznam?

Účel, zodpovednú osobu, stav nasadenia, model a poskytovateľa, oprávnenia, prepojené systémy, citlivosť dát a termíny kontrol. Podľa potreby doplňte koniec platnosti, podmienky pozastavenia a odkazy na schválenia a prevádzkové záznamy.

Ako evidencia súvisí s registrom IT majetku?

Register IT majetku zachytáva technické aktíva. Evidencia agentov dopĺňa informácie o tom, čo smú agenti vykonať, s akými dátami pracujú a kto za ich činnosť zodpovedá. Môže byť súčasťou existujúceho registra.

Patria do nej aj agenti od dodávateľov?

Áno. Aby bol prehľad použiteľný, mal by zahŕňať aj externých agentov, ktorí vo firemnom prostredí vykonávajú úlohy alebo pristupujú k dátam.

Kedy treba záznam aktualizovať?

Pri novom nasadení, vyradení, zmene oprávnení, incidente alebo pravidelnej kontrole. Overte aj zmeny modelov, nástrojov a prepojení, ktoré môžu ovplyvniť rozsah činnosti agenta.

Ako chrániť citlivé informácie v evidencii?

Obmedzte prístup na oprávnené osoby a zaznamenávajte prístupy a zmeny. Do evidencie nevkladajte heslá ani prístupové tokeny. Odkazujte na ich bezpečne spravované umiestnenie.

Čo pri vyradení agenta?

Označte ho ako vyradeného, odoberte mu prístupy a oprávnenia a zaznamenajte súvisiace zmeny. Potrebné historické podklady uchovajte podľa interných pravidiel a platných povinností.

Ako evidencia pomáha pri audite?

Uľahčuje dohľadanie zodpovedných osôb, schválení a prevádzkových záznamov. Podporuje audit, ale nenahrádza technickú dokumentáciu, monitoring ani ďalšie kontroly potrebné pre konkrétny prípad použitia.

Má zmysel aj pri pilote?

Áno, primeraný záznam má zmysel už pri pilote, najmä ak má prístup k firemným dátam alebo nástrojom. Výnimky určte v interných pravidlách. Zákonné požiadavky závisia od prípadu použitia a jurisdikcie. Neplatí jednotné pravidlo, že každý pilot musí viesť rovnakú evidenciu.

Zdroje a ďalšie čítanie

NIST AI RMF GOVERN 1.6: odporúčania k evidencii AI systémov, zodpovednosti a rozsahu podľa rizika.

Článok 26 AI Actu: povinnosti subjektov používajúcich vysokorizikové AI systémy. Overte aktuálne pravidlá a ich uplatnenie na váš prípad použitia.

Platforma Elevon: možnosti platformy opísané v tomto článku.