AWS predstavuje Trust in Depth ako prístup k riadeniu agentov založený na nezávislých, navzájom sa posilňujúcich vrstvách. Rozlišuje vymedzenie pôsobnosti pred vykonaním, poznanie agenta pri nasadení, presadzovanie hraníc počas práce a pozorovanie po každom behu. Kde možno pravidlá vyjadriť presne, dopĺňa ich dokazovanie. Samotné filtrovanie obsahu, testovanie ani monitorovanie podľa článku nezaručia správne správanie pri ďalšom spustení.

Agent môže pri rovnakej úlohe zvoliť odlišné nástroje aj postupy. Schvaľovanie každého kroku človekom však môže vytvárať úzke miesta a únavu z kontrol. AWS preto odporúča samostatné konanie tam, kde sa dajú kroky overiť, a ľudský úsudok pri nejednoznačnosti. Autonómia sa má rozširovať podľa dôkazov o spoľahlivosti úloh, presadzovaní pravidiel a zvládaní zlyhaní.

Najprv úloha, prístupy a identita

Vymedzenie pôsobnosti zahŕňa zodpovednosti agenta, dostupné nástroje, údaje a služby, záväzné pravidlá aj rozhodnutia vyhradené ľuďom. AWS odporúča prideliť iba potrebný prístup a preveriť oprávnenia pribalené k nástrojom či rolám. Kiro podľa firmy premieňa zámer na štruktúrované požiadavky, pomocou automatizovaného uvažovania hľadá rozpory, nejasnosti a medzery a odvodzuje testy založené na vlastnostiach. Strands opisuje ako otvorenú súpravu na definovanie modelov, pokynov a nástrojov so spravovaným prostredím na vykonávanie.

Policies v Amazon Bedrock AgentCore podľa AWS umožňujú bežným jazykom opísať povolené nástroje, API a údaje a ešte pred účinnosťou pravidiel overiť nadmerné oprávnenia či rozpory. Agent Registry firma opisuje ako spravovaný katalóg schválených agentov, serverov MCP, nástrojov a zručností. Správcovia riadia schvaľovanie, dostupnosť pri vyhľadávaní a odstraňovanie položiek; ľudia aj agenti ich môžu objavovať a opätovne využívať. AgentCore má každému agentovi prideliť vlastnú identitu a kontrolovať ju pri každej požiadavke.

Hranice mimo pokynov agenta

Článok zdôrazňuje kontrolu celých postupností: samostatne povolené kroky môžu spolu viesť k zakázanému výsledku. Policy v AgentCore podľa AWS presadzuje pravidlá pri každom volaní nástroja smerovanom cez AgentCore Gateway, nezávisle od uvažovania agenta. Časové pravidlá zohľadňujú históriu relácie a upravujú oprávnenia podľa priebehu práce. Tento opis sa vzťahuje na volania prechádzajúce bránou.

Amazon Bedrock Guardrails podľa firmy filtruje škodlivý alebo tematicky nevhodný obsah vo vstupoch a výstupoch a zakrýva citlivé údaje. Automated Reasoning checks majú dokazovať súlad odpovede so zadanými pravidlami. Strands Box AWS opisuje ako otvorené izolované prostredie, ktoré mimo pokynov agenta presadzuje povolený prístup k súborom, službám a prihlasovacím údajom, s rovnakými hranicami od lokálneho vývoja po produkciu.

Dôkaz má presne určený rozsah. Automatizované uvažovanie podľa článku preveruje všetky cesty zahrnuté v opise systému a jeho predpokladoch. Výsledkom je dôkaz alebo prípad porušenia pravidla. Takéto overenie nepokrýva očakávania závislé od kontextu, napríklad priateľský tón, a nepredstavuje záruku neobmedzenej bezpečnosti agenta.

Príklad odchodu zamestnanca a kontrola výsledku

Ilustračný postup odchodu zamestnanca dáva agentovi šesť nástrojov, ale žiadny na vymazanie účtu. Pred konverziou a zdieľaním Samovej schránky musí zablokovať jeho prihlásenie; pred zmenou e-mailovej licencie preveriť požiadavky na právne uchovanie údajov. Brána predčasné volania odmietne. Agent následne zablokuje prihlásenie, odovzdá prístup k schránke Priyi, preverí a nastaví požadované uchovanie, potvrdí ochranu a zvolí licenciu, ktorá ju podporuje. Každý krok sa zaznamená bez samostatného ľudského schválenia. Ide o ilustráciu, nie doložený výsledok zákazníckeho nasadenia.

Zdravé systémové metriky podľa AWS ešte neznamenajú úspešnú úlohu. CloudWatch Omni má zachytávať stopy a zobrazovať volania modelov a nástrojov na časovej osi; hodnotitelia posudzujú správnosť, vernosť kontextu a výber nástrojov. Zlyhané priebehy môžu slúžiť ako testovacie údaje pre opravy. Pozorovanie v produkcii dopĺňa testovanie pred nasadením.

AWS odporúča začať jedným agentom, jedným pracovným postupom a jednou dokázateľnou hranicou. Vopred treba určiť samostatné kroky, potrebné schválenia a podmienky zastavenia; rozsah zodpovedností potom upravovať podľa získaných dôkazov.