AWS przedstawia Trust in Depth jako niezależne, wzajemnie wzmacniające się warstwy zarządzania agentami: określenie zakresu przed wykonaniem, poznanie agenta przy wdrożeniu, egzekwowanie granic podczas pracy i obserwację po każdym przebiegu. Tam, gdzie reguły można zapisać precyzyjnie, dochodzi dowodzenie. Według artykułu samo filtrowanie treści, testowanie lub monitorowanie nie gwarantuje poprawnego zachowania przy następnym uruchomieniu.

Agent może wybrać inne narzędzia i ścieżki wykonania dla tego samego zadania. Zatwierdzanie każdej czynności przez człowieka może jednak powodować zatory i zmęczenie kontrolą. AWS zaleca samodzielne działanie tam, gdzie czynności można zweryfikować, oraz ludzki osąd przy niejednoznaczności. Autonomia powinna rosnąć wraz z dowodami skutecznego egzekwowania reguł, niezawodności zadań i opanowania obsługi błędów.

Zakres odpowiedzialności, dostęp i tożsamość

Określenie zakresu obejmuje obowiązki agenta, dostępne narzędzia, dane i usługi, wiążące reguły oraz decyzje zastrzeżone dla ludzi. AWS zaleca przyznawanie wyłącznie koniecznego dostępu i sprawdzanie uprawnień dołączonych do narzędzi lub ról. Według firmy Kiro przekształca zamiar w uporządkowane wymagania, wykorzystuje automatyczne rozumowanie do wykrywania sprzeczności, niejasności i luk oraz wyprowadza testy oparte na właściwościach. Strands opisano jako otwarty zestaw narzędzi do definiowania modeli, instrukcji i narzędzi, wraz z zarządzanym środowiskiem wykonawczym.

Policies w Amazon Bedrock AgentCore pozwalają według AWS opisywać dozwolone narzędzia, API i dane zwykłym językiem oraz sprawdzać nadmierny dostęp i sprzeczności przed wejściem reguł w życie. Agent Registry firma przedstawia jako zarządzany katalog zatwierdzonych agentów, serwerów MCP, narzędzi i umiejętności. Administratorzy kontrolują zatwierdzanie, widoczność w wyszukiwaniu i usuwanie wpisów, które ludzie i agenci mogą znajdować i ponownie wykorzystywać. AgentCore ma nadawać każdemu agentowi własną tożsamość i sprawdzać ją przy każdym żądaniu, łącząc działania z jego uprawnieniami.

Egzekwowanie granic poza agentem

Artykuł zaleca ocenę całych sekwencji działań: pojedynczo dozwolone kroki mogą razem prowadzić do zabronionego wyniku. Według AWS Policy w AgentCore egzekwuje reguły niezależnie od rozumowania agenta przy każdym wywołaniu narzędzia kierowanym przez AgentCore Gateway. Reguły czasowe uwzględniają historię sesji i dostosowują uprawnienia w toku pracy. Opisane egzekwowanie dotyczy wywołań przechodzących przez tę bramę.

Amazon Bedrock Guardrails według firmy filtruje szkodliwe lub niezgodne z tematem treści wejściowe i wyjściowe oraz maskuje dane wrażliwe. Automated Reasoning checks mają dowodzić zgodności odpowiedzi ze wskazaną polityką. Strands Box AWS opisuje jako otwartą piaskownicę, która poza instrukcjami agenta egzekwuje dozwolony dostęp do plików, usług i danych uwierzytelniających. Te same granice mają obowiązywać od lokalnego rozwoju po środowisko produkcyjne.

Dowód ma określony zakres. Automatyczne rozumowanie sprawdza ścisłe reguły na wszystkich ścieżkach objętych opisem systemu i jego założeniami. Wynikiem jest dowód albo przypadek naruszenia. Nie obejmuje to oczekiwań zależnych od kontekstu, takich jak przyjazny ton. Dowód odnosi się więc do zapisanych zasad i założeń, a nie do nieograniczonego bezpieczeństwa agenta.

Przykład odejścia pracownika i analiza przebiegu

W ilustracyjnym procesie odejścia pracownika agent otrzymuje sześć narzędzi, lecz żadnego do usuwania kont. Przed przekształceniem i udostępnieniem skrzynki Sama musi zablokować jego logowanie, a przed zmianą licencji pocztowej sprawdzić wymogi prawnego zachowania danych. Brama odrzuca przedwczesne wywołania. Agent następnie blokuje logowanie, przekazuje Priyi dostęp do skrzynki, sprawdza i ustanawia wymagane zachowanie danych, potwierdza ochronę i wybiera wspierającą ją licencję. Każdy krok jest rejestrowany bez osobnej zgody człowieka na każdą czynność. To ilustracja, nie udokumentowane wdrożenie u klienta ani zmierzony rezultat.

Prawidłowe metryki systemowe nie oznaczają według AWS, że agent wykonał zadanie. Artykuł zaleca odtwarzanie otrzymanego kontekstu, wywołań narzędzi, decyzji wynikających z reguł i rezultatów. CloudWatch Omni ma rejestrować ślady wykonania i przedstawiać wywołania modeli oraz narzędzi na osi czasu. Ewaluatory oceniają poprawność, wierność kontekstowi i dobór narzędzi. Nieudane przebiegi mogą dostarczać danych testowych do poprawek; obserwacja produkcji uzupełnia testy przed wdrożeniem.

AWS zaleca rozpoczęcie od jednego agenta, jednego procesu i jednej granicy możliwej do udowodnienia. Trzeba określić działania samodzielne, wymagające zgody oraz warunki zatrzymania, a następnie poszerzać lub zawężać odpowiedzialność na podstawie zebranych dowodów.