
Przypisywanie i kontrolowanie kosztów narzędzi AI w Amazon Bedrock
Amazon Bedrock zapisuje pełny ARN podmiotu IAM każdego wywołującego inferencję w kolumnie line_item_iam_principal raportu Cost and Usage Report 2.0, czyli CUR 2.0. W przypadku użytkowników federacyjnych ARN obejmuje także nazwę sesji. Nie wymaga to zmian w wywołaniach API, dzięki czemu tożsamość wywołującego może zostać powiązana z mierzonym użyciem bez dodatkowej instrumentacji wywołań.
Co przedstawia CUR 2.0
CUR 2.0 agreguje użycie Bedrock według podmiotu i typu użycia dla każdego godzinowego lub dziennego przedziału eksportu. Nie udostępnia kosztu pojedynczego żądania. Raport pokazuje więc, jakie użycie w danym przedziale przypisano do podmiotu i kategorii użycia, ale nie jest rejestrem kosztów poszczególnych wywołań.
Rozdzielenie kategorii ma znaczenie, ponieważ Bedrock osobno mierzy i rozlicza tokeny wejściowe, wyjściowe, odczytu z pamięci podręcznej oraz zapisu do pamięci podręcznej. Godzina aktywności jednego podmiotu IAM zwykle generuje zatem cztery wiersze CUR. Kilka wierszy dotyczących tego samego podmiotu i godziny może odzwierciedlać oddzielne kategorie tokenów, a nie kilka odrębnych rekordów kosztu żądania.
Tożsamość i kontekst organizacyjny
W IAM Identity Center nazwa sesji roli przyjętej przez użytkownika jest jego nazwą logowania. Każdy użytkownik otrzymuje dzięki temu odrębny podmiot. Tagi sesji mogą wzbogacić tę tożsamość o wymiary takie jak zespół, centrum kosztów i projekt. Tagi podmiotu IAM lub sesji federacyjnej pojawiają się w CUR 2.0 z prefiksem iamPrincipal/, a w Cost Explorer są wymiarami dostępnymi do filtrowania.
Tagi mają określone ograniczenia czasowe. Tag alokacji kosztów podmiotu IAM pojawia się w Billing dopiero po wykonaniu przez ten podmiot wywołania Bedrock. Jego pojawienie się może potrwać do 24 godzin, a dotarcie do CUR 2.0 i Cost Explorer do 48 godzin. Aktywacja nie działa wstecz. Najnowszą aktywność i niedawno wprowadzone tagi należy więc interpretować z uwzględnieniem tych opóźnień.
Osobny wymiar obciążenia
Przypisanie do wywołującego można połączyć z oznaczeniem obciążenia. Application Inference Profiles pozwalają tagować wydatki obciążenia w bedrock-runtime. Przy użyciu bedrock-mantle wydatki mogą być izolowane i tagowane przez Projects i Workspaces. Podmiot identyfikuje wywołującego, a odpowiedni profil, projekt lub przestrzeń robocza zapewnia osobny sposób uporządkowania wydatków według obciążenia.
Oba wymiary nadal podlegają szczegółowości danych kosztowych. Agregacja według podmiotu wskazuje, komu przypisano użycie w przedziale eksportu, natomiast tag obciążenia dodaje obsługiwany kontekst organizacyjny. Nie zmienia to faktu, że CUR 2.0 przedstawia agregację według przedziału i typu użycia, a nie koszt pojedynczego żądania.
Uprawnienia zależą od narzędzia
Codex i ChatGPT Work podczas korzystania z bedrock-mantle wymagają akcji bedrock-mantle:CreateInference oraz powiązanych akcji ograniczonych do Project. Claude Code i Claude Desktop używające bedrock-runtime wymagają bedrock:InvokeModel i bedrock:InvokeModelWithResponseStream, ograniczonych do właściwych ARN modeli lub profili inferencji.
Na zapisaną tożsamość wpływa też ścieżka poświadczeń. Jeśli ustawiono AWS_BEARER_TOKEN_BEDROCK, Claude Code i Codex używają klucza zamiast łańcucha poświadczeń SSO. Wywołania są wtedy przypisywane do użytkownika IAM stojącego za kluczem. Raport odzwierciedla zatem poświadczenie faktycznie użyte do wywołania, nawet gdy oczekiwano tożsamości opartej na sesji SSO.
Wymagana konfiguracja eksportu
Aby kolumna line_item_iam_principal była wypełniana, CUR 2.0 musi być skonfigurowany z opcją alokacji według tożsamości wywołującego. Eksport utworzony przed uruchomieniem przypisywania do podmiotów IAM trzeba zastąpić nowym eksportem korzystającym z tej opcji. Samo zachowanie starszego eksportu nie zapewni potrzebnych danych o podmiocie.
Konfiguracja i czas dostarczenia danych są odrębnymi kwestiami. Opcja tożsamości wywołującego umożliwia wypełnienie kolumny podmiotu, natomiast pojawienie się i przekazanie tagów nadal podlega wskazanym opóźnieniom. Wraz z agregacją godzinową lub dzienną określa to, co i kiedy można zobaczyć w danych rozliczeniowych.
Różne czasy reakcji kontroli
AWS Budgets może po przekroczeniu progu filtrowanego według tagu uruchomić działanie, na przykład zastosowanie polityki odmowy. Aktualizacje budżetu i opóźnienia danych rozliczeniowych mogą jednak pozwolić użytkownikowi o wysokim tempie użycia przekroczyć limit nawet o jeden dzień. Działanie budżetowe jest więc opóźnioną kontrolą kosztu, a nie natychmiastową decyzją dotyczącą każdego wywołania.
Alarmy CloudWatch i Lambda mogą egzekwować limity przy użyciu metryk Bedrock ze wskazanym opóźnieniem 1–5 minut. Brama LLM może blokować pojedyncze wywołania, lecz zwiększa złożoność operacyjną i opóźnienie każdego żądania. Dostępne podejścia obejmują więc kontrolę opartą na opóźnionych danych rozliczeniowych, reakcję na metryki w skali minut oraz blokowanie na poziomie wywołania.
Pierwotne źródło AWS łączy te elementy: CUR 2.0 dostarcza zagregowane użycie według podmiotu, tagi dodają kontekst organizacyjny i obciążenia, a Budgets, CloudWatch z Lambda lub brama LLM oferują mechanizmy o różnych czasach reakcji i wymaganiach operacyjnych.