Amazon Bedrock podľa oznámenia AWS podporuje inferenciu v rámci jedného regiónu pre Claude Opus 5 a Claude Sonnet 5 v Soule. V Singapure je týmto spôsobom dostupný Claude Sonnet 5. Identifikátor regiónu Soul je ap-northeast-2 a identifikátor regiónu Singapur je ap-southeast-1. Rozsah oznámenia je konkrétny: v Soule ide o oba uvedené modely, v Singapure o Sonnet 5.

Čo znamená spracovanie v regióne

Pri tejto forme inferencie Amazon Bedrock spracuje požiadavku v tom jedinom regióne, ktorý klient volá. Vstupný prompt aj výstupný výsledok zostávajú v tomto regióne počas celej požiadavky. Pre tím, ktorý potrebuje viazať spracovanie požiadaviek na Soul alebo Singapur, je preto dôležité určiť volaný región spolu s modelom. Samotný názov modelu nevyjadruje, v ktorom z uvedených regiónov sa má požiadavka spracovať.

AWS zároveň opisuje in-region inferenciu ako režim bez smerovacej vrstvy. Priepustnosť je obmedzená kapacitou volaného regiónu. To je praktický dôsledok regionálneho rozsahu: pri posudzovaní plánovaného používania treba vychádzať z regiónu, do ktorého požiadavka smeruje. Oznámenie neposkytuje základ na porovnávanie výkonu Opus 5 a Sonnet 5, preto je podstatnou informáciou ich dostupnosť a spôsob spracovania požiadaviek.

Modely, rozhrania a identifikátory

Modely pre inferenciu v regióne sú prístupné cez koncový bod bedrock-runtime s priamymi identifikátormi modelov, napríklad anthropic.claude-opus-5 a anthropic.claude-sonnet-5. Tento koncový bod pre uvedené modely podporuje Anthropic Messages API aj rozhrania Amazon Bedrock InvokeModel a Converse. Výber medzi týmito rozhraniami nemení uvedený regionálny rozsah oznámenia: Opus 5 a Sonnet 5 sú uvedené pre Soul, Sonnet 5 pre Singapur.

Na oboznámenie sa s modelmi bez písania kódu alebo nastavovania SDK možno podľa AWS použiť textové ihrisko v konzole Amazon Bedrock. Pri použití cez rozhranie API sú zase podstatné priamy identifikátor modelu a volaný región. Tieto dve informácie spoločne určujú, ktorý z oznámených modelov a ktorú z oznámených regionálnych možností používateľ využíva.

Prevádzkové hranice

Požiadavky podliehajú servisným kvótam príslušného regiónu a štandardným cenám za použitie na požiadanie v danom regióne. Aj čerpanie kvót, metriky CloudWatch a záznamy CloudTrail sa vzťahujú na volaný región. Pri kontrole používania preto dáva zmysel čítať tieto údaje v kontexte toho istého regiónu, v ktorom sa spracúva požiadavka. Regionálne spracovanie, kapacita, kvóty, ceny a prevádzkové záznamy sú v tomto oznámení prepojené tým istým údajom: regiónom volania.

Pre čitateľa, ktorý hodnotí požiadavku na miestne spracovanie dát, je najpresnejšie držať sa formulácie AWS: vstupný prompt a výstup zostávajú počas požiadavky v jednom volanom regióne. Toto tvrdenie opisuje priebeh inferenčnej požiadavky. Podrobnosti oznámenia AWS sú v jeho príspevku o dostupnosti modelov v Soule a Singapure.