Laut AWS sind strukturierte Ausgaben für Anthropic-Claude-Modelle auf Amazon Bedrock über bedrock-runtime und bedrock-mantle allgemein verfügbar. Dies gilt für alle Claude-Modelle dort, wo das jeweilige Modell verfügbar ist. Entwickler können mit JSON Schema eine Antwortstruktur festlegen und deren unterstützte Regeln während der Generierung durchsetzen.

Die Struktur wird bei der Token-Erzeugung vorgegeben

Die Funktion nutzt eingeschränktes Dekodieren, um JSON gemäß dem Schema zu erzeugen. Das umfasst Feldtypen, Pflichtfelder und zulässige Felder. AWS beschreibt einen geringeren Bedarf an eigener Parsing-Logik und Wiederholungsanfragen wegen Schemaverstößen sowie weniger Ausgabetokens. Bei hohem Anfragevolumen könnten dadurch die Inferenzkosten sinken. Unabhängig gemessene Einsparungen belegt der Artikel nicht.

Als Einsatzfelder nennt AWS die Datenextraktion aus Finanzberichten, Compliance-Dokumenten, klinischen Notizen, Rechnungen, Verträgen, E-Mails und Transkripten. Hinzu kommen die Anreicherung von Produktkatalogen, die Prüfung von Werkzeugargumenten und das Klassifizieren oder Weiterleiten von Tickets, Vertriebskontakten und Inhalten. Claude Haiku 5.5 wird für Zusammenfassungen, Kontextverdichtung, Datenbankabfragen und Klassifizierungsanfragen beschrieben.

APIs und Werkzeugeingaben

Die Funktion lässt sich über Boto3 und die bedrock-runtime-APIs oder über die Messages API und bedrock-mantle nutzen. Sie unterstützt Stapelinferenz und Streaming-Antworten als typisierte Ereignisse. Regionsübergreifende Inferenz wird auf bedrock-runtime unterstützt. Bei InvokeModel steht das Schema als JSON-Objekt in output_config.format im nativen Anthropic-Anfragetext, nicht als JSON-Zeichenfolge.

Auf bedrock-mantle begrenzt strict: true Werkzeugeingaben auf das angegebene Schema, einschließlich Feldtypen, zulässiger Werte und erlaubter Felder. AWS beschreibt Mantle als Unterstützung für Agentenanwendungen mit serverseitigen Werkzeugen, Hintergrundinferenz und zustandsbehafteten Gesprächen. Als Werkzeugbeispiele nennt AWS Websuche und Code-Interpreter. Ein begleitendes Beispiel-Notebook enthält weitere API-Beispiele, auch zur Messages API.

Schemas kompilieren und wiederverwenden

Bedrock prüft Schemas anhand einer unterstützten Teilmenge von JSON Schema Draft 2020-12. Neue Schemas werden in Grammatikartefakte kompiliert, was die Latenz der ersten Anfrage erhöhen kann. Kompilierte Grammatiken bleiben innerhalb des Kontos ab dem ersten Zugriff 24 Stunden im Cache. Strukturänderungen lösen eine erneute Kompilierung aus; reine Änderungen an Namens- oder Beschreibungsfeldern erhalten die zwischengespeicherte Grammatik.

Jedes Objekt muss additionalProperties: false setzen, damit das Schema akzeptiert wird. AWS empfiehlt aussagekräftige Eigenschaftsnamen und Beschreibungen sowie enum für Felder mit einer begrenzten Auswahl gültiger Werte. Entwickler sollen mit den mindestens erforderlichen Feldern beginnen, die Komplexität schrittweise erhöhen, Schemas wiederverwenden und mit produktionsnahen Eingaben testen. Einfache Schemas kompilieren schneller; das Schema zählt zur Nutzlastgröße der Converse API.

Unterstützt wird eine Teilmenge von JSON Schema

Die unterstützten Typen sind object, array, string, integer, number, boolean und null. enum erlaubt Zeichenfolgen, Zahlen, boolesche Werte oder null. Aufgeführt sind außerdem const, eingeschränkt anyOf und allOf, interne Verweise über $ref, $def und definitions sowie minItems mit 0 oder 1. Genannte Zeichenfolgenformate sind date-time, time, date, duration, email, hostname, uri, ipv4, ipv6 und uuid.

Die Annahme durch die API bedeutet nicht, dass jede Einschränkung bei der Generierung durchgesetzt wird. Externe $ref-Verweise, die Zahlenregeln minimum, maximum und multipleOf sowie die Zeichenfolgenregeln minLength und maxLength werden laut AWS akzeptiert, aber bei der Generierung nicht durchgesetzt. Diese Einschränkungen muss die Anwendung selbst prüfen.

Den Beendigungsgrund jeder Antwort prüfen

Sicherheitsbedingte Ablehnungen und das Erreichen von max_tokens vor Abschluss können Antworten erzeugen, die dem Schema nicht entsprechen. AWS verlangt deshalb, den Beendigungsgrund jeder Antwort zu prüfen und beide Fälle zu behandeln. Die Funktion kann den beschriebenen Aufwand für die Formatverarbeitung verringern; diese Kontrollen und die genannten Prüfungen in der Anwendung bleiben erforderlich.

Quelle: AWS-Fachartikel zu strukturierten Ausgaben für Claude auf Amazon Bedrock.