
Kimi K3.1 Pro Highspeed ist in Amazon Bedrock verfügbar
Kimi K3.1 Pro Highspeed von Moonshot AI ist in Amazon Bedrock verfügbar. Das Modell ist eine nachtrainierte Version von Kimi K3 und behält dieselbe offene Architektur der 3T-Klasse sowie ein Kontextfenster von einer Million Token. Moonshot AI gibt an, dass die Ausgabe von Token zwei- bis dreimal so schnell erfolgt wie bei Kimi K3.1 Pro. Dieser Geschwindigkeitsvergleich ist eine Herstellerangabe und durch die bereitgestellten Belege nicht unabhängig bestätigt.
Kompatibler Wechsel von Kimi K3
Für Teams, die Kimi K3 bereits in Amazon Bedrock einsetzen, ist die Kontinuität der Integration besonders relevant. Highspeed verwendet denselben Bedrock-Endpunkt, dieselben APIs und dieselben Funktionen wie Kimi K3. Bestehender Kimi-K3-Code kann die neue Variante daher durch eine Änderung der Modell-ID ausprobieren. Ein vollständiger Austausch der Anwendungsschnittstelle ist dafür nicht erforderlich.
Der Zugriff ist über die OpenAI-kompatiblen APIs Chat Completions und Responses sowie über Amazon Bedrock Converse und Invoke möglich. Die Schnittstelle kann damit passend zum vorhandenen Client und Arbeitsablauf gewählt werden. Das Modell unterstützt Werkzeugaufrufe, strukturierte Ausgaben, konfigurierbares Reasoning, Bildeingaben und Streaming. Diese Funktionen decken interaktive Antworten, maschinenlesbare Ergebnisse, werkzeuggestützte Abläufe und Anfragen mit Bildern ab.
Reasoning und Inferenzprofile
Das Modell führt vor jeder Antwort einen Reasoning-Prozess aus. Als Aufwand lassen sich low, high und max einstellen. Wird kein Wert übermittelt, gilt max als Standard. Die Einstellung verändert somit die Aufwandsstufe; sie deaktiviert den Reasoning-Prozess nicht.
Verfügbar sind die regionsübergreifenden Inferenzprofile global.moonshotai.kimi-k3.1, us.moonshotai.kimi-k3.1 und in.moonshotai.kimi-k3.1. Beim US-Profil bleibt die Verarbeitung in den jeweiligen US-Regionen, beim Indien-Profil in den jeweiligen indischen Regionen. Das globale Profil ist eine weitere verfügbare Option; die gelieferten Fakten schreiben ihm jedoch nicht dieselbe regionale Begrenzung zu.
Datenverarbeitung und Servicestufen
AWS erklärt, dass Inferenzdaten innerhalb der AWS-Datengrenze bleiben, nicht an Moonshot AI weitergegeben und nicht zum Training des Modells verwendet werden. Für Inferenzanfragen gelten laut AWS außerdem keine Datenspeicherung und kein Betreiberzugriff. Diese Angaben beschreiben den Umgang mit Inferenzdaten. Die Wahl des globalen, amerikanischen oder indischen Profils bleibt dennoch eine Entscheidung der jeweiligen Anwendung.
Für jede Anfrage kann zwischen Priority, Standard und Flex gewählt werden. Flex stellt Kimi K3.1 Pro Highspeed zum halben Preis der Standard-Stufe bereit, kann dafür aber längere Antwortzeiten haben. Die drei Stufen teilen sich ein gemeinsames On-Demand-Kontingent. Anwendungen können somit pro Anfrage zwischen Preis und möglicher Wartezeit abwägen, ohne für jede Stufe ein getrenntes On-Demand-Kontingent zu verwenden.
Explizites Prompt-Caching
Explizites Prompt-Caching wird von Chat Completions, Responses und Invoke unterstützt, nicht jedoch von Converse. Vor einem Cache-Haltepunkt müssen mindestens 256 Token stabilen Inhalts stehen. Zwischengespeicherte Inhalte bleiben mindestens 30 Minuten erhalten. Die Wahl der API entscheidet folglich darüber, ob diese Funktion verfügbar ist. Sie eignet sich für wiederkehrende Anfragen mit einem ausreichend langen, unveränderten Präfix.
Verbindung mit OpenCode
OpenCode kann Kimi K3.1 Pro Highspeed über die Chat-Completions-API von Amazon Bedrock ansprechen. Dafür werden der OpenAI-kompatible Anbieter von OpenCode und ein Amazon-Bedrock-API-Schlüssel verwendet. Kurzfristige Schlüssel gelten höchstens zwölf Stunden und funktionieren nur in der Region, in der sie erzeugt wurden. Schlüssel, Client-Konfiguration und ausgewählte Region müssen deshalb aufeinander abgestimmt sein.
Das Angebot verbindet das große Kontextfenster mit API-Kompatibilität, Bildeingabe, Streaming, Werkzeugaufrufen und strukturierten Ausgaben. Eine praktische Prüfung kann mit dem Wechsel der Modell-ID beginnen und anschließend Inferenzprofil, Reasoning-Aufwand, Servicestufe und API-abhängiges Caching berücksichtigen. Der gemeldete Geschwindigkeitsvorteil sollte dabei weiterhin ausdrücklich als Angabe von Moonshot AI behandelt werden.