AWS meldet die Verfügbarkeit von Meta Muse Spark Open in Amazon SageMaker JumpStart, dem Modellzentrum von SageMaker AI. Das für Programmieraufgaben optimierte Modell mit zugänglichen Gewichten startet in US East (N. Virginia) und US East (Ohio). Über SageMaker Studio oder das SageMaker Python SDK lässt es sich auf einem Echtzeit-Endpunkt im eigenen AWS-Konto bereitstellen.

Kontext für umfangreiche Programmieraufgaben

Muse Spark Open besitzt ein Kontextfenster von einer Million Token. Das Training umfasste Codegenerierung, Fehlersuche, dateiübergreifendes Refactoring und lang laufende Aufgaben in echten Repositories. Meta nennt agentisches Programmieren, Genauigkeit beim ersten Versuch, Werkzeugaufrufe und das Verständnis großer Codebasen als Schwerpunkte. Das sind Angaben zur Ausrichtung, keine unabhängig belegten Leistungsvergleiche.

Das Reasoning-Modell verarbeitet Text, Bilder, Dokumente, Audio sowie Audio-Video-Eingaben und gibt Text aus. AWS nennt als mögliche Anwendungen die Unterstützung in privaten Repositories, länger arbeitende Programmieragenten und die Umwandlung von Screenshots, Designdokumenten oder aufgezeichneten Fehlerberichten in Reproduktionspläne oder Korrekturentwürfe.

Laut Meta plant und handelt das Modell, beobachtet Ergebnisse und korrigiert sich bei längeren Aufgaben. Zum Training gehörten Webnavigation, die Koordination von Unteragenten und Computerbedienung in Desktop-, Mobil- und Browserumgebungen. Unter SageMaker AI muss die Anwendung oder das Agentenframework die Werkzeuge, den Browser und die Umgebung zur Computerbedienung bereitstellen.

Zwei Varianten und ihr Speicherbedarf

Die Mixture-of-Experts-Architektur hat insgesamt 816 Milliarden Parameter; pro Token sind 42 Milliarden aktiv. Die selektive Aktivierung senkt den Rechenaufwand pro Token. Für den Betrieb bleibt jedoch ausreichend GPU-Speicher für sämtliche Parameter erforderlich. Die aktive Parameterzahl beschreibt somit nicht den gesamten Speicherbedarf.

• BF16: Muse-Spark-Open-816B-A42B läuft auf ml.p6-b300.48xlarge.
• NVFP4: Muse-Spark-Open-816B-A42B-NVFP4 läuft auf ml.p5e.48xlarge.

NVFP4 nutzt NVIDIAs 4-Bit-Gleitkommaformat und benötigt für die Gewichte ungefähr ein Viertel des BF16-Speichers. AWS empfiehlt, beide Varianten vor der Produktionswahl mit den eigenen Aufgaben zu prüfen. Die Speicherangabe allein belegt weder gleiche Qualität noch eine bestimmte Kostenersparnis.

Voraussetzungen und Bereitstellungskontrollen

Erforderlich sind ein AWS-Konto mit Berechtigungen zur Erstellung von Modellen und Endpunkten, eine IAM-Ausführungsrolle für SageMaker AI, ausreichende Kontingente für den Instanztyp und eine unterstützte Region. Studio setzt zusätzlich eine SageMaker-AI-Domäne mit Studio-Zugang voraus. Der SDK-Weg benötigt Python ab Version 3.10 und SageMaker Python SDK v3. AmazonSageMakerFullAccess genügt laut AWS für die Anleitung; Produktionsrollen sollten auf notwendige Aktionen und Ressourcen beschränkt werden.

Die Gewichte unterliegen der Muse Model License einschließlich der Muse Spark Usage Policy. Der Zugang erfordert die Annahme der EULA in Studio beziehungsweise accept_eula=True im SDK. Zugängliche Gewichte sind damit an Lizenzbedingungen gebunden.

SageMaker AI übernimmt die Infrastruktur für den Modellbetrieb. Konfigurierbar sind VPC-Anbindung, Verschlüsselung des Speichervolumes mit einem AWS-KMS-Schlüssel, Netzwerkisolation des Containers, Instanztyp, Skalierungsgrenzen und eine festgelegte Modellversion.

Von der Bereitstellung zur Antwort

In Studio sieht die Anleitung die Suche in JumpStart, die Auswahl einer Variante und Deploy vor. Danach folgen Endpunktname, unterstützter Instanztyp und zunächst eine Instanz. Die Bereitstellung dauert laut AWS üblicherweise 15–20 Minuten; Bereitschaft signalisiert InService. Das SDK kann die Ausführungsrolle der Studio-Domäne oder role_arn in einer anderen Python-Umgebung mit AWS-Zugangsdaten nutzen. model_version in JumpStartConfig legt eine Version fest.

Der Endpunkt akzeptiert eine OpenAI-kompatible Chat-Anfrage mit einer messages-Liste. Die Antwort steht in message.content, das Reasoning in message.reasoning_content und dessen Tokenverbrauch in usage.reasoning_tokens. max_tokens muss Reasoning und Antwort abdecken. Streaming nutzt stream=true und endpoint.invoke_with_response_stream anstelle von invoke.

Gebühren auch ohne Anfragen

Die Hostinginstanzen verwenden mehrere GPUs. Endpunktgebühren fallen während des Betriebs auch ohne Anfragen an. AWS weist deshalb darauf hin, ungenutzte Endpunkte zu löschen. Die SDK-Bereinigung umfasst Modell, Endpunkt und Endpunktkonfiguration; Studio-Bereitstellungen lassen sich auf der Seite Endpoints in der SageMaker-AI-Konsole entfernen.