Microsoft Research untersucht ausgelagerte Inferenz für Robotik
Microsoft Research veröffentlichte am 23. September 2026 einen Beitrag mit dem Titel „Offloaded inference for real-world physical AI robotics“. Darin geht es darum, wo die KI-Inferenz für physische Roboteraufgaben ausgeführt werden kann. Untersucht wird die Auslagerung eines Teils der Berechnungen vom Roboter. Der Beitrag beschreibt eine Bewertung mobiler Roboterhandhabung mit repräsentativen Modellen in drei Bereichen: semantische Kartierung und Planung, Navigation sowie Manipulation.
Umfang der Bewertung
Diese Bereiche umfassen unterschiedliche Arbeiten innerhalb der untersuchten mobilen Handhabung. Semantische Kartierung und Planung, Bewegung durch eine Umgebung und Manipulation gehören laut Beitrag zum Umfang der Bewertung. Die berichteten Ergebnisse beziehen sich daher auf diese Arbeitslasten. Aus den vorliegenden Informationen lässt sich nicht ableiten, dass dieselben Resultate für jeden Roboter, jedes Modell oder jede Aufgabe gelten.
Microsoft Research zufolge verbesserte das Auslagern der Inferenz physischer KI bei den untersuchten Arbeitslasten Reaktionszeit, Genauigkeit, Akkulaufzeit und Kosten. Dies ist die Schlussfolgerung, die der Beitrag aus seiner Bewertung zieht. Für die Betrachtung eines Robotersystems rücken damit mehrere Aspekte zugleich in den Blick: ob die Modelle auf die Hardware passen, wie schnell das System reagiert, wie genau die Modelle arbeiten und welche Folgen die Berechnung für Akku und Kosten hat.
Grenzen der Berechnung an Bord
Der Beitrag berichtet, dass einige kleinere GPUs den gesamten Stack für mobile Manipulation nicht aufnehmen konnten. Auch bei GPUs mit genügend Speicher konnte die Leistung ein Problem sein: Kartierung und Planung waren laut Bewertung bis zu 383 Prozent langsamer als auf einer A100. Dieser Wert bezeichnet die größte berichtete Verlangsamung, nicht ein allgemeines Ergebnis für sämtliche Geräte und Arbeitslasten.
Für die Navigation nennt der Beitrag bei leichteren GPUs einen Rückgang der rechtzeitigen Hinderniserkennung um 30 Prozent. Außerdem senkten kleinere GPUs die Genauigkeit der VLA-Modelle um 50 Prozent, obwohl diese Modelle nicht wesentlich langsamer wurden. Im beschriebenen Vergleich gingen Laufzeit und Genauigkeit somit nicht zwingend gemeinsam zurück. Die getrennten Messwerte zeigen, weshalb die Beurteilung der Rechenhardware mehr als nur die Ausführungszeit berücksichtigen muss.
Leistung und Akkuverbrauch
Auch die Wahl einer größeren GPU an Bord ist in dem beschriebenen Vergleich mit einem Nachteil verbunden. Der Beitrag sagt, dass größere Onboard-GPUs wie Jetson Thor die Roboterakkus um bis zu 160 Prozent stärker entluden. Diese Zahl bezieht sich auf den im Beitrag beschriebenen Vergleich. Zusammen mit den Ergebnissen zu kleineren GPUs verweist sie auf das Spannungsfeld zwischen anspruchsvollen Berechnungen direkt auf dem Roboter und dem Energiebedarf größerer Hardware.
Beim Auslagern ändert sich der Ort, an dem die Inferenz stattfindet. Microsoft Research berichtet für die untersuchten Arbeitslasten Verbesserungen bei mehreren Messgrößen. Die vorliegenden Fakten liefern keine allgemeine Regel dafür, wie jedes Robotersystem seine Berechnungen aufteilen sollte. Sie stützen eine begrenzte Aussage: Für die betrachteten Arbeitslasten werden Vorteile berichtet, während Reaktionszeit, Genauigkeit, Akkulaufzeit und Kosten gemeinsam relevant bleiben.
Die Physical AI Toolchain
Microsoft Research beschreibt ein auf Kubernetes basierendes Werkzeugset, mit dem sich Robotik-Arbeitslasten containerisieren und zwischen Rechenleistung im Roboter, Edge-GPUs und der Cloud auslagern lassen. Dies ist die im Beitrag beschriebene technische Grundlage für den Ansatz. Die bereitgestellten Informationen belegen keine zusätzlichen Funktionen, Angaben zur Verfügbarkeit oder Resultate über die ausdrücklich genannten Aussagen hinaus.
Laut Beitrag wurde die Physical AI Toolchain um ausgelagerte Inferenz für Roboter ergänzt. Sie umfasst außerdem Beispielprojekte zum Auslagern der Inferenz für einen SO-101 und einen UR10e. Diese benannten Projekte verbinden die Beschreibung der Toolchain mit konkreten Roboterbeispielen im Beitrag. Sie veranschaulichen die Arbeit, ohne die berichteten Ergebnisse über die untersuchten Arbeitslasten hinaus zu erweitern.
Einordnung der Ergebnisse
Die berichteten Einschränkungen betreffen verschiedene Teile des Systems. Manche kleineren GPUs konnten den Stack für mobile Manipulation nicht aufnehmen; Kartierung und Planung konnten selbst bei ausreichendem Speicher langsamer laufen; die rechtzeitige Hinderniserkennung nahm bei leichteren GPUs ab; und die Genauigkeit der VLA-Modelle sank auch ohne deutliche Verlangsamung. Größere Onboard-GPUs waren im beschriebenen Vergleich wiederum mit höherem Akkuverbrauch verbunden. Diese Beobachtungen bilden den Kontext für das Interesse des Beitrags an ausgelagerter Inferenz.
Die zentrale Aussage bleibt auf die von Microsoft Research beschriebene Studie begrenzt: Das Auslagern verbesserte bei den untersuchten Arbeitslasten der mobilen Roboterhandhabung Reaktionszeit, Genauigkeit, Akkulaufzeit und Kosten. Der Beitrag beschreibt außerdem Kubernetes-Werkzeuge zum Verschieben containerisierter Arbeitslasten zwischen Roboter, Edge-GPUs und Cloud sowie Beispielprojekte für SO-101 und UR10e. Das sind die konkreten Ergebnisse und Umsetzungsdetails der bereitgestellten Angaben.