
Microsoft Research Focus #98: Geometrie, Coding-Agenten und mehrsprachige KI
Microsoft Research Focus – Edition #98 wird von Anson Ho moderiert und stellt Forschung aus verschiedenen Bereichen von Microsoft vor. Die Ausgabe verbindet Themen aus Robotik und physischer Intelligenz, KI-gestützter Kommunikation, hochdimensionaler Geometrie, lang laufenden Coding-Aufgaben und mehrsprachiger Tokenisierung.
Von Computer Vision zu Robotik
Die Forschungspraktikantin Lilika Makabe kam mit einem Hintergrund in Computer Vision zum Microsoft-Research-Labor in Tokio. Dort arbeitete sie mit Forschenden zusammen, die Robotik und physische Intelligenz untersuchen. Dieser Teil der Ausgabe beschreibt damit ihren Einstieg in ein Forschungsumfeld, in dem Erfahrungen mit visueller Verarbeitung auf Fragestellungen rund um Robotik und physische Intelligenz treffen.
Ein weiterer Abschnitt richtet den Blick auf die Kommunikation über Sprachgrenzen hinweg. Microsoft Applied Science Manager Jinyu Li spricht über KI-gestützte Kommunikation, über die Fortschritte der Forschenden und über weiterhin bestehende Herausforderungen. Die Darstellung umfasst somit sowohl bereits Erreichtes als auch jene Fragen, die noch nicht gelöst sind.
Eine 31 Jahre offene Vermutung
Im mathematischen Teil geht es um neue Forschung, mit der die KLS-Vermutung gelöst wurde. Sie wird als ein zentrales offenes Problem der hochdimensionalen Geometrie beschrieben und war 31 Jahre lang ungelöst. Der Durchbruch zeigt, dass einfache flache Schnitte die engsten Flaschenhälse log-konkaver Verteilungen bis auf einen festen Faktor identifizieren können, unabhängig von der Dimension.
Die Ausgabe benennt zudem, wie dieses Ergebnis geprüft wurde. Die KLS-Ergebnisse wurden unabhängig validiert; außerdem wurde der Beweis mit computergestützten Methoden formal verifiziert. Damit werden zwei Formen der Prüfung ausgewiesen: eine unabhängige Bestätigung der Resultate und eine formale Verifikation des Beweises.
Seltene Komprimierung, hoher Kostenanteil
Die Forschung zu Coding-Agenten beruht auf einer Untersuchung von 13,5 Millionen Coding-Sitzungen. Weniger als 8 Prozent dieser Sitzungen benötigten eine Kontextkomprimierung. Dennoch entfielen auf diese Gruppe 44 Prozent der gesamten KI-Verarbeitungskosten. Der Vergleich trennt somit die Häufigkeit eines Falls von seinem Kostenanteil: Nur ein kleiner Teil der Sitzungen brauchte Komprimierung, verursachte aber einen wesentlich größeren Anteil der Verarbeitungskosten.
Für die Bewertung der Kontextkomprimierung bei lang laufenden Coding-Aufgaben entwickelten die Forschenden COMPACTIONBENCH. Zusätzlich stellten sie APEC vor. Diese Methode bereitet Zusammenfassungen im Hintergrund vor, anstatt die Arbeit eines Coding-Agenten dafür zu unterbrechen. COMPACTIONBENCH dient also der Bewertung, während APEC die Einbindung der Zusammenfassung in den laufenden Arbeitsprozess verändert.
In Auswertungen verbesserte APEC die Coding-Leistung. Gleichzeitig reduzierte die Methode die Kosten um bis zu 25,4 Prozent und die Ausführungszeit um 9,6 Prozent. Das berichtete Resultat umfasst damit drei Aspekte der Evaluation: Leistung beim Coding, Kosten und Ausführungszeit. Die Prozentwerte beziehen sich auf die durchgeführten Bewertungen der Methode.
Wortbestandteile und ein gemeinsames Vokabular
Die mehrsprachige Forschungsarbeit befasst sich mit der Zerlegung von Text in Token. Die Forschenden führten den Latent Core Tokenizer ein. Er identifiziert zunächst wiederverwendbare Wortbestandteile und konstruiert anschließend ein gemeinsames Vokabular für mehrere Sprachen. Diese Reihenfolge ist ein wesentliches Merkmal der beschriebenen Methode.
Die Evaluationen erstreckten sich über 104 Sprachen. Dabei erzeugte der Latent Core Tokenizer linguistisch aussagekräftigere Token als führende Alternativen, behielt eine vergleichbare sprachübergreifende Effizienz bei und verbesserte die Modellleistung in vier mehrsprachigen Benchmarks. Die Ergebnisse betreffen daher nicht nur eine einzelne Kennzahl, sondern die sprachliche Aussagekraft der Token, die Effizienz über Sprachen hinweg und die Modellleistung.
Edition #98 versammelt somit getrennte Forschungslinien mit jeweils konkreten Aussagen. Makabes Praktikum bietet den Blick auf Robotik und physische Intelligenz. Li ordnet Fortschritte und verbleibende Herausforderungen der KI-gestützten Kommunikation ein. Die KLS-Forschung liefert ein geometrisches Resultat samt unabhängiger Validierung und formaler Verifikation. Die Arbeiten zu Coding-Agenten quantifizieren die Kostenkonzentration und bewerten eine Methode zur Vorbereitung von Zusammenfassungen im Hintergrund.
Die Größenordnungen machen die einzelnen Beiträge greifbar: Die KLS-Vermutung war 31 Jahre offen, die Coding-Studie untersuchte 13,5 Millionen Sitzungen, und die Tokenizer-Auswertungen deckten 104 Sprachen sowie vier mehrsprachige Benchmarks ab.