Microsoft ermöglicht die Zusammenarbeit mehrerer Windows-PCs über USB4- oder Thunderbolt-Verbindungen

📅 2026-11-23

Zusammenfassung:

Microsoft hat die RDMA-über-USB4-Technologie für Windows 11 eingeführt, die es mehreren gewöhnlichen PCs ermöglicht, über USB4- oder Thunderbolt-Verbindungen zusammenzuarbeiten, um Speicher und GPU-Rechenleistung zu teilen, und so sehr große KI-Modelle auszuführen, die ursprünglich die Speicherkapazität einer einzelnen Maschine überstiegen. Es wird erwartet, dass diese Technologie die Hardwareschwelle für lokale KI-Inferenz senkt und es Entwicklern ermöglicht, vorhandene Computer zum Aufbau verteilter Computersysteme zu verwenden.

Diese Technologie basiert auf Remote Direct Memory Access (RDMA). Im Gegensatz zur herkömmlichen Netzwerkkommunikation, die auf TCP/IP basiert, ermöglicht RDMA angeschlossenen Geräten, den Speicher des anderen direkt zu lesen und zu schreiben, wobei einige Netzwerkverarbeitungsverbindungen des Betriebssystems und der CPU umgangen werden, wodurch das Kopieren von Daten reduziert, Kommunikationsverzögerungen verringert und die Übertragungseffizienz verbessert werden. RDMA wurde bisher hauptsächlich in Hochleistungsservern und Rechenzentren eingesetzt, doch Microsoft führt es dieses Mal auf Consumer-Windows-PCs ein.

Microsoft gibt an, dass RDMA über USB4 mithilfe der vorhandenen NetworkDirect-Schnittstelle und eines neuen Software-RDMA-Anbieters implementiert wird. Kompatible Geräte kommunizieren direkt über USB4 oder unterstützte Thunderbolt-Verbindungen, sodass keine dedizierte RDMA-Netzwerkkarte oder ein Netzwerk-Switch erforderlich ist. Tests zeigen eine Round-Trip-Latenz von etwa 28 bis 50 Mikrosekunden bei der Übertragung kleiner Nachrichten, etwa viermal niedriger als bei herkömmlicher Ethernet-über-USB4-Kommunikation auf UDP-Basis. Diese niedrige Latenz bleibt sowohl bei 40-Gbit/s- als auch bei 80-Gbit/s-Verbindungen erhalten, obwohl letztere über die doppelte Nennbandbreite verfügt.

In der eigentlichen Demonstration arbeitete Microsoft mit AMD zusammen, um drei Mini-PCs mit Ryzen AI Max+ 395-Prozessor, Radeon 8060S-Grafikkarte und 128 GB einheitlichem Speicher über ein vollständig verbundenes USB4-40-Gbit/s-Netzwerk zu verbinden. Drei Geräte führten das Hybrid-Expertenmodell Qwen3-235B-A22B mit 235 Milliarden Parametern erfolgreich aus und erreichten eine Inferenzgeschwindigkeit von etwa 18,5 Token pro Sekunde bei 4-Bit-Quantisierung. Unabhängige Tests von AMD zeigen, dass die Dekodierungsgeschwindigkeit 21,98 Token pro Sekunde und die Geschwindigkeit der sofortigen Textverarbeitung 117,98 Token pro Sekunde erreichen kann.

Intel führte auch eine ähnliche Demonstration mit drei und vier PCs mit Core Ultra Series 3-Prozessoren, 64 GB Speicher und Thunderbolt 4-Verbindungen durch, auf denen das Modell GPT-OSS-120B ausgeführt wurde. Bei einer Kontextlänge von 1000 Token beträgt die Geschwindigkeit etwa 49,4 Token pro Sekunde bei drei Geräten und steigt auf 54,2 Token pro Sekunde bei vier Geräten. Es ist erwähnenswert, dass dieses Modell mit 120 Milliarden Parametern nicht vollständig auf einen einzelnen PC mit 64 GB Speicher geladen werden kann, sodass die Zusammenarbeit mehrerer Maschinen zum Schlüssel für die Ausführung des Modells wird.

Microsoft wies darauf hin, dass sich RDMA über USB4 noch im experimentellen Stadium befindet und hohe Anforderungen sowohl an die Hardware- als auch an die Softwarekonfiguration stellt. Teilnehmende PCs müssen über eine von Windows verwaltete USB4-Verbindung verfügen, vorzugsweise mit 40 Gbit/s oder höher. Microsoft empfiehlt außerdem eine Full-Mesh-Topologie, bei der jeder PC direkt mit jedem anderen Gerät verbunden ist, anstelle einer Verkettung, die die Leistung erheblich beeinträchtigen kann.

Darüber hinaus müssen Anwendungen die verteilte Ausführung explizit über ein kompatibles Framework unterstützen. Microsoft hat den NetworkDirect-Anbieter als Open-Source-Lösung bereitgestellt und eine modifizierte llama.cpp-Implementierung veröffentlicht, die die Technologie demonstriert. RDMA über USB4 wird voraussichtlich mit einer zukünftigen „Future Platforms“-Version des Windows Insider Experimental Channel eingeführt, einen konkreten Veröffentlichungszeitpunkt hat Microsoft jedoch noch nicht bekannt gegeben.

Während der Entwicklervorschauphase ist diese Funktion standardmäßig deaktiviert und muss über die Registrierungskonfiguration und die Testsignatur aktiviert werden. Das Aktivieren der Testsignatur erfordert möglicherweise auch eine vorübergehende Deaktivierung von Secure Boot. Microsoft empfiehlt daher, dass Benutzer Tests auf dedizierten Entwicklungsgeräten statt auf Computern durchführen, die sie täglich verwenden.

Obwohl der offizielle Zeitrahmen für eine flächendeckende Einführung ungewiss ist, könnte diese Technologie, wenn sie irgendwann zum Tragen kommt, dazu führen, dass leistungsstarke lokale KI-Inferenzen alltäglich werden. Entwickler müssen möglicherweise keine teuren dedizierten KI-Server mehr kaufen, sondern können die Speicher- und GPU-Ressourcen mehrerer vorhandener PCs kombinieren, um größere lokale KI-Modelle auszuführen.

Verwandte Tags

Ähnliche Artikel

Kommentare

0/500
Captcha (click to refresh)
Keine Kommentare