Zusammenfassung:
Der modulare Computerhersteller Framework gab bekannt, dass der neue Framework Desktop, der mit AMDs neuestem Ryzen AI Max+ Pro 495-Prozessor ausgestattet ist, diese Woche offiziell vorbestellt werden kann. Das größte Highlight dieses kleinen Desktop-Computers ist, dass er mit bis zu 192 GB einheitlichem Speicher ausgestattet ist, was ihn zu einem der radikalsten Consumer-Systeme für lokale Anwendungen der künstlichen Intelligenz auf dem Markt macht.
Laut den von Framework veröffentlichten Informationen wird die neue Version von Framework Desktop ab diesem Mittwoch (Pazifikzeit) in den USA vorbestellbar sein. Die neue Maschine setzt das zuvor veröffentlichte kleine 4,5-Liter-Chassis-Design fort, die interne Kernkonfiguration wurde jedoch erheblich verbessert.
Als Kern der gesamten Maschine verwendet der AMD Ryzen AI Max+ Pro 495-Prozessor ein 16-Zen-5-Kern-Design mit einer maximalen Beschleunigungsfrequenz von 5,2 GHz. Im Vergleich zum bisher verwendeten Ryzen AI Max+ Pro 395 hat sich das neue Modell in der Frequenz und Gesamtleistung verbessert.
Der Grafikteil wurde ebenfalls aktualisiert. Der neue Prozessor ist mit einer integrierten Radeon 8065S-Grafikkarte mit 40 Sätzen RDNA 3,5-Recheneinheiten ausgestattet und die Grafikkartenfrequenz kann bis zu 3,0 GHz erreichen. Dadurch kann das System starke Grafik- und KI-Rechenfunktionen beibehalten und gleichzeitig eine kompakte Größe beibehalten.
Was jedoch wirklich Aufmerksamkeit erregt, ist die Speicherkonfiguration.
Der neue Framework Desktop kann mit bis zu 192 GB LPDDR5X Unified Memory ausgestattet werden, läuft mit einer Geschwindigkeit von 8533 MT/s und die Gesamtspeicherbandbreite wird auf 273 GB/s erhöht. Im Vergleich zur einheitlichen Speicherlösung mit maximal 128 GB der vorherigen Generation bietet das neue System eine 50-prozentige Kapazitätssteigerung und ein weiteres Wachstum der Bandbreite.
Framework gab an, dass dieser einheitliche Speicher mit extrem großer Kapazität besonders für die lokale Ausführung großer Sprachmodelle geeignet ist. Offiziellen Demonstrationsdaten zufolge kann das System die quantisierte Q8-Version von DeepSeek V4 Flash auf einem einzelnen Gerät ausführen und gleichzeitig zusätzlichen Speicher für längere Kontextfenster behalten.
Angesichts des aktuellen Trends, dass immer mehr Entwickler KI-Inferenzaufgaben von der Cloud auf lokal verlagern möchten, hofft Framework offensichtlich, dieses Produkt zu einer Arbeitsplattform für junge Unternehmen, Entwickler und KI-Forscher zu machen.
Neben Prozessor- und Speicher-Upgrades hat Framework auch Anpassungen an den Hardware-Erweiterungsmöglichkeiten vorgenommen.
Die neue Version ändert den ursprünglichen PCIe x4-Steckplatz in ein offenes Design, was bedeutet, dass Benutzer längere Erweiterungskarten installieren können, ohne durch die Schwanzstruktur des Steckplatzes eingeschränkt zu werden. Obwohl die Bandbreite weiterhin der PCIe x4-Spezifikation entspricht, wurde die Kompatibilität deutlich verbessert.
Um die Anwendungsszenarien dieses Designs zu demonstrieren, demonstrierte Framework auch eine Clusterlösung mit zwei Maschinen. Über zwei 50-GbE-Hochgeschwindigkeitsnetzwerkkarten können zwei mit 192 GB konfigurierte Framework-Desktops einen KI-Cluster mit einer Gesamtspeicherkapazität von 384 GB bilden und RDMA und Tensor-Parallel-Technologie nutzen, um größere Modelle auszuführen.
In Sachen Wärmeableitung setzt Framework weiterhin auf die vorinstallierte Noctua-Lüfterlösung, um den kontinuierlichen Betrieb von Hochleistungsprozessoren in einem kompakten Gehäuse sicherzustellen.
In Bezug auf den Software-Support bestätigte das Unternehmen außerdem, dass es eine Version mit vorinstalliertem Fedora-Linux-System bereitstellen wird. Nutzer können entweder eine komplette Maschine mit vorinstalliertem Linux-System erwerben oder sich für eine Windows-Version entscheiden, um den Anforderungen unterschiedlicher Entwicklungsumgebungen gerecht zu werden.
Es ist erwähnenswert, dass es sich bei diesem Produkt um die offizielle kommerzielle Version handelt, nachdem Framework erstmals einen Prototyp während der AMD-Veranstaltung „Advancing AI“ vorgeführt hat. Damals erregte das Unternehmen in der Branche Aufmerksamkeit, weil die 192-GB-Unified-Memory-Konfiguration bei Consumer-Plattformen äußerst selten war.
Der offizielle Preis wurde noch nicht bekannt gegeben. Allerdings geht man in der Branche allgemein davon aus, dass der Preis deutlich über dem der bestehenden Ryzen AI Max+ 395-Version liegen wird. Wenn man bedenkt, dass die bisherigen 128-GB-Konfigurationsprodukte bereits recht teuer sind und die Kosten für 192-GB-LPDDR5X-Speicher weiter gestiegen sind, dürfte das neue Modell in den High-End-Workstation-Markt einsteigen.
Analysten gehen davon aus, dass sich auf dem Markt allmählich eine neue Nachfrage entwickelt, da immer mehr KI-Modelle lokal ausgeführt werden können: Benutzer streben nicht mehr nur nach unabhängiger Grafikkartenleistung, sondern beginnen, sich auf einheitliche Speicherkapazität und lokale Argumentationsfähigkeiten zu konzentrieren. Die von Framework eingeführte 192-GB-Version ist ein Produkt, das speziell für diesen Trend entwickelt wurde.
Für Benutzer, die große Sprachmodelle ausführen, lokale KI-Entwicklung durchführen oder persönliche KI-Workstations bauen müssen, wird dieses kleine Desktop-System mit einem Volumen von nur 4,5 Litern zweifellos zu einer der einzigartigsten Optionen auf dem Markt werden.
Kommentare