Nach Jahren harter Arbeit haben auf der Arm-Architektur basierende CPUs ein erhebliches Wachstum auf dem Servermarkt erlebt und werden von vielen Kunden geschätzt und angenommen. Hyperscale-Cloud-Service-Anbieter wie Amazon Cloud Service (AWS), Alibaba, Microsoft und andere selbst entwickelte CPUs entscheiden sich alle für eine Zusammenarbeit mit Arm. Warum ist das so?

„Die Antwort ist ganz einfach. Durch die Zusammenarbeit mit Arm können sie Lösungen basierend auf ihren eigenen Anwendungsfällen und ihrer Infrastruktur entwickeln und optimieren.“ Mohamed Awad, Senior Vice President und General Manager der Infrastrukturabteilung von Arm, sagte auf der jährlichen Technologiekonferenz ArmTechSymposia 2023.

Einer der wichtigsten Anbieter von KI-Chips, NVIDIA, gefällt auch den anpassbaren Funktionen von Arm-Server-CPUs wie extrem großen Cloud-Dienstanbietern.

Der leistungsstarke GH200-Superchip von NVIDIA enthält 72 ArmNeoverse-Kerne. In Verbindung mit der GPU von NVIDIA kann die KI-Leistung von GH200 im Vergleich zu Systemen, die auf x86-Architektur basieren, um das Zehnfache verbessert werden.

Um den individuellen Bedürfnissen von mehr Kunden im Infrastrukturbau gerecht zu werden, hat Arm zwei weitere wichtige Initiativen.

Warum wird ArmNeoverseCPU bevorzugt?

Die Superchip-Plattform GH200 GraceHopper ist ein Produkt, das NVIDIA im Mai dieses Jahres herausgebracht hat. Es ist für die Bewältigung umfangreicher generativer KI-Aufgaben konzipiert. Der NVIDIA DGX GH200-Supercomputer, der über 256 GH200-Superchips verfügt, hat seine KI-Leistung auf ein erstaunliches Exaflop-Niveau (eine Million Billionen Berechnungen pro Sekunde) verbessert.

Der Schlüssel zu einer solch leistungsstarken KI-Leistung liegt in der Änderung der Systemarchitektur.


Traditionelle Systemarchitektur in der Infrastruktur

Traditionelle Serversystemarchitektur,Der Speicher ist über PCIe mit einer handelsüblichen Allzweck-CPU (HostCPU) verbunden, die für die Verwaltung mehrerer Beschleuniger zuständig ist.

„Diese traditionelle Architektur war in der Vergangenheit die einzige Architektur, die auf dem Markt erhältlich war.“ Mohamed Awad betonte: „Das Problem bei dieser Architektur besteht darin, dass sie häufig von der Stange verwendet wird.“Die Schnittstelle zwischen der CPU und dem Beschleuniger begrenzt direkt das endgültige Leistungsniveau des Produkts.Da alle Beschleuniger über diese handelsübliche Allzweck-CPU auf zusätzlichen Speicher zugreifen müssen, kann keine Speicherkonsistenz erreicht werden, die Leistung des Beschleunigers kann nicht vollständig genutzt werden und die Anforderungen generativer KI können nicht gut unterstützt werden. "


Angesichts neuer Anwendungsanforderungen ist im Infrastrukturbereich eine moderne Systemarchitektur entstanden

Der GH200-Superchip verändert die traditionelle Architektur. Über NVLink,Lassen Sie jede CPU unabhängig an einen Beschleuniger anschließen, um eine starke Speicherkonsistenz zu erreichen. Einer der wichtigsten Punkte ist die anpassbare CPU.Zu diesem Zweck kann NVIDIA mithilfe einer solchen Architektur die Effizienz der GPU voll ausschöpfen und die Leistung basierend auf tatsächlichen Szenarien und Anwendungsfällen maximieren.


„Nur wenn wir den endgültigen Anwendungsfall verstehen und die CPU entsprechend dem Nutzungsszenario entwerfen, können wir eine bessere Effizienz und die beste Leistung des Produkts erzielen.“ Mohamed Awad sagte weiter: „NVIDIA und Arm nutzten die Flexibilität der Arm-Technologie, um die Chips zu entwickeln, die sie zur weiteren Optimierung des Systems benötigen, und nutzten gleichzeitig das leistungsstarke Software-Ökosystem von Arm voll aus.“

Die nächste Frage ist: Wird die von Nvidia vorgeschlagene Architektur im Zeitalter der generativen KI zum Mainstream werden?

„Es ist noch zu früh, um beurteilen zu können, ob CPU oder GPU als Beschleuniger in Zukunft der Haupttrend oder der einzige Trend sein werden.“Mohamed Awad sagte gegenüber Leifeng.com: „Wir befinden uns im Zeitalter der Rechenbeschleunigung. In der zukünftigen Architektur wird es unabhängig von der Kopplungsmethode neben jeder Allzweck-CPU einen Beschleuniger geben. Die Einzigartigkeit von Arm besteht darin, dass es Partnern dabei helfen kann, maßgeschneiderte CPUs von Grund auf und entsprechend ihren Anforderungen zu erstellen und eine gute Verbindung zwischen der CPU und dem Beschleuniger herzustellen.“

Da x86 einen Standard-CPU-Chip bietet, ist ArmCPU die beste Wahl für die CPU in der GH200-Superchip-Plattform.Dies ist auch der Schlüssel zur Popularität von ArmNeoverse.

Mit anderen Worten: Standardisierte CPUs können die individuellen Anforderungen der Infrastruktur nicht erfüllen, und die Anpassung ist zum Trumpf von Arm auf dem Servermarkt geworden.

Anpassbar, Arms „Killertrumpf“ auf dem Servermarkt

Im August dieses Jahres brachte Arm das Arm Neoverse Computing Subsystem (CSS) auf den Markt, das es dem Arm-Ökosystem ermöglicht, spezialisierte Chips zu geringeren Kosten, mit weniger Risiko und in kürzerer Zeit herzustellen.


Das Produkt der ersten Generation von ArmCSS, ArmNeoverseCSSN2, integriert die NeoverseN2-Plattform und verfügt über verifizierte Konfigurationen sowie optimierten Stromverbrauch, Leistung und Fläche (PPA).

„NeoverseCSS kann unseren Partnern dabei helfen, ihre Investitionen weiter zu reduzieren, die Zugänglichkeit unserer Lösungen für das gesamte Ökosystem zu beschleunigen und die Markteinführungszeit der Produkte der Partner zu verkürzen.“ sagte Mohamed Awad.

Leifeng.com (öffentliches Konto: Leifeng.com) hat erfahren, dass es Arm-Kunden gibt, die NeoverseCSS verwenden.Sparen Sie bis zu 80 Personen pro Jahr Ingenieurzeit.Es gibt auch Kunden, die NeoverseCSS verwenden.Das Projekt dauerte vom Konzept bis zur Veröffentlichung nur 13 Monate.

Auch die kürzlich von Microsoft veröffentlichte Cobalt100CPU basiert auf NeoverseCSS.

„Arm Neoverse hat viele Kunden auf dem chinesischen Markt, insbesondere im Infrastrukturbereich, und seine Entwicklung war in den letzten drei oder vier Jahren sehr stark.“ sagte Zou Ting, globaler Vizepräsident des China-Geschäfts von Arm. „Arm beteiligt sich auch aktiv an lokalen Ökologie- und Open-Source-Software-Communitys wie Rechenzentren und Cloud Computing, einschließlich der Dragon Lizard-Community, um diesen Communities dabei zu helfen, sich besser in das globale Ökosystem von Arm zu integrieren.“

Mohamed Awad betonte auch, dass China einer der sehr wichtigen Märkte für Arm sei. Die Gesamtlieferungen von Chips chinesischer Partner, die auf der Arm-Architektur basieren, haben 30 Milliarden erreicht. Arm hat fast 400 autorisierte Technologiekunden in China und diese Zahl steigt jeden Monat weiter an.

Das globale Ökosystem von Arm ist auch der Schlüssel zur Erfüllung der unterschiedlichen Bedürfnisse der Kunden. Basierend auf NeoverseCSS hat Arm ein umfassendes Design (ArmTotalDesign) auf den Markt gebracht, um die Leistungsfähigkeit des Ökosystems weiter zu bündeln, um den Entwicklungsprozess kundenspezifischer Chips zu vereinfachen und die Lieferung einfacher und bequemer zu gestalten.


Die Einführung des umfassenden Designs von Arm ermöglicht es ASIC-Designunternehmen, schnell mit Designprojekten zu beginnen und ihre Designlösungen jederzeit den gewünschten Kunden zur Verfügung zu stellen. IP-Anbieter können erweitertes IP für NeoverseCSS vorintegrieren, vorverifizieren und voroptimieren; EDA-Partner können die fortschrittlichsten Tools und Prozesse nahtlos unterstützen, um das SoC-Design zu vereinfachen. Kommerzielle Firmware-Lösungen können lange vor dem Chip-Tape-out mit der Entwicklung beginnen. Gleichzeitig wird das Design von NeoverseCSS speziell optimiert, um die Vorteile führender Prozessknoten voll auszuschöpfen.

Offensichtlich sind ArmNeoverseCSS und das umfassende Arm-Design in einer Zeit, in der die Infrastruktur nach Differenzierung strebt, derzeit die beste Wahl, um den differenzierten Anforderungen gerecht zu werden.


Beachten Sie das auchArm hat sich zu einem Unternehmen für Computerplattformen entwickelt.Heutzutage werden die umfassenden Computerlösungen von Arm (ArmTotalComputeSolutions), die ArmNeoverse-Plattform sowie die ArmCorstone- und SOAFEE-Computerplattformen häufig in den Bereichen Mobil, Infrastruktur, Internet der Dinge, Automobil und anderen Bereichen eingesetzt.