Vor dem Hintergrund der rasanten Ausweitung der Arbeitslasten der Agenten-KI (Agentic AI) steigt die Nachfrage nach hoher Bandbreite, hoher Energieeffizienz und Speicher mit großer Kapazität in Rechenzentren weiter an. LPDDR-Speicher wird nach und nach zu einer Schlüsselkomponente der neuen Generation von KI-Servern. Die neuesten Trends in der Branche zeigen, dass der LPDDR6-Standard der nächsten Generation die Einzelmodulkapazität auf 512 GB erhöhen und die SOCAMM2-Paketform unterstützen wird, was eine höhere Speicherdichte und eine bessere Energieeffizienz für zukünftiges KI-Training und Inferenz bietet.
Gemäß den vorläufigen Spezifikationen von LPDDR6, die von JEDEC veröffentlicht wurden, ist LPDDR6 als „Hauptspeicherstandard“ für Rechenzentren positioniert und wird die Kapazität und Bandbreite weiter erhöhen und gleichzeitig die Vorteile beim Stromverbrauch beibehalten. LPDDR6 verwendet ein schmaleres x6-Einzelchip-Schnittstellendesign, ergänzt durch eine nicht-binäre Schnittstelle und zusätzliche x6-Unterkanäle, sodass ein einzelner DRAM-Chip gestapelt werden kann, um eine höhere Kapazität zu erreichen. Es wird erwartet, dass sich die Gesamtbandbreite im Vergleich zum bestehenden LPDDR5/LPDDR5X um etwa 10–20 % erhöht, der Fokus des Designs liegt jedoch mehr auf der Dichteerweiterung als auf extremer Bandbreite.
JEDEC gab an, dass sein Ziel darin bestehe, die Kapazität des LPDDR6 SOCAMM2-Moduls auf 512 GB zu erhöhen, basierend auf dem bestehenden LPDDR5X SOCAMM2-Modul von bis zu 256 GB, um den wachsenden Speicheranforderungen für KI-Training und Inferenz gerecht zu werden. Da die Rechenleistung von Rechenzentren heute immer weiter zunimmt, ist die Speicherkapazität zu einem der größten Engpässe geworden, die sich auf den Trainingsumfang und den Inferenzdurchsatz großer Modelle auswirken. LPDDR6-Module mit höherer Dichte können einen größeren effektiven Speicherpool auf begrenztem Rack-Platz aufbauen.
Im Hinblick auf das Tempo der industriellen Implementierung haben Mainstream-Speicherhersteller wie Samsung, SK Hynix und Micron zuvor das kommerzielle Zeitfenster für LPDDR6 auf 2028–2029 festgelegt. Aufgrund der starken Nachfrage nach agentenbasierter KI geht die Branche jedoch im Allgemeinen davon aus, dass verwandte Produkte und Plattformen möglicherweise bereits im Voraus auf den Markt kommen. Auch die von JEDEC offengelegten Technologiepfade LPDDR6 und SOCAMM2 gelten als wichtige Signale, die den Weg für eine neue Generation von KI-Serverplattformen ebnen.
Im Hinblick auf die Ökologie der Serverplattform hat NVIDIA die LPDDR5X SOCAMM2-Lösung auf seinen CPUs der Vera-Serie übernommen, während AMD LPDDR5X in den CPUs der Verano-Serie eingeführt hat, die für Inferenzszenarien optimiert sind, um die Leistung pro Watt auf Rack-Ebene zu verbessern. Mit der Weiterentwicklung von LPDDR6 erwartet die Branche, dass Hersteller wie NVIDIA und AMD auf höherdichte und energieeffizientere LPDDR6-SOCAMM2-Module umsteigen werden, um eine größere Speicherbandbreite und Kapazitätsredundanz für zukünftige KI-Fabriken und Inferenzcluster bereitzustellen.
Es ist erwähnenswert, dass die von JEDEC gleichzeitig geförderte LPDDR6-PIM-Technologie (Processing/Programming In Memory) die Anwendungsgrenzen von LPDDR6 im Rechenzentrumsbereich weiter erweitern wird. Durch die Integration des PIM-Controllers auf der Speicherseite kann das LPDDR6-Modul einige Rechenaufgaben lokal ausführen und einen Teil der Datenverarbeitungsarbeit von der CPU auf den Speicher verlagern, wodurch der Datenverarbeitungsaufwand reduziert und die Gesamtenergieeffizienz verbessert werden soll. In Szenarien, in denen KI-Training und -Inferenz stark auf groß angelegten Matrixoperationen und Tensoroperationen basieren, wird diese Art der „integrierten Speicher- und Berechnungstechnologie“ als wichtige Entwicklungsrichtung zur Bewältigung von Stromverbrauch und Bandbreitenbeschränkungen angesehen.
Aus Sicht der Energieeffizienzeigenschaften war der LPDDR-Standard schon immer für seine niedrige Spannung und seinen geringen Stromverbrauch bekannt. Im Vergleich zu herkömmlichem Server-DDR-Speicher kann er bei großflächiger Bereitstellung den Gesamtenergieverbrauch des Rechenzentrums erheblich senken. JEDEC wies darauf hin, dass LPDDR6 und sein unterstützendes SOCAMM-Paket angesichts der zunehmenden Wertschätzung von KI- und Stromverbrauchsindikatoren für Rechenzentren schnell die Aufmerksamkeit von Cloud-Dienstanbietern und Kunden von Hyperscale-Rechenzentren auf sich ziehen.
Insgesamt gilt LPDDR6 als eine der zentralen Speichertechnologien für KI-Rechenzentren der nächsten Generation und wird durch agentenbasierte KI einen Spitzenwert der Nachfrage erleben. Mit einer maximalen Modulkapazität von 512 GB, einem besseren Stromverbrauch und innovativen Funktionen wie PIM wird LPDDR6 voraussichtlich in den nächsten Jahren zum Mainstream-Speicherstandard für KI-Serverplattformen werden und eine effizientere Infrastrukturunterstützung für das Training und die Inferenz großer Modelle bieten.