Samsung nimmt erhebliche strukturelle Anpassungen am Stromversorgungsnetzwerk seines HBM4E-Videospeichers mit hoher Bandbreite der neuen Generation vor, um die immer deutlicher werdenden technischen Probleme bei der Stromversorgung und Wärmeableitung beim Design von KI-Chips der nächsten Generation zu bewältigen. Dieser Schritt erfolgt nur zwei Wochen, nachdem das Unternehmen bekannt gegeben hat, dass die weltweit erste Charge von HBM4 kommerziell ausgeliefert wurde. Zu diesem Zeitpunkt konnte das Massenprodukt stabil mit 11,7 Gbit/s arbeiten, wobei die Geschwindigkeitsredundanz dem Sprint auf 13 Gbit/s vorbehalten war.

Mit der Weiterentwicklung der Architektur von HBM4 zu HBM4E erhöht sich die Anzahl der Löthöcker für die Stromversorgung auf einem einzelnen Chip von 13.682 auf 14.457. Es ist jedoch immer noch auf die gleiche Gehäusefläche komprimiert, und in Verbindung mit einer dünneren Verdrahtung und höherer Dichte erhöhen sich gleichzeitig die Stromdichte und der Drahtwiderstand. Das Ergebnis ist ein schwerwiegenderer IR-Spannungsabfall im Inneren des Chips (die Spannung nimmt auf dem Übertragungsweg allmählich ab), wodurch unter der Überlagerung von Wärme eine negative Rückkopplungsschleife entsteht, die nicht nur die Leistung beeinträchtigt, sondern auch zu lokalen Schaltkreisausfällen führen kann.

Um diesen Engpass bei der Stromversorgung zu beseitigen, entschied sich Samsung dafür, die Stromnetzstruktur selbst zu „operieren“. Auf dem HBM-Basischip wurde der großflächige, wabenförmige, zentralisierte MET4-Stromversorgungsblock, der sich ursprünglich in der Nähe des Verbindungsinterposers befand, in vier kleinere Partitionen aufgeteilt und die obere Metallverdrahtungsschicht wurde weiter verstreut, um den kritischen Pfad zu verkürzen und lokale Verkabelungsstaus zu verringern. Eine interne Auswertung von Samsung zeigt, dass nach diesem segmentierten Stromnetz die Häufigkeit von Metallschaltkreisdefekten im Vergleich zu HBM4 um 97 % gesunken ist und der IR-Spannungsabfall sich um 41 % verbessert hat, was mehr Spannungsspielraum für den stabilen Betrieb des Chips bei höheren Frequenzen freigibt und auch zur Verbesserung der Gesamtzuverlässigkeit beiträgt.

Während Samsung am Stromversorgungsnetz „operiert“, hat es auch einen radikaleren Weg zur Verpackungsentwicklung auf Systemebene im Visier – die physische vollständige „Demontage“ von HBM und GPU. Einer der technischen Wege besteht darin, mithilfe der photonischen Verbindung eine extrem hohe Bandbreite über größere Entfernungen durch optische Signalübertragung aufrechtzuerhalten. Berichten zufolge kann seine theoretische Übertragungskapazität etwa das 1.000-fache der bestehenden Kupferverbindung erreichen, was ausreicht, um den Verzögerungs- und Bandbreitenverlust auszugleichen, wenn der Abstand zwischen HBM und GPU vergrößert wird. Samsung geht davon aus, dass mit der kontinuierlichen Verbesserung der Verkabelungsfähigkeiten von Verpackungssubstraten der Abstand zwischen HBM und GPU voraussichtlich auf mehr als 5 Zentimeter erhöht wird, auch ohne vollständig auf photonische Verbindung zu setzen. Dadurch werden die Wärmedichte und der Wärmeableitungsdruck, die durch die enge Unterbringung von Core-Computing-Chips und mehrschichtigen HBM-Stacks in aktuellen High-End-KI-Beschleunigerkarten verursacht werden, erheblich verringert.

Branchenanalysten wiesen darauf hin, dass die HBM-Stromversorgung und -Kühlung im Zusammenhang mit der explodierenden Belastung durch KI-Training und -Inferenz zu wichtigen „Steckpunkten“ geworden sind, die die weitere lineare Expansion der Rechenleistung einschränken. Samsungs Umbau des Stromnetzes auf HBM4E und die zukunftsweisende Erforschung der HBM-GPU-Trennlösung zeigen die Absicht von Samsung, in der nächsten Runde des Wettbewerbs um High-End-Grafikspeichertechnologie die Führung zu übernehmen. Die technischen Details dieser Zeit wurden zunächst von den koreanischen Medien „Korea Economy“ und der Marktforschungsagentur TrendForce offengelegt und anschließend durch relevante technische Anzeigematerialien von Samsung bestätigt.