Samsung entwickelt High-Bandwidth-Memory (HBM) speziell für Smartphones und Tablets und plant, diese mobilen Endgeräte mithilfe komplexer Verpackungstechnologie in leistungsstarke lokale KI-Computing-Plattformen zu verwandeln. Derzeit wird HBM hauptsächlich in Servern und Rechenzentren eingesetzt, und Samsung hofft, diese Hochleistungs-DRAM-Form nutzen zu können, um seine Gewinnmargen im Zuge der KI-Welle weiter auszubauen, ohne einen potenziellen Markt zu verpassen.

In dem Bericht wurde darauf hingewiesen, dass Samsungs Ziel dieses Mal darin besteht, eine an mobile Geräte angepasste HBM-Technologie zu entwickeln, die die Rechenleistung und Bandbreite erheblich steigern kann, ohne den Platzbedarf und die Stromverbrauchsbelastung wesentlich zu erhöhen, und dadurch komplexere endseitige KI-Inferenzaufgaben zu unterstützen. Im Vergleich dazu wird bei bestehenden mobilen DRAMs immer noch Kupferdraht-Bonding verwendet, und die I/O-Anschlüsse liegen normalerweise im Bereich von 128 bis 256. Die begrenzte Pin-Größe führt offensichtlich zu Engpässen bei der Verbesserung der Bandbreite und der Reduzierung von Signalverlusten und Wärme.

Um dieses Problem zu lösen, plant Samsung die Einführung von „Kupfersäulen mit ultrahohem Seitenverhältnis“ in Verbindung mit Fan-Out Wafer Level Packaging (FOWLP) in Smartphones und Tablets. Diese Verpackungslösung wurde zuvor auf Chips auf Systemebene wie Exynos 2600 angewendet, um die Wärmeableitung zu verbessern und die Leistung unter Dauerlast zu verbessern. Auf dieser Grundlage hofft Samsung, HBM auf Serverebene in einer kompakteren Form auf das mobile Endgerät zu portieren, um lokale KI-Modelle mit höherer Speicherbandbreite und Datendurchsatz zu versorgen.

In dem Bericht wurden Quellen zitiert, die besagten, dass Samsung durch Fortschritte auf dem Gebiet des Vertical Copper Post Stack (VCS) mehrschichtige DRAM-Chips in einer „Leiter“-Struktur auf begrenztem Raum stapeln und dann Kupferpfosten verwenden kann, um die Lücken zu füllen, wodurch eine mehrschichtige HBM-Verpackung in Mobilgeräten mit begrenztem Volumen erreicht wird. Im Vergleich zu herkömmlichen Lösungen hat Samsung das Seitenverhältnis der Kupfersäulen im VCS-Paket von ursprünglich 3–5:1 auf 15–20:1 erhöht, eine Änderung, die die Gesamtbandbreitenleistung deutlich verbessert.

Allerdings bringt dieses Design mit hohem Aspektverhältnis auch neue Herausforderungen mit sich: Mit zunehmendem Aspektverhältnis muss der Durchmesser der Kupfersäulen verringert werden. Sobald der Durchmesser weniger als 10 Mikrometer beträgt, können sich die Kupfersäulen verbiegen oder sogar brechen, was die strukturelle Zuverlässigkeit beeinträchtigt. Zu diesem Zweck sorgt FOWLP strukturell für zusätzliche mechanische Unterstützung, indem es die Kupferverkabelung nach außen verlängert, um die Stabilität des Gesamtpakets zu verbessern. Außerdem wird die Anzahl der verfügbaren I/O-Terminals erweitert, wodurch die Bandbreite weiter erhöht wird. Berichten zufolge kann die Bandbreitensteigerung etwa 30 % erreichen.

Es ist unklar, wann das von Samsung für mobile Geräte entwickelte HBM offiziell kommerzialisiert wird, aber dem Zeitplan zufolge wird diese Technologie voraussichtlich die erste sein, die auf der zukünftigen Exynos 2800- oder Exynos 2900-Plattform installiert wird. Es gab bereits Gerüchte, dass der Exynos 2800 die von Samsung selbst entwickelte GPU verwenden wird und nicht auf die Smartphone-Produktlinie beschränkt ist, was die Bedeutung von Speichersubsystemen mit hoher Bandbreite und hohem Durchsatz weiter erhöht.

Neben Samsung plant offenbar auch Apple, HBM auf zukünftigen iPhones einzusetzen, um das geräteseitige KI-Erlebnis zu verbessern. Derzeit ist jedoch unklar, ob entsprechende Technologien oder Komponenten von Samsung gekauft werden. Huawei prüft auch die Möglichkeit, HBM in Smartphones einzuführen. Unter Berücksichtigung von Faktoren wie Lieferkette und Geopolitik hält die Branche jedoch die Wahrscheinlichkeit, dass Samsung in das Liefersystem chinesischer Hersteller einsteigt, für gering.

Über den technischen Weg hinaus ist jedoch immer noch die Kostenfrage ein entscheidender Faktor, der darüber entscheidet, ob HBM mobile Endgeräte im großen Maßstab implementieren kann. Der Bericht wies darauf hin, dass Smartphone-Hersteller im aktuellen Umfeld hoher Speicherpreise die wirtschaftliche Machbarkeit des Einbaus von HBM in ihre Geräte möglicherweise sorgfältiger abwägen und lieber abwarten und auf sinkende Preise warten, bevor sie Pläne schmieden.

Unter diesen Umständen könnte sich das Hauptmittel zur Verbesserung der lokalen KI-Fähigkeiten von Smartphones und Tablets in den nächsten Jahren immer noch auf die Optimierung der Chip-Rechenleistung und des Speichersystems (z. B. leistungsstärkeres LPDDR oder schnellere Speicherschnittstellen) und nicht auf die groß angelegte Einführung von teureren HBM konzentrieren. Sobald jedoch Angebot und Nachfrage auf dem Speichermarkt wieder ins Gleichgewicht kommen und sich die Preise stabilisieren, wird erwartet, dass die von Samsung vertretenen Hersteller mobiles HBM nutzen, um Speicher mit hoher Bandbreite von Rechenzentren auf persönliche Terminals auszudehnen und so die Obergrenze der lokalen KI-Erfahrung neu zu definieren.