Zusammenfassung:
Qualcomm hat kürzlich weitere Details zu den KI-Verarbeitungsfunktionen des Snapdragon 8 Elite Gen 6 Pro bekannt gegeben, wobei das Upgrade der neuen Hexagon NPU am bemerkenswertesten ist. Anders als in der Vergangenheit, als nur das Wachstum der KI-Rechenleistung angestrebt wurde, legt Qualcomm dieses Mal mehr Wert auf die Effizienz des KI-Modellbetriebs, des Speicherzugriffs und der Stromverbrauchskontrolle, in der Hoffnung, die nächste Generation von Flaggschiff-Mobiltelefonen in die Lage zu versetzen, größere generative KI-Modelle und KI-Agenten lokal auszuführen.
Qualcomm sagte, dass die KI-Modelle selbst immer größer und komplexer werden, da generative KI allmählich zu einem wichtigen Merkmal von Smartphones wird. Bei mobilen Geräten besteht der eigentliche Engpass nicht nur in der Rechenleistung, sondern auch darin, wie diese Modelle bei begrenztem Stromverbrauch und begrenzter Speicherbandbreite effizient verarbeitet werden können. Daher wurde die NPU des Snapdragon 8 Elite Gen 6 Pro in vielen Aspekten neu gestaltet.
Eines der wichtigen Upgrades ist der neue Element Accelerator. Diese dedizierte Hardwarebeschleunigungseinheit ist für bestimmte Vorgänge im KI-Computing optimiert, was die Effizienz der NPU bei der Ausführung entsprechender Arbeitslasten verbessern kann. Im Vergleich zur einfachen Erhöhung der Spitzenrechenleistung der NPU ermöglicht dieses spezielle Design dem Chip, bestimmte KI-Aufgaben mit weniger Ressourcen zu erledigen und so den Energieverbrauch im Rechenprozess zu senken.
Die neue Generation der Hexagon NPU verfügt außerdem über einen größeren gemeinsamen Speicher. Laut Qualcomm ist die Kapazität des Large Shared Memory im Vergleich zur Vorgängergeneration um 50 % gestiegen. Dieser Teil des gemeinsam genutzten Hochgeschwindigkeitsspeichers ermöglicht es der NPU, die während der Ausführung des KI-Modells erforderlichen Daten bequemer zu speichern, wodurch die Notwendigkeit eines häufigen Zugriffs auf den Systemspeicher verringert wird.
Diese Änderung ist besonders wichtig für große Sprachmodelle. Bei der Ausführung generativer KI müssen Modelle ständig große Mengen kontextbezogener Daten verarbeiten, von denen einige während der Inferenz beibehalten werden müssen. Wenn diese Daten häufig zwischen der NPU und dem Systemspeicher hin und her übertragen werden, erhöht sich die Latenz und der Stromverbrauch steigt. Durch das Hinzufügen von gemeinsam genutztem Hochgeschwindigkeitsspeicher, der direkt innerhalb der NPU verwendet werden kann, hofft Qualcomm, diese Datenverarbeitung so weit wie möglich zu reduzieren.
Eines der Objekte, das erheblich profitiert hat, ist KV Cache. Da Benutzer immer längere, kontinuierliche Gespräche mit KI-Assistenten führen, müssen Modelle immer mehr Kontextinformationen speichern. Dementsprechend erhöht sich auch die KV-Cache-Größe, die bei der lokalen Ausführung großer Modelle oft zu einer erheblichen Speicherbelastung wird. Durch den größeren gemeinsamen Speicher können relevantere Daten näher an der Recheneinheit bleiben, wodurch die Effizienz der KI-Inferenz verbessert wird.
Qualcomm ist davon überzeugt, dass diese Fähigkeit besonders wichtig für KI-Agenten ist. Im Vergleich zur herkömmlichen Frage-und-Antwort-KI müssen KI-Agenten kontinuierlich mehrere Schritte ausführen, z. B. Benutzerbedürfnisse verstehen, Ausführungspläne formulieren, verschiedene Tools aufrufen, die zurückgegebenen Ergebnisse analysieren und dann mit dem nächsten Schritt fortfahren. Während des gesamten Prozesses müssen Modellstatus und -kontext kontinuierlich gespeichert werden, sodass die Reduzierung des Speicherzugriffs dazu beitragen kann, die Latenz zu reduzieren und eine reibungslosere Ausführung komplexer KI-Aufgaben zu ermöglichen.
Qualcomms Verbesserungen an der NPU bedeuten auch, dass Mobiltelefone, die in Zukunft KI verwenden, nicht unbedingt einfach auf eine Erhöhung des System-RAM angewiesen sein müssen, um das Problem zu lösen. Da lokale KI-Modelle immer größer werden, haben Mobiltelefonhersteller in den letzten Jahren die Speicherkapazität ihrer Flaggschiffprodukte weiter erhöht. Allerdings erhöht die Erhöhung des Arbeitsspeichers nicht nur die Hardwarekosten, sondern erhöht auch den Stromverbrauch und den Druck auf die Speicherversorgung. Qualcomm versucht, dieses Problem auf architektonischer Ebene zu lösen, indem mehr Daten in den gemeinsam genutzten Hochgeschwindigkeitsspeicher im Chip gelegt werden.
Neben der NPU wurden auch CPU und GPU des Snapdragon 8 Elite Gen 6 Pro deutlich aufgewertet. Qualcomm hat zuvor bekannt gegeben, dass die Flaggschiff-Plattform der neuen Generation eine CPU-Frequenz von bis zu 5 GHz haben wird. Wenn diese Spezifikation nach den aktuell angekündigten Informationen endlich umgesetzt wird, wird sie zu einem sehr symbolischen Knotenpunkt bei mobilen Prozessoren, da die höchste Frequenz von Smartphone-CPUs offiziell in die 5-GHz-Ära eintreten wird.
Qualcomm führte außerdem die FlexCache-Technologie für CPUs ein. Die Kernidee besteht außerdem darin, die Abhängigkeit des Prozessors vom externen Systemspeicher zu verringern und den internen Cache des Chips flexibler zu nutzen, damit die CPU effizienter an Daten gelangen kann. Für moderne mobile Prozessoren wird die Datenzugriffseffizienz zwischen Cache und Speicher immer wichtiger, sodass dieses Design das Gleichgewicht zwischen Leistung und Energieeffizienz bis zu einem gewissen Grad verbessern kann.
GPUs haben auch erhebliche architektonische Veränderungen erfahren. Qualcomm beschreibt die neue Generation der Adreno-GPU als ein sehr wichtiges Architektur-Upgrade, das nicht nur die herkömmliche Grafikleistung verbessert, sondern auch die Fähigkeit der GPU, KI-Aufgaben auszuführen, weiter verbessert.
Eine der wichtigen Änderungen ist die Hinzufügung von Adreno Matrix Cores, bei denen es sich um Kerne handelt, die für Matrixberechnungen bestimmt sind. Matrixoperationen sind eine wichtige Berechnungsart in modernen KI-Modellen, daher können dedizierte Matrixkerne GPUs dabei helfen, KI-bezogene Arbeiten effizienter auszuführen.
Das bedeutet, dass zukünftige Snapdragon-Flaggschiff-Plattformen nicht alle KI-Berechnungen an die NPU übergeben werden. Abhängig von den spezifischen Aufgaben können CPU, GPU und NPU jeweils unterschiedliche Arten von Arbeiten übernehmen und so ein offensichtlicheres heterogenes Computersystem bilden. Bei Spielen kann die GPU einen Teil der KI-Berechnungen durchführen und gleichzeitig das traditionelle Grafik-Rendering abschließen; Bei Workloads wie generativer KI hingegen kann die NPU eine wichtigere Rolle spielen.
Qualcomm hat außerdem die Adreno Neural Fusion-Technologie eingeführt, um die Kombination zwischen KI und Grafik-Rendering weiter zu stärken. Diese Technologie kann KI-Algorithmen verwenden, um die visuellen Effekte von Spielbildschirmen zu verbessern und dabei zu helfen, fortschrittlichere Grafikverarbeitungseffekte zu erzielen und gleichzeitig den Stromverbrauch zu kontrollieren.
Dieses Design eignet sich besonders für KI-Grafiktechnologien, die sich in den letzten Jahren rasant weiterentwickelt haben, wie z. B. Superauflösung und Frame-Generierung. Die Auflösung und Bildkomplexität mobiler Spiele nimmt immer weiter zu. Wenn alle Bilder auf traditionelle Methoden für das native Rendering angewiesen sind, werden die GPU-Belastung und der Stromverbrauch rapide ansteigen. Durch die Verwendung von KI zur Generierung eines Teils der Bildinformationen kann eine höhere endgültige Bildqualität bei geringeren Rendering-Kosten erzielt werden.
Aus Sicht der Gesamtarchitektur besteht das KI-Upgrade des Snapdragon 8 Elite Gen 6 Pro nicht nur darin, die NPU schneller zu machen, sondern auch darin, die Datenverarbeitungsmethode innerhalb des gesamten SoC neu zu gestalten. Die NPU verfügt über einen größeren gemeinsamen Speicher und dedizierte Beschleuniger. Die CPU reduziert die Abhängigkeit vom Systemspeicher durch FlexCache, während die GPU spezielle Matrix-Computing-Funktionen hinzufügt und durch KI-Technologie an der Grafikverarbeitung teilnimmt.
Diese Änderung spiegelt wider, dass mobile Chips in eine neue Phase eintreten. In der Vergangenheit konzentrierten sich die Menschen bei der Messung der Leistung von Flaggschiff-SoCs hauptsächlich auf die CPU- und GPU-Laufwerte, doch mittlerweile ist die KI-Arbeitslast zu einem wichtigen Faktor bei der Bestimmung der tatsächlichen Leistung des Chips geworden. Für die nächste Generation von Mobiltelefonen kommt es nicht nur darauf an, wie hoch die Spitzenrechenleistung des Chips sein kann, sondern auch darauf, ob er KI-Modelle über einen langen Zeitraum bei begrenztem Stromverbrauch betreiben kann und ob er die Datenbewegung zwischen verschiedenen Recheneinheiten und Speichern effektiv steuern kann.
Qualcomms besonderer Schwerpunkt auf gemeinsam genutztem Speicher und der Reduzierung des Speicherzugriffs zeigt auch, dass sich der Chip-Wettbewerb im KI-Zeitalter allmählich von einem einfachen „Krieg um die Rechenleistung“ zu einem „Krieg um die Effizienz der Datenübertragung“ verlagert. Bei großen KI-Modellen ist die Berechnung selbst wichtig, aber wie die Modellparameter, der Kontext und die Zwischenergebnisse rechtzeitig an die richtige Recheneinheit gesendet werden, wirkt sich auch direkt auf die endgültige Leistung und den Energieverbrauch aus.
Das wirklich Bemerkenswerte am Snapdragon 8 Elite Gen 6 Pro ist daher möglicherweise nicht, wie stark die individuelle KI-Leistung verbessert wurde, sondern dass Qualcomm versucht, Mobiltelefonen durch eine engere Zusammenarbeit zwischen NPU, CPU, GPU, Cache und gemeinsamem Speicher die lokale Bewältigung immer komplexerer KI-Aufgaben zu ermöglichen.
Da KI-Assistenten, KI-Agenten, generative Anwendungen und KI-Spielfunktionen nach und nach zu einem wichtigen Bestandteil von Flaggschiff-Mobiltelefonen werden, könnte diese Architekturidee in Zukunft auch eine wichtige Richtung für die Entwicklung mobiler SoCs werden. Verglichen mit dem kontinuierlich wachsenden System-RAM dürfte die Verarbeitung der ständig wachsenden KI-Modelle durch effizientere Datenverarbeitungs- und Caching-Mechanismen innerhalb des Chips zu einem vernünftigeren Gleichgewicht zwischen Leistung, Stromverbrauch und Kosten führen.
Ob der Snapdragon 8 Elite Gen 6 Pro diese technischen Ziele letztendlich erreichen kann, muss durch umfassende Tests nach der Markteinführung des tatsächlichen Geräts überprüft werden. Nach den bisher veröffentlichten Informationen zu urteilen, war der Schwerpunkt der Aktualisierung von Qualcomms Flaggschiff-Plattform dieser Generation jedoch sehr klar: nicht nur, um KI-Berechnungen schneller zu machen, sondern auch, um KI-Berechnungen effizienter zu machen und die Speicher- und Stromverbrauchskosten von Mobiltelefonen zu minimieren, um lokale KI auszuführen.
Kommentare