Zusammenfassung:
Apples neuester A20 Pro-Chip demonstriert sein wahres Potenzial im Bereich der künstlichen Intelligenz im Gerät. Ein aktueller aktueller Test zeigt, dass das mit A20 Pro ausgestattete iPhone 18 Pro lokal ein großes KI-Modell mit 27 Milliarden Parametern ausführen kann und seine Generierungsgeschwindigkeit doppelt so hoch ist wie die des iPhone 17 Pro der vorherigen Generation, was eine neue Runde der Aufmerksamkeit der Außenwelt auf die lokalen KI-Fähigkeiten von Mobiltelefonen auslöst.
Dieser Test wurde vom Entwickler Adrien Grondin durchgeführt. In der Demonstration lief auf dem iPhone 18 Pro ein Modell mit 27 Milliarden Parametern namens Bonsai 27B. Ohne auf Cloud-Server angewiesen zu sein, erledigt das Gerät Inferenzaufgaben direkt lokal und weist eine Reaktionsgeschwindigkeit auf, die die der vorherigen Produktgeneration bei weitem übertrifft.
Der Hauptfaktor für diesen Leistungssprung ist die neue Hardware-Architektur mit künstlicher Intelligenz des A20 Pro. Im Gegensatz zu früheren Apple-Chips, die nur mit einem einzigen Satz 16-Kern-Neuronalnetzwerk-Engines ausgestattet waren, verfügt der A20 Pro erstmals über ein duales 16-Kern-Neuralnetzwerk-Engine-Design mit insgesamt 32 Neuronalnetzwerk-Verarbeitungskernen. Dies ist auch das erste Mal in der Geschichte der von Apple selbst entwickelten Chips, dass sie eine duale neuronale Netzwerk-Engine-Architektur übernehmen.
Neben der Aufrüstung der neuronalen Netzwerkeinheit ist auch das Speichersystem ein wichtiger Bestandteil der Leistungssteigerung. Sowohl das iPhone 18 Pro als auch das iPhone 18 Pro Max sind mit 12 GB, 96 Bit breitem LPDDR5X-Speicher ausgestattet, der eine höhere Übertragungsgeschwindigkeit und eine größere Datendurchsatzkapazität als Produkte der vorherigen Generation bietet.
Testergebnisse zeigen, dass beim Ausführen großer Sprachmodelle die neue neuronale Netzwerk-Engine und das schnellere Speichersystem eine Synergie bilden, was dem A20 Pro einen klaren Vorteil bei der Geschwindigkeit der Token-Generierung verschafft. Für KI-Anwendungen, die auf lokalem Denken basieren, bedeutet dies schnellere Reaktionszeiten und ein reibungsloseres interaktives Erlebnis.
Dieser Durchbruch bedeutet jedoch nicht, dass Smartphones bereits jetzt ohne Einschränkungen mit allen großen Modellen kompatibel sind.
Forscher wiesen darauf hin, dass der A20 Pro das iPhone zwar erfolgreich in die Ära der 27-Milliarden-Parameter-Modelle geführt hat, die lokale KI jedoch immer noch durch die Speicherkapazität eingeschränkt ist. Selbst nach Verwendung der 2-Bit-Quantisierungskomprimierung ist beispielsweise das neu veröffentlichte Modell Bonsai 2 immer noch zu groß und kann nicht vollständig in den lokalen Speicher des iPhone 18 Pro geladen werden, was zu Leistungseinbußen führt.
Dies spiegelt auch ein praktisches Problem in der aktuellen Entwicklung der Mobiltelefon-KI wider: Die Rechenleistung wächst rasant, der Widerspruch zwischen Speicherkapazität und Modellgröße besteht jedoch weiterhin. Selbst wenn sich die Chipleistung weiter verbessert, wirkt sich dies dennoch auf die tatsächliche Betriebseffizienz aus, wenn das Modell selbst nicht vollständig in den Gerätespeicher geladen werden kann.
Im Gegensatz dazu ist das Bonsai der ersten Generation ein 1-Bit-Quantisierungsmodell und hat einen deutlich geringeren Ressourcenbedarf. Entwickler sagen, dass diese Art von Modell sogar auf Geräten mit nur 4 GB Speicher laufen kann und auf Plattformen mit 8 GB oder 12 GB Speicher eine höhere Leistung erzielen kann.
Aus Sicht der Hardware-Spezifikationen ist der A20 Pro nicht nur mit dualen neuronalen Netzwerk-Engines ausgestattet, sondern verfügt auch über eine einheitliche Speicherbandbreite von bis zu 115,2 GB/s. Einige Tests zeigen, dass bei für neuronale Netze optimierten Arbeitslasten die Spitzendurchsatzfähigkeit der neuronalen Netz-Engine sogar die der 7-Kern-GPU im Chip übertrifft.
Dieses Ergebnis spiegelt wider, dass Apple seine Strategie der „geräteseitigen KI“ beschleunigt. Im Gegensatz zur Verwendung von Cloud-Rechenzentren kann lokale KI zu schnelleren Reaktionszeiten, besserem Datenschutz und Offline-Verfügbarkeit führen. Dies sind die Entwicklungsrichtungen, die Apple in den letzten Jahren hervorgehoben hat.
Da generative künstliche Intelligenz allmählich zu einem wichtigen Merkmal von Smartphones wird, verlagert sich auch der Wettbewerb unter Mobiltelefonherstellern von Bildleistung und Prozessor-Benchmarks hin zu lokalen KI-Folgefähigkeiten. Die Leistung des A20 Pro bedeutet, dass Smartphones mittlerweile in der Lage sind, Milliarden oder sogar Dutzende Milliarden Parametermodelle auszuführen.
Da die Modellgrößen jedoch weiter wachsen, kann die Speicherkapazität immer noch ein wesentlicher limitierender Faktor für zukünftige Entwicklungen werden. Analysten glauben, dass, wenn Apple die Speicherkonfiguration von iPhones in Zukunft weiter verbessert, die Fähigkeit des Geräts, größere KI-Modelle auszuführen, voraussichtlich weiter verbessert wird und die Rolle von Mobiltelefonen als unabhängige KI-Computing-Plattformen immer wichtiger wird.
Kommentare