Zusammenfassung:
Google hat kürzlich die Erweiterung seiner Produktlinie von Chips für künstliche Intelligenz und die Einführung von zwei neuen Tensor-Processing-Einheiten (TPU) angekündigt, die speziell für verschiedene Anwendungsszenarien entwickelt wurden: TPU 8tx und TPU 8i Max. Diese beiden Produkte basieren auf der bestehenden TPU-Architektur der achten Generation von Google und sind darauf ausgelegt, den wachsenden Anforderungen von Unternehmenskunden an Datensicherheit und groß angelegte Inferenzaufgaben im Bereich der künstlichen Intelligenz gerecht zu werden.
TPU 8tx konzentriert sich unter anderem auf Branchen mit extrem hohen Anforderungen an Datenschutz und Datensicherheit, darunter Regierungsbehörden, Finanzdienstleistungen, medizinisches Gesundheitswesen und andere streng regulierte Bereiche. Google sagte, dass das Produkt vertrauliche Datenverarbeitungsfunktionen einführt, um Modellgewichte und vertrauliche Informationen während der Datenverarbeitung zu schützen und die Gefährdung durch unbefugten Zugriff zu verhindern.
Um dieses Ziel zu erreichen, arbeitet TPU 8tx mit AMD-Prozessoren zusammen und integriert Verschlüsselungsfunktionen tief in die Hardwareebene. Im Gegensatz zu herkömmlichen Lösungen, bei denen die Daten im Speicher vor der Durchführung von Berechnungen entschlüsselt werden müssen, kann die neue Lösung die Sicherheit bei der Verarbeitung sensibler Daten erheblich verbessern und den Anforderungen von Unternehmen nach dem Einsatz hochsicherer KI-Systeme gerecht werden.
Ein weiteres neues Produkt, TPU 8i Max, wurde speziell für große Modellanwendungen entwickelt, die extrem lange Kontextfenster erfordern. In den letzten Jahren müssen mit der rasanten Entwicklung der generativen künstlichen Intelligenz und der KI-Agententechnologie immer mehr Modelle riesige Mengen an Text, Code oder Daten gleichzeitig verarbeiten, was höhere Anforderungen an die Speicherkapazität und die Inferenzleistung stellt.
Berichten zufolge kann das TPU 8i Max längere Kontextfenster unterstützen, indem es die Rechenleistung und Speicherressourcen verbessert, sodass Modelle der künstlichen Intelligenz mehr Inhalte in einer einzigen Anfrage analysieren können. Diese Fähigkeit ist besonders wichtig für Szenarien wie komplexe Codegenerierung, mathematisches Denken, wissenschaftliche Forschung und Arzneimittelentwicklung. Dies kann dazu beitragen, dass das Modell mehr Hintergrundinformationen behält und die Qualität der Aufgabenerledigung verbessert.
Amin Wahdat, Leiter der KI-Infrastruktur von Google, sagte, dass es sich bei diesen beiden Chips nicht um neue Architekturprodukte handele, sondern um abgeleitete Modelle, die auf der bestehenden TPU der achten Generation basieren und speziell auf die Bedürfnisse der Kunden optimiert seien. Das Unternehmen ist davon überzeugt, dass es besser ist, mehrere professionelle Versionen für bestimmte Szenarien zu entwickeln, anstatt einen Allzweck-Chip zu entwickeln, der alle Marktanforderungen abdecken soll, um den Benutzern einen höheren Mehrwert zu bieten.
Anfang dieses Jahres hat Google TPU 8t und TPU 8i in der TPU-Serie der achten Generation veröffentlicht. Ersteres ist auf groß angelegte Modelltrainingsaufgaben ausgerichtet, während letzteres für Inferenzen mit geringer Latenz optimiert ist. Mit der Erweiterung des Sortiments um TPU 8tx und TPU 8i Max wurde die TPU-Familie der achten Generation von Google auf vier Produkte erweitert, die mehrere Segmente wie Modelltraining, sichere Inferenz, Inferenz mit geringer Latenz und Inferenz mit extrem langem Kontext abdecken.
Analysten wiesen darauf hin, dass diese neue Produktveröffentlichung widerspiegelt, dass sich die Infrastruktur für künstliche Intelligenz von der reinen Suche nach Rechenleistung hin zur Erfüllung tatsächlicherer Geschäftsanforderungen verlagert. Da KI-Agenten, generative KI auf Unternehmensebene und Modelle mit langem Kontext immer beliebter werden, werden Sicherheit, Speicherkapazität und Argumentationseffizienz nach der Rechenleistung zu neuen Wettbewerbsschwerpunkten.
Google hat TPU ursprünglich hauptsächlich zur Unterstützung seiner eigenen Dienste für künstliche Intelligenz entwickelt und hat es nun als wichtigen Teil seines Cloud-Computing-Geschäfts auch externen Kunden zur Miete zugänglich gemacht. Derzeit ist TPU neben NVIDIA-GPUs zu einer der wichtigsten KI-Computing-Plattformen geworden und wird von vielen großen Unternehmen für künstliche Intelligenz und Cloud-Computing-Kunden zum Trainieren und Bereitstellen fortschrittlicher Modelle verwendet.
Mit der Einführung des neuen Modells hofft Google, seine Wettbewerbsfähigkeit auf dem Markt für Infrastrukturen für künstliche Intelligenz weiter zu verbessern und eine gezieltere zugrunde liegende Hardwareunterstützung für KI-Agenten und komplexe Argumentationssysteme der nächsten Generation bereitzustellen.
Kommentare