Zusammenfassung:
OpenAI behauptet, dass sein neuer „Jalapeno“-Chip in Tests besser abgeschnitten habe als die aktuelle Produktpalette von Nvidia, was die Fortschritte unterstreicht, die das Unternehmen bei der Entwicklung seiner eigenen KI-Prozessoren gemacht hat. Richard, Leiter des OpenAI-Chipgeschäfts Ho sagte in einem Interview, dass der Chip mit dem Nvidia GB300 verglichen wurde, ein Test, bei dem der GB300 als das fortschrittlichste verfügbare Produkt angesehen wurde. Im Test war Jalapeno bei zwei Indikatoren im Vorteil: der Menge an KI-Arbeitslast, die es pro Einheit Stromverbrauch bewältigen kann, und der Reaktionsgeschwindigkeit.
Als OpenAI dieses Mal Jalapeno öffentlich testete, verwendete es sein eigenes kleineres Open-Source-Modell GPT-OSS 120B sowie Modelle von Drittanbietern von DeepSeek und Moonshot AI. Beim Modell Kimi K2.5 1T von Moonshot kommen die Vorteile des Jalapeno noch deutlicher zum Ausdruck.
OpenAI gab an, dass Jalapeno in internen Tests auch bei der Ausführung einiger groß angelegter fortgeschrittener Modelle, die noch nicht veröffentlicht wurden, eine gute Leistung erbrachte. Dies deutet darauf hin, dass das Design des Chips „weiter an Wert gewinnen wird“, wenn die Arbeitslast größer und komplexer wird.
OpenAI hat mit Broadcom zusammengearbeitet, um Jalapeno zu entwickeln. Das Unternehmen plant, den Chip ab Ende dieses Jahres zur Unterstützung seiner KI-Modelle einzusetzen. Dies ist Teil seines Plans, eine eigene KI-Infrastruktur aufzubauen und die Selbstforschung von Chips in größerem Maßstab voranzutreiben.
Broadcom produziert für viele Kunden maßgeschneiderte Chips. Die beiden Unternehmen gaben letztes Jahr ihre Zusammenarbeit bekannt und förderten im Juni dieses Jahres energisch die Entwicklungsgeschwindigkeit dieses Prozessors und gaben an, dass die Entwicklung in Rekordgeschwindigkeit erfolgt sei.
Derzeit entwickeln immer mehr Unternehmen selbst entwickelte KI-Chips und NVIDIA dominiert dieses Feld immer noch.
Normalerweise verfügen einige Chips über mehr Rechenleistung bei der Ausführung von KI-Aufgaben, während andere schneller reagieren können, aber Jalapeno bietet das Beste aus beiden Welten, sagte Ho.
OpenAI entscheidet, welche KI-Modelle auf Jalapeno laufen, sodass Kunden je nach Bedarf zwischen kostengünstigeren oder leistungsstärkeren Lösungen wählen können.
Ho sagte: „In Labortests zeigte Jalapeno eine starke Leistung im Bereich des hohen Durchsatzes, was bedeutet, dass es eine große Anzahl von Kunden zu geringeren Kosten bedienen kann; gleichzeitig schnitt es auch im Bereich der niedrigen Latenz gut ab, was bedeutet, dass die Reaktionszeit für Kunden, die Wert auf Reaktionsgeschwindigkeit legen, sehr, sehr schnell sein wird.“ Für Rechenzentren ist Strom einer der wichtigsten Kostenfaktoren.
Es ist zu beachten, dass Jalapeno nicht mit Nvidias Vera Rubin-Chips der neuesten Generation getestet wurde, deren Auslieferung gerade erst begonnen hat. Darüber hinaus ist Jalapeno nicht für das Training von KI-Modellen konzipiert und das Training ist genau einer der Bereiche, in denen die NVIDIA-Technologie am besten ist.
Jalapeno ist hauptsächlich auf die KI-Inferenzphase ausgerichtet, das heißt, nachdem das Modell das Training abgeschlossen hat, generiert es Antworten und führt Aufgaben basierend auf Benutzeraufforderungen aus. Durch den Geschwindigkeitsvorteil lassen sich mit OpenAI Effekte erzielen, die bisher nur durch Prozessoren mit unterschiedlichen Speichertypen und Chiparchitekturen erzielt werden konnten.
OpenAI verlässt sich immer noch auf die Cerebras-Technologie, um einige Modelle zu betreiben, und dieser Chiptyp eignet sich besser für kleinere Modelle. Im Vergleich dazu ist Jalapeno in der Lage, viel größere Modelle zu handhaben. Ho sagte, dass die Technologie von OpenAI Anbieter wie Cerebras kurzfristig nicht ersetzen werde.
Ho sagte: „Unser Bedarf an Rechenleistung ist sehr groß, weshalb wir Verträge mit so vielen verschiedenen Lieferanten abgeschlossen haben. Diese Situation wird noch einige Zeit anhalten.“ Er sagte, dass OpenAI hofft, seine Forschungs- und Entwicklungsergebnisse öffentlich präsentieren zu können, um Innovationen im Bereich der KI-Chips zu fördern.
Andere Startups gehen in ähnliche Richtungen. Etched sagte letzte Woche, es habe sich in einer Finanzierungsrunde einen Wert von etwa 21 Milliarden US-Dollar gesichert und mit der Auslieferung eines Niederspannungschips begonnen. MatX, gegründet von zwei ehemaligen Google-Chip-Mitarbeitern, entwickelt derzeit ein Halbleiterprodukt mit dem gleichen Ziel, hohen Durchsatz und niedrige Latenz zu kombinieren.
OpenAI sagte außerdem, dass das Unternehmen ein eigenes KI-Modell verwendet habe, um den Chip-Entwicklungsprozess zu beschleunigen. Auch der Chip der zweiten Generation befindet sich in einer tiefergehenden Forschungs- und Entwicklungsphase. Ho sagte, das Unternehmen erwarte, das Tape-Out des Chips „in den kommenden Monaten“ abzuschließen, wenn dann das Chip-Design in die Finalisierungsphase eintritt.
Gleichzeitig hat OpenAI mit der Entwicklung seiner Chips der dritten Generation begonnen, in der Hoffnung, die Kosten der KI-Infrastruktur, die es weltweit in großem Maßstab aufbaut, weiter zu senken. Ho sagte: „Wir haben jetzt ein Kostenniveau und einen Stromverbrauch erreicht, der die Infrastrukturkosten senken kann. Dies ist nur der erste Schritt.“
Obwohl OpenAI selbst entwickelte Chips aktiv fördert und ihre Leistung mit NVIDIA-Produkten vergleicht, betonte Ho dennoch ausdrücklich, dass OpenAI NVIDIA immer noch als wichtigen Chiplieferanten betrachtet.
„NVIDIA ist ein sehr guter Partner und wir müssen noch viele NVIDIA-Chips verwenden.“
Kommentare