Zusammenfassung:
Anthropic sagte, dass sein neuestes KI-Modell Claude Mythos Preview die Softwareentwicklungszeit, die für die Bereitstellung von Modellen der künstlichen Intelligenz auf AMD-GPU-Plattformen erforderlich ist, erheblich verkürzt hat. Nach Angaben des Unternehmens dauerten diese Arbeiten in der Vergangenheit normalerweise sechs bis zwölf Monate und erforderten Dutzende von Ingenieuren, um sie abzuschließen. Claude Mythos kann die kritischen Softwareanpassungsarbeiten jedoch in etwa drei Tagen fast ohne manuelle Eingriffe abschließen. Diese Entwicklung könnte die Wettbewerbsbarrieren schwächen, die Nvidia seit langem auf der Grundlage des CUDA-Software-Ökosystems aufgebaut hat.

Anthropic-Mitbegründer und Chief Computing Officer Tom Brown stellte die Ergebnisse während der IPO-Roadshow des Unternehmens den Investoren vor. Er sagte, dass Claude Mythos fast 100 % des GPU-Kernelcodes automatisch portieren oder schreiben kann, sodass Claude-Modelle auf dem AMD Instinct MI355X-Beschleuniger ausgeführt werden können. Bisher erforderten ähnliche Hardware-Anpassungsarbeiten oft ein Team von Dutzenden Ingenieuren und dauerten mehrere Monate.
Die von Anthropic offengelegten drei Tage haben jedoch einen klaren Anwendungsbereich, was nicht bedeutet, dass der gesamte Modellbereitstellungs-, Produktionsumgebungsüberprüfungs- und Leistungsoptimierungsprozess innerhalb von drei Tagen abgeschlossen werden kann. In der Fußnote des Roadshow-Materials wird darauf hingewiesen, dass dieser Erfolg speziell darauf abzielt, dass ein Anthropic-Modell die schnelle Textverarbeitungsaufgabe (Prefill) auf der AMD MI355X-GPU abschließt und ein Leistungsniveau erreicht, das von praktischem Nutzen ist. Anthropic hat nicht klar angegeben, ob auch die Antwortphase der Modellgenerierung (Decode) enthalten ist.
Der GPU-Kern ist eine wichtige Verbindung zwischen Software für künstliche Intelligenz und der zugrunde liegenden Hardware. Es ist dafür verantwortlich, Modellberechnungsaufgaben in Anweisungen umzuwandeln, die auf einem bestimmten Prozessor effizient ausgeführt werden können. Es gibt Unterschiede in der GPU-Architektur, den Speichersystemen und den Recheneinheiten verschiedener Hersteller, sodass häufig dasselbe KI-Modell den zugrunde liegenden Code für verschiedene Hardwareplattformen schreiben oder anpassen muss. Diese Art von Arbeit ist seit langem eine wichtige Quelle von Vorteilen für das CUDA-Ökosystem von NVIDIA.
NVIDIAs CUDA-Plattform wird seit fast 20 Jahren entwickelt und verfügt über ausgereifte Compiler, Entwicklungstools, Optimierungsbibliotheken und eine große Entwickler-Community. AMD verfügt über eine eigene ROCm-Softwareplattform und unterstützt verwandte Rechenaufgaben über die HIP-Programmierschicht. Um Entwicklern bei der Migration von CUDA-Code auf die AMD-Plattform zu helfen, hat AMD zuvor das HIPify-Tool eingeführt. Allerdings bedeutet die Codekonvertierung nicht, dass alle Programme direkt die ideale Leistung erzielen können. Entwickler müssen in der Regel noch viel debuggen und optimieren.
Fortschritte bei KI-Programmiertools verändern diese Situation. Anush Elangovan, AMDs Vizepräsident für Software für künstliche Intelligenz, sagte im April dieses Jahres, dass Claude bei der Codekonvertierung einen Vorteil gegenüber HIPify habe, weil es über integrierte Websuchfunktionen verfüge und während der Verarbeitung mehr technische Informationen erhalten könne. AMD hat bereits Forschungsergebnisse mit KI-Agenten zum automatischen Schreiben von GPU-Kerneln demonstriert, doch frühe Systeme waren in einigen Tests menschlichen Experten immer noch unterlegen.
Anthropic verlässt sich beim Betrieb seiner Modelle nicht ausschließlich auf Nvidia-GPUs. Das Unternehmen hat gleichzeitig verschiedene Arten von Beschleunigern wie NVIDIA- und AMD-GPUs, Google TPU und Amazon AWS Trainium verwendet und diese Hardwareressourcen in einem flexibel geplanten Computing-Ressourcenpool verwaltet. Tom Brown bezeichnete die frühe Entscheidung des Unternehmens, eine Multi-Chip-Plattform-Strategie einzuführen, zuvor als ungewöhnliche Entscheidung. Diese Strategie könnte attraktiver werden, da die Softwareanpassungszeit erheblich verkürzt wird.
Anthropic hat dieses Jahr erstmals mit dem Einsatz von AMD-GPUs begonnen und eine Kooperationsvereinbarung mit AMD über bis zu 2 Gigawatt Rechenleistung geschlossen. Nach zuvor von beiden Parteien offengelegten Informationen nutzt AMD Claude auch, um die Arbeitslast der GPUs der Instinct-Serie zu optimieren und die Entwicklung der ROCm-Softwareplattform zu beschleunigen. AMD geht davon aus, dass die automatische Generierung von Kernel-Code durch KI die technische Hürde für Kunden, seine Beschleuniger zu übernehmen, weiter senken wird.
Tatsächlich hat das AMD-Management wiederholt über die Auswirkungen von KI-Programmiertools auf das GPU-Software-Ökosystem gesprochen. Su Zifeng, CEO von AMD, sagte im September letzten Jahres, dass ein großer Teil der KI-Software ursprünglich rund um CUDA entwickelt wurde, ein beträchtlicher Teil des Codes jedoch jetzt mithilfe von Softwaretools in eine für AMD-Plattformen geeignete Form umgewandelt werden kann. Im Juli dieses Jahres sagte Vamsi Boppana, Senior Vice President von AMD, außerdem, dass KI voraussichtlich die verbleibenden Softwarebarrieren bei der Einführung von AMD-GPUs beseitigen werde.
Bei der AMD Advancing AI-Veranstaltung im Juli dieses Jahres sprach Philippe Tillet von OpenAI auch über die Rolle von KI-Agenten bei der GPU-Kernentwicklung. Er sagte, dass es nach Erhalt des AMD Helios-Racks durch OpenAI nur wenige Tage gedauert habe, bis ein Ingenieur bestätigt habe, dass das System ordnungsgemäß funktioniere, und wies darauf hin, dass KI-Agenten nach und nach einen Teil der Arbeit übernehmen, die früher in die Verantwortung der Kernel-Ingenieure fiel. AMD gab außerdem bekannt, dass ein Ingenieur Claude gebeten hatte, bei der Inbetriebnahme des MI355X-Racks zu helfen und das System über das Wochenende am Laufen zu halten.
Die von Anthropic veröffentlichten Daten haben Aufmerksamkeit erregt, da es sich bei den relevanten Ergebnissen nicht mehr nur um Demonstrationen oder Werbung von AMD selbst handelt. Als KI-Unternehmen, das tatsächlich Chips kauft und verwendet, hat Anthropic den Anlegern offengelegt, dass sich seine eigenen technischen Praktiken im Laufe der Zeit verändert haben. Im IPO-Prospektdokument wurde auch erwähnt, dass das Unternehmen mit Hilfe von Claude in der Lage war, neue Chipplattformen in die Produktionsumgebung einzuführen, und zwar mit viel geringeren technischen Investitionen als in der Vergangenheit, obwohl das Dokument keine konkrete Drei-Tage-Zahl nannte.
Die Verbesserung der Anpassungsgeschwindigkeit beweist jedoch nicht direkt, dass die AMD-GPU in puncto Leistung mit Nvidia mithalten kann. Anthropic gab weder die tatsächliche Laufgeschwindigkeit von Claude auf dem MI355X bekannt, noch lieferte es Leistungsvergleichsdaten mit ähnlicher Hardware von Nvidia. Der Bericht wies auch darauf hin, dass die vom Unternehmen angezeigte Grafik zwar den Adaptionsfortschritt beider Lösungen mit nahezu 100 % ausweise, jedoch nicht im Detail darlege, welchen Arbeitsinhalten dieses Verhältnis entspreche.
Nvidia-CEO Jensen Huang hat zuvor erklärt, dass das Unternehmen selbst auch KI zur Unterstützung bei der Entwicklung von GPU-Kernen einsetzt und glaubt, dass niemand seine eigene Chip-Architektur besser versteht als Nvidia, sodass Nvidia die Hardware-Leistung voll ausnutzen kann. In Bezug auf die Einführung anderer Beschleuniger durch Unternehmen wie Anthropic bezeichnete er Anthropic einmal als Sonderfall und nicht als Branchentrend.
Gleichzeitig ist das automatische Schreiben von GPU-Kerneln durch KI auch mit neuen Ressourcenengpässen konfrontiert. Eine im Juli dieses Jahres von SemiAnalysis veröffentlichte Analyse geht davon aus, dass die Softwareentwicklungskosten sinken, der von KI-Agenten generierte Code jedoch noch auf tatsächlichen GPUs getestet und verifiziert werden muss. Jeder Agent benötigt entsprechende GPU-Ressourcen, um Tests auszuführen, und AMDs interne GPU-Ressourcen für eine solche Entwicklung reichen nicht aus, was zu einer Einschränkung für die weitere Erweiterung von Anwendungen werden kann.
Insgesamt besteht die Bedeutung der Demonstration von Claude Mythos nicht nur darin, dass sie einen bestimmten Softwareentwicklungsprozess verkürzt, sondern auch darin, dass KI die Kosten der Softwaremigration zwischen verschiedenen GPU-Plattformen verändern kann. Die Vorteile von CUDA werden nicht sofort verschwinden. Die ausgereifte Toolkette, das Entwickler-Ökosystem und die langjährige Erfahrung in der Leistungsoptimierung sind nach wie vor wertvoll. Wenn KI jedoch die Code-Transplantation, das Kernel-Schreiben und die Hardware-Anpassung zunehmend automatisch durchführen kann, sind Kunden bei der Auswahl von GPUs möglicherweise weniger von bestimmten Software-Ökosystemen abhängig. Auch Konkurrenten wie AMD haben die Möglichkeit, mit geringeren Migrationskosten Kunden zu gewinnen, die ursprünglich hauptsächlich Nvidia-Plattformen nutzten.
Kommentare