Zusammenfassung:
Anthropic gab während seiner IPO-Roadshow bekannt, dass es Claude Mythos Preview nutzt, um bei der Anpassung von AMD-KI-Beschleunigern zu helfen. Ein Unternehmen gab an, dass Claude AI nur drei Tage brauchte, bis das interne Modell die Textverarbeitung auf dem AMD MI355X zügig abgeschlossen und brauchbare Leistungsniveaus erreicht hatte.
Claude portierte oder schrieb bei diesem Vorhaben fast den gesamten GPU-Kernel-Code mit minimalem menschlichen Eingriff. Dieser Fall hat Diskussionen über das CUDA-Software-Ökosystem von NVIDIA und die Konkurrenz mit KI-Chips ausgelöst. CUDA ist der Burggraben von NVIDIA, aber es bleibt abzuwarten, wie lange dieser Burggraben im KI-Zeitalter bestehen kann.
Wenn KI-Modelle auf unterschiedlichen Chip-Architekturen laufen, müssen sie sich an den zugrunde liegenden Rechencode, den Software-Stack und die Hardware-Funktionen anpassen. Um eine praktische Leistung zu erzielen, optimieren Ingenieure häufig auch Matrixoperationen, Speicherzugriff und Multi-Chip-Kommunikation.
Ein Unternehmen sagte, dass die bisherigen Erfahrungen des Unternehmens darauf basieren, dass die Verwendung traditioneller Engineering-Methoden zur Integration neuer Chipplattformen bei Dutzenden von Ingenieuren normalerweise mehrere Monate in Anspruch nimmt (eigentlich 6 bis 12 Monate), aber mit der Beteiligung von KI kann dieser Prozess auf nur 3 Tage verkürzt werden.
Nvidias CUDA, das eine große Anzahl von Entwicklungstools, Computerbibliotheken und GPU-optimierter Software vereint, ist seit langem eine wichtige Grundlage für die KI-Entwicklung, da die Anpassung von ursprünglich für bestimmte Hardware optimiertem Code an andere Chips die Investition großer technischer Ressourcen erfordert.
Nachdem KI an der Transplantation des zugrunde liegenden Codes beteiligt ist, kann sie Ingenieuren dabei helfen, GPU-Kernel schneller zu schreiben und anzupassen, und die Kosten und Zeit für den Zugriff auf verschiedene Chipplattformen für Unternehmen werden möglicherweise sinken. Zu den derzeit von Unternehmen A tatsächlich angepassten Chips gehören unter anderem NVIDIA, AMD, Google TPU und Amazon Trainium.
AMD und Anthropic haben bereits angekündigt, dass sie bis zu 2 GW GPU-Rechenleistung auf Basis der AMD MI450-Serie bereitstellen werden. Die erste 1-GW-Bereitstellung soll in der ersten Hälfte des Jahres 2027 beginnen. Beide Parteien werden Claude auch nutzen, um AMD-GPU-Workloads zu optimieren und die ROCm-Softwareentwicklung zu beschleunigen.
Kommentare