Die neuronale Engine des M4-Chips von Apple war ursprünglich nur für KI-Inferenzen offen, doch einige Entwickler umgingen die von Apple festgelegten Softwarebeschränkungen durch Reverse Engineering und gaben ihre verborgenen KI-Verarbeitungsfunktionen frei. Dieser Durchbruch basiert nicht auf CoreML, Metal oder GPU, sondern verwendet eine von Grund auf entwickelte benutzerdefinierte MIL (Model Intermediate Language) für die Kommunikation mit dem Chip.
Relevante Mitarbeiter veröffentlichten den Code auf GitHub und teilten die Demonstrationsergebnisse auf der Um Unterbrechungen zu vermeiden, nachdem der Trainingsprozess stecken geblieben ist, wird im Plan auch der Mechanismus exec() verwendet, um den Prozess bei Bedarf „neu zu starten“, um das Training fortzusetzen.
In dem Bericht heißt es weiter, dass dieser Prozess überhaupt nicht in den NAND-Flash-Speicher schreibt, sondern die Daten und den Status im RAM behält, wodurch die Geschwindigkeit deutlich erhöht wird. Nach Umgehung von Softwarebeschränkungen kann M4 auf dem iPad oder Mac eine KI-Verarbeitungsleistung von etwa 15,8 TFLOPS erreichen, was für das Modelltraining ausreicht, ohne auf teure Einzelcomputer oder High-End-NVIDIA-GPUs angewiesen zu sein.
Dieses Ergebnis wurde auf M4 erreicht, daher haben Außenstehende begonnen zu spekulieren, dass M5 ein stärkeres Potenzial freisetzen könnte, aber es ist noch nicht bestätigt, ob die gleiche Methode auf die neuere Generation von Apple Silicon anwendbar sein wird.
Erfahren Sie mehr:
https://github.com/maderix/ANE