Google hat kürzlich eine neue JavaScript-Bibliothek veröffentlicht – LiteRT.js, die darauf ausgelegt ist, die Verarbeitungsgeschwindigkeit von maschinellen Lern- und künstlichen Intelligenz-Workloads auf der Seite des Webbrowsers deutlich zu verbessern. Dieser Schritt signalisiert, dass Google seine für Mobilgeräte optimierte LiteRT-Laufzeit auf die Webplattform bringt, sodass KI-Modelle effizient direkt in der lokalen Browserumgebung ausgeführt werden können, ohne auf serverseitige Verarbeitung angewiesen zu sein.
Im Vergleich zu den vorhandenen TensorFlow.js weist LiteRT.js offensichtliche Leistungsvorteile auf. Es wird berichtet, dass die Bibliothek die WebAssembly-Technologie nutzt und Hardwarebeschleunigungsschnittstellen wie WebGPU und WebNN tief integriert, um die vorherigen TensorFlow.js basierend auf dem JavaScript-Kernel zu ersetzen und so effizientere Rechenfunktionen zu erreichen. Von Google durchgeführte Tests auf dem MacBook Pro 2024 mit M4-Chip zeigen, dass die Verarbeitungsgeschwindigkeit dieser neuen Laufzeit dreimal so hoch ist wie die der bestehenden Lösung.
Zuvor bediente die LiteRT-Laufzeit hauptsächlich mobile Android- und iOS-Plattformen. Mit diesem Update können Entwickler jetzt über WebAssembly leistungsfähigere KI-Bereitstellungsfunktionen im Web erhalten. Für Entwickler, die TensorFlow.js verwenden, verläuft der Migrationsprozess relativ reibungslos. Wenn Sie bereits über eine .tflite-Datei verfügen, müssen Sie nur die JavaScript-Laufzeitumgebung auf LiteRT.js umstellen; Wenn Sie das TensorFlow/Keras SavedModel-Format verwenden, können Sie es über den integrierten LiteRT-Konverter im Python TensorFlow-Paket anpassen.
Die Veröffentlichung weckte Interesse in der Branche, und viele begannen darüber zu spekulieren, ob Google die Unterstützung für TensorFlow.js auslaufen lassen oder ihre Priorität herabsetzen würde, und waren gespannt, wie die Bibliothek tatsächlich auf einer breiteren Palette von Geräten über die Apple-Hardware hinaus funktionieren würde.