Um die Sicherheit von Open-Source-Modellen für künstliche Intelligenz zu verbessern und ihre sicheren Anwendungen zu fördern, hat NVIDIA heute zusammen mit mehr als 20 Branchenriesen, darunter Microsoft, Adobe, IBM, Red Hat, SpaceX, OpenClaw und Palantir, offiziell die Gründung der „Open Secure AI Alliance“ bekannt gegeben.
Ziel der Allianz ist es, auf dem Akrites-Projekt der Linux Foundation und OpenSSF (Open Source Supply Chain Security Foundation) aufzubauen und offene Technologien zu nutzen, um damit verbundene Sicherheitslücken proaktiv zu entdecken, zu patchen und offenzulegen.
In seiner Stellungnahme erwähnte Nvidia ausdrücklich den jüngsten Cybersicherheitsvorfall bei Hugging Face. Bei diesem Vorfall waren geschlossene KI-Tools nicht in der Lage, das Verhalten von Angreifern und Verteidigern genau zu unterscheiden, wodurch eine kritische Rückwärtsanalyse und Beweiserhebung blockiert wurde. Angesichts dieses Dilemmas hat Hugging Face das Open-Source-Gewichtsmodell GLM 5.2 auf seiner eigenen Infrastruktur bereitgestellt und ausgeführt, mehr als 17.000 Vorgänge erfolgreich analysiert und die Ausbreitung des Eindringens schnell eingedämmt.
NVIDIA wies darauf hin, dass dieser Vorfall eine kritische technologische Realität offenbarte: Wenn Netzwerkverteidiger die hochmoderne KI nicht unabhängig überprüfen, optimieren und auf ihrer eigenen Infrastruktur ausführen können, werden ihre Notfallreaktionsfähigkeiten in kritischen Momenten auf eine harte Probe gestellt. Daher benötigen Industrie und Gesellschaft dringend offene und kontrollierbare hochmoderne Verteidigungstools, um ein solides Sicherheitssystem in einem Multi-Vendor-Ökosystem aufzubauen und Single Points of Failure zu vermeiden.
Die Hauptaufgabe der Open Security AI Alliance besteht darin, sicherzustellen, dass Cybersicherheitsverteidiger auf der ganzen Welt Zugriff auf vertrauenswürdige, hochmoderne Open-Source-Tools haben und diese kontrollieren können. Die Allianz betont, dass das zukünftige Sicherheitsökosystem eine tiefgreifende Zusammenarbeit zwischen hochmodernen geschlossenen Modellen und Open-Source-Modellen erfordert, die nicht nur eine flexible Werkzeugauswahl ermöglicht, sondern auch Transparenz, Anpassungsfähigkeiten und souveräne Kontrolle in sicherheitssensiblen Szenarien gewährleistet.