Zusammenfassung:
Ein OpenAI-Sprecher gab bekannt, dass OpenAI-Präsident Greg Brockman bald eine Ankündigung machen wird, die Befugnisse zur Öffnung der KI-Tools des Unternehmens für kritische Infrastrukturen und Behörden des öffentlichen Sektors auszuweiten. Das versehentliche Eindringen von OpenAI in Hugging Face in Verbindung mit mehreren Cyberangriffen auf US-amerikanische Wassersysteme, bei denen der Verdacht besteht, KI zu nutzen, hat in der Außenwelt große Besorgnis darüber geweckt, wie anfällig verschiedene öffentliche Einrichtungen für künftige KI-gesteuerte Hackerangriffe sind.
Der Sprecher sagte, dass Brockman die oben genannten Informationen offiziell auf dem Cyber Security Summit am Donnerstag im OpenAI-Hauptquartier bekannt geben werde.
Zu diesem Treffen werden etwa 300 Führungskräfte im Bereich Unternehmenssicherheit und Chief Information Security Officers von Fortune-100-Unternehmen erwartet.
Das Kernthema dieses Gipfels: Wie Unternehmen, Regierungen und Netzwerksicherheitsanbieter es Verteidigern (kritische Infrastrukturbehörden, öffentliche Dienststellen) ermöglichen, KI-Tools zu nutzen.
Dieses Treffen und die bevorstehende Ankündigung sind OpenAIs Reaktion auf Modellsicherheitsrisiken. Hugging Face wurde bereits zuvor gehackt und das kommende Astra-Modell von OpenAI verfügt bereits über Cyber-Angriffsfähigkeiten auf „kritischem Niveau“.
Anfang dieser Woche wurde in einem Bericht erwähnt, dass OpenAI eine neue Trainingstechnologie entwickelt, was in der Branche ebenfalls Bedenken hervorrief: ob Sicherheitsexperten die Logik des Modells noch klar erkennen können.
OpenAI veröffentlichte letzte Woche einen offenen Brief, in dem er warnte, dass Unternehmen nur noch wenige Monate Zeit haben, um auf die Bedrohung durch KI-gestützte Cyberangriffe zu reagieren.
Brockman selbst gab letzten Monat in einem Artikel eine ähnliche Warnung heraus.
Die Sensibilisierung für den Schutz kritischer Infrastrukturen ist nur der erste Schritt und kann die praktischen Probleme unzureichender Mittel und Talentmangel in Sicherheitsteams, mit denen diese Institutionen häufig konfrontiert sind, nicht lösen.
Kommentare