Zusammenfassung:
Einige Wochen bevor die Abteilung für künstliche Intelligenz von SpaceX im August Grok Bot, ein persönliches KI-Agentenprodukt, auf den Markt brachte, entdeckten die Ingenieure von Cursor eine potenzielle Schwachstelle. Zu dieser Zeit erwarb SpaceX Cursor, ein KI-Code-Startup, und Grok Bot wurde von Cursor entwickelt. Während des Entwicklungsprozesses nutzten alle Cursor-Mitarbeiter dieses Tool intensiv zum Testen und für die tägliche Arbeit.
Ende Juli äußerten Ingenieure Bedenken, dass Cursor möglicherweise durch interne Tests generierte Daten, die möglicherweise vertrauliche Informationen von Kunden, Lieferanten und Geschäftspartnern enthalten, an die Abteilung für künstliche Intelligenz von SpaceX gesendet hat. Laut internen Mitteilungen, die von den Medien überprüft wurden, warnte ein Cursor-Anwalt, dass eine „ernsthafte Vertrauenskrise“ ausgelöst werden könnte, sobald Außenstehende erfahren, dass das Unternehmen die Daten für Modellschulungen nutzt.
Cursor leitete sofort eine interne Untersuchung ein, um herauszufinden, welche sensiblen Daten gegebenenfalls an die Abteilung für künstliche Intelligenz von SpaceX, jetzt bekannt als SpaceX SI, gesendet wurden, wie aus internen Dokumenten hervorgeht, die von den Medien und zwei mit dem Projekt vertrauten Personen überprüft wurden. Das Ergebnis dieser internen Untersuchung ist unklar, aber das Unternehmen hat Schritte unternommen, um sicherzustellen, dass bei der nachfolgenden Modellschulung keine Daten mehr berücksichtigt werden, die durch die Nutzung durch die Mitarbeiter generiert wurden.
Der Vorfall verdeutlicht eine Herausforderung, vor der KI-Forschungs- und Entwicklungsunternehmen stehen und die mit zunehmender Beliebtheit von Agenten-Tools wie Grok Bot immer wichtiger wird. Dieser Agententyp ist für die Erteilung höherer Berechtigungen konzipiert und kann verschiedene Dateien und Anwendungen auf dem Computer des Benutzers durchsuchen, um Aufgaben autonom zu erledigen.
Aber dieser hohe Grad an Freiheit birgt neue Sicherheitsrisiken, einschließlich der unbeabsichtigten Bereitstellung sensibler Informationen für das Modell für das Training. Im Allgemeinen haben große KI-Unternehmen erklärt, dass sie keine Daten aus Internet-Tools wie Gmail und Google Cloud Disk für die Durchführung von Modellschulungen verwenden werden. In den Nutzungsbedingungen von Grok Bot gibt SpaceX SI beispielsweise an, dass das Unternehmen keine Google Cloud Disk-Daten zum Trainieren von Modellen verwenden wird und Benutzer die Möglichkeit haben, die Weitergabe ihrer eigenen Daten für diesen Zweck abzulehnen.
Die Datenuntersuchung im Zusammenhang mit Grok Bot ist nicht der einzige Datensicherheitsvorfall, auf den Cursor gestoßen ist. Die von den Medien überprüfte interne Kommunikation ergab, dass Mitarbeiter des Unternehmens in diesem Sommer versehentlich einige Kundeninformationen über eine öffentlich zugängliche Website preisgegeben hatten, die für den internen Gebrauch erstellt wurde.
SpaceX SI antwortete nicht auf eine Anfrage nach einem Kommentar.
Noch bevor SpaceX Mitte August die 60-Milliarden-Dollar-Übernahme von Cursor abschloss, weitete Cursor sein Geschäft aus und war nicht mehr auf Codierungstools beschränkt. Nach Abschluss der Übernahme ist Grok Bot, ein Allwetter-KI-Kollaborationsassistent, der verschiedene Aufgaben bewältigen kann, zum Kernprodukt von SpaceX SI im Wettbewerb um den lukrativen Markt für KI-Tools auf Unternehmensebene geworden.
Zwei mit der Angelegenheit vertraute Personen gaben bekannt, dass Cursor zur Optimierung der frühen Version von Grok Bot dafür gesorgt hat, dass das Unternehmen, Mitarbeiter von SpaceX SI sowie externe Personen und Unternehmen das Produkt testen und gleichzeitig Aufzeichnungen über das Benutzerverhalten bei der Verwendung des Agenten sammeln. Cursor kann diese Daten verwenden, um das KI-Modell zu trainieren, sodass das Modell lernen kann, wie der Agent Aufgaben ausführt, einschließlich der durchgeführten Vorgänge und der während der Aufgabe abgerufenen Informationen.
Romain Ugarte, der ehemalige Wachstumsleiter bei Cursor, erwähnte in einem Podcast-Interview, dass die internen Mitarbeiter von Cursor etwa im Juni als erste den Grok Bot nutzten, der damals den Codenamen Sand trug. Das Produkt erfreute sich innerhalb des Unternehmens schnell großer Beliebtheit, und die Mitarbeiter nutzten es für den Verkauf, die Personalbeschaffung, die Recherche und andere Aufgaben. Sie autorisierten die Software häufig für den Zugriff auf die Systeme des Unternehmens und ermöglichten so ein unabhängiges Arbeiten. Mit der Angelegenheit vertraute Personen sagten, dass dies bedeutet, dass Mitarbeiter den Agenten in Szenarien einsetzen, in denen sie mit externen Kunden interagieren und potenzielle Kandidaten interviewen, wodurch er möglicherweise vertraulichen Informationen in Verkaufsgesprächen, Kundenakten und Personalbeschaffungskommunikation ausgesetzt wird.
Aber im Juli, kurz bevor Cursor Grok Bot veröffentlichte, warnten einige Ingenieure auf dem Slack-Kanal zur Meldung von Vorfällen: Die vom Unternehmen aus den internen Nutzungsszenarien von Sand gesammelten Trainingsdaten könnten vertrauliche Informationen enthalten, und dieser Datenstapel könnte an SpaceX SI übertragen worden sein.
Im Rahmen seiner Untersuchung überprüfte Cursor die im Trainingsdatensatz enthaltene Benutzergruppe auf der Grundlage interner Kommunikation und mit der Angelegenheit vertrauter Personen. Eine mit der Angelegenheit vertraute Person sagte, dass einige Cursor-Mitarbeiter persönliche E-Mails verwendet hätten, um sich bei Sand anzumelden, was es für das Unternehmen schwierig machte, solche Benutzer zu identifizieren und ihre Daten aus späteren Schulungen zu entfernen.
Zu diesem Zweck hat Cursor Einschränkungen vorgenommen: Mitarbeiter müssen sich mit der Firmen-E-Mail-Adresse bei Sand anmelden, und hat beschlossen, keine von Cursor-Mitarbeitern generierten Daten in künftige Schulungen einzubeziehen.
Cursors Anwalt schrieb auf dem Slack-Kanal des Unternehmens: „Aus rechtlicher Sicht ist Sand ein allgemeines Tool, und sein Datensatz enthält vertrauliche Informationen über Kunden, Partner, Lieferanten usw. Streng genommen haben wir nicht die rechtliche Befugnis, diese Daten für Modellschulungen zu verwenden.“
Dies ist nicht das erste Mal, dass Cursor das Chaos wegen falscher Handhabung von Benutzerdaten beseitigen muss.
Interne Kommunikation, die von den Medien überprüft wurde, ergab, dass es Anfang des Jahres zu einem bisher nicht gemeldeten Vorfall kam: Das Vertriebs- und Marketingpersonal von Cursor gab versehentlich Kundeninformationen im Internet preis. Das Problem lag in den Websites, die das Team auf Basis der Website-Entwicklungsplattform Vercel erstellte und die von den Vertriebs- und Marketingteams zur Pflege der Beziehungen zu bestehenden und potenziellen Kunden genutzt wurden.
Aus den Dokumenten geht hervor, dass eine der Websites zur Verwaltung des Kunden-Dockings bei Verizon verwendet wird. Die Website enthält ein Organigramm eines Teils des technischen Managements von Verizon, in dem mehrere Hauptbenutzer des internen Cursor-Tools von Verizon, die Produktverbrauchsmengen und die E-Mail-Adressen jedes Benutzers aufgeführt sind.
Die internen Kommunikationsaufzeichnungen von Cursor zeigen, dass die mit Verizon verbundene Website zwar über ein Passwort verfügt, das Passwort jedoch zusammen mit allen Kundeninformationen direkt in den zugrunde liegenden Code geschrieben wurde. Jeder Internetnutzer, der den Code einsieht, kann das Passwort und die Kundeninformationen erhalten.
Interne Kommunikation zeigt auch, dass das Unternehmen mit Daten anderer Unternehmen wie Bosch und Coupa auf ähnliche Probleme gestoßen ist. Nachdem die Schwachstelle entdeckt wurde, schalteten die Cursor-Ingenieure die entsprechende Website dringend offline. Sie gaben dem Slack-Kanal, der sich der Diskussion dieses endlosen Problems widmet, sogar einen langen Namen: „Eine große Anzahl von GTM-Websites haben Kunden-/interne Daten durchgesickert“ (GTM steht für „Go to Market“).
Bosch leitete Anfragen an Cursor weiter, Coupa lehnte eine Stellungnahme ab, Verizon reagierte nicht auf Interviewanfragen und Vercel lehnte eine Stellungnahme ab.
Lange bevor Cursor mit SpaceX SI verschmolzen wurde, war die KI-Abteilung des Luft- und Raumfahrtunternehmens auf ähnliche Datensicherheitsvorfälle gestoßen. Im März 2025 hat ein Mitarbeiter von SpaceX SI versehentlich ein Testskript in das öffentliche GitHub-Code-Repository hochgeladen und dabei den Schlüssel der Grok-Anwendungsprogrammschnittstelle preisgegeben. Außenstehende können mit dem Schlüssel auf das nicht für die Öffentlichkeit freigegebene xAI-Modell zugreifen.
Diesen Sommer entdeckte ein Forscher, dass das Entwicklertool Grok Build von SpaceX das komplette Git-Code-Repository in den Google Cloud Storage von SpaceX hochlädt und dabei möglicherweise proprietären Quellcode oder Identitätsnachweise preisgibt, die die Entwickler nicht veröffentlichen wollten. Als Reaktion darauf schloss xAI die Warehouse-Upload-Funktion und machte das Tool zu Open Source. Elon Musk postete auf der X-Plattform: „Alle zuvor auf SpaceX AI hochgeladenen Benutzerdaten werden vollständig und vollständig gelöscht.“
Kommentare