Microsoft hat seinen Mitarbeitern kürzlich die interne Nutzung des neu veröffentlichten großen Mythos-Modells Claude Fable 5 von Anthropic untersagt, da Bedenken hinsichtlich der Compliance- und Vertraulichkeitsrisiken bestehen, die die Richtlinie zur Datenaufbewahrung mit sich bringen könnte. Nach Angaben von mit der Angelegenheit vertrauten Personen hat die Rechtsabteilung von Microsoft nach der Aktualisierung der Datenaufbewahrungsanforderungen für Claude Fable 5 durch Anthropic eingeschritten, um das Modell zu prüfen und vorübergehend aus der GitHub Copilot-Modellauswahlliste zu entfernen, die von Mitarbeitern des Unternehmens verwendet wird.
Anthropic hat gestern offiziell sein erstes Modell auf Mythos-Niveau, Claude Fable, vorgestellt. Fable 5 ist die Kernversion dieser Version und wurde schnell in kundenorientierte Produkte und Dienste wie GitHub Copilot und Foundry von Microsoft integriert. Anders als beim schnellen Start für externe Kunden können die internen Mitarbeiter von Microsoft Claude Fable 5 jedoch vorübergehend nicht in ihrer eigenen GitHub Copilot-Umgebung auswählen und weiterhin nur auf andere Modelle der Claude-Serie zugreifen, die weiterhin die „Zero Data Retention“ (ZDR)-Strategie umsetzen.
Es wird berichtet, dass die interne Erklärung von Microsoft gegenüber den Mitarbeitern lautet, dass das Rechtsteam die neuesten Datenaufbewahrungsanforderungen von Anthropic für die Modelle der Mythos-Serie evaluiert. Im Mittelpunkt steht dabei die Art und Weise, wie Kundendaten und vertrauliche Informationen gespeichert und verarbeitet werden. Es ist unklar, wie die rechtliche Prüfung aussehen wird und ob Claude Fable 5 in Zukunft wieder für die Nutzung durch Microsoft-Mitarbeiter geöffnet wird.
Gemäß der von Anthropic angekündigten Richtlinie basiert der Betrieb von Claude Fable 5 auf einem neuen Sicherheitsklassifikator, der erfordert, dass der Server Benutzeraufforderungen speichert und Inhalte zur Sicherheitsanalyse und Erkennung von Verstößen ausgibt. Nach den geltenden Vorschriften werden diese Daten standardmäßig 30 Tage lang aufbewahrt und nach Ablauf gelöscht; Wenn festgestellt wird, dass der relevante Inhalt gegen die Nutzungsrichtlinien von Anthropic verstößt, kann er aus Sicherheits- und Compliance-Gründen bis zu zwei Jahre lang aufbewahrt werden. Es ist dieser „erforderliche Aufbewahrungsmechanismus“, der seitens Microsoft eine Reihe von Bedenken hinsichtlich der rechtlichen Haftung, der Privatsphäre der Kunden und des Schutzes von Unternehmensgeheimnissen ausgelöst hat.
Der Claude Fable 5 ist die erste groß angelegte öffentliche Veröffentlichung der Anthropic Mythos-Modellfamilie, die das Unternehmen zuvor als „zu gefährlich für eine vollständige öffentliche Veröffentlichung“ bezeichnet hat, wenn es um sensible Aufgaben wie Cybersicherheit geht. Um das Missbrauchsrisiko zu verringern, führte Anthropic für Fable 5 strengere Mechanismen zum sofortigen Wortsicherheitsschutz und zur Inhaltsüberprüfung ein, die auch technisch zum aktuellen Design der Datenaufbewahrung beitrugen und eine neue Spannung zwischen Produktsicherheit und Datenkonformität schufen.
Die Medien haben Microsoft um einen Kommentar zum aktuellen Einsatz von Claude Fable 5 bei Microsoft und den darauffolgenden Plänen gebeten, Microsoft hat jedoch nicht fristgerecht geantwortet.
Verwandte Artikel:
Anthropic veröffentlicht Claude Fable 5, eine öffentliche Version von Mythos ohne Cybersicherheitsfunktionen