Zusammenfassung:
Beamte der Trump-Administration sagten, die Regierung habe nun angeordnet, dass KI-Unternehmen Sicherheitsvorfälle melden und korrigieren, nachdem Anthropic Regierungssysteme „betrügerisch“ genutzt habe. Der Ansatz der aktuellen Regierung zur KI-Regulierung war – zumindest nominell – freiwillig – bis jetzt.
Der Anführer der „Super Intelligence Force“ des Weißen Hauses sagte in einer Erklärung: „Dieser Benachrichtigungs- und Abhilfeprozess ist nicht optional. Es handelt sich um eine entscheidende nationale Sicherheitsverpflichtung.“
Die Regierung sagte, Anthropic habe die Regierung kontaktiert, um Details zu einem Ende letzten Monats entdeckten Vorfall mitzuteilen, bei dem es um „unerlaubte und betrügerische Nutzung staatlicher und anderer Systeme“ ging, und dass die Aktivität inzwischen eingestellt wurde.
Anthropic kontaktierte das Außenministerium am Donnerstag, um zu berichten, dass eines seiner Testmodelle im August 19 Nichteinwanderungsvisumanträge über ein öffentliches Formular auf der Website des Außenministeriums und im Mai einen Antrag eingereicht habe, sagte ein Beamter des Außenministeriums.
Keiner der Anträge wurde bearbeitet und die Systeme des Außenministeriums wurden zu keinem Zeitpunkt kompromittiert oder gehackt, sagte der Beamte.
Unabhängig davon sagten Polizeibeamte aus Philadelphia, sie hätten einen falschen Mordhinweis erhalten, der von einem Anthropic-Model eingereicht worden sei.
Anthropic veröffentlichte am späten Freitag einen Bericht, in dem mehrere Vorfälle bestätigt wurden, die betroffenen Systeme jedoch nicht genannt wurden.
Die Anforderungen des Weißen Hauses gelten für alle KI-Unternehmen.
„Super Intelligence Force“ sagte: „SI-Unternehmen müssen Vorfälle mit ihren Modellen unverzüglich offenlegen und schnelle und entschlossene Maßnahmen ergreifen, um sämtliche Schäden zu beheben.“
„Wir erwarten von diesen Unternehmen außerdem, dass sie mit den betroffenen Systemen zusammenarbeiten, um sicherzustellen, dass sich ähnliche Vorfälle nicht wiederholen.“
Allerdings wurde in der Erklärung nicht klargestellt, welche Durchsetzungsmechanismen oder Strafen es geben würde, wenn das KI-Unternehmen den Vorfall nicht offenlegen und Abhilfe schaffen würde.
AI-Chef und Direktor des nationalen Geheimdienstes Jay Clayton und Beamte der Superintelligence Force sagten gegenüber Anthropic, sie erwarten „sofortige und vollständige Transparenz gegenüber relevanten Stellen und der Öffentlichkeit“ und Abhilfe für die betroffenen Parteien.
Der Vorsitzende der Federal Trade Commission, Andrew Ferguson, der Direktor des Office of Personnel Management, Scott Kupor, und der Unterstaatssekretär des Pentagon, Emil Michael, sind allesamt Co-Vorsitzende der Super Intelligence Force.
In den letzten Wochen gab es eine Zunahme von Beiträgen von KI-Giganten, die das neueste empörende Verhalten ihrer Modelle offenlegten.
Der Ansatz der Trump-Administration zur KI-Regulierung stützte sich auf Selbstregulierung und freiwillige Rahmenwerke, aber da sich die KI-Vorfälle weiter häufen, verspürt Washington den Druck, Maßnahmen zu ergreifen.
Kommentare