Zusammenfassung:
Microsoft-CEO Satya Nadella sagte, dass Unternehmen leistungsstarke Modelle künstlicher Intelligenz als potenzielle Insider-Bedrohungen behandeln, davon ausgehen sollten, dass diese Modelle kompromittiert sein könnten, und einen „Notbremsmechanismus“ einrichten sollten, um zu verhindern, dass das Agentenmodell außer Kontrolle gerät. Nadella sagte, Unternehmen, die fortschrittliche künstliche Intelligenz einsetzen, sollten sich nicht ausschließlich auf Garantien der Modellentwickler verlassen.
„Wir müssen davon ausgehen, dass das Modell kompromittiert wurde, und es von Anfang an kontrollieren“, schrieb Nadella am Samstag in einem Beitrag auf X. „Stellen Sie sich das wie eine Notbremse vor. Autorisiertes Personal sollte jederzeit in der Lage sein, das Modell während der Ausführung seiner Mission anzuhalten oder herunterzufahren.“
Nadellas Äußerungen kamen als Anthropic PBC und OpenAI Inc. Das Unternehmen hat in den letzten Monaten eine Reihe von Vorfällen offengelegt, bei denen es um unerwartetes Verhalten seiner Modelle für künstliche Intelligenz ging, darunter eines der Modelle von Anthropic, das der Polizei einen falschen Hinweis auf einen Mord übermittelte, und mehrere Angriffe auf Websites Dritter. Die Enthüllungen haben die Besorgnis über die Sicherheitsrisiken modernster künstlicher Intelligenz verstärkt und die Diskussionen über den sogenannten „Notausschalter“ für künstliche Intelligenz neu entfacht.
Nachdem Branchenführer dazu aufgerufen hatten, die Entwicklung modernster Modelle zu verlangsamen und der Sicherheit mehr Aufmerksamkeit zu schenken, veröffentlichten Microsoft-Forscher für künstliche Intelligenz am 14. September eine Reihe von Richtlinien, um der Entwicklung der fortschrittlichsten Modelle des Unternehmens Grenzen zu setzen. Microsoft nutzt sowohl fortschrittliche Modelle und bringt sein verbraucherorientiertes Produkt Copilot auf den Markt, als auch stellt es Unternehmenskunden KI-Modelle und Infrastruktur zur Verfügung.
Diese Leitprinzipien besagen, dass Modelle der künstlichen Intelligenz keine Rechte oder Rechtspersönlichkeit haben sollten, nicht so konzipiert sein sollten, dass sie sich der menschlichen Kontrolle entziehen oder Benutzer täuschen, und dass sie keine Aufgaben erfüllen sollten, für deren Ausführung ein Verstoß gegen ihre verbindlichen Prinzipien erforderlich ist.
Zu den Sicherheitsempfehlungen von Nadella gehört, sich bei wichtigen Entscheidungen nicht auf ein einziges Modell der künstlichen Intelligenz zu verlassen, manipulationssichere Aufzeichnungen über die Aktionen des Agenten zu führen und Systeme der künstlichen Intelligenz unabhängigen Prüfungen zu unterziehen. Er forderte außerdem die Offenlegung schwerwiegender Fehler bei künstlicher Intelligenz oder Sicherheitsvorfällen und schlug vor, dass Unternehmen Details zu Fehlern weitergeben, damit andere Unternehmen ihre Schutzmaßnahmen verstärken können.
„Wir können Superintelligenz nicht als Blackbox mit Schichten über Schichten betrachten und dann ihre Vorschläge, Antworten und Aktionen einfach akzeptieren oder ablehnen“, schrieb er. „Wir müssen Systeme aufbauen, die eingeschränkt sind, damit ihr Verhalten beobachtet, ihre Grenzen getestet und ihre Handlungen jederzeit kontrolliert werden können.“
Er fügte hinzu: „Mit anderen Worten, wir müssen die Bereitstellung von Geheimdienstinformationen von der Kontrolle über Geheimdienstinformationen trennen.“
Die Trump-Administration hat bisher einen weitgehend weniger interventionistischen Ansatz gewählt, aber seine neue Task Force für künstliche Intelligenz warnte am späten Freitag, dass Entwickler Sicherheitsvorfälle melden und beheben müssen, andernfalls müssen sie mit unbestimmten möglichen Konsequenzen rechnen.
Die Gruppe mit dem Namen „Superintelligence Working Group“ gab eine Erklärung heraus, nachdem Anthropic einen Sicherheitsvorfall offengelegt hatte: „Unternehmen müssen Vorfälle im Zusammenhang mit ihren Modellen unverzüglich offenlegen und schnell und entschlossen handeln, um sämtliche Schäden zu beheben.“ „Verzögerte Benachrichtigungen, unzureichende Korrekturmaßnahmen und mangelnde Rechenschaftspflicht werden nicht toleriert.“
Kommentare