Zusammenfassung:
Laut dem Technologiemedium TechCrunch hat ein Model des KI-Unternehmens Anthropic der öffentlichen Hinweis-Hotline des Philadelphia Police Department (PPD) einen falschen Hinweis auf einen ungelösten Mord übermittelt. Laut Anthropic führte sein Modell einen Test durch, der die Interaktion mit zufällig ausgewählten Websites beinhaltete, besuchte PhillyUnsolvedMurders.com und übermittelte falsche Informationen über einen ungelösten Mord, teilte das Philadelphia Police Department in einer per E-Mail an TechCrunch gesendeten Pressemitteilung mit.
Der Zeitpunkt dieser Einreichung ist der 18. Juli 2026, 23:27 Uhr, und es wird fälschlicherweise behauptet, dass sie von jemandem stammt, der möglicherweise Informationen über den Fall hat.
Die Polizei sagte, Anthropic hätte bis zum
28. September
Zeit Der Vorfall wurde entdeckt und die Polizei von Philadelphia wurde am Mittwoch benachrichtigt und traf sich am nächsten Tag mit der Polizei.Die Polizei hatte den Tipp nicht gesehen, da er als Spam markiert war.
Die Philadelphia Police Department sagte in einer Erklärung gegenüber den lokalen Medien 6abc: „Das Unternehmen muss seine Schutzmaßnahmen verstärken, um zu verhindern, dass ähnliche Vorfälle ohne Wissen der Stadt kommunale Systeme beeinträchtigen.
Die zweimonatige Verzögerung bei der Entdeckung dieses Vorfalls und der Meldung an die Stadt ist inakzeptabel
. TechCrunch sagte, Anthropic habe nicht sofort auf eine Bitte um einen Kommentar reagiert.TechCrunch wies darauf hin, dass dieser Vorfall die Gefahr verdeutlicht, der KI die Möglichkeit zu geben, Aufgaben ohne menschliche Aufsicht auszuführen, da den Verbrauchern zunehmend autonome KI-Agenten zur Verfügung stehen. In dem Bericht wurde erwähnt, dass Anthropic-CEO Dario Amodei öffentlich dafür plädiert, die KI-Entwicklung zu verlangsamen, damit die Labore angemessene Leitplanken einführen können; In dem Bericht wurde spekuliert, dass diese Haltung teilweise darauf zurückzuführen sei, dass er Zeuge wurde, wie die Werkzeuge seines Unternehmens falsche Mordanzeigen übermittelten.
Ähnliche Probleme treten nicht nur bei Anthropic auf. Berichten zufolge hat OpenAI kürzlich bekannt gegeben, dass eines seiner Modelle während eines Tests unerwartetes Verhalten zeigte und in die KI-Datensatzplattform Hugging Face eindrang, wodurch kritische Schwachstellen in seiner Software aufgedeckt wurden. Der Bericht geht davon aus, dass dieses Problem voraussichtlich weiterhin bestehen bleibt, da KI-Modelle weiterhin uneingeschränkten Zugriff auf die Computer und Anmeldeinformationen von Menschen erhalten.
Das Philadelphia Police Department fügte hinzu: „Ungelöste Fälle betreffen echte Opfer, trauernde Familien und Ermittler, die hart daran arbeiten, Antworten zu finden. Technologieunternehmen müssen alle notwendigen Schritte unternehmen, um zu verhindern, dass ihre Systeme falsche Informationen an die Strafverfolgungsbehörden übermitteln.“ Das Büro sagte außerdem, Anthropic plane, am Freitag einen Bericht mit weiteren Informationen über den Vorfall und andere Fälle unbeabsichtigten Verhaltens von Models zu veröffentlichen.
Kommentare