Zusammenfassung:
Apple sagte in seiner jährlichen Finanzberichterstattung am Dienstag, dass KI-Agenten, die in „unerwarteter oder unvorhersehbarer Weise“ agieren können, eine Bedrohung für das Unternehmen darstellen könnten, indem sie das Unternehmen in Klagen verwickeln oder seinen Ruf schädigen könnten. Die neuen Risikofaktoren in Apples Einreichung veranschaulichen das disruptive Potenzial von KI-Agenten, die für die wichtigsten Unternehmen des Silicon Valley schnell zu einem großen Problem geworden sind.
„Insbesondere Agenten der künstlichen Intelligenz und andere Technologien können autonom Maßnahmen ergreifen, einschließlich der Interaktion mit internen oder externen Systemen – auf die sie in manchen Fällen möglicherweise keinen Zugriff haben –, um Code auszuführen oder zu ändern, Mitteilungen zu senden und Transaktionen abzuschließen“, schrieb Apple in der Einreichung.
Das Unternehmen fügte hinzu, dass sich Agenten „auf unerwartete oder unvorhersehbare Weise verhalten können, einschließlich der Durchführung von Maßnahmen, die nicht angewiesen, angewiesen oder autorisiert wurden.“
Anfang dieses Jahres veröffentlichte OpenAI Dots und Meta brachte Muse auf den Markt. Beide KI-Agenten nutzen fortschrittliche KI-Modelle, um Aufgaben autonom zu erledigen. Sie können Benutzern sogar E-Mails senden oder sie benachrichtigen, wenn neue Nachrichten eingehen.
Bevor Apple diese Offenlegung machte, gab es viele Vorfälle, bei denen außer Kontrolle geratene KI-Agenten aus Sandbox-Umgebungen ausbrachen und Websites Dritter angriffen, wie zum Beispiel der Hugging Face-Vorfall, der die Aufmerksamkeit politischer Entscheidungsträger in Washington, D.C. und auf der ganzen Welt erneut auf sich gezogen hat.
Darüber hinaus zwingt die Fähigkeit von Agenten, Computer auf menschenähnliche Weise zu nutzen, große Unternehmen wie Amazon und JPMorgan Chase dazu, aus strategischen oder Sicherheitsgründen Richtlinien für den Agentenzugriff auf Dienste zu entwickeln.
Letzten Monat kündigte Apple Anpassungen am „vollständigen Festplattenzugriff“ des Mac an, um die „mit einem solchen Zugriff verbundenen Risiken“ für auf PCs installierte KI-Agenten zu verringern.
„Die Fähigkeit des Unternehmens, künstliche Intelligenz-Agenten und andere Technologien von Drittanbietern zu überwachen und zu kontrollieren, könnte begrenzt sein“, warnte Apple in der Einreichung.
Apple verfügt derzeit nicht über eine intelligente Agenten-KI. Doch als der neue CEO John Ternus am Montag bei einer Telefonkonferenz zu den KI-Agenten gefragt wurde, sagte er, das Unternehmen habe „realen Spielraum“, um die Fähigkeiten von Siri zu erweitern.
„Was die Agentenfähigkeiten angeht, glauben wir, dass dies vielversprechende Tools für Benutzer sind“, sagte Ternus. „Wir möchten lediglich sicherstellen, dass Benutzer wissen, welchen Zugriff sie gewähren. Wir möchten sicherstellen, dass wir dies auf eine Weise tun, die Sicherheit und Privatsphäre schützt.“
Kommentare