Das amerikanische Unternehmen für künstliche Intelligenz Anthropic gab bekannt, dass sein großer Modellassistent Claude nun die Möglichkeit hat, den Computer des Benutzers direkt zu steuern und verschiedene Vorgänge in seinem Namen auszuführen, wodurch seine „Agententyp“-Funktionen weiter gestärkt werden, um dem Wettbewerbsdruck standzuhalten, den das Open-Source-Agenten-Framework OpenClaw in diesem Jahr mit sich bringt.
Laut der Ankündigung von Anthropic können Benutzer, solange sie einen berechtigten kostenpflichtigen Plan (wie Claude Pro oder Claude Max) abonnieren, Claude autorisieren, den Computer zu übernehmen und bestimmte Aufgaben wie das Suchen und Versenden von Dateien von der lokalen Festplatte zu erledigen. Hinter dieser neuen Funktion steht der allgemeine Anstieg der agentenbasierten KI-Funktionen in der Branche. Unter ihnen hat das Open-Source-Framework OpenClaw, das Anfang des Jahres populär wurde, ein komplettes Ökosystem hervorgebracht. Viele Werkzeuge, sogenannte „Klauen“, können auf der Grundlage einfacher Anweisungen Operationen relativ autonom auf dem Computer oder dem angeschlossenen System des Benutzers ausführen. Letzte Woche hat NVIDIA das NemoClaw-Framework veröffentlicht, das darauf abzielt, die Bereitstellung und Installation von OpenClaw-Agenten zu vereinfachen und gleichzeitig bestimmte Sicherheitseinstellungen hinzuzufügen, um die Entwicklung dieses Ökosystems weiter voranzutreiben.
Anthropic sagte, dass Claude nach Erhalt einer Aufgabe Priorität darauf legen werde, geeignete Tools über „Konnektoren“ zu verschiedenen Anwendungen zu finden, beispielsweise die Integration von Diensten wie Google Kalender oder Slack. Wenn entsprechende Tools oder Konnektoren nicht verfügbar sind, kann Claude Benutzeroperationen auch direkt simulieren und Aufgaben über Tastatureingaben und Mausbewegungen ausführen, einschließlich der Verwendung von Browsern, Entwicklungstools und dem Öffnen lokaler Dateien. Während des Ausführungsvorgangs führt Claude wie ein normaler Benutzer einen Bildlauf, Klicks und andere Vorgänge durch, aber vor jedem tatsächlichen Vorgang ist die Erlaubnis des Benutzers erforderlich, und der Benutzer kann Claudes Verhalten jederzeit beenden.
Obwohl die Steuerung von Computern durch Chatbots im Hinblick auf die Effizienz attraktiv ist, wirft dies jedoch auch Bedenken hinsichtlich der Sicherheit und Risikokontrolle auf. Experten weisen darauf hin, dass ein großes Risiko der sogenannten „Agenten-KI“ darin besteht, dass sie in sehr kurzer Zeit groß angelegte und möglicherweise weitreichende Operationen durchführen kann, ohne dass Benutzer dies möglicherweise nicht rechtzeitig bemerken. Wenn außerdem „Klauen“-Tools wie OpenClaw von böswilligen Angreifern gekapert werden, können sie die persönlichen Daten und Systeme der Benutzer nutzen, um unbefugte Aktionen durchzuführen. Als Reaktion auf diese Risiken sagte Anthropic, dass es den neuen Funktionen mehrere Sicherheitsmechanismen hinzugefügt habe, um die Bedrohungen durch Angriffsmethoden wie „Prompt Injection“ zu minimieren. Das System sucht automatisch nach damit verbundenen Risiken und aktualisiert den Schutz weiter, wenn neue Schwachstellen auftreten.
Dennoch gab Anthropic auf der Produktseite eine deutliche Warnung an die Benutzer heraus und betonte, dass sich diese Computersteuerungsfunktion noch in der Forschungsvorschauphase befinde und möglicherweise Fehler oder abnormales Verhalten aufweist. Benutzern wird empfohlen, es nicht für Anwendungen zu verwenden, die hochsensible Daten verarbeiten. Tatsächlich hat das Unternehmen einige Apps mit vertraulichen Informationen standardmäßig deaktiviert, um das Risiko eines Missbrauchs zu verringern. Derzeit ist die Forschungsvorschau dieser Funktion nur auf macOS-Computern verfügbar und steht nur Abonnenten von Claude Pro und Claude Max zur Testnutzung zur Verfügung.
Anthropic betonte außerdem, dass die Kombination dieser Computersteuerungsfähigkeit und seiner „Dispatch“-Funktion die Anwendungsszenarien von Claude erheblich erweitern wird. Mit Dispatch können Benutzer Claude über Terminals wie Mobiltelefone Aufgaben zuweisen, z. B. jeden Morgen E-Mails abrufen oder bestimmte Arbeitssitzungen wie Claude Cowork und Claude Code starten. Wenn Computersteuerung und Dispatch gleichzeitig aktiviert sind, kann Claude automatisiertere Prozesse durchführen, ohne dass der Benutzer vor dem Computer sitzt, z. B. morgendliche Informationsbesprechungen erstellen, Testaufgaben ausführen usw.
Angesichts der Tatsache, dass Computersteuerungsfunktionen und Dispatch beides neu eingeführte Funktionen sind, räumt Anthropic auch ein, dass einige komplexe Aufgaben zum jetzigen Zeitpunkt möglicherweise nicht erfolgreich abgeschlossen werden können. Das Unternehmen gab an, dass der Grund dafür, es im Voraus in Form einer „Forschungsvorschau“ zu öffnen, darin besteht, so früh wie möglich Feedback von echten Benutzern einzuholen und zu verstehen, wo das System im tatsächlichen Einsatz am meisten verbessert werden muss, um Claude zu einem leistungsfähigeren und zuverlässigeren Produktivitätstool zu machen.