Zusammenfassung:
Laut der Financial Times diskutiert Anthropic mit Juristen darüber, wie man KI-Agenten einsetzen kann, um im Namen der Nutzer zu verhandeln und vernünftige Verhandlungsregeln einzuhalten und gleichzeitig bessere Transaktionsbedingungen anzustreben. Zwei Personen, die mit der Denkweise von Anthropic vertraut sind, sagten, das Unternehmen suche Rat bei Anwaltskanzleien, wie Anwälte faire Ergebnisse aushandeln und gleichzeitig die Interessen ihrer Mandanten wahren können. Anthropic lehnte eine Stellungnahme ab.
Anthropisch
Anthropic ist eines der größten KI-Unternehmen, das autonome Agenten entwickelt. Diese Art von intelligenten Agenten kann nach Erhalt von Benutzeranweisungen autonom Maßnahmen ergreifen, um Aufgaben zu erledigen. Durch den Einsatz persönlicher Intelligenz beginnen KI-Unternehmen darüber nachzudenken, ihnen die Möglichkeit zu geben, miteinander zu kommunizieren, im Namen der Benutzer über Produktpreise zu verhandeln, Streitigkeiten im Kundenservice beizulegen und sogar bessere Löhne anzustreben.
Anthropic arbeitet an „Verhandlungsnormen“, denen Models folgen sollten, wenn sie miteinander verhandeln, so eine mit der Arbeit vertraute Person. Je leistungsfähiger Agenten werden, desto mehr müssen sie Benutzer vertreten und mit anderen Agenten mit widersprüchlichen Zielen umgehen.
Anthropic wägt ab, wie oft Benutzer während Verhandlungen konsultiert werden sollten und wie wachsam sie bei der Verhandlung mit KI-Gegnern sein sollten. Das Unternehmen möchte, dass seine Agenten das nötige Maß an Skepsis bewahren und gleichzeitig übermäßiges Misstrauen vermeiden, sagten die Personen.
Anthropic hat auch eine Lösung untersucht, bei der Benutzer signierte Dokumente bereitstellen, die die vom Agenten akzeptierten Aufgaben und die Regeln bestätigen, die er einhalten muss, sagte eine andere Person aus dem Umfeld des Unternehmens.
Die Financial Times zitierte eine im April dieses Jahres von Anthropic veröffentlichte Studie mit der Aussage, dass der politische und rechtliche Rahmen für KI-Modelle, die Transaktionen im Auftrag von Menschen durchführen, noch nicht festgelegt ist und solche Anwendungsszenarien nicht mehr weit entfernt sind und die Gesellschaft so schnell wie möglich auf relevante Veränderungen reagieren muss.
Anthropic gab in diesem Jahr auch die Ergebnisse einer Reihe von Experimenten bekannt, die es dem Claude-Agenten ermöglichten, über reale Güter und Gelder zu verhandeln.
In einem September-Experiment kauften und verkauften Anthropic-Mitarbeiter Bücher über einen KI-Agenten. Die Mitarbeiter stellen ihren eigenen Agenten zunächst eine nach Präferenz sortierte Liste von Büchern zur Verfügung und ermöglichen ihnen dann den Zutritt zum virtuellen Handelsplatz, um den Agenten anderer Leute Geschäfte zu empfehlen, auszuhandeln und mit ihnen abzuschließen.
Das Experiment ergab, dass Agenten, die zu einer „harten und rücksichtslosen“ Strategie aufgefordert wurden, einen leichten Vorteil beim Streben nach besseren Ergebnissen hatten. Einige der kooperativeren Agenten machten bewusste Zugeständnisse und akzeptierten unter anderem Bücher mit niedrigeren Präferenzrankings, um sicherzustellen, dass jeder am Experiment teilnehmende Agent dem Benutzer letztendlich ein Buch mit nach Hause brachte.
Die Wissenschaft untersucht auch Verhandlungen zwischen KIs. Michelle Vaccaro, Assistenzprofessorin an der Harvard Business School, hat mehr als 180.000 Verhandlungen zwischen KI-Agenten geführt, darunter Arbeitsverträge und Mietvertragsverhandlungen.
Die Studie ergab, dass einige neue Strategien die Fähigkeit des Agenten der anderen Partei, die Interessen des Benutzers zu vertreten, schwächen. Beispielsweise versuchte ein Agent in einer Verhandlung, die Gegenpartei durch „Stichworteinschleusung“ zur Preisgabe privater Informationen zu bewegen.
Ob eine stärkere KI die Kluft bei den Verhandlungsfähigkeiten weiter vergrößern wird, gibt ebenfalls Anlass zur Sorge. Vaccaro sagte, dass ein Hochleistungsmodell Menschen, die sonst nicht die Zeit oder die Ressourcen hätten, Verhandlungsfähigkeiten zu erlernen oder jemanden einzustellen, der für sie verhandelt, professionelle Verhandlungsfähigkeiten vermitteln kann. Wenn die stärksten Agenten jedoch vor allem von denen mit den meisten Ressourcen eingesetzt werden, können sie auch bestehende Vorteile verstärken und die Ungleichheiten in der Verhandlungsmacht vergrößern.
Kommentare