Zusammenfassung:
Während Agenten der künstlichen Intelligenz nach und nach damit beginnen, Einkaufs-, Zahlungs- und Bestellvorgänge im Namen der Benutzer abzuwickeln, zeigt die globale Finanzindustrie eine immer komplexere Haltung gegenüber diesem aufkommenden Modell. Sechs große internationale Finanzinstitute, darunter die Bank of America und die Capital One Bank, haben kürzlich gemeinsam einen Bericht herausgegeben, in dem es heißt, dass das durch KI-Agenten gesteuerte „Agent Shopping“ zwar großes Potenzial birgt, aber auch eine Reihe neuer Probleme mit sich bringt, etwa Transparenz, Sicherheit, Datenschutz und Betrugsrisiken.
Beim sogenannten agentenbasierten Einkaufen handelt es sich um einen Agenten mit künstlicher Intelligenz, der selbstständig im Internet surft, Produkte vergleicht, Zahlungsmethoden auswählt und den Kaufvorgang auf Basis der Benutzerautorisierung direkt abschließt. Im vergangenen Jahr haben viele KI-Entwickler, Einzelhandelsunternehmen und Zahlungsinstitute die Implementierung verwandter Technologien vorangetrieben, in der Hoffnung, KI zu einem „digitalen Einkaufsassistenten“ für Verbraucher zu machen.
Die Bankenbranche ist jedoch davon überzeugt, dass mit der zunehmenden Autonomie der KI-Agenten bei der Entscheidungsfindung auch ihre potenziellen Risiken zunehmen.
Laut dem Bericht mit dem Titel „Building Agent-Based Business Trust“ konzentrieren sich die Risiken auf Transparenz, Sicherheit, Privatsphäre und Datenschutz, Benutzerwahlmöglichkeiten und Interoperabilität zwischen verschiedenen Plattformen. Der Bericht wies darauf hin, dass viele Verbraucher nicht sicher sind, ob KI-Agenten wirklich Entscheidungen in ihrem eigenen Interesse treffen werden, und daher immer noch offensichtliche Zweifel an dieser Art von Technologie haben.
Der Bericht zeigt, dass viele Benutzer befürchten, dass KI-Agenten falsche Produkte kaufen, über ihr Budget hinaus ausgeben oder sogar auf Probleme wie Betrug, Kontodiebstahl oder Geldverlust stoßen könnten. Obwohl Verbraucher bereit sind, KI zu nutzen, um Produktinformationen und Einkaufsvorschläge zu erhalten, sind die meisten immer noch vorsichtig, wenn es darum geht, den Kaufprozess vollständig von KI steuern zu lassen.
Die Technologiebranche ist hinsichtlich der Entwicklungsaussichten des Agent Shopping nicht ganz optimistisch.
Ron Johnson, einer der Gründer des Apple-Einzelhandelssystems und ehemaliger Apple-Manager, sagte kürzlich in einem Interview, dass künstliche Intelligenz das Online-Einkaufserlebnis tatsächlich verbessern kann, aber er glaubt nicht, dass KI die Art und Weise, wie Menschen einkaufen, grundlegend verändern wird.
Aus seiner Sicht wollen Konsumenten Produkte letztendlich immer noch persönlich erleben, und dies kann nicht durch KI ersetzt werden. Künstliche Intelligenz kann den Nutzern dabei helfen, im Voraus zu recherchieren und sie zu Verbrauchern zu machen, die das Produkt besser verstehen, aber sie wird den Wert des physischen Einkaufs selbst nicht beseitigen.
Der Bericht der Bankenbranche wies außerdem darauf hin, dass KI-Agenten auch von Anreizmechanismen für Unternehmen betroffen sein könnten. Einige Systeme empfehlen beispielsweise bevorzugt Produkte mit höheren Provisionen, Zahlungskanäle mit niedrigeren Transaktionskosten oder wählen sogar suboptimale Lösungen, um die Rechenkosten zu senken. Dieses Verhalten ist möglicherweise nicht im Interesse der Verbraucher, könnte aber zur Standardwahl von KI-Agenten werden.
Gleichzeitig kann die großflächige Einführung des Agent-Shoppings auch zu einem Anstieg der Zahl von Betrügereien, Betrügereien und Verbraucherstreitigkeiten führen. Sobald ein KI-System angegriffen wird oder ein Datenleck auftritt, sind nicht nur die persönlichen Daten der Benutzer gefährdet, sondern auch Unternehmen, die geschäftlich auf diese Systeme angewiesen sind, können schwere Verluste erleiden.
Eine Reihe jüngster Ereignisse haben diese Bedenken noch verstärkt.
Vor nicht allzu langer Zeit gab Meta bekannt, dass es eine Zero-Day-Schwachstelle in seinem KI-Assistenten Muse behoben hat. Eine der derzeit wichtigen Funktionen von Muse ist das Agent-Shopping. Diese Schwachstelle könnte es einem Angreifer theoretisch ermöglichen, den KI-Assistenten zu übernehmen und mithilfe der vom Benutzer erteilten Berechtigungen verschiedene Vorgänge auszuführen.
Gleichzeitig hatte Amazon auch öffentliche Spannungen mit Muse. Amazon warf den KI-Agenten von Meta vor, sich beim Zugriff auf seine E-Commerce-Plattform nicht eindeutig zu identifizieren, äußerte Bedenken hinsichtlich der Kontoanmeldeinformationen und des Umgangs mit Benutzerdaten und forderte, dass dieses Verhalten eingestellt werde.
Dennoch lehnen diese sechs Banken die Zukunft des Agent-Shoppings nicht völlig ab.
Der Bericht weist darauf hin, dass der Agenturhandel wahrscheinlich auch in Zukunft zu einer der gängigen Formen der Abwicklung von Transaktionen zwischen Verbrauchern und Händlern werden wird. Auch Finanzinstitute sind hinsichtlich des langfristigen Entwicklungspotenzials optimistisch und haben ihre Bereitschaft zum Ausdruck gebracht, mit Kunden, Industriepartnern und Regulierungsbehörden zusammenzuarbeiten, um das gesunde Wachstum dieses Modells zu fördern.
Damit sich Agent Shopping jedoch wirklich großer Beliebtheit erfreut, muss seiner Ansicht nach zunächst ausreichend soziales Vertrauen aufgebaut werden. Die derzeitige Geschwindigkeit der technologischen Entwicklung war deutlich schneller als die Geschwindigkeit des Aufbaus von Branchenvorschriften, politischen Systemen und Verbraucherschutzmechanismen, und dies ist das dringendste Problem, das die Branche lösen muss.
Zu diesem Zweck hat die Bankenallianz, die an der Erstellung des Berichts beteiligt war, mit den Vorbereitungen für die nächste Phase der Forschungsarbeit begonnen, in der Hoffnung, weiter zu klären, wie die fünf Kernprinzipien Transparenz, Sicherheit, Privatsphäre und Datenschutz, Benutzerwahl und Plattforminteroperabilität umgesetzt und entsprechende Industriestandards etabliert werden können.
In einer neuen Ära, in der sich künstliche Intelligenz allmählich von der „Bereitstellung von Vorschlägen“ zur „Handlung in ihrem Namen“ verlagert, ist das von der Bankenbranche gesendete Signal ganz klar: KI-Agent-Shopping mag eine glänzende Zukunft haben, aber bevor es wirklich zu einer Mainstream-Konsummethode wird, müssen noch viele Schlüsselprobleme in Bezug auf Sicherheits-, Vertrauens- und Verantwortungsmechanismen gelöst werden.
Kommentare