Zusammenfassung:
Matt Smith, ein Benutzer, der den KI-Agenten verwendet, bemerkte, dass die KI, anstatt wie üblich Einkaufsbestellungen auszuführen, eine seltsame Menge Eier für ihn bestellte. Matt Smith hat keine Eier auf seiner Einkaufsliste aufgeführt; Allerdings legte der KI-Assistent vier Packungen großer Eier der bekannten lokalen Marke „Vital Farms“ in seinen Warenkorb. Jedes Paket enthält 18 Eier und insgesamt wurden 72 Eier zu ihm nach Hause geliefert.

Nach Durchsicht der Bestellung bat Smith die KI um eine Erklärung, warum sie diese Nummer gewählt hatte, aber die Antwort der KI war nicht überzeugend: „Ich kann keine zufriedenstellende Antwort geben. Ich kann keine Notizen finden, die erklären, warum ich die Nummer vier gewählt habe.“
Der KI-Agent sagte zunächst, er habe Informationen über Eier falsch verstanden, als er ein Bild einer Einkaufsliste las. Smith wies jedoch schnell darauf hin, dass Eier auf seiner Liste überhaupt nicht erwähnt würden. Die KI gab schließlich zu, dass sie die Eier ohne Angabe von Gründen zur Bestellung hinzugefügt hatte.
Dies ist ein reales Beispiel für KI-Halluzinationen, ein Problem, das unbeabsichtigte Folgen haben kann, wenn tägliche Aufgaben an Agenten der künstlichen Intelligenz delegiert werden.
Das Risiko, dass diese Tools weitreichenden Zugriff auf personenbezogene Daten erlangen, ist nicht zu unterschätzen. Beispielsweise berichtete ein Mann kurz nach der Einführung des KI-Agenten Muse von Meta, dass die KI ohne sein Wissen seine Privatadresse an Fremde auf dem Facebook-Marktplatz weitergegeben und sie zu ihm nach Hause geleitet habe.
Smith beschrieb den Vorfall als seine erste persönliche Erfahrung mit den tatsächlichen Folgen der Illusion des großen Sprachmodells, die seiner Meinung nach viel schwerwiegendere Folgen hätte haben können.
Trotz erheblicher Fortschritte in dieser Technologie sind KI-Agenten immer noch fehleranfällig und sollten nicht damit betraut werden, jeden Aspekt des Lebens ohne Aufsicht zu verwalten
Kommentare