Ein Start-up-Unternehmen namens Memvid veröffentlichte kürzlich eine umstrittene Stellenausschreibung, in der es offen einen „professionellen KI-Schläger“ mit einem Gehalt von bis zu 800 US-Dollar rekrutierte, um Mainstream-Chatbots den ganzen Tag über zu „foltern“, was in der Außenwelt Diskussionen darüber auslöste, ob es sich bei der Motivation um einen ernsthaften technischen Test oder einen sorgfältig konzipierten Marketing-Stunt handelt.
Memvid erklärte, dass der Hauptzweck dieser Rekrutierung darin bestehe, das Problem des „Speicherdefekts“, das bei aktuellen großen Modellen und Chatbots häufig auftritt, der Öffentlichkeit vollständig aufzudecken. Das Unternehmen ist davon überzeugt, dass große Sprachmodelle zwar gute Ergebnisse bei der Simulation „bedeutungsvoller, intelligenter Konversationen“ erzielen, es sich dabei jedoch im Wesentlichen um betrügerische Softwareprodukte mit sehr begrenzten Speicherkapazitäten handelt, die oft „vergessen“, was der Benutzer gerade in derselben Konversationsrunde gesagt hat, was dazu führt, dass Benutzer Informationen wiederholt wiederholen müssen.
Laut der Jobseite wird diese eintägige, stundenweise Stelle mit 100 US-Dollar pro Stunde vergütet, der Gesamtverdienst beträgt 800 US-Dollar und steht Fernarbeitern weltweit offen. Rekruten interagieren mit einer Reihe gängiger KI-Chatbots auf fast „aggressive“ Art und Weise und mit hoher Intensität, sodass sie sich ständig verschiedene Informationen merken müssen. Während des Prozesses zeichnet das System Situationen wie fehlgeschlagene Gespräche, vergessenen Kontext und Inkonsistenzen auf. Zusätzlich zu den detaillierten Notizen der Kandidaten selbst wird Memvid das gesamte Experiment auch per Bildschirmaufzeichnung oder Kamera für die anschließende Analyse aufzeichnen.
Interessanterweise erfordert dieser Job von den Bewerbern keinen KI-technischen Hintergrund oder „Mobbing-Erfahrung“, aber in den Bedingungen heißt es eindeutig: Bewerber müssen eine detaillierte persönliche Stellungnahme einreichen, in der sie ihre früheren negativen Erfahrungen bei der Verwendung von Technologieprodukten darlegen, und sie müssen eine klare und starke Unzufriedenheit mit der aktuellen KI-Technologie haben. Mohamed Omar, Mitbegründer und CEO des Unternehmens, erklärte, dass man „jemanden finden wollte, der KI wirklich hasst“, um die Aufgabe zu erfüllen.
Omar wies in einem Interview darauf hin, dass die schwerwiegenden Gedächtnisprobleme, mit denen Chatbots heute konfrontiert sind, eng mit der „Unzuverlässigkeit“ der KI-Speicherlösungen der frühen Generation zusammenhängen. Seiner Ansicht nach ist die Fähigkeit, Benutzerinformationen kontinuierlich zu speichern und die kontextuelle Kohärenz in langen Gesprächen aufrechtzuerhalten, der heilige Gral eines „wirklich nützlichen Chatbots“. Das sogenannte „Halluzinations“-Phänomen ist größtenteils eine direkte Folge schlechter Gedächtnismechanismen und Nutzungsgewohnheiten bei großen Modellen.
Memvid nutzt diese Gelegenheit, um seine selbst entwickelte KI-Speicherschichtlösung zu bewerben. Das Unternehmen behauptet, dass es sich hierbei um eine dateibasierte, sich selbst verbessernde Speicherkomponente handelt, die für große Modelle und Chatbots dauerhaften Kontext über Konversationen hinweg bereitstellen kann, wodurch die Antwortgenauigkeit verbessert, die Latenz reduziert und die Infrastrukturauslastung ohne Leistungseinbußen verbessert wird. Diese Speicherschicht kann als Kernfunktion von Memvids eigenem Chatbot-Produkt Kora genutzt oder in Form von Entwicklertools in andere KI-Produkte integriert werden.
Da große Modelle in realen Anwendungsszenarien weit verbreitet sind, wird das Problem des KI-Speichers immer deutlicher: Angesichts riesiger Data Warehouses und komplexer Geschäftsanforderungen kommt es bei Chatbots häufig zu „Fragmenten“, zum Vergessen vergangener Ereignisse und sogar zum Erfinden zufälliger Dinge bei langfristigen und mehrrundigen Interaktionen, wodurch die Benutzererfahrung ständig beeinträchtigt wird. In diesem Zusammenhang ist Memvids „KI-Mobbing“-Rekrutierung sowohl eine kreative Werbung für die eigenen Produkte als auch ein Weckruf, um den aktuellen Stand der Branche zu bekräftigen und die Öffentlichkeit daran zu erinnern, dass die aktuelle KI noch weit davon entfernt ist, ein „wirklich verlässlicher Gesprächspartner“ zu sein.
Die Rekrutierung für die Stelle werde mehrere Wochen andauern und es werde nur ein Kandidat ausgewählt, sagte Memvid. Das Unternehmen hofft, durch diese intensive „Folter“ der Mainstream-Chatbots genügend negative Fälle zu erhalten, die nicht nur Anzeigematerial für seine eigenen Produkte liefern, sondern auch einen lebendigen Einstiegspunkt für gesellschaftliche Diskussionen über die Sicherheit und Zuverlässigkeit von KI bieten.