Nach der US-Präsidentschaftswahl 2024 wandten sich zahlreiche Nutzer aus Unzufriedenheit mit den parteiisch-offensiven Äußerungen der X-Plattform (ehemals Twitter) an das dezentrale soziale Netzwerk Bluesky. Bluesky verwendet keine Algorithmen, um Inhalte zu empfehlen, und hat in der Anfangsphase extreme Äußerungen und Fehlinformationen reduziert. Doch innerhalb eines Jahres hatte die Plattform immer noch einen Echokammereffekt.
Forscher der Universität Amsterdam fanden durch KI-Simulationsexperimente heraus, dass soziale Medien auch ohne komplexe Algorithmen auf natürliche Weise in geschlossene Kreise aufspalten und ein Polarisierungsphänomen mit nur grundlegenden Funktionen wie Posten, Weiterleiten und Verfolgen bilden. Sie bauten eine vereinfachte Plattform mit 500 virtuellen Benutzern auf, legten Benutzereigenschaften basierend auf Daten der US National Election Research fest und verwendeten große Sprachmodelle wie ChatGPT, Llama und DeepSeek, um Benutzerverhalten zu simulieren. Nachdem das Experiment 10.000 Interaktionszyklen lang lief, traten drei Hauptprobleme auf der Plattform auf: Echokammern, Einflusskonzentration und extreme Sprache.
Die Forscher versuchten sechs Interventionen, etwa das Anzeigen von Beiträgen in chronologischer Reihenfolge oder das Vorbringen gegensätzlicher Standpunkte, aber keine löste das Problem vollständig und einige verschärften sogar die negativen Phänomene. Wissenschaftler der University of Washington glauben, dass dieses Ergebnis „eine Resonanz zwischen der menschlichen Natur und der Dynamik der Aufmerksamkeit in den sozialen Medien“ widerspiegelt und dass die Systemarchitektur auch dann noch toxisch bleiben kann, wenn der Algorithmus entfernt wird.
Experten der Indiana University bezweifeln, dass die KI-Trainingsdaten selbst Social-Media-Toxizität enthalten könnten, was dazu führt, dass die experimentellen Ergebnisse von Natur aus in Richtung Polarisierung tendieren. Forscher der New York University sind davon überzeugt, dass es zwar keine einfache Lösung gibt, Nutzer, die neutralere Inhalte veröffentlichen, jedoch dazu beitragen können, die Polarisierung zu mildern.
Diese Studie deckt den zugrunde liegenden Mechanismus der Social-Media-Polarisierung auf und zeigt, dass es schwierig ist, das Problem allein durch technische Anpassungen zu beseitigen, und dass eine Kombination von Mehrparteienstrategien erforderlich ist, um damit umzugehen.