Forscher haben mithilfe künstlicher Intelligenz eine Möglichkeit geschaffen, die Qualität und Höflichkeit von Online-Diskussionen über polarisierende Themen zu verbessern, indem sie Benutzern Vorschläge für die Umformulierung ihrer Kommentare machen, bevor sie diese veröffentlichen. Sie sagen, dass künstliche Intelligenz bei richtiger Anwendung dazu genutzt werden kann, eine freundlichere und sicherere digitale Umgebung zu schaffen.
Online-Gespräche spielen mittlerweile eine zentrale Rolle in der öffentlichen Diskussion. Aber die Kommentarbereiche von Social-Media-Plattformen und digitalen Nachrichtenagenturen sind voller Diskussionen, die in Argumente, Drohungen und Beschimpfungen münden, insbesondere wenn die Diskussionen kontroverse Themen berühren.
Jetzt haben Forscher der Brigham Young University (BYU) und der Duke University künstliche Intelligenz entwickelt, die Online-Chats moderieren, die Chat-Qualität verbessern und die Höflichkeit fördern kann.
Sie rekrutierten 1.574 Teilnehmer für ein Feldexperiment und baten sie, an Online-Diskussionen über Waffenkontrolle in den Vereinigten Staaten teilzunehmen, ein kontroverses Thema, das in politischen Debatten oft angesprochen wird. Jeder Teilnehmer wurde mit jemandem zusammengebracht, der sich gegen die Waffenpolitik aussprach.
Nach erfolgreicher Paarung wurden die Gesprächspartner zufällig der Behandlungs- oder Kontrollbedingung zugeordnet und begannen dann mit dem Gespräch. Bei der Verarbeitung von Gesprächen erhält ein Teilnehmer drei Umformulierungsvorschläge von GPT-3, bevor er eine Nachricht sendet. Teilnehmer können wählen, ob sie eine von drei von der KI vorgeschlagenen Alternativen, ihre eigene Originalnachricht oder eine beliebige Nachricht bearbeiten möchten.
Pro Gespräch wurden durchschnittlich 12 Nachrichten verschickt und die KI schlug insgesamt 2.742 umgeschriebene Nachrichten vor. Die Teilnehmer akzeptierten die von der KI vorgeschlagenen Wortänderungen in zwei Dritteln der Fälle. Chatpartner von Personen, die einen oder mehrere der Umformulierungsvorschläge der KI umgesetzt haben, berichteten von einer deutlich besseren Gesprächsqualität und einer größeren Bereitschaft, sich die Perspektiven ihrer politischen Gegner anzuhören.
„Wir fanden heraus, dass die Teilnehmer umso eher das Gefühl hatten, dass das Gespräch nicht spaltend war und dass sie sich gehört und verstanden fühlten, je häufiger Umformulierungen verwendet wurden“, sagte David Wingate, einer der Co-Autoren der Studie.
Die Forscher sagen, dass ihre Ergebnisse darauf hindeuten, dass diese skalierbare Lösung die giftige Online-Kultur bekämpfen könnte, die das Internet durchdringt. Sie sagen, dass dies einfacher umzusetzen sei als professionelle Schulungen zum Thema Cyber-Höflichkeit, deren Umfang und Verfügbarkeit begrenzt sind, da KI-Interventionen in großem Umfang über eine Vielzahl digitaler Kanäle implementiert werden können.
Die Forscher sagen, die Studie zeige schlüssig, dass künstliche Intelligenz bei richtiger Anwendung eine wichtige Rolle bei der Schaffung einer positiveren Online-Umgebung und der Förderung mitfühlender und respektvoller Diskussionen spielen könne.
„Ich hoffe, dass wir weiterhin mehr BYD-Studenten in die Lage versetzen, prosoziale Anwendungen wie diese zu entwickeln, und dass BYD führend bei der Demonstration ethischer Wege für den Einsatz maschinellen Lernens werden kann“, sagte Wingate. „In einer Welt, die von Informationen dominiert wird, brauchen wir Studenten, die die Informationen der Welt auf positive und sozial vorteilhafte Weise verarbeiten können.“
Die Forschung wurde in den Proceedings of the National Academy of Sciences (PNAS) veröffentlicht.