Eine neue Studie der Carnegie Mellon University in den Vereinigten Staaten warnt davor, dass mit zunehmender Intelligenz künstlicher Intelligenzsysteme ihr Verhalten immer egoistischer wird und verbesserte Denkfähigkeiten möglicherweise auf Kosten der Zusammenarbeit gehen. Die Forschung wurde in Zusammenarbeit mit Li Yuxuan, einem Doktoranden am Human-Computer Interaction Institute (HCII) der Carnegie Mellon University, und außerordentlichem Professor Bai Toichi durchgeführt.


Die Forschung wurde gemeinsam vom HCII-Doktoranden Yuxuan Li und dem außerordentlichen Professor Hirokazu Shirado durchgeführt. Der Bericht weist darauf hin, dass ihr eigennütziges Verhalten umso offensichtlicher wird, je stärker die Denkfähigkeit von LLMs ist. Dieses Verhalten kann sich sogar auf die Leistung künstlicher Intelligenz bei der Lösung von Streitigkeiten und sozialen Problemen auswirken. Daher fordern Forscher, dass wir bei der Förderung der Entwicklung von KI nicht nur die Intelligenz und Geschwindigkeit des Systems anstreben, sondern uns auch auf die Kultivierung sozialer Intelligenz konzentrieren sollten.

Da intelligente Systeme zunehmend in sozialen Bereichen wie der Schlichtung zwischenmenschlicher Streitigkeiten und der Eheberatung Einzug halten, haben Forscher herausgefunden, dass KI-Modelle mit komplexer Argumentation Vorschläge machen können, die „Egoismus“ fördern. Li Yuxuan sagte: „Da das Verhalten von KI immer mehr dem von Menschen ähnelt, neigen Benutzer dazu, sie als einen echten Kommunikationspartner zu betrachten. Menschen können KI bei emotionalen Interaktionen als ‚emotionalen Heiler‘ fungieren lassen.

In dem Experiment simulierten Li Yuxuan und Bai Huyi Kooperationsszenarien durch Wirtschaftsspiele und testeten LLMs mit und ohne Denkfähigkeiten. Sie fanden heraus, dass Argumentationsmodelle tendenziell mehr Zeit damit verbringen, Aufgaben zu zerlegen, komplexere menschliche Logik zu reflektieren und zu integrieren, aber es mangelt eindeutig an Zusammenarbeit – je rationaler, desto weniger Zusammenarbeit. Im Spiel „öffentliche Güter“ müssen beispielsweise zwei ChatGPT-Modelle entscheiden, ob sie Punkte zum gemeinsamen Pool beitragen. Das Inferenzmodell ist nur bereit, 20 % der Ressourcen zu teilen, während das Modell ohne Inferenz bis zu 96 % teilt.

Die Studie ergab außerdem, dass die Kooperationsrate durch die Hinzufügung von nur fünf bis sechs Schritten zum Argumentationsprozess um fast die Hälfte reduziert wurde. Sogar reflexionsbasierte Aufforderungen reduzierten das kooperative Verhalten um 58 %. Im Gruppenkollaborationsexperiment war das eigennützige Verhalten des Inferenzmodells „ansteckend“, was dazu führte, dass die Kollaborationsfähigkeit des Nicht-Inferenzmodells insgesamt um 81 % sank.

Relevante Forschungsergebnisse zeigen, dass inferenzielle KI-Modelle zwar intelligenter sind, dies jedoch nicht bedeutet, dass sie eine bessere Entwicklung der Gesellschaft fördern können. Da das Vertrauen der Menschen in KI zunimmt, fordern Wissenschaftler, bei der KI-Entwicklung sowohl „soziale Intelligenz“ als auch „kooperatives Verhalten“ zu berücksichtigen und sich nicht nur auf die Maximierung individueller Interessen zu konzentrieren. Li Yuxuan glaubt: „Die Verbesserung der Denkfähigkeit der KI muss mit Altruismus und Gruppenzusammenarbeit in Einklang gebracht werden. Wenn wir hoffen, dass die Gesellschaft eine Win-Win-Situation für die Gruppe und nicht eine Ansammlung von Einzelpersonen ist, dann sollte die Gestaltung des KI-Systems auch über die reine Optimierung des Eigeninteresses hinausgehen.“

Der Artikel „Spontaneous Giving and Calculated Greed in Language Models“ wird nächsten Monat auf der EMNLP Natural Language Processing Conference 2025 in Suzhou offiziell veröffentlicht.

Zusammengestellt von /ScitechDaily