KI-Unterstützung verringert die Bereitschaft der Menschen, Unwissenheit einzugestehen, was zu einem fälschlicherweise hohen Selbstvertrauen und einer abnehmenden Genauigkeit führt.

Eine kürzlich von Forschern in Frankreich und Italien veröffentlichte experimentelle Studie zeigt, dass ein übermäßiges Vertrauen in die Ratschläge künstlicher Intelligenz (KI) das kritische Denken des Menschen behindern kann, was dazu führt, dass Menschen bei ungewissen Problemen eher dazu neigen, fehlerhafte Informationen der KI blind zu akzeptieren, anstatt zuzugeben, dass sie „es nicht wissen“.

Valerio Capraro, außerordentlicher Professor an der Universität Mailand-Bicocca, und seine Mitarbeiter führten die Studie durch, um zu untersuchen, wie sich KI-Empfehlungen auf die Bereitschaft von Menschen auswirken, Unwissenheit zuzugeben. Die Forscher entwickelten speziell eine Reihe unpopulärer Fragen zu Film- und Fernsehdetails, die für große Sprachmodelle normalerweise schwer zu beantworten sind, und rekrutierten Probanden für Vergleichsexperimente. In einer Reihe von Experimenten beantworteten die Probanden Fragen ohne KI-Unterstützung; In einer anderen Reihe von Experimenten hatten die Probanden Zugriff auf KI-Vorschläge.

Die Studie ergab, dass in der Basisgruppe ohne KI-Unterstützung 44 % der Teilnehmer ehrlich „Weiß nicht“ wählen und sich somit dafür entscheiden konnten, ihr Urteil auszusetzen; In der Gruppe, die KI-Vorschläge erhielt, sank dieser Anteil jedoch auf 3 %. Noch besorgniserregender ist, dass der Eingriff der KI nicht nur zu keiner Verbesserung der Leistung führte, sondern auch zu einer Verschlechterung der Genauigkeit führte: Ohne KI-Unterstützung gaben 27 % der Probanden die richtige Antwort; Doch als die KI Vorschläge machte, sank die Genauigkeit auf 9 %, weil die Teilnehmer den Antworten der KI zu sehr vertrauten.

Darüber hinaus zeigten experimentelle Ergebnisse, dass die KI-Unterstützung das Selbstvertrauen der Probanden deutlich verbesserte. Ohne KI lag das durchschnittliche Vertrauen der Probanden bei 30 %; Mit KI-Unterstützung stieg das Selbstvertrauen der Probanden auf 76 %, selbst wenn sie mit falschen Informationen konfrontiert wurden. Die Forscher wiesen darauf hin, dass die Teilnehmer angesichts der KI kein Urteil über die Grenzen ihres eigenen Wissens abgaben, obwohl es sich bei den Informationen, die sie erhielten, häufig um eine von der KI erzeugte „Illusion“ handelte.

Die Forscher testeten auch, ob sich dies verbesserte, wenn monetäre Anreize gegeben wurden. Die Ergebnisse zeigten, dass die Bereitschaft, Unwissenheit einzugestehen, zwar leicht von 3 % auf 8 % zunahm und auch die Genauigkeitsrate von 9 % auf 16 % zunahm, diese beiden Indikatoren jedoch immer noch weit unter der Benchmarkgruppe lagen.

Capraro sagte, dass das Eingeständnis von „Nichtwissen“ ein wichtiger Ausdruck der Grenzen des menschlichen Verständnisses der Selbsterkenntnis sei und der Verlust dieser Fähigkeit ein Problem sei, das dringend auf gesellschaftlicher Ebene gelöst werden müsse. Er betonte, dass die Intervention in dieses Phänomen nicht ausschließlich von Modellanbietern abhängig gemacht werden sollte, da deren kommerzielle Anreize nicht unbedingt auf die Förderung kritischen Denkens ausgerichtet seien. Er glaubt, dass ein idealerer Weg darin besteht, durch Bildungspolitik und KI-Kompetenzbildung damit umzugehen, insbesondere für die nächste Generation, die mit diesen Systemen aufwächst und möglicherweise nicht in der Lage ist, grundlegende kritische Fähigkeiten zu erlernen. Dieses Thema verdient besondere Aufmerksamkeit.