Margaret Atwood, eine kanadische Schriftstellerin und Autorin von „The Handmaid's Tale“ und „The Blind Assassin“, sprach kürzlich beim Babell Literary and Cultural Festival in Porto, Portugal, über generative künstliche Intelligenz (KI) und gab zu, dass sie mit dieser Technologie nicht zufrieden sei. In einem Interview vor Ort erinnerte sich Atwood an ihre einzige Erfahrung mit einem KI-Chatbot. Sie versuchte, Claude von Anthropic zu nutzen, um Informationen über das britische Detektivdrama „Father Brown“ abzufragen, stellte jedoch fest, dass die Gegenpartei falsche Schlussfolgerungen zog, was sie dazu veranlasste, die Zuverlässigkeit aktueller großer Sprachmodelle in Frage zu stellen.
Atwood sagte, Claude habe sich in seinen Antworten auf Fragen eindeutig „etwas ausgedacht“. Sie wies darauf hin, dass dies nicht daran liegt, dass das System „absichtlich lügt“, sondern daran, dass es sich lediglich um ein großes Sprachmodell handelt, das auf riesigen Textmengen trainiert wird und dem die tatsächlichen Verständnisfähigkeiten von Menschen fehlen. Ihrer Beschreibung zufolge schien Claude Informationen aus einer großen Anzahl von Fernsehrezensionen und Filmrezensionen zu „plündern und zusammenzufügen“, aber die Rezensionen verrieten in der Regel nicht direkt das Ende der Handlung, was dazu führte, dass das Model durch das Schulungskorpus zu den wichtigsten Handlungspunkten von „Father Brown“ „in die Irre geführt“ wurde.
Atwood kritisiert nicht nur die KI-Tools selbst, sondern äußert auch seine Unzufriedenheit mit denen, die von dieser Technologie abhängig werden. Sie nennt diese Nutzer „Opportunisten“ und glaubt, dass sie versuchen, mithilfe von KI „Abkürzungen“ zu machen und auf unbemerkte Weise zu „betrügen“, anstatt die nötige Zeit und Energie zu investieren, um Inhalte persönlich zu überprüfen oder zu erstellen. Ihrer Ansicht nach kann die Technologie selbst das menschliche Urteilsvermögen und die Verantwortung nicht ersetzen. Wenn die Produktion von Inhalten vollständig ungeprüften Maschinen überlassen wird, wird das Risiko letztendlich vom Menschen selbst getragen.
Atwood betonte, dass aktuelle große Sprachmodelle stark auf veröffentlichten Netzwerkmaterialien und gecrawlten Textdaten basieren. Diese Informationen können veraltet, voreingenommen oder sogar falsch sein. Sie erinnerte daher daran, dass sowohl normale Nutzer als auch Institutionen, die sie für kommerzielle Zwecke nutzen, maschinell generierte Ergebnisse nicht als „ultimative Autorität“ betrachten sollten, sondern eine manuelle Überprüfung und Faktenprüfung durchführen müssen. Sie wies darauf hin, dass viele Unternehmen KI in Geschäftsprozesse integrieren, aber selbst um die Effizienz zu verbessern, müssen sie die Realität akzeptieren, dass diese Systeme Fehler machen und die Qualität der Ausgabe weitgehend von der Vertrauenswürdigkeit und Integrität der Eingabedaten abhängt.
Wenn es um die grundlegenden Probleme generativer KI geht, fasst Atwood seinen Ansatz mit einem einfachen technischen Sprichwort zusammen: „Müll rein, Müll raus.“ Sie glaubt, dass, wenn die Trainingsdaten selbst fehlerhaft sind oder aus ungefilterten Internetinhalten bestehen, das Problem der Fehler und Verzerrungen nicht grundsätzlich gelöst werden kann, egal wie komplex die Modellstruktur und die riesige Parameterskala sind. Für sie geht es nicht nur um die Zuverlässigkeit der Technologie, sondern um eine umfassendere Reflexion über Kreativität, Originalität und die Rolle des menschlichen Schriftstellers.
Am Ende des Gesprächs erinnerte Atwood das Publikum noch einmal daran, dass Maschinen keine perfekten Performer wie Roboter sind, geschweige denn Menschen mit Moral und Erfahrung, sondern lediglich eine Reihe von Werkzeugen zum Lesen und Reorganisieren von Texten. Sie plädiert dafür, dass die Menschen in den Bereichen Schöpfung, Kritik und Wissensproduktion Wachsamkeit und Verantwortungsbewusstsein bewahren müssen, um zu verhindern, dass das Streben nach Wahrheit und Genauigkeit hinter der von der Technologie versprochenen „Bequemlichkeit“ geopfert wird.