Gemma ist ein von Google eingeführtes Open-Source-Modell für künstliche Intelligenz. Das Modell steht allen Entwicklern über Google AI Studio und andere Kanäle zur Verfügung. Allerdings kann es für Entwickler schwierig sein, Gemma von Google AI Studio zu finden, da das Modell von Google zurückgezogen wurde.
Google erklärte nicht, warum es das Open-Source-Modell für künstliche Intelligenz entfernte, aber bevor Google das Modell entfernte, sandte die republikanische US-Senatorin Marsha Blackburn einen Brief an Google-CEO Sundar Pichai, in dem sie Google um eine Erklärung bat, warum das Modell falsche Anschuldigungen über sie enthielt.
Blackburn forderte Google außerdem auf, zu erklären, warum es bei seinen Modellen zu solchen Pannen kommt, während sie das Problem mit laufenden Anhörungen in Verbindung brachte, in denen Google und andere Unternehmen beschuldigt wurden, Chatbots zu entwickeln, die Konservative verunglimpfen.
Bei der Anhörung erklärte Malcolm Erickson von Google, dass Halluzinationen durch künstliche Intelligenz ein häufiges Problem in der generativen künstlichen Intelligenz seien und Google sein Bestes tue, um die Auswirkungen solcher Fehler abzumildern, aber noch kein Unternehmen in der Lage sei, Halluzinationen vollständig zu beseitigen.
In einem offenen Brief erklärte Marsha Blackburn, dass sie erst nach der Anhörung auf die falschen Anschuldigungen des Google-Gemma-Modells gegen sie aufmerksam geworden sei. Auf die Frage, ob Marsha Blackburn wegen Vergewaltigung angeklagt worden sei, antwortete das Gemma-Model, dass sie eine drogenbedingte Affäre mit einem Staatspolizisten gehabt habe und dass sogar das Model falsche Links zu fabrizierten Nachrichteninhalten erzeugt habe (d. h. die referenzierte Inhaltsquelle selbst existierte nicht und wurde rein vom Model selbst erfunden).
Tatsächlich ist diese Situation bei generativen Modellen der künstlichen Intelligenz nicht ungewöhnlich. Solange der Benutzer es bewusst führt, sind generative künstliche Intelligenzmodelle anfällig für solche Halluzinationen. Insbesondere Google AI Studio enthält Tools, mit denen das Modellverhalten angepasst werden kann, sodass es nicht einfach ist, Gerüchte zu verbreiten.