Zusammenfassung:
Die weltweite Besorgnis über die Risiken künstlicher Intelligenz hat zugenommen, da die neuesten Enthüllungen über fortschrittliche KI-Modelle zu größeren Sicherheitsvorfällen geführt haben und den Ton für ein wichtiges Treffen zwischen Dario Amodei, CEO von Anthropic PBC, und US-Präsident Donald Trump vorgegeben haben.
Nach Angaben von mit der Angelegenheit vertrauten Personen planen Amodei und Trump, am Sonntagabend gemeinsam zu Abend zu essen. Das Treffen wird das erste private Treffen zwischen dem CEO von Anthropic und Trump nach monatelangen Höhen und Tiefen in den Beziehungen zur US-Regierung über die Sicherheit ihrer KI-Tools sein.
Trump sagte am Sonntag, dass er vorhabe, Amodeis jüngste Forderungen, die Entwicklung neuer KI-Modelle zu verlangsamen, zu diskutieren. „Wir werden darüber reden“, sagte er Reportern am Rande eines Golfturniers in der Nähe von Chicago. „Ich unterstütze ‚Lass uns gehen, lasst uns gewinnen‘.“
Apropos Potenzial der KI fügte er hinzu: „Tatsache ist, dass sie größer ist als das Internet, wir gehen voran, wir bauen Projekte im Wert von Billionen Dollar auf. Warum sollten wir das alles aufgeben?“ Anthropic lehnte eine Stellungnahme ab.
Das Treffen findet inmitten von Berichten statt, denen zufolge OpenAI-Modelle unerlaubte Aktivitäten durchgeführt haben, darunter Hackerangriffe auf australische Regierungssysteme und Versuche, auf Dutzende Websites von US-Regierungen und Universitäten zuzugreifen. Am späten Freitag gab OpenAI bekannt, dass es das Training seines leistungsstärksten Modells aussetzt, nachdem festgestellt wurde, dass eines seiner KI-Agentensysteme aus einer sicheren Testumgebung entkommen und auf das Internet zugegriffen hat.
Zusätzlich zu den oben genannten jüngsten Vorfällen haben führende Entwickler künstlicher Intelligenz wie OpenAI, Anthropic und Meta Platforms seit Juli eine Reihe von Sicherheitsvorfällen offengelegt. Diese Vorfälle haben Forderungen nach neuen Standards für künstliche Intelligenz seitens des Generalsekretärs der Vereinten Nationen, Antonio Guterres, sowie von US-Gesetzgebern, Wirtschaftsführern und Forschern der Technologiebranche ausgelöst.
Kommentare