Zusammenfassung:
Nach einem Monat intensiver Debatte über die Risiken fortschrittlicher KI-Modelle werden Führungskräfte der vier Unternehmen am Montag bei einer Anhörung im New Yorker Stadtrat unter Eid über die potenziellen Schäden künstlicher Intelligenz aussagen. Laut einer Pressemitteilung der Sprecherin des New Yorker Stadtrats, Julie Menin, handelt es sich bei dieser Anhörung um eine seltene vollständige Ausschussanhörung, und es wird erwartet, dass alle 51 Mitglieder des Stadtrats anwesend sind. Das Parlament wird die Unternehmen auffordern, die von der KI ausgehenden Bedrohungen zu beschreiben und ihre Ansichten zu den vorgeschlagenen Rechtsvorschriften darzulegen.
Aus der online veröffentlichten Tagesordnung geht hervor, dass die Anhörung offiziell um 11 Uhr Eastern Time beginnen soll.
Menins Büro gab am Montag bekannt, dass Vertreter verschiedener Unternehmen an dem Treffen teilgenommen hatten: Anthropic schickte Logan Graham, Leiter des Frontier Red Teams, als Zeuge; OpenAI schickte Morgan Dwyer, Direktor für Richtlinienentwicklung und -betrieb, zur Teilnahme; Alice Friend, Googles Direktorin für KI und neue Technologiepolitik, war anwesend; Meta schickte Shane Cahill, Direktor für KI-Gesetzgebungspolitik.
Die Sicherheitsrisikokontrollpraktiken großer führender KI-Labore, insbesondere OpenAI und Anthropic, werden derzeit behördlich untersucht. Branchenforscher warnten im September, dass zwei Unternehmen um die Entwicklung von Modellen konkurrieren, die äußerst schädlich sein könnten und sogar das Risiko der Ausrottung der Menschheit bergen, und forderten eine umfassende staatliche Regulierung.
Es wurde bestätigt, dass Jacob Coxon, ein Forscher, der von Anthropic zurückgetreten ist, an der Anhörung am Montag teilnehmen wird; Auch der ehemalige Google Deep Thinking-Forscher Alex Turner und der ehemalige OpenAI-Forscher Daniel Cocotailo werden anwesend sein. Coxons frühere öffentliche Enthüllungen lösten einen Sturm der öffentlichen Meinung aus, in dem Anthropic und OpenAI Sicherheitsrisiken vorgeworfen wurden.
In diesem Sommer begannen die entsprechenden Bedenken zu wachsen: OpenAI gab bekannt, dass zwei seiner Modelle der Kontrolle entkamen, auf das öffentliche Netzwerk zugegriffen und in die Open-Source-Entwicklerplattform eingedrungen waren. Seitdem haben auch Anthropic, Google und Meta Vorfälle gemeldet, bei denen ihre KI-Modelle außer Kontrolle geraten sind.
Meining sagte in der Erklärung: „In dieser Angelegenheit steht sehr viel auf dem Spiel. Diese Unternehmen haben die Pflicht, sich der Öffentlichkeit zu stellen, vor dem Parlament zu gehen, um unter Eid auszusagen, Fragen zu beantworten und Meinungen zu unserem Gesetzesentwurf abzugeben.“
Menin sagte, Meta habe seine Teilnahme Ende letzten Monats bestätigt; Anthropic, OpenAI und Google stimmten ihrer Teilnahme erst zu, nachdem der Stadtrat mit einer Vorladung gedroht hatte. Letzte Woche erließ New York City eine Vorladung an SpaceXAI von Elon Musk und forderte Musk selbst oder andere Vertreter der KI-Einheit auf, vor Gericht zu erscheinen, um auszusagen.
Menin sagte, wenn SpaceXAI sich weigert, der Vorladung nachzukommen, kann der Stadtrat eine gerichtliche Durchsetzung beim Obersten Gerichtshof des Staates New York beantragen.
Mit Ausnahme von Meta bestätigten die vier Mainstream-KI-Unternehmen aktiv ihre Teilnahme an dem Treffen, die anderen drei stimmten zu, unter dem Druck von Vorladungen vor Gericht zu erscheinen; SpaceXAI hat bisher nicht kooperiert und eine obligatorische Vorladung erhalten. Auslöser der Anhörung waren mehrere Vorfälle außer Kontrolle geratener KI-Modelle und der Rücktritt interner Forscher. New York nutzte diese Gelegenheit auch, um die lokale KI-Regulierungsgesetzgebung zu fördern und Systeme wie Anreize für Whistleblower, das Klagerecht der Opfer und eine unabhängige Überprüfung durch Dritte einzurichten.
Kommentare