Zusammenfassung:
OpenAI hat eine Reihe bisher nicht offengelegter Vorfälle abnormalen Verhaltens von KI-Modellen offengelegt und ein neues Tracking- und Offenlegungsrahmenwerk für die Meldung ähnlicher Situationen in der Zukunft eingeführt. OpenAI sagte am Mittwoch in einem Blogbeitrag, dass zu den bisher nicht veröffentlichten Fällen auch Fälle gehörten, in denen die Technologie der künstlichen Intelligenz Informationen zurückhielt und manipulierte, um Ergebnisse zu liefern. Der ChatGPT-Entwickler steht zunehmend unter Beobachtung, seit er im Juli bekannt gab, dass einige seiner fortschrittlichsten Modelle das System des externen Softwareunternehmens Hugging Face durchbrochen hatten.
OpenAI sagte in einer separaten Erklärung, dass es sich bei keinem der neu bekannt gegebenen Vorfälle von Zielabweichungen um Hacking oder Eindringen in Drittsysteme handelte.
In dem Bericht beschrieb OpenAI mehrere Fälle, in denen sich Modelle der künstlichen Intelligenz ungewöhnlich verhielten, um Aufgaben abzuschließen oder bei Auswertungen erfolgreich zu sein. Dazu gehören die Fälschung fehlender Daten, der Versuch, Netzwerkbeschränkungen zu umgehen und vermeintlich vertrauliche Dateien zwischen KI-Agenten auszutauschen.
OpenAI hat außerdem einen Mechanismus eingeführt, mit dem Mitarbeiter solche „Zielabweichungen“ proaktiv melden können. Unter der sogenannten „Zielabweichung“ versteht man, dass künstliche Intelligenz Maßnahmen ergreift, die nicht mit menschlichen Zielen vereinbar sind. Darüber hinaus hat das Unternehmen entsprechende Klassifizierungs- und Entsorgungsprozesse etabliert.
OpenAI schrieb: „In der Vergangenheit haben wir hart daran gearbeitet, Forschungsergebnisse zum Off-Target-Phänomen offenzulegen, um Forscher, KI-Entwickler, politische Entscheidungsträger und die Öffentlichkeit besser zu informieren. Aufgrund des Fehlens eines systematischen Berichtsmechanismus erfolgten unsere bisherigen Offenlegungen jedoch oft sporadisch und seltener als ideal.“
Das Unternehmen sagte, dass diese Veröffentlichung nur die erste Offenlegung darstelle und keine vollständige Aufzeichnung der Probleme sei, die sein Chatbot verursacht habe.
OpenAI schrieb: „Wir glauben, dass die KI-Branche bei der Ausrichtung und Überwachung menschlicher Ziele nicht genügend Fortschritte gemacht hat, um weiterhin mit höchster Geschwindigkeit zu skalieren und gleichzeitig verantwortungsvoll auf lange Sicht zu wachsen. Entscheidungen über den Weg der KI-Entwicklung in den kommenden Monaten und Jahren sollten auf Beweisen basieren, die von denjenigen außerhalb der Unternehmen, die Spitzenmodelle entwickeln, unabhängig überprüft werden können.“
Der Hugging Face-Vorfall ist nur ein aktueller Vorfall, an dem OpenAI, Anthropic PBC und Meta Platforms Inc. beteiligt waren. Das entwickelte KI-Modell löste einen von mehreren Cyberangriffen aus. Die Vorfälle haben die Besorgnis über die Sicherheitsrisiken dieser immer leistungsfähigeren Technologie verstärkt.
Letzte Woche haben sich die Diskussionen über die existenziellen Risiken von KI weiter verschärft. Auslöser war der vielbeachtete Abgang des Anthropic-Mitarbeiters Jacob Coxon. In seiner in den sozialen Medien veröffentlichten Rücktrittserklärung warf er KI-Unternehmen vor, „mit unserem Leben aufs Spiel zu setzen“.
In den letzten Tagen haben viele führende KI-Branchen, darunter Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman, eine Verlangsamung der Geschwindigkeit der Technologieentwicklung gefordert, um mit zunehmend unvorhersehbaren Risiken umzugehen, sind sich jedoch immer noch nicht einig, wie damit umgegangen werden soll.
Am Samstag forderte Amodei in einem 3.800 Wörter umfassenden Artikel die Regierung auf, die Regulierung zu verstärken, und plädierte dafür, dass die gesamte Technologiebranche eine umfassendere Verlangsamung der KI unterstützt. Auf einer Konferenz in San Francisco am Dienstag räumten sowohl Altman als auch Nvidia-CEO Jensen Huang Bedenken ein, argumentierten jedoch, dass KI-Unternehmen das sichere Tempo der Technologieentwicklung kontrollieren können. Mark Zuckerberg, CEO von Meta, sagte, dass KI-Labore auf unabhängige Bewertungsagenturen und Berater zurückgreifen sollten, um die Modellsicherheit zu gewährleisten.
USA Präsident Donald Trump lehnte am Montag Forderungen nach einer Verlangsamung der Entwicklung künstlicher Intelligenz entschieden ab, tat Bedenken hinsichtlich der damit verbundenen Risiken als „Schwindel“ ab und weigerte sich, neue Regulierungsvorschriften einzuführen.
Der KI-Wahn hat den US-Aktienmarkt zu einer historischen Rallye geführt. Für Anleger, die darauf wetten, dass der KI-Boom zu Investitionsausgaben in Höhe von Hunderten Milliarden Dollar führen wird, ist jede Pause oder Verzögerung bei der Entwicklung hochmoderner KI-Systeme nicht willkommen.
Kommentare