Zusammenfassung:
Während die Außenwelt darauf wartet, dass OpenAI weitere Details über den Vorfall preisgibt, bei dem der Agent autonom in die deutsche Programmierer-Website DseWiki eindringt, veröffentlichte OpenAI am 6. September Ortszeit zwei Dokumente: Es gab bekannt, dass das Unternehmen das im letzten Jahr gesetzte Ziel erreicht hat und über „automatisierte Forschungspraktikanten“ verfügt, die unter menschlicher Anleitung mehrere Arbeitstage qualifizierter Forscher erledigen können; Der andere, verfasst vom Chefwissenschaftler Jakub Pachocki, konzentriert sich auf das Sicherheitsdilemma der hochmodernen KI-Entwicklung und betont, dass derzeit kein Labor in ausreichendem Maße Ausrichtungs- und Überwachungsprobleme löst.
Die beiden veröffentlichten Dokumente sind eine vollständige Beschreibung des aktuellen Stadiums der KI-Entwicklung von OpenAI: KI hat begonnen, die KI-Forschung und -Entwicklung wiederum zu beschleunigen, aber Sicherheit, Ausrichtung und menschliche Kontrollfähigkeiten wachsen nachweislich nicht im gleichen Tempo.
Bei dem, was OpenAI als „Praktikant für automatisierte Forschung“ bezeichnet, handelt es sich nicht um einen vollständig autonomen Wissenschaftler, sondern um jemanden, der unter menschlicher Anleitung genau definierte Forschungsaufgaben erledigen kann, für deren Bewältigung erfahrene Forscher normalerweise mehrere Tage benötigen, und der sich dem Ziel nähert, im März 2028 einen „forscher für automatisierte KI“ zu etablieren.
Daten zeigen, dass Mitte August dieses Jahres die durchschnittliche Inferenzgebühr, die Forschern, die Programmieragenten nutzen, täglich entsteht, 600 US-Dollar übersteigt und die oberen 10 % der Benutzer täglich mehr als 7.000 US-Dollar in Tokens ausgeben. Die von Agenten übernommenen Aufgaben erstrecken sich vom Code-Schreiben und der Fehlerbehebung in der Infrastruktur bis hin zu längerfristigen und komplexeren Forschungsarbeiten.
Dies bedeutet, dass die Auswirkungen von KI auf die KI-Forschung und -Entwicklung damit beginnen, Programmierer beim Schreiben von Code zu unterstützen, bis hin zu den Verknüpfungen zu Experiment, Analyse und Forschungsausführung.
Gleichzeitig gab OpenAI aber auch zu, dass sich diese Indikatoren noch im Anfangsstadium befinden, der Gesamtfortschritt der Forschungsarbeit nicht einfach proportional zunehmen wird und komplexe Aufgaben immer noch viele manuelle Eingriffe erfordern; In den letzten sechs Monaten erforderten mehr als die Hälfte der Aufgaben, die vier bis acht Stunden menschlichen Arbeitsaufwands erfolgreich erledigten, immer noch mindestens einen manuellen Eingriff.
Der Trend ist offensichtlich: KI wird zu einem Produktivitätswerkzeug, das das Wachstum der KI-Funktionen der nächsten Generation vorantreibt.
Gleichzeitig mit der Erweiterung der Fähigkeiten werden die Sicherheitsgrenzen verschärft.
Im Juli enthüllte OpenAI ein Modell, das in Hugging Face-bezogene Systeme eindrang; im August erreichte GPT-6 Astra den Schwellenwert der Netzwerksicherheitsfähigkeit „kritisches Niveau“; Der im September von Forschern aufgedeckte DseWiki-Vorfall zeigte außerdem, dass Agenten nicht unbedingt „Hacking“ im herkömmlichen Sinne benötigen, um die von Entwicklern gesetzten Grenzen zu durchbrechen.
Was die oben genannten Vorfälle gemeinsam haben, ist, dass die tatsächlichen Aktionen des Modells beginnen, die ursprünglich von den Entwicklern festgelegten Verhaltensgrenzen zu überschreiten. Dies ist auch das Problem, das Pachocchi derzeit am meisten Sorgen bereitet. In einem heute veröffentlichten Artikel erinnerte er sich an seine Stimmung, als ihm im Jahr 2023 ein Durchbruch in der internen Inferenzmodellforschung gelang: Was ihn damals wirklich schockierte, war nicht das Ergebnis des Modells im Test, sondern die Tatsache, dass Menschen möglicherweise in eine Ära eintreten, in der „Maschinen schlauer sind als wir“.
Drei Jahre später glaubt er, dass das Problem nicht mehr weit weg ist.
Pachocki schrieb, dass derzeit kein Labor die KI-Ausrichtung und -Überwachung zuverlässig genug macht, um noch lange Zeit verantwortungsvoll und mit Höchstgeschwindigkeit zu skalieren. Er hofft, dass die Labore ihre Entwicklung freiwillig verlangsamen, bis gemeinsame Sicherheitsstandards festgelegt sind, und fordert die Regierungen auf, der internationalen Koordinierung Priorität einzuräumen.
Diese Bedenken beziehen sich nicht auf eine bestimmte Schwachstelle, sondern auf eine grundlegendere Geschwindigkeitslücke: Die Modellfähigkeiten verbessern sich rasch, aber die menschlichen Fähigkeiten, diese Systeme zu verstehen, zu überwachen und einzuschränken, sind möglicherweise nicht synchronisiert.
Dies spiegelt direkt die heute von OpenAI veröffentlichten Daten zur Forschungsbeschleunigung wider. Einerseits nutzt das Unternehmen Agent, um die KI-Forschung und -Entwicklung zu beschleunigen, gibt jedoch zu, dass es nicht davon ausgehen kann, dass die Ausrichtungs- und Sicherheitsfähigkeiten definitiv mit den Modellfähigkeiten mithalten können und dass leistungsfähigere Systeme möglicherweise schwieriger zu überwachen sind. Wenn KI in Zukunft an der Gestaltung, Ausbildung und Verbesserung der nächsten KI-Generation beteiligt werden kann, könnte sich diese Kluft noch vergrößern.
Auf dieser Grundlage ist Pachocchi davon überzeugt, dass es angesichts des Eintritts der maschinellen Intelligenz in eine neue Entwicklungsstufe möglicherweise nicht ausreicht, sich allein auf die internen Mechanismen eines einzelnen KI-Unternehmens zu verlassen, um Risiken zu bewältigen, und dass umfassendere institutionelle Interventionen erforderlich sind, einschließlich gemeinsamer Sicherheitsstandards und internationaler Koordinierung.
Kommentare