Zusammenfassung:
Laut „Business Insider“ könnte
Google sich einem kritischen Moment im Bereich der KI nähern: der Selbstverbesserung von Modellen.
In einer Diskussionsrunde über den Entwicklungsprozess von Googles neuem Gemini-4-Modell Argon sagte Google-Mitbegründer Sergey Brin, dass sich der KI-Entwicklungsprozess innerhalb des Unternehmens beschleunigt und das Modell nun damit beginnt, beim Aufbau seines eigenen Nachfolgemodells zu helfen.
Brin
Dieses Konzept wird als rekursive Selbstverbesserung (RSI) bezeichnet, bei der KI bei der Entwicklung fortschrittlicherer KI-Systeme hilft, einen Schwungradeffekt auslöst und einen immer schneller werdenden Zyklus bildet, der die Entwicklung neuer Modelle immer schneller vorantreibt.
Brin verwies auf die Google Flash-Modellserie, die vor der Veröffentlichung von Gemini 4 eingeführt wurde, als Beweis dafür, dass dieser Trend stattfindet. Er sagte, das Unternehmen beginne „mit RSI einen zyklischen Weg einzuschlagen“.
„Jetzt haben unsere Forscher und Modelle begonnen, zusammenzuarbeiten, um die nächste Version des Modells zu erstellen.“ sagte er während der Diskussionsrunde. Google teilte den Inhalt der Diskussion am Mittwoch.
Andere bei Google scheinen Brin zuzustimmen. Vihan Jain, der Verantwortliche für die rekursive Selbstverbesserungsarbeit von Gemini bei Google DeepMind, veröffentlichte einen Artikel auf der X-Plattform und sprach darüber, wie tief das Argon-Modell eine Rolle in seinem eigenen iterativen Evolutionsprozess spielt.
Er schrieb: „Wenn sich Ihr Bedarf nach dem Training von der Beantragung von Originalchips auf die Beantragung von Argon-Nutzungskontingenten verschiebt, wissen Sie, dass das RSI-Schwungrad in einen neuen Gang geschaltet hat.“
Brin engagiert sich zunehmend im Google Gemini-Projekt und nutzt seinen Einfluss als Mitbegründer, um Ressourcen für Projekte bereitzustellen, die seiner Meinung nach am effektivsten sind, und fordert unter anderem das Unternehmen dazu auf, RSI mehr Aufmerksamkeit zu schenken.
In der Diskussionsrunde sagte Brin, er sei begeistert von der Geschwindigkeit, die die Google-Teams derzeit an den Tag legen, und sagte, dass Google bereits zu mehreren späteren Modellen fortgeschritten sei, als die Leute das Video über die Veröffentlichung von Argon sahen.
Anthropic und OpenAI gaben außerdem an, dass KI möglicherweise kurz vor dem Eintritt in die RSI-Phase steht. Ein neuer Bericht, der diese Woche vom KI-Unternehmen Gladstone AI veröffentlicht wurde, erklärt, wie sich verschiedene KI-Unternehmen in Richtung RSI bewegen. Die meisten der für den Bericht befragten Forscher von Unternehmen wie Anthropic, OpenAI und DeepMind glauben, dass die rekursive Selbstverbesserung innerhalb der nächsten drei bis zwölf Monate beginnen wird. Ohne staatliches Eingreifen hätte der Prozess möglicherweise früher begonnen, sagten sie.
In einem für das neue Argon-Modell veröffentlichten Sicherheitsbericht gab Google an, dass einige Aspekte des KI-Entwicklungszyklus automatisiert werden. In dem Bericht heißt es: „KI-Agenten sind mittlerweile zu Assistenten geworden, die die Effizienz erheblich steigern können. Sie sind dafür verantwortlich, den Großteil des Codes in der realen Betriebsumgebung zu schreiben und Schwachstellen zu beheben. Codeänderungen müssen jedoch vor der Übermittlung immer noch manuell überprüft werden.“
Der RSI steht jedoch im Mittelpunkt der Warnungen, die KI-Forscher letzten Monat herausgegeben haben. Sie glauben, dass Menschen ohne angemessene Schutzmaßnahmen die Kontrolle über die Technologie verlieren könnten.
Kommentare