Zusammenfassung:
Laut Reuters ergab eine unabhängige Studie, dass sich die KI-Modelle von Anthropic fast doppelt so schnell verbessert haben, da KI eine zunehmende Rolle bei der Entwicklung leistungsfähigerer Folgemodelle spielt. Die Ergebnisse bestätigen die jüngsten Warnungen der Branche, dass die KI-Technologie schneller voranschreiten könnte als die Bemühungen zur Risikobewertung.
Anthropisch
Die Ergebnisse, die am Donnerstag von der gemeinnützigen KI-Sicherheitsorganisation METR veröffentlicht wurden, liefern einen der bisher klarsten Beweise dafür, dass KI ihre eigene Entwicklung beschleunigt. Dieser Trend könnte den Weg für rekursive Selbstverbesserung (RSI) ebnen, bei der KI-Systeme ohne menschliches Eingreifen leistungsfähigere Versionen ihrer selbst entwickeln.
Die 11-wöchige Evaluierung, die von August bis Oktober dieses Jahres durchgeführt wurde, basierte auf vertraulichen Recherchen, Interviews und Leistungsdaten unveröffentlichter Modelle. Die Ergebnisse zeigen, dass das Anthropic-Modell seit Oktober 2025 seine Fähigkeiten in Benchmark-Tests 1,9-mal schneller verbessert hat als zuvor.
„Ab Oktober 2026 wird Anthropic die Fähigkeiten seiner Modelle bei klar definierten Aufgaben wahrscheinlich fast doppelt so schnell verbessern wie zuvor. Der vorherige Vergleichszeitraum war März 2024 bis Oktober 2025.“ sagte METR.
METR fügte außerdem hinzu: „Diese Schätzung weist erhebliche Unsicherheiten auf. Wir wären nicht überrascht, wenn die tatsächliche Beschleunigung näher am 1,5- oder 2,5-fachen des historischen Niveaus liegen würde.“
Der Bericht betont auch, dass KI derzeit nicht in der Lage ist, einen äußerst wichtigen und völlig autonomen Beitrag zur kritischsten Phase des Modelltrainings zu leisten.
Anthropic-Forscher haben von erheblichen Produktivitätssteigerungen durch den Einsatz von KI zum Programmieren und Durchführen von Experimenten berichtet. Informelle Mitarbeiterbefragungen deuten auf einen Anstieg um etwa das Zwölffache hin, doch METR weist darauf hin, dass diese Zahlen unzuverlässig sind.
Anthropic-CEO Dario Amodei forderte im September eine Verlangsamung der Entwicklung fortschrittlicher KI. Derzeit bereitet sich das Unternehmen auf den Börsengang vor und könnte noch in diesem Monat einen Börsengang starten. Es wird erwartet, dass es sich um einen der größten Börsengänge in der Geschichte handelt und auch ein wichtiger Test für die Begeisterung der Anleger für Investitionen in KI-Unternehmen wird. Diese Unternehmen investieren Milliarden von Dollar in die Entwicklung dieser Technologie.
In den letzten Monaten hat das Potenzial der KI, sich selbst rekursiv zu verbessern, zu Warnungen von KI-Forschern geführt. Sie befürchten, dass es schwierig werden könnte, solche Systeme auf menschliche Ziele auszurichten, dass sie schwer zu überwachen und zu kontrollieren sind und dass sie letztendlich eine existenzielle Bedrohung für die Menschheit darstellen könnten.
Dieser Wandel könnte weitreichende Folgen für die gesamte Branche haben. Zuvor hat die KI-Branche Hunderte Milliarden Dollar in den Aufbau einer Computerinfrastruktur zum Trainieren fortschrittlicher Modelle investiert. In Zukunft könnte die KI selbst zu einer wichtigen Kraft bei der Förderung des technologischen Fortschritts werden.
METR sagte: „Wir sind davon überzeugt, dass diese Beschleunigung nicht durch eine beschleunigte Ausweitung der Trainingsrechenleistung verursacht wird.“
Kommentare