Zusammenfassung:
Der Chefwissenschaftler von OpenAI, Jakub Pachocki, schlägt vor, dass sich Unternehmen für künstliche Intelligenz darauf einigen sollten, Grenzen für die Entwicklung immer leistungsfähigerer Modelle festzulegen, bis Forscher bessere Möglichkeiten haben, das Verhalten dieser Modelle zu verstehen und zu überwachen. Pachocki forderte branchenweite Standards, die Grenzen für die KI-Entwicklung setzen würden, und Unternehmen sollten sich darauf einigen, diese Grenzen nicht zu überschreiten, bis bestimmte Sicherheitsanforderungen erfüllt sind.

„Ich schlage außerdem vor, gemeinsame Grenzwerte auf der Grundlage von Ratlosigkeit und anderen Maßnahmen festzulegen, wobei sich Entwickler verpflichten, diese Grenzwerte nicht zu überschreiten, bis unsere Fähigkeit, das KI-Verhalten zu verstehen und zu überwachen, einen bestimmten Meilenstein erreicht“, schrieb Pachocki. Pachockis vorgeschlagene Grenzwerte könnten teilweise auf einer technischen Metrik namens Perplexität basieren, die die Fähigkeit eines KI-Modells misst, den nächsten Textabschnitt vorherzusagen. Pachocki sagte nicht, wie hoch die anfänglichen Grenzwerte sein sollten und wann sie umgesetzt würden.
Pachocki warnte, dass die KI bereits im Jahr 2027 ihre eigene Entwicklung schneller beschleunigen könnte, als Forscher ihre Fähigkeit verbessern könnten, die Technologie zu überwachen und zu verstehen.
Altman, CEO von OpenAI, drückte seine Unterstützung für den Vorschlag aus und bezeichnete Pachockis Artikel als „den wichtigsten Inhalt, den OpenAI seit einiger Zeit veröffentlicht hat“. In einem Beitrag auf X sagte er, die Einigung auf gemeinsame Grenzwerte würde dazu beitragen, „Sicherheit und Kontrolle“ zu gewährleisten.
Kommentare