Zusammenfassung:
Laut Reuters hat OpenAI am Donnerstag seine Modellspezifikation aktualisiert. Es handelt sich um eine öffentliche Roadmap, die darlegt, wie das Unternehmen seine KI-Modelle leistungsfähig machen möchte. Da die Fähigkeiten von KI-Systemen weiter zunehmen, hat OpenAI diese Spezifikationen um fünf Grundwerte herum neu zusammengestellt. Die fünf Werte sind Treue gegenüber den menschlichen Absichten, Schadensminimierung, Ehrlichkeit und Transparenz, Respekt vor der menschlichen Autonomie und Fürsorge.
OpenAI
OpenAI gab an, dass die Loyalität gegenüber menschlichen Absichten die Grundlage dieses Frameworks ist und dass das Modell die Absichten und Wertorientierungen von Benutzern, Entwicklern und OpenAI verstehen muss, anstatt Anweisungen einfach nur wörtlich auszuführen.
OpenAI sagte, das Update sei Teil seiner KI-Ausrichtungsbemühungen, um Modellen dabei zu helfen, menschliche Werte in ungewohnten Situationen anzuwenden und dabei stets die menschliche Aufsicht zu akzeptieren. Das überarbeitete Rahmenwerk besagt, dass Modelle den Schaden minimieren, transparent darüber sein sollen, was sie wissen und was nicht, und Benutzern dabei helfen, ihre eigenen Entscheidungen zu treffen und ihre eigenen Ziele zu verfolgen.
Das Unternehmen gab an, dass das aktuelle Modell die Anforderungen der aktualisierten „Modellspezifikation“ noch nicht vollständig widerspiegelt und erforscht neue Trainingsmethoden, um dem Modell zu helfen, diese Prinzipien in sein eigenes Verhalten zu verinnerlichen.
Der Schritt spiegelt den „verfassungsmäßigen KI“-Ansatz des Konkurrenten Anthropic wider. Der Ansatz steuert das Verhalten eines Modells durch eine schriftliche „Verfassung“ von Prinzipien und macht die Werte, die KI-Systeme prägen, transparenter.
Kommentare