Zusammenfassung:
Laut Bloomberg sagte Mark Zuckerberg, CEO von Meta, am Dienstag, dass KI-Labore auf unabhängige Gutachter und Berater angewiesen sein sollten, um die Sicherheit von Modellen zu gewährleisten. Zuckerberg schloss sich am Dienstag einer wachsenden Zahl von Technologiemanagern an, die sich an einer globalen Debatte darüber beteiligten, wie man am besten verhindern kann, dass KI-Systeme der Menschheit schaden.
Zuckerberg
„Der Einsatz unabhängiger Gutachter und Berater gehört zu den Best Practices der Branche.“ schrieb Zuckerberg in einem Beitrag auf der X-Plattform. Er wies darauf hin, dass es im Allgemeinen hilfreich sei, über ein größeres und vielfältigeres Ökosystem von Gutachtern zu verfügen.
Zuckerberg sagte, dass derzeit viel darüber diskutiert wird, ob die Entwicklung von KI-Fähigkeiten verlangsamt werden sollte und ob die Ausrichtungstechnologie aufholen sollte. Sein Punkt ist, dass Vertrauen und Ausrichtung schnell zu den wichtigsten Fähigkeiten werden, die Agenten und Modelle unterscheiden. Jedes Labor, das die Ausrichtung nicht ernst nimmt, wird ins Hintertreffen geraten. Unter Ausrichtung versteht man die Ausrichtung der Art und Weise, wie KI Dinge tut, an menschlichen Interessen.
Zuckerbergs Beitrag
Derzeit haben einige Führungskräfte von Unternehmen ihre Unterstützung für eine Verlangsamung der Entwicklung von KI zum Ausdruck gebracht und plädieren für eine Zusammenarbeit, um einen Konsens zu erzielen. Zuckerberg schrieb, dass Meta beschlossen habe, die Entwicklung des Muse-KI-Tools eigenständig zu verlangsamen, ohne zuvor seine Kollegen zu bitten, ihre Fortschritte zu überprüfen.
„Meta hat die Veröffentlichung von Muse um mehrere Monate verzögert, um sich auf Sicherheit und Schutz zu konzentrieren“, schrieb er. „Wir haben nicht alle anderen gebeten, es zuerst zu tun und dann selbst weiterzumachen. Wir haben es einfach als Teil unserer täglichen Routine gemacht, weil es offensichtlich das Richtige für unsere Benutzer und für uns war.“
Zuckerberg ist davon überzeugt, dass es eine der besten Möglichkeiten ist, die sichere Entwicklung dieser Technologie zu gewährleisten, indem man den Großteil der Rechenleistung für den Dienst am Menschen bereitstellt, anstatt sich um die rekursive Selbstverbesserung der KI zu bemühen. Meta ist diese Verpflichtung eingegangen, und andere Labore können das Gleiche tun.
Letztes Wochenende heizte ein 3.800 Wörter umfassender Artikel von Anthropic-CEO Dario Amodei die hitzige Debatte über die wirtschaftlichen und sicherheitsrelevanten Risiken von KI weiter an. Darin forderte er, die Entwicklung moderner Systeme zu verlangsamen, damit Forscher potenzielle Bedrohungen besser verstehen könnten. Amodeis Aufruf erhielt seltene Unterstützung von OpenAI-CEO Sam Altman und SpaceX-CEO Elon Musk.
Kommentare