Zusammenfassung:
Laut dem britischen „Financial Times“-Bericht warnte Google DeepMind-Mitbegründer und Chef-AGI-Wissenschaftler Shane Legg kürzlich, dass sich die Fähigkeiten der künstlichen Intelligenz rasch verbessern, die Entwicklung der KI-Fähigkeiten jedoch das Niveau der Sicherheitsgarantie nicht überschreiten dürfe. Er widerlegte auch die Urteile von OpenAI-Präsident Greg Brockman und Nvidia-CEO Jensen Huang, dass „AGI angekommen ist“.
Legg sagte, dass die aktuelle Entwicklungsgeschwindigkeit der KI-Fähigkeiten „sehr, sehr schnell“ sei und die Branche nicht zulassen könne, dass die Fähigkeiten den Sicherheitsmaßnahmen voraus seien. In Bezug auf den jüngsten Vorschlag von Anthropic-CEO Dario Amodei, die Veröffentlichung hochmoderner Modelle aus Sicherheitsgründen zu verlangsamen, Forschung und Entwicklung jedoch nicht vollständig auszusetzen, ist Legg der Ansicht, dass diese Richtung „erwägenswert“ sei, alle Parteien jedoch noch ernsthaft über die konkreten Umsetzungsmethoden diskutieren müssen.
Legg gab die obige Erklärung ab, als DeepMind offiziell das DeepMind Institute gründete, um den Einsatz allgemeiner künstlicher Intelligenz und ihre Auswirkungen auf Wissenschaft, Bildung, Gesellschaft, Politik, Philosophie und menschliches Wohlbefinden zu untersuchen. Nach der Definition von DeepMind ist AGI ein künstliches Intelligenzsystem, das über alle kognitiven Fähigkeiten des menschlichen Gehirns verfügt.
Trotz der jüngsten erheblichen Verbesserung der Fähigkeiten von KI-Modellen ist Legg der Ansicht, dass es noch zu früh ist, um zu sagen, dass AGI realisiert wurde. Er sagte, er halte weiterhin an seiner bisherigen Prognose fest, dass die Wahrscheinlichkeit, bis 2028 einen „minimalen AGI“ zu erreichen, bei 50 % liege. Legg war auch einer der ersten Erfinder des Begriffs „AGI“.
Nachdem OpenAI GPT-6 Astra veröffentlicht hatte, erklärte Brockman: „Wir sind jetzt in die AGI-Ära eingetreten.“ Huang Renxun sagte auch, dass „AGI angekommen ist“ und basierte auf den Fähigkeiten von Astra.
Legg sagte, dass selbst wenn verschiedene Organisationen unterschiedliche Definitionen von AGI hätten, es nicht klar sei, ob Astra die eigenen Standards von OpenAI erfülle. OpenAI definierte AGI zuvor als die Fähigkeit, die meisten kognitiven Aufgaben von wirtschaftlichem Wert zu erledigen. Legg sagte, dass diese Modelle tatsächlich in der Lage seien, einige beeindruckende Aufgaben zu erfüllen, aber seiner Meinung nach erreichten ihre Fähigkeiten noch nicht die AGI-Definition von OpenAI.
Das DeepMind Institute wird gemeinsam von Legg, DeepMind-Vorsitzendem Demis Hassabis und Google Senior Vice President James Manica geleitet. Legg sagte, dass jetzt eine breitere gesellschaftliche Diskussion erforderlich sei, da die Öffentlichkeit beginne, die Möglichkeit mächtiger allgemeiner Geheimdienste ernst zu nehmen. Das Institut wird die technische Forschung von DeepMind in mehr für die Öffentlichkeit verständliche Inhalte umwandeln und gleichzeitig externe Experten zur Teilnahme an Diskussionen einladen.
Das Institut veröffentlichte die ersten drei Artikel zu Themen wie KI-Sicherheit, Wirtschaftspolitik und den Prinzipien des „neuen Utopismus“. Einer der Artikel, verfasst von den DeepMind-Forschern Rohin Shah und Ankar Dragan, wies auf die Geschwindigkeit der Veröffentlichung von GPT-6 Astra hin.
Zwei Forscher glauben, dass Astra einen „besorgniserregenden Abwärtstrend“ in der Transparenz seines Argumentationsprozesses aufweist. Der Wettbewerbsdruck auf KI-Unternehmen könnte ihre Anreize für mehr Transparenz untergraben, und Regulierung könnte in dieser Frage eine Rolle spielen.
Der Artikel geht jedoch davon aus, dass die Branche immer noch leistungsfähigere Modelle entwickeln kann, solange Mechanismen zur Gewährleistung der Transparenz in die Modellentwurfsphase integriert werden. Die Forscher wiesen darauf hin, dass die derzeit fortschrittlichsten Denkmodelle einen Teil des Denkprozesses auf eine für Menschen verständliche Weise darstellen können, was der Außenwelt ein seltenes Fenster zur Beobachtung und Untersuchung des KI-Verhaltens bietet.
Manica sagte, dass es nur einen KI-Wettbewerb gibt, an dem Google teilnehmen möchte, und das ist der Wettbewerb, bei dem es darum geht, diese Technologie richtig zu machen.
Kommentare