Zusammenfassung:
Laut Bloomberg forderte der KI-Pionier Li Feifei am 23. September eine stärkere Überwachung der KI durch unabhängige Behörden und den öffentlichen Sektor. Ihrer Meinung nach sollte die Sicherheitsbewertung immer leistungsfähigerer KI-Systeme nicht ausschließlich den Unternehmen überlassen werden, die diese Systeme entwickeln.
Li Feifei
Als Professor an der Stanford University und Mitbegründer von World Labs sagte Li Feifei am Dienstag, dass interne Forscher von KI-Unternehmen zwar die Fähigkeiten und Sicherheit einzelner Modelle bewerten können, dies jedoch nicht breitere Standards ersetzen könne, die gemeinsam von Regierung, Industrie und akademischen Institutionen entwickelt würden.
„Ich bin nach wie vor der Meinung, dass es sehr wichtig ist, dass sowohl unabhängige Institutionen als auch öffentliche Sektoren wie die Wissenschaft Maßstäbe setzen. Gleichzeitig sollten sich Industrie und Regierung die Verantwortung teilen.“ sagte Li Feifei in einem Interview mit Bloomberg TV.
Da die Fähigkeiten von KI-Systemen weiter zunehmen, nehmen auch die Bedenken hinsichtlich ihrer potenziellen Risiken zu. Einige Führungskräfte im Silicon Valley haben gewarnt, dass sich die Technologie zu schnell entwickelt und möglicherweise die menschliche Kontrolle übersteigt. In den letzten Wochen haben Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman beide dazu aufgerufen, die Entwicklung modernster Modelle zu verlangsamen. Die beiden werden am Mittwoch im Sicherheitsrat der Vereinten Nationen über die KI-Sicherheit diskutieren.
Li Feifei sagte, dass die existenziellen Risiken, die KI mit sich bringen kann, letztendlich davon abhängen, wie Menschen diese Technologie entwickeln, steuern und nutzen. Sie sagte, dass dieses Prinzip auch für andere Technologien als KI gelte, von Elektrizität und Dampfmaschinen bis hin zu modernen Transportmitteln. Die menschliche Gesellschaft muss auch ein Gleichgewicht zwischen den Vorteilen der Technologie und der persönlichen Sicherheit finden.
Die Menschheit, so stellte sie fest, „verfügt über die Macht der Technologie.“ „Wir müssen die Kontrolle übernehmen. Bei KI geht es nicht um KI, sondern um Menschen. Es geht um unsere gemeinsame und individuelle Würde und Autonomie, und es geht auch um unsere Verantwortung.“ sagte Li Feifei.
Li Feifeis Kommentare verleihen der immer hitziger werdenden Debatte unter politischen Entscheidungsträgern und führenden Köpfen der KI-Branche eine neue Stimme. Im Mittelpunkt der Debatte steht die Frage, wie ernst Warnungen vor den extremsten Risiken der Technologie zu nehmen sind. Am Dienstag zuvor wies US-Präsident Donald Trump in einer Rede vor der Generalversammlung der Vereinten Nationen in New York Bedenken hinsichtlich der existenziellen Bedrohung durch KI zurück, nannte sie „einen Schwindel“ und betonte die Notwendigkeit, die Technologie mit Hochdruck weiterzuentwickeln.
Li Feifei sagte, dass die Diskussion über das Verhalten von KI-Systemen über die sogenannten Spitzenmodelle hinausgegangen sei, die den aktuellen KI-Trend vorantreiben. Das von ihr gegründete Unternehmen World Labs entwickelt sogenannte „Weltmodelle“, die dreidimensionale Umgebungen generieren und rekonstruieren können. Sie sagte, die Technologie könne zum Trainieren und Evaluieren von Robotern eingesetzt werden und Anwendungen in der Design-, Medizin- und anderen Branchen ermöglichen.
Während sich diese Systeme hin zu realen Anwendungen entwickeln, stehe die Branche vor der gleichen grundlegenden Frage: Wie kann man die immer leistungsfähigere KI bewerten und feststellen, ob sie wie erwartet funktioniert?
Kommentare