Ehemaliger OpenAI-Forscher enthüllt „offenes Geheimnis“: Menschen bauen KI, die nicht vollständig kontrolliert werden kann

Am 13. Mai berichtete Business Insider, dass Daniel Kokotajlo, ein ehemaliger OpenAI-Forscher und derzeitiger Leiter des AI Futures Project, sagte, dass die KI-Branche einen Wettlauf um die Entwicklung von Systemen betreibe, die jedes Unternehmen noch nicht vollständig verstehe oder kontrolliere.

Bildunterschrift: Kokotailo

In einem Interview mit einem „Business Insider“-Reporter im Mai letzten Jahres erklärte Cocotailo, dass das Kernproblem, mit dem KI-Unternehmen konfrontiert sind, das „Alignment“-Problem sei, d.

Er sagte, dass Forscher derzeit nicht vollständig verstehen, wie fortschrittliche KI-Modelle intern Entscheidungen treffen, und diese Unsicherheit es schwierig mache, sicherzustellen, dass zukünftige Systeme wirklich „ausgerichtet“ seien und die von Menschen gewünschten Ziele stabil erfüllen.

„Es ist sozusagen ein offenes Geheimnis, aber wir haben noch keine wirklich praktikable Lösung“, sagte er über die Implementierung der KI-Anpassung.

Kokotailo verließ das Unternehmen, nachdem er von 2022 bis 2024 bei OpenAI gearbeitet hatte, wo er sich mit prädiktiver Forschung beschäftigte und untersuchte, wie schnell sich KI-Systeme weiterentwickeln könnten und welche wirtschaftlichen, politischen und Sicherheitsrisiken entstehen könnten, wenn Unternehmen leistungsfähigere Modelle entwickeln.

Heute konzentriert er sich mit seiner gemeinnützigen Forschungsorganisation, dem Future of AI Project, auf ähnliche Themen und konzentriert sich dabei auf die Analyse, wie schnell sich KI-Systeme entwickeln könnten und welche Risiken entstehen, wenn Unternehmen weiterhin Geschwindigkeit und Wettbewerb in den Vordergrund stellen.

„Sobald die Superintelligenz geschaffen ist, werden die Menschen nicht länger der Anführer dieses Planeten sein, zumindest nicht der Standardanführer“, sagte Kokotailo.

Cocotailo sagte, dass viele Menschen die Geschwindigkeit der KI-Entwicklung immer noch unterschätzen, weil Diskussionen oft wie Science-Fiction klingen. Seine Warnung kommt, da KI-Unternehmen weiterhin Milliarden von Dollar in leistungsstärkere Modelle und größere Rechenzentren investieren.