Zusammenfassung:
Kürzlich warnte Musk auf einer Veranstaltung: „Es wäre schade, wenn KI militärische Systeme steuern und Atombomben abfeuern könnte.“
Während des Austauschs vor Ort deutete jemand an, dass die meisten militärischen Einrichtungen physisch isoliert und nicht mit dem Internet verbunden seien, sodass die Wahrscheinlichkeit einer Invasion durch KI gering sei.
Aber Musk ist mit dieser Ansicht nicht einverstanden. Er sagte, dass die Geräte auch dann regelmäßig Software-Updates unterzogen würden, wenn das System physisch vom Netzwerk isoliert sei. Dieser Prozess kann Sicherheitslücken hinterlassen und der KI die Möglichkeit geben, in wichtige militärische Systeme einzugreifen. Sobald die KI die Befugnis erhält, Atomwaffen einzusetzen, wird dies katastrophale Folgen für die gesamte Menschheit haben.
Musk ist nicht der Einzige, der sich Sorgen über künstliche Intelligenz macht.
Jacob Coxon, ein KI-Forscher, der gerade von Anthropic zurückgetreten ist, enthüllte, dass viele Praktiker an vorderster Front von KI-Unternehmen von echtem Unbehagen erfüllt sind. Sie verspüren aus tiefstem Herzen Panik und sind sehr besorgt über das unvorhersehbare Schicksal, das der Menschheit in den nächsten zwei Jahren bevorsteht.
Der CEO von Anthropic forderte außerdem öffentlich die Notwendigkeit, das Tempo der Forschung und Entwicklung modernster KI-Modelle angemessen zu verlangsamen. Er schlug auch Richtungen wie die Einführung einer unabhängigen Aufsicht, die Festlegung von Industrienormen und die Förderung eines globalen Regulierungskonsenses vor, um die Entwicklung von Hochrisiko-KI einzudämmen. Auch der OpenAI-Verantwortliche äußerte öffentlich seine Unterstützung für die notwendige Kontrolle der KI-Entwicklung.
Kommentare