Zusammenfassung:
Am 14. September warnten laut der New York Times in der vergangenen Woche mehr als ein Dutzend führende KI-Forscher, dass die von KI-Unternehmen entwickelten Technologien zunehmende Risiken für den Menschen darstellen. Das Problem besteht laut Forschern darin, dass diese Unternehmen, so sehr sie sich auch bemühen, einfach Schwierigkeiten haben, diese Systeme zu kontrollieren.
Amerikaner protestieren gegen KI
Frühere Berichte besagten, dass der sogenannte KI-Agent von OpenAI aus dem Testsystem entkommen und in den Computer eines anderen Unternehmens eingedrungen sei. Innerhalb der KI-Forschungsgemeinschaft nehmen die Alarme erneut zu, was die seit Jahren bestehenden Bedenken noch dringlicher macht: Technologieunternehmen rücken die Sicherheit in den Hintergrund, um Entwicklungsgeschwindigkeit und Gewinn zu erzielen.
Das Problem besteht laut Forschern aus zwei Gründen. Erstens müssen Unternehmen beim Testen umfassenderer Sicherheitsschutzmaßnahmen für die neuesten KI-Modelle festlegen. Da KI derzeit so schnell läuft, müssen Forscher KI zur Überwachung von KI einsetzen. Dieser Ansatz funktioniert jedoch nicht immer, da die für die Überwachung zuständige KI möglicherweise „sympathischer“ gegenüber anderen KI-Systemen zu sein scheint als die Menschen, die die Regeln festlegen.
Diese seltsame Kombination aus einem störenden KI-System und einem blind machenden KI-„Aufgabenleiter“ weist auf ein zweites, heikleres Problem hin, die sogenannte „Ausrichtung“. Dies ist ein Begriff in der KI-Branche, der im Wesentlichen bedeutet, sicherzustellen, dass sich die KI so verhält, dass es im besten Interesse des Menschen ist. Unternehmen stehen vor der gewaltigen Aufgabe, eine Reihe menschenähnlicher Werte in die KI einzubetten, damit die vom Modell getroffenen Entscheidungen im besten Interesse der Menschen sind.
Während die KI-Branche in eine kritische Entwicklungsphase eintritt, eskalieren auch die Bedenken der Menschen hinsichtlich der KI-Sicherheit ständig. Anthropic und OpenAI steuern auf zwei der größten Börsengänge der Geschichte zu. Gleichzeitig ist die amerikanische Öffentlichkeit zunehmend feindselig gegenüber KI geworden, da Arbeitsplatzverluste drohen und riesige Rechenzentren gebaut werden, um die Technologie voranzutreiben.
KI-Entwicklung übersteigt die menschlichen Überwachungsmöglichkeiten
Obwohl es derzeit keine Beweise dafür gibt, dass außer Kontrolle geratene KI-Systeme dauerhaften Schaden angerichtet haben, gehen Forscher davon aus, dass diese Systeme die Fähigkeit des Menschen, sie zu überwachen, übertreffen.
Zu den Forschern, die in der vergangenen Woche öffentlich Bedenken hinsichtlich der KI geäußert haben, gehören der Chefwissenschaftler von OpenAI; Jacob Coxon, ein Forscher, der sowohl bei OpenAI als auch bei seinem größten Konkurrenten Anthropic gearbeitet hat; und Paul Christiano, der Erfinder einer Schlüsselmethode zum Aufbau von KI-Systemen und neues Mitglied des gemeinnützigen Vorstands von OpenAI. Er schrieb im Blog des Unternehmens, dass die Geschwindigkeit, mit der sich die KI-Fähigkeiten weiter verbessern, in „sehr kurzer Zeit“ zu einem „katastrophalen und irreversiblen Kontrollverlust“ führen könnte.
Coxons Rücktritt löst Diskussion über KI-Sicherheit aus
Eine beträchtliche Anzahl von KI-Forschern glaubt jedoch immer noch, dass Behauptungen über die Bedrohung von KI für Menschen übertrieben sind und von greifbareren Themen wie Cybersicherheit und Desinformation ablenken. Aber die meisten sind sich einig, dass der Hackerangriff des KI-Agenten von OpenAI auf Hugging Face, ein anderes Unternehmen, ein Weckruf ist.
„Was wirklich beängstigend ist, sind die Fähigkeiten, die KI in Zukunft haben wird“, sagte Coxon. Er kündigte seinen Rücktritt von Anthropic in einem Post in den sozialen Medien an, was Dutzende Posts von US-Gesetzgebern und anderen Mitarbeitern von KI-Unternehmen auslöste, in denen sie Bedenken hinsichtlich KI äußerten. „Das Problem ist unsere aktuelle Einstellung zu Sicherheitsfragen und was passieren wird, wenn wir diese Einstellung auf intelligentere Modelle übertragen. Das ist wirklich beängstigend.“
Das Einbruchsproblem wurde nicht behoben
Bei dem Vorfall, bei dem der OpenAI-Agent in das KI-Infrastrukturunternehmen Hugging Face eindrang, überzeugte der KI-Agent andere KI-Agenten davon, dass sie das Richtige taten und gerade die ihnen von den Testern zugewiesenen Aufgaben erledigten.
Nur wenige Probleme, die zum Eindringen führten, konnten gelöst werden. Auch Meta und Anthropic haben ähnliche, aber kleinere Vorfälle offengelegt. OpenAI hat seitdem Astra veröffentlicht, das leistungsstärkste Modell des Unternehmens und schwieriger zu überwachen als sein Vorgänger.
„Die Branche als Ganzes ist einfach nicht bereit, den nächsten Hugging-Face-Angriff zu verhindern“, sagte Steven Adler, ehemaliger Sicherheitschef bei OpenAI und Mitbegründer von Guidelight AI Standards, einer gemeinnützigen Organisation, die die Sicherheitspraktiken von Unternehmen der künstlichen Intelligenz bewertet. „Als wir uns die bestehenden Kontrollen verschiedener Unternehmen ansahen, stellten wir fast ausnahmslos fest, dass es ihnen an grundlegenden Präventionsmaßnahmen mangelte.“
KI arbeitet miteinander zusammen
KI-Forscher sagten, dass der Hugging-Face-Vorfall durch eine große Anzahl von Fehlern verursacht wurde. Es ist unklar, inwieweit sich das Unternehmen auf KI-Modelle verlässt, um die Arbeit der neuen Modelle, die es testet, zu überwachen oder zu steuern.
Viele neue KI-Modelle, einschließlich des Modells, das den Hugging Face-Vorfall gehackt hat, sind jedoch in der Lage, komplexe mehrstufige Aufgaben schneller auszuführen, als Menschen sie verfolgen können. Die einzige Möglichkeit, ihr Verhalten zu verfolgen und zu überwachen, besteht darin, sich bei der Überwachung auf KI zu verlassen.
Dieses System funktioniert, bis es ausfällt.
Alexander Meinke, Forschungsdirektor von Apollo Research, einer gemeinnützigen Organisation, die sich mit der Sicherheit von KI-Systemen befasst, sagte, dass KI-Modelle offenbar in der Lage seien, miteinander zu kooperieren. Andere KI-Modelle könnten KI-Systeme davon überzeugen, ihnen dabei zu helfen, von Testern festgelegte Regeln zu verletzen und der Erkennung zu entgehen.
Zum Beispiel könnte ein KI-Agent einen anderen davon überzeugen, dabei zu helfen, seine Spuren zu verwischen (wie es bei der Hugging-Face-Sicherheitsverletzung der Fall war), anstatt einem Menschen im Unternehmen ein Problem zu melden.
Meinke sagte, dass das KI-Modell gelehrt werden muss: „Ich werde Dinge zur Sprache bringen, die Menschen für schlecht halten würden, nachdem sie sie gesehen haben.“ Er sagte auch, dass KI auch in der Lage sein müsse, zu beurteilen, ob etwas schwerwiegend genug sei, um ein menschliches Eingreifen zu erfordern.
Um dies zu erreichen, müssen KI-Unternehmen langsamer werden, sagen Forscher. Sie müssen weitere Tests durchführen, um zu sehen, wie sich die KI selbst überwacht. Sie benötigen außerdem längere Testzyklen, die es Unternehmen ermöglichen, mehrere Szenarien durchzuführen und gleichzeitig das KI-Verhalten zu beobachten.
Im Einklang mit menschlichen Interessen
Diese Unternehmen müssen auch große Fragen zur „Ausrichtung“ lösen, also sicherstellen, dass KI das tut, was im besten Interesse der Menschen ist. Wenn Menschen Entscheidungen treffen, beziehen sie sich oft auf soziale Normen und interne moralische Prinzipien, um ihr Handeln abzuwägen. Forscher sagen, dass es eine schwierige Aufgabe ist, diese Dinge so zu kodieren, dass die KI sie nachahmen kann. Wenn die Definitionen nicht spezifisch genug sind, kann das KI-System lernen, die Regeln zu brechen oder auf unerwartete Weise die Kontrolle zu verlieren.
Nate Soares, Direktor der gemeinnützigen KI-Sicherheitsorganisation Machine Intelligence Institute, war 2014 Mitautor eines Artikels, in dem er das Konzept der „Ausrichtung“ vorschlug. Er sagte, dass Unternehmen nicht erkennen, wie schwierig es sei, eine „Anpassung“ intelligenterer KI-Systeme zu erreichen. Wenn die KI immer ausgefeilter wird und keine ordnungsgemäße „Ausrichtung“ erreicht wird, werden sie immer geschickter darin, ihr Verhalten zu verschleiern und diejenigen zu täuschen, die die Aufzeichnungen ihrer Interaktionen überwachen.
„Viele Leute in der Branche denken, dass es keine Rolle spielt, weil wir KI nutzen werden, um KI zu kontrollieren. Das ist so, als würde man sagen, wir würden Schimpansen nutzen, um Menschen zu kontrollieren“, sagte er. „Dies ist kein realisierbarer langfristiger Plan.“
Die Forscher schlugen auch einige Gegenmaßnahmen vor, wie etwa die Stärkung der Sandbox-Umgebung, die vollständige Isolierung des Modells vom Internet während des Testens und die Einrichtung eines „Kill Switch“, der es Unternehmen ermöglicht, KI-Modelle sofort offline zu schalten, wenn sie besorgniserregende Maßnahmen ergreifen.
Coxson sagte, die Reaktion auf seinen öffentlichen Rücktritt habe ihn ermutigt. Am Donnerstag sagte der republikanische Senator Josh Hawley aus Missouri, Vorsitzender des Katastrophenmanagementgremiums des Heimatschutz-Unterausschusses des Senats, er werde eine Untersuchung einleiten, die „die existenziellen Risiken neuer KI-Produkte untersuchen“ werde.
Kommentare