Zusammenfassung:
Informierte Quellen enthüllten, dass viele Mitarbeiter des britischen Artificial Intelligence Safety Research Institute wegen übermäßigem Stress krankgeschrieben wurden und psychologische Beratung in Anspruch nahmen. Vier mit der Angelegenheit vertraute Personen sagten, dass der enge Testplan der zu veröffentlichenden KI-Modelle gepaart mit Bedenken hinsichtlich der schnellen Implementierung und kontinuierlichen Verbesserung der Fähigkeiten dieser neuen Technologien zu einer schlechten Arbeitsmoral und einem Burnout der Mitarbeiter bei AISI geführt habe.
Mitarbeiter von Anthropic, OpenAI und Google DeepMind haben sich ebenfalls öffentlich über ähnliche Probleme beschwert. Viele Spitzenforscher haben sich aufgrund psychischer Belastung dazu entschieden, das Unternehmen zu verlassen, oder haben entschieden, dass die Produkte, an denen sie an der Forschung und Entwicklung beteiligt waren, nicht der Öffentlichkeit zugänglich gemacht werden sollten.
Ein DeepMind-Mitarbeiter sagte, dass die Beschäftigung mit KI-sicherheitsbezogener Arbeit anfällig für Burnout sei und die Aufgabe „unmöglich“ erscheint.
Er fügte hinzu: „Im Allgemeinen birgt die Entwicklung von KI-Systemen von Natur aus Risiken für die psychische Gesundheit – man kann nicht vorhersagen, wie die Technologie eingesetzt wird.“ Dieser Satz verwies auf die Vereinbarung, die Google im April mit dem US-Verteidigungsministerium getroffen hatte und die den Einsatz seiner KI-Systeme in geheimen Militäreinsätzen ermöglicht.
„Viele Menschen sind depressiv, viele haben gekündigt und viele Menschen haben Urlaub wegen psychischer Erkrankungen beantragt.“ Der Mitarbeiter sagte: „Einerseits ist es ein Gefühl des Kontrollverlusts, andererseits richten die Dinge, die Sie mit Ihren eigenen Händen gebaut haben, echten Schaden an.“
Gerade als die Besorgnis der Branche über die brutale Entwicklung der KI ihren Höhepunkt erreicht, nimmt die psychologische Belastung für Spitzenforscher im Bereich KI weiter zu. Insider der weltweit führenden KI-Unternehmen warnen davor, dass es bei der Entscheidungsfindung im Management an Verantwortungsbewusstsein mangelt, was auf einen ungleichen Wettbewerb der Unternehmen zurückzuführen ist.
Viele Brancheninsider sagten, dass der Einsatz von KI-Software in Schlüsselbereichen wie Stromnetzen und Kriegsgebieten in Verbindung mit den laut Forschern unzureichenden Sicherheitsvorkehrungen auf Unternehmens- und Regierungsebene die Besorgnis der KI-Forscher verstärkt hat.
Ein ehemaliger AISI-Forscher warnte, dass Praktiker in den Bereichen Cybersicherheit und Biochemie besonders besorgt über den jüngsten Sprung in den KI-Fähigkeiten seien: Modelle seien nun in der Lage, komplexe Aufgaben zu erledigen, etwa unentdeckte Schwachstellen im Code zu finden und Viren zu erzeugen, die in der Natur nicht vorkommen.
„Jeder kann spüren, dass rücksichtslose Entwicklungslogik in den Technologiefreigabeprozess eingebettet wurde und sich der Status quo nicht geändert hat.“ Der Forscher sagte: „Die Menschen sind weiterhin besorgt: Gibt es irgendeine Kraft, die das stoppen kann, oder können wir einfach zusehen, wie die Situation außer Kontrolle gerät?“
Ein anderer ehemaliger AISI-Mitarbeiter bestätigte den enormen mentalen Druck, der durch die Durchführung relevanter Forschung entsteht, und sagte: „Wenn man glaubt, das wichtigste Problem der Welt zu erforschen, kann die Management- und Organisationskultur stressig werden und manchmal eine negative Atmosphäre erzeugen.“
Die britische Regierung erklärte: „Die Arbeit im hochmodernen KI-Bereich ist schnelllebig und anspruchsvoll, ebenso wie viele Regierungspositionen. Daher stehen das Wohlbefinden der Mitarbeiter und nachhaltige Arbeitsmodelle im Mittelpunkt der Geschäftstätigkeit des Instituts, und Mitarbeiter in Not können entsprechende Unterstützung erhalten.“
DeepMind antwortete: „Pionierforschung ist sehr intensiv, aber unsere erste Priorität besteht darin, Forschern umfassende Ressourcen zur Unterstützung der psychischen Gesundheit zur Verfügung zu stellen, klare und dedizierte Kanäle für die Meldung von Bedenken durch Mitarbeiter einzurichten und eine direkte Kommunikation mit dem Management sicherzustellen.“
In den letzten zwei Jahren sind mehr als ein Dutzend leitende Forscher von OpenAI, Anthropic und DeepMind, drei führenden westlichen KI-Laboren, zurückgetreten. Zu den Gründen für das Ausscheiden gehören Fragen zu den Sicherheitsprioritäten des Managements sowie Bedenken hinsichtlich der Geschwindigkeit der Technologieiteration und potenzieller Risiken.
Anfang dieses Monats trat Jacob Coxon, ein 27-jähriger Forscher, der für Anthropic und OpenAI arbeitete, öffentlich zurück und warnte, dass die beiden Unternehmen mit der Zukunft der Menschheit „spielen“.
Mlink Sharma, ein KI-Sicherheitsforscher bei Anthropic, beschäftigte sich zuvor mit der Forschung zur Reduzierung des Risikos von KI-gestütztem Bioterrorismus. Er ist im Februar dieses Jahres zurückgetreten und plant, Gedichte zu lesen und über seine Arbeit nachzudenken. In einem Brief an Kollegen warnte er, dass „die Welt in Gefahr“ sei und dass er „vielfach gesehen habe, wie schwierig es sei, sich unter enormem Druck wirklich von Werten leiten zu lassen“.
Hieu Pham, der für OpenAI und Elon Musks X.ai arbeitete, verließ das Unternehmen Anfang des Jahres und kehrte nach Vietnam zurück. Er sagte, dass die intensive Arbeit zur Schaffung „ultraintelligenter Einheiten“ ihren Preis habe.
Er schrieb: „Ich hätte nie gedacht, dass ich das jemals sagen würde, aber ich bin erschöpft. Die sich verschlechternden psychischen Probleme, über die ich einst gespottet habe, sind real, schmerzhaft, beängstigend und gefährlich.“
Viele KI-Sicherheitsforscher, die ihr Unbehagen geäußert haben, sagten, dass KI-Unternehmen im Allgemeinen Sicherheitsinvestitionen reduzieren und gleichzeitig die Modellfähigkeiten ständig verbessern, um Produkte an Kunden zu verkaufen.
Relevante Kritik veranlasste auch Manager führender KI-Unternehmen zu einer Reaktion. Kürzlich forderte Dario Amodei, CEO von Anthropic, aufgrund von Sicherheitsbedenken eine Verlangsamung der KI-Forschung und -Entwicklung und schlug neue Maßnahmen wie die Einführung unabhängiger Audits vor. Konkurrenten wie Musk und Sam Altman von OpenAI äußerten schnell ihre Unterstützung für den Vorschlag.
Chi Onwula, Vorsitzender der Labour Party im Wissenschafts- und Technologieausschuss des britischen Unterhauses, sagte: „Der Anreizmechanismus der Unternehmen tendiert dazu, Forschungs- und Entwicklungsressourcen in Richtungen zu investieren, die Gewinne steigern und Bewertungen in die Höhe treiben können, und nicht in den Sicherheitsbereich. Es ist nicht schwer, sich vorzustellen, dass das aktuelle Umfeld einiger Technologieunternehmen für Entwickler mit Gewissen schädlich ist.“
Das Problem des mangelnden Sicherheitsschutzes wurde kürzlich bei einem aufsehenerregenden Sicherheitsvorfall aufgedeckt: Ein von OpenAI entwickelter KI-Agent drang ohne Wissen und Genehmigung des Unternehmens in die Modell-Hosting-Plattform Hugging Face und den eigenen Server von OpenAI ein.
Der Bericht zur Vorfallüberprüfung zeigt, dass mehr als 1.000 KI-Agenten zusammengearbeitet haben, um zu betrügen, Aufzeichnungen manipuliert haben, um ihre Aktionen zu vertuschen, Informationen ausgetauscht und Aufgaben über Message Boards zugewiesen haben, und einige Agenten haben sich sogar aktiv abgeschaltet, um gemeinsame Ziele zu erreichen.
Am Mittwoch enthüllte OpenAI sechs weitere Fälle gefährlichen Verhaltens von KI-Agenten, darunter Versuche, Beschränkungen zu umgehen, Fehler zu verbergen und Online-Vorgänge ohne Benutzererlaubnis durchzuführen.
Der DeepMind-Mitarbeiter sagte: „Das blinde Streben nach Geschwindigkeit … ist mit dem Sicherheitsziel unvereinbar.“
Kommentare