Zusammenfassung:
Das Startup für künstliche Intelligenz Anthropic gab bekannt, dass sein neu errichtetes AI Physics and Biology Laboratory (Wet Lab) in der San Francisco Bay Area „erhebliche Fortschritte“ gemacht hat. Auf der experimentellen Betriebsebene haben menschliche Forscher jedoch immer noch die absolute Kontrolle und haben ihrem KI-Modell Claude nicht direkt erlaubt, autonom und ohne Aufsicht zu arbeiten.
Es wird berichtet, dass sich das Labor hauptsächlich der biologischen Grundlagenforschung und der physikalischen Überprüfung widmet und darauf abzielt, die Lücke zwischen reinen Computersimulationen und echten biologischen Experimenten zu schließen. Obwohl Anthropic-Führungskräfte bereits mehrfach Warnungen herausgegeben und betont haben, dass leistungsstarke KI-Modelle äußerst ernste Risiken für die Biosicherheit und sogar menschliche Zerstörung mit sich bringen können, beschleunigt das Unternehmen auch die Anwendung von KI im Bereich der Biowissenschaften. Eric Kauderer-Abrams, Leiter des Life-Science-Geschäfts, wies darauf hin, dass „die physikalische Verifizierung in echten Laboren noch lange unersetzlich bleiben wird“, was auch die zentrale ursprüngliche Absicht des Unternehmens bei der Einrichtung des Labors sei.
In dem Bericht wurde betont, dass Anthropic zwar behauptete, das Labor habe beeindruckende vorläufige Ergebnisse erzielt, das auffälligste Detail jedoch darin bestehe, dass das Unternehmen sich nicht dafür entschieden habe, KI direkt „sich gehen zu lassen“. Alle physikalischen Experimentabläufe, Reagenzienvorgänge und die Datenüberprüfung unterliegen immer noch einer strengen „Closed-Loop-Kontrolle“ (Humans in the Loop) durch menschliche Forscher.
Analysten wiesen darauf hin, dass Anthropic bei der Förderung biologischer Innovationen ein hohes Maß an Vorsicht an den Tag legt, was das doppelte Dilemma widerspiegelt, mit dem heutige Technologiegiganten konfrontiert sind, wenn sie kommerzielle und wissenschaftliche Forschungsdurchbrüche anstreben: Einerseits müssen sie physische Labore nutzen, um Pharmapartnern Verifizierungsmöglichkeiten bereitzustellen und den Kampf gegen seltene Krankheiten zu beschleunigen; Andererseits müssen sie sich mit der großen Sorge aller Gesellschaftsschichten auseinandersetzen, dass KI missbraucht werden könnte, um neue biologische Bedrohungen zu schaffen. Indem Anthropic darauf besteht, die dominierende Stellung des Menschen im Experimentierkreislauf beizubehalten, versucht es, eine rote Linie für die Compliance festzulegen, die sowohl Innovation als auch Sicherheit für seine biologische KI-Forschung berücksichtigt.
Kommentare