Forscher der Johns Hopkins University, der University of Oxford, der Stanford University, der Columbia University und der New York University fordern Schutzmaßnahmen gegen bestimmte Datensätze zu Infektionskrankheiten, die es künstlicher Intelligenz ermöglichen könnten, tödliche Viren zu entwickeln. Die Warnung weist auf eine ernsthaft übersehene Sicherheitslücke bei der Entwicklung künstlicher Intelligenz hin.
Die Forscher weisen darauf hin, dass risikoreiche biologische Daten, sobald sie im offenen Internet verbreitet werden, nicht mehr zurückgenommen werden können. Dies bedeutet, dass selbst bei der Einführung relevanter Regulierungsvorschriften in der Zukunft alle Regulierungsmaßnahmen wirkungslos bleiben, wenn das gefährliche Wissen selbst weit verbreitet ist. Diese Irreversibilität macht die Verwaltung und Kontrolle von Biosicherheitsdaten besonders dringend und komplex.
Mit der rasanten Entwicklung der Technologie der künstlichen Intelligenz, insbesondere ihrer immer tiefergehenden Anwendung im biomedizinischen Bereich, nimmt derzeit auch die Fähigkeit von KI-Systemen, risikoreiche biologische Daten zu erfassen und zu verarbeiten, ständig zu. Forscher befürchten, dass böswillige Akteure KI-Technologie nutzen könnten, um Krankheitserreger zu entwickeln oder zu modifizieren, um hochansteckende oder tödliche biologische Bedrohungen zu schaffen, wenn keine angemessenen Zugriffsbeschränkungen und Sicherheitsmaßnahmen für diese sensiblen Datensätze ergriffen werden.
Der Aufruf spiegelt tiefe akademische Bedenken hinsichtlich der Risiken von KI mit doppeltem Verwendungszweck wider. Während der offene Austausch wissenschaftlicher Daten für die Weiterentwicklung der medizinischen Forschung und der öffentlichen Gesundheit von entscheidender Bedeutung ist, können bestimmte potenziell gefährliche biologische Informationen katastrophale Folgen haben, wenn sie in die falschen Hände geraten. Daher ist die Frage, wie ein Gleichgewicht zwischen der Förderung des wissenschaftlichen Fortschritts und der Gewährleistung der biologischen Sicherheit gefunden werden kann, zu einem Schlüsselproblem geworden, das im Bereich der KI-Governance gelöst werden muss.