Zusammenfassung:
Yao Shunyu, leitender KI-Wissenschaftler bei Tencent und ehemaliger OpenAI-Forscher, nahm kürzlich an einem wissenschaftlichen Seminar in Hongkong teil und sagte, dass hochmoderne Modelle der künstlichen Intelligenz schnell in den Bereich der Biologie vordringen und ihre Fähigkeiten bald einen kritischen Punkt erreichen werden, der im wirklichen Leben Schaden anrichten könnte. Obwohl erwartet wird, dass diese Änderung die Forschung und Entwicklung neuer Arzneimittel sowie medizinische Innovationen vorantreibt, könnte sie auch neue Sicherheitsherausforderungen mit sich bringen und Bedenken der Industrie hinsichtlich biologischer Sicherheitsrisiken aufkommen lassen.
Yao Shunyu sagte, dass die künstliche Intelligenz genügend Fähigkeiten bewiesen habe, um einen echten Einfluss auf den Bereich der Netzwerksicherheit zu haben, und dass sich die biologischen Fähigkeiten einem ähnlichen Niveau nähern. Er warnte davor, dass die zukünftige Entwicklung der KI im Bereich der Biologie möglicherweise schwieriger zu bewältigen sei als im Bereich der Cybersicherheit, weshalb sowohl chinesische Unternehmen als auch andere Unternehmen, die den Weg des offenen Modells einschlagen, relevante Sicherheitsfragen ernst nehmen müssen.
In den letzten Jahren wurden immer mehr hochmoderne KI-Systeme in den Biowissenschaften, der medizinischen Forschung und der Arzneimittelentwicklung eingesetzt. In der Branche wird allgemein davon ausgegangen, dass KI den Arzneimittelscreening- und Forschungs- und Entwicklungszyklus erheblich verkürzen und die Entdeckung von Behandlungsmöglichkeiten beschleunigen soll. Experten wiesen jedoch auch darauf hin, dass diese Fähigkeiten „Dual-Use“-Eigenschaften aufweisen. Sie fördern zwar den Fortschritt der wissenschaftlichen Forschung, können aber auch von Kriminellen missbraucht werden und so neue Risiken für die Biosicherheit mit sich bringen.
Yao Shunyus Rede kommt zu einem Zeitpunkt, an dem Tencent seine KI-Strategie beschleunigt. Tencent veröffentlichte am 4. November offiziell das Flaggschiffmodell Hy4 der neuen Generation und positionierte es als eines der wichtigsten Basismodelle des Unternehmens. Nach Angaben von Artificial Analysis, einer Agentur zur Bewertung künstlicher Intelligenz, gilt Hy4 derzeit als eines der leistungsstärksten KI-Modelle in China.
Als er über zukünftige Entwicklungsrichtungen sprach, verriet Yao Shunyu, dass Tencent die Möglichkeit des Aufbaus eines „autonomen wissenschaftlichen Labors“ prüft und hofft, mithilfe von KI-Systemen komplexe wissenschaftliche Forschungsprozesse, einschließlich einiger biologischer Forschungsaufgaben, unabhängig durchführen zu können. Er glaubt, dass aus technischer Sicht die meisten Probleme irgendwann gelöst werden können. Die wirklich größeren Herausforderungen liegen in der sozialen Governance, der organisatorischen Koordination und dem Aufbau von Sicherheitsüberwachungssystemen.
Um potenzielle Risiken zu reduzieren, hat Tencent während des Trainingsprozesses von Hy4 eine Reihe von Sicherheitsmaßnahmen ergriffen. Das Unternehmen sagte, es habe absichtlich Daten im Zusammenhang mit der Ausnutzung von Software-Schwachstellen und dem Angriffsverhalten gelöscht und nur das Wissen über defensive Netzwerksicherheit beibehalten, in der Hoffnung, die Angriffsfähigkeiten zu reduzieren und gleichzeitig die Schutzfähigkeiten beizubehalten. Was den Bereich der Biologie anbelangt, geht Tencent in seiner internen Einschätzung davon aus, dass Hy4 zwar über fundierte biologische Grundkenntnisse verfügt, es jedoch immer noch eine deutliche Lücke zwischen der Fähigkeit, experimentelle Verfahren unabhängig zu formulieren und Hochrisikofähigkeiten zu entwickeln, besteht.
Yao Shunyu betonte insbesondere, dass es im Vergleich zum Bereich der Netzwerksicherheit im Bereich der Biologie oft schwieriger sei, klar zwischen „Offensivfähigkeiten“ und „Verteidigungsfähigkeiten“ zu unterscheiden. Dies bedeutet, dass Forscher bei der Bewertung von Modellrisiken mit komplexeren Situationen konfrontiert werden, sodass Modelle vor der Veröffentlichung strengeren Tests und Validierungen unterzogen werden müssen. Tencent arbeitet derzeit mit dem führenden Sicherheitslabor des Unternehmens zusammen, um eine systematische Bewertung relevanter Fähigkeiten durchzuführen.
Was die kontroverse Debatte „Open Source versus Closed Source“ in den letzten Jahren betrifft, sagte Yao Shunyu, dass amerikanische Unternehmen wie Anthropic dafür plädieren, die fortschrittlichsten Modelle geschlossen zu halten, um potenzielle soziale Risiken zu verringern. Diese Ansicht hat eine gewisse Rationalität. Er glaubt aber auch, dass offene Modelle den Verteidigern auch dabei helfen können, ihre Fähigkeiten zu verbessern. Daher muss die Branche in Zukunft möglicherweise ein Gleichgewicht zwischen Offenheit und Schließung anstreben, anstatt sich ausschließlich auf eine einzige Route zu verlassen.
Während sich die künstliche Intelligenz schrittweise von der Programmierung, Mathematik und Inhaltserstellung auf den Bereich der Biowissenschaften ausdehnt, wird die Biologie als eine der wichtigsten KI-Grenzen der nächsten Stufe angesehen. Analysten wiesen darauf hin, dass verwandte Technologien, sobald KI wirklich in der Lage ist, biologisches Wissen tiefgreifend zu verstehen und anzuwenden, nicht nur die Arzneimittelforschung und -entwicklung sowie die medizinische Industrie verändern, sondern auch globale Regulierungsbehörden dazu veranlassen könnten, den Governance-Rahmen für künstliche Intelligenz zu überdenken, um die daraus resultierenden neuen Sicherheitsherausforderungen zu bewältigen.
Kommentare