Als Reaktion auf Gerüchte, dass relevante US-Regierungsbehörden erwägen, inländischen Unternehmen die Verwendung von Open-Source-KI-Modellen aus bestimmten Ländern zu verbieten, gab Dario Amodei, Mitbegründer und CEO von Anthropic, einem führenden Unternehmen auf dem Gebiet der künstlichen Intelligenz, öffentlich eine Erklärung ab, in der es heißt, dass Anthropic niemals ein Verbot von Open-Source-Modellen vorgeschlagen oder befürwortet habe.
Zuletzt lösten Diskussionen über die Sperrung von Open-Source-Modellen heftige Reaktionen in der Branche aus. Viele Technologieunternehmen haben einen gemeinsamen offenen Brief unterzeichnet, um das Open-Source-Modell zu unterstützen, und einige Stimmen in der Branche haben sogar den Versuch von Anthropic in Frage gestellt, Konkurrenten zu unterdrücken und die eigenen Geschäftsinteressen durch die Förderung behördlicher Verbote zu schützen. In diesem Zusammenhang stellte Amodei klar, dass das Open-Source-Modell, solange es keine gefährlichen Fähigkeiten aufweist, ein öffentliches Produkt von großem Wert ist. Es ist nicht nur kostengünstig, sondern kann Unternehmen, Entwicklern und wissenschaftlichen Forschern auch erhebliche Vorteile bringen. Protektionistische Verbote gehen nicht nur nicht auf echte nationale Sicherheitsbedenken ein, sondern können stattdessen auch zu einem Instrument für die Monopolisierung der Industrie werden, was keineswegs die Position oder das Ziel von Anthropic ist.
In dem Artikel ging Amodei auf seine wahren Bedenken hinsichtlich der Sicherheit der KI-Technologie und der nationalen Sicherheit ein:
Zum einen besteht die Gefahr, dass autoritäre Regime KI-Systeme einsetzen, die leistungsfähiger sind als die der Vereinigten Staaten, um sich einen dauerhaften militärischen Vorteil zu verschaffen oder die interne Überwachung zu vertiefen. Amodei wies darauf hin, dass angesichts solcher Risiken die Offenlegung der Open-Source-Gewichte des Modells und die Nutzung dieser Modelle durch inländische Unternehmen in den USA keine entscheidenden Faktoren seien. Am gefährlichsten sind oft Geheimmodelle, die heimlich entwickelt und nur dem Militär oder Geheimdiensten zur Verfügung gestellt werden.
Zweitens besteht die Gefahr, dass leistungsstarke KI-Modelle böswillig missbraucht werden, um groß angelegte Cyberangriffe oder die Entwicklung von Biowaffen zu starten. Obwohl es dem Open-Source-Modell an kontinuierlichen Sicherheitsschutz- und Überwachungsmethoden mangelt und es nach seiner Veröffentlichung nicht mehr zurückgenommen werden kann, steht es bei der Sicherheitsverwaltung vor größeren Herausforderungen. Ein einfaches Verbot für konforme lokale Unternehmen, das Open-Source-Modell zu nutzen, kann böswillige, nicht konforme Teilnehmer überhaupt nicht stoppen und trägt daher nicht wirklich dazu bei, solche Sicherheitsbedrohungen zu reduzieren.
Um den oben genannten Risiken wirksam zu begegnen, hat Anthropic drei praktische politische Vorschläge und Regulierungsvorschläge vorgelegt:
Beschränken Sie zunächst strikt den Fluss wichtiger Rechenleistung an potenzielle Bedrohungsparteien. Wir sollten weiterhin den Export von Hochleistungschips und Prozessgeräten kontrollieren, hart gegen alle Arten von illegalem Schmuggel und OEM-Aktivitäten vorgehen, die das Verbot umgehen, und die Rechenleistungsbasis für risikoreiches Modelltraining von der Quelle abschneiden.
Zweitens muss gegen groß angelegte grenzüberschreitende „Modelldestillationen“ (Distill) vorgegangen werden. Einige Institutionen nutzen kostengünstige Methoden wie die Destillation, um die Fähigkeiten modernster Closed-Source-Modelle stapelweise zu nutzen und so den Modellentwicklungszyklus erheblich zu verkürzen. Für solche Verhaltensweisen, bei denen missbräuchliche Begriffe zur Umgehung der Rechenleistungsblockade verwendet werden, sollte ein klarerer rechtlicher und kommerzieller Strafmechanismus eingerichtet werden.
Implementieren Sie abschließend umfassende und obligatorische Sicherheitstests vor der Veröffentlichung (Pre-Release). Alle leistungsstarken Modelle, ob Open Source oder Closed Source, müssen strenge Tests und Bewertungen hinsichtlich Cybersicherheit, Biosicherheit und Ausrichtungsrisiken bestehen, bevor sie der Öffentlichkeit oder bestimmten Behörden zur Verfügung gestellt werden. Die Modellsicherheit sollte auf objektiven und strengen empirischen Tests basieren und nicht auf subjektiven A-priori-Annahmen.
Abschließend betonte Amodei, dass die Branche nicht in die endlosen internen Spannungen zwischen „Open Source und Closed Source“ geraten sollte, sondern ihre Aufmerksamkeit wieder auf die Kontrolle der Rechenleistung, die Destillation von Verstößen und die Etablierung weltweit einheitlicher Sicherheitsteststandards richten sollte, um sicherzustellen, dass sich die Technologie der künstlichen Intelligenz unter der Prämisse der Kontrollierbarkeit und Sicherheit weiterentwickelt.
Lesen Sie den vollständigen Artikel:
https://www.anthropic.com/news/position-open-weights-models