Anthropics Leiter des internationalen Geschäfts: Open-Source-Modell ist riskanter

Zusammenfassung:

Am 14. Oktober sagte Bloomberg zufolge der für Märkte außerhalb der USA zuständige Top-Vertriebsleiter von Anthropic, dass offene Modelle im Vergleich zu den KI-Modellen des Unternehmens „höhere Risiken“ in Bezug auf Cybersicherheitsvorfälle oder andere Gefahren bergen.

Princen

Guillaume Princen, Leiter des internationalen Geschäfts von Anthropic, sagte am Mittwoch auf dem International AI Summit in Dublin gegenüber Bloomberg TV: „Wir müssen bei Open-Source-Modellen besonders vorsichtig sein, wenn es um die Sicherheit geht. Ich kann nicht für offene Modelle sprechen, aber per Definition sind sie risikoreicher.“

Anthropic steht kurz vor dem Börsengang, doch das Unternehmen sieht sich in einigen Ländern zunehmender Konkurrenz ausgesetzt. Diese Länder sind zunehmend besorgt über ihre Abhängigkeit von der amerikanischen KI-Technologie. Eine beliebte Alternative zu Closed-Source-Modellen sind derzeit Open-Weight-KI-Modelle, die ihre Parameter offenlegen und es Benutzern ermöglichen, sie zu ändern und auf ihrer eigenen Hardware auszuführen.

Befürworter sagen, diese Modelle seien billiger und förderlicher für die Wahrung der nationalen Souveränität als die streng kontrollierten Closed-Source-Modelle von Anthropic und OpenAI. Das französische KI-Unternehmen Mistral AI hat kürzlich ein offenes Gewichtsmodell veröffentlicht, das Europa eine Alternative zum souveränen Modell bietet. Gleichzeitig gewinnen eine Reihe ähnlicher offener Modelle chinesischer Unternehmen auf ausländischen Märkten immer mehr Aufmerksamkeit.

Anthropic hat seine Warnungen vor KI-Fähigkeiten verstärkt.

Prinsen überwacht auch den Verkauf von Anthropic an Start-ups und „digital native“ Unternehmen. Er sagte, seine Bedenken hinsichtlich des offenen Gewichtsmodells seien auf die eigenen Bemühungen von Anthropic zurückzuführen, seine Produkte sicher zu halten. Nach einer Reihe aufsehenerregender KI-Hacks hat Anthropic nach eigenen Angaben zusätzliche Sicherheitsvorkehrungen getroffen, um zu verhindern, dass seine Modelle für böswillige Zwecke verwendet werden. Das Unternehmen hat sich stets dafür eingesetzt, das Tempo der KI-Entwicklung zu verlangsamen, bis internationale Standards festgelegt und ein einheitlicher Bewertungsmechanismus geschaffen sind.

Wenn es um die teureren Modelle von Anthropic geht, sagte Princen, er werde den Unternehmen sagen, dass sich der Kauf leistungsstärkerer Modelle irgendwann auszahlen werde. „Investieren Sie immer in Spitzentechnologie, denn in sechs Monaten, in einem Jahr oder in zwei Jahren werden auch die Kosten für die Nutzung dieser Art von Anwendungen sinken“, sagte er.

Er sagte, das neueste Claude-Modell des Unternehmens, der Opus 5.5, sei 40 % günstiger als die Vorgängerversion. Er fügte hinzu, dass Unternehmenskunden, die die „Spitzenmodelle“ von Anthropic kaufen, einen „sehr großen Teil“ des Geschäfts des Unternehmens ausmachen, ohne konkrete Zahlen zu nennen.

Prinsen lehnte es ab, sich zu den IPO-Plänen von Anthropic zu äußern oder zu sagen, wie viel Geld das Unternehmen in die Ausbildung neuer Modelle investiert hat.