Nachdem Red Hat letztes Jahr Neural Magic übernommen hatte, um seine Open-Source-KI-Fähigkeiten zu stärken, gab das Unternehmen heute bekannt, dass es ein weiteres Unternehmen für künstliche Intelligenz übernommen hat und sein KI-Geschäftslayout auf Unternehmensebene weiter ausbaut. Ziel dieser Übernahme ist Chatterbox Labs, ein 2011 gegründetes Privatunternehmen, das sich auf KI-Modelltests und Sicherheitsschutzfunktionen („Leitplanken“) für generative KI konzentriert.
Chatterbox Labs stellt eine Plattform namens AIMI bereit, die quantitative Indikatoren für KI-Risiken bereitstellen und eine Reihe von Funktionen rund um Modellverhalten und Risikomanagement bereitstellen kann, um Unternehmen dabei zu helfen, fehlerhafte Ergebnisse und potenzielle Risiken von Modellen in praktischen Anwendungen zu bewerten und zu kontrollieren.
Red Hat sagte, dass eine kontinuierliche Überwachung von Modellverzerrungen, Toxizität und verschiedenen Schwachstellen zu einem Muss geworden sei, da Unternehmen KI-Projekte vom experimentellen Stadium in die Produktionsumgebung vorantreiben. KI-Sicherheitstests und „Leitplanken“-Funktionen werden zur „Grundschwelle“ moderner MLOps- und LLMOps-Plattformen.
Red Hat erklärte in einer Erklärung, dass die Übernahme eine direkte Reaktion auf die schnell steigende Nachfrage nach „KI-Sicherheit“ sei und hofft, dass Kunden durch die Integration der Technologie von Chatterbox Labs eine umfassendere Open-Source-KI-Plattform der Enterprise-Klasse erhalten, damit sie „KI-Workloads in Produktionsumgebungen mit Zuversicht ausführen“ können. Durch die Integration der Technologie von Chatterbox Labs in seine bestehende Produktmatrix hofft Red Hat, Unternehmen dabei zu helfen, die Implementierung großer Modelle und generativer KI reibungsloser voranzutreiben und gleichzeitig Sicherheit und Compliance zu gewährleisten.
In Bezug auf die Produkt-Roadmap sagte Red Hat, dass die Technologie von Chatterbox Labs das kürzlich veröffentlichte Red Hat AI 3 ergänzen und der Plattform umfassendere Sicherheitstest- und Risikomanagementfunktionen hinzufügen wird.
Das Unternehmen bekräftigte außerdem seine konsequente Open-Source-Linie: In Zukunft plant es, die relevante KI-Technologie, die durch diese Übernahme erworben wurde, schrittweise als Open Source bereitzustellen, um die Akzeptanz in der Community zu erhöhen und Innovationen zu fördern.
Red Hat sagte in der Ankündigung, dass sein langjähriges Modell darin bestehe, zunächst proprietäre Technologie zu erwerben und dann die Technologieentwicklung und den ökologischen Wohlstand durch Open Source zu fördern. Mit dieser Transaktion wird auch dieses „Standard-Open-Source-Entwicklungsmodell“ fortgeführt. Da die Technologie von Chatterbox Labs phasenweise als Open Source verfügbar ist, werden diese wichtigen KI-Sicherheitstools nach und nach der breiteren Community zur Verfügung gestellt, sodass mehr Organisationen von den Funktionen zur Voreingenommenheitskontrolle, Sicherheitsüberprüfung und Risikoquantifizierung profitieren können.