Zusammenfassung:
Im Februar dieses Jahres brachte Perplexity Perplexity Computer auf den Markt. Hierbei handelt es sich um eine Reihe von Agententools für künstliche Intelligenz, die Claude Cowork ähneln und das Netzwerk sowie Dateien und Anwendungen auf dem Computer des Benutzers nutzen können, um verschiedene Aufgaben autonom zu erledigen. Seitdem hat die Plattform nach und nach mehrere Produkte entwickelt, darunter Personal Computer für Mac. Heute hat Perplexity eine neue Funktion namens Hybrid Compute angekündigt.
Hybrid Compute ermöglicht es Benutzern, eine Aufgabe zur gemeinsamen Verarbeitung zwischen dem hochmodernen Cloud-Modell und dem lokalen großen Sprachmodell aufzuteilen. Das Cloud-Modell kann ein Hochleistungsmodell wie Opus 5 oder GPT-5.6 Sol sein, während das lokale Modell auf dem eigenen Computer des Benutzers läuft. Die Kernidee besteht darin, das lokale Modell mit sensiblen Informationen umgehen zu lassen und sicherzustellen, dass die relevanten Daten immer sicher auf dem Gerät verbleiben.
Perplexity sagte, dass Hybrid Compute für eine Vielzahl von Szenarien geeignet sei. Beispielsweise könnte ein Anwalt damit einen juristischen Bericht verfassen, in dem er einen laufenden Fall mit bestehenden Präzedenzfällen vergleicht. Dabei können Kundendaten lokal gespeichert werden und ein Hochladen in die Cloud entfällt. Für Benutzer, die ihre Kosten kontrollieren möchten, kann Hybrid Compute auch einen Teil der Arbeit von den normalerweise teureren Spitzenmodellen auf lokale Modelle verlagern, um die Inferenzkosten zu senken.
„Diese Funktion ist direkt in die Mac-App integriert. Jedes Mal, wenn Sie versuchen, eine Datei hochzuladen oder eine Nachricht zu senden, prüft das System automatisch, ob diese vertrauliche Inhalte enthält und bestätigt, ob Sie bereit sind, diese Daten an die Cloud weiterzugeben.“ sagte Jon Staff, Produktleiter von Perplexity Mac. Im Rahmen der Einführung hat Perplexity auch einen neuen Datenschutzklassifikator trainiert, der automatisch Dateien und Informationen empfehlen kann, die Benutzer lokal auf ihren Computern aufbewahren sollten.
Bevor Hybrid Compute damit beginnt, Aufgaben verschiedenen Modellen zuzuweisen, können Benutzer zunächst die Dateien anzeigen, die das System isolieren und lokal speichern möchte, um sicherzustellen, dass keine wichtigen Inhalte übersehen wurden. Der Benutzer kann in dieser Phase auch entscheiden, welche Modelle die Aufgabe erledigen.
Zu den lokalen Modelloptionen gehören derzeit Gemma E4B und zwei Versionen des Qwen 3.6-Modells, beide mit 35 Milliarden Parametern. Eine Version wurde von Perplexity nachtrainiert. Das Unternehmen sagt, dass in Zukunft weitere lokale Modelle verfügbar sein werden. Egal welches Modell der Benutzer wählt, für den Installationsvorgang ist kein Öffnen eines Mac-Terminals erforderlich, die Perplexity-App kümmert sich um den Abschluss der Installation.
Während das System läuft, können Benutzer visuelle Informationen über die lokale CPU-, GPU- und Speichernutzung sehen. In der Seitenleiste daneben wird die Anzahl der von der Aufgabe verbrauchten Token angezeigt. Für Benutzer, die von lokalen Modellen generierte Token auf ihren eigenen Computern verwenden, fallen keine Gebühren an. Nachdem das System die Ergebnisse generiert hat, kann der Benutzer wie gewohnt weitere Anweisungen eingeben oder die Aufgabe über das iPhone zur Warteschlange hinzufügen.
Auf die Frage, ob Perplexity die von Hybrid Compute generierten Ergebnisse mit einem System verglichen hat, das vollständig auf der Cloud basiert, antworteten Mitarbeiter: „Kurz gesagt, wenn man sich nur die Qualität des Rohprodukts ansieht, ist der Output bei vollständiger Nutzung des hochmodernen Modells fast immer besser. Es kostet mehr, bietet aber auch mehr Möglichkeiten.“
Die Mitarbeiter fügten jedoch hinzu, dass nicht alle Benutzer die fortschrittlichsten und leistungsstärksten KI-Modelle benötigen, um ihre Arbeit zu erledigen. In solchen Fällen sind Datenschutz und Kosten möglicherweise wichtiger als die Fähigkeiten des Modells.
„Ich denke, dies sollte eine anpassbare Skala sein. Für die spezifische Arbeit, die der Benutzer erledigen möchte, möchten wir, dass der Benutzer entscheidet, wo er sich auf dieser Skala befindet. Natürlich werden wir versuchen, basierend auf dem Kontext, den wir haben, die am besten geeignete Lösung zu empfehlen, aber letztendlich ist es immer noch Sache des Benutzers, zu entscheiden, welche Lösung seinen Anforderungen am besten entspricht.“ Mitarbeiter sagten.
Derzeit ist Hybrid Compute nur für Mac-Computer verfügbar, die mit Apple Silicon-Chips ausgestattet sind und auf denen macOS 15 läuft. Perplexity empfiehlt Geräte mit mindestens 32 GB einheitlichem Speicher. Die Funktion steht Pro- und Max-Abonnenten sowie den Unternehmenskunden von Perplexity zur Verfügung.
Kommentare