Perplexity Computer wird diesen Sommer ein wichtiges Upgrade einführen: Unterstützung für die automatische Zuweisung von Aufgaben zwischen lokalen und Cloud-KI-Modellen, um hybride Argumentationsfunktionen zu erreichen, die Datenschutz und Rechenleistung besser in Einklang bringen.
Laut Perplexity ist Perplexity Computer das Agentensystem des Unternehmens, das „echte Arbeit für Benutzer leistet“, indem es die Orchestrierung verschiedener Modelle und Tools zur Bewältigung komplexer Aufgaben automatisiert. In Kürze verfügbare neue Funktionen ermöglichen es dem System, je nach Art der Aufgabe und Datensensibilität intelligent zwischen einem kompakten Modell, das lokal auf dem Gerät ausgeführt wird, und einem leistungsfähigeren, hochmodernen Modell in der Cloud zu wechseln. Laut der offiziellen Einführung zielt dieses Design darauf ab, bei der Verarbeitung sensibler Daten so lokal wie möglich zu bleiben und gleichzeitig das Cloud-Modell nahtlos aufzurufen, wenn eine starke Rechenleistung benötigt wird, wodurch ein Gleichgewicht zwischen Sicherheit und Effizienz hergestellt wird.
Berichten zufolge werden im neuen „Hybrid Agentic Inference“-Modus Arbeiten mit vertraulichen Inhalten wie Finanzunterlagen, Gesundheitsinformationen und persönlichen Dateien von einem lokalen kleinen Modell, das auf dem Gerät des Benutzers ausgeführt wird, priorisiert, um zu bestimmen, welche Daten für die lokale Verarbeitung unbedingt aufbewahrt werden müssen. Gleichzeitig werden Aufgaben, die keinen hohen Datenschutz erfordern, aber eine stärkere Argumentation und Fähigkeiten für große Kontexte erfordern, automatisch modernsten Modellen in der Cloud zur Ausführung zugewiesen. Perplexity betont, dass die meisten realen Aufgaben oft sowohl sensible als auch nicht sensible Teile enthalten, sodass das System die Aufgabe automatisch in mehrere Unteraufgaben aufteilt und die Planung zwischen lokal und Cloud koordiniert, anstatt dass Benutzer im Voraus zwischen „lokalem“ und „Cloud“-Modus wählen müssen.
Perplexity demonstrierte das Konzept dieser Hybridarchitektur weiter in einem auf einer sozialen Plattform veröffentlichten Video. Offiziellen Quellen zufolge soll die Funktion zur Hybrid-KI-Orchestrierung im Juli offiziell für Benutzer von Perplexity Computer eingeführt werden.