// COMPUTERBASE — SALUTE
Perplexity Computer: Neuer Hybrid-Modus für Macs soll in Vorbereitung sein
Perplexity soll für Computer auf dem Mac einen neuen Hybrid-Modus vorbereiten, der Cloud-KI mit lokal ausgeführten Modellen kombiniert und Teilaufgaben automatisch an ein installiertes KI-Modell weiterreicht. Das soll Kosten senken und zugleich sensible Daten ausschließlich auf dem Mac belassen.
Laut einem Bericht von Testing Catalog will Perplexity Computer von einem reinen Cloud-Agenten zu einer Orchestrierungsschicht erweitern, die Cloud-Infrastruktur und Hardware unter Kontrolle des Anwenders miteinander verbinden soll. Bereits im Juni dieses Jahres hatte das KI-Unternehmen erste Pläne rund um die neue Hybrid-Funktion öffentlich gemacht.
Unter Perplexity Computer sollen Aufgaben künftig dynamisch zwischen lokalen und serverbasierten KI-Modellen verteilt werden. Das System entscheidet dabei selbstständig, welche Art der Verarbeitung für die jeweilige Aufgabe besser geeignet ist und somit welche Abläufe direkt auf dem Gerät ausgeführt und welche an leistungsfähigere Cloud-Modelle ausgelagert werden sollen. Dabei hatte das Unternehmen vor allem Bereiche im Blick, in denen sensible Informationen verarbeitet werden.
Umgesetzt werden soll dies, indem zunächst ein kompaktes lokales Modell erkennt, welche Inhalte aus Datenschutzgründen ausschließlich auf dem Gerät verarbeitet werden sollten. Aufgaben, die hingegen die volle Leistungsfähigkeit großer Frontier-Modelle benötigen, werden weiterhin wie gewohnt über Cloud-Server ausgeführt. Meist besteht die Verarbeitung dieser Daten laut Perplexity allerdings aus einer Mischung aus beidem. Daher soll Perplexity Computer beide Bereiche automatisch koordinieren und abhängig von der jeweiligen Aufgabe zwischen lokaler Verarbeitung und Cloud-Processing wechseln können. Mit Portable Computer für Nvidia DGX Spark bietet Perplexity inzwischen zudem eine Variante an, bei der Computer vollständig auf lokaler Hardware laufen kann.
Auf Systemen mit macOS will Perplexity allerdings einen anderen Weg einschlagen. Hier soll die zentrale Orchestrierung von Computer im Hybrid-Modus in der Cloud verbleiben. Das System soll jedoch automatisch entscheiden, welche Teilaufgaben sich für eine lokale Verarbeitung eignen, und diese an ein auf dem Mac laufendes KI-Modell übergeben. Anspruchsvollere Reasoning-Aufgaben sollen weiterhin Cloud-Modelle übernehmen, während weniger aufwendige Aufgaben lokal verarbeitet werden können. Für lokal ausgeführte Aufgaben fallen zudem keine Computer-Credits an, außerdem verbleiben die dabei verarbeiteten Daten auf dem Mac.
Der neue Modus soll sich über die Modellauswahl von Computer aktivieren lassen. Ist noch kein lokales Modell vorhanden, können Anwender die lokale Inferenz dort einrichten. Dafür soll Perplexity dem Bericht zufolge derzeit drei herunterladbare Modelle unterschiedlicher Größe vorbereiten. Als empfohlene Option soll ein nicht näher beschriebenes Perplexity-Modell mit einer Download-Größe von rund 19 GB zur Auswahl stehen, das allerdings mindestens 32 GB Arbeitsspeicher voraussetzt. Daneben soll ein etwa 17,4 GB großes Qwen-32B-Modell mit ähnlichen Speicheranforderungen angeboten werden. Für Macs mit 16 GB Arbeitsspeicher ist außerdem ein kleineres, auf Gemma basierendes Modell mit rund 5,6 GB vorgesehen.
Die zweite in dieser Hinsicht wichtige Komponente stellt das sogenannte Privacy Gate dar. Dafür soll ein separates lokales Modell die Daten im Vorfeld untersuchen, bevor Computer sie an den jeweiligen Cloud-Dienst überträgt. Erkennt das System beispielsweise personenbezogene oder sensible Informationen, kann Computer vor der Übertragung nachfragen, wie mit diesen Daten umgegangen werden soll. Die eigentliche Prüfung findet damit lokal statt, bevor potenziell problematische Informationen den Mac verlassen.
Dieses Konzept könnte insbesondere Privatpersonen und Unternehmen im Europäischen Wirtschaftsraum ansprechen, bei denen Anforderungen der DSGVO berücksichtigt werden müssen. Das Privacy Gate bedeutet allerdings nicht automatisch, dass die Verwendung