# Perplexity Computer 推出 Hybrid Compute，雲端研究推理、本機 Mac 處理私有檔案
> 📖 本站完整內容索引（documentation index）：[llms.txt](/llms.txt)
> 原作者：Perplexity (@perplexity_ai) · 策展與摘要：EasyVibeCoding · 平台：X (Twitter) · 熱度：🔥🔥🔥 · 日期：2026-09-02
> 原始來源：https://x.com/perplexity_ai/status/2094803515264978953
## 證據與延伸閱讀
- [Perplexity Computer 推出 Hybrid Compute，雲端研究推理、本機 Mac 處理私有檔案。](https://perplexity.ai/cs/hub/blog/optimizing-on-device-inference-for-apple-silicon) — 官方文件 · 最後核對：2026-09-02 · 支持主張：The article describes Lily, a Rust and Metal Apple-silicon engine for Qwen3.6-35B-A3B with separate prefill/decode optimization and an OpenAI-compatible chat-completions API; vendor measurements on one M5 Max report 1.23 times MLX-LM prefill throughput and 1.35 times decode throughput under stated contexts.
- [Perplexity Computer Hybrid Compute and Lily local inference — perplexity.ai（貼文明示來源）](https://perplexity.ai/help-center/en/articles/14659663-what-is-personal-computer) — 一手來源 · 支持主張：The article describes Lily, a Rust and Metal Apple-silicon engine for Qwen3.6-35B-A3B with separate prefill/decode optimization and an OpenAI-compatible chat-completions API; vendor measurements on one M5 Max report 1.23 times MLX-LM prefill throughput and 1.35 times decode throughput under stated contexts.
- [推出 Hybrid Compute 雲端與本機推理](https://x.com/perplexity_ai/status/2094803515264978953)
- [示範畫面顯示 PII 偵測與隱私選項](https://video.twimg.com/amplify_video/2094803470000009216/vid/avc1/1280x720/VIS8XrVnRLZIpRER.mp4?tag=14)
## 中文摘要
Perplexity Computer 推出 Hybrid Compute，雲端研究推理、本機 Mac 處理私有檔案。
**功能與使用方式** Hybrid Compute 已於 2026 年 9 月 1 日在 Perplexity Mac app 提供。Computer 可先在雲端啟動任務，再把涉及本機檔案或應用程式的步驟交給 Mac 上的本機模型。示範畫面顯示，系統會在處理 `Meridian_management.pdf` 前標記 9 個姓名、9 個職稱、9 個 email、6 個電話號碼及其他個人資訊，讓使用者選擇留在裝置本機處理，或仍將原始檔案上傳至雲端；這代表使用者仍需先檢查 app 權限與資料流向。Hybrid Compute 的安全模型及私有檔案的資料邊界目前尚未說明。
> Perplexity Mac App 的 Hybrid Compute 介面與本機隱私防護功能
**Lily 架構** Lily 是 Perplexity 為 Apple silicon 與 `Qwen3.6-35B-A3B` 打造的輕量本機推論引擎，分別最佳化 prefill（處理輸入 prompt）與 decode（生成 token）：
- Rust runtime 載入 model checkpoint、管理 session state 與生成流程。
- OpenAI-compatible chat-completions API 接收請求並串流 token。
- 自訂 Metal kernels 執行 Qwen 專用運算，執行路徑不使用 PyTorch 或 MLX。
- 該 checkpoint 雖有 350 億個參數，但每個 token 約啟用 30 億個；模型在 256 個 experts 間路由，選取 8 個加 1 個 shared expert。
**效能數據與限制** Perplexity 在一台配備 M5 Max、40-core GPU 與 128 GB unified memory 的 MacBook Pro 上測試，涵蓋 256 至 128K tokens 的 10 種 prompt 長度與 10 種 decode context 長度。Lily 的平均 prefill throughput 成長為 MLX-LM 的 1.23 倍，decode throughput 成長為 1.35 倍；在 4K-token prompt 與 4K-token decode context 下，兩者分別為 5,749.9 對 4,737.5，以及 186.6 對 140.9 tokens per second。算術平均則為 prefill 4,156 對 3,388、decode 170.0 對 126.4。groupwise affine 4-bit quantization 讓約 70 GB 的 bfloat16 權重縮減至 19.4 GB；內部消融測試顯示，融合 dequantization 使 512-token prompt 的端到端 prefill throughput 提升 77.4%，將 routing metadata 留在 GPU 則提升 89%，但兩者不是最終 MLX-LM 對比結果的可加總貢獻。
同一台 M5 Max、同為 4K-token 情境下，Lily 的 prefill 與 decode throughput 都高於 MLX-LM；這是 Perplexity 公布的單機 vendor measurement，不代表所有 Mac 或工作負載。
**後續觀察** 上述結果只是在單台 M5 Max 上由廠商自行測得，不能直接代表所有 Mac 或工作負載；Perplexity 只表示 Lily 之後會開源，尚未提供發布日期或授權條款，因此建置前應先確認模型與 API 相容性，並在相同硬體、checkpoint 與 context 長度下重現 benchmark。
## 媒體內容
**Perplexity Mac App 的 Hybrid Compute 介面與本機隱私防護功能**
**影片中的 Prompt 與操作**
Prompt（00:22）：
```
查看 Documents 中的 Meridian 檔案。根據他們修訂的預測來重新調整模型。與同類交易進行基準對比，如果報酬率仍然達標，則更新 IC 簡報。
```
原文：Look at the Meridian files in Documents. Rework the model with their revised projections. Benchmark against comparable deals and then update the IC deck if the returns still clear.
操作步驟：
1. （00:16）點擊模型選單切換至 Local Model / Claude Fable 5
2. （00:27）點擊送出按鈕執行
3. （00:37）點擊確認「Process on My Mac」選項
4. （00:39）點擊 Submit 按鈕
## 標籤
新產品, IDE, Perplexity Computer, Perplexity, Perplexity Mac app