# 策展 · X (Twitter) 🔥🔥🔥

> 📖 本站完整內容索引（documentation index）：[llms.txt](/llms.txt)

> 作者：ClaudeDevs (@ClaudeDevs) · 平台：X (Twitter) · 日期：2026-05-31

> 原始來源：https://x.com/ClaudeDevs/status/2060432688281251998

## 中文摘要

Claude Opus 4.8 透過 Prompt Caching 與對話中途系統指令更新，大幅優化長文本處理效能。

Claude Opus 4.8 引入了更靈活的提示詞快取（Prompt Caching）機制，允許開發者在對話中途動態新增系統指令，且不會中斷快取狀態。這項改進透過自動快取（Automatic Caching）與明確快取斷點（Explicit Cache Breakpoints）的整合，有效降低了 API 請求的延遲與成本，特別適用於需要長上下文與頻繁互動的 Agentic 程式開發場景。

**核心快取機制與效能優化**
Prompt Caching 透過將提示詞前綴（包含 `tools`、`system` 及 `messages`）儲存於記憶體中，避免重複處理相同資訊。
- **自動快取**：系統會自動將快取斷點移至對話中最後一個可快取的區塊，無需手動設定 `cache_control`。
- **明確快取斷點**：開發者可透過在 `cache_control` 欄位設定 `type: "ephemeral"`，精確控制快取位置。建議將斷點設在跨請求保持不變的最後一個區塊，以最大化命中率。
- **快取生命週期**：預設 TTL 為 5 分鐘，並提供需額外付費的 1 小時延長方案。每次命中快取時，TTL 會自動重新整理。
- **計費邏輯**：快取寫入費用為基礎輸入價格的 1.25 倍（5 分鐘 TTL）或 2 倍（1 小時 TTL），而快取讀取費用僅為基礎輸入價格的 10%。

**對話中途系統指令更新**
Claude Opus 4.8 支援在對話中途插入 `system` 訊息，這項功能允許開發者在不破壞先前快取前綴的前提下，即時調整 Agent 的行為準則。
- **實作規範**：此類訊息必須緊接在 `user` 訊息或以伺服器工具使用（Server Tool Use）結尾的 `assistant` 訊息之後。
- **優先級**：中途插入的系統指令優先級高於頂層 `system` 欄位，且不會導致先前的快取失效。
- **限制與安全**：此功能不支援 Amazon Bedrock、Vertex AI 或 Microsoft Foundry。開發者需注意，系統訊息並非安全邊界，仍須遵循 [mitigate jailbreaks and prompt injections](https://docs.anthropic.com/en/docs/test-and-evaluate/strengthen-guardrails/mitigate-jailbreaks) 指導原則以防範提示詞注入攻擊。

**實作與監控指南**
為確保快取效能，開發者應監控 API 回應中的 `usage` 欄位，包括 `cache_creation_input_tokens`（寫入）與 `cache_read_input_tokens`（讀取）。
- **快取預熱（Pre-warming）**：透過發送 `max_tokens: 0` 的請求，可在正式互動前將系統提示詞或工具定義載入快取，消除首次請求的延遲。
- **診斷工具**：若發生預期外的快取未命中，建議使用 [Cache diagnostics](https://docs.anthropic.com/en/docs/build-with-claude/cache-diagnostics) 工具定位提示詞分歧點。
- **程式碼範例（cURL）**：
```bash
curl https://api.anthropic.com/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-opus-4-8",
    "max_tokens": 1024,
    "cache_control": {"type": "ephemeral"},
    "system": "You are a helpful assistant that remembers our conversation.",
    "messages": [
      {"role": "user", "content": "My name is Alex. I work on machine learning."},
      {"role": "assistant", "content": "Nice to meet you, Alex! How can I help with your ML work today?"},
      {"role": "user", "content": "What did I say I work on?"}
    ]
  }'
```

**開發建議與最佳實踐**
- **隔離機制**：快取項目在 Workspace 層級進行隔離，確保不同組織間的資料安全性。
- **穩定性**：在處理 `tool_use` 時，應確保 JSON 鍵值順序穩定，避免因程式語言的隨機化特性導致快取失效。
- **資源管理**：針對大型輸入，建議在程式碼中使用 Generator 以避免記憶體過度消耗。更多實作細節可參考 [Prompt caching](https://docs.anthropic.com/en/docs/build-with-claude/prompt-caching) 與 [Prompting best practices](https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/claude-prompting-best-practices) 官方文件。

## 標籤

Claude, 功能更新, LLM, Anthropic, Claude