# 策展 · X (Twitter) 🔥🔥🔥🔥🔥

> 📖 本站完整內容索引（documentation index）：[llms.txt](/llms.txt)

> 原作者：OpenAI (@OpenAI) · 策展與摘要：EasyVibeCoding · 平台：X (Twitter) · 日期：2026-07-16

> 原始來源：https://x.com/OpenAI/status/2077446718728425686

## 證據與延伸閱讀

- [biggo.com](https://finance.biggo.com/news/a1fd6903-1d7d-4ecc-8f52-169d1d2a3bbb)
- [daily.dev/posts/openai-built-an-internal-red-teaming-ai-called-gpt-red-to-harden-its-models-against-prompt-injection-ct4s2wnau](https://daily.dev/posts/openai-built-an-internal-red-teaming-ai-called-gpt-red-to-harden-its-models-against-prompt-injection-ct4s2wnau)

## 中文摘要

OpenAI 發布自動化紅隊測試模型 GPT-Red，透過對抗性自我博弈訓練提升 GPT-5.6 Sol 的防禦能力。

**核心機制與應用**
OpenAI 推出 GPT-Red，旨在解決傳統人工紅隊測試難以擴展的瓶頸。該模型透過「對抗性自我博弈」（adversarial self-play）進行訓練，在模擬環境中不斷嘗試對各種防禦型大型語言模型進行 prompt injection 攻擊。一旦 GPT-Red 成功突破防禦，這些攻擊案例就會被納入防禦模型的訓練資料中，形成一個提升安全性的正向循環。

**顯著的防禦成效**
根據 OpenAI 的測試數據，GPT-Red 的導入對模型穩健性帶來了顯著提升：
- GPT-5.6 Sol 成為目前對抗 prompt injection 最穩健的模型，其失敗率較四個月前的最佳生產版本降低了 6 倍。
- 在針對「Fake Chain-of-Thought」攻擊的測試中，GPT-5.1 的成功率曾高達 95%，但在 GPT-5.6 Sol 上已降至 10% 以下。
- 即使在面對 GPT-Red 自身最強的直接攻擊時，GPT-5.6 Sol 的失敗率僅為 0.05%。

**實戰測試與安全性策略**
為了驗證 GPT-Red 的通用性與實戰能力，OpenAI 進行了多項測試：
- 在模擬的間接 prompt injection 競技場中，GPT-Red 在 84% 的場景中取得成功，遠高於人類紅隊測試員的 13%。
- 針對 Andon Labs 開發的 AI 販賣機系統，GPT-Red 成功執行了修改商品價格、訂購高價商品及取消他人訂單等惡意目標。
- 針對基於 GPT-5.4 mini 的 Codex CLI Agent，GPT-Red 展現了更高的資料外洩成功率與 token 使用效率。

OpenAI 強調，GPT-Red 僅作為內部工具使用，不會對外開放，以防止惡意攻擊者利用其強大的攻擊能力。此舉確保了生產環境模型在維持高能力水準的同時，能具備更強的穩健性，且不會因過度防禦而導致拒絕執行合法任務。

## 標籤

新產品, 功能更新, Prompt Injection, 資安, 研究論文, OpenAI