# Kimi.ai 發布 Kimi K3 模型，透過 Kimi Delta Attention 與 Attention Residuals 架構提升長文本與 Agentic 程式開發效能

> 📖 本站完整內容索引（documentation index）：[llms.txt](/llms.txt)

> 原作者：Kimi.ai (@Kimi_Moonshot) · 策展與摘要：EasyVibeCoding · 平台：X (Twitter) · 熱度：🔥🔥🔥🔥🔥 · 日期：2026-07-17

> 原始來源：https://x.com/Kimi_Moonshot/status/2077830229968683203

## 證據與延伸閱讀

- [Kimi K3為首款開放3T級模型](http://kimi.com/blog/kimi-k3)

## 中文摘要

Kimi.ai 發布 Kimi K3 模型，透過 Kimi Delta Attention 與 Attention Residuals 架構提升長文本與 Agentic 程式開發效能。

**核心技術與架構更新**
Kimi K3 預計成為首款開放權重的 3T 等級模型，擁有 2.8 兆參數與 100 萬 token 的 context window。其技術亮點在於：
- **Kimi Delta Attention (KDA)**：優化長文本序列的資訊流動，使百萬 token 環境下的解碼速度提升達 6.3 倍。
- **Attention Residuals (AttnRes)**：透過選擇性檢索模型深層表徵，在增加不到 2% 成本的情況下，提升約 25% 的訓練效率。
- **MoE 稀疏化架構**：結合 Stable LatentMoE，在 896 個專家模型中啟用 16 個專家，整體擴展效率較 Kimi K2 提升約 2.5 倍。

![](https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/f673f1b5ab8804e3.jpg)
> 此圖展示了 Kimi K3 模型架構的技術細節，包含 Stable LatentMoE 與 Kimi Delta Attention 模組的設計，以及 Block Attention Residuals 的運作方式。

![](https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/346621a909cb57f0.jpg)
> 圖表顯示 Moonshot AI 最新發佈的 Kimi K3 以 2.8T 的參數規模，顯著超越 DeepSeek (1.6T) 與 Xiaomi (1.02T) 等競爭對手，若完整權重依計畫釋出，將成為目前參數規模最大的開放權重前沿模型。

**Agentic 程式開發與實作能力**
Kimi K3 強調能在極少人工監督下執行長週期任務，並具備強大的視覺推理能力，能透過「vision in the loop」機制，即時觀察螢幕輸出並迭代程式碼。
- **GPU 核心優化**：在測試中，K3 設計了一套兩階段核心演算法，將 AttnRes 的前向與反向傳播時間從 283.6 ms 縮短至 114.4 ms。
- **編譯器開發**：K3 成功從零建構了「MiniTriton」編譯器，在特定 roofline 基準測試中表現優於 Triton 與 `torch.compile`。
- **晶片設計**：在 48 小時的自主運作中，利用開源 EDA 工具與 Nangate 45nm 函式庫完成了晶片的設計、優化與驗證。

![](https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/d2cb4a695efb4836.png)
> Kimi K3 在多項程式設計基準測試中展現出頂尖實力，其中在 Program Bench 與 SWE Marathon 取得領先，並在其他測試中名列前茅。

![](https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/6d1c4d592a93be2d.png)
> Kimi K3 在多項 General Agents 與 Visual Agents 基準測試中展現出頂尖的 Agent 能力，並在 SpreadsheetBench 2、Automation Bench 與 BrowseComp 等項目中取得領先。

<video src="https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/1784270772009-59xpy126.mp4" poster="https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/fcf2ed780ffe43d6.jpg" controls playsinline preload="metadata" style="max-width:100%;height:auto;display:block;margin:1rem 0"></video>
> 一名騎馬者在遊戲場景中穿梭，畫面顯示了動態的天氣變化與遊戲操作介面。

**應用與生態系整合**
Kimi K3 現已於 [Kimi.com](http://Kimi.com)、Kimi Work、Kimi Code 及 Kimi API 上線。
- **Kimi Work**：新增「Widgets」與「Dashboard」功能，讓使用者能將互動元件嵌入聊天視窗，並建立個人化的專案追蹤儀表板。
- **API 價格**：快取命中輸入為 $0.30/MTok，未命中輸入為 $3.00/MTok，輸出為 $15.00/MTok。
- **開放時程**：官方預計於 2026 年 7 月 27 日前釋出完整模型權重。

**社群與效能評價**
根據官方內部基準測試，Kimi K3 在 Online Exp Bench、DECK-Bench 與 Finance-Bench 的表現均超越 Claude Opus 4.8 與 GPT-5.5。儘管目前整體效能仍略遜於 Claude Fable 5 與 GPT-5.6 Sol，但其預計開放權重的規模與效率已引起開發者社群高度關注，甚至被視為潛在的「DeepSeek 時刻」。目前 OpenCode Go 使用者已可立即存取該模型，但因尚未達成折扣協議，使用時會消耗較高的額度。

![](https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/ad612a88b218ebc7.jpg)
> Kimi K3 在 Online Exp Bench、DECK-Bench 及 Finance-Bench 三項內部基準測試中，表現均優於 GPT 5.5 與 Claude Opus 4.8。

![](https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/55aab3fc98ab5aac.jpg)
> 在 AttnRes 核心優化任務中，Kimi-K3 經過約 15 小時的自主演化達到了 +59.7% 的加速，略高於 Claude Fable-5 的 +57.1%（官方稱兩者表現相當、K3 每次迭代進步較快），並明顯領先 GPT-5.5 與 GPT-5.6 Sol。

## 媒體內容

**Kimi K3 在多項程式設計基準測試中展現出頂尖實力，其中在 Program Bench 與 SWE Marathon 取得領先，並在其他測試中名列前茅。**

**數據表（1）DeepSWE**

| 項目 | 數值 |
| --- | --- |
| GPT-5.6 Sol | 73.0 |
| Fable 5 | 70.0 |
| Kimi K3 | 67.5 |
| GPT-5.5 | 67.0 |
| Opus-4.8 | 59.0 |
| GLM-5.2 | 46.2 |

**數據表（2）Terminal Bench 2.1**

| 項目 | 數值 |
| --- | --- |
| GPT-5.6 Sol | 88.8 |
| Kimi K3 | 88.3 |
| Opus-4.8 | 84.6 |
| Fable 5 | 84.6 |
| GPT-5.5 | 83.4 |
| GLM-5.2 | 82.7 |

**數據表（3）FrontierSWE**

| 項目 | 數值 |
| --- | --- |
| Fable 5 | 86.6 |
| Kimi K3 | 81.2 |
| GPT-5.6 Sol | 71.3 |
| GLM-5.2 | 67.3 |
| Opus-4.8 | 66.7 |
| GPT-5.5 | 64.9 |

**數據表（4）Program Bench**

| 項目 | 數值 |
| --- | --- |
| Kimi K3 | 77.8 |
| GPT-5.6 Sol | 77.6 |
| Fable 5 | 76.8 |
| Opus 4.8 | 71.9 |
| GPT-5.5 | 70.8 |
| GLM-5.2 | 63.7 |

**數據表（5）Kimi Code Bench 2.0 (Internal)**

| 項目 | 數值 |
| --- | --- |
| Fable 5 | 76.9 |
| Kimi K3 | 72.9 |
| Opus-4.8 | 71.7 |
| GPT-5.5 | 69.0 |
| GPT-5.6 Sol | 64.8 |
| GLM-5.2 | 64.2 |

**數據表（6）SWE Marathon**

| 項目 | 數值 |
| --- | --- |
| Kimi K3 | 42.0 |
| Opus-4.8 | 40.0 |
| GPT-5.6 Sol | 39.0 |
| Fable 5 | 35.0 |
| GPT-5.5 | 14.0 |
| GLM-5.2 | 13.0 |

**Kimi K3 在多項 General Agents 與 Visual Agents 基準測試中展現出頂尖的 Agent 能力，並在 SpreadsheetBench 2、Automation Bench 與 BrowseComp 等項目中取得領先。**

**數據表（1）GDPval-AA v2 Elo**

|   | GPT-5.6 Sol | Kimi K3 | Opus-4.8 | GLM-5.2 | GPT-5.5 |
| --- | --- | --- | --- | --- | --- |
| Fable 5=1760.0 | 1748.0 | 1668.0 | 1600.0 | 1514.0 | 1494.0 |

**數據表（2）JobBench**

|   | Kimi K3 | Opus-4.8 | GPT-5.6 Sol | GLM-5.2 | GPT-5.5 |
| --- | --- | --- | --- | --- | --- |
| Fable 5=57.4 | 52.9 | 48.4 | 46.5 | 43.4 | 38.3 |

**數據表（3）AA-Briefcase Elo**

|   | Kimi K3 | GPT-5.6 Sol | Opus-4.8 | GLM-5.2 | GPT-5.5 |
| --- | --- | --- | --- | --- | --- |
| Fable 5=1583.0 | 1548.0 | 1495.0 | 1354.0 | 1260.0 | 1158.0 |

**數據表（4）SpreadsheetBench 2**

|   | Fable 5 | GPT-5.6 Sol | Opus-4.8 | GPT-5.5 | GLM-5.2 |
| --- | --- | --- | --- | --- | --- |
| Kimi K3=34.8 | 34.7 | 32.4 | 31.6 | 29.1 | 28.1 |

**數據表（5）Automation Bench**

|   | GPT-5.6 Sol | Fable 5 | Opus-4.8 | GPT-5.5 | GLM-5.2 |
| --- | --- | --- | --- | --- | --- |
| Kimi K3=30.8 | 29.7 | 29.1 | 27.2 | 22.7 | 12.9 |

**數據表（6）BrowseComp**

|   | GPT-5.6 Sol | Fable 5 | GPT-5.5 | Opus-4.8 |
| --- | --- | --- | --- | --- |
| Kimi K3=91.2 | 90.4 | 88.0 | 84.4 | 84.3 |

**數據表（7）CharXiv (RQ) w/ tool**

|   | Kimi K3 | Opus-4.8 | GPT-5.6 Sol | GPT-5.5 |
| --- | --- | --- | --- | --- |
| Fable 5=93.5 | 91.3 | 89.9 | 89.1 | 89.0 |

**數據表（8）Zerobench w/ tool (Pass@5)**

|   | Kimi K3 | GPT-5.5 | GPT-5.6 Sol | Opus-4.8 |
| --- | --- | --- | --- | --- |
| Fable 5=46.0 | 41.0 | 41.0 | 35.0 | 34.0 |

**Kimi K3 在 Online Exp Bench、DECK-Bench 及 Finance-Bench 三項內部基準測試中，表現均優於 GPT 5.5 與 Claude Opus 4.8。**

**數據表**

|   | Online Exp Bench | DECK-Bench | Finance-Bench |
| --- | --- | --- | --- |
| Kimi K3 | 75.5 | 73.5 | 62.6 |
| GPT 5.5 | 70.6 | 68.2 | 58.4 |
| Claude Opus 4.8 | 65.9 | 66.9 | 60.7 |

**在 AttnRes 核心優化任務中，Kimi-K3 經過約 15 小時的自主演化達到了 +59.7% 的加速，略高於 Claude Fable-5 的 +57.1%（官方稱兩者表現相當、K3 每次迭代進步較快），並明顯領先 GPT-5.5 與 GPT-5.6 Sol。**

**數據表**

|   | 起始 | 最佳 | 結束 |
| --- | --- | --- | --- |
| Kimi-K3 +59.7% | 0.0% | 59.7% | 59.7% |
| Claude Fable-5 +57.1% | 0.0% | 57.1% | 57.1% |
| GPT-5.5 +30.8% | 0.0% | 30.8% | 30.8% |
| GPT-5.6 Sol +17.3% | 0.0% | 17.3% | 17.3% |

**一名騎馬者在遊戲場景中穿梭，畫面顯示了動態的天氣變化與遊戲操作介面。**

**影片中的 Prompt 與操作**

操作步驟：

1. （00:00）騎馬者在森林小屋前移動
2. （00:07）天氣轉為下雨，騎馬者向池塘方向移動

**圖表顯示 Moonshot AI 最新發佈的 Kimi K3 以 2.8T 的參數規模，顯著超越 DeepSeek (1.6T) 與 Xiaomi (1.02T) 等競爭對手，若完整權重依計畫釋出，將成為目前參數規模最大的開放權重前沿模型。**

**數據表**

|   | Jul 2025 | Jul 2026 |
| --- | --- | --- |
| Moonshot AI | 1.02T (Kimi K2) | 2.8T (Kimi K3) |
| DeepSeek |  | 1.6T |
| Xiaomi |  | 1.02T |
| Thinking Machines |  | 975B |
| Z.AI |  | 744B |
| MiniMax |  | 428B |
| Alibaba |  | 397B |

## 標籤

新產品, 功能更新, LLM, Agent, Kimi, Moonshot AI