# Tencent 發布開放權重預覽模型 Hy4-preview-FP8：約 770B 總參數、每個 token 啟用約 49B，context window 最高 100 萬 token

> 📖 本站完整內容索引（documentation index）：[llms.txt](/llms.txt)

> 原作者：Tencent AI (@TencentAI_News) · 策展與摘要：EasyVibeCoding · 平台：X (Twitter) · 熱度：🔥🔥🔥 · 日期：2026-08-30

> 原始來源：https://x.com/TencentAI_News/status/2093284045530845266

## 證據與延伸閱讀

- [Tencent 發布開放權重預覽模型 Hy4-preview-FP8：約 770B 總參數、每個 token 啟用約 49B，context window 最高 100 萬 token。](https://huggingface.co/tencent/Hy4-preview-FP8) — 官方文件 · 最後核對：2026-08-29 · 支持主張：Adds a downloadable FP8 model card with routed-expert architecture and IndexCache and iHC mechanisms for long-context and attention efficiency.

## 中文摘要

Tencent 發布開放權重預覽模型 Hy4-preview-FP8：約 770B 總參數、每個 token 啟用約 49B，context window 最高 100 萬 token。

**架構與效率** Hugging Face 上的官方 model card 詳列 Hy4-preview-FP8 的 routed-expert 設計，包含 78 層 transformer layers、256 個 routed experts，以及每個 token 啟用的 8 個 experts。模型也加入名為 IndexCache 與 iHC 的機制，目標是改善長 context 處理與 attention 效率；不過這些機制在來源中是架構說明，並不等同於已獲得獨立驗證的效能結論。

<video src="https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/1788080990043-x04uo68v.mp4" poster="https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/ebfa689eae9f1ce4.jpg" controls playsinline preload="metadata" style="max-width:100%;height:auto;display:block;margin:1rem 0"></video>
> Tencent Hy4-preview-FP8 的架構圖解與功能演示

**FP8 部署** 此版本以 FP8 量化形式提供可下載權重，目的是讓這個規模龐大的模型更具實際部署可能性。參數總量與每個 token 的啟用計算量不能混為一談，也不能據此推論它具備小型 dense model 的記憶體需求。實際導入前，仍須依硬體配置、服務設定與相容性測試估算伺服器需求。

**可評估範圍** 使用者可從官方 model card 檢視 Hy4-preview-FP8 的架構、使用方式與部署資訊，並在受控硬體與品質測試下評估 100 萬 token context window 的實際表現。Tencent 的 X 公告與 Hugging Face model card 互相佐證了參數規模、context window 與開放權重的資訊；官方 model card 位於 [Hugging Face 的 Hy4-preview-FP8 頁面](https://huggingface.co/tencent/Hy4-preview-FP8)，公告則見於 [TencentAI_News 的 X 貼文](https://x.com/TencentAI_News/status/2093284045530845266)。

**預覽限制** Hy4-preview-FP8 仍是 preview，效能與相容性可能持續變動；model card 也沒有獨立保證模型在 100 萬 token context window 的所有位置都維持一致品質，更未驗證所有比較性 benchmark。正式投入生產環境前，仍需人工核對授權、硬體 footprint、安全特性與服務部署設定，不能只因模型採用開放權重或提供 FP8 版本，就視為可直接安心上線。

## 媒體內容

**Tencent Hy4-preview-FP8 的架構圖解與功能演示**

**影片中的 Prompt 與操作**

Prompt（00:06）：

```
在「Epic Electric Dreams」範例專案中，使用 Unreal MCP Bridge 從頭到尾以程式設計方式建立一個 500 平方公尺的暮色森林 FPS 示範場景：將天氣設為柔和的暮色，使用 PCG 方法來產生 Megascans 實體（岩石、樹木、灌木、枯木等），並將其精確放置在峰值海拔 93.8 公分、經由程序產生的起伏地形上；以及玩家（500 HP / 每秒 6 公尺 / 40 發彈匣與
```

原文：In the "Epic Electric Dreams" sample project, use the Unreal MCP Bridge to programmatically build a 500-square-meter twilight forest FPS demo from start to finish: Set the weather to a soft twilight, use a PCG approach to generate Megascans instances (rocks, trees, shrubs, deadwood, etc.), and precisely place them on procedurally generated undulating terrain with a peak elevation of 93.8 cm; as well as the player (500 HP / 6 metres per second/40-round magazine and

Prompt（00:34）：

```
你是公司財務共用服務中心的費用稽核專家。請審查所有 24 筆費用報銷申請，並判定每一筆應該「全額核准」、「扣除部分金額後核准」還是「退回以補交文件」。在審查過程中，你必須獨立查閱並交叉比對此目錄中的所有資料，包括政策文件及其附件、員工名冊、部門預算、個人累計消費上限、歷史發票總帳以及相關電子郵件。
```

原文：You are an expense audit specialist at the company's finance shared service centre. Please review all 24 expense claims and determine whether each one should be "approved in full", "approved with deductions" or "returned for further documentation". During the review, you must independently consult and cross-check all the materials in this directory, including policy documents and their annexes, the staff register, departmental budgets, individual cumulative spending limits, historical invoice ledgers and relevant emails.

操作步驟：

1. （00:36）點擊輸入框右下角的傳送按鈕

## 標籤

新產品, LLM, 開源專案, Tencent, Hugging Face