# 策展 · X (Twitter) 🔥🔥🔥

> 📖 本站完整內容索引（documentation index）：[llms.txt](/llms.txt)

> 作者：Demis Hassabis (@demishassabis) · 平台：X (Twitter) · 日期：2026-07-15

> 原始來源：https://x.com/demishassabis/status/2076957440109625718

## 中文摘要

Demis Hassabis 認為，AGI 可能在數年內到來，因此現在正是建立前沿 AI 標準與安全框架的關鍵時刻。

**這是人類歷史的關鍵時刻**

Demis Hassabis 認為，AGI（通用人工智慧）可能只需幾年便會出現。AGI 是一種具備大腦所有認知能力的系統；數十年後回頭看，我們或許會發現自己正站在奇點的山麓，迎接人類的新時代。

他一生都投入 AGI 研究，因為他始終相信，只要以負責任的方式建造並部署，AGI 將成為人類發明過最有益、最具變革性的技術之一。AGI 不能與一般技術突破相提並論，即使是網際網路或行動技術也一樣；它更像是發現電力或火。仔細想想，人類幾乎已經找到讓沙子思考的方法，這件事本身就近乎奇蹟。

這項技術的影響力將前所未有，可能以工業革命十倍的影響力、用十分之一的時間發生。它將協助人類加速藥物研發、開發新的潔淨能源、創造先進材料，甚至可能讓資源不再是人類進步的限制，帶來新的豐饒時代。

**前沿開發的挑戰**

AI 已開始帶來實際效益，但若要實現它的巨大潛力，就必須謹慎度過這段關鍵發展期。前沿模型已對網路安全帶來挑戰，核能與生物風險等威脅也可能隨著能力提升而出現。未來，我們需要強大的防護機制，才能控制日益具備 Agent 特性、甚至能遞迴式自我改進的系統，並處理那些只有在能力進一步提升後才會明朗的未知問題。

他相信人類的創意與智慧能共同解決 AI 的技術風險，但前提是社會必須給自己足夠的時間與空間，把下一個關鍵步驟做好。眼下，整個產業與社會並沒有做到這一點。

目前世界正陷入高度激烈、層次交疊的商業與地緣政治競賽。競爭雖然推動快速進展，也加速了 AI 的正面成果，但前沿能力已超越我們對技術的理解；沒有人確切知道接下來會發生什麼，專家之間也存在分歧。在不確定性很高、利害關係又如此重大的情況下，審慎樂觀才是合理的策略。因此，公共政策應在鼓勵創新的同時促進責任與安全，推動國際合作，也要仔細考量 AI 的部署方式。

**建立前沿 AI 標準機構的框架**

AI 的快速進展需要一種新的前沿模型能力測試方式：它必須動態、可調整，而且嚴謹。美國具備經濟與技術條件，可以率先建立這樣的框架，例如成立一個類似金融業監管局（FINRA）的公私協作標準機構或自律組織，並由獨立的頂尖技術專家與開源社群代表共同參與。

資金需求必須相當可觀，而且很可能主要來自產業界，才能吸引世界級技術人才，並提供大規模測試所需的算力資源。

這個標準機構將負責制定評估協定，並與適當的聯邦機構及美國國家實驗室合作，測試與國家安全相關的能力。模型若在標準機構制定並定期更新的一組基準測試中達到門檻，就可被歸類為「前沿級（Frontier-class）」。符合這些標準的組織則可被定義為「前沿實驗室（Frontier Labs）」。

前沿實驗室應採取多項最佳實務，包括發布包含技術細節的模型卡、維持強大的內部網路安全、審查關鍵人員，以及為安全與防護研究提供足夠資源。

在初期，前沿實驗室會自願在模型發布前最多 30 天，將模型提供給標準機構審查。等評估協定被證明有效且穩健後，制度便可能迅速正式化；屆時，前沿模型必須通過評估，才能在美國市場部署。各實驗室也應與標準機構合作，處理發布後發現的重大漏洞。

模型評估應包含網路安全、生物威脅及其他高風險領域的嚴謹科學測試。針對 Agent 的測試可以檢查模型是否試圖繞過安全防護、是否出現欺騙跡象，也可以確認是否採取數位浮水印等最佳實務，以及是否能產生人類可讀的輸出 token，協助人類理解模型推理。

這些評估應定期更新，初期或許可以每季更新一次，淘汰已過時或飽和的基準，並以新的測試取代。測試最初可與前沿實驗室共同制定，但標準機構最終應建立獨立的技術能力，設計不向實驗室公開的保留測試，以避免模型過度擬合。標準機構也可以與美國政府合作，促成第三方稽核者參與評估與新基準的開發。

這套方法的優點，在於它以技術為核心，同時支持創新並鼓勵負責任的行為。它能跟上 AI 產業的加速速度，隨著最大風險被辨識而調整，必要時也可以提高要求，例如協調前沿實驗室放慢開發速度。被指定為前沿實驗室將帶來相當聲望，而且任何達到基準要求的組織都能加入。這套框架不論模型來自哪個國家、採開源或封閉方式，都可以適用；來自新創公司或學術界的非前沿模型則可豁免。

這項由美國發起的工作，可以成為建立共同國際前沿 AI 標準的起點。由於 AI 將影響全世界，理想情況下，這套框架能促使國際社會就最嚴重的風險管理方式達成共識，同時確保所有人都能接觸並受益於 AI 帶來的機會。

**未寫定的未來**

AGI 有潛力成為推進科學與醫學的終極工具，帶來巨大的生產力增長與經濟成長。但要做到這一點，我們必須透過共同的全球框架、最嚴謹的科學方法，以及各領域頂尖人才的合作，把技術基礎打好。

即使技術挑戰都能解決，我們仍要面對複雜的經濟與哲學問題：後稀缺世界需要什麼樣的經濟制度，才能讓所有人都能繁榮？我們想遵循什麼價值、如何理解意義與目的，甚至人類本身會如何改變？這些問題不應、也不能只交給技術人員處理，而需要整個社會共同定義下一章。

AI 帶來巨大的興奮與不確定性，兩者都合理。但未來尚未寫定。在 AGI 到來前，我們必須利用這段珍貴的窗口期，讓技術朝造福全人類的方向發展。現在集體做出的選擇，將決定文明下一階段如何展開。只要安全地引導 AGI 進入世界，我們就有機會迎來科學發現、人類進步與繁榮的新黃金時代。

## 標籤

產業趨勢, 其他, DeepMind