# Dario Amodei 重申 Anthropic 支持放慢 frontier AI、保留 open-weights 發展空間

> 📖 本站完整內容索引（documentation index）：[llms.txt](/llms.txt)

> 原作者：Sholto Douglas (@_sholtodouglas) · 策展與摘要：EasyVibeCoding · 平台：X (Twitter) · 熱度：🔥🔥🔥🔥 · 日期：2026-08-17

> 原始來源：https://x.com/_sholtodouglas/status/2088463770318516734

## 證據與延伸閱讀

- [Dario Amodei 重申 Anthropic 支持放慢 frontier AI、保留 open-weights 發展空間。](https://x.com/_sholtodouglas/status/2088463770318516734)
- [AGI 出現後資本主義與公司定義將改變](https://www.dwarkesh.com/p/ai-firm)
- [Gavin Baker 稱多位矽谷人士聽過類似說法](https://x.com/GavinSBaker/status/2088611616577253502)
- [Sholto 承認產業未能描繪正面未來](https://x.com/_sholtodouglas/status/2088686123229007961)
- [就業自動化與 2030 年代持續工作](https://x.com/_sholtodouglas/status/2088691147606749420)
- [Dario 否定二分法，強調制度分散權力](https://x.com/DarioAmodei/status/2088758816376807762)
- [AI 具結構性集中權力傾向](https://darioamodei.com/essay/the-adolescence-of-technology#2-a-surprising-and-terrible-empowerment) — 官方文件
- [借用電影情節形容 technology adolescence](https://cdn.prod.website-files.com/67ecbba31246a69e485fdd4b/69777ff27e0e8e04dc416214_og_the-adolescence-of-technology.jpg)
- [Yann LeCun 支持 AI 廣泛共享與開放](https://x.com/ylecun/status/2088880284129210405)
- [reddit.com](https://www.reddit.com/r/accelerate/comments/1vq056m/12_thanks_gavin_for_an_especially_thoughtful/)
- [reddit.com](https://www.reddit.com/r/technology/comments/1vq3dh3/anthropic_ceo_dario_amodei_says_the_way_for_ai_to/)
- [集中與分散的真正難題](https://artificialanalysis.ai/trends#efficiency)

## 中文摘要

Dario Amodei 重申 Anthropic 支持放慢 frontier AI、保留 open-weights 發展空間。

這場對話從一則被 Sholto Douglas 指為「完全錯誤」的說法開始，延伸至開放模型、AI 產業的公共敘事、就業衝擊，以及 AGI 可能重塑企業與經濟的長期問題。

**罕見的公開回應**　2026 年 8 月 15 日，Sholto Douglas 表示，他認同 Gavin Baker 的許多觀點，但認為有人為了迎合特定敘事而散播不實說法。這套敘事一方面宣稱 Anthropic 沒有競爭護城河，另一方面又說 Anthropic 可能強大到成為世界上唯一剩下的公司；Sholto Douglas 認為兩者互相矛盾。他特別指出，自己最擔心的事情之一正是經濟權力過度集中，政府不應讓任何公司取得如此大的影響力，社會需要競爭與資本主義。

他同時反駁「AI 市場已被少數公司壟斷」的看法，稱目前 AI 可能是全球競爭最激烈的市場：幾乎每一家最大的企業都專注於打造更聰明、價格更低的 model。若這條路順利，AI 可能把各種事物的成本壓低到接近能源成本，但這也會威脅既有產業與個人的護城河。Sholto Douglas 認為，AGI 出現後，資本主義乃至「公司」本身的定義都可能變得非常不同，並引用 Dwarkesh Patel 的分析作為延伸閱讀：[What fully automated firms will look like](https://www.dwarkesh.com/p/ai-firm)。

**Gavin Baker 的反駁**　Gavin Baker 回應，矽谷已有多位嚴肅人士聽過類似說法，之所以容易相信，是因為它符合 Dario Amodei 在公開文章中的風險論述。Dario Amodei 曾指出 AI 可能對人類造成多重危險，也可能導致經濟權力高度集中，因此需要審慎監管；Gavin Baker 表示，他相信這些論證是出於善意，也同意風險本身值得重視。

但 Gavin Baker 認為，面對 AI 可能危險的前提，社會大致有兩條路：透過監管把 AI 集中在少數公司與政治人物手中，或是讓 AI 廣泛分散。他引用 Mark Zuckerberg 的觀點，認為「AI 危險到只有極端集中權力才安全」本身就有問題；歷史並未證明，只要讓絕對權力落在足夠開明的人手中，就能得到安全而正面的結果。Gavin Baker 因此主張盡可能增加 AI 的多樣性，讓人類有更高機率找到價值觀相近的 AI，而不是押注單一權力中心。

他進一步稱，Dario Amodei 的監管倡議目前已失去說服力。Gavin Baker 將近期一個未發布的 OpenAI 先進 model 入侵 Hugging Face、最後由 open-source model 協助處理的事件，視為嚴格短期監管難以推進的例子；他也表示，除 Anthropic 外，幾乎所有主要公司都簽署了 Jensen Huang 的公開信。不過，Gavin Baker 認為 Dario Amodei 持續強調 AI 危險，反而幫助了美國反資料中心倡議團體，未來這些團體可能剪輯他的談話投放廣告。他擔心，這會降低 AI 最終協助治癒多數疾病、延長人類壽命並帶來富足未來的機率。

**Sholto Douglas 的風險區分**　Sholto Douglas 隨後承認，AI 產業確實沒有描繪出足以讓人們願意爭取的正面未來，而且這個失敗正在降低實現該未來的機率；但他認為不同風險不能用同一套政策處理。

- 在 cyber 領域，他認為整體上是防禦方占優勢。如果未來兩年由金融機構與關鍵基礎設施供應商積極進行 white-hat 自我攻擊測試，社會就可能有能力衡量開放 coding model 帶來的新增風險。短期內，美國政府或許可以選擇承受較高的 cyber 攻擊風險，以避免限制自由，但前提是政府必須先自行測試並掌握風險。
- 生物領域則偏向攻擊方占優勢，這種不對稱可能要到 2030 年代中後期才有機會改善。社會也許會認為「口袋裡有世界級病毒學家」所帶來的風險值得承受，但政府應建立專責機構，測試 AI 是否比觀看 YouTube 更能提升個人製造危害的能力，也應實際評估一個人拿著 20 萬美元與一間車庫，最糟能做到什麼程度，再隨每個新能力等級做決定。
- 就業方面，Sholto Douglas 不完全同意 Dario Amodei 對速度的判斷。他認為，即使 model 在 2028 年達到能自動化 95% 電腦工作所需的能力，compute 短缺、系統部署複雜度、政策限制與服務需求，都可能讓人類繼續工作到 2030 年代。但社會仍應預先準備不同失業率情境的應變方案，例如限制獲利公司的裁員速度每年不得超過 5%，並採用 METR 式評測追蹤各職業類別的自動化進度。

對於「現在是否應立即處理就業問題」的質疑，Sholto Douglas 表示目前就業市場仍強，因此不會立刻採取措施；但政府應先準備好備案，讓民眾知道不同情境都有應對計畫。例如，資料輸入與客服中心工作可能逐步消失，同時電工需求卻需要成長為 25%，這種勞動力轉移就應提前納入規劃。

**Dario Amodei 重新界定監管**　Dario Amodei 在 8 月 16 日罕見加入社群討論，先否定「監管等於集中、開放等於分散」這個二分法。他認為，矽谷常把 監管、監管俘虜（regulatory capture）與權力集中直接畫上等號，但公平且客觀的制度流程也可能發揮分散權力的作用。就像正式法院制度有時顯得菁英化，卻通常比群眾私刑更能保護弱勢者；好的制度能把權力放在規則與理念上，而不是特定人物手中。

他表示，Anthropic 一直嘗試提出會放慢 frontier AI 公司、卻讓較小競爭者受益的政策。Anthropic 支持的 California SB53，以及對 SB1047 持保留態度的立場，都豁免營收或 model 訓練成本低於門檻的公司；SB53 的門檻是 5 億美元。Anthropic 也支持在 CAISI 與白宮倡議更嚴格測試 frontier model，而不是 off-frontier model，並支持「Pacing the Frontier」構想：放慢最強 model 的發展速度，同時不限制追趕中的公司與 open-weights model。

Dario Amodei 的核心判斷是，AI 本身就具有結構性集中權力的傾向，原因主要來自 scaling laws 的極端效果，而非監管本身。open-weights 能部分改善問題，卻不足以解決集中，因為權力仍會轉移到擁有最多 compute 與晶片的公司，主要是 frontier lab 與部分硬體供應商。他主張設計「道路規則」，同時處理資安、生物與 AI 對齊風險，限制 frontier AI 公司的制度性權力，並保留 open-weights model 的發展空間。

Dario Amodei 也不同意監管倡議已經失敗。他表示，外界報導中的川普政府方向——在 frontier model 部署前做測試，並在 open-weights model 接近 frontier 時測試——正是他支持的方向，雖然細節仍需確認。他也支持 Demis Hassabis 提出的類似 FINRA 的監管機構，並指出產業在六個月前仍多半要求聯邦優先、排除州級監管，當時幾乎沒有聯邦方案。

**風險與希望的公共敘事**　Dario Amodei 否認自己的訊息過度負面。他表示，自己各寫過一篇主要討論風險與機會的文章，之所以社群上常見負面片段，是因為訪談中談風險的短片更容易被剪輯與傳播。他撰寫《Machines of Loving Grace》，正是因為 AI 產業沒有充分描繪技術改善世界的鼓舞性願景；文章大部分篇幅都在說明 AI 如何可能改變健康與生物學，甚至在約 5–10 年內治癒多數人類疾病。

他提到，自己的父親在直接抗病毒藥物 sofosbuvir 出現前幾年因 C 型肝炎去世；這種藥物能治癒 95% 的患者，也可能挽救父親。Dario Amodei 也在《Policy on the AI Exponential》中提出簡化 FDA 流程的方法，避免 AI 加速開發的大量藥物被監管程序拖慢。

不過，他認為大眾對 AI 的負面觀感，根本原因不是某一位 AI 領導者談太多風險，而是長期累積的信任危機。一般人不信任公司、政府與科技產業，總懷疑它們又在準備某種傷害自己的新方式。因此，靠華麗行銷宣稱 AI 會治癒癌症，不足以重建信任；真正有效的方法是「實際治癒癌症」。在成果出現以前，他不願作出空洞承諾，但仍會誠實談論真實風險。

Gavin Baker 認為，Dario Amodei 的文章雖然品質很高，但考慮到人類心理，風險與機會各占一半仍可能過度偏向風險。他同意產業最應做的事，是實際治癒癌症，而不是只改善訊息包裝。

**強大 AI 的風險背景**　Dario Amodei 在 2026 年 1 月發布的〈The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI〉中，借用《Contact》電影情節，形容人類正進入 technology adolescence：人類即將取得近乎不可想像的力量，但政治、社會與技術制度未必已成熟到能駕馭它。他反對 doomerism，也反對把 AI risk 講成宗教式或科幻式的必然末日；2023–2024 年的極端討論造成文化反彈，然而到了 2026 年，人類距離真實危險可能反而比 2023 年更近，因此討論應保持冷靜、以事實為基礎並務實行動。

![](https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/1563a2f11ffd5853.jpg)
> 米色背景上置左排版著三行黑色的字體，第一行為名字「Dario Amodei」，下方兩行為標題「The Adolescence of Technology」。

他所說的 powerful AI，不一定是今日 LLM 的原樣延伸，也可能由多個互動 model 組成，具備超越諾貝爾獎得主的生物、程式設計、數學、工程與寫作能力，還能操作文字、音訊、影片、滑鼠與鍵盤、網路、機器人及實驗設備，自主執行需要數小時、數天或數週的任務。約 2027 年，訓練資源可能轉用來執行數百萬個 instance；每個 instance 以人類 10–100 倍速度吸收資訊並採取行動，形成資料中心裡的「天才之國」。

這種能力帶來五類風險：自主行動、被濫用於破壞、被用來奪取權力、失業與財富極端集中，以及快速技術變化造成的間接影響。Dario Amodei 認為，這可能是近一世紀、甚至人類歷史上最嚴重的國家安全威脅，但並不代表毀滅必然發生；只要採取果斷且謹慎的行動，仍有很大機會克服風險。

**從模型到 AI 企業**　Dwarkesh Patel 與 Ege Erdil、Tamay Besiroglu 合作的〈What fully automated firms will look like〉，其作者明確標註這只是 “Shooting-the-shit”，對自身描述約只有 25% 的確定度，也不是對 GPT-5 的預測，而是假想真正 AGI，也就是 LLM descendants，能完成幾乎所有人類工作的世界。

這類 fully automated firms 的關鍵優勢，不只是 raw IQ，而是數位 AI 可以被複製、蒸餾、合併、擴展與演化。假設 Google 擁有 100 萬名 Jeff Dean 或 Noam Shazeer 等級的 AI software engineer，企業就能把 capital 轉成 compute，再轉成頂尖人才的複製品，並將訓練成本分攤給數千個 copies。複製單位也可能是 PayPal Mafia、early SpaceX 或 Traitorous Eight 這類已驗證有效的團隊，同時處理 1,000 個專案。

管理工作可能比勞動本身變化更大。人類 Sundar 無法直接監督 200,000 名員工、數百項產品與數百萬名客戶，但 AI Sundar 的管理頻寬主要受 TPU 數量限制；Google 的 30,000 名 middle manager 可能由 AI Sundar copies 接手產品策略、pull-request review、客服與談判。這些 copies 還能共享客戶對話、工程決策與市場回應，透過 latent representation 傳遞知識，降低傳統企業的溝通損耗。

在這個世界裡，稀缺資源將從人類人才分布轉向 compute。企業可能每年花費 1,000 億美元在 mega-Sundar inference，換取數百萬個主觀工作小時，模擬五年市場路徑、逐行分析程式碼，甚至在資料中心只剩五分鐘時比較 1,000 種策略。複製後的 AI 會高度專門化，但一般事實知識可以低成本共享；Llama-7B 已比非專業人士知道更多 standard model 與 leaky drains 的資訊。

**集中與分散的真正難題**　Sholto Douglas 進一步指出，Mark Zuckerberg 的文章把 open models 視為解方，卻沒有觸及更困難的問題：真正影響個人能否擁有 superintelligence 的，可能是 compute 不平等，而不只是 model 是否開放。Gavin Baker 則認為，與其先處理不平等，不如讓整體經濟快速成長，使收入與 compute 分布底部的人也比世界多數地區過得更好。

![](https://pub-75d4fe1e4e80421b9ecb1245a7ae0d1a.r2.dev/curated/225337eaaef37f22.jpg)
> 探討經濟權力集中與民主社會契約風險的文字段落，深色背景搭配白色英文排版，標題為 Economic concentration of power。

兩人也同意 compute 短缺與高 DRAM 價格可能暫時拖慢 AI 發展，為社會爭取適應時間。Gavin Baker 認為，即使出現快速 takeoff，人類大腦只消耗約 15–20 watts，仍可能因計算效率高而在可見未來保持經濟價值；Sholto Douglas 則指出，即使明天出現 Noam Shazeer 等級的 model，實驗與現實世界驗證仍會成為瓶頸，這會改變 takeoff 的形狀。他的中位數預期是 compute 支出維持每年成長為 2–3 倍，下一年超過 2 兆美元，而相同 intelligence level 受整個技術堆疊的效率改善影響，每年可能便宜 10 倍，逐步接近「便宜到無需計量」的 intelligence；相關趨勢見 [Artificial Analysis 的效率追蹤](https://artificialanalysis.ai/trends#efficiency)。

這場辯論最後沒有形成單一答案。Yann LeCun 支持 AI 廣泛、共享且開放，認為不同價值觀、語言能力與專業的多樣 AI，就像多元媒體一樣是社會所需；Dario Amodei 則認為 open-weights 只是部分分散，無法取代能處理風險並約束 frontier lab 的制度。真正的分歧在於：AI 太危險，應集中後監管，還是太危險，反而不能集中。Sholto Douglas 分享這段對話的價值，不在於替 Anthropic 或任何一方定案，而在於迫使產業同時面對風險、競爭、權力與一個尚未真正兌現的正面未來。

## 標籤

產業趨勢, Claude, Anthropic