Google Cloud於Cloud Next ‘26展現強勁動能，模型處理逾160億token/分鐘

Google Cloud於Cloud Next ‘26展現強勁動能，模型處理逾160億token/分鐘，新推Gemini Enterprise Agent Platform與第八代TPU。

Google Cloud技術變革速度空前，模型透過客戶直接API使用，每分鐘處理超過160億token，上季為100億token，今年逾半機器學習運算投資將投入Cloud業務，支持客戶與夥伴成長。

Agentic Gemini時代加速
Google Cloud已進入agentic Gemini時代，上年秋季推出「Gemini Enterprise」，這是End to End (端到端)系統，連結資料、人員與目標。第一季付費月活躍使用者成長40%。成長中發現，每位員工皆可成為builder，但管理數千Agent帶來複雜性，從「能否建Agent」轉為「如何管理數千個」。因此推出全新「Gemini Enterprise Agent Platform」，提供安全全棧連結組織，讓企業安心建置、擴展、治理與優化Agent，如同agentic企業的任務控制中心。

資安威脅防禦新解
AI雖增資安風險，但Google Cloud客戶現獲AI助力保護組織。本週揭露一系列agentic解決方案，用於威脅偵測，整合Google「Threat Intelligence」與「Security Operations」，以及Wiz的「Cloud and AI Security Platform」。另推出Wiz全新「AI Application Protection Platform (AI-APP)」，從程式碼到雲端再到執行階段，提供自主保護，涵蓋多雲、混合與AI環境。

第八代TPU升級
AI Agent時代需基礎設施進化應對高需求工作負載，今年推出第八代Tensor Processing Units，採雙晶片設計：

• 「TPU 8t」優化訓練，單一superpod擴展至9,600個TPU與2 PB共享高頻寬記憶體，處理功率為Ironwood的三倍，每瓦性能達2倍。
• 「TPU 8i」優化推論，單一pod連結1,152個TPU，大幅降低延遲，具3倍片上SRAM，提供數百萬Agent並行運行的巨量吞吐量與低延遲，具成本效益。
  這些將作為Cloud客戶核心運算處理器選項，搭配NVIDIA GPU實例組合。

內部「customer zero」實踐
Google Cloud以「customer zero」身分測試自家技術，優化雲端客戶應用，如Bigtable資料庫驅動多項Google服務，TPU則訓練Gemini模型。近期實例包括：

• 程式撰寫：Google內部75%新程式碼由AI生成並經工程師核准，上季秋為50%。轉向真正agentic工作流程，工程師調度自主數位任務隊伍。最近一項複雜程式碼遷移，由Agent與工程師合作，比一年前純工程師方式快6倍。「Gemini app」於MacOS推出時，團隊用agentic開發平台「Antigravity」，數日內從idea到原生Swift app原型。
• 資安：安全運營中心Agent每月自動分類數萬筆非結構化威脅報告，將威脅緩解時間縮減逾90%。內建並使用Gemini基Agent如「CodeMender」，找出並修復關鍵軟體漏洞。
• 營運：「Gemini in Chrome」推出時，行銷團隊用模型快速生成數千變體creative asset，原需數週，AI加速70%，轉換率增20%，更快更有效上市。

Google Cloud團隊功不可沒，感謝夥伴共創未來，更多細節將於5月19日Google I/O分享。