NVIDIA宣佈採用臺積電3奈米製程的 Vera Rubin AI 超級電腦全面量產
NVIDIA 宣佈採用臺積電3奈米制程的 Vera Rubin AI 超級電腦全面量產,有利 AI算力再進化。記者簡永祥/攝影
輝達(NVIDIA )執行長黃仁勳今日宣佈,採用臺積電3奈米制程、CoWoS先進封裝及全新機構設計的全新一代 AI 超級電腦 Vera Rubin 已全面進入量產,迎合AI(人工智慧)對運算需求的爆炸性增長。他說,Vera Rubin 以提出暗物質觀測的科學家 Vera Rubin 命名,象徵突破性的探索精神與技術前沿。
黃仁勳宣佈輝達全新的AI晶片Vera Rubin晶片,即是他先前二度飛抵臺灣希望臺積電和鴻海及廣達等AI伺服器供應鏈全力配合能增產並如期到位的新一代AI全新利器,從晶片到模組、到機架再到機櫃等,都是革命性的創新產品。預料隨着Vera Rubin量產,有利輝達在AI伺服器版圖再向上提升。
黃仁勳強,AI模型規模每年以十倍速度增長,推論運算不再是一問一答的單次輸出,而是「思考的過程」。爲了教 AI 如何思考,NVIDIA 在後訓練階段引入強化學習,使系統能自我反覆嘗試與學習,所需運算量因此全面爆炸。測試時間擴展(test-time scaling)使每年所需 token 數量平均增長 5 倍,同時上一代 AI token 成本每年下降約 10 倍。NVIDIA 強調,推進運算技術每年都不能落後,這正是 Vera Rubin 誕生的核心原因。
至於Vera Rubin和前一代Blackwell 有什麼革命的創新呢?
黃仁勳在這個項目,花很多時間仔細講解。他說,Vera Rubin AI超級電腦, 採用六顆晶片架構,由 Vera CPU 與 Rubin GPU 共同設計,可雙向、低延遲共享資料,並以 17000 個元件精密組裝而成。系統可提供 100 petaflops 的 AI 運算能力,是前一代的五倍。ConnectX-9 提供每顆 GPU 1.6 Tbps 的擴展頻寬,BlueField-4 DPU 負責卸載儲存與資安工作,確保運算資源專注於 AI。全新 Vera Rubin 計算模組無纜線、無風扇、無水管設計,整體系統包括一顆 BlueField-4 DPU、八張 ConnectX-9 網卡、兩顆 Vera CPU 與四顆 Rubin GPU。
在資料互聯方面,Vera Rubing導入第六代 NVLink 交換器,可連接 18 個運算節點,支援最多72 顆 Rubin GPU 同步運作,資料傳輸量超過全球網際網路總和。配合全球首款 512 通道、200Gb 共封裝光學乙太網路交換器 Spectrum-X,能將數千機櫃組成完整的 AI 工廠。
黃仁勳很自豪地說,自設計以來,NVIDIA 累計投入 15000 個工程師年。第一座 Vera Rubin NVL72 機櫃正式上線,包含 220 兆個電晶體,重量近兩公噸,標誌着 AI 運算邁向下一個前沿。
黃仁勳最後強調,Vera Rubin 將應用於大型 AI 模型訓練、強化學習與多階段推論,並支援從前訓練到後訓練、從測試到推論的全流程。Vera Rubin 的誕生,不僅推進全球 AI 技術前沿,也爲自動駕駛、物理模擬、語言理解等多領域應用提供強大基礎。
輝達新一代AI晶片Vera Rubin 以提出暗物質觀測的科學家 Vera Rubin 命名,象徵突破性的探索精神與技術前沿。記者簡永祥/攝影