光,正在走向晶片:AI 基礎設施的第二增長曲線

人工智慧
Banner Img
September 4, 2026

我們在 2023 年曾經寫過輝達如何從一家以遊戲 GPU 為核心的公司,轉型為生成式 AI 時代最重要的基礎設施供應商。當時亞馬遜、谷歌、Meta、微軟、甲骨文等大型雲廠商正在快速部署輝達 HGX 系統,H100 GPU 供不應求。我們當時的核心判斷很簡單:生成式 AI 將開啟一輪持續數年的基礎設施建設週期,而憑藉加速計算和 CUDA 生態,輝達將處於這輪資本支出的中心。(前文請見:人工智慧的心跳 ——沉靜的喧囂

三年之後,這個判斷已經得到充分驗證。輝達不僅成為 AI 時代最重要的基礎設施公司之一,其產品週期和財報表現也開始影響整個半導體乃至 AI 硬體產業鏈。但這個故事並沒有停在原地:當年我們說輝達正在從 GPU 公司變成全棧加速計算平台,如今這個轉型又向前走了一步——輝達已經不再只擴展單顆晶片或單台伺服器,而是在擴展整座 AI 工廠。 本文想回答的問題是:當計算規模從 8 卡伺服器走向 72 卡機架、再走向百萬卡級 AI 工廠時,瓶頸正在從算力本身轉移到哪裡?為什麼答案指向網路,並最終指向光?

時代遷移:從「訓練ChatGPT」進入 AI Agent 與推理時代

AI 的工作負載本身已經發生了變化。2023 年市場討論 AI 時,核心還是訓練 ChatGPT 這類越來越大的大語言模型(LLM)。今天,AI 基礎設施不僅要承擔預訓練,還要支持後訓練、推理、長上下文推理,以及越來越重要的 AI Agent——模型需要持續規劃、調用工具、檢索資料並完成多步驟任務。

因此,AI 基礎設施的經濟指標也發生了變化:目標不再只是追求最高的 FLOPS(即「每秒能做多少次運算」,衡量晶片算力快慢的單位),而是如何在有限的資本和電力下,提高有效的 Token 吞吐量,同時降低單 Token 成本、延遲和功耗。輝達最新的 Blackwell Ultra 和 Vera Rubin 平台,正是圍繞這一變化設計的。

再往遠看,終局是 Physical AI(物理 AI)——讓模型通過機器人、自動駕駛和自動化工廠,在真實世界中感知、推理並採取行動。訓練這類系統需要大規模模擬物理世界,部署它們則需要全天候、低延遲的持續推理。從聊天機器人到 AI Agent、再到機器人,每前進一步,AI 負載就變得更持續、更交互,對算力、記憶體和頻寬的需求也成倍放大。為「訓練一次模型」而建的基礎設施,正在讓位於「讓智慧全天候運轉」的基礎設施。

輝達已經從「擴展晶片」進入「擴展系統」

與 2023 年相比,最大的變化是輝達已經不再只擴展單顆 GPU,甚至不再只擴展單台伺服器,而是在擴展整個系統。這也讓輝達的產品命名變成了一場對讀者耐心的考驗:B200、GB200、DGX、HGX——如果你曾盯著這串字母,懷疑它們到底是產品名還是車牌號,你不是一個人。其實這套命名的本質是同一套架構,被包裝成了多個產品層級。以 Blackwell 為例:

•            Blackwell = 架構名稱

•            B200 = GPU 晶片

•            Grace Blackwell 超級晶片 = Grace CPU + Blackwell GPU

•            GB200 NVL72 = 72 顆 Blackwell GPU +36 顆 Grace CPU + NVLink 交換機組成的機架級系統

•            DGX GB200 = 輝達自己銷售的完整企業級系統

•            HGX Blackwell = 提供給整機廠商的計算平台

真正重要的並不是記住這些名稱,而是看到一個趨勢:AI 的基本計算單位正在從晶片 → 伺服器 → 機架 → AI 工廠不斷擴大。 GB200、GB300 NVL72 已經可以通過 NVLink 把 72 顆 GPU 組成一個統一的大型計算域,而 Rubin 世代的路線圖正在把這個計算域推向多機架、數百顆乃至上千顆 GPU。

輝達的產品已經形成完整的六層技術棧

把輝達今天的產品按功能重新歸類,可以整理成六層:

第一層:計算晶片

GPU + CPU + DPU。GPU 負責 AI 計算,Grace/Vera CPU 負責通用計算和系統控制,BlueField DPU 負責網路、儲存、安全等基礎設施處理。

第二層:計算平台

超級晶片、基板、HGX/MGX 等,把 GPU、CPU 與 NVSwitch 等元件組合成搭建伺服器的標準模組,例如 Grace Hopper 超級晶片、Grace Blackwell 超級晶片和 HGX。

第三層:伺服器與機架級系統

DGX、GB200/GB300 NVL72、Vera Rubin NVL72 等。輝達從 8 卡伺服器走向 72 卡機架,把整個機架設計成一台大型電腦。

第四層:縱向擴展網路

NVLink +NVSwitch——GPU 與 GPU 之間的高速互連,把同一個計算域內幾十顆 GPU 綁定成一個大型工作負載。

第五層:橫向擴展及基礎設施網路

Spectrum-X 乙太網、Quantum InfiniBand、ConnectX 網路卡、BlueField,以及矽光/共封裝光學(CPO)。這一層把不同伺服器、機架和叢集連接起來,並處理資料中心內部的資料搬運、儲存和網路基礎設施。

第六層:軟體

從 CUDA 到加速庫,再到 AI 框架、推理軟體和企業級營運管理——從「讓 GPU 能被程式設計」,一直延伸到「讓整個 AI 工廠能被部署和營運」。

把這六層想像成一支交響樂團。GPU 是樂手(而且是片酬極高的明星樂手);CPU 是指揮,自己不演奏,卻決定誰在何時進入(第一層)。樂手編成聲部(第二層),聲部登臺組成一支 72 人的樂團(第三層,一個機架就是一支樂團)。NVLink 是樂手之間的相互聆聽。交響樂的要義是 72 個人合在同一個節拍上,大提琴慢了半拍,全團只好停下來乾等,天價片酬就在這片尷尬的安靜裡白白燒掉(第四層)。曲目太大時,多支樂團要在不同的廳裡同奏一部作品,廳與廳的毫秒級聯動只能交給光纜(第五層)。而樂譜與記譜法是讓一切成立的軟體:CUDA 讓所有樂手讀得懂同一套譜(第六層)。

輝達賣的從來不是一把小提琴,而是整支樂團、音樂廳,和那套記譜法。值得注意的是,六層之中有兩層——第四層與第五層——講的都是同一件事:如何讓樂手聽見彼此。也就是網路,下文全部故事的主線。

網路:從「配套設備」變成核心計算資源

擴展系統帶來了一個新的瓶頸。一顆 GPU 的價值並不只是「算得快」:在大型 AI 模型中,成千上萬顆 GPU 必須不斷交換參數、啟動值和中間結果。當計算速度的提升快過資料搬運的速度,GPU 就會花更多時間等待資料——繼續增加 GPU,有效算力不再同比例增加。

因此,網路已經不再是配套設備,而成為電腦本身的一部分。對 AI 工廠來說,真正的問題是如何讓這些越來越昂貴的 GPU 持續獲得資料、保持高利用率。 良好的多 GPU 擴展,既需要每顆 GPU 具備出色的互連頻寬,也需要足夠快的全互連通道,讓每顆 GPU 都能以最快速度與其他所有 GPU 交換資料。

最直觀的例子:一台 NVL72 機架裡有 72 顆 GPU。如果每顆 GPU 都獨立工作,第 72 顆 GPU 只是多增加一份算力。但大型模型要求這些 GPU 頻繁交換資料——假設 GPU A 已經完成計算,卻必須等待 GPU B 的結果,那麼 GPU A 這段時間就在空轉,昂貴的算力被浪費。Blackwell 的第五代 NVLink 為單顆 GPU 提供最高 1.8 TB/s 的雙向頻寬,再通過 NVSwitch 把 72 顆 GPU 連成統一的計算域。

NVSwitch 將 GPU 間的兩兩直連改為集中交換,使 72 顆 GPU 構成統一計算域

工程上的度量也隨之改變:訓練側看模型算力利用率(MFU,即晶片的算力真正被用上了多少,沒用上的部分就是在空轉),推理側看記憶體頻寬利用率,營運側看每兆瓦電力產出的 Token。行業經驗裡,大型訓練叢集的 MFU 往往只有 30%~50%——丟失的那一半裡,大部分正是在等待網路。 網路已經直接決定 GPU 利用率和 Token 經濟性:它約占整機架成本的 10%~15%,卻撬動著其餘 85% 資產的開工率。

這種變化已經開始反映在財務資料裡。在輝達更改披露口徑之前,2027 財年第一季的資料中心網路收入已達到創紀錄的 148 億美元,年增 199%、季增 35%,增速明顯快於資料中心計算業務。隨後輝達改變了業務披露方式,不再單獨按舊口徑披露網路收入,但整體趨勢仍然非常清楚:最新的 2027 財年第二季,公司收入達到 962 億美元,其中資料中心收入達到 890 億美元,年增 117%,主要由 Blackwell Ultra 基礎設施放量推動。網路已經不再是 GPU 銷售旁邊的小配套,而是在每顆加速器周圍形成越來越大的價值量。

光通信真正進入輝達自己的核心產品路線

從 Hopper → Blackwell → Rubin 的產品路線看,這一趨勢更加清楚。Hopper 的第四代 NVLink 單 GPU 頻寬約為 900 GB/s;Blackwell 的第五代 NVLink 將其翻倍至 1.8 TB/s;Rubin 的第六代 NVLink 再翻一倍到約 3.6 TB/s。與此同時,縱向擴展計算域也從傳統的 8 卡伺服器擴大到 72 卡機架,並正在向多機架延伸。每一代 GPU 不僅計算能力更強,而且變得越來越「通信密集」。 頻寬需求已經成為與算力並列的第二條產品主線。

第一個結構性變化:橫向擴展(Scale Out)已經是光的,縱向擴展(Scale Up)是下一個前沿。 橫向擴展——伺服器、機架與叢集之間的連接——因為距離較長,已經大量運行在光模組和光纖之上。縱向擴展則歷來留在伺服器或機架內部,距離短,銅互連在成本、延遲和功耗上更占優。但隨著 GPU 計算域跨出機架,兩條曲線正在相向而行:訊號速率越來越快,電訊號能穩定傳輸的距離越來越短;叢集規模越來越大,需要跨越的物理距離卻越來越長。距離在變長、銅的可用距離在變短——兩條線必然相交。我們討論的問題已經從「光會不會進入縱向擴展」變成「什麼時候進入」。相關研究認為,多機架架構、輸入輸出功耗和頻寬密度是後續光互連滲透的三大驅動力。

第二個結構性變化:從可插拔模組走向矽光/共封裝光學(CPO),光正在越來越靠近晶片。 在傳統可插拔架構下,高速電訊號從交換晶片出發,在電路板上走十幾到幾十公分,到達前面板的光模組,由 DSP(Digital Signal Processor,數位訊號處理器)修復訊號後,才轉換成光。隨著單通道速率持續提高,這段電傳輸的功耗和訊號完整性代價越來越大。共封裝光學(CPO)把光引擎直接搬到交換晶片旁邊,把電訊號的傳輸距離從幾十公分縮短到毫米級。輝達的 Spectrum-X 乙太網光子交換機已經採用這一方向並進入生產;公司稱其網路功率效率較傳統可插拔方案提高約 5 倍,並將其定位為未來百萬卡級 AI 工廠的基礎網路技術之一。

核心框架:單顆GPU 光通信價值量

這就引出了本文最核心的框架。傳統研究光通信的方法往往先預測光模組出貨多少只,我們認為更合理的起點是 GPU 本身。每升級一代 GPU:每顆 GPU 需要多少網路頻寬?對應多少網路埠?多少條光鏈路?需要多少光纖?又需要多少雷射光源和光引擎?

光通信市場空間 = GPU 數量 × 每顆 GPU 的光通信價值量

這個框架的投資含義非常重要。假設 GPU 出貨量增長 30%,如果每顆 GPU 對應的網路需求完全不變,光通信需求大致也只增長 30%。但現實並非如此:單 GPU 頻寬正在快速提高,橫向擴展埠的速率持續升級,目前仍用電連接的縱向擴展鏈路未來也可能逐漸光化。光通信因此擁有第二個增長乘數——機會不僅來自 GPU 數量的增長,還來自每顆 GPU 周圍連接價值量的增長

這個乘數有多大?綜合海外投行與行業機構的測算,可以給出幾個量級參考:

第一,速率遷移抬高單口價值。 GPU 上行埠從 800G 升級到 1.6T 後,在同樣的三層網路下,每顆 GPU 對應的光模組配比大約從 3 只提高到 6 只;而 800G → 1.6T → 3.2T 每升一檔,模組單價大約翻倍。數量與單價同向上行,這是第一重乘數。

第二,光進入縱向擴展(Scale Up)打開新的數量級。 以每顆 GPU 對應的光引擎數量衡量:今天大約只有 2 個(全部在橫向擴展側);到多機架混合架構(如 Rubin UltraNVL576,機架內用銅、機架間用光)約為 17 個;若走向完全光化的縱向擴展,則可達 35 到 70 個。同一口徑下,光纖用量的彈性接近 50 倍——跨機架的 NVLink 域需要把原來的數千根銅纜一對一換成光纖。

第三,折算成光通信價值量。 有研究測算,從 GB300 世代到 Rubin Ultra 多機架世代,單顆 GPU 對應的光通信價值量可能從約 2,400 美元提高到約 13,000 美元,增長超過 5 倍,遠快於同期 GPU 出貨量的增速。這正是「第二個增長乘數」的定量表達。

投資含義:跟著價值量走,而不是只跟著模組走

對投資者而言,這會改變我們研究光通信產業鏈的方法。過去 800G、1.6T 最直觀的受益者是光模組廠商,但長期看,產業鏈的價值遷移可能更加廣泛。單顆 GPU 光通信價值量的提高,會進一步帶動大功率連續波雷射光源、磷化銦材料、矽光、光纖陣列、光纖、先進封裝和測試等環節的需求。

還有一個常被忽略的事實:這條鏈上的利潤分佈並不均勻。越靠上游、越接近「晶片與材料」的環節(數位訊號處理器、雷射光源),毛利率越高、格局越集中;組裝環節反而是利潤最薄、競爭最激烈的一段。因此「光價值量上升」並不等於所有環節均沾——例如線性直驅(LPO)和共封裝光學本身就試圖減少傳統可插拔模組中部分 DSP 的使用;共封裝光學替代可插拔埠後,「模組」這個科目的價值會部分改寫為「光引擎 + 外置光源 + 光纖」。我們需要弄清楚:當光越來越靠近計算時,哪些零組件的價值量會上升,哪些會下降。 沿著這個問題選擇環節,比簡單跟蹤模組出貨量更接近價值的真實流向。

結語:輝達的下一個擴展故事,是連接

三年前,輝達的核心故事是 GPU 算力的稀缺。今天,算力依然稀缺,但瓶頸已經開始向更多基礎設施環節擴散。輝達正在從晶片擴展到機架,從機架擴展到 AI 工廠;AI 工作負載也從一次性的訓練,進入持續的推理和 AI Agent 時代。規模每上一個層級,都意味著更多的資料移動。

網路已經成為這台機器本身的一部分,而光正在逼近晶片。定義下一階段的指標是每顆 GPU 的連接價值量:每一代新產品,都在每顆加速器周圍配上更多頻寬、更多埠、更多光纖和更多雷射光源。輝達的答案很簡單:要繼續擴展,只剩下光這一條路。

免責聲明

  1. 本網站內容僅旨在向專業投資者(定義見《證券及期貨條例》(香港法例第571章)或者該條例下制定的規章)提供。

  2. 本網頁內之資料只可作為資訊的用途,並不構成提供服務的建議或報價。

  3. 本網頁內之所有資料不可視為專業或投資意見。因此,閣下應尋求獨立的專業意見。任何使用本網頁及其內容的風險由閣下自負。

  4. 本公司可隨時終止或更改本網頁所提供之資料,產品或服務,而毋須事先通知閣下。

  5. 非經取得作者授權,不得任意轉載或公開傳輸任何內網站之內容。