河南
快科技6月11日消息，NVIDIA近日宣布其首款采用共封裝光學(xué)（CPO）技術(shù)的Quantum-X InfiniBand Photonics Q3450-LD交換機(jī)已正式交付至AI云服務(wù)商Lambda的GPU集群，標(biāo)志著硅光CPO技術(shù)從工程樣片邁向量產(chǎn)部署階段。
Q3450-LD是一款4U液冷交換機(jī)，整機(jī)配備144個(gè)800G InfiniBand端口，總交換帶寬高達(dá)115.2 Tbps，無(wú)阻塞轉(zhuǎn)發(fā)。
其采用四顆NVIDIA Quantum-X800 ASIC芯片構(gòu)成多平面交換架構(gòu)，每顆芯片提供28.8 Tbit/s交換能力。
與傳統(tǒng)可插拔光模塊方案不同，CPO將光學(xué)引擎直接集成在ASIC封裝旁，信號(hào)路徑從厘米級(jí)縮短至微米級(jí)，鏈路損耗從約20dB驟降至4dB，DSP也被一同移除。
功耗方面，傳統(tǒng)交換機(jī)功耗約7.0kW，而Q3450-LD僅3.95kW，單臺(tái)節(jié)省3.05kW，能效較傳統(tǒng)設(shè)計(jì)提升約1.77倍。
在41,472塊GPU的集群規(guī)模下，CPO交換機(jī)可釋放4,392kW電力，足夠額外運(yùn)行3,137塊GPU。
Lambda測(cè)算，在12.8萬(wàn)GPU的數(shù)據(jù)中心中，傳統(tǒng)方案需要65.5萬(wàn)個(gè)獨(dú)立光收發(fā)模塊，每個(gè)都是潛在故障點(diǎn)；CPO大幅減少了光學(xué)組件數(shù)量，顯著提升集群可靠性。
Lambda指出，在三層800G GPU架構(gòu)中，后端網(wǎng)絡(luò)已占其總網(wǎng)絡(luò)功耗的86%。通過(guò)降低交換層功耗，CPO為GPU釋放更多電力余量，將直接轉(zhuǎn)化為更高的token吞吐量。
目前Lambda、CoreWeave、Meta、微軟及甲骨文云基礎(chǔ)設(shè)施均為首批采用者。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
