AI基础设施 微软3M光互联技术落地:中国智算中心如何突破AI集群“最后一公里”带宽瓶颈? 核心观点:微软3M光互联技术如何破解AI带宽瓶颈 面对AI大模型训练对算力集群日益增长的带宽需求,微软与3M合作的扩展光束(Expanded Beam)技术提供了一种突破物理层限制的高效方案。该方案通过增大光纤端面接触面积,显著降低了连接器对准精度要求,从而将插损降低约0.5dB,并大幅提升高密度环境下的可靠性。对于中…
AI基础设施 AI推理时代的内存墙:CPO与HBM协同架构如何突破带宽瓶颈 AI推理时代的内存墙:CPO与HBM协同架构如何突破带宽瓶颈 在AI大模型从训练向大规模推理迁移的当下,内存带宽已成为制约算力释放的核心瓶颈。解决这一问题的关键路径在于CPO共封装光学技术与HBM高带宽内存的深度协同。通过CPO将光引擎紧邻ASIC芯片封装,可将信号传输距离缩短90%以上,显著降低功耗与延迟;而HBM则…
AI基础设施 AI工厂的“光纤瓶颈”:高速互联架构如何支撑万卡集群通信 AI工厂的光纤瓶颈与破局:核心结论 在万卡级AI工厂中,传统光纤架构因功耗和密度限制已成为算力扩展的主要瓶颈。解决这一问题的关键在于采用800G/1.6T光模块结合CPO(共封装光学)或LPO(线性驱动可插拔光学)技术,并部署基于InfiniBand或RoCEv2的无损RDMA网络。这种架构能将集群通信延迟降低至微秒级…