前沿芯片技术 内存成本占比超50%:AI推理时代HBM与CXL如何重构服务器TCO模型 核心结论:AI推理时代的TCO重构策略 在AI推理负载日益普及的当下,内存成本已占据服务器总拥有成本(TCO)的50%以上。单纯堆砌HBM并非最优解,合理的架构应结合CXL技术实现内存池化与分层存储。对于中国企业而言,针对高频低延迟场景选用HBM,对大容量吞吐场景采用CXL扩展DDR5,可将整体算力基础设施的能效比提升…