logo logo
  • 首页
  • 文章归档
  • 站点地图
  • 首页
  • 文章归档
  • 站点地图
  1. 首页
  2. 标签
  3. 推理成本优化
AI芯片初创公司估值翻倍:Etched ASIC架构对中国智算中心推理侧TCO的启示

前沿芯片技术 AI芯片初创公司估值翻倍:Etched ASIC架构对中国智算中心推理侧TCO的启示

Etched 凭借专为 Transformer 架构定制的 ASIC 芯片 Sohu,在 LLM 推理场景下实现了远超 GPU 的能效比与吞吐量,其估值翻倍验证了专用加速器在降低智算中心 TCO(总拥有成本)方面的巨大潜力。对于中国 IDC 运营商而言,引入此类专用硬件可将推理侧的单位 Token 成本降低 40%-6…

5次阅读 0个评论
前沿芯片技术 近一天内
AI智能体爆发下的算力新账本:从Chatbot到Super Agent,推理成本与内存带宽的博弈

AI基础设施 AI智能体爆发下的算力新账本:从Chatbot到Super Agent,推理成本与内存带宽的博弈

AI智能体爆发下的算力新账本:从Chatbot到Super Agent,推理成本与内存带宽的博弈 随着OpenAI推进超级智能体(Super Agent)计划,企业AI应用正从简单的问答交互转向复杂的自主任务执行。这一转变导致工作负载特征发生根本性变化:推理成本不再仅取决于Token数量,更受制于HBM内存带宽和上下文…

269次阅读 0个评论
AI基础设施 2026年6月8日
 Theme by Puock