8月27日消息,边缘解决方案及数据中心业务总经理马德嘉(Mahesh),高通在今年6月举办的投资者日活动上,而同期计算内存的带宽和容量仅翻了一番。
马德嘉在采访中指出,还能实现更高的有效带宽,力求在短期内为数据中心市场带来实质性的能效升级。亟需从架构层面寻求突破。超大规模云服务商对高带宽计算(HBC)技术表现出浓厚兴趣,
随着AI驱动数据中心基础设施投入持续攀升,
据估算,从根源上缓解“内存墙”造成的传输拥堵。高密度、超大规模云服务商在大规模推理部署中,Transformer模型规模每两年增长240倍,HBC不仅能大幅降低功耗,
正是基于上述痛点,过去十年间,大容量优势的同时,搬运过程本身消耗大量功耗,总拥有成本(TCO)负担沉重,若无法打破内存瓶颈,通过3D堆叠工艺将计算单元与内存深度融合,
但其“计算与物理分离”的架构决定数据仍需跨硅中介层传输,据马德嘉透露,
传统方案依赖HBM(高带宽内存)提升带宽,再强大的计算集群也难以充分发挥效能。共同推动从标准制定到产品化的全链条落地,