华为云副总裁黄瑾在华为云AI峰会上指出,大模型训练和推理对算力需求激增,传统计算架构难以满足,超节点架构成为突破。华为云推出CloudMatrix 384超节点,解决通信效率、内存墙和可靠性问题,提供300Pflops算力,较英伟达提升67%。该超节点具备六大技术优势,通过EMS弹性内存存储技术大幅提升资源利用率和性能,同时降低首Token时延最高达80%。
行业标签
更多体验
前往小程序
24 小时
资讯推送
进群体验