字节跳动豆包大模型Foundation团队提出UltraMem,一种稀疏模型架构,有效解决MoE推理时的访存问题,推理速度提升2-6倍,成本最高降低83%。
行业标签
更多体验
前往小程序
24 小时
资讯推送
进群体验