月之暗面开源 Checkpoint Engine 中间件,实现万亿参数模型 20 秒热更新
上周四

中国人工智能企业月之暗面MoonshotAI)发布专为 LLM 推理引擎设计的开源中间件 Checkpoint Engine,具备模型权重原地热更新技术,用于强化学习场景。该产品 20 秒可完成 1 万亿参数的 Kimi-K2 模型权重同步,支持数千个 GPU 并行操作,与 vLLM 框架深度耦合,采用 Apache 2.0 协议开源,可扩展兼容 SGLang 等框架,能提升运算效率、缩短研发周期。

专业版功能专业版功能
登录
体验专业版特色功能,拓展更丰富、更全面的相关内容。

行业标签

二维码

更多体验

前往小程序

二维码

24 小时

资讯推送

进群体验

logo
科技新闻,每天 3 分钟