中国人工智能企业月之暗面(MoonshotAI)发布专为 LLM 推理引擎设计的开源中间件 Checkpoint Engine,具备模型权重原地热更新技术,用于强化学习场景。该产品 20 秒可完成 1 万亿参数的 Kimi-K2 模型权重同步,支持数千个 GPU 并行操作,与 vLLM 框架深度耦合,采用 Apache 2.0 协议开源,可扩展兼容 SGLang 等框架,能提升运算效率、缩短研发周期。
行业标签
更多体验
前往小程序
24 小时
资讯推送
进群体验