昆仑万维开源2千亿稀疏大模型天工MoE
2024 年 6 月 3 日

昆仑万维开源了名为Skywork-MoE的千亿稀疏大模型,该模型基于Skywork-13B模型扩展而来,并首次将MoE Upcycling技术应用于实际场景。Skywork-MoE是首个可使用单台4090服务器进行推理的开源千亿MoE大模型,具有出色的性能和较低的推理成本。

专业版功能专业版功能
登录
体验专业版特色功能,拓展更丰富、更全面的相关内容。

行业标签

二维码

更多体验

前往小程序

二维码

24 小时

资讯推送

进群体验

logo
科技新闻,每天 3 分钟