通义千问再开源 推出最大尺寸1100亿参数模型
2024 年 4 月 28 日

通义千问宣布开源千亿级参数模型Qwen1.5-110B,该模型在多项基准测评中表现优异,支持多语言,并已累计开源10款大模型。其1100亿参数模型采用分组查询注意力方法,具备32K上下文长度,与Meta发布的Llama-3-70B模型性能相当。研发团队表示,性能提升主要来自参数规模的扩增。此外,Qwen1.5系列还包含一款代码模型CodeQwen1.5-7B和一款混合专家模型Qwen1.5-MoE-A2.7B。目前,通义千问开源模型下载量已超过700万,并在多个领域得到应用。

专业版功能专业版功能
登录
体验专业版特色功能,拓展更丰富、更全面的相关内容。

行业标签

大数据
icon订阅
科技
icon订阅
二维码

更多体验

前往小程序

二维码

24 小时

资讯推送

进群体验

logo
科技新闻,每天 3 分钟