腾讯推出了名为Hunyuan-Large的开源MoE大语言模型，该模型参数量达389B，训练token数量为7T，最大上下文长度为256K，词表大小为12.8w，技术创新方面通过高质量合成数据增强模型训练。Hunyuan-Large在多学科综合评测集上表现优异，全面领先于一流开源模型。同时，腾讯还推出了自研的长文评测集「企鹅卷轴」，填补行业在真实长文评测集上的空白。