Readhub

Mozilla 通过 Mozilla Builders 计划推出 LocalScore 工具，用于本地大型语言模型的基准测试，支持 Windows 和 Linux 系统。该工具基于 Llamafile0.9.2 版本开发，可评估 CPU 和 GPU 上的 LLM 性能，提供快速可靠的结果。用户可通过 Llamafile 包或独立二进制文件使用 LocalScore，并借助 LocalScore.AI 存储库查看基于 Meta Llama3.1 模型的测试结果。这一开源工具提升了 Mozilla 在 AI 领域的影响力，促进了相关技术的发展。