Readhub

英特尔在 GitHub 上开源了其 NPU 加速库，支持 Windows 和 Linux，开发人员可以对其软件进行优化以适配新一代 AI 模型。英特尔 NPU 加速库是一个 Python 库，旨在利用英特尔神经处理单元 (NPU) 的强大性能在兼容硬件上执行高速计算，提高应用效率。该库目前实现了 8bit 量化、Float16 支持等功能，并将继续开发支持 NPU/GPU 异构计算等功能。