开源解决方案提供商 Red Hat官网宣布，已签署收购 Neural Magic 的最终协议，Neural Magic是一家专注于优化 AI 模型以运行在商用 CPU 和 GPU 的创业公司。 Red Hat称与Neural Magic 在推理性能工程方面的专业知识和对开源的承诺与 Red Hat 的愿景一致，即高性能 AI 工作负载直接映射到混合云中随时随地的客户特定使用案例和数据。

Neural Magic 于 2018 年从麻省理工学院分拆出来，其目标是构建用于深度学习的高性能推理软件。其软件能让在 CPU 和 GPU 运行 AI 模型的性能与专用处理器如 TPU 相当。该公司此前从 Andreessen Horowitz 等风险投资人手中筹集到了 5000 万美元。其产品包括了 DeepSparse 和 nm-vllm 等。凭借 Neural Magic 的技术和性能工程专业知识，Red Hat 旨在以 Red Hat AI 技术组合为后盾，加速实现其对 AI 未来的愿景。

Red Hat 称将利用开源创新，通过以下方式进一步实现对 AI 变革力量：

  • 开源许可模型，从 1B 到 405B 参数规模，可以在混合云中所需的任何位置运行，包括企业数据中心、云和边缘计算。
  • 微调功能，使组织能够更轻松地针对其私有数据和具有更强安全足迹的用例自定义 LLM;
  • 增强推理性能工程专业知识，提高运营和基础设施效率;
  • 与合作伙伴和开源生态系统互相支持，给予客户更广泛的选择，从 LLM 工具到经过认证的服务器硬件和底层芯片架构。

官网原文：https://www.redhat.com/en/about/press-releases/red-hat-acquire-neural-magic