AIbase 报道】IBM 宣布与芯片初创公司 Groq 达成战略合作,将其高性能 推理技术集成至 watsonx 平台,以为企业客户提供更快、更具成本效益的人工智能解决方案。此次合作标志着 IBM 在企业级 AI 加速领域迈出关键一步。

通过该合作,IBM 用户可在 Watsonx Orchestrate 中直接访问 GroqCloud 服务。Groq 以其自研的 语言处理单元(LPU) 架构著称,声称在特定 AI 推理任务上可比传统 GPU 系统快 五倍以上,同时显著降低能耗与成本。

IBM 携手 Groq:用 LPU 技术为企业 AI 提速五倍,全面升级 watsonx 平台

IBM 表示,双方的技术整合将优先应用于 医疗保健和零售 场景。例如,在医疗领域,系统可同时高效响应数千个患者查询;在零售行业中,则可用于人力资源与供应链的智能自动化。此外,IBM 与 Groq 还计划将 Red Hat 开源的 vLLM 技术 与 Groq 的 LPU 硬件结合,以增强模型部署灵活性,并让 GroqCloud 支持 IBM 自研的 Granite 模型。目前,IBM 客户已可直接使用 GroqCloud 的核心功能。

成立于2016年的 Groq,现已拥有超过 200万名开发者,定位为 GPU 的替代方案,也是“美国 AI 堆栈”的重要成员。此次合作不仅将提升 watsonx 的运算性能,更旨在帮助企业客户将 AI 代理从试点阶段扩展至生产环境,覆盖医疗、金融、政府、零售与制造等对 速度、成本与可靠性 要求极高的行业。