Groq 与英伟达达成非独家推理技术授权协议

groq官方宣布，已与英伟达就其前沿推理技术签署非独家授权协议。此举标志着双方将携手推动高性能、高能效且具备成本优势的ai推理解决方案在更广泛场景中的落地与普及。

依据协议内容，Groq联合创始人Jonathan Ross、总裁Sunny Madra以及核心研发团队将整体加入英伟达，深度参与相关推理技术的迭代优化与大规模产业化部署。

Groq仍将维持独立运营主体地位，由Simon Edwards担任首席执行官。其面向全球用户的GroqCloud云服务平台将持续稳定提供服务，现有功能与性能均不受任何影响。

早前曾有市场传闻指出，英伟达拟以约200亿美元全资收购AI芯片新锐企业Groq，若成真，这将成为英伟达历史上金额最高的并购案。但英伟达随后明确澄清：此次合作并非收购，而是一次聚焦于推理技术使用权的授权合作。

AI舌诊面诊问诊医疗系统+诊疗商城系统源码

下载

公开信息显示，Groq成立于2016年，由前谷歌TPU项目关键架构师Jonathan Ross创办。该公司自主研发的LPU（Language Processing Unit）专用推理芯片，正是本次合作的技术基石。不同于英伟达通用型GPU，LPU从底层架构出发，专为大模型推理任务量身定制，依托确定性执行模型、超大容量片上SRAM等创新设计，在延迟控制、能效比及吞吐效率方面实现突破性提升。

实测数据显示，在运行主流大语言模型时，LPU的推理性能可达英伟达H100 GPU的5–18倍；首token生成时间低至0.2秒，并显著缓解传统GPU在推理阶段长期面临的“内存墙”瓶颈与高延迟挑战。

对英伟达而言，此次采取“非独占技术授权+核心人才整合”的双轨策略，不仅可高效弥补其在AI推理领域的结构性短板，进一步强化端到端AI计算生态的领先优势，还能规避高额并购带来的整合风险与资本压力，从而更灵活地应对来自谷歌TPU、微软Azure Maia等竞品的持续竞争。

源码地址：点击下载