英伟达放大招！全新AI推理芯片即将发布

英伟达又要搞事情了！

全新处理器即将发布

专为OpenAI及其他客户定制！

将于下月在圣何塞GTC开发者大会上正式公布！

整合Groq芯片技术

整合初创公司Groq设计的芯片！

英伟达于去年底同意以200亿美元获得Groq关键技术授权！

引进其核心管理团队，包括创始人乔纳森·罗斯！

这是硅谷史上规模最大的"人才并购"交易之一！

OpenAI是大客户

OpenAI已同意成为这款新处理器的最大客户之一！

上周OpenAI宣布向英伟达大规模采购专用推理算力！

同时英伟达对OpenAI投资了300亿美元！

为什么推推理芯片？

推理计算已成为行业激烈竞争的焦点！

谷歌和亚马逊均已推出芯片与英伟达抗衡！

企业部署AI智能体需要更高效的芯片！

GPU成本过高、功耗过大！

不完全适配模型实际运行需求！

英伟达的压力

首次面临旗舰产品的性能瓶颈！

掌控90%以上的GPU市场份额！

但面临巨大压力，亟需研发成本更低、能效更高的推理芯片！

AI推理两大环节

预填充：模型理解用户提示词的过程

解码：模型逐词生成回复的过程

对大型AI模型而言，解码往往尤其缓慢！

编码应用已成为企业AI最重要、最赚钱的应用场景之一！

英伟达这是要重新定义AI竞赛格局！