4. Gimlet Labs 8000万美元押注跨芯片AI推理,威胁NVIDIA的软件锁定
Gimlet Labs 完成了8000万美元的A轮融资,用于将推理软件商业化,该软件可在NVIDIA、AMD、Intel、ARM、Cerebras和d-Matrix等公司的硬件上同时运行AI工作负载。据TechCrunch报道,本轮融资使这家初创公司直接回应了生产AI部署中最顽固的痛点之一:即无法在异构芯片环境中高效协调推理,而无需为每种架构重写模型管线。
这一竞争性影响意义重大。NVIDIA的护城河从未仅仅是GPU芯片;它一直是CUDA,这个软件生态系统使得大多数企业AI团队的转换成本高得令人望而却步。Gimlet的抽象层,如果其表现如其所述,正通过使底层硬件更具互换性来削弱这种锁定。短期内最明显的赢家是希望在不同供应商之间套利芯片可用性和成本的超大规模公司和大型企业AI团队。AMD、Intel以及Cerebras和d-Matrix等专注于推理的芯片公司获得了重要的分销渠道,因为他们的硬件更容易融入现有工作流程。NVIDIA受到的影响最大,这不是因为其芯片能力下降,而是因为跨供应商的商品化访问削弱了支付NVIDIA溢价的理由。
这是近几个月来第二个结构性信号,表明推理层正在成为一个与训练截然不同的激烈竞争战场。随着前沿模型权重激增和微调成本下降,AI基础设施的差异化正在转向谁能以最快、最便宜、最灵活的方式大规模提供这些模型。Gimlet正在将自己定位为这一转变的运行时基底,类似于Kubernetes为容器化工作负载所做的事情:抽象出复杂的硬件层,以便工程团队能够专注于其上方的应用程序。