6月25日消息,据外电报道,周三,OpenAI发布了其首款定制推理处理器,该处理器由OpenAI与博通公司合作设计和制造。
这款名为Jalapeño的新型处理器专为满足OpenAI推理系统的独特需求而设计。
OpenAI表示,其自身的AI模型也为该芯片的开发提供了支持。
虽然该芯片仍在测试中,但 OpenAI 表示,早期结果表明,其每瓦性能明显优于目前最先进的替代方案。
该合作关系于去年十月正式宣布,但OpenAI的芯片计划长期以来一直被传闻为降低该公司对英伟达GPU依赖的一种方式。谷歌和亚马逊都曾开发过定制芯片来实现类似目的,这些芯片通常被称为“AI加速器”——专门用于加速机器学习工作负载的芯片。
在与博通公司宣布合作后不久, OpenAI 总裁 Greg Brockman在公司内部播客节目中解释了公司在芯片开发方面的方法。
布罗克曼在节目中说:“我们对工作负载有着深刻的理解。我们一直在寻找那些尚未得到充分服务的特定工作负载,并思考如何构建能够加速实现目标的工具?”
Jalapeño芯片专为推理而设计,推理是指运行预构建的AI模型以响应用户指令的过程。OpenAI在公告中强调了该芯片在运行实时编码模型时的低运营成本。虽然像预训练这样对性能要求更高的任务可能仍然会依赖Nvidia的硬件,但即使推理成本略有降低,也能显著改善公司的盈利状况。
优化推理系统或许将成为未来人工智能经济效益的关键因素——而且很可能贯穿整个技术栈的各个层面。OpenAI 已经在构建 Codex 等智能体产品及其背后的模型,以及运行这些模型的数据中心。正如该公司在公告中所述,进军专用芯片领域将使 OpenAI 在此过程中走得更远。
OpenAI 表示:“OpenAI 不仅在开发前沿模型或基于这些模型构建产品,还在设计其底层基础设施:芯片架构、内核、内存系统、网络、调度、部署系统和产品体验。由于 OpenAI 的业务遍及整个技术栈,因此每一层都可以围绕同一个目标进行优化:让其模型运行更快、更可靠、更经济实惠。”(鞭牛士、AI普瑞斯编译)
扫码下载app 最新资讯实时掌握
