10月20日,亚马逊推出了一款名为TorchNeuron的新软件工具,让AI开发者可以几乎不修改现有代码,就把基于PyTorch开发的AI程序运行在亚马逊自研Trainium芯片上。
这一动作的目标非常明确,就是削弱英伟达在AI计算市场长期建立的软件生态优势。
消息公布后,亚马逊股价在周一早盘上涨约5%。摩根士丹利同时将亚马逊列为其重点推荐股票之一。
TorchNeuron由亚马逊旗下芯片研发部门Annapurna Labs开发。根据亚马逊的说法,开发者只需要修改一项配置,就可以让原本使用PyTorch编写的代码在Trainium AI芯片上运行,不需要重新编写程序。
亚马逊计划在周一举行的硅谷开发者大会上正式介绍这款工具,并以免费、开源的方式向公众发布。
这件事之所以重要,是因为PyTorch已经成为全球AI开发者使用最广泛的深度学习框架之一。PyTorch由Meta主导维护,广泛应用于大模型训练、推理以及各种AI研究项目。
长期以来,英伟达之所以能够主导AI芯片市场,不仅因为其GPU拥有强大的计算性能,更因为它围绕CUDA建立了成熟的软件开发生态。
CUDA是英伟达推出的并行计算平台和编程工具体系。过去十多年,英伟达持续优化CUDA,让PyTorch等主流AI框架能够充分发挥英伟达GPU的性能。
对于AI开发者来说,这套生态已经非常成熟。大量AI模型、计算库和工程工具都围绕英伟达GPU进行优化,因此即使其他厂商推出价格更低的AI芯片,企业想要切换硬件也并不容易。
原因很简单,换芯片往往不只是采购另一块GPU,还可能涉及代码迁移、性能调优、软件兼容性以及工程团队重新适配。
这些隐性成本,正是英伟达长期竞争优势的重要组成部分。亚马逊推出TorchNeuron,就是希望降低这些迁移门槛。如果开发者不需要重新编写PyTorch代码,就能够直接使用Trainium,那么尝试亚马逊芯片的成本将明显下降。
这也意味着,企业可以更加方便地比较英伟达GPU与Trainium之间的性能和价格,进而选择更符合自身需求的计算平台。
亚马逊并不是唯一尝试挑战CUDA生态的科技公司。Google同样拥有自己的AI芯片,并正在改进相关PyTorch开发工具,希望让开发者更方便地把模型部署到自家的计算平台上。
对于这些云计算巨头来说,自研AI芯片只是第一步。
如果没有足够成熟、易用的软件生态,再强大的硬件也很难吸引大量开发者迁移。
Annapurna Labs软件副总裁Colin Brace在接受路透社采访时表示,TorchNeuron的目标就是减少AI开发者尝试亚马逊自研芯片时需要完成的操作步骤。
他说,亚马逊希望按照客户已经习惯的开发方式提供服务,而不是要求客户为了使用Trainium重新学习一整套技术。
Brace还透露,目前已经有超过30家早期客户开始使用TorchNeuron。这些客户覆盖机器人、世界模型以及语音AI等领域。
根据亚马逊的说法,将相关工作负载迁移至Trainium后,企业有机会显著降低计算成本。不过,实际能够节省多少费用,还需要根据不同模型、任务类型以及运行规模进行判断。
从更大的行业趋势来看,AI芯片竞争正在从单纯比拼硬件性能,逐渐转向硬件与软件生态的全面竞争。
英伟达拥有CUDA和成熟的GPU开发体系,亚马逊拥有Trainium和AWS云平台,Google则持续发展自己的AI芯片和软件工具。
谁能让开发者以更低成本、更少改动完成模型部署,谁就更有机会争夺未来AI计算市场的份额。
扫码下载app 最新资讯实时掌握
