×
加载中...
大模型推理大幅降本,京东云推出vGPU池化方案
丸子 鞭牛士 2023-08-16 15:39

鞭牛士 8月16日消息,近日,京东云官方微信公众号发文称,京东云全新发布vGPU池化方案,提供一站式GPU算力池化解决方案,GPU利用率最高提升70%,大幅降低大模型推理成本。


微信截图_20230816153745.png


京东云自主研发的混合多云操作系统云舰,在原有支持混合多云CPU算力池化能力基础上,针对大模型训练所需的泛算力池化能力,进一步增加了针对AI应用所需的调度管理能力,包括卡管理、节点管理、异构资源调度管理等,为包括大模型训练在内的多种AI应用,提供一站式算力池化解决方案,从而全面提升资源利用率。

扫码下载app 最新资讯实时掌握