当前位置：首页 > 科技前沿 > 正文

京东云推出GPU池化方案,提升GPU利用率最高70%-封面网

京东云推出GPU池化方案,具有以下特点:

1. 支持细粒度GPU算力和显存的动态切分,一张GPU卡可以供多个容器使用。

2. 利用率最高可提升70%,大幅降低大模型训练成本。

3. 支持按需灵活分配GPU资源,提高资源利用效率。

4. 适配主流深度学习框架如TensorFlow和PyTorch。

5. 支持多节点管理,可指定节点供特定AI任务使用。

6. 不同任务可以动态获得所需GPU算力,任务结束后释放资源。

7. 池化方案提高了GPU使用效率,以更少硬件支持更多的AI训练和推理任务。

8. 为开发者提供一站式GPU算力池化解决方案,无需自行部署和管理资源。

9. 该方案可直接应用于机器学习和深度学习等需要GPU加速的AI场景。

综上,京东云GPU池化方案通过提高资源利用率显著降低了AI项目成本,为AI应用提供高效的基础设施支持。