在 AMD 平台上,无需任何修改即可运行 Nvidia CUDA PyTorch 容器项目/流水线。

1作者: medicis1238 个月前
您好,我想分享一下我们在 WoolyAI GPU 虚拟机管理程序中构建的一个很酷的功能,它使用户无需任何修改即可在 AMD GPU 上运行现有的 Nvidia CUDA pytorch/vLLM 项目和管道。机器学习研究人员可以透明地使用来自异构集群(包含 Nvidia 和 AMD GPU)的 GPU。MLOps 团队无需维护单独的管道或运行时依赖项。机器学习团队可以轻松扩展容量。 请分享您的反馈,我们也在招募 Beta 用户。 https://youtu.be/MTM61CB2IZc
查看原文
Hi, I wanted to share some information on this cool feature we built in WoolyAI GPU hypervisor, which enables users to run their existing Nvidia CUDA pytorch/vLLM projects and pipelines without any modifications on AMD GPUs. ML researchers can transparently consume GPUs from a heterogeneous cluster of Nvidia and AMD GPUs. MLOps don't need to maintain separate pipelines or runtime dependencies. The ML team can scale capacity easily. Please share feedback, and we are also signing up Beta users. https://youtu.be/MTM61CB2IZc