主机GPU云哪家好？选择时要考虑这些因素！

发布日期： 2025-10-08 阅读量： 作者： admin

最近折腾了一下，想搞个自己的主机GPU云，方便自己平时跑跑模型啥的，也算是给自己添点乐子，下面就简单记录一下我的折腾过程，希望能给有同样想法的朋友一点启发。

准备工作

1. 安装Proxmox VE：

去Proxmox官网下载最新的ISO镜像，然后制作启动盘。我用的是U盘启动盘，制作工具用的是Rufus，很简单。

然后，把电脑用U盘启动，按照提示一步一步安装Proxmox VE。安装过程比较简单，就是设置一下网络、时区啥的。

2. 配置Proxmox VE：

安装好之后，就可以通过浏览器访问Proxmox VE的管理界面了。默认端口是8006，用户名是root，密码是安装时设置的。

进去之后，要做的是配置网络。要确保Proxmox VE能够正常访问互联网，并且能够被其他设备访问到。

然后，可以添加一些存储。我添加了一个本地硬盘，用来存放虚拟机镜像和数据。

3. 创建虚拟机：

点击“创建VM”按钮，就可以开始创建虚拟机了。我创建了一个Ubuntu的虚拟机，用来跑我的模型。

创建虚拟机的时候，要设置虚拟机的CPU、内存、硬盘大小等参数。还要选择一个操作系统镜像，我从Ubuntu官网下载了一个最新的Server版本。

创建好虚拟机之后，就可以启动虚拟机，然后通过VNC或者SSH连接到虚拟机了。

4. GPU直通：

这是最关键的一步。要让虚拟机能够使用主机的GPU，需要进行GPU直通。

要在Proxmox VE的宿主机上启用IOMMU。具体操作是编辑/etc/default/grub文件，在GRUB_CMDLINE_LINUX_DEFAULT一行添加intel_iommu=on（如果是Intel CPU）或者amd_iommu=on（如果是AMD CPU）。

然后，更新GRUB：update-grub，重启宿主机。

重启之后，要将GPU从宿主机卸载，让虚拟机能够独占GPU。具体操作是在Proxmox VE的管理界面上，找到虚拟机，点击“硬件”，添加一个“PCI设备”，选择你的GPU。

添加好GPU之后，就可以启动虚拟机了。在虚拟机里面安装NVIDIA驱动，就可以正常使用GPU了。

5. 配置远程访问：

为了方便远程访问，我配置了SSH服务。这样就可以通过SSH客户端连接到虚拟机，进行命令行操作。

我还安装了TeamViewer，这样就可以通过图形界面远程访问虚拟机了。

经过一番折腾，终于把主机GPU云搭建起来了。虽然过程有点曲折，但是最终还是成功了。现在我可以随时随地通过远程访问我的GPU云，跑我的模型了，感觉真不错！

搭建主机GPU云还是挺有意思的，可以学到很多东西。如果你也想尝试一下，不妨参考一下我的经验，希望对你有所帮助。

这只是一个简单的实践记录，还有很多可以优化的地方。比如，可以配置自动化部署，可以监控GPU使用率等等。以后有时间再慢慢折腾。