Windows搭建深度学习模型训练环境
Windows搭建深度学习模型训练环境
安装WSL
启用WSL
现今许多知名的深度学习框架与开源软件包如deepspeed、Unsloth等都是在Linux环境下进行开发。这些开源软件并没有提供良好的windows环境支持，直接在windows环境下使用会导致不兼容的问题，因此我们需要一个Linux环境。在windows中，微软为我们提供了WSL（适用于Windows的Linux子系统）。WSL是 Windows 的一项功能，可用于在Windows计算机上运行Linux环境，而无需单独的虚拟机或双引导，WSL可以为我们同时使用windows与linux环境的情况下提供高效无缝的开发体验。
WSL很容易安装，在开始之前，我们首先需要开启windows中的WSL功能。在开始菜单栏搜索启用或关闭Windows功能，在其中勾选适用于Linux的Windows子系统与虚拟机平台两个选项，点击确定，然后重启电脑。
之后验证WSL，打开命令行，输入如下命令：
1 | wsl --help |
若输出如下帮助信息，则说明WSL成功启用。
安装Linux发行版
在安装之前，可以使用wsl --update安装WSL内核更新包，然后通过wsl --set-default-version 2将WSL默认版本设置为WSL2。
启用WSL之后就可以在windows中安装相应的Linux发行版了，这里选择使用Ubuntu发行版。使用：
1 | wsl --install -d Ubuntu |
进行安装，等待一段时间安装完成。安装完成后，设置用户名与密码。
可以通过wsl --list命令查看已安装的Linux发行版，在命令行中可以通过wsl -d Ubuntu来启动已安装的发行版。
至此WSL环境准备完毕。
更改WSL位置
WSL默认安装在系统盘中，随着系统的使用，会占用我们C盘的空间，所以我们可以选择将其打包放到其它盘去。
使用wsl -l --all -v命令查看WSL已安装的发行版的详细信息。
使用如下命令将发行版打包并导出到D盘：
1 | wsl --export Ubuntu d:\wsl-ubuntu.tar |
导出发行版后，我们需要注销当前的发行版。使用：
1 | wsl --unregister Ubuntu |
将发行版注销。
将之前的发行版注销后，我们就可以使用如下命令来重新导入发行版，并将其安装在D盘：
1 | wsl --import Ubuntu d:\wsl-ubuntu d:\wsl-ubuntu.tar --version 2 |
因为之前我们在WSL中设置了默认用户，所以现在需要重新设置默认用户，使用Ubuntu config --default-user <username>设置默认用户。
最后使用del d:\wsl-ubuntu.tar删除.tar文件，我们就完成了发行版的迁移，将WSL的默认安装目录迁移到D:\wsl-ubuntu目录下了。此目录即为WSL的根文件系统。
在WSL中安装与配置Conda
安装Conda
在配置好WSL系统环境后，我们就可以进一步安装我们进行深度学习训练所需的Conda与Cuda环境。其中Conda也允许我们可以方便的创建与管理我们所需的python环境，我们在WSL中对Conda进行安装的步骤与在linux系统下安装的步骤完全一致。
在Ubuntu发行版中，我们可以通过运行如下的命令来安装我们所需的COnda版本：
1 | cd |
通过上面的命令行，我们首先切换到根目录下，然后下载Conda的安装包，最后通过运行安装文件来完成安装。我们按照Anaconda的提示进行安装，会默认安装到 /home/用户名/anaconda3的路径下。
安装完成后，我们需要将Conda添加到我们的系统路径中。使用Vim打开系统环境变量文件：
1 | vim ~/.bashrc |
按i键进入编辑模式，在文件中插入下面的配置信息，添加Anaconda环境变量：
1 | export PATH="/home/用户名/anaconda3/bin:$PATH" |
之后输入:wq保存并推出配置文件，最后使用source命令更新我们的环境配置：
1 | source ~/.bashrc |
至此Conda的配置完成，我们可以使用conda --version来验证我们的安装，若系统输出Conda的版本信息，则说明Conda安装成功。
使用Conda创建Python环境
配置好Conda后，我们就可以使用Conda来创建我们所需的Python环境了。我们可以通过如下的命令来进行创建：
1 | conda create -n my_llm_env python=3.12 |
按照引导创建完成后，我们可以使用conda activate my_llm_env来激活我们的Python环境，之后就可以通过pip或conda的方式来安装我们所需的第三方包了。
在WSL中安装与配置Cuda
通俗地说，CUDA是一种协助“CPU任务分发+GPU并行处理”的编程模型/平台，用于加速GPU和CPU之间的计算。我们在训练模型时，如果要使用Nvidia的GPU来加速训练，那么我们就必须安装对应版本的Cuda Toolkit。
首先，在安装之前我们可以使用nvidia-smi来查看我们机器的GPU信息以及支持的最高版本的Cuda信息。接下来，我们可以到官网去下载相对应的Cuda Toolkit。这里我们选择Linux -> X86_64 -> WSL-Ubuntu -> 2.0 -> runfile(local)的版本的runfile进行下载。运行官网给出的下载与安装命令：
1 | wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda_12.8.0_570.86.10_linux.run |
接下来与Conda时的操作一样，我们需要配置Cuda的环境变量，将下面的配置信息添加到我们的配置文件中：
1 | export CUDA_HOME=/usr/local/cuda-12.8 |
至此我们便完成了Cuda的配置。我们可以通过nvcc --version来验证我们的环境，若输出了对应的版本信息，则说明我们的安装成功。
至此我们完成了一个在Windows系统下运行Linux环境的深度学习的基础开发环境的搭建，在完成上述步骤后，我们已经具备了可以运行的Python环境以及可以与GPU进行通讯的Cuda平台。