概要

LLaMA Factory 是一个简单易用且高效的大型语言模型训练与微调平台。通过它，用户可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调。

1.安装必要的环境

首先，确保你的 CentOS 系统已经安装了 Python。LLaMA Factory 需要 Python 3.6 或更高版本。你可以通过以下命令安装 Python 3（如果尚未安装）：

sudo yum install -y python3
sudo yum install -y python3-pip

2.安装 PyTorch

LLaMA Factory 使用 PyTorch 进行模型的训练和推理，因此你需要安装 PyTorch。你可以访问 PyTorch 官方网站 获取安装命令。例如，对于 CUDA 11.3 和 Python 3.8，可以使用以下命令

pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu113

3.安装 Transformers 和 Datasets

LLaMA Factory 使用 Hugging Face 的 transformers 和 datasets 库。你可以使用 pip 来安装这些库：

pip3 install transformers datasets

4.克隆 LLaMA Factory 仓库和安装LLaMA Factory

克隆 LLaMA Factory 的 GitHub 仓库到你的系统中并安装 LLaMA Factory

git clone https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]" -i https://pypi.tuna.tsinghua.edu.cn/simple

执行 llamafactory-cli version 验证安装情况：

[root@VM-0-9-tencentos ~]# whereis llamafactory-cli
llamafactory-cli: /usr/local/bin/llamafactory-cli
[root@VM-0-9-tencentos ~]# /usr/local/bin/llamafactory-cli version
----------------------------------------------------------
| Welcome to LLaMA Factory, version 0.9.4.dev0           |
|                                                        |
| Project page: https://github.com/hiyouga/LLaMA-Factory |
----------------------------------------------------------
[root@VM-0-9-tencentos ~]# 

依赖安装完成后，执行：llamafactory-cli webui，可以启动 LLaMa Factory 的 webui：

llamafactory-cli webui

可以使用下面的命令启动，即使会话关闭了，UI界面仍可以访问：

nohup llamafactory-cli webui > llamafactory.log 2>&1 &

UI界面启动成功，使用 IP:7860 端口进行访问

到此，LLaMA Factory在linux服务器上的安装就完成了。

5.准备数据和模型配置

在开始训练之前，你需要准备数据集和配置文件。这通常包括下载数据集、编写配置文件等。你可以参考 LLaMA Factory 的 GitHub 仓库中的说明来准备这些资源。

6.运行 LLaMA Factory

一切准备就绪后，你可以运行 LLaMA Factory 来训练你的模型。通常，这涉及到运行一个 Python 脚本来启动训练过程

python3 train.py --config config.json

确保 config.json 是你的配置文件路径，其中包含了所有必要的设置。

7.监控和调整

在训练过程中，监控模型的性能并根据需要进行调整。你可以使用 TensorBoard 或其他工具来监控训练过程。

8.后续步骤

一旦模型训练完成，你可以使用它进行推理或进一步优化。确保保存好你的模型和相关的元数据以便后续使用。

以上就是在 CentOS 上安装和使用 LLaMA Factory 的基本步骤。如果你遇到任何问题，可以查看 LLaMA Factory 的 GitHub 仓库中的文档或寻求社区的帮助。