安装指南

安装指南#

安装 Trinity-RFT 有三种方式：源码安装（推荐）、通过 PyPI 安装，或使用 Docker。

开始之前，请检查您的系统配置：

如果您拥有 GPU 并希望使用它们：#

请确保您的系统满足以下要求：

  • Python：3.10 – 3.12

  • CUDA：12.8 或更高版本

  • GPU：至少 2 块可用

如果您没有 GPU（或不希望使用 GPU）：#

您可以改用 tinker 选项，该选项仅需满足：

  • Python：3.11 – 3.12

  • GPU：无需

源码安装（推荐）#

如需修改、扩展 Trinity-RFT，推荐使用此方法。

1. 克隆仓库#

git clone https://github.com/modelscope/Trinity-RFT
cd Trinity-RFT

2. 创建虚拟环境#

可选择以下任一方式：

使用 Conda#

conda create -n trinity python=3.12
conda activate trinity

pip install -e ".[vllm,flash_attn]"

# 如果没有GPU，可以注释上一行的命令，改为使用Tinker：
# pip install -e ".[tinker]"

# 如果安装 flash-attn 时遇到问题，可尝试：
# pip install flash-attn==2.8.1 --no-build-isolation

pip install -e ".[dev]"  # 用于调试和开发

使用 venv#

python3.10 -m venv .venv
source .venv/bin/activate

pip install -e ".[vllm,flash_attn]"

# 如果没有GPU，可以注释上一行的命令，改为使用Tinker：
# pip install -e ".[tinker]"

# 如果安装 flash-attn 时遇到问题，可尝试：
# pip install flash-attn==2.8.1 --no-build-isolation

pip install -e ".[dev]"  # 用于调试和开发

使用 uv#

uv 是现代的 Python 包管理工具。

uv sync --extra vllm --extra dev --extra flash_attn

# 如果没有GPU，可以改为使用Tinker：
# uv sync --extra tinker --extra dev

通过 PyPI 安装#

如果您只需使用 Trinity-RFT 而不打算修改代码：

pip install trinity-rft
pip install flash-attn==2.8.1

或使用 uv：

uv pip install trinity-rft
uv pip install flash-attn==2.8.1

使用 Docker#

我们提供了 Docker 环境，方便快速配置。

git clone https://github.com/modelscope/Trinity-RFT
cd Trinity-RFT

# 构建 Docker 镜像
## 提示：可根据需要修改 Dockerfile 添加镜像源或设置 API 密钥
docker build -f scripts/docker/Dockerfile -t trinity-rft:latest .

# 运行容器，请将 <path_to_your_data_and_checkpoints> 替换为实际需要挂载的路径
docker run -it \
  --gpus all \
  --shm-size="64g" \
  --rm \
  -v $PWD:/workspace \
  -v <path_to_your_data_and_checkpoints>:/data \
  trinity-rft:latest

备注

如需使用 Megatron-LM 进行训练，请参考 Megatron-LM Backend。

常见问题#

如遇安装问题，请参考 FAQ 或 GitHub Issues。

目录