恒美微站 Logo 恒美微站
  • 首页
  • 关于我们
  • 建站服务
  • 主题模板
  • 案例展示
  • 资讯中心
  • 联系我们

Agent Lightning 安装 verl GPU 训练栈时 verl 版本与 CUDA 组合怎么选?

  • 首页
  • 资讯中心
  • /
  • Agent Lightning 安装 verl GPU 训练栈时 verl 版本与 CUDA 组合怎么选?

相关资讯

微信小程序二维码生成器:从Canvas绘制到官方接口的选型与避坑指南 2026/9/15 11:32:34
同步课本单词APP怎么选?实测3款才知道真实差距 2026/9/14 9:33:30
FPGA实现NVMe Host控制器的轻量级参考设计解析 2026/9/15 11:00:58

最新资讯

蓝牙Mesh协议入门:从泛洪、配网到模型,一篇讲透组网原理
Verilog实现PCI到local bus桥接:协议、状态机与工程实践
RuboCop v0.34.2 版本解析:`Lint/FormatParameterMismatch` 误报修复与多项 lint 行为优化实战指南
一台 x86 服务器压出 100Gbps 带宽:dperf 网络性能测试实战笔记
Kimi Code CLI 键盘快捷键完全指南:Shell 模式交互速查与源码级实现原理
Aider用户必看:如何为AgentsView手动启用AIDER_DIR并理解扫描边界的完整指南

今日推荐

GDPR下大数据架构重构与隐私保护实践
多组学数据平台架构设计与优化实践
企业主数据管理系统架构设计与实施全解析

本周热门

AI SDK Harness 依赖更新指南:掌握 harness 包 SDK 依赖的升级、桥接同步与一致性校验
Refine v5 Ant Design NumberField 组件实战:基于 Intl 的本地化数字格式化
Flutter应用改名全指南:从Android到iOS的配置与工具实践

本月精选

自研推理加速器Redwood:两周内实现PyTorch模型高效部署的实战教程
V4L2摄像头采集实战:从camera_client.rar到出图全流程解析
从“谁发明了钢琴键”到知识问答智能体:RAG与记忆工程实践

Agent Lightning 安装 verl GPU 训练栈时 verl 版本与 CUDA 组合怎么选?

发布时间:2026/9/15 17:04:24
Agent Lightning 安装 verl GPU 训练栈时 verl 版本与 CUDA 组合怎么选? Agent Lightning 安装 verl GPU 训练栈时 verl 版本与 CUDA 组合怎么选【免费下载链接】agent-lightningThe absolute trainer to light up AI agents.项目地址: https://gitcode.com/GitHub_Trending/ag/agent-lightning在 Agent Lightning v1.0 的单节点安装流程中安装指南 的 Step 2 要求执行bash scripts/setup_verl.sh verl版本 CUDA变体。如果参数传错脚本会直接报错退出传对了但耗时和依赖关系不清楚也容易中途放弃。这篇文章只解决一个问题如何根据你的机器环境选对verl版本与 CUDA wheel 变体的组合并完整跑通 GPU 训练栈安装。先确认两个前提安装指南给出的前置条件只有两条已安装uv和 NVIDIA CUDA受支持的 CUDA 版本为12.9或13.0已从项目根目录执行过uv sync项目基础 Python 环境已装入.venv项目 pyproject.toml 要求 Python3.12。setup_verl.sh不会替你建环境它默认使用.venv/bin/python如果该可执行文件不存在脚本会直接报ERROR: expected Python executable not found并提示先运行uv sync。所以第一步永远是cd this-repo uv sync组合怎么选CUDA 版本定变体官方推荐 verl 0.8.0setup_verl.sh 的参数格式为bash scripts/setup_verl.sh 0.7.1|0.8.0 cu129|cu130 [venv_path]三个位置的取值规则都来自文档参数可选值由什么决定verl版本0.7.1或0.8.0脚本只接受这两个值否则打印 usage 并以退出码 1 结束CUDA wheel 变体cu129或cu130与机器上已安装的 CUDA 版本对应CUDA 12.9 用cu129CUDA 13.0 用cu130venv_path可选默认.venv仅当你的环境不在项目根目录.venv时传第三个参数README.md 给出的示例安装就是在 CUDA 13.0 机器上使用bash scripts/setup_verl.sh 0.8.0 cu130与安装指南中We recommend CUDA 13.0 with verl0.8.0的推荐一致。因此选型结论是CUDA 13.0 机器首选0.8.0 cu130官方推荐组合CUDA 12.9 机器使用0.7.1 cu129。两个verl版本对应的 vLLM 版本不同脚本内部已固定不需要你另外指定verl0.7.1路径安装vllm0.12.0与verl同一条命令装verl0.8.0路径先装vllm0.20.2再装verl0.8.0。两条路径都会在所选环境中本地编译flash-attn2.8.3。选这套脚本而不是手动pip install的原因也是文档明确的verl、vllm、torch的兼容版本 tightly coupled且flash-attn安装容易出错脚本装的是经过测试、版本锁定的组合。执行安装确认机器 CUDA 版本后例如nvcc --version激活基础环境并运行脚本source .venv/bin/activate bash scripts/setup_verl.sh 0.8.0 cu130或 CUDA 12.9 环境source .venv/bin/activate bash scripts/setup_verl.sh 0.7.1 cu129执行时间预期文档明确说明脚本耗时取决于 CPU 核心数约10–30 分钟flash-attn是从源码构建的中间长时间没有新输出属正常不要误判为卡死。两条路径有一个差异值得知道走cu130时系统里常有的 CUDA 12.x toolkit 太旧脚本会额外通过 pip 安装一组版本锁定在13.0,13.1的 CUDA 13.0 编译工具链nvidia-cuda-nvcc、nvidia-cuda-crt、nvidia-nvvm、nvidia-cuda-cccl、nvidia-cuda-runtime把CUDA_HOME指向 pip 包内的cu13目录来构建flash-attn并对TORCH_CUDA_ARCH_LIST使用默认值8.0;8.6;8.9;9.0;10.0环境变量已设置时沿用你的值。cu129路径不需要这一步。如何判断装成功、失败时看哪里脚本开头会打印三行确认信息先核对它们与你的意图一致Using Python executable: .venv/bin/python Using VERL version: 0.8.0 Using CUDA wheel variant: cu130判断依据参数不合法版本号或变体写错时脚本打印Usage: bash scripts/setup_verl.sh 0.7.1|0.8.0 cu129|cu130 [venv_path]并立即退出不会开始安装脚本以set -euo pipefail运行任何一条安装命令失败都会使整个脚本终止。最终能正常跑完10–30 分钟内自然结束、退出码为 0即表示这套锁定的 GPU 栈装好了如果报expected Python executable not found说明.venv缺失或位置不对——先回项目根目录执行uv sync或在第三个参数传入正确的 venv 路径。安装指南本身没有给出额外的独立校验命令GPU 栈是否可用按 Quick Start 的说明下一步就是用它启动一次真实训练任务需要一台带一张 A100 GPU 的机器该示例会启动 Ray、verl/vLLM 模型后端、agl-server与本地 controller。下一步安装指南的 Step 3 是 WB 登录因为默认所有任务都会把日志和轨迹上传到 Weights Biasesuv run wandb login之后即可按 Quick Start 跑通第一个本地训练任务验证刚装好的verlGPU 栈端到端可用。【免费下载链接】agent-lightningThe absolute trainer to light up AI agents.项目地址: https://gitcode.com/GitHub_Trending/ag/agent-lightning创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

关于恒美微站

恒美微站专注于为个体商户、工作室提供极简自助建站服务,让每个人都能轻松拥有专业网站。

快速链接

  • 关于我们
  • 建站服务
  • 主题模板
  • 案例展示
  • 资讯中心

服务项目

  • 可视化建站
  • 拖拽编辑
  • 主题定制
  • SEO 优化
  • 网站托管

联系方式

  • 📍 地址:北京市朝阳区建国路 88 号
  • 📞 电话:400-888-8888
  • ✉️ 邮箱:info@hmyw.cn
  • 🕐 时间:周一至周日 9:00-18:00

© 2024 恒美微站 hmyw.cn 版权所有 | 京 ICP 备 12345678 号