📚 plmblog

Appearance

Verl 常见参数配置

📅 发表于 2025/10/31
🔄 更新于 2025/10/31
👁️ -- 次访问
📝 0 字
⏳ 0 分钟
verl
#verl

常见参数配置 ​

并行配置

pipeline_model_parallel_size

  • pipeline_model_parallel_size % num_layers == 0
batch_size

batch_size

  • batch.batch_size[0] % mini_batch_size == 0
总访客数：   ·   总访问量：
PLM's Blog @ 2016 - 2025