关于SFT时学习率的问题

[Fu-Fu-Fu-Fu]

我看到您脚本中设置的1e-5？一般SFT学习率不是用1e-6吗？1e-5会不会有些大？

包括您Video-R1的时候设置的似乎是1e-6

[tulerfeng]

Hi，因为这里面很多任务，qwen3 vl模型原本基本完全不太会，比如tracking，video segmentation，因此我们使用较大的学习率，让模型先大致学会这些任务

[Fu-Fu-Fu-Fu]

Hi，因为这里面很多任务，qwen3 vl模型原本基本完全不太会，比如tracking，video segmentation，因此我们使用较大的学习率，让模型先大致学会这些任务

我是否可以理解为，如果仅仅是QA数据且只是为了增强专业的推理能力，学习率还是不要使用1e-5更好？

[tulerfeng]

我这里没试过使用更低的1e-6学习率训练QA。

不过这批数据是seed 1.5-VL 做的，感觉cot的质量不错，因此使用高的学习率让qwen3vl多学一些也行