关于R1系列<模块重组>的几点疑问

[sinpy1117]

skywork团队你好，非常感谢能看到贵团队富有创造力的工作，有几点疑问想请教一下：

1. V2技术报告3.1提到的模块重组，这里是否进行了mlp module的对齐训练？还是说如报告中提到的'eliminate SFT stage'，完全摒弃了任何形式的监督训练，以一个随机初始化的projector来进行后续mpo+grpo呢？

2. 第一个问题的延续，V1报告中披露了三阶段对齐训练使用了2M数据，这是一个远远小于主流VLM在对齐阶段的数据量，且重组后能达到60.2的MMMU分数（比llava-ov-72b公布的分数高，数据量仅有它的1/4）。我好奇的是：1） 这个收益是源自对齐训练本身还是源自从32b-ins到32b-distill的重组？2） 其他通用视觉理解、感知任务的性能有观察么？例如chart/ocr等。因为有可能这种重组会导致在通用任务上出现很大的视觉幻觉 3） 不知道是否方便透露2M数据的大致构成，从分数上看，这个数据的训练效率比onevision的要高很多

最后还是感谢贵组的工作提供了很多研究探索思路！

[Orlando-CS]

您好，非常感谢您对Skywork团队工作的关注与认可，也非常感谢您提出的深刻问题！

关于您提到的几个点，我们在此做一个简要的回应与说明：

关于模块重组与对齐训练
在V2中提到的模块重组并未进行额外的MLP projector对齐训练。正如技术报告中所述，我们完全省略了传统的SFT阶段，采用的是直接连接下游视觉语言模块（例如VLM中的Adapter）的方式。这种方式虽未进行显式监督学习，但借助组件之间结构上的耦合性，在后续的MPO+GRPO训练中能够迅速收敛并实现有效迁移。

关于性能收益的来源
您提到的三个阶段训练与V1中的2M数据，确实是一个远低于LLaVA-OV等系统的训练量。我们观察到的性能收益，主要归因于组件重组策略本身，而非对齐数据或训练方法的优势。也就是说，是“重组优于再训”的理念带来了性能增益，而非额外监督对齐所致。

关于通用任务的性能表现
正如您所猜测的，我们也观察到了深度推理类任务与**通用视觉感知任务（如OCR、ChartQA）**之间存在明显的跷跷板效应。在不引入额外感知监督的前提下，这类通用任务在性能上会有一定程度的下降，部分场景下幻觉问题加剧。技术报告 https://arxiv.org/abs/2504.16656 中也对这一现象做了一定披露和量化。

关于2M数据的构成
这部分数据主要来自我们团队自建的OCR+图文数理混合型题目集，覆盖了大量的数学推理、表格问答与结构化图文理解任务。其中公开的测试集部分已通过以下链接提供：https://huggingface.co/datasets/Skywork/CSVQA
我们后续也计划在适当时间点公开更多子集以供社区参考。

再次感谢您的细致提问，如果有更多探讨，也欢迎随时交流！