昆仑万维开源R1V视觉思维链推理模型，开启多模态思考新时代

　　3月18日，昆仑万维正式开源首款家产界多模态思想链推理模子Skywork R1V，近日起开源模子权重和技能陈诉。

　　开启多模态思索新期间 

　　继OpenAI o1和DeepSeek-R1在环球掀起长思索模子高潮后，大模子进入新技能范式。昆仑万维秉持实现 AGI 的初心，起劲孝顺开源社区，正式开源Skywork R1V多模态视觉推理模子，成为中国第一个开源“多模态推理模子”的企业。

　　什么是视觉推理模子？ 

　　视觉推理模子是一类可以或许办理必要思想链(Chain-of-Thought)的视觉使命的模子，通过对视觉信息举办多步逻辑推理与说明，慢慢推导出最终功效。这种模子不只存眷图像内容的辨认与领略，更夸大通过层层递进的推理路径，实现伟大视觉题目的精准求解，譬喻视觉逻辑推理、视觉数学题目、图像中的科学征象说明、医学影像的诊断推理等，从而有用拓展了视觉大模子的应用界线。

　　无论是一般繁琐的事变使命、伟大的数据说明、难以解答的学术题目，照旧前所未见的生疏场景，都可以交给Skywork R1V举办高效处理赏罚。

　　快速体验下来，R1V的视觉领略和推理手段双双在线。这样的模子手段是怎样炼成的呢？

　　强盛推理手段，革新跨模态使命新高度 

　　在Reasoning推理手段方面，Skywork R1V实现了模子的顶尖逻辑推理与数学说明手段。在势力巨子的MATH500和AIME基准测试中，Skywork R1V别离取得了94.0和72.0的高分，明明领先于行业内浩瀚主流模子。Skywork R1V在纯文本伟大推理使命中揭示出卓越机能，使其在逻辑推理和数学题目求解规模揭示出人类专家级此外水准。

　　在Vision视觉领略手段方面，Skywork R1V乐成地将其强盛的文本推理与思想链推导手段高效迁徙到视觉使命中。依附创新的跨模态迁徙技能与推理优化框架，Skywork R1V可以或许高效办理必要多步视觉推理的题目，在MMMU与MathVista等视觉推理基准中别离取得了69和67.5的优秀后果。这些功效不只明明逾越了多个近似巨细的开源竞争模子，更到达与局限更大的闭源模子媲美的水准，充实证实了Skywork R1V在必要视觉思想链推理的跨模态使命中的领先上风。

　　Skywork R1V通过视觉与文本手段的深度融合和视觉思想链推理手段的打破，敦促了多模态推理模子的进一步成长，符号着人工智能规模的又一重大前进。

　　今朝，Skywork R1V已全面开源，祈望助力环球范畴内更多视觉推理使命的学术研究与财富应用试探。

　　和开源同局限或更大局限模子的比拟，Skywork R1V 38B浮现出行业明显优秀的推理手段，以及领先的多模态视觉领略手段。如下图，与开源同局限或更大局限模子的比拟：

　　与闭源头部模子机能比拟，R1V 38B模子机能媲美乃至逾越更大开源模子以及主流闭源模子。如下图，与开源大尺寸模子与闭源专有模子的比拟：

　　三大焦点技能创新，引领视觉推理新打破 

　　Skywork R1V可以或许到达当前的机能高度，依靠于以下三项要害技能创新：

　　1、文本推理手段的多模态高效迁徙

　　昆仑万维团队初次提出操作Skywork-VL的视觉投影器，无需从头实习说话模子和视觉编码器，即可实现文本推理手段的高效迁徙到视觉使命，同时保存了优越的本来推理文本手段(AIME 72.0，MATH500 94.0)。

　　2、多模态殽杂式实习(Iterative SFT+GRPO)

　　通过团结迭代监视微调(Iterative SFT)和GRPO强化进修，分阶段对齐视觉-文本表征，实现跨模态使命的高效融合，极大晋升跨模态使命的示意。敦促模子在MMMU基准到达69分的手段，同时在MathVista到达67.5分，与更大局限的闭源模子根基持平。通过重复迭代地操作高质量数据与高难度数据的组合，实现模子一连的常识固定与错误更正，明显晋升了多模态推理的精度与泛化机能。

　　图丨多模态殽杂式实习(来历：Skywork R1V技能陈诉)

　　3、自顺应长度思想链蒸馏

　　团队提出了一种基于视觉-文本伟大度的自顺应推理链长度节制机制，动态优化模子推理进程，停止模子“太过思索”，晋升推理服从。团结多阶段自蒸馏计策，进一步晋升了数据天生与推理进程的质量，促进了模子在伟大多模态使命中的示意。

　　图丨自顺应长度思想链蒸馏(来历：Skywork R1V技能陈诉)

　　Skywork R1V在实习进程中创新性地回收了三阶段要领，使得文本端强盛的推理手段得以高效迁徙至视觉使命上，详细实习流程如下：

　　1、STEP1 视觉说话表征的初始对齐

　　实习时起首行使轻量级的视觉适配器(MLP)毗连视觉编码器(ViT)与说话模子，在已有的200万条通例多模态数据长举办实习，使得MLP起源进修怎样将图像特性映射至说话空间。这一阶段仅实习MLP适配器，视觉编码器和说话模子参数保持冻结稳固，快速、高效地实现视觉与说话表征的起源对齐。

　　2、STEP2 推理手段迁徙

　　操作第一阶段实习好的MLP适配器，直接将视觉编码器与原始的强推理说话模子(R1-distilled-Qwen-32B)毗连，形成Skywork-R1V视觉推理模子。固然此时说话模子的参数产生了改变，但得益于说话模子架构的高度相似性和MLP的泛化手段，从头组装后的模子已能示意出必然的视觉推理手段，初始机能即到达业内平等局限的先历程度。

　　3、STEP3 视觉与文本模态精准对齐

　　最后，回收创新的“殽杂优化框架”，进一步精准对齐视觉和说话模态的表征。这一阶段分为两大步调：迭代监视微调(Iterative SFT)和群组相对计策优化(GRPO)强化进修。在整个实习进程中，Skywork-R1V还创新性地引入了“自顺应长度思想链蒸馏技能”，动态优化推理链长度，防备模子太过思索，从而晋升了推理服从和质量。

　　通过以上的实习计策，Skywork R1V在视觉推理使命上取得打破性盼望，并在多个果真评测基准中到达或高出了现有领先模子的机能。