/
大模型如何"思考"？杜克大学研究揭秘回溯思考对LLM推理能力的影响
这篇研究探索了大型语言模型（LLM）中回溯思考对推理能力的影响，以及监督微调（SFT）与强化学习（RL）的相互作用。杜克大学的研究团队发现，任务难度与最优回溯次数成正比：简单任务（如Arc 1D）适合零回溯，中等难度任务（如Countdown）需要一次回溯，而复杂任务（如Sudoku）则需要五次回溯。研究还揭示，训练数据的结构比内容正确性更重要，且简短思考链也能为RL提供有效起点。这些发现为优化AI推理能力提供了实用指导。
UniWorld：北大袁路团队打造的高分辨率语义编码器，统一视觉理解与生成
北京大学深圳研究生院袁路团队提出UniWorld模型，使用高分辨率语义编码器替代传统VAE，实现了图像理解和操作的统一。通过仅2.7M样本训练，UniWorld在图像编辑、文本生成图像和视觉理解方面均超越或接近使用2665M样本的BAGEL模型，证明了语义编码器提供的丰富视觉表征优势。研究已完全开源，包括代码、权重和数据集。
VS-BENCH: 一项评估视觉语言模型在多智能体环境中战略推理和决策能力的全新基准测试
VS-BENCH是清华大学和中国科技大学研究团队开发的首个多模态基准测试，专门评估视觉语言模型在多智能体环境中的战略推理和决策能力。研究涵盖八个视觉基础环境，包括合作型、竞争型和混合动机游戏，从战略推理和决策两个维度进行评估。实验结果显示，即使是最先进的视觉语言模型也存在明显不足，最佳模型在推理准确率上仅达47.8%，标准化回报率仅为24.3%。研究还发现模型在提取视觉信息、多智能体协作和战略均衡等方面存在明显短板，为未来研究指明了方向。
SynthRL：新加坡国立大学团队如何通过可验证数据合成提升视觉推理能力
新加坡国立大学研究团队开发的SynthRL是一种创新的数据合成管道，旨在提升视觉语言模型的推理能力。该方法通过三阶段流程自动生成更具挑战性的训练数据：首先基于难度选择模型已掌握的简单问题，然后生成保留原始答案的更复杂变体，最后验证问题的正确性与难度增加。应用于MMK12数据集后，研究生成了3300多个高质量问题，并在五个视觉数学推理基准上实现显著性能提升，尤其在最困难的样本上效果最为明显。这一研究证明了智能数据合成在增强AI推理能力方面的重要价值，为视觉语言模型的进一步发展开辟了新途径。
RelationAdapter：用扩散变换器学习和传递视觉关系
这项由浙江大学和新加坡国立大学合作开发的RelationAdapter研究提出了一种新型轻量级模块，使扩散变换器(DiT)模型能从视觉示例对中学习并应用视觉转换关系。研究团队创建了包含218种多样编辑任务的Relation252K数据集，并通过位置编码克隆等创新技术实现了高保真图像编辑。实验表明，该框架在低层次图像处理、风格迁移、图像编辑和定制生成等任务上均优于现有方法，为视觉提示驱动的图像编辑开辟了新途径。
AnimeShooter：香港大学与腾讯ARC实验室联合开发的多镜头动画数据集，为参考引导式视频生成开辟新天地
香港大学与腾讯ARC实验室联合推出的AnimeShooter数据集，解决了AI动画生成面临的角色一致性和多镜头连贯性问题。该数据集提供层次化注释和准确角色参考图像，配套的AnimeShooterGen模型能自回归生成连贯多镜头动画。实验证明，该模型在保持角色外观一致性和跨镜头视觉连贯性方面优于现有方法，为动画创作自动化开辟了新途径。
从零开始构建开源推理模型：解决大语言模型推理能力冷启动的关键数据集
这项研究解决了开源推理大模型领域的关键挑战：如何从零开始构建高质量的长思维链数据集，以解决大语言模型在强化学习中的冷启动问题。研究团队开发了一个创新管道，使普通大语言模型能够产生长思维链推理，方法是先收集少量种子数据捕获o1模型的推理策略，然后通过分步生成扩展到10万个高质量实例。实验表明，使用这一数据集训练的模型在强化学习阶段获得了2-3倍的性能提升，证明了该方法在构建不依赖现有推理大模型的开源替代品方面的巨大潜力。
加速扩散大语言模型：UCLA研究团队提出自适应并行解码新方法
UCLA计算机科学系研究团队提出的"自适应并行解码"(APD)方法，成功解决了扩散大语言模型面临的速度与质量权衡难题。该方法通过动态调整并行生成的词数，结合一个小型辅助自回归模型来评估生成质量，并引入KV缓存和掩码输入限制等优化措施，使扩散模型能在保持高质量输出的同时显著提升生成速度。实验表明，使用APD的Dream 7B模型不仅能达到每秒59个词的吞吐量（比基线提升近6倍），还在数学推理等任务上保持了接近原始水平的准确率，甚至超越了传统自回归模型的速度。
R?ec：思考与推荐融为一体，香港理工大学研究团队打造新一代大型推荐系统
这项研究由香港理工大学和新加坡国立大学的团队共同完成，提出了R?ec，首个将推理能力内置于大型推荐模型的统一框架。与传统方法不同，R?ec在单一自回归过程中实现了推理生成和物品预测的无缝整合。研究者还设计了RecPO优化框架，无需人工标注即可同时提升模型的推理和推荐能力。实验结果显示，R?ec在三个数据集上显著超越现有方法，在Hit@5和NDCG@20指标上分别提升68.67%和45.21%。这一突破为下一代智能推荐系统开辟了新方向。
共同进化的魔法：让AI既会写代码又会检验代码，一个团队让计算机学会自我完善的故事
这项研究提出了CURE框架，通过强化学习让大语言模型同时学习编写代码和生成单元测试两种能力，无需使用标准代码作为监督。团队开发的ReasonFlux-Coder模型在仅用4.5K编程问题训练后，便在多个基准测试中超越了同类模型，代码生成准确率提高5.3%，最佳N选1准确率提高9.0%。该方法不仅提升了模型性能，还提高了推理效率，同时为降低API调用成本和无标签强化学习提供了新思路。
视觉"动感眼"：南京大学团队打造的多模态大模型细粒度动作理解增强系统
南京大学与字节跳动联合团队开发的MotionSight系统，为多模态大语言模型提供了"动态视觉增强"能力，解决了现有AI系统在理解视频细粒度动作方面的困难。这一零样本方法通过对象中心的视觉聚光灯和动态模糊技术，显著提升了模型对物体动作和摄像机动作的感知能力，在不需要额外训练的情况下实现了业界领先性能。研究团队同时构建了MotionVid-QA数据集，这是首个专注于细粒度视频动作理解的大规模开源数据集，包含4万多个视频片段和近9万个问答对，为未来研究提供了宝贵资源。
深度解读M?FinMeeting：探索多语言、多行业、多任务的金融会议理解评估数据集
M?FinMeeting是由苏州大学和阿里云研究团队开发的创新性金融会议理解评估数据集，支持英语、中文和日语三种语言，涵盖全球行业分类标准(GICS)定义的11个行业部门，包含摘要生成、问答对提取和问题回答三项任务。研究团队用七种代表性大型语言模型进行了实验评估，发现即使是最先进的长上下文模型在处理金融会议理解任务时仍有显著提升空间。这一数据集填补了金融领域人工智能评估基准的重要空白，为未来研究提供了宝贵资源。
解决视觉语言模型的"眼见为实"难题：布朗大学团队开发像素与先验知识控制技术
这项研究创建了"Visual CounterFact"数据集，通过展示与常识相悖的图像（如蓝色草莓）测试视觉语言模型如何平衡视觉输入与记忆知识。研究发现，模型往往会被视觉输入左右，即使被问及通用知识问题。团队开发了"像素与先验"转向技术，成功控制模型在两种信息源之间的依赖，颜色任务成功率高达92.5%，大小任务达74.6%，为构建更可靠的多模态AI系统提供了新工具。
SEALQA：提升搜索增强型语言模型推理能力的新挑战
SEALQA是维吉尼亚理工大学研究团队开发的新型基准测试，旨在评估搜索增强型语言模型在面对矛盾、嘈杂或无用搜索结果时的推理能力。它包含三种测试：SEAL-0（极具挑战性的核心问题集）、SEAL-HARD（更广泛的困难问题集）和LONGSEAL（测试长上下文多文档推理）。研究发现，即使是前沿模型在这些测试中表现也很差，增加测试时计算资源往往不能带来可靠的性能提升，高级推理模型对嘈杂搜索结果特别敏感，模型在识别大量干扰文档中的相关信息时仍然困难重重。
计划与预算：大型语言模型推理的高效测试时优化方案
这篇论文提出了"计划与预算"框架，解决大型语言模型在推理任务中的效率问题。研究者发现模型存在"推理失调"现象——简单问题上过度思考，复杂问题上思考不足。他们开发了贝叶斯预算分配模型(BBAM)作为理论基础，将推理分解为子问题并根据不确定性分配计算资源。实验表明，该方法在不同任务上显著提高推理效率，令牌使用减少39%，E?指标提升187.5%，且能使小型模型达到大型模型的效率水平。
解密神秘语言模型：康奈尔大学研究团队突破性融合自回归与扩散技术
康奈尔大学团队提出的"神秘语言模型"(Eso-LMs)创新性地融合了自回归和掩码扩散模型的优势，实现了两种范式间的平滑过渡。研究最大突破在于首次为掩码扩散模型引入KV缓存技术，同时保留并行生成能力，使推理速度比标准扩散模型快65倍，比半自回归模型快4倍。通过设计特殊的注意力机制和采样策略，Eso-LMs在保持扩散模型并行生成优势的同时，解决了传统扩散模型的效率瓶颈，为语言生成任务提供了质量与速度兼具的新解决方案。
视觉赋能大脑：让多模态大语言模型在真实空间中看见、思考与控制
这项由上海人工智能实验室等机构联合发布的研究提出了VeBrain框架，成功解决了多模态大语言模型在现实世界应用中的关键挑战。VeBrain通过将机器人控制重新定义为2D视觉空间中的文本任务，统一了多模态理解、视觉空间推理和物理控制三大能力。研究团队还创建了包含60万条高质量指令数据的VeBrain-600k数据集，并设计了创新的机器人适配器将模型决策转化为实际运动。实验结果表明，VeBrain在13个多模态基准和5个空间智能基准上表现优异，并在实际机器人应用中展示出强大的适应性和组合能力。
FlowMo：一种无需额外训练即可增强视频生成运动连贯性的突破性方法
特拉维夫大学研究团队开发了FlowMo，一种无需重训练即可提升AI视频生成连贯性的创新方法。该技术通过分析模型内部潜在表示中的时序方差，找出并修正运动不自然的区域，有效解决了视频中物体突然变形、消失或出现额外部分等问题。实验表明，FlowMo在Wan2.1和CogVideoX模型上分别提升了6.2%和5.26%的整体质量分数，且获得了显著更高的人类评价。这一方法无需外部信号或专门架构，为改善AI视频生成质量提供了一条高效路径。
数据表单不够用：DATARUBRICS来了！自动化数据集质量评估与问责框架
这篇研究介绍了DATARUBRICS，一个专为评估机器学习数据集质量而设计的创新框架。研究团队发现现有的数据表单工具缺乏可量化的质量评估标准，因此开发了基于十个关键维度（包括数据来源、标注方法、质量保证等）的结构化评估体系。通过对多个顶级学术会议的数据集论文分析，研究揭示了机器生成数据的增长趋势及各会议在数据质量要求上的差异。DATARUBRICS不仅支持人工评估，还能通过LLM实现自动化评估，为日益增长的数据集审核需求提供了可行解决方案。
多模态深度研究员：基于代理架构从零开始生成图文交织报告
这项由浙江大学CAD&CG国家重点实验室研究团队开发的"多模态深度研究员"系统，能够自动生成包含精美图表和文本的专业报告。研究者提出了"可视化的形式化描述"（FDV）方法，使AI能够理解和生成高质量可视化内容。该系统分四个阶段工作：研究信息、学习示例、规划内容和生成报告。实验表明，与基线方法相比，该系统在可验证性、可视化质量和一致性方面表现出色，使用Claude 3.7 Sonnet模型时总体胜率达82%。
京公网安备 11010802021500号
