/
拼图游戏的隐藏危机：上海人工智能实验室研究发现视觉语言模型能将分散的图像碎片重组理解
上海人工智能实验室的研究揭示了视觉语言模型具有"视觉拼接"能力，可以整合训练中看到的分散图像碎片。研究者将图像切分成不同粒度的碎片进行测试，发现模型不仅能根据完整图像识别相关信息，还能通过纯文本引用进行推断。这种能力虽有助于模型泛化，但也存在安全隐患：有害内容可被切分成看似无害的碎片绕过内容审核，而模型仍能将它们重组理解。研究团队建议开发超越样本级别的审核技术，以应对这一新兴安全挑战。
主动学习超参数全景调查：来自德累斯顿工业大学的大规模实验网格分析
这项研究由德累斯顿工业大学等机构的研究团队完成，旨在解决主动学习未被广泛应用的问题。研究者构建了包含460万种超参数组合的实验网格，系统分析了各参数对主动学习性能的影响。研究发现，不同策略实现间存在显著差异，基于边缘的不确定性策略整体表现最佳，随机选择约4000个超参数组合即可获得可靠结果。这些发现为设计可重现、可信赖的主动学习实验提供了明确指导，有助于降低入门门槛，促进技术在实际应用中的普及。
长文本语言模型的可控性评估：人造生物故事让评估更全面、更可靠
这项由英国爱丁堡大学和上海人工智能实验室研究者共同完成的工作提出了LongBioBench，一种用于评估长文本语言模型的新型基准测试框架。通过使用人工生成的虚构人物传记作为测试环境，该框架在保持可控性的同时，提供了更真实的评估场景。研究对18个长文本模型的测试表明，即使最先进的模型在检索、推理和可信任性方面仍存在显著挑战，特别是上下文长度增加时。研究还揭示了现有合成基准测试的设计缺陷和长上下文预训练的局限性，为未来模型开发提供了重要指导。
SuperWriter：使用大型语言模型实现反思驱动的长篇文本生成
SuperWriter是一项来自新加坡科技设计大学和清华大学的突破性研究，通过模仿人类"先思考后写作"的过程，彻底改良了AI长文生成能力。该研究团队开发的框架包含三个关键阶段：规划、写作和修改，使AI能像专业作家一样进行结构化思考。实验结果表明，经过训练的SuperWriter-LM模型不仅超越同等规模的所有AI模型，甚至在某些领域表现优于规模更大的顶级模型，为AI辅助写作开创了新的可能性。
LayerFlow：香港大学和阿里巴巴共同打造的层级视频生成技术，让你轻松创建前景、背景可分离的视频
香港大学与阿里巴巴达摩院合作开发的LayerFlow是一种突破性的层级视频生成技术，能同时生成透明前景、完整背景和混合场景视频。该技术通过创新的框架设计将不同视频层级作为子片段连接，并引入层级嵌入使模型区分各层级。面对高质量训练数据稀缺的挑战，研究团队设计了三阶段训练策略，结合Motion LoRA和Content LoRA，实现了图像和视频数据的联合训练。LayerFlow不仅支持多层视频生成，还能实现视频分解和条件层生成，为视频创作领域带来革命性变革。
SVGenius基准测试：大语言模型在SVG理解、编辑和生成方面的全面评估
浙江大学研究团队开发的SVGenius是首个综合评估大语言模型SVG处理能力的基准测试系统。该研究涵盖2,377个测试样例，评估了22种主流AI模型在理解、编辑和生成三个维度上的表现。结果显示，虽然专有模型如Claude和GPT-4o表现最佳，但随着SVG复杂度增加，所有模型性能都明显下降；强化推理训练比单纯扩大模型规模更有效；风格转换是最具挑战性的任务。这一研究为开发更先进的AI辅助设计工具提供了关键见解，有望推动矢量图形技术发展和设计工作流程变革。
进击的多模态推理：浙大&复旦联合研究团队揭秘从优化冷启动到分阶段强化学习的全新训练范式
这项研究由浙江大学、复旦大学等机构联合完成，提出了ReVisual-R1模型，通过创新的三阶段训练方法显著提升了多模态大语言模型的推理能力。研究发现优化的纯文本冷启动训练、解决强化学习中的梯度停滞问题、以及分阶段训练策略是关键因素。ReVisual-R1在各类推理基准测试中超越了现有开源模型，甚至在某些任务上超过了商业模型，为多模态推理研究开辟了新途径。
一招制胜：通过单一问题的批评式微调释放大语言模型的推理潜力
这项研究提出了一种名为"批评式微调"的创新方法，证明仅使用一个问题的批评数据就能显著提升大语言模型的推理能力。研究团队对Qwen和Llama系列模型进行实验，发现这种方法在数学和逻辑推理任务上都取得了显著提升，平均提高15-16个百分点，而且只需要强化学习方法1/20的计算资源。这种简单高效的方法为释放预训练模型的潜在推理能力提供了新途径。
图像编辑即程序：新加坡国立大学研究团队提出模块化编辑框架，让复杂图像编辑变得简单高效
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架，它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色，但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作，并利用思维链推理技术智能分解用户指令，实验证明其性能显著超越现有方法，尤其在处理复杂多步骤编辑时。
TalkingMachines：Character AI打造的实时音频驱动视频会话系统，让虚拟形象自然对话成为现实
Character AI的研究者开发出TalkingMachines系统，通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括：将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话，嘴型与语音同步，为实时数字人交互技术开辟了新可能。
别被表面现象迷惑：如何真正衡量大语言模型的自我偏好
这项由中国人民大学高瓴人工智能学院研究团队发表的研究解决了大语言模型评判中的自我偏好问题。研究提出了DBG分数，通过比较模型给自身回答的分数与黄金判断的差异来测量偏好度，有效分离了回答质量与自我偏好偏差。实验发现，预训练和后训练模型都存在自我偏好，但大模型比小模型偏好度更低；调整回答风格和使用相同数据训练不同模型可减轻偏好。研究还从注意力分析角度揭示了自我偏好的潜在机制，为提高AI评判客观性提供了重要指导。
DenseDPO：解决视频生成中的静止偏好，用精细时序偏好优化提升动态表现
这篇研究提出了DenseDPO，一种改进视频生成模型的新方法，通过三大创新解决了传统方法中的"静态偏好"问题：使用结构相似的视频对进行比较，采集细粒度的时序偏好标注，并利用现有视觉语言模型自动标注。实验表明，DenseDPO不仅保留了视频的动态性，还在视觉质量方面与传统方法相当，同时大大提高了数据效率。这项技术有望推动AI生成更加自然、动态的视频内容。
RefEdit：一项突破性研究，让AI编辑图像时能准确理解「这个人」「那只猫」到底是指谁
亚利桑那州立大学的研究团队开发了RefEdit，这是一种新型图像编辑AI系统，能够准确理解和处理指代表达（如"中间那个人"、"右边的猫"）。通过创建RefEdit-Bench基准测试，研究者们证明现有模型在多物体场景中表现不佳。他们设计了一种创新的数据生成流程，仅用2万样本就训练出的RefEdit模型超越了使用数百万样本训练的大型模型。这一突破使AI图像编辑在复杂场景中更加精确和实用。
超越数字反馈：Critique-GRPO如何帮助大语言模型通过自然语言批评提升推理能力
这项研究提出了Critique-GRPO，一种创新的在线强化学习框架，将自然语言批评与数字反馈相结合，克服了传统仅用数字反馈的三大局限：性能瓶颈、自我反思效果有限和顽固性失败。实验表明，该方法使大语言模型能够从错误中学习并改进，在八项数学和通用推理任务中，将Qwen2.5-7B和Qwen3-8B模型的平均通过率分别提高了约4.5%和5%，超越了包括那些引入专家示范的方法。研究还揭示，高熵探索和长回答并不总是最有效的学习方式，质量更重要。这一方法为大语言模型的自我提升能力开辟了新路径。
数字与直觉并行：麻省理工和Adobe联合开发的量化LLM评价框架
这篇研究介绍了"量化LLM评价者"，一个创新框架，能使大型语言模型(LLM)在评估其他AI输出时更接近人类判断。由麻省理工和Adobe联合研发的这一方法，将评估过程分为两个阶段：先让LLM生成文本评价，再用轻量级机器学习模型将这些评价转化为更准确的数值评分。研究提出了四种评价者模型，适用于不同评估场景，实验表明它们不仅能显著提高评分准确性，还比传统微调方法更节省计算资源。这一框架特别适合人类反馈有限的场景，为AI评估领域开辟了高效且可解释的新路径。
像你一样思考：链式推理让计算机更好地理解我们的指令
这项研究由IDEA、华南理工大学和北京大学联合开发的Rex-Thinker系统，通过模仿人类的链式思考方式来解决物体指代问题。与传统直接输出边界框的方法不同，它采用规划-行动-总结的三步骤推理，使AI能像人类一样逐步分析图像中的候选物体，并在找不到匹配物体时拒绝作答。通过构建90,824样本的HumanRef-CoT数据集和两阶段训练方法，系统在精度、可解释性和泛化能力上均取得了显著进步。
动态分层剪枝：让大型语言模型"减肥"更聪明
这项研究提出了动态分层剪枝（DLP）方法，通过自动确定大型语言模型中各层的相对重要性来分配不同的剪枝率。与传统均匀剪枝方法相比，DLP在高稀疏度条件下表现优异，在70%稀疏度时可将LLaMA2-7B的困惑度降低7.79并提高平均准确率2.7%。DLP与多种模型压缩技术兼容，在CPU上可实现2.8x-3.7x的推理加速，为资源受限设备上部署大型语言模型提供了新方案。
跟随流程：神经符号代理助力流程图精细归因
这项研究介绍了一种名为FlowPathAgent的神经符号代理系统，用于解决流程图归因问题。研究团队提出了流程图精细归因这一新任务，构建了FlowExplainBench评估基准，并开发了结合视觉分割、符号图构建和基于代理的图形推理的方法。实验表明，该方法在归因准确性上比现有基线提高了10-14%，特别在处理复杂流程图时表现出色，为提升人工智能系统在处理结构化视觉-文本信息时的可靠性和可解释性提供了新途径。
大型语言模型的可信评估新方法：揭秘"捷径神经元"如何影响AI真实能力测评
这项研究首次从神经元层面揭示了大型语言模型(LLM)评估中的"数据污染"机制。研究团队发现当模型在训练中接触过测试数据时，会形成特定的"捷径神经元"，使模型无需真正理解问题就能给出正确答案。他们提出了一种新方法，通过识别并抑制这些神经元（仅占模型总神经元的约1%），成功恢复了模型的真实能力表现。实验证明，该方法与权威可信基准测试结果高度一致（相关系数>0.95），并在不同基准和参数设置下都表现出色，为解决LLM评估可信度问题提供了低成本且有效的解决方案。
安全与可信的智能代理时代：向量研究所发布LLM多智能体系统信任、风险与安全管理全面综述
这份来自向量研究所、康奈尔大学和格罗宁根大学研究团队的综述分析了基于大语言模型的代理型多智能体系统中的信任、风险和安全管理框架(TRiSM)。研究系统地探讨了代理型AI从概念基础到安全挑战，提出了包含治理、可解释性、模型运营和隐私/安全四大支柱的TRiSM框架。文章还详细分析了威胁向量、风险分类，并通过真实案例研究展示了潜在脆弱性。
京公网安备 11010802021500号
