您的当前位置:首页 > 百科 > 让多模态大模型学会带着时间思考:北大与华为团队开源TaRO框架 正文
时间:2026-07-18 00:46:40 来源:网络整理 编辑:百科
核心贡献:本文第一作者为北京大学王选计算机研究所博士生郑明航,通讯作者为助理教授刘洋。该团队在 TPAMI、CVPR、ICCV、ICML 等顶级学术会议及期刊上屡获佳绩,并与国内外顶尖高校及科研机构保

核心贡献:本文第一作者为北京大学王选计算机研究所博士生郑明航,让多通讯作者为助理教授刘洋。模态该团队在 TPAMI、大模大华队开CVPR、型学ICCV、间思架ICML 等顶级学术会议及期刊上屡获佳绩,考北O框并与国内外顶尖高校及科研机构保持紧密合作。为团
研究背景:本文重点介绍了北京大学与华为中央媒体技术院在多模态视频理解与时序定位(Video Temporal Grounding,让多 VTG)领域的最新突破。
问题痛点:现有基于强化学习(RL)的模态视频大模型在推理时往往陷入“肤浅推理”陷阱,无法为精确的大模大华队开时序定位提供有效指导。
解决方案:团队提出全新的型学时序感知推理优化(Temporal-Aware Reasoning Optimization, TaRO)训练框架。该框架显式增强模型“带着时间思考”的间思架能力,在多个公开基准测试中刷新了零样本性能记录。考北O框目前,为团相关代码已全面开源。让多

论文信息
* 标题:Temporal-Aware Reasoning Optimization for Video Temporal Grounding
* 论文链接:https://arxiv.org/abs/2606.09248v1
* 开源代码:https://github.com/oceanflowlab/TaRO
* 项目主页:https://minghangz.github.io/publication/taro
* 视频介绍:https://www.youtube.com/watch?v=GJaodMUG9Vc
视频时序定位(VTG)的核心任务是根据自然语言查询,在未剪辑的视频中精准定位对应事件的起止时间段。近期,多模态大语言模型(MLLMs)结合强化学习(RL)在生成引导时序定位的推理路径方面展现出巨大潜力。然而,现有方法存在显著缺陷:生成的推理往往流于表面,未能识别出回答所需的关键视频证据。
如图 1(a)所示,研究人员对比了“带推理路径”与“直接输出答案(无推理)”两种设置下的训练与推理效果,发现两者性能差异微乎其微。这一现象揭示了一个关键问题:尽管模型被训练进行推理,但这些生成的肤浅推理对最终的定位预测几乎没有实质性贡献。
根本原因分析:

图 1:背景与动机
为克服上述挑战,本文提出时序感知推理优化(TaRO)框架,旨在训练多模态大模型显式地“带着时间”进行思考。如图 2 所示,TaRO 框架由以下三个核心组件构成:
为解决低效随机探索问题,提供高质量的初始指导。
* 机制:利用预先生成的带有明确时间戳的密集视频字幕构建推理轨迹。
* 效果:通过按时间顺序拼接采样后的字幕,模型能够学习识别哪些视觉线索对定位至关重要,哪些是干扰项,从而避免盲目摸索。
为评估推理质量并确保其严格锚定在正确的视觉片段上。
* 机制:设计一种实例级的推理路径奖励机制。核心逻辑是:高质量推理应锚定特定事件和时间戳。若扰乱真实事件边界附近的帧,该推理路径应失效,导致其概率(logit)下降。
* 效果:利用概率下降作为奖励信号,强制模型生成与关键时间戳紧密耦合的推理内容。
TaRO 遵循由浅入深的学习策略。
* 预热阶段:模型利用模板化探索数据进行学习,掌握关注视觉线索的方法,建立“带着时间思考”的范式。
* 自由探索阶段:模型过渡到自主生成阶段,在时序敏感度奖励的引导下,完善其推理策略。

图 2:时序感知推理优化(TaRO)框架
如表 1 所示,采用 TaRO 框架训练的视频大模型在 Charades-STA、ActivityNet Captions、QVHighlights 和 TVGBench 四个公开基准测试上,全面超越了现有最先进方法(SOTA)。

表 1:零样本视频时序定位性能比较
为验证 TaRO 在长视频上的表现,本文在两大长视频数据集上进行了零样本评测:
* TACOS(平均长度 367 秒)
* Ego4D NLQ(平均长度 499 秒)
如表 2 所示,在相同底座模型下,TaRO 训练的大模型依然保持优异性能,大幅领先现有基线。特别是在 Qwen3-VL-8B 架构上,提升更为明显:
* 在 TACOS 上,R1@0.3 提升 13.7%。
* 在 Ego4D NLQ 上,R1@0.3 提升 8.7%。
这证明了基于时序感知的强化学习优化在面对长视频时具有极高的有效性和鲁棒性。

表 2:长视频时序定位性能比较
表 3 验证了 TaRO 各核心设计的有效性:

表 3:消融实验
图 3 展示了 TaRO 在复杂多模态场景下的表现:
* 抗干扰能力:视频开头出现强干扰项(女子用手擦脸),其视觉动态与文本查询(用刷子擦脸)高度相似。
* 精准定位:TaRO 通过生成细粒度的中间时序推理,精准锚定 19.0s 至 37.0s的关键动作,剔除后续无关片段,最终给出正确预测。

图 3:可视化对比
针对视频时序定位中多模态大模型推理流于表面、缺乏真正时间感知的问题,本文推出了 TaRO 框架。通过引入模板化推理探索机制高效引导模型“带着时间思考”,并利用时序敏感度奖励量化推理质量,TaRO 成功提升了多模态大模型的时序推理能力。大量实验证明,该框架不仅显著提升了模型推理的鲁棒性与可解释性,更在多个公开基准上取得了最佳的视频时序定位性能。
匈牙利前外长入职比亚迪,将负责集团对外关系及新业务线拓展,盛赞“比亚迪是全球领先的新能源汽车制造商”2026-07-18 00:40
阿根廷2-1英格兰,梅西刷新世界杯历史助攻总数纪录;英格兰队主帅图赫尔赛后遭猛批,本人回应2026-07-18 00:15
电影的夏天 | 广受好评!《三国第一部:争洛阳》等你赴约2026-07-17 23:56
豆包、千问下线智能体 国内首部AI拟人化互动服务新规今起施行2026-07-17 23:21
算力储能催生锂需求新预期,但实际落地与替代技术存不确定性2026-07-17 23:19
短短5分钟2黄牌!英阿大战30分钟0射门:世界杯历史第1次 裁判抢戏2026-07-17 23:03
江苏南通:“一小区一方案” 让“老房子”变“好房子”2026-07-17 23:00
英阿大战一触即发,梅西、凯恩、贝林厄姆,谁能成主角?2026-07-17 22:38
五星勇士!库里汤普森欲共同说服詹姆斯加盟2026-07-17 22:26
“请愿将阿根廷逐出世界杯人数已超500万”冲上热搜,阿根廷主帅曾回应:绝不存在任何偏袒,VAR时代偏袒“难如登天”2026-07-17 22:07
腾讯混元Hy3大模型发布首周登顶全球调用榜,性能与性价比双突破2026-07-18 00:44
央视剧《小芳》刚播收视破1.2,口碑出炉,观众评价出奇的一致2026-07-18 00:43
全世界最会 “赘” 的男人,身价疯涨2026-07-18 00:29
“宿敌之战”在即,阿根廷副总统:英格兰是海盗2026-07-18 00:24
2026年A股规模最大IPO,今日申购2026-07-18 00:02
靠谱大容量TF卡推荐:三星T7,多场景存储优选2026-07-17 23:47
特斯拉新车没满月踩不动刹车,一女子购买21天后慌了2026-07-17 23:42
苹果AI拿到国内“通行证”,可以期待一个怎样的AI手机?2026-07-17 23:36
罗德里进攻三区完成173次传球为本届世界杯最多,成功率也最高2026-07-17 23:28
“周星驰老师在我眼里不是墙角”,这句话有错吗?有2026-07-17 22:15