您的当前位置:首页 > 知识 > 南加州大学与AWS联合研究揭示AI阅读表格的致命盲点 正文
时间:2026-07-17 13:28:03 来源:网络整理 编辑:知识
这项由南加州大学USC)与AWS AI Labs联合开展的前沿研究,于2026年6月30日以预印本形式发布,论文编号为 arXiv:2606.32029。有兴趣深入了解技术细节的读者可通过该编号查询完

这项由南加州大学(USC)与AWS AI Labs联合开展的南加前沿研究,于2026年6月30日以预印本形式发布,联合论文编号为 arXiv:2606.32029。研究阅读有兴趣深入了解技术细节的揭示读者可通过该编号查询完整论文。
你是否曾有过这样的经历:在查看密密麻麻的时刻表时,视线不小心滑到相邻行,致点导致记错发车时间?命盲这种“看错行”的失误是人类常见的认知偏差,但我们往往误以为计算机在处理表格数据时能完美避免此类问题。南加
然而,联合研究团队通过系统性实验证实,研究阅读这一假设并不成立。揭示即便是表格当前最先进的大型语言模型(LLMs),在面对表格数据时,致点也会表现出与人类相似的命盲缺陷:看错列、遗漏行,南加甚至凭空捏造数据。研究团队将这类现象定义为“数据引用错误”(Data Referencing Errors, DRE),本文将统一使用该术语指代AI在表格理解中的定位偏差。
这项研究的突破性在于,它是首次对DRE进行大规模、系统性的量化分析。研究覆盖了从15亿参数到200亿参数的多款主流模型,并测试了问答、事实核查、表格转文本等多种应用场景。更重要的是,研究不仅揭示了问题,还提出并验证了切实可行的解决方案,显著提升了AI回答的准确率。
理解DRE的本质,可以借用图书馆管理的类比。假设图书馆书架按年份排列,格子按书籍类型划分。当被问及“2019年出版的科幻小说数量”时,合格的馆员应准确定位至2019年书架及科幻格子。若馆员走错排(如走到2020年)或漏数格子,即便其计数能力无误,答案依然错误。
AI在表格任务中犯下的正是这种“定位错误”,而非“计算错误”。研究团队将DRE细分为两种形态:
这些错误令人担忧,因为它们发生在AI已理解表格结构的前提下。AI知晓行列关系及单元格语义,却在精准定位与引用的关键环节失守,如同看懂地图却走错路口。
研究团队构建了基于AI裁判(Anthropic Claude Sonnet 3.7)的自动评估体系,经人工验证,裁判判断准确率达92.67%。基于此,研究揭示了DRE的多维度分布特征:
面对普遍的DRE,研究团队测试了三种常规优化策略,结果均不理想:
鉴于内部优化效果有限,研究团队转向外部干预思路:引入专职“质检员”。
研究团队提出引入专门核查数据引用的批评模型(Critic)。该模型不关心推理逻辑或最终答案,仅负责验证AI引用的每个数值是否与原始表格完全一致。
核心启示:DRE在很大程度上是“可避免的失误”,而非模型能力的绝对天花板。通过外部质检,可显著纠正低级错误。
原实验中使用的Sonnet 3.7作为Critic存在成本高、需预知答案等局限。为此,研究团队训练了一个轻量级、开源的专职Critic:Critic-4B。
将Critic-4B接入拒绝采样流程后,虽提升幅度略逊于Sonnet 3.7,但作为低成本、开源、无需预知答案的替代方案,其效果显著:
* Distill-Qwen-7B (WTQ):准确率从49.47%提升至54.01%,DRE率从46.04%大幅降至30.59%(降幅超15%)。
研究团队坦诚指出了当前研究的边界:
这项研究颠覆了“AI因不够聪明而看错表格”的直觉认知,指出问题核心在于“仔细程度”的不可靠性。解决之道并非单纯提升模型智商,而是引入外部“校对员”机制。
对用户的建议:
在使用AI分析财务报表、成绩单或统计数据时,请勿无条件信任其数字引用。若条件允许,要求AI明确标注引用来源(行/列坐标),并进行人工核对。正如裁判也会漏判,AI也会看错行。
Q1:大模型读表格时出现的“数据引用错误”具体是指什么?
A:数据引用错误(DRE)指AI在回答表格问题时,未能精准定位数据,导致引用错误单元格内容(如将A列值误作B列)或遗漏符合条件的行。这并非逻辑理解错误,而是数据读取与定位环节的失误,类似于人类阅读时的“看错行”。
Q2:提醒AI“不要引用错误数据”为什么没有效果?
A:实验显示,即使添加严格的提示词指令,Qwen3-8B的DRE率仅从14.04%微降至12.50%,准确率几乎无变化。此外,AI的自我反思机制在首次出错后,往往基于错误数据进行后续推导,无法自动回溯纠正,导致错误固化。
Q3:Critic-4B和直接用更大的AI模型做质检有什么区别?
A:Critic-4B是专为DRE检测训练的40亿参数开源小模型,无需预知正确答案,成本低且透明。相比之下,Sonnet 3.7等大模型虽精度更高,但属于商业黑盒、成本高,且依赖标准答案。Critic-4B在实际部署中更具可行性,能在无答案情况下有效检测引用错误。
防灾减灾救灾一线见闻|奋战在辽河两岸——直击辽宁基层一线抗击汛情2026-07-17 13:21
中国代表在安理会连续驳斥美方2026-07-17 12:36
奈飞上7集印尼恐怖剧被集体低估,它比《黑镜》更值得刷屏?2026-07-17 11:49
《人生切割术》主创携手搞事,新剧《换脸人》设定炸裂且毛骨悚然2026-07-17 11:49
SK海力士美股狂飙:市值一夜疯涨2万亿 坐稳全球存储龙头2026-07-17 11:45
《九个弹孔》袁少康打开心结!原来,这是李智信利用薛征东的原因2026-07-17 11:32
北京35家货车“涉牌”违法突出货运企业被约谈2026-07-17 11:20
紫光国微:公司在宇航应用领域已推出了宇航用FPGA等多款产品2026-07-17 11:03
两场半决赛,曼城双后腰的对比,罗德里顶级、安德森不值1亿英镑2026-07-17 11:03
轮回之兽实机演示发布:Game Freak打造高精度动作RPG2026-07-17 11:01
87版《红楼梦》刘姥姥扮演者沙玉华去世2026-07-17 13:26
三堵墙、百日期、生态壁垒⋯⋯印奇硬闯硬件红海 拆解阶跃智能体终端的理想与现实2026-07-17 13:15
运动相机内存卡推荐:三星T9户外影像存储一步到位2026-07-17 13:07
沃克:人盯人防守对梅西行不通,阿根廷是英格兰的最大难关2026-07-17 12:36
广西救灾一线最新直击:灯光渐次亮起,家园加快清理2026-07-17 12:24
沃克:人盯人防守对梅西行不通,阿根廷是英格兰的最大难关2026-07-17 12:05
业绩大涨超7倍,601869涨停2026-07-17 11:56
短短5分钟2黄牌!英阿大战30分钟0射门:世界杯历史第1次 裁判抢戏2026-07-17 11:33
公司在AR/AI眼镜、物理AI相关领域是否已实现规模化量产?蓝思科技回应2026-07-17 11:14
施南生离世让他们曝光,三大港圈大佬嘴上喊丁克,晚年全都偷当爹2026-07-17 10:56