AREXOpen in interactive Feed

AREX Feed Article

微软研究院发布六项研究汇总:AI 亮明不确定性后,人类接受其错误选择的比例从 78% 降至 36%

October 13, 2026

微软研究院官方账号 @MSFTResearch 于 10 月 12 日 19:26(UTC,北京时间 10 月 13 日凌晨 3 时 26 分)在 X(原 Twitter)上,推介一份同日刊出的研究汇总,列出六项内容:AI 在承认需要澄清时表现更好;提升机器人在视觉-语言任务上的表现;如何从 AI 的失败中学习;改进 AI 辅导;理解人类嗅觉机制;更高效的 KV-cache(键值缓存)内存存储。帖文只有要点式列举,附带的经重定向指向微软研究院发布在 LinkedIn 的——全文于 10 月 12 日 19:07(UTC)刊出,官方账号约 19 分钟后发帖推介,内含五篇论文和一期播客的介绍。

汇总中数字最具体的一项结论来自人机协作实验:AI 亮明自己对指令的理解并给出不确定性信号后,人类接受其错误选择的比例从 78% 降到 36%。

AI 说清自己的理解,人类纠错随之增加

那组对比数字出自论文 Referential Uncertainty in Human-AI Collaboration(9 月 30 日上传 , 10 月收录),作者为 Christian Poelitz、Finale Doshi-Velez 与 Siân Lindley。汇总介绍,这项研究针对的问题是:AI 在收到模糊指令时,往往不去请求澄清;当人与 AI 各自掌握的信息不同时,后果最明显——人们可能意识不到 AI 正在猜,误解随之进入共同完成的工作成果。

汇总给出的实验结果显示,只拿到 AI 默认消息的受试者接受了其中 78% 的错误选择;当 AI 说明自己的理解、并附上有针对性的不确定性信号时,人们更容易发现并纠正它的错误,接受率降到 36%。

DiVeR:把验证器的训练权重压在机器人的关键决策上

视觉-语言-动作(Vision-Language-Action,VLA)模型把机器人看到的画面与收到的文字指令结合起来,决定下一步做什么;按汇总的说法,改进这类模型通常需要大量真实机器人数据,收集成本高。10 月 4 日上传 的 DiVeR: Decision-Critical Verifier Learning for VLA Test-Time Scaling(收录)给出另一条路:不增加 VLA 的训练数据。

研究者的切入点是权重分配:现有方法对任务的每一步一视同仁,但有些决策的重要性远高于其他步骤。DiVeR 观察 VLA 对同一情形提出的动作有多分散,以此找出机器人真正面临选择的节点,并在训练验证器(verifier)时给这些节点更高权重。汇总称,这套方法在仿真和真机上都提高了机器人成功率,而且不需要为 VLA 增添训练数据,也不带来明显的额外计算开销。

StudentSim:AI 家教上岗前,先让「模拟学生」陪练

AI 辅导工具需要学生反馈才能改进,但靠真人研究收集反馈慢、贵、难以规模化。10 月 12 日发布的介绍了 StudentSim:一套在接触真实学习者之前评估和改进 AI 家教的研究系统。它只使用公开、去标识化的学习者记录,先在同一学科内汇总多名学生的记录学习共性,再用单个学生自己的记录做适配,为每个学生生成一个专属的「模拟学生」。

评测沿两个维度进行:行为保真度(behavioral fidelity),看模拟学生像不像这名学生本人;引导响应性(guidance responsiveness),看它听完讲解后会不会像真实学生那样更新答案。这一设计借鉴了教育研究中区分「独立完成」与「在有支持下完成」的最近发展区思路。在国际象棋、英语二语写作和数学三个领域,StudentSim 都领先主要基线:棋类场景下,其行为保真度与引导响应性分别为 0.5150 和 0.9067;提示驱动的 GPT-5.4 为 0.2316 和 0.7186;专攻人类棋步预测的 Maia2 为 0.4535 和 0.2721。

模拟学生还能直接当家教的训练信号。在一项国际象棋家教的强化学习实验里,家教先拿到棋局和真实学生此前的错误走法、生成讲解,参数被冻结的模拟学生读后给出修正走法,奖励按国际象棋引擎 Stockfish 评估的走子质量提升来计算。经人类棋类专家盲评,用 StudentSim 反馈训练出的家教准确率为 90.5%;不用强化学习的基线为 75.7%,用 GPT-5.4 充当模拟学生的对照组为 71.6%。博客同时给出边界:StudentSim 不是产品、没有部署进课堂、也不打算取代教师,它提供的是研发阶段的反馈信号。论文()与训练、评测代码已在 公开。

AttSVD:不删 token,KV-cache 内存最多省一半

Transformer 语言模型处理长输入时,会把每个 token(词元)的中间结果存进 KV cache;缓存随输入长度线性增长,处理长文档时成为 GPU 内存的主要消耗者。汇总介绍,多数免训练的省内存办法是驱逐(eviction):把模型看起来最不依赖的 token 直接删掉。删除不可逆,信息一旦丢掉就无法找回。

来自微软应用科学组(Microsoft Applied Sciences Group)的研究者提出 AttSVD(论文 10 月 3 日上传 , 10 月 7 日收录):保留全部 token,只把每个 token 存得更紧凑。具体做法是,对每条提示(prompt)分析模型自身的注意力模式,只保留注意力真正读取的方向,让每个注意力头的常驻内存按保留的秩(rank)成比例缩减;同一组分解还顺带给出每个注意力头有效秩的可解释性信息。论文提供累积式(accumulating)与流式(streaming)两种推理期缓存策略,分别对应较短和较长的生成场景。按论文摘要,在多个模型、一个智能体基准和完整 LongBench 套件上,AttSVD 与不压缩的稠密缓存表现相当,而 KV-cache 内存最多只用一半。

嗅觉:补一张从受体到感知的编码地图

关于嗅觉,汇总指向 9 月 16 日刊于 Cell Systems 的论文 Mapping the combinatorial coding between olfactory receptors and perception with deep learning(,作者 Seyone Chithrananda、Judith Amores、Kevin K. Yang)。与视觉、听觉不同,嗅觉一直没有一张把物理信号对应到感知的成熟地图。这项工作用深度学习分析气味分子如何激活人体嗅觉受体,以及这些激活模式如何对应人们熟悉的气味。按汇总的说法,它让嗅觉研究离一张类似色觉、听觉框架的基础图谱更近了一步。

基准之外:Jennifer Neville 谈 AI 的意外失败

汇总的最后一个条目不是论文,而是一期播客。受访者 Jennifer Neville 是微软合伙人研究经理(partner research manager),长期研究面向真实场景的 AI。节目中,她讨论了评估工作如何把当前 AI 系统的性能边界继续外推、模型在传统基准之外接受测试时出现的意外失败,并分享了与 AI 系统协作的实操建议:当结果与预期不符时,先凑近看数据。

参考链接