Seventy3

任雨山
  • 5,0 (1)
  • Technologies

73播客，Sheldon最喜欢的数字，内容均为Google NotebookLM原生生成，每天由AI领读最新的前沿论文。欢迎投稿合作。

  1. -7 h

    【第698期】AIP：大模型上下文协议与代理间通信的可验证委派协议

    Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：seventy3_podcast（加群/投稿论文） 今天的这篇的主题是： AIP: Agent Identity Protocol for Verifiable Delegation Across MCP and A2A Summary AI Agent 越来越频繁地通过模型上下文协议（MCP）调用工具，并经由 Agent 到 Agent（A2A）协议将任务委托给其他 Agent，然而这两个协议目前均未对 Agent 身份进行验证。对约 2,000 个 MCP 服务器的扫描发现，所有服务器都缺乏身份验证。在我们的调查中，尚未发现先前有已实现的协议能够联合融合公钥可验证委托、持有者侧权能衰减（holder-side attenuation）、具表达力的链式策略、跨 MCP/A2A/HTTP 的传输绑定，以及面向出处的完成记录。 我们提出了调用绑定权能令牌（Invocation-Bound Capability Tokens, IBCTs），这是一种将身份、衰减授权和出处绑定融合到单个仅追加（append-only）令牌链中的原语。IBCTs 以两种传输格式运行：紧凑模式（用于单跳场景的签名 JWT）和链式模式（带有用于多跳委托的 Datalog 策略的 Biscuit 令牌）。 我们提供了 Python 和 Rust 的参考实现，具备完整的跨语言互操作性。紧凑模式的验证在 Rust 中耗时 0.049ms，在 Python 中耗时 0.189ms；在真实的基于 HTTP 的 MCP 部署中，相比无身份验证仅增加 0.22ms 的开销。在结合 Gemini 2.5 Flash 的真实多 Agent 部署中，Agent 身份协议（AIP）增加了 2.35ms 的开销（占总端到端延迟的 0.086%）。 跨 600 次攻击尝试的对抗性评估显示出 100% 的拦截率；其中两种攻击类型（委托深度违规，以及通过空上下文逃避审计）能够被 AIP 的链式委托模型独家捕获，而无签名或纯 JWT 部署均无法检测出这两类攻击。 原文链接：https://arxiv.org/abs/2603.24775 前往小宇宙评论区与主播互动

  2. -1 j

    【第697期】早期推理涌现：大模型推理数据的代币高效筛选

    Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：seventy3_podcast（加群/投稿论文） 今天的这篇的主题是： Reasoning Quality Emerges Early: Data Curation for Reasoning Models Summary 在少量高质量的长推理轨迹（long reasoning traces）数据集上进行监督微调（SFT），是激发大语言模型（LLMs）强大推理能力的有效方法。然而，现有用于筛选高质 SFT 数据的方法高度依赖强推理模型来根据多样性和难度筛选样本，这导致数据筛选过程成本高昂，且往往只能得到次优的数据质量。 在这项工作中，我们展示了仅利用初始的推理 Token 即可识别出具备多样性且富有挑战性的推理样本。具体而言，我们证明了：仅需根据预训练模型在随机扰动检查点（randomly perturbed checkpoint）下评估的前 100 个推理 Token 的损失（loss），就能可靠地检测出难题。我们进一步证明，在沿微调轨迹推断的少数扰动检查点上，在前 1k 个推理 Token 中表现出相似 Loss 模式的样本，在证明上（provably）会诱导出相似的梯度。 我们通过在 M23K 医疗推理数据集和 OpenThoughts-Math 数据集上微调 Qwen2.5-7B 与 Llama3.1-8B 模型的广泛实验验证了该方法。我们的方法在 Token 效率提升 91% 的同时，性能超越了现有基线高出最多 1.7%。 原文链接：https://arxiv.org/abs/2606.26797 前往小宇宙评论区与主播互动

  3. -2 j

    【第696期】强化学习元认知反馈：大模型不确定性的忠实表达

    Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：seventy3_podcast（加群/投稿论文） 今天的这篇的主题是： Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs Summary 元认知（Metacognition）是智能的核心组成部分，它描述了监控和调节自身认知过程的能力。然而，大语言模型（LLMs）在关键的元认知功能上展现出了系统性缺陷：它们以高度的自信产生幻觉、无法识别自身的知识边界，并歪曲其内部的不确定性——这严重削弱了模型的信任度与可靠性。 由于监控任务表现并据此调整行为是元认知能力的核心，我们假定：能够准确判断自身表现的模型，更有能力去提升这种表现。我们通过两种新颖的机制将这一思想付诸实践： 元认知反馈强化学习（RLMF）：一种在偏好优化过程中，基于模型对自身表现自我判定的质量，来精炼补全结果（completion）排序的范式； 元认知数据选择：利用类似的自我判定来识别高价值训练样本，其效果超越了朴素的主动学习（naive active learning）。 我们将这些创新应用到忠实对齐校准（Faithful Calibration, FC）问题上，该任务本身就具备根本上的元认知属性：其目标是将表达出的不确定性与内在的不确定性保持一致，这即使对于前沿 LLM 而言也极具挑战。我们采用了解耦的两阶段方法：首先利用这些方法来校准模型自我报告的自信度得分的忠实度；随后通过有针对性的输出编辑，将其映射为自然且能适应上下文的语言学不确定性表达。 广泛的实验表明，RLMF 在保持准确率的同时，在多样化的任务上实现了具备泛化能力且达到 SOTA 水平的忠实对齐校准（FC）。此外，RLMF 的表现超越了标准强化学习（RL）高达 63%，同时增强了模型评估和表达自身能力边界的能力。这使得 RLMF 成为了一种极具前景的范式，能够提升 LLM 的元认知能力，进而推动能力与对齐（alignment）的改善；同时也表明元认知表现可以作为一种有效的强化学习信号，用以克服先前内在反馈方法的局限性。 原文链接：https://arxiv.org/abs/2606.32032 前往小宇宙评论区与主播互动

  4. -3 j

    【第695期】AUTOMEM：记忆认知技能的自动学习研究

    Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：seventy3_podcast（加群/投稿论文） 今天的这篇的主题是： AUTOMEM: Automated Learning of Memory as a Cognitive Skill Summary 记忆专业能力（Memory expertise）是一项后天学会的技能：明确该编码什么、何时进行检索以及如何组织知识——这一能力在认知科学中被称为元记忆（metamemory）。我们通过将记忆管理视为一项可训练的技能，将这一视角引入到大语言模型（LLMs）中。我们将文件系统操作提升为与任务动作平起平坐的一等记忆动作（first-class memory actions），让模型自身来决定如何管理其记忆。 这种记忆技能沿着两个轴线进行提升：支持它的结构（Prompt、文件 Schema、动作词表），以及运用该技能的模型熟练度。然而，这两个轴线都难以通过人工优化来实现：长流程任务中的单次 episode 会运行数千个步骤，而且单个记忆错误可能在隐蔽很久之后才会浮出水面，这使得人类对完整轨迹进行评审变得不可行。 我们提出了 AutoMem，一个将上述两个轴线全自动化的框架。在第一个循环中，一个强 LLM 会评审 Agent 的完整轨迹，并迭代修改塑造 Agent 如何与其记忆文件交互的记忆结构。在第二个循环中，系统会从许多 episode 中识别出 Agent 自身做出的优秀记忆决策，并将其作为训练信号，直接提升模型的记忆熟练度。 在三个程序生成的长流程游戏（Crafter、MiniHack 和 NetHack）中，仅通过优化记忆——而不修改模型的任务动作行为——就将基线 Agent 的性能提升了约 2 到 4 倍，使得一个 32B 参数的开源模型能够具备与 Claude Opus 4.5 和 Gemini 3.1 Pro Thinking 等前沿系统相媲美的竞争力。我们的结果表明，记忆管理是一项可以独立学习的技能，也是一个能够在长流程任务中带来巨大收益的高杠杆目标。 原文链接：https://arxiv.org/abs/2607.01224 前往小宇宙评论区与主播互动

    【第695期】AUTOMEM：记忆认知技能的自动学习研究

  5. -4 j

    【第694期】SkillComposer：大语言模型智能体的生成式技能组合方案

    Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：seventy3_podcast（加群/投稿论文） 今天的这篇的主题是： Generative Skill Composition for LLM Agents Summary 近期的大语言模型 Agent（LLM agents）得益于技能（Skills）来解决复杂任务。技能封装了执行特定任务（例如搭建沙箱环境、运行测试套件或跨多个文件重构函数）的模块化程序性知识与指令包。随着技能库不断扩大并在不同任务和领域间得以复用，选择合适的技能组合（skill composition）已成为核心瓶颈。 现有方法主要分为两类：一类是将 Agent 的推理完全暴露给整个技能集；另一类是通过嵌入向量（embeddings）或基于 LLM 的重排序器（rerankers）来进行技能检索。这两类方法虽然都提供了有价值的见解，但它们忽略了技能组合的结构化特性——这是一种关于“选用哪些技能、使用多少个以及以何种顺序执行”的联合决策，而这三个维度是无法解耦的。 我们将此形式化为结构化技能组合（structured skill composition）：给定一项任务和一个技能库，预测出一个可执行的技能计划，该计划联合指定了激活的子集、数量和执行顺序。 我们提出了 SkillComposer，它将结构化技能组合实例化为基于任务条件的技能序列预测。SkillComposer 在技能标识符（skill identifiers）上使用受约束的自回归解码器，从而使子集、数量和顺序在单次解码过程中共同产生，并且顺次发生的技能之间的依赖关系能够被自然地捕获。 我们从真实的人工整理技能库中构建了一个“任务-组合”对的训练集。随后，我们从两个维度对 SkillComposer 进行了评估：留出测试集上的组合质量，以及在 SkillsBench 上跨两个生产级编程 Agent 的下游任务成功率。在 GPT-5.2-Codex 和 Gemini-3-Pro-Preview 上，SkillComposer 相较于无技能基线（no-skill baseline）将通过率分别提升了 +23.1 和 +18.2 个百分点，不仅超越了 Top-3 检索，还在更低的 Prompt Token 成本下达到了黄金技能检索（gold-skill retrieval）的性能上限。 原文链接：https://arxiv.org/abs/2606.32025 前往小宇宙评论区与主播互动

  6. -5 j

    【第693期】Google论文助手：迈向自动化科学评审之路

    Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：seventy3_podcast（加群/投稿论文） 今天的这篇的主题是： Towards Automating Scientific Review with Google’s Paper Assistant Tool Summary 人工智能正推动着科学发现领域的一场变革，从假设生成到数学定理证明，全方位加速着科研进程。然而，这种飞速的提速正引发一项系统性挑战：传统的人类同行评审规模难以跟上 AI 辅助科学成果的爆炸式增长。归根结底，要化解这一紧张局势，我们必须同样部署 AI 来加速验证和评审过程本身。为了围绕这一转型展开探讨，我们提出了一个包含四个渐进层级的分类法，用于划分 AI 与人类在科学评估中的协作关系，并讨论了每个层级涉及的各种权衡。 作为迈向这一未来的一步，我们推出了“论文助手工具”（Paper Assistant Tool, PAT），这是一个专为深度科学评审与验证而构建的 Agent 式 AI 框架。PAT 可以摄入整篇科学手稿并生成综合评估，包括检查理论结果、验证实验、提出改进建议以及识别潜在缺陷。通过运用推理扩展技术（inference scaling techniques），PAT 能够比单次模型调用发现更深层次的问题，在 SPOT 基准测试的数学错误识别上相比零样本（zero-shot）召回率提升了 34%。PAT 在两大计算机科学顶级会议——STOC 和 ICML——被作为作者提交前（pre-submission）工具进行了试点部署，结果表明它具备识别关键错误并对研究论文提出实质性改进建议的能力。通过尽早捕抓错误，PAT 减轻了审稿人的认知负担，同时保留了他们对评审最终结果的控制权。 原文链接：https://arxiv.org/abs/2606.28277 前往小宇宙评论区与主播互动

  7. -6 j

    【第692期】验证之境：编程智能体的演进与协同

    Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：seventy3_podcast（加群/投稿论文） 今天的这篇的主题是： The Verification Horizon: No Silver Bullet for Coding Agent Rewards Summary 经典的直觉认为，验证一个解法要比生成一个解法更容易。然而对于当下的编程 Agent 而言，这一直觉正在被颠覆：随着基础模型具备更强的推理能力，以及工程框架（harnesses）变得日益精密，生成复杂的候选解法已不再困难——可靠地验证它们反而成了更棘手的问题。 我们所能构建的每一个验证器都只是人类意图的替代品（proxy），而非意图本身。这使得验证面临着双重困境：首先，意图在本质上是不明确的（underspecified），这使得忠实地检查意图是否得到满足变得天然困难；其次，在模型训练期间，优化过程会扩大替代品与意图之间的差距——表现为奖励破解（reward hacking）或信号饱和（signal saturation）。 为了解决这一问题，我们从三个维度刻画了验证信号的质量——可扩展性（scalability）、忠实度（faithfulness）和鲁棒性（robustness），并提出同时实现这三者是当前的核心挑战。我们进一步研究了四种奖励构造：用于通用编程任务的测试验证器（test verifier）、用于前端任务的量规验证器（rubric verifier）、用于真实世界 Agent 任务的“用户即验证器”（user as verifier），以及用于长流程任务的自动化 Agent 验证器（automated agent verifier）。针对不同的任务类型和策略能力水平，我们就奖励设计的核心挑战以及如何更有效地利用奖励信号进行了深入的分析与实验。 实验表明，有针对性的验证设计能够有效抑制奖励破解，提升任务完成质量，并在多个内部及公开基准测试中取得显著收益。这些实践共同指向了一个核心观察：随着策略能力的持续增长，没有任何固定的奖励函数能够保持有效；验证机制必须与生成器协同演化（co-evolve）。 原文链接：https://arxiv.org/abs/2606.26300 前往小宇宙评论区与主播互动

  8. 21 août

    【第691期】MCP服务器架构模式

    Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：seventy3_podcast（加群/投稿论文） 今天的这篇的主题是： MCP Server Architecture Patterns for LLM-Integrated Applications Summary 模型上下文协议（Model Context Protocol，简称 MCP）由 Anthropic 于 2024 年 11 月推出，它定义了一个标准化接口，用于将大型语言模型（LLM）连接到外部工具、数据源和服务。在发布后的几个月内，GitHub 上就涌现出了数百个由社区构建的 MCP 服务器，但目前尚无软件维护方面的文献对该生态系统在生产环境中的构建方式进行过描述。本篇行业经验论文对通过枚举包含 15 个独立开发的服务器（包括来自 ANSYR 语音 AI 平台的 5 个生产服务器，以及来自官方 MCP 注册表的 10 个公共服务器）组成的语料库所观察到的五种循环出现的 MCP 服务器架构模式进行了分类编目：资源网关（Resource Gateway）、工具编排器（Tool Orchestrator）、有状态会话服务器（Stateful Session Server）、代理聚合器（Proxy Aggregator）和特定领域适配器（Domain-Specific Adapter）。每种模式都采用了 Gamma 等人（设计模式“四人帮”）的结构化形式进行描述：上下文、问题、解决方案以及后果。我们还记录了四种反模式（anti-patterns），以及围绕身份验证、版本控制和可观测性的一系列横切关注点（cross-cutting concerns）。定量评估贡献了三项测量结果：跨两个独立 LLM 评估员在 54 个留出（held-out）服务器上针对该分类法算出的评分者间一致性（Cohen's kappa = 0.76），这也定位出了三种模式边界的歧义性；在环回（loopback）路径上实测并针对跨主机路径建模的端到端传输开销；以及一项工具数量研究，结果显示对于 Claude Haiku 4.5，当每个上下文包含 10 到 15 个工具时，工具选择准确率会降至 90% 以下，而对于 Sonnet 4，该临界值在 20 到 30 个工具之间。代码、语料库和提示词已作为复现包发布。 原文链接：https://arxiv.org/abs/2606.30317 前往小宇宙评论区与主播互动

    【第691期】MCP服务器架构模式
Tout afficher (703)

À propos

73播客，Sheldon最喜欢的数字，内容均为Google NotebookLM原生生成，每天由AI领读最新的前沿论文。欢迎投稿合作。

Informations

  • Création
    任雨山
  • Années d’activité
    2024 - 2026
  • Épisodes
    703
  • Classification
    Tous publics
  • Copyright
    © 任雨山@小宇宙App
  • Site web de l’émission
    Seventy3

Vous aimeriez peut‑être aussi