Seventy3

任雨山

73播客，Sheldon最喜欢的数字，内容均为Google NotebookLM原生生成，每天由AI领读最新的前沿论文。欢迎投稿合作。

  1. 3小时前

    【第763期】Harness-of-Harness：基于LLM的自动化游戏开发框架

    今天的这篇的主题是： Harness-of-Harness: Multi-Day Autonomous Software Development with Continual Improvement Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary 本文研究自主软件开发（Autonomous Software Development），即基于大语言模型的编程智能体在无需人工干预的情况下，将高层需求转化为完整、功能健全且可用的软件系统。 我们提出了 Harness-of-Harness（HoH），一个能够让编程智能体在自主开发过程中持续改进软件的框架。HoH 构建于现有的编程智能体运行框架（Harness）之上，将其执行过程组织为迭代式的规划—编码—测试循环。 为了在多轮循环中实现持续改进，HoH 在问题修复与能力增长之间保持平衡，将开发任务划分为小规模、可验证的增量，区分实现阶段的测试与独立评估，并通过约束可验证的输出结果，而非预先规定智能体的工作流程，来引导开发过程。 HoH 还会逐步向智能体开放交付产物、特定角色的工具和技能，鼓励复用现有成果而非重复创建，并维护带有版本信息的项目历史记录。 在 GameCraft-Bench、FrontierSWE 和 ProgramBench 三个基准测试中，我们评估了三组 Harness 与模型的组合：Codex 搭配 GPT-5.5、OpenCode 搭配 DeepSeek-V4-Pro，以及 Pi 搭配 MiniMax-M3。结果表明，HoH 的表现始终优于对应的独立 Harness。在经过三轮迭代后，平均相对性能提升达到 52.25%，最大提升达到 82.86%。 在一次持续数天、包含 70 多轮迭代的实际部署中，HoH 自主开发出了一款第一人称射击游戏。该游戏具有连贯的故事情节、完整实现的核心游戏机制、可供人类实际游玩的游戏体验、精细打磨的视觉效果以及集成的音频系统。 原文链接：https://arxiv.org/abs/2609.01481 前往小宇宙评论区与主播互动

  2. 1天前

    【第762期】声明性注意机制：大模型自主控制注意力跨度

    今天的这篇的主题是： Language Models Can Control Their Own Attention Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary 语言模型的大部分注意力实际上集中在上下文中的一小部分内容上，但为了找到少数真正重要的 Token，它们仍然需要读取整个 KV 缓存。例如，当用户询问一段包含 100 万 Token 的对话中的某个历史细节时，全局注意力层必须在生成回复的每一个 Token 时扫描完整的上下文。 一种主流方法是通过轻量级代理评分（Proxy Scores）预先筛选相关 Token，但这种外部评分机制仍然会在每个生成步骤产生 O(N) 的计算开销。 我们采用了一种内生式方法（Intrinsic Approach），其出发点是一个简单的问题：模型自身难道不应该已经知道上下文中的哪些部分是相关的吗？ 我们提出了声明式注意力（Declarative Attention，DA），一种引导模型在其思维链（Chain-of-Thought）中主动声明需要关注哪些上下文区域的协议。该协议将生成过程划分为三种模式： （1）：全局模式，关注完整上下文。 （2）：聚焦模式，仅关注特定的上下文区域。 （3）：局部模式，仅关注最近生成的输出。 推理引擎像解析工具调用一样解析这些声明，从而跳过对 KV 缓存中绝大部分内容的读取。 在涵盖 15 项长上下文任务的零样本评估中，将 DA 应用于现成模型 Gemma-4-31B 和 Qwen-3.6-27B 后，尽管引入了额外的解码步骤，每次响应所需关注的 Token 总量仍分别减少了 45.8% 和 19.6%，而准确率仅分别下降了 1.40 和 2.10 个百分点。随着模型规模增大，这种准确率损失进一步缩小。 DA 为稀疏注意力机制开辟了一个新的优化维度，并有望通过基于训练的方法进一步释放其潜力。 原文链接：https://arxiv.org/abs/2609.02737 前往小宇宙评论区与主播互动

  3. 2天前

    【第761期】Co-Scientist：Gemini驱动的现实世界科研加速器

    今天的这篇的主题是： Accelerating Scientific Research with Gemini in the Real-World Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary 我们介绍了 Co-Scientist 的扩展版本及其全面的真实世界验证。Co-Scientist 是一个基于 Gemini 的多智能体系统，旨在加速从假设生成、实验执行到论文撰写的端到端科学研究流程。 这一专门配置突破了以往仅在计算机模拟环境（In Silico）中生成科学假设的局限，使 Co-Scientist 转变为一个以实际执行为基础的科研合作伙伴，推动材料科学、生物学和计算机科学领域的闭环科学研究工作流。 在材料科学领域，Co-Scientist 与一台半自动化化学气相沉积（Chemical Vapor Deposition，CVD）反应器对接，为 MXenes 材料设计了一条安全的前驱体合成路线。实验执行成功制备出一种层状二维材料，其关键结构特征与 Ti₃C₂Tₓ MXene 晶格具有相似性，但仍需进一步实验来确认其原子结构。 此外，借助 Gemini 3 Deep Think 实现快速的实验室在环（Lab-in-the-Loop）执行，Co-Scientist 能够在数分钟内根据实验室的实际约束条件定制材料生长方案，并成功通过单次尝试生长出单层 MoS₂、MoSe₂ 和 WS₂ 半导体材料。 在生物学领域，Co-Scientist 利用稀疏的成像数据，预测了工程化大肠杆菌（E. coli）在不同诱导剂（IPTG）浓度梯度下涌现出的群集运动表型（Swarming Phenotypes）。其预测结果与尚未发表的湿实验（Wet-Lab）形态学测量数据在定量上高度吻合。 在计算机科学领域，Co-Scientist 自主发现了一种推理时扩展（Inference-Time Scaling）架构。该架构在 HealthBench（Hard 和 Professional）基准测试中超越了六个前沿模型，并在医生盲评中降低了潜在的临床伤害风险。 最后，我们开展了一项针对端到端自动生成科研论文的双盲研究，邀请 30 位领域专家完成了共计 450 次评审。结果表明，Co-Scientist 的可靠性模块能够减少幻觉和抄袭现象，同时提高科学研究的安全性。 总体而言，这些结果表明，我们正朝着能够加速真实世界科学发现的闭环多智能体科学 AI 系统迈出重要一步。 原文链接：https://arxiv.org/abs/2608.26701 前往小宇宙评论区与主播互动

  4. 3天前

    【第760期】超越压缩悬崖：AI智能体的知识分流框架

    今天的这篇的主题是： The Compaction Cliff in Long-Running AI Agent Memory Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary 在 AI 智能体的上下文中，安全规则与情节式日志（Episodic Log）会竞争相同的 Token 预算。当上下文超出容量限制时，两者通常会以相同的压缩率进行摘要；然而，只有安全规则需要保留精确的措辞，才能确保其持续得到执行。 在 20 个生产级智能体配置上，我们发现，Claude Code 的 /compact 提示词在 Sonnet 4.6 上经过一轮上下文压缩后，仅能保留 53% 的安全规则；经过五轮压缩后，这一比例进一步下降至 10%。我们将这一现象称为压缩悬崖（Compaction Cliff）。 为解决这一问题，我们提出了知识分诊（Knowledge Triage）框架。该框架根据类型对智能体知识库中的每一行内容进行分类，并为不同类型的信息分配各自的保留策略。 我们设计了三个确定性算子，分别对应三种上下文管理操作： （1）TypeCompact：根据不同信息类型的保真度要求，直接在原位置重写内容。 （2）TypeDecompose：当某个主题过大、无法安全压缩时，将其划分为多个分区，并在各分区之间复制适用范围内的安全规则。 （3）TypeRetrieve：从外部存储中检索信息，并将适用范围内的安全规则置于相关性排序之前，确保其优先保留。 在五个公开语料库上的实验表明，TypeCompact 在所有压缩比例下保留的安全规则数量均为最强单轮 LLM 压缩器的 2–4 倍，并在五轮压缩后仍保持 96% 的召回率。TypeDecompose 将局部性违规率（Locality Violations）降至 0%，而统一分区方法的违规率高达 93%。TypeRetrieve 的 Recall@50 达到 100%，相比之下，最佳单轮 LLM 检索器仅达到 73%。 在三个下游行为基准测试中，我们的方法同样表现出优势：在医疗合规任务中，我们在规则保留方面显著优于生产环境使用的 Sonnet 压缩器（配对 McNemar 检验，p 10⁻⁸，N = 200）；在零售任务中，我们的任务通过率显著优于完整策略基线和层次化基线（p 0.01，N = 115）；在航空领域中，我们的方法也显著优于层次化压缩方法（p = 0.024）。 我们开源了 AgentArtifactCorpus 数据集（包含来自 54,628 个公开 GitHub 代码仓库的 396,934 个智能体配置）、分类器以及参考实现。 原文链接：https://arxiv.org/abs/2608.22752 前往小宇宙评论区与主播互动

  5. 4天前

    【第759期】Prime Agent：自我优化的递归语言模型框架

    今天的这篇的主题是： Prime Agent: A Self-Improving RLM Harness Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary 语言模型本质上是序列处理器，但长时程智能体任务需要超越模型权重和当前活跃上下文的外部信息与计算能力。Prime Agent 是一个开源的智能体运行框架（Harness），面向长时程评估和编程智能体工作流。 其持久化 IPython REPL 遵循递归语言模型（Recursive Language Model，RLM）的抽象，通过编程方式实现上下文处理和测试时计算（Test-Time Compute）；与此同时，持续性 Harness（Continual Harness）能够跨执行轨迹保留历史记录、记忆、技能、提示词以及子智能体规格。 递归子智能体通过智能体之间的直接通信进行协调，而 Agents View 则允许人类检查和管理由守护进程支持的会话。 Prime Agent 对执行、恢复、验证和资源核算进行标准化，同时将策略构建交由模型自主完成。这一低摩擦、高表达能力的中间层能够防止 Harness 层面的故障转化为模型层面的失败，并推动评估更加接近模型底层能力的真实上限。 Prime Agent 将 ARC-AGI-3 RHAE 的 Best@1 成绩从 30% 提升至 95.5%，并在长上下文编程、GPU 内核生成、模拟器构建以及自主 nanoGPT 速度挑战等任务中，达到或超越原生 Harness 和主流 Harness 的表现。 在 Factorio 环境中，我们发现，持续优化（Refinement）能够支持科技进度的不断推进，而专用子智能体则能够实现任务的并行处理。 原文链接：https://arxiv.org/abs/2608.23552 前往小宇宙评论区与主播互动

    【第759期】Prime Agent：自我优化的递归语言模型框架

  6. 5天前

    【第758期】JIT-Agent：即时合成与进化的智能代理架构

    今天的这篇的主题是： JIT-Agent: Scaling Harness Intelligence via Just-in-Time Harness Evolution Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary 智能体的能力并非仅由模型本身决定。智能体运行框架（Agent Harness）涵盖记忆管理、规划策略、动作协议以及工具与技能编排等方面，其对智能体性能的贡献甚至可能超过底层基础模型。然而，当前的 Harness 设计仍然依赖人工、针对特定任务定制，并且从根本上难以实现规模化。 我们提出了 JIT-Agent，一种专门用于 Harness 智能化的模型，经过训练后能够针对任意现成的智能体大语言模型，即时生成适应具体任务的 Agent Harness。我们将 Agent Harness 形式化为一种可组合、可由机器自动生成的产物，并通过固定的四模块协议对其进行规范。在此基础上，我们训练 JIT-Agent，使其能够针对当前任务定制 Harness，修复 Harness 以确保执行过程的稳定性和可靠性，并通过从不断扩展的历史 Harness 配置档案中提炼性能信号，实现自我演化。 在 JIT-Agent 的 Harness 辅助下，DeepSeek-V4-Flash 在 DeepSearchQA 和 OdysseyBench 上的表现分别超越 GPT-5.6 达 9.1 和 4.3 个百分点，而原本已经具备较强能力的 GLM-5.2 也获得了最高 20.2 个百分点的提升。 在一系列受控评估中，JIT-Agent 生成的 Harness 在性能上能够与 OpenCode 和 Claude Code 等成熟的智能体运行时系统相媲美，并且能够持续提升 DeepSeek V4、Mimo-V2.5 和 Qwen3.6 等不同规模模型家族的表现。 据我们所知，JIT-Agent 是首个专门为即时生成 Harness 而设计的模型。它将 Harness 智能（Harness Intelligence）确立为智能体能力中一个独立于模型规模扩展的维度，这一维度具有可训练、可迁移以及持续累积增强的特性。 原文链接：https://arxiv.org/abs/2608.25593 前往小宇宙评论区与主播互动

  7. 6天前

    【第757期】Scroll：基于程序化环境的长程智能体上下文管理

    今天的这篇的主题是： Context as an Environment: Programmatic Context Management for Long-Horizon Agents Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary LLM 智能体正越来越多地承担长时间运行的任务，其交互历史的长度往往远远超出单个模型上下文窗口的容量。现有方法通常通过压缩早期交互，或将选定的信息提取到固定的记忆表示中来应对这一问题，但这些方法必须在尚不清楚未来需求的情况下，提前决定保留哪些信息。 我们提出了 Scroll，一种将每个智能体会话视为可执行会话环境（Session Environment）的上下文管理器。该环境由一个仅追加的事件日志（Append-Only Event Log）和一个沙箱化的持久化 Python 内核提供支持。Python 内核能够在多次模型调用之间维护一个带类型的命名空间，使工具输出、检索到的历史信息以及派生状态可以绑定到变量，而不必在每次调用时都将其序列化到提示词中。 模型编写的代码通过 exec 搜索、实例化和转换会话状态；只有被显式打印出来的状态投影才会进入模型下一次调用时的工作视图（Working View）。因此，上下文管理转变为一项编程任务，能够直接受益于 LLM 不断提升的代码能力，而事件日志则保留了无损的历史事实记录。 当工作视图接近其容量预算时，过时的上下文片段会被驱逐，但仍然可以恢复：驱逐索引（Eviction Index）会保留与事件日志精确地址关联的紧凑定位标记，使智能体能够直接导航到被驱逐的历史区域，而无须搜索整个日志。 以 Qwen3.8-Max 作为基础模型，Scroll 在 LongMemEval_S 上取得了 94.8% 的成绩；在 BEAM_10M 上达到 73.1%，比已发表的最佳记忆系统高出 5.1 个百分点；在 LOCA_256K 上达到 86.7%，比已发表的最佳长时程智能体高出 37.4 个百分点。 原文链接：https://arxiv.org/abs/2608.21690 前往小宇宙评论区与主播互动

    【第757期】Scroll：基于程序化环境的长程智能体上下文管理

  8. 10月25日

    【第756期】ACES：大模型智能体技能持续评估框架

    今天的这篇的主题是： Evaluating Skills, Not Just Agents: Agentic Continuous Evaluation of Skills Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary 企业级智能体项目正从原型阶段迈向生产环境。在这一过程中，可复用的技能（Skills）、工具和工作流包需要基于实证证据而非文字描述进行评审。当前的准入检查通常会扫描这些产物的结构、风格和安全性，但它们无法回答一个关键的部署问题：在使用相同模型、沙箱和评分策略的条件下，能力包是否真正有助于实际运行的智能体完成企业任务？ 我们提出了 ACES（Agentic Continuous Evaluation of Skills，智能体技能持续评估），一个原生集成于代码仓库的框架，用于将技能和产品能力包作为可执行的智能体产物进行评估。ACES 分别在使用和不使用目标技能的条件下运行配对的实时试验，将执行轨迹标准化为智能体轨迹交换格式（Agent Trajectory Interchange Format，ATIF），对六项默认运行时指标进行评分，并报告技能增益（Skill Lift）：即在固定任务、智能体运行框架（Harness）、工作空间和评分器的条件下，目标技能带来的额外价值。同一套评估协议还支持由产品团队维护的任务套件，用于比较基线、单项技能、技能包（Bundle）、团队技能（Team-Skill）和插件（Plugin）等不同评估对象。 我们对来自企业内部代码仓库和公开技能目录的 145 个真实技能进行了评估。结果表明，仅依赖静态扫描的准入检查虽然能够发现有价值的技能编写问题，但不同扫描方式衡量的是相互补充的维度（结构性扫描与 LLM 评判器之间的 Spearman 等级相关系数 ρ = 0.14）。 在来自 64 个生产级技能中的 58 个技能、覆盖四种主要智能体运行框架的 947 个已评分配对案例中，平均综合技能增益（Composite Skill Lift）为 0.2134（95% 配对案例置信区间为 [0.1967, 0.2301]）；仅考虑结果指标的平均增益（即准确率与目标准确率的均值）为 0.1799。在 72.8% 的配对案例中，综合技能增益为正。 最大的过程性指标提升出现在技能执行（Skill Execution）、行为检查（Behavior Check）和技能效率（Skill Efficiency）方面。这些指标反映了技能发现、路由选择、工作流遵循和工具使用等方面的表现，而这些恰恰是文档静态扫描无法观察到的。 该方法的开源实现已在 NVIDIA SkillEvaluator 中提供。 原文链接：https://arxiv.org/abs/2608.20614 前往小宇宙评论区与主播互动

查看全部 770 集

评分及评论

3
共 5 分
2 个评分

关于

73播客，Sheldon最喜欢的数字，内容均为Google NotebookLM原生生成，每天由AI领读最新的前沿论文。欢迎投稿合作。

信息

  • 创作者
    任雨山
  • 活跃年份
    2024年 - 2026年
  • 单集
    770
  • 分级
    儿童适宜
  • 版权
    © 任雨山@小宇宙App
  • 节目网站
    Seventy3

你可能还喜欢