Daily LLM Papers

iMYorz

让AI来聊一聊最新的大模型领域论文/报告。

  1. Jan 25

    生成式 AI 重构推荐系统

    前往小宇宙评论区与主播互动

    18 min

  2. Jan 19

    Engram：大语言模型的可扩展条件记忆模块

    Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models 前往小宇宙评论区与主播互动

    18 min

  3. Jan 18

    流形约束超连接：大模型稳定训练与扩展的新范式

    mHC: Manifold-Constrained Hyper-Connections 前往小宇宙评论区与主播互动

    18 min

  4. 09/21/2025

    通义深度研究：开源AI研究新范式

    通义 DeepResearch：开源 AI 智能体的新纪元 阿里巴巴通义实验室在开发自主信息搜索和推理代理模型方面的进展，集中于三个相关的项目：Tongyi DeepResearch、WebDancer 和 WebSailor。这些研究的核心目标是构建能够执行复杂、多步骤任务的大型语言模型（LLMs），方法包括生成高质量、高不确定性的训练数据，例如通过构建知识图谱和模糊信息来合成问题（SailorFog-QA, CRAWLQA），以及使用如 ReAct 框架和强化学习（RL）等后训练方法。特别是，WebSailor 引入了 DUPO 算法来提高 RL 训练的效率和有效性，而 WebWatcher 则将代理的能力扩展到了多模态（Vision-Language, VL）推理任务，并在 BrowseComp-VL 和 HLE 等挑战性基准测试中展现出超越现有开源和专有系统的性能。 前往小宇宙评论区与主播互动

    24 min

  5. 09/19/2025

    腾讯AI Lab的“角色中心”：十亿虚拟角色如何驱动AI生成数据

    Scaling Synthetic Data Creation with 1,000,000,000 PersonasPersona Hub 是一个包含 10亿个多样化角色（persona） 的集合，这些角色是从海量网络数据中自动整理出来的。这些角色约占世界总人口的13%。Persona Hub中的每个角色都被视为世界知识的分布式载体，与独特的知识、经验、兴趣、个性和职业相关联。从压缩的角度来看，Persona Hub（约10^10个token）可以被看作是将用于训练大型语言模型（LLM）的公共网络文本（约10^14个token）压缩成分布式载体的形式。Persona Hub 通过引入一种新颖的角色驱动数据合成方法，彻底改变了LLM的合成数据创建。以下是 Persona Hub 如何实现这一革命性变革的详细说明：1. 解决多样性和可扩展性挑战：◦ 以往的合成数据创建方法，如“实例...去小宇宙查看完整单集简介前往小宇宙评论区与主播互动

    22 min

  6. 09/10/2025

    推理加速：RASD 和 REFRAG 深度解析

    REFRAG (REpresentation For RAG) 和 RASD (Retrieval-Augmented Speculative Decoding) 都是旨在提高大型语言模型 (LLM) 推理效率的方法，但它们关注的方面和实现机制有所不同：1. 核心目标和解决的问题：REFRAG：主要目标是解决RAG应用中长上下文输入带来的显著系统延迟和对键值 (KV) 缓存的大量内存需求，从而提高吞吐量并解决知识丰富与系统效率之间的基本权衡问题。它特别关注首个token生成时间 (TTFT) 的优化。REFRAG提出，RAG上下文通常信息稀疏，且检索到的段落之间的交叉注意力模式呈块对角线状，因此大部分计算是不必要的。 RASD：旨在通过引入检索方法来增强基于模型的推测解码 (speculative decoding)，从而加速LLM的推理过程。推测解码通过生成草稿token供目标模...去小宇宙查看完整单集简介前往小宇宙评论区与主播互动

    39 min

  7. 08/31/2025

    美团入局大模型：LongCat-Flash如何高效驱动智能体？深度解析MoE架构、零计算专家与数据飞轮

    LongCat-Flash-ChatLongCat-Flash 模型在架构设计、训练策略和推理部署方面引入了多项创新技术，使其在计算效率和智能体能力方面均表现出色。模型架构创新和技术要点LongCat-Flash 采用了一种新颖的 Mixture-of-Experts (MoE) 架构，其核心创新包括：* 零计算专家 (Zero-computation Experts)：LongCat-Flash 引入了零计算专家机制，能够根据上下文需求动态分配计算预算。这意味着模型可以为重要的 token 激活更多参数，而对不重要的 token 减少计算，从而优化资源利用。 在总共 5600 亿参数中，模型每个 token 平均激活约 270 亿参数，范围在 186 亿至 313 亿之间。 通过由 PID 控制器调整的专家偏差来保持平均激活参数的一致性，确保专家间的负载平衡，并在相同的计...去小宇宙查看完整单集简介前往小宇宙评论区与主播互动

    22 min

  8. 08/24/2025

    深度解析Intern-S1如何颠覆科研AI

    本期论文：INTERN-S1: A SCIENTIFIC MULTIMODAL FOUNDATION MODELIntern-S1 在多个方面展现了显著的创新，这些创新主要体现在其模型架构、数据策略以及训练系统和算法优化上，旨在弥合开放源代码与闭源模型在科学理解和推理能力上的差距，并向通用人工智能（AGI）迈进。以下是 Intern-S1 的主要创新点：* 专业通用型多模态基础模型定位：Intern-S1 被设计为一个能够分析多种科学模态数据（如分子结构、时间序列信号等）的专业通用型模型。它旨在成为加速科学发现的多模态大型推理模型。* 创新的模型架构设计：多专家混合（Mixture-of-Experts, MoE）架构：Intern-S1 采用 Qwen3-235B MoE 模型作为基础 LLM，总参数达 2410 亿，激活参数 280 亿，提升了处理复杂任务的能力。 多...去小宇宙查看完整单集简介前往小宇宙评论区与主播互动

    25 min
See All (16)

About

让AI来聊一聊最新的大模型领域论文/报告。

Information

  • Creator
    iMYorz
  • Years Active
    2025 - 2026
  • Episodes
    16
  • Rating
    Clean
  • Copyright
    © iMYorz@小宇宙App
  • Show Website
    Daily LLM Papers