脑袋尖尖

马克孙
  • 0.0 (0)
  • Technology
  • Updated Monthly

脑袋尖尖，我们是伦敦的理工学生，想要做一个分享科技新闻，探索前沿科技和学术论文的播客。

Episodes

  1. EP01 论文速读 | 简单反思《语言模型的 Scaling Law》，现在还适用吗？

    12/30/2024

    EP01 论文速读 | 简单反思《语言模型的 Scaling Law》，现在还适用吗？

    概述本期主题：深入解析 Scaling Law及其在模型性能优化中的应用。核心问题：Scaling Law 描述了模型性能如何随着模型参数规模、数据集大小和计算资源投入增长，展现出一定的幂律关系。讨论内容涵盖 Scaling Law 的核心公式、应用场景，潜在局限性及未来发展的可能性。时间轴00:00 - 开场与节目介绍01:02 - 什么是 Scaling Law？核心概念解析11:48 - Scaling Law 的现实意义及限制19:51 - 应用案例：OpenAI 的研究成果及行业观察23:16 - Scaling Law 的限制及未来发展方向24:16 - 结尾总结相关资源:OpenAI 的 Scaling Law 研究论文https://doi.org/10.48550/arXiv.2001.08361Hestness, Joel; Narang,...去小宇宙查看完整单集简介前往小宇宙评论区与主播互动

    26 min
  • 1 Episode

About

脑袋尖尖，我们是伦敦的理工学生，想要做一个分享科技新闻，探索前沿科技和学术论文的播客。

Information

  • Creator
    马克孙
  • Episodes
    1
  • Rating
    Clean
  • Copyright
    © 脑袋尖尖@小宇宙App
  • Show Website
    脑袋尖尖