31 分钟

Vol.43|ChatGPT 爆火,AI 时代如何突围「缺芯困境‪」‬ Founder 100

    • 科技

⬇【本期内容】
人工智能领域的新宠儿 ChatGPT 正在疯狂刷屏。但其创新和颠覆的背后,并不只是靠堆参数、堆样本、调算法。而容易被忽视的,是其支撑一切的算力基础设施:
据评估,采购一片英伟达顶级 GPU 成本为 8 万元,GPU 服务器成本通常超过 40 万元。对于 ChatGPT 而言,支撑其算力基础设施至少需要上万颗英伟达 GPU A100,一次模型训练成本超过 1200 万美元。如果想要复刻、甚至超越 ChatGPT 的成就,必须要突围芯片和算力的「卡脖子」难题。目前国产芯片的发展面临两个机遇:
首先是缺芯困局下,国产化替代的呼声越来越高,这无疑给国内芯片创业者提供了一个发展的缓冲期。对于 2020 年创业做大算力芯片的后摩智能创始人 & CEO 吴强来说,「在芯片成长早期,这个条件是国内独有的,我在美国是不敢做芯片创业的。」 ChatGPT 大火,人工智能发展对于大算力的需求,给予了芯片创业新的机会。在吴强看来,存算一体芯片可能是国产芯片算力弯道超车的机会。相比较传统的冯·诺依曼架构芯片,「存算一体」创新计算架构对工艺的依赖较弱,能用 28nm 工艺做出基于传统计算架构的其他 AI 芯片用 7nm,甚至 5nm 工艺才能实现的性能/能效比。要知道,这次 ChatGPT 背后采用的英伟达 GPU A100,就是采用 7nm 制程工艺。本期播客,我们就邀请到顶级芯片学术会议(ISCA等)组委会委员、后摩智能创始人 & CEO 吴强,来跟 Founder 100 栏目观察员王式一起聊聊,国内芯片创业的机遇和差异化优势。
                                
🎉如果你喜欢节目并想和我们交流、分享内容看法👉欢迎添加 幕后微信「18981006667」,备注「播客」
                               
⬇【延伸阅读】
存算一体,国产大算力芯片的新机遇 | Rebuild 2022
                              
⬇【精彩时刻】
02:09 存算一体芯片架构:适合数据量庞大的计算(如 AI 计算)
05:24 存算一体的演进简史
07:22 认知:很多时候算力上不去,不是因为计算不行,而是带宽不够
09:18 存算一体核心挑战:存储介质的工艺、从学术到商业量产
11:52 为什么美国的芯片创业公司很少?
15:20 应用场景:需要大算力的场景,比如自动驾驶
18:22 对于自动驾驶,存算一体能够在成本上带来优势吗?
21:23 认知:国内卡脖子的都是大芯片,小芯片从来不卡
22:00 认知:同等算力下,存算一体对于工艺制程要求更低
24:57 存算一体:功耗低、成本低、算力高
29:41 认知:真正的护城河其实不是芯片本身,而是软件生态
                      
⬇【嘉宾 & 公司简介】
吴强(后摩智能创始人 & CEO):美国普林斯顿大学博士,AMDGPGPU/OPENCL 创始团队核心成员,Facebook 资深技术专家,国内知名 AI 芯片独角兽公司技术副总裁及 CTO 等,科研成果曾获 MICRO-38 唯一一个最佳论文奖,科研成果被 IEEE Micro 评选为年度最有影响的 12 个科技成果之一,顶级芯片学术会议(ISCA等)组委会委员,美国 NSF 云计算评审委员会委员。
后摩智能:创立于 2020 年底,是国内首家专注于存算一体技术的大算力 AI 芯片公司,致力于突破智能计算芯片性能及功耗瓶颈,加速人工智能普惠落地。其提供的大算力、低功耗的高能效比芯片及解决方案,可应用于智能驾驶、泛机器人等边缘端,以及云端推理场景。
                                   
⬇【关于我们】
跟 100 位创业者,聊聊最有潜力的科技赛道。欢迎来到  Founder 100

⬇【本期内容】
人工智能领域的新宠儿 ChatGPT 正在疯狂刷屏。但其创新和颠覆的背后,并不只是靠堆参数、堆样本、调算法。而容易被忽视的,是其支撑一切的算力基础设施:
据评估,采购一片英伟达顶级 GPU 成本为 8 万元,GPU 服务器成本通常超过 40 万元。对于 ChatGPT 而言,支撑其算力基础设施至少需要上万颗英伟达 GPU A100,一次模型训练成本超过 1200 万美元。如果想要复刻、甚至超越 ChatGPT 的成就,必须要突围芯片和算力的「卡脖子」难题。目前国产芯片的发展面临两个机遇:
首先是缺芯困局下,国产化替代的呼声越来越高,这无疑给国内芯片创业者提供了一个发展的缓冲期。对于 2020 年创业做大算力芯片的后摩智能创始人 & CEO 吴强来说,「在芯片成长早期,这个条件是国内独有的,我在美国是不敢做芯片创业的。」 ChatGPT 大火,人工智能发展对于大算力的需求,给予了芯片创业新的机会。在吴强看来,存算一体芯片可能是国产芯片算力弯道超车的机会。相比较传统的冯·诺依曼架构芯片,「存算一体」创新计算架构对工艺的依赖较弱,能用 28nm 工艺做出基于传统计算架构的其他 AI 芯片用 7nm,甚至 5nm 工艺才能实现的性能/能效比。要知道,这次 ChatGPT 背后采用的英伟达 GPU A100,就是采用 7nm 制程工艺。本期播客,我们就邀请到顶级芯片学术会议(ISCA等)组委会委员、后摩智能创始人 & CEO 吴强,来跟 Founder 100 栏目观察员王式一起聊聊,国内芯片创业的机遇和差异化优势。
                                
🎉如果你喜欢节目并想和我们交流、分享内容看法👉欢迎添加 幕后微信「18981006667」,备注「播客」
                               
⬇【延伸阅读】
存算一体,国产大算力芯片的新机遇 | Rebuild 2022
                              
⬇【精彩时刻】
02:09 存算一体芯片架构:适合数据量庞大的计算(如 AI 计算)
05:24 存算一体的演进简史
07:22 认知:很多时候算力上不去,不是因为计算不行,而是带宽不够
09:18 存算一体核心挑战:存储介质的工艺、从学术到商业量产
11:52 为什么美国的芯片创业公司很少?
15:20 应用场景:需要大算力的场景,比如自动驾驶
18:22 对于自动驾驶,存算一体能够在成本上带来优势吗?
21:23 认知:国内卡脖子的都是大芯片,小芯片从来不卡
22:00 认知:同等算力下,存算一体对于工艺制程要求更低
24:57 存算一体:功耗低、成本低、算力高
29:41 认知:真正的护城河其实不是芯片本身,而是软件生态
                      
⬇【嘉宾 & 公司简介】
吴强(后摩智能创始人 & CEO):美国普林斯顿大学博士,AMDGPGPU/OPENCL 创始团队核心成员,Facebook 资深技术专家,国内知名 AI 芯片独角兽公司技术副总裁及 CTO 等,科研成果曾获 MICRO-38 唯一一个最佳论文奖,科研成果被 IEEE Micro 评选为年度最有影响的 12 个科技成果之一,顶级芯片学术会议(ISCA等)组委会委员,美国 NSF 云计算评审委员会委员。
后摩智能:创立于 2020 年底,是国内首家专注于存算一体技术的大算力 AI 芯片公司,致力于突破智能计算芯片性能及功耗瓶颈,加速人工智能普惠落地。其提供的大算力、低功耗的高能效比芯片及解决方案,可应用于智能驾驶、泛机器人等边缘端,以及云端推理场景。
                                   
⬇【关于我们】
跟 100 位创业者,聊聊最有潜力的科技赛道。欢迎来到  Founder 100

31 分钟