AI时代的产品经理手‪册‬ PM熊叔

随着Llama 3的发布，国内各路英雄豪杰纷纷开启了炼丹之旅。Llama-3 8b在惊人的15万亿令牌上训练，而Llama-2仅为2万亿。毋庸置疑，Llama 3目前是开源大模型中能力最强的！其跑分成绩已经赶上了GPT-4。
然而，Llama3的优势不仅限于此。作为开源大模型，每个人都可以对其进行个性化的定制，这意味着相比GPT，它具有更强的定制性和安全性。另外，Llama3 8B的模型可以在内存只有8G的树莓派上运行，对于计算机资源的依赖比以往都要低，人人都可以本地部署Llama3，可应用于针对B端企业和各种场景下的自然语言处理、机器翻译、文本生成、问答系统、聊天机器人等场景。
目前，我们主要通过微调（Fine-Tuning）来定制所需的模型。例如，Llama 3原生不支持中文，但我们可以通过微调让它支持中文。什么是微调（Fine-tuning） ？这是机器学习和深度学习中的一个术语。它指的是在预训练模型的基础上，使用特定任务的数据集进行额外训练的过程，目的是让模型更好地适应特定的任务或问题。通过微调，我们可以调整模型的参数，使其更精准地解决特定问题。
就像一个已经非常了解世界的成年人。现在，我们需要它去学习一些更专业或更具体的知识。微调的过程，就像是对这个成年人进行一些专业培训，使其在特定领域更加精通。为了帮助大家更好的理解什么是“微调”，我前天写了一篇轻松的入门教程《Llama3微调教程：超简单，人人都可以打造属于自己的GPT！》：
地址：https://mp.weixin.qq.com/s?__biz=MjM5NDIzOTg0Mw==&mid=2448257753&idx=1&sn=627c94e8b0d66bc9866ab4a42edaaa73&chksm=b29316d585e49fc312553b5efaca684af566be55237b8c4e2a1d9a472dd31f7ee74157c08163&token=1764237450&lang=zh_CN#rd
就算你不懂技术也没有关系，通过这个简单的Llama 3微调案例，我们可以免费体验整个大模型微调的过程。你可以学习到AI工程师是如何进行环境配置、数据准备、模型训练、模型运行、模型保存以及本地模型使用。
这对于大多数普通人来说，这是一个免费体验AI工程师工作方式的机会；如果你想转入AI行业，这也是一个很好的入门案例。你可以通过我的微信公众号“PM熊叔”浏览。
另外在Shownots中，我列出了目前已经微调好的Llama3作品，大家如果有兴趣可以体验一下。
愿每个人都能从中受益，开启自己的AI探索之旅！以下是一些微调的llama3的作品：llama3-Chinese-chat-8b：https://wisemodel.cn/models/shareAI/llama3-Chinese-chat-8bInstruct + 进行中的中文sft版本：https://modelscope.cn/models/baicai003/llama-3-8b-Instruct-chinese_v2/summary联通微调版本：https://www.modelscope.cn/models/UnicomAI/Unichat-llama3-Chinese/summaryOpenbuddy微调版本：https://www.modelscope.cn/models/OpenBuddy/openbuddy-llama3-8b-v21.1-8k/summary破解安全限制系列（目前仅支持英文）：Unholy：https://huggingface.co/Undi95/Llama-3-Unholy-8Bneural-chat：https://hf-mirror.com/Locutusque/llama-3-neural-chat-v1-8b聊天机器人：https://huggingface.co/cognitivecomputations/dolphin-2.9-llama3-8bBunny-Llama-3-8B-V(多模态图文版本)：**https://wisemodel.cn/models/BAAI/Bunny-Llama-3-8B-V我的公众号：

今天要介绍的这篇文章《The Bitter Lesson 苦涩的教训》是由知名计算机科学家，阿尔伯塔大学、DeepMind的神经网络专家Rich Sutton 在 2019 年发表的，主要讨论了在人工智能研究中一个重要的观察：当简单的算法能够利用大量的计算资源时，往往会胜过依赖于人类专家洞察力的复杂算法。

在回顾AI历史上一些关键进展时，Sutton指出，虽然研究人员曾多次尝试通过设计复杂且模仿人类理解的算法来提升机器学习模型的表现，但通常更简单、更基本的方法，只要能通过增加计算能力进行扩展往往能取得更佳效果。他强调了规模和算力的重要性，并认为未来的研究应该更多依赖于扩算力，而非复杂的设计。

OpenAI 在2021年的论文《神经语言模型的缩放法则 Scaling Laws for Neural Language Models》讨论了AI模型的性能如何随模型大小、数据集大小和训练计算量的规模提升而提升。

今天，在缩放法则（Scaling Laws）的加持下，简单的Transformer架构让GPT等大语言模型涌现出了“智能”，也展示出了AGI通用人工智能的可能性。
现在就让我们来读一读，回顾这篇经典文章。
苦涩的教训
Rich Sutton  2019年3月13日
我们从70年的人工智能研究中可以得出的最大教训是，利用计算的通用方法最终是最有效的，而且差距很大。其根本原因在于摩尔定律，即集成电路上可容纳的晶体管数量每隔18-24个月会翻倍，从而使芯片性能指数倍增。
大多数人工智能研究都是在假设智能代理可用的算力资源是恒定，在这种情况下，利用人类知识是提高性能的少数行之有效的方法之一，但在略长于典型研究项目的时间内，大规模的计算量又不可避免地会变得可用。
研究人员寻求在短期内实现改进，试图充分利用他们对特定领域的人类知识来节省算力成本，但从长远来看，唯一重要的是利用计算资源。这两者不必相互对立，但实际往往如此。由于对一种方法的投资存在心理承诺，我们在一个东西上花费大量的时间，就不会在另一个上花费更多时间。而且，基于人类知识的方法往往会使方法复杂化，使其不太适合利用计算的通用方法。这些案例不胜枚举，我称之为苦涩的教训。
作为人工智能研究者，我们学习这些教训是有指导意义的。下面，我们来回顾其中一些最知名的案例。

在1997年，计算机国际象棋领域见证了一个历史性的事件——计算机通过大规模深度搜索击败了世界冠军卡斯帕罗夫。当时，大部分研究者都倾向于利用人类对棋局结构的深入理解来设计算法，这一失败让他们颇感挫败。当一个相对简单的基于搜索的方法，结合先进的硬件和软件展示出惊人效力时，依赖人类知识的方法显得力不从心。这些研究人员对于“蛮力”搜索的胜利持怀疑态度，认为虽然这次有效，但它并非一种普遍适用的策略，也不符合人类下棋的风格。他们曾希望能通过更贴近人类思维的方法取得胜利，因此对结果感到失望。
计算机围棋的研究历程展示了一种类似的发展模式，但这一过程比其它领域晚了大约20年。初期，研究者们尝试通过利用人类的棋局知识和游戏特征来减少搜索需求，但随着搜索技术在规模上的有效应用，这些努力最终被证明是无效甚至有害的。同样，自我对弈的方式学习价值函数也显示出其重要性，这种方法不仅应用于围棋，在国际象棋等许多其他游戏中也同样适用，尽管在1997年首次战胜世界冠军的程序中，学习的作用不大。自我对弈不仅是学习的一种方式，它像搜索技术一样，使得可以利用大量计算资源。搜索和学习是利用大

前天，我参加了洪宇的《遇见AIer》的播客节目的录制，聊了聊ComfyUI的Mixlab Node背后的故事和AI产品经理关心的一些话题。如果感兴趣，大家可以去听下这期节目。

# 缘起
2023年10月，我和Shadow一拍即合，共同发起了“ComfyUI中文爱好者社区”，并把Mixlab Node纳入了议程。目前，社区已聚集了超过1000名ComfyUI创作者，包括行业内的ComfyUI大咖。Mixlab Node目前已获得600多个星标。
https://github.com/shadowcz007/comfyui-mixlab-nodes

我和Shadow都对AI创作工具及社区抱有浓厚兴趣。去年，我们见证了AnimateDiff和ComfyUI的崛起，并意识到国内迫切需要一个ComfyUI学习社区。这不仅为AI创作爱好者提供了一个交流和学习的平台，也吸引了一批热情的开发者和创意人才来共同开发ComfyUI的插件和工作流，这也促成了Mixlab Node的诞生。

# 社区驱动型产品
简而言之，Mixlab Node是基于Stable Diffusion和ComfyUI构建的节点工具。它的核心特色在于ComfyUI的高度灵活性，通过模块化设计让各种插件（或称为节点）能够无缝串联。这种设计使得用户可以轻松调用各类AI模型和处理模块，完成从图片生成到视频制作，甚至是接入大语言模型进行互动游戏的多样化工作流程。
ComfyUI的开放性和模块化让开源社区的开发者能够迅速整合最新技术和模型到用户的工作流中，而我们的MixLab Node就是其中之一。
Mixlab Node最大的特点就是“社区驱动开发”，在我们社群里面，开发者和创作者每天都会讨论大量的新技术动态和使用需求。我们的功能往往源自社区内部的实际反馈，确保了产品的实用性和创新性。
例如，Mixlab Node加密功能正是基于社区反馈而生。当时我们社群中的一些大佬的工作流被一些人冒名顶替，引起了社群内的广泛关注。开源并不是做慈善，一个良性的生态环境，既要开放共享又要尊重个人创作权益，这样开源才有持续发展的动力。所以我们想有些工作流只有通过原作者提供密码才能继续使用。通过这种方式，不仅可以让创作者的原创作品免受盗用，还可以让优秀的创作者更好地活下去。
相似的案例不胜枚举。Mix Node正是在这样一个开放、共享的环境中不断成长和优化的。通过与社区成员的紧密合作，形成了一个积极的、自我增强的闭环系统。这不仅推动了MixLab Node不断完善和进步，也为开源的AI创作贡献了自己的一份力量。
# JUST DO IT的开发模式

我和Shadow的首先达成的共识是，在AI时代我们必须要抛弃掉传统的思维方式。
在传统的软件和互联网产品开发过程中，从需求收集到产品发布通常需要经历多个步骤，包括需求分析、文档撰写、评审会议，以及最终的开发迭代，这一系列过程往往耗时长达数周，然而，由于AI技术快速迭代，这种模式很难跟上技术进步的步伐。
我们更提倡“Just do it”——有好的想法，那就先做了再说。我们直接从社区收集到好的创意就可以开始动手做开发，不需要给领导写报告，不需要撰写需求文档，更不需要走评审流程，做好后交给社群中的小伙伴们测试反馈。只有这样我们才能打造出更酷的节点。
另外，通过使用GPT，可以把开发的时间极限压缩。例如，我们在GPT的帮助下，只花了1到2天内完成录屏工作流的开发和上线，这放在传统企业，起码两周才能搞定。
录屏的需求的灵感来源于我们自己的创作视角的切换，我和Shadow都曾做过设计师，我们都想把自己的草图让AI重新渲染，但是主要的创作工具都在PS等传统软件上 ，因此想了个录屏功能，然后再考虑如何通过技术手段来实现。最后，我们发现录屏

最近越来越多人在问类似的问题，AI都那么厉害了，还需要学编程吗？计算机专业依然吃香吗？特别是昨天很多人看到了Devin AI，更是产生了一种“是不是程序员要失业了？”的疑问。
# AI 程序员能做什么？
就在前几天，仅仅成立两个月的公司Cognition发布了一款Devin AI 的产品。它被宣传为史上第一款AI程序员。在演示中，Devin AI拥有自己的命令行、代码编辑器和浏览器等工具，可以自己制定计划、执行任务和解决问题，它可以独立完成整个软件的开发和构建的工作。
另外，根据官方宣传，Devin甚至拥有“成长”的能力，它可以通过阅读文章，学习原先不懂的技术，还会自主寻找程序中的错误，并且进行修正。
从宣传来看，Devin要比之前Copilot类似的AI编程助手要更进一步，更像一个能够独立完成开发任务的程序员。这不仅代表着AI独立完成开发工作的可行性，也激发了公众对“AI是否能替代程序员”的讨论。
也有网友分析，其实Devin AI并没有想象中的那么厉害：首先，Devin的底层技术是基于GPT4，它的使用成本比普通程序员更高；其次，程序员的面试题并不难，ChatGPT也能胜任；还有就是执行的任务过于简单，和人类相比还是有较大差距。所以，人类程序员目前还是比较安全的。
虽然如此，但是随着大语言模型的性能越来越好，在可预见的未来，AI程序员必然将软件开发过程中起到关键性的作用。
# 有了AI还需要学编程吗？
会不会现在学了编程，以后就没用了？
我想这个问题可以类比为“有翻译软件了还需要学英语吗？”我相信很多人回答是：学习英语依然重要。
诚然，英语已经成为许多人综合素质的一部分了。翻译软件不能百分百解决我们的需求。例如，要查询最新最全的论文和资料，懂英语可以让我们无损获得原本的信息，而翻译软件只是方便我们快速的浏览和过滤信息的工具。另外，学习英语不仅仅是学习语言，也是学习一种文化和思维方式。这样我们才能更好地与世界接轨。同样的逻辑也适用于AI和编程。
首先，编程只是软件开发的一部分，编程是打开计算机世界的一把钥匙，计算机科学的复杂性远远超出了编程本身。它包括系统架构设计、网络安全、需求分析、用户体验和项目管理等诸多方面。这些综合性的知识和技能，才是软件创新基础。即使AI能够自动化编程任务，也需要人类来解决更复杂的问题，需要人类保持对行业趋势的敏锐洞察，他们需要理解业务需求，与非技术背景的团队成员进行有效沟通，确保技术解决方案能够满足业务目标。
另外，编程不仅仅是写代码，它是解决问题的一种方式，也是一种思维训练。学习编程能够帮助人们培养逻辑思维、系统思维、创新思维以及动手解决能力。这些能力在AI时代尤为重要，不仅限于技术领域，同样适用于生活的各个方面。随着技术的不断进步，新的工具和平台层出不穷，个人需要能够适应这些变化，还要能在变化中找到创新的机会。这种适应力和创新力对于个人发展、职业生涯乃至企业的竞争力都是宝贵的资产。
除此之外，编程并不是计算机学科的专利，它也是一种跨学科学习工具。在尝试解决来自不同领域的复杂问题时，编程能够通过数据分析、可视化、机器视觉和仿真模拟等技术手段，帮助整合和应用多学科知识，从而促进创新解决方案的产生。这种跨学科的视角不仅拓宽了我们的思维，也为AI程序员的任务分配提供了更加清晰的指导。让我们能够从更综合的视角理解和应用技术，进而更有效地推进项目和

窜台参与麦田老师的播客录制，
欢迎大家订阅她的播客专辑《麦田的职场圆桌会议》
AI能成为你的小情人吗？
AI如何感知我们的情绪？
科技飞速发展下，我们如何抓住机遇，而不被AI？
本期播客带你深入探讨AI时代，我们该如何勇敢面对挑战，拥抱变革，用知识赋能自己的人生旅程！跟我一起思考，变得不可替代！
【本期嘉宾】
郝俊慧： 《IT时报》主编 资深媒体人  在科技报道领域深耕近20年，长期关注互联网、信息通信、人工智能等前沿科技。《IT时报》是中国最早的通信类媒体之一，前身为《上海邮电报》，具有近60年的产业传播历史。
鑫声心生  ：化学博士，双一流大学材料学科博士生导师，喜马拉雅播客智库成员，在职业规划，前沿科技方面著有多部学术著作，喜马拉雅《七点早知道》、《消息拌饭》等栏目担任特约嘉宾。      曾主持多项国家与省部级科研项目，在国际高水平期刊发表论文50余篇，授权国家发明专利5项，受邀在国际学术会议作报告10余次，担任碳中和领域知名期刊Carbon Capture Science & Technology（碳捕集科学与技术）创刊编委。生物质产业碳中和技术联盟东北区负责人，国际碳捕集协会（IACC）执委。PM熊叔：产品经理/设计师/程序员，研究方向是AI创作工具和创作社区Mixlab无界社区和ComfyUI爱好者社区发起人
02:01 AI的快速发展：挑战与机遇并存，我们应该怎么办？
04:04 AI监管与安全性：全球共识的挑战与前景展望
06:05 人工智能带来的变革：找到共识的挑战与前景展望
09:03 人工智能工具的崛起对影视制作行业的影响及未来职业变革
12:05 AI时代的创意表达：掌握AI技能，成为多功能手的可能性
15:10 人工智能时代的个人成长：如何提升效率与竞争力？
18:09 培养孩子独立思考能力：保持想象力与逻辑分析能力的平衡
21:13 培养孩子立体人格：中学阶段学习的重要性与魅力
24:15 通用能力与专业能力：职场中的人才选拔与培养
27:18 培养孩子自主学习的能力：AI时代的关键竞争力
30:20 拓展认知，提升独立判断能力，迎接人工智能时代挑战
33:22 勇敢拥抱人工智能，迎接时代的变革！

窜台参加麦田老师的《麦田的职场圆桌会议》
欢迎大家订阅她的播客专辑。
【本期嘉宾】
郝俊慧： 《IT时报》主编 资深媒体人  在科技报道领域深耕近20年，长期关注互联网、信息通信、人工智能等前沿科技。《IT时报》是中国最早的通信类媒体之一，前身为《上海邮电报》，具有近60年的产业传播历史。
鑫声心生  ：化学博士，双一流大学材料学科博士生导师，喜马拉雅播客智库成员，在职业规划，前沿科技方面著有多部学术著作，喜马拉雅《七点早知道》、《消息拌饭》等栏目担任特约嘉宾。      曾主持多项国家与省部级科研项目，在国际高水平期刊发表论文50余篇，授权国家发明专利5项，受邀在国际学术会议作报告10余次，担任碳中和领域知名期刊Carbon Capture Science & Technology（碳捕集科学与技术）创刊编委。生物质产业碳中和技术联盟东北区负责人，国际碳捕集协会（IACC）执委。PM熊叔：产品经理/设计师/程序员，研究方向是AI创作工具和创作社区Mixlab无界社区和ComfyUI爱好者社区发起人【精彩观点】
02:02 AI时代来临，对职业发展和创业的影响有多大？
04:04 AI生成视频：从拼图到动画的突破之路
06:06 SORA视频生成技术的突破：从拼图到现实世界的模拟器
09:12 技术的飞跃：从三维建模到真实世界模拟的突破
12:16 真相与谎言：人工智能改变我们对现实的认知
15:19 职业规划与人工智能：拥抱变化，迎接挑战！
18:23 人工智能时代下的专业型人才培养：挑战与机遇
24:32 AI时代的就业挑战：如何寻找新的创意与发展机会？
27:35 AI时代的独立思考与持续学习：文科生、程序员、咨询师的就业前景
30:34 文科生的春天来了：人工智能时代下的新职业机会
33:43 AI时代的共情能力：文科生的的优势与挑战