37. 【中英访谈】对话赫拉利&王小川：AI 无法受苦，但人类会受苦

《商业漫谈Jane's talk 》终于迎来第一期国际嘉宾～

天真乐观的科学家和创业者常低估人性的缺陷，而高谈阔论的历史和哲学家，在描绘悲观问题时又很难提出解决方案。

——这是每一代技术浪潮来袭时，人类世界常常出现的争议形式。

今年4月，我在新浪新闻出品的节目《赛博对话》中，主持了一场来自顶尖头脑的跨界对话，嘉宾正是这两个领域的杰出代表人物：

• 全球知名的畅销书作家，对AI等技术伦理问题有着深入思考的尤瓦尔 · 赫拉利。
• 以及在2023年就积极投身于大模型浪潮，当下正致力于AI 医疗实践的连续创业者，百川智能创始人兼CEO 王小川。

在这场一个多小时的录制中，我们深入探讨了AI变革本身在历史中的意义、人与AI的关系，以及生命、意识这些有机体的定义。非常有意思的是，两位嘉宾真实地围绕一些定义产生了思辨和分歧——这背后，是理解世界的思维逻辑差异。

过程中，二位也极难得地分享了自己的生命&成长历程，这极大地影响了他们的世界观。

其实，正是乐观的科学家不断推动科学技术的发展与边界，

也正是悲观的哲学家积极地呼吁人类的人文主义反思，努力将技术应用框定在人性之恶的边界之外。

这种多元的价值碰撞，是在高歌猛进中的AI 浪潮中，不可或缺的声音。

让我们一起进入这场，烧脑的思辨。

Notice：本期访谈保留了英文原文，建议1.2倍速收听～✨

（Ps.本期访谈的视频版，欢迎前往微博/新浪新闻 👉搜索「赛博对话」观看。

或前往👉我的公众号「卫诗婕 商业漫谈」查看访谈笔记《当历史学家试图按下 AI 暂停键》）

本期嘉宾：

尤瓦尔·赫拉利（历史学家、哲学家，“人类简史系列”等畅销书作家）

王小川（百川智能创始人兼CEO，连续创业者）

主持： 卫诗婕（商业漫谈 Jane‘s talk 主理人）

Shownotes：

大模型浪潮回顾：这次变革在人类历史中的意义

02:15 一个词形容赫拉利眼中的AI变革：Amazement

02:56 这一次，人类首次发明了一个智能体（Agent），而非工具

03:54 我写《未来简史》（2016）的时候，不曾设想AI能有如此大的变革

04:44 A 掌握语言，就掌握了进入社会的「万能钥匙」

赫拉利教授，您写作时用 AI 吗？

05:09 也许不久的将来，AI 能写出《智人之上（Nexus）》

06:25 AlphaGo已经超越了人们的想象，想象是有机（organic）的，但 AI 不是

07:54 赫拉利：「也许人类被困在一个科学孤岛上」

10:14 如果AI不久后就能写出《智人之上》，您害怕吗？——「我更愿意称AI为外星人智能（Allien Intelligence）」

AI，巨头，与大模型的科技战

11:27 「扎克伯格」们，被AI竞赛裹挟的科技巨头

12:14 当我环游世界，我通常问人们两个问题

12:47「如果我们输掉竞赛，世界将被更无情的人统治」

13:22 人类无法相信同类，却相信AI，这太疯狂了（almost insane）！

14:52 王小川的技术乐观主义： AI 目前还没有「生命权」

16:57 扎克伯格和张一鸣等技术中立派

17:23 信息≠真相

19:05 企业家们使用AI时，最重要的问题是什么？「诺贝尔并未想到，自己发明的炸药居然被用于战争」

20:36 印刷革命与猎巫行动

赫拉利& 王小川，过去如何塑造了你们对未来的看法？

23:15 乐观主义与悲观主义如何形成？

27:13 王小川：从物理学到生命科学，从熵增到熵减

34:14 2016年，我曾预测了AlphaGo 能赢

35:24 2018年，我又预言：当机器掌握语言时，强人工智能就会到来

37:54 定义生命，决定了我们如何企及生命的未来

38:45 AI 不能无法受苦，但人类会受苦

39:53 智能不是意识，AI 没有感受

是否要允许「失控」？

42:52 凯文凯利说过，要允许AI带来的失控，教授是否认同？

43:23 这将是一场豪赌，我呼吁人类，不要放弃控制权

44:16 关于 AI 的发言，人们在公开场合和私底下，说得并不太一样

46:16 我们该信任 AI 吗？——AI 可能并不在乎人类

为什么 AI 变革不能与工业革命类比？

46:49 王小川：社会分工会收缩，个体可能变得强大

49:05 赫拉利：工业革命以来人类的表现，我只能打分为C-；至于这次AI革命，我也很难乐观

50:55 「AI 医生应该会比人类医生更善良」

避免权力的集中化，给商业世界、和普通人们一些建议？

54:04 生物系统给我们的启示是，自纠正机制十分重要

54:39 不要太过自信，请保持怀疑

56:05 人类不可替代的价值：意识与情感

58:32 赫拉利教授不用智能手机？「我提倡『信息节食（information diet）』」

王小川详解 AI 如何改变医疗行业

01:01:10 为什么让 AI 先从儿科医生干起？

01:02:06 让医学追上物理学，先从数据收纳、观测开始

01:03:00 百川的 AI 医疗大模型，能做什么？

01:06:04 百度魏则西事件（2016），对王小川的影响

01:08:30 如何确定 AI 医疗的边界？「这并不是个多难的话题」

01:09:26 未来 18 个月内，AI 医疗将得到很大的普及

01:10:29 百川创业两年多，有哪些 suffer 的时刻？

01:11:51 这次创业更兴奋，「你在做一件世界需要你的事」

加听友群👇

有关主理人：卫诗婕，独立商业作者，曾任《极客公园》执行总编，早年任职于《人物》、GQ报道、字节跳动。代表作：《ofo的终场战事》、《罗永浩：薛定谔的理想主义》、《朱一旦的枯燥生活》、《中东社交十年风云：金矿、折戟、浪潮再起》、《下一站，沙特》等。作品曾获虎嗅2024年度作者、金字节奖年度新锐作者、网易非虚构文学奖年度作者、全球真实故事奖中文报道十佳。

有关「商业漫谈」：这是一档关注科技、商业、人文的深度访谈节目，致力于记录时代的商业史。聚焦商业趋势、伦理、竞争、价值。

「打捞时代碎片，文字对抗时间。」