Orpheus微‪见‬ 秦旷

当AI翻车，会造成多大风险？ 如何在技术和社会层面，与AI建立互信？ AI时代，“信任”将演化出新的社会定义吗？ 当我们“信任”AI时，我们到底信的是什么？4月9日，马斯克在播客采访中预估“通用人工智能（AGI）将在两年内实现”，如果该评估成立，留给我们准备技术应用规则和社会心态的时间的确不多了。「Orpheus微见」第25期，我们邀请到2023年吴文俊人工智能科技进步一等奖得主周俊老师探讨了一个站在当下尤为关键的问题：
当AI在越来越多的领域和场景能力都强于人类的时候，我们能如何让AI更可被信任、尽可能消除这一“强大机器”的负面风险，在各种关键产业和场景尽可能安全、可控地落地和释放AI价值？
本期嘉宾 周俊 2023年吴文俊人工智能科技进步一等奖得主 蚂蚁集团智能引擎技术事业部副总裁 蚂蚁集团AI创新研发部NextEvo语言与机器智能负责人听友群已开通：添加微信 KingCrimson_备注「微见」即可拉群▶ STRUCTURE & TIMELINE
一 \ GenAI急速发展，是否正脱离人的信任？00:05 本期嘉宾介绍及话题介绍
02:19 大众传媒与业内研究：巨大感知差异
06:20 除了写字画画，AI如果在关键领域失信将造成哪些巨大风险？自动驾驶、金融、人脸识别……
14:33 为什么可信问题是GenAI落地最关键的问题？
二 \ 人与AI如何建立信任？系统中谁能为人代言？15:45 各大AI企业对可信AI等领域的研究
17:28 蚂蚁NextEvo及周俊团队的研发方向及获奖项目
19:07 将AI的能力应用到社会和市场的公平性中
24:42 越是容错度低、重要性高的关键领域，越需确保AI落地可信度
25:08 国内与国外：基础研发到底掉队了吗？
30:35 小插曲：沉迷于研究大模型，周俊忘记去英国领奖
36:13 小语言模型，让每个人手机等设备中的AI也能更可信？
三 \ AI时代，“信任”的定义会再次被刷新吗？38:15「可信」带来的公平性，让更多群体可以理解AI、从AI受益
43:27 「信任」之于AI，到底意味着什么？
44:58 信任的量化、标准化、动态化、情境化、去中心化，以及机器与机器之间的信任
51:49《骇客帝国》和《真实的人类》：人对AGI的天然信任隐忧
53:38 建立规则、拉近立场、训练能力
58:28「信任」之于AI时代的人，到底意味着什么？从歃血为盟到建立社会契约、金融体系再到今天
1:05:13 人的信任标准终归还是在人，人的怀疑催生AI时代的信任基石
1:08:26 是否相信AI，就是是否相信人类自己，以及人类的未来
Surfshark数据：AI事故增长15倍
数学家吴文俊先生
蚂蚁AI创新研发部NextEvo团队获CIKM2023最佳论文
英剧《真实的人类HUMANS》
最近AI识别毒蘑菇App盛行，但也出错导致有人误吃中毒
▶ 相关内容及延展阅读
《调查显示近12年由AI造成的事故暴涨15倍》
《蚂蚁集团周俊：大模型产业落地，关键是解决可信问题》
《大幅提升用户行为表征通用性，蚂蚁新模型CIKM2023最佳应用论文奖》
《Robust User BehavioralSequence Representation via Multi-scale Stochastic Distribution Prediction》（周俊团队获奖最佳论文）
《王俊秀：比人情信任更重要的，是契约信任》
《现代社会契约论》
《社会心态理论》
▶ 本期提到的部分专有名词
Q* / Hallucinate 幻觉 / 金融机器学习平台 / CMU（Carnegie Mellon University）卡耐基梅隆大学 / CIKM学术会议（美国计算机学会ACM主办）/ DeepMind / 王俊秀 / 齐美尔
▶ 嘉宾及主播介绍
个人公众号 Orpheus微见 ，欢迎关注▶ 一起见微知著
听友群：添加微信 KingCrimson_ 备注「微见」即可拉群
Apple Podcast / 网易云音乐 / 喜马拉雅 / 微信公众号 / 微博 / 小红书 等多平台同

社交媒体如何传染「疾病」？ 美国为什么一定要控制TikTok？ 推荐算法信息流与印刷术有何异同？ 什么是信息？而我们到底需要什么信息？本期节目转文字稿会陆续发布在 公众号「Orpheus微见」 ，欢迎阅读关注
「Orpheus微见」第24期，「媒介研习」系列第7期，将深入挖掘这个今天几乎影响了所有互联网产品的「信息流」如何配合AI算法，改变、甚至控制了所有人观看世界的顺序与情绪，研究它如何改变了我们认识世界的思维和行动。
微见《媒介研习》系列入选2023小宇宙播客大赏年度专题策划，欢迎收听往期内容：语言 | 屏幕 | 二维码 | 表情包 | 噪音 | 气味
听友群已开通：添加微信 KingCrimson_ 备注“微见”即可拉群▶ STRUCTURE& TIMELINE
一 \ 社交媒体传染病00:17 德国青少年爆发秽语抽动
07:11 从Google、TikTok到Tinder中的信息流
09:15 传染病学中的传染病三大要素
13:08 反直觉的群体「易感性·Susceptibility」和乌合之众：「头脑混乱就像疯病，本身就极易传染。」—— 古斯塔夫·勒庞
15:38「通过运输手段克服思想的实时传播困难，当印刷、铁路和电报结合在了一起，就让媒体拥有了令人畏惧的新力量。」—— 加布里埃尔·塔尔德
二 \ 信息流的流动简史16:51 1994-1998 Yahoo与Google：门户和搜索中人的信息主动权占多少？
23:30 2003 第一个全球性社交媒体MySpace：低门槛创造流动的信息
24:39 1999 RSS
25:55 2006 Facebook News Feeds
29:27 2012 今日头条
33:17 1998 Amazon的新推荐算法
35:31 2012 YouTube Live太空跳伞直播、Snapchat与竖屏视频
38:05 2014 Musical.ly「把用户反应控制在几秒内」
40:51 2016 抖音上线、字节跳动收购Musical.ly、TikTok合并
三 \ 泛需求养成、用户时长、高消耗与回音室43:18 信息排序与控制权：「社交」媒体为什么「不社交」了？
47:10 10年翻倍，无聊的「用户使用时长」、「让你不知道在干什么的」泛需求培育
53:43 七宗罪、隐私红点、赌场广告：意识不到在「看推荐」
1:05:25 算法逃离、#宝宝辅食、群聊杂志……我们能逃出去吗？
1:15:39 农夫山泉、战马行动、贵州山火：回音室、群体幻觉与情绪传染
尾声 \ 到底什么是信息？1:25:59 到底什么是信息？我们又需要什么样的信息？
1:29:43 没有什么信息是绝对有用或没用、美国博主对TikTok的看法
1:32:27 口语、纸张、印刷术……广义的信息流，就是人类文明本身
1:34:48 本期推荐书籍
最早的Yahoo首页
2006年Facebook产品经理Ruchi Sanghvi发帖宣布重大改版：News Feed和Mini Feed产品上线
2012年菲利克斯·鲍姆加特纳太空跳伞通过YouTube全球直播
美国民众在白宫外游行反对TikTok法案
▶ 参考资料及延展阅读
《乌合之众：大众思维研究》 古斯塔夫·勒庞著 邓航译 《网络共和国 : 网络社会中的民主问题》 凯斯·桑斯坦 《连接：社会网络是如何形成的以及对人类现实行为的影响》 尼古拉斯·克里斯塔基斯詹姆斯·富勒 《打破社交媒体棱镜：探寻网络政治极化的根源》 克里斯·贝尔 小宇宙Kyth：互联网为什么让我们越来越不开心？ They saw a YouTube video then they got Tourette's Stop that! It's not Tourette's but a new type of mass sociogenic illness 推荐系统“始祖”亚马逊：回顾个性化推荐20年变迁之路 今日头条抓新闻陷侵权漩涡 是搬运工还是剽窃者 A Brief History of Vertical Video (So Far) The Origin and Future Of America's Hottest New App: musical.ly 平均场观点动力学模型揭示社会影响如何对抗观点极化▶ 本期提及的部分专有名词
Kirsten Müller-Vahl 穆勒-瓦尔 / Tourette Syndrome 妥瑞氏综合征 抽动秽语症 / Jan Zimmermann / TikTok Tics / 《Tour

情人节是怎么被「发明」的？
第一个在情人节送玫瑰的人，究竟送了什么？
其间又有多少爱和历史的误会和轮回？
「Orpheus微见」第23期，拨开2000多年来诸多历史背后的误会和波折，在浮躁的今天重新发现节日与爱情的隐藏意味，探寻再次冲破拘束，再次实现自己的追求。而这个故事，也是我能想到的，最浪漫的故事。
真爱之路永远不会是平坦的。—— 《仲夏夜之梦》威廉·莎士比亚
听友群已开通：添加微信 KingCrimson_ 备注「微见」即可拉群
▶ STRUCTURE & TIMELINE
00:05 误会一：不是Rose的圣诞玫瑰
一 \ 情人节到底在庆祝什么？
04:08 一个来源版本：纪念圣瓦伦丁之牺牲
06:57 误会二：11个圣瓦伦丁不一样的纪念日
09:45 误会三：乔叟情诗中的Valentine's Day是不是2月14日
14:16 宫廷爱情文学
16:50 误会四：《哈姆雷特》中的Valentine's Day和Rose
二 \ 玫瑰是怎么和爱情扯上联系的？
19:28 用语言和类比构建的抽象象征世界
22:32 古希腊神话中的爱神
25:40 基督教文化中无刺的神秘玫瑰Rosa Mystica
29:07 玫瑰战争和宗教改革
31:05 一首300年前的诗
三 \ 工业革命、维多利亚与玫瑰的商品经济全球化
33:14 工业革命对普通人之爱的意义
36:47 维多利亚女皇为爱「反叛」
39:04 浪漫主义文学、Homosexual
40:13《夜莺与玫瑰》对工业革命后拜金主义的反思
45:36 维多利亚人的恋爱宝典、情人节贺卡与邮政改革
45:36 为什么不送真玫瑰？
47:04 拿破仑与约瑟芬皇后的玫瑰园
48:30 中国月季
50:51 第一朵现代玫瑰终于诞生
四 \ 过情人节和送玫瑰还有什么意义？
52:16 爱到底是什么？玫瑰作为爱的象征的变与不变
54:51 消费主义会杀死情人节和爱情吗？
56:44 最浪漫的故事
圣诞玫瑰与蔷薇属植物
约克白玫瑰符号的传播
执扇侍女图 唐代 周昉
白蔷薇图 宋代 马远
月季图 清代 恽寿平
▶ 参考资料及延展阅读
Love in The Victorian Age（纪录片）
《临界变革》Damon Centola
《玫瑰圣经》王国良
Love Lessons Medieval Literature
Celebrating Yorkshire's Historic White Rose
拿破仑皇后：玫瑰狂人的玫瑰盛会
月季超长待机四季芳华
被赋予“爱情”意涵的玫瑰，是如何由中国演化至欧洲的？
Wikipedia: Valentine's Day
Wikipedia: Wars of the Roses
Wikipedia: Roses Are Red
A Strollin the Garden: A Brief History of the Rose without Thorns
《毒蛇皇后》Stacie Passon
▶ 部分专有名词
传说中牧羊女的名字Madelon / 藜芦 / 毛茛 / 铁锈属 / Claudius Gothicus 罗马皇帝克劳狄二世 / Sanctus Gelasius PP. I 教皇格拉修斯一世 / Geoffrey Chaucer 杰弗里·乔叟 / Parlement of Foules 众鸟之会 / Henry A. Kelly 亨利·凯利 / Gaston Paris 加斯顿·帕里斯 / The Charter of the Court of Love 爱情法庭 / Hamlet 哈姆雷特 / Ophelia 奥菲利亚 / Aphrodite 阿芙洛狄忒 / Eros 厄洛斯 / Adonis 阿多尼斯 / Rosa Mystica 神秘玫瑰 / Blessed Virgin Mary 圣母玛利亚 / Coelius Sedulius 科利乌斯·塞杜利乌斯 / Martin Luther 马丁·路德 / Lutheranism 路德宗 / Yorkshire 约克夏 / Tudor Rose 都铎玫瑰 / The Faerie Queen 《仙后》/ Gammer Gurton's Garland 《花环》/ Oscar Wilde 奥斯卡·王尔德 / The Nightingale And the Rose 《夜莺与玫瑰》/ Valentine Writer / Mechanical Valentine / Esther Howland / Jean-Baptiste André Guillot 安德鲁·吉洛 / 法兰西 La France / 杂交茶香月季 Hybrid Tea Rose
▶ 主播介绍
个人公众号 Orpheus微见 ，欢迎关注
▶ 一起见微知著
微信群：添加微信 KingCrimson_ 备注「微见」即可拉群
Apple Podcast / 网易云音乐 / 喜马拉雅 / 微信公众号 / 微博 / 小红书 等多平台同名
▶ 欢迎收听回声场ECHOCAST其他节目
在场证明 | 声音切片 | 城市瞭望塔 | 日间散步Balade du Jour | 城

龙年新春将至
回声场ECHOCAST 旗下播客主播一起给听友们拜年了！
一起聊点轻松、搞笑、走心的2023所见所闻
过去一年里，我们有人结婚了
有人要生孩子了
也祝你可以在新的一年慢慢生活
找到并勇敢跳入自己的舒适圈
▶ 本期聊天人员（为方便辨别按时间顺序）
00:08 秦旷 Orpheus微见 | 00:45 Barney 意式浓缩 | 00:48 米周 Why for Jazz | 01:20 yuhao 在场证明 | 01:28 Wealden 别想好 | 01:47 王大维 城市瞭望塔 | 23:42 梁福歇 日间散步 | Z 城市余数（意念参加）
回声场ECHOCAST是一个成立于2023年源于播客的内容创新机构及播客俱乐部，目前已开放各类合作，已与腾讯、中信出版集团、蔚来、新经典、Tezo、Flow冥想等品牌展开多种形式的内容创新合作，同时为自媒体及个人提供播客咨询、制作及运营服务，详情请点击这里
听友群已开通：添加微信 KingCrimson_ 备注“微见”即可拉群▶ STRUCTURE & TIMELINE
00:07 热闹：人太多了，先挨个打招呼热闹一下
00:45 喜庆：有人要生孩子了
一 \ 过去一年里搞笑的、想吐槽的事03:54 离谱：赴日航班上的抗日神剧
05:30 惊悚：yuhao分身同时出现在石家庄和武汉
08:26 震惊：挪威炒饭和王守义十三香银耳汤
11:35 失望：消失的街头美味
16:32 反转：2个字300日元的书法作品
18:25 融合：泰国寺庙里的UFO和漫威
二 \ 过去一年里做过的新鲜事和感悟21:24 喜庆×2：有人赶上Deadline结婚了
26:21 惊悚×2：消失的米周（伏笔）
29:07 时间：10年间的变化都是悄悄发生的
31:43 变化：发现真我也是裸辞的意义
36:13 取舍：要等一个事情做完才能做另一个吗？
37:17 舒适：请问我们真正走进过1次舒适圈吗？
41:04 流失：路过燃烧的巴黎圣母院，登上重建的琉球首里城
45:33 惯性：有时就是单纯需要时空转移
51:24 别急：为什么我们的生活不得不越来越快了
三 \ 新年计划、播客对生活的意义59:18 别想好：下期研究一下“尿”
1:00:24 城市瞭望塔：发表一个作品
1:01:03 日间散步：多出门走走
1:03:58 Barney：装房子
1:03:27 在场证明：做个美学风格名词溯源系列
1:06:20 微见：讲更多真实经历过的事情
1:08:26 找回第一代BBS的价值感和真诚感
1:11:14 用声音碰撞灵感和真诚
1:13:17 探索生活的动力、契机、日记和随笔
四 \ 什么是「深度」，对生活有什么用？1:15:21 经过自己的消化理解，成为自己的一部分
1:20:08 接受异质化、理解那些刺耳的声音
1:21:52 深度不是束之高阁
1:23:11 立足现在的脚下，多挖半米也行，多捞捞总会有好东西
1:25:39 世界太快，反应时间太短，多想一点点让自己在随波逐流中慢下来
yuhao见到的泰国佛寺浮雕，里面有UFO和漫威英雄
消失的米周 在港珠澳大桥上
大维在印尼的苏拉威西岛开矿
秦旷在东京和老年书法家协会交流书法
▶ 听友推荐
《四千周》奥利弗·伯克曼 《人都是要死的》波伏娃纪录片▶ 主播介绍
个人公众号 Orpheus微见 ，欢迎关注▶ 一起见微知著
微信群：添加微信 KingCrimson_  备注「微见」即可拉群
Apple Podcast / 网易云音乐 / 喜马拉雅 / 微信公众号 / 微博 / 小红书 等多平台同名
▶ 欢迎收听回声场ECHOCAST其他节目
在场证明 | 声音切片 | 城市瞭望塔 | 日间散步Balade du Jour | 城市余数City remainder | 别想好 |  Why for Jazz

为什么在生活中说「不」越来越难了？ 「没有不的语言」使用者会拒绝他人吗？ 社会对「不」的定义及不欢迎经历了怎样的转变历程？ 如何用「说不」来开启新的关系和人生体验？「Orpheus微见」第22期，我们通过分析「不」在神经科学、社交心理学、哲学和社会学等范畴中的涵义，发现一条100多年来社会规训对「不」进行压制的隐蔽历史线索，希望由此揭开「不能说不的秘密」及其缘由，冲破对「不」的禁忌，重建我们的自我意识和独立人格。
「I'm as proud of many of the things we haven't done as the things we have done. Innovation issaying no to a thousand things. 」那些我们选择不做的事，和我们做过的事同样令我感到骄傲。创新就是对1000件事情说「不」。 —— 史蒂夫·乔布斯
听友群已开通：添加微信 KingCrimson_ 备注「微见」即可拉群▶ STRUCTURE & TIMELINE
一 \ 说「不」很难00:07 春节：演练说「不」的修罗场
02:20 乔布斯的一个小建议
04:26「没有不的语言」
二 \ 说「不」为什么这么难09:00 神经科学：消极偏见
10:43 社交心理学：社交货币与道德审查
13:20 每个人的童年经历、教室里的毒誓
15:30 规训与惩罚：权力不欢迎「不」
19:40 不对等关系、主奴辩证法与自我意识的产生
三 \ 说「不」怎么还越来越难了26:25 生产关系与时代语境的历史变化：比如爱情与工作
28:40 解放与效率：资本不欢迎「不」
31:03 功绩社会、过量肯定、自己批斗自己、内耗
39:08 规训策略的转变：我们还有可能拒绝系统吗？
42:15《黑镜》S1E2
四 \ 冲破说「不」的禁忌47:00 不做「巴甫洛夫的狗」
51:55 关注「不」在不对等关系中产生的微妙变化
54:47 关注「不」背后的原因和逻辑
56:05 真诚而友善，偶尔也歇斯底里
56:31「我们并不是缺少说不的能力，而是缺少说不的动力」
58:45 尾声与作品推荐
1904年大型卷烟厂中的女工
数字时代、移动规训、功绩主义（评论不代表主播观点，仅作为现象参考）
《黑镜S1E2》
▶ 相关书籍等作品
《倦怠社会》[德] 韩炳哲 《规训与惩罚》[法] 米歇尔·福柯 《工作、消费主义和新穷人》[英] 齐格蒙特·鲍曼 《沉思的生活，或无所事事》[德] 韩炳哲 《毫无意义的工作》[美] 大卫·格雷伯 《查拉图斯特拉如是说》[德] 尼采 《黑镜S1E2：Fifth Million Merits》[英] 查理·布鲁克（编剧）▶ 延展资料
确诊ADHD，成了聪明人的「时髦病」 语言学者向库松达语的最后两位母语使用者采集语料 网络研讨会：The LastSpeaker of Kusunda | SOAS University of London 一位语言学者眼中的「不」：How We Say No Matters - Liz Marasco The Power of No - JudithSills Ph.D. How Steve Jobs SavedNike and Apple With 1 Simple Piece of Advice: Why going after every opportunitycan kill your business▶ 部分其他专有名词
库松达 Kusunda / 约翰·卡西奥波John Cacioppo / 罗伊·F·鲍麦斯特 Roy F. Baumeister / 主奴辩证法 / 斯拉沃热·齐泽克 Slavoj Žižek / Multitasking / ADHA 注意缺陷多动障碍
▶ 主播介绍
个人公众号 Orpheus微见 ，欢迎关注▶ 一起见微知著
微信群：添加微信 KingCrimson_ 备注「微见」即可拉群
Apple Podcast / 网易云音乐 / 喜马拉雅 / 微信公众号 / 微博 / 小红书 等多平台同名
▶ 欢迎收听回声场ECHOCAST其他节目
声音切片 | 城市瞭望塔 | 日间散步Balade du Jour | 城市余数City remainder | 别想好 | 在场证明 | Why for Jazz

产品设计的同质化是否正在映射现代生活的同质化？ 消费社会中，商品设计如何创造与改变我们的需求？ 到底，什么是好的设计？ 如何用设计思维帮助我们解决更多问题？「Orpheus微见」第21期，迟早更新的任宁老师、在场证明的yuhao与微见三台联动，闲聊设计，这也是微见开播以来最像播客的一期播客。我们从诺基亚时代百花齐放的「古怪手机」更迭到如今所有手机都变成了高度相似的「黑镜」这一现象开始探讨，今天的设计、需求与我们的生活是否正在走向越来越同质化和无聊？
听友群已开通：添加微信 KingCrimson_ 备注“微见”即可拉群▶ STRUCTURE & TIMELINE
一 \ 集成与细分00:26 诺基亚「百花齐放」到iPhone千篇一律的「黑镜」
04:15 背后需求和问题的同质化、集成化和细分化
06:12 消费社会中，需求是被需要还是被创造？
10:55 设计是一个很新的逻辑？
14:20 淘宝网的设计为什么没法做漂亮？
16:00 大多数场景设计并非必然要素
二 \ 对设计之美的追求与妥协21:22 设计感和美感是可以画等号的吗？
23:55 响尾蛇导弹、物理法则与纯粹美学
29:46 形式、功能与劳动分工的耦合——设计的妥协
38:52 那些巧妙解决问题化腐朽为神奇的设计
三 \ 还有什么设计令人兴奋41:45 一些我们喜欢的设计
44:55 每个人都可以做设计师
46:27 设计与人：个性与效率的冲突
53:59 到底什么事物对于「人」来说更需要设计？
62:58 AI和虚拟技术会打破未来设计中的「无聊」吗？
诺基亚、索爱音乐手机、LG Chocolate、iPhone
趋同演化
多米诺体系
柯布西耶
响尾蛇导弹
蓬皮杜艺术中心
粗野主义建筑
天目里
长沙梅溪湖中心 扎哈·哈迪德
明治牛奶包装 佐藤卓
Tezo新款耳机「雀·Sparrow」
OpenAI · ChatGPT与微软Copilot的视觉传达
赛博朋克2077
▶ 一些提及的专有名词与书籍
柯布西耶 / 格罗皮乌斯 / 伦佐·皮亚诺 / 扎哈·哈迪德 / 西泽立卫 / 妹岛和世 / 深泽直人 / Jasper Morrison / 佐藤卓
《Designer, Maker, User》The Design Museum 《物体系》鲍德里亚▶ 片尾曲
《心臓の扉》Mariah▶ 一起见微知著
微信群：添加微信 KingCrimson_ 备注“微见”即可拉群
Apple Podcast / 网易云音乐 / 喜马拉雅 / 微信公众号 / 微博 / 小红书 等多平台同名
【特别感谢】Tezo言之有理MINI·播客录制间对本期节目提供录制场地及设备支持，点击了解预约流程