S4E10|AI 换脸,请准备好韩国 N 号房 2.0 的冲击

商业WHY酱

在「N 号房 1.0」时期,犯罪者通过加密渠道分享未经允许拍摄的私密影像,这些行为牵涉到个人隐私的严重侵害,并演变为涉及性剥削的广泛网络。如今,不法分子利用深度伪造(deepfake)技术将人脸合成到影像中,加剧了隐私问题,进一步升级了对女性的侵害。

某些网络群体的成员数量甚至高达 2,000 人,而其中的部分受害者为未成年人,许多犯罪嫌疑人本身也是青少年。他们通过偷拍身边的路人、同学,甚至是家人,以这些隐秘的偷拍内容作为加入群组的「门票」,获得团体的认可,成为「男性联盟」的一部分。

技术的进步让伪造不当内容的成本和技术门槛已大幅降低,AI 技术使得伪造变得更加简单,影响范围日益扩大。这一现象不仅在制作端显现,还有庞大的需求群体支撑,这导致隐私侵害的进一步扩散,涉及到各类学校与社会层面,他们的需求也推动了这一黑色产业链的进一步发展。

主要话题

02:50 AI 技术让犯罪的难度下降,几乎覆盖韩国所有的小学、中学、大学

08:02 政府的作壁上观与加害者的恬不知耻相互助长

20:24 韩国占据了全球 deepfake 视频来源的 53%,这不是一个纯技术问题

25:11 报案体系、立法体系的不完善,导致法律体系的系统性不平等

33:55 技术可以对抗技术,但技术的掌握和使用依然是不平等系统的一环

48:44 求助国内资源无果后,韩女利用政府的民族荣誉感倒逼政府正视问题

54:37 女性的努力和抗争不断推动社会进步

59:29 科技公司可以用自己的力量去让世界变得更美好的时候,不应该回避这个责任

本期人物

杨轩,「商业WHY酱」主播、36 氪主编

丸子,36 氪作者

阿菜,36 氪作者

延伸阅读

他们给AI投币1美元,百万女性被拖入地狱 | 智涌深度

幕后制作

监制:可特

编辑:Riley

后期:可特

设计:饭团

运营:George

关于节目

在这个快速变化、信息爆炸的世界,跟随资深商业编辑杨轩,和各行各业的聪明人一起,聊点文字报道中看不到的料,探寻商业背后的关键问题和本质逻辑

支持我们,加入新一年的播客创新

2021 年我们发起了「声动胡同会员计划」,这是一个纯支持项目,支持「声动活泼」在播客内容上不断探索和创新。回顾 2023 年,得益于这些支持,「声动活泼」的每档节目都不断突破,不仅荣登苹果中国的年度热门节目榜单,还在 CPA 和喜马拉雅等平台都榜上有名。2024 年全新付费节目「不止金钱」现已上线,欢迎收听。同时,新一季「跳进兔子洞」已经上线。

欢迎 点击链接 查看 我们 2023 年收获和 2024 年内生容计划。如果你认同或喜欢我们做的事情,也期待我们不断尝试并产生好内容,欢迎付费支持。

商务合作

声动活泼商务合作咨询

关于声动活泼

「用声音碰撞世界」,声动活泼致力于为人们提供源源不断的思考养料。

  • 我们还有这些播客:声东击西、What's Next|科技早

무삭제판 에피소드를 청취하려면 로그인하십시오.

이 프로그램의 최신 정보 받기

프로그램을 팔로우하고, 에피소드를 저장하고, 최신 소식을 받아보려면 로그인하거나 가입하십시오.

국가 또는 지역 선택

아프리카, 중동 및 인도

아시아 태평양

유럽

라틴 아메리카 및 카리브해

미국 및 캐나다