2 小时 49 分钟
#37 科技与法律的博弈｜欧盟人工智能法案背后的思考 科技慢半拍
-
- 科技
【嘉宾】
朱悦，同济大学法学院 助理教授，上海市人工智能社会治理协同创新中心
【节目介绍】
2024年3月13日，欧洲议会顺利通过了世界上首部最全面的《人工智能法》（AI Act），标志着人类在人工智能 (AI) 领域迈出了法制的第一步。与嘉宾共同深入这部法案，探讨这部法律出台的背景、历程，以及它的基本原则和立法目的，并深入分析了法案内容背后的逻辑和深层含义。是否符合科技发展规律？是否代表世界领先水平？如何平衡监管和创新之间的关系？各方博弈给这部法律带了什么？并对法案中的关键内容进行专业解读。全部都是AI相关企业和创业者所关心的问题，也希望能为我国的监管和立法机构提供一定的思路和帮助。
【时间线】
00:01:52 研究欧盟《人工智能法》的目的和意义是什么？
00:10:22 AI已发展多年，为什么在今天这个时点推出这部具有争议的法律？
00:14:10 对于人工智能的法理定义是什么？
00:28:08 立法者能否与领先的AI公司合作，能否代表世界的领先水平？
00:40:02 法案中认为人工智能的危害有哪些？
00:54:20 后续的立法过程是什么？留给企业的准备时间还有多久？
01:02:20 人工智能法设立的基本原则是什么？
01:11:43 如何界定法案中定义的四类风险？
01:48:12 对大模型的预训练数据治理有哪些约束？
01:55:05 法案中定义的GPAI（通用目的人工智能）与AGI（通用人工智能）的区别是什么？
02:03:00 如何界定大模型的影响度？
02:13:27 立法者对于开源大模型持有什么态度？
02:16:56 如何规范AIGC所产生的内容？
02:25:58 这部法律的出现是否会影响人工智能领域的技术创新步伐？
02:36:30 重新审视这部法律的目的和意义？
【名词解释】
GDPR ：《通用数据保护条例》，又名《通用数据保护规则》，是在欧盟法律中对所有欧盟个人关于数据保护和隐私的规范，涉及了欧洲境外的个人数据出口。
DMA：《数字市场法案》旨在透过防止大公司滥用其市场力量，并允许让新参与者进入市场以确保欧洲数字市场的竞争程度更高。
DSA：《数字服务法案》旨在明确数字服务提供者的责任并遏制大型网络平台的恶性竞争行为。
布鲁塞尔效应（Brussels effect）：是指欧盟通过市场机制将其法律推广至境外，导致其单边监管全球化的过程。
模型卡（Model Card）：是附随着大模型发布的简短文档，提供了模型在各种情景下的基准测试结果，以及适用于预期应用领域的各种情况。
人工智能安全峰会（布莱切利峰会）：首届人工智能安全峰会于2023年11月1日至2日在英国布莱切利园举行，峰会发布《布莱奇利宣言》
红队（Red Team）：红队对抗是一种模拟黑客攻击的安全评估方法，通过模拟黑客的攻击手段，对目标系统进行全面的安全测试。
FLOPs（floating point operations per second）：指每秒浮点运算次数，理解为计算速度。比如评估某型号GPU的计算算力，即能够产生多少算力速度给模型。同时也可以作为描述深度学习模型在GPU上实际运行时速度的单位，即模型在GPU提供多少算力速度下进行训练、推理的任务。
Scaling Law（规模效应）：指模型的性能与计算量、模型参数量和数据大小三者之间存在的关系，通常体现了越大规模的模型能力越强。
【延伸阅读】
欧盟《人工智能法》（全中文译本）
《人工智能公约》（全文中译本）
欧盟《产品责任指令》（全文中译本）
《欧洲联盟基本权利宪章》（Charter of Fundamental Rights of the European Union）
全球AIGC平台侵权第一案
李飞飞对话英伟达首席科学家：AI就像电力，给它设置单独监管
【嘉宾】
朱悦，同济大学法学院 助理教授，上海市人工智能社会治理协同创新中心
【节目介绍】
2024年3月13日，欧洲议会顺利通过了世界上首部最全面的《人工智能法》（AI Act），标志着人类在人工智能 (AI) 领域迈出了法制的第一步。与嘉宾共同深入这部法案，探讨这部法律出台的背景、历程，以及它的基本原则和立法目的，并深入分析了法案内容背后的逻辑和深层含义。是否符合科技发展规律？是否代表世界领先水平？如何平衡监管和创新之间的关系？各方博弈给这部法律带了什么？并对法案中的关键内容进行专业解读。全部都是AI相关企业和创业者所关心的问题，也希望能为我国的监管和立法机构提供一定的思路和帮助。
【时间线】
00:01:52 研究欧盟《人工智能法》的目的和意义是什么？
00:10:22 AI已发展多年，为什么在今天这个时点推出这部具有争议的法律？
00:14:10 对于人工智能的法理定义是什么？
00:28:08 立法者能否与领先的AI公司合作，能否代表世界的领先水平？
00:40:02 法案中认为人工智能的危害有哪些？
00:54:20 后续的立法过程是什么？留给企业的准备时间还有多久？
01:02:20 人工智能法设立的基本原则是什么？
01:11:43 如何界定法案中定义的四类风险？
01:48:12 对大模型的预训练数据治理有哪些约束？
01:55:05 法案中定义的GPAI（通用目的人工智能）与AGI（通用人工智能）的区别是什么？
02:03:00 如何界定大模型的影响度？
02:13:27 立法者对于开源大模型持有什么态度？
02:16:56 如何规范AIGC所产生的内容？
02:25:58 这部法律的出现是否会影响人工智能领域的技术创新步伐？
02:36:30 重新审视这部法律的目的和意义？
【名词解释】
GDPR ：《通用数据保护条例》，又名《通用数据保护规则》，是在欧盟法律中对所有欧盟个人关于数据保护和隐私的规范，涉及了欧洲境外的个人数据出口。
DMA：《数字市场法案》旨在透过防止大公司滥用其市场力量，并允许让新参与者进入市场以确保欧洲数字市场的竞争程度更高。
DSA：《数字服务法案》旨在明确数字服务提供者的责任并遏制大型网络平台的恶性竞争行为。
布鲁塞尔效应（Brussels effect）：是指欧盟通过市场机制将其法律推广至境外，导致其单边监管全球化的过程。
模型卡（Model Card）：是附随着大模型发布的简短文档，提供了模型在各种情景下的基准测试结果，以及适用于预期应用领域的各种情况。
人工智能安全峰会（布莱切利峰会）：首届人工智能安全峰会于2023年11月1日至2日在英国布莱切利园举行，峰会发布《布莱奇利宣言》
红队（Red Team）：红队对抗是一种模拟黑客攻击的安全评估方法，通过模拟黑客的攻击手段，对目标系统进行全面的安全测试。
FLOPs（floating point operations per second）：指每秒浮点运算次数，理解为计算速度。比如评估某型号GPU的计算算力，即能够产生多少算力速度给模型。同时也可以作为描述深度学习模型在GPU上实际运行时速度的单位，即模型在GPU提供多少算力速度下进行训练、推理的任务。
Scaling Law（规模效应）：指模型的性能与计算量、模型参数量和数据大小三者之间存在的关系，通常体现了越大规模的模型能力越强。
【延伸阅读】
欧盟《人工智能法》（全中文译本）
《人工智能公约》（全文中译本）
欧盟《产品责任指令》（全文中译本）
《欧洲联盟基本权利宪章》（Charter of Fundamental Rights of the European Union）
全球AIGC平台侵权第一案
李飞飞对话英伟达首席科学家：AI就像电力，给它设置单独监管
2 小时 49 分钟