举世ai囚系：欧盟《人工智能法案》的通过“不是欧盟ai立法尽头”

李浩宇 2024-03-22 08:43 444

"举世ai囚系：欧盟《人工智能法案》的通过“不是欧盟ai立法尽头”,这篇新闻报道详尽，内容丰富，非常值得一读。这篇报道的内容很有深度，让人看了之后有很多的感悟。作者对于这个话题做了深入的调查和研究，呈现了很多有价值的信息。这篇报道的观点独到，让人眼前一亮。 " 账号设置我的关注我的收藏申请的报道退出登录登录搜索36氪Auto数字时氪将来消费智能涌现将来城市启动Power on36氪出海36氪研究院潮生TIDE36氪企服点评36氪财经(Finance)职场bonus36碳后浪研究所暗涌Waves硬氪媒体品牌企业号企服点评36Kr研究院36Kr创新咨询企业服务核心服务城市之窗行政部门服务创投发布LP源计划VClubVClub投资机构库投资机构职位推介投资人认证投资人服务寻求报道36氪Pro创投氪堂企业入驻创业者服务创投平台首页快讯资讯推荐财经(Finance)科技(Technology)创新城市最新创投汽车(Car)企服专精特新直播视频专题活动搜索寻求报道我要入驻城市合作全球AI监管：欧盟《人工智能法案》的通过“不是欧盟AI立法终点”互联网法律(Law)评论·2024-03-20 18:44关注起草者称：《人工智能法案》在概念上不适合监管人工智能

2024年3月13日，欧洲议会通过了欧盟《人工智能法案》，大量报道认为，漫长议会之旅提前结束——甚至早于欧盟委员会最初提案中计划的时间，这标志着欧盟扫清了立法监管人工智能的最后障碍。事实上，该法律(Law)已被欧洲议会用作推动内部变革并呼吁欧盟制定法律(Law)方式发生重大变化的最佳范例。

然而，欧洲议会的投票通过远非欧盟人工智能立法的终点。

从中期来看，下一届欧盟委员会将在人工智能方面开展更多工作：

必须解决工作场所中的人工智能问题，并致力于吸引欧洲的投资；

将启动有关人工智能责任提案的谈判，并可能关注人工智能和知识产权；

《人工智能法案》和即将生效的更新后的《产品责任指令》、即将生效的《网站弹性法案》的实施情况。

“这很复杂”甚至不足以描述人工智能相关监管的发展，目前(Currently)的欧盟《人工智能法案》只是漫长监管过程的开始。所有相关推动该法案执行的工作，将决定它将在多大程度上成为刺激值得信赖的人工智能创新的早熟工具，可能过早扼杀创新的监管。

本文将结合两位欧盟教授的观点，阐述欧盟《人工智能法案》背后的复杂性。

一、《人工智能法案》概念上不适合监管人工智能

欧盟《人工智能法案》本质上是一项产品安危法规，旨在降低人类使用人工智能系统带来的风险。产品安危监管适用于单一用途产品，可以评估为此目的而应用的风险。

许多老一代的人工智能系统都是针对单一应用程序进行(Carry Out)训练的。然而，问题来自最新的通用大型语言模型和生成人工智能系统，例如 OpenAI 的 ChatGPT、Meta 的 Llama 可能 Google 的 Gemini，这些模型可以用于几乎无限的用途。评估所有风险并为所有可能的用途设计法规变得很困难。

《人工智能法案》试图解决这个问题，并规定了避免损害人类基本权利的一般义务。根据欧洲议会该法案的一位共同起草者——Kai Zenner的说法，这种产品安危和基本权利标准的监管组合并不适合人工智能模型：

我们(We)认为《人工智能法案》在概念上不适合监管人工智能。我们(We)从一开始就指出，将产品安危和基本权利混合在一起以及使用“实质性修改”等概念对于不断发展的人工智能系统并不适用。这种技术无法与真空吸尘器相比。而且，基本权利的保护是欧盟新立法框架（NLF，以新方法指令为代表的技术协调体系）制度没有任何经验的。然而，尽管这种概念选择所带来的法律(Law)问题在谈判过程中变得非常明显，但他们(They)并不愿意进行(Carry Out)概念上的改变。

例如，《人工智能法案》的大部分内容侧重于对处于有限风险和不可接受风险之间的高风险人工智能系统进行(Carry Out)监管。根据法律(Law)规定，当用于训练的计算能力超过 10 flops（浮点计算机运算）时，通用人工智能（GPAI）模型就成为系统性风险模型。系统性风险 GPAI 模型的提供者必须进行(Carry Out)模型评估和对抗性测试，提供用于避免有害应用程序的指标、报告事件并确保网站安危保护。目前(Currently)可用的模型尚未达到该阈值。但2024年发布的下一代人工智能模型很可能会突破这个门槛。那么，这条规定可能会涵盖所有新的大型人工智能模型。

二、人工智能与版权

几家新闻(News)出版商已与能够负担费用的大型科技(Technology)人工智能开发商达成了许可协议。人工智能初创企业正在等待几起悬而未决的法庭案件的结果(Result)，这些案件应该会澄清对人工智能应用的版权法的解释，包括米国“变革性使用”版权原则的应用。然而，授权的数据集可能质量更高，并降低培训成本。但它们(They)也可能减少可用的训练数据集，并导致有偏见的训练。

《人工智能法案》规定，人工智能视听和文本输出应具有机器可读的水印，以将其与人类输出和深度伪造品区分开来。然而，一方面水印技术仍处于早期阶段，很容易受到规避；另一方面，当人工智能仅协助人类时，水印义务不适用。在大多数我国，只有人类的产出可以要求版权，而机器的产出则不能。混合输出需要多少人类贡献才能获得版权？一行人写的“提示”是否足够？这些问题表明欧盟版权指令可能需要重新思考。

三、欧盟正在创建一个过于复杂的人工智能治理体系

欧盟和成员国都担心《人工智能法案》的治理体系方面干涉我国自由。因此，成员国将指定截然不同的我国主管当局，尽管第 66 条中有欧盟保障程序，但这将导致截然不同的解释和执法活动。

此外，欧盟《人工智能法案》不仅与其他法律(Law)——《通用数据保护条例》（GDPR）、《数字服务法》（DSA）、《平台工人(Worker)指令》（PWD）、《医疗器械法规》（MDR）——存在法律(Law)重叠，而且与正在修订可能通过的其他法律(Law)和框架也有交叠：

1、《产品责任指令》

2024年3月12日，欧洲议会正式通过了修订后的新的欧盟消费者保护规则《产品责任指令》（Product Liability Directive）。该指令建立了严格的产品责任制度，本次修订更新了其已有 40 年历史(History)的规则。

该指令将产品范围扩大到涵盖软件和人工智能等数字产品，将损害的概念扩大到包括数据丢失可能损坏，改变了由于技术可能原因难以证明缺陷可能因果关系的情况下的举证责任。一旦生效，这项更新后的法律(Law)将影响欧盟的许多制造商、进口商和分销商。

2、《网站弹性法案》

2024年3月12日，欧洲议会还以 517 票赞成、12 票反对、78 票弃权通过了《网站弹性法案》（Cyber Resilience Act，简称CRA）。接下来，欧盟理事会理事会将正式批准该立法，并发布在欧盟官方公报上公布使之生效。

欧盟委员会最初针对“具有数字元素的产品”提出了这项法规，其主要目标有两个：鼓励对联网设备的网站安危采取生命周期方法，并确保它们(They)投放市场时漏洞较少；并允许用户在选择和使用连接设备时考虑网站安危。CRA定义了网站安危生态系统中的责任链，并引入了其他新义务——包括在新连接设备的技术文档中进行(Carry Out)网站安危风险评估，以及在发现事件后24小时内报告影响连接设备安危的事件以及主动利用(Use)漏洞的要求。

3、网站安危认证框架

欧盟网站安危机构在其官网上概述了其“网站安危认证框架”。这项工作源于2019年通过的《网站安危法案》（CSA），该法案为欧盟范围内的产品、流程和服务的网站安危认证规则创建了欧盟级框架。

该框架一直是起草通用标准认证、5G以及更重要的可信云服务的基础。而“可信云服务”一直是激烈的政治和技术讨论(Discuss)的来源，这些讨论(Discuss)正是主权辩论的核心，法国一直在推动将主权要求纳入欧盟层面的计划。这场争论尚未解决，这解释了可信云方案迟迟没有最终确定的原因。

这项工作也可能与人工智能相关，因为欧盟网站安危局（ENISA）正在评估该网站安危认证工作流程是否以及如何适用于该技术，以及如何重新使用正在制定的方案。CSA认证框架部分的修正案于2023年4月提出，将其应用范围扩大到“托管安危服务”。

四、前景

《人工智能法案》的不完整性未能为人工智能开发者和部署者提供法律(Law)确定性。此外，它还会产生高昂的合规成本，特别是对于可能发现欧盟监管环境成本过高且风险过高的中小企业和初创企业而言。

无论如何，欧盟《人工智能法案》为欧盟委员会及其新成立的人工智能办公室的进一步监管工作奠定了基础。该办公室将登记并验证人工智能开发人员发送的通知。然而，该办公室将面临有限的资源，并且需要一段时间才能加快步伐。

作者简介：

Bertin Martens：欧洲与全球经济(Economy)研究所（Bruegel）的高级研究员。作为欧盟委员会联合研究中心（塞维利亚）的高级经济(Economy)学家，他多年来一直致力于数字经济(Economy)问题的研究，包括电子商务、地理封锁、数字版权和媒体、在线平台以及数据市场和监管。

Isabelle Roccia：世界隐私专业人员协会（IAPP）欧洲董事总经理，关注数据隐私、世界数据流、网站安危、数字贸易和数字化转型，是欧洲、欧盟成员国和多边层面这些问题决策的公认贡献者。曾担任BSA 欧洲、中东和非洲国策总监，布鲁塞尔米国驻欧盟代表团的高级国策顾问。

编译：《互联网法律(Law)评论》

【免责声明】本文撰写所需的信息采集自合法公开的渠道，我们(We)无法对信息的真实性、完整性和准确性提供任何形式的保证。本文仅为分享、交流信息之目的，不构成对任何企业、组织和个人的决策依据。

本文来自微信公众号“Internet Law Review”（ID:Internet-law-review），作者：Bertin Martens等，36氪经授权发布。

该文观点仅代表作者本人，36氪平台仅提供信息存储空间服务。

+120

好文章，需要你的鼓励

互联网法律(Law)评论特邀作者0收藏+10评论打开微信“扫一扫”，打开网页后点击屏幕右上角分享按钮微博沉浸阅读返回顶部参与评论评论千万条，友善第一条登录后参与讨论(Discuss)提交评论0/1000你可能也喜欢这些文章iOS 18是苹果AI的答卷？你可能许并不懂电话AI给机器人装上大模型大脑，「若愚科技(Technology)」获超5000万天使轮融资｜36氪首发英伟达掌握AI时代“摩尔定律”，会加大中美AI公司差距么？AI创新理念与路线之争：有效加速，还是超级对齐？挑战OpenAI大军中的第一个逃兵AI拯救美图背后：“九败一胜”的冒险左手AIGC，右手IP，阅文到了关键时刻让AI大模型“上床”，智能睡眠真能让人酣然安睡吗？AI科学家李飞飞：AI就像电力，给它设置单独监管机构没意义最新文章推荐iOS 18是苹果AI的答卷？你可能许并不懂电话AI2024年，广告主市场预算真的继续下滑？降价潮反倒劝退消费者，想买车可以再等等疯狂的近视神药，焦虑的祖我国长对话黄仁勋：英伟达难以放弃与祖国可能亚洲供应商合作快手(Kuaishou)2023年营收首破千亿元，电商带动广告收入大幅增长苹果CEO库克现身上海，在祖国首谈生成式AI五闯港交所，哈啰滴滴夹击下的嘀嗒出行如何突围？给机器人装上大模型大脑，「若愚科技(Technology)」获超5000万天使轮融资｜36氪首发刚刚，腾讯发布全年财报：游戏(Game)Q4微降2%，小游戏(Game)流水增50%，将花1000亿回购

互联网法律(Law)评论特邀作者

聚焦互联网科技(Technology)知识产权、反垄断、数据安危及隐私保护等法律(Law)问题

发表文章111篇最近内容全球AI监管：欧盟《人工智能法案》的通过“不是欧盟AI立法终点”1小时前欧盟《人工智能法案》的出台意味着什么？2024-03-15WTO部长会议正在讨论(Discuss)：电子传输关税暂停令能否延期？2024-02-29阅读更多内容，狠戳这里下一篇叮咚奥莱走出上海，生鲜硬折扣能做了？

叮咚奥莱第三店在无锡开业。

1小时前

热门标签跟读王树彤霸三国卧龙工作室针孔摄像头针孔摄像机王黎许银川南华早报计算机历史(History)沙利文沙特阿美汽车(Car)商城蛋白质粉汤臣倍健张亮麻辣烫韩雪少年堡垒sgd发布任务张志明摩托罗拉对讲机罗杰耳机排行小智lol黄粱一梦中老年时装淘汰郎王溢关于36氪城市合作寻求报道我要入驻投资者关系商务合作关于我们(We)联系我们(We)加入我们(We)网站谣言信息举报入口热门推荐热门资讯热门产品文章标签快讯标签合作伙伴