维基百科

人工智能法案

歐盟法律

《人工智能法案》（英语：Artificial Intelligence Act, AI Act）是欧盟关于人工智能 (AI) 的法规。

人工智能法案
欧洲联盟法规（英语：Regulation (European Union)）
欧洲经济区文件
全称人工智能法案
编号欧洲联盟法规第2024/1689号
提案者欧洲议会，理事会
欧盟公报OJ L, 2024/1689, 12.7.2024
立法历史
欧洲议会投票2024年3月13日
理事会投票2024年5月21日
审议阶段文件
欧洲联盟委员会草案2021/206
现状：正式立法

该项法案由欧盟委员会在2021年4月21日提议[1]，于2024年3月13日获得欧洲议会通过，5月21日获欧盟理事会接受[2]。法案旨在为人工智能引入一个共同的监管和法律框架[3]。除军事用途外，法案范围涵盖所有人工智能类型的范畴。作为监管产品的一部分，它不会赋予个人权利，但会规范人工智能系统的提供者，以及以专业身份使用它们的实体。与欧盟的《欧盟一般资料保护规范》一样，如果来自欧盟以外的提供者在欧盟境内拥有用户，则该法案可以在欧盟外治外法权适用。

它涵盖了广泛领域的所有类型的人工智能，但仅用于军事、国家安全、研究和非专业目的的人工智能系统除外。[4]作为产品监管的一部分，它并没有赋予个人权利，而是对人工智能系统的提供者和在专业环境中使用人工智能的实体进行监管。[5] 该法案草案进行了修订，以解决生成式人工智能系统日益普及的问题，例如ChatGPT，其通用功能不适合主要框架。[6]计划对具有系统影响的强大生成人工智能系统制定更严格的法规。[7]

该法案根据造成伤害的风险对非豁免人工智能应用进行分类。有四个等级 — 不可接受风险、高风险、有限风险、最小风险 — 加上一个通用人工智能的附加类别。具有不可接受风险的应用程序将被禁止。高风险应用程序必须遵守安全、透明度和品质义务，并接受合格评定。有限风险应用程序仅具有透明度义务，而最小风险应用程序则不受监管。对于通用人工智能，施加了透明度要求，并对高效能模型进行了额外评估。[7][8]

规定

风险类别

根据应用程序的类型，有不同的风险类别，其中一个特定类别专用于通用生成式人工智能：

  • 不可接受的风险 (Unacceptable risk) － 除特定豁免外，此类人工智能应用被禁止。如果不适用豁免，这包括操纵人类行为的人工智能应用程序、在公共场所使用即时远端生物特征识别（例如脸部辨识）的人工智能应用程序以及用于社会评分的应用程序（根据个人特征、社会地位对个人进行排名）。
  • 高风险 (High-risk) － 预计会对人们的健康、安全或基本权利构成重大威胁的人工智能应用。值得注意的是，人工智能系统用于健康、教育、人才招聘、关键基础设施管理、执法、或司法。它们受到品质、透明度、人工监督和安全义务的约束，并且在某些情况下需要在部署之前进行“基本权利影响评估”。[9]在将它们投放市场之前以及整个生命周期中都必须对其进行评估。高风险应用程序清单可以随着时间的推移而扩展，而无需修改人工智能法案本身。[5]
  • 通用人工智能 (General-purpose AI) － 于2023年添加，此类别尤其包括ChatGPT等特定基础模型。它们须遵守透明度要求。可能造成系统性风险的高影响力通用人工智能系统（特别是那些使用超过 1025FLOPS 的运算能力进行训练的系统）[10] 也必须经过彻底的评估过程。
  • 有限风险 (Limited risk) — 此类人工智能系统具有透明度义务，确保用户获悉他们正在与人工智能系统交互，并允许他们做出明智的选择。例如，此类别的包括可产生或操作影像、声音或视讯（例如深伪技术(Deepfakes)[8]）的 AI 应用程序。在此类别中，开源的免费模型（即其参数是公开可用的）不受监管，但有一些例外。[10][11]
  • 最小风险 (Minimal risk) － 此类别包括例如用于视讯游戏或垃圾电子邮件筛检的人工智能系统。大多数人工智能应用预计都属于这一类。[12] 这些系统不受监管，由于最大协调规则（英语：Maximum harmonisation），成员国不能施加额外的监管。关于此类系统的设计或使用的现有国家法律被推翻。然而，建议制定自愿行为准则。[13]

豁免

第 2.3 和 2.6 条将用于军事或国家安全（英语：Artificial intelligence in government）目的或纯粹科学研究和开发的人工智能系统排除在《人工智能法案》之外。[14]

第 5.2 条仅禁止即时进行的算法视讯监控。允许即时算法视讯监控的例外情况包括警务目标，包括“真实且当前或真实且可预见的恐怖攻击威胁”。[14]

该法案第 31 条禁止“公共或私人行为者对自然人进行社会评分的人工智能系统”，但允许“根据联邦和国家法律为特定目的对自然人进行合法的评估实践”。此豁免解释为允许特定部门的社会评分系统，[15] 例如法国家庭支付机构家庭分配银行​（法语）使用的怀疑评分。[16][14]

机构管理

根据 2024 年 3 月 13 日欧洲议会立法决议，《人工智能法案》第 64 条及以下条款中包括设立各种新机构。这些机构的任务是实施和执行《人工智能法案》。由于欧盟和国家层面各机构和行为者的相互作用，该方法的特点是集中和分散以及公共和私人执法方面的多维结合。

将设立以下新机构：[17][18]

  • 人工智能办公室：隶属于欧盟委员会，该机构将协调所有成员国人工智能法案的实施，并监督通用人工智能提供者的合规性。
  • 欧洲人工智能委员会：由每个成员国的一名代表组成，委员会将为委员会和成员国提供建议和协助，以促进《人工智能法案》的一致和有效应用。其任务包括收集和分享技术和监管专业知识、提供建议、书面意见和其他建议。
  • 咨询论坛：该论坛的设立是为了向人工智能委员会和欧盟委员会提供建议和提供技术专业知识，该论坛将代表均衡选择的利益相关者，包括行业、新创企业、中小企业、民间社会和学术界，确保在实施和应用过程中，代表了广泛的意见。
  • 独立专家科学小组：该小组将向人工智能办公室和国家当局提供技术建议和意见，执行通用人工智能模型的规则（特别是透过向人工智能办公室发布可能风险的合格警报），并确保规则《人工智能法案》的实施和实施符合最新的科学发现。

虽然计划在欧盟层级建立新机构，但成员国必须指定“国家主管机关”。.[19]这些当局将负责确保《人工智能法》的适用和实施，并进行“市场监督”。[20]他们将验证人工智能系统是否符合法规，特别是透过检查合格评定的适当表现以及指定第三方进行外部合格评定。

注释

参见

参考

  1. ^ EUR-Lex - 52021PC0206 - EN - EUR-Lex. eur-lex.europa.eu. [2021-09-07]. （原始内容存档于2021-08-23）. 
  2. ^ 2021/0106(COD). EU Law Tracker. [2024-05-27]. （原始内容存档于2024-05-27）. 
  3. ^ Proposal for a Regulation laying down harmonised rules on artificial intelligence | Shaping Europe's digital future. digital-strategy.ec.europa.eu. [2023-01-09]. （原始内容存档于2023-01-04） （英语）. 
  4. ^ Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world. Council of the EU. 9 December 2023 [January 6, 2024]. （原始内容存档于10 January 2024）. 
  5. ^ 5.0 5.1 Mueller, Benjamin. The Artificial Intelligence Act: A Quick Explainer. Center for Data Innovation. 2021-05-04 [2024-01-06]. （原始内容存档于14 October 2022） （美国英语）. 
  6. ^ Coulter, Martin. What is the EU AI Act and when will regulation come into effect?. Reuters. December 7, 2023 [11 January 2024]. （原始内容存档于10 December 2023）. 
  7. ^ 7.0 7.1 Espinoza, Javier. EU agrees landmark rules on artificial intelligence. Financial Times. December 9, 2023 [2024-01-06]. （原始内容存档于29 December 2023）. 
  8. ^ 8.0 8.1 EU AI Act: first regulation on artificial intelligence. European Parliament News. [2024-01-06]. （原始内容存档于10 January 2024） （英语）. 
  9. ^ Mantelero, Alessandro, Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI, Information Technology and Law Series 36, The Hague: Springer-T.M.C. Asser Press, 2022, ISBN 978-94-6265-533-1, doi:10.1007/978-94-6265-531-7   
  10. ^ 10.0 10.1 Bertuzzi, Luca. AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement. Euractiv. 2023-12-07 [2024-01-06]. （原始内容存档于8 January 2024） （英国英语）. 
  11. ^ Regulating Chatbots and Deepfakes. mhc.ie. Mason Hayes & Curran. [11 January 2024]. （原始内容存档于9 January 2024） （英语）. 
  12. ^ Liboreiro, Jorge. 'Higher risk, stricter rules': EU's new artificial intelligence rules. Euronews. 2021-04-21 [2024-01-06]. （原始内容存档于6 January 2024） （英语）. 
  13. ^ Veale, Michael. Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International. 2021, 22 (4). S2CID 241559535. arXiv:2107.03721  . doi:10.31235/osf.io/38p5f. 
  14. ^ 14.0 14.1 14.2 With the AI Act adopted, the techno-solutionist gold-rush can continue, La Quadrature du Net, 2024-05-22, Wikidata Q126064181, （原始内容存档于23 May 2024） （英语） 
  15. ^ European Parliament legislative resolution of 13 March 2024 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)). [24 May 2024]. （原始内容存档于21 May 2024）. 
  16. ^ Notation des allocataires : la CAF étend sa surveillance à l'analyse des revenus en temps réel, La Quadrature du Net, 2024-03-13, Wikidata Q126066451, （原始内容存档于1 April 2024） （法语） 
  17. ^ Bertuzzi, Luca. EU lawmakers to discuss AI rulebook's revised governance structure. Euractiv. November 21, 2023 [18 April 2024]. （原始内容存档于22 May 2024）. 
  18. ^ Friedl, Paul; Gasiola, Gustavo Gil. Examining the EU's Artificial Intelligence Act. Verfassungsblog. 2024-02-07 [16 April 2024]. （原始内容存档于22 May 2024） （英国英语）. 
  19. ^ Artificial Intelligence Act. European Parliament. 13 March 2024 [18 April 2024]. （原始内容存档于18 April 2024）.  Article 3 – definitions. Excerpt: "'national competent authority' means the national supervisory authority, the notifying authority and the market surveillance authority;"
  20. ^ Artificial Intelligence – Questions and Answers. European Commission. 12 December 2023 [2024-04-17]. （原始内容存档于6 April 2024）. 
检索自“https://zh.wikipedia.org/w/index.php?title=人工智能法案&oldid=84576192”