維基百科

人工智能法案

歐盟法律

《人工智能法案》（英語：Artificial Intelligence Act, AI Act）是歐盟關於人工智能 (AI) 的法規。

人工智能法案
歐洲聯盟法規（英語：Regulation (European Union)）
歐洲經濟區文件
全稱人工智能法案
編號歐洲聯盟法規第2024/1689號
提案者歐洲議會，理事會
歐盟公報OJ L, 2024/1689, 12.7.2024
立法歷史
歐洲議會投票2024年3月13日
理事會投票2024年5月21日
審議階段文件
歐洲聯盟委員會草案2021/206
現狀：正式立法

該項法案由歐盟委員會在2021年4月21日提議[1]，於2024年3月13日獲得歐洲議會通過，5月21日獲歐盟理事會接受[2]。法案旨在為人工智能引入一個共同的監管和法律框架[3]。除軍事用途外，法案範圍涵蓋所有人工智能類型的範疇。作為監管產品的一部分，它不會賦予個人權利，但會規範人工智能系統的提供者，以及以專業身份使用它們的實體。與歐盟的《歐盟一般資料保護規範》一樣，如果來自歐盟以外的提供者在歐盟境內擁有用戶，則該法案可以在歐盟外治外法權適用。

它涵蓋了廣泛領域的所有類型的人工智能，但僅用於軍事、國家安全、研究和非專業目的的人工智能系統除外。[4]作為產品監管的一部分，它並沒有賦予個人權利，而是對人工智能系統的提供者和在專業環境中使用人工智能的實體進行監管。[5] 該法案草案進行了修訂，以解決生成式人工智能系統日益普及的問題，例如ChatGPT，其通用功能不適合主要框架。[6]計劃對具有系統影響的強大生成人工智能系統制定更嚴格的法規。[7]

該法案根據造成傷害的風險對非豁免人工智能應用進行分類。有四個等級 — 不可接受風險、高風險、有限風險、最小風險 — 加上一個通用人工智能的附加類別。具有不可接受風險的應用程式將被禁止。高風險應用程式必須遵守安全、透明度和品質義務，並接受合格評定。有限風險應用程式僅具有透明度義務，而最小風險應用程式則不受監管。對於通用人工智能，施加了透明度要求，並對高效能模型進行了額外評估。[7][8]

規定

風險類別

根據應用程式的類型，有不同的風險類別，其中一個特定類別專用於通用生成式人工智能：

  • 不可接受的風險 (Unacceptable risk) － 除特定豁免外，此類人工智能應用被禁止。如果不適用豁免，這包括操縱人類行為的人工智能應用程式、在公共場所使用即時遠端生物特徵識別（例如臉部辨識）的人工智能應用程式以及用於社會評分的應用程式（根據個人特徵、社會地位對個人進行排名）。
  • 高風險 (High-risk) － 預計會對人們的健康、安全或基本權利構成重大威脅的人工智能應用。值得注意的是，人工智能系統用於健康、教育、人才招聘、關鍵基礎設施管理、執法、或司法。它們受到品質、透明度、人工監督和安全義務的約束，並且在某些情況下需要在部署之前進行「基本權利影響評估」。[9]在將它們投放市場之前以及整個生命週期中都必須對其進行評估。高風險應用程式清單可以隨着時間的推移而擴展，而無需修改人工智能法案本身。[5]
  • 通用人工智能 (General-purpose AI) － 於2023年添加，此類別尤其包括ChatGPT等特定基礎模型。它們須遵守透明度要求。可能造成系統性風險的高影響力通用人工智能系統（特別是那些使用超過 1025FLOPS 的運算能力進行訓練的系統）[10] 也必須經過徹底的評估過程。
  • 有限風險 (Limited risk) — 此類人工智能系統具有透明度義務，確保用戶獲悉他們正在與人工智能系統交互，並允許他們做出明智的選擇。例如，此類別的包括可產生或操作影像、聲音或視訊（例如深偽技術(Deepfakes)[8]）的 AI 應用程式。在此類別中，開源的免費模型（即其參數是公開可用的）不受監管，但有一些例外。[10][11]
  • 最小風險 (Minimal risk) － 此類別包括例如用於視訊遊戲或垃圾電子郵件篩檢的人工智能系統。大多數人工智能應用預計都屬於這一類。[12] 這些系統不受監管，由於最大協調規則（英語：Maximum harmonisation），成員國不能施加額外的監管。關於此類系統的設計或使用的現有國家法律被推翻。然而，建議制定自願行為準則。[13]

豁免

第 2.3 和 2.6 條將用於軍事或國家安全（英語：Artificial intelligence in government）目的或純粹科學研究和開發的人工智能系統排除在《人工智能法案》之外。[14]

第 5.2 條僅禁止即時進行的演算法視訊監控。允許即時演算法視訊監控的例外情況包括警務目標，包括「真實且當前或真實且可預見的恐怖攻擊威脅」。[14]

該法案第 31 條禁止「公共或私人行為者對自然人進行社會評分的人工智能系統」，但允許「根據聯邦和國家法律為特定目的對自然人進行合法的評估實踐」。此豁免解釋為允許特定部門的社會評分系統，[15] 例如法國家庭支付機構家庭分配銀行​（法語）使用的懷疑評分。[16][14]

機構管理

根據 2024 年 3 月 13 日歐洲議會立法決議，《人工智能法案》第 64 條及以下條款中包括設立各種新機構。這些機構的任務是實施和執行《人工智能法案》。由於歐盟和國家層面各機構和行為者的相互作用，該方法的特點是集中和分散以及公共和私人執法方面的多維結合。

將設立以下新機構：[17][18]

  • 人工智能辦公室：隸屬於歐盟委員會，該機構將協調所有成員國人工智能法案的實施，並監督通用人工智能提供者的合規性。
  • 歐洲人工智能委員會：由每個成員國的一名代表組成，委員會將為委員會和成員國提供建議和協助，以促進《人工智能法案》的一致和有效應用。其任務包括收集和分享技術和監管專業知識、提供建議、書面意見和其他建議。
  • 諮詢論壇：該論壇的設立是為了向人工智能委員會和歐盟委員會提供建議和提供技術專業知識，該論壇將代表均衡選擇的利益相關者，包括行業、新創企業、中小企業、民間社會和學術界，確保在實施和應用過程中，代表了廣泛的意見。
  • 獨立專家科學小組：該小組將向人工智能辦公室和國家當局提供技術建議和意見，執行通用人工智能模型的規則（特別是透過向人工智能辦公室發佈可能風險的合格警報），並確保規則《人工智能法案》的實施和實施符合最新的科學發現。

雖然計劃在歐盟層級建立新機構，但成員國必須指定「國家主管機關」。.[19]這些當局將負責確保《人工智能法》的適用和實施，並進行「市場監督」。[20]他們將驗證人工智能系統是否符合法規，特別是透過檢查合格評定的適當表現以及指定第三方進行外部合格評定。

註釋

參見

參考

  1. ^ EUR-Lex - 52021PC0206 - EN - EUR-Lex. eur-lex.europa.eu. [2021-09-07]. （原始內容存檔於2021-08-23）. 
  2. ^ 2021/0106(COD). EU Law Tracker. [2024-05-27]. （原始內容存檔於2024-05-27）. 
  3. ^ Proposal for a Regulation laying down harmonised rules on artificial intelligence | Shaping Europe's digital future. digital-strategy.ec.europa.eu. [2023-01-09]. （原始內容存檔於2023-01-04） （英語）. 
  4. ^ Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world. Council of the EU. 9 December 2023 [January 6, 2024]. （原始內容存檔於10 January 2024）. 
  5. ^ 5.0 5.1 Mueller, Benjamin. The Artificial Intelligence Act: A Quick Explainer. Center for Data Innovation. 2021-05-04 [2024-01-06]. （原始內容存檔於14 October 2022） （美國英語）. 
  6. ^ Coulter, Martin. What is the EU AI Act and when will regulation come into effect?. Reuters. December 7, 2023 [11 January 2024]. （原始內容存檔於10 December 2023）. 
  7. ^ 7.0 7.1 Espinoza, Javier. EU agrees landmark rules on artificial intelligence. Financial Times. December 9, 2023 [2024-01-06]. （原始內容存檔於29 December 2023）. 
  8. ^ 8.0 8.1 EU AI Act: first regulation on artificial intelligence. European Parliament News. [2024-01-06]. （原始內容存檔於10 January 2024） （英語）. 
  9. ^ Mantelero, Alessandro, Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI, Information Technology and Law Series 36, The Hague: Springer-T.M.C. Asser Press, 2022, ISBN 978-94-6265-533-1, doi:10.1007/978-94-6265-531-7   
  10. ^ 10.0 10.1 Bertuzzi, Luca. AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement. Euractiv. 2023-12-07 [2024-01-06]. （原始內容存檔於8 January 2024） （英國英語）. 
  11. ^ Regulating Chatbots and Deepfakes. mhc.ie. Mason Hayes & Curran. [11 January 2024]. （原始內容存檔於9 January 2024） （英語）. 
  12. ^ Liboreiro, Jorge. 'Higher risk, stricter rules': EU's new artificial intelligence rules. Euronews. 2021-04-21 [2024-01-06]. （原始內容存檔於6 January 2024） （英語）. 
  13. ^ Veale, Michael. Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International. 2021, 22 (4). S2CID 241559535. arXiv:2107.03721  . doi:10.31235/osf.io/38p5f. 
  14. ^ 14.0 14.1 14.2 With the AI Act adopted, the techno-solutionist gold-rush can continue, La Quadrature du Net, 2024-05-22, Wikidata Q126064181, （原始內容存檔於23 May 2024） （英語） 
  15. ^ European Parliament legislative resolution of 13 March 2024 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)). [24 May 2024]. （原始內容存檔於21 May 2024）. 
  16. ^ Notation des allocataires : la CAF étend sa surveillance à l'analyse des revenus en temps réel, La Quadrature du Net, 2024-03-13, Wikidata Q126066451, （原始內容存檔於1 April 2024） （法語） 
  17. ^ Bertuzzi, Luca. EU lawmakers to discuss AI rulebook's revised governance structure. Euractiv. November 21, 2023 [18 April 2024]. （原始內容存檔於22 May 2024）. 
  18. ^ Friedl, Paul; Gasiola, Gustavo Gil. Examining the EU's Artificial Intelligence Act. Verfassungsblog. 2024-02-07 [16 April 2024]. （原始內容存檔於22 May 2024） （英國英語）. 
  19. ^ Artificial Intelligence Act. European Parliament. 13 March 2024 [18 April 2024]. （原始內容存檔於18 April 2024）.  Article 3 – definitions. Excerpt: "'national competent authority' means the national supervisory authority, the notifying authority and the market surveillance authority;"
  20. ^ Artificial Intelligence – Questions and Answers. European Commission. 12 December 2023 [2024-04-17]. （原始內容存檔於6 April 2024）. 
取自 "https://zh.wikipedia.org/w/index.php?title=人工智能法案&oldid=84576192"