欧盟人工智能责任指令（译文）.docx

《欧盟人工智能责任指令（译文）.docx》由会员分享，可在线阅读，更多相关《欧盟人工智能责任指令（译文）.docx（10页珍藏版）》请在优知文库上搜索。

1、欧盟人工智能责任指令（译文）欧洲议会和欧盟委员会关于使非合同性民事责任规则适应人工智能的指令（人工智能责任指令）的提案翻译：周辉，中国社会科学院法学研究所副研究员；朱凌云，中国社会科学院大学法学院2022级法学硕士研究生；刘致远，中国社会科学院大学法学院2020级本科生。欧洲议会和欧盟理事会，考虑到欧盟运作条约，特别是其第114条，考虑到欧盟委员会的提议，在向各国议会转递立法草案后，考虑到欧洲经济和社会委员会的意见，考虑到地区委员会的意见，按照普通立法程序，鉴于：（1）人工智能（Al）是一套赋能技术，可以为经济和社会的各个领域带来广泛的利益。它具有巨大的技术进步潜力，助力数字经济的诸多部门建立

2、新的商业模式。（2）同时，根据其具体应用和使用的情况，人工智能可以产生风险并损害受欧盟或成员国法律保护的利益和权利。例如，人工智能的使用会对一些基本权利产生不利影响，包括生命、人身安全以及不受歧视和平等待遇等方面的权利。欧洲议会和理事会的（EU）/条例人工智能法案规定了旨在减少安全和基本权利的风险的要求，而其他欧盟法律规定了通用和适用于人工智能的机械产品、无线电设备等行业的产品安全规则。尽管这些旨在减少对安全和基本权利的风险的要求是为了预防、监测和解决风险，从而解决社会关切，但它们并没有为那些遭受人工智能损害的人提供个人救济。现有的要求特别规定了与人工智能系统有关的授权、检查、监测和行政制裁以

3、防止侵害，但它们没有规定对受伤害者因人工智能系统的输出或未能产生输出而造成的损害进行赔偿。（3）当受伤害者为所遭受的损害寻求赔偿时，成员国基于过错的一般责任规则，通常要求当事人证明可能对该损害负有责任的人的过失或故意的损害作为或不作为（“过错”），以及该过错与相关损害之间的因果关系。然而，当主体的作为或不作为与损害之间涉及人工智能时，某些人工智能系统的具体特征，如不透明、自主行为和复杂性，可能会使受伤害者难以甚至不能满足这一举证责任要求。特别是，如果要求证明潜在责任人所负责的特定输入导致了特定的人工智能系统输出，从而导致了相关的损害，这会更加困难。(4)在这种情况下，成员国民事责任规则所提供的

4、赔偿水平可能低于对非人工智能技术造成损害的赔偿。这种赔偿的差距可能会降低社会对人工智能的接受程度以及对人工智能产品和服务的信任程度。(5)为了获得人工智能的经济和社会效益，并促进向数字经济的过渡，有必要以有针对性地调整成员国某些民事责任规则，使其适应某些人工智能系统的特定特征。这种调整应有助于提高社会和消费者的信任，从而促进人工智能的推广。这种调整也应保持对司法系统的信任，确保在人工智能参与下造成的损害的受害者获得与其他技术造成的损害的受害者同样有效的赔偿。(6)利益相关者-遭受损害的受害者、潜在的责任人、保险公司-面临着法律上的不确定性，即成员国国家法院在面对人工智能的具体挑战时，如何在个别

5、案件中适用现有的责任规则，以实现公正的结果。在欧盟没有采取行动的情况下，至少有一些成员国可能会调整其民事责任规则，以解决与某些人工智能系统的具体特征有关的赔偿差距和法律不确定性。这将为开发或提供创新型人工智能产品或服务的企业造成法律上的分裂和内部市场障碍，中小型企业也将受到特别严重的影响。(7)本指令的目的是通过协调成员国的某些非合同性过失责任规则，来促进内部市场的正常运作，以确保因人工智能系统对其造成的损害而要求赔偿的人，享有等同于在没有人工智能系统参与的情况下而要求损害赔偿的保护水平。因为相关的内部市场障碍与国家层面单边且零散的监管措施的风险存在关联，成员国无法充分实现这一目标。鉴于属于本

6、指令范围内的产品和服务的数字性质，后者在跨境背景下尤为重要。(8)因此，在涉及人工智能系统的情况下，为了确保法律的确定性和防止赔偿差距的目标可以在欧盟一级更好地实现，欧盟可以根据欧盟条约第5条规定的辅助性原则采取措施。根据该条规定的比例原则，本指令没有超出为实现该目标所必需的范围。(9)因此，有必要以有针对性的方式在欧盟层面上协调基于过失的责任规则的具体方面。这种协调应增加法律的确定性，为人工智能系统创造一个公平的竞争环境，从而改善内部市场在生产和推广人工智能产品和服务方面的运作。(10)为了确保比例原则，只以有针对性的方式协调那些基于过错的赔偿责任规则，这些规则规定了对人工智能系统造成的损害

7、提出赔偿要求的人的举证责任。本指令不应协调各成员国民事责任规则，以不同方式规定的民事责任的一般方面，如过错或因果关系的定义、引起损害赔偿要求的不同类型、对多个侵权行为人的责任分配、共同行为、损害赔偿或时效期限的计算。(11)成员国关于生产者对其产品缺陷造成的损害的责任的法律，已经在欧盟层面上由理事会第85/374/EEC号指令加以统一。然而，这些法律并不影响成员国基于产品缺陷以外的其他理由，所制定的合同或非合同责任的规则，如保证、过失或无过错责任。同时，理事会第85/374/EEC号指令的修订，旨在澄清并确保受伤害的人，可以对有缺陷的人工智能产品造成的损害提出赔偿要求。因此，应该澄清的是，本指

8、令的规定，并不影响受害者根据成员国执行第85/374/EEC号指令制定的规则，所拥有的任何权利。此外，在运输领域，规范运输提供者责任的欧盟法律应不受本指令的影响。(12)数字服务法(DSA)完全协调了适用于内部市场中介服务提供者的规则，涵盖了这些提供者提供的服务所产生的社会风险，包括他们使用的人工智能系统。本指令不影响数字服务法(DSA)的规定，该规定为托管服务提供商的算法决策提供了一个全面和完全统一的尽职调查义务框架，包括在满足该条例的条件下，免除由其服务对象上传的非法内容传播的责任。(13)除其规定的假设之外，本指令并没有统一成员国法律，关于哪一方负有举证责任或举证标准需要何种程度的确定性

9、的规定。(14)本指令应遵循最低限度的协调方法。这种方法允许人工智能系统造成的损害案件中的索赔者，援引成员国法律中更有利的规则。因此，成员国法律可以维持国家基于过错或无过错责任(又称“严格责任”)制度下的举证责任倒置，这些制度在成员国法律中已经有很多种类，可能适用于人工智能系统造成的损害。(15)还应确保与人工智能法案(theAIAct)保持一致。因此，本指令适用于人工智能系统、提供者和用户的相同定义。此外，本指令应仅涵盖由人工智能系统的输出或因某人的过失，未能产生输出而导致的损害赔偿，例如根据人工智能法案的提供者或用户。当损害是由人工评估后某个人的作为或不作为造成的，而人工智能系统只提供了被

10、相关行为人所考虑的信息或建议时，就无需承担责任索赔。在后一种情况下，有可能追溯到人的作为或不作为造成的损害。因为人工智能系统的输出没有介入人的作为或不作为与损害之间，所以，确定因果关系并没有比不涉及人工智能系统时更困难。(16)获得涉嫌造成损害的特定高风险人工智能系统的信息，是确定是否要求赔偿和证实赔偿要求的一个重要因素。此外，对于高风险人工智能系统，人工智能法案规定了具体的文件、信息和记录要求，但没有规定受伤害者有权获得这些信息。因此，为确定赔偿责任，应当规定有关人员披露相关证据的规则。这也应该为遵守人工智能法案中规定的相关要求提供额外的激励，以记录或保存相关信息。(17)通常参与设计、开发

11、、部署和操作高风险人工智能系统的人数众多，这使得受伤害者难以确定对所造成的损害可能负有责任的人，也难以证明损害索赔的条件。为了让受伤害的人确定损害赔偿要求是否有充分的理由，应给予潜在的索赔人一项权利，在提交损害赔偿要求之前请求法院命令披露相关证据。只有在潜在索赔人提出了足以支持损害赔偿要求合理性的事实和信息，并且事先向提供者、受提供者义务约束的人或用户提出请求，要求披露他们所掌握的关于涉嫌造成损害的特定高风险人工智能系统的证据，但遭到拒绝时，才应下令披露。命令披露应减少不必要的诉讼，避免因索赔不合理或可能不成功而给诉讼当事人造成的费用C在向法院提出披露证据的请求之前，提供者、承担提供者义务的人

12、或用户拒绝披露证据，不应推定拒绝披露证据的人不遵守相关注意义务。(18)对于高风险人工智能系统的证据披露的限制与人工智能法案是一致的，该法为参与设计、开发和部署高风险人工智能系统的操作者规定了某些具体的归档、记录保存及其他信息义务。这种一致性也确保了必要的比例原则，避免了低风险或无风险的人工智能系统的操作者被期望将信息记录达到与人工智能法案规定的高风险人工智能系统相似的水平。(19)在民事诉讼过程中，国家法院应该能够命令披露或保全与高风险人工智能系统造成的损害有关的证据，这些证据来自已经根据人工智能法案有义务记载或记录信息的人，无论是提供者、与提供者有相同义务的人，还是人工智能系统的用户，都可

13、以作为被告或索赔的第三方。可能会出现这样的情况：与案件有关的证据并非由损害赔偿要求当事方的实体持有，但它们有义务根据人工智能法案记载或记录此类证据。因此，有必要规定在什么条件下可以命令这些索赔的第三方披露相关的证据C(20)为了保持损害赔偿要求所涉当事方和有关第三方的利益之间的平衡，法院只有在证据披露对于支持损害赔偿要求或潜在损害赔偿要求是必要和相称的情况下，才应下令命令披露证据。在这方面，披露应该只涉及就有关损害赔偿要求作出决定所必需的证据。例如，只涉及证明不遵守人工智能法案规定的要求所需的相关记录或数据集的部分。为了确保这种披露或保全措施的相称性，成员国法院应该有有效的手段来保障所有相关方

14、的合法利益，例如，保护欧洲议会和理事会(EU)2016/943号指令意义上的商业秘密以及机密信息，如与公共或国家安全有关的信息。对于法院认定为(EU)201633号指令意义上的商业秘密或被指控的商业秘密，成员国法院应被授权采取具体措施，以确保在诉讼期间和之后保守商业秘密，同时在商业秘密持有人的保密利益与商业秘密持有人的利益之间实现公平和相称的平衡这应包括采取措施，限制对含有商业秘密的文件的接触，以及限制对听证会或文件及其记录的接触，使之只限于少数人。在决定此类措施时，成员国法院应考虑到需要确保获得有效补救和公平审判的权利、当事人的合法利益并酌情考虑第三方的合法利益，以及因批准或拒绝此类措施而对

15、任何一方或在可能情况下对第三方造成的任何潜在损害此外，为确保在损害赔偿要求中对第三方适度适用披露措施，成员国法院应仅在无法从被告处获得证据的情况下命令第三方披露C(21)虽然成员国法院有办法通过各种措施执行其披露命令，但任何此类执行措施都可能拖延损害赔偿要求，从而有可能给诉讼当事人带来额外的费用。对于受伤害的人来说，这种拖延和额外的费用可能会使他们更难以诉诸有效的司法补救措施。因此，如果损害赔偿要求中的被告未能根据法院命令披露其掌握的证据，那么就应该推定其没有履行该证据所要证明的那些注意义务。这种可反驳的推定将减少诉讼的时间，并促进更有效的法庭程序。被告应该能够通过提交相反的证据来反驳这一推定

16、。(22)为了解决难以证明潜在责任人负责的特定输入导致了特定的人工智能系统输出，从而导致相关损害的问题，适当的做法是：在某些条件下规定因果关系的推定。虽然在基于过错的索赔中，索赔人通常必须证明损害、构成被告过错的行为人作为或不作为以及两者之间的因果关系，但本指令并不协调各成员国法院确定过错的条件。它们仍然受适用的成员国法律的制约，并在协调一致的情况下，受适用的欧盟法律的制约。同样，本指令也没有协调与损害有关的条件，例如，哪些损害应予赔偿，这也是由适用的成员国法律和欧盟法律规定的。为了适用本指令下的因果关系推定，被告的过错应被确定为：人的作为或不作为没有符合欧盟法律或成员国法律规定的、旨在用于防止所发生的损害的注意义务。因此，这一推定可以适用于，例如在法院确定被告不履行旨在防止对自然人造成伤害的使用说明的过错时，对人身伤害的损害索赔。不遵守并非直接用于保护所发生的损害而设