编者按 人工智能是新一轮科技革命和产业变革的重要驱动力量，将对全球经济社会发展和人类文明进步产生深远影响。习近平总书记深刻指出：“面对生成式人工智能等新技术的涌现，要统筹好发展和安全。”在法治轨道上推进人工智能治理，既是保障国家安全与社会稳定的底线要求，也是抢占全球科技竞争制高点的关键举措。在实践中，生成式人工智能服务提供者应当依据何种归责原则负责？应当如何认定生成式人工智能服务提供者致害中的过错？本期刊发中国法学会副会长，中国人民大学一级教授、博士生导师王利明署名文章，敬请关注。
作者简介：王利明，男，1960年2月生，汉族，湖北仙桃人，1981年毕业于湖北财经学院，1990年获中国人民大学法学博士学位。现为中国人民大学一级教授，博士生导师，中国法学会副会长；入选国家高层次人才计划项目；曾任全国人大代表、中国人民大学常务副校长、中国民法学研究会会长等。
当前，人工智能正成为新一轮科技革命与产业变革的核心驱动力。“人工智能﹢”的快速发展，正在深刻重塑我们的生产方式、生活形态以及社会治理结构。在国家大力推动科技创新与高质量发展的背景下，生成式人工智能技术迅猛发展，必然伴随着法律风险。生成式人工智能也会侵害他人的人格权、知识产权等权益，从而对侵权责任规则提出了一定的挑战。在这方面，首先需要解决两个问题：第一，生成式人工智能服务提供者应当依据何种归责原则负责；第二，生成式人工智能服务提供者致害中的过错应当如何认定。
生成式人工智能服务提供者应当对其过错负责。服务提供者究竟应当承担何种责任，在理论上存在无过错责任与过错责任之争。有人认为，生成式人工智能本质上属于产品，其服务提供者应当如同产品的生产者一样承担无过错责任。显然，生成式人工智能致害不宜采取无过错责任原则。一方面，从民法典侵权责任编对无过错责任原则的规定来看，除了替代责任以外，其他无过错责任均以侵权行为或者侵权活动对他人的人身、财产安全具有较高的危险性为前提，因此这些无过错责任又称“危险责任”。这种危险涉及的是人身安全与财产安全。生成式人工智能与人类的交互方式决定了其充其量只是向人类提供信息，不可能危及人类的人身安全或财产安全，因而生成式人工智能致害与民法典侵权责任编中的无过错责任体系不具相同性与相似性，不宜将生成式人工智能致害规定为无过错责任原则。另一方面，在我国现阶段，对生成式人工智能的发展应当秉持审慎包容的态度，尽可能鼓励其发展。如果对生成式人工智能服务提供者采取无过错责任原则，一旦产生损害，都适用无过错责任原则，可能会不当加重其责任，从而限制AI产业的发展。当前，我国在人工智能领域面临的最大风险是“卡脖子”技术受制于人。在此背景下，解决“卡脖子”风险应采取鼓励人工智能发展的政策，而过度监管或不当适用高标准责任将进一步加剧技术受限问题。因此，在设计生成式人工智能侵权规则体系时，应当以促进自主创新为价值导向，体现出对技术发展的引导与支持。基于这一价值考量，采用过错责任原则符合我国现阶段鼓励人工智能产业发展的需要，也可以有效协调行为自由保护与权益保护之间的关系，实现对侵权风险的合理规制。
从生成式人工智能引发的侵权纠纷来看，主要涉及的是生成式人工智能服务提供者对人格权益和知识产权的侵害。而对此类纠纷，我国民法典仍然采用的是过错责任原则进行处理。因此，生成式人工智能服务提供者只有在具有过错时，才应当对侵权损害负责。
生成式人工智能侵权时对服务提供者过错认定。一旦确立生成式人工智能侵权采取过错责任原则，就需要确定如何认定服务提供者的过错，以及采用何种标准认定其过错？现代侵权法理论普遍采纳客观过错理论，即以行为人是否违反了客观上的注意义务作为判断其是否构成过错的标准。生成式人工智能服务提供者的过错认定，也应当依据客观的注意义务标准进行评判，而非依赖其主观意图或认知状态。具体而言，在认定服务提供者的过错，即是否尽到客观注意义务时，应当考虑以下几个因素：
首先，判断生成式人工智能服务提供者的过错，应当审慎区分服务提供者与训练者、数据提供者等多元主体，分别认定各个主体的过错。《生成式人工智能服务管理办法》对“提供者”的界定较为宽泛，可以说涵盖了模型的训练者、部署者以及数据的提供者等多个主体。在实践中，一旦生成式人工智能发生侵权，往往将责任统归于“服务提供者”，这一做法显然过于笼统，难以准确反映各参与方在具体技术流程中所承担的义务及其过错程度。因此，应当将服务提供者与其他主体相区别。
其次，应当区分生成式人工智能服务提供者的过错和用户的过错。生成式人工智能具有信息交互的特点，其生成相关的结果既依赖于数据来源、生成式人工智能模型与算法的运用，也依赖于用户所输入的指令以及相关的信息。如果用户输入的信息本身是虚假的，有可能导致生成式人工智能输出的信息结果是虚假的。因此，在生成式人工智能侵权的成立可能是服务提供者与用户综合作用的结果，这就需要对服务提供者的责任与用户的责任进行区分。实践中，有的用户通过故意输入引导性内容、设置“陷阱性”提示，从而出现诱导生成式人工智能输出侵权信息或无意中泄露隐私数据的情况。此类情形下发生的侵权，由有过错的用户承担责任。网络服务提供者收到权利人通知后未及时采取必要措施的，就损害扩大的部分与网络用户承担连带责任。
再次，判断生成式人工智能服务提供者的过错，应当充分考虑现有技术的发展水平及其可行性限制。此处所说的现有技术水平是指损害发生时的技术水平，即在损害发生时，服务提供者是否采取了合理的措施避免损害的发生，如果其没有采取合理的技术措施避免损害的发生或者扩大的，则应当认定其存在过错。之所以采用损害发生时的技术水平，主要是因为，生成式人工智能的技术水平可能会不断发展和变化，采用损害发生时的技术水平符合生成式人工智能侵权的特点，也有利于避免过于加重服务提供者的责任。
同时，判断生成式人工智能服务提供者的过错，应当将防范成本作为一个关键的衡量因素纳入考量。倘若生成式人工智能服务提供者防范损害的成本极高，则不能轻易认定其存在过错。例如，假设某生成式人工智能平台使用了数量庞大的开放互联网文本和图像数据训练其模型。为了完全避免生成任何可能侵犯版权的内容，有人主张平台在训练前应全面筛查和删除所有潜在的受版权保护的数据，包括但不限于网络上的图片、文学作品、动画角色、短视频片段等。然而，这种筛查需耗费巨额成本。例如，是否需要与全球数以亿万计的版权作品逐一核查授权状态？如果很多作品并无明确版权标识怎么办？可见这种技术和经济上的防范成本极其高昂。
类推适用网络侵权的“通知—删除”规则。判断生成式人工智能服务提供者的过错，有必要参照适用民法典规定的“通知—删除”规则。所谓的“通知—删除”规则，是指当网络服务提供者接到权利人关于某一信息涉嫌侵权的通知后，如果未能及时采取删除、屏蔽、断开链接等必要措施，从而导致损害扩大或者继续发生，则可能需对该损害承担相应的民事责任。因此，倘若网络服务提供者没有及时采取必要措施的，则应当就损害扩大的部分承担连带责任。将“通知—删除”规则类推适用于生成式人工智能的场景，具有一定的正当性和现实必要性。“通知—删除”规则又称为“避风港规则”，其核心功能在于保护网络服务提供者，鼓励互联网发展，促进创新，法律上不应当给网络服务提供者施加进行审查并予以预防和制止的一般性义务，网络服务提供者只有在接到权利人的通知之后，才有必要采取相关措施。否则，就会迫使网络服务提供者花费大量的人力、物力和财力审查网络信息内容，从而极大地增加经营成本，这一立法目的对生成式人工智能技术同样适用。尤其应当看到，与其他网络服务提供者相比，生成式人工智能处理的是海量信息，而其处理信息是否会造成损害，其输出的结果是否侵害他人权益，服务提供者往往并不知情；若允许用户在发现生成内容中可能存在著作权侵害、人格权侵权或敏感个人信息泄露时，通过通知机制及时提醒服务提供者，并由其根据通知内容采取相应过滤或技术限制措施，不仅有助于提升侵权防控效率，也符合对服务提供者合理责任边界的期待。