内容提要：例如，智能手术机器人本身存在程序瑕疵，其在协助医生进行手术的过程中出现故障，导致病人死亡的结果发生。在此过程中，医生不存在违反操作或使用规程的行为，则全部刑事责任都只可能归属于智能手术机器人的生产者……
作者；刘宪权（华东政法大学）
来源：华东政法大学学报
原题： 涉人工智能产品犯罪刑事责任的归属与性质认定
摘要
在人工智能产品的使用者未违反产品操作或使用规程的情形下，人工智能产品引发危害结果的刑事责任应归属于人工智能产品的生产者。人工智能产品的生产者违反注意义务是其构成相应过失犯罪的必要而非充分条件，而违反结果预见义务则是认定其违反注意义务的必要而非充分条件。在认定涉人工智能产品犯罪性质时，面临着无法准确评价犯罪行为所侵犯的法益和人工智能产品生产者的主观罪过，以及不符合相关罪名主体要件的“尴尬”处境。对人工智能产品生产者的过失犯罪行为以认定无疑是较好选择。
关键词：人工智能产品 责任归属 法益侵害 主观罪过 性质认定
目次
一、涉人工智能产品犯罪刑事责任的归属
二、涉人工智能产品犯罪的认定标准
三、涉人工智能产品犯罪性质认定的困境与解决进路
四、结语
一、涉人工智能产品犯罪刑事责任的归属
涉及产品的犯罪可被分为产品生产领域的犯罪与产品使用领域的犯罪，涉人工智能产品犯罪亦是如此。在人工智能时代，由于使用者在使用人工智能产品的过程中，对人工智能产品作用发挥的影响力相较于普通产品而言明显减弱，而生产者生产人工智能产品时所设计的程序系统对人工智能产品作用发挥的影响力明显增强，因此，法律赋予人工智能产品生产者与使用者的注意义务大小也应有所调整。也即与普通产品的生产者与使用者所承担的注意义务相比，人工智能产品的生产者理应承担更多的注意义务，人工智能产品的使用者则应承担更少（甚至不承担）的注意义务。人工智能产品的使用者在使用产品时所应遵守的注意义务的全部内容即为遵循产品操作或使用规程，当使用者未违反产品操作或使用规程时，使用者当然无须为产品所引发的事故承担任何责任。换言之，当人工智能产品引发了严重危害社会的结果时，如果人工智能产品的使用者未违反产品操作或使用规程，则可能承担刑事责任的主体应为人工智能产品的生产者而非使用者。具体理由如下。
第一，契合人工智能产品设计与生产的初衷。人工智能技术自诞生之日起，就将代替人类大脑实施行为作为核心目标，人工智能产品设计与生产的初衷也正是将人类从繁复的劳动中解放出来，从而减轻人类的负担。以自动驾驶汽车为例，人类设计与生产自动驾驶程序系统，目的是将汽车驾驶员从长距离驾驶的疲劳中解放出来，减轻驾驶员的负担。显而易见，自动驾驶汽车的使用者所应承担的注意义务应小于普通汽车驾驶员所应承担的注意义务，其仅需按照操作或使用规程所规定的内容来使用自动驾驶汽车（例如，不能随意干扰自动驾驶汽车的运行、在汽车发出警报时及时采取相应措施等），而交通运输管理法规所规定的绝大部分驾驶员所应履行的注意义务，已转移给自动驾驶汽车的程序系统，也即间接转移给了自动驾驶汽车的生产者，不再由自动驾驶汽车的使用者承担。在行驶过程中，自动驾驶程序系统控制着汽车的行进方向、行进路线、行进速度等，在无特殊情况发生时，使用者无须做出任何判断，也无须采取任何行动（全自动驾驶汽车的“驾驶员”的真实身份其实就是“乘客”，其在任何情况下都没有义务作出任何判断或采取任何行动）。如果在自动驾驶汽车的行进过程中，法律仍保留追究未违反操作或使用规程的使用者刑事责任的可能性，则等同于赋予了使用者持续监督自动驾驶汽车运行的注意义务，也等同于赋予自动驾驶汽车的使用者与普通汽车的驾驶员相同的注意义务，这就和自动驾驶汽车设计与生产的初衷背道而驰了。因此，如果在人工智能产品运行的过程中，法律保留追究未违反操作或使用规程的使用者刑事责任的可能性，不仅从根本上与罪责自负的原则相悖，而且与人工智能产品设计与生产的初衷不符，即无法真正将人工智能产品使用者从繁复劳动中解放出来，无法真正为其减轻负担。
第二，契合使用者对人工智能产品的合理信赖。在人工智能产品的设计、生产到投入市场出售的整个环节中，生产者都应严格遵循法律法规及相关行业规范等的规定，以确保产品合格，并能够按照产品承诺与说明来满足使用者的需求。人工智能产品的使用者基于对法律法规、人工智能产品行业规范及生产者对人工智能产品做出的说明与承诺的信赖，有理由在按照人工智能产品操作或使用规程使用人工智能产品时，相信其会正常发挥作用、满足自己的需求，且不会引发严重危害社会的结果。如果在人工智能产品的使用者未违反操作或使用规程的情形下，法律仍保留追究其刑事责任的可能性，就等同于迫使使用者预见到人工智能产品可能出现的所有会引发事故的产品瑕疵并及时做出修正。事实上，对产品瑕疵的预见与修正，理应完全属于产品生产者的责任，而非使用者的责任。同时，人工智能产品具有较高科技含量和专业性，人工智能产品的使用者通常不可能具备相应能力来预见和修正产品瑕疵。使用者对人工智能产品的合理信赖理应受到法律的承认与保护。因此，当人工智能产品的使用者按照产品操作或使用规程使用人工智能产品时，因产品本身所存在的问题而引发了严重危害社会的结果，可能承担刑事责任的主体绝非使用者。而人工智能产品的生产者基于法律法规、行业规范或者对产品的说明与承诺等，有义务在一定范围内预见到产品瑕疵，并有义务对该瑕疵进行修正，如果生产者违反了上述义务并因此引发严重危害社会的结果，法律让其为此承担相应刑事责任应无异议。
第三，契合“支配原则”“。风险属于谁的管辖范围，谁便需要对风险及由此产生的结果来负责。”[1]对普通产品而言，脱离生产者的产品通常不再为生产者所支配。[2]也即产品生产领域受产品生产者支配，在此领域产生的风险应由产品生产者负责；产品使用领域受产品使用者支配，在此领域产生的风险应由产品使用者负责。例如，普通汽车驾驶员在道路上逆行并撞死行人的行为，并不受汽车生产者的支配，而仅受驾驶员的支配。换言之，对普通汽车而言，除汽车的固有瑕疵（如刹车系统故障）造成的事故之外，因不当驾驶行为造成的事故与汽车生产者并无关联，即普通汽车的生产者仅需保证汽车本身的质量安全，而并无义务确保汽车在行驶过程中遵守交通运输管理法规。后者为汽车驾驶员的责任与义务。汽车本身的质量安全属于汽车生产领域的问题，受汽车生产者支配；汽车在行驶过程中是否遵守交通运输管理法规属于汽车使用领域的问题，受汽车驾驶员支配。然而，基于人工智能产品的自身特点，人工智能产品的使用领域仍受生产者支配，这一点与普通产品存在本质区别。仍以自动驾驶汽车为例，自动驾驶汽车的生产者除需保证汽车本身的质量安全外，还需保证汽车在自动行驶过程中遵守交通运输管理法规。在自动驾驶汽车的使用者未违反操作或使用规程的情况下，自动驾驶汽车在行驶过程中违反交通运输管理法规的行为受自动驾驶程序系统的控制支配，也即受自动驾驶汽车生产者的控制支配。[3]自动驾驶汽车违反交通运输管理法规的行为，并非由使用者的不当操作导致，而是由自动驾驶程序系统本身的瑕疵导致，也即自动驾驶汽车在生产者支配的领域内违反了交通规则。由此产生的一切刑事责任，理应由在此领域具有支配力的生产者承担而非由不具有支配力的使用者承担。简言之，人工智能产品的使用者在产品使用领域的支配力度远低于普通产品使用者在产品使用领域的支配力度，人工智能产品生产者所实施的行为不仅可以在产品生产领域具有支配力，而且其支配力可以延伸至产品使用领域。由此，在人工智能生产者具有支配力的产品使用领域产生的刑事责任，应由人工智能产品的生产者承担。
二、涉人工智能产品犯罪的认定标准
笔者认为，在认定涉人工智能产品犯罪时，人工智能产品的生产者违反注意义务是其构成相应过失犯罪的必要而非充分条件。同时，人工智能产品的生产者违反结果预见义务是认定其违反注意义务的必要而非充分条件。一方面，认定人工智能产品的生产者构成相应过失犯罪的前提是其违反了注意义务；认定人工智能产品的生产者违反注意义务的前提是其违反了对危害结果的预见义务。另一方面，人工智能产品的生产者违反了注意义务，并不必然构成相应的过失犯罪；人工智能产品的生产者违反了对危害结果的预见义务，也并不必然被认定为违反了注意义务。在确立认定人工智能产品生产者成立过失犯罪的标准时，既要从正面确立判定人工智能产品生产者成立过失犯罪的条件，又要从反面限缩人工智能产品生产者成立过失犯罪的范围。
（一）违反注意义务是构成过失犯罪的必要非充分条件
人工智能产品的生产者违反相应的注意义务是认定其构成过失犯罪的必要条件。“为了成立过失，违反法律上认为必要的注意义务是必要的。”[4]事实上，人工智能产品的生产者所应遵守的注意义务不仅限于法律法规所规定的注意义务，还应包括人工智能行业规范与生产者对人工智能产品所做出的承诺。具体缘由笔者已在相关文章中进行过详尽说明，[5]此处不作赘述。当人工智能产品的生产者未违反法律法规、行业规范、对产品的承诺所规定的注意义务时，对于人工智能产品引发的严重危害社会的结果，其不可能承担过失犯罪的刑事责任。这是由过失犯罪与意外事件的本质区别所决定的。根据《刑法》第16条之规定，行为在客观上虽然造成了损害结果，但不是出于故意或者过失，而是由于不能抗拒或者不能预见的原因所引起的，不是犯罪。此处所规定的“不能预见”，即意味着行为人不具有预见可能性，而具有预见可能性是赋予行为人相应注意义务的前提条件。如果行为人对危害结果不具有预见可能性，就意味着行为人无须承担相应注意义务，更谈不上对注意义务的违反。此时，对于行为人的行为在客观上导致严重危害社会的结果，只能以意外事件来认定。从另外一个角度看，尽管人工智能技术经历了六十余年的发展，但仍处于起步或发展的初期阶段。如果我们将这些风险全部让人工智能产品的生产者承担，显然既不公平也不妥当，且会阻碍人工智能技术的发展。“如果没有证据证明任何人有注意义务的违反的话，虽然会出现责任的空白地带，但是鉴于刑法的谦抑精神，应该将这种空白地带让社会全体来承担。”[6]这种无法预测、无法避免风险的现实化，即属于“被允许的危险”。[7]此时，人工智能产品的生产者无须为此承担过失犯罪的刑事责任。就此而言，笔者认为，人工智能产品的生产者违反相应的注意义务是认定其构成过失犯罪的必要条件，也即认定人工智能产品的生产者构成过失犯罪的前提是其违反了相应的注意义务。
人工智能产品的生产者违反相应的注意义务并非认定其构成过失犯罪的充分条件。“尽管行为人侵害了法益，但仍需考察，其所违反的规范是否是用于保护该类法益。若否，则规范的违反并没有对被害人造成相关的危险。”[8]原因在于，刑法规范的目的与其他法律规范的目的并不完全一致。例如，根据《道路交通安全法》第51条之规定，机动车行驶时，驾驶人、乘坐人员应当按规定使用安全带。立法者设立此规定的目的主要是保护驾驶人及乘坐人员的人身安全。假如在驾驶人除未按规定使用安全带，其他驾驶行为均完全符合规范的情况下，由于躲避逆向行驶的车辆而撞死行人，驾驶员理应不承担任何有关的刑事责任。在此事故中，该驾驶员违反规范的行为与撞死行人的结果并无直接关联，因此也就不应对此次交通事故承担刑事责任。同理，当人工智能产品生产者违反的注意义务与人工智能产品所引发的危害结果并无直接关联时，也不应对人工智能产品的生产者以过失犯罪论处。此时，我们无法将危害结果归因于人工智能产品的生产者所实施的行为，也就无法将相关刑事责任归责于行为人。所以，人工智能产品的生产者违反相应的注意义务并非认定其构成过失犯罪的充分条件，也即人工智能产品的生产者即使违反了相应的注意义务，也完全存在不承担过失犯罪刑事责任的可能性。
（二）违反结果预见义务是被认定为违反注意义务的必要非充分条件
人工智能产品的生产者违反结果预见义务是其被认定为违反了注意义务的必要条件。依上文所述，根据《刑法》第16条之规定，行为在客观上虽然造成了损害结果，但是不是出于故意或者过失，而是由于不能预见的原因所引起的，不是犯罪，应当按照意外事件认定。此规定揭示了疏忽大意过失犯罪与意外事件的本质区别。当行为人负有结果预见义务，却因为疏忽大意而未预见并导致法定危害结果发生时，则构成疏忽大意的过失犯罪。反之，即使行为人因为疏忽大意而未预见并导致法定危害结果发生，若其不负有结果预见义务，则仍不构成疏忽大意的过失犯罪，而仅按照意外事件处理。由此可见，刑法认定行为人负有结果预见义务的前提是行为人能够预见，即具有预见可能性。在行为人“不能预见”的条件下，无须为客观上造成的损害结果负刑事责任。“法律要求行为人的义务是以行为人能够履行义务为前提的。所以，预见义务是以预见可能为前提的。如果行为人没有预见能力，则不要求其必须履行负有的义务。”[9]具体到对人工智能产品的生产者过失犯罪的认定，刑法认定人工智能产品的生产者违反了注意义务的前提是其违反了结果预见义务，而认定其违反了结果预见义务的前提又是具有预见可能性。反过来说，当人工智能产品的生产者不具有预见可能性时，刑法就不可能认定其违反了结果预见义务，更不可能认定其违反了注意义务。从这个意义上来说，人工智能产品的生产者违反结果预见义务是其被认定为违反了注意义务的必要条件，也即人工智能产品的生产者违反结果预见义务是其被认定违反了注意义务的前提。
需要指出的是，人工智能产品的生产者违反结果预见义务并非意味着其被认定为违反了注意义务的充分条件。根据旧过失论的观点，注意义务的内容一般认为是违反结果预见义务；根据新过失论的观点，注意义务的核心内容是结果避免义务，但是结果预见可能性是履行结果避免义务的前提；根据新新过失论，注意义务的核心内容也是结果避免义务，但其不要求对结果具有具体的预见可能性，仅需具有抽象的预见可能性。[10]由此可见，新过失论与新新过失论存在较多的共通之处，二者存在的主要区别在于对结果的预见可能性是指具体预见可能性还是抽象预见可能性。分析上述有关过失犯罪认定理论的各种学说，可以发现，新新过失论所提出的对结果的抽象预见可能性内容模糊不清，缺乏可操作性；[11]而旧过失论仅强调结果预见义务，忽视了结果避免义务，可能会导致对行为人违反注意义务的认定标准过低，并进而扩大过失犯罪的成立范围，也不足取。笔者认为，在判定人工智能产品的生产者是否违背了注意义务方面，新过失论颇具可取之处。其一，人工智能时代的社会也是风险社会，物质文明的发展带来了社会风险的急剧增加。但人类不能因噎废食，人类为了实现生活的方便快捷，就必须在一定程度上容忍风险。事实上，在现代文明社会中，诸多风险都是可预见但却无法完全避免的。例如，汽车等高速交通工具的运行，必然内含致人死伤的风险，但是人们所能做的，只是规范汽车等交通工具的驾驶行为，却无法从根本上杜绝交通事故的发生。在人工智能产品领域亦是如此。对人工智能产品的生产者而言，其对人工智能产品所造成的危害结果，在绝大多数情况下是可以预见的，但却无法做到完全避免危害结果的发生。新过失论对结果避免义务的强调，将人工智能产品的生产者虽预见到危害结果但却无法避免危害结果的情形排除在成立过失犯罪的可能范围之外，从一定程度上避免了对人工智能产品的生产者过失犯罪认定范围过大的问题出现。其二，根据刑法条文规定，注意义务的内容应同时包含结果预见义务与结果避免义务。《刑法》第15条规定，应当预见自己的行为可能发生危害社会的结果，因为疏忽大意而没有预见，或者已经预见而轻信能够避免，以致发生这种结果的，是过失犯罪。应当看到，由于条文中“没有预见”之后并未加“的”，这就意味着条文最后的“以致发生这种结果的”，应是对“疏忽大意”和“轻信避免”两种情况的统一要求。只是出于简洁、不重复的条文表达需求，才在“已经预见而轻信能够避免”后面集中表述了一次。事实上，对上述条文的含义进行详细、完整表述是：应当预见自己的行为可能发生危害社会的结果，因为疏忽大意而没有预见，以致发生这种结果的；或者已经预见自己的行为可能发生危害社会的结果而轻信能够避免，以致发生这种结果的，是过失犯罪。可见，无论是疏忽大意的过失，还是过于自信的过失，成立的前提都是“以致发生这种结果的”，也即结果的发生是成立过失犯罪的必备要件。换言之，当行为人未违反结果回避义务而仅违反了结果预见义务，也即当行为人虽然违反了结果预见义务（未预见到危害结果的发生且并未采取相应措施阻止结果的发生），却在偶然因素的作用下避免了结果的发生时，行为人仍不可能被认定为过失犯罪。综上，笔者认为，根据刑法的规定，行为人成立过失犯罪所违背的注意义务内容同时包含结果预见义务与结果回避义务。因此，在认定人工智能产品的生产者是否违反注意义务并进而构成过失犯罪时，新过失论具有重要的参考价值。根据新过失论，人工智能产品生产者的结果回避义务是其所要履行的注意义务的核心，而结果预见义务仅是其所要履行的结果回避义务的前提。“以客观预见义务的面目出现的预见可能性，只是作为结果避免义务的前提而存在，或者确切地说，是作为履行安全标准的必要前提，它本身并不具有独立的意义。”[12]即使人工智能产品的生产者违反了结果预见义务，只要不能证明其违反了结果回避义务，就不能认定其违反了注意义务。例如，自动驾驶汽车在绿灯亮起时超速经过一个路口，撞上超速行驶并闯红灯经过该路口的酒后骑摩托车的甲，导致甲死亡。在不讨论哪一方负事故全部或者主要责任的情况下，我们也完全有理由判定，尽管自动驾驶汽车的生产者设计的程序有瑕疵（使自动驾驶汽车超速行驶），且其能够预见到超速行驶的自动驾驶汽车可能会导致交通事故发生，但是由于在这个事故中，结果回避可能性无法得到证明（或者说根本不具有结果回避可能性），自动驾驶汽车的生产者违背结果回避义务也就无从谈起，所以其不可能成立过失犯罪。因此，人工智能产品的生产者违反结果预见义务并非认定其违反了注意义务的充分条件，而只是认定其违反了注意义务的前提。
三、涉人工智能产品犯罪性质认定的困境与解决进路
产品犯罪应被划分为产品生产领域与产品使用领域的犯罪。但是，基于人工智能产品的特点，产品生产领域与产品使用领域的界限并非泾渭分明，这也就导致在认定涉人工智能产品犯罪的性质时存在一定困惑，并亟须我们为此寻找合适的解决进路。
（一）涉人工智能产品犯罪性质认定的困惑
在认定涉人工智能产品犯罪的性质时，我们可以以人工智能产品生产领域作为基准来确定犯罪性质，或者以人工智能产品使用领域作为基准来确定犯罪性质。但基于涉人工智能产品犯罪的特殊性，上述认定方式会不可避免地导致一定的“尴尬”处境。
1.涉人工智能产品犯罪性质认定的具体方式
正如前述，与普通产品不同，人工智能产品被投入使用之后，其在产品使用领域作用的发挥主要仍依赖于程序系统的控制。换言之，人工智能产品生产者的行为在产品使用领域仍会发挥支配作用。这就使得人工智能产品生产者的行为在产品生产领域和产品使用领域都会发挥支配作用。对于完全属于人工智能产品生产领域的刑事责任，归属于人工智能产品的生产者并按照相应产品犯罪认定显然不存在任何障碍。关键问题是，对于属于人工智能产品使用领域过失犯罪（在使用者未违反操作或使用规程的情形下）的刑事责任，虽然笔者已在上文中论述了将其归属于人工智能产品生产者的合理性，但对其适用刑法分则的何种罪名则需要进行探讨。在这种情形下，确定人工智能产品生产者过失犯罪的罪名，可能依循的路径如下。
第一，以产品生产领域为基准确定人工智能产品生产者过失犯罪的性质。人工智能产品在被使用时，其作用的发挥依赖于程序系统，而控制人工智能产品发挥作用的程序系统是由人工智能产品的生产者所设置的。人工智能产品的程序系统本身就属于人工智能产品不可分离的部分，缺少了程序系统的人工智能产品无异于“废铜烂铁”，无法为人类生产或生活提供任何帮助。例如，自动驾驶汽车与普通汽车的本质区别在于，自动驾驶汽车拥有自动驾驶程序系统。所以，当自动驾驶汽车在自动驾驶程序系统的控制下违反交通运输管理法规并引发重大交通事故时，在本质上与普通汽车刹车系统出现问题而引发重大交通事故无异。因此，对自动驾驶汽车的生产者以相关产品犯罪来认定具有合理之处。在此意义上而言，以产品生产领域为基准确定人工智能产品生产者过失犯罪的性质，具有一定合理性。
第二，以产品使用领域为基准确定人工智能产品生产者过失犯罪的性质。“生产”与“使用”两个词语具有截然不同的含义。“生产”指的是人们使用工具来创造各种生产资料和生活资料；“使用”指的是使人员、器物、资金等为某种目的服务。[13]人工智能产品的生产与人工智能产品的使用显然也应具备截然不同的含义。生产者制造人工智能产品时的行为便属于生产行为；人们为了达到某种目的而利用人工智能产品的行为便属于使用行为。刑法分则认定行为人构成不同犯罪的标准是行为人的行为和主观罪过。在人工智能生产者主观罪过确定为犯罪过失的情况下，刑法分则认定其构成何种犯罪，显然是以其行为为标准的。在此意义上而言，将人工智能产品在使用领域引发严重危害社会结果的过失犯罪刑事责任归属于人工智能产品的生产者是具有充足根据的，但这并不表明，按照产品生产领域所涉及的罪名来对人工智能产品生产者的过失犯罪行为进行定性也具有合理性。应当看到，人工智能产品在使用领域引发严重危害社会结果的行为本质是“使用”而非“生产”。例如，自动驾驶汽车引发交通事故，属于在产品使用领域发生的事故，虽然自动驾驶汽车在此情况下仍受到程序系统（也即生产者行为的延伸）控制，也即以产品使用领域为基准确定人工智能产品生产者过失犯罪的性质具有一定合理之处，但如果按照刑法分则中有关汽车使用领域所可能涉及的罪名（如交通肇事罪）认定似乎又存在很大的不合理性。
2.涉人工智能产品犯罪性质认定的“尴尬”处境
但应当看到，上述两种路径仍存在难以解决的问题，从而使得刑法认定人工智能产品生产者过失犯罪行为的性质时面临“尴尬”处境。
第一，以产品生产领域为基准确定人工智能产品生产者过失犯罪的性质时，刑法分则中可能得以适用的罪名似乎只有生产伪劣产品罪等犯罪的罪名，但是，以这些罪名认定显然无法准确、合理评价生产者所实施的犯罪行为侵犯的法益（客体）与生产者的主观罪过。其一，无法准确、合理评价生产者所实施的犯罪行为侵犯的法益（客体）。生产伪劣产品罪等是刑法分则第三章第一节所规定的罪名。刑法分则第三章规定的是“破坏社会主义市场经济秩序罪”。众所周知，我国刑法分则主要根据犯罪行为所侵犯的客体性质的不同，将所有犯罪划分为十大类。[14]人工智能产品使用领域中的事故，在大多数情况下，属于危害公共安全或者侵犯公民人身权利、民主权利的犯罪，也有可能属于危害国家安全的犯罪。对生产者在人工智能产品使用领域的过失犯罪行为，以第三章第一节所规定的生产伪劣产品罪等犯罪加以认定，存在无法准确、合理评价生产者犯罪行为所侵犯的法益的问题。例如，自动驾驶汽车违反交通运输管理法规引发重大交通事故，实质上是危害了公共安全，而非破坏了社会主义市场经济秩序。而生产、销售伪劣商品罪这一节的刑法条文“着重处罚的是违背诚信原则、生产、销售不符合安全标准、卫生标准的产品这一行为本身”。[15]如果对自动驾驶汽车生产者以生产伪劣产品罪认定，不能准确地评价其行为所侵犯的法益也无法准确、合理评价生产者的主观罪过。生产伪劣产品罪等属于故意犯罪，且具有谋取非法利益的主观目的。我们在此探讨的是人工智能产品生产者过失犯罪的性质，应当看到，人工智能产品的生产者对人工智能产品引发的严重危害社会的结果，显然是持“否定”心态的，也即此结果的发生完全违背了人工智能产品生产者的主观意志。对危害结果是否持否定心态，是区分行为人主观罪过是故意还是过失的重要标准。“犯罪主观要件是犯罪成立所必须具备的主观条件，具有必要性。”[16]同时，犯罪主观要件对于区分罪与非罪、此罪与彼罪以及对量刑轻重都具有重要影响。[17]基于行为人主观罪过的上述重要作用，我们对于行为人在过失心态支配下所实施的犯罪行为，绝不可能以故意作为主观构成要件的犯罪来加以认定。在此需要说明的是，人工智能产品的生产者在生产过程中意识到自己的行为违反了法律法规、行业规范等，但出于加快工作进度等目的，抱着不会引发事故的侥幸心理（此前多次类似情况都未引发严重后果）制造出人工智能产品并投入市场，最终该人工智能产品引发了严重危害社会的结果，此处人工智能产品生产者的主观罪过应该认定为过失（过于自信的过失）而非故意。虽然此处生产者可谓“明知故犯”，即明知自己的行为违反了法律法规、行业规范等，仍然继续实施相应的行为，似乎是在放任严重危害社会的结果发生而应被认定为间接故意犯罪。但实际上，人工智能产品的生产者对自己的行为不会引发严重危害社会的结果抱有“侥幸”心理，意味着其希望严重危害社会的结果不发生，即其对此结果持“否定”的心态。换言之，人工智能产品引发严重危害社会的结果，是违背人工智能产品生产者的意志的。由此可见，即使人工智能产品生产者放任自己的行为违背相关法律法规、行业规范等，也并不等同于其放任自己的行为引发严重危害社会的结果。综上，对人工智能产品生产者所实施的危害公共安全等的犯罪行为以生产伪劣产品罪等破坏社会主义市场经济秩序的犯罪来认定似乎不妥；对人工智能产品生产者的过失犯罪，用生产伪劣产品罪等故意犯罪来认定似乎也存在不妥之处。
第二，以产品使用领域为基准确定人工智能产品生产者过失犯罪的性质时，相关罪名构成要件中的主体要件可能无法涵括人工智能产品的生产者。例如，智能手术机器人本身存在程序瑕疵，其在协助医生进行手术的过程中出现故障，导致病人死亡的结果发生。在此过程中，医生不存在违反操作或使用规程的行为，则全部刑事责任都只可能归属于智能手术机器人的生产者。在智能手术机器人的生产者存在过失的情况下，应如何认定其犯罪的性质？如果以产品使用领域为基准确定智能手术机器人生产者过失犯罪的性质，则智能手术机器人的生产者应构成。但应当看到，医疗事故罪的犯罪主体应为医务人员，而智能手术机器人的生产者显然不属于医务人员这一范畴。类似情形不胜枚举，笔者无意在此一一列举。应当看到，随着人工智能技术的不断创新发展及对人类生产或生活参与程度的不断提高，人工智能产品引发事故的领域将会更加广泛，也即在使用领域可能会触及更多种类的过失犯罪。而相当程度的过失犯罪只能由特殊主体构成，且人工智能产品的生产者又不属于这类特殊主体范围，因此，以产品使用领域为基准确定人工智能产品生产者过失犯罪的性质，会面临相关罪名构成要件中的主体要件无法涵括人工智能产品生产者的“尴尬”处境。
（二）涉人工智能产品犯罪性质认定疑难的解决进路
面临涉人工智能产品犯罪性质认定的“尴尬”处境，我们亟须寻找合适的解决方式与进路。依笔者之见，以重大责任事故罪来认定上述人工智能产品生产者的过失犯罪行为似乎更为合理。理由有三。其一，以重大责任事故罪来认定上述人工智能产品生产者的过失犯罪行为，解决了适用生产伪劣产品罪等罪名无法准确评价生产者犯罪行为所侵犯法益（客体）的问题。由笔者在上文所述可知，涉人工智能产品犯罪所侵犯的法益大多为公共安全，而重大责任事故罪属于刑法分则第二章“”中的罪名，该条文所规制的是危害公共安全的犯罪行为，而生产伪劣产品罪等犯罪条文所规制的是破坏社会主义市场经济秩序的犯罪行为。显而易见，以重大责任事故罪来评价人工智能产品生产者的过失犯罪行为更具有合理性。其二，以重大责任事故罪来认定上述人工智能产品生产者的过失犯罪行为，解决了适用生产伪劣产品罪等罪名无法准确评价生产者主观罪过的问题。本文所探讨的是人工智能生产者主观罪过为过失的犯罪行为，生产伪劣产品罪等犯罪均为故意犯罪，二者存在不可调和的矛盾之处。而重大责任事故罪的主观方面表现为过失，以此罪名评价人工智能产品生产者的过失犯罪行为显然更为合理。其三，以重大责任事故罪来认定上述人工智能产品生产者的过失犯罪行为，解决了相关罪名构成要件中的主体要件无法涵括人工智能产品生产者的问题。根据《刑法》第134条第1款及2015年12月14日最高人民法院、最高人民检察院发布的《关于办理危害生产安全刑事案件适用法律若干问题的解释》之规定，重大责任事故罪的主体为对生产、作业负有组织、指挥或者管理职责的负责人、管理人员、实际控制人、投资人等人员，以及直接从事生产、作业的人员。实际上，重大责任事故罪的主体范围已经涵括了对安全事故负有责任以及其他从事生产、作业的所有人员。[18]因此，以重大责任事故罪来评价人工智能产品生产者的过失犯罪行为颇具合理之处。
笔者在此需要补充说明两点。其一，尽管人工智能产品引发事故的时空范围应属于产品使用领域，人工智能产品的生产者所实施行为的时空范围应属于产品生产领域，但是两个时空之间存在密切的关联，即人工智能产品的生产者所实施行为与人工智能产品引发的事故之间存在因果关系，完全符合重大责任事故罪条文关于“在生产、作业中违反有关安全管理的规定，因而发生重大伤亡事故或者造成其他严重后果”的规定。人工智能产品的生产者所实施的行为与人工智能产品引发的事故二者之间虽存在时空上的分离，但不会成为将人工智能产品生产者行为认定为重大责任事故罪的障碍。事实上，刑法中行为与结果之间存在分离的情况有很多，只要行为与结果之间存在因果关系，都不会影响到对行为人所实施行为的认定。同时，人工智能产品的生产者所实施的行为属于产品生产领域的行为，也即是“在生产、作业中”，完全符合成立重大责任事故罪的时空条件。其二，重大责任事故罪的主体范围应将单位涵括其中。我国刑法以惩罚自然人犯罪为原则，以惩罚为例外，单位犯罪必须以刑法分则的明文规定为前提。《刑法》第134条第1款“重大责任事故罪”的条文并未规定单位可以构成本罪，也即该罪主体目前只包括自然人而不包括单位。但是，“工业社会经济活动的现代风险，从来就不是个人可以控制及负责的，而是由许多人的共同作用所引起”。[19]现代社会中的高科技产品，包括人工智能产品等极具专业性、精密性、复杂性，绝非个人以传统作坊模式所能生产、制造出来的产物，而是需要多人共同协作完成。因此，在重大责任事故罪的主体范围中增加单位这一犯罪主体，似乎更能契合人工智能时代的特点与需求。
四、结语
综上所述，笔者认为，人工智能产品的使用者在使用产品时所应遵守的注意义务的全部内容即为遵循产品操作或使用规程，当使用者未违反产品操作或使用规程时，对于人工智能产品引发的严重危害社会的结果，可能承担刑事责任的主体应为人工智能产品的生产者而非使用者。
认定人工智能产品的生产者构成相应过失犯罪的前提是其违反了注意义务；认定人工智能产品的生产者违反注意义务的前提是其违反了对危害结果的预见义务。也即人工智能产品的生产者违反了注意义务，并不必然构成相应的过失犯罪；人工智能产品的生产者违反了对危害结果的预见义务，也并不必然被认定为违反了注意义务。因此，在认定涉人工智能产品犯罪时，人工智能产品的生产者违反注意义务是其构成相应过失犯罪的必要而非充分条件；人工智能生产者违反结果预见义务是认定其违反注意义务的必要而非充分条件。
涉人工智能产品犯罪性质认定的“尴尬”处境是指：以产品生产领域为基准确定人工智能产品生产者过失犯罪的性质时，如果以刑法分则中生产伪劣产品罪等罪名，显然无法准确、合理评价生产者所实施的犯罪行为侵犯的法益（客体）与生产者的主观罪过；以产品使用领域为基准确定人工智能产品生产者过失犯罪的性质时，许多罪名构成要件中的主体要件可能无法将人工智能产品生产者涵括其中。就此而言，笔者认为，以重大责任事故罪认定人工智能产品生产者的过失犯罪行为，既解决了适用生产伪劣产品罪等罪名无法准确评价生产者犯罪行为所侵犯法益（客体）、生产者主观罪过的问题，也解决了相关罪名构成要件中的主体要件无法将人工智能产品生产者涵括其中的问题。
（责任编辑：卢勤忠）
【注释】
*刘宪权，华东政法大学教授，法学博士。本文系国家社科基金重大项目“网络时代的社会治理与刑法体系的理论创新研究”（项目号20&ZD199）的阶段性研究成果。
[1]劳东燕：《过失犯中预见可能性理论的反思与重构》，载《中外法学》2018年第2期，第312页。
[2]参见吕英杰：《风险社会中的产品刑事责任》，载《法律科学（西北政法大学学报）》2011年第6期，第145-153页。
[3]参见林雨佳：《自动驾驶事故中的过失犯罪分析》，载《重庆大学学报（社会科学版）》2020年第1期。
[4]马克昌：《比较刑法原理——外国刑法学总论》，武汉大学出版社2015年版，第234-235页。
[5]参见刘宪权：《涉人工智能犯罪中研发者主观罪过的认定》，载《比较法研究》2019年第4期，第101-110页。
[6]储陈城：《人工智能时代刑法归责的走向——以过失的归责间隙为中心的讨论》，载《东方法学》2018年第3期，第35页。
[7][日]西田典之：《日本刑法总论》，刘明祥、王昭武译，中国人民大学出版社2007年版，第104页。
[8][德]埃里克·希尔根多夫：《因果关系与客观归属——原理与问题》，徐凌波译，载陈泽宪主编：《刑事法前沿》（第7卷），中国人民公安大学出版社2013年版，第127页。
[9]刘宪权主编：《刑法学》（第4版），上海人民出版社2016年版，第161页。
[10]参见前注[4]，马克昌书，第228-233页。
[11]参见[日]松尾浩也等编：《刑法判例百选I总论》（第4版），有斐阁1997年版，第108页；转引自前注[4]，马克昌书，第234页。
[12]同前注[1]，劳东燕文，第324页。
[13]参见倪文杰等主编：《现代汉语辞海》，人民中国出版社1994年版，第907、941页。
[14]参见刘宪权：《刑法学名师讲演录》（第2版），上海人民出版社2016年版，第129页。
[15]同前注[2]，吕英杰文。
[16]张小虎：《犯罪主观要件结构分析》，载《河北大学学报（哲学社会科学版）》2004年第4期。
[17]参见前注[9]，刘宪权书，第150-151页。
[18]参见前注[9]，刘宪权书，第440页。
[19][德]许遒曼：《过失犯在现代工业社会的捉襟见肘》，单丽玟译，载许玉秀等主编：《不移不惑现身法与正义：许遒曼教授刑事法论文选辑》，台湾新学林出版股份有限公司2006年版，第519页；转引自前注[1]，劳东燕文，第312页。
发表评论