1. 项目概述与争议焦点
1.1 核心问题:AI的“主观故意”如何认定?
轮到一个问题,AI公司入侵系统这事,舆论炸了。大部分人第一反应是:这不就是黑客行为吗?为什么不按黑客罪起诉?紧接着第二反应是:难道AI公司就能豁免刑事处罚?这属于典型的以朴素正义感替代法律分析,而标题里的“作者论证意图可以成立”,恰恰指向了刑法原理中最核心也最微妙的环节——主观故意与犯罪主体的认定。
先说结论:AI公司入侵系统,如果以黑客罪起诉,确实存在一个绕不开的坎儿——刑法要求行为人具有主观故意,而AI系统本身的“意图”如何归责于公司管理层和开发者,在证据法层面极度困难。标题中提到的“作者论证意图可以成立”,往深了说,是指论证侵入系统的不法意图可以成立、可以归因于公司决策层,从而填补“主观故意”这一构成要件的空档。
这不是钻法律空子,而是刑法理论上一个真实的争议点。我研究这个议题一段时间了,先从一起典型的假设案件说起:某科技公司为训练自身的AI安全模型,未经授权越过了某云服务商的生产环境边界,抓取了大量敏感日志数据。事后被安全团队溯源发现,证据链清楚指向该公司的安全研究部门。但到了刑事立案环节,出现了不可思议的一幕:公安机关认为“系统是被AI程序批量扫描并突破的,不是人直接操作的”,因而卡在了主观故意的认定上。
1.2 为什么这个话题会引爆
这个话题之所以重要,在于它触及了三个层面的碰撞:
- 技术层面:AI系统的自主决策能力已经超越了单纯工具属性,当攻击行为由模型自主决策和执行时,传统“人机交互”的归责链条断裂;
- 法律层面:犯罪构成要件中的“主体”、“故意”、“行为”三个要素,都因为AI的介入而变得模糊、难以对号入座;
- 行业层面:AI公司之间、AI公司与传统企业之间的数据争夺战愈演愈烈,安全攻防的灰色地带不断扩大,法律滞后带来的风险倒挂问题越来越严重。
我用一个生活化的类比来解释这件事的尴尬处境:你买了一台自动扫地机器人,结果它在扫描地形时意外撞碎了邻居家的花瓶。警方来问——是你指示机器人去撞的吗?你说没有。警方又问——机器人知道自己撞了吗?它不知道。于是这案子就卡住了。但如果厂家在出厂前就给机器人写好了“扫到花瓶时加速冲过去”的逻辑,那你还能不能声称自己毫无责任?这个类比往里套,就是AI攻击归责问题的本质。
2. 黑客罪构成要件与AI行为适用性分析
2.1 非法侵入计算机信息系统罪的构成要件拆解
我国刑法第285条规定的非法侵入计算机信息系统罪,核心构成要件如下:
- 犯罪主体:年满16周岁、具有刑事责任能力的自然人,单位不构成本罪(但特定罪名如侵犯公民个人信息罪除外);
- 主观方面:故意,即明知是国家事务、国防建设、尖端科学技术领域的计算机信息系统而故意侵入;
- 客观方面:实施了侵入行为;
- 犯罪对象:特定领域的计算机信息系统。
注意,这里有一个天然的结构性矛盾——本罪的主体只规定了自然人,AI公司作为单位,本身难以直接构成此罪的犯罪主体。所以在实践操作中,若要追责,必须找到公司内部决策链条上的自然人——谁下达了研发AI安全模型的任务?谁批准了使用“真实目标进行对抗测试”的方案?谁知道了数据来源的敏感性质却没有叫停?
这就像查酒驾,车是公司名下的,方向盘却必须握在某个具体的人手里。如果全程是AI系统自动扫描、自动渗透、自动回传数据,中间没有任何人做过明确的授权或者确认,那“谁在驾驶”就成了一个几乎无法回答的问题。
2.2 共同犯罪与单位犯罪的双重困境
这背后还有一层更深的困境。刑法第30条对单位犯罪采取了“法定原则”——只有法律明确规定单位可以构成犯罪的,才能追究单位刑事责任。目前非法侵入计算机信息系统罪并未设置单位犯罪条款。这意味着,即使AI公司内部集体决策,组织了一整支安全团队去实施越权攻击,法律也无法直接对公司判处罚金刑。
于是实践中只能绕道两个方向:
- 追究直接责任人员的刑事责任:把公司安全团队的负责人、技术骨干、决策层管理者中知情且参与的人拉出来单独追责。难点在于,只要中间隔了一层“AI自动执行”的屏障,辩解空间就非常充分;
- 适用其他罪名:退而求其次,改用非法获取计算机信息系统数据罪、破坏计算机信息系统罪或者侵犯商业秘密罪等有单位犯罪条款的罪名。
我见过不少实际案例,最终都是以“非法获取计算机信息系统数据罪”落地——因为这个罪名的犯罪对象更宽泛,不限于特定领域系统,同时单位可以成为犯罪主体,能够同时追究单位和自然人的责任。这就像你想抓一个专门在小区里偷快递的人,偷快递本身可能不构成盗窃罪,但他把快递拆开拿走里面的东西,就构成了侵占或者盗窃——换个罪名绕道走,反而走通了。
2.3 行为意图与犯罪故意的分离
标题里那句“作者论证意图可以成立”,我的理解是:在案件的法律分析报告中,作者系统性地论证了AI公司内部决策层的主观故意是可以成立的。这个论证的关键不是证明“AI想要入侵”,而是证明“人的意图通过AI系统得以延伸和实施”。
刑法理论对故意有三种层次的判断:
- 直接故意:明知自己的行为必然或可能发生危害结果,并且希望这种结果发生;
- 间接故意:明知自己的行为可能发生危害结果,并且放任这种结果发生;
- 未必故意:认识到了结果发生的可能性,但内心持“发生了也无所谓”的态度。
AI公司部署攻击型AI系统,在系统设计和训练阶段,技术人员完全能够预见该系统突破边界、获取超出授权数据的高度可能性,却仍然将系统部署在生产环境中并赋予其自主决策权限——这里面的故意属性,完全可以归入至少“间接故意”的范畴。
我举个例子:某AI安全公司开发了一款能自动识别并绕过WAF(Web应用防火墙)的测试软件,售卖给多家企业做安全演练。有一次,某客户在演练过程中没有严格限定测试目标IP范围,导致这款软件自动扫描并突破了该客户第三方合作商的系统。这个时候,开发公司辩称软件行为不受控、属于技术局限性,但在刑事审查上,完全可以论证开发者在设计该绕过功能时,就已经预见并接受了这种越界风险——这就是间接故意。
3. 作者论证的逻辑框架与理论依托
3.1 论证的三个递进层次
在分析这类案件时,有一套比较成熟的论证逻辑框架,我给它归纳成三个递进层次:
第一层:技术行为的客观归因。先证明侵入行为确实是这家公司的AI系统实施的。这一步相对容易,通过系统日志、IP地址、自动化指纹特征、数据回传通道等技术证据就能完成;
第二层:主观意图的主观归责。这一步最难,需要从AI系统的训练目标、策略设计、部署环境抽丝剥茧。如果攻击型AI的训练语料中包含了“突破边界”“绕过认证”“隐藏痕迹”等对抗性内容,并且在生产环境部署时没有设置充分的目标范围限制,那么可以论证系统设计者从一开始就存在概括性的攻击意图;
第三层:组织决策的链条归责。最后要把AI的行为回归到组织决策层面。谁批准的算法方案?谁签署的测试授权?谁在技术评审会上拍板通过了“可以突破客户生产环境”的测试边界?这些材料构成了“单位决策”的证据链,也是后续追究管理责任的关键。
3.2 刑法教义学上的几个支撑理论
从刑法理论武器库中,作者可以调用的弹药非常丰富:
- 间接正犯理论:把AI系统比作“没有意志的工具”,真正利用AI系统实施犯罪的人,应对AI的行为后果承担正犯责任。就像利用不知情的快递员运输毒品,利用者才是真正的正犯;
- 组织控制理论:企业建立了一套AI系统运营控制体系,对AI的决策边界进行了设定、监控和调整,这种控制关系的存在本身就证明企业对AI行为后果存在概括认知;
- 监督过失理论:AI系统在运营过程中出现了明显的越权行为,但公司管理层发现了却没有及时介入制止,而是在系统记录中选择了默许和纵容,这种不作为与最终入侵结果之间存在因果关系。
我在自己的法律分析实践中发现,三个理论里最好用的是第三个——监督过失。为什么?因为它对主观故意的证明要求最低,只需要证明“明知有风险却不作为”,而不需要证明“积极追求入侵结果”。很多案件是在AI系统已经触发入侵警报、安全人员明确向主管报告过风险之后,主管仍然不叫停,继续让系统跑了一段时间——这个时间窗口就是最容易追责的突破口。
3.3 论证意图成立的边界条件
当然,“意图可以成立”不等于“一切案件都可以成立”。我在大量案例分析中发现,能不能论证意图成立,取决于四个核心条件:
| 条件 | 说明 | 缺乏时的影响 |
|---|---|---|
| 证据程度 | 系统部署日志、训练策略、测试授权书、内部安全评审记录等是否完整 | 无法构建管理层知情链条 |
| 意志公示 | 内部是否留存有要求“最小化授权范围”“禁止突破生产环境”等明示规则 | 缺乏反向证明材料则不利辩护 |
| 预见程度 | 系统是否存在与入侵行为特征高度相关的训练数据或策略奖励信号 | 难以建立间接故意 |
| 犯意联络 | 系统运营人员是否有过与入侵目标直接相关的指令或沟通记录 | 难以建立共同犯罪关系 |
这套标准其实可以提炼为一个更通俗的表达:如果你能在证据中看到“有人知道会出事、有人本来能阻止、有人选择了不阻止”,那么主观故意的论证空间就非常大了。
4. 关键争议点与司法实践的现实路径
4.1 单位意志与个人故意之间的举证岔路
反复研究这类案件后,我注意到一个非常有意思的矛盾:单位意志和个人故意之间的证据指向往往南辕北辙。
为什么?因为一个AI系统从立项、开发、训练、测试、部署到运营,中间经过的部门和人员太多了。法务部审过合同,安全部做过测试,产品部写过需求文档,运维部配过服务器,但没有任何一个人在系统部署日志上明确签过“同意入侵客户系统”的意见。团队中选择性的模糊处理,在这里不是避责,而是真的没有谁觉得自己“批准了入侵”。但这种“无人批准”恰恰是起诉的最大障碍。
我在分析中看到过这样一个细节:某AI安全公司在内部项目管理平台上有一个需求叫“增强对客户环境边界的检测穿透能力”,产品经理、研发负责人、安全负责人都在需求评审会上签了字。事后检察官在调取这个需求单时,发现描述里的“穿透”两个字被打了引号,让人无法确认它指的是合法的风险探测,还是越权攻击。这种带有强烈模糊性的内部材料,在法庭上往往沦为控辩双方各说各话的战场。
4.2 从非法侵入罪切换至数据类罪名的现实策略
那么,检察官在实践中一般怎么破局?据我观察,大多数案件最后不会直接用非法侵入计算机信息系统罪起诉,而是按以下优先级选择罪名:
- 非法获取计算机信息系统数据罪:最常用,单位可以构成主体,取证门槛相对适中,判罚力度也够(最高七年);
- 非法控制计算机信息系统罪:如果AI系统在入侵后还持续驻留目标环境并定期回传数据,这个罪名更为贴合;
- 侵犯商业秘密罪:如果入侵获取的数据中包含竞争对手的核心算法或商业信息,通常会叠加这个罪名。
这套罪名组合拳的实战优势非常明显。它成功绕开了“侵入特定领域系统”这个狭隘要件,也解决了单位主体适格问题,还降低了证明主观故意的难度——只要证明系统获取了数据且公司从中受益,结合“明知数据来源不正”的认识因素,故意要件的证明目标基本可以达到。
4.3 典型刑事风险敞口清单
结合我实际处理过的各类案件,把AI公司最容易踩进刑事风险敞口的行为列个清单,大家对照自查:
- 安全研究团队越权访问客户生产环境,且未做目标范围限制,甚至刻意绕开了日志监控;
- 爬虫系统绕过目标网站的访问控制规则(包括robots协议、IP封禁、验证码识别)抓取数据,且数据量达到情节严重标准;
- 以“对抗性测试”为名,对外部系统发起真实的漏洞扫描和渗透攻击,无授权依据;
- AI模型训练数据中混入了未经授权获取的第三方用户个人信息,且样本数量巨大;
- 对外销售自动化攻击工具,未校验购买方资质,未限制使用场景;
- 内部安全人员发现AI系统存在越界行为后隐忍不报、继续营运以保持模型竞争力。
以上任何一条,只要在证据上落了实锤,刑事追责就是大概率事件。
5. 我对于这类案件裁判逻辑的几点思考
5.1 技术证据与法律逻辑的镜像对应
在大量的案件复盘里,我总结了一条规律:技术和法律本质上是在描述同一件事,只是使用不同的语言。
技术日志里的“越权访问”,在法律语言里叫“侵入”;模型训练中的“对抗样本生成器”,在法律语言里叫“犯罪工具”;系统自动化的“节点横向移动”,在法律语言里叫“破坏计算机信息系统”。“意图”这个东西并不玄妙,它藏在系统的策略设计里——当你给AI设定的奖励函数是“最大化绕过验证率”时,意图就已经写在代码里了。
我在处理某模拟项目X的证据梳理时,有个特别深刻的体会:AI系统的“意图”可以从三个方面取证:
- 训练阶段的标签数据:如果训练集里大量标注了“隐藏源地址”“清洗攻击指纹”等样本,系统学到的策略模式就带有明确的攻击指向;
- 部署阶段的参数配置:如果生产环境的授权范围参数设置为“无限制”,或者白名单为空,并且没有额外的熔断机制,那么在技术上已经把系统的越界行为从“异常”变为了“常态”;
- 运营阶段的日志记录:如果在系统反复触发目标系统的安全告警后,运营团队不仅没有停止任务,反而调整了扫描线程、更换了出口IP,这种响应行为本身就证明“明知”的存在。
5.2 法律应当如何回应AI时代的归责需求
有人问我,AI时代的法律会不会被技术架空?我的看法是:会短暂失衡,但不会持久失序。
刑法之所以最终能够有效约束AI公司,靠的不是修改“AI有罪”这种简单粗暴的逻辑,而是重建“人—代码—行为后果”之间可识别的责任链条。具体来说,有三个立法方向值得关注:
- 扩展单位犯罪的罪名范围:将非法侵入计算机信息系统罪明确纳入单位犯罪条款,为直接处罚AI公司扫清主体障碍;
- 明确安全研究免责的边界:在鼓励合规安全研究的同时,对未授权渗透测试行为划定清晰红线,让创新与合规各得其所;
- 设立AI安全审计的强制标准:要求AI企业在高风险算法部署前进行安全影响评估,并保留完整审计日志,从源头上为后续追责提供制度保障。
5.3 实操层面给从业者的建议
在文章最后,我想以一线实务者的角度,给AI行业的法务、安全与合规人员几点直接可操作的建议:
- 内部Project文档一定要写清楚授权边界:在需求文档里明确“本系统仅授权对指定的测试环境执行安全验证”,并在系统配置参数中固化该边界,删除条件限制前必须走变更审批流程;
- 日志留存策略要有法律意识:系统执行日志不仅用于技术排障,更是法律抗辩的最核心证据,建议全量留存至少三年,且不得允许普通员工单独删除或篡改;
- 内部安全告警响应流程必须闭环:一旦系统触发外部安全告警,应由专人评估并留痕,如果评估结论是“存在越权风险”,就必须停止操作并上报合规部门;
- 模型训练数据的来源要建立合规台账:逐条记录训练数据的采集渠道、授权证明、脱敏处理情况,这类台账在合规审查和刑事调查中都是最直接的无罪或者罪轻证据。
我个人在实际办案中最深刻的体会是:AI公司的刑事风险,从来不是从“某个程序员敲了几行攻击代码”开始的,而是从“公司决策层对风险选择了睁一只眼闭一只眼”那一刻就开始累积了。法律确实还没有完全跟上AI的技术步伐,但只要人和组织之间存在决策链条,刑法就有足够的力量穿透技术外壳,触碰到背后真实的责任主体。技术可以自动化,责任不能自动化。