上周五晚上,我被拉进了一场跨学科讨论会,主题是“是否该给人工智能颁发‘类主体’合法身份证”。会议室里坐着一帮平时不太碰头的家伙:搞法哲学的一位研究者,做算法审计的工程师,搞计算机伦理的博士生,还有我这种常年混在一线做AI产品的人。原以为会是一场温和的学术漫谈,结果从第一句话开始就呛了起来——有人坚持“AI只是工具,连狗都不如,凭什么谈身份”,有人反驳“法人都能拟制出独立人格,AI为什么不可以”。三小时后,大家并没有达成共识,但每个人都若有所思。我回家之后把讨论纪要翻来覆去看了几遍,越想越觉得这个问题不虚。
它看起来是个抽象的法哲学问题,实际上正在变成悬在每一个AI应用头顶上的现实问题:自动驾驶出了事故,算谁的?AI生成的图片被商用,版权归谁?医疗辅助系统给错了建议,医院、厂商、医生,谁担责?这些问题背后,全都在追问同一个东西——人工智能在法律和伦理意义上到底“是什么身份”。如果身份悬空,责任就会悬空;责任悬空,最后落到实处的不是抽象的制度危机,而是具体的赔偿、判罚、封禁和口碑崩塌。
所以这篇内容不是要替哪个学派站台,而是想把这次讨论中我认为最有价值的几个交锋点原原本本拆开来,说说“类主体”为什么现在被反复提起,它跟法律上已有的“自然人”“法人”是什么关系,以及最关键的——如果真的要给AI发一张“合法身份证”,在技术上、制度上、产品设计上我们这些干活的人能怎么配合。无论你是做算法的、做产品的、做合规的,还是单纯对AI伦理感点兴趣,这篇文章都适合往下看。
1. 跨学科聊AI,吵的到底是什么
1.1 “类主体”不是“人”,而是法律舞台上的一张临时座椅
先说清楚一个最容易混乱的词语:“类主体”。很多人一听“AI类主体”,第一反应是“要给AI发户口、当人看”,立刻激动起来。但在我看来,“类主体”这个说法,核心不在“人”,而在“类”。它试图表达的是:AI不是自然意义上的“人”,但它在某些活动场景里承担了一些类似人的功能——独立判断、自动决策、产生结果——这会触发法律规则的使用条件。如果完全把它当作一把锤子,很多现象解释不了;如果完全把它当成一个“人”,又会滑向科幻片里那种失控想象。
法律体系里其实有一个现成的参照物:法人。我接触过不少非法律背景的人,听到“法人”第一反应是“法定代表人”,其实两者完全不同。法人(比如某家公司)不是生物学意义上的人,它不能吃喝、没有情绪,但法律说:在缔结合同、持有财产、承担债务、提起诉讼这些领域,公司可以像一个“人”那样活动。这不是出于什么神秘主义的认定,而是因为——如果公司只是几个自然人的简单集合,那么资产的归属、债务的边界、谁可以代表公司签合同,都将变得一团混沌。为了交易秩序的稳定,法律才创造出了“法人”这个拟制人格。
所以回到AI:当一台自动驾驶汽车在公共道路上行驶,它已经不是在执行人类驾驶员“这一秒踩刹车”这种级别上的指令,而是在一个有限范围内自主地感知、判断和行动。换句话说,它参与社会活动的方式,已经越来越像一个“行为主体”,而不是一把纯粹的机械工具。那么问题来了:法律到底要不要为它准备一个概念上的“座椅”?这个座椅不是普通人坐的那种,更像是舞台上备用的那把——AI想真正成为法律关系的主角,还远远不够格,但在某些特定环节,我们必须先想好它“如果出错,责任落到哪里”的框架。
1.2 三个学科各自问的不同问题
跨学科讨论容易鸡同鸭讲,是因为各学科关注的根本不是同一个问题。法学最关心的是:主体的资格如何认定、行为的效力如何判断、责任如何分配。计算机学科关心的是:系统在什么输入条件下、基于什么数据、经过什么算法,输出什么结果,以及这个结果是否可复现、可审计。哲学则跑去问:一个主体要成为道德或法律责任意义上的主体,是否必须具备“意向性”“自我意识”或者“理解规则的能力”——AI目前在这些属性上可以说全面缺席。
我拿这张表给当时在场的人做了一个对照:
| 关注角度 | 核心提问 | 典型结论倾向 |
|---|---|---|
| 法学 | AI做出行为后,权利义务如何配置 | 倾向于“功能性拟制”,不关心AI本身是否觉醒,只看规则效果 |
| 计算机/工程 | 系统行为是否有边界、可预测、可追溯 | 关心可解释性、日志留痕、模型可审计性 |
| 哲学/伦理 | AI是否有资格成为“主体”,还是仅作为工具 | 分歧极大,从“强烈反对”到“有条件支持”都有 |
用生活化的类比来说:法学家像城市规划师,他不关心开进路口的那辆车的“自我意识”,他只关心红绿灯规则、责任保险和赔偿路径是否能让交通继续运转。计算机工程师像修车师傅,他在意的是发动机参数、传感器链路和是否留有行车记录。哲学家则像那个在路边盯着车看的行人,不断地问:这辆车知道自己在做什么吗?它是在“驾驶”,还是仅仅在“运动”?
这三个问题谁更根本?没有人能一锤定音。但我个人倾向于一个相对务实的判断:在当前阶段,与其争论AI有没有“觉醒”,不如承认它是一种新型的“法律行为中介”——介于工具和主体之间。这也正是“类主体”这个说法在跨学科讨论里能存续下去的原因:它不是一个确定的答案,而是一个大家都在试图用各自框架去填充的概念空间。
2. 为什么要在这个时间点给AI讨论“合法身份证”
2.1 AI开始“做事”,责任却找不到人
早些年,AI出问题,大家还能简单归因于“程序员写的代码有Bug”。但现在情况变了,基于深度学习的系统在部署之后,行为并非每一行都由人类直接编写。它从海量数据里学出规律,面对新的输入,输出连构建它的工程师也无法百分百预测的结果。这就产生了一个经典的责任困境:某个结果造成了损失,但没有任何自然人具备“完整的过错心理”或者“清晰的因果控制力”来背这个锅。
举一个已经被讨论过多次的场景:某自动驾驶测试车辆在夜间行驶时,遇到一个少见的路况组合——路侧临时摆放的锥桶被风吹到了车道边缘,车认为前方有障碍物,紧急变线,却导致后方来车避让不及发生剐蹭。交警到场后要定责:是车厂的责任?是测试运营方的责任?是车辆所有人的责任?还是那个“算法模型”自身的责任?现行规则下,只能把这些“非人”的决策力映射回几个自然人或法人头上。但如果AI的行为模式越来越复杂、在多个环节上都有自动化参与,这种映射就越来越像“抓阄”——运气好抓到一家能赔得起的公司,事情了结;运气不好,受害者就可能陷入漫长的扯皮。
这类问题不光出现在自动驾驶。AI炒股建议导致用户亏损,AI生成内容涉嫌侵权,AI快筛简历导致歧视性拒录,AI客服误导用户产生损失——这些案例里,真正的决策者是一套复杂系统,而系统背后的开发者、部署者、数据提供者、运营者都只是“部分原因”。法律上有一个词叫“多因一果”,当原因链条分散到多个主体时,责任分配就必须另找抓手。“类主体”这个概念,恰恰就是在这种压力下被推上讨论桌的:与其说它在为AI辩护,不如说它是在为“责任问题没着落”这件事找一个制度出口。
2.2 从工具到代理人:AI在决策链里的位置悄悄变化
为什么过去几百年里,法律不需要讨论“织布机的身份”,而现在却要讨论“AI的身份”?根本原因是AI在决策链里的位置变了。一台织布机,哪怕再复杂,它的动作严格由操作者直接决定;它不自己判断“今天织哪种花纹更符合市场需求”。而现代AI系统在不少场景里,实际上已经被授予了一种“有限自治权”——它在给定边界内,可以自行决定怎么处理任务。
我们用自动驾驶的分级就能看得很清楚:L1/L2级别,辅助驾驶系统像是一个高级工具箱,驾驶人随时介入,责任比较清晰;到了L3/L4级别,系统在特定条件下可以自主完成启停、变道、超车,人已经不在即时控制回路里了。这时候,车“在干什么”,已经不能简单地翻译成“人在干什么”。同样的情况也出现在智能客服、自动写作工具、批量图像生成器中:使用者只给出一个大致意图,AI自己拆解步骤、调用知识、生成结果。
这种“代理人化”改变了责任规则的假设前提。传统法律默认:行为的背后总是有一个可以识别意图的人。现在,行为的背后可能是一层层模型权重和一套策略逻辑,没有任何一个“人”在毫秒级时刻真正意图过这个具体动作。于是就有了各种补偿机制的讨论:强制保险、专项赔偿基金、算法审计、留痕追溯。你会发现,这些方案的核心思路并不是去找一个“真实意图”,而是构造一个可用的责任承接者——这正是“合法身份证”讨论的实用意义所在。
2.3 一次版权争议给我的直观冲击
讨论会中场休息时,做算法审计的工程师给我们讲了一个他实际碰到的纠纷:某家内容公司用生成式模型批量产出插画,其中一张与某位自由画师的商业委托作品在构图、色彩分布和关键元素上高度相似,画师主张侵权,平台说是“模型自主生成、模型开发者并无侵权意图”,开发者说“训练数据来自公开网络,模型行为不受控”,三方僵在。最后只能按“平台接到通知后有没有及时下架”来兜底,但画师很不服气,觉得自己的权益被一个“黑盒”给消化掉了。
这个案例对我的冲击在于:它让我意识到,“作者”这个概念正被AI系统悄悄肢解。在传统版权框架里,作者是创作作品的自然人,作品体现作者的独创性选择。生成式AI确实在字面上参与了“选择”,但它的选择来自统计规律,而不是创作意图。这导致两个阵营各说各话:一边认为AI只是画笔,用户才是作者;另一边认为AI已经在很大程度上替代了人类在画布上的组织与构思,应该被承认为合作作者。
当时那位法哲学方向的研究者说了一句让我印象很深的话:版权制度不是为了奖励“创作时的灵感”,而是为了给“创作行为的价值”找一个可交易的归属者。谁需要吃饭、谁需要被激励,谁就应该被认定为作者。机器人不需要吃饭,因此它不必成为版权法上的作者。这话未必能让所有人满意,但它提供了一个非常“法律式”的思路:法律身份不是对世界真相的镜像描述,而是一种激励和责任分配的装置。给AI发“身份证”与否,其实也是在问:我们需要这个装置触发什么样的效果?
3. 如果真发“类主体”身份证,技术、法规与产品怎么落地
3.1 三种候选身份模型:工具、代理、联合主体
既然要谈落地,就不能停留在哲学口嗨层面。我梳理了当前跨学科讨论里比较有代表性的三种“身份模型”,它们基本覆盖了实务中可能的处理方式:
| 模型 | 核心设计 | 权利/义务侧重 | 最适合的场景 |
|---|---|---|---|
| 纯工具模型 | AI像锤子、电脑,行为完全归属于使用者/运营者 | 使用者对输出负责,AI无独立地位 | 通用Office助手、内容生成辅助 |
| 有限代理模型 | AI被视作使用者的“电子代理人”,在授权范围内行为 | 授权人承担法律后果,但必须在系统权限边界内 | 自动驾驶、智能客服、自动交易 |
| 联合主体模型 | 在特定场景下,AI运营方与AI系统被视为一个“行动体” | 运营者承担监督义务,AI本身不拥有财产,由保险/基金兜底 | 高风险医疗辅助、司法辅助、大规模推荐系统 |
可以看到,除了“纯工具”,后两种模型已经在为“类主体”留位置。它们没有说AI是“人”,但确实说AI是一个“行为单位”。“行为单位”这个词挺关键——它可以不是自然人、不是传统法人,却能成为归责链条上的一个节点。实际上,若干国家和地区已经出现了类似“电子人”(electronic person)的提案讨论,希望给自主系统一个注册号、一个可清算的账户,但普遍争议也很大。争议焦点往往不是技术可行性,而是“你给了AI身份,是不是意味着人类可以借此甩锅”。
我自己看下来,比较有操作性的务实路径是“有限代理模型+R风险隔离机制”:对每个部署的AI系统,登记一份“身份档案”,明确它的能力边界、授权范围、运营主体和人类监督节点;同时,通过强制保险和专项基金,将AI行为可能产生的损害风险社会化分摊。这样AI没有“灵魂”,但有了“户口”。户口的实质不是赋予它权利,而是让每个跟它打交道的人知道,出了事该找谁。
3.2 身份证上写什么:技术要素一栏怎么填
如果真的要给AI发“合法身份证”,我们这些搞技术的人最该操心的是——“身份档案”里到底填什么字段。一张自然人身份证上写的是姓名、性别、出生日期;一张AI的“类主体身份证”上,我认为最少要有以下几组信息:
一是系统身份信息。包括模型名称、版本号、基础框架、训练数据来源及数据授权情况、模型结构参数量。这些信息解决的是“你是谁”的问题。现在业界已经有Model Card(模型卡)的实践,一张规格化文档把模型的用途、局限、评估结果列清楚,这就是AI身份档案的技术雏形。二要载明能力与权限边界。系统能做什么、不能做什么、在什么条件下会自动降级或退出、哪些操作必须由人类确认。这就相当于身份证上的“户籍地址”,限定它在什么范围里活动。三是责任归属信息。运营方名称、部署主体、算法安全负责人、外部审计机构,以及保险单号。这部分是“出了事找谁”的索引。
当时做算法审计的工程师补充了一点:身份档案不能是一张贴在墙上的静态说明,它必须跟系统的运行日志关联起来。换句话说,AI的“身份”不只在注册表里,更在它的每一次行为轨迹里。就像黑匣子要记录飞行数据一样,AI系统也需要记录决策输入、关键置信度、触发规则、人工接管时间点。一旦发生争议,检索身份档案和行为日志就能快速还原当时“谁在什么权限下做了什么”。这套体系的工程量很大,但技术上完全可行,目前在不少大模型服务商内部的审计框架里已经能看到雏形。
3.3 实际执行路径:备案登记、保险基金与人类监督员
纸上谈兵容易,落到体制内其实逃不开几条具体路径,我把它粗略分为三个层面。
第一个层面是“准入”。对高风险用途的AI系统,实行登记或备案管理。登记的内容除了我在上一节说的那些身份字段,还应包含用途申明和风险评估报告。比如你的系统用于医疗辅助诊断,就需要额外提供临床试验数据、误诊率分析和应急预案;用于自动招聘,就要提供公平性测试和偏见审计结果。这种做法本质上是把“AI系统的身份资格”与实际部署场景绑定,而不是搞一刀切。第二个层面是“运营”。建立保险和赔偿基金机制。对于有自主决策能力的系统,强制运营者购买相应额度的责任险,或者按业务规模缴纳风险准备金,专门用于处理AI行为造成的损害赔偿。这个做法的好处是:不需要先论证“AI有没有过错”,就可以快速赔付受害者,再向运营者追责,于情于理都更顺畅。可以类比交强险的思路:先把受害者的保障底线兜住,再去展开复杂的责任划分。
第三个层面是“监督”。给每个高风险AI系统绑定一个“人类监督节点”。这个节点可以是具体的人(如某产品负责人或安全官),也可以是混合审查机制(自动化监测+人工抽检)。监督者的职责不是干预每次AI决策,而是在系统触发特定条件时介入复核,并定期抽查系统行为是否符合预期。这也是目前很多企业在做的“人在回路”(Human-in-the-loop)机制。“类主体”真的落地之后,监督者的签名和操作记录,将成为这个AI系统“活动档案”里不可或缺的组成部分,代替传统意义上“法人代表”的位置。
4. 这些讨论对开发者、运营者和普通用户意味着什么
4.1 产品设计里的“主体边界”清单
很多开发者觉得,AI法律身份讨论离自己很远,其实只要你的产品里有AI在自主生成内容、自动做决定,你就已经在“类主体”的射程范围内了。我自己参与过的几个项目,后来都会在需求阶段额外过一遍“主体边界”检查清单,问题大致如下:
- 用户是否清楚知道当前交互对象是AI还是人?
- 系统是否在用户授权范围内活动,有没有越权可能?
- 系统输出的关键结果能否追溯到具体模型版本和输入参数?
- 哪些场景必须由人类审批,系统能否在边界处自动让位?
- 发生争议后,是否能在48小时内调出可追溯的运行日志?
- 系统出错时,责任方的联系信息是否对外公开?
这些问题看似简单,落地起来却需要产品、算法、法务、客服等多个角色配合。比如“用户是否清楚知道自己在和AI对话”,就不是简单在聊天窗口加一行小字“本服务由AI提供”,而是要结合交互流程去设计:AI在什么情况下必须主动表明身份、什么时候可以保持沉默、用户是否可以通过一句话随时转人工。这些都是最一线、最容易忽略但又跟“主体身份”直接相关的细节。
老实说,把这些问题全部做到位并不容易,尤其是在业务节奏很快的团队里,这种清单通常会被当作“后置优化”。但我建议你把其中最关键的两条——日志留痕和人工接管,从第一天就纳入架构设计,因为这两个东西后期补起来成本远高于初始阶段。AI系统的“身份感”不是靠嘴上说的,而是靠产品里随处可见的边界提醒和退出机制建立的。
4.2 我这几年的实操经验:把伦理议题变成工程需求
参与过若干次AI伦理相关的评审后,我自己最大的体会是:伦理争论如果不能翻译成工程需求,最后只会停留在会议纪要里。举一个实际例子。某团队做了一款基于大模型的生成式法律问答助手,上线前内部就对“AI是否应该在回答末尾提示‘我不是律师,请咨询专业人士’”吵了半天。主张加提示的同事认为这是必要的责任切割;反对的同事觉得提示太多影响体验。后来我们是怎么定的?我们把这个问题转化为一个“可测试的工程需求”:在用户连续追问超过三次高风险问题、或者系统置信度低于阈值时,强制在第0帧显示提示,并记录用户操作日志。这样,“提示是否出现”就变成了一个能通过自动测试验证的硬指标,而不是一个凭感觉定的文案。
另一个经验是“红绿测试”。在系统上线前,准备一组明确不能触碰的场景,比如医疗建议、投资承诺、人身安全操作指导,把它们做成红线清单(红):一旦AI输出涉及到这些风险,不管用户怎么问,都必须附上免责提示,且不能使用绝对化措辞。另一些允许AI自由发挥的场景,则做成绿线清单(绿),鼓励系统展示能力。通过这种简单粗暴的方式,把“AI主体边界”从抽象原则变成了一个质检用例集。这是目前我见过最实用的方法之一,强烈建议有产品上线压力的团队直接参考。
4.3 一个适合小团队的“AI主体责任”SOP
如果你在一个十几人的小团队,既没有法务部也没有专职合规,又恰好要上线一个AI功能,我建议你按下面这个极简SOP走一遍,不用追求大而全,但一定要把责任落点搞清楚。
第一步,列出系统中所有有AI参与的环节,哪怕只是“智能推荐”或“自动摘要”也算,画一张很简单的行为流向图。第二步,对每个环节回答三个问题:AI在这个环节里做到什么程度?如果AI输出错了,影响谁?现有监控和日志能不能还原这个错?第三步,为每个环节指定一个“人类负责人”。这个负责人不需要实时盯着每一条AI输出,但必须在系统触发异常时响应,并且定期抽检结果。第四步,明确对外沟通话术。在用户协议、产品页、客服标准回复里,把AI的角色描述清楚——是辅助工具,还是自动决策者,出了问题找谁,别等到投诉进来了才临时编说法。第五步,留出事件修复流程。复盘时不能只问“AI为什么错”,还要问“为什么人类监督节点没有更早发现”,把人的因素也纳入改进。
写完这五步,你会发现“AI类主体”的话题其实没那么玄。它不是要给AI立牌位,而是逼着每一个把AI推向真实世界的团队,先把责任拍板拍清楚。我在多个项目里用这套SOP做过自我检查,每次都会发现一两个此前完全没考虑到的责任盲区,而且基本都在一周内能补完。对于非技术背景的读者,这套思路同样适用——当你使用AI工具做关键决策时,给自己设一个“人类检查点”和“风险边界”,本质上也是同一套逻辑的微型版本。
5. 聊聊我自己的感受
那天的讨论会结束后,法哲学方向的研究者把他们组的几篇内部材料发给了我,我看完以后一直在想一个问题:我们害怕给AI“名分”,或许并不是害怕AI,而是害怕责任的边界被稀释。但反过来看,如果责任没有清晰边界,最终受伤的往往是那些缺乏谈判能力和信息透明度的普通人。任何技术制度的设计,底线都是不能让“机器自主”变成“谁都不负责”的挡箭牌。
我个人比较倾向的态度是:可以谨慎地、分场景地承认AI的“类主体”功能地位,但不轻易赋予它道德人格。技术上的“身份证”可以发,发的不是对人权的承认,而是对行为轨迹的登记、对责任去向的标定、对人类监督节点的强制绑定。AI永远不需要“获得承认”,需要的是它能被稳定地解释、预测和问责。
那次会上有人引了一句话我印象很深:“不是要给AI发身份,而是给责任找一个确定的下落。”我觉得这句话已经说完了所有。以后你再看到类似讨论,不妨把它翻译成那个朴素的问题:当一个AI系统做出了影响你生活的决定,你最好能知道——这个决定能不能被回滚、能不能被解释、该由谁为它兜底。想清楚了这些,AI有没有那张“合法身份证”,其实已经不是最重要的了。