最近我的信息流里接连刷到了三条和AI相关的消息。单独看,每一条都算不上那种“全城刷屏”的爆炸新闻,但如果把它们摆在一起,你会发现特别有意思——一条是深度学习领域的一位奠基人发表了一篇关于AI自我改进的论文,一条是一位在国际数学界非常有声望的学者公开调整了自己对AI发展节奏的判断,还有一条是一款主流AI对话产品在生成图片时直接“画”出了某位漫画家的签名,当事人已经明确表达不满并准备维权。
我之所以想专门写一篇东西来聊这三件事,是因为它们背后其实都指向同一个大问题:当AI的能力逼近某个拐点之后,这个行业真正开始较劲的地方,已经不完全是“谁更聪明”,而是“谁来定义这股力量的边界”。如果你跟我一样,既不是一线研究者也不是纯路人,只是想搞清楚AI圈目前到底在经历什么,这篇文章应该能通过三个很具体的切面,帮你把当前的局面看清楚。
1. 一篇把“AI自我进化”摆上台面的论文:RSI到底在说什么
1.1 先拆明白这个词:递归自我改进为什么让许多人不安
RSI,全称是Recursive Self-Improvement,中文一般译作“递归自我改进”。这个词听起来很绕,我可以把它拆成大白话:一个AI系统不仅能完成被布置的任务,还能反过来修改自己的算法、训练目标甚至底层代码,让自己变强,然后再用增强后的能力继续改进自己,形成循环。
这个循环真正让人不安的地方,在于它不是线性进步,而是指数级加速。打个比方:普通学习是学生每天都在学新知识;RSI则是一个学生在学到一点新东西之后,先花几分钟改进了自己的记忆力,然后以更好的记忆力去读更厚的书,读完再改进自己的思考速度……每一轮循环,都会把下一轮循环的起点抬高一大截。这种滚雪球式的自我增强一旦跑起来,留给人类介入的时间窗口会迅速缩小,而这正是相关讨论中争议最大的部分。
1.2 一位奠基人为什么选在这个时间点把它发出来
很多人看到新闻标题的第一反应是:“这是不是又要‘整活儿’了?”我看了多方评论,再结合这位研究者过去几年的公开态度,我的判断是:这篇论文更大的意义不在于给出什么颠覆性的技术方案,而在于用学术化的方式,把一个长期被当成科幻概念的话题正式带进了公共讨论的场域。
这位研究者在过去一年里已经多次表达过对AI失控的担忧,从技术路线到社会影响都说过不少重话。这次把论文发出来,等于是把“AI自我改进”这个最敏感的方向,从他的个人表态升级成了可供同行评议、可被引用的正式学术材料。潜台词其实很明确:这不只是某一个人的焦虑,而是有论证、有逻辑支撑的严肃议题。至于论文里那些模型推演和路线图,反而更像是为这个议题搭框架的辅助道具。
1.3 论文里最值得普通读者关注的三个点
我并没有逐字复现论文里的全部公式,但如果跳出来看,普通人最值得关注的是下面三件事。
第一是时间预期。论文并没有说“明天就会发生”,而是把自我改进放在一个可能需要数年才会逐渐成型的技术路线里。这是一种典型的学术式保守——它不会给你一个耸人听闻的日期,但会在逻辑上告诉你这条路径是走得通的。
第二是失控逻辑。当AI改进的是自己的代码,而不是执行某个具体任务时,人类对它的干预变得非常困难。这跟现在“给它一段提示词、看它生成什么结果”的交互模式完全不同。后者你可以随时中断,前者一旦形成闭环,外部想插进去做约束,难度会大很多。
第三是“安全阀”问题。论文承认,目前设想的限制手段——比如在改进循环里加入验证节点、限制AI可访问的代码范围——都还停留在纸面设计阶段。用大白话说就是:我们知道应该装刹车,但刹车长什么样、装在哪里、踩下去之后效果怎么样,目前都没有经过实操检验。
为了方便对比,我整理了一个表格,把当前主流大模型的能力和论文里探讨的RSI远期场景做个对照:
| 维度 | 当前主流大模型 | RSI远期场景 |
|---|---|---|
| 自我改进方式 | 依赖人工重训,模型本身不修改代码 | 模型自动调整自身算法与参数 |
| 能力增长速度 | 随算力和数据规模线性或对数增长 | 指数级滚雪球式增长 |
| 人类干预窗口 | 训练全程有监督、有人工介入 | 循环加速后干预窗口急剧收窄 |
| 可验证性 | 有基准测试、人工评价、红队测试 | 尚无公认的验证手段 |
| 现有技术基础 | 强化学习、少量的自适应配置 | 更多停留在理论推演阶段 |
这个表格不是为了制造恐慌,而是想说明一点:RSI不是已经发生的事情,而是一条大家都能看到的、可能的路径。正因为能看见路径,才有必要提前聊边界。
1.4 我读这篇论文时的真实感受
看完全文,我反而没有变得更悲观,而是觉得有一丝踏实。原因是:当这个话题从地下的、论坛式的讨论,变成正式的学术论文时,意味着有一批人愿意把它放到阳光下,接受同行质疑、批判和补全。这才是应对黑天鹅事件的正确姿势:先承认风险存在,再讨论怎么拆弹。整天把“自我进化”挂在嘴边但拿不出严谨文本,才是更值得警惕的状态。
2. 数学家的立场转变:加速与减速之争开始进入主流学界的共识圈
2.1 加速派与减速派到底在争什么
AI圈最近两年有一个绕不开的争论。加速派认为,AI技术带来的收益远大于风险,应该全力向前推进,用更多、更强的AI去解决AI自己带来的问题;减速派则认为,在没有完全搞懂安全边界之前,应该主动放慢发布节奏,给监管、伦理建设和公众适应留出时间。
过去这个争论更多发生在产业界和小部分技术社区内部。普通人能感知到的,往往是某家公司的模型又延期了,某个新版本从“大张旗鼓”变成“静悄悄”。但这次不太一样:一位在国际数学界地位极高的学者,公开转到了倾向“减速”的一侧。这个信号,让原本被认为是“圈内路线之争”的话题,进入了更广泛的学术共识圈。
2.2 为什么数学家的表态比工程师的表态更有信号意义
原因并不复杂:数学家的职业习惯就是追求严谨、量化、逻辑自洽,他们不会凭情绪做判断。当这样一个以严谨著称的人说“我们需要在AI发展速度上踩一点刹车”,基本上意味着AI安全已经不再是“只有少数担忧派在意”的议题,而是进入了不同学科背景的顶尖头脑共同关注的范围。
我尽量不带个人倾向地把两个阵营最典型的观点摆在一起:
| 争论点 | 加速派典型观点 | 减速派典型观点 |
|---|---|---|
| 风险应对方式 | 用更强的AI解决现有AI的问题 | 在能力提升之前把安全机制设计清楚 |
| 发展节奏 | 快速迭代、探索边界 | 分阶段灰度、反复审计 |
| 监管态度 | 尊重市场主体自律,少设硬约束 | 需要外部监督和统一标准 |
| 对未知的态度 | 先做出来再修正 | 先推演后果再行动 |
| 对行业的影响 | 模型发布更快、功能更多 | 发布周期变长、评测门槛提高 |
其实很多研究者处于两者之间,立场并非非黑即白。但不容忽视的是,主流讨论的基调正在从“一边倒的加速”变成“有明显张力的拔河”。
2.3 “减速”落到实处到底是什么样
很多人一听到“减速”就以为是“不发展了”,这完全是误解。按我目前看到的各种讨论,减速派的主张落在具体动作上,主要是这几件事。
第一,发布前评测维度会变多。过去主要看“能力分”,以后要变成“能力+安全+社会影响”的多维指标。第二,模型面向公众之前要经历更长的内部测试期,包括更大规模的红队攻防测试。第三,某些高风险能力,比如自主完成多步操作、伪装人类等,会被要求额外增加控制措施。
对普通用户来说,最直接的感受就是以后会看到更多的“延迟发布”“限量测试”“分级开放”。这些现象并不等于技术退步,而是行业在重新校准节奏。老实说,这种变化对大多数用户并不是坏事,毕竟没有人希望下载一个还没做过压力测试的工具来办正事。
2.4 这件事更深远的影响是“圈外人”开始卷进来了
当一个数学家愿意用对抗性思维去审视AI时,我看到的其实不是某一个学者的个人意见,而是一种风向:越来越多的“非直接利益相关者”开始主动卷入讨论。这些人不代表任何一家公司,也不靠AI吃饭,他们的判断更接近于“一个智力正常的人经过分析后得出的结论”。
我个人的看法是,这个群体的声音一旦变强,AI治理就不会永远停留在厂商自律和学术倡议层面。它正在变成更广泛的社会共识的一部分。共识这个东西平时看不见摸不着,但它会对行业产生实打实的影响——比如监管预期、投资偏好、人才流向,都在悄悄跟着变。
3. 生成图像里“多出来的签名”:AI时代署名权远比“画得像”复杂
3.1 先还原一下这次翻车事件
某个主流AI对话产品最近被一位漫画家公开点名:用户让它生成某种指定风格的插画,它生成的图像不仅还原度极高,画面上还直接出现了那位漫画家的“签名”。注意,这个签名不是用户输入的,也不是后期合成的,而是模型在生成时自己顺手“画”出来的。原作者看到之后非常不满,认为这等于让他的名字被冒用在了从未创作过的作品上。
如果从模型的角度剖析,这个现象其实并不神秘:训练数据里包含大量该漫画家的作品,模型在学习画风的同时,把画面角落里那个签名的视觉特征也一并记住了。于是生成时,签名就像水印一样被当成“风格的一部分”给输出出来了。
3.2 为什么这件事比“模仿画风”严重得多
画风相似,在法律和舆论层面还可以被讨论成“灵感借鉴”或者“风格学习”;但签名一旦出现,性质就变了。签名是个人身份的标志,它出现在一张由机器生成的画上,客观上已经构成了“假冒署名”。
如果把这个场景放到现实世界里类比一下,可能更容易理解严重性。你模仿某位书法家的笔迹写一幅字,那是“临摹”;但如果你在落款处直接写上这位书法家的名字,再拿出去展示,那就成了妥妥的伪作。AI生成图片里“多出来的签名”,恰好就处于这种尴尬的中间地带——它既不是人类主动伪造,也不是模型凭空发明,而是训练数据里一个“身份特征”被无意识复用了。
3.3 责任归属的难点:现行框架很难直接套用
现在争论最集中的部分,其实是“这件事该由谁负责”。我梳理了一下目前讨论中比较突出的责任盲区:
| 相关方 | 可能的过错 | 现实中的认定难点 |
|---|---|---|
| 模型开发方 | 训练数据包含大量未授权作品 | 爬取公开作品是否等于获得授权,还有争议 |
| 模型本身 | 复现了签名特征 | 不具备法律主体资格,无法追责 |
| 使用用户 | 仅输入了风格描述 | 没有主动伪造的意图 |
| 数据来源方 | 提供了包含签名图像的数据集 | 平台对训练用途是否负有审核义务,尚无定论 |
我个人的判断是,如果此事真的走到诉讼层面,最可能被追责的是模型开发方,理由是训练数据中包含了权利人未授权的作品。但如果严格按现行法律推演,很多环节依旧模糊,比如“模型输出究竟算复制还是演绎”这个定性,会直接影响赔偿标准。这些问题短期内很难有统一答案,但讨论本身已经很有价值。
3.4 创作者和平台现在能做什么防御动作
站在创作者的角度,我见过比较可行的方法有这么几类。
一是给自己的作品加视觉水印或数字指纹。它虽然不能阻止训练数据被抓取,但至少能在事后提供追溯线索。二是选择在公开平台发布时明确声明“禁止用于AI训练”,同时保留好原始文件的时间戳和创作过程记录。三是主动去主流AI产品里测一测,看输入自己的名字或者描述风格后能不能“召唤”出类似作品。一旦发现有冒用情况,第一时间保存生成记录并向平台投诉。
站在平台角度,短期内能落地的措施包括:在训练阶段做风格过滤,在用户请求提到在世创作者名字时给出明确提示或者直接拒绝,在生成内容里强制加入可追溯的AI标识。这些措施都不完美,但至少传递了一个信号——AI行业不能再假装生成内容是凭空冒出来的,每一张图背后都有真实的创作者付出劳动,署名权问题必须被认真对待。
4. 三条消息的共性与启示:AI行业正在从能力竞赛转入治理博弈
4.1 回看过去一年,我们关注的东西其实已经变了
往前拨一年,AI行业讨论的焦点几乎全在“能力”上:哪个模型又刷新了榜单,谁家的推理强了一截,多模态效果又炸裂了。那时候大家默认的信念是,只要把能力做出来,所谓问题都能在发展中解决。
但这三条消息让我明显感觉到,语境正在悄悄变化:一篇论文在讨论AI自我进化的边界,一位顶级学者公开要求降低发展速度,一次AI生成翻车事件让普通创作者开始主动维权。它们分别对应技术层、学者层、用户层三个维度,加起来就是一个完整的信号——AI行业的发展逻辑,正在从“谁能做得更强”转变为“谁能让大家更放心”。
4.2 对做AI产品的人意味着什么
如果你在AI公司做产品,或者正准备进入这个行业,我建议认真看看这些变化。
未来的产品竞争里,“能力分”依然重要,但不再是唯一标准。我观察到的情况是,安全测试、内容溯源、合规审查这些过去被当成“上线前走个过场”的环节,正在变成真正影响排期的关键路径。谁的模型在“保证能力的同时,还能讲清楚如何证明输出不侵权、如何证明系统不会失控”,谁才能走到最后。
这里给一个非常具体的操作建议:做任何生成类产品,从一开始就把“内容来源记录”设计进系统里。意思是,用户拿到的每一个生成结果,都应当附带可查询的记录,包括模型版本、输入提示词、输出哈希值等。这件事现在做觉得麻烦,但等到监管真正落地的那一刻,它会变成最值钱的基础设施之一。
4.3 对普通用户的建议
可能你不是从业者,只是一个日常把AI当工具用的人。那这几条新闻对你有什么影响?我觉得至少有三件事是值得去做的。
第一,学会看生成内容上的标识。现在越来越多的平台要求标记AI生成内容,看到标识不代表不能使用,但你要心里清楚来源是机器,涉及到署名、真实记录、证据材料的时候,多留个心眼。
第二,保护好自己的原创作品。如果你有写文章、画图、拍视频的习惯,最好把原始版本和创作过程记录都保存好。定期去搜一下自己的名字或者标志性风格有没有出现在AI输出里,一旦发现异常,第一时间截图存档。
第三,不要听到“减速”就急着骂。很多人把减速派等同于阻碍技术发展,但站在使用者角度讲,一个更稳妥、更安全的AI生态,对普通用户其实是受益的。真正值得警惕的是在毫无防护的情况下疯狂膨胀的能力,而不是有人在出发前先提醒大家系好安全带。
4.4 个人收尾心得
我写这篇东西的过程里,一直在想一个问题:AI的最终形态到底什么样,现在没有任何人能给出准确答案。我能确定的是,未来的技术路线不会再是一条纯粹的“加速线”,而会变成一条被各种边界条件约束的曲线。我们都需要学会在“发展”与“安全”的张力里做选择,而不是非此即彼地站队。
最后再分享一个小习惯:如果你平时有关注AI新闻,可以试着给每一条消息打两个标签——“这件事的技术含量在哪里”和“这件事对普通人的影响在哪里”。大多数消息只要从这两个角度问一遍,你会发现它们之间都是联动的,就像本文聊的三件事,表面上彼此独立,底层其实都在说同一件事:我们该怎么为一个越来越强大的工具负责。